Anthropic 将为 Claude 生成文本加入隐形水印，防范 AI 内容冒充原创

IT之家 8 月 11 日消息，以后想让 Claude 从小说到作业都充当“代笔”，恐怕要难得多了。Anthropic 当地时间周一宣布，新版 Claude 模型将在 AI 生成的文本中直接嵌入一种“无法察觉的水印”。Anthropic 表示，这种水印不会改变文本的含义或可读性，即使用户复制、粘贴文本，水印也会保留，并且“经过部分编辑后仍可能存在”。所谓水印，是指嵌入照片或数字文档中的淡色图案或文字，通常用于证明作品归属，并防止内容被复制或盗用。Anthropic 表示，此举是其根据欧盟《人工智能法案》进一步提高透明度承诺的一部分。8 月 2 日或之后发布的新 Claude 模型从上线之日起就将支持这一标记功能，Anthropic 目前也在努力为旧版模型加入该功能。水印将适用于全球范围内由 Claude 生成的内容，包括通过云服务商使用 Claude 时产生的内容。Anthropic 还计划向第三方提供检测这些水印的工具。AI 文本水印技术可能成为出版行业的一个重要转折点。近年来，出版业一直在努力应对 AI 生成内容带来的挑战。上个月，一名图书经纪人因有人质疑犯罪小说《Call Me, I'll Hide the Body》的作者可能使用了 AI，最终撤回了对这本热门小说的代理支持。这本书此前曾吸引 14 家出版社竞标版权，并已经完成交易，随后经纪人才对此事表示道歉。作者 Jerry Falade 否认使用 AI 创作这本小说。今年早些时候，哈切特出版社（Hachette）也因《Shy Girl》被指控存在 AI 生成内容而撤下了作家 Mia Ballard 的这部恐怖小说。Ballard 向《纽约时报》表示，她没有使用 AI 创作这本书，并称一名自由编辑在没有直接告知她的情况下加入了 AI 生成的内容。Claude 的新水印功能可能为出版社、学校和大学调查类似事件提供另一种手段，也会让人们更难将 AI 生成的文字冒充成自己的作品。不过，这项技术仍存在一些漏洞。Anthropic 表示，大幅修改、改写、翻译 Claude 生成的内容，或者将其与其他文字混合，都可能导致水印无法被检测出来。此外，即使检测到水印，也不能证明 Claude 最初就是这段文字的作者，因为仅仅使用 Claude 进行校对或翻译，也可能留下水印痕迹。IT之家注意到，Anthropic 是第二家推出文本水印技术的大型 AI 实验室。2024 年，谷歌旗下 Google DeepMind 宣布，将利用 SynthID 技术为 Gemini 应用和网页版生成的文本及视频添加水印。该公司此前已经在 2023 年推出了针对 AI 生成图片的水印功能。