Anthropic 为 Claude 生成 AI 内容添加水印，网友吵翻了

IT之家 8 月 13 日消息，Anthropic 最近决定为 Claude 的输出添加水印，也就是在聊天机器人生成的编辑文本中植入不可见代码，以标记相关内容由人工智能生成。据IT之家了解，Anthropic 推出这项新政策，是为了满足欧盟《人工智能法案》（EU AI Act）的《透明度规范》要求。该规范如今要求科技公司对人工智能生成或编辑的内容进行标记，而且这种标记必须能够被计算机系统识别。不过，欧洲监管机构可能对此感到满意，一些 AI 用户却明显不太高兴。在 Reddit 上不难看到用户逐渐积累的不满情绪，不过，网站上的其他用户并不完全认同这些观点。其中一篇比较激烈的帖子来自一名叫 visionode 的用户，而这个账号创建至今还不到三周。visionode 认为，这套新的水印系统是一场严苛的阴谋，目的是让全世界无辜的聊天机器人用户成为受害者。visionode 的核心观点似乎是，熟悉 Claude 的用户可以通过改写内容，或者借助其他 AI 服务对 Claude 的输出进行处理，从而隐藏自己使用 AI 的痕迹；但普通 Claude 用户就没那么幸运了。“谁会被抓到？就是你。那个用 Claude 帮忙重新组织一段文字的学生；那个让 AI 总结一份 200 页采访记录的记者；那个遇到创作瓶颈、让 AI 提供同义词的作家。这些人完成操作后，额头上都会留下一个数字文身。”这些例子其实并不算恰当，记者让 AI 总结一份 200 页的采访记录，并不会因为总结内容带有水印而受到影响，除非他把 AI 的总结原封不动地复制粘贴进自己的文章。同样，学生让 Claude “重新组织一段文字”之后，如果直接把 Claude 生成的内容复制粘贴进论文，这种做法也同样不符合学术伦理。其他 Reddit 用户也并没有特别支持这名发帖者的愤怒。一名用户只是评论道：“看看这家伙。”另一名用户则让原帖作者“深呼吸一下”。visionode 并不是唯一一个抱怨的人。另一名不满的用户将这些水印称为“不道德”和“令人恶心”，并认为自己在使用 Claude 的过程中才完成了绝大部分工作。在他们看来，聊天机器人不过是一个帮助自己完成艰苦工作的“工具”。“我提供了指令、背景信息、做出的决定以及无数次修改，Claude 只是工具。如果 Claude 开始给它生成的代码或其他任何内容加水印，那它到底是在为自己邀什么功？”这名用户问道。不过，其他用户再次对这名批评者展开了反驳。“它并没有在邀功，”一名用户回应道，“这是为了能够识别 AI 生成的内容，因为 AI 生成内容在各种场景下都可能带来风险。”另一名用户则调侃道：“兄弟，吐槽 Claude 都不会，还得让 Claude 帮你写。”一些批评者没有采用“受害者”叙事，而是从更细致的角度，对 Anthropic 的新政策提出了质疑。例如，一名用户认为，给一款本身就是通过大量吸收他人作品训练出来的 AI 所生成的内容加水印，本身就存在一种普遍的双重标准。“我认为这是一个非常阴险的发展方向，”这名用户说，“我不用 Claude 写任何东西，但考虑到有多少前沿 AI 模型是通过获取他人的作品作为训练数据的，让 AI 给你的作品加水印，这件事本身就具有一种令人恐惧的讽刺意味。”不过总体而言，用户似乎还是倾向于支持这种水印机制，认为这是追踪算法生成内容的一种合理方式。“根本没有任何充分理由可以解释为什么这不是一件好事，”另一篇讨论中的一名用户表示，“唯一不希望出现这种机制的理由，就是你想对别人撒谎。”