欧盟 AI 透明度新规生效：企业需明确标注 AI 生成内容，违者将被重罚

IT之家 8 月 4 日消息，欧盟推出了一系列新规定，旨在帮助公众更容易识别网络上的聊天机器人和 AI 深度伪造内容。作为欧盟《人工智能法案》（AI Act）重要组成部分的新透明度要求已于 8 月 2 日正式生效，要求企业披露用户是否正在与 AI 模型互动，以及相关内容是否由 AI 生成或经过 AI 修改。这些透明度规则针对不同主体提出了不同要求，包括 AI 系统提供商（开发并销售 AI 系统的企业）和部署方（使用这些 AI 系统的平台和服务）。不过，部分企业同时属于两类主体，例如 Meta 和 SpaceXAI。对于提供商而言，他们必须设计 AI 系统，在用户与 AI 而非真人进行互动时明确提醒用户，“除非这种情况显而易见”。此外，企业还需要在 AI 生成的音频、图像、视频和文本中加入机器可读标记，使其能够被检测为人工生成或经过修改的内容。与此同时，部署方也必须对那些旨在呈现真实效果的 AI 生成或修改后的图像、音频和视频深度伪造内容进行标注。欧盟委员会在其透明度指南中表示：“生成式和交互式 AI 系统的快速发展，使人们越来越难以区分 AI 互动和 AI 生成内容，与人类创作的真实内容之间的差异。”“人们应该知道自己何时正在与 AI 互动，或者何时接触到 AI 生成的内容。这将帮助他们做出更明智的决定，调整对 AI 的信任程度和依赖方式，并避免受到错误信息或欺骗的影响。”欧盟委员会还制定了一套 AI 内容披露标签，科技平台可以根据《人工智能法案》的要求采用这些标签，并提供了具体使用场景示例。这些标签与 TikTok、Instagram 和 Facebook 等平台此前已经推出的类似标识相呼应。欧盟设计这些统一图标，是为了避免各个平台自行设计不同标签。虽然欧盟提供的示例图标并非强制使用，但欧盟委员会明确指出，其 AI 内容标注要求“并不是可选择执行的”。未能遵守这些新透明度规定的企业，可能面临最高 1500 万欧元（IT之家注：现汇率约合 1.17 亿元人民币）（约 1720 万美元（现汇率约合 1.16 亿元人民币））的罚款，或相当于全球年度营业额 3% 的处罚。对于 8 月 2 日之后推出的新 AI 系统，这些透明度规则将立即生效。而在 8 月 2 日之前已经上线的模型和服务，则享有 4 个月过渡期，必须在 12 月 2 日前完成合规调整。