xAI 罕见起诉一名 Grok 用户，因其滥用 AI 生成儿童性虐待图片、视频

IT之家 7 月 16 日消息，据路透社报道，埃隆 · 马斯克旗下 AI 初创公司 xAI 对南卡罗来纳州男子特里 · 哈伍德提出诉讼。哈伍德今年 2 月因涉嫌性剥削未成年人被捕，xAI 指控他滥用 Grok 生成儿童性虐待材料。当地时间周二，xAI 向得克萨斯州一家联邦法院提交诉状，指控哈伍德违反服务条款。AI 公司主动起诉用户涉嫌利用 AI 生成色情内容的案例，此前极为少见。诉讼提交之际，xAI 正因 Grok 的内容安全问题受到全球审视。外界指控 Grok 允许用户制作未经当事人同意的色情深度伪造内容，包括由 AI 生成、外观逼真的虚假视频。xAI 在诉状中提到，公司会暂停或终止违规账户，并向美国国家失踪与受虐儿童中心报告疑似儿童性虐待材料，以执行平台规定。“事实上，原告已在 2026 年暂停 52222 个账户，并向美国国家失踪与受虐儿童中心提交 73604 份报告，促成至少 244 人被捕。”据IT之家了解，xAI 指控哈伍德把成年人和未成年人的普通照片上传至 Grok，随后试图生成以照片人物为对象的色情深度伪造内容。哈伍德还被指制作未经成年人本人同意的色情图像。xAI 要求法院判令哈伍德支付金额尚未确定的赔偿金，并永久禁止他使用 Grok。“被告经过蓄意策划，把原告的工具变成犯罪武器，不仅给真实受害者造成深重而持久的伤害，也使原告面临重大法律风险和声誉损失。”