能无限制生成“灾难”图片，谷歌地球 AI 生图功能上线不到一天就下架

IT之家 8 月 1 日消息，谷歌为 Google Earth（谷歌地球）加入 AI 图像编辑功能后，不到 24 小时便紧急下线。这一功能调用 Gemini 旗下 Nano Banana 2 图像模型，用户只需输入文字指令，便可修改谷歌地球中的地点影像。该功能上线后很快遭到滥用。AI 研究人员亨克 · 范埃斯制作了多张几可乱真的虚假卫星图像，从美墨边境的难民营到位于伊朗的核电站，都能输出结果。随后，谷歌发言人 31 日在 X 平台发布声明称：“地理空间领域的专业人员利用这项功能完成了不少实用工作，但也有人分享生成图像的截图，部分内容似乎违反了我们的政策。因此，在建立更严格的安全防护措施期间，我们将从 Google Earth 中撤下该功能。”谷歌强调，所有 AI 生成图像都带有水印，也没有进入公众能够查看的 Google Earth 地图内容。近期仓促推出 AI 功能，随后又迅速撤回的企业并不只有谷歌。据IT之家了解，Meta 于 7 月 7 日上线 Muse Image，允许用户调用成年用户公开 Instagram 账号中的图片生成 AI 图像，除非账号所有者已经主动关闭权限。功能推出不到一周，Meta 便将其撤下，并承认此次尝试“没有把握好分寸”。