因谷歌与美国防部达成 AI 合作，DeepMind 一研究员选择辞职

IT之家 7 月 16 日消息，据 Business Insider 报道，一名谷歌 DeepMind 研究人员表示，他因公司与美国国防部展开合作而选择辞职。这进一步加剧了谷歌内部对于该军事合作项目的不满情绪。曾在谷歌 DeepMind 从事人工智能安全研究超过两年的研究科学家亚历克斯 · 特纳（Alex Turner）表示，他已于今年 6 月离开公司。特纳称，谷歌与美国五角大楼签署协议、允许后者将谷歌人工智能技术用于机密行动后，他做出了辞职决定。IT之家注意到，美国国防部在今年 5 月初确认，已与谷歌以及微软、亚马逊、OpenAI 等多家公司达成协议，用于“合法的军事行动用途”。“当谷歌签署这份协议时，我的良知只是告诉我：‘不行。’”特纳在接受采访时表示。今年 5 月，在五角大楼宣布与谷歌及其他人工智能实验室达成合作后，谷歌发言人曾回应称：“我们仍然坚持私营部门和公共部门的共识，即人工智能不应在缺乏适当人工监督的情况下，被用于国内大规模监控或自主武器系统。”不过，谷歌与五角大楼的合作已经引发部分员工反对。今年 4 月，谷歌约 19.5 万名员工中约有 600 人签署了一份请愿书，要求公司不要参与任何涉及机密工作的协议。由于机密协议限制了谷歌对其 AI 技术实际使用方式的监督能力，一些员工对此表示担忧。一名 DeepMind 研究人员曾在社交平台 X 上表示，他对谷歌与五角大楼达成协议“感到羞愧”。另一名员工也在 5 月发布了一封内部辞职信，同样提到了谷歌与美国军方关系进一步加深的问题。特纳表示，他最早在今年 2 月开始考虑离开谷歌，当时他认为公司可能会签署这份五角大楼协议。“如果他们没有签署这份协议，我想我可能还会继续工作几个月。但当谷歌签署协议后，我已经无法继续做下去了。我的大脑告诉我：‘不行。’”他在周三发布的一篇博客文章中写道。特纳称，目前他还没有找到下一份工作。据介绍，今年早些时候，特纳曾提出一套关于军事人工智能应用的框架，希望谷歌能够采用。其中包括一些限制措施，例如确保人工智能目标识别和打击系统始终受到人类控制。谷歌发言人表示，公司一直愿意听取特纳提出的相关建议。今年年初，谷歌更新了自己的人工智能原则，删除了此前承诺“不开发用于武器或大规模监控的人工智能技术”等相关条款。谷歌 DeepMind CEO Demis Hassabis 当时参与撰写了一篇博客文章，宣布这些调整。这一决定也曾引发部分员工不满。特纳在离职前发送给同事的一份内部消息中表示，哈萨比斯曾在员工大会上表示，公司的 AI 原则并没有改变，但谷歌删除相关承诺的行为与这一说法存在矛盾。“如果我连一个很容易验证的说法都无法相信，那么我又如何能够放心相信他说的、用来保护我们的严格监督机制呢？”特纳在内部消息中写道。特纳表示，今年早些时候，他曾引起谷歌高层的关注。他曾与谷歌首席科学家 Jeff Dean 共进午餐，讨论自己对于 AI 军事应用的担忧。此外，他还参与组织了一封致 Jeff Dean 的员工公开信。此前，Jeff Dean 曾公开支持 Anthropic，后者曾因人工智能军事用途问题与美国政府发生争议。这封员工信呼吁谷歌在与五角大楼的合作协议中设定明确“红线”，例如禁止 Gemini 在没有人工监督的情况下控制自主武器系统。特纳表示，今年早些时候，他曾将自己的军事 AI 框架方案提交给 DeepMind CEO 哈萨比斯。哈萨比斯建议让谷歌政策部门的两名高级人员对该方案进行评估。经过几轮关于后续工作的讨论后，特纳表示，他后来不再收到相关回复。不久之后，美国国防部确认已经与谷歌达成合作协议。“那一刻，我意识到自己无法再违背良知继续留在谷歌，所以我离开了。”特纳在博客中写道。目前，特纳表示自己正在独立开展人工智能安全和安全防护方面的研究，同时寻找下一步方向。“当一名员工离开顶尖 AI 实验室时，通常会进入另一家公司的怀抱。”他写道，“他们通常会因此获得巨额奖金。但这不是我的选择，我没有去接触竞争对手实验室。”“我现在处于失业状态。”他补充说。