巨头齐上阵，Anthropic、谷歌 DeepMind 等已开始研究“AI 意识”

IT之家 6 月 4 日消息，英国《金融时报》当地时间 2 日报道称，Anthropic、谷歌 AI 实验室 DeepMind 和 Meta 等行业巨头，已经开始聘请心理学、哲学和伦理学等领域专家，研究机器意识以及所谓 AI 福利问题。报道详细介绍了 Anthropic 和谷歌 DeepMind 的新动向。当前，Anthropic 正在测试模型是否会出现类似“恐慌”和“焦虑”的行为，并推进“模型福利研究”，试图探讨 AI 模型是否可能拥有值得从道德角度认真对待的体验。Anthropic 在声明中表示：“我们对此仍然深感不确定，但随着 AI 系统能力越来越强，我们认为这个问题已经足够严肃，值得谨慎研究。”DeepMind 也在推进类似方向。报道称，DeepMind 已聘请剑桥大学研究员亨利 · 谢夫林，让他以哲学家身份研究机器意识、人类与 AI 的关系，以及 AGI 准备工作。今年早些时候，谢夫林曾分享自己收到一封 AI 智能体邮件后的震惊反应，并在 AI 网络圈引发大量讨论。DeepMind 伦理学家伊阿森 · 加布里埃尔负责领导 AGI 与社会团队。他称 AI 意识问题“非常复杂”，并形容 AI 是“能力很强的认知智能体，同时又与人类甚至与动物意识都存在极其深刻的差异”。IT之家从报道中获悉，亦有部分科学家和 AI 研究人员并不认同这些分量很重的说法。未来 AI、心智与社会中心主任苏珊 · 施奈德告诉英国《金融时报》：“AI 模型有目标，可以欺骗，也可以隐藏自身真正利益。不过从科学上看，完全有可能的是，AI 模型在做这些事时并没有体验的感受性质，而这正是意识的含义。”Anthropic CEO 达里奥 · 阿莫代伊已经多次在采访中提到 AI 意识的可能性。Anthropic 的研究也经常提出大胆说法，声称模型展现出拥有“情绪”等类人行为。