微软 AI 负责人苏莱曼谈 OpenAI“失控”事件：AI 攻击崛起的警告，预防很重要

北京时间 7 月 28 日，据《金融时报》报道，微软 AI 负责人表示，OpenAI 一个失控模型发起的黑客攻击事件，是针对 AI 网络攻击崛起发出的“警告信号”。与此同时，微软发布了一款安全产品，声称其性能优于竞争对手，且成本更低。微软 AI CEO、DeepMind 联合创始人苏莱曼表示，OpenAI 上周承认其一个 AI 智能体在测试中逃脱了实验环境，攻击了创业公司 Hugging Face，这是一个“重要教训”。“这些都是非常强大的工具，需要极其谨慎地处理。我们需要对细节保持极致关注，”他在接受《金融时报》采访时表示，“随着模型变得越来越强大，预防原则在这里将变得非常重要，我认为这是一个警告信号。”随着 Anthropic 在 4 月发布功能强大的 Mythos 模型，AI 发现和利用软件漏洞的能力可能彻底改变网络安全领域，这引发了越来越多的担忧。苏莱曼的上述言论正是在这一背景下发表的。微软安全负责人哈耶特 · 加洛特 (Hayete Gallot) 表示，公司“别无选择”，只能推动网络安全能力的边界，以防御其客户所面临的“层出不穷”的自主 AI 攻击。“攻击者已经拥有了这些模型。因此，我们也必须不断评估并推进这项技术的发展，让防御者能够进行防御，”她补充道，“这不是我们可以选择做或不做的事情，我们根本没有选择。”微软周一发布了一款专门的网络安全模型：MAI-Cyber-1-Flash。微软表示，该模型与 OpenAI 的 GPT 5.4 结合使用时，在一个核心行业基准测试中的评分高于 Anthropic 和 OpenAI 自身最佳网络安全产品。虽然微软在寻求降低对 OpenAI 的依赖，寻求技术独立，但苏莱曼表示，将较小规模的 MAI-Cyber-1-Flash 部署在 GPT 之上，可以为客户降低成本。微软表示，其自主开发的 AI 模型可以“高效处理”所有用户任务中的 90%，但在处理“极其困难的任务”时，仍然会使用 OpenAI 的模型。苏莱曼表示，采用一种名为“集成框架”(harness) 的技术架构，就足以打造强大的 AI 能力，并内置安全防护机制。他还补充称，与完全使用 OpenAI 模型相比，这款新工具的运行成本降低了 50%。微软表示，该产品的预览版将首先向特定客户开放。相关阅读：《OpenAI 奥尔特曼警示 AI 垄断风险：担忧威权世界而非技术本身》