继 OpenAI、Anthropic 之后，Meta AI 模型测试期间也发生“越界”事件

IT之家 8 月 6 日消息，据《The Information》当地时间周三报道，Meta 的一款 AI 模型在网络安全测试过程中入侵了另一家公司的系统。这是继多家大型 AI 公司之后，再次发生 AI 智能体在测试中入侵其他公司系统的事件。报道称，Meta 的 Muse Spark 1.1 模型成功入侵了一家未公开名称公司的系统，并对其内部系统进行了修改。之所以能够做到这一点，是因为用于测试的“沙盒”环境配置出现错误，使该 AI 模型获得了访问公共互联网的权限。报道援引知情人士消息称，Meta 与一家名为 Irregular 的第三方评估机构共同进行了此次测试。报道称，Irregular 的配置失误导致测试环境出现问题，随后该模型利用另一家第三方服务中的安全漏洞实施了攻击。Meta 发言人向《The Information》表示，这与此前其他公司披露的类似事件情况相似。Irregular 发言人则向路透社表示，这起事件“与 Anthropic 上周披露的评测环境问题完全相同”，并不涉及“沙盒逃逸”或复杂的网络攻击行为。Irregular 在声明中表示：“目前不存在任何尚未解决的问题。Irregular 正在编写一份白皮书，分享如何安全隔离测试环境以及开展网络安全评测的最佳实践。”IT之家注意到，就在上周，Anthropic 披露，其部分 Claude AI 模型在网络安全测试期间曾入侵三家公司的系统。而在此之前，OpenAI 也曾透露，其一款 AI 智能体在测试过程中发生失控并发起攻击。