美政府官员：Anthropic Mythos 模型在测试中发现政府机密系统漏洞

IT之家 6 月 24 日消息，一名美国政府官员于当地时间周二向美联社透露，在一场测试演练中，人工智能公司 Anthropic 旗下一款 AI 模型，成功检出美国高度机密、高安全等级政府计算机系统存在多处漏洞。这名要求匿名、以便谈论此事的官员表示，Anthropic 与美国多家情报机构合作，使用该公司的 Mythos 模型开展测试。模型仅耗时数小时就定位出若干系统漏洞，但这名官员同时强调，这不代表该模型能在同等时间内利用这些漏洞发起攻击。该官员称，本次测试隶属于 Anthropic 推出的 Project Glasswing。该项目联合各大科技巨头与多家企业，初衷是保护全球关键软件系统，规避 Mythos 模型一旦被滥用，可能给公共安全、国家安全与经济带来的严重破坏性后果。弗吉尼亚州民主党联邦参议员马克 · 沃纳在 6 月 11 日参议院银行、住房与城市事务委员会听证会上简要提及了此次测试。沃纳称：“这款工具仅用数小时，就几乎攻破了我们的全部机密系统，而非耗费数周。”他表示该信息来自美国国家安全局兼美国网络司令部最高负责人乔舒亚 · 拉德上将。IT之家注意到，尽管近期 Anthropic 与美国政府机构合作开展漏洞检测，但这家加州企业与特朗普政府之间的矛盾持续加剧。Anthropic 对美军使用其人工智能技术的方式表达担忧，而政府方面则限制了 Anthropic 多款模型的使用权限。本月早些时候，白宫发布一项指令，要求 Anthropic 禁止外籍人员使用其两款最新人工智能模型：Fable 5 与 Mythos 5。Anthropic 本月初已面向大众广泛开放 Fable 5 模型；该模型是功能更强的 Mythos 系列的精简版本，出于网络安全考量，企业对 Mythos 5 的访问权限实施严格管控。该指令下发的十天前，美国总统唐纳德 · 特朗普签署行政令，建立一套联邦政府审查框架：顶尖先进 AI 系统对外公开发布前，联邦政府可开展最长为期一个月的国家安全风险评估。行政令写明，AI 企业参与该审查流程遵循自愿原则。Anthropic 表示，为遵守政府指令，公司已关停全部客户对上述两款模型的访问权限。这家 AI 巨头称，政府担忧的潜在安全风险不足以支撑此番管控措施。一批网络安全企业高管也联名呼吁特朗普政府撤销该指令，称这项限制举措反而会让美国对手获益更多。来自 Adobe、英伟达等上百家企业的网络安全专家与行业负责人致信政府，信中写道：Anthropic 的 Mythos 系列模型确实擅长查找软件缺陷、生成可利用漏洞的攻击代码，但并非只有该模型具备这类能力。多名联名签署人表示，他们日常会使用其他基础大模型与开源模型开展安全审计、技术培训。信件指出，在美国对手网络技术飞速发展的当下，若无充分合理依据，就剥夺美国顶尖网络防御工具，此举极具风险。