Anthropic 高管与美政府展开谈判，寻求解除 AI 模型 Fable 5 出口禁令

IT之家 6 月 16 日消息，多名政府官员、一名知晓谈判内情人士及一名接近该公司的消息人士向 POLITICO 网站透露，Anthropic 公司员工于当地时间周一与特朗普政府高级官员举行了面对面会谈。此前，美国联邦政府出台出口禁令，迫使这家人工智能初创企业在上周五晚间将其最新模型下架。一名白宫高级官员表示，想要拿出能解除政府上周五管控措施的解决方案，耗时大概率不止短短几天。此次禁令禁止 Anthropic 向境外用户开放其最新大模型，理由是该模型存在潜在安全漏洞。不过这名官员并未彻底关上快速解决争端的大门。“这件事主动权掌握在 Anthropic 手中。”该官员称。知情官员表示，上周末，Anthropic 联合创始人汤姆 · 布朗、美国商务部长霍华德 · 卢特尼克与国家网络总监肖恩 · 凯恩斯克罗斯开展了多轮数小时的通话，随后公司迅速派遣一批具备技术研发与安全防护专业背景的高层前往华盛顿。本文中所有接受采访的消息人士均获准匿名披露谈判细节，Anthropic 公共政策主管萨拉 · 赫克也参与了上述通话。一名熟悉会谈内容的人士透露，周一由美国商务部与美国国家网络总监办公室牵头开展的线下会议侧重技术层面，由相关工作人员主持，美国商务部人工智能标准与创新中心负责人克里斯 · 福尔亦参与其中。一名美国政府官员称，Anthropic 向政府官员做专项汇报，详细介绍了公司的网络安全防护机制，希望借此推动管控限制解除。一名接近 Anthropic 的人士表示，参会的公司代表包括：负责大模型评估与压力测试的前沿红队负责人洛根 · 格雷厄姆、公司安全防护主管戴夫 · 奥尔，以及首席安全研究员尼古拉斯 · 卡利尼。IT之家注意到，此次出口管制是特朗普政府监管人工智能行业以来采取的力度最强的一次管控升级。人工智能行业发展速度远超政府配套监管体系的建设进度，这也是白宫首次强制企业下架面向公众开放的大模型。而在此之前，美国政府与 Anthropic 已就高风险人工智能伦理管控问题爆发多轮矛盾，本次禁令只是双方最新一次冲突。自上周五晚间管控措施落地后，Anthropic 始终对外为自身安全防护体系辩护。公司在一篇官方博客文章中表示：“这些漏洞本身难度较低，我们发现市面上其他公开大模型无需特殊绕过手段，也能复现同类漏洞。”美国财政部长斯科特 · 贝森特此前在政府出台出口禁令前，与 Anthropic 首席执行官达里奥 · 阿莫代伊的沟通协调中发挥了核心作用，但上周末并未深度介入相关事宜，美国财政部也未派员出席周一的线下会谈。一名知情人士表示，美国总统指派卢特尼克牵头处理此事，加之其分管全国出口政策，因此上周末全程深度参与谈判。卢特尼克与贝森特二人本周一至周三将随同美国总统搭乘空军一号前往法国出席七国集团峰会。Anthropic 公司上周五晚间表示，本次出口管制禁止境外人员使用其最新大模型“Fable 5”，为合规经营，公司只能将该模型全面下架。POLITICO 此前曾报道，本次管控升级源于 Anthropic 与政府之间的安全分歧。Anthropic 的核心投资方亚马逊上周末向白宫反馈，称发现“Fable 5”存在安全隐患。亚马逊方面称，研究人员找到了绕过“Fable 5”安全防护围栏的方法。这款模型定位低于公司性能顶尖的“Mythos”大模型。由于“Mythos”能够比人类更快挖掘各类网络安全漏洞，Anthropic 仅向少数合作企业开放该模型使用权限。Anthropic 表示，“Fable 5”性能水准接近“Mythos”，且内置多层防护机制，可阻止用户通过指令发起网络攻击、或获取生物武器制作方法。但亚马逊将该漏洞上报白宫与美国国家安全局后，凯恩斯克罗斯、贝森特等官员随即要求 Anthropic 关停“Fable 5”对外访问通道。Anthropic 对此表示反对，辩称该安全缺陷影响有限，并非可被不法分子用于网络攻击的大规模“越狱破解漏洞”，但美国政府依旧出台出口管制，公司称自身别无选择，只能服从。上周末，近 80 名技术专家与企业首席执行官联名致信政府，呼吁撤销该出口管制。信中写道，亚马逊研究人员触发模型执行的相关操作，是所有用于编写安全代码的人工智能模型必备基础能力，不应被视作具备攻击性的有害功能。一众科技行业高管在公开信中指出，特朗普政府仓促出台的管控措施，让网络安全防御方失去优质工具、造成市场预期不稳，还会动摇美国在人工智能领域的全球领先地位，且目前并无确凿重大风险支撑这一严厉举措。本次赴政府参会的 Anthropic 员工格雷厄姆今年 4 月接受福克斯新闻采访时曾表示，公司正寻求平衡边界，既要让网络安全防御人员能够使用“Mythos”模型，同时杜绝不法分子接触该工具。格雷厄姆补充道（该采访发布于“Fable 5”上线前）：“归根结底，我们认为这类工具必须以安全的方式向全球普及，全球各方都需要借助这类工具开展网络防御工作。”部分科技从业者支持本次严苛的出口管制，认为防护机制被突破带来的风险十分严峻；但另有不少人工智能专家，甚至政府内部官员都提出，此类管控会催生高压监管环境，拖累整个行业发展。前特朗普政府人工智能政策官员迪恩 · 鲍尔在社交平台 X 上发文称：“如今人工智能行业形同持证经营，但监管要求频繁变动，且全程保密，就连政府内部人员都无法提前知晓，只能在突发事件发生时临时制定规则。”一名现任美国政府官员发出警告：本次出口争端僵持越久，越有可能形成常态化审批制度。未来人工智能企业每推出一款新模型，都必须经过政府审批，这会大幅放缓行业创新节奏，削弱美国企业对标中国的竞争优势。这名政府官员表示，如果此次出口管制不只是一次快速解除的轻微惩戒，“整个行业都会面临巨大危机”。“这意味着今后所有新模型上线都要先取得政府许可，这是一种极为糟糕的监管局面。”该官员说道。