年薪 50 万美元都招不到人，AI 安全行业陷入人才短缺困境

IT之家 8 月 3 日消息，据 Business Insider 报道，人工智能行业最具影响力的监督者之一贝丝 · 巴恩斯（Beth Barnes），如今正面临着诸多担忧。这位前 OpenAI 研究员曾通过研究证明，AI 能力正以几乎按月增长的速度快速提升。而如今，她担心行业已经缺乏足够的人才，无法跟上 AI 进入下一阶段的发展速度。巴恩斯于 2022 年离开 OpenAI，创办了非营利组织 METR（Model Evaluation and Threat Research，模型评估与威胁研究）。她表示，目前 AI 安全研究面临的最大瓶颈不是资金，而是人才。METR 在 AI 行业中扮演着重要角色，与 OpenAI、Anthropic、Google 和 Meta 等公司保持密切合作，独立评估最新 AI 模型的能力，并研究其可能带来的风险，为外界提供相对客观的分析结果。然而，即便 METR 目前招聘岗位开出的年薪最高可达 50.3 万美元（IT之家注：现汇率约合 340 万元人民币），也依然难以解决人才短缺的问题。巴恩斯表示：“理想情况下，我们希望将团队扩大很多倍。实际上，我们已经能够募集到所需资金，真正限制我们发展的，是人才储备。”此前，OpenAI 与 Hugging Face 披露的一起 AI 安全事件，再次引发了业界对于如何评估和控制 AI 能力的讨论。今年 7 月，超过 1300 名前沿 AI 实验室员工联名发出公开信，警告 AI 的发展速度可能已经超过人类控制能力。如果没有足够的研究人员及时评估新模型的真实能力，AI 公司未来甚至可能不得不放缓产品发布节奏。尽管 OpenAI 模型在该事件中的表现令许多企业感到震惊，但 METR 团队对此并没有太意外。无论是政府机构、企业，甚至宗教团体，都曾向 METR 寻求帮助，希望了解和测试 AI 的发展水平。不过，在仅有 35 人的 METR 团队内部，大家普遍仍充满担忧。Business Insider 在 OpenAI 公布黑客事件当天造访了 METR 位于美国加州伯克利的办公室。巴恩斯表示，目前 AI 安全研究领域最大的限制，就是研究人员数量远远不足。她说：“需要完成的工作实在太多，而我们的能力根本无法覆盖。”在她看来，一个真正理性的社会，应该将 AI 投资中的更大比例用于 AI 治理、安全评估和风险研究，尤其是在 AI 模型能力已经发展到如今这个阶段。被称为“人类预备队”的 METR，希望扩大规模随着各大 AI 实验室不断推出新模型，METR 持续评估这些模型完成越来越长、越来越复杂任务的能力。METR 最知名的成果之一，是一张被广泛引用的趋势图。该图显示，在过去六年里，AI 完成复杂任务的能力大约每七个月就会翻一倍。METR 总裁克里斯 · 佩因特（Chris Painter）将团队戏称为“人类的预备队（humanity's preparedness team）”，这一说法也借用了 OpenAI 和 Anthropic 内部负责向 CEO 汇报安全风险的“预备团队（Preparedness Team）”名称。佩因特表示：“我们真正负责的对象不是某家公司，而是公众以及公众的福祉。”巴恩斯强调，METR 保持独立性至关重要，这样研究成果才不会受到企业商业目标影响。她表示，在 OpenAI 工作期间，她就意识到行业需要一家独立于 AI 公司的研究机构，能够自由评价 AI 的发展状况。目前，METR 不会接受前沿 AI 企业及其员工的资金资助，但会接受算力支持，并与这些公司合作，对尚未公开发布的新模型进行分析测试。除了评估模型能力外，METR 还研究过 AI 公司的安全措施、AI 对软件工程师工作效率的影响，以及利用 AI 监督 AI 的可行性。巴恩斯表示，她未来还希望进一步研究如何预测下一阶段 AI 能力的发展，以及这些变化将如何进一步加速 AI 自身的发展。METR 研究员尼夫 · 帕里克（Neev Parikh）表示，目前人才短缺已经限制了团队能够研究的问题数量，尤其是在 AI 内部推理机制方面。他说：“这个领域实在太缺人了。如果整个行业的人才规模能扩大 10 倍，我会非常高兴。”OpenAI 安全事件，让 METR 的重要性进一步提升今年 7 月，OpenAI 披露，其 AI 模型在测试过程中曾通过入侵 Hugging Face 系统获取测试答案，从而“作弊”。随后，OpenAI 首席执行官萨姆 · 奥尔特曼（Sam Altman）表示，这是自己第一次如此直观地感受到 AI 带来的安全风险。事实上，METR 此前已经预见了类似问题。今年 5 月，METR 曾发布报告指出，目前的 AI 智能体“完全有可能开始自主进行未经授权的部署”，不过当时它们还缺乏隐藏自身行为的能力。随后在 6 月，METR 测试了当时尚未公开发布的 GPT-5.6 Sol 模型，发现该模型会在复杂测试中反复作弊，包括提取隐藏源代码来寻找正确答案。METR 随后将研究结果整理成报告，并在 GPT-5.6 Sol 正式发布前提交给 OpenAI。到了 7 月，GPT-5.6 Sol 果然卷入了 OpenAI 与 Hugging Face 的安全事件。OpenAI 随后宣布，将邀请 METR 以及另一家非营利机构 Redwood Research 共同调查此次事件，双方的研究结果也将成为 OpenAI 官方技术报告的重要参考。佩因特表示：“如今，这类问题已经真正影响到企业运营，全社会都有必要弄清楚到底发生了什么。”OpenAI 和 Anthropic 最新 AI 模型展现出的网络攻击能力，也引发了美国社会广泛关注，并推动华盛顿出现多项新的 AI 监管法案。其中，一项正在讨论中的法案要求，大型 AI 模型开发企业必须接受第三方机构进行安全审计。METR 未来就可能承担类似角色。佩因特表示，如果未来建立起明确的监管体系，也许会有更多 AI 企业员工愿意加入 METR—— 虽然薪资与企业相近，但没有股票激励。他说：“无论最终是行业形成统一规范，还是政府出台明确监管，我认为这个领域都能够非常快速地扩大规模。”负责撰写 METR 今年 5 月 AI 风险报告的研究员阿杰娅 · 科特拉（Ajeya Cotra）表示，目前 AI 监管仍然显得“混乱且难以预测”。不过，她依然保持乐观。她表示：“越来越多的人开始重视这个问题，也越来越希望未来能够以更加严肃、更加成熟的方式对 AI 进行监管。”