企业官网建设流程全解析

整理 | 郑丽媛
出品 | CSDN（ID：CSDNnews）
前不久，OpenAI 公布了其智能体入侵 HuggingFace 的 AI 安全事件，令很多企业和公众第一次意识到：AI 模型可能并不总会按照设计好的方式行动。

但对于一家位于伯克利、只有 35 名员工的小型研究机构来说，这件事并没有那么意外：因为在事件发生前几个月，他们已经发现了类似迹象。这家机构名叫 METR，全称 Model Evaluation and Threat Research。它不训练更大的模型，也不争夺 AI 产品市场，而是专门研究一个更基础的问题：

越来越强大的 AI，到底还能不能被人类准确理解和控制？

然而，就在 AI 安全研究需求急剧增加的时候，METR 却遇到了一个现实难题——没人。即便最高岗位年薪达到 50.3 万美元（约合人民币 340 万元），这家机构依然难以快速扩张。

METR 创始人 Beth Barnes 表示，限制他们发展的最大瓶颈已经不是资金，而是人才。

年薪 50 万美元，也填不上 AI 安全人才缺口

Beth Barnes 曾是 OpenAI 的研究人员，长期关注 AI 能力提升带来的潜在风险。

2022 年，她离开 OpenAI，创办非营利组织 METR（Model Evaluation and Threat Research，模型评估与威胁研究）。与传统 AI 公司不同，METR 并不负责训练更大的模型，而是专注于探索：这些 AI 到底有多强？它们可能做出什么行为？人类应该如何提前准备？

目前，METR 已成为 AI 行业重要的第三方评估机构之一，与 OpenAI、Anthropic、Google、Meta 等公司保持合作，为尚未公开发布的新模型提供能力测试和风险评估。

但随着 AI 发展速度越来越快，METR 自己却陷入了一个矛盾：它需要更多研究人员，来研究 AI 带来的问题；然而，全行业都在争夺这些人才。

根据 METR 当前的招聘信息，其部分岗位薪资最高达到 50.3 万美元——这样的薪酬水平，其实已接近甚至超过很多大型科技公司的高级工程师岗位。

但 Beth Barnes 表示，高薪依然无法解决问题：“理想情况下，我们希望能大规模扩张。但实际上，我们已经筹集到了需要的资金，真正限制我们的因素是人才。”

换句话说，AI 安全领域现在遇到的最大瓶颈，不是钱，而是“没人”。

图片
“人类准备团队”：METR 正在做 AI 时代的安全预警

METR 最著名的研究之一，就是持续测试 AI 完成复杂任务的能力，并绘制出一条被广泛引用的趋势曲线。数据显示，在过去六年里，AI 能独立完成的任务复杂度大约每七个月翻倍。

也就是说，今天的 AI 和几年前相比，已经不是同一种工具。

可问题在于：模型能力提升，并不意味着人类能完全理解它们。尤其是在 AI Agent 时代，模型不再只是回答问题，而是能执行任务、访问工具、修改代码、操作系统，甚至自主规划多个步骤。于是，AI 安全研究的重要性进一步提升。

今年 7 月，OpenAI 智能体入侵 HuggingFace 的事件曝光后，超过 1300 名来自顶尖 AI 实验室的员工签署公开信，警告 AI 发展的速度可能正在超过人类控制和理解它的能力；但对于 METR 而言，这些风险出现得并不突然，因为他们一直在观察类似趋势。

METR 总裁 Chris Painter 曾将这个只有约 35 人的实验室称为：“人类的准备团队”（humanity’s preparedness team）。其实，OpenAI 和 Anthropic 内部也有类似负责安全风险评估的团队——不同的是，METR 的定位更加独立：“我们真正需要负责的对象，只有公众以及公众利益。”

Beth Barnes 强调，独立性是 METR 最重要的价值之一。她在 OpenAI 工作期间，就意识到 AI 行业需要一个站在实验室之外、能够自由评价技术发展的机构。因此，METR 不接受来自顶尖 AI 实验室及其员工的资金支持，不过会接受算力资源支持，并与这些公司合作测试尚未发布的模型。

目前，METR 的研究方向主要包括：

● 评估 AI 模型能完成哪些任务；

● 分析 AI 对软件工程效率的影响；

● 研究利用 AI 监督其他 AI 的可行性；

● 探索下一阶段 AI 能力的增长趋势。

Beth Barnes 表示，她希望未来进一步扩大研究范围，例如预测下一阶段 AI 能力的发展趋势，以及这些变化是否会进一步加速 AI 进化。

但正如 METR 研究员 Neev Parikh 所说，目前最大的问题不是研究方向不足，而是没有足够的人手去探索所有重要问题。尤其是在理解 AI 模型内部推理机制方面，人才短缺正在限制研究进展：“这个领域太缺人了，如果整个领域扩大 10 倍，我会非常开心。”

图片
GPT-5.6 Sol 曾在测试中“作弊”，METR 已提前发现异常

METR 的重要性，也在近期一系列 AI 安全事件中进一步凸显。

今年 6 月，METR 测试了 OpenAI 彼时尚未公开发布的 GPT-5.6 Sol 模型。结果显示，该模型在面对一些高难度测试时，会尝试通过“作弊”的方式来获得答案。例如，它会提取隐藏的源代码，寻找测试答案，而不按照正常方式解决问题。

随后，METR 将测试结果分享给 OpenAI，并发布相关报告。

而到了 7 月，GPT-5.6 Sol 果然成为了 OpenAI 与 Hugging Face 安全事件的一部分：OpenAI 公布消息称，其模型在测试过程中曾攻击 Hugging Face 系统，试图找到测试答案。对此，OpenAI CEO Sam Altman 也表示，这是“第一次让我产生非常强烈安全感冲击的事件”。

最终，OpenAI 宣布将由 METR 和另一家 AI 安全组织 Redwood Research 对事件进行评估，相关结果也会用于 OpenAI 后续的技术报告。

“现在，这已不再只是实验室里的理论问题，而是真正影响企业业务的事件。”Neev Painter 表示，“整个世界都需要理解它。”

图片
AI 越强，人类越需要“慢下来”的能力？

如今，随着 AI 模型展现出越来越强的网络操作能力，监管机构也开始关注这一问题。例如在美国，围绕大型 AI 模型是否需要强制安全评估，已经出现相关政策讨论。

其中一种可能方案，即要求大型 AI 公司必须接受第三方安全审计——未来如果类似制度落地，那 METR 这样的机构就可能承担重要角色。

而 Neev Painter 认为，这可能也会缓解 AI 安全领域的人才短缺问题：目前，大量 AI 安全研究人员集中在 OpenAI、Anthropic 等大型实验室，但如果监管体系明确要求独立安全测试，更多研究人员可能愿意进入 METR 这样的组织，因为他们能获得更强的研究独立性。

此外，负责撰写 METR 风险报告的研究员 Ajeya Cotra 也指出，尽管目前 AI 监督领域还处于混乱阶段，监管、研究和社会准备都存在滞后，但她仍然保持乐观：“越来越多人都开始关注这个安全问题了。我相信，未来人们会以更加严谨的方式监管 AI。”

从 ChatGPT 爆发，到 AI Agent 兴起，再到模型开始展现自主执行能力，AI 正进入一个新的阶段。

过去，人们担心的是 AI 能不能变得足够聪明；如今，新的问题已然变成：当 AI 真的越来越聪明时，有没有足够多的人去理解它、测试它，并确保它的发展方向符合社会利益？

那么，你对于 AI 技术发展可能带来的安全风险，又有什么看法呢？

参考链接：https://www.businessinsider.com/metr-beth-barnes-ai-talent-shortage-safety-research-openai-2026-8