AI 正在造 AI:METR 报告称 Anthropic 模型进步速度翻倍 八成加速来自 AI 本身

AI 安全研究机构 METR 经 11 周进驻 Anthropic 调查后指出,Anthropic 的模型能力进步速度约为一年前的两倍,大部分加速来自 AI 参与研发而非算力扩张;但 Anthropic 删除了公开版中大部分关键证据,引发学界对前沿实验室透明度的质疑。
AI 安全研究机构 METR 11 月 5 日公布独立评估报告:经过 11 周进驻 Anthropic 内部调查,Anthropic 的模型能力现时进步速度约为 2024 年 3 月至 2025 年 10 月期间的两倍,而大部分加速来自 AI 本身参与研发,而非算力扩张。报告同时披露,Anthropic 删除了公开版中大部分关键证据,引发学界对前沿实验室透明度的质疑。
进步速度翻倍 一年走完过去两年路
METR 的基准分析估计,自 2025 年 10 月以来,Anthropic 模型能力的进步速度约为此前的 1.9 倍(95% 置信区间为 1.5 至 2.8 倍),相当于一年内完成过去约两年的进展。研究人员称,有信心这波加速并非由训练算力扩张驱动;到 10 月时,加速的主要部分来自 AI 参与研发,且占比还在上升。METR 一名职员在文章中估算,约八成加速来自 AI,换算后约为不用 AI 时速度的 1.8 倍。内部调查显示,使用公司最强内部模型的员工自评生产力约为不用 AI 时的 12 倍,约为几个月前的两倍;有受访研究员称,从有想法到做实验的时间缩短约八成。
三款未发布模型已完成训练
报告披露,Anthropic 在 2026 年 7 月至 10 月间已完成三款未公开模型的训练(代号 Model 2、Model 3、Model 4),另有一款 2022 年的旧检查点亦未发布。METR 强调,AI 目前仍以协助人类研究员为主,而非在最重要的训练工作上自主运作;评估中途 Anthropic 更改了项目范围、排除算力核查,因此报告对算力使用没有实质结论。
公开版大幅删减 关键证据多被涂黑
METR 向 Anthropic 提交了约 100 页的完整报告,但 Anthropic 行使合约赋予的删减权,在公开版中删除了研究员认为最具信息量的大部分证据。METR 直言,这令公众只能依赖其判断,而难以独立核查结论。消息引发 AI 安全研究员担忧,认为「AI 加速自身发展」(递归式自我改进)可能比预期更近,也有人要求前沿实验室开放更深入的外部审查。Anthropic 联合创办人山姆·麦克坎德利什(Sam McCandlish)其后在 X 上辩护,称删减是刻意的,因为确切的加速因素涉及商业机密,公开等于把更快的路线图交给竞争对手,反而加剧 METR 警告的风险。Anthropic 拒绝回答 The Verge 就评估提出的问题,仅指向麦克坎德利什的帖文。
结论仍有高度不确定性
METR 强调,上述数字是高度不确定的主观估计,合理范围约为 1.3 至 3 倍,加速也可能只限于可明确衡量的任务。一名 METR 职员指出,研究结果意味 Anthropic 已跨过其《负责任扩展政策》中「AI 导致进步大幅加速」的门槛。报告并未证实安全防护已落后于进步速度,但它令「AI 研发跑得比安全工作快」的担忧更具体——这正是评估本身想回答、却因删减而无法完全回答的问题。
N環球 
💬 留言
暂时还没有留言,来抢沙发!