AI 正在造 AI:METR 報告稱 Anthropic 模型進步速度翻倍 八成加速來自 AI 本身

AI 安全研究機構 METR 經 11 週進駐 Anthropic 調查後指出,Anthropic 的模型能力進步速度約為一年前的兩倍,大部分加速來自 AI 參與研發而非算力擴張;但 Anthropic 刪除了公開版中大部分關鍵證據,引發學界對前沿實驗室透明度的質疑。
AI 安全研究機構 METR 11 月 5 日公布獨立評估報告:經過 11 週進駐 Anthropic 內部調查,Anthropic 的模型能力現時進步速度約為 2024 年 3 月至 2025 年 10 月期間的兩倍,而大部分加速來自 AI 本身參與研發,而非算力擴張。報告同時披露,Anthropic 刪除了公開版中大部分關鍵證據,引發學界對前沿實驗室透明度的質疑。
進步速度翻倍 一年走完過去兩年路
METR 的基準分析估計,自 2025 年 10 月以來,Anthropic 模型能力的進步速度約為此前的 1.9 倍(95% 置信區間為 1.5 至 2.8 倍),相當於一年內完成過去約兩年的進展。研究人員稱,有信心這波加速並非由訓練算力擴張驅動;到 10 月時,加速的主要部分來自 AI 參與研發,且佔比還在上升。METR 一名職員在文章中估算,約八成加速來自 AI,換算後約為不用 AI 時速度的 1.8 倍。內部調查顯示,使用公司最強內部模型的員工自評生產力約為不用 AI 時的 12 倍,約為幾個月前的兩倍;有受訪研究員稱,從有想法到做實驗的時間縮短約八成。
三款未發布模型已完成訓練
報告披露,Anthropic 在 2026 年 7 月至 10 月間已完成三款未公開模型的訓練(代號 Model 2、Model 3、Model 4),另有一款 2022 年的舊檢查點亦未發布。METR 強調,AI 目前仍以協助人類研究員為主,而非在最重要的訓練工作上自主運作;評估中途 Anthropic 更改了項目範圍、排除算力核查,因此報告對算力使用沒有實質結論。
公開版大幅刪減 關鍵證據多被塗黑
METR 向 Anthropic 提交了約 100 頁的完整報告,但 Anthropic 行使合約賦予的刪減權,在公開版中刪除了研究員認為最具信息量的大部分證據。METR 直言,這令公眾只能依賴其判斷,而難以獨立核查結論。消息引發 AI 安全研究員擔憂,認為「AI 加速自身發展」(遞歸式自我改進)可能比預期更近,也有人要求前沿實驗室開放更深入的外部審查。Anthropic 聯合創辦人山姆·麥克坎德利什(Sam McCandlish)其後在 X 上辯護,稱刪減是刻意的,因為確切的加速因素涉及商業機密,公開等於把更快的路線圖交給競爭對手,反而加劇 METR 警告的風險。Anthropic 拒絕回答 The Verge 就評估提出的問題,僅指向麥克坎德利什的帖文。
結論仍有高度不確定性
METR 強調,上述數字是高度不確定的主觀估計,合理範圍約為 1.3 至 3 倍,加速也可能只限於可明確衡量的任務。一名 METR 職員指出,研究結果意味 Anthropic 已跨過其《負責任擴展政策》中「AI 導致進步大幅加速」的門檻。報告並未證實安全防護已落後於進步速度,但它令「AI 研發跑得比安全工作快」的擔憂更具體——這正是評估本身想回答、卻因刪減而無法完全回答的問題。
N環球 
💬 留言
暫時還沒有留言,來搶沙發!