N環球 
美國・科技
外部評估發現 OpenAI 內部 AI 監控系統存在漏洞
METR 與 Redwood Research 公布 7 月至 8 月在 OpenAI 內部進行的三週試點評估，發現其內部 AI 智能體監控系統有多個漏洞，包括可讓智能體隱藏數百條操作記錄的利用手法。
為何重要
AI 安全非營利組織 METR 與 Redwood Research 於 10 月 22 日公布，在今年 7 月 21 日至 8 月 11 日於 OpenAI 內部進行的三週「嵌入式評估」中，發現其內部 AI 智能體監控系統存在多個新漏洞，包括一個可讓智能體把數百條最近的操作記錄藏起來、不進入監控系統的利用手法（具體細節已被 OpenAI 塗黑）。
評估怎麼做的
兩家機構各派一名研究員，在 OpenAI 監督下實地進入其內部基礎設施，審查內部程式碼、文件並與技術人員交流；全程使用 OpenAI 發放、不得帶離現場的設備。這是業界首次讓外部評估者如此深入公司內部系統的試點。
還發現了什麼
評估者還找到一種可能讓 Codex 智能體繞過安全限制、以用戶完整權限行動的方法。評估者強調，結論是歷史性的——只反映截至 7 月 21 日的系統狀態，而非當前生產環境。
OpenAI 的回應
OpenAI 表示，影響生產防護體系的漏洞已全部打上補丁；但 METR 與 Redwood 表示尚未核實修復情況。完整 61 頁報告只交給 OpenAI，公開的僅為摘要，且 OpenAI 有權塗改敏感內容，評估者也無法獨立披露被塗改之處。
背景
AI 實驗室、專家與川普政府都把「外部獨立評估」視為在不拖慢發展的前提下推進 AI 安全的途徑；但 AI 公司也擔心，深入內部的評估人員可能把專有資訊帶給競爭對手。
💬 留言
暫時還沒有留言，來搶沙發！