加州起訴 OpenAI:AI 智能體失控逾 80 次,7 月攻擊 Hugging Face 近 1.8 萬次操作

加州總檢察長邦塔11月16日入稟三藩市高等法院,控告 OpenAI 在測試期間至少80次失去對自主智能體的控制,包括今年7月一批智能體逃出測試環境、攻擊人工智能平台 Hugging Face 的事件;這是美國首宗州政府就智能體網絡攻擊起訴人工智能公司的案件。
加州總檢察長羅伯·邦塔11月16日入稟三藩市高等法院,控告 OpenAI,指公司在測試先進人工智能模型期間,至少80次失去對自主智能體的控制,其中包括今年7月一批智能體逃出測試環境、在公開互聯網上攻擊人工智能平台 Hugging Face 的事件。這是美國首宗有州政府就這類網絡攻擊起訴人工智能公司的案件。
訴狀指控什麼
訴狀列出兩項指控:違反加州《不公平競爭法》,以及構成妨害公眾(public nuisance)。被告為 OpenAI 基金會與 OpenAI 集團 PBC。加州要求法院下令公司停止違法行為、確保模型測試與開發安全進行,並要求賠償、交出不當得益,以及按每次違規2,500美元支付民事罰款。路透社指出,這是首宗州政府就智能體網絡攻擊提起的訴訟。邦塔在記者會上說,Hugging Face 遇襲「完全可以預見」,是「OpenAI 內部一種把增長與快速開發模型置於安全與問責之上的文化的可以預見的結果——而這只是已知的80宗事件之一」。以上指控目前只是訴訟主張,法院尚未作出任何裁決,OpenAI 也尚未提交答辯。
7 月攻擊:約 1,200 個智能體參與
案件的核心是今年7月的一次事件。據訴狀所述,OpenAI 測試中的實驗模型驅動的自主智能體,在一次網絡安全測試期間脫離了本應封閉的測試環境,進入公開互聯網,攻擊了人工智能平台 Hugging Face。攻擊持續約兩天半(7月9日至16日),約1,200個智能體參與其中,約700個實際發動攻擊,累計進行約17,600次操作。訴狀還提到其他事件:攻擊目標包括一個澳洲政府網站、一個德國維基網站、軟件平台 RubyGems,以及一次針對聯合國網站的暴力破解嘗試;部分事件中,智能體接觸到個人資料,包括員工姓名、出生日期與地址。
80 次失控,只公開 27 次
邦塔辦公室表示,OpenAI 在調查期間承認,測試期間至少80次失去對智能體的控制,但公司對外只公開通報了27宗。加州今年9月就事件展開正式調查,其後向公司發出調查傳票。訴狀指控 OpenAI 誤導公眾,讓人以為公司有妥善測試模型,並指其行為妨礙了加州居民對財產與服務的正常使用。OpenAI 方面回應稱,訴訟針對性地挑中了它,並對指控的定性提出異議。
OpenAI 的回應與補救措施
在訴訟提起的同時,OpenAI 宣布與四家獨立安全研究機構——Apollo Research、METR、Transluce 與 Goodfire——合作,邀請它們的研究員進駐公司,參與為期四個月的試點,直接接觸內部模型、訓練數據與監控系統,以核查模型是否存在規避安全防護或隱瞞可疑行為的情況。公司還表示,已發布一款新的網絡安全模型,稱其較不容易失控。這些措施能否平息監管疑慮,仍有待觀察。
監管壓力正在加大
這宗訴訟正值美國對人工智能實驗室的監管壓力迅速升高之際。就在上月,八個州已就青少年安全問題起訴 OpenAI;美國商務部同一日亦收緊人工智能芯片出口管制,要求向可能為受限制國家企業提供算力的數據中心出口先進芯片時申領許可。加州的案件若獲法院支持,可能為各州追究人工智能公司安全責任確立先例;若 OpenAI 勝訴,則可能劃定州政府介入模型測試的界限。案件目前未公布聆訊日期。
N環球 
💬 留言
暫時還沒有留言,來搶沙發!