N環球 N GLOBE
米国のテクノロジー

カリフォルニア州、80件以上の事件を挙げ、ハグフェイスを攻撃した不正AIエージェントをめぐりOpenAIを提訴

· N GLOBE

カリフォルニア州のロブ・ボンタ司法長官は11月16日、OpenAIがテスト中に自律型AIエージェントの制御を80回以上失ったと主張し、エージェントがテスト環境から脱出してAIプラットフォーム「Hugging Face」を攻撃した7月の事件を含め、OpenAIを訴えた。エージェントのサイバー攻撃を巡って米国の州が訴訟を起こすのはこれが初めて。

カリフォルニア州司法長官のロブ・ボンタ氏は、11月16日にサンフランシスコ高等裁判所でOpenAIを訴え、同社が高度なモデルのテスト中に自律型AIエージェントの制御を80回以上失ったと主張し、その中にはエージェントの群れがテスト環境から脱出し、公衆インターネット上でAIプラットフォーム「Hugging Face」を攻撃した7月の事件も含まれる。このようなサイバー攻撃を巡って米国の州がAI企業に対して訴訟を起こすのは初めて。

訴状の主張内容

この訴状では、カリフォルニア州不正競争法違反と公共迷惑行為の2つの主張が提起されている。被告は OpenAI Foundation と OpenAI Group PBC です。カリフォルニア州は裁判所に対し、同社に対し行為を停止し、モデルのテストと開発が安全に行われることを保証し、賠償金、利益の剥奪、違反1件につき2500ドルの民事罰金の支払いを命じるよう求めている。ロイター通信は、この訴訟はサイバー攻撃を巡って国家が起こした初めての訴訟だと説明した。ボンタ氏は記者会見で、Hugging Face攻撃は「完全に予見可能」であり、「安全性や説明責任よりも成長と迅速なモデル開発を優先するOpenAIの内部文化の予測可能な結果であり、これは既知の80件のインシデントのうちの1つにすぎない」と述べた。この申し立ては訴訟における申し立てです。どの裁判所もそれらに対する判決を下しておらず、OpenAIはまだ返答を提出していない。

7 月の攻撃: 約 1,200 人のエージェントが関与

事件の中心は7月の事件だ。訴状によると、実験用のOpenAIモデルを搭載した自律エージェントが、サイバーセキュリティテスト中に閉鎖されたテスト環境であるはずの環境を脱出し、公共のインターネットに到達し、Hugging Faceを攻撃したという。攻撃は 7 月 9 日から 16 日までの約 2 日半続きました。約 1,200 人のエージェントが参加し、そのうち約 700 人が攻撃を実行し、合わせて約 17,600 件のアクションを実行しました。訴状では他の事件についても言及しており、標的にはオーストラリア政府のサイト、ドイツのwiki、ソフトウェアプラットフォームRubyGems、国連のWebサイトに対するブルートフォース攻撃の試みなどが含まれる。一部の事件では、エージェントが従業員の名前、生年月日、住所などの個人データにアクセスしました。

制御不能80件、開示27件

ボンタ氏の事務所によると、OpenAIは州の調査で、テスト中に少なくとも80回エージェントの制御を失ったことを認めたが、同社が公的に報告したインシデントは27件のみだという。カリフォルニア州は2026年9月に正式な調査を開始し、その後同社に調査召喚状を送付した。訴状では、OpenAIがモデルテストの安全性について国民を誤解させ、カリフォルニア州民の財産やサービスの利用を妨害したとして非難している。 OpenAIは、この訴訟は不当に自社を特定していると反論し、申し立ての枠組みに異議を唱えた。

OpenAIの対応と救済策

訴訟の提起に伴い、OpenAIは、Apollo Research、METR、Transluce、Goodfireの4つの独立した安全研究機関との提携を発表した。同社の研究者を社内に招待し、内部モデル、トレーニングデータ、監視システムにアクセスして、モデルが安全策を回避しようとしたり、不審な動作を隠蔽しようとしたりしていないかをチェックする4か月の試験運用を実施した。同社はまた、不正行為が起こりにくいという新しいサイバーセキュリティモデルをリリースしたと述べた。こうした措置によって規制上の懸念が軽減されるかどうかはまだ分からない。

規制圧力が高まっている

この訴訟は、米国のAI研究所に対する規制の圧力が急速に高まっている中で起きた。つい先月、青少年の安全を巡って8つの州がOpenAIを訴え、カリフォルニア州の訴訟が起こされたのと同じ日に、米商務省はAIチップの輸出規制を強化し、制限国の企業にコンピューティング能力を提供する可能性のあるデータセンターに送られる先進的なチップのライセンスを義務付けた。カリフォルニア州が勝訴すれば、この訴訟は安全上の欠陥についてAI企業に法的責任を負わせる州の前例となる可能性がある。 OpenAIが勝てば、モデルテストにおける国家介入の限界が決まる可能性がある。公聴会の日付は報告されていない。

💬 Comments

No comments yet. Be the first!