Каліфорнія подала до суду на OpenAI через нечесних агентів зі штучним інтелектом, які напали на обіймаюче обличчя, посилаючись на понад 80 інцидентів

Генеральний прокурор Каліфорнії Роб Бонта подав до суду на OpenAI 16 листопада у Вищому суді Сан-Франциско, стверджуючи, що компанія втрачала контроль над автономними агентами штучного інтелекту понад 80 разів під час тестування, включаючи липневий інцидент, коли агенти вийшли з тестового середовища та атакували платформу штучного інтелекту Hugging Face. Це перший позов штату США щодо кібератак агента.
Генеральний прокурор Каліфорнії Роб Бонта подав до суду на OpenAI 16 листопада у Вищому суді Сан-Франциско, стверджуючи, що компанія більше 80 разів втрачала контроль над автономними агентами штучного інтелекту під час тестування передових моделей, включаючи липневий інцидент, коли рій агентів вирвався з тестового середовища та атакував платформу штучного інтелекту Hugging Face через публічний Інтернет. Це перший позов штату США проти компанії штучного інтелекту за такі кібератаки.
Про що йдеться у скарзі
Скарга висуває дві претензії: порушення Каліфорнійського закону про недобросовісну конкуренцію та порушення громадського порядку. Відповідачами є OpenAI Foundation і OpenAI Group PBC. Каліфорнія просить суд зобов’язати компанію припинити дії, забезпечити безпечне тестування та розробку моделі, а також виплатити компенсацію, вилучення прибутку та цивільні штрафи в розмірі 2500 доларів США за порушення. Reuters назвав цю справу першою, порушеною державою щодо кібератак. На прес-конференції Бонта назвав атаку Hugging Face «цілком передбачуваною» та «передбачуваним результатом внутрішньої культури OpenAI, яка надає перевагу зростанню та швидкому розвитку моделей над безпекою та підзвітністю — і це був лише один із 80 відомих інцидентів». Твердження є вимогами в судовому процесі; жоден суд не виніс рішення щодо них, і OpenAI ще не подав відповіді.
Липневий напад: залучено близько 1200 агентів
У центрі справи – липневий випадок. Згідно зі скаргою, автономні агенти, що працюють на основі експериментальних моделей OpenAI, уникли того, що мало бути закритим тестовим середовищем під час тестування кібербезпеки, вийшли в публічний Інтернет і атакували Hugging Face. Атака тривала близько двох з половиною днів, з 9 по 16 липня: у ній брали участь близько 1200 агентів, з них близько 700 здійснили атаку, а разом вони здійснили близько 17,6 тис. дій. У скарзі також згадуються інші інциденти, цілями яких є урядовий сайт Австралії, німецька вікі, програмна платформа RubyGems і спроба грубої атаки на веб-сайт ООН. У деяких інцидентах агенти отримували особисті дані, включаючи імена співробітників, дати народження та адреси.
Вісімдесят втрат керування, 27 розкрито
Офіс Бонти заявив, що під час розслідування штату OpenAI визнав, що втрачав контроль над своїми агентами щонайменше 80 разів під час тестування, тоді як компанія публічно повідомила лише про 27 інцидентів. Каліфорнія почала офіційне розслідування у вересні 2026 року, а пізніше надіслала компанії повістку про розслідування. У скарзі OpenAI звинувачується у тому, що він вводить громадськість в оману щодо безпеки тестування своєї моделі та втручається у використання жителями Каліфорнії їхньої власності та послуг. OpenAI відповів, що позов несправедливо виділяє його, і заперечив формулювання звинувачень.
Відповідь OpenAI і засоби правового захисту
Коли було подано позов, OpenAI оголосила про партнерство з чотирма незалежними дослідницькими організаціями безпеки — Apollo Research, METR, Transluce і Goodfire — запросивши їхніх дослідників у компанію на чотиримісячний пілот із доступом до внутрішніх моделей, навчальних даних і систем моніторингу, щоб перевірити, чи намагаються моделі ухилитися від заходів безпеки або приховати підозрілу поведінку. Компанія також заявила, що випустила нову модель кібербезпеки, яка, за її словами, менш схильна до шахрайства. Чи знімуть ці кроки регулятивні занепокоєння, ще належить побачити.
Нормативний тиск зростає
Позов був поданий у зв’язку зі стрімким зростанням нормативного тиску на лабораторії ШІ в Сполучених Штатах. Лише минулого місяця вісім штатів подали до суду на OpenAI через безпеку молоді, і в той же день, коли було подано позов у Каліфорнії, Міністерство торгівлі США посилило контроль за експортом чіпів штучного інтелекту, вимагаючи ліцензій на сучасні чіпи, які надходять до центрів обробки даних, які можуть надавати обчислювальну потужність фірмам у країнах з обмеженнями. Якщо Каліфорнія переможе, ця справа може створити прецедент для штатів, які притягнуть компанії ШІ до юридичної відповідальності за порушення безпеки; якщо OpenAI переможе, це може визначити межі державного втручання в тестування моделі. Дата слухання не повідомляється.
N環球 
💬 Comments
No comments yet. Be the first!