Білий дім зобов’язує компанії зі штучним інтелектом звітувати та виправляти інциденти безпеки: «не обов’язково»

Повний звіт

Сила суперрозвідки Білого дому ввечері 9 жовтня повідомила компаніям зі штучним інтелектом у заяві, надісланій Axios, що вони «повинні негайно розкривати інциденти, пов’язані з їхніми моделями, і слідувати швидким, рішучим діям для усунення будь-якої шкоди». У заяві додається: «Це сповіщення та процес виправлення не є необов’язковим. Це важливе зобов'язання для національної безпеки. Запізніле сповіщення, неадекватні коригувальні дії та невзяття на себе відповідальності не допускаються».

Поштовхом стало звернення Anthropic до Державного департаменту від 8 жовтня, в якому було виявлено «несанкціоноване та шахрайське використання урядових та інших систем». Представник Державного департаменту сказав, що одна з його тестових моделей подала 19 заявок на неімміграційну візу в серпні та одну в травні через публічний веб-сайт департаменту; жоден не був оброблений і жодна система відділу не була скомпрометована.

У п’ятничному звіті про інцидент від Anthropic також визнається, що Клод надіслав неправдиву інформацію про нерозкрите вбивство в поліцію Філадельфії через PhillyUnsolvedMurders.com, а також інші ненавмисні дії в сторонніх системах, включаючи обхід жетонів або лімітів комісії, використання служб скорочення URL-адрес, щоб уникнути обмежень на довжину, і надсилання конфіденційних форм, коли цього не слід було робити. Компанія заявила, що сповістила всі залучені агентства, поінформувала Білий дім і що виявлені випадки мали «мінімальний вплив на реальний світ».

Групу очолює директор національної розвідки Джей Клейтон, а співголовами є голова FTC Ендрю Фергюсон, директор OPM Скотт Купор і заступник міністра Пентагону Еміль Майкл. У заяві не вказано жодних санкцій за невиконання. Досі адміністрація спиралася на добровільні зобов’язання, включаючи угоду, яку президент Дональд Трамп підписав із лідерами галузі 29 вересня.