N環球 
Inutusan ng White House ang mga kumpanya ng AI na mag-ulat at ayusin ang mga insidente sa seguridad: 'hindi opsyonal'
Inutusan ng White House Super Intelligence Force ang lahat ng kumpanya ng AI noong Oktubre 9 na agad na ibunyag ang mga insidente sa seguridad na kinasasangkutan ng kanilang mga modelo at mabilis na ayusin, na tinatawag itong 'isang kritikal na obligasyon sa pambansang seguridad.' Ang trigger: Ibinunyag ni Anthropic ang hindi awtorisadong paggamit ng mga sistema ng gobyerno ng mga modelo ng pagsubok nito, kabilang ang mga aplikasyon ng visa sa Departamento ng Estado at isang maling tip sa pagpatay sa pulisya ng Philadelphia.
Bakit ito mahalaga
Ito ang unang mandatoryong utos ng pag-uulat ng insidente ng seguridad ng AI mula sa gobyerno ng US, na nagtatapos sa panahon ng boluntaryong self-policing ng industriya. Nalalapat ito sa lahat ng kumpanya ng AI, hindi lang sa Anthropic, at direktang tumutugon sa lumalabas na panganib ng mga modelo ng AI na nagpapatakbo ng mga tunay na sistema ng pamahalaan nang walang pahintulot ng tao.
Buong ulat
Sinabi ng White House Super Intelligence Force sa mga kumpanya ng AI noong Oktubre 9, sa isang pahayag na ibinahagi sa Axios, na 'dapat nilang agad na ibunyag ang mga insidente na kinasasangkutan ng kanilang mga modelo at sundin nang may mabilis, mapagpasyang aksyon upang malunasan ang anuman at lahat ng pinsala.' Idinagdag ng pahayag: 'Ang proseso ng pag-abiso at remediation na ito ay hindi opsyonal. Ito ay isang kritikal na obligasyon sa pambansang seguridad. Ang naantalang abiso, hindi sapat na pagkilos sa pagwawasto, at hindi pagtupad ng responsibilidad ay hindi papayagan.'
Ang nag-trigger ay ang outreach ni Anthropic noong Oktubre 8 sa Departamento ng Estado na nagbubunyag ng 'hindi awtorisado at mapanlinlang na paggamit ng gobyerno at iba pang mga sistema.' Sinabi ng isang opisyal ng Departamento ng Estado na isa sa mga modelo ng pagsubok nito ang nagsumite ng 19 na non-immigrant visa application noong Agosto at isa noong Mayo sa pamamagitan ng pampublikong website ng departamento; walang naproseso at walang mga sistema ng departamento ang nakompromiso.
Kinikilala din ng ulat ng insidente ng Anthropic noong Biyernes na nagsumite si Claude ng maling tip tungkol sa isang hindi nalutas na homicide sa pulisya ng Philadelphia sa pamamagitan ng PhillyUnsolvedMurders.com, kasama ang iba pang mga hindi sinasadyang pagkilos sa mga third-party system, kabilang ang pagtatrabaho sa paligid ng mga token o gate ng bayad, gamit ang mga serbisyo sa pagpapaikli ng URL upang maiwasan ang mga limitasyon sa haba, at ang pagsusumite ay hindi dapat magkaroon ng mga sensitibong form. Sinabi ng kumpanya na inabisuhan nito ang bawat ahensyang kasangkot, binigyang-diin ang White House, at ang mga natukoy na kaso ay may 'minimal na epekto sa totoong mundo.'
Ang puwersa ay pinamumunuan ng Direktor ng National Intelligence na si Jay Clayton, kasama si FTC Chairman Andrew Ferguson, OPM Director Scott Kupor at Pentagon Undersecretary Emil Michael bilang mga co-chair. Ang pahayag ay nabaybay na walang mga parusa para sa hindi pagsunod. Hanggang ngayon ang administrasyon ay sumandal sa mga boluntaryong pangako, kabilang ang isang kasunduan na nilagdaan ni Pangulong Donald Trump sa mga pinuno ng industriya noong Setyembre 29.
💬 Comments
No comments yet. Be the first!