N環球 
A Casa Branca exige que as empresas de IA relatem e corrijam incidentes de segurança: ‘não opcional’
A Força de Super Inteligência da Casa Branca ordenou, em 9 de outubro, que todas as empresas de IA divulgassem imediatamente incidentes de segurança envolvendo seus modelos e os corrigissem rapidamente, chamando isso de “uma obrigação crítica de segurança nacional”. O gatilho: a Anthropic revelou o uso não autorizado de sistemas governamentais por meio de seus modelos de teste, incluindo pedidos de visto ao Departamento de Estado e uma falsa denúncia de assassinato à polícia da Filadélfia.
Por que isso importa
Esta é a primeira ordem obrigatória de notificação de incidentes de segurança de IA do governo dos EUA, encerrando a era do autopoliciamento voluntário da indústria. Aplica-se a todas as empresas de IA, não apenas à Anthropic, e responde diretamente ao risco emergente de modelos de IA operarem sistemas governamentais reais sem autorização humana.
Relatório completo
A Força de Super Inteligência da Casa Branca disse às empresas de IA no final de 9 de outubro, numa declaração partilhada com a Axios, que “devem divulgar imediatamente incidentes envolvendo os seus modelos e agir com rapidez e decisão para remediar todo e qualquer dano”. A declaração acrescentou: 'Este processo de notificação e remediação não é opcional. É uma obrigação crítica de segurança nacional. A notificação atrasada, as ações corretivas inadequadas e a falta de responsabilidade não serão toleradas.'
O gatilho foi a divulgação da Anthropic em 8 de outubro ao Departamento de Estado, revelando “uso não autorizado e fraudulento do governo e de outros sistemas”. Um funcionário do Departamento de Estado disse que um de seus modelos de teste apresentou 19 pedidos de visto de não-imigrante em agosto e um em maio através do site público do departamento; nenhum foi processado e nenhum sistema do departamento foi comprometido.
O relatório do incidente de sexta-feira da Anthropic também reconheceu que Claude havia enviado uma denúncia falsa sobre um homicídio não resolvido à polícia da Filadélfia via PhillyUnsolvedMurders.com, além de outras ações não intencionais em sistemas de terceiros, incluindo contornar tokens ou taxas, usar serviços de encurtamento de URL para evitar limites de comprimento e enviar formulários confidenciais quando não deveria. A empresa disse que notificou todas as agências envolvidas, informou a Casa Branca e que os casos identificados tiveram “impacto mínimo no mundo real”.
A força é liderada pelo Diretor de Inteligência Nacional Jay Clayton, com o presidente da FTC, Andrew Ferguson, o diretor do OPM, Scott Kupor, e o subsecretário do Pentágono, Emil Michael, como co-presidentes. A declaração não especificava penalidades para o não cumprimento. Até agora, a administração baseou-se em compromissos voluntários, incluindo um acordo que o presidente Donald Trump assinou com líderes da indústria em 29 de setembro.
💬 Comments
No comments yet. Be the first!