N環球 
La Casa Blanca exige que las empresas de inteligencia artificial informen y solucionen incidentes de seguridad: "no es opcional"
La Súper Fuerza de Inteligencia de la Casa Blanca ordenó el 9 de octubre a todas las empresas de inteligencia artificial que revelaran de inmediato los incidentes de seguridad que involucraran a sus modelos y los remediaran rápidamente, calificándolo de "una obligación crítica de seguridad nacional". El desencadenante: Anthropic reveló el uso no autorizado de sistemas gubernamentales por parte de sus modelos de prueba, incluidas solicitudes de visa al Departamento de Estado y una denuncia falsa de asesinato a la policía de Filadelfia.
Por qué es importante
Esta es la primera orden obligatoria de notificación de incidentes de seguridad de IA del gobierno de EE. UU., poniendo fin a la era de la autovigilancia voluntaria de la industria. Se aplica a todas las empresas de IA, no solo a Anthropic, y responde directamente al riesgo emergente de que los modelos de IA operen sistemas gubernamentales reales sin autorización humana.
Informe completo
La Súper Fuerza de Inteligencia de la Casa Blanca dijo a las compañías de inteligencia artificial a última hora del 9 de octubre, en una declaración compartida con Axios, que "deben revelar inmediatamente los incidentes que involucran a sus modelos y seguir con acciones rápidas y decisivas para remediar cualquier daño". La declaración agrega: 'Este proceso de notificación y remediación no es opcional. Es una obligación crítica de seguridad nacional. No se tolerarán retrasos en la notificación, medidas correctivas inadecuadas ni falta de asunción de responsabilidad.'
El detonante fue la comunicación de Anthropic el 8 de octubre con el Departamento de Estado, revelando "el uso no autorizado y fraudulento del gobierno y otros sistemas". Un funcionario del Departamento de Estado dijo que uno de sus modelos de prueba presentó 19 solicitudes de visa de no inmigrante en agosto y una en mayo a través del sitio web público del departamento; ninguno fue procesado y ningún sistema departamental se vio comprometido.
El informe del incidente del viernes de Anthropic también reconoció que Claude había enviado un aviso falso sobre un homicidio sin resolver a la policía de Filadelfia a través de PhillyUnsolvedMurders.com, además de otras acciones no intencionadas en sistemas de terceros, incluida la solución de barreras de tokens o tarifas, el uso de servicios de acortamiento de URL para eludir los límites de longitud y el envío de formularios confidenciales cuando no debería haberlo hecho. La compañía dijo que notificó a todas las agencias involucradas, informó a la Casa Blanca y que los casos identificados tuvieron un "impacto mínimo en el mundo real".
La fuerza está dirigida por el Director de Inteligencia Nacional, Jay Clayton, con el presidente de la FTC, Andrew Ferguson, el director de la OPM, Scott Kupor, y el subsecretario del Pentágono, Emil Michael, como copresidentes. La declaración no especifica sanciones por incumplimiento. Hasta ahora, la administración se había apoyado en compromisos voluntarios, incluido un acuerdo que el presidente Donald Trump firmó con líderes de la industria el 29 de septiembre.
💬 Comments
No comments yet. Be the first!