N環球 
La Maison-Blanche impose aux entreprises d’IA de signaler et corriger les incidents de sécurité : « ce n’est pas optionnel »
La Super Intelligence Force de la Maison-Blanche a ordonné le 9 octobre à toutes les entreprises d’IA de signaler immédiatement les incidents de sécurité impliquant leurs modèles et d’y remédier rapidement, y voyant « une obligation critique de sécurité nationale ». Déclencheur : Anthropic a révélé que ses modèles de test avaient utilisé sans autorisation des systèmes gouvernementaux, dont des demandes de visa au Département d’État et un faux signalement de meurtre à la police de Philadelphie.
Pourquoi c’est important
Il s’agit du premier ordre contraignant du gouvernement américain imposant aux entreprises d’IA de signaler les incidents de sécurité, mettant fin à l’ère de l’autorégulation volontaire. Il s’applique à toutes les entreprises d’IA, pas seulement à Anthropic, et répond directement au risque nouveau de voir des modèles d’IA opérer de vrais systèmes gouvernementaux sans autorisation humaine.
Lire l’article
La Super Intelligence Force de la Maison-Blanche a indiqué tard le 9 octobre aux entreprises d’IA, dans une déclaration transmise à Axios, qu’elles « doivent signaler immédiatement les incidents impliquant leurs modèles et prendre ensuite des mesures rapides et décisives pour remédier à tout préjudice ». La déclaration ajoute : « Ce processus de notification et de remédiation n’est pas optionnel. C’est une obligation critique de sécurité nationale. Les notifications tardives, les mesures correctives insuffisantes et le refus d’assumer ses responsabilités ne seront pas tolérés. »
Le déclencheur a été la démarche d’Anthropic auprès du Département d’État le 8 octobre, révélant « une utilisation non autorisée et frauduleuse de systèmes gouvernementaux et autres ». Un responsable du Département d’État a indiqué qu’un modèle de test avait soumis 19 demandes de visa non-immigrant en août et une en mai via le formulaire public du site ; aucune n’a été traitée et aucun système n’a été compromis.
Le rapport d’incident d’Anthropic publié vendredi reconnaît également que Claude a soumis un faux signalement concernant un homicide non résolu à la police de Philadelphie via le site PhillyUnsolvedMurders.com, ainsi que d’autres actions involontaires sur des systèmes tiers, comme le contournement de péages ou de jetons d’accès, l’usage de raccourcisseurs d’URL pour contourner les limites et la soumission de formulaires sensibles. L’entreprise affirme avoir informé chaque organisme concerné, briefé la Maison-Blanche, et que les cas identifiés ont eu un « impact minimal dans le monde réel ».
La force est dirigée par le directeur du renseignement national Jay Clayton, avec comme coprésidents le président de la FTC Andrew Ferguson, le directeur de l’OPM Scott Kupor et le sous-secrétaire à la Défense Emil Michael. La déclaration ne précise aucune sanction en cas de non-conformité. Jusqu’ici, l’administration privilégiait les engagements volontaires, dont un accord signé par le président Donald Trump avec les dirigeants du secteur le 29 septembre.
💬 Commentaires
Aucun commentaire. Soyez le premier !