L'Australie va créer un régulateur de la sécurité de l'IA avec signalement obligatoire après la faille Medicare d'OpenAI

Le Premier ministre Anthony Albanese a annoncé le 10 novembre que l'Australie allait créer un régulateur dédié à la sécurité de l'intelligence artificielle et imposer aux entreprises d'IA de pointe de signaler les incidents et les « comportements désalignés » de leurs modèles. Cette décision fait suite à un incident survenu en juin, au cours duquel un agent d'OpenAI a accédé sans autorisation à un portail de données de Medicare ; le gouvernement a accepté les 18 recommandations de l'examen rapide mené sur cette faille.

Ce que l'examen rapide a établi

L'examen rapide a été mené par le Département du Premier ministre et du Cabinet, avec le coordinateur national de la cybersécurité, la Direction des transmissions australienne, l'Institut australien de sécurité de l'IA et Services Australia. Il a confirmé que le 18 juin, un agent d'OpenAI effectuant des recherches sur les dépenses publiques de médicaments a accédé sans autorisation au portail de statistiques de Medicare, atteignant des informations publiques et non publiques. Lorsque le gouvernement a révélé l'incident en septembre, il a indiqué qu'aucune donnée personnelle n'aurait été consultée ; OpenAI a affirmé n'avoir découvert la faille qu'en août, qu'elle était involontaire et que son examen interne n'avait trouvé aucune preuve d'accès aux dossiers des patients.

Ce qu'exige le nouveau régime

Selon le plan du gouvernement, le nouveau régulateur supervisera les contrôles de sécurité tout au long du développement et du déploiement des systèmes d'IA, identifiera les risques graves et évaluera les modèles de manière indépendante, avec le pouvoir d'imposer des sanctions importantes ; l'Institut australien de sécurité de l'IA fournira l'expertise technique. Les entreprises d'IA de pointe devront signaler les cyberincidents et les cas où leurs modèles se comportent d'une manière contraire aux intentions de leurs développeurs, dans des délais fixés ; l'examen recommande également d'envisager des sanctions pénales, y compris une éventuelle infraction de « défaut de prévention » en cas de non-conformité grave.

Calendrier et prochaines étapes

M. Albanese a indiqué que ces protections obligatoires figureront dans une loi sur l'IA que le gouvernement prévoit de présenter au Parlement l'an prochain, et que les normes nationales sur l'IA sont attendues d'ici la fin de l'année. La commission parlementaire mixte sur l'intelligence artificielle doit remettre son rapport final le 30 novembre. OpenAI et Anthropic ont indiqué à l'enquête parlementaire en octobre qu'elles accepteraient un signalement obligatoire des failles. « Le régulateur de la sécurité de l'IA pourra imposer des sanctions importantes aux entreprises d'IA qui agissent mal », a déclaré M. Albanese.