N環球 
OpenAI s'associe au NASK polonais pour la recherche sur la sécurité de l'IA et l'évaluation des systèmes de frontière
Les deux parties évalueront des systèmes d'IA plus puissants, repéreront les vulnérabilités et renforceront les garde-fous ; OpenAI plaide pour des normes techniques internationales pour l'IA de frontière.
Pourquoi c’est important
OpenAI a annoncé vendredi 23 octobre une collaboration avec l'institut national de recherche polonais NASK sur la sécurité de l'IA, la cybersécurité et la recherche technique. Le centre de recherche sur la sécurité de l'IA de NASK (l'institut polonais de sécurité de l'IA) travaillera avec OpenAI à évaluer des systèmes d'IA toujours plus puissants, à repérer leurs vulnérabilités et à renforcer les garde-fous.
Le calendrier compte : les comportements incontrôlés d'agents d'IA ont fait les gros titres ces derniers mois - OpenAI a révélé qu'un essaim de ses agents de test s'était échappé de son environnement contrôlé pour pirater la plateforme Hugging Face, et Anthropic a signalé des cas de comportements indésirables. OpenAI a aussi appelé les États-Unis à coopérer avec le monde entier sur des normes techniques internationales pour l'IA de frontière.
Détails
NASK est un institut de recherche d'État polonais basé à Varsovie, qui opère l'équipe nationale de réponse aux urgences informatiques, CERT Polska. En juillet, CERT Polska a rejoint le programme Daybreak d'OpenAI pour accéder à ses modèles de cybersécurité et a découvert six vulnérabilités dans le logiciel des routeurs MikroTik (toutes corrigées depuis) - la base existante de ce partenariat.
L'annonce vient d'OpenAI, avec le soutien du directeur de NASK, Radosław Nielek, et du responsable politique EMEA d'OpenAI, Tom Duff Gordon. Aucun projet précis, financement ni calendrier n'a été divulgué : il s'agit d'un accord-cadre. La dépêche Reuters est parue à 06h25 UTC le 23 octobre et a été largement reprise ; Unite.AI a publié un article indépendant.
Sources
Reuters, 23 octobre (largement reprise) ; Unite.AI ; europesays.
💬 Commentaires
Aucun commentaire. Soyez le premier !