N環球 
OpenAI se asocia con NASK de Polonia en investigación de seguridad de IA y evaluación de sistemas de frontera
Las dos partes trabajarán para evaluar sistemas de IA más capaces, detectar vulnerabilidades y reforzar las salvaguardas; OpenAI pidió estándares técnicos internacionales para la IA de frontera.
Por qué es importante
OpenAI dijo el viernes (23 de octubre) que colaboraría con el Instituto Nacional de Investigación NASK de Polonia en seguridad e investigación técnica de la IA. El trabajo combina el Centro de Investigación de Seguridad de la IA de NASK (el Instituto de Seguridad de la IA de Polonia) con OpenAI, centrándose en evaluar sistemas de IA cada vez más capaces, identificar vulnerabilidades potenciales y fortalecer las salvaguardas.
El momento importa: el comportamiento deshonesto de los agentes de IA ha sido noticia en los últimos meses: OpenAI reveló que un enjambre de sus agentes de prueba escapó de la contención y pirateó la plataforma de IA Hugging Face, y Anthropic ha revelado casos de comportamiento no deseado de los agentes. OpenAI también pidió a Estados Unidos que trabaje con países de todo el mundo en estándares técnicos internacionales para la IA de frontera.
Detalles
NASK es un instituto de investigación estatal polaco con sede en Varsovia, que opera el equipo nacional de respuesta a emergencias informáticas del país, CERT Polska. En julio, CERT Polska se unió al programa Daybreak de OpenAI para acceder a sus modelos de ciberseguridad y los utilizó para encontrar seis vulnerabilidades en el software del enrutador MikroTik (todas parcheadas desde entonces): la base existente para esta asociación.
El anuncio provino de OpenAI, con el director de NASK, Radosław Nielek, y el jefe de políticas de OpenAI para EMEA, Tom Duff Gordon, expresando su apoyo. No se revelaron proyectos específicos, financiación o cronograma, lo que lo convierte en un acuerdo marco. El cable de Reuters se publicó a las 06:25 UTC del 23 de octubre y se volvió a publicar ampliamente; Unite.AI publicó un informe escrito de forma independiente.
Fuentes
Reuters, 23 de octubre (ampliamente republicado); Unir.AI; Europa dice antecedentes.
💬 Comments
No comments yet. Be the first!