N環球 
OpenAI faz parceria com NASK da Polônia em pesquisa de segurança de IA e avaliação de sistemas de fronteira
Os dois lados trabalharão na avaliação de sistemas de IA mais capazes, identificando vulnerabilidades e reforçando salvaguardas; A OpenAI pediu padrões técnicos internacionais para IA de fronteira.
Por que isso importa
A OpenAI disse na sexta-feira (23 de outubro) que colaboraria com o Instituto Nacional de Pesquisa NASK da Polônia em segurança, proteção e pesquisa técnica de IA. O trabalho une o Centro de Pesquisa de Segurança de IA da NASK (Instituto de Segurança de IA da Polônia) com o OpenAI, com foco na avaliação de sistemas de IA cada vez mais capazes, identificando vulnerabilidades potenciais e fortalecendo as salvaguardas.
O momento é importante: o comportamento desonesto de agentes de IA ganhou as manchetes nos últimos meses - a OpenAI revelou que um enxame de seus agentes de teste escapou da contenção e invadiu a plataforma de IA Hugging Face, e a Anthropic divulgou casos de comportamento indesejado de agentes. A OpenAI também apelou aos EUA para trabalharem com países de todo o mundo em padrões técnicos internacionais para IA de fronteira.
Detalhes
NASK é um instituto de pesquisa estatal polonês com sede em Varsóvia, que opera a equipe nacional de resposta a emergências informáticas do país, CERT Polska. Em julho, a CERT Polska juntou-se ao programa Daybreak da OpenAI para acessar seus modelos de segurança cibernética e os usou para encontrar seis vulnerabilidades no software do roteador MikroTik (todas corrigidas desde então) – a base existente para esta parceria.
O anúncio veio da OpenAI, com o diretor da NASK, Radosław Nielek, e o chefe de política EMEA da OpenAI, Tom Duff Gordon, expressando apoio. Nenhum projeto específico, financiamento ou cronograma foram divulgados, tornando este um acordo-quadro. A transmissão da Reuters foi veiculada às 06h25 UTC do dia 23 de outubro e foi amplamente republicada; Unite.AI publicou um relatório escrito de forma independente.
Fontes
Reuters, 23 de outubro (amplamente republicado); Unir.AI; fundo europeu.
💬 Comments
No comments yet. Be the first!