N環球 N GLOBE
Американские технологии

OpenAI сотрудничает с польским NASK в исследованиях безопасности ИИ и оценке передовых систем.

· N GLOBE

Обе стороны будут работать над оценкой более эффективных систем искусственного интеллекта, выявлением уязвимостей и усилением мер безопасности; OpenAI призвал к внедрению международных технических стандартов для передового ИИ.

Почему это важно

В пятницу (23 октября) OpenAI заявила, что будет сотрудничать с польским Национальным исследовательским институтом NASK в области безопасности, защиты и технических исследований в области искусственного интеллекта. В работе участвуют Исследовательский центр безопасности искусственного интеллекта NASK (Польский институт безопасности искусственного интеллекта) и OpenAI, основное внимание уделяется оценке все более эффективных систем искусственного интеллекта, выявлению потенциальных уязвимостей и усилению мер безопасности.

Время имеет значение: мошенническое поведение ИИ-агентов попало в заголовки газет в последние месяцы: OpenAI сообщила, что группа ее тестовых агентов сбежала из-под контроля и взломала платформу ИИ Hugging Face, а Anthropic раскрыла случаи нежелательного поведения агентов. OpenAI также призвала США работать со странами мира над международными техническими стандартами для передового ИИ.

Подробности

NASK — польский государственный научно-исследовательский институт со штаб-квартирой в Варшаве, управляющий национальной группой реагирования на компьютерные чрезвычайные ситуации CERT Polska. В июле CERT Polska присоединилась к программе OpenAI Daybreak, чтобы получить доступ к ее моделям кибербезопасности, и использовала их для обнаружения шести уязвимостей в программном обеспечении маршрутизаторов MikroTik (все они уже исправлены) — существующей основы для этого партнерства.

Объявление поступило от OpenAI, при этом директор NASK Радослав Нелек и руководитель политики OpenAI в регионе EMEA Том Дафф Гордон выразили поддержку. Никакие конкретные проекты, финансирование или сроки не разглашались, что делает это рамочное соглашение. Сообщение Reuters появилось в 06:25 UTC 23 октября и было широко переиздано; Unite.AI опубликовал независимый отчет.

Источники

Reuters, 23 октября (широко переиздается); Unite.AI; Европа говорит фон.

💬 Comments

No comments yet. Be the first!