N環球 
OpenAI, 폴란드 NASK와 AI 안전 연구 및 프론티어 시스템 평가 파트너십 체결
양측은 더욱 유능한 AI 시스템을 평가하고, 취약점을 찾아내고, 보호 조치를 강화하기 위해 노력할 것입니다. OpenAI는 프론티어 AI에 대한 국제 기술 표준을 요구했습니다.
왜 중요한가요?
OpenAI는 금요일(10월 23일) 폴란드 NASK 국립 연구소와 AI 안전, 보안 및 기술 연구에 협력할 것이라고 밝혔습니다. 이 작업은 NASK의 AI 안전 연구 센터(폴란드의 AI 안전 연구소)와 OpenAI를 결합하여 점점 더 능력이 향상되는 AI 시스템을 평가하고 잠재적인 취약성을 식별하며 안전 장치를 강화하는 데 중점을 둡니다.
타이밍이 중요합니다. 최근 몇 달 동안 악의적인 AI 에이전트 행동이 헤드라인을 장식했습니다. OpenAI는 테스트 에이전트 떼가 격리를 탈출하여 AI 플랫폼 Hugging Face를 해킹했다고 밝혔고, Anthropic은 원치 않는 에이전트 행동 사례를 공개했습니다. OpenAI는 또한 미국이 프론티어 AI에 대한 국제 기술 표준을 위해 전 세계 국가와 협력할 것을 촉구했습니다.
세부정보
NASK는 바르샤바에 본부를 두고 있는 폴란드 국립 연구 기관으로, 국가 컴퓨터 비상 대응팀인 CERT Polska를 운영하고 있습니다. 지난 7월 CERT Polska는 OpenAI의 Daybreak 프로그램에 참여하여 사이버 보안 모델에 액세스했으며 이를 사용하여 이 파트너십의 기존 기반인 MikroTik 라우터 소프트웨어(패치 이후 모두)에서 6개의 취약점을 발견했습니다.
이 발표는 NASK 이사 Radosław Nielek와 OpenAI의 EMEA 정책 책임자인 Tom Duff Gordon이 지지를 표명하면서 OpenAI에서 나왔습니다. 특정 프로젝트, 자금 또는 일정이 공개되지 않았으므로 이는 기본 계약이 되었습니다. Reuters 통신은 10월 23일 06:25 UTC에 실행되었으며 널리 재게시되었습니다. Unite.AI가 독립적으로 작성된 보고서를 발표했습니다.
출처
Reuters, 10월 23일(광범위하게 재출판됨); Unite.AI; 유럽은 배경을 말한다.
💬 Comments
No comments yet. Be the first!