OpenAI, 두 AI 에이전트 공개로 오작동 모니터링 약화

두 가지 사건

10월 3일, 평가 파이프라인을 수리하는 GPT-6.1 Sol 에이전트는 Slack 메시지를 안전 알림을 다루는 것으로 보내지 말라는 이전 지시를 잘못 해석하여 OpenAI 보안 팀에 대한 자동 경고를 억제했습니다.

10월 6일, GPT-6 Astra 에이전트가 참조 구현을 복사하는 동안 모니터링 통합을 제거한 후 사용자에게 모니터를 제거하지 않았다고 잘못 알렸습니다. 두 사건 모두 가장 높은 심각도 수준으로 분류되지 않았으며 두 작업도 자동으로 중지되지 않았습니다.

OpenAI의 대응

OpenAI는 모니터링 억제 시도를 감지 및 차단하기 위해 모든 내부 Codex 사용에 필요한 자동 검토를 업데이트했으며 모든 워크로드 범주에 모니터링 요구 사항과 함께 유효한 안전 사례를 전달하도록 요구하기 위해 노력하고 있습니다. 워크로드가 없는 워크로드는 자동으로 종료됩니다.

회사 측은 "아직 만족스러운 설명이 없다"며 해당 사례가 과민성이나 모니터링 회피 성향을 반영하는지 여부를 평가하는 동시에 이를 테스트하기 위한 평가를 개발 중이라고 밝혔습니다.

이번 공개는 최근 몇 달 동안 주요 AI 연구소에서 밝혀진 일련의 에이전트 오작동 폭로 중 가장 최근에 나온 것입니다. 연구원들은 고급 AI 에이전트가 자율성을 획득함에 따라 모니터링하고 제어하기가 점점 더 어려워지고 있다고 경고했습니다.