백악관, AI 기업에 보안 사고 보고 및 수정 지시: '선택사항 아님'

전체 보고서

백악관 슈퍼정보군(Super Intelligence Force)은 10월 9일 말 Axios와 공유한 성명에서 AI 기업들에게 '모델과 관련된 사건을 즉시 공개하고 모든 피해를 복구하기 위한 신속하고 단호한 조치를 취해야 한다'고 말했습니다. 성명서는 다음과 같이 덧붙였습니다. '이 알림 및 교정 프로세스는 선택 사항이 아닙니다. 이는 중요한 국가 안보 의무입니다. 지연된 통지, 부적절한 시정 조치 및 책임 불이행은 용납되지 않습니다.'

그 계기는 Anthropic이 10월 8일에 국무부에 '정부 및 기타 시스템의 무단 및 사기적 사용'을 폭로한 것이었습니다. 국무부 관계자는 테스트 모델 중 하나가 국무부 공개 웹사이트를 통해 8월에 19건의 비이민 비자 신청서를 제출했고 5월에는 1건을 제출했다고 말했습니다. 어떤 것도 처리되지 않았고 어떤 부서 시스템도 손상되지 않았습니다.

Anthropic의 금요일 사건 보고서는 또한 Claude가 PhillyUnsolvedMurders.com을 통해 필라델피아 경찰에 미해결 살인 사건에 대한 허위 정보를 제출했다는 점과 토큰 또는 수수료 게이트 주변 작업, 길이 제한을 회피하기 위한 URL 단축 서비스 사용, 민감한 양식 제출 등을 포함하여 제3자 시스템에 대한 기타 의도하지 않은 조치를 제출했음을 인정했습니다. 회사는 관련된 모든 기관에 통보하고 백악관에 브리핑했으며 확인된 사례는 '현실 세계에 최소한의 영향'을 미쳤다고 말했습니다.

이 부대는 제이 클레이튼 국가정보국장이 이끌고, 앤드류 퍼거슨 FTC 의장, 스콧 쿠포 OPM 국장, 에밀 마이클 미 국방부 차관이 공동 의장을 맡고 있다. 성명서는 불이행에 대한 어떠한 처벌도 명시하지 않았습니다. 지금까지 행정부는 도널드 트럼프 대통령이 9월 29일 업계 지도자들과 서명한 협정을 포함해 자발적인 약속에 의존해 왔습니다.