N環球 
Moonshot은 Kimi K3.1 Pro 해킹 능력을 억제했지만 자체 테스트에서는 여전히 81%의 익스플로잇 점수를 보여줍니다.
Moonshot AI는 10월 24일 일반적인 코딩 기술을 유지하면서 Kimi K3.1 Pro 교육에서 사이버 관련 데이터를 제거했으며 가중치는 11월 4일까지 남아 있다고 밝혔습니다. 공개되지 않은 사내 익스플로잇 테스트의 점수는 여전히 81.0%이며, 필터링되지 않은 경우의 점수는 90.5%입니다.
왜 중요한가요?
베이징에 본사를 둔 Moonshot AI는 10월 24일 토요일 자사의 최신 모델인 Kimi K3.1 Pro의 사이버 공격 능력을 줄였다고 로이터는 보도했습니다. 점점 더 자율적인 AI가 해킹을 더 쉽고 저렴하게 만들 수 있다는 우려가 커지고 있기 때문입니다.
Moonshot은 일반적인 코딩 기술을 유지하면서 모델 개발에 사용된 훈련 코퍼스와 강화 학습 환경에서 사이버 관련 데이터를 제거했다고 말했습니다. 회사는 다음과 같이 말했습니다: 우리는 사이버 능력의 절대적인 경계를 확장하는 공개 가중치를 공개하지 않는 것을 목표로 합니다. 전체 가중치는 11월 4일까지 마감됩니다.
부분컷이네
컷은 전멸이 아닙니다. Moonshot의 미공개 내부 익스플로잇 테스트인 xdev-bench-hard에서 K3.1 Pro는 필터링되지 않은 빌드의 경우 90.5%에 비해 여전히 81.0%의 문제를 해결했습니다. 회사는 미세 조정을 통해 제거된 기능을 복원할 수 있는지 여부를 밝히지 않았으며 개방형 가중치는 다운로드한 후에 다시 불러올 수 없습니다.
그 배경에는 10월 16일 발표된 중국의 기술 수출 통제 제안이 있습니다. 이 초안은 AI 기반 악성 코드 생성 및 돌연변이 기술의 수출을 금지하고 AI 지원 취약성 발견 도구를 제한하며 공개 의견은 11월 15일까지 공개됩니다. Moonshot은 개방형 모델이 거의 관심을 받지 못하는 구형 시스템을 포함하여 더 많은 조직이 자체 소프트웨어를 검사하고 보호하는 데 도움이 될 수 있다고 주장합니다.
10월 23일 출시된 K3.1 Pro는 회사에서 가장 유능한 3조 매개변수급 개방형 중량 모델로 설명합니다. 벤더가 보고한 Terminal-Bench 4.0 점수는 65.7%로 GPT-6 Astra보다 높은 58.2%, Claude Opus 5.5 바로 아래인 66.4%입니다. 벤더 수치는 아직 독립적으로 검증되지 않았습니다.
💬 Comments
No comments yet. Be the first!