N環球 
Moonshot は Kim K3.1 Pro のハッキング能力を抑制しますが、独自のテストでは依然として 81% のエクスプロイトスコアを示しています
Moonshot AI は 10 月 24 日、一般的なコーディング スキルは維持しながら、11 月 4 日までに重み付けを行う予定で、キミ K3.1 プロのトレーニングからサイバー関連のデータを削除したと発表した。未公開の社内エクスプロイト テストのスコアは依然として 81.0% であり、フィルタリングされていない場合は 90.5% でした。
なぜそれが重要なのか
北京に本拠を置くムーンショットAIは10月24日土曜日、自律性が高まるAIによりハッキングが容易かつ低コストになるのではないかとの懸念が高まる中、同社の最新モデル「キミK3.1プロ」のサイバー攻撃能力を削減したと発表したとロイター通信が報じた。
ムーンショットは、一般的なコーディングスキルは保持したまま、モデルの開発に使用されたトレーニングコーパスと強化学習環境からサイバー関連のデータを削除したと述べた。同社は次のように述べています。「当社は、サイバー能力の絶対的なフロンティアを拡張するようなオープンウェイトをリリースしないことを目指しています。」全重量の提出期限はまだ 11 月 4 日までです。
カットは部分的です
カットはワイプアウトではありません。 Moonshot の未公開の社内エクスプロイト テストである xdev-bench-hard では、K3.1 Pro は問題の 81.0% を解決しましたが、フィルタリングされていないビルドでは 90.5% でした。同社は微調整によって削除された機能を復元できるかどうかについては明らかにしておらず、オープンウェイトは一度ダウンロードするとリコールできない。
背景には、10月16日に発表された中国の技術輸出規制案がある。AIを活用したマルウェア生成および変異技術の輸出を禁止し、AI支援による脆弱性発見ツールを制限する草案で、11月15日までパブリックコメントが受け付けられている。ムーンショット氏は、オープンウェイトモデルは、あまり注目されていない古いシステムも含め、より多くの組織が独自のソフトウェアを検査し、セキュリティを確保するのにも役立つと主張している。
10月23日にリリースされたK3.1 Proは、同社によれば、最も高性能な3兆パラメータクラスのオープンウェイトモデルであると説明されている。ベンダーが報告した Terminal-Bench 4.0 スコアは 65.7% で、GPT-6 Astra の 58.2% を上回り、Claude Opus 5.5 の 66.4% をわずかに下回っています。ベンダーの数値であり、まだ独自に検証されていません。
💬 Comments
No comments yet. Be the first!