N環球 
OpenAI、AIの安全性研究とフロンティアシステム評価でポーランドのNASKと提携
双方は、より有能な AI システムの評価、脆弱性の発見、安全対策の強化に取り組む予定です。 OpenAIはフロンティアAIの国際技術標準を求めた。
なぜそれが重要なのか
OpenAIは金曜日（10月23日）、AIの安全性、セキュリティ、技術研究に関してポーランドのNASK国立研究所と協力すると発表した。この研究では、NASK の AI 安全研究センター (ポーランドの AI 安全研究所) と OpenAI が連携し、ますます高性能化する AI システムの評価、潜在的な脆弱性の特定、安全対策の強化に重点を置いています。
タイミングが重要です。AI エージェントの不正な動作がここ数カ月で大きく報道されました。OpenAI は、テスト エージェントの群れが封じ込めを逃れ、AI プラットフォーム Hugging Face にハッキングしたことを明らかにしました。また、Anthropic は、エージェントの望ましくない動作の事例を公開しました。 OpenAIはまた、米国に対し、フロンティアAIの国際技術標準に関して世界各国と協力するよう求めた。
詳細
NASK は、ワルシャワに本部を置くポーランドの国立研究機関であり、同国の国家コンピューター緊急事態対応チーム CERT Polska を運営しています。 7月、CERT PolskaはOpenAIのDaybreakプログラムに参加してそのサイバーセキュリティモデルにアクセスし、そのモデルを使用してMikroTikルーターソフトウェア（すべてパッチ適用後）の6つの脆弱性を発見した。これはこのパートナーシップの既存の基盤である。
この発表はOpenAIから行われ、NASKディレクターのラドスワフ・ニエレク氏とOpenAIのEMEA政策責任者トム・ダフ・ゴードン氏が支持を表明した。具体的なプロジェクト、資金、スケジュールは明らかにされておらず、これは枠組み合意となっている。ロイター通信は 10 月 23 日の 06:25 UTC に配信され、広く再公開されました。 Unite.AI は独自に作成したレポートを公開しました。
情報源
ロイター、10月23日（広く再掲載）。 Unite.AI;ヨーロッパの背景。
💬 Comments
No comments yet. Be the first!