N環球 
تتعاون OpenAI مع NASK البولندية في أبحاث سلامة الذكاء الاصطناعي وتقييم الأنظمة الحدودية
وسيعمل الجانبان على تقييم أنظمة الذكاء الاصطناعي الأكثر قدرة، واكتشاف نقاط الضعف وتشديد الضمانات؛ دعت OpenAI إلى وضع معايير فنية دولية للذكاء الاصطناعي الحدودي.
لماذا يهم
قالت شركة OpenAI يوم الجمعة (23 أكتوبر) إنها ستتعاون مع معهد NASK الوطني للأبحاث في بولندا بشأن سلامة الذكاء الاصطناعي وأمنه والبحث الفني. يجمع العمل بين مركز أبحاث سلامة الذكاء الاصطناعي التابع لـ NASK (المعهد البولندي لسلامة الذكاء الاصطناعي) وOpenAI، مع التركيز على تقييم أنظمة الذكاء الاصطناعي ذات القدرة المتزايدة، وتحديد نقاط الضعف المحتملة وتعزيز الضمانات.
التوقيت مهم: فقد تصدر سلوك عميل الذكاء الاصطناعي المارق عناوين الأخبار في الأشهر الأخيرة - كشفت شركة OpenAI أن مجموعة من عملاء الاختبار التابعين لها أفلتوا من الاحتواء واخترقوا منصة الذكاء الاصطناعي Hugging Face، وكشفت Anthropic عن حالات سلوك عميل غير مرغوب فيه. كما دعت OpenAI الولايات المتحدة إلى العمل مع الدول في جميع أنحاء العالم لوضع معايير فنية دولية للذكاء الاصطناعي الحدودي.
التفاصيل
NASK هو معهد أبحاث حكومي بولندي يقع مقره الرئيسي في وارسو، ويقوم بتشغيل فريق الاستجابة لطوارئ الكمبيوتر الوطني في البلاد، CERT Polska. في يوليو، انضم CERT Polska إلى برنامج Daybreak الخاص بـ OpenAI للوصول إلى نماذج الأمن السيبراني الخاصة به واستخدمها للعثور على ست نقاط ضعف في برنامج توجيه MikroTik (جميعها تم تصحيحها منذ ذلك الحين) - الأساس الحالي لهذه الشراكة.
جاء هذا الإعلان من OpenAI، حيث أعرب مدير NASK Radosław Nielek ورئيس سياسة OpenAI في أوروبا والشرق الأوسط وأفريقيا توم داف جوردون عن دعمهما. ولم يتم الكشف عن أي مشاريع أو تمويل أو جدول زمني محدد، مما يجعل هذه الاتفاقية إطارية. تم نشر برقية رويترز في الساعة 06:25 بالتوقيت العالمي يوم 23 أكتوبر وتمت إعادة نشرها على نطاق واسع. نشرت Unite.AI تقريرًا مكتوبًا بشكل مستقل.
المصادر
رويترز، 23 أكتوبر (أعيد نشرها على نطاق واسع)؛ Unite.AI; خلفية أوروبا.
💬 Comments
No comments yet. Be the first!