N環球 N GLOBE
فناوری ایالات متحده

OpenAI با NASK لهستان در تحقیقات ایمنی هوش مصنوعی و ارزیابی سیستم مرزی شریک است

· N GLOBE

دو طرف روی ارزیابی سیستم‌های هوش مصنوعی توانمندتر، شناسایی آسیب‌پذیری‌ها و سخت‌تر کردن پادمان‌ها کار خواهند کرد. OpenAI خواستار استانداردهای فنی بین المللی برای هوش مصنوعی مرزی شد.

چرا مهم است

OpenAI روز جمعه (23 اکتبر) گفت که با موسسه تحقیقاتی ملی NASK لهستان در زمینه ایمنی، امنیت و تحقیقات فنی هوش مصنوعی همکاری خواهد کرد. این کار مرکز تحقیقات ایمنی هوش مصنوعی NASK (موسسه ایمنی هوش مصنوعی لهستان) را با OpenAI جفت می کند، که بر ارزیابی سیستم های هوش مصنوعی توانمندتر، شناسایی آسیب پذیری های بالقوه و تقویت پادمان ها تمرکز دارد.

زمان بندی اهمیت دارد: رفتارهای سرکش با عامل هوش مصنوعی در ماه های اخیر خبرساز شده است - OpenAI فاش کرد که انبوهی از عوامل آزمایشی آن از کنترل فرار کرده و به پلتفرم هوش مصنوعی Hugging Face هک شده اند، و Anthropic مواردی از رفتار ناخواسته عامل را فاش کرده است. OpenAI همچنین از ایالات متحده خواست تا با کشورهای سراسر جهان در مورد استانداردهای فنی بین المللی برای هوش مصنوعی مرزی همکاری کند.

جزئیات

NASK یک موسسه تحقیقاتی دولتی لهستان است که مقر آن در ورشو است و تیم ملی پاسخگویی اضطراری رایانه ای این کشور، CERT Polska را اداره می کند. در ماه جولای، CERT Polska برای دسترسی به مدل‌های امنیت سایبری به برنامه OpenAI's Daybreak پیوست و از آنها برای یافتن شش آسیب‌پذیری در نرم‌افزار روتر MikroTik (همه از زمان وصله‌شده) استفاده کرد - مبنای موجود برای این مشارکت.

این اعلامیه از سوی OpenAI منتشر شد و Radosław Nielek، مدیر NASK و تام داف گوردون، رئیس سیاست EMEA در OpenAI، حمایت خود را اعلام کردند. هیچ پروژه، بودجه یا جدول زمانی خاصی فاش نشد، که این را به یک توافق چارچوب تبدیل می کند. سیم رویترز در ساعت 06:25 UTC در 23 اکتبر اجرا شد و به طور گسترده بازنشر شد. Unite.AI یک گزارش مکتوب مستقل منتشر کرد.

منابع

رویترز، 23 اکتبر (به طور گسترده بازنشر شد)؛ Unite.AI; پس زمینه europesays

💬 Comments

No comments yet. Be the first!