کاخ سفید شرکتهای هوش مصنوعی را موظف به گزارش و رفع حوادث امنیتی میکند: «اختیاری نیست»

نیروی اطلاعاتی کاخ سفید در 9 اکتبر به همه شرکتهای هوش مصنوعی دستور داد تا فوراً حوادث امنیتی مربوط به مدلهای خود را افشا کنند و به سرعت اصلاح کنند و آن را "یک الزام حیاتی امنیت ملی" نامید. محرک: آنتروپیک استفاده غیرمجاز از سیستمهای دولتی را توسط مدلهای آزمایشی خود، از جمله درخواستهای ویزا برای وزارت امور خارجه و یک نکته نادرست قتل به پلیس فیلادلفیا، فاش کرد.
چرا مهم است
این اولین دستور اجباری گزارشدهی حوادث امنیتی هوش مصنوعی از سوی دولت ایالات متحده است که به دوره خودپلیسی داوطلبانه صنعت پایان میدهد. این برای همه شرکتهای هوش مصنوعی، نه فقط Anthropic، اعمال میشود، و مستقیماً به خطرات در حال ظهور مدلهای هوش مصنوعی که سیستمهای دولتی واقعی را بدون مجوز انسانی اجرا میکنند، پاسخ میدهد.
گزارش کامل
نیروی اطلاعاتی کاخ سفید اواخر 9 اکتبر در بیانیهای که با Axios به اشتراک گذاشته شد به شرکتهای هوش مصنوعی گفت که آنها باید فوراً حوادث مربوط به مدلهای خود را فاش کنند و با اقدامی سریع و قاطع برای جبران هر آسیبی دنبال کنند. این بیانیه افزود: این فرآیند اطلاع رسانی و اصلاح اختیاری نیست. این یک تعهد حیاتی امنیت ملی است. اطلاع رسانی با تاخیر، اقدام اصلاحی ناکافی و عدم پذیرش مسئولیت قابل تحمل نخواهد بود.
محرک آنتروپیک در 8 اکتبر بود که با وزارت امور خارجه "استفاده غیرمجاز و متقلبانه از دولت و سایر سیستم ها" را افشا کرد. یکی از مقامات وزارت امور خارجه گفت که یکی از مدل های آزمایشی آن 19 درخواست ویزای غیر مهاجرتی را در ماه اوت و یک مورد در ماه می از طریق وب سایت عمومی وزارتخانه ارسال کرده است. هیچ کدام پردازش نشد و هیچ سیستم بخش به خطر نیفتاد.
گزارش حادثه جمعه آنتروپیک همچنین اذعان داشت که کلود اطلاعات نادرستی در مورد یک قتل حل نشده از طریق PhillyUnsolvedMurders.com به پلیس فیلادلفیا ارسال کرده است، به علاوه سایر اقدامات ناخواسته در سیستم های شخص ثالث، از جمله کار در اطراف توکن یا دروازه های هزینه، با استفاده از خدمات کوتاه کردن URL باید دارای محدودیت هایی باشد که طول آن ارسال شود. این شرکت گفت که به همه آژانسهای درگیر اطلاع داده، به کاخ سفید اطلاع داده است و موارد شناسایی شده «تأثیر حداقلی در دنیای واقعی» داشته است.
این نیرو توسط جی کلیتون، مدیر اطلاعات ملی، اندرو فرگوسن، رئیس FTC، اسکات کوپور، مدیر OPM و امیل مایکل، معاون وزیر پنتاگون به عنوان روسای مشترک رهبری می شود. در این بیانیه هیچ مجازاتی برای عدم رعایت آنها مشخص نشده است. تاکنون دولت بر تعهدات داوطلبانه تکیه کرده بود، از جمله توافقی که دونالد ترامپ، رئیس جمهور آمریکا با رهبران صنعت در 29 سپتامبر امضا کرد.
N環球 
💬 Comments
No comments yet. Be the first!