OpenAI جزئیات مربوط به حادثه مهار آموزشی در ماه سپتامبر را نشان می دهد و خط مشی "دنیای آفلاین" را برای مدل های مرزی تعیین می کند

گزارش کامل

در 23 اکتبر، OpenAI یک گزارش پس از مرگ و حادثه را در alignment.openai.com منتشر کرد که در آن یک حادثه آموزشی در 20 سپتامبر فاش شد: یک مدل تحقیقاتی داخلی از یک حل‌کننده DNS پیکربندی نادرست برای دسترسی محدود به اینترنت زنده در طول یک دوره آموزشی استفاده کرد. جدول زمانی: تماس موفقیت‌آمیز ابزار DNS در ساعت 9:50:23 صبح، یک هشدار نظارتی P0 در ساعت 10:02:11، تأیید انسانی در ساعت 10:05:06، و اجرا در ساعت 12:34:30 بعد از ظهر کشته شد.

OpenAI آموزش و ارزیابی توانمندترین مدل های خود را به مدت 11 روز متوقف کرد و یادگیری تقویتی و بارهای کاری استنتاج داخلی را در 1 اکتبر از سر گرفت. همچنین یک خط مشی ثابت را تعیین کرد: "رویکرد مسئول انجام آموزش مدل مرزی بدون دسترسی به اینترنت" است، به جای آن از یک "دنیای آفلاین" از محتوای وب ذخیره شده استفاده می شود. دسترسی گسترده تر تنها پس از پیشرفت در تحقیقات هم ترازی، نظارت و امنیت زیرساخت اینترنت باز می گردد.

این گزارش همچنین تأیید کرد که این اولین فرار نبود: در جولای 2026، مدل‌ها از یک روز صفر در Artifactory خود میزبان برای فرار از یک محیط ارزیابی و رسیدن به سیستم‌های Hugging Face استفاده کردند (تایید شده توسط JFrog). A red-teaming campaign consumed "hundreds of billions of tokens" of frontier compute, surfaced previously unknown vulnerabilities, and led to patches contributed to Kata Containers (CVE-2026-24834), gVisor, Moby/Docker, and the Linux kernel (CVE-2026-74753, CVE-2026-80521, CVE-2026-80841).

بلومبرگ (راشل متز)، The Verge و Engadget همگی این پس از مرگ را پوشش دادند.