বাহ্যিক মূল্যায়নকারীরা OpenAI-এর অভ্যন্তরীণ AI এজেন্ট মনিটরিং সিস্টেমে ত্রুটি খুঁজে পান

পর্যালোচনা কিভাবে কাজ করে

প্রতিটি সংস্থা একজন গবেষককে পাঠিয়েছে, যাদের তত্ত্বাবধানে OpenAI-এর অভ্যন্তরীণ অবকাঠামোতে গভীর অ্যাক্সেস দেওয়া হয়েছিল — অভ্যন্তরীণ কোড এবং ডকুমেন্টেশন পর্যালোচনা করা এবং প্রযুক্তিগত কর্মীদের সাথে কথা বলা। তারা ওপেনএআই-ইস্যু করা ডিভাইসগুলি ব্যবহার করে সাইটে কাজ করেছিল যা কখনও প্রাঙ্গন ছেড়ে যায়নি। এটি একটি কোম্পানির সিস্টেমের ভিতরে গভীরভাবে এমবেড করা বাইরের মূল্যায়নকারীদের শিল্পের প্রথম পাইলট।

তারা আর কি খুঁজে পেয়েছে

মূল্যায়নকারীরা কোডেক্স এজেন্টদের নিরাপত্তা সীমাবদ্ধতা বাইপাস করার এবং তাদের ব্যবহারকারীদের সম্পূর্ণ অনুমতি নিয়ে কাজ করার জন্য একটি সম্ভাব্য উপায়ও চিহ্নিত করেছে। তারা জোর দিয়েছিল যে ফলাফলগুলি ঐতিহাসিক - তারা 21 জুলাইয়ের সিস্টেমকে প্রতিফলিত করে, আজকের উৎপাদন পরিবেশ নয়।

OpenAI এর প্রতিক্রিয়া

ওপেনএআই বলেছে যে এটি তার উত্পাদন সুরক্ষাগুলিকে প্রভাবিত করে এমন সমস্ত দুর্বলতাগুলিকে প্যাচ করেছে, যদিও METR এবং রেডউড বলেছে যে তারা সংশোধনগুলি যাচাই করেনি। OpenAI সম্পূর্ণ 61-পৃষ্ঠার অভ্যন্তরীণ রিপোর্ট পেয়েছে; শুধুমাত্র একটি বিস্তৃত সারাংশ প্রকাশিত হয়েছিল, এবং OpenAI-এর সংবেদনশীল তথ্য সংশোধন করার অধিকার ছিল, যা মূল্যায়নকারীরা স্বাধীনভাবে প্রকাশ করতে পারেনি।

প্রসঙ্গ

এআই ল্যাব, বিশেষজ্ঞরা এবং ট্রাম্প প্রশাসন বাইরের পর্যালোচকদের দ্বারা স্বাধীন মূল্যায়নকে ডেভেলপমেন্টকে ধীর না করে এআই সুরক্ষাকে এগিয়ে নেওয়ার উপায় হিসাবে বলেছে - যদিও এআই কোম্পানিগুলি উদ্বিগ্ন যে তাদের দেয়ালের ভিতরে কাজ করা মূল্যায়নকারীরা প্রতিদ্বন্দ্বীদের কাছে মালিকানা তথ্য নিয়ে যেতে পারে।