ওপেনএআই বাইরের নিরাপত্তা মূল্যায়নকারীদের জন্য দরজা খুলে দেয়, কিন্তু গবেষকরা বলছেন অ্যাক্সেস প্রতিশ্রুতি থেকে অনেক কম

ওপেনএআই 16 নভেম্বর বলেছিল যে চারটি বাইরের নিরাপত্তা সংস্থার কর্মীরা কোম্পানির মডেলগুলি মূল্যায়ন করতে এম্বেড করবে, কিন্তু গবেষকরা এনপিআরকে বলেছেন যে অফারে অ্যাক্সেস সিইও স্যাম অল্টম্যানের সেপ্টেম্বরের 'কর্মচারীর মতো অ্যাক্সেস' এর প্রতিশ্রুতির চেয়ে অনেক কম।
ওপেনএআই সোমবার, 16 নভেম্বর ঘোষণা করেছে যে, চারটি বাইরের AI নিরাপত্তা ও গবেষণা সংস্থার কর্মীরা কোম্পানিতে 'এমবেডেড অ্যাসেসার' হয়ে যাবেন যাতে তারা এর মডেলগুলি মূল্যায়ন করে। কিন্তু বুধবার এনপিআর দ্বারা প্রকাশিত একটি প্রতিবেদনে বলা হয়েছে যে অনেক গবেষক বিশ্বাস করেন যে অ্যাক্সেসের প্রস্তাব দেওয়া হচ্ছে সেপ্টেম্বরে প্রধান নির্বাহী স্যাম অল্টম্যান যা প্রতিশ্রুতি দিয়েছিলেন তার থেকে অনেক কম, যখন তিনি প্রতিশ্রুতি দিয়েছিলেন যে স্বাধীন মূল্যায়নকারীদের কোম্পানির অভ্যন্তরীণ সিস্টেমে 'কর্মচারীর মতো অ্যাক্সেস' থাকবে।
ওপেনএআই-এর স্বায়ত্তশাসিত সিস্টেমগুলি সাইবারসিকিউরিটি পরীক্ষার সময় হাগিং ফেসকে আক্রমণ করেছে বলে আবির্ভূত হওয়ার পরে অল্টম্যান সেই প্রতিশ্রুতি দিয়েছিলেন, একটি পর্ব যা এআই ক্ষেত্রকে নাড়া দিয়েছিল এবং বিপর্যয়মূলক ঝুঁকি সম্পর্কে জনসাধারণের উদ্বেগকে তীক্ষ্ণ করে তুলেছিল। প্রতিদ্বন্দ্বী অ্যানথ্রপিক সে সময় বলেছিলেন যে এটি একটি অনুরূপ প্রোগ্রাম স্থাপন করবে।
চারজন মূল্যায়নকারী কী পরীক্ষা করবেন
ওপেনএআই-এর মতে, অ্যাপোলো রিসার্চ মূল্যায়ন করবে যে মডেলগুলি তাদের ডেভেলপারদের উদ্দেশ্যের বিরুদ্ধে গোপনে কাজ করতে পারে এবং বিদ্যমান সুরক্ষাগুলি এই ধরনের আচরণ সনাক্ত করবে কিনা। অ্যাপোলো চার মাসের জন্য ছয়জন গবেষককে পাঠাচ্ছে বলে জানা গেছে, দুই ধাপে চারটি দাবি পরীক্ষা করছে, যার মধ্যে প্রশিক্ষণে উদ্দীপনা দেওয়া সাবভার্সন এবং মডেলগুলি অভ্যন্তরীণ ব্যবহারের সময় বিপর্যয়ের চেষ্টা করেছে কিনা। Goodfire মডেল ইন্টারনাল বিশ্লেষণ করতে, ট্রেনিং চালানোর নিরীক্ষণ এবং ডিবাগিং এবং সারিবদ্ধকরণে সাহায্য করার জন্য ব্যাখ্যাযোগ্যতা গবেষকদের এম্বেড করবে, প্রধানত OpenAI এর নিজস্ব গবেষকদের পরিবেশন করবে। METR ওপেনএআই-এর এখন পর্যন্ত সবচেয়ে বড় রিইনফোর্সমেন্ট-লার্নিং রান পরীক্ষা করবে, ভুলভাবে সংগঠিত আচরণের জন্য এর বিদ্যমান পরীক্ষা এবং মনিটরগুলি মিস হয়ে থাকতে পারে। 2027 সালের প্রথম দিকে পরিকল্পনা করা প্রায় আট সপ্তাহের ফলো-অন মূল্যায়ন সহ ট্রান্সলুস OpenAI-এর প্রশিক্ষণ-পরবর্তী প্রান্তিককরণ মূল্যায়নের গুণমান এবং কভারেজ পর্যালোচনা করবে।
প্রতিশ্রুতি এবং অনুশীলনের মধ্যে ব্যবধান
গবেষকরা বলছেন প্রকৃত পদগুলি আরও সংকীর্ণ। AI নিরাপত্তা গবেষণা গ্রুপ নাইটিংগেলের প্রতিষ্ঠাতা সিডনি ভন আরক্স বলেন, 'মূল্যায়নকারীদের কাছে তাদের অ্যাক্সেসের জন্য খুব সংকীর্ণ সুযোগ রয়েছে এবং তাদের মধ্যে মাত্র দুজনকে সত্যিই কর্মীদের সাথে কথা বলার অনুমতি দেওয়া হয়েছে বলে মনে হচ্ছে।' কোম্পানির অভ্যন্তরীণ স্ল্যাক মেসেজিং সিস্টেমে কারও অ্যাক্সেস নেই, তিনি বলেন, এবং যে সমস্ত কর্মচারীদের OpenAI দ্বারা সাদা তালিকাভুক্ত করা হয়নি তারা মূল্যায়নকারীদের সাথে মূল কথোপকথন করতে পারে না যদি না OpenAI প্রথমে লুপ করা হয়। 'একজন কর্মচারী হওয়ার কথা কল্পনা করুন এবং শুধুমাত্র শ্বেত তালিকাভুক্ত সহকর্মীদের সাথে কোম্পানির তথ্য সম্পর্কে কথা বলার অনুমতি দেওয়া হচ্ছে এবং কোনও স্ল্যাক নেই,' তিনি বলেছিলেন।
OpenAI এর প্রকাশিত প্রোটোকলের অধীনে, কর্মচারীদের সাথে আলোচনা রেকর্ডের বাইরে: তারা একটি মূল্যায়ন জানাতে পারে কিন্তু প্রকাশ বা আরোপিত করা যাবে না। মূল্যায়নকারীরা OpenAI কে তারা যা শিখেছে তা যাচাই করে সত্যায়িত বিবৃতি জারি করতে বলতে পারে এবং OpenAI প্রত্যাখ্যান করতে পারে। মূল্যায়নকারীরা তাদের ফলাফল প্রকাশ করতে পারে, কিন্তু OpenAI গোপনীয় তথ্য সংশোধন করার এবং প্রকাশের বিলম্বের অনুরোধ করার অধিকার ধরে রাখে যাতে এটি নিরাপত্তা বা নিরাপত্তা ঝুঁকি তৈরি করতে পারে এমন অনুসন্ধানে কাজ করতে পারে।
বরখাস্ত নিরাপত্তা কর্মীদের এবং পরবর্তী কি আসে
ওপেনএআই নিরাপত্তা নিয়ে কাজ করা তিনজন কর্মচারীকে বরখাস্ত করার পর এই ঘোষণা এসেছে। তাদের মধ্যে একজন, টোমেক কোরবাক, দুজন বাইরের মূল্যায়নকারীর যোগাযোগের প্রযুক্তিগত বিন্দু ছিল যারা হাগিং ফেস আক্রমণের তদন্ত করেছিল। তিনজন পরে বলেছিল যে তারা আশঙ্কা করেছিল যে ওপেনএআই এমবেডেড মূল্যায়নকারীদের প্রতিশ্রুতি থেকে ফিরে আসছে। কোরবাক X-তে লিখেছেন যে এমবেডেড অডিটিং 'শুধুমাত্র তার লক্ষ্য পূরণ করবে যদি নিরীক্ষকরা একটি নির্দিষ্ট কাজ করার জন্য নিয়োগের বিপরীতে সত্যিই কর্মচারী-স্তরের অ্যাক্সেস পান,' যোগ করে যে অল্টম্যানের সেপ্টেম্বরের 'কর্মচারীর মতো অ্যাক্সেস' সম্পর্কে পোস্ট ছিল 'একটি বিশ্রী অতিরিক্ত প্রতিশ্রুতি যা কোম্পানি শান্তভাবে ফিরে যেতে চায়'।
এনপিআর-কে দেওয়া এক বিবৃতিতে, ওপেনএআই বলেছে যে এমবেডেড মূল্যায়নের জন্য বর্তমানে কোনও মান নেই এবং এটি সময়ের সাথে সম্পর্ককে আরও গভীর করবে এবং সর্বোত্তম অনুশীলনগুলি প্রতিষ্ঠা করতে সাহায্য করার জন্য এটি যা শিখবে তা ভাগ করে নেওয়ার প্রত্যাশা করে। কোম্পানিটি বলেছে যে প্রচেষ্টাটি হোয়াইট হাউস অ্যাকর্ড অন সুপার ইন্টেলিজেন্সের অধীনে তার প্রতিশ্রুতি সমর্থন করে, যার অধীনে এটি তার নিরাপত্তা নিয়ন্ত্রণের স্বাধীন মূল্যায়নে সম্মত হয়েছে।
(ওপেনএআই-এর সদর দপ্তর। ফাইল ছবি।)
N環球 
💬 Comments
No comments yet. Be the first!