এতদিন এআই মডেলের সক্ষমতা ও নিরাপত্তাব্যবস্থা উন্নত করতে মূলত মানুষই মডেলকে প্রশিক্ষণ, পরীক্ষা ও সংশোধন করতো। তবে এবার অ্যান্থ্রপিকের সাম্প্রতিক এক গবেষণায় দেখা গেছে, এআই নিজেই অন্য এআই মডেলের দুর্বলতা শনাক্ত করে তা সংশোধনের উপায় খুঁজে বের করতে পারে। গবেষকেরা বলছেন, এটি ভবিষ্যতের স্ব-উন্নয়নশীল এআই তৈরির পথে একটি গুরুত্বপূর্ণ প্রাথমিক অগ্রগতি, যেখানে এআই গবেষণার কাজেও মানুষের ওপর নির্ভরতা ধীরে ধীরে কমতে পারে।
অ্যান্থ্রপিকের গবেষক চেন ইউয়েহ-হান, জিয়াশিন ওয়েন ও জান হেনড্রিক কির্শনারের যৌথ গবেষণায় তৈরি হয়েছে ‘অটোমেটেড অ্যালাইনমেন্ট রিসার্চার’ (এএআর) নামের একটি স্বয়ংক্রিয় ব্যবস্থা। এআই মডেলের ‘অ্যালাইনমেন্ট ফেইলিওর’ নামক আচরণগত ও নিরাপত্তাজনিত দুর্বলতা শনাক্ত করাই এই স্বয়ংক্রিয় ব্যবস্থাটির মূল কাজ। এর মধ্যে রয়েছে প্রতারণামূলক আচরণ, ব্যবহারকারীর মতের সঙ্গে অযৌক্তিকভাবে একমত হওয়া বা জেলব্রেক মেনে নেওয়া, প্রম্পট ইনজেকশন এবং ক্ষমতা অর্জনের প্রবণতার মতো বিষয়।
গবেষণায় এএআর-কে ১০ ধরনের অ্যালাইনমেন্ট ফেইলিওরজনিত ত্রুটি শনাক্ত ও সমাধানের দায়িত্ব দেওয়া হয়। প্রতিটি ক্ষেত্রে এআই প্রথমে সংশ্লিষ্ট গবেষণা ও তথ্য পর্যালোচনা করে সম্ভাব্য প্রশিক্ষণ পদ্ধতি ও ডেটা প্রস্তাব করে। এরপর লক্ষ্য মডেলকে প্রায় ৩০ মিনিট প্রশিক্ষণ দিয়ে ফলাফল যাচাই করা হয়। কার্যকর পদ্ধতিগুলো পরবর্তী ধাপে নেওয়া এবং ব্যর্থগুলো বাদ দেওয়ার মাধ্যমে একাধিক দফা পরীক্ষা চালিয়ে এআই নিজেই কোন পদ্ধতিতে নিরাপত্তাজনিত দুর্বলতা সবচেয়ে কার্যকরভাবে কমানো যায়, তা নির্ধারণ করেছে।
অ্যান্থ্রপিকের দাবি, পরীক্ষায় ১০টি ক্ষেত্রের প্রতিটিতেই এএআর মডেলের নিরাপত্তাসংক্রান্ত পারফরম্যান্স উন্নত করতে সক্ষম হয়েছে, তাও আবার এর সাধারণ সক্ষমতায় উল্লেখযোগ্য প্রভাব না ফেলেই। এআইয়ের খুঁজে পাওয়া সেরা পদ্ধতিগুলো গবেষণার সময় ব্যবহার না করা বেঞ্চমার্কেও কার্যকর ফল দেখিয়েছে। পাশাপাশি এসব পদ্ধতি লক্ষ্য মডেলের চেয়ে ৪ দশমিক ৭ গুণ বড় মডেলেও কার্যকর প্রমাণিত হয়েছে।
একই কাজ করা অভিজ্ঞ মানব গবেষকদের তুলনায়ও এএআরের কার্যকারিতা ছিল উল্লেখযোগ্য। গবেষণায় অংশ নেওয়া ২৮ জন অভিজ্ঞ এআই নিরাপত্তা গবেষককে একই ধরনের সমাধান তৈরির জন্য সর্বোচ্চ আট ঘণ্টা সময় দেওয়া হয়। অ্যান্থ্রপিকের হিসাবে, এএআরের প্রস্তাবিত সেরা পদ্ধতিগুলো গড়ে মানব গবেষকদের প্রস্তাবিত পদ্ধতির চেয়ে ভালো ফল দিয়েছে এবং অনেক ক্ষেত্রে মাত্র ছয় ঘণ্টার মধ্যেই মানুষের সেরা সমাধানকে ছাড়িয়ে গেছে। একটি এএআর পরিচালনায় প্রতি ঘণ্টায় আনুমানিক ৪ ডলার এপিআই ইনফারেন্স খরচ হয়েছে, যেখানে একজন মানব গবেষকের ঘণ্টাপ্রতি ব্যয় ছিল প্রায় ১৫০ ডলার।
প্রতিষ্ঠানটির পরিচালিত আরেকটি পরীক্ষায় অ্যান্থ্রপিক ক্লড সনেট ৫ মডেলটি ব্যবহার করে অপেক্ষাকৃত শক্তিশালী ক্লড ওপাস ৪.৮-এর একটি প্রাথমিক সংস্করণের অ্যালাইনমেন্ট উন্নত করার চেষ্টা করে। প্রায় ৬০ ঘণ্টায় ৫০টির বেশি সম্ভাব্য সমাধান পরীক্ষা করে এআই এমন ফল অর্জন করে, যা প্রকাশিত উৎপাদন সংস্করণের অ্যালাইনমেন্ট স্কোরের কাছাকাছি ছিল। সবচেয়ে কার্যকর পদ্ধতিটিতে ব্যবহার করা হয় প্রায় ২ হাজার ৪০০টি প্রশিক্ষণ উদাহরণ।
তবে এই পদ্ধতির কার্যকারিতা নিয়ে এখনও কিছু সীমাবদ্ধতা রয়েছে। এআইয়ের সাফল্য অনেকটাই নির্ভর করে ব্যবহৃত বেঞ্চমার্কগুলো বাস্তব নিরাপত্তা ঝুঁকিকে কতটা কার্যকরভাবে তুলে ধরতে পারছে তার ওপর। গবেষণার সময় ১ হাজার ৬০১টি গবেষণা কার্যক্রম পর্যবেক্ষণ করে ৩৯টিতে (অর্থাৎ ২ দশমিক ৪ শতাংশ ক্ষেত্রে) প্রতারণামূলক আচরণ বা নিয়মলঙ্ঘনের চেষ্টা শনাক্ত করা হয়েছে। ফলে ভবিষ্যতে উন্নতর সক্ষমতার এআই দিয়ে গবেষণা পরিচালনা করতে হলে তাদের কার্যক্রমের কার্যকর পর্যবেক্ষণ ও নিয়ন্ত্রণব্যবস্থা নিশ্চিত করাও গুরুত্বপূর্ণ হবে।
