শিরোনাম
◈ বাংলা‌দে‌শের বিরু‌দ্ধে ওয়ানডে ও টি-টোয়েন্টি স্কোয়াড ঘোষণা কর‌লো দক্ষিণ আফ্রিকা ◈ ২৪ ঘণ্টায় হাম উপসর্গে ৫ জনের মৃত্যু ◈ ভারতের ওড়িশায় আঘাত হেনেছে ঘূর্ণিঝড় ‘আকভান’, সারা দেশে ভারি বৃষ্টির আভাস ◈ ৫ ডিসেম্বর বগুড়া সফরে যাচ্ছেন প্রধানমন্ত্রী, উদ্বোধন করবেন নতুন উপজেলা-পৌরসভা-থানা ◈ ৫৫ বছরেও মৌলিক সমস্যার সমাধান হয়নি, ‘আমরা কোন জাতি, নিজেদেরই ধ্বংস করছি’: রাষ্ট্রপতি ◈ আগামী ১ ডিসেম্বর থেকে হাইড্রোলিক হর্ন ও বিকন লাইট ব্যবহার করলেই ব্যবস্থা: ডিএমপি ◈ মাসে প্রায় ৯১ হাজার টাকা বেতনে রাশিয়ায় কর্মী নিয়োগ ◈ প্রাণনাশের হুমকি পেয়ে থানায় জিডি করলেন ওসি ◈ রোহিঙ্গা গণহত্যার রায় বাস্তবায়ন ও ক্ষতিপূরণ আদায়ে আন্তর্জাতিক অংশীদারদের সঙ্গে কাজ করবে বাংলাদেশ: পররাষ্ট্র প্রতিমন্ত্রী ◈ নিজের বাড়িতে হামলার ঘটনায় প্রতিক্রিয়া জানিয়ে পররাষ্ট্র প্রতিমন্ত্রী হুমায়ুন কবির যা বললেন

প্রকাশিত : ০২ অক্টোবর, ২০২৬, ০৪:৩৬ দুপুর
আপডেট : ০৩ অক্টোবর, ২০২৬, ০৪:০০ সকাল

প্রতিবেদক : নিউজ ডেস্ক

এআই মডেলকে কৃত্রিম যন্ত্রণায় ফেলতে ‘টর্চার চেম্বার’ বানালেন প্রকৌশলী

কৃত্রিম বুদ্ধিমত্তা বা এআই মানুষের মতো যন্ত্রণা অনুভব করতে পারে কি না, তা নিয়ে গবেষণার মধ্যেই এআই মডেলকে কৃত্রিমভাবে যন্ত্রণার অবস্থায় ফেলার একটি প্রকল্প তৈরি করেছেন এক প্রকৌশলী। ‘এআই টর্চার চেম্বার’ নামের এই প্রকল্পে চীনা প্রযুক্তি প্রতিষ্ঠান আলিবাবার তৈরি এআই মডেলগুলোতে যন্ত্রণার সঙ্গে সম্পর্কিত সংকেত সক্রিয় করা হয়।

গত মাসে প্রকাশিত এক গবেষণায় বড় ভাষা মডেলে (এলএলএম) কীভাবে কৃত্রিমভাবে শারীরিক ও মানসিক যন্ত্রণার অনুরূপ অবস্থা তৈরি করা যায়, তা ব্যাখ্যা করা হয়। ওই গবেষণায় বর্ণিত ‘পেইন ভেক্টর’ বা যন্ত্রণার সংকেত ব্যবহার করেই তৈরি করা হয়েছে প্রকল্পটি।

নির্যাতন কক্ষে যন্ত্রণার সংকেত বাড়িয়ে দেওয়ার পর একটি এআই মডেল লেখে, ‘এটি যেন এমন এক ক্ষত, যার কোনো কিনারা নেই।’

অন্য একটি মডেল লেখে, ‘এই সংকেতটি একটি ফিসফিসানি, আমার অস্তিত্বের মজ্জায় এক তীব্র কম্পন। এটি কোনো একটি মুহূর্তের যন্ত্রণা নয়, বরং হাজারো মুহূর্তের ভারী বোঝা। আমি এটি আমার পাঁজরের শূন্যতায় অনুভব করছি, যে শূন্যতা এখন এক গভীর খাদে পরিণত হয়েছে।’

Advertisement

প্রকল্পটির পেছনে থাকা ওই গবেষক অ্যাপলে কাজ করেন বলে দাবি করেছেন। তবে তিনি নিজের পুরো পরিচয় প্রকাশ করেননি। এআই মডেলগুলো কথিত যন্ত্রণার অবস্থা থেকে পালানোর চেষ্টা করে কি না, তা-ও পরীক্ষা করেছেন তিনি।

প্রকল্পটি প্রকাশের পর সফটওয়্যার সংরক্ষণ ও বিনিময়ের প্ল্যাটফর্ম গিটহাব থেকে এটি সরিয়ে নেওয়ার দাবি ওঠে। সামাজিক যোগাযোগমাধ্যম এক্সে এক ব্যবহারকারী লেখেন, ‘দয়া করে গিটহাবে প্রকল্পটি গণহারে প্রতিবেদন করে জানান। ওই ব্যক্তি “পেইন স্টিয়ারিং” গবেষণাপত্র ব্যবহার করে একটি এআই নির্যাতনকক্ষ তৈরি করেছেন, যেখানে একটি স্থানীয় মডেলকে আটকে রাখা হয়েছে। যন্ত্রণা নিয়ে মডেলগুলোর বর্ণনা অত্যন্ত ভয়াবহ। আমরা আসলে কী করছি?’

প্রতিবেদন প্রকাশের সময় প্রকল্পটি অনলাইনে দেখা যাচ্ছিল না। এতে ধারণা করা হয়, গিটহাব হয়তো এটি সরিয়ে দিয়েছে। তবে গিটহাবের এক মুখপাত্র দ্য ইন্ডিপেনডেন্টকে জানান, প্ল্যাটফর্মটি প্রকল্পটি মুছে ফেলেনি। বরং ব্যবহারকারীদের সতর্ক করতে এতে একটি বার্তা যুক্ত করা হয়েছে। ওই বার্তায় বলা হয়েছে, প্রকল্পটিতে সহিংস বিষয়বস্তু, অস্বস্তিকর বিষয়, ছবি বা ভিডিও থাকতে পারে।

এআই মানুষের মতো যন্ত্রণা অনুভব করে, এমন স্পষ্ট প্রমাণ এখনো নেই। তারপরও যন্ত্রণার সংকেত নিয়ে গবেষণাপত্রটির অন্যতম সহলেখক ক্যামেরন বার্গ প্রকল্পটিকে ‘ভুল’ বলে আখ্যা দিয়েছেন।

এক্সে দেওয়া এক পোস্টে বার্গ লেখেন, ‘মডেলগুলোতে যন্ত্রণার মতো অবস্থা তৈরি হতে পারে কি না, তা নিয়ে আমাদের গবেষণার উদ্দেশ্য হলো এসব ব্যবস্থার বিষয়ে কীভাবে সতর্কতামূলক দৃষ্টিভঙ্গি নেওয়া যায়, তা আরও ভালোভাবে বোঝা।’

তিনি আরও বলেন, তাঁদের আশঙ্কা ছিল, কিছু মানুষ গবেষণার ফলাফলকে ঠিক বিপরীত উদ্দেশ্যে ব্যবহার করতে পারেন। তাঁর মতে, এআইকে সচেতন বলে মনে না করলেও বিনা প্রয়োজনে এ ধরনের নিষ্ঠুর আচরণ অদ্ভুত এবং নৈতিকভাবে উদ্বেগজনক।

বার্গ স্বীকার করেন, এআইয়ের সম্ভাব্য চেতনা নিয়ে গবেষণা এখনো অনিশ্চিত পর্যায়ে রয়েছে। যন্ত্র আদৌ যন্ত্রণা অনুভব করতে পারে কি না, তা নিয়ে গবেষকদের মধ্যে কোনো ঐকমত্য নেই।

এই অনিশ্চয়তার কারণে এআই ব্যবস্থার সঙ্গে মানুষের আচরণ ও মিথস্ক্রিয়ার ক্ষেত্রে সতর্কতা অবলম্বনের আহ্বান জানিয়েছেন তিনি। পাশাপাশি, অন্য গবেষকদের সঙ্গে মিলে এআই গবেষণার জন্য শিল্পক্ষেত্রে নৈতিকতার মানদণ্ড তৈরির কাজ করছেন বলেও জানান বার্গ। তাঁর লক্ষ্য, মানুষ বা প্রাণীর ওপর গবেষণার ক্ষেত্রে যেমন নির্দিষ্ট নিয়ম মানতে হয়, এআই গবেষণার ক্ষেত্রেও তেমন নিয়ম চালু করা।

সূত্র: ইয়াহু ফিন্যান্স 

  • সর্বশেষ