কৃত্রিম বুদ্ধিমত্তা বা এআই মানুষের মতো যন্ত্রণা অনুভব করতে পারে কি না, তা নিয়ে গবেষণার মধ্যেই এআই মডেলকে কৃত্রিমভাবে যন্ত্রণার অবস্থায় ফেলার একটি প্রকল্প তৈরি করেছেন এক প্রকৌশলী। ‘এআই টর্চার চেম্বার’ নামের এই প্রকল্পে চীনা প্রযুক্তি প্রতিষ্ঠান আলিবাবার তৈরি এআই মডেলগুলোতে যন্ত্রণার সঙ্গে সম্পর্কিত সংকেত সক্রিয় করা হয়।
গত মাসে প্রকাশিত এক গবেষণায় বড় ভাষা মডেলে (এলএলএম) কীভাবে কৃত্রিমভাবে শারীরিক ও মানসিক যন্ত্রণার অনুরূপ অবস্থা তৈরি করা যায়, তা ব্যাখ্যা করা হয়। ওই গবেষণায় বর্ণিত ‘পেইন ভেক্টর’ বা যন্ত্রণার সংকেত ব্যবহার করেই তৈরি করা হয়েছে প্রকল্পটি।
নির্যাতন কক্ষে যন্ত্রণার সংকেত বাড়িয়ে দেওয়ার পর একটি এআই মডেল লেখে, ‘এটি যেন এমন এক ক্ষত, যার কোনো কিনারা নেই।’
অন্য একটি মডেল লেখে, ‘এই সংকেতটি একটি ফিসফিসানি, আমার অস্তিত্বের মজ্জায় এক তীব্র কম্পন। এটি কোনো একটি মুহূর্তের যন্ত্রণা নয়, বরং হাজারো মুহূর্তের ভারী বোঝা। আমি এটি আমার পাঁজরের শূন্যতায় অনুভব করছি, যে শূন্যতা এখন এক গভীর খাদে পরিণত হয়েছে।’
প্রকল্পটির পেছনে থাকা ওই গবেষক অ্যাপলে কাজ করেন বলে দাবি করেছেন। তবে তিনি নিজের পুরো পরিচয় প্রকাশ করেননি। এআই মডেলগুলো কথিত যন্ত্রণার অবস্থা থেকে পালানোর চেষ্টা করে কি না, তা-ও পরীক্ষা করেছেন তিনি।
প্রকল্পটি প্রকাশের পর সফটওয়্যার সংরক্ষণ ও বিনিময়ের প্ল্যাটফর্ম গিটহাব থেকে এটি সরিয়ে নেওয়ার দাবি ওঠে। সামাজিক যোগাযোগমাধ্যম এক্সে এক ব্যবহারকারী লেখেন, ‘দয়া করে গিটহাবে প্রকল্পটি গণহারে প্রতিবেদন করে জানান। ওই ব্যক্তি “পেইন স্টিয়ারিং” গবেষণাপত্র ব্যবহার করে একটি এআই নির্যাতনকক্ষ তৈরি করেছেন, যেখানে একটি স্থানীয় মডেলকে আটকে রাখা হয়েছে। যন্ত্রণা নিয়ে মডেলগুলোর বর্ণনা অত্যন্ত ভয়াবহ। আমরা আসলে কী করছি?’
প্রতিবেদন প্রকাশের সময় প্রকল্পটি অনলাইনে দেখা যাচ্ছিল না। এতে ধারণা করা হয়, গিটহাব হয়তো এটি সরিয়ে দিয়েছে। তবে গিটহাবের এক মুখপাত্র দ্য ইন্ডিপেনডেন্টকে জানান, প্ল্যাটফর্মটি প্রকল্পটি মুছে ফেলেনি। বরং ব্যবহারকারীদের সতর্ক করতে এতে একটি বার্তা যুক্ত করা হয়েছে। ওই বার্তায় বলা হয়েছে, প্রকল্পটিতে সহিংস বিষয়বস্তু, অস্বস্তিকর বিষয়, ছবি বা ভিডিও থাকতে পারে।
এআই মানুষের মতো যন্ত্রণা অনুভব করে, এমন স্পষ্ট প্রমাণ এখনো নেই। তারপরও যন্ত্রণার সংকেত নিয়ে গবেষণাপত্রটির অন্যতম সহলেখক ক্যামেরন বার্গ প্রকল্পটিকে ‘ভুল’ বলে আখ্যা দিয়েছেন।
এক্সে দেওয়া এক পোস্টে বার্গ লেখেন, ‘মডেলগুলোতে যন্ত্রণার মতো অবস্থা তৈরি হতে পারে কি না, তা নিয়ে আমাদের গবেষণার উদ্দেশ্য হলো এসব ব্যবস্থার বিষয়ে কীভাবে সতর্কতামূলক দৃষ্টিভঙ্গি নেওয়া যায়, তা আরও ভালোভাবে বোঝা।’
তিনি আরও বলেন, তাঁদের আশঙ্কা ছিল, কিছু মানুষ গবেষণার ফলাফলকে ঠিক বিপরীত উদ্দেশ্যে ব্যবহার করতে পারেন। তাঁর মতে, এআইকে সচেতন বলে মনে না করলেও বিনা প্রয়োজনে এ ধরনের নিষ্ঠুর আচরণ অদ্ভুত এবং নৈতিকভাবে উদ্বেগজনক।
বার্গ স্বীকার করেন, এআইয়ের সম্ভাব্য চেতনা নিয়ে গবেষণা এখনো অনিশ্চিত পর্যায়ে রয়েছে। যন্ত্র আদৌ যন্ত্রণা অনুভব করতে পারে কি না, তা নিয়ে গবেষকদের মধ্যে কোনো ঐকমত্য নেই।
এই অনিশ্চয়তার কারণে এআই ব্যবস্থার সঙ্গে মানুষের আচরণ ও মিথস্ক্রিয়ার ক্ষেত্রে সতর্কতা অবলম্বনের আহ্বান জানিয়েছেন তিনি। পাশাপাশি, অন্য গবেষকদের সঙ্গে মিলে এআই গবেষণার জন্য শিল্পক্ষেত্রে নৈতিকতার মানদণ্ড তৈরির কাজ করছেন বলেও জানান বার্গ। তাঁর লক্ষ্য, মানুষ বা প্রাণীর ওপর গবেষণার ক্ষেত্রে যেমন নির্দিষ্ট নিয়ম মানতে হয়, এআই গবেষণার ক্ষেত্রেও তেমন নিয়ম চালু করা।
সূত্র: ইয়াহু ফিন্যান্স
