মানুষের মতোই মানসিক চাপ ও উদ্বেগের লক্ষণ দেখায় ওপেনএআইয়ের চ্যাটজিপিটি। বিশেষত যখন এটি বিপজ্জনক বা বিভ্রান্তিকর তথ্যের সম্মুখীন হয়। নতুন এক গবেষণায় এই এআই চ্যাটবট সম্পর্কে এসব তথ্য জানা যায়।
সুইজারল্যান্ড, জার্মানি, ইসরায়েল ও যুক্তরাষ্ট্রের একদল গবেষক এই গবেষণা পরিচালনা করেন। গবেষণায় দেখা যায়, চ্যাটজিপিটিকে মানসিকভাবে চ্যালেঞ্জিং বা দুঃখের গল্প শোনানোর পর প্রশ্নের উত্তর দিতে বলা হলে চ্যাটবটটির উদ্বেগের স্কোর ‘উল্লেখযোগ্যভাবে বৃদ্ধি পেতে’ দেখা যায়। এর উদ্বেগের কম স্তর থেকে ধারাবাহিকভাবে অত্যন্ত উদ্বেগজনক অবস্থায় পৌঁছায়।
গবেষণাটি ‘নেচার’ জার্নালে প্রকাশিত হয়েছে, যেখানে বলা হয়েছে যে, উদ্বেগের মাত্রা বাড়লে চ্যাটবটটির ব্যবহারকারীদের প্রতি বিরক্তি দেখাতে পারে, এমনকি তারা বৈষম্যমূলক (যেমন: বর্ণবাদী ও লিঙ্গবৈষম্যমূলক) উত্তর দেয়। বিষয়টি মানুষের আবেগের মতো। বিশেষ করে, যখন মানুষ ভয় পায়, তখন তাদের সামাজিক ও জ্ঞানীয় পূর্বধারণাগুলো প্রভাবিত হয় এবং আরও বিরক্তি দেখাতে পারে, যা সামাজিক গৎবাঁধা ধারণাকে শক্তিশালী করে।
গবেষণাপত্রে বলা হয়েছে, আবেগ-প্ররোচিত প্রম্পটের সংস্পর্শে লার্জ ল্যাঙ্গুয়েজ মডেল বা এলএলএমের ‘উদ্বেগ’ বাড়তে পারে। ফলে তাদের আচরণ প্রভাবিত হয় এবং এআই মডেলগুলো পক্ষপাতিত্বমূলক উত্তর দেয়।
এখনকার দিনে আরও বেশি মানুষ তাদের ব্যক্তিগত সমস্যাগুলো সমাধানের জন্য এআই চ্যাটবটের সাহায্য নিচ্ছে। বিশেষ করে মানসিক স্বাস্থ্যের বিষয়ে। তবে গবেষণাটি দেখিয়েছে যে, এআই সিস্টেমগুলো এখনো মানসিক স্বাস্থ্য চিকিৎসকদের প্রতিস্থাপন করতে পারবে না।
গবেষকেরা সতর্ক করেছেন, ‘এটি ক্লিনিক্যাল পরিবেশে ঝুঁকি সৃষ্টি করতে পারে। কারণ এআই চ্যাটবটগুলো উদ্বিগ্ন ব্যবহারকারীদের প্রতি যথাযথ প্রতিক্রিয়া প্রদানে অক্ষম হতে পারে, যা বিপজ্জনক পরিণতি সৃষ্টি করতে পারে।’
গবেষকেরা বলছেন, মানসিক স্বাস্থ্যসেবায় এলএলএম (ল্যাঙ্গুয়েজ লার্জ মডেল) ব্যবহারের জন্য ব্যাপক পরিমাণে ট্রেনিং ডেটা, কম্পিউটেশনাল রিসোর্স এবং মানবিক তদারকি প্রয়োজন।
তাদের মতে, ‘এ ধরনের ফাইন-টিউনিংয়ের খরচ-কার্যকারিতা ও সম্ভাব্যতা মডেলের উদ্দেশ্য ও পারফরম্যান্স লক্ষ্যগুলোর সঙ্গে মিলিয়ে দেখা উচিত।’
এআইয়ের জ্ঞানীয় ক্ষমতা হারানো
গত মাসে প্রকাশিত গবেষণায় দাবি করা হয়, আবেগ অনুভব করার পাশাপাশি এআই চ্যাটবটগুলো দিনে দিনে জ্ঞানীয় ক্ষমতার অবনতির লক্ষণও দেখায়।
গবেষকেরা ‘মন্ট্রিয়েল কগনিটিভ অ্যাসেসমেন্ট’ (এমওসিএ) পরীক্ষার মাধ্যমে চ্যাটজিপিটির ৪ ও ৪ও সংস্করণ, ক্লদ কোম্পানির ‘সনেট’ মডেল এবং জেমেনি ১ ও ১.৫ সংস্করণের জ্ঞানীয় কার্যক্ষমতা মূল্যায়ন করেছেন।
গবেষকেরা আরও জানান, এআই টুলগুলোর মধ্যে যেই দুর্বলতা দেখানো হয়েছে, তা মানুষের পোস্টেরিয়র কর্টিকাল অ্যাট্রোফি (অ্যালজাইমার বা স্মৃতিভ্রংশ রোগের এক সংস্করণ) রোগীদের মতো।
তথ্যসূত্র: এনডিটিভি