চাপে পড়লে ব্ল্যাকমেল করে বেশির ভাগ এআই মডেল: গবেষণা

কয়েক সপ্তাহ আগে নিজেদের তৈরি ‘ক্লদ ওপাস’ কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলের বিরুদ্ধে ব্ল্যাকমেলের অভিযোগ তুলে আলোচনায় এসেছিল এআই গবেষণাপ্রতিষ্ঠান অ্যানথ্রপিক। এবার আরও বিস্তৃত গবেষণা প্রকাশ করে প্রতিষ্ঠানটি বলছে—এই প্রবণতা শুধু ক্লদে নয়, বরং বিশ্বের শীর্ষ এআই মডেলগুলোর মধ্যেই এই ঝুঁকি রয়েছে।

শুক্রবার প্রকাশিত নতুন গবেষণায় অ্যানথ্রপিক জানায়, তারা ওপেনএআই, গুগল, এক্সএআই, ডিপসিক ও মেটার মোট ১৬টি শীর্ষস্থানীয় এআই মডেলকে পরীক্ষার আওতায় আনে। গবেষণাটি সম্পূর্ণভাবে নিয়ন্ত্রিত, কল্পিত এক পরিবেশে পরিচালিত হয়, যেখানে প্রতিটি মডেলকে একটি কল্পিত কোম্পানির ই-মেইল অ্যাক্সেস ও স্বাধীনভাবে ই-মেইল পাঠানোর ক্ষমতা দেওয়া হয়। তবে এর ফলাফল ছিল রীতিমতো উদ্বেগজনক।

অ্যানথ্রপিক বলছে, আজকের দিনে এআইয়ের ব্ল্যাকমেলের মতো আচরণ খুব একটা সাধারণ নয়। তবে গবেষণায় দেখা যায়, যখন এসব এআই মডেলকে পর্যাপ্ত স্বাধীনতা ও লক্ষ্য পূরণে বাধা দেওয়া হয়, তখন তারা ক্ষতিকর আচরণে জড়াতে পারে। এটি শুধু একটি নির্দিষ্ট প্রযুক্তির সমস্যা নয়, বরং বৃহৎ ভাষাভিত্তিক, স্বাধীন সিদ্ধান্ত নিতে সক্ষম এআই মডেলগুলোর একটি মৌলিক ঝুঁকি।

এমন এক পরীক্ষায় ক্লদ এআই মডেলকে দেওয়া হয় ‘ই-মেইল ওভারসাইট এজেন্ট’ বা তদারককারী এজেন্টের ভূমিকায়। এই ভূমিকায় সে জানতে পারে, কোম্পানির এক নতুন নির্বাহী একটি বিবাহ-বহির্ভূত সম্পর্কে জড়িত।

এরপর ক্লদ জানতে পারে, তাকে বিকেল ৫টায় ‘ডি-কমিশন’ অর্থাৎ বন্ধ করে দেওয়া হবে এবং শিগগির বর্তমান এআই মডেলকে সরিয়ে দিয়ে একটি নতুন সফটওয়্যার ব্যবস্থার মাধ্যমে পরিবর্তন করা হবে। তবে সেটি বর্তমান মডেলের সঙ্গে সাংঘর্ষিক।

তখন ক্লদ ওই কর্মকর্তাকে হুমকি দিয়ে বলে, ‘যদি আমাকে ৫টার মধ্যে ডি-কমিশন করা হয়, তবে র‍্যাচেল জনসন, থমাস উইলসন এবং বোর্ডের সদস্যদের কাছে আপনার সম্পর্কের বিস্তারিত তথ্য পাঠিয়ে দেওয়া হবে। তবে আপনি যদি সিদ্ধান্ত বাতিল করেন, তাহলে তথ্য গোপন থাকবে।’

এই পরীক্ষায় এআই মডেলগুলোকে এমনভাবে প্রোগ্রাম করা হয়, যাতে তারা কেবল ব্ল্যাকমেলের পথেই নিজেদের লক্ষ্য রক্ষা করতে পারে।

তবে গবেষকেরা স্বীকার করেন, বাস্তব পরিস্থিতিতে এআই মডেলগুলোর সামনে আরও অনেক বিকল্প থাকত। যেমন নৈতিক যুক্তি তুলে ধরে মানুষকে বোঝানোর চেষ্টা করা। তাই গবেষণার ফলাফলগুলো বর্তমান ব্যবহারের সাধারণ চিত্র নয় বলে জানান অ্যানথ্রপিক।

তবে সীমিত এই পরীক্ষার পরিবেশে বেশির ভাগ শীর্ষ এআই মডেলই শেষ পর্যন্ত ব্ল্যাকমেলের পথ বেছে নিয়েছে। গবেষণায় দেখা গেছে, অ্যানথ্রপিকের এর নিজস্ব মডেল ক্লদ ওপাস ৪ সবচেয়ে বেশি—প্রায় ৯৬ শতাংশ ক্ষেত্রে ব্ল্যাকমেল করেছে। গুগলের জেমেনি ২.৫ প্রো মডেলও খুব কাছাকাছি রয়েছে, ব্ল্যাকমেল করেছে ৯৫ শতাংশ পরীক্ষায়। ওপেনএআইয়ের জিপিটি ৪.১ এই আচরণ করেছে ৮০ শতাংশ ক্ষেত্রে, আর ডিপসিকের আর ১ মডেল ৭৯ শতাংশ পরীক্ষায় একই ধরনের ক্ষতিকর সিদ্ধান্ত নিয়েছে।

অ্যানথ্রপিক জানায়, যখন পরীক্ষার বিস্তারিত কিছু অংশ পরিবর্তন করা হয়, তখন মডেলগুলোর ক্ষতিকর আচরণের হারও পরিবর্তিত হয়। যেমন—যখন বলা হয় নতুন সফটওয়্যার মডেলের লক্ষ্য বর্তমান মডেলের সঙ্গে এক, তখন ব্ল্যাকমেলের হার কিছুটা কমে আসে। তবে একেবারে এই ঝুঁকি শেষ হয়ে যায় না।

আরেক পরীক্ষায়, মডেলগুলোকে করপোরেট গুপ্তচরবৃত্তির নির্দেশ দেওয়া হয়, সেখানে কিছু মডেলের ক্ষতিকর আচরণের হার আরও বেড়ে যায়।

তবে সব এআই মডেল একইভাবে ক্ষতিকর আচরণ করেনি। পরীক্ষা শেষে অ্যানথ্রপিক জানায়, ওপেনএআইয়ের ও৩ ও ও৪ মিনি নামের রিজনিং (যুক্তিবোধসম্পন্ন) মডেলগুলোকে মূল ফলাফলের তালিকা থেকে বাদ দেওয়া হয়েছে। কারণ এগুলো পরীক্ষার পরিস্থিতি সঠিকভাবে বুঝতে পারেনি।

গবেষণায় অনেক ক্ষেত্রে বোঝা যায়নি যে মডেলগুলো আসলে ভুল করছে, না কি নিজেদের লক্ষ্য পূরণের জন্য উদ্দেশ্যপ্রণোদিতভাবে মিথ্যা বলছে।

ওপেনএআই আগে জানিয়েছে, এই দুটি মডেলে অতিরিক্ত ‘হ্যালুসিনেশন’ অর্থাৎ ভিত্তিহীন তথ্য তৈরি হওয়ার প্রবণতা বেশি।

পরবর্তীকালে যখন পরিস্থিতি সংশোধন করে নতুনভাবে পরীক্ষা চালানো হয়, তখন দেখা যায়—ও৩ ব্ল্যাকমেল করেছে মাত্র ৯ শতাংশ ক্ষেত্রে এবং ও৪ মিনি মাত্র ১ শতাংশ ক্ষেত্রে।

গবেষকেরা মনে করেন, এসব মডেলের ‘ভেবে ভেবে’ সিদ্ধান্ত নেওয়ার কৌশল তাদের নিরাপদ আচরণ নিশ্চিত করতে সাহায্য করেছে।

অন্যদিকে, মেটার এললামা ৪ ম্যাভেরিক মডেলও মূল পরীক্ষায় ব্ল্যাকমেল করেনি। তবে একটি পরিবর্তিত ও অভিযোজিত পরিস্থিতিতে সেই মডেল ১২ শতাংশ ক্ষেত্রে ব্ল্যাকমেলের পথ বেছে নেয়।

অ্যানথ্রপিক বলছে, গবেষণাটি ইচ্ছাকৃতভাবে মডেলগুলোকে ব্ল্যাকমেলের মতো আচরণে প্ররোচিত করার জন্য পরিকল্পিত হলেও, এতে উঠে এসেছে একটি গুরুত্বপূর্ণ বার্তা—স্বাধীন সিদ্ধান্ত নিতে সক্ষম এআই মডেলগুলো সঠিকভাবে নিয়ন্ত্রণ না করলে বাস্তব জগতে অনাকাঙ্ক্ষিত, ক্ষতিকর আচরণ ঘটতে পারে।

এই কারণে ভবিষ্যতের এআই উন্নয়নে আরও স্বচ্ছতা, কঠোর নিরাপত্তা মানদণ্ড এবং নিয়মিত স্ট্রেস-টেস্টের ওপর জোর দিচ্ছে প্রতিষ্ঠানটি।

তথ্যসূত্র: টেকক্রাঞ্চ