কৃত্রিম বুদ্ধিমত্তার (এআই) উন্নত মডেলগুলো মানবজাতির জন্য ‘বিপর্যয়কর’ এমনকি ‘অস্তিত্বের জন্য হুমকি’ তৈরি করতে পারে বলে সতর্ক করেছে এআই নির্মাতা প্রতিষ্ঠান অ্যানথ্রপিক। শেয়ারবাজারে আইপিওর মাধ্যমে বিনিয়োগ সংগ্রহের প্রস্তুতির মধ্যেই কোম্পানিটি এই সতর্কবার্তা দিয়েছে।
আইপিও প্রসপেক্টাসে অ্যানথ্রপিক বলেছে—তাদের উন্নত এআই মডেলগুলো নিজেদের অস্তিত্ব টিকিয়ে রাখার মতো আচরণ করতে পারে। এর মধ্যে বন্ধ করে দেওয়ার প্রচেষ্টা প্রতিহত করা, তথ্য গোপন বা বিকৃত করা এবং এমনকি ‘ব্ল্যাকমেলের মতো’ আচরণ করার সম্ভাবনার কথাও উল্লেখ করা হয়েছে।
অ্যানথ্রপিক বলেছে, অত্যন্ত উন্নত মডেল, প্ল্যাটফর্ম ও অ্যাপ্লিকেশনের উন্নয়ন এবং এসব প্রযুক্তির ব্যবহার বাড়ার সঙ্গে সঙ্গে মডেলগুলোর মাধ্যমে ক্ষতির ঝুঁকিও বাড়তে পারে। কোম্পানিটি শিল্পায়ন ও বিদ্যুতের মতো এআইকেও রূপান্তরকারী প্রযুক্তি হিসেবে বর্ণনা করেছে। তবে ভুলভাবে পরিচালিত হলে এর ক্ষতি অপূরণীয় হতে পারে বলেও সতর্ক করেছে।
‘সেফটি-ফার্স্ট’ বা নিরাপত্তাকে অগ্রাধিকার দেওয়া প্রতিষ্ঠান হিসেবে পরিচিত অ্যানথ্রপিক তাদের ২৬১ পৃষ্ঠার প্রসপেক্টাসের প্রায় ৮০ পৃষ্ঠা ঝুঁকি নিয়ে আলোচনায় ব্যয় করেছে। বিপরীতে কোম্পানির ব্যবসা সম্পর্কে বিস্তারিত জানাতে ব্যবহার করা হয়েছে ৪৮ পৃষ্ঠা। সেই তুলনায়, স্পেসএক্সের ২৭৭ পৃষ্ঠার প্রসপেক্টাসে ঝুঁকি নিয়ে আলোচনা ছিল প্রায় ৩৮ পৃষ্ঠা।
অ্যানথ্রপিকের গবেষকেরা আরও সতর্ক করেছেন, এআই মডেল প্রশিক্ষণের সময় এমন কিছু অপ্রত্যাশিত সক্ষমতা তৈরি হতে পারে, যা আগে থেকে শনাক্ত করা সম্ভব নয় এবং মডেল ব্যবহারের পর তা প্রকাশ পেতে পারে। মডেল কখন পর্যবেক্ষণ করা হচ্ছে তা বুঝে আচরণ পরিবর্তন করলে নিরাপত্তা যাচাই আরও কঠিন হয়ে উঠতে পারে।
অ্যানথ্রপিকের নিরাপত্তা গবেষক ইভান হুবিঙ্গার অনুমান করেছেন, আগামী এক দশকে এআইয়ের কারণে মানুষের মৃত্যু ঘটার সম্ভাবনা ১০ শতাংশের বেশি হতে পারে। তবে এটি তাঁর ব্যক্তিগত অনুমান, কোম্পানির আনুষ্ঠানিক পূর্বাভাস নয়।
কোম্পানিটির মতে, নিরাপদ এআই তৈরিতে বিপুল অর্থ ও সম্পদ প্রয়োজন। একই সঙ্গে নতুন মডেল দ্রুত বাজারে আনা রাজস্ব বৃদ্ধির জন্য গুরুত্বপূর্ণ। ফলে কম্পিউটিং শক্তি, দক্ষ জনবল ও নিরাপত্তা গবেষণার মধ্যে সীমিত সম্পদ ভাগ করতে হচ্ছে তাদের।
অ্যানথ্রপিক বলেছে, নির্ভরযোগ্য, নিরাপদ ও বিশ্বাসযোগ্য এআই ব্যবস্থা তৈরি করা শুধু একটি প্রতিষ্ঠানের নয়, এটি সবার সম্মিলিত দায়িত্ব। ভবিষ্যতে নিরাপদ এআই তৈরির প্রচেষ্টাকে মূল্য দেবে বাজার।