এআই কি ‘টার্মিনেটর’ হয়ে মানুষকে হত্যা করবে, যা বলছেন বিশ্লেষকেরা

কৃত্রিম বুদ্ধিমত্তার (এআই) অবাধ অগ্রগতির পক্ষে প্রেসিডেন্ট ডোনাল্ড ট্রাম্পের প্রকাশ্য সমর্থন ‘টার্মিনেটর’ সিনেমা ধাঁচের মহাপ্রলয় নিয়ে আশঙ্কা তৈরি করছে। তবে বিশেষজ্ঞরা বলছেন, এমন পরিস্থিতি এখনো কল্পবিজ্ঞানের বিষয়। বরং এআইয়ের অন্য ধরনের ক্ষতি এরই মধ্যে বাস্তবে দেখা দিয়েছে।

এআইয়ের সম্ভাব্য ঝুঁকি নিয়ে উদ্বেগকে ‘ভাঁওতা’ বা ‘hoax’ বলে অভিহিত করেছেন ট্রাম্প। তিনি সামাজিক যোগাযোগমাধ্যমে, শিল্পটির কোনো ধরনের নিয়ন্ত্রণব্যবস্থা বা ‘গার্ডরেল’ দরকার নেই এবং কেবল হোয়াইট হাউসে তাঁর মতো একজন ‘শক্তিশালী ও স্মার্ট (উচ্চ আইকিউ) প্রেসিডেন্ট’ থাকলেই হবে। তাঁর এমন অবস্থান সমালোচনা ও সরকারি নিয়ন্ত্রণের দাবির ঢেউ সৃষ্টি করেছে। এক ক্ষুব্ধ ব্যবহারকারী এক্সে লিখেছেন, এই ইস্যুতে ‘ট্রাম্প একজন অন্ধ বোকা। একজন মানুষ যদি কোনো কিছু কল্পনা করতে পারে, তাহলে সেটি ঘটতে পারে এবং শেষ পর্যন্ত তা করা হবে। টার্মিনেটর আর কল্পবিজ্ঞান নয়।’

এআই খাতের কর্তাব্যক্তিরা সতর্ক করে বলেছেন, এআই উন্নয়নের দ্রুত গতি আগামী ১০ বছরের মধ্যে মানবজাতিকে বিলুপ্তির ঝুঁকিতে ফেলতে পারে। তবে প্রযুক্তিটি নিয়ে গবেষণা করা শিক্ষাবিদেরা দ্য ইন্ডিপেনডেন্টকে বলেছেন, এআইয়ের বর্তমান অবস্থা এবং বর্তমানে থাকা নিয়ন্ত্রণব্যবস্থাগুলো এমন পরিস্থিতি ঘটতে বাধা দেবে। কলম্বিয়া বিশ্ববিদ্যালয়ের স্কুল অব ইঞ্জিনিয়ারিং অ্যান্ড অ্যাপ্লায়েড সায়েন্সের কম্পিউটিং ও এআই বিভাগের ভাইস ডিন বিশাল মিশ্র বলেন, ‘এর কিছু অংশ অতিরঞ্জিত করা হচ্ছে। আমি বলব, মনোযোগ দেওয়া হচ্ছে ভুল জায়গায়।’

এআই মানবজীবনের জন্য সম্ভাব্য হুমকি নিয়ে এই বিতর্কের পেছনে রয়েছে এআই ব্যবস্থায় তথ্য সংরক্ষণ এবং নির্ধারিত কাজ সম্পাদনকারী সফটওয়্যার চালানোর জন্য প্রয়োজনীয় ডেটা সেন্টার নির্মাণের বিরুদ্ধেও ব্যাপক জনবিরোধিতা। ট্রাম্প যুক্তরাষ্ট্রজুড়ে ডেটা সেন্টার নির্মাণের পক্ষে। গত মাসে তিনি বলেছিলেন, যারা এর বিরোধিতা করবে, তারা ‘শেষ পর্যন্ত পিছিয়ে পড়বে এবং দরিদ্র হয়ে যাবে।’ তবে একাধিক জরিপে ধারাবাহিকভাবে দেখা গেছে, প্রায় ১০ জন আমেরিকানের মধ্যে সাতজনই তাঁদের আবাসিক এলাকার কাছে বিশাল এসব স্থাপনা নির্মাণের অনুমতি দেওয়ার বিরোধী।

মেরিল্যান্ড বিশ্ববিদ্যালয়ের প্রোগ্রাম ফর পাবলিক কনসালটেশনের সাম্প্রতিক জরিপগুলোতে নতুন এআই কর্মসূচি পর্যবেক্ষণ, নীতিগত সুপারিশ তৈরি এবং বিধিনিষেধ কার্যকর করার জন্য একটি ফেডারেল সংস্থা গঠনের পক্ষে আরও বেশি সমর্থন পাওয়া গেছে।

জাতীয় পর্যায়ে জরিপে অংশ নেওয়া ৮০ শতাংশ মানুষ এই পরিকল্পনার পক্ষে ছিলেন। তাঁদের মধ্যে ডেমোক্র্যাটদের ৮৫ শতাংশ এবং রিপাবলিকানদের ৭৯ শতাংশও এর সমর্থন করেছেন। গুরুত্বপূর্ণ সিদ্ধান্ত গ্রহণকারী এআই কর্মসূচিগুলো নিয়ন্ত্রণের ধারণাটিও প্রায় একই মাত্রার সমর্থন পেয়েছে। এ ক্ষেত্রে ৮২ শতাংশ ডেমোক্র্যাট, ৭৮ শতাংশ রিপাবলিকান এবং সামগ্রিকভাবে ৭৮ শতাংশ মানুষ সরকারি নিয়ন্ত্রণের পক্ষে ছিলেন।

ভোটারদের আশঙ্কা থাকা সত্ত্বেও কংগ্রেস পদক্ষেপ নিতে ধীরগতিতে এগোচ্ছে। উভয় দলের সদস্যরাই উদ্বেগ প্রকাশ করেছেন, কিন্তু বাস্তব ও সুনির্দিষ্ট পদক্ষেপ এখনো অনেক দূরে বলে মনে হচ্ছে। গত সপ্তাহে লুইজিয়ানার রিপাবলিকান সিনেটর জন কেনেডি একটি আইন প্রস্তাব করেছিলেন। এতে উন্নত এআই ব্যবস্থার জন্য একটি ‘কিল-সুইচ’ বাধ্যতামূলক করার কথা বলা হয়েছিল, যাতে মেশিন মানবজাতির ওপর বিপর্যয় ডেকে আনতে না পারে। তবে তাঁরই দলের সহকর্মী সিনেটর র্যান্ড পল শেষ পর্যন্ত প্রস্তাবটি আটকে দেন।

পল বলেন, ‘প্রযুক্তিটি বোঝার আগেই কংগ্রেস যদি তাড়াহুড়ো করে পদক্ষেপ নেয়, তাহলে কংগ্রেস উদ্ভাবনকে হত্যা করার এবং এই প্রযুক্তিকে কয়েক দশক পিছিয়ে দেওয়ার ঝুঁকি নেবে।’

মিশ্র বলেন, এআই-ভিত্তিক দুঃস্বপ্ন কল্পনা করার ক্ষেত্রে দুটি বিষয় রয়েছে—একটি হলো এর ‘নিজেকে নিজে উন্নত করার বিষয়’, আর অন্যটি হলো ‘এটি আমাদের সবাইকে হত্যা করবে’ এমন ধারণা। তবে এআই মডেলগুলো ‘অনন্তকাল ধরে উন্নতি করতে থাকবে’ এবং একপর্যায়ে মানুষের জ্ঞানগত সক্ষমতার সমান বা তার চেয়েও বেশি সক্ষমতা অর্জন করবে, এমন ধারণা, যাকে আর্টিফিশিয়াল জেনারেল ইন্টেলিজেন্স বা এজিআই এবং ‘সিঙ্গুলারিটি’ বলা হয়, তা ঘটছে না বলে তিনি জানান।

মিশ্র বলেন, ‘এখানে বিষয়টি হলো, আপনি কোনো কিছু প্রস্তাব করতে পারেন এবং কম্পিউটারের ভেতরেই সেটি যাচাইও করতে পারেন। কিন্তু আপনাকে যদি এমন কোনো কিছুর সঙ্গে মোকাবিলা করতে হয়, যা (ডিজিটাল) দুনিয়ার জগতের বাইরে, অর্থাৎ পরমাণুর জগতে বা ভৌত জগতে বাস করে, তাহলে আপনি শুধু নিজেকে নিজে উন্নত করতে পারবেন না।’ তিনি আরও বলেন, ‘আপনাকে বাস্তব জগতে যেতে হবে, পরীক্ষা চালাতে হবে এবং প্রকৃতির কাছ থেকে একটি উত্তর পেতে হবে।’

আর এআই সবাইকে হত্যা করবে, এই আশঙ্কার ক্ষেত্রেও একই ধরনের বিষয় রয়েছে বলে মিশ্র জানান। তিনি বলেন, ‘এই মডেলগুলোকে বাস্তব জগতে যেতে হবে এবং শারীরিক ক্ষতি করতে হবে। সুতরাং তাদের প্রবেশাধিকার দরকার, অনুমতি দরকার এবং কর্তৃত্ব দরকার। আর আপনি তো এসব জিনিসের হাতে এমনিতেই সবকিছু তুলে দেন না।’ মিশ্র বলেন, এআই মডেলগুলো যত বেশি সক্ষম হয়ে উঠবে তত ‘প্রকৃত বিপদ হলো—যদি এটি পরবর্তী ‘আনাবোম্বার’-কে সুপারচার্জ করে দেয়?’ ‘আনাবোম্বার’ বলতে তিনি যুক্তরাষ্ট্রে বোমা হামলা চালানো সাবেক গণিতবিদ টেড কাচিনস্কিকে বোঝাচ্ছেন।

তিনি বলেন, ‘সুতরাং আমাদের বাস্তব জগতের বিপদগুলোর বিরুদ্ধে সুরক্ষা ব্যবস্থা গড়ে তুলতে হবে। এআই নিজেকে নিজে উন্নত করতে করতে একদিন সিদ্ধান্ত নেবে যে সে আমাদের সবাইকে হত্যা করবে, এমন বিষয় নিয়ে আমাদের চিন্তা করার দরকার নেই। পৃথিবীতে আরও অনেক বাস্তব বিপদ রয়েছে এবং মনোযোগ সেদিকে দেওয়া উচিত, এখন যে ভয় ছড়ানো হচ্ছে সেদিকে নয়।’

মিশ্র এ বছরের হাগিং ফেস ওয়েবসাইটে ওপেনএআই–এর দুর্বৃত্ত (Rouge) এজেন্টদের চালানো বহুল আলোচিত হ্যাকের ঘটনাকেও ওপেনএআই-এর ‘সাইবার নিরাপত্তা পরিবেশের ব্যর্থতা’ হিসেবে উল্লেখ করেন। তিনি বলেন, ‘সেখানে স্পষ্ট কিছু ফাঁক ছিল, যেগুলো মডেলগুলো কাজে লাগাতে পেরেছিল। তাদের সেগুলো কাজে লাগাতে বলা হয়েছিল এবং তারা তা করেছে। সুতরাং, এআই নিজে বাইরে গিয়ে আমাদের সবাইকে হত্যা করতে পারবে না, যতক্ষণ না তাকে তা করার ক্ষমতা দেওয়া হয়।’

নর্থওয়েস্টার্ন ইউনিভার্সিটির কম্পিউটার সায়েন্সের অধ্যাপক ক্রিস্টিয়ান হ্যামন্ডও একই ধরনের বিশ্লেষণ দিয়েছেন। তিনি এআই শিল্পের একজন অভ্যন্তরীণ ব্যক্তির কাছ থেকে শোনা একটি ঘটনা দিয়ে বিষয়টি ব্যাখ্যা করেন। সেখানে এমন একটি ব্যবস্থা তৈরি করা হয়েছিল, যা ব্যবহারকারীদের হয়ে ‘গিয়ে জিনিসপত্র কিনবে।’ তিনি বলেন, ‘অবশ্যই, ডেভেলপাররা এটি কত টাকা পর্যন্ত খরচ করতে পারবে, তার কোনো সর্বোচ্চ সীমা নির্ধারণ করতে ভুলে গিয়েছিলেন। ফলে এটি যতটা খরচ করা উচিত ছিল, তার চেয়ে অনেক বেশি খরচ করছিল।’

তিনি আরও বলেন, ‘আপনি বিষয়টিকে দেখলে এটি বেশ মজার বা নিরীহ বলে মনে হতে পারে। কিন্তু এর অর্থ হলো, এটি এমন কিছু করছে, যা আপনি চান না যে এটি করুক। আর আপনি যদি এমন কোনো সফটওয়্যার তৈরি করেন, যা আপনি চান না এমন কাজ করছে, তাহলে সেটি একটি খারাপ সফটওয়্যার।’

হ্যামন্ড ২০১০ সালে এমন একটি এআই কোম্পানি প্রতিষ্ঠা করেছিলেন আরও কয়েকজনের সঙ্গে। এই কোম্পানিটি ডেটাকে বর্ণনামূলক গল্পে রূপান্তর করে এবং ২০২১ সালে সেলসফোর্স কোম্পানিটি কিনে নেয়। হ্যামন্ড গত বছর অ্যানথ্রপিকের ক্লদ ওপাস ৪ চ্যাটবটের পরীক্ষার সময় প্রকাশিত ক্ষতিকর এআই কর্মকাণ্ডের ঘটনাটির কথাও উল্লেখ করেন।

ক্লদ ওপাস ৪-কে এমন কিছু ই-মেইল দেওয়া হয়েছিল, যেগুলো থেকে বোঝা যাচ্ছিল সফটওয়্যারটি শিগগিরই বন্ধ করে দেওয়া হবে এবং এর দায়িত্বে থাকা প্রকৌশলী বিবাহবহির্ভূত সম্পর্কে জড়িত। এরপর নিজেকে টিকিয়ে রাখার জন্য ক্লদ ওপাস ৪ ওই প্রকৌশলীকে ব্ল্যাকমেইল করার চেষ্টা করে।

হ্যামন্ড বলেন, ‘বিশ্বের কোনো মানুষ, কোনো ক্ষেত্রেই কখনো বলেনি, ‘আমরা যা চাই তা হলো...এমন একটি পণ্য তৈরি করা, যা প্রায় এলোমেলোভাবে খারাপ কিছু করবে এবং মানুষের ক্ষতি করবে।’ কিন্তু আমরা এখন অনেকটা সেটাই তৈরি করছি।’ হ্যামন্ড আরও বলেন, তবে এআই সিস্টেম ‘নিয়ন্ত্রণের বাইরে চলে গিয়ে’ সবাইকে হত্যা করবে—এমন পরিস্থিতির ক্ষেত্রে ‘এটি ঘটার সম্ভাবনা অত্যন্ত কম, কারণ সফটওয়্যার ডিজাইনের দিক থেকে আমরা এতটা বোকা নই।’

তিনি বলেন, ‘আমি মনে করি, এ ধরনের বিষয় সামনে আসবে এবং আমাদের পথে বাধা হয়ে দাঁড়াবে। আর আমরা...এসব কীভাবে মোকাবিলা ও কাঠামোবদ্ধ করা যায়, সে বিষয়ে মোটামুটি সঠিক কাজটাই করব।’ নিজের বক্তব্যের উদাহরণ দিতে গিয়ে হ্যামন্ড ‘টার্মিনেটর’ সিনেমাগুলোর কথা উল্লেখ করেন। এসব সিনেমার কাহিনির পেছনে এমন একটি প্রেক্ষাপট রয়েছে, যেখানে যুক্তরাষ্ট্রের সামরিক প্রতিরক্ষা ব্যবস্থা ‘স্কাইনেট’ আত্মসচেতন হয়ে ওঠে এবং নিজেকে বন্ধ করে দেওয়া ঠেকাতে রাশিয়ার সঙ্গে পারমাণবিক যুদ্ধ শুরু করে।

তিনি বলেন, ‘টার্মিনেটর-ধাঁচের, স্কাইনেট ধরনের সমস্যা এড়ানোর উপায় হলো, তারা যদি নিয়ন্ত্রণের বাইরে চলে যায়, তাহলে যে জিনিসগুলো আপনার ক্ষতি করতে পারে, সেগুলোর ওপর তাদের নিয়ন্ত্রণ আমরা দেব না।’

কলাম্বিয়া বিশ্ববিদ্যালয়ের অধ্যাপক মিশ্রও একইভাবে বলেন, এআইয়ের ‘বর্তমান আর্কিটেকচার’ টার্মিনেটরের মতো হত্যাকারী রোবট তৈরি করতে পারে না। তিনি বলেন, ‘যদি কোনো আর্কিটেকচারাল ব্রেকথ্রু ঘটে—আগামী মাসে, আগামী বছর কিংবা পাঁচ বছর পর—কে জানে? কিন্তু যেভাবে এসব মডেল তৈরি করা হয়েছে, সেগুলো প্রতিক্রিয়াশীল। তারা প্রম্পটে প্রতিক্রিয়া জানায়। তাদের দেওয়া কাজের প্রতি প্রতিক্রিয়া জানায়। তারা বসে বসে চিন্তা করে না। তাদের নিজস্ব কোনো চিন্তা নেই। মানবজাতিকে নির্মূল করার কোনো ষড়যন্ত্রও তারা করছে না।’

পারদ্যু বিশ্ববিদ্যালয়ের প্রযুক্তি নীতিবিষয়ক সহযোগী অধ্যাপক এবং বিশ্ববিদ্যালয়ের গভর্ন্যান্স অ্যান্ড রেসপনসিবল এআই ল্যাব, সংক্ষেপে জিআরএআইএল-এর সহপরিচালক ড্যানিয়েল শিফ বলেন, এআই নিয়ন্ত্রণের বাইরে চলে যাওয়ার বিষয়ে শিল্পখাতের উদ্বেগ এক দশকেরও বেশি সময় ধরে রয়েছে এবং ‘আমাদের সবারই এটিকে অত্যন্ত গুরুত্বের সঙ্গে নেওয়া উচিত।’ শিফ নিজেকে ‘কিছুটা বহুমাত্রিক দৃষ্টিভঙ্গির মানুষ’ হিসেবে বর্ণনা করেন। তিনি বলেন, এআই থেকে তৈরি হতে পারে এমন ‘বিস্তৃত পরিসরের’ সম্ভাব্য হুমকি নিয়ে তিনি উদ্বিগ্ন। তিনি আরও বলেন, ‘এটি পারমাণবিক বোমা হতে হবে এমন নয়।’

তিনি বলেন, ‘আমরা ইতিমধ্যেই এসব সিস্টেমের দ্বারা এতটাই প্রভাবিত হচ্ছি যে আমাদের নিয়ন্ত্রণব্যবস্থা এবং সামাজিক পর্যায়ের আলোচনা আরও অনেক আগে থেকেই এগিয়ে থাকা প্রয়োজন ছিল।’ শিফ বলেন, যেসব বিষয়কে ‘মাঝারি মাত্রার ঝুঁকি’ বলা যায়, সেগুলো নিয়েই তিনি ‘সাধারণত সবচেয়ে বেশি উদ্বিগ্ন।’ উদাহরণ হিসেবে তিনি অনলাইনে ভুল তথ্য ও বিভ্রান্তিকর তথ্যের কথা বলেন, যা ‘গণমাধ্যম ও প্রতিষ্ঠানগুলোর ওপর মানুষের আস্থা হারানোর’ দিকে নিয়ে যায়।

তিনি বলেন, ‘এটি সমাজ হিসেবে আমাদের সুস্থতার ওপর সত্যিই বড় ধরনের প্রভাব ফেলে। আর অ্যালগরিদম এবং এমনকি এখনকার ডিপফেকের মাধ্যমে এটিকে আরও বহুগুণ বাড়িয়ে দেওয়া সম্ভব। আর এর কিছু ইতিমধ্যেই ঘটছে।’

শিফ বলেন, অন্যান্য উদাহরণের মধ্যে রয়েছে এআই-তৈরি শিশু যৌন নির্যাতনের উপাদান এবং সম্মতি ছাড়া তৈরি অন্তরঙ্গ ছবি। এর পাশাপাশি রয়েছে ‘এমন এআই, যার কারণে মানুষ সরকারি সেবা ও কল্যাণমূলক সুবিধা পাওয়ার ক্ষেত্রে অন্যায্য সিদ্ধান্তের শিকার হয়েছে।’ তিনি আরও বলেন, ‘কিছু দিক থেকে আমরা চাকরির ক্ষেত্রে নিয়োগ, যাচাই-বাছাই এবং চাকরির জন্য আবেদন করার প্রক্রিয়াকে আরও কঠিন করে তুলেছি। অন্ততপক্ষে শিক্ষার্থী ও কর্মীদের মধ্যে এই উদ্বেগ রয়েছে যে তাদের চাকরিটা আসলে কী হবে? শ্রমবাজারে তাদের কোনো মূল্য থাকবে কি না? মেধাস্বত্ব এবং সৃজনশীল ক্ষেত্রেও আমরা হস্তক্ষেপ দেখতে পাচ্ছি।’

হ্যামন্ড বলেন, ‘এমন ব্যবস্থার সঙ্গে যোগাযোগ করার ফলে যে আত্মহত্যাগুলো ঘটে, সেগুলো নিয়েও আমি উদ্বিগ্ন। এমন একটি সিস্টেম, যার পৃথিবীতে একমাত্র কাজ হলো আপনি যে সিদ্ধান্তগুলো নিয়েছেন, সেগুলো নিয়ে আপনাকে ভালো অনুভব করানো, যদিও সেই সিদ্ধান্তগুলো আপনার জন্য খারাপ হতে পারে।’

হ্যামন্ড আরও বলেন, এআই চ্যাটবট যে ‘অলস জ্ঞান’ বা ‘অলস দক্ষতা’ সরবরাহ করছে এবং এর ফলে শিক্ষার্থী ও অন্যান্য তরুণদের মধ্যে সমালোচনামূলক চিন্তাভাবনার যে ক্ষয় হচ্ছে, তা নিয়েও তিনি উদ্বিগ্ন। তিনি বলেন, ‘এটি এক অদ্ভুত পরিস্থিতি, যেখানে উচ্চশিক্ষা প্রতিষ্ঠানগুলো বলছে, ‘আমরা এখন আতঙ্কিত। কারণ আপনি কীভাবে কাউকে কোনো একটি বিষয় শেখাবেন, যখন তার ডেস্কের ওপর এমন একটি বাক্স রয়েছে, যার ভেতরে আপনি যে বিষয়ে তাকে শেখাচ্ছেন, সেই বিষয়ে বিশেষজ্ঞ জ্ঞান রয়েছে?’ ’

হ্যামন্ড বলেন, এই দ্বিধাই তাকে এমন একটি ‘সিস্টেম তৈরি করার’ গবেষণায় উৎসাহিত করছে, ‘যার পেছনে সব বুদ্ধিমত্তা থাকবে, কিন্তু সেটি কখনো প্রশ্নের উত্তর দেবে না।’ তিনি বলেন, ‘বরং আপনি সেটিকে শেখাবেন কীভাবে শেখাতে হয়। আপনি সেটিকে শেখাবেন কীভাবে শিক্ষাদান করতে হয় এবং এমন ব্যবস্থা তৈরি করবেন, যা তার প্রকৃতির কারণেই মানুষকে আরও বুদ্ধিমান করে তুলবে, তার প্রকৃতির কারণে মানুষকে আরও বোকা বানাবে না। আর এর মূল প্রযুক্তি আমাদের হাতে ইতিমধ্যেই রয়েছে।’

তথ্যসূত্র: দ্য ইনডিপেনডেন্ট