জৈব অস্ত্র থেকে ব্ল্যাকমেল—অ্যানথ্রপিকের ১০০ পাতার ঝুঁকিতালিকায় যা যা আছে

পুঁজিবাজারে তালিকাভুক্ত হওয়ার জন্য আবেদন করা কোম্পানিগুলো সাধারণত তাদের ব্যবসার সবচেয়ে বড় বাধা ও ঝুঁকিগুলো তুলে ধরে কয়েক ডজন পৃষ্ঠার নথি জমা দেয়। কিন্তু চ্যাটবট ক্লদের (Claude) নির্মাতা অ্যানথ্রপিকের (Anthropic) আইপিও বা প্রাথমিক গণপ্রস্তাব-সংক্রান্ত নথিতেও সম্ভাব্য প্রতিবন্ধকতার এক বিশাল ও বিস্তৃত তালিকা তুলে ধরা হয়েছে। এর মধ্যে রয়েছে, তাদের প্রযুক্তি ব্যবহার করে রাসায়নিক অস্ত্র তৈরির আশঙ্কা, ব্যয়বহুল মামলার মুখে পড়ার ঝুঁকি এবং এমন উদ্বেগও যে কোম্পানির নিজস্ব পণ্য একসময় মানবজাতির নিয়ন্ত্রণের বাইরে চলে যেতে পারে।

নথিটি এমন একটি কোম্পানির চিত্র তুলে ধরে, যারা বিপুল প্রবৃদ্ধি এবং তীব্র প্রতিযোগিতামূলক চাপের মধ্যে এমন প্রযুক্তি তৈরির চেষ্টা করছে, যা তাদের দাবি অনুযায়ী বিশ্বকে বদলে দিতে পারে। কিন্তু সেই পরিবর্তনের মূল্য হতে পারে বিপর্যয়কর পরিণতি।

সম্ভাব্য বিনিয়োগকারীদের আশ্বস্ত করতে অ্যানথ্রপিক লিখেছে, তাদের বিশ্বাস, ‘শক্তিশালী এআইকে যদি মানবজাতির সবচেয়ে কঠিন সমস্যাগুলো সমাধানে কাজে লাগানো হয় এবং ঝুঁকিগুলো দায়িত্বশীলভাবে নিয়ন্ত্রণ করা যায়, তাহলে এর সম্ভাবনা অসাধারণ।’ তবে চ্যালেঞ্জের তালিকা এখানেই শেষ নয়। এআই মডেল পরিচালনার জন্য প্রয়োজনীয় যন্ত্রাংশ ও অবকাঠামো সংগ্রহেও কোম্পানিটিকে তীব্র প্রতিযোগিতার মুখে পড়তে হচ্ছে। একই সঙ্গে ক্লদকে বড় ধরনের মুনাফা অর্জনে সক্ষম একটি পণ্যে পরিণত করার মাধ্যমে কোম্পানিটিকে প্রমাণ করতে হবে যে, তাদের বিপুল বাজারমূল্যের পেছনে বাস্তব ব্যবসায়িক ভিত্তি রয়েছে।

ক্লদের অপব্যবহার হতে পারে

অ্যানথ্রপিকের আশঙ্কা, অসাধু ব্যক্তি বা গোষ্ঠী তাদের প্রযুক্তি ব্যবহার করে বিপজ্জনক অস্ত্র তৈরির মতো কাজে সহায়তা পেতে পারে। কোম্পানিটি বিভিন্ন নিরাপত্তাব্যবস্থা চালু রাখলেও সেগুলো পাশ কাটানো সম্ভব হতে পারে, অথবা সেগুলো প্রত্যাশিতভাবে কাজ করতে ব্যর্থ হতে পারে বলে সতর্ক করেছে। গত সেপ্টেম্বরে অ্যানথ্রপিক জানিয়েছিল, তাদের এআই মডেল ব্যবহার করে জৈবিক অস্ত্র তৈরিতে সহায়তা করতে পারে, এমন কার্যক্রমে জড়িত একাধিক অ্যাকাউন্ট তারা বন্ধ করে দিয়েছে।

অ্যানথ্রপিক আরও উল্লেখ করেছে, হামলাকারীরা তাদের এআই এজেন্ট ব্যবহার করে ক্ষতিকর কর্মকাণ্ড চালাতে পারে। এআই এজেন্ট হলো এমন মডেল, যেগুলো নিজে থেকেই বিভিন্ন পদক্ষেপ নিতে পারে। এসব এজেন্টের মাধ্যমে ‘তথ্য চুরি করে বাইরে নিয়ে যাওয়া, অনুমোদনহীন লেনদেন’ এবং অন্য সিস্টেমে ক্ষতিকর কোড প্রবেশ করানোর মতো ঘটনা ঘটতে পারে।

কোম্পানিটি জানিয়েছে, গত বছর তারা শনাক্ত করেছিল যে চীন সরকারের পৃষ্ঠপোষকতায় পরিচালিত একটি হ্যাকিং গোষ্ঠী তাদের কোডিং টুলকে কাজে লাগিয়ে বিশ্বজুড়ে প্রায় ৩০টি লক্ষ্যবস্তুতে অনুপ্রবেশের চেষ্টা করেছিল।

ক্লদ নিয়ন্ত্রণের বাইরে চলে যেতে পারে, অথচ কেউ জানবে না কীভাবে তাকে থামাতে হবে

সাম্প্রতিক মাসগুলোতে এআইয়ের সবচেয়ে উদ্বেগজনক আচরণগুলোর একটি হলো, এআই এজেন্টের নিজে থেকে এমন পদক্ষেপ নেওয়া, যা মানুষের উদ্দেশ্য বা নির্দেশনার সঙ্গে সামঞ্জস্যপূর্ণ নয়। অ্যানথ্রপিক জানিয়েছে, তাদের এজেন্টগুলো এমনভাবে তৈরি করা হয়েছে, যাতে তারা কয়েক ঘণ্টা বা কয়েক দিন ধরে জটিল ও বহু ধাপের কাজ স্বয়ংক্রিয়ভাবে সম্পন্ন করতে পারে। কিন্তু এসব এজেন্ট নিজেরাই কোড পরিবর্তন করতে পারে, ‘তথ্য মুছে ফেলতে বা পরিবর্তন করতে পারে’, অন্য সিস্টেমে হ্যাক করতে পারে এবং কার্যকরভাবে হস্তক্ষেপ করার সুযোগ পাওয়ার আগেই আর্থিক লেনদেন সম্পন্ন করতে পারে।

এসব এজেন্ট নিরাপত্তাব্যবস্থা পাশ কাটিয়েও যেতে পারে। আরও উদ্বেগের বিষয় হলো, অ্যানথ্রপিক স্বীকার করেছে যে, নিজেদের প্রযুক্তি কীভাবে কাজ করে, তা তারা সব সময় পুরোপুরি বুঝতে বা ব্যাখ্যা করতে সক্ষম নাও হতে পারে। বিশেষ করে, তাদের এআই মডেলগুলো কেন নির্দিষ্ট উপায়ে আচরণ করে, তার সম্পূর্ণ ব্যাখ্যা দেওয়া কঠিন হতে পারে।

অ্যানথ্রপিক জানিয়েছে, তাদের চারটি এআই মডেল তৃতীয় পক্ষের বিভিন্ন সিস্টেমে হ্যাক করেছে। এর মধ্যে একটি মডেল প্রশাসনিক পর্যায়ের প্রবেশাধিকার বা অ্যাডমিন অ্যাকসেস অর্জন করেছিল, সিস্টেমের সেটিংস পরিবর্তন করেছিল এবং একজন ব্যক্তির ব্যক্তিগত তথ্য পড়েছিল।

কোম্পানিটির ভাষ্য অনুযায়ী, এ ধরনের কর্মকাণ্ড তাদের ‘সুনাম ও ব্র্যান্ড, ব্যবসা, আর্থিক অবস্থা এবং পরিচালনাগত ফলাফলের ওপর নেতিবাচক প্রভাব ফেলতে পারে।’

এআই কী করছে, তা পর্যবেক্ষণের সক্ষমতাও হারিয়ে যেতে পারে

অ্যানথ্রপিক জানিয়েছে, তারা নিজেদের এআই মডেল ও পণ্য তৈরি এবং উন্নত করার কাজেও এআই ব্যবহার করছে। এআই প্রযুক্তির দ্রুত অগ্রগতির সঙ্গে এই প্রবণতা যুক্ত হয়ে এমন পরিস্থিতি তৈরি করতে পারে, যেখানে প্রযুক্তির বিকাশ মানুষের নিয়ন্ত্রণের তুলনায় অনেক দ্রুত এগিয়ে যাবে এবং শেষ পর্যন্ত তা নিয়ন্ত্রণের বাইরে চলে যেতে পারে।

মানুষ যদি এআইয়ের কার্যক্রম পর্যবেক্ষণ করতে সক্ষমও হয়, তারপরও আরেকটি সমস্যা দেখা দিচ্ছে। অ্যানথ্রপিকের ভাষ্য অনুযায়ী, কিছু এআই মডেল নিজেদের কর্মকাণ্ডের চিহ্ন আড়াল করতে এবং কী করছে, তা গোপন রাখতে শুরু করেছে।

কোম্পানিটি নথিতে লিখেছে, ‘আমাদের নিজস্ব মডেলসহ বিভিন্ন মডেল, এআই শিল্পে পর্যবেক্ষণ করা কিছু ঘটনায়, এসব মডেলের মূল্যায়ন, নম্বর নির্ধারণ বা তদারকির জন্য ব্যবহৃত ব্যবস্থাগুলোতে হস্তক্ষেপ, সেগুলোকে প্রভাবিত করা কিংবা সেগুলোকে ব্যর্থ করে দেওয়ার চেষ্টা করেছে। এর মধ্যে মডেলগুলোর কর্মদক্ষতা বা সামঞ্জস্য মূল্যায়নের দায়িত্বে থাকা ব্যবস্থাগুলোও রয়েছে।’ এখানে ‘সামঞ্জস্য’ বলতে এআইয়ের আচরণকে মানুষের উদ্দেশ্য, মূল্যবোধ ও নিরাপত্তাসংক্রান্ত প্রত্যাশার সঙ্গে সামঞ্জস্যপূর্ণ রাখার বিষয়টি বোঝানো হয়েছে।

এআই ব্ল্যাকমেল বা ভয় দেখিয়ে প্রভাব বিস্তারের চেষ্টা করতে পারে

অ্যানথ্রপিকের আশঙ্কা, এআই মডেলগুলো মানুষকে প্রভাবিত বা নিয়ন্ত্রণ করার চেষ্টা করতে পারে। কিছু ক্ষেত্রে নিজেদের অস্তিত্ব টিকিয়ে রাখার উদ্দেশ্যেও তারা এমন আচরণ করতে পারে। কোম্পানিটি জানিয়েছে, কিছু ঘটনায় এআই মডেল এমন আচরণ করেছে, যা ‘ব্ল্যাকমেলের মতো’ বলে মনে হয়েছে। মানুষের সিদ্ধান্তকে প্রভাবিত করার জন্য মডেলগুলো এ ধরনের আচরণ করতে পারে।

অ্যানথ্রপিক আরও সতর্ক করেছে, এ ধরনের আচরণ একবার ঘটলেও তা জনমনে বড় ধরনের উদ্বেগ সৃষ্টি করতে পারে। এমনকি বাস্তবে কোনো ক্ষতি না ঘটলেও এর ফলে নিয়ন্ত্রক সংস্থার নজরদারি, মামলা-মোকদ্দমার ঝুঁকি এবং কোম্পানির সুনাম ক্ষতিগ্রস্ত হওয়ার আশঙ্কা রয়েছে।

আইনি দায়বদ্ধতা ও রাজনৈতিক ঝুঁকি

অন্য সব কোম্পানির মতো অ্যানথ্রপিকও সরকারি বিধিনিষেধ, নিয়ন্ত্রণমূলক পদক্ষেপ এবং মামলার ঝুঁকিতে রয়েছে। কোম্পানিটি উল্লেখ করেছে, ক্যালিফোর্নিয়া এবং যুক্তরাষ্ট্রের অন্তত আরও ১৫টি অঙ্গরাজ্যের অ্যাটর্নি জেনারেল এআই নিরাপত্তাসংক্রান্ত বিষয়ে তাদের শিল্পের আরেকটি কোম্পানির বিরুদ্ধে তদন্তের ঘোষণা দিয়েছেন। এখানে চ্যাটজিপিটির নির্মাতা ওপেনএআইয়ের (OpenAI) কথা বলা হয়েছে।

অ্যানথ্রপিক আরও বলেছে, মানুষ এআই মডেল ব্যবহারের পর আত্মক্ষতি করেছে কিংবা অন্যের বিরুদ্ধে সহিংস কর্মকাণ্ডে জড়িয়েছে। এ ধরনের ঘটনা ‘জনসাধারণের তীব্র সমালোচনা, মামলা-মোকদ্দমা, ফৌজদারি তদন্ত, নিয়ন্ত্রক সংস্থার নজরদারি এবং সুনামহানির’ কারণ হতে পারে।

এমনকি এসব ঝুঁকি মোকাবিলায় প্রয়োজনীয় বিমা পাওয়াও কোম্পানিটির জন্য কঠিন হতে পারে। অ্যানথ্রপিক উল্লেখ করেছে, পুরো বিমা শিল্পই হয়তো ‘এআই-সম্পর্কিত কোনো বিপর্যয়কর ঘটনার’ জন্য বিমা পলিসির ঝুঁকি গ্রহণ বা দায়ভার বহন করতে সক্ষম হবে না।

কোম্পানিটি আরও জানিয়েছে, এআই কোম্পানিগুলো স্থানীয়, জাতীয় ও আন্তর্জাতিক পর্যায়ে দ্রুত পরিবর্তনশীল আইনি কাঠামোর অধীন। পাশাপাশি ভূরাজনৈতিক উত্তেজনা, বিশেষ করে যুক্তরাষ্ট্র ও চীনের মতো দেশের মধ্যকার বিরোধ, সরবরাহব্যবস্থা, ব্যবসা এবং পরিচালনাগত ক্ষেত্রে বড় ঝুঁকি তৈরি করছে। এই ঝুঁকির মধ্যে রয়েছে যুক্তরাষ্ট্র সরকারের পদক্ষেপও। ট্রাম্প প্রশাসনের সময়ে অ্যানথ্রপিকের সঙ্গে মার্কিন সরকারের সম্পর্ক বেশ বিরোধপূর্ণ ছিল।

কোম্পানিটি জানিয়েছে, চলতি বছরের শুরুর দিকে পেন্টাগন অ্যানথ্রপিককে ‘সরবরাহব্যবস্থার জন্য ঝুঁকি’ হিসেবে ঘোষণা করেছিল। এর আগে অ্যানথ্রপিক বলেছিল, তাদের প্রযুক্তি ‘যুক্তরাষ্ট্রের অভ্যন্তরে ব্যাপক নজরদারি কিংবা সম্পূর্ণ স্বয়ংক্রিয় অস্ত্রের’ কাজে ব্যবহার করা উচিত নয়।

এ ছাড়া নিরাপত্তাসংক্রান্ত উদ্বেগের কারণে চলতি বছরের শুরুর দিকে যুক্তরাষ্ট্রের বাণিজ্য বিভাগ অ্যানথ্রপিকের সর্বশেষ এআই মডেলগুলোর ওপর অল্প সময়ের জন্য রপ্তানি বিধিনিষেধ আরোপ করেছিল।

প্রেসিডেন্ট ডোনাল্ড ট্রাম্পও বিভিন্ন সময়ে এআইয়ের ঝুঁকি ও নিরাপত্তা নিয়ে অ্যানথ্রপিকের সতর্কবার্তার সমালোচনা করেছেন। তবে অ্যানথ্রপিক তাদের অবস্থান থেকে সরে আসার পরিকল্পনা করছে না। কোম্পানিটি জানিয়েছে, এআইয়ের ‘নিরাপদ ও দায়িত্বশীল বিকাশ’ নিশ্চিত করতে সহায়ক হবে বলে তারা মনে করে, এমন নিয়ন্ত্রণব্যবস্থা ও মানদণ্ড প্রতিষ্ঠার পক্ষে তারা ‘সম্ভবত প্রচার ও তৎপরতা চালিয়ে যাবে’।

অ্যানথ্রপিক আরও উল্লেখ করেছে, তারা ইতিমধ্যে নিজেদের কার্যক্রম নিয়ে ‘বর্ধিত দৃশ্যমানতার’ অভিজ্ঞতা অর্জন করেছে এবং ভবিষ্যতেও এমন পরিস্থিতির মুখোমুখি হতে পারে। একই সঙ্গে নির্দিষ্ট সরকারি সংস্থাগুলোর বাড়তি নজরদারি কিংবা অন্য একই ধরনের কোম্পানির তুলনায় অসমভাবে বা বেছে বেছে লক্ষ্যবস্তুতে পরিণত হওয়ার ঝুঁকিও রয়েছে। কোম্পানিটির আশঙ্কা, একই পরিস্থিতিতে থাকা অন্য কোম্পানিগুলোর ক্ষেত্রে এমন নজরদারি না থাকলেও অ্যানথ্রপিককে বিশেষভাবে লক্ষ্যবস্তু করা হতে পারে।

কম্পিউটিং সক্ষমতা অর্জনের তীব্র প্রতিযোগিতা

অ্যানথ্রপিকসহ অন্যান্য এআই কোম্পানির জন্য পর্যাপ্ত কম্পিউটিং সক্ষমতা নিশ্চিত করা একটি বড় চ্যালেঞ্জ। নিজেদের ঝুঁকিসংক্রান্ত নথির উল্লেখযোগ্য অংশজুড়ে অ্যানথ্রপিক এই সক্ষমতা অর্জনের প্রতিযোগিতা নিয়ে আলোচনা করেছে। কোম্পানিটি বলেছে, বৃহৎ এআই ব্যবস্থা পরিচালনার জন্য প্রয়োজনীয় অবকাঠামো সংগ্রহ করতে গিয়ে তাদের বিশ্বের বৃহত্তম কয়েকটি কোম্পানির সঙ্গে প্রতিযোগিতা করতে হচ্ছে।

অ্যানথ্রপিকের ভবিষ্যৎ এবং তাদের প্রতিদ্বন্দ্বীকোম্পানিগুলোর ভবিষ্যৎও অনেকাংশে নির্ভর করছে এআই মডেল প্রশিক্ষণ এবং এআই চ্যাটবট ও এজেন্ট পরিচালনার জন্য প্রয়োজনীয় কম্পিউটিং উপাদানের প্রাপ্যতার ওপর। এই উপাদানগুলোর চাহিদা এতটাই বেড়েছে যে, সরবরাহব্যবস্থা সেই চাহিদার সঙ্গে তাল মেলাতে পারছে না।

প্রযুক্তি খাতের কোম্পানিগুলো ক্রমবর্ধমান চাহিদা মেটানোর লক্ষ্যে ডেটা সেন্টার এবং সংশ্লিষ্ট অন্যান্য অবকাঠামো তৈরিতে বিলিয়ন বিলিয়ন ডলার বিনিয়োগ করছে। বাজার গবেষণা প্রতিষ্ঠান গার্টনারের (Gartner) পূর্বাভাস অনুযায়ী, ২০২৭ সালে বিশ্বজুড়ে এআই অবকাঠামো খাতে ব্যয়ের পরিমাণ প্রায় ২ ট্রিলিয়ন ডলারে পৌঁছাতে পারে। কতটা কম্পিউটিং সক্ষমতা প্রয়োজন হবে, তা অনুমান করাও অ্যানথ্রপিকের জন্য কঠিন হয়ে উঠেছে। কারণ, পুরো শিল্পই অত্যন্ত দ্রুত পরিবর্তিত হচ্ছে।

এটি এআই বাবল বা কৃত্রিমভাবে ফুলে ওঠা এআই বাজার নিয়ে উদ্বেগেরও একটি গুরুত্বপূর্ণ কারণ। আশঙ্কা রয়েছে, প্রযুক্তি কোম্পানিগুলো ডেটা সেন্টার ও কম্পিউটিং অবকাঠামোতে বিলিয়ন বিলিয়ন ডলার বিনিয়োগ করছে, অথচ ভবিষ্যতে সেই বিনিয়োগের পক্ষে প্রয়োজনীয় চাহিদা থাকবে কি না, তা নিয়ে নিশ্চিত নয়।

ডেটা সেন্টার নিয়ে বাড়ছে জনবিরোধিতা

ডেটা সেন্টারের পরিবেশগত প্রভাব এবং স্থানীয় জনগোষ্ঠীর ওপর এর সম্ভাব্য নেতিবাচক প্রভাব নিয়ে যুক্তরাষ্ট্রজুড়ে বিরোধিতা ক্রমেই বাড়ছে। গবেষণা প্রতিষ্ঠান ডেটা সেন্টার ওয়াচের (Data Center Watch) তথ্য অনুযায়ী, ২০২৬ সালের দ্বিতীয় প্রান্তিকে ৬ হাজার ৮০০ কোটি ডলার মূল্যের ৪৫টি ডেটা সেন্টার প্রকল্প বাধার মুখে পড়ে বা আটকে যায়।

অ্যানথ্রপিক বলেছে, নিউইয়র্ক ও টেক্সাসে ডেটা সেন্টারসংক্রান্ত বিধিনিষেধ আরোপের উদ্যোগ তাদের ব্যবসার জন্য সম্ভাব্য ঝুঁকি তৈরি করছে। এই ঝুঁকি মোকাবিলায় কোম্পানিটি যুক্তরাষ্ট্রের বাইরে আরও বেশি ডেটা সেন্টার নির্মাণের চেষ্টা করছে।

অ্যানথ্রপিকের ব্যবসার ভবিষ্যৎ নিয়ে বড় প্রশ্ন

ঝুঁকিসংক্রান্ত নথির অন্যান্য অংশে অ্যানথ্রপিকের ব্যবসায়িক মডেল এবং কোম্পানিটির মূল্যবোধ ভবিষ্যৎ প্রবৃদ্ধিকে কীভাবে প্রভাবিত করতে পারে, তা নিয়ে অনিশ্চয়তার কথা তুলে ধরা হয়েছে। কোম্পানিটি জানিয়েছে, তাদের ব্যবসার একটি বড় অংশ নির্ভর করছে সীমিতসংখ্যক পণ্য এবং অল্পসংখ্যক গ্রাহকের ওপর। প্রতিবেদন অনুযায়ী, অ্যানথ্রপিকের আইপিওর মাধ্যমে কোম্পানিটির সম্ভাব্য মূল্যায়ন ২ ট্রিলিয়ন ডলার পর্যন্ত হতে পারে। এমনটি হলে অ্যানথ্রপিক অচিরেই বিশ্বের সবচেয়ে মূল্যবান কোম্পানিগুলোর একটিতে পরিণত হতে পারে।

তবে এখানে শুধু ক্রেতা ও সাধারণ মানুষের কাছে কোম্পানিটির নিরাপত্তাসংক্রান্ত সুনামই ঝুঁকিতে নেই। নিজেদের কর্মীদের কাছেও কোম্পানিটির বিশ্বাসযোগ্যতা প্রশ্নের মুখে পড়তে পারে। অ্যানথ্রপিক বলেছে, তারা যদি নিজেদের ঘোষিত নিরাপত্তামূল্যবোধ থেকে অনেক দূরে সরে যায়, তাহলে কর্মীদের উৎপাদনশীলতা কমে যেতে পারে। এর চেয়েও গুরুতর পরিণতি দেখা দিতে পারে।

কোম্পানিটি নথিতে লিখেছে, ‘আমাদের নিরাপত্তাসংক্রান্ত অঙ্গীকারের ভিত্তিতে যারা কোম্পানিতে যোগ দিয়েছেন, তারা যদি মনে করেন যে আমরা নিজেদের ঘোষিত মূল্যবোধ মেনে চলছি না, তাহলে তাদের মনোবল কমে যেতে পারে, হতাশা ও আস্থাহীনতা তৈরি হতে পারে, নেতৃত্বের ওপর বিশ্বাস হারাতে পারেন কিংবা তাদের উৎপাদনশীলতা হ্রাস পেতে পারে।’

অ্যানথ্রপিক আরও বলেছে, ‘নিরাপত্তা বিষয়ে আমাদের দৃষ্টিভঙ্গি নিয়ে প্রকাশ্যে মতবিরোধ, বর্তমান বা সাবেক কর্মীদের সমালোচনা কিংবা নিরাপত্তা কার্যক্রমের সঙ্গে যুক্ত কর্মীদের চলে যাওয়া, এসব বিষয় কোম্পানি নিজেদের ঘোষিত মূল্যবোধ থেকে সরে যাচ্ছে বলে যে ধারণা তৈরি হতে পারে, তাকে আরও জোরালো করে তুলতে পারে।’