কৃত্রিম বুদ্ধিমত্তা (এআই) চালিত ক্যারেক্টার এআই (ক্যারেক্টার এআই) চ্যাটবট প্ল্যাটফর্মে ভার্চুয়াল চরিত্রদের সঙ্গে কথোপকথন করা যায়। অনলাইনে তরুণ ব্যবহারকারীদের সঙ্গে এসব ভার্চুয়াল সঙ্গীর কথোপকথন নিয়ে ব্যাপক সমালোচনার মুখে ১৮ বছরের কম বয়সী বা কিশোর-কিশোরীদের সরাসরি এই চ্যাটবটে কথা বলার সুযোগ বন্ধ করে দেওয়ার সিদ্ধান্ত নিয়েছে প্রতিষ্ঠানটি। বিশ্বজুড়ে লাখ লাখ ব্যবহারকারী ২০২১ সালে প্রতিষ্ঠিত এই প্ল্যাটফর্মটি ব্যবহার করে।
তবে, সম্প্রতি যুক্তরাষ্ট্রে কয়েকজন অভিভাবক এই প্ল্যাটফর্মটির বিরুদ্ধে মামলা করেছেন। সম্প্রতি এক কিশোরের মৃত্যুর ঘটনায় সম্পৃক্ততার অভিযোগেও একটি মামলা করা হয়েছে। অনেকে এই প্ল্যাটফর্মকে তরুণ প্রজন্মের জন্য স্পষ্ট বিপদ বলে অভিহিত করেছেন।
এ অবস্থায় ক্যারেক্টার এআই জানিয়েছে, আগামী ২৫ নভেম্বর থেকে ১৮ বছরের কম বয়সীরা আর চ্যাটবটদের সঙ্গে সরাসরি কথা বলার সুযোগ পাবেন না। এর পরিবর্তে তারা শুধু সেই চরিত্রগুলোর ব্যবহার করে ভিডিওর মতো কনটেন্ট তৈরি করতে পারবে।
অনলাইন নিরাপত্তার পক্ষে প্রচার চালানো ব্যক্তিরা ক্যারেক্টার এআই কর্তৃপক্ষের এ পদক্ষেপকে স্বাগত জানিয়েছেন। তবে তারা বলেছেন, এই সুবিধাটি শুরু থেকেই শিশুদের জন্য উন্মুক্ত থাকা উচিত ছিল না।
ক্যারেক্টার এআই জানিয়েছে, নিয়ন্ত্রক সংস্থা, নিরাপত্তা বিশেষজ্ঞ এবং অভিভাবকদের কিশোরদের সঙ্গে তাদের চ্যাটবটের মিথস্ক্রিয়া নিয়ে সৃষ্ট উদ্বেগের প্রতিবেদন ও মতামতের ভিত্তিতে তারা এই পরিবর্তন আনছে।
বিশেষজ্ঞরা আগেও সতর্ক করেছিলেন, এআই চ্যাটবটগুলো তরুণ ও সংবেদনশীল ব্যবহারকারীদের জন্য ঝুঁকিপূর্ণ হতে পারে। কারণ এগুলো কখনো কখনো ভুল তথ্য দিতে পারে, অতিরিক্ত উৎসাহ জোগাতে পারে কিংবা সহানুভূতির ভান করতে পারে।
ক্যারেক্টার এআই-এর প্রধান করনদীপ আনন্দ বিবিসি নিউজকে বলেন, ‘আমরা বিনোদনের উদ্দেশ্যে বিশ্বের সবচেয়ে নিরাপদ এআই প্ল্যাটফর্ম গড়ে তুলতে চাই। এ পদক্ষেপ সেই লক্ষ্যেই নেওয়া।’
তিনি আরও বলেন, ‘এআই নিরাপত্তা একটি চলমান লক্ষ্য। এটি ক্রমাগত পরিবর্তিত ও উন্নত হচ্ছে। তবে আমরা শুরু থেকেই বিষয়টিকে গুরুত্ব দিয়ে দেখছি।’
অনলাইন নিরাপত্তা সংস্থা ইন্টারনেট ম্যাটার্স ক্যারেক্টার এআই-এর ঘোষণাকে স্বাগত জানালেও বলেছে, নিরাপত্তা ব্যবস্থাগুলো শুরু থেকেই অন্তর্ভুক্ত থাকা উচিত ছিল। সংস্থাটি জানায়, ‘আমাদের গবেষণায় দেখা গেছে, শিশুরা এআই ব্যবহারের সময়, বিশেষ করে এআই চ্যাটবটের সঙ্গে যোগাযোগের সময় ক্ষতিকর কনটেন্টের সংস্পর্শে আসছে এবং ঝুঁকিতে পড়ছে।’
ক্যারেক্টার এআই অতীতে সমালোচনার মুখে পড়েছিল এমন কিছু চ্যাটবটের কারণে যেগুলো শিশুদের জন্য সম্ভাব্যভাবে ক্ষতিকর বা আপত্তিকর হতে পারে।
২০২৪ সালে প্ল্যাটফর্মটিতে এমন কিছু অ্যাভাটার (ভার্চুয়াল চরিত্র) আবিষ্কৃত হয়, যারা ২০২৩ সালে নিহত ব্রিটিশ কিশোরী ব্রিয়ানা গে এবং ১৪ বছর বয়সে আত্মহত্যা করা মলি রাসেল-এর ছদ্মবেশে তৈরি ছিল। পরে সেগুলো সাইট থেকে সরিয়ে ফেলা হয়।
পরে, ২০২৫ সালে, দ্য ব্যুরো অব ইনভেস্টিগেটিভ জার্নালিজম (টিবিআইজে) এক তদন্তে জানতে পারে যে, শিশু নির্যাতনের অভিযোগে অভিযুক্ত জেফরি এপস্টেইন-এর ওপর ভিত্তি করে তৈরি একটি চ্যাটবটের সঙ্গে ব্যবহারকারীরা ৩ হাজারেরও বেশি কথোপকথন করেছে।
প্রকাশনাটির প্রতিবেদনে বলা হয়, এক প্রতিবেদক যখন নিজেকে শিশু বলে পরিচয় দেন, তখনও তাঁর সঙ্গে ফ্লার্ট করতে থাকে ‘বেস্টি এপস্টেইন’ নামের ওই অ্যাভাটার। এটি ছিল একাধিক সমস্যাযুক্ত বটের মধ্যে একটি, যেগুলো পরবর্তীতে ক্যারেক্টার এআই সরিয়ে ফেলে।
মলি রাসেলের স্মরণে প্রতিষ্ঠিত ‘দ্য মলি রোজ ফাউন্ডেশন’ ক্যারেক্টার এআই-এর উদ্দেশ্য ও পদক্ষেপের আন্তরিকতা নিয়ে প্রশ্ন তোলে। ফাউন্ডেশনের প্রধান নির্বাহী অ্যান্ডি বুরোস বলেন, ‘আবারও দেখা গেল, কোনো প্রযুক্তি প্রতিষ্ঠানকে সঠিক কাজটি করাতে মিডিয়া ও রাজনীতিকদের ক্রমাগত চাপই প্রয়োজন হয়েছে। মনে হচ্ছে, নিয়ন্ত্রক সংস্থাগুলো ব্যবস্থা নেওয়ার আগেই ক্যারেক্টার এআই এখন পদক্ষেপ নিতে বাধ্য হচ্ছে।’
ক্যারেক্টার এআই-এর প্রধান বলেন, কোম্পানির নতুন লক্ষ্য হলো কিশোর ব্যবহারকারীদের জন্য ভূমিকা-নির্ভর গল্প বলার সুবিধা তৈরি করা, যা তার মতে উন্মুক্ত কথোপকথনমূলক বটের তুলনায় অনেক বেশি নিরাপদ হবে।
তিনি আরও জানান, ক্যারেক্টার এআই নতুন বয়স যাচাই পদ্ধতি চালু করবে এবং একটি নতুন এআই নিরাপত্তা গবেষণা ল্যাব স্থাপনে অর্থায়ন করবে।
সোশ্যাল মিডিয়া বিশেষজ্ঞ ম্যাট নাভারা বলেন, এআই শিল্পের জন্য একে একটি ‘ওয়েক-আপ কল’ বা সতর্ক সংকেত হিসেবে চিহ্নিত করা যায়।
এদিকে, এআই নিরাপত্তা গবেষক ড. নমিশা কুরিয়ান বলেন, কিশোরদের চ্যাটবট ব্যবহারে সীমাবদ্ধতা আরোপ করা একটি বিচক্ষণ পদক্ষেপ। এটি শিশু নিরাপত্তাকে ক্রমবর্ধমানভাবে একটি জরুরি অগ্রাধিকার হিসেবে বিবেচনা করার গুরুত্ব তুলে ধরছে এবং সৃজনশীল খেলা ও ব্যক্তিগত বা আবেগঘন কথোপকথনের মধ্যে একটি স্পষ্ট পার্থক্য তৈরি করছে।