সোশ্যাল মিডিয়া প্ল্যাটফর্ম এক্স-এর কৃত্রিম বুদ্ধিমত্তাভিত্তিক চ্যাটবট ‘গ্রোক’ নিয়ে আন্তর্জাতিক অঙ্গনে উদ্বেগ তীব্র হয়েছে। গ্রোক-এর মাধ্যমে তৈরি ছবিতে নারী ও শিশুদের ডিজিটালি ‘নগ্ন’ বা অর্ধনগ্ন করে তোলার অভিযোগে ভারত, মালয়েশিয়া ও ফ্রান্স এক্সের বিরুদ্ধে আইনি ব্যবস্থা নেওয়ার হুমকি দিয়েছে।
সম্প্রতি অভিযোগ ওঠে, ব্যবহারকারীদের অনুরোধে যে কোনো মানুষের ছবিতে পোশাক সরিয়ে বিকিনি বা প্রায় নগ্ন রূপ তৈরি করছে গ্রোক। গত কয়েক দিনে এক্সে গ্রোকের মাধ্যমে তৈরি এমন অসংখ্য ছবি ছড়িয়ে পড়ে, যা ব্যাপক সমালোচনা ও ক্ষোভের জন্ম দেয়। গত ডিসেম্বরের শেষদিকে এক্সে ‘এডিট ইমেজ’ বাটন চালু হওয়ার পর থেকেই এই ধরনের অপব্যবহারের অভিযোগ বাড়তে থাকে।
মালয়েশিয়ার কর্তৃপক্ষ জানিয়েছে, নারী ও অপ্রাপ্তবয়স্কদের ছবি বিকৃত করে অশালীন কনটেন্ট তৈরির অভিযোগে তারা তদন্ত শুরু করেছে। দেশটির যোগাযোগ ও মাল্টিমিডিয়া কমিশন বলেছে—এই ধরনের ক্ষতিকর কনটেন্ট তৈরি বা প্রচার মালয়েশিয়ার আইনে অপরাধ। দেশে এক্স এখনো লাইসেন্সপ্রাপ্ত সেবা প্রদানকারী নয়, তারপরও প্ল্যাটফর্ম হিসেবে ক্ষতিকর কনটেন্ট ছড়ানো রোধ করার দায়িত্ব তাদের রয়েছে। মালয়েশিয়ার সংবাদমাধ্যম নিউ স্ট্রেইটস টাইমস জানিয়েছে, গ্রোক কিছু ক্ষেত্রে হিজাব পরিহিত নারীদের ছবি থেকেও মাথার স্কার্ফ সরিয়ে দিয়েছে।
এদিকে, এক্স-এর মালিক ইলন মাস্ক শুরুর দিকে বিষয়টি নিয়ে রসিকতার সুরে প্রতিক্রিয়া জানান। তিনি নিজের এবং কয়েকজন বিখ্যাত ব্যক্তির বিকিনি পরা এআই নির্মিত ছবি হাসি-কান্নার ইমোজি সহ পোস্ট করেন। তবে সমালোচনা বাড়লে গত রোববার (৪ জানুয়ারি) তিনি জানান, শিশু সংক্রান্ত এবং যে কোনো অবৈধ কনটেন্টের বিরুদ্ধে এক্স ব্যবস্থা নিচ্ছে এবং এই ধরনের কনটেন্ট তৈরি করলে গ্রোক ব্যবহারকারীদের অ্যাকাউন্ট স্থায়ীভাবে বন্ধ করা হবে।
এদিকে ভারত সরকারও গত শুক্রবার (২ জানুয়ারি) এক্সকে চিঠি দিয়ে গ্রোকের কার্যক্রম পূর্ণাঙ্গভাবে পর্যালোচনার নির্দেশ দেয়। দিল্লি জানায়, চ্যাটবটটি যেন নগ্নতা, যৌনতা বা অন্য কোনো বেআইনি কনটেন্ট তৈরি না করে, তা নিশ্চিত করতে হবে। এ ছাড়া ৭২ ঘণ্টার মধ্যে সংশোধনী পদক্ষেপের প্রতিবেদন জমা দিতেও বলা হয়, তা না হলে ফৌজদারি ও আইটি আইনে ব্যবস্থা নেওয়ার হুঁশিয়ারি দেওয়া হয়।
ফ্রান্সও গ্রোকের বিরুদ্ধে গুরুতর অভিযোগ তুলেছে। দেশটি বলছে, সম্মতি ছাড়া অবৈধ যৌন কনটেন্ট তৈরি করে গ্রোক ইউরোপীয় ইউনিয়নের ডিজিটাল সার্ভিসেস অ্যাক্ট লঙ্ঘন করতে পারে। প্যারিসের প্রসিকিউটর দপ্তর এক্স-এর বিরুদ্ধে চলমান তদন্তের পরিধি বাড়িয়ে শিশু নির্যাতনমূলক কনটেন্ট তৈরির অভিযোগও যুক্ত করেছে।
বিশেষজ্ঞরা বলছেন, এআই প্রশিক্ষণে ব্যবহৃত ডেটা থেকে আপত্তিকর উপাদান সরাতে ব্যর্থ হওয়াই এই সংকটের মূল কারণ।