এআই বা কৃত্রিম বুদ্ধিমত্তা দিয়ে তৈরি নারী সেলিব্রেটিদের দুটি পর্নো ছবি ফেসবুক ও ইনস্টাগ্রামে ছড়িয়ে পড়ার ঘটনা তদন্ত করছে মেটা। মেটার স্বাধীন ওভারসাইট বোর্ড বিষয়টি খতিয়ে দেখছে বলে এক ব্লগ পোস্টে জানানো হয়েছে।
বোর্ডের একজন মুখপাত্র বলেছেন, কৃত্রিম বুদ্ধিমত্তা ব্যবহার করে পর্ণোগ্রাফি তৈরির বিষয়ে মেটার নীতি ও অনুশীলনের সামগ্রিক কার্যকারিতা মূল্যায়ন করতে দুটি উদাহরণ ব্যবহার করবে এই বোর্ড। এসব ছবিতে চিত্রিত বিখ্যাত নারীদের নাম উল্লেখ করা হয়নি।
সংবাদ সংস্থা রয়টার্স বলেছে, এআই প্রযুক্তি প্রসারের ফলে মনগড়া বা ভুয়া ছবি, অডিও ক্লিপ ও ভিডিওগুলোকে বাস্তব মানবসৃষ্ট কনটেন্ট থেকে আলাদা করা কঠিন হয়ে পড়ছে। ফলে অনলাইনে এআই দিয়ে তৈরি পর্ণোগ্রাফির ব্যাপক প্রসার ঘটছে। বেশির ভাগ ক্ষেত্রে নারী ও মেয়েরা এসবের শিকার হচ্ছে।
এই বছরের শুরুর দিকে মার্কিন গায়িকা টেইলর সুইফটের একটি ডিপফেক সামাজিক যোগাযোগমাধ্যমে ছড়িয়ে পড়ে। ভুয়া ছবিগুলো ছড়িয়ে পড়া নিয়ন্ত্রণে ব্যর্থ হওয়ার পর মাস্কের মালিকানাধীন সামাজিক যোগাযোগ প্ল্যাটফর্ম এক্সে (সাবেক টুইটার) মার্কিন পপ তারকা টেলর সুইফটের সমস্ত ছবি অনুসন্ধান করার সুবিধা বন্ধ করে দেওয়া হয়।
ক্ষতিকারক ‘ডিপফেক’ তৈরিকে অপরাধী হিসেবে বিবেচনার জন্য আইন প্রণয়নের আহ্বান জানিয়েছেন কিছু শিল্প নির্বাহীরা। পাশাপাশি প্রযুক্তি কোম্পানিগুলোকে তাদের পণ্যে এ ধরনের প্রযুক্তি ব্যবহার রোধ করার পরামর্শ দিয়েছেন।
ওভারসাইট বোর্ডের কেসগুলোর বর্ণনায় বলা হয়, এআই দিয়ে ভারতের একজন বিখ্যাত নারীর নগ্ন ভুয়া ছবি তৈরি করা হয়েছে। ছবিটি ইনস্টাগ্রামের একটি অ্যাকাউন্টের মাধ্যমে পোস্ট করা হয়েছে। এই অ্যাকাউন্টে শুধু ভারতীয় নারীদের এআই দিয়ে ভুয়া ছবি শেয়ার করা হয়।
বোর্ড বলেছে, এআই দিয়ে তৈরি কনটেন্ট শেয়ার করার এক ফেসবুক গ্রুপে আরেকটি ছবি পোস্ট করা হয়। এই ছবিতে ‘যুক্তরাষ্ট্রের বিখ্যাত নারীর’ এআই দিয়ে তৈরি নগ্ন চিত্র তুলে ধরা হয়েছে।
মেটার বুলিং ও হ্যারাসমেন্ট নীতি লঙ্ঘন করার জন্য যুক্তরাষ্ট্রের নারীর ভুয়া ছবিটি সরিয়ে ফেলা হয়। এই নীতি ‘অপমানজনক যৌন ফটোশপ বা অঙ্কন’ নিষিদ্ধ করে। তবে প্রাথমিকভাবে ভারতীয় মহিলার ছবিটি সরিয়ে ফেলা হয়নি। তবে বোর্ড পর্যালোচনার জন্য এটিকে বেছে নেওয়ার পরেই কেবল ছবিটি সরিয়ে ফেলা হয়।
একটি পৃথক পোস্টে মেটা এসব অভিযোগ স্বীকার করেছে এবং বোর্ডের সিদ্ধান্তগুলো বাস্তবায়নের প্রতিশ্রুতি দিয়েছে।