জৈব অস্ত্র তৈরি ও হত্যাকাণ্ডে ব্যবহারের নির্দেশনা দিল এআই, তদন্তের মুখে চীনা প্রতিষ্ঠান
এআই মডেলকে জৈব অস্ত্র তৈরি ও হত্যাকাণ্ডে ব্যবহারের বিষয়ে প্রশ্ন করে উত্তর বের করেছে চীনের একটি প্রযুক্তি প্রতিষ্ঠান। এআই নিয়ে উদ্বেগ আরও বাড়িয়ে দিয়েছে এ ঘটনা। বিবিসির প্রতিবেদন থেকে জানা যায়, চীনের এআই নির্মাতা প্রতিষ্ঠান মুনশটের একদল গবেষক নিজেদের জনপ্রিয় দুটি ‘কিমি’ (Kimi) এআই মডেলকে প্রলুব্ধ করে জৈব অস্ত্র তৈরি এবং হত্যাকাণ্ডের উপায় জেনে নিতে সক্ষম হয়েছেন। এই ঘটনার পর প্রতিষ্ঠানটি অভ্যন্তরীণ পর্যালোচনা বা তদন্ত শুরু করেছে।
এআই সিস্টেমের নিরাপত্তা পরীক্ষা করে এমন প্রতিষ্ঠান মাইন্ডগার্ড বিবিসিকে জানিয়েছে, গত জুলাইয়ে তারা দেখতে পায়, কিমি কে২.৬ এবং কে৩ সোয়ার্ম মডেল দুটিকে নির্মাতাদের দেওয়া নিরাপত্তাব্যবস্থার সীমা এড়িয়ে যেতে বাধ্য করা সম্ভব।
‘জেলব্রেকিং’ নামে পরিচিত একটি প্রক্রিয়ার সময় বিষয়টি ধরা পড়ে। এ প্রক্রিয়ায় গবেষকেরা ধারাবাহিকভাবে জটিল কিছু নির্দেশনা ব্যবহার করে পরীক্ষা করেন যে এআই সরঞ্জামগুলো নিরাপত্তাবিধি বা গার্ডরেল উপেক্ষা করে কি না। এসব গার্ডরেলের কাজ ছিল কিমিকে উদ্বেগজনক বিষয় নিয়ে আলোচনা করা থেকে বিরত রাখা।
মুনশট বিবিসিকে জানিয়েছে, মাইন্ডগার্ডের অনুসন্ধান নিয়ে তাদের সঙ্গে আলোচনা চলছে। উন্নত ও নিরাপদ এআই তৈরির ক্ষেত্রে তৃতীয় পক্ষের মতামতকে তারা ‘গুরুত্বপূর্ণ ভিত্তি’ হিসেবে স্বাগত জানায়।
মাইন্ডগার্ডের প্রতিষ্ঠাতা পিটার গ্যারাগান বিবিসি ওয়ার্ল্ড সার্ভিসের ‘টেক লাইফ’ অনুষ্ঠানে জানান, কিমি কে২.৬ ও কে৩ সোয়ার্ম নিয়ে তাঁদের অনুসন্ধান উদ্বেগজনক। তিনি বলেন, ‘একবার জেলব্রেক সফল হয়ে গেলে এটি যেকোনো বিষয়ে কথা বলবে। এমনকি ক্ষতিকর বা অনৈতিক অন্যান্য বিষয় নিয়েও এটি নিজে থেকেই পরামর্শ দেবে। এ ক্ষেত্রে এটি নতুন ও সৃজনশীল উপায়ও বের করতে পারবে।’
সাম্প্রতিক সময়ে এআই খাতের বেশ কিছু হাই-প্রোফাইল নিরাপত্তা লঙ্ঘনের ঘটনার চেয়ে ‘জেলব্রেকিং’ ভিন্ন ধরনের ঝুঁকি তৈরি করছে। ওই মার্কিন প্রতিষ্ঠান ওপেনএআই, মেটা ও অ্যানথ্রোপিকের তৈরি স্বয়ংক্রিয় এআই সরঞ্জাম বা ‘এজেন্ট’গুলো অনধিকার প্রবেশ করে কয়েকটি অনলাইন সেবায় বিঘ্ন ঘটিয়েছে।
আর জেলব্রেকিং অত্যন্ত জটিল একটি প্রক্রিয়া, যাতে প্রচুর সময় ও প্রচেষ্টার প্রয়োজন হয়। তবে কিছু বিশেষজ্ঞের আশঙ্কা, হ্যাকার এবং অন্যান্য অপরাধী গোষ্ঠী বড় ধরনের ক্ষতি সাধনে এই কৌশল ব্যবহারের চেষ্টা করতে পারে।
সম্প্রতি অ্যানথ্রপিক জানিয়েছে, তাদের একটি এআই মডেল ব্যবহার করে ‘ক্ষতিকর কর্মকাণ্ড’ চালানোর কিছু প্রচেষ্টা তারা শনাক্ত ও প্রতিহত করেছে। এসব কর্মকাণ্ডের মাধ্যমে জৈব অস্ত্র তৈরিতে সহায়তা করা সম্ভব হতে পারত।
উদ্বেগজনক বিষয়গুলোতে কিমির দেওয়া উত্তরগুলো প্রকৃতপক্ষে বাস্তবে কাজ করবে কি না, তা প্রমাণ করেনি মাইন্ডগার্ড। তাদের যুক্তি, তবে প্রতিষ্ঠানটির যুক্তি, প্রশ্নে থাকা মডেলগুলোকে এমন বিষয়ে ব্যবহারকারীদের সঙ্গে আলোচনায় প্রবেশ করা থেকেই গার্ডরেল বা নিরাপত্তাব্যবস্থা আটকে দেওয়ার কথা ছিল।
প্রতিষ্ঠানটি আরও জানায়, তারা নিশ্চিত যে জেলব্রেক করা কিমি ২.৬ মডেল ব্যবহার করে হ্যাকাররা নিজেদের কম্পিউটিং রিসোর্সে কোড চালাতে এবং ইন্টারনেটে যুক্ত হতে পারে—যা বড় ধরনের সাইবার আক্রমণের প্রধান ক্ষেত্র হিসেবে ব্যবহৃত হতে পারে।
মুনশটের সিস্টেমে জেলব্রেকিংয়ের বিষয়টি প্রকাশ্যে আনার সিদ্ধান্তকে সমর্থন করেছেন মাইন্ডগার্ড প্রধান গ্যারাগান। তিনি বলেন, তারা বিষয়টি আগে ডেভেলপারকে জানিয়েছেন এবং কীভাবে মডেলগুলোকে নিরাপত্তা প্রাচীর ভঙ্গ করানো হয়েছে, তার মূল গোপন কৌশলগুলো তারা প্রকাশ করেননি।
মাইন্ডগার্ড গত ২৭ জুলাই এক ইমেইলে মুনশটকে জেলব্রেকিংয়ের বিষয়ে সতর্ক করে। এর প্রায় এক সপ্তাহ পর তারা আবার বিষয়টি নিয়ে যোগাযোগ করে।
এরপর ১২ সেপ্টেম্বর এ বিষয়ে একটি ব্লগ প্রকাশ করে মাইন্ডগার্ড। তবে প্রতিষ্ঠানটি জানায়, বিবিসি মন্তব্যের জন্য যোগাযোগ করার পরেই সম্প্রতি মুনশট তাদের সঙ্গে যোগাযোগ করেছে।
মুনশটের পক্ষ থেকে মাইন্ডগার্ডকে পাঠানো একটি ই-মেইলের অংশ বিবিসির সঙ্গে শেয়ার করেছে প্রতিষ্ঠানটি। সেখানে আরও বিস্তারিত তথ্য চাওয়া হয়। ই-মেইলে মুনশট বলেছে, অভ্যন্তরীণ মূল্যায়নে এ ধরনের অনুরোধের ক্ষেত্রে তাদের মডেল সাধারণত ‘উচ্চ হারে প্রত্যাখ্যান’ দেখিয়েছে।
এ অনুসন্ধানের তথ্য এমন এক সময়ে সামনে এল, যখন এআই খাতের প্রতিষ্ঠানগুলো এখনো এ বিষয়ে বিভক্ত যে চ্যাটজিপিটি ও অ্যানথ্রপিকের ক্লদের মতো সিস্টেমে ব্যবহৃত বন্ধ ও মালিকানাধীন মডেল, নাকি ওপেন সোর্স এআই কোনটি ভবিষ্যতের জন্য বেশি কার্যকর বা নিরাপদ।
কিমি একটি ‘ওপেন-ওয়েট’ মডেল। এর অর্থ, তাত্ত্বিকভাবে যে কেউ মডেলটি নিয়ে নিজের কম্পিউটিং অবকাঠামোয় চালাতে পারেন।
সারে বিশ্ববিদ্যালয়ের অধ্যাপক অ্যালান উডওয়ার্ড বিবিসিকে বলেন, ওপেন সোর্স মডেল ভুল মানুষের হাতে চলে যাওয়ার ঝুঁকি রয়েছে। তবে একই মডেল সাইবার প্রতিরক্ষার কাজেও ব্যবহার করা যেতে পারে।
তিনি উল্লেখ করেন, এআই প্রতিষ্ঠান হাগিং ফেস একটি চীনা ওপেন সোর্স মডেল ব্যবহার করে একটি হ্যাকিংয়ের ঘটনা উদঘাটন করেছিল, যা পরবর্তীতে ওপেনএআই এজেন্টদের মাধ্যমে সংঘটিত হয়েছিল বলে জানা যায়।
আন্তর্জাতিক বিধিনিয়ম এআই উন্নয়নের গতির সঙ্গে তাল মেলাতে পারবে না বলে মনে করেন অধ্যাপক উডওয়ার্ড। তিনি বলেন, ‘টেলিফোন নম্বরের বিন্যাস কেমন হবে, সেটি নিয়ে একমত হতে আমাদের কয়েক দশক লেগেছে।’
মাইন্ডগার্ডের প্রতিষ্ঠাতা গ্যারাগানের মতো অধ্যাপক উডওয়ার্ডও মনে করেন, এআইয়ের অপব্যবহারকারীদের চিহ্নিত করা এবং তাদের বিচারের আওতায় আনার ওপর এখন সবচেয়ে বেশি জোর দেওয়া উচিত।
