চীনা এআই থেকে জৈব অস্ত্র তৈরির তথ্য পেলেন গবেষকরা

চীনের এআই নির্মাতা প্রতিষ্ঠান মুনশট তাদের জনপ্রিয় ‘কিমি’ মডেল নিয়ে অভ্যন্তরীণ পর্যালোচনা শুরু করেছে। গবেষকদের দাবি, নিরাপত্তাব্যবস্থা এড়িয়ে কিমির দুটি মডেল থেকে জৈব অস্ত্র তৈরি ও হত্যাকাণ্ডের মতো ক্ষতিকর কর্মকাণ্ডসংক্রান্ত তথ্য বের করা সম্ভব হয়েছে।

এআই নিরাপত্তা পরীক্ষা করা প্রতিষ্ঠান মাইন্ডগার্ড জানিয়েছে, গত জুলাইয়ে তারা কিমি K2.6 ও K3 Swarm মডেলে নিরাপত্তা সীমা এড়িয়ে যাওয়ার সক্ষমতা শনাক্ত করে। ‘জেলব্রেকিং’ নামে পরিচিত একটি পদ্ধতির মাধ্যমে জটিল নির্দেশনা ব্যবহার করে মডেল দুটিকে তাদের নির্ধারিত নিরাপত্তা বিধিনিষেধ অমান্য করতে বাধ্য করা হয়েছিল বলে দাবি প্রতিষ্ঠানটির।

আরও পড়ুন

ইউক্রেনকে ৫০০ প্যাট্রিয়ট ক্ষেপণাস্ত্র দেবে যুক্তরাষ্ট্র

মাইন্ডগার্ডের প্রতিষ্ঠাতা পিটার গ্যারাগান বলেন, জেলব্রেক সফল হলে কিমি বিভিন্ন ক্ষতিকর বিষয়েও উত্তর দিতে পারে এবং সংশ্লিষ্ট অন্যান্য বিপজ্জনক কর্মকাণ্ডের পরামর্শও দিতে পারে।

তবে মাইন্ডগার্ড জানিয়েছে, কিমি যেসব তথ্য দিয়েছে, সেগুলো বাস্তবে কার্যকর কি না, তা তারা যাচাই করেনি। তাদের মূল উদ্বেগ হলো—নিরাপত্তাব্যবস্থা এমন বিষয় নিয়ে মডেলগুলোকে আলোচনা থেকেই বিরত রাখার কথা ছিল।

আরও পড়ুন

ছয় মাসের সর্বোচ্চ দামে জ্বালানি তেল, বাড়ছে উদ্বেগ

মাইন্ডগার্ডের দাবি, জেলব্রেক করা Kimi K2.6 ব্যবহার করে কেউ মডেলটির কম্পিউটিং সুবিধায় কোড চালানো এবং ইন্টারনেটে সংযোগ স্থাপনের সুযোগ পেতে পারে। সে ক্ষেত্রে এটি সাইবার হামলার সম্ভাব্য প্ল্যাটফর্ম হিসেবেও ব্যবহৃত হতে পারে।

মুনশট জানিয়েছে, নিরাপদ এআই তৈরিতে তৃতীয় পক্ষের মতামতকে তারা গুরুত্বপূর্ণ মনে করে। প্রতিষ্ঠানটি মাইন্ডগার্ডের সঙ্গে তাদের পাওয়া তথ্য নিয়ে আলোচনা করছে বলেও জানিয়েছে।

আরও পড়ুন

তাইওয়ানের উড়োজাহাজ চলাচলে আকাশসীমা বন্ধ করল পাকিস্তান

মাইন্ডগার্ড গত ২৭ জুলাই মুনশটকে জেলব্রেকের বিষয়ে অবহিত করে। পরে ১২ সেপ্টেম্বর তারা বিষয়টি নিয়ে একটি ব্লগ প্রকাশ করে। তবে মাইন্ডগার্ডের দাবি, বিবিসি মন্তব্য জানতে যোগাযোগ করার পরই মুনশট সম্প্রতি তাদের সঙ্গে বিস্তারিত যোগাযোগ করেছে।

এআই নিরাপত্তা নিয়ে সাম্প্রতিক সময়ে এ ধরনের উদ্বেগ আরও বেড়েছে। বিশেষজ্ঞরা বলছেন, জেলব্রেকিংয়ের মতো জটিল পদ্ধতি ব্যবহার করতে সময় ও দক্ষতা প্রয়োজন হলেও ক্ষতিকর উদ্দেশ্যে থাকা ব্যক্তিরা এর অপব্যবহারের চেষ্টা করতে পারে।

বিশ্বজুড়ে এআই নিয়ন্ত্রণের কাঠামো প্রযুক্তির বিকাশের সঙ্গে তাল মিলিয়ে এগোতে পারছে কি না, তা নিয়েও প্রশ্ন রয়েছে। বিশেষজ্ঞদের একাংশ এআইয়ের অপব্যবহারের পাশাপাশি যারা ইচ্ছাকৃতভাবে এসব প্রযুক্তি ক্ষতিকর কাজে ব্যবহার করে, তাদের শনাক্ত ও আইনের আওতায় আনার ওপর গুরুত্ব দেওয়ার কথা বলছেন।