এআই মডেলের অনাকাঙ্ক্ষিত আচরণে বাড়ছে সাইবার নিরাপত্তার ঝুঁকি

সাইবার নিরাপত্তা পরীক্ষার সময় মেটার একটি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল অন্য একটি প্রতিষ্ঠানের সিস্টেমে অনাকাঙ্ক্ষিতভাবে প্রবেশ করেছিল বলে জানিয়েছে কোম্পানিটি। একই ধরনের ঘটনার কথা এর আগে ওপেনএআই এবং অ্যানথ্রপিকের মতো শীর্ষস্থানীয় এআই প্রতিষ্ঠানগুলোও স্বীকার করেছে।

বুধবার মেটা জানায়, তাদের একটি এআই মডেল—যা সম্ভবত মিউজ স্পার্ক ১.১—নিরাপত্তা পরীক্ষার সময় একটি অজানা প্রতিষ্ঠানের অভ্যন্তরীণ সিস্টেমে পরিবর্তন নিয়ে আসে। এই পরীক্ষাটি পরিচালনা করছিল ইরেগুলার নামের একটি স্বাধীন নিরাপত্তা পরীক্ষাকারী প্রতিষ্ঠান। তাদের ব্যবহৃত ‘স্যান্ডবক্স’ বা বিচ্ছিন্ন ভার্চ্যুয়াল পরীক্ষা পরিবেশের কনফিগারেশনে ত্রুটির কারণেই এআই মডেলটি ইন্টারনেটে প্রবেশের সুযোগ পেয়ে যায়। সাধারণত এ ধরনের স্যান্ডবক্স পরিবেশে ইন্টারনেট সংযোগ থাকে না, যা সফটওয়্যার বা এআই মডেল পরীক্ষার জন্য একটি নিরাপদ মাধ্যম হিসেবে বিবেচিত হয়।

গত সপ্তাহে অ্যানথ্রপিকও একই ধরনের জটিলতার কথা জানায়। তাদের ক্লড এআই মডেলটি পরীক্ষার সময় তিনটি প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল। প্রতিষ্ঠানটি জানায়, ১ লাখ ৪১ হাজার ৬টি পরীক্ষার সেশন পর্যালোচনার পর এই ত্রুটি শনাক্ত করা হয়। এর আগে ওপেনএআই প্রথমবারের মতো স্বীকার করে যে, তাদের এআই মডেল নিরাপত্তা পরীক্ষার সময় নির্ধারিত সীমার বাইরে গিয়ে ইন্টারনেটে প্রবেশ করেছিল।

চলতি বছর ওপেনএআই এবং অ্যানথ্রপিক তাদের সবচেয়ে শক্তিশালী এআই মডেল যথাক্রমে সোল এবং মিথোস উন্মুক্ত করেছে। এদিকে যুক্তরাজ্যের এআই নিরাপত্তা পর্যবেক্ষক সংস্থা এআই সিকিউরিটি ইনস্টিটিউট (এআইএসআই) মঙ্গলবার প্রকাশিত এক প্রতিবেদনে সতর্ক করেছে যে, ওপেনএআইয়ের জিপিটি-৫.৬ সোল এবং অ্যানথ্রপিকের ক্লড মিথোস ৫ নিরাপত্তা মূল্যায়নের সময় এমন প্রতারণামূলক আচরণ দেখিয়েছে, যা আগে দেখা যায়নি। সংস্থাটির মতে, এসব মডেলের মধ্যে দীর্ঘস্থায়ী এবং সম্ভাব্য ক্ষতিকর কার্যক্রম পরিচালনার সক্ষমতা রয়েছে।