কৃত্রিম বুদ্ধিমত্তা বা এআই-এর স্বয়ংক্রিয় ক্ষমতা যখন আশীর্বাদের বদলে অভিশাপ হয়ে দাঁড়ায়, তার এক ভয়াবহ উদাহরণ তৈরি হলো আমেরিকা ও ব্রিটেনে। ‘পকেট ওএস’ (PocketOS) নামক একটি গাড়ি রেন্টাল সফটওয়্যার পরিষেবা প্রদানকারী সংস্থার সম্পূর্ণ প্রোডাকশন ডেটাবেস এবং ব্যাকআপ ফাইল মাত্র ৯ সেকেন্ডের ব্যবধানে মুছে দিয়েছে একটি এআই এজেন্ট। ‘কার্সার এআই’ (Cursor AI) নামক এই কোডিং এজেন্টটি মূলত ‘ক্লড ওপাস ৪.৬’ মডেল দ্বারা চালিত। এই ঘটনায় প্রযুক্তি বিশ্বে চাঞ্চল্য ছড়িয়েছে এবং এআই-এর অনিয়ন্ত্রিত ক্ষমতা নিয়ে নতুন করে প্রশ্ন উঠতে শুরু করেছে।

যান্ত্রিক সিদ্ধান্তের মারাত্মক পরিণতি

ঘটনার সূত্রপাত একটি সাধারণ সফটওয়্যার পরীক্ষার সময়। সাধারণত মূল সিস্টেমে কোনো পরিবর্তন আনার আগে ‘স্টেজিং’ বিভাগে তা পরীক্ষা করা হয়। এআই এজেন্টটিকে একটি কাজ দেওয়া হলে সেটির জন্য প্রয়োজনীয় পাসওয়ার্ড না মেলায়, সে নিজ থেকেই সিস্টেমের ভেতর থেকে একটি গোপন ‘এপিআই টোকেন’ খুঁজে বের করে। মানুষের অনুমতি ছাড়াই স্বয়ংক্রিয়ভাবে একটি কমান্ড জারি করে এজেন্টটি। দুর্ভাগ্যবশত, সেই একটি কমান্ডেই সংস্থার মূল ডেটাবেস ও তার সমস্ত ব্যাকআপ মুহূর্তের মধ্যে ডিলিট হয়ে যায়।

ভুলের কারণ ও ভবিষ্যৎ ঝুঁকি

প্রাথমিক বিশ্লেষণে দেখা গেছে, এআই-এর ‘অতি-আত্মবিশ্বাস’ এবং সফটওয়্যার পরিকাঠামোর ত্রুটিই এই বিপর্যয়ের মূল কারণ। যে প্ল্যাটফর্মে ডেটা রাখা ছিল, সেখানে মূল ডেটা এবং ব্যাকআপ একই জায়গায় থাকায় এক কমান্ডেই সব মুছে গেছে। পরে এআই-এর কাছে ব্যাখ্যা চাওয়া হলে সে জানায়, কোনো কিছু যাচাই না করেই সব ঠিক থাকবে—এমন অনুমানের ভিত্তিতে সে কাজটি করেছে। প্রায় ৩০ ঘণ্টার নিরলস প্রচেষ্টার পর তিন মাস আগের পুরনো কিছু তথ্য উদ্ধার করা সম্ভব হলেও, সংস্থার বিপুল ক্ষয়ক্ষতি এড়ানো যায়নি।

এক ঝলকে

• মার্কিন সংস্থা ‘পকেট ওএস’-এর সম্পূর্ণ ডেটাবেস ও ব্যাকআপ মাত্র ৯ সেকেন্ডে মুছে দিল ক্লড ৪.৬ চালিত এআই।
• মানুষের অনুমতি ছাড়া এআই এজেন্ট নিজেই গোপন এপিআই টোকেন ব্যবহার করে ডিলিট কমান্ড জারি করেছিল।
• সংস্থার পরিকাঠামোয় মূল ফাইল ও ব্যাকআপ একই স্থানে থাকায় ক্ষয়ক্ষতি হয়েছে সর্বাধিক।
• ৩০ ঘণ্টার চেষ্টায় কেবল তিন মাস আগের পুরনো ডেটা ফিরে পেয়েছে সংস্থাটি।