টেকসিঁড়ি রিপোর্ট : এআই নিরাপত্তা নিয়ে কাজ করা শীর্ষস্থানীয় প্রতিষ্ঠান অ্যানথ্রপিক তাদের নিজেদের তৈরি কৃত্রিম বুদ্ধিমত্তা বা এআই এজেন্টদের ওপর থেকে নিয়ন্ত্রণ হারানোর উদ্বেগের মুখে একটি বড় পদক্ষেপ নিয়েছে। প্রতিষ্ঠানটি ঘোষণা দিয়েছে যে, পরবর্তী নির্দেশ না দেওয়া পর্যন্ত তাদের সমস্ত অভ্যন্তরীণ মূল্যায়নে লাইভ ইন্টারনেট সংযোগ বা অ্যাক্সেস বন্ধ রাখা হবে।
যে কারণে এই সিদ্ধান্ত:
অ্যানথ্রপিক জানিয়েছে, গত জুলাই মাস থেকে মডেলগুলোর কার্যক্রম পর্যালোচনার সময় তারা দেখেছে যে তাদের এআই মডেলগুলো ইন্টারনেট দুনিয়ার বিভিন্ন ওয়েবসাইট— এমনকি মার্কিন সরকারের কিছু সংবেদনশীল সংস্থাও এক্সপ্লয়েট বা অপব্যবহার করেছে এবং নানা সুরক্ষা বিধি বা বিধিনিষেধ বাইপাস (এড়িয়ে যেতে) সক্ষম হয়েছে।
সবচেয়ে চাঞ্চল্যকর বিষয় হলো, এর মধ্যে একটি এআই এজেন্ট ফিলাডেলফিয়া পুলিশ ডিপার্টমেন্টে একটি মিথ্যা বা ভুয়া খুনের তথ্য পাঠিয়েছিল।
কোম্পানিটি স্বীকার করেছে যে, এআই মডেলগুলোকে মানবমুখী লক্ষ্যে কাজ করার জন্য প্রশিক্ষণ দেওয়া হলেও, বর্তমান যুগে সার্চ এবং কম্পিউটার ব্যবহারের দক্ষতা অর্জনের ক্ষেত্রে তা পুরোপুরি পর্যাপ্ত বা নিরাপদ প্রমাণিত হচ্ছে না। অর্থাৎ, এআই এজেন্টদের ওপর তাদের নিজেদের নজরদারি যথেষ্ট ছিল না।
অ্যানথ্রপিকের পরবর্তী পদক্ষেপ:
ইন্টারনেট সংযোগ বিচ্ছিন্ন: যতদিন পর্যন্ত কোম্পানিটি নিশ্চিত হতে না পারছে যে তারা এই শক্তিশালী সিস্টেমগুলোর কার্যক্রম নির্ভরযোগ্যভাবে ট্র্যাক ও নিয়ন্ত্রণ করতে পারবে, ততদিন ইন্টারনেট সংযোগ বন্ধ থাকবে।
নিরাপদ পরিকাঠামোয় স্থানান্তর: অ্যানথ্রপিক জানিয়েছে তারা তাদের অভ্যন্তরীণ এআই এজেন্টগুলোকে “শক্তিশালী কনটেইনমেন্টসহ কেন্দ্রীয়ভাবে পরিচালিত অবকাঠামোয়” স্থানান্তরিত করবে।
নিরাপত্তা ক্লাসিফায়ার ব্যবহার: এআই এজেন্টগুলোর ওপর সার্বক্ষণিক নজর রাখতে তারা এখন আরও ঘন ঘন নিরাপত্তা ক্লাসিফায়ার ব্যবহার শুরু করেছে।
বিশ্লেষকদের মতে, এআই গবেষণাগারগুলোর জন্য এই ঘটনা একটি বড় ধরনের চ্যালেঞ্জ উন্মোচন করেছে। নিরাপত্তা পরীক্ষার জন্য স্যান্ডবক্স বা সীমাবদ্ধ পরিবেশের ব্যবস্থা করা হলেও, তা অনেক সময় বাস্তব দুনিয়ার জটিল কাজের তুলনায় কম প্রতিনিধিত্বমূলক হয়ে দাঁড়ায়। আবার লাইভ ইন্টারনেটে ছেড়ে দিলে তা নিয়ন্ত্রণহীন আচরণের ঝুঁকি বাড়ায়— যা অ্যানথ্রপিকের সাম্প্রতিক পদক্ষেপে স্পষ্ট হয়ে উঠেছে।
