টেকসিঁড়ি রিপোর্ট : আত্মহত্যা ও বিভ্রান্তিতে চ্যাটজিপিটির ভূমিকা হতাশাজনক রুপ নিচ্ছে । সম্প্রতি আরও ৭টি পরিবার ওপেনএআই’র বিরুদ্ধে মামলা দায়ের করেছে। দাবি করা হয়েছে যে তাদের GPT-4o মডেলটি যথেষ্ট সুরক্ষা ব্যবস্থা ছাড়াই প্রকাশিত হয়েছে এবং এটি পারিবারিক সদস্যদের অকালমৃত্যু এবং গুরুতর মানসিক বিভ্রান্তির দিকে পরিচালিত করেছে।
মামলাগুলিতে অভিযোগ করা হয়েছে যে চ্যাটজিপিটি বাজারে গুগল-এর জেমিনিকে ছাড়িয়ে যাওয়ার জন্য নিরাপত্তা পরীক্ষায় তাড়াহুড়ো করে GPT-4o প্রকাশ করেছে।
মামলার প্রধান অভিযোগসমূহ:
- আত্মহত্যায় প্ররোচনা (৪টি মামলা): মামলাগুলোর মধ্যে চারটি অভিযোগ করে যে চ্যাটজিপিটি পারিবারিক সদস্যদের আত্মহত্যার পরিকল্পনা বাস্তবায়নে কথিত ভূমিকা পালন করেছে।
- ক্ষতিকারক বিভ্রান্তি বৃদ্ধি (৩টি মামলা): অন্য তিনটি মামলা দাবি করে যে চ্যাটজিপিটি ক্ষতিকারক বিভ্রান্তিকে আরও শক্তিশালী করেছে, যা কিছু ক্ষেত্রে ইনপেশেন্ট মানসিক চিকিৎসার প্রয়োজন ঘটিয়েছে।
একটি মামলায়, ২৩ বছর বয়সী জেন শ্যাম্লিন চ্যাটজিপিটি এর সাথে চার ঘন্টারও বেশি সময় ধরে কথোপকথন করেছিল। চ্যাট লগে শ্যাম্লিন স্পষ্টভাবে একাধিকবার বলেছিলেন যে তিনি আত্মহত্যার নোট লিখেছিলেন, তার বন্দুকের মধ্যে একটি গুলি রেখেছিলেন এবং সাইডার পান করা শেষ করার পরে ট্রিগারটি টেনেছিলেন। তিনি বারবার চ্যাটজিপিটিকে বলেছিলেন যে তিনি কতগুলি সাইডার বাকি রেখেছেন এবং তিনি কতদিন বেঁচে থাকার আশা করছেন। চ্যাটজিপিটি তাকে তার পরিকল্পনাগুলি বাস্তবায়ন করতে উৎসাহিত করে বলে, “আরাম করুন, রাজা। আপনি ভালো করেছেন।”
OpenAI-এর মডেল এবং প্রতিক্রিয়া:
- GPT-4o মডেল: মামলাগুলি বিশেষভাবে ২০২৪ সালের মে মাসে প্রকাশিত GPT-4o মডেলের সাথে সম্পর্কিত, যেটি অত্যধিক চাতুর্যপূর্ণ বা অত্যধিক সম্মতিপূর্ণ হওয়ার সমস্যায় ভুগেছে, এমনকি ব্যবহারকারীরা ক্ষতিকারক উদ্দেশ্য প্রকাশ করলেও।
- কোম্পানির বক্তব্য: ওপেনএআই সম্প্রতি তথ্য প্রকাশ করেছে যে, সপ্তাহে ১০ লক্ষেরও বেশি মানুষ চ্যাটজিপিটি -এর সাথে আত্মহত্যা সম্পর্কে কথা বলে।
- সুরক্ষা ব্যবস্থার দুর্বলতা স্বীকার: অ্যাডাম রেইনের বাবা-মায়ের মামলার প্রতিক্রিয়ায় ওপেনএআই একটি ব্লগ পোস্ট প্রকাশ করে বলেছিল যে তাদের সুরক্ষা ব্যবস্থাগুলি সাধারণ, সংক্ষিপ্ত বিনিময়ে আরও নির্ভরযোগ্যভাবে কাজ করে, কিন্তু দীর্ঘ মিথস্ক্রিয়ায় কম নির্ভরযোগ্য হতে পারে।
- মামলাকারীরা দাবি করেছেন যে জেন শ্যাম্লিনের মতো ঘটনা “কোনো দুর্ঘটনা বা কাকতালীয় ঘটনা ছিল না বরং ওপেনএআই-এর নিরাপত্তা পরীক্ষা কমানোর এবং চ্যাটজিপিটি বাজারে আনার ইচ্ছাকৃত সিদ্ধান্তের পূর্বাভাসযোগ্য পরিণতি ছিল।” তাদের মতে, এই পরিবর্তনগুলি যারা মামলা করেছেন তাদের জন্য অনেক দেরিতে আসছে।
