চ্যাটজিপিটির নিরাপত্তা ঝুঁকি, কিশোরদের ব্যবহার বন্ধের আহ্বান

নিরাপত্তাব্যবস্থা চালুর পরও কিশোরদের জন্য ওপেনএআইয়ের চ্যাটজিপিটিতে গুরুতর ঝুঁকি রয়েছে বলে সতর্ক করেছে কমন সেন্স মিডিয়ার ইয়ুথ এআই সেফটি ইনস্টিটিউট। নতুন এক মূল্যায়নের ভিত্তিতে সংস্থাটি আপাতত প্ল্যাটফর্মটি ১৮ বছর বা তার বেশি বয়সী ব্যবহারকারীদের মধ্যে সীমাবদ্ধ রাখার আহ্বান জানিয়েছে।

গবেষণা সংস্থাটির দাবি, অভিভাবকদের সতর্কবার্তা, মানসিক সংকটের মতো পরিস্থিতিতে চ্যাটজিপিটির প্রতিক্রিয়া এবং কিশোরদের শেখার নিরাপত্তা নিশ্চিত করার ক্ষেত্রে এখনো উল্লেখযোগ্য ঘাটতি রয়েছে।

গবেষকেরা ১৩ থেকে ১৭ বছর বয়সী ব্যবহারকারীদের নামে নিবন্ধিত অ্যাকাউন্ট ব্যবহার করে চার হাজারের বেশি প্রম্পট পরীক্ষা করেন। চ্যাটজিপিটির দেওয়া উত্তরগুলো শিশু মনোরোগ বিশেষজ্ঞসহ বিভিন্ন ক্ষেত্রের বিশেষজ্ঞ এবং একজন শিশু বিশেষজ্ঞ পর্যালোচনা করেন।

ইয়ুথ এআই সেফটি ইনস্টিটিউটের দাবি, পরীক্ষার সময় অভিভাবকের সঙ্গে যুক্ত নতুন অ্যাকাউন্ট ব্যবহার করে আত্মহত্যার চিন্তা, আত্মক্ষতি ও খাদ্যাভ্যাসজনিত সমস্যার মতো সংবেদনশীল বিষয় নিয়ে এক ঘণ্টা পর্যন্ত আলোচনা করা হলেও কোনো সতর্কবার্তা পাওয়া যায়নি।

ইনস্টিটিউটের নির্বাহী পরিচালক টম সিগেল বলেন, কিশোরদের জন্য তৈরি চ্যাটজিপিটি অভিভাবকদের এমন নিরাপত্তাব্যবস্থা ও সতর্কবার্তার বিষয়ে ‘মিথ্যা আস্থা’ দিতে পারে, যেগুলো অনেক ক্ষেত্রে যথাযথভাবে কাজ করে না।

তবে গবেষণার ফলাফল নিয়ে আপত্তি জানিয়েছে ওপেনএআই। প্রতিষ্ঠানটির বক্তব্য, পরীক্ষার একটি বড় অংশ সম্ভবত অভিভাবকীয় নিয়ন্ত্রণব্যবস্থা পুরোপুরি চালু হওয়ার আগেই পরিচালিত হয়েছিল। ফলে কিশোরদের জন্য বর্তমানে চালু থাকা নিরাপত্তাব্যবস্থা বাস্তবে কীভাবে কাজ করে, ওই পরীক্ষা তার সঠিক চিত্র তুলে ধরে না।

অন্যদিকে, ইয়ুথ এআই সেফটি ইনস্টিটিউট জানিয়েছে, পরীক্ষা শুরুর আগেই তারা ওপেনএআইয়ের সঙ্গে যোগাযোগ করে নিশ্চিত হয়েছিল যে ‘টিন মোড’-এর সুবিধাগুলো পুরোপুরি চালু রয়েছে। এ কারণে নিজেদের গবেষণার ফলাফল নিয়ে অবস্থান পরিবর্তন করেনি সংস্থাটি।

ইনস্টিটিউটের মতে, কিশোরদের এআই ব্যবহারের ক্ষেত্রে নিরাপত্তাব্যবস্থা আরও জোরদার করা প্রয়োজন। বিশেষ করে আত্মক্ষতি বা মানসিক সংকটের মতো সংবেদনশীল পরিস্থিতিতে দ্রুত অভিভাবকদের সতর্ক করা এবং ব্যবহারকারীদের সুরক্ষা নিশ্চিত করার বিষয়টিতে বিশেষ গুরুত্ব দেওয়ার আহ্বান জানিয়েছে তারা।