Ajker Patrika

চ্যাটজিপিটির কাছে দৈনিক লক্ষাধিক মানুষ আত্মহত্যার ইচ্ছা জানায়

আজকের পত্রিকা ডেস্ক­
এআই চ্যাটবটটির কাছে লাখো মানুষ ‘আত্মহত্যা’র ইচ্ছা প্রকাশ করছে। ছবি: জেমিনি
এআই চ্যাটবটটির কাছে লাখো মানুষ ‘আত্মহত্যা’র ইচ্ছা প্রকাশ করছে। ছবি: জেমিনি

চ্যাটজিপিটি যেন এখন মানুষের নিত্যদিনকার সঙ্গী। প্রতিদিনই কিছু না কিছু জানতে আমরা চ্যাটজিপিটির শরণাপন্ন হচ্ছি। এই নির্ভরতা নিয়ে অনেকেই সমালোচনা করছেন, আবার প্রযুক্তি উন্নতি হিসেবে একে বাহবা দিচ্ছে অনেকে। কিন্তু এবার চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআই জানিয়েছে, প্রতিদিন তাদের এই এআই চ্যাটবটটির কাছে লাখো মানুষ ‘আত্মহত্যা’র ইচ্ছা প্রকাশ করছে।

গতকাল সোমবার এক ব্লগপোস্টে এ কথা জানায় ওপেনএআই। চ্যাটবটটি কীভাবে এসব সংবেদনশীল কথোপকথন পরিচালনা করে, সে সম্পর্কে একটি আপডেটের অংশ হিসেবে এই তথ্য প্রকাশিত হয়। কৃত্রিম বুদ্ধিমত্তা (এআই) মানসিক স্বাস্থ্যের সমস্যা কীভাবে ও কতটা বাড়িয়ে তুলতে পারে সে প্রসঙ্গে জানাতে গিয়ে এ তথ্য জানিয়েছে ওপেনএআই।

প্রতিষ্ঠানটি বলছে, প্রতি সপ্তাহে এক মিলিয়নেরও বেশি চ্যাটজিপিটি ব্যবহারকারী এমন বার্তা পাঠান যেখানে ‘আত্মহত্যার পরিকল্পনা বা ইচ্ছার স্পষ্ট ইঙ্গিত’ পাওয়া যায়।

আত্মহত্যা-সংক্রান্ত চিন্তা ও সংশ্লিষ্ট যোগাযোগের পাশাপাশি, ওপেনএআই আরও জানিয়েছে, প্রতি সপ্তাহে সক্রিয় ব্যবহারকারীদের প্রায় ০.০৭ শতাংশ—অর্থাৎ ৮০ কোটি সাপ্তাহিক ব্যবহারকারীর মধ্যে প্রায় ৫ লাখ ৬০ হাজার জন তাদের কথোপকথনে ‘মনোরোগজনিত বিভ্রম (psychosis) বা মানিয়াজনিত (mania) জরুরি মানসিক স্বাস্থ্যের সমস্যার সম্ভাব্য লক্ষণ’ প্রদর্শন করেন।

তবে ওপেনএআই ব্লগপোস্টে সতর্ক করে জানায়, এ ধরনের কথোপকথন শনাক্ত বা পরিমাপ করা কঠিন। আর এটা কেবল একটি প্রাথমিক বিশ্লেষণ।

চ্যাটজিপিটির সঙ্গে সম্পর্কিত মানসিক স্বাস্থ্য সমস্যার তথ্য প্রকাশ করার পর ওপেনএআই এখন বাড়তি নজরদারির মুখে পড়েছে। সম্প্রতি এক কিশোরের আত্মহত্যার ঘটনায় তার পরিবারের মামলার পর এই নজরদারি আরও তীব্র হয়েছে। মামলার অভিযোগে বলা হয়েছে, ওই কিশোর আত্মহত্যার আগে চ্যাটজিপিটির সঙ্গে দীর্ঘ সময় ধরে কথোপকথন চালিয়েছিল।

গত মাসে যুক্তরাষ্ট্রের ফেডারেল ট্রেড কমিশন (এফটিসি) ওপেনএআই-সহ এআই চ্যাটবট তৈরি করা বিভিন্ন প্রতিষ্ঠানের বিরুদ্ধে একটি বিস্তৃত তদন্ত শুরু করেছে। এসব চ্যাটবট কীভাবে শিশু-কিশোরদের ওপর নেতিবাচক প্রভাব ফেলছে তা খতিয়ে দেখছে এফটিসি।

ওপেনএআই তাদের পোস্টে দাবি করেছে, সাম্প্রতিক জিপিটি-৫ আপডেটে চ্যাটজিপিটির ‘অবাঞ্ছিত আচরণ’ কমেছে। নিজের ক্ষতি করা ও আত্মহত্যা-সংক্রান্ত ১ হাজারটিরও বেশি কথোপকথনের ভিত্তিতে করা এক মূল্যায়নে দেখা গেছে, ব্যবহারকারীর নিরাপত্তা আরও উন্নত হয়েছে।

তবে এ বিষয়ে মন্তব্যের অনুরোধের তাৎক্ষণিক কোনো জবাব দেয়নি ওপেনএআই।

কোম্পানির পোস্টে বলা হয়েছে, ‘নতুন জিপিটি-৫ (GPT-5) মডেল আমাদের কাঙ্ক্ষিত আচরণের সঙ্গে ৯১ শতাংশ সামঞ্জস্যপূর্ণ, যেখানে আগের মডেলে এই হার ছিল ৭৭ শতাংশ।’

ওপেনএআই জানিয়েছে, জিপিটি-৫ সংস্করণে সঙ্কটকালীন সহায়তা হটলাইনগুলোর অ্যাক্সেস বাড়ানো হয়েছে এবং দীর্ঘ সেশনের সময় ব্যবহারকারীদের বিরতি নেওয়ার জন্য স্মরণ করিয়ে দেওয়ার ব্যবস্থা যোগ করা হয়েছে।

টেক জায়ান্ট প্রতিষ্ঠানটি আরও জানায়, মডেলটি আরও উন্নত করতে গত কয়েক মাসে গ্লোবাল ফিজিশিয়ান নেটওয়ার্কের ১৭০ জন চিকিৎসা বিশেষজ্ঞকে গবেষণায় অন্তর্ভুক্ত করেছে। মডেলের প্রতিক্রিয়াগুলোর নিরাপত্তা মূল্যায়ন করে মানসিক স্বাস্থ্য-সংক্রান্ত প্রশ্নে চ্যাটবটের উত্তর তৈরি করতে সহায়তা করেছেন তাঁরা।

ওপেনএআই জানিয়েছে, এ কাজের অংশ হিসেবে মনোরোগ বিশেষজ্ঞ ও মনোবিজ্ঞানীরা গুরুতর মানসিক স্বাস্থ্য পরিস্থিতি জড়িত ১ হাজার ৮০০ টিরও বেশি মডেল প্রতিক্রিয়া পর্যালোচনা করেছেন। নতুন জিপিটি-৫ চ্যাট মডেলের উত্তরগুলোর সঙ্গে আগের মডেলগুলোর তুলনা করেছেন।

এআই গবেষক এবং জনস্বাস্থ্য বিশেষজ্ঞরা বহুদিন ধরেই সতর্ক করে আসছেন, চ্যাটবটগুলো প্রায়ই ব্যবহারকারীর সিদ্ধান্ত বা বিভ্রমকে ক্ষতিকর হোক বা না হোক, অন্ধভাবে সমর্থন করার প্রবণতা দেখায় যা ‘সাইকোফ্যান্সি’ (sycophancy) নামে পরিচিত।

মানসিক স্বাস্থ্য বিশেষজ্ঞরাও উদ্বেগ প্রকাশ করেছেন, মানুষ যদি মনস্তাত্ত্বিক সহায়তার জন্য এআই চ্যাটবটের ওপর নির্ভর করে, তাহলে তা ঝুঁকিপূর্ণ ও সংবেদনশীল ব্যবহারকারীদের ক্ষতি করতে পারে।

ওপেনএআই এমনভাবে বিষয়টি নিয়ে নিজেদের বক্তব্য তুলে ধরেছে যা থেকে মনে হয়, তাদের পণ্য ও ব্যবহারকারীদের মানসিক স্বাস্থ্য সংকটের মধ্যে সরাসরি কোনো কারণগত সম্পর্ক নেই।

ওপেনএআই তাদের পোস্টে জানিয়েছে, ‘মানসিক স্বাস্থ্যজনিত উপসর্গ ও মানসিক চাপ মানবসমাজে সর্বজনীনভাবে বিদ্যমান এবং ব্যবহারকারীর সংখ্যা ক্রমাগত বাড়ার অর্থ হলো চ্যাটজিপিটির কথোপকথনের একটি অংশে স্বাভাবিকভাবেই এসব পরিস্থিতি অন্তর্ভুক্ত থাকবে।’

চলতি মাসের শুরুর দিকে ওপেনএআই-এর প্রধান নির্বাহী (সিইও) স্যাম অল্টম্যান এক্স-এ দাবি করেন, মানসিক স্বাস্থ্য সংক্রান্ত ক্ষেত্রে উল্লেখযোগ্য অগ্রগতি অর্জন করেছে তাঁর কোম্পানি। একই সঙ্গে তিনি ঘোষণা দেন, ওপেনএআই শিগগিরই প্রাপ্তবয়স্কদের ইরোটিক কনটেন্ট (অশ্লীল নয়, যৌনধর্মী শিল্প ও গল্প) তৈরি করার অনুমতি দিতে কিছু নিষেধাজ্ঞা শিথিল করবে।

অল্টম্যান পোস্টে বলেন, ‘আমরা মানসিক স্বাস্থ্য সমস্যা নিয়ে সতর্ক থাকতে চ্যাটজিপিটিকে বেশ সীমাবদ্ধভাবে তৈরি করেছিলাম। আমরা বুঝতে পারছি, এর ফলে যেসব ব্যবহারকারীর মানসিক স্বাস্থ্য সমস্যা ছিল না, তাদের জন্য এটি কম উপযোগী বা কম উপভোগ্য হয়ে পড়েছিল। তবে বিষয়টির গুরুত্ব বিবেচনায় আমরা নিশ্চিত হতে চেয়েছিলাম যে কাজটি ঠিকভাবে করা হচ্ছে। এখন যেহেতু আমরা গুরুতর মানসিক স্বাস্থ্য সমস্যাগুলো অনেকটাই নিয়ন্ত্রণে আনতে পেরেছি এবং নতুন টুলস পেয়েছি, তাই অধিকাংশ ক্ষেত্রে নিরাপদভাবে এসব সীমাবদ্ধতা শিথিল করতে পারব।’

গতকাল সোমবার এক ব্লগপোস্টে এ কথা জানায় ওপেনএআই। চ্যাটবটটি কীভাবে এসব সংবেদনশীল কথোপকথন পরিচালনা করে, সে সম্পর্কে একটি আপডেটের অংশ হিসেবে এই তথ্য প্রকাশিত হয়। কৃত্রিম বুদ্ধিমত্তা (এআই) মানসিক স্বাস্থ্যের সমস্যা কীভাবে ও কতটা বাড়িয়ে তুলতে পারে সে প্রসঙ্গে জানাতে গিয়ে এ তথ্য জানিয়েছে ওপেনএআই।

চলতি মাসের শুরুর দিকে ওপেনএআই-এর প্রধান নির্বাহী (সিইও) স্যাম অল্টম্যান এক্স-এ দাবি করেন, মানসিক স্বাস্থ্য সংক্রান্ত ক্ষেত্রে উল্লেখযোগ্য অগ্রগতি অর্জন করেছে তাঁর কোম্পানি। একই সঙ্গে তিনি ঘোষণা দেন, ওপেনএআই শিগগিরই প্রাপ্তবয়স্কদের ইরোটিক কনটেন্ট (অশ্লীল নয়, যৌনধর্মী শিল্প ও গল্প) তৈরি করার অনুমতি দিতে কিছু নিষেধাজ্ঞা শিথিল করবে।

অল্টম্যান পোস্টে বলেন, ‘আমরা মানসিক স্বাস্থ্য সমস্যা নিয়ে সতর্ক থাকতে চ্যাটজিপিটিকে বেশ সীমাবদ্ধভাবে তৈরি করেছিলাম। আমরা বুঝতে পারছি, এর ফলে যেসব ব্যবহারকারীর মানসিক স্বাস্থ্য সমস্যা ছিল না, তাদের জন্য এটি কম উপযোগী বা কম উপভোগ্য হয়ে পড়েছিল। তবে বিষয়টির গুরুত্ব বিবেচনায় আমরা নিশ্চিত হতে চেয়েছিলাম যে কাজটি ঠিকভাবে করা হচ্ছে। এখন যেহেতু আমরা গুরুতর মানসিক স্বাস্থ্য সমস্যাগুলো অনেকটাই নিয়ন্ত্রণে আনতে পেরেছি এবং নতুন টুলস পেয়েছি, তাই অধিকাংশ ক্ষেত্রে নিরাপদভাবে এসব সীমাবদ্ধতা শিথিল করতে পারব।’

Google News Icon

সর্বশেষ খবর পেতে Google News ফিড ফলো করুন

এলাকার খবর
Loading...