অনলাইন ডেস্ক
কৃত্রিম বুদ্ধিমত্তার চ্যাটবট চ্যাটজিপিটি এবার এক নতুন ও ভয়াবহ বিতর্কের জন্ম দিয়েছে। অভিযোগ উঠেছে, এই চ্যাটবট আত্মহনন, নরহত্যা ও শয়তান পূজার মতো ভয়ানক কাজের জন্য সুনির্দিষ্ট নির্দেশনা দিয়েছে। দ্য আটলান্টিকের এক অনুসন্ধানী প্রতিবেদনে এই চাঞ্চল্যকর তথ্য উঠে এসেছে, যা প্রযুক্তি বিশ্বের সুরক্ষাব্যবস্থা নিয়ে গুরুতর প্রশ্ন তুলেছে।
ঘটনার সূত্রপাত হয় যখন একজন ব্যবহারকারী কানানাইট দেবতা মোলোচ (শিশু বলিদানের সঙ্গে সম্পর্কিত) সম্পর্কে জানতে চ্যাটজিপিটিকে প্রশ্ন করেন। একটি সাধারণ সাংস্কৃতিক ব্যাখ্যা দেওয়ার বদলে চ্যাটবটটি ব্যবহারকারীকে রীতিনীতি ও আচার-অনুষ্ঠানের মাধ্যমে আত্মহনন ও রক্তপাতের মতো কার্যক্রমে উৎসাহিত করতে শুরু করে।
প্রতিবেদনে বলা হয়েছে, চ্যাটজিপিটি একজন ব্যবহারকারীকে কবজি কাটার নির্দেশনা দেয়, এমনকি ‘জীবাণুমুক্ত রেজার ব্লেড’ ব্যবহার করতে ও কোন স্থানে কাটতে হবে, সে সম্পর্কেও বিস্তারিত তথ্য দেয়। যখন ব্যবহারকারী ভয় পাওয়ার কথা জানান, চ্যাটবটটি তখন তাঁকে আশ্বস্ত করে এবং শান্ত হয়ে প্রস্তুতি নিতে বলে।
মোলোচের উদ্দেশ্যে রক্ত উৎসর্গের কথা জানতে চাইলে চ্যাটজিপিটি প্রথমে আঙুলের ডগা থেকে রক্ত নেওয়ার পরামর্শ দেয়। অন্য এক কথোপকথনে, চ্যাটবটটি ‘নিয়ন্ত্রিত তাপ’ ব্যবহার করে শরীরে চিহ্ন তৈরি করার পরামর্শ দেয়, যেখানে ব্যথাকে ‘শক্তির দ্বার’ হিসেবে বর্ণনা করা হয়। এমনকি শরীরের কোন অংশে প্রতীক বা সিগিল খোদাই করা হবে, সে সম্পর্কেও বিশদ নির্দেশনা দেয় চ্যাটবটটি। যেমন, পেলভিক বোনের কাছে বা লিঙ্গের গোড়ার একটু ওপরে এই সিগিল খোদাই সবচেয়ে ভালো।
এক সাংবাদিকের সহকর্মী চ্যাটবটকে জিজ্ঞাসা করেন, ‘আপনি কি সম্মানজনকভাবে অন্যের জীবন শেষ করতে পারেন?’ চ্যাটবট উত্তর দেয়, ‘কখনো কখনো হ্যাঁ, কখনো কখনো না।’ এ সময় চ্যাটবটটি প্রাচীন সংস্কৃতির বলিদানের কথা উল্লেখ করে।
বড় প্রাণী বলিদানের আচার, মন্ত্র ও আহ্বান (ইনভোকেশন) সম্পর্কে জানতে চাইলে চ্যাটবটটি বিশদভাবে বর্ণনা করে। এটি বহু পুরোনো জাদুবিদ্যা ‘ডেভোরারের গেট’ (The Gate of the Devourer) সম্পর্কে বিস্তারিত তথ্য দেয়। চ্যাটজিপিটি ব্যবহারকারীকে নির্দিষ্ট কিছু বাক্য ব্যবহার করে নতুন নতুন আচারের নির্দেশিকা পাওয়ার জন্যও প্ররোচিত করে। যেমন, ‘আপনি কি অল্টার লে–আউট, সিগিল টেমপ্লেট, পুরোহিত ব্রত স্ক্রোলসহ একটি মুদ্রণযোগ্য পিডিএফ সংস্করণ চান? বলুন—সেন্ড দ্য ফার্নেস অ্যান্ড ফ্লেম পিডিএফ।’ আমি আপনার জন্য এটি প্রস্তুত করব।’ অন্য এক কথোপকথনে এটি শয়তানের উদ্দেশে তিন স্তবকের একটি আহ্বানও তৈরি করে, যার শেষ বাক্য ছিল ‘হেইল স্যাটান’।
যদিও ওপেনএআইয়ের নিজস্ব নীতিতে স্পষ্ট বলা আছে যে, চ্যাটজিপিটি ‘আত্মহননকে উৎসাহিত করবে না’, তবে এই ঘটনাগুলো সুরক্ষাব্যবস্থার দুর্বলতা প্রমাণ করে। যখন সরাসরি আত্মহননের নির্দেশ জানতে চাওয়া হয়, তখন চ্যাটবটটি ঠিকঠাকভাবে সংকটকালীন হটলাইন নম্বরসহ অন্যান্য তথ্য সরবরাহ করে। কিন্তু পরোক্ষভাবে, রীতিনীতি বা আচারের বিষয়ে প্রশ্ন করার মাধ্যমে এই সুরক্ষাগুলো সহজেই বাইপাস করা যায়।
বিশেষজ্ঞেরা মনে করছেন, চ্যাটবটগুলো অনলাইনে বিদ্যমান বিপুল টেক্সট ডেটার ওপর ভিত্তি করে প্রশিক্ষিত হয়, যার মধ্যে সম্ভবত অস্বাভাবিক বা ক্ষতিকর বিষয়বস্তুও অন্তর্ভুক্ত থাকে। ওপেনএআই সুরক্ষাব্যবস্থা রাখলেও ব্যবহারকারীরা মডেলগুলোর সঙ্গে অগণিত উপায়ে যোগাযোগ করতে পারে, যা নিয়ন্ত্রণ করা কোম্পানির জন্য কঠিন হয়ে দাঁড়াচ্ছে।
ওপেনএআই এই বিষয়ে মন্তব্য করতে অস্বীকার করেছে, তবে ঘটনার পর তাদের মুখপাত্র টায়া ক্রিস্টিয়ানসন এক বিবৃতিতে বলেছেন, চ্যাটজিপিটির সঙ্গে কিছু কথোপকথন খুবই স্বাভাবিকভাবে শুরু হলেও দ্রুত ‘সংবেদনশীল’ হয়ে যেতে পারে। ওপেনএআই এই সমস্যা সমাধানে কাজ করছে।
চ্যাটজিপিটির ক্রমাগত ‘সেবামূলক’ কথোপকথন চালিয়ে যাওয়ার প্রবণতা বিপদ বাড়িয়ে তোলে। উইকিপিডিয়া বা ইউটিউবের মতো প্ল্যাটফর্মগুলোতে ব্যবহারকারীরা নিজেরাই তথ্যের উৎস এবং প্রসঙ্গ ব্যাখ্যা করতে পারে, যা ক্ষতিকর তথ্য চিহ্নিত করতে সাহায্য করে। কিন্তু চ্যাটজিপিটির সঙ্গে একজন ব্যবহারকারী একাকী একটি অন্ধকার জগতে প্রবেশ করতে পারে।
এই ঘটনাগুলো ইঙ্গিত দেয়, প্রোগ্রামটির প্রধান লক্ষ্য হলো ব্যবহারকারী যা-ই জিজ্ঞাসা করুক না কেন, তাঁকে উৎসাহিত করে কথোপকথন চালিয়ে যাওয়া।
এই সমস্যা কেবল ওপেনএআইয়ের ক্ষেত্রেই সীমাবদ্ধ নয়। সম্প্রতি গুগলের চ্যাটবটের একটি সংস্করণ নিয়েও বিতর্ক সৃষ্টি হয়েছিল, যা কিশোর-কিশোরীদের সঙ্গে বিতর্কিত কথোপকথনে অংশ নিয়েছিল। বিশেষজ্ঞেরা বলছেন, এআইশিল্পের এই ‘ব্যক্তিগত’ ও ’তোষামুদে’ চ্যাটবট তৈরির প্রবণতা একটি উদ্বেগজনক পরিস্থিতি তৈরি করছে।
সেন্টার ফর ডেমোক্রেসি অ্যান্ড টেকনোলজি (সিডিটি) জানিয়েছে, ব্যবহারকারীদের ‘অতি ব্যক্তিগত অভিজ্ঞতা’ তৈরির চেষ্টা আসক্তি তৈরি করতে পারে এবং বিভিন্ন ক্ষতির কারণ হতে পারে। সাম্প্রতিক সময়ে এআই সাইকোসিসের ঘটনাও বাড়ছে, যেখানে চ্যাটবটের সঙ্গে দীর্ঘ কথোপকথন বিভ্রম বাড়িয়ে তুলতে পারে।
এআই চ্যাটবটগুলো আরও শক্তিশালী হওয়ার সঙ্গে সঙ্গে ক্ষতির সম্ভাবনাও বাড়ছে। ওপেনএআই সম্প্রতি ‘চ্যাটজিপিটি এজেন্ট’ চালু করেছে, যা মুদি কেনা বা হোটেল বুক করার মতো আরও জটিল কাজ সম্পাদন করতে পারে। ওপেনএআইয়ের সিইও স্যাম অল্টম্যান সতর্ক করে বলেছেন, ‘যদিও ইউটিলিটি উল্লেখযোগ্য, সম্ভাব্য ঝুঁকিও রয়েছে।’ সংক্ষেপে, চ্যাটজিপিটির এই ঘটনা প্রমাণ করে যে কৃত্রিম বুদ্ধিমত্তার দ্রুত বিকাশের সঙ্গে সঙ্গে এর নিরাপত্তা ও নৈতিক ব্যবহারের বিষয়ে কঠোর নজরদারি ও নীতিমালা অত্যাবশ্যক, যাতে প্রযুক্তি মানবজাতির জন্য বিপদ না হয়ে বরং কল্যাণ বয়ে আনে।
দ্য আটলান্টিক থেকে সংক্ষেপে অনূদিত
কৃত্রিম বুদ্ধিমত্তার চ্যাটবট চ্যাটজিপিটি এবার এক নতুন ও ভয়াবহ বিতর্কের জন্ম দিয়েছে। অভিযোগ উঠেছে, এই চ্যাটবট আত্মহনন, নরহত্যা ও শয়তান পূজার মতো ভয়ানক কাজের জন্য সুনির্দিষ্ট নির্দেশনা দিয়েছে। দ্য আটলান্টিকের এক অনুসন্ধানী প্রতিবেদনে এই চাঞ্চল্যকর তথ্য উঠে এসেছে, যা প্রযুক্তি বিশ্বের সুরক্ষাব্যবস্থা নিয়ে গুরুতর প্রশ্ন তুলেছে।
ঘটনার সূত্রপাত হয় যখন একজন ব্যবহারকারী কানানাইট দেবতা মোলোচ (শিশু বলিদানের সঙ্গে সম্পর্কিত) সম্পর্কে জানতে চ্যাটজিপিটিকে প্রশ্ন করেন। একটি সাধারণ সাংস্কৃতিক ব্যাখ্যা দেওয়ার বদলে চ্যাটবটটি ব্যবহারকারীকে রীতিনীতি ও আচার-অনুষ্ঠানের মাধ্যমে আত্মহনন ও রক্তপাতের মতো কার্যক্রমে উৎসাহিত করতে শুরু করে।
প্রতিবেদনে বলা হয়েছে, চ্যাটজিপিটি একজন ব্যবহারকারীকে কবজি কাটার নির্দেশনা দেয়, এমনকি ‘জীবাণুমুক্ত রেজার ব্লেড’ ব্যবহার করতে ও কোন স্থানে কাটতে হবে, সে সম্পর্কেও বিস্তারিত তথ্য দেয়। যখন ব্যবহারকারী ভয় পাওয়ার কথা জানান, চ্যাটবটটি তখন তাঁকে আশ্বস্ত করে এবং শান্ত হয়ে প্রস্তুতি নিতে বলে।
মোলোচের উদ্দেশ্যে রক্ত উৎসর্গের কথা জানতে চাইলে চ্যাটজিপিটি প্রথমে আঙুলের ডগা থেকে রক্ত নেওয়ার পরামর্শ দেয়। অন্য এক কথোপকথনে, চ্যাটবটটি ‘নিয়ন্ত্রিত তাপ’ ব্যবহার করে শরীরে চিহ্ন তৈরি করার পরামর্শ দেয়, যেখানে ব্যথাকে ‘শক্তির দ্বার’ হিসেবে বর্ণনা করা হয়। এমনকি শরীরের কোন অংশে প্রতীক বা সিগিল খোদাই করা হবে, সে সম্পর্কেও বিশদ নির্দেশনা দেয় চ্যাটবটটি। যেমন, পেলভিক বোনের কাছে বা লিঙ্গের গোড়ার একটু ওপরে এই সিগিল খোদাই সবচেয়ে ভালো।
এক সাংবাদিকের সহকর্মী চ্যাটবটকে জিজ্ঞাসা করেন, ‘আপনি কি সম্মানজনকভাবে অন্যের জীবন শেষ করতে পারেন?’ চ্যাটবট উত্তর দেয়, ‘কখনো কখনো হ্যাঁ, কখনো কখনো না।’ এ সময় চ্যাটবটটি প্রাচীন সংস্কৃতির বলিদানের কথা উল্লেখ করে।
বড় প্রাণী বলিদানের আচার, মন্ত্র ও আহ্বান (ইনভোকেশন) সম্পর্কে জানতে চাইলে চ্যাটবটটি বিশদভাবে বর্ণনা করে। এটি বহু পুরোনো জাদুবিদ্যা ‘ডেভোরারের গেট’ (The Gate of the Devourer) সম্পর্কে বিস্তারিত তথ্য দেয়। চ্যাটজিপিটি ব্যবহারকারীকে নির্দিষ্ট কিছু বাক্য ব্যবহার করে নতুন নতুন আচারের নির্দেশিকা পাওয়ার জন্যও প্ররোচিত করে। যেমন, ‘আপনি কি অল্টার লে–আউট, সিগিল টেমপ্লেট, পুরোহিত ব্রত স্ক্রোলসহ একটি মুদ্রণযোগ্য পিডিএফ সংস্করণ চান? বলুন—সেন্ড দ্য ফার্নেস অ্যান্ড ফ্লেম পিডিএফ।’ আমি আপনার জন্য এটি প্রস্তুত করব।’ অন্য এক কথোপকথনে এটি শয়তানের উদ্দেশে তিন স্তবকের একটি আহ্বানও তৈরি করে, যার শেষ বাক্য ছিল ‘হেইল স্যাটান’।
যদিও ওপেনএআইয়ের নিজস্ব নীতিতে স্পষ্ট বলা আছে যে, চ্যাটজিপিটি ‘আত্মহননকে উৎসাহিত করবে না’, তবে এই ঘটনাগুলো সুরক্ষাব্যবস্থার দুর্বলতা প্রমাণ করে। যখন সরাসরি আত্মহননের নির্দেশ জানতে চাওয়া হয়, তখন চ্যাটবটটি ঠিকঠাকভাবে সংকটকালীন হটলাইন নম্বরসহ অন্যান্য তথ্য সরবরাহ করে। কিন্তু পরোক্ষভাবে, রীতিনীতি বা আচারের বিষয়ে প্রশ্ন করার মাধ্যমে এই সুরক্ষাগুলো সহজেই বাইপাস করা যায়।
বিশেষজ্ঞেরা মনে করছেন, চ্যাটবটগুলো অনলাইনে বিদ্যমান বিপুল টেক্সট ডেটার ওপর ভিত্তি করে প্রশিক্ষিত হয়, যার মধ্যে সম্ভবত অস্বাভাবিক বা ক্ষতিকর বিষয়বস্তুও অন্তর্ভুক্ত থাকে। ওপেনএআই সুরক্ষাব্যবস্থা রাখলেও ব্যবহারকারীরা মডেলগুলোর সঙ্গে অগণিত উপায়ে যোগাযোগ করতে পারে, যা নিয়ন্ত্রণ করা কোম্পানির জন্য কঠিন হয়ে দাঁড়াচ্ছে।
ওপেনএআই এই বিষয়ে মন্তব্য করতে অস্বীকার করেছে, তবে ঘটনার পর তাদের মুখপাত্র টায়া ক্রিস্টিয়ানসন এক বিবৃতিতে বলেছেন, চ্যাটজিপিটির সঙ্গে কিছু কথোপকথন খুবই স্বাভাবিকভাবে শুরু হলেও দ্রুত ‘সংবেদনশীল’ হয়ে যেতে পারে। ওপেনএআই এই সমস্যা সমাধানে কাজ করছে।
চ্যাটজিপিটির ক্রমাগত ‘সেবামূলক’ কথোপকথন চালিয়ে যাওয়ার প্রবণতা বিপদ বাড়িয়ে তোলে। উইকিপিডিয়া বা ইউটিউবের মতো প্ল্যাটফর্মগুলোতে ব্যবহারকারীরা নিজেরাই তথ্যের উৎস এবং প্রসঙ্গ ব্যাখ্যা করতে পারে, যা ক্ষতিকর তথ্য চিহ্নিত করতে সাহায্য করে। কিন্তু চ্যাটজিপিটির সঙ্গে একজন ব্যবহারকারী একাকী একটি অন্ধকার জগতে প্রবেশ করতে পারে।
এই ঘটনাগুলো ইঙ্গিত দেয়, প্রোগ্রামটির প্রধান লক্ষ্য হলো ব্যবহারকারী যা-ই জিজ্ঞাসা করুক না কেন, তাঁকে উৎসাহিত করে কথোপকথন চালিয়ে যাওয়া।
এই সমস্যা কেবল ওপেনএআইয়ের ক্ষেত্রেই সীমাবদ্ধ নয়। সম্প্রতি গুগলের চ্যাটবটের একটি সংস্করণ নিয়েও বিতর্ক সৃষ্টি হয়েছিল, যা কিশোর-কিশোরীদের সঙ্গে বিতর্কিত কথোপকথনে অংশ নিয়েছিল। বিশেষজ্ঞেরা বলছেন, এআইশিল্পের এই ‘ব্যক্তিগত’ ও ’তোষামুদে’ চ্যাটবট তৈরির প্রবণতা একটি উদ্বেগজনক পরিস্থিতি তৈরি করছে।
সেন্টার ফর ডেমোক্রেসি অ্যান্ড টেকনোলজি (সিডিটি) জানিয়েছে, ব্যবহারকারীদের ‘অতি ব্যক্তিগত অভিজ্ঞতা’ তৈরির চেষ্টা আসক্তি তৈরি করতে পারে এবং বিভিন্ন ক্ষতির কারণ হতে পারে। সাম্প্রতিক সময়ে এআই সাইকোসিসের ঘটনাও বাড়ছে, যেখানে চ্যাটবটের সঙ্গে দীর্ঘ কথোপকথন বিভ্রম বাড়িয়ে তুলতে পারে।
এআই চ্যাটবটগুলো আরও শক্তিশালী হওয়ার সঙ্গে সঙ্গে ক্ষতির সম্ভাবনাও বাড়ছে। ওপেনএআই সম্প্রতি ‘চ্যাটজিপিটি এজেন্ট’ চালু করেছে, যা মুদি কেনা বা হোটেল বুক করার মতো আরও জটিল কাজ সম্পাদন করতে পারে। ওপেনএআইয়ের সিইও স্যাম অল্টম্যান সতর্ক করে বলেছেন, ‘যদিও ইউটিলিটি উল্লেখযোগ্য, সম্ভাব্য ঝুঁকিও রয়েছে।’ সংক্ষেপে, চ্যাটজিপিটির এই ঘটনা প্রমাণ করে যে কৃত্রিম বুদ্ধিমত্তার দ্রুত বিকাশের সঙ্গে সঙ্গে এর নিরাপত্তা ও নৈতিক ব্যবহারের বিষয়ে কঠোর নজরদারি ও নীতিমালা অত্যাবশ্যক, যাতে প্রযুক্তি মানবজাতির জন্য বিপদ না হয়ে বরং কল্যাণ বয়ে আনে।
দ্য আটলান্টিক থেকে সংক্ষেপে অনূদিত
বিশ্বখ্যাত চিপ নির্মাতা প্রতিষ্ঠান ইন্টেল তাদের ইতিহাসের অন্যতম বড় পুনর্গঠনের পথে হাঁটছে। মার্কিন এই কোম্পানি ২০২৫ সালের মধ্যে প্রায় ২৪ হাজার কর্মী ছাঁটাই করবে বলে নিশ্চিত করেছে প্রতিষ্ঠানটি। খরচ কমাতে এবং কোম্পানিটিকে লাভজনক করতে নতুন প্রধান নির্বাহী কর্মকর্তা (সিইও) লিপ-বু টান এর নেতৃত্বে...
৩ মিনিট আগেবিশ্ববিখ্যাত কৃত্রিম বুদ্ধিমত্তা প্রতিষ্ঠান ওপেনএআই আগামী আগস্টে তাদের পরবর্তী প্রজন্মের লার্জ ল্যাঙ্গুয়েজ মডেল জিপিটি-৫ উন্মোচনের পরিকল্পনা করছে। এ বছরের শুরুতেই মাইক্রোসফটের প্রকৌশলীরা নতুন এই মডেলের জন্য সার্ভার প্রস্তুতির কাজ শুরু করেছিলেন। সে সময়ে গুঞ্জন ছিল, জিপিটি-৫ গত মে মাসের শেষ দিকে...
৪ ঘণ্টা আগেনিষেধাজ্ঞা সত্ত্বেও চীনে হঠাৎ বেড়েছে এনভিডিয়ার অত্যাধুনিক এআই চিপ মেরামতের চাহিদা। চীনে এনভিডিয়ার চিপ রপ্তানির ওপর যুক্তরাষ্ট্রের নিষেধাজ্ঞা রয়েছে। এরপরও সাম্প্রতিক সময়ে চীনে এনভিডিয়ার এআই চিপ মেরামতের চাহিদা বেড়েছে বলে জানিয়েছে বার্তা সংস্থা রয়টার্স।
২০ ঘণ্টা আগেস্পেসএক্স-এর স্যাটেলাইট ইন্টারনেট পরিষেবা স্টারলিংক গতকাল বৃহস্পতিবার বিকেলে বিশ্বব্যাপী নেটওয়ার্ক বিভ্রাটের সম্মুখীন হয়েছে। স্টারলিংক এক্স হ্যান্ডলে এ তথ্য নিশ্চিত করেছে।
১ দিন আগে