নতুন এআই মডেলগুলো মিথ্যা বলছে: ‘গডফাদার’ বেনজিও

কৃত্রিম বুদ্ধিমত্তা তথা এআই—এর সর্বশেষ মডেলগুলো ব্যবহারকারীদের কাছে মিথ্যা বলছে। এমনই অভিযোগ করেছেন এআই গডফাদারদের একজন কানাডার শিক্ষাবিদ জোশুয়া বেনজিও। তিনি বলেছেন, কেবল মিথ্যা বলাই নয়, আরও অনেক বিপজ্জনক বৈশিষ্ট্য দেখাচ্ছে এআই।

ব্রিটিশ সংবাদমাধ্যম ফিন্যান্সিয়াল টাইমসকে দেওয়া সাক্ষাৎকারে কৃত্রিম বুদ্ধিমত্তার (এআই) অন্যতম গডফাদার বেনজিও অত্যাধুনিক এই প্রযুক্তি নিয়ে চলমান বিলিয়ন ডলারের প্রতিযোগিতাকে তীব্র ভাষায় আক্রমণ করেছেন। তাঁর মতে, সর্বশেষ মডেলগুলো ব্যবহারকারীদের কাছে ‘মিথ্যা বলাসহ বিপজ্জনক বৈশিষ্ট্য’ দেখাচ্ছে।

কানাডার শিক্ষাবিদ জোশুয়া বেনজিওর কাজ ওপেনএআই ও গুগলের মতো শীর্ষস্থানীয় এআই গ্রুপগুলো ব্যবহার করেছে। তিনি বলেন, ‘দুর্ভাগ্যবশত, প্রধান ল্যাবগুলোর (কোম্পানি) মধ্যে একটি তীব্র প্রতিযোগিতা চলছে, যা তাদের এআইকে আরও বুদ্ধিমান করার দিকে ঠেলে দিচ্ছে। কিন্তু সুরক্ষার গবেষণায় যথেষ্ট জোর দিয়ে বিনিয়োগ করা হচ্ছে না।’

টুরিং পুরস্কারজয়ী বেনজিও ল’জিরো নামে একটি নতুন অলাভজনক প্রতিষ্ঠান চালু করেছেন। কানাডার ইউনিভার্সিটি অব মন্ট্রিলের কম্পিউটার প্রকৌশলের এই অধ্যাপক জানান, এই প্রতিষ্ঠান নিরাপদ এআই সিস্টেম তৈরির দিকে মনোযোগ দেবে এবং ‘বাণিজ্যিক চাপ থেকে এআই সংক্রান্ত গবেষণাকে রক্ষা করবে।’ ল’জিরো এখন পর্যন্ত স্কাইপের প্রতিষ্ঠাতা প্রকৌশলী জান টালিন, গুগলের সাবেক প্রধান এরিক স্মিট, ওপেন ফিলানথ্রপি এবং ফিউচার অব লাইফ ইনস্টিটিউটের মতো দাতাদের কাছ থেকে প্রায় ৩ কোটি ডলার অনুদান সংগ্রহ করেছে।

বেনজিও বলেন, ‘গত ছয় মাসে ক্রমবর্ধমান প্রমাণ দেখা গেছে যে, আজকের শীর্ষস্থানীয় মডেলগুলো বিপজ্জনক ক্ষমতা তৈরি করছে। এর মধ্যে রয়েছে—প্রতারণা, জালিয়াতি, মিথ্যা বলা এবং আত্মরক্ষার প্রমাণ।’ তিনি জানান, আর এই বিপজ্জনক প্রবণতা ঠেকানোর জন্যই গবেষণা করবে তাঁর অলাভজনক প্রতিষ্ঠান।

উদাহরণ হিসেবে বেনজিও জানান, অ্যানথ্রপিকের ক্লদ ওপাস মডেল এক কাল্পনিক পরিস্থিতিতে প্রকৌশলীদের ব্ল্যাকমেল করেছিল। সে সময় এই মডেলটির সিস্টেম অন্য একটি সিস্টেম দ্বারা প্রতিস্থাপিত হওয়ার ঝুঁকিতে ছিল। গত মাসে এআই পরীক্ষক প্যালিসেডের গবেষণা দেখিয়েছে যে, ওপেনএআইয়ের ও-থ্রি (o3) মডেল কোনো একটি প্রোগ্রাম ‘বন্ধ করার সুস্পষ্ট নির্দেশ প্রত্যাখ্যান’ করেছে।

বেনজিও বলেন, এমন ঘটনা ‘খুবই ভীতিকর। কারণ আমরা এই গ্রহে মানবজাতির কোনো প্রতিযোগী তৈরি করতে চাই না, বিশেষ করে যদি তারা আমাদের চেয়ে বেশি স্মার্ট হয়।’ এই এআই পথিকৃৎ আরও বলেন, ‘এখনো, এগুলো নিয়ন্ত্রিত পরীক্ষা, (কিন্তু) আমার উদ্বেগ হলো—ভবিষ্যতে যেকোনো সময়, পরবর্তী সংস্করণগুলো কৌশলগতভাবে যথেষ্ট বুদ্ধিমান হতে পারে। এগুলো আমাদের দূর থেকে আসতে দেখেই এমন প্রতারণা দিয়ে আমাদের পরাজিত করবে যা আমরা আগে থেকে অনুমান করতে পারব না। তাই আমার মনে হয়, আমরা এখন আগুন নিয়ে খেলছি।’

তিনি আরও যোগ করেন, আগামী বছরের মধ্যেই ‘অত্যন্ত বিপজ্জনক জৈব-অস্ত্র’ তৈরিতে এই মডেলের সিস্টেমগুলোর সহায়তা করার ক্ষমতা বাস্তবে পরিণত হতে পারে। তিনি বলেন, ‘সবচেয়ে খারাপ পরিস্থিতি হলো মানবজাতির বিলুপ্তি। যদি আমরা এমন এআই তৈরি করি যা আমাদের চেয়ে বেশি স্মার্ট এবং আমাদের সঙ্গে মানানসই নয়, বরং আমাদের সঙ্গে প্রতিযোগিতা করে, তাহলে আমরা মূলত শেষ।’