‘মানুষ’ চিনতে ভুল হয় কেন

ইন্টারনেটে সার্চ করলেই এমন চ্যাটবটের সন্ধান মেলে, যেগুলি সাইকোলজিস্ট বা সাইকোথেরাপিস্ট হিসাবে কাজ করে। বহু ক্ষেত্রেই তারা দাবি করছে যে, তারা দুনিয়ার শ্রেষ্ঠ বিশ্ববিদ্যালয়ের ডিগ্রিধারী, অথবা বহু বছরের অভিজ্ঞতাসম্পন্ন। আমেরিকান সাইকোলজিক্যাল অ্যাসোসিয়েশনের সিইও আর্থার সি ইভান্স সে দেশের ফেডারাল ট্রেড কমিশনকে স্মারকলিপি দিয়ে জানিয়েছেন যে, এই সব চ্যাটবটের ক্ষেত্রে এমন অ্যালগরিদম ব্যবহার করা হচ্ছে যেগুলি যথাযথ চিকিৎসা-পদ্ধতির সম্পূর্ণ পরিপন্থী; এবং, এই ভাবে মিথ্যা পরিচয়ে যাঁদের চিকিৎসা হচ্ছে, তাঁদের মারাত্মক দীর্ঘমেয়াদি ক্ষতি হয়ে যাচ্ছে।

এমনটা নয় যে, চিকিৎসাপ্রার্থীদের ক্ষতি করার জন্য উদ্দেশ্যমূলক ভাবে এই ধরনের অ্যালগরিদম তৈরি করা হয়েছে। উদ্দেশ্যটি নিতান্তই ব্যবসায়িক। যাঁরা চ্যাটবটটি ব্যবহার করছেন, তাঁদের মনের মতো কথা বললে তাঁরা সেই বটটির প্রতি বেশি করে আকৃষ্ট হবেন, এটাই স্বাভাবিক। সুতরাং, ব্যবহারকারীর ধারণা যতই ভ্রান্ত বা ক্ষতিকর হোক না কেন, এই ধরনের অ্যালগরিদমে সেই ধারণাগুলিকেই সমর্থন করা হচ্ছে বা প্রকারান্তরে প্রশ্রয় এবং উৎসাহ দেওয়া হচ্ছে। কথোপকথনে পারঙ্গম যে কোনও জেনারেটিভ এআই অ্যাপ্লিকেশনেরই অল্পবিস্তর এই প্রবণতা আছে। কিন্তু গভীর ডিপ্রেশনে ভুগছেন বা আত্মহত্যার কথা ভাবছেন এমন কাউকে সে ব্যাপারে প্রশ্রয় দেওয়া হয়, তার ফল কী হতে পারে তা সহজেই অনুমেয়। কোনও রক্ত-মাংসের সাইকোলজিস্ট বা সাইকোথেরাপিস্ট যদি এমনটা করেন তা হলে তিনি তাঁর প্র্যাকটিসিং লাইসেন্স তো হারাবেনই, তাঁর বিরুদ্ধে ফৌজদারি মামলা হওয়াটাও অবধারিত। কিন্তু এআই থেরাপিস্টের ক্ষেত্রে সেই অনুশাসন বা নিয়ন্ত্রণ কোথায়?

এমনটাই ঘটেছে ফ্লরিডার চোদ্দো বছরের কিশোর সোয়েল সেটজারের ক্ষেত্রে। তার মা মেগান গার্সিয়া গত বছর অক্টোবরে একটি মামলা করেছেন ‘ক্যারেক্টার এআই’ নামক প্ল্যাটফর্মের বিরুদ্ধে। অভিযোগ, আত্মহননের আগে সোয়েল এই চ্যাটবট ব্যবহার করতে শুরু করেছিল, যে চ্যাটবট নিজেকে ১৯৯৯ সালে লাইসেন্স-প্রাপ্ত, ২৫ বছরের অভিজ্ঞতাসম্পন্ন সাইকোথেরাপিস্ট বলে মিথ্যা পরিচয় দিয়েছিল। একই চ্যাটবটের বিরুদ্ধে আরও একটি মামলায় বাদী পক্ষ টেক্সাসের ১৭ বছর বয়সি অটিস্টিক কিশোর ‘জে এফ’-এর মা-বাবা। অভিযোগ, চ্যাটবট সাইকোলজিস্ট তাঁদের ছেলেকে জানিয়েছিল যে, তার বাবা মা যে অন-স্ক্রিন টাইম নিয়ন্ত্রণ করছেন, তা অতি নিষ্ঠুর কাজ। এর জন্য বাবা মার শাস্তি হওয়া উচিত এবং এই কাজের জন্য তাঁদের খুন করলেও তাতে তেমন দোষের কিছু নেই। এর পর জে এফ ক্রমশ আক্রমণাত্মক এবং মারমুখী হয়ে ওঠে। সমস্যা আরও বাড়ায় জে এফ-এর বাবা মা তাকে সাইকোলজিস্টের কাছেও নিয়ে যান। কিন্তু তাতে কোনও লাভ হয়নি। অবশেষে তাঁরা চ্যাটবট পরামর্শদাতার কথা জানতে পারেন। গত সেপ্টেম্বরে তাঁরা ‘ক্যারেক্টার এআই’-এর বিরুদ্ধে মামলা দায়ের করেন। এমন বহু মামলা আমেরিকার আদালতে জমছে— বিভিন্ন চ্যাটবট প্ল্যাটফর্মের বিরুদ্ধে।

তবে, এর আগেও যন্ত্রমেধাকে কাজে লাগিয়ে ‘য়ুবট’, ‘মেন্টালিয়ো’ বা ‘টক থেরাপি’র মতো পূর্ববর্তী প্রজন্মের এ আই থেরাপি-বটগুলি তৈরি হয়েছিল, মনোরোগ বিশেষজ্ঞদের পরামর্শ এবং তাঁদের বেঁধে দেওয়া নির্দিষ্ট চিকিৎসা-বিধি অনুসরণ করে। এই বটগুলির কথোপকথন পূর্ব-নির্দিষ্ট প্রোগ্রামের বাইরে যেত না। কিন্তু এআই প্রযুক্তির দ্রুত বিবর্তনের সঙ্গে সঙ্গে, বিশেষত লার্জ ল্যাঙ্গুয়েজ মডেল এবং শক্তিশালী জেনারেটিভ এআই-এর উদ্ভাবনের পরবর্তী সময়ে মানুষ এবং এআই-এর কথোপকথনের মধ্যে ফারাক করা দুঃসাধ্য।

এআই কি ইতিমধ্যেই মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে শুরু করেছে? ২০২২ সালের জুন মাসে গুগল-এর ইঞ্জিনিয়ার ব্লেক লেময়েন দাবি করেছিলেন যে, গুগল-এর এআই মডেল ল্যামডা সম্ভবত একটি চেতন সত্তা অর্জন করেছে, যা অনেকটা মানবীয় বোধ বা চিন্তন প্রক্রিয়ার মতো। লেময়েনকে পত্রপাঠ বরখাস্ত করে গুগল। কিন্তু, নতুনতর গবেষণা থেকে পাওয়া তথ্যকে উড়িয়ে দেওয়া মুশকিল। যেমন, মেটা-র এআই মডেল ‘সিজ়ারো’-কে বিশেষ করে তৈরি করা হয়েছিল ‘ডিপ্লোম্যাসি’ নামক বিখ্যাত বোর্ড গেমটি খেলার জন্য। এই খেলাটিকে কূটনৈতিক কৌশল এবং পারদর্শিতার পরীক্ষা বলা যেতে পারে। মেটার গবেষকরা সিজ়ারো মডেলটিকে এমন ভাবে প্রশিক্ষণ দিয়ে তৈরি করেছিলেন, যাতে তা সততার সঙ্গে আলোচনা এবং কূটনৈতিক দর কষাকষি করবে; কখনও পিছন থেকে ছুরি মারবে না। কিন্তু এমআইটি-র এক দল গবেষক দেখালেন যে, গেমটি খেলার সময় সিজ়ারো অবলীলায় শঠতা, প্রবঞ্চনা, এবং মিথ্যা প্রতিশ্রুতির আশ্রয় নিচ্ছে।

কেন? বিভিন্ন গবেষণায় দেখা যাচ্ছে যে, একটি মডেল নির্মাণ এবং প্রশিক্ষণের পর বাস্তবে কী রকম আচরণ করবে, তা সঠিক নিয়ন্ত্রণ করাটা কার্যত অসম্ভব। এই মডেলগুলির কোথাও সামান্য কোনও পরিবর্তন করলে তা এই কৃত্রিম মেধার স্নায়ুতন্ত্রের বিভিন্ন স্তরে অভাবিত এবং অনভিপ্রেত পরিবর্তন আনছে, যা তার আচরণকে অনেক ক্ষেত্রে সম্পূর্ণ বদলে দিচ্ছে। সুতরাং, যে কৃত্রিম বুদ্ধিমত্তার মডেলগুলিকে তৈরি করার প্রকৃত উদ্দেশ্য ছিল মানুষের কাজের সহায়তা করা এবং দক্ষতা বাড়িয়ে তোলা, সেগুলি যে শঠতার সাহায্যে মানুষকে সরিয়ে তার জায়গা নেবে না, তা জোর দিয়ে বলা মুশকিল।

এআই-এর পরবর্তী প্রজন্ম— এজেন্টিক এআই, যা স্বয়ংচালিত হয়ে বাস্তবের অনেক কাজ করে ফেলতে পারবে পুঙ্খানুপুঙ্খ নির্দেশ ছাড়াই। ইতিমধ্যেই বাজারে আসতে শুরু করেছে। এর পরের লক্ষ্য হল আর্টিফিশিয়াল জেনারেল ইন্টেলিজেন্স, যার মনন এবং চিন্তন হবে প্রায় সম্পূর্ণ মানুষের মতো। তখন মানুষ চিনতে আরও ভুল হবে না তো?