পক্ষপাতদুষ্ট কৃবু

প্রথমেই বলে নিই, কৃবু হল ‘কৃত্রিম বুদ্ধিমত্তা’র সংক্ষিপ্ত রূপ, যেমন AI হল Artificial Intelligence –এর সংক্ষিপ্ত রূপ। কৃবুর অনেক গুণ। লেখার সংক্ষিপ্তসার তৈরি করা, গ্যাসের আবেদনপত্র লেখা, উৎকৃষ্ট ইংরেজিতে চোস্ত গবেষণাপত্র লেখা, সবই একেবারে নিখুঁতভাবে করে দিচ্ছে সে। যেন আলাদিনের আশ্চর্য প্রদীপ।
কৃবু কী করে এতসব কাজ করে? মানুষ হরেকরকমের অজস্র অ্যালগরিদ্‌ম তৈরি করে নির্দেশ দিয়ে তাকে শিক্ষিত করে তোলে। সে বুঝতে পারে কোনটা বৈজ্ঞানিক নিবন্ধ, আর কোনটা সাহিত্যিক প্রবন্ধ, কোনটা অঙ্কের ফরমুলা আর কোনটা উকিলের চিঠি।
কিন্তু মুশকিল বেধেছে অন্য জায়গায়। মানুষ স্বভাবতই পক্ষপাতদুষ্ট। কাজেই মানুষের তৈরি যেসব উপাত্ত (ডেটা) গিলছে কৃ বু, তখন আপনা থেকেই সেই পক্ষপাতগুলোও কৃ বু-র অ্যলগরিদ্‌ম নিজের মধ্যে গেঁথে নিচ্ছে। এবার সে ওইসব পক্ষপাতের ভিত্তিতে নানারকম পূর্বাভাস দিতে শুরু করবে, সেই পক্ষপাতগুলোকে আরও জোরালো করে তুলবে। তখন আর ব্যক্তিনিরপেক্ষ তথ্যের বিষয়মুখিতা (অবজেক্টিভিটি) তার মধ্যে থাকবে না। শুধু তাই নয়, মনস্তত্ত্ববিদরা পরীক্ষা করে দেখেছেন, যেসব মানুষ পক্ষপাতদুষ্ট কৃবু সিস্টেম নিয়ে কাজ করে, তারা নিজেরাই আরও পক্ষপাতদুষ্ট হয়ে ওঠে। ফলে খুব ছোটো একটা পক্ষপাতের তিল বাড়তে বাড়তে তাল হয়ে ওঠে।
১২০০ জনেরও বেশি অংশগ্রহণকারীর ওপর পরীক্ষা চালিয়ে মনস্তত্ত্ববিদরা এই সিদ্ধান্তে উপনীত হয়েছেন। কেমন সে পরীক্ষা? প্রথমে একটা কৃবু অ্যালগরিদ্‌মকে অংশগ্রহণকারীদের সাড়া দেওয়ার ধরন বিষয়ে এক গুচ্ছ উপাত্তে প্রশিক্ষণ দেওয়া হল। কয়েকজন মানুষকে কতকগুলো মুখের ফটো দেখিয়ে জিজ্ঞেস করা হল, কোন্‌ মুখগুলো সুখী, আর কোন মুখগুলো দুঃখী? তাদের উত্তর থেকে জানা গেল, সুখীর তুলনায় দুঃখী মুখের সংখ্যা সামান্য বেশি। অ্যালগরিদ্‌ম তৎক্ষণাৎ এই পক্ষপাতটা রপ্ত করে নিল। এবার আর একদল অংশগ্রহণকারীকে ডাকা হল। তাদেরও সুখী-দুঃখী শনাক্ত করতে বলা হল। তফাত এই, এবার তাদের আগেই জানিয়ে দেওয়া হল, কৃবু কোন মুখটা সম্বন্ধে কী বিচার করেছে। এই কৃবু সিস্টেম নিয়ে কিছুক্ষণ কাজ করার পর দেখা গেল অংশগ্রহণকারীরা নিজেরাই ওই পক্ষপাতে আক্রান্ত হয়েছে। শুরুতে তারা যে-কটি মুখকে সুখী বলে শনাক্ত করেছিল, এখন তার থেকে কম মুখকে সুখী বলছে। তার মানে, কৃবু যে-পক্ষপাত রপ্ত করেছিল, সেটি জ্যান্ত মানুষের মনের মধ্যে সঞ্চারিত হয়ে গেছে শুধু নয়, তার মাত্রা বেড়েছে।
এরকম আরেকটি পরীক্ষা: একজন লোককে একটি কাজ করতে দেওয়া হয়েছে; অন্য একজনকে বলা হল তুমি নজর করে এই লোকটির কাজের ভালোমন্দ বিচার করো। দেখা গেল যেসব লোক একটি পক্ষপাতদুষ্ট কৃবু নিয়ে কাজ করেছে তারা মেয়েদের তুলনায় ছেলেদের বেশি কর্মপটু বলে রায় দিচ্ছে। কারণ ওই কৃবু সিস্টেমটির মধ্যে ইচ্ছে করেই ওইরকম একটি পক্ষপাতদুষ্টতা ঢুকিয়ে দেওয়া হয়েছিল। সত্যিকারের অনেকগুলি পক্ষপাতদুষ্ট কৃবু সিস্টেমকে কাজে লাগিয়ে ওই কৃত্রিম পক্ষপাতদুষ্ট কৃবুটিকে তৈরি করা হয়েছিল। সাধারণত অংশগ্রহণকারীরা এই কৃবুর প্রভাব বিষয়ে অবহিত ছিল না।
কিংবা কাউকে বলা হল তুমি একজন মানুষের সঙ্গে কথা বলছ; যদিও আসলে কিন্তু সে কথা বলছে একটা কৃবু-র সঙ্গে। সেক্ষেত্রে দেখা গেল, মানুষটি অতটা পক্ষপাতদুষ্ট হল না। গবেষকরা বলছেন, এর কারণ, লোকের ধারণা, মানুষের চেয়ে কৃবুর বিচার অনেক যথাযথ।
এ গবেষণা চালিয়েছেন ইউসিএল সাইকোলজি অ্যান্ড ল্যাংগুয়েজ সায়েন্সেস এবং মাক্স প্লাঙ্ক সেন্টার ফর কম্পিউটেশনাল সাইকায়াট্রি অ্যান্ড এজিং রিসার্চ-এর ড. মোশে গ্লিকম্যান আর ট্যালি শ্যারট। তাঁদের সিদ্ধান্ত: পক্ষপাতদুষ্ট মানুষই যে পক্ষপাতদুষ্ট কৃবু বানানোয় সাহায্য করে তা নয়, পক্ষপাতদুষ্ট কৃবু সিস্টেমও মানুষের নিজের ধ্যানধারণা বদলে দিতে পারে। যার ফলে কৃবু চালিত উপকরণ ব্যবহার করতে করতে মানুষ নিজেই পক্ষপাতদুষ্ট হয়ে যেতে পারে। নানা ক্ষেত্র জুড়ে এর প্রভাব পড়তে পারে – সামাজিক বিচারবুদ্ধি থেকে শুরু করে একেবারে মৌলিক ধ্যানধারণা পর্যন্ত। অপরদিকে, নির্ভুল কৃবু নিয়ে কাজ করলে আবার মানুষের বিচারবুদ্ধি উন্নত হতে পারে। সুতরাং যাঁরা অ্যালগরিদ্‌ম তৈরি করছেন তাঁদের ওপর এক গুরু দায়িত্ব বর্তায়। তাঁদের মাথায় রাখতে হবে, জীবনের নানা ক্ষেত্রে কৃবুর ব্যবহার যত বাড়বে, ততই কৃবুর পক্ষপাতদুষ্টতা সমাজে ব্যাপক প্রভাব ফেলতে পারে। (সূত্র: Nature Human Behaviour, DOI: 10.1038/s41562-024-02077-2 )