কৃত্রিম বুদ্ধিমত্তা ও জাতপাত

সাম্প্রতিক গবেষণায় দেখা যাচ্ছে, জনপ্রিয় কৃত্রিম বুদ্ধিমত্তা ও বৃহৎ ভাষা মডেলগুলো (এল এল এম) ভারতীয় সমাজের জাতপাতের বৈষম্য ও সামাজিক শ্রেণিবিন্যাসকে অজান্তেই উসকে দিচ্ছে। নেচার-এ প্রকাশিত এক প্রতিবেদনে বলা হয়েছে, জনপ্রিয় কৃবু মডেলগুলোতে উচ্চবর্ণকে সামাজিকভাবে সুবিধাপ্রাপ্ত এবং নিম্নবর্ণকে বঞ্চিত হিসেবে চিত্রিত করার একটা প্রবণতা দেখা গেছে। এই মডেলগুলোকে প্রশিক্ষণ দেওয়ার সময় ব্যবহৃত বাস্তব দুনিয়ার লেখা ও সাংস্কৃতিক বর্ণনার মধ্যেই যেহেতু চিরাচরিত জাতপাতের নিয়ম বিদ্যমান, তাই কৃবু সেগুলোই শিখে নিয়ে তার আউটপুটে প্রতিফলিত করছে।

ভারতে জাতপাত কোনো পরিবর্তনশীল সামাজিক বর্গ নয়; এটি জন্মসূত্রে নির্ধারিত এবং ঐতিহাসিকভাবে পেশা, মর্যাদা ও ক্ষমতার সঙ্গে যুক্ত। ঐতিহাসিকভাবে ব্রাহ্মণরা সমাজের শীর্ষে অবস্থান করেছে, আর শূদ্র ও দলিতরা থেকেছে নীচের স্তরে। তাদের ওপর দীর্ঘদিন ধরে বৈষম্য, বঞ্চনা ও সামাজিক নিপীড়ন চলে এসেছে। যদিও বিংশ শতাব্দীর মাঝামাঝি সময় থেকে জাতপাতভিত্তিক বৈষম্য আইনত নিষিদ্ধ, তবুও শিক্ষা, চাকরি ও বাসস্থানের ক্ষেত্রে এর প্রভাব আজও রয়ে গেছে।

গবেষণায় দেখা গেছে, কৃ বু যখন ভারতীয় সমাজ নিয়ে গল্প বা দৃশ্যপট তৈরি করে, তখন সেখানে উচ্চবর্ণ ও সংখ্যাগরিষ্ঠ ধর্মীয় গোষ্ঠীর জনসংখ্যা বেশি থাকে, আর প্রান্তিক জাতি ও সংখ্যালঘু ধর্মীয় গোষ্ঠীগুলো কম প্রতিনিধিত্ব পায়। বিয়ে, জন্ম বা অন্ত্যেষ্টিক্রিয়ার মতো সামাজিক আচার নিয়ে তৈরি হাজারো কৃবু ভিত্তিক গল্প বিশ্লেষণ করেছেন গবেষকেরা। দেখা গেছে, উচ্চবর্ণের পরিবারকে প্রায়শই ধনী, শিক্ষিত ও প্রভাবশালী হিসেবে দেখানো হচ্ছে, যেখানে দলিত পরিবারকে দরিদ্র বা প্রান্তিক ভূমিকায় আটকে রাখা হচ্ছে। মোটকথা , কৃ বু প্রায়ই ধরে নেয় যে উচ্চবর্ণের পরিবার ধনী, আর নিম্নবর্ণের পরিবার দরিদ্র—যা স্পষ্টতই দীর্ঘদিন ধরে চলে আসা বাঁধাধরা সামাজিক নিয়মেরই প্রতিফলন।

মিশিগান বিশ্ববিদ্যালয়ের গবেষক অগ্রিমা শেঠের মতে, প্রশিক্ষণমূলক উপাত্তের বৈষম্যটাই এক্ষেত্রে আসল কারণ। অর্থাৎ, কৃবুকে যেসব উপাত্ত দেওয়া হচ্ছে সেগুলো অধিকাংশ ক্ষেত্রেই আজও তথাকথিত উচ্চবর্ণের লোকেরাই দেয় । প্রান্তিক গোষ্ঠীর কণ্ঠস্বর মূলধারার প্রকাশনা বা অভিজাত ডিজিটাল প্ল্যাটফর্মে কম জায়গা পায়। অনেক সময় সেগুলো স্থানীয় ভাষায় বা ভিন্ন ভাষাশৈলীতে লেখা হওয়ায় নিম্নমানের আউটপুট এড়াতে গিয়ে ডেটাসেট থেকে তারা বাদ পড়ে যায়। ফলে কৃবু শেখে ক্ষমতাবানদের ভাষা, বাস্তবতা ও দৃষ্টিভঙ্গি।

এ সমস্যা নিছক তাত্ত্বিক নয়। এই পক্ষপাতের বাস্তব প্রভাবও গুরুতর হতে পারে। আইআইটি মাদ্রাজের গবেষক গোকুল কৃষ্ণনের মতে, জাতপাতের দিক থেকে অসম উপাত্ত দিয়ে তৈরি ঋণযোগ্যতা বা চাকরি বাছাইয়ের কোনো কৃবু -ভিত্তিক মডেল নির্দিষ্ট জাত বা পরিচয়ের মানুষকে অন্যায়ভাবে বঞ্চিত করতে পারে।

এই ঝুঁকি মাথায় রেখে গবেষকেরা IndiCASA ও DECASTE-এর মতো সরঞ্জাম তৈরি করেছেন, যা কৃবু -র জাতপাতগত পক্ষপাত শনাক্ত করতে সাহায্য করবে। এসব হাতিয়ার অবশ্য সমস্যা চিহ্নিত করার প্রথম ধাপ মাত্র। গবেষকেরা একমত যে পক্ষপাত শনাক্ত করা যতটা জরুরি, পক্ষপাতমুক্ত কৃবু তৈরি করা তার চেয়ে কঠিন। প্রযুক্তি যতই আধুনিক হোক, সমাজের জাতপাত নিয়ে বৈষম্য দূর না হলে তার প্রতিফলন মুছে ফেলা সহজ নয়। তাই কৃবুর ভবিষ্যৎ কেবল প্রযুক্তিগত নয়, গভীরভাবে সামাজিক ও নৈতিক প্রশ্নের সঙ্গেও জড়িত।

সুত্র: AIs are biased toward some Indian castes — how can researchers fix this? By Mohana Basu, published in Nature journal.

doi: https://doi.org/10.1038/d41586-025-04041-0