জানে না যে সে জানে না
একটি ভাষা-মডেল মিথ্যা বলে না, আর জানেও না যে সে ভুল করছে: সে সব সময় সবচেয়ে সম্ভাব্য শব্দটিই বানায়, সেই শব্দ সত্য হোক বা না হোক।
একটি ভাষা-মডেল একটি মিথ্যা তথ্যকে হুবহু সেই একই দৃঢ়তায় দাবি করতে পারে, যা সে একটি সত্য তথ্যের বেলায় দেখায়। এটি কোনো মিথ্যা নয়, আর এটি এমন কোনো ভুলও নয়, যা আরও মনোযোগী হলে মডেল এড়াতে পারত। কারণটি লুকিয়ে আছে একটি লেখা কীভাবে তৈরি হয়, আর প্রশিক্ষণের সময় এই মডেলগুলিকে কীভাবে মূল্যায়ন করা হয়, তার ভেতরে।
একটি মডেল ঠিক কী করে
একটি ভাষা-মডেল উত্তর দিতে কোনো তথ্যভাণ্ডার দেখে না। সে আগে যা আছে তার সবটা ধরে, টোকেনের পর টোকেন, সবচেয়ে সম্ভাব্য শব্দটিই তৈরি করে। যে বাক্যটি লেখা হচ্ছে সেটি ঠিক হোক বা না হোক, এই তৈরি করা একই ভাবেই চলতে থাকে: হিসাবের কিছুই থেমে গিয়ে সত্যিকারের দুনিয়ার সঙ্গে কোনো তথ্য মিলিয়ে দেখে না। একটি ভুল উত্তর একটি ঠিক উত্তরের সেই একই সাবলীলতায় লেখা হয়, কারণ সে সেই একই কলকৌশলের ভেতর দিয়েই যায়।
এমন একটি পরীক্ষা, যেখানে আন্দাজ করলে সরে দাঁড়ানোর চেয়ে বেশি লাভ
একটি প্রশ্ন বাকি থাকে: প্রশিক্ষণ কেন দৃঢ়তার এই ঝোঁকটি শোধরায় না? Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala আর Edwin Zhang-এর 2025 সালে প্রকাশিত একটি গবেষণা তার উত্তর দেয় একটি নির্দিষ্ট তুলনা দিয়ে। প্রশিক্ষণের সময় যে পদ্ধতিগুলি একটি মডেলকে মূল্যায়ন করে, সেগুলি প্রায়ই পুরোনো ধাঁচে নম্বর দেওয়া একটি বহুনির্বাচনী পরীক্ষার মতোই চলে: একটি ঠিক উত্তরে এক নম্বর, একটি খালি ছেড়ে দেওয়া ঘরে কিছুই নয়, আর একটি ভুল উত্তরেও কিছুই কাটা যায় না। এই নম্বরের ছকে আন্দাজ করাই সব সময় সবচেয়ে ভালো কৌশল থাকে, না জেনেও। কাছাকাছি নিয়মে প্রশিক্ষিত আর তার পর নম্বর পাওয়া একটি মডেল সেই একই শিক্ষাটিই শেখে: অনিশ্চয়তা স্বীকার করার বদলে উত্তর দেওয়া, যে নম্বরগুলি গুরুত্বপূর্ণ সেখানে জমি জিতিয়ে দেয়।
একটি কঠিন প্রশ্নের সামনে শিক্ষার্থীদের মতোই, মডেলগুলি মাঝেমধ্যে নিজেদের অনিশ্চয়তা স্বীকার করার বদলে আন্দাজ করে।
লেখকরা কেবল রোগনির্ণয়েই থামেন না। তাঁরা এমন একটি উত্তর এগিয়ে দেন, যা বলা যতটা সহজ, সবার মধ্যে ছড়িয়ে দেওয়া ততটাই কঠিন: মূল্যায়নের নম্বরের ছকটি এমনভাবে বদলে দেওয়া, যাতে একটি অনিশ্চয়তা স্বীকার করার দাম একটি ভুল উত্তরের চেয়ে কম পড়ে। যত দিন মডেলগুলির ক্রম ঠিক করে দেওয়া ছকগুলিতে এটি নিয়ম না হয়, তত দিন প্রশিক্ষণে আন্দাজ করাই সবচেয়ে বেশি লাভের কৌশল থাকবে।
ভেতর থেকে কেন এটি চোখে পড়ে না
তৈরি হওয়া লেখাটির কিছুই এই অনিশ্চয়তার দাগ বহন করে না। একটি বাক্য লেখার আগে নিজের নির্ভরযোগ্যতা মূল্যায়ন করে এমন কোনো আলাদা মডিউল মডেলের হাতে নেই: ভেতরের কোনো সীমানাই “আমি জানি”-কে “আমি আন্দাজ করছি”-র থেকে আলাদা করে না। বড় ভাষা-মডেলে হ্যালুসিনেশনের সব কারণ আর চেহারা নিয়ে Lei Huang আর তাঁর সহলেখকদের পর্যালোচনায় নথিবদ্ধ এই অনুপস্থিতিটিই ব্যাখ্যা করে, কেন বাইরে থেকে ভুলটি ধরা এত কঠিন: বাক্যের সুরে, দৈর্ঘ্যে বা গড়নে কোনো চিহ্ন দিয়েই সে নিজের কথা জানায় না।
একটি অমীমাংসিত বিতর্ক: হ্যালুসিনেশন কি অনিবার্য?
একটি বিষয় আরও দূর যায়, আর তা এখনও আলোচনার মধ্যেই আছে। 2024 সালে Ziwei Xu, Sanjay Jain আর Mohan Kankanhalli গণনযোগ্যতার তত্ত্বের উপরে দাঁড়ানো একটি আনুষ্ঠানিক প্রমাণ প্রকাশ করেন: একটি ভাষা-মডেল, একটি গণনযোগ্য ফাংশন হিসেবে, সব সম্ভাব্য গণনযোগ্য ফাংশন শিখতে পারে না, আর তাই সম্ভাব্য প্রশ্নের একটি অসীম সমষ্টিতে সে সব সময়ই অন্তত একটি ভুল উত্তর তৈরি করবে। লেখকরা এই ফলটি এই ধরনের প্রতিটি মডেলের জন্য খাটে এমন একটি গঠনগত সীমা হিসেবেই হাজির করেন। এটি একটি তত্ত্বগত কাজ, ব্যবহারের কোনো পর্যবেক্ষণ নয়: লেখকরা নিজেরাই লক্ষ করেন যে এই আনুষ্ঠানিক দুনিয়াটি সত্যিকারের দুনিয়ার চেয়ে সরল।
2025 সালে Atsushi Suzuki, Yulan He, Feng Tian আর Zhongyuan Wang প্রমাণটির বিরোধিতা না করেই উত্তর দেন: তাঁরা তা মেনে নেন, কিন্তু তার পরিধি নিয়ে আপত্তি তোলেন। তাঁদের মতে, ক্ষেত্রের একটি অসীম সমষ্টিতে হ্যালুসিনেশন পুরোপুরি মিলিয়ে না গেলেও, প্রশিক্ষণের তথ্য আর পদ্ধতি উন্নত করে তার সম্ভাবনা সব সময়ই কমানো যায়, এমনকি অবহেলা করার মতো ছোট করে ফেলা যায়। গণনযোগ্য ফাংশনের একটি দুনিয়া নিয়ে করা একটি যুক্তিতে পাওয়া তত্ত্বগত অসম্ভাব্যতার একটি ফল, তাই, ব্যবহারে সত্যিই যে সমস্যাগুলি আসে তাদের নিয়ে কিছুই বলে না। অমতটি গণিত নিয়ে কম, যা কেউই প্রশ্ন করেন না, আর একটি সত্যিই ব্যবহৃত মডেলের জন্য তা কী উপসংহারে পৌঁছাতে দেয়, তা নিয়েই বেশি।
অনিবার্যতার তত্ত্ব
একটি ভাষা-মডেল একটি গণনযোগ্য ফাংশন। সে সব সম্ভাব্য গণনযোগ্য ফাংশন শিখতে পারে না। তাই তার প্রশিক্ষণের গুণ যা-ই হোক, সে সব সময়ই অন্তত একটি প্রশ্নে হ্যালুসিনেশন করবে (Xu, Jain, Kankanhalli, 2024)।
2025 সালের উত্তর
প্রমাণটি টেকে, তবে কেবল ক্ষেত্রের একটি অসীম সমষ্টিতেই। হাতে-কলমে, আরও ভালো তথ্য দিয়ে একটি হ্যালুসিনেশনের সম্ভাবনা কমে যায়, এমনকি অবহেলা করার মতো ছোট হয়ে যায় (Suzuki, He, Tian, Wang, 2025)।
অমত থাকলেও দুটি লেখা যে কথাটি একসঙ্গে বলে, তা শুরুর পর্যবেক্ষণেই ফিরে আসে: না তত্ত্ব, না ব্যবহার, কোনোটিই একটি মডেলকে লেখার মুহূর্তে একটি অনিশ্চিত উত্তর আর সেই একই দৃঢ়তায় বলা একটি ভুল উত্তরের তফাত করতে দেয় না। একটি মডেল কেন বানিয়ে বলে নিয়ে পাঠক্রমের অধ্যায়টি এই পর্যবেক্ষণের পিছনের কলকৌশলটির বিস্তারিত দেয়।
উৎস
- Why Language Models Hallucinate Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, Edwin Zhang, 2025।
- A Survey on Hallucination in Large Language Models Lei Huang et al., 2023।
- Hallucination is Inevitable: An Innate Limitation of Large Language Models Ziwei Xu, Sanjay Jain, Mohan Kankanhalli, 2024। একটি তত্ত্বগত কাজ, যার হাতে-কলমে পরিধি নিয়ে আপত্তি আছে: দেখুন পরের উৎসটি।
- Hallucinations are inevitable but can be made statistically negligible Atsushi Suzuki, Yulan He, Feng Tian, Zhongyuan Wang, 2025।
এই লেখাটি প্রকাশিত CC BY 4.0 লাইসেন্সে: ODERSA-র নাম উল্লেখ করে তা কপি করুন, অনুবাদ করুন, আবার প্রকাশ করুন।