उसे नहीं पता कि उसे नहीं पता

कोई भाषा मॉडल किसी गलत तथ्य को ठीक उतने ही आत्मविश्वास से कह सकता है जितने से किसी सही तथ्य को। यह झूठ नहीं है, और यह ऐसी गलती भी नहीं जिसे मॉडल ज़्यादा ध्यान देकर टाल सकता। वजह इस बात में है कि कोई टेक्स्ट कैसे बनता है, और इस बात में कि इन मॉडलों को उनके प्रशिक्षण के दौरान कैसे आँका जाता है।

कोई मॉडल ठीक-ठीक क्या करता है

कोई भाषा मॉडल जवाब देने के लिए तथ्यों का कोई डेटाबेस नहीं देखता। वह टोकन दर टोकन, सबसे संभावित शब्द बनाता है, उस सब को देखते हुए जो पहले आ चुका है। यह बनना उसी तरह चलता रहता है, चाहे जो वाक्य लिखा जा रहा है वह सही हो या न हो: हिसाब में कुछ भी रुककर किसी तथ्य को असली दुनिया से नहीं मिलाता। कोई गलत जवाब उतने ही बहाव से लिखा जाता है जितने से कोई सही जवाब, क्योंकि वह उसी मशीनरी से गुज़रता है।

एक परीक्षा जहाँ अंदाज़ा चुप रहने से ज़्यादा कमाता है

एक सवाल बचा रहता है: प्रशिक्षण इस आत्मविश्वास की आदत को सुधार क्यों नहीं देता? Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala और Edwin Zhang का 2025 में प्रकाशित एक अध्ययन एक ठीक-ठीक तुलना से इसका जवाब देता है। जो प्रक्रियाएँ किसी मॉडल को उसके प्रशिक्षण के दौरान आँकती हैं, वे अक्सर पुराने ढंग से नंबर देने वाली बहुविकल्पीय परीक्षा की तरह चलती हैं: सही जवाब एक नंबर कमाता है, खाली छोड़ा गया खाना कोई नंबर नहीं कमाता, और गलत जवाब भी कोई नंबर नहीं कटवाता। इस अंक-योजना में अंदाज़ा लगाना हमेशा सबसे अच्छी रणनीति बनी रहती है, जाने बिना भी। जिस मॉडल को इससे मिलते-जुलते नियमों से प्रशिक्षित और फिर आँका जाता है, वह वही सबक सीख लेता है: जवाब दे देना, बजाय अनिश्चितता मान लेने के, उन स्कोरों पर बढ़त दिला देता है जो मायने रखते हैं।

किसी मुश्किल सवाल के सामने विद्यार्थियों की तरह, मॉडल भी कभी अपनी अनिश्चितता मानने के बजाय अंदाज़ा लगा लेते हैं।

लेखक सिर्फ़ रोग-निदान पर नहीं रुकते। वे एक जवाब आगे रखते हैं, जिसे कहना जितना आसान है, हर जगह लागू करना उतना ही मुश्किल: मूल्यांकनों की अंक-योजना बदल दी जाए, ताकि अनिश्चितता मान लेना किसी गलत जवाब से कम भारी पड़े। जब तक मॉडलों की रैंकिंग बनाने वाली तालिकाओं पर यह चलन नहीं बनता, तब तक अंदाज़ा लगाना ही वह रणनीति रहती है जो प्रशिक्षण में सबसे ज़्यादा कमाती है।

यह भीतर से क्यों नहीं दिखता

बने हुए टेक्स्ट में कुछ भी इस अनिश्चितता का निशान नहीं लिए चलता। किसी मॉडल के पास ऐसा कोई अलग हिस्सा नहीं होता जो कोई वाक्य लिखने से पहले अपनी ही भरोसेमंदी आँक ले: कोई भीतरी सीमा “मुझे पता है” को “मैं अंदाज़ा लगा रहा हूँ” से अलग नहीं करती। यह गैर-हाज़िरी, जिसे Lei Huang और उनके सह-लेखकों की वह समीक्षा दर्ज करती है जो बड़े भाषा मॉडलों में गढ़े हुए जवाबों की सारी वजहों और रूपों पर है, यह समझा देती है कि यह गलती बाहर से पकड़ना क्यों इतना मुश्किल है: वह वाक्य के लहजे, लंबाई या ढाँचे में किसी संकेत से अपनी खबर नहीं देती।

एक बहस जो तय नहीं हुई: गढ़ा हुआ जवाब अटल है?

एक बात इससे आगे जाती है, और वह अब भी बहस में है। 2024 में Ziwei Xu, Sanjay Jain और Mohan Kankanhalli एक औपचारिक सिद्धि प्रकाशित करते हैं, जो अभिकलनीयता के सिद्धांत पर टिकी है: कोई भाषा मॉडल, एक अभिकलनीय फ़ंक्शन होने के नाते, सारे मुमकिन अभिकलनीय फ़ंक्शन नहीं सीख सकता, और इसलिए मुमकिन सवालों के किसी अनंत समूह पर वह हमेशा कम से कम एक गलत जवाब देगा। लेखक इस नतीजे को इस तरह के हर मॉडल के लिए लागू एक बनावटी सीमा के तौर पर रखते हैं। यह एक सैद्धांतिक काम है, इस्तेमाल का कोई निरीक्षण नहीं: लेखक खुद दर्ज करते हैं कि यह औपचारिक दुनिया असली दुनिया से ज़्यादा सरल रहती है।

2025 में Atsushi Suzuki, Yulan He, Feng Tian और Zhongyuan Wang इस सिद्धि का खंडन किए बिना जवाब देते हैं: वे उसे मान लेते हैं, पर उसके दायरे पर सवाल उठाते हैं। उनके मुताबिक, भले गढ़ा हुआ जवाब हालात के किसी अनंत समूह पर पूरी तरह गायब न हो सके, उसकी संभावना प्रशिक्षण-डेटा और तरीके सुधारकर हमेशा घटाई जा सकती है, इतनी घटाई जा सकती है कि वह नगण्य हो जाए। इसलिए अभिकलनीय फ़ंक्शनों की दुनिया पर एक तर्क से मिला असंभवता का सैद्धांतिक नतीजा उन दिक्कतों के बारे में कुछ नहीं कहता जो असल इस्तेमाल में सामने आती हैं। असहमति गणित पर कम है, जिसे कोई नहीं नकारता, और इस पर ज़्यादा है कि असल में इस्तेमाल हो रहे किसी मॉडल के लिए वह गणित क्या नतीजा निकालने देता है।

अपनी असहमति के बावजूद दोनों पाठ जिस बात पर मिलते हैं, वह शुरू के निरीक्षण से जुड़ जाती है: न सिद्धांत और न व्यवहार किसी मॉडल को यह करने देते हैं कि लिखते वक़्त वह किसी अनिश्चित जवाब को उसी आत्मविश्वास से कहे गए किसी गलत जवाब से अलग कर ले। कोर्स का वह अध्याय जो कोई मॉडल क्यों गढ़ लेता है पर है, इस निरीक्षण के पीछे की मशीनरी का ब्यौरा देता है।

स्रोत

• Why Language Models Hallucinate Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, Edwin Zhang, 2025।
• A Survey on Hallucination in Large Language Models Lei Huang et al., 2023।
• Hallucination is Inevitable: An Innate Limitation of Large Language Models Ziwei Xu, Sanjay Jain, Mohan Kankanhalli, 2024। सैद्धांतिक काम, जिसके व्यावहारिक दायरे पर सवाल उठे हैं: देखिए अगला स्रोत।
• Hallucinations are inevitable but can be made statistically negligible Atsushi Suzuki, Yulan He, Feng Tian, Zhongyuan Wang, 2025।

ब्लॉग पर वापस