पिछले अध्यायों ने एक मशीनरी दिखाई: एक मॉडल बाँटता है, एक संभावना-वितरण का हिसाब लगाता है, उसमें दाँव लगाता है, और फिर से शुरू करता है। इस मशीनरी में कुछ भी किसी बात की जाँच नहीं करता। कोई जवाब इसलिए बाहर आता है कि वह संभावित है, इसलिए नहीं कि वह सही है, और मॉडल के पास अपनी ही नासमझी का कोई भरोसेमंद संकेत नहीं होता। यह अध्याय इसका व्यावहारिक नतीजा निकालता है।

सही सवाल कभी “क्या मैं कर सकता हूँ?” नहीं होता। सही सवाल है “गलत होने पर कीमत कौन चुकाएगा”।

तीन जाँचें

तीन सवाल काफ़ी हैं, और वे इसी क्रम में पूछे जाते हैं। जो पहले गिरे, वही दरवाज़ा बंद कर देता है।

गलती की कीमत

क्या गलती सुधारी जा सकती है? खराब लिखा हुआ मसौदा दो मिनट में फिर से लिखा जाता है। कोई दवा, कोई कर की तारीख, कोई निदान, कोई खुराक, किसी ग्राहक को भेजा गया संदेश मुश्किल से या बिलकुल नहीं सुधरते। गलती जितनी अपलट्य होगी, फ़ैसले में मॉडल की जगह उतनी ही कम होगी।

जाँच की गुंजाइश

क्या आप जवाब को उसके स्रोत पर, खुद, वाजिब वक़्त में जाँच सकते हैं? अगर हाँ, तो मॉडल एक मंज़ूर शुरुआती बिंदु है, और जाँच फिर भी अनिवार्य रहती है। अगर नहीं, तो जवाब बेकार है, उसका आत्मविश्वास चाहे जितना हो। जो जवाब जाँचा नहीं जा सकता, वह आधी-अधूरी जानकारी नहीं है: वह शून्य जानकारी है।

दिखावटी जाँच से सावधान। मॉडल से यह पूछना कि उसे पक्का पता है या नहीं, कुछ नहीं जाँचता: पुष्टि उसी मशीनरी से निकलती है जिससे जवाब निकला था, और वह उतनी ही संभावित है। उसके स्रोत माँगना भी कुछ नहीं जाँचता, जब तक स्रोत एक-एक खोलकर देखे न जाएं, क्योंकि गढ़ा हुआ हवाला भी बिलकुल दुरुस्त शक्ल का होता है।

वैधता

क्या इस स्थिति में कोई ज़िम्मेदार इंसान ज़रूरी है? ऐसा फ़ैसला जो किसी व्यक्ति पर, उसके अधिकारों पर, उसके काम पर या उसके नंबर पर पड़ता है, किसी को शामिल कर लेता है जिसे उसका जवाब देना पड़ता है और जिससे उसे चुनौती दी जा सकती है। कोई मशीन यह ज़िम्मेदारी नहीं उठाती, और उसे फ़ैसला सौंप देने से ज़िम्मेदारी गायब नहीं होती: वह सिर्फ़ लापता हो जाती है।

वे हालात जहाँ यह औज़ार बंद हो जाता है

डिटेक्टर का फंदा

एक मामले को अलग जगह चाहिए, क्योंकि वह असली नुकसान करता है और खुद को हल की तरह पेश करता है: वे औज़ार जो यह बताने का दावा करते हैं कि कोई टेक्स्ट आर्टिफिशियल इंटेलिजेंस ने लिखा है या नहीं। यह साइट ऐसा कोई औज़ार नहीं देती, और यह कोई कमी नहीं है।

तीन प्रकाशित नतीजे इसे सही ठहराते हैं। चौदह डिटेक्शन औज़ारों का एक स्वतंत्र मूल्यांकन, जिनमें शिक्षा को बेचे जाने वाले व्यापारिक औज़ार भी थे, यह नतीजा निकालता है कि कोई भी एक साथ भरोसेमंद और सटीक नहीं है। एक दूसरा अध्ययन स्थापित करता है कि कई बहुत इस्तेमाल होने वाले डिटेक्टर उन लोगों के लिखे ज़्यादातर टेक्स्ट को गलती से मशीन-निर्मित बता देते हैं जिनकी मातृभाषा अंग्रेज़ी नहीं है, जबकि मूल अंग्रेज़ी बोलने वालों के टेक्स्ट को वे ठीक-ठीक संभालते हैं: गलती संयोग से नहीं बँटती, वह उन लोगों पर गिरती है जो पहले से नुकसान में हैं। और आखिर में, जिस कंपनी ने सबसे मशहूर डिटेक्टर प्रकाशित किया था, उसने लॉन्च के छह महीने बाद उसे हटा लिया, और वजह खुद यही बताई कि उसकी भरोसे की दर बहुत कम है।

इस मामले का ब्यौरा, और कोई संस्थान उसकी जगह क्या रख सकता है, ब्लॉग पर लिया गया है: स्कूल में AI डिटेक्टर।

भौतिक कीमत, जो भी मायने रखती है

हाथ रोकने की एक आखिरी वजह सटीकता से नहीं जुड़ी। किसी ऐसे काम के लिए बहु-उपयोगी जनरेटिव सिस्टम इस्तेमाल करना, जिसे कोई खास औज़ार बेहतर करता है, उसी काम के लिए एक दर्जे ज़्यादा ऊर्जा और उत्सर्जन खर्च करता है। किसी दस्तावेज़ में कोई तय शब्द ढूँढ़ना, कोई सूची क्रम में लगाना, किसी कॉलम का जोड़ करना, किसी फ़ॉर्मैट को बदलना: इन कामों के लिए ऐसे औज़ार हैं जो इन्हें ठीक-ठीक करते हैं, ज़्यादा तेज़ी से और कुछ गढ़े बिना। दुनिया के पैमाने पर, आर्टिफिशियल इंटेलिजेंस से जुड़ी डेटा केंद्रों की बिजली खपत कुल बिजली की माँग से लगभग चार गुना तेज़ी से बढ़ रही है, और 2024 से 2030 के बीच दोगुने से ज़्यादा होने का अनुमान है।

यहाँ आदत आसान है: पहले पूछिए कि इस काम का कोई सटीक जवाब है या नहीं। अगर है, तो कोई सटीक औज़ार भी मौजूद है।

पूरा कोर्स एक नियम में

मॉडल उसे बनाने के काम आता है जिसे हम जाँचेंगे, उसका फ़ैसला करने के काम कभी नहीं जिसे हम जाँचेंगे ही नहीं।

बाकी सब इससे निकल आता है। अगर जाँच मुमकिन नहीं, तो इस्तेमाल की जगह नहीं है। अगर जाँच मुमकिन है और हम वह नहीं करते, तो सवाल फिर मॉडल का नहीं रहता।

आगे पढ़ने के लिए

गढ़ने की मशीनरी वह क्यों गढ़ लेता है अध्याय में ली गई है। जाँच की आदत, कदम दर कदम, ब्लॉग पर प्रकाशित है: जाँचने की आदत। किसी क्षेत्र की अपनी बाध्यताएँ कोर्स के बगल में मॉड्यूल की तरह आती हैं, आधार की तरह कभी नहीं: देखिए यूरोपीय बाध्यता और आधिकारिक ढाँचे। कोर्स की सूची समझें वाले पन्ने पर है।

स्रोत

• Testing of detection tools for AI-generated text Debora Weber-Wulff, Alla Anohina-Naumeca, Sonja Bjelobaba, Tomas Foltynek, Jean Guerrero-Dib, Olumide Popoola, Petr Sigut, Lorna Waddington, 2023। स्थापित करता है कि AI से बने टेक्स्ट को पकड़ने वाले चौदह औज़ारों के एक स्वतंत्र मूल्यांकन, जिसमें शिक्षा में इस्तेमाल होने वाले व्यापारिक औज़ार भी थे, का नतीजा यह है कि इनमें से कोई भी एक साथ भरोसेमंद और सटीक नहीं है, और उनका झुकाव टेक्स्ट को मशीन का पकड़ने के बजाय इंसान का बताने की तरफ़ है।
• GPT detectors are biased against non-native English writers Weixin Liang, Mert Yuksekgonul, Yining Mao, Eric Wu, James Zou, 2023। स्थापित करता है कि कई बहुत इस्तेमाल होने वाले डिटेक्टर उन लोगों के लिखे ज़्यादातर टेक्स्ट को गलती से AI-निर्मित बता देते हैं जिनकी मातृभाषा अंग्रेज़ी नहीं है, जबकि मूल अंग्रेज़ी बोलने वालों के टेक्स्ट को वे ठीक-ठीक पहचानते हैं।
• OpenAI scuttles AI-written text detector over “low rate of accuracy” Devin Coldewey / TechCrunch, OpenAI के 20 जुलाई 2023 के आधिकारिक परिशिष्ट का हवाला देते हुए। स्थापित करता है कि OpenAI ने AI से बने टेक्स्ट को पकड़ने वाला अपना ही औज़ार लॉन्च के छह महीने बाद हटा लिया, और वजह खुद यही बताई कि उसकी भरोसे की दर काम आने लायक नहीं थी।
• Energy and AI अंतरराष्ट्रीय ऊर्जा एजेंसी, 2025। स्थापित करता है कि AI से जुड़ी डेटा केंद्रों की वैश्विक बिजली खपत कुल वैश्विक बिजली माँग से लगभग चार गुना तेज़ी से बढ़ रही है, और 2024 से 2030 के बीच दोगुने से ज़्यादा होने का अनुमान है।
• Power Hungry Processing: Watts Driving the Cost of AI Deployment? Alexandra Sasha Luccioni, Yacine Jernite, Emma Strubell, 2024। स्थापित करता है कि बहु-उपयोगी जनरेटिव AI सिस्टम किसी दिए गए काम के लिए, उसी काम के लिए बने खास सिस्टम की तुलना में एक दर्जे ज़्यादा ऊर्जा और कार्बन उत्सर्जन खर्च करते हैं।
• Why Language Models Hallucinate Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, Edwin Zhang, 2025। स्थापित करता है कि आज की प्रशिक्षण और खासकर मूल्यांकन की प्रक्रियाएँ अनिश्चितता मान लेने के बजाय एक संभावित जवाब का अंदाज़ा लगाने को इनाम देती हैं।