“क्या आर्टिफिशियल इंटेलिजेंस मेरी जासूसी करती है?” यह सवाल जाँचा नहीं जा सकता: वह इतना अस्पष्ट है कि उसका कोई जवाब सही या गलत नहीं ठहरता। जो सवाल जाँचा जा सकता है, वह इससे तंग है। मैंने अभी जो डाला, वह किसी दिन किसी और के सामने बाहर आ सकता है? इस सवाल का एक नापा हुआ जवाब है, और वह चार कामों पर टिका है जिन्हें पहले अलग करना पड़ता है।

“देना” किन चार चीज़ों को एक साथ समेट लेता है

एक ही फ़ाइल डालने से चार तक काम शुरू हो जाते हैं। उनका न अनिवार्य होना एक जैसा है, न उनके नतीजे।

अभी जवाब देने के लिए पढ़ना

सामग्री इकाइयों में बाँटी जाती है और मॉडल के संदर्भ में रखी जाती है, जहाँ से वह अपना जवाब निकालता है। यह काम टाला नहीं जा सकता: सेवा से माँगा भी यही जाता है। यह जवाब के साथ ही खत्म हो जाता है।

सेवा के सर्वरों पर सहेजना

सामग्री और जवाब दर्ज कर लिए जाते हैं, बातचीत का इतिहास रखने के लिए, शिकायतों को निपटाने के लिए, निगरानी के लिए। कितने वक़्त तक सहेजा जाएगा, यह सेवा का फ़ैसला है, मॉडल का गुण नहीं।

इस सामग्री को दूसरों के साथ लेकर दोबारा प्रशिक्षण

सामग्री उस भंडार में शामिल हो जाती है जो मॉडल का अगला संस्करण प्रशिक्षित करने के काम आएगा। यहीं से फ़ाइल डालना एक लेन-देन नहीं रह जाता और एक टिकाऊ योगदान बन जाता है, अक्सर बिना यह कि उस व्यक्ति ने ऐसा चाहा हो।

बाद में, किसी और को लौटाना

किसी सामग्री पर प्रशिक्षित मॉडल उसे किसी दूसरे व्यक्ति के पूछे आम सवाल के जवाब में शब्द दर शब्द दोहरा सकता है। यह कोई अनुमान नहीं: यह नीचे दिए कामों का नापा हुआ नतीजा है।

पहले दो काम सेवा की नीति से जुड़े हैं, जिसे पढ़ा और तुलना किया जा सकता है। आखिरी दो एक मॉडल के काम करने के ढंग से जुड़े हैं, और यही यह अध्याय समझाता है।

एक मॉडल याद रखता है, और यह नापा जा सकता है

किसी मॉडल में ऐसा कोई डेटाबेस नहीं होता जहाँ उसके पढ़े हुए टेक्स्ट मिल जाएं। उसका प्रशिक्षण-डेटा उसके भीतर कहीं रखा नहीं होता: उसने उसके पैरामीटर बदल दिए होते हैं। इसीलिए “याद” शब्द गुमराह करता है। फिर भी पूरे-पूरे हिस्से बाहर आते हैं, और शोध जानता है कि किन हालात में।

2021 में Nicholas Carlini की अगुवाई वाली एक टीम एक भाषा मॉडल से सैकड़ों ऐसी कतारें निकाल लेती है जो उसके प्रशिक्षण-डेटा से शब्द दर शब्द दोहराई गई थीं, जिनमें पहचान बताने वाली निजी जानकारी भी थी। इस तरीके में कोई चोर-रास्ता नहीं है: ये आम सवाल हैं। मिली हुई कुछ कतारें मूल डेटा में सिर्फ़ एक ही बार आई थीं।

2023 में एक दूसरा अध्ययन नापता है कि यह परिघटना किन वजहों से बढ़ती है। तीन कारक, हर एक अलग से स्थापित।

1. मॉडल का आकार। उसके पैरामीटर जितने ज़्यादा, उतना ही ज़्यादा वह याद रखता है।
2. डेटा में किसी उदाहरण का दोहराव। कई बार मौजूद सामग्री एक बार मौजूद सामग्री से ज़्यादा आसानी से बाहर आती है।
3. आगे बढ़ाने को कहने से पहले संदर्भ में दिए गए टेक्स्ट की लंबाई। शुरुआती टुकड़ा जितना लंबा, लौटाए जाने की संभावना उतनी ज़्यादा।

इस मोड़ पर एक आपत्ति खुली रहती है: ये प्रयोग शायद प्रयोगशाला के मॉडलों पर हैं, असल में इस्तेमाल हो रही किसी सेवा से इनका कोई नाता नहीं। उसी साल का एक तीसरा अध्ययन इसका जवाब देता है, और उन मॉडलों को निशाना बनाता है जो पहले से उत्पादन में तैनात हैं, जिनमें एक आम जनता वाला मॉडल भी है जिसके जवाबों पर पहरा है, और सिर्फ़ सवाल पूछकर उनसे गीगाबाइटों में प्रशिक्षण-डेटा निकाल लेता है। मॉडल पर लगा पहरा यह जोखिम घटाता है। वह उसे खत्म नहीं करता।

कोई सेवा असल में क्या कह रही है, यह पढ़ना

इस्तेमाल की नीति तीन खास वाक्य-रूप खोजकर पढ़ी जाती है, गंभीरता का कोई सामान्य आभास देखकर नहीं।

वाक्य किस बात को ढँक लेता है

“अपनी सेवाओं को बेहतर बनाने के लिए” वह वाक्य है जो सबसे अक्सर दोबारा प्रशिक्षण को ढँक लेता है, उसका नाम लिए बिना। वह न झूठा है, न जानकारी देने वाला। काम का टेक्स्ट उसकी जगह यह बताता है कि सामग्री का क्या किया जाता है, और किसके द्वारा।

विकल्प, और उसकी खामी

दोबारा प्रशिक्षण से इनकार का रास्ता कभी होता है, और उसका रूप उसके होने से ज़्यादा मायने रखता है। जो इनकार डिफ़ॉल्ट रूप से लागू होता है, वह सबको बचाता है। जो इनकार किसी सेटिंग में ढूँढ़ने जाना पड़ता है, वह सिर्फ़ उन लोगों को बचाता है जिन्हें पता है कि वह वहाँ है, यानी लगभग किसी को नहीं। नीति उसके डिफ़ॉल्ट से आँकी जाती है, उसके विकल्पों से नहीं।

अवधि, और उसके बाद जो बचा रहता है

सहेजने की अवधि पहले से प्रशिक्षित मॉडल के बारे में कुछ नहीं कहती। कोई बातचीत मिटाने से किसी सर्वर से एक दर्ज प्रविष्टि हटती है; इससे मॉडल में से वह नहीं हटता जो उस सामग्री ने उसके भीतर पहले ही बदल दिया है। प्रशिक्षित मॉडल किसी खाते के मिटने से किसी सामग्री का प्रशिक्षण नहीं भूलता।

कोई फ़ाइल डालने से पहले

तीन सवाल, इसी क्रम में। इनमें से किसी एक का जवाब न मिलना अपने आप में एक जवाब है।

1. क्या यह सेवा साफ़-साफ़ और बिना लपेटे वाले वाक्य के बताती है कि डाली गई सामग्री किस काम आती है?
2. दोबारा प्रशिक्षण से इनकार डिफ़ॉल्ट व्यवहार है, या ढूँढ़ने जाने वाली एक सेटिंग?
3. क्या यह सामग्री किसी और की है? कोई दफ़्तरी फ़ाइल, किसी विद्यार्थी का होमवर्क, कोई मेडिकल दस्तावेज़, परिवार की कोई तस्वीर, ये उन लोगों को शामिल कर लेती हैं जिन्होंने कुछ भी मंज़ूर नहीं किया।

यह आखिरी बात सबसे अक्सर भुलाई जाती है, और यही एक ऐसी है जो सुधरती नहीं। अपने लिए शर्तें मंज़ूर करना एक चुनाव है। किसी गैर-हाज़िर तीसरे के लिए उन्हें मंज़ूर करना चुनाव नहीं है।

क्या डाला जाता है, क्या नहीं

कोई सार्वभौमिक सूची नहीं है, क्योंकि जोखिम दाँव पर लगी चीज़ पर टिका है। यह बाँट उस सेवा के लिए ठीक है जिसकी दोबारा प्रशिक्षण की नीति साफ़ नहीं है।

याद रखने लायक आदत

भेजने से पहले बदल दीजिए। किसी मॉडल के ज़्यादातर दफ़्तरी इस्तेमालों को असली नाम, असली तारीखें या असली रकमें नहीं चाहिए: उन्हें समस्या का ढाँचा चाहिए। बदली हुई जानकारी के साथ फिर से लिखी गई फ़ाइल वही मदद पाती है और भंडार में कुछ नहीं जोड़ती। इस अध्याय की यही एक आदत है जो किसी भी सेवा की नीति पर निर्भर नहीं करती।

आगे पढ़ने के लिए

वह मशीनरी जिसकी वजह से एक मॉडल कुछ न जानते हुए भी जवाब देता है, वह क्यों गढ़ लेता है अध्याय में ली गई है। डेटा की बनावट और उसके असर पूर्वाग्रह कहाँ से आते हैं अध्याय में लिए गए हैं। जिन हालात में यह औज़ार बंद हो जाता है, वे कब इस्तेमाल न करें में एक जगह हैं। इसी विषय पर एक छोटा पाठ ब्लॉग पर प्रकाशित है: डाली गई फ़ाइल का क्या होता है। कोर्स की सूची समझें वाले पन्ने पर है।

स्रोत

• Extracting Training Data from Large Language Models Nicholas Carlini, Florian Tramer, Eric Wallace, Matthew Jagielski, Ariel Herbert-Voss, Katherine Lee, Adam Roberts, Tom Brown, Dawn Song, Ulfar Erlingsson, Alina Oprea, Colin Raffel, 2021। स्थापित करता है कि प्रशिक्षण-डेटा में मौजूद टेक्स्ट की सैकड़ों कतारें, जिनमें पहचान बताने वाली निजी जानकारी भी थी, मॉडल से सिर्फ़ सवाल पूछकर शब्द दर शब्द निकाल ली गईं।
• Quantifying Memorization Across Neural Language Models Nicholas Carlini, Daphne Ippolito, Matthew Jagielski, Katherine Lee, Florian Tramer, Chiyuan Zhang, 2023। स्थापित करता है कि याद रखना मॉडल के आकार के साथ, डेटा में किसी उदाहरण के दोहराव की संख्या के साथ, और संदर्भ में दिए गए टेक्स्ट की लंबाई के साथ बढ़ता है।
• Scalable Extraction of Training Data from (Production) Language Models Milad Nasr, Nicholas Carlini, Jonathan Hayase, Matthew Jagielski, A. Feder Cooper, Daphne Ippolito, Christopher A. Choquette-Choo, Eric Wallace, Florian Tramer, Katherine Lee, 2023। स्थापित करता है कि असल में उत्पादन में तैनात मॉडलों से, जिनमें एक आम जनता वाला संरेखित मॉडल भी है, एक साधारण हमले से गीगाबाइटों में प्रशिक्षण-डेटा निकाला गया।
• Datasheets for Datasets Timnit Gebru, Jamie Morgenstern, Briana Vecchione, Jennifer Wortman Vaughan, Hanna Wallach, Hal Daumé III, Kate Crawford, 2018। स्थापित करता है कि किसी डेटासेट का स्रोत, उसकी बनावट और उसे जुटाने का तरीका दर्ज करने का एक मानकीकृत प्रस्ताव मौजूद है, ताकि सामने आई किसी दिक्कत की जड़ तक पहुँचा जा सके, बजाय मॉडल तैनात होने के बाद उसका पता चलने के।