আগের অধ্যায়গুলি একটি কলকৌশল দেখিয়েছে: একটি মডেল ভাগ করে, একটি বিন্যাস হিসাব করে, তার ভেতর থেকে একটি তোলে, আর আবার শুরু করে। এই কলকৌশলের কিছুই কোনো কিছু যাচাই করে না। একটি উত্তর বেরোয় কারণ সে সম্ভাব্য, কারণ সে ঠিক তা নয়, আর নিজের অজ্ঞতার কোনো নির্ভরযোগ্য সংকেত মডেলের হাতে নেই। এই অধ্যায় তার হাতে-কলমে পরিণামটি টেনে বের করে।

ঠিক প্রশ্নটি কখনও “আমি কি পারি?” নয়। প্রশ্নটি হলো “এটি ভুল হলে দাম কে দেবে”।

তিনটি পরীক্ষা

তিনটি প্রশ্নই যথেষ্ট, আর সেগুলি এই ক্রমেই করতে হয়। প্রথম যেটি পড়ে যায়, সেটিই দরজা বন্ধ করে দেয়।

ভুলের দাম

একটি ভুল কি সামলে নেওয়া যায়? একটি খারাপ লেখা খসড়া দু মিনিটে আবার লেখা যায়। একটি ওষুধ, একটি করের সময়সীমা, একটি রোগনির্ণয়, একটি মাত্রা, একজন গ্রাহককে পাঠানো একটি বার্তা খারাপভাবে সামলানো যায়, বা একেবারেই সামলানো যায় না। একটি ভুল যত বেশি অপরিবর্তনীয়, সিদ্ধান্তে একটি মডেলের জায়গা তত কম।

যাচাই করা যায় কি না

আপনি কি উত্তরটি তার উৎসে, নিজে, একটি স্বাভাবিক সময়ের মধ্যে যাচাই করতে পারবেন? পারলে, মডেলটি শুরু করার একটি মানানসই জায়গা, আর যাচাইটি বাধ্যতামূলকই থাকে। না পারলে, উত্তরটি অব্যবহার্য, তার দৃঢ়তা যত বেশিই হোক। যে উত্তর যাচাই করা যায় না, তা অর্ধেক তথ্য নয়: তা শূন্য তথ্য।

ছলনার যাচাই থেকে সাবধান। মডেলকে জিজ্ঞেস করা সে নিশ্চিত কি না, তাতে কিছুই যাচাই হয় না: তার সম্মতিটিও ঠিক সেই একই কলকৌশলে হিসাব হয়, যা উত্তরটি হিসাব করেছে, আর সেটিও ঠিক ততটাই সম্ভাব্য। তার উৎস চাওয়াতেও কিছুই যাচাই হয় না, যত দিন সেই উৎসগুলি একটি একটি করে খোলা না হয়, কারণ একটি বানানো তথ্যসূত্র চেহারায় নিখুঁতভাবে ঠিক থাকে।

বৈধতা

পরিস্থিতিটি কি দায়িত্ব নেওয়ার মতো একজন মানুষ দাবি করে? যে সিদ্ধান্ত একজন মানুষকে, তার অধিকারকে, তার কাজকে বা তার নম্বরকে ছোঁয়, তা এমন কাউকে জড়ায় যাঁকে তার জবাব দিতে হবে আর যাঁর কাছে তা নিয়ে আপত্তি করা যাবে। কোনো যন্ত্র এই দায় বহন করে না, আর তার হাতে সিদ্ধান্ত ছেড়ে দিলে দায়টি মিলিয়ে যায় না: তাকে কেবল খুঁজে না পাওয়া করে তোলা হয়।

যে ক্ষেত্রগুলিতে যন্ত্রটি বন্ধ হয়ে যায়

শনাক্তকারীর ফাঁদ

একটি ক্ষেত্র নিজের আলাদা আলোচনা পাওয়ার যোগ্য, কারণ সে সত্যিকারের ক্ষতি করে আর নিজেকে সমাধান বলে হাজির করে: যে যন্ত্রগুলি দাবি করে তারা বলতে পারে, একটি লেখা কৃত্রিম বুদ্ধিমত্তায় লেখা কি না। এই সাইট তার একটিও দেয় না, আর সেটি কোনো ঘাটতি নয়।

প্রকাশিত তিনটি পর্যবেক্ষণ তার কারণ দেখায়। চোদ্দটি শনাক্তকারী যন্ত্রের একটি স্বতন্ত্র মূল্যায়ন, যার মধ্যে শিক্ষাক্ষেত্রে বিক্রি হওয়া বাণিজ্যিক যন্ত্রও ছিল, উপসংহারে বলে যে একটিও একই সঙ্গে নির্ভরযোগ্য আর নির্ভুল নয়। আরেকটি গবেষণা প্রমাণ করে যে বহুল ব্যবহৃত কয়েকটি শনাক্তকারী ইংরেজির অ-মাতৃভাষীদের লেখার বড় অংশকেই ভুল করে যন্ত্রে তৈরি বলে ধরে, যদিও মাতৃভাষীদের লেখা তারা ঠিকই সামলায়: ভুলটি এলোমেলোভাবে ছড়ানো নয়, তা এসে পড়ে আগেই সুবিধাবঞ্চিত মানুষদের উপরে। আর শেষে, সবচেয়ে চেনা শনাক্তকারীটি যে প্রতিষ্ঠান প্রকাশ করেছিল, সে তা চালুর ছয় মাস পরেই তুলে নেয়, নিজেই বলে যে তার নির্ভরযোগ্যতার হার বড় বেশি কম।

এই নথিটির বিস্তারিত, আর একটি প্রতিষ্ঠান তার বদলে কী বসাতে পারে, তা সামলানো হয়েছে ব্লগে: স্কুলে AI-শনাক্তকারী।

বস্তুগত দামও, যা গুরুত্বপূর্ণ

সরে দাঁড়ানোর শেষ একটি কারণের সঙ্গে নির্ভুলতার কোনো সম্পর্ক নেই। যে কাজটি একটি বিশেষায়িত যন্ত্র ভালো করে, তার জন্য বহুমুখী একটি জেনারেটিভ ব্যবস্থা কাজে লাগালে, ঠিক সেই একই কাজের জন্য, শক্তি আর নিঃসরণে একটি ঘাত বেশি খরচ হয়। কোনো নথিতে একটি নির্দিষ্ট শব্দগুচ্ছ খোঁজা, একটি তালিকা সাজানো, একটি কলামের যোগ করা, একটি ফরম্যাট বদলানো: এই কাজগুলির জন্য এমন যন্ত্র আছে, যারা সেগুলি হুবহু করে, আরও দ্রুত আর কিছুই না বানিয়ে। বিশ্বজুড়ে কৃত্রিম বুদ্ধিমত্তার সঙ্গে জড়িত ডেটা সেন্টারের বিদ্যুৎ খরচ মোট বিদ্যুতের চাহিদার চেয়ে প্রায় চার গুণ দ্রুত বাড়ছে, আর 2024 থেকে 2030 সালের মধ্যে তা দ্বিগুণেরও বেশি হওয়ার কথা।

এখানে অভ্যাসটি সহজ: আগে জিজ্ঞেস করা, কাজটির কোনো সঠিক উত্তর আছে কি না। থাকলে, সঠিক একটি যন্ত্রও আছে।

গোটা পাঠক্রম একটি নিয়মে

একটি মডেল কাজে লাগে এমন কিছু বানাতে, যা আমরা যাচাই করব; কখনও এমন কিছু ঠিক করতে, যা আমরা যাচাই করব না।

বাকিটা এর থেকেই বেরিয়ে আসে। যাচাই করা অসম্ভব হলে, ব্যবহারটির জায়গাই নেই। যাচাই করা সম্ভব কিন্তু আমরা তা করি না, তা হলে দোষটি আর মডেলের নয়।

আরও দূর যেতে

বানিয়ে বলার কলকৌশল সামলানো হয়েছে কেন সে বানিয়ে বলে অধ্যায়ে। যাচাই করার অভ্যাসটি, ধাপে ধাপে, প্রকাশিত হয়েছে ব্লগে: যাচাই করার অভ্যাস। কোনো অঞ্চলের নিজের বাধ্যবাধকতা পাঠক্রমের পাশে মডিউল হিসেবে ঢোকে, কখনও ভিত হিসেবে নয়: দেখুন ইউরোপীয় বাধ্যবাধকতা আর সরকারি কাঠামোগুলি। পাঠক্রমের সূচি আছে বোঝা পাতায়।

উৎস

• Testing of detection tools for AI-generated text Debora Weber-Wulff, Alla Anohina-Naumeca, Sonja Bjelobaba, Tomas Foltynek, Jean Guerrero-Dib, Olumide Popoola, Petr Sigut, Lorna Waddington, 2023। প্রমাণ করে যে AI-তে তৈরি পাঠ শনাক্ত করার চোদ্দটি যন্ত্রের একটি স্বতন্ত্র মূল্যায়ন, যার মধ্যে শিক্ষাক্ষেত্রে ব্যবহৃত বাণিজ্যিক যন্ত্রও আছে, উপসংহারে বলে যে তাদের একটিও একই সঙ্গে নির্ভরযোগ্য আর নির্ভুল নয়, আর তাদের পক্ষপাত যন্ত্র শনাক্ত করার বদলে পাঠটিকে মানুষের বলে ধরার দিকেই।
• GPT detectors are biased against non-native English writers Weixin Liang, Mert Yuksekgonul, Yining Mao, Eric Wu, James Zou, 2023। প্রমাণ করে যে বহুল ব্যবহৃত কয়েকটি শনাক্তকারী ইংরেজির অ-মাতৃভাষীদের লেখার বড় অংশকেই ভুল করে AI-তে তৈরি বলে ধরে, যদিও মাতৃভাষীদের লেখা তারা ঠিকই চিনে নেয়।
• OpenAI scuttles AI-written text detector over “low rate of accuracy” Devin Coldewey / TechCrunch, OpenAI-র 2023 সালের 20 জুলাইয়ের সরকারি সংযোজনী উদ্ধৃত করে। প্রমাণ করে যে OpenAI নিজের AI-তে তৈরি পাঠ শনাক্ত করার যন্ত্রটি চালুর ছয় মাস পরেই তুলে নিয়েছে, নিজেই বলে যে তার নির্ভরযোগ্যতার হার কাজে লাগার মতো নয়।
• Energy and AI আন্তর্জাতিক শক্তি সংস্থা, 2025। প্রমাণ করে যে AI-র সঙ্গে জড়িত ডেটা সেন্টারের বিশ্বজনীন বিদ্যুৎ খরচ মোট বিশ্বজনীন বিদ্যুতের চাহিদার চেয়ে প্রায় চার গুণ দ্রুত বাড়ছে, আর 2024 থেকে 2030 সালের মধ্যে তা দ্বিগুণেরও বেশি হওয়ার কথা।
• Power Hungry Processing: Watts Driving the Cost of AI Deployment? Alexandra Sasha Luccioni, Yacine Jernite, Emma Strubell, 2024। প্রমাণ করে যে বহুমুখী জেনারেটিভ AI ব্যবস্থা, একটি নির্দিষ্ট কাজের জন্য, সেই একই কাজের জন্য বিশেষায়িত একটি ব্যবস্থার তুলনায় শক্তি আর কার্বন নিঃসরণে একটি ঘাত বেশি খরচ করে।
• Why Language Models Hallucinate Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, Edwin Zhang, 2025। প্রমাণ করে যে এখনকার প্রশিক্ষণ আর বিশেষ করে মূল্যায়নের পদ্ধতিগুলি অনিশ্চয়তা স্বীকার করার বদলে একটি সম্ভাব্য উত্তর আন্দাজ করাকেই পুরস্কার দেয়।