هذا موقع رسمي تابع لـ ODERSA. إليكم كيف تتأكّدون

النطاق الرسمي

عنوان هذا الموقع ينتهي بـ odersa.org. كل خدمة من خدمات الجمعية توجد على نطاق فرعي من odersa.org، ولا في أي مكان آخر. وإذا كان العنوان الظاهر في شريط متصفّحكم لا ينتهي بـ odersa.org، فهذا الموقع ليس موقعنا.

مجاني، وبلا حساب

كل شيء متاح من اللحظة الأولى: لا تسجيل، ولا حساب، ولا كلمة مرور، ولا اشتراك، ولا إعلانات. ولا شيء محجوز لمن يدفع، لأن لا شيء هنا يُدفع.

لا جمع لأي بيانات

هذا الموقع لا يتعقّبكم: لا أدوات تتبّع، ولا ملفات تعريف ارتباط للتتبّع، ولا أي أداة قياس مدمجة في هذه الصفحات، ولا شيء يُقاس على جهازكم. مُضيفنا يَعُدّ الطلبات بشكل إجمالي، كما يفعل أي خادم يستجيب: مجموع، لا ملف شخصي. ولا حاجة أن تصدّقونا: افتحوا أدوات المطوّر في متصفّحكم، تبويب الشبكة، وأعيدوا تحميل الصفحة. سترون القائمة الكاملة لما يطلبه الموقع. كل شيء يأتي من odersa.org، ولا شيء يذهب إلى مكان آخر.

محتوى حر

المحتوى منشور برخصة CC BY 4.0. يمكنكم نسخه وترجمته وطبعه وإعادة توزيعه، في دروسكم كما بين من حولكم، بشرط واحد: ذكر ODERSA.

متى لا تستخدمه

هذا الفصل يُغلِق الدورة، وهو أنفعها. فالنموذج ينتج جوابًا معقولًا، لا جوابًا متحقَّقًا منه أبدًا. وكل التمييز يقوم إذن على سؤال واحد، يُطرَح قبل الطلب: ماذا يحدث إن كان الجواب خاطئًا ولم يلاحظ ذلك أحد؟

أظهرت الفصول السابقة آلية: النموذج يقطّع، ويحسب توزيعًا، ويسحب منه، ثم يعيد. ولا شيء في هذه الآلية يتحقّق من أي شيء. فالجواب يخرج لأنه محتمل، لا لأنه صحيح، والنموذج لا يملك أي إشارة موثوقة عن جهله هو. وهذا الفصل يستخلص النتيجة العملية من ذلك.

والسؤال الصحيح ليس أبدًا «هل أستطيع؟». إنه «من يدفع الثمن إن كان هذا خاطئًا؟».

الاختبارات الثلاثة

ثلاثة أسئلة تكفي، وهي تُطرَح بهذا الترتيب. وأول واحد يسقط يُغلِق الباب.

كلفة الخطأ

هل يُدرَك الخطأ ويُصلَح؟ فمسوّدة سيّئة الصياغة تُعاد كتابتها في دقيقتين. أما دواء، أو أجل ضريبي، أو تشخيص، أو جرعة، أو رسالة أُرسِلت إلى عميل، فتُصلَح بصعوبة أو لا تُصلَح إطلاقًا. وكلّما زادت لارجعية الخطأ، قلّ موضع النموذج في القرار.

قابلية التحقّق

هل تستطيع التحقّق من الجواب في مصدره، بنفسك، في وقت معقول؟ إن كان الجواب نعم، فالنموذج نقطة بداية مقبولة، ويبقى التحقّق إلزاميًا. وإن كان لا، فالجواب غير قابل للاستخدام، أيًّا كانت ثقته. فالجواب غير القابل للتحقّق ليس معلومة ناقصة: إنه معلومة لاغية.

واحذر التحقّق الزائف. فأن تسأل النموذج إن كان متأكّدًا لا يتحقّق من شيء: فالتأكيد يُحسَب بالآلية نفسها التي حُسِب بها الجواب، وهو معقول بقدره. وأن تطلب مصادره لا يتحقّق من شيء أيضًا ما لم تُفتَح هذه المصادر واحدًا واحدًا، لأن المرجع المختلَق يكون مُحكَم الشكل تمامًا.

المشروعية

هل يقتضي الوضع مسؤولًا بشريًا؟ فالقرار الذي يمسّ شخصًا، أو حقوقه، أو عمله، أو علامته يُلزِم أحدًا يجب أن يكون قادرًا على الجواب عنه ويمكن الاعتراض عليه أمامه. ولا آلة تحمل هذه المسؤولية، وتفويض القرار إليها لا يُلغي المسؤولية: بل يجعلها فقط غير قابلة للعثور عليها.

الحالات التي تُغلَق فيها الأداة

  • تقرير علاج، أو جرعة، أو تشخيص، خارج مهنيّ صحّي.
  • تأسيس عمل قانوني، أو عقد، أو إقرار، أو طعن على جواب غير متحقَّق منه في مصدره الرسمي.
  • الحكم في قرار يمسّ شخصًا: التوظيف، أو التنقيط، أو العقوبة، أو منح مساعدة.
  • اتّهام أحد، بناءً على كاشف أو على انطباع.
  • معالجة محتوى لا يحقّ لك تسليمه: انظر فصل ما نسلّمه إليه.
  • استبدال حساب دقيق بتوقّع: فالنموذج اللغوي لا يعدّ، بل يتوقّع ما يشبه العدّ.
  • كتابة مسوّدة أولى ستُعاد كتابتها على أي حال.
  • إعادة صياغة نصّ كتبته بنفسك وستعيد قراءته.
  • الحصول على مسارات للتحقّق، مع العلم أن لا واحدًا منها مسلّم به.
  • شرح مفهوم تستطيع تقاطعه في مكان آخر.
  • الترجمة للفهم، لا للنشر أبدًا دون إعادة قراءة من شخص يتحدّث اللغة.

فخّ الكاشف

حالة واحدة تستحقّ معالجة خاصة، لأنها تُحدِث أضرارًا حقيقية ولأنها تُقدَّم على أنها الحلّ: الأدوات التي تدّعي أنها تقول إن نصًّا كتبه ذكاء اصطناعي. وهذا الموقع لا يقترح واحدة منها، وهذا ليس نقصًا.

ثلاث ملاحظات منشورة تبرّر ذلك. فتقييم مستقلّ لأربعة عشر أداة كشف، منها أدوات تجارية تُبَاع للتعليم، يخلص إلى أن لا واحدة منها موثوقة ودقيقة في الوقت نفسه. ودراسة أخرى تُثبِت أن عدة كواشف واسعة الاستخدام تصنّف خطأً معظم النصوص التي كتبها غير الناطقين الأصليين بالإنجليزية على أنها مولَّدة بآلة، في حين تعالج بشكل صحيح نصوص الناطقين الأصليين: فالخطأ لا يتوزّع عشوائيًا، بل يقع على أشخاص متضرّرين سلفًا. وأخيرًا فإن الشركة التي كانت قد نشرت أشهر كاشف سحبته بعد ستة أشهر من إطلاقه، محتجّةً بنفسها بمعدّل موثوقية منخفض جدًا.

تنبيه

نتيجة الكاشف ليست دليلًا ولا تؤسّس أي عقوبة. والشكّ في عمل يُعالَج بمحادثة، وبسؤال عن المنهج المتَّبع، وباختبار شفوي، وبطلب نسخة وسيطة. لا بنسبة مئوية أبدًا.

وتفصيل هذا الملف، وما يمكن لمؤسّسة أن تضعه بدلًا منه، مُعالَجان في المدوّنة: كواشف الذكاء الاصطناعي في المدرسة.

الكلفة المادية، وهي تهمّ أيضًا

سبب أخير للامتناع لا علاقة له بالدقّة. فاستخدام نظام توليدي عامّ الاستعمال لمهمة تؤدّيها أداة متخصّصة أفضل يكلّف، للمهمة نفسها، رتبةً إضافية من الطاقة والانبعاثات. فالبحث عن سلسلة محارف بعينها في مستند، أو ترتيب قائمة، أو جمع عمود، أو تحويل صيغة: لهذه المهام أدوات تؤدّيها بدقة، أسرع وبلا اختلاق. وعلى المستوى العالمي، ينمو استهلاك مراكز البيانات للكهرباء المرتبط بالذكاء الاصطناعي نحو أربع مرات أسرع من الطلب الكهربائي الكلّي، ويُتوقَّع أن يزيد على الضعف بين 2024 و2030.

والخطوة هنا بسيطة: أن تسأل أولًا إن كان للمهمة جواب دقيق. فإن كان لها واحد، فثمّة أداة دقيقة موجودة.

ملخّص الدورة في قاعدة واحدة

النموذج يخدم في إنتاج ما سنتحقّق منه، لا في تقرير ما لن نتحقّق منه أبدًا.

والباقي يُستنتَج. فإن كان التحقّق مستحيلًا، فلا موضع للاستخدام. وإن كان التحقّق ممكنًا ولم نقم به، فالنموذج لم يبقَ هو المسؤول.

للمضيّ أبعد

آلية الاختلاق مُعالَجة في فصل لماذا يختلق. وخطوة التحقّق، خطوةً خطوة، منشورة في المدوّنة: خطوة التحقّق. والالتزامات الخاصة بمنطقة تدخل كوحدة إلى جانب الدورة، لا كأساس: انظر الالتزام الأوروبي والأطر الرسمية. وفهرس الدورة في صفحة الفهم.

المصادر