Quand ne pas s’en servir
Ce chapitre ferme le cours, et il est le plus utile. Un modèle produit une réponse plausible, jamais une réponse vérifiée. Tout le discernement tient donc à une seule question, posée avant de demander : que se passe-t-il si la réponse est fausse et que personne ne le remarque ?
Les chapitres précédents ont montré une mécanique : un modèle découpe, calcule une distribution, tire dedans, et recommence. Rien dans cette mécanique ne vérifie quoi que ce soit. Une réponse sort parce qu’elle est probable, pas parce qu’elle est juste, et le modèle ne dispose d’aucun signal fiable de sa propre ignorance. Ce chapitre en tire la conséquence pratique.
La bonne question n’est jamais « est-ce que je peux ? ». C’est « qui paie si c’est faux ».
Les trois tests
Trois questions suffisent, et elles se posent dans cet ordre. La première qui tombe ferme la porte.
Le coût d’une erreur
Une erreur se rattrape-t-elle ? Un brouillon mal tourné se réécrit en deux minutes. Un médicament, une échéance fiscale, un diagnostic, un dosage, un message envoyé à un client se rattrapent mal ou pas du tout. Plus une erreur est irréversible, moins un modèle a sa place dans la décision.
La vérifiabilité
Pouvez-vous vérifier la réponse à sa source, vous-même, dans un temps raisonnable ? Si oui, le modèle est un point de départ acceptable, et la vérification reste obligatoire. Si non, la réponse est inutilisable, quelle que soit son assurance. Une réponse invérifiable n’est pas une information à demi : c’est une information nulle.
Attention à la vérification en trompe-l’œil. Demander au modèle s’il est sûr ne vérifie rien : la confirmation se calcule par la même mécanique que la réponse, et elle est aussi plausible qu’elle. Demander ses sources ne vérifie rien non plus tant que les sources n’ont pas été ouvertes une à une, parce qu’une référence inventée est parfaitement bien formée.
La légitimité
La situation exige-t-elle un responsable humain ? Une décision qui porte sur une personne, sur ses droits, sur son travail ou sur sa note engage quelqu’un qui doit pouvoir en répondre et à qui on peut la contester. Aucune machine ne porte cette responsabilité, et lui déléguer la décision ne fait pas disparaître la responsabilité : elle la rend seulement introuvable.
Les cas où l’outil se referme
- Décider d’un traitement, d’un dosage, d’un diagnostic, en dehors d’un professionnel de santé.
- Fonder un acte juridique, un contrat, une déclaration, un recours sur une réponse non vérifiée à la source officielle.
- Trancher une décision qui porte sur une personne : recrutement, notation, sanction, attribution d’une aide.
- Accuser quelqu’un, sur la base d’un détecteur ou d’une impression.
- Traiter un contenu qu’on n’a pas le droit de confier : voir le chapitre ce qu’on lui donne.
- Remplacer un calcul exact par une prédiction : un modèle de langue ne compte pas, il prédit ce qui ressemble à un compte.
- Faire un premier jet qu’on va réécrire de toute façon.
- Reformuler un texte qu’on a soi-même écrit et qu’on relira.
- Obtenir des pistes à vérifier, en sachant qu’aucune n’est acquise.
- Expliquer une notion qu’on est capable de recouper ailleurs.
- Traduire pour comprendre, jamais pour publier sans relecture par quelqu’un qui parle la langue.
Le piège du détecteur
Un cas mérite son propre traitement, parce qu’il fait des dégâts réels et qu’il se présente comme la solution : les outils qui prétendent dire si un texte a été écrit par une intelligence artificielle. Ce site n’en propose aucun, et ce n’est pas une lacune.
Trois constats publiés le justifient. Une évaluation indépendante de quatorze outils de détection, dont des outils commerciaux vendus à l’enseignement, conclut qu’aucun n’est à la fois fiable et précis. Une autre étude établit que plusieurs détecteurs très utilisés classent à tort la majorité des textes écrits par des locuteurs non natifs de l’anglais comme générés par une machine, alors qu’ils traitent correctement les textes de locuteurs natifs : l’erreur n’est pas répartie au hasard, elle tombe sur des personnes déjà désavantagées. Enfin l’entreprise qui avait publié le détecteur le plus connu l’a retiré six mois après son lancement, en invoquant elle-même un taux de fiabilité trop faible.
Un résultat de détecteur n’est pas une preuve et ne fonde aucune sanction. Un doute sur un travail se traite par une conversation, par une question sur la méthode suivie, par un oral, par une version intermédiaire demandée. Jamais par un pourcentage.
Le détail de ce dossier, et ce qu’un établissement peut mettre à la place, sont traités au blog : les détecteurs d’IA à l’école.
Le coût matériel, qui compte aussi
Un dernier motif de s’abstenir n’a rien à voir avec l’exactitude. Employer un système génératif à usage multiple pour une tâche qu’un outil spécialisé fait mieux coûte, pour cette même tâche, un ordre de grandeur d’énergie et d’émissions en plus. Chercher une chaîne exacte dans un document, trier une liste, additionner une colonne, convertir un format : ces tâches ont des outils qui les font exactement, plus vite et sans invention. À l’échelle mondiale, la consommation électrique des centres de données liée à l’intelligence artificielle croît environ quatre fois plus vite que la demande électrique totale, et devrait plus que doubler entre 2024 et 2030.
Le geste, ici, est simple : demander d’abord si la tâche a une réponse exacte. Si elle en a une, un outil exact existe.
Le résumé du cours en une règle
Un modèle sert à produire ce qu’on va vérifier, jamais à décider ce qu’on ne vérifiera pas.
Le reste se déduit. Si la vérification est impossible, l’usage n’a pas lieu. Si la vérification est possible mais qu’on ne la fait pas, ce n’est plus le modèle qui est en cause.
Pour aller plus loin
Le mécanisme de l’invention est traité au chapitre pourquoi il invente. Le geste de vérification, pas à pas, est publié au blog : le geste de vérification. Les obligations propres à une région entrent comme module à côté du cours, jamais comme socle : voir l’obligation européenne et les cadres officiels. Le sommaire du cours est à la page comprendre.
Sources
- Testing of detection tools for AI-generated text Debora Weber-Wulff, Alla Anohina-Naumeca, Sonja Bjelobaba, Tomas Foltynek, Jean Guerrero-Dib, Olumide Popoola, Petr Sigut, Lorna Waddington, 2023. Établit qu’une évaluation indépendante de quatorze outils de détection de texte généré par IA, incluant des outils commerciaux utilisés dans l’enseignement, conclut qu’aucun d’entre eux n’est à la fois fiable et précis, avec un biais à classer le texte comme humain plutôt qu’à détecter la machine.
- GPT detectors are biased against non-native English writers Weixin Liang, Mert Yuksekgonul, Yining Mao, Eric Wu, James Zou, 2023. Établit que plusieurs détecteurs très utilisés classent à tort la majorité des textes écrits par des locuteurs non natifs de l’anglais comme générés par une IA, alors qu’ils identifient correctement les textes de locuteurs natifs.
- OpenAI scuttles AI-written text detector over « low rate of accuracy » Devin Coldewey / TechCrunch, citant l’addendum officiel d’OpenAI du 20 juillet 2023. Établit qu’OpenAI a retiré son propre outil de détection de texte généré par IA six mois après son lancement, en invoquant lui-même un taux de fiabilité trop faible pour être utile.
- Energy and AI Agence Internationale de l’Énergie, 2025. Établit que la consommation électrique mondiale des centres de données liée à l’IA croît environ quatre fois plus vite que la demande électrique mondiale totale, et devrait plus que doubler entre 2024 et 2030.
- Power Hungry Processing: Watts Driving the Cost of AI Deployment? Alexandra Sasha Luccioni, Yacine Jernite, Emma Strubell, 2024. Établit que les systèmes d’IA générative à usage multiple consomment, pour une tâche donnée, un ordre de grandeur d’énergie et d’émissions de carbone en plus par rapport à un système spécialisé pour cette même tâche.
- Why Language Models Hallucinate Adam Tauman Kalai, Ofir Nachum, Santosh S. Vempala, Edwin Zhang, 2025. Établit que les procédures d’entraînement et surtout d’évaluation actuelles récompensent le fait de deviner une réponse plausible plutôt que d’admettre l’incertitude.