Aperçu gratuit · Module 1 · Leçon 1
Pourquoi une IA se trompe avec aplomb
Comprendre d'où viennent les erreurs assurées d'une IA et pourquoi la vérification reste votre travail. Leçon d’aperçu gratuite de la formation « Rechercher et vérifier avec l'IA : sources, citations et fact-checking », lisible en entier sans compte, avec ses sources officielles datées.
Objectif
Expliquer en deux phrases pourquoi un assistant d'IA peut affirmer une chose fausse sur un ton parfaitement sûr, et trier ses réponses entre celles utilisables telles quelles et celles à vérifier hors de la conversation.
Ce que vous saurez faire
- Expliquer à un collègue, en deux phrases, ce qu'est une « hallucination ».
- Distinguer les réponses qu'on peut utiliser telles quelles de celles qu'il faut vérifier.
- Reconnaître le piège le plus courant : demander à l'IA de confirmer sa propre réponse.
Contenu
Une machine à formuler, pas un registre
Un modèle de langage produit le texte le plus plausible à partir de ce qu'il a appris. Plausible ne veut pas dire vrai. Le style reste fluide et assuré, que le contenu soit juste ou non.
OpenAI définit les hallucinations comme des affirmations plausibles mais fausses, produites par un modèle de langage. L'éditeur explique aussi qu'elles restent un défi fondamental pour tous les grands modèles de langage, et que les méthodes d'évaluation habituelles poussent les modèles à deviner plutôt qu'à avouer leur incertitude.
Retenez la conséquence pratique : le ton d'une réponse ne vous dit rien de sa justesse. Une IA ne « sait » pas qu'elle se trompe, et elle ne vous prévient pas toujours.
Le cas qui a fait école
En 2023, à New York, des avocats ont déposé devant un tribunal fédéral un mémoire qui citait des décisions de justice inexistantes. Le juge a constaté que ces décisions, avec leurs fausses citations, avaient été générées par ChatGPT. Il a sanctionné les avocats et leur cabinet par une amende de 5'000 dollars.
Le détail le plus instructif se trouve dans la décision. L'avocat avait demandé à ChatGPT si l'une des décisions était réelle. L'outil a répondu qu'elle existait et qu'on la trouvait dans les bases juridiques habituelles.
Demander à une IA « es-tu sûre ? » ne vérifie rien. La vérification se fait hors de la conversation, dans une source qui existe indépendamment de l'IA.
Ce qui est stable, ce qui change
Cette formation sépare deux types de savoir :
| Type | Exemples | Durée de vie |
|---|---|---|
| Méthode | remonter à la source primaire, croiser des sources indépendantes, tenir un journal de vérification | des années |
| Outils et fonctions | bouton « Sources », recherche web intégrée, filigranes, réglages d'administrateur | quelques mois |
La méthode est le cœur du cours. Les fonctions des outils sont datées et suivies : quand elles changent, la leçon concernée est mise à jour et vous en êtes informé.
Quand faut-il vérifier ?
Pas tout, pas tout le temps. Vérifiez dès que la réponse contient l'un de ces éléments :
- un chiffre, une date, un montant, un taux ;
- une citation attribuée à une personne ;
- une référence : article de loi, décision, étude, livre, lien ;
- une affirmation que vous allez publier, envoyer à un client ou utiliser pour décider.
Une reformulation de votre propre texte ou une liste d'idées pour une séance n'appellent pas le même effort.
Exemple réel
Sophie, gérante d'une fiduciaire fictive à Morges, demande à un assistant d'IA un résumé des « nouveautés fiscales 2026 pour les indépendants vaudois ». La réponse est claire et bien structurée. Elle cite un article de loi et un montant de déduction.
Avant de l'envoyer à ses clients, Sophie applique la règle : elle cherche l'article cité dans la source publique de référence et le montant sur le site de l'administration fiscale compétente. L'article existe, mais dans une version antérieure. Le montant, lui, n'apparaît nulle part. Elle corrige, cite ses sources et garde une trace de sa vérification.
À vous de jouer
Exercice pratique facultatif : environ 10 minutes, non comptées dans la durée de la leçon (lecture et mini-quiz).
Prenez une réponse d'IA que vous avez reçue cette semaine (ou demandez-en une sur un sujet que vous connaissez bien). Surlignez :
- chaque chiffre ;
- chaque citation ou référence ;
- chaque affirmation que vous auriez transmise telle quelle.
Comptez combien de ces éléments vous pourriez vérifier en moins de deux minutes. C'est votre point de départ pour la suite du cours.
Piège à éviter
À retenir
- Une hallucination est une affirmation plausible mais fausse, formulée avec assurance.
- Le ton de la réponse n'indique pas sa justesse.
- La vérification se fait hors de la conversation, dans une source indépendante.
- La méthode est stable ; les fonctions des outils changent et sont datées.
Mini-quiz
Sources
- Why language models hallucinate, consulté le 13 octobre 2026.
- Mata v. Avianca, Inc., 22-cv-1461 (PKC), Opinion and Order on Sanctions (S.D.N.Y.), document 54, consulté le 13 octobre 2026.
Preuves de cette leçon
Chaque affirmation qui peut évoluer renvoie à une source primaire, avec sa date de consultation.
1 OpenAI définit les hallucinations comme des affirmations plausibles mais fausses produites par les modèles de langage ; elles restent un défi fondamental pour tous les grands modèles, notamment parce que les évaluations usuelles récompensent la devinette plutôt que l'aveu d'incertitude.
- Why language models hallucinate openai.com · consultée le
- Why language models hallucinate openai.com · consultée le
2 En 2023, un tribunal fédéral de New York a sanctionné des avocats et leur cabinet (amende de 5'000 dollars) pour avoir déposé des décisions de justice inexistantes, avec fausses citations, générées par ChatGPT.
- Mata v. Avianca, Inc., 22-cv-1461 (PKC), Opinion and Order on Sanctions (S.D.N.Y.), document 54 storage.courtlistener.com · consultée le
- Mata v. Avianca, Inc., 22-cv-1461 (PKC), Opinion and Order on Sanctions (S.D.N.Y.), document 54 storage.courtlistener.com · consultée le
3 Dans la même affaire, interrogé sur l'existence d'une des décisions citées, ChatGPT a répondu qu'il s'agissait d'autorités réelles, consultables dans les bases juridiques habituelles.
- Mata v. Avianca, Inc., 22-cv-1461 (PKC), Opinion and Order on Sanctions (S.D.N.Y.), document 54 storage.courtlistener.com · consultée le