Brouillon en relecture. Ce contenu n’a pas encore été validé par l’auteur.
Plausible n’est pas vrai
À la fin de cette étape, vous saurez :
- Expliquer pourquoi un modèle peut inventer avec aplomb
- Choisir la bonne parade selon l’enjeu
Situation
Sonia demande à un assistant l’adresse d’un fournisseur de pièces détachées. Il lui en donne une, très précise, avec un numéro de téléphone. Le courrier revient : l’adresse n’existe pas.
L’essentiel
Un modèle peut produire une réponse plausible mais fausse : c’est une Hallucination Réponse plausible mais fausse générée par un modèle. Voir le glossaire. D’après une étude de 2025, les modèles hallucinent parce que leur entraînement et leur évaluation récompensent le fait de deviner plutôt que de reconnaître une incertitude, comme un élève qui tente sa chance à un examen Why Language Models Hallucinate (septembre 2025)Kalai, Nachum, Vempala et Zhang (arXiv).
Source primaire · consultée le 25 septembre 2026
Consulter la source.
Cas limite · Et si… ?
La réponse sûre d’elle… et fausse
Pour un courrier à un fournisseur qui ne livre pas, Marc demande à un assistant conversationnel de citer les textes de loi qui appuient sa réclamation. La réponse arrive en quelques secondes : trois articles, avec leur numéro et une phrase entre guillemets pour chacun. Le ton est assuré.
Trois parades, selon l’enjeu
- Vérifier tout chiffre, toute date, tout nom et toute référence à la source, d’autant plus qu’ils sont précis.
- Autoriser le « je ne sais pas » et demander des sources : voir l’étape Un bon prompt en cinq ingrédients.
- Fournir les documents : un assistant qui répond à partir de documents retrouvés pour la question (RAG Génération augmentée par récupération ; l'IA répond à partir de documents retrouvés. Voir le glossaire) s’appuie moins sur sa mémoire, et gagne en exactitude si ces documents sont fiables Glossaire de la documentation (tokens, température, fenêtre de contexte, RAG)Anthropic.
Source primaire · consultée le 25 septembre 2026
Consulter la source. Voir la fiche Interroger vos documents sans tout relire.
À retenir
- Une hallucination est une réponse plausible mais fausse, souvent dite avec assurance.
- Elle vient de la façon dont les modèles sont entraînés et évalués : deviner est récompensé.
- Vérifiez à la source, autorisez le « je ne sais pas », fournissez vos documents.
Sources
- Why Language Models Hallucinate (septembre 2025), Kalai, Nachum, Vempala et Zhang (arXiv)source primaire
- Glossaire de la documentation (tokens, température, fenêtre de contexte, RAG), Anthropicsource primaire
Contenu tiré de la base de connaissance du site (§2.9, §2.10, §3.5), dont chaque affirmation est sourcée et datée. Dernière vérification des sources : 25 septembre 2026.
Fin de l’étape
Faites les activités de la page, puis terminez l’étape.