Brouillon en relecture. Ce contenu n’a pas encore été validé par l’auteur.
Le cas de la boulangerie
À la fin de cette étape, vous saurez :
- Suivre les conséquences concrètes d’un choix de prompt et d’une relecture, ou de son absence
- Reconnaître le rôle protecteur de la relecture humaine
Situation
Camille a son Prompt / injection de prompt Consigne donnée à un modèle / attaque qui détourne ces consignes via du contenu. Voir le glossaire. Reste à voir ce qui se passe vraiment, avis après avis.
L’essentiel
Un cas d’école, pour suivre pas à pas ce que change un choix : les données envoyées, la relecture ou son absence, et ce qui arrive quand une réponse inventée est publiée.
Cas d’école
Les avis clients de la boulangerie
Camille tient une boulangerie artisanale. Répondre aux avis en ligne lui prend une demi-heure chaque soir. Elle essaie un assistant conversationnel pour gagner du temps. À vous de guider ses choix.
ComprendrePourquoi l’assistant peut-il inventer une explication ?
Un modèle de langage prédit la suite la plus plausible d’un texte ; sans accès à vos vrais changements de recette, il peut produire une explication qui sonne juste, sans être vraie. C’est ce qu’on appelle une Hallucination Réponse plausible mais fausse générée par un modèle. Voir le glossaire. Voir la leçon Plausible n’est pas vrai.
À retenir
- Les données envoyées se limitent à ce qui sert la réponse : jamais un nom, une adresse.
- Une réponse plausible n’est pas forcément vraie ; la relecture est le geste qui protège.
- Une erreur corrigée vite et sincèrement limite les dégâts, sans les effacer.
Sources
- Utiliser l’IA générative dans les TPE et PME, CNILsource primaire
- Why Language Models Hallucinate (septembre 2025), Kalai, Nachum, Vempala et Zhang (arXiv)source primaire
Contenu tiré de la base de connaissance du site (§3.1, §2.10, §7.2), dont chaque affirmation est sourcée et datée. Dernière vérification des sources : 25 septembre 2026.
Fin de l’étape
Faites les activités de la page, puis terminez l’étape.