Une devinettePour commencerCas d'ouverture
Réfléchis une secondeEssaie de répondrePosez votre intuition
Si tu ne connais pas la réponse à une devinette, tu dis parfois n'importe quoi avec un air sûr. Et la machine ?
Pense à ta réponse, même si tu n'es pas sûr. La suite te dira si tu avais vu juste.
Un chatbot te donne l'année de sortie d'un jeu, une citation et une source. Les trois peuvent-ils être inventés en même temps ?
Prends dix secondes pour répondre dans ta tête. Tu compareras avec la suite.
Un fournisseur promet une IA « sans hallucination » pour vos réponses clients. Que lui demanderiez-vous pour le croire ?
Formulez d'abord votre réponse, même approximative : la comparer à la suite fixe bien mieux les acquis.
Regarde ça bougerVois-le en actionLe concept en mouvement
Transforme une réponse inventée en réponse sourcée
Sans garde-fou, le modèle invente ; ancrage (RAG), citation, abstention et mesure fiabilisent la réponse. On réduit le risque, sans le supprimer.
« La clause 7 autorise un remboursement à 30 jours. »
Plausible, bien formulé… mais faux. C'est le risque à maîtriser.
C'est comme mettre plein de barrières autour d'un toboggan : on tombe moins, mais on fait quand même attention.
Réduire les hallucinations, c'est comme sécuriser une piste de skate : plusieurs barrières, pas une seule, et zéro risque n'existe jamais.
Réduire les hallucinations, c'est comme sécuriser une route : plusieurs garde-fous, pas un seul, et on ne supprime jamais tout risque.
Comment ça marcheComment ça marcheLa mécanique
Une étape à la foisLe mécanisme, étape par étapeLe mécanisme, étape par étape
Quand l'IA invente une réponse
Avant de répondre, on lui ouvre le bon livre, et elle regarde dedans.
On lui demande : « D'où vient ton info ? » pour qu'elle nous montre.
Quand c'est important, un grand vérifie avant.
Si elle ne sait pas, elle a le droit de dire « je ne sais pas ».
Quand l'IA invente avec aplomb
Avant de répondre, on lui donne les bons documents à lire (comme rouvrir ton cours avant un contrôle) : on appelle ça le RAG.
On lui demande de citer ses sources, et on l'autorise à répondre « je ne sais pas » au lieu d'inventer.
Pour les sujets sérieux, un humain vérifie la réponse avant qu'elle serve.
On mesure son taux d'erreur dans le temps pour voir si elle s'améliore ou si elle régresse.
Réduire le risque, pas l'effacer
On ancre la réponse sur des documents réels : le modèle s'appuie sur de vraies sources récupérées (RAG) plutôt que sur sa seule mémoire.
On exige des citations vérifiables et on calibre l'abstention : mieux vaut un « je ne sais pas » assumé qu'une fausse certitude.
Sur les décisions critiques, on garde un humain dans la boucle qui valide avant action.
On mesure le taux d'erreur en continu avec des évaluations, pour piloter et détecter les régressions.
Des exemples pour toiDes exemples concretsExemples concrets
Tu l'as déjà croiséOù tu le retrouvesOù vous le retrouvez en situation
Un exemple pour toi
C'est comme une devinette à la récré. Si tu ne connais pas la réponse, tu dis parfois n'importe quoi, mais avec un air sûr de toi. L'IA fait pareil ! Alors on lui ouvre le bon livre, et elle se trompe beaucoup moins.
Tu demandes le nom d'un dessin animé : elle regarde la bonne image avant de répondre.
Tu demandes combien tu as de billes : elle dit « je ne sais pas, compte-les avec moi ».
La maîtresse relit la réponse avant de la coller dans ton cahier.
Cas concret
Tu demandes à un chatbot l'année de sortie d'un jeu vidéo ou la bio d'un youtubeur : il peut te répondre une date hyper précise et fausse, inventer une citation, ou te donner une « source » qui n'existe pas. C'est joliment écrit, donc on a envie d'y croire.
Un assistant de devoirs qui te donne la page exacte du manuel d'où vient sa réponse.
Une IA qui répond « je ne sais pas » plutôt que d'inventer la date de sortie d'un jeu.
Un correcteur qui demande à un prof de valider avant de mettre une note officielle.
Cas concret
Un assistant qui rédige une réponse client en citant la page exacte du règlement, qui refuse de répondre quand aucune source fiable ne ressort, et qui demande votre validation avant d'envoyer l'e-mail ou de lancer une action irréversible. Vous gardez la main sur ce qui compte.
Un assistant juridique qui cite l'article exact du règlement à l'appui de sa réponse.
Un chatbot support qui refuse de répondre faute de source fiable plutôt que d'inventer une procédure.
Une validation humaine obligatoire avant un virement ou l'envoi d'un e-mail client.
Attention aux piègesÀ éviterÀ éviter
Ce qu'on croit, et ce qui est vraiIdées reçues et pièges à éviterIdées reçues et risques à anticiper
-
On croit que
On croit qu'une machine très forte ne se trompe jamais.
En vrai
En vrai, même la plus forte invente parfois. On fait moins d'erreurs, mais pas zéro.
-
On croit que
On croit qu'avec le bon livre, elle ne se trompe plus du tout.
En vrai
En vrai, si le livre dit une bêtise, elle redit la bêtise.
-
On croit que
On croit que plus on met de barrières, mieux c'est.
En vrai
En vrai, trop de barrières et elle devient toute lente et dit non à tout.
Les pièges à retenir
- Elle peut encore inventer, même avec les astuces.
- Trop de règles, et elle répond tout doucement ou dit non tout le temps.
- Si on lui donne un mauvais livre, elle redit une bêtise.
-
On croit que
« Une IA puissante ne se trompe jamais. »
En réalité
Faux. Même les meilleures inventent parfois. On réduit le risque, on ne l'efface pas.
-
On croit que
« Lui donner les bons documents (RAG) supprime toutes les erreurs. »
En réalité
Non. Si elle pioche dans une mauvaise source, sa réponse peut rester fausse.
-
On croit que
« Plus on met de garde-fous, mieux c'est, toujours. »
En réalité
Pas vraiment. Trop de barrières la rendent lente, rigide et elle finit par refuser des trucs normaux.
Les pièges à retenir
- Aucune méthode ne garantit zéro invention.
- Trop de garde-fous rendent l'IA lente ou la font refuser trop souvent.
- Une mauvaise source donne une mauvaise réponse : la qualité des documents compte.
-
Idée reçue
« Un bon modèle n'hallucine jamais. »
Réalité
Faux. Même les meilleurs hallucinent parfois. On réduit le risque, on ne le supprime pas.
-
Idée reçue
« Le RAG élimine les hallucinations. »
Réalité
Non. Il les réduit, mais une mauvaise récupération ou de mauvaises sources peuvent encore tromper le modèle.
-
Idée reçue
« Plus de garde-fous, toujours mieux. »
Réalité
Pas forcément. Trop de contraintes rendent le système rigide, lent ou inutilement fermé.
Points de vigilance
- Aucune méthode ne garantit zéro hallucination.
- Trop de garde-fous peuvent rendre le système rigide ou lent.
- Une mauvaise source ancre une mauvaise réponse : la qualité documentaire compte.
Ce que je retiensÀ retenirÀ retenir
L'essentiel, en quatre idéesL'essentiel, en quatre idéesL'essentiel, en quatre points
La phrase à garder
Parfois la machine invente. Pour l'aider : on lui ouvre le bon livre, on demande d'où vient l'info, et un grand vérifie.
- Le bon livre On lui ouvre la bonne page avant qu'elle réponde.
- D'où ça vient ? Elle nous montre où elle a trouvé.
- Un grand vérifie Pour les choses importantes, on relit.
- « Je ne sais pas » Elle a le droit de le dire au lieu d'inventer.
La phrase à garder
On ne supprime pas les hallucinations : on les réduit fort avec sources, citations, le droit de dire « je ne sais pas », un humain et une mesure régulière.
- Ancrer (RAG) Lui donner les vrais documents avant de répondre.
- Citer + s'abstenir Montrer ses sources et oser le « je ne sais pas ».
- Humain sur le sérieux Faire vérifier les réponses qui comptent vraiment.
- Mesurer Suivre le taux d'erreur dans le temps.
Message clé
On ne supprime pas les hallucinations : on les réduit fortement avec ancrage, citations, abstention, validation humaine et mesure continue.
- Ancrer RAG : appuyer la réponse sur de vraies sources.
- Abstention Autoriser et calibrer le « je ne sais pas ».
- Humain sur le critique Valider les décisions sensibles ou irréversibles.
- Mesurer Suivre le taux d'erreur en continu via des évaluations.
Je m'entraîneJe valideÉvaluation
Je teste ce que j'ai comprisJe teste ce que j'ai comprisValidez vos acquis
Valider : Hallucinations et garde-fous
4 questions. Il faut 70 % de bonnes réponses pour maîtriser la fiche. Tu as le droit de te tromper et de réessayer.
Pour les curieuxPour aller plus loinPour aller plus loin
Si tu veux en savoir plusCreuser le sujetApprofondir et poursuivre
Sous le capot, pour les curieux
Le bon livre
On lui ouvre la bonne page avant qu'elle réponde
Avant de poser ta question, on donne à l'IA le bon cahier ouvert à la bonne page. Comme ça, elle lit la vraie réponse au lieu de l'inventer dans sa tête. C'est comme un copain qui regarde le livre de classe avant de te répondre.
« Je sais pas »
Avoir le droit de dire « je ne sais pas »
On apprend à l'IA que c'est permis de dire « je ne sais pas » quand elle n'est pas sûre. C'est beaucoup mieux que d'inventer une réponse fausse en faisant semblant. Comme à l'école : mieux vaut lever le doigt et dire qu'on n'a pas trouvé que raconter n'importe quoi.
On revérifie
On regarde à deux fois pour repérer les bêtises
Pour attraper les erreurs, on compare plusieurs livres entre eux, ou on demande à une autre IA de relire la réponse, comme un copain qui corrige ta dictée. Aucune astuce ne marche à tous les coups, alors on les met toutes ensemble.
Un grand vérifie
Un adulte vérifie et on compte les erreurs
Pour les choses très importantes, c'est un humain qui regarde avant de dire oui, comme un maître qui valide ton travail. Et on compte combien de fois l'IA se trompe, pour voir si elle s'améliore ou si elle fait plus de bêtises qu'avant.
Sous le capot
Grounding
Ancrer la réponse sur de vraies sources
Le RAG (recherche augmentée) va d'abord chercher les bons documents, puis les donne au modèle avant qu'il réponde. Résultat : l'IA s'appuie sur des textes réels au lieu de piocher uniquement dans sa mémoire, un peu comme citer ta source dans un exposé plutôt que d'écrire de tête. Ça réduit fortement les réponses inventées.
Abstention
Savoir dire « je ne sais pas »
L'abstention, c'est régler le modèle pour qu'il assume un « je ne sais pas » quand il n'a pas l'info, au lieu de balancer une réponse fausse avec assurance (comme un faux ami sur un QCM). Une absence de réponse vaut mieux qu'une erreur déguisée en certitude.
Détection
Recouper les sources et faire juger
On croise plusieurs sources, on vérifie automatiquement certains faits, ou on fait relire la réponse par un second modèle qui joue l'arbitre (un « modèle juge »). Pense au fact-checking d'une vidéo virale : aucune méthode n'est parfaite, donc on les combine.
Humain & mesure
Boucle humaine et évaluations
Sur les décisions critiques, un humain valide avant que ça parte (human-in-the-loop). Et on mesure le taux d'hallucination en continu avec des évaluations (des tests automatisés répétés), pour piloter le produit et repérer une « régression », c'est-à-dire quand ça se met soudain à empirer.
Sous le capot : les briques techniques
Grounding
Ancrer la réponse sur de vraies sources
Le RAG fournit au modèle les bons passages au bon moment. La réponse s'appuie sur des documents réels plutôt que sur sa seule mémoire, ce qui réduit l'invention.
Abstention
Savoir dire « je ne sais pas »
Un garde-fou clé : autoriser et calibrer le refus ou l'incertitude. Mieux vaut une absence de réponse qu'une fausse réponse présentée comme sûre.
Détection
Recouper et faire juger
On peut recouper plusieurs sources, vérifier automatiquement des faits, ou faire évaluer la réponse par un autre modèle. Aucune méthode n'est parfaite, on les combine.
Humain & mesure
Boucle humaine et évaluations
Sur les décisions critiques, un humain valide. Et on mesure en continu le taux d'hallucination avec des évaluations, pour piloter et détecter les régressions.
Les questions que tu te poses peut-être
- Est-ce que l'IA peut se tromper ?
- Oui, ça arrive ! Elle peut inventer une réponse qui a l'air vraie. C'est pour ça qu'un grand vérifie quand c'est important.
- Pourquoi elle invente des choses ?
- Parce que des fois elle ne connaît pas la réponse. Au lieu de dire « je ne sais pas », elle devine. Alors on lui apprend à dire « je ne sais pas », c'est plus malin.
- Est-ce que je peux la croire à chaque fois ?
- Pas toujours ! Comme avec un copain qui raconte plein d'histoires : c'est rigolo, mais on vérifie avant de tout croire.
Questions fréquentes
- Peut-on supprimer les hallucinations ?
- Non. On peut fortement les réduire (ancrage, citations, abstention, validation, mesure), mais pas les éliminer totalement.
- Le RAG suffit-il ?
- Il aide beaucoup, mais ne suffit pas seul : si la recherche ramène de mauvaises sources, la réponse peut rester fausse.
- C'est quoi l'« abstention » ?
- La capacité du système à dire « je ne sais pas » plutôt que d'inventer. Bien calibrée, c'est un garde-fou puissant.
- Comment savoir si ça marche ?
- En mesurant : des évaluations suivent le taux d'hallucination dans le temps et détectent les régressions.
Pour continuer
-
Lis l'histoire en BD, c'est plus rigoloCette notion existe aussi en BDCette notion existe aussi en BD IA, le gardien qui crie au loup - Fiche à suivre Évaluations et fiabilité Pour mesurer le taux d'erreur et piloter les garde-fous.
- Fiche à suivre RAG expliqué simplement Le garde-fou n°1 : ancrer la réponse sur de vraies sources (Niveau 2).
- Fiche à suivre Pourquoi l'IA se trompe Pour revoir, simplement, d'où viennent les erreurs (Niveau 1).
SourcesSourcesSources vérifiées