Une devinettePour commencerCas d'ouverture
Réfléchis une secondeEssaie de répondrePosez votre intuition
Tu connais ce copain qui lève toujours le doigt en premier ? A-t-il la bonne réponse à chaque fois ?
Pense à ta réponse, même si tu n'es pas sûr. La suite te dira si tu avais vu juste.
Une IA te sort une citation de Victor Hugo parfaite pour ton exposé. Comment sais-tu qu'elle existe vraiment ?
Prends dix secondes pour répondre dans ta tête. Tu compareras avec la suite.
Un assistant vous résume une réglementation avec le numéro d'article exact. Quel détail de ce paragraphe mérite d'être vérifié en premier ?
Formulez d'abord votre réponse, même approximative : la comparer à la suite fixe bien mieux les acquis.
Regarde ça bougerVois-le en actionLe concept en mouvement
Regarde une réponse sûre d'elle se révéler fausse
Une réponse fluide et très assurée, puis la vérification : le détail est inventé. Plausible ne veut pas dire vrai.
Une question précise, sur un détail que je ne connais peut-être pas.
C'est comme un copain qui répond très vite à tout, même quand il ne sait pas.
C'est le pote qui répond toujours avec aplomb à chaque question, même quand il n'en sait rien.
L'IA, c'est un collègue qui répond toujours, vite et avec aplomb, parfois juste, parfois faux, mais toujours assuré.
Comment ça marcheComment ça marcheLa mécanique
Une étape à la foisLe mécanisme, étape par étapeLe mécanisme, étape par étape
Elle devine, elle ne sait pas vraiment
Elle regarde plein, plein d'exemples qu'elle a appris avant.
Elle choisit la réponse qui ressemble le plus.
Si elle ne sait pas, elle invente un truc qui a l'air vrai.
Elle le dit avec un grand sourire, même quand c'est faux.
Elle a l'air sûre d'elle… et elle a tort
L'IA cherche la réponse qui « sonne juste », pas celle qui est vérifiée.
Quand il lui manque l'info, elle comble le trou avec quelque chose de crédible.
Elle peut écrire une grosse erreur avec un ton ultra confiant.
Tu réduis le risque en lui demandant ses sources et en vérifiant toi-même.
Confiante, fluide… et parfois fausse
L'IA estime la sortie la plus probable selon ce qu'elle a appris, pas la plus vraie.
Quand l'information manque, elle comble les trous de façon crédible : c'est une « hallucination ».
Le ton confiant ne reflète pas le niveau de certitude réel de la réponse.
On réduit les erreurs en ancrant la réponse sur des sources et en vérifiant les faits.
Des exemples pour toiDes exemples concretsExemples concrets
Tu l'as déjà croiséOù tu le retrouvesOù vous le retrouvez en situation
Un exemple pour toi
C'est comme un copain à l'école qui lève toujours le doigt en premier. La plupart du temps il a la bonne réponse. Mais des fois il invente, et il le dit fort, l'air super sûr de lui. Toi, tu dois quand même vérifier avant de le croire.
Tu lui demandes le nom d'un personnage de dessin animé… et elle invente un faux nom.
Tu lui demandes combien de billes tu as, elle dit un chiffre faux mais sûre d'elle.
Tu lui demandes une date, elle se trompe en faisant comme si elle savait.
Cas concret
Tu lui demandes une citation pour ton exposé ou une stat pour un post : elle te sort une phrase « de Victor Hugo » et un chiffre bien net, super crédibles… qui n'existent nulle part. Tu copies, et c'est faux dans ton devoir.
Elle te sort une citation d'un personnage de série… qui n'a jamais existé.
Elle se trompe sur la date de sortie d'un jeu vidéo en ayant l'air sûre.
Tu lui demandes un fait pour un devoir et elle invente une réponse plausible.
Cas concret
Vous lui demandez de résumer une réglementation pour un mail pro, ou de citer l'article de loi exact : elle vous rédige un paragraphe impeccable avec un numéro d'article précis… inventé. Envoyé tel quel, l'erreur passe inaperçue tant le texte est bien tourné.
Inventer une citation, un article ou une référence qui n'existe pas.
Se tromper sur une date, un chiffre ou un montant précis dans un document de travail.
Donner une réponse plausible et détaillée sur un sujet qu'elle ne maîtrise pas.
Attention aux piègesÀ éviterÀ éviter
Ce qu'on croit, et ce qui est vraiIdées reçues et pièges à éviterIdées reçues et risques à anticiper
-
On croit que
On croit que si elle répond avec un grand sourire, c'est vrai.
En vrai
En vrai, elle peut sourire et dire une grosse bêtise.
-
On croit que
On croit qu'une IA gentille ne se trompe jamais.
En vrai
En vrai, même les plus malines disent parfois des bêtises.
Les pièges à retenir
- Il ne faut pas la croire les yeux fermés.
- Quand elle dit bien la bêtise, on ne la voit pas.
- Même en faisant attention, elle peut encore se tromper.
-
On croit que
« Si l'IA répond avec assurance, c'est que c'est vrai. »
En réalité
Faux. Le ton confiant ne dit rien de l'exactitude : elle peut se planter avec aplomb.
-
On croit que
« Une IA qui se trompe, c'est qu'elle est nulle. »
En réalité
Pas forcément. L'erreur fait partie de son fonctionnement : elle prédit du plausible, pas du vérifié.
-
On croit que
« Avec une bonne IA, plus besoin de vérifier mes infos. »
En réalité
Non. Même les meilleures se trompent sur des faits. La vérification reste indispensable.
Les pièges à retenir
- On ne peut pas lui faire confiance les yeux fermés, surtout sur les faits.
- Une erreur bien formulée passe inaperçue : elle est d'autant plus piégeuse.
- Aucune méthode ne supprime totalement le risque d'erreur.
-
Idée reçue
« Si l'IA répond avec assurance, c'est que c'est vrai. »
Réalité
Faux. Le ton confiant ne dit rien de l'exactitude : une IA peut se tromper avec aplomb.
-
Idée reçue
« Une IA qui se trompe, c'est qu'elle est mal faite. »
Réalité
Pas forcément. L'erreur fait partie du fonctionnement : elle prédit du plausible, pas du vérifié.
-
Idée reçue
« Avec une bonne IA, plus besoin de vérifier. »
Réalité
Non. Même les meilleures se trompent sur des faits. La vérification reste indispensable.
Points de vigilance
- On ne peut pas lui faire confiance les yeux fermés, surtout sur les faits.
- Les erreurs sont d'autant plus dangereuses qu'elles sont bien formulées.
- Aucune méthode (sources, garde-fous) ne supprime totalement le risque d'erreur.
Ce que je retiensÀ retenirÀ retenir
L'essentiel, en quatre idéesL'essentiel, en quatre idéesL'essentiel, en quatre points
La phrase à garder
L'IA devine, elle ne sait pas vraiment. Demande toujours à un grand pour vérifier.
- Elle devine Elle choisit ce qui ressemble le plus.
- Elle invente Si elle ne sait pas, elle dit un truc faux.
- Elle a l'air sûre Mais sûre d'elle, ce n'est pas avoir raison.
- Vérifie Demande à un grand si c'est vrai.
La phrase à garder
Une IA prédit du plausible, pas du vrai : vérifie toujours les faits importants, surtout pour tes devoirs.
- Plausible ≠ vrai Elle vise ce qui sonne juste, pas la vérité.
- Elle peut inventer Sans l'info, elle comble le trou de façon crédible.
- Le ton trompe Sûre d'elle ne veut pas dire correcte.
- Vérifie toujours Surtout dates, chiffres, noms, sources.
Message clé
Une IA peut se tromper avec assurance : elle prédit du plausible, pas du vrai. Vérifie toujours les faits importants.
- Plausible ≠ vrai Elle vise la cohérence, pas la vérité.
- Elle peut inventer Sans l'info, elle comble les trous (hallucination).
- Le ton trompe Sûre d'elle ne veut pas dire correcte.
- Vérifie toujours Surtout faits, chiffres et sources.
Je m'entraîneJe valideÉvaluation
Je teste ce que j'ai comprisJe teste ce que j'ai comprisValidez vos acquis
Valider : Pourquoi l'IA se trompe
4 questions. Il faut 70 % de bonnes réponses pour maîtriser la fiche. Tu as le droit de te tromper et de réessayer.
Pour les curieuxPour aller plus loinPour aller plus loin
Si tu veux en savoir plusCreuser le sujetApprofondir et poursuivre
Sous le capot, pour les curieux
Ça ressemble, mais c'est faux
L'IA répond ce qui ressemble le plus, pas forcément le vrai
Imagine que tu joues à « devine le mot qui vient après ». L'IA fait pareil tout le temps : elle dit ce qui ressemble le plus à ce qu'elle a déjà vu. Souvent elle a raison ! Mais des fois, le truc qui ressemble n'est pas le vrai, comme un faux bonbon qui a l'air délicieux mais qui a un goût bizarre.
Elle invente
Quand elle ne sait pas, elle invente une histoire
Quand l'IA ne connaît pas la réponse, elle ne dit pas toujours « je sais pas ». Des fois elle invente, un peu comme un copain qui raconte une histoire pour ne pas avoir l'air bête. Ça a l'air vrai… mais c'est inventé ! Du coup il faut faire attention.
Le gros sourire
Elle peut se tromper avec un grand sourire
Tu connais quelqu'un qui dit une bêtise mais avec plein de confiance, comme s'il était sûr ? L'IA fait pareil : elle répond toujours d'un ton sûr d'elle, même quand c'est faux. Donc ce n'est pas parce qu'elle a l'air sûre qu'elle a raison !
On vérifie
On l'aide et on vérifie comme un détective
Pour qu'elle se trompe moins, on lui donne des vrais livres à lire avant de répondre, et on lui demande de dire où elle a trouvé l'info. Et toi, fais comme un détective : vérifie toujours les choses importantes, surtout les dates, les chiffres et les noms !
Sous le capot
Probable ≠ vrai
L'IA vise la réponse la plus probable, pas la plus exacte
Quand tu tapes un message, l'IA calcule la suite de mots la plus probable d'après tout ce qu'elle a lu sur Internet. C'est un peu comme l'autocomplétion de ton clavier, mais en bien plus puissant. Le souci : « le plus probable » et « le vrai » se ressemblent souvent, mais pas toujours, surtout sur un fait précis comme une date ou un score de match.
Hallucination
Quand elle ne sait pas, elle invente un truc crédible
Si l'IA n'a pas l'info, elle ne dit pas toujours « je sais pas » : elle remplit le trou avec quelque chose qui a l'air vrai. On appelle ça une « hallucination » (terme officiel). Exemple : elle peut te citer un livre, une stat ou un youtubeur qui n'existe pas, le tout très bien formulé. Le problème, c'est que ça passe inaperçu tellement c'est bien écrit.
Confiant ≠ correct
Le ton sûr de lui ne prouve rien
Un pote peut te répondre à fond en mode « je suis sûr à 100 % » et avoir tort quand même. L'IA, c'est pareil : elle écrit toujours d'un ton assuré, même quand elle se plante. Ce qu'on appelle « confidently wrong » (sûr de lui et faux). Donc l'assurance d'une réponse n'est jamais une preuve qu'elle est juste.
Limiter la casse
Sources, garde-fous et vérif
Pour réduire les erreurs, on branche l'IA sur de vrais documents (technique appelée RAG : elle va lire une source fiable avant de répondre), on lui demande de citer ses sources, on fait valider les choses importantes par un humain, et on teste sa fiabilité avec des évaluations. De ton côté : recoupe toujours les infos importantes ailleurs.
Sous le capot : les briques techniques
Plausible ≠ vrai
Le modèle vise la cohérence, pas la vérité
Il choisit la suite la plus probable selon ce qu'il a appris. Souvent ça coïncide avec la vérité… mais pas toujours, surtout sur des faits précis.
Hallucination
Combler les trous de façon crédible
Quand l'info manque, le modèle ne s'arrête pas forcément : il produit quelque chose de vraisemblable. C'est une « hallucination », difficile à repérer car bien formulée.
Sur-aplomb
Le ton n'est pas une mesure de certitude
Une IA peut être très assurée et fausse. Le style confiant trompe l'œil : il ne dit rien de la fiabilité réelle de la réponse.
Réduire le risque
Sources, garde-fous, vérification
On ancre la réponse sur des documents (RAG), on demande des citations, on valide les actions sensibles, et on mesure la fiabilité par des évaluations.
Les questions que tu te poses peut-être
- Est-ce que l'IA fait exprès de se tromper ?
- Non, elle ne fait pas exprès. Elle choisit la réponse qui ressemble le plus à ce qu'elle a appris. Des fois ça tombe juste, des fois non.
- Est-ce qu'elle peut se tromper ?
- Oui, comme toi et moi ! Même quand elle parle bien et qu'elle a l'air sûre, elle peut dire une bêtise. C'est pour ça qu'on vérifie.
- Alors je ne dois jamais la croire ?
- Si, souvent elle aide bien. Mais pour les choses importantes, comme une date ou un nom, demande à un grand de vérifier avec toi.
Questions fréquentes
- C'est quoi une « hallucination » de l'IA ?
- Une réponse crédible mais inventée, que le modèle produit quand il n'a pas la bonne information.
- Pourquoi se trompe-t-elle avec assurance ?
- Parce qu'elle optimise un texte qui « sonne juste », pas sa véracité. Le ton confiant ne reflète pas sa certitude.
- Comment réduire ses erreurs ?
- En lui donnant des sources (RAG), en demandant des citations, et en vérifiant soi-même les faits importants.
- Peut-on lui faire totalement confiance un jour ?
- Non. On peut réduire fortement le risque, mais pas le supprimer : la vérification reste nécessaire.
Pour continuer
-
Lis l'histoire en BD, c'est plus rigoloCette notion existe aussi en BDCette notion existe aussi en BD IA, champion des réponses (fausses) - Fiche à suivre Vérifier une réponse d'IA Pour acquérir les bons réflexes de vérification.
- Fiche à suivre C'est quoi l'IA ? Pour revoir pourquoi elle prédit au lieu de savoir.
- Fiche à suivre RAG expliqué simplement Pour ancrer les réponses sur de vraies sources (Niveau 2).
SourcesSourcesSources vérifiées