Une devinettePour commencerCas d'ouverture
Réfléchis une secondeEssaie de répondrePosez votre intuition
Tu racontes une très longue histoire à la machine. Pourquoi oublie-t-elle le prénom du héros que tu as dit au début ?
Pense à ta réponse, même si tu n'es pas sûr. La suite te dira si tu avais vu juste.
Après 200 messages, le chatbot oublie que ton perso de RPG déteste les dragons. Bug, ou fonctionnement normal ?
Prends dix secondes pour répondre dans ta tête. Tu compareras avec la suite.
Vous collez un contrat de 60 pages, posez vingt questions, et l'assistant « oublie » une clause du début. Qu'est-ce qui a saturé ?
Formulez d'abord votre réponse, même approximative : la comparer à la suite fixe bien mieux les acquis.
Regarde ça bougerVois-le en actionLe concept en mouvement
Regarde ce qui « tombe du bureau » quand la fenêtre est pleine
Le modèle ne voit que ce qui tient dans sa fenêtre. Réduis-la et regarde un message ancien sortir : l'IA en oublie le contenu (même ton nom).
Elle se mesure en tokens et elle a une limite. Au-delà, on ne garde pas tout.
C'est comme un petit bureau : ce qui tient dessus, la machine le voit ; ce qui tombe par terre, elle l'oublie.
La fenêtre de contexte, c'est le bureau du modèle : ce qui tient dessus, il le voit ; ce qui tombe, il l'oublie.
La fenêtre de contexte, c'est le bureau du modèle : ce qui tient dessus, il le voit ; ce qui tombe par terre, il l'oublie.
Comment ça marcheComment ça marcheLa mécanique
Une étape à la foisLe mécanisme, étape par étapeLe mécanisme, étape par étape
Le petit bureau de la machine
La machine pose toutes tes phrases sur un petit bureau.
Tout ce qui tient sur le bureau, elle le voit et s'en sert.
Quand il y a trop de feuilles, les plus vieilles tombent par terre.
Ce qui est tombé, elle ne le voit plus : c'est oublié.
Le bureau de l'IA est petit
Ta question, l'historique du chat et les documents collés entrent tous dans la fenêtre.
Le modèle ne peut traiter que ce qui tient dans cette limite, mesurée en tokens (des morceaux de mots).
Quand ça déborde, les plus anciens messages sortent ou sont résumés.
À chaque réponse, le modèle relit seulement ce qui est dans la fenêtre, rien d'autre.
Ce que le modèle garde sous les yeux
Votre question, l'historique de la conversation et les documents fournis entrent tous dans la fenêtre de contexte.
Le modèle ne traite que ce qui tient dans cette limite, exprimée en tokens (le prompt système, l'historique, les documents et la réponse en cours comptent).
Au-delà de la limite, on tronque (souvent les éléments les plus anciens) ou on les résume.
À chaque appel, le modèle relit uniquement le contenu de la fenêtre, et rien d'autre.
Des exemples pour toiDes exemples concretsExemples concrets
Tu l'as déjà croiséOù tu le retrouvesOù vous le retrouvez en situation
Un exemple pour toi
C'est comme jouer à raconter une histoire à plusieurs. Au début tu dis « le héros s'appelle Léo ». Après plein, plein de phrases, ton copain ne se souvient plus du prénom : il y a eu trop de mots ! La machine, c'est pareil quand la discussion est très longue.
Tu racontes une très longue histoire : la machine oublie le début.
Tu lui donnes un livre entier d'un coup : il y a trop de feuilles, ça déborde.
Tu lui dis ton dessin préféré tout au début, mais après plein de bavardages, elle l'a oublié.
Cas concret
Tu lances un perso de RPG avec un chatbot et tu lui donnes plein de détails sur son histoire. Après 200 messages, il oublie que ton perso déteste les dragons. Pas un bug : le début de la conv est sorti de sa fenêtre. Astuce : redonne-lui un mini-résumé des points importants.
Après une très longue conversation, l'IA oublie ta première question.
Tu colles un cours de 40 pages d'un coup : ça dépasse, il faut le découper.
Pour ne pas tout perdre, on résume le début du chat afin de tenir dans la fenêtre.
Cas concret
Vous collez un contrat de 60 pages dans un assistant et vous lui demandez une synthèse, puis vous posez des questions de détail. Au fil de l'échange, il « oublie » une clause du début : le document plus l'historique ont saturé la fenêtre. La parade : découper le document, ou ne réinjecter que les passages utiles à chaque question.
Sur une longue conversation, l'assistant perd le fil des consignes données au début.
Coller un rapport entier dépasse la limite : il faut le découper ou n'injecter que les passages utiles.
On remplace l'historique par un résumé pour rester dans la fenêtre sans tout perdre.
Attention aux piègesÀ éviterÀ éviter
Ce qu'on croit, et ce qui est vraiIdées reçues et pièges à éviterIdées reçues et risques à anticiper
-
On croit que
On croit que la machine se rappelle de tout ce qu'on lui a dit.
En vrai
En vrai non : si c'est tombé du bureau, elle ne le voit plus.
-
On croit que
On croit que plus on lui parle, mieux c'est.
En vrai
En vrai, si on lui dit trop de choses, elle se mélange les pinceaux.
-
On croit que
On croit que sa tête se remplit petit à petit comme la nôtre.
En vrai
En vrai non : il faut tout lui redire à chaque fois.
Les pièges à retenir
- Si tu parles trop longtemps, elle oublie le début.
- Quand il y a trop de feuilles, elle peut se tromper.
- Elle ne garde rien toute seule : il faut lui redire.
-
On croit que
« L'IA se souvient de tout notre chat. »
En réalité
Pas vraiment : elle ne voit que ce qui tient dans sa fenêtre. Au-delà, les vieux messages sortent et sont oubliés.
-
On croit que
« Plus je donne de texte, meilleure est la réponse. »
En réalité
Pas toujours : un contexte trop long coûte plus cher, ralentit, et noie l'info importante.
-
On croit que
« La mémoire de l'IA grandit avec le temps. »
En réalité
Non : par défaut elle n'a pas de mémoire persistante, on lui redonne le contexte à chaque appel.
Les pièges à retenir
- Un long contexte coûte plus cher et ralentit la réponse.
- L'info vraiment utile peut se perdre au milieu d'un texte trop long.
- Sans outil dédié, le modèle n'a pas de mémoire d'un message à l'autre.
-
Idée reçue
« L'IA se souvient de toute notre conversation. »
Réalité
Pas vraiment : elle ne voit que ce qui tient dans sa fenêtre de contexte ; au-delà, les éléments anciens sortent et sont oubliés.
-
Idée reçue
« Plus le contexte est long, meilleure est la réponse. »
Réalité
Pas toujours : un contexte trop long coûte plus cher, ralentit, et peut diluer l'information utile.
-
Idée reçue
« Le modèle a une mémoire qui grandit avec le temps. »
Réalité
Non : par défaut il n'a pas de mémoire persistante, on lui renvoie le contexte à chaque appel.
Points de vigilance
- Plus de contexte coûte plus cher (on paie au token) et ralentit la réponse.
- L'information utile peut se perdre au milieu d'un contexte trop long.
- Le modèle n'a pas de mémoire entre deux requêtes par défaut : la vraie mémoire est gérée par le produit autour.
Ce que je retiensÀ retenirÀ retenir
L'essentiel, en quatre idéesL'essentiel, en quatre idéesL'essentiel, en quatre points
La phrase à garder
La machine ne voit que ce qui tient sur son petit bureau. Le reste, elle l'oublie.
- Un petit bureau Elle voit juste ce qui tient dessus.
- Ça tombe, c'est oublié Trop de feuilles, les vieilles tombent.
- Trop long, c'est pas mieux Quand il y a trop, elle se mélange.
- Elle ne retient pas toute seule Il faut tout lui redire à chaque fois.
La phrase à garder
La fenêtre de contexte, c'est tout ce que le modèle voit d'un coup : limité, compté en tokens, sans mémoire qui reste.
- Une limite en tokens La fenêtre = ce que le modèle voit en même temps.
- Ce qui sort est oublié Trop long → les vieux messages tombent.
- Long ≠ mieux Plus cher, plus lent, l'info utile se dilue.
- Pas de mémoire native On lui renvoie le contexte à chaque message.
Message clé
La fenêtre de contexte, c'est ce que le modèle peut regarder en même temps : limité, mesuré en tokens, et sans mémoire persistante par défaut.
- Une limite en tokens La fenêtre = ce que le modèle traite d'un seul coup.
- Ce qui sort est oublié Au-delà, on tronque les éléments les plus anciens.
- Long ≠ mieux Plus cher, plus lent, info clé diluée au milieu.
- Pas de mémoire native On renvoie le contexte à chaque requête.
Je m'entraîneJe valideÉvaluation
Je teste ce que j'ai comprisJe teste ce que j'ai comprisValidez vos acquis
Valider : La fenêtre de contexte
4 questions. Il faut 70 % de bonnes réponses pour maîtriser la fiche. Tu as le droit de te tromper et de réessayer.
Pour les curieuxPour aller plus loinPour aller plus loin
Si tu veux en savoir plusCreuser le sujetApprofondir et poursuivre
Sous le capot, pour les curieux
Petits bouts
Le bureau se compte en petits bouts de mots
L'IA découpe tout ce que tu écris en tout petits morceaux, comme des pièces de puzzle. Son bureau peut tenir un certain nombre de pièces, pas plus. Un très long texte, c'est plein de pièces d'un coup : ça remplit déjà presque tout le bureau !
Ça tombe
Quand le bureau est plein, des feuilles tombent
Si tu poses trop de feuilles sur le bureau, les plus vieilles tombent par terre. L'IA ne les voit plus, alors elle les oublie. C'est pour ça qu'elle a parfois l'air de ne plus se souvenir du début de votre discussion.
Trop, c'est trop
Un bureau trop chargé, c'est pas mieux
Tu pourrais croire que plus il y a de feuilles, mieux c'est. Mais non ! Avec trop de feuilles, l'IA met plus de temps, et la feuille importante se perd au milieu de toutes les autres. Comme chercher ton jouet préféré dans une chambre en bazar.
Tête de poisson
L'IA a une mémoire de poisson rouge
Toute seule, l'IA ne garde rien dans sa tête d'une fois à l'autre : elle oublie tout ! Pour qu'elle se souvienne de toi, on lui prépare un petit carnet et on lui relit au début. Le carnet, c'est l'appli qui le tient, pas l'IA.
Sous le capot
Tokens
La fenêtre se mesure en tokens, pas en mots
Avant de lire, le modèle découpe ton texte en tokens (des morceaux de mots, un peu comme des syllabes). La limite de la fenêtre porte sur ce total de tokens. Coller un gros PDF peut à lui seul remplir toute la place dispo.
Troncature
Trop plein ? On coupe ou on résume
Tronquer = couper. Quand la conversation dépasse la limite, le système enlève souvent les messages les plus anciens, ou les remplace par un résumé court. D'où l'impression que l'IA « oublie » ce que vous aviez dit au début du chat.
Coût & dilution
Plus long ne veut pas dire meilleur
Chaque token envoyé se paie et ralentit la réponse. Et l'info clé peut se diluer (se noyer) au milieu d'un texte trop long : c'est le « lost in the middle », perdu au milieu. Comme une consigne importante noyée dans un message de 10 pages.
Mémoire
Aucune mémoire persistante par défaut
« Persistant » = qui reste entre deux sessions. Le modèle ne garde rien tout seul : entre deux messages, il ne « voit » que le contexte qu'on lui renvoie. La vraie mémoire (tes préférences, l'historique) est gérée par l'appli autour, qui te re-sert ces infos au bon moment.
Sous le capot : les briques techniques
Tokens
La fenêtre se compte en tokens, pas en mots
Tout ce qu'on envoie (prompt, historique, documents) est tokenisé. La limite porte sur ce total : un long document peut à lui seul remplir la fenêtre.
Troncature
Au-delà de la limite, on coupe ou on résume
Quand ça dépasse, on retire souvent les messages les plus anciens, ou on les remplace par un résumé. D'où la sensation que l'assistant « oublie ».
Coût & dilution
Plus long n'est pas toujours mieux
Un grand contexte coûte plus cher (on paie au token) et peut diluer l'information clé au milieu d'un texte trop long.
Mémoire
Pas de mémoire persistante par défaut
Entre deux messages, le modèle ne garde rien tout seul : ce qu'il « retient » est le contexte qu'on lui renvoie. La vraie mémoire est gérée par le produit autour.
Les questions que tu te poses peut-être
- Est-ce que la machine se souvient de moi ?
- Non, pas comme un copain. Quand tu fermes et tu reviens, elle ne se rappelle plus de toi. C'est comme si elle avait rangé son bureau tout propre.
- Pourquoi elle oublie ce que j'ai dit au début ?
- Parce que vous avez parlé trop longtemps ! Le début est tombé de son petit bureau. Si tu veux qu'elle s'en souvienne, redis-le-lui, tout simplement.
- Est-ce qu'elle peut se tromper ?
- Oui, ça arrive ! Surtout quand elle a oublié un bout. Alors tu peux lui rappeler, comme tu rappellerais la règle d'un jeu à un copain.
Questions fréquentes
- C'est quoi la fenêtre de contexte ?
- La quantité de texte (en tokens) qu'un modèle peut regarder en même temps : ta question, l'historique et les documents fournis.
- Pourquoi l'assistant « oublie » parfois ?
- Parce que la conversation a dépassé la fenêtre : les messages les plus anciens en sont sortis et il ne les voit plus.
- Un grand contexte est-il toujours mieux ?
- Non. Il coûte plus cher, ralentit la réponse, et l'info utile peut se perdre dans un texte trop long.
- Le modèle a-t-il une mémoire ?
- Pas par défaut. Ce qu'il « retient » entre deux messages, c'est le contexte qu'on lui renvoie ; la vraie mémoire est gérée par le produit.
Pour continuer
-
Lis l'histoire en BD, c'est plus rigoloCette notion existe aussi en BDCette notion existe aussi en BD IA oublie en route - Fiche à suivre Tokens et grands modèles de langage Parce que la fenêtre se compte en tokens.
- Fiche à suivre RAG expliqué simplement Pour n'injecter dans la fenêtre que les passages utiles.
- Fiche à suivre Latence, coût et cache Parce qu'un long contexte pèse sur la vitesse et la facture (Niveau 3).
SourcesSourcesSources vérifiées