Comprendre avant de mémoriser

Quand l'IA écrit, elle ne pense pas à ce qu'elle va dire : elle prédit juste le prochain « morceau » de texte (un mot ou un bout de mot, qu'on appelle un token), puis le suivant, et ainsi de suite. Pour bien choisir, elle relit tout ce qui précède et décide quels mots comptent le plus à cet instant : c'est le mécanisme d'« attention », le cœur d'une architecture appelée Transformer, qui regarde toute la phrase d'un coup au lieu de la lire de gauche à droite. À force d'avoir vu des montagnes de textes, elle a appris quelles suites de mots sont les plus probables, et elle rejoue cette intuition à chaque pas. C'est puissant parce que prédire le mot suivant l'oblige, sans qu'on le lui demande, à apprendre la grammaire, le sens, le style et des tonnes de connaissances. Mais c'est aussi sa faiblesse : elle cherche ce qui « sonne juste » et probable, pas ce qui est vrai, et rien ne vérifie un fait au passage. Quand elle ne sait pas, elle comble quand même le trou avec la suite la plus plausible : c'est ça, une « hallucination ».

• Attention Is All You Need (Vaswani et al., 2017) : le papier fondateur du Transformer
• Pourquoi les modèles de langage hallucinent : OpenAI
• Evaluating large language models for accuracy incentivizes hallucinations : Nature

Au départ, l'IA affiche un fouillis de points aléatoires, comme la « neige » d'une vieille télé sans signal. Pendant son entraînement, on lui a montré des millions d'images qu'on a peu à peu noyées sous ce grain, et elle a appris à faire l'inverse : retirer un peu de bruit à chaque fois. Pour générer une image, elle répète donc ce nettoyage des dizaines de fois ; à chaque étape elle devine « si je gomme un peu de grain, qu'est-ce qui se cache là-dessous ? », et une forme se précise pas à pas. Votre texte (le prompt) sert de boussole : à chaque coup de gomme, l'IA compare ce qu'elle voit avec vos mots et oriente le débruitage vers « un chat roux » plutôt que vers autre chose. Pour aller vite, elle ne travaille pas sur les millions de pixels finaux mais sur une version compressée et résumée de l'image, un brouillon interne appelé espace latent, qu'un dernier module traduit en image nette. Les mains ratent souvent parce qu'elles sont petites, rares et tordues dans tous les sens sur les photos d'entraînement : l'IA a vu des doigts mais n'a jamais compris qu'une main en a exactement cinq.

• Diffusion model : Wikipedia (processus forward/reverse, débruitage)
• Latent Diffusion Model : Wikipedia (espace latent, Stable Diffusion)

L'IA part d'un écran rempli de grésillement aléatoire, comme une vieille télé sans antenne, et le nettoie petit à petit jusqu'à révéler l'image demandée : c'est ce qu'on appelle la diffusion. Pour une vidéo, le défi en plus est le temps : il ne suffit pas de faire une belle image, il faut que toutes les images de la séquence s'enchaînent sans que les objets se déforment ou changent de couleur d'un instant à l'autre. Pour y arriver, des modèles comme Sora (OpenAI) ou Veo (Google) ne traitent pas chaque image isolément : ils découpent la vidéo en petits cubes d'« espace-temps » et les génèrent ensemble, en regardant à la fois ce qui se passe à côté et juste avant et après. C'est cette vision globale qui donne la cohérence : un chien reste le même chien quand il court, et une ombre bouge logiquement. Le revers, c'est le coût : une seule seconde de vidéo contient des dizaines d'images, chacune nettoyée des dizaines de fois, ce qui demande une puissance de calcul colossale. Voilà pourquoi quelques secondes de vidéo IA peuvent coûter autant que des centaines d'images fixes et tournent sur des fermes de processeurs graphiques très chers.

• OpenAI : Video generation models as world simulators (page technique officielle Sora)
• LearnOpenCV : Video Generation: from VDM to Veo 2 and Sora (explication diffusion + temps)
• The Decoder : Google DeepMind reveals Veo pricing (coût de calcul réel)

La voix par l'IA, ce sont deux trajets opposés. Pour COMPRENDRE (on dit « speech-to-text »), un modèle comme Whisper d'OpenAI transforme le son en une sorte d'image des fréquences (un « spectrogramme »), puis devine mot après mot ce qui a été dit ; il a appris en écoutant 680 000 heures d'audio aspirées sur le web. Pour PARLER (« text-to-speech »), c'est l'inverse : l'IA fabrique d'abord cette image-son à partir du texte, puis un « vocodeur neuronal » (comme WaveNet) la retransforme en vraie onde sonore, avec un timbre naturel. Le clonage vocal ajoute une touche : on montre au modèle un court extrait d'une voix réelle, et il apprend à appliquer ce timbre à n'importe quelle phrase. C'est ce dernier point qui crée le danger : quelques secondes suffisent à imiter quelqu'un, et des escrocs s'en servent pour appeler en se faisant passer pour un proche en détresse, une fraude qui a explosé ces dernières années.

• OpenAI : Introducing Whisper (modèle de reconnaissance vocale, 680 000 h d'audio)
• FTC : Fighting back against harmful voice cloning (alerte officielle sur les arnaques au clonage de voix)
• Neural Vocoder : Data-Driven Audio Synthesis (WaveNet, spectrogramme vers onde sonore)

Un grand modèle de langage (LLM), c'est une IA qui a appris à manier le langage en lisant d'énormes quantités de textes. Quatre choses les séparent vraiment. D'abord la taille : on la mesure en "paramètres", les milliards de petits réglages internes du modèle ; plus il y en a, plus il peut retenir de nuances, mais ce qui compte aussi c'est la qualité des données lues, pas seulement leur quantité. Ensuite l'architecture : un modèle "dense" fait travailler tous ses paramètres à chaque mot, tandis qu'un modèle "Mixture-of-Experts" n'allume qu'une poignée de spécialistes selon la question, ce qui le rend plus rapide et moins coûteux à capacité égale. Vient la fenêtre de contexte : la quantité de texte que le modèle peut "garder sous les yeux" en même temps (mesurée en tokens, des petits morceaux de mots) ; plus elle est large, plus il peut lire un long document sans en oublier le début. Enfin, certains sont des modèles de "raisonnement" : avant de répondre, ils réfléchissent étape par étape en interne, ce qui les rend bien meilleurs en maths, en code et en logique, mais plus lents et plus chers. Résultat : il n'existe pas de "meilleur" modèle dans l'absolu, seulement le mieux adapté à votre usage.

• Context window : Wikipedia
• What is Mixture-of-Experts (MoE), and how does it differ from a dense LLM? : Sebastian Raschka
• Applying Mixture of Experts in LLM Architectures : NVIDIA Technical Blog

Un modèle d'IA classique répond du tac au tac : il crache le premier enchaînement de mots qui lui semble probable, sans s'arrêter. Les modèles dits « de raisonnement » (comme o1 et o3 d'OpenAI, ou DeepSeek-R1) font autre chose : avant de te donner leur réponse finale, ils écrivent pour eux-mêmes une longue suite d'étapes, un brouillon de pensée appelé « chaîne de raisonnement ». Ils posent le problème, testent une piste, se corrigent, vérifient, et ce n'est qu'ensuite qu'ils répondent. Ce brouillon est en grande partie caché, mais c'est lui qui fait la différence : sur les maths, le code ou la logique, ces modèles sont nettement plus justes. La contrepartie est réelle : « penser » prend du temps et coûte cher, car chaque étape de réflexion est du texte généré qu'il faut produire et facturer. Du coup on les réserve aux questions difficiles, et on garde les modèles rapides pour les tâches simples.

• OpenAI : Learning to reason with LLMs (o1)
• OpenAI API : Guide des modèles de raisonnement (reasoning tokens)
• DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via RL (Nature / arXiv 2501.12948)