Tokens et fenêtre de contexte : comment une IA découpe et retient le texte

En une phrase : Un modèle de langage ne lit pas des mots mais des tokens, des morceaux de texte d'un caractère à un mot entier ; sa fenêtre de contexte est le nombre maximal de tokens qu'il peut prendre en compte d'un coup, et c'est aussi l'unité dans laquelle se comptent les prix et les quotas.

Quand tu parles à un assistant comme ChatGPT, Claude ou Gemini, ton texte est d'abord découpé en petits morceaux appelés tokens. Ce découpage explique pourquoi les tarifs des API s'affichent « par million de tokens », pourquoi une conversation trop longue finit par « oublier » son début, et pourquoi coller un document entier dans la conversation n'est pas toujours une bonne idée. Les définitions courtes sont dans le glossaire : token et fenêtre de contexte.

Ce qu'est un token

Un modèle de langage travaille sur des nombres, pas sur des lettres. Avant tout calcul, un programme appelé tokeniseur découpe le texte en unités (les tokens) et attribue à chacune un numéro tiré d'un vocabulaire fixe. Le modèle lit cette suite de numéros et produit sa réponse token par token, que le tokeniseur retransforme ensuite en texte.

La documentation de l'API Gemini de Google (fiche Alphabet), mise à jour le 13 octobre 2026, le résume ainsi : un token peut être un seul caractère comme « z » ou un mot entier comme « cat », et les mots longs sont découpés en plusieurs tokens.

Combien de mots pour un token ?

Il n'y a pas de règle universelle : chaque éditeur a son propre tokeniseur. Les ordres de grandeur publiés valent pour l'anglais. Selon la même page de Google, pour les modèles Gemini, un token équivaut à environ 4 caractères, et 100 tokens correspondent à environ 60 à 80 mots anglais.

Côté OpenAI (sa fiche), la page de présentation de tiktoken, le tokeniseur que l'entreprise publie sur GitHub pour ses modèles, indique qu'en moyenne chaque token correspond à environ 4 octets. Elle explique aussi la méthode utilisée, appelée BPE (« byte pair encoding », codage par paires d'octets) : le découpage est réversible et sans perte, il fonctionne sur n'importe quel texte, même absent des données qui ont servi à construire le tokeniseur, et il cherche à faire apparaître les fragments de mots fréquents, comme « ing » en anglais.

Aucune des sources consultées ne donne de ratio pour le français. Rien ne garantit donc qu'une phrase en français compte autant de tokens que sa traduction anglaise : le plus sûr est de compter avec l'outil de l'éditeur concerné.

Pas seulement du texte

Les modèles multimodaux, qui acceptent des images, du son ou de la vidéo, convertissent aussi ces contenus en tokens. La documentation Gemini précise ainsi qu'une image de 384 pixels ou moins dans les deux dimensions compte pour 258 tokens, et que l'audio est compté à 32 tokens par seconde.

La fenêtre de contexte : la mémoire de travail du modèle

La fenêtre de contexte est la quantité maximale de tokens qu'un modèle peut prendre en compte en une seule fois. Anthropic (sa fiche) la décrit dans sa documentation comme « tout le texte auquel un modèle de langage peut se référer en générant une réponse, y compris la réponse elle-même », une « mémoire de travail » distincte de l'immense corpus qui a servi à l'entraîner (traduction Le Latent).

Concrètement, tout ce qui est envoyé au modèle à chaque tour occupe cette fenêtre : les instructions système de l'application, tout l'historique de la conversation, les documents et images joints, les résultats d'outils et la réponse en cours de rédaction. Selon la même page d'Anthropic, les tokens de « réflexion » des modèles de raisonnement comptent aussi dans la fenêtre. À chaque nouveau message, l'historique entier est renvoyé : une longue conversation remplit donc la fenêtre peu à peu.

Quelle taille, selon les éditeurs ?

Les tailles annoncées changent vite ; voici ce qu'affichaient deux documentations officielles le 31 octobre 2026.

• Anthropic : selon sa page sur les fenêtres de contexte, Claude Opus 5.5 et Claude Sonnet 5.5, entre autres, ont une fenêtre de 1 million de tokens, et une seule requête peut produire jusqu'à 128 000 tokens de sortie. D'autres modèles, dont Claude Sonnet 4.5, ont une fenêtre de 200 000 tokens.
• Google : selon sa page sur les tokens, les modèles Gemini 4 (gemini-4-argon) partagent une seule fenêtre de 1 048 576 tokens entre l'entrée, la réflexion et la sortie, tandis que les modèles Gemini 3 et 2.5 ont des budgets séparés : 1 048 576 tokens en entrée et 65 536 tokens en sortie.

Ces chiffres valent pour l'API, l'accès destiné aux développeurs. Les applications grand public peuvent gérer la fenêtre autrement : Anthropic note que des interfaces de discussion comme claude.ai peuvent gérer la fenêtre selon le principe « premier entré, premier sorti », c'est-à-dire en faisant sortir les messages les plus anciens.

Que se passe-t-il quand elle est pleine ?

Côté API, la documentation d'Anthropic indique que si l'entrée dépasse à elle seule la fenêtre du modèle, la requête est refusée avec une erreur « prompt is too long » (requête trop longue). Pour les conversations qui s'allongent, l'éditeur propose une « compaction » qui résume automatiquement les parties anciennes de l'échange pour continuer au-delà de la limite. Un résumé perd forcément des détails : c'est une des raisons pour lesquelles un assistant peut sembler avoir oublié une consigne donnée au début.

Pourquoi les prix et les quotas se comptent en tokens

Le travail d'un modèle se mesure en tokens lus et écrits. Les éditeurs facturent donc l'accès à leurs API au token, en distinguant presque toujours les tokens d'entrée (ce que tu envoies) et les tokens de sortie (ce que le modèle génère).

Selon la page de tarifs d'Anthropic, consultée le 31 octobre 2026, où tous les prix sont en dollars américains : Claude Sonnet 5.5 coûte 2 dollars par million de tokens d'entrée et 10 dollars par million de tokens de sortie. Ces prix ont été lus par un outil de consultation qui sort par une adresse IP située aux États-Unis ; ils peuvent différer de ce qu'affiche la page depuis la France, et ils ne disent rien des abonnements grand public, qui se paient au mois. La même page montre que la taille de la requête peut changer le tarif : pour Claude Haiku 5.5, une requête dont le prompt dépasse 100 000 tokens est facturée plus cher.

Les quotas suivent la même logique. Selon la documentation des limites d'usage d'Anthropic, l'API limite le nombre de requêtes par minute, mais aussi le nombre de tokens d'entrée et de sortie par minute. Un long document joint à chaque message consomme donc à la fois de la fenêtre, du budget et du quota.

Les limites : plus de contexte n'est pas mieux compris

Une grande fenêtre ne garantit pas que le modèle utilise bien tout ce qu'elle contient. Anthropic l'écrit dans sa documentation : « plus de contexte n'est pas automatiquement mieux », et à mesure que le nombre de tokens augmente, la précision et la capacité à retrouver une information se dégradent, un phénomène que l'éditeur appelle « context rot » (pourrissement du contexte) (traduction Le Latent).

« Perdu au milieu »

Le phénomène a été décrit dans un article scientifique devenu une référence, « Lost in the Middle: How Language Models Use Long Contexts », de Nelson F. Liu et six coauteurs, déposé sur arXiv le 6 juillet 2023 et accepté par la revue TACL. Les auteurs ont testé des modèles sur deux tâches : répondre à une question à partir de plusieurs documents, et retrouver une valeur associée à une clé dans une longue liste.

Leur constat, dans le résumé de l'article : les performances « peuvent se dégrader nettement quand on change la position de l'information pertinente ». Elles sont souvent meilleures quand l'information se trouve au début ou à la fin du contexte, et chutent quand le modèle doit aller la chercher au milieu, « même pour des modèles explicitement conçus pour les contextes longs » (traductions Le Latent). L'étude porte sur les modèles de 2023 ; les modèles actuels ont progressé, mais la documentation d'Anthropic citée plus haut montre que la dégradation avec la longueur reste reconnue par les éditeurs eux-mêmes.

Ce que ça change pour toi

• Mets l'essentiel au début ou à la fin. Si tu colles un long texte, place ta question et tes consignes importantes avant ou après, pas noyées au milieu : c'est la leçon directe de l'étude de Liu et ses coauteurs.
• Recommence une conversation quand le sujet change. Une discussion très longue remplit la fenêtre et peut être résumée ou tronquée par l'application : une nouvelle conversation repart d'un contexte propre.
• N'envoie que ce qui sert. Chaque document joint occupe de la place, et la documentation d'Anthropic rappelle que la qualité de ce que contient la fenêtre compte autant que sa taille. La technique du RAG, qui va chercher seulement les passages utiles, répond à ce problème.
• Vérifie ce qui compte. Un modèle qui a « perdu » une information au milieu d'un long document peut combler le vide par une hallucination.

Pour suivre les nouveaux modèles et leurs fenêtres annoncées, voir la rubrique Modèles ; pour d'autres explications de base, le hub Comprendre.

Pour la suite : comment le RAG choisit ce qui entre dans la fenêtre de contexte, et pourquoi un modèle de raisonnement consomme beaucoup plus de tokens.