Tokens et contexte : pourquoi l’IA oublie un détail ?

Ce que ça veut dire

Un token est un fragment utilisé par le modèle pour traiter le texte. Il peut correspondre à une portion de mot, à un signe ou à un autre élément selon le système. Il n’existe pas de conversion universelle entre longueur en mots et quantité de tokens. La langue, les tableaux et les formes inhabituelles peuvent modifier le découpage.

La fenêtre de contexte représente la capacité de travail disponible pour une requête. Les instructions, les messages, les documents transmis et les résultats des outils prennent de la place. Il faut également prévoir celle de la réponse. Le contexte effectivement disponible peut donc différer de ce que vous voyez à l’écran.

Quand un échange s’allonge, le service peut résumer des passages, sélectionner des extraits ou écarter d’anciens éléments. Selon son fonctionnement, un fichier ajouté peut aussi être interrogé par recherche plutôt qu’introduit intégralement dans le contexte. La documentation officielle de Claude sur le contexte illustre cette gestion ; les capacités précises dépendent du modèle et du service.

Un exemple concret

Imaginons un dossier public sur l’organisation d’un festival associatif. Il réunit les conditions d’accueil, les responsabilités des bénévoles et les règles d’accès aux locaux. Vous demandez une note pratique. L’assistant restitue les grandes lignes mais oublie une exception concernant une salle. Le texte semble complet parce qu’il couvre tous les grands titres.

Reprendre tout le dossier avec une demande plus insistante ne permet pas de savoir où le problème se situe. Cherchez d’abord si le passage concerné était lisible, correctement extrait et bien associé au bon sujet. Un tableau mal extrait ou une annexe isolée peut expliquer une omission sans que la conversation ait atteint une limite de capacité.

Découpez le dossier selon ses rubriques naturelles. Conservez pour chaque extrait son titre, sa provenance et les passages qui limitent la règle générale. Demandez une synthèse locale avant de réunir les résultats. La fiche pour résumer un document non confidentiel avec ChatGPT fournit un point de départ pratique, à adapter au service autorisé que vous utilisez.

Découper sans perdre les liens entre les passages

Un découpage arbitraire peut séparer une règle de son exception. Préférez des unités qui gardent ensemble définition, conditions et restrictions. Lorsqu’un passage dépend d’une annexe, indiquez cette dépendance. Une synthèse locale doit conserver les éléments encore incertains au lieu de les combler avec une supposition.

Préparez une consigne stable : objectif, public, format attendu, informations interdites et obligation de signaler les données manquantes. Le modèle de prompt est cette structure réutilisable, que vous adaptez au contenu. Vous pouvez vous aider de la fiche pour créer une consigne réutilisable pour un assistant IA.

Au moment d’assembler les synthèses, gardez une table de correspondance entre chaque affirmation importante et son passage source. Relisez les raccords : des décisions valables séparément peuvent devenir contradictoires lorsqu’elles sont réunies. Si la synthèse finale ne permet plus de retrouver une restriction, revenez à l’extrait concerné avant de poursuivre.

Tester la conservation des contraintes

Écrivez vos contraintes dans une note séparée avant de lancer la tâche. Choisissez celles dont la perte changerait réellement le résultat : ne pas annoncer une décision provisoire comme définitive, conserver une condition d’accès, signaler une information absente. Après chaque étape, vérifiez ces points dans le résultat, même si l’assistant affirme les avoir respectés.

Introduisez ensuite une variante du dossier avec une exception clairement identifiable. Le résultat doit refléter cette modification sans changer le reste arbitrairement. Cette comparaison teste une capacité concrète : conserver une contrainte dans un ensemble de documents. Elle ne mesure pas une intelligence générale et ne certifie pas tous les futurs dossiers.

La mémoire d’un assistant IA relève encore d’un autre mécanisme : certaines informations peuvent être enregistrées pour de futurs échanges. Elle ne remplace ni le contexte de travail ni votre dossier de référence. Pour une tâche importante, fournissez les éléments nécessaires et contrôlez leur traitement au lieu de supposer que l’assistant s’en souvient.

Pour aller plus loin

Préparer le contexte rend les erreurs plus faciles à repérer. La prochaine leçon transforme ces observations en tests comparables, capables de distinguer une omission occasionnelle d’un problème récurrent.