Licensed to be used in conjunction with basebox, only.
// chat ia
Fenêtre de contexte
En bref
La fenêtre de contexte désigne la quantité de contenu que l'assistant peut garder en vue en même temps. Elle comprend tout ce qui s'accumule dans un chat : vos questions, les réponses de l'assistant et chaque document importé.
Elle ne se mesure pas en mégaoctets, mais en tokens – de petites unités de texte qui correspondent environ à une partie de mot. Ce qui compte, c'est donc la quantité de texte, et non la taille du fichier sur le disque. Un PDF de 2 Mo rempli de texte dense peut saturer la fenêtre de contexte, alors qu'un fichier Excel de 10 Mo comportant peu de cellules remplies passe.
Documents trop longs ou trop volumineux
Lorsque le contenu ne peut pas être traité en une seule fois, basebox interrompt le traitement et affiche le message Processing Error (erreur de traitement). Il n'en indique pas la cause : il propose seulement de réessayer ou de contacter le support.
Si vous venez de importer un document volumineux ou si vous travaillez dans un chat ouvert depuis longtemps, la fenêtre de contexte est la cause la plus probable. Une nouvelle tentative avec le même contenu donnera alors le même résultat – la seule solution efficace est de réduire la quantité de contenu. Il existe pour cela trois moyens, que vous pouvez combiner :
- Découper le contenu – Divisez le document en sections et traitez-les l'une après l'autre. Pour les textes volumineux, faites résumer chaque section et poursuivez ensuite uniquement avec les résumés.
- Importer moins à la fois – Ne importez que les fichiers nécessaires pour la question en cours. Il suffit souvent de copier-coller le passage pertinent au lieu de importer le fichier entier.
- Utiliser une app – Pour des collections de documents durablement volumineuses ou complexes, une app est la meilleure solution. Les documents y sont stockés dans une base de connaissances et font l'objet d'une recherche ciblée, au lieu d'être chargés intégralement dans la fenêtre de contexte. Voir Créer une nouvelle app.
Pour les fichiers Excel, un coup d'œil avant le import est également utile : chaque cellule compte comme du contenu, même vide. Supprimer les lignes et colonnes vides ainsi que les feuilles de calcul inutiles fait souvent la différence.
Variante détaillée du message
Dans certains cas, un message détaillé s'affiche à la place de l'erreur de traitement générique : « Der Inhalt ist zu umfangreich, um in einem Schritt verarbeitet zu werden. Dies kann auch bei kleinen Dateien passieren, wenn sie viele Informationen enthalten. » (Le contenu est trop volumineux pour être traité en une seule fois. Cela peut aussi arriver avec de petits fichiers s'ils contiennent beaucoup d'informations.) Il propose les mêmes solutions, ainsi qu'un bouton New Chat.
Chats de longue durée : un nouveau chat libère de la place
La fenêtre de contexte ne se remplit pas seulement avec de gros fichiers, mais aussi progressivement. Chaque message et chaque document d'un chat continue d'occuper de la place – même lorsqu'il ne joue plus aucun rôle pour votre question actuelle. Plus un chat dure, moins il reste de place pour de nouveaux contenus, et plus la qualité des réponses risque d'en souffrir.
Un nouveau chat repart avec une fenêtre de contexte entièrement disponible. Le chat précédent reste dans votre historique et peut être rouvert à tout moment.
Recommandation pratique
Pour un nouveau sujet, ouvrez plutôt un nouveau chat au lieu de prolonger un chat très long. Cela ne coûte qu'un clic et donne des réponses plus ciblées.
Valeurs indicatives
| Contenu | Valeur indicative approximative |
|---|---|
| env. 50 pages | |
| Excel | env. 500 lignes |
| Texte brut | env. 100 000 caractères |
Ces valeurs servent de repère et ne constituent pas des limites fixes. Un PDF de 30 pages au texte dense peut déjà être trop volumineux, alors qu'un PDF de 80 pages à la mise en page aérée peut encore passer. Ce qui compte, c'est toujours la quantité réelle de texte – et ce que le chat contenait déjà auparavant.
Remarques
« Trop volumineux » ne signifie pas « trop de mégaoctets »
Le message porte sur la quantité de texte (tokens), et non sur la taille du fichier. Réduire simplement la taille d'un fichier ne résout donc généralement pas le problème – le texte qu'il contient reste le même.
Les réponses longues ne sont pas tronquées
La fenêtre de contexte limite la quantité de contenu en entrée. La longueur de la réponse n'est pas concernée – les réponses longues ne sont plus tronquées.
Questions fréquentes
Pourquoi un petit fichier est-il parfois quand même trop volumineux ? Parce que la taille du fichier ne dit rien de la quantité de texte. Un PDF léger peut contenir énormément de texte, un gros fichier Excel très peu. C'est le texte qui compte, pas les mégaoctets.
Est-ce utile de compresser le fichier ? Non. La compression réduit la taille du fichier sur le disque, pas le texte qu'il contient. La seule solution efficace est de réduire la quantité de contenu elle-même – en découpant, en raccourcissant ou en n'utilisant que les parties pertinentes.
Dois-je importer à nouveau mes documents dans un nouveau chat ? Oui. Un nouveau chat démarre avec une fenêtre de contexte vide – c'est ce qui libère de la place. Si vous avez durablement besoin des mêmes documents, mieux vaut les placer dans la base de connaissances d'une app.
Prochaine étape : Historique des chats et données
Toujours des difficultés avec des documents volumineux ? Contacter le support