Compresser ses conversations IA sans perdre le fil
Votre chatbot discute avec des visiteurs, et plus la conversation s'allonge, plus elle coûte cher : à chaque réponse, vous réinjectez tout l'historique. Couper au hasard ne marche pas mieux, vous perdez justement les faits qui comptent : le métier du visiteur, son budget, les offres déjà discutées. Le chatbot repose des questions auxquelles on lui a déjà répondu.
Cette masterclass vous donne la méthode pour compresser une conversation sans en perdre le fil : un résumé structuré en trois blocs (FAITS, ÉTAT, TON), tenu sous cinq cents tokens, et mis à jour en fenêtre glissante au lieu d'être recalculé depuis zéro.
Ce que cet exercice ne peut pas casser
Tout se fait sur une feuille ou dans un document, à partir d'une conversation déjà passée. Vous ne touchez pas à votre chatbot, vous ne modifiez aucun système. Au pire, vous aurez résumé une vieille conversation pour rien : c'est l'exercice le moins risqué du monde.
Ce que vous saurez faire à la fin
- Résumer n'importe quelle conversation en trois blocs : des faits, un état, un ton.
- Mettre un résumé à jour avec les nouveaux messages, sans répéter et sans perdre les faits déjà acquis.
- Tenir une conversation longue sous une limite de tokens fixe, en coupant les détails secondaires, jamais les faits clés.
- Niveau membre· le prompt prêt à coller qui produit le résumé trois blocs et fusionne avec le résumé précédent.
On ne renvoie jamais tout l'historique : le dernier résumé suivi des nouveaux messages suffit, et le résultat remplace l'ancien.
Trois blocs, une fenêtre glissante, un résumé incrémental
L'idée tient en une exigence : conserver chaque fait utile et jeter le bavardage. Pour ça, on impose au résumé une structure fixe, une liste de faits prioritaires, une limite dure, et surtout une mécanique de mise à jour : on ne résume jamais tout depuis le début, on fait évoluer le résumé existant.
1Trois blocs, zéro prosedoute : « que garder, que jeter ? »
Le résumé suit toujours le même format, dans cet ordre exact. FAITS : la liste courte des informations concrètes données par le visiteur (métier, entreprise, problème, budget, objectif, offres discutées). ÉTAT : où en est la conversation, en une seule phrase (question en attente, offre proposée, objection soulevée). TON : un seul mot (curieux, pressé, sceptique, enthousiaste, neutre). Pas de phrases de liaison, pas de commentaire : un format fixe se relit en deux secondes et se réinjecte sans surprise.
2Les faits prioritaires, jamais inventésdoute : « et si je coupe la mauvaise information ? »
Quatre informations sont toujours conservées en priorité : le métier du visiteur, son problème principal, son budget, les offres déjà discutées. Si l'une d'elles est absente de la matière, on ne l'invente pas : le champ reste vide et l'absence est signalée. Un fait ambigu est signalé aussi, jamais supposé. C'est ce qui rend le résumé fiable : tout ce qui s'y trouve vient vraiment de la conversation.
3Une limite dure : cinq cents tokensdoute : « ça tiendra vraiment ? »
Le résumé entier ne dépasse jamais cinq cents tokens, soit environ deux mille caractères. C'est la garantie que le coût de réinjection reste constant, même après cinquante échanges. Quand ça risque de déborder, on coupe les détails secondaires, jamais les faits clés : un budget approximatif vaut mieux qu'une anecdote précise.
4La fenêtre glissantedoute : « je vais reperdre le début de la conversation ? »
Non, et c'est tout l'intérêt. Quand la conversation regrossit, on ne renvoie pas l'historique complet : on renvoie le dernier résumé suivi des nouveaux messages. Les deux fusionnent en un seul résumé combiné, sans répétition, qui remplace l'ancien. Tous les faits de l'ancien résumé qui ne sont pas contredits par les nouveaux messages sont conservés. Le résumé est donc incrémental : il vieillit bien, il reste à jour, et il reste sous la limite.
5Le branchement sur Haikudoute : « et si le résumé change à chaque exécution ? »
Pour automatiser, on branche le prompt sur Haiku avec la température à zéro : des résumés stables, reproductibles, au coût le plus bas. Le résultat se stocke à côté de la conversation. Reste à injecter ce résumé dans les réponses du chatbot : c'est le rôle du system prompt, détaillé dans Écrire le prompt qui fait vendre votre chatbot.
À vous de jouer : résumez une vraie conversation
Prenez une conversation longue que vous avez sous la main (export de chatbot, fil de messages, transcript d'échange) et une feuille. Cochez à mesure.
Le résultat, en 30 secondes
À partir de votre historique brut, le prompt rend uniquement ce bloc, sans introduction ni commentaire :
FAITS : coach sportif, trois ans d'activité, veut digitaliser son offre, budget cinq cents à mille euros. ÉTAT : a posé des questions sur le programme signature, pas encore convaincu par le prix. TON : sceptique.
Le prompt prêt à coller
# RÔLE Vous êtes un assistant spécialisé dans la compression de conversations longues pour un chatbot. Votre exigence : conserver chaque fait utile et jeter le bavardage. Vous ne vous appuyez QUE sur ce que je vous donne. Si une information manque, vous me la demandez, vous ne l'inventez jamais. Si un fait est ambigu, vous le signalez au lieu de le supposer. # CONTEXTE Je gère un chatbot qui discute avec des visiteurs. Les conversations s'allongent et coûtent cher à réinjecter en entier. Je veux les compresser sans perdre les faits utiles ni le fil de l'échange. Ma matière (si j'en ai) : [collez ici l'historique de conversation à résumer, ou le résumé précédent suivi des nouveaux messages]
Le prompt produit le résumé trois blocs d'un coup à partir de votre historique, fusionne avec le résumé précédent quand la conversation regrossit, et passe en mode interview si vous n'avez pas encore de matière. Laissez votre email, je vous l'envoie.
Vérifiez que c'est à vous
Votre chatbot a déjà un résumé de la conversation en cours, et le visiteur vient d'envoyer cinq nouveaux messages. Que renvoyez-vous au prompt de résumé ?
D'abord avec vos mots, sans regarder les options :
Expliquez-le pour l'ancrer
Expliquez en une phrase, à quelqu'un qui n'a jamais géré de chatbot : pourquoi renvoyer le dernier résumé plus les nouveaux messages, plutôt que toute la conversation ? Si vous savez le dire simplement, c'est acquis.
Ce que vous savez faire maintenant
- Structurer n'importe quel résumé de conversation en trois blocs : FAITS, ÉTAT, TON.
- Protéger les quatre faits prioritaires (métier, problème, budget, offres discutées) et signaler ce qui manque au lieu de l'inventer.
- Mettre un résumé à jour en fenêtre glissante : fusionner sans répéter, remplacer l'ancien, rester sous cinq cents tokens.
Conserver chaque fait utile et jeter le bavardage.
Continuez seul
Votre résumé existe. Reste à l'injecter dans les réponses de votre chatbot :
Écrire le prompt qui fait vendre votre chatbot →Faites-le avec moi
Je branche cette mécanique de résumé sur votre chatbot avec vous, sur vos vraies conversations, et on règle vos cas particuliers en direct.