Je voulais faire avancer le travail pendant la nuit. Pas voir mon quota fondre au réveil.
La délégation contre le « mode fainéant »
Mon assistant IA a une fâcheuse tendance : quand la tâche est longue, il en fait une partie et s’arrête. Le « mode fainéant », comme je l’appelle. Ma parade : la délégation. Il découpe le travail en missions, et un Raspberry Pi les exécute la nuit pendant que je dors. Comme préparer les dossiers du lendemain pour un collègue.
Premier effet, plutôt bon. J’en profite pour alléger les règles qu’il lit au démarrage : la liste de ses outils n’est plus chargée d’office, seulement quand il en cherche un. Résultat mesuré sur le Pi : le premier appel passe de 230 000 à 111 000 jetons, et les missions tombent à 32 000.
Logique : on consulte le catalogue quand on cherche un outil, on ne le relit pas en entier à chaque fois qu’on entre dans l’atelier. Sauf que côté quota, quelque chose cloche.
70 % du quota en moins d’une heure
Petit rappel du fonctionnement : avec mon abonnement, j’ai droit à une certaine quantité d’usage par tranche de 5 heures, partagée entre Claude et Claude Code. Quand la tranche est vide, on attend qu’elle se recharge.
Et là, j’en brûle 70 % en moins d’une heure. La veille déjà, alerte : quota dépassé. Il m’arrive de dépasser les 80 %, ce n’est pas un drame. Mais deux jours de suite au-delà de 70 % en moins d’une heure ? Il y a un loup.
Le soir, le mur.
Limite de 5 heures atteinte à 100 %, réinitialisation dans 3 h 57 min ; hebdomadaire tous modèles à 6 % ; fenêtre de contexte à 862 500 jetons sur 1 million ; forfait Max (5x).
En six mois, ce n’était presque jamais arrivé. Plus rien à faire ce soir-là. Je sais par quoi commencer le lendemain.
Sauf que le matin, d’autres urgences passent devant, et ça ne rate pas. La mission du jour ? Traiter mes notes Joplin. Une tâche que je fais tous les jours, sans le moindre souci jusqu’ici.
Limite de 5 heures à 69 % (réinitialisation dans 3 h 25 min) ; hebdomadaire à 17 % ; cette session : 4,65 $US, 100 % Opus, 913 100 jetons écrits, 546,9 millions de jetons relus depuis le cache.
Regardez la dernière ligne : 913 000 jetons écrits, mais 546,9 millions relus depuis le cache. Une relecture en cache coûte dix fois moins cher qu’une lecture normale. Dix fois moins de 546 millions, ça reste énorme.
L’enquête
Je demande à Claude de chercher ce qui consomme autant derrière une tâche aussi banale.
La cause, mesurée dans les journaux du Pi : la chaîne de missions a consommé 78 millions de jetons en 254 appels, pour 0,5 million réellement écrits. Chaque mission chargeait 230 000 jetons de règles (CLAUDE.md et 26 règles, 418 Ko), relus à chaque appel, jusqu’à 500 000 en fin de mission, depuis que toutes les règles du PC étaient descendues sur le Pi le 14/09.
Le coupable n’était pas la tâche. Depuis le 14 septembre, toutes les règles du PC descendaient sur le Pi : c’est comme demander à un collègue de relire tout le classeur des procédures de l’entreprise avant chaque geste. 78 millions de jetons pour en écrire un demi-million : la délégation avançait, mais avec une valise de 418 Ko à chaque pas.
La parade : un brief par tâche
Pour l’instant, j’adopte la solution qui me semble la meilleure : le « brief compilé ». Au lieu du classeur entier, chaque mission reçoit une fiche taillée pour elle.
Un prompt optimisé par tâche : le « brief compilé ». Sur le PC, un prompt autonome par tâche (objectif, fichiers d’entrée, format de sortie, critères de réussite contrôlés, seulement les lignes de règles utiles) ; sur le Pi, la mission part d’un dossier sans règles et exécute le brief. La nuance : la qualité dépend alors entièrement du brief, dont la compilation doit être contrôlée avant l’envoi.
Le revers est écrit dans la capture : tout repose désormais sur la qualité du brief. Un brief bâclé, et la mission part dans le décor sans filet.
La suite au prochain épisode.
Laisser un commentaire