Comment fonctionne un agent#

À lire si le fonctionnement d’un agent ne vous est pas familier. Rien ici n’est à croire sur parole : tout se déduit de sa mécanique, et cette mécanique est simple.

Ce que les outils retiennent déjà#

Un agent ne repart pas entièrement de zéro côté outil. La plupart des outils gardent des notes, relisent au démarrage un fichier de consignes que vous avez posé pour eux, et permettent de rattacher un travail à un dossier, à des documents et à des instructions qui reviennent à chaque fois. Tout cela est réel, et sur un sujet unique cela suffit souvent.

Mais d’où vient cette continuité, et où s’arrête-t-elle ? La réponse tient dans la mécanique qui suit.

Un modèle nu, puis une conversation#

Sous sa forme la plus brute, un modèle de langage est un service auquel on envoie du texte et qui renvoie du texte. Il n’a aucun accès : ni à vos fichiers, ni à ce que vous lui avez dit la veille. Tout ce qu’il sait de votre situation se trouve dans ce que vous venez de lui envoyer.

Une conversation n’ajoute qu’une chose : les échanges précédents sont renvoyés avec chaque nouveau message. Ce qui ressemble à de la mémoire est donc du texte réexpédié. Rien n’est conservé ailleurs, et tout s’arrête quand la session s’arrête.

La boucle : le modèle et son harnais#

Autour de ce modèle vient un programme capable d’agir : ouvrir un fichier, en écrire un, lancer une commande, chercher dans un dossier. Ce programme a un nom : le harnais. Il fait tout ce que le modèle ne peut pas faire. Le modèle ne touche à rien lui-même : il demande — « lis ce fichier » —, le harnais exécute la demande dans le périmètre qui lui a été donné, remet le résultat dans la conversation, et le modèle continue à partir de là. Puis la boucle recommence.

Un agent est un modèle et son harnais : cette boucle, plus les autorisations qui la bornent. De là découlent quatre propriétés :

il ne voit que ce qu’on lui a donné. L’ensemble des dossiers accessibles est fini, quelle que soit la façon dont votre outil l’exprime ;
il lit à la demande, jamais tout. Encore faut-il qu’il décide d’ouvrir un fichier, donc qu’il ait une raison de le faire ;
ce qu’il lit occupe une place comptée. Tout ce qui entre dans la conversation — son contexte — y pèse jusqu’au bout ; ce qui est lu sans servir est pris sur ce qui aurait servi ;
la conversation repart vide. Une nouvelle session est une nouvelle conversation, et ce qu’elle sait de la précédente est ce qu’on lui redonne à lire.

Ces quatre propriétés ne sont pas des défauts à contourner. Ce sont les données du problème.

Quand une information manque#

Ces propriétés ont une conséquence importante. Quand une information lui manque, un modèle ne s’arrête pas : il complète avec ce qui paraît plausible. Ce qu’il produit reste cohérent, argumenté, et livré avec la même assurance que le reste. Ce n’est pas un défaut ; c’est son mode de fonctionnement. Ni le modèle ni le harnais ne règlent cela d’eux-mêmes : leur rôle n’est pas de donner à l’agent de quoi savoir exactement où il se trouve.

La conséquence pratique est simple. Un démarrage qui échoue franchement se répare en une phrase. Un démarrage qui part d’un état reconstitué se découvre plus tard, dans ce qu’il a produit entre-temps. C’est exactement le terrain de Workshop.

Ce que le harnais apporte#

La boucle est un principe ; le harnais qui l’implémente est un logiciel à part entière, et il apporte bien plus que cette mécanique :

des capacités d’action — lire et écrire des fichiers, chercher dans une arborescence, exécuter des commandes, et selon le harnais consulter le web ou confier une tâche à un second agent ;
un périmètre et des autorisations — quels dossiers sont atteignables, ce qui s’exécute directement et ce qui demande votre accord ;
des faits que le modèle n’a aucun moyen de connaître, fournis à l’ouverture : la date du jour, le système, l’état du dépôt git courant ;
une mémoire à lui — le carnet de notes évoqué en tête de page, qu’il relit à chaque ouverture ;
des points d’extension — connecteurs vers d’autres services, scripts déclenchés par un événement, compétences chargées le jour où leur cas se présente.

Ce que les outils retiennent déjà vient de là. Mais c’est aussi là que la limite apparaît : le harnais donne accès aux fichiers ; il ne dit jamais lesquels font autorité. Cette dernière couche est la place exacte de Workshop, et l’accueil dit ce qu’il y ajoute.