Pourquoi commencer par les limites
La plupart des projets d’agents qui déraillent ne déraillent pas sur la technique. Ils déraillent parce que personne n’a écrit, au départ, la liste de ce que l’agent n’aurait pas le droit de faire. Le périmètre reste flou, l’agent finit par traiter des cas pour lesquels il n’a jamais été prévu, et la confiance s’effondre d’un coup au premier incident visible.
Écrire les limites en premier coûte une heure. Les découvrir en production coûte un projet.
Limite 1 : il ne juge pas, il applique
Un agent applique des règles, y compris des règles souples apprises sur vos exemples. Il n’a pas d’intuition sur votre relation avec un client difficile, sur le moment où il faut faire un geste commercial, ni sur ce qui se joue vraiment dans un email tendu.
Conséquence pratique : tout ce qui relève de l’arbitrage doit sortir du périmètre de l’agent ou passer par une validation humaine. Cela n’annule pas l’intérêt du projet, cela le délimite. Dans une boîte de support, l’essentiel des demandes est répétitif ; l’agent prend cette part et laisse le reste monter.
Limite 2 : il ne porte aucune responsabilité
Quand un agent envoie une réponse fausse à un client, c’est votre entreprise qui répond, pas le modèle. Aucun fournisseur ne prend cette responsabilité à votre place. C'est la raison pour laquelle un agent sérieux est livré avec trois choses non négociables.
- Un périmètre écrit : la liste des actions autorisées, et la liste de celles qui sont interdites.
- Un journal consultable : qui a déclenché quoi, sur quelle donnée, à quel moment.
- Un point d’arrêt : une action unique qui coupe l’agent, connue de plusieurs personnes.
Si un prestataire vous livre un agent sans ces trois éléments, ce n’est pas une question de budget, c’est une question de méthode.
Limite 3 : il n’invente pas l’information manquante
Un agent ne peut restituer que ce qui existe quelque part : dans un outil, dans un document, dans une règle écrite. Si la date de livraison réelle n’est dans aucun système et vit uniquement dans la tête du responsable atelier, aucun agent ne la connaîtra.
C'est souvent la vraie découverte d’un audit. Le projet d’automatisation révèle que le processus n’est pas documenté, seulement pratiqué. Deux issues possibles : on écrit ce qui était implicite, ou on retire ce cas du périmètre. Les deux sont acceptables. Faire semblant ne l’est pas.
Limite 4 : il se dégrade sur les cas rares
Un agent est bon là où il a vu beaucoup d’exemples. Sur une demande qui survient trois fois par an, il n’a rien appris et il produira une réponse plausible plutôt qu’une réponse juste. Le danger n’est pas qu’il se trompe, c’est qu’il se trompe avec assurance.
La parade est simple et se décide en amont : sur les catégories rares, l’agent n’a pas le droit d’agir. Il classe, il alerte, il transmet. Un agent qui sait dire qu’il ne sait pas vaut mieux qu’un agent qui couvre 100 % des cas sur le papier.
Ce qui reste, et qui suffit largement
Une fois ces limites posées, le périmètre utile reste large : les demandes fréquentes et documentées, l’extraction de champs sur des documents structurés, la prise de rendez-vous encadrée par des règles claires, la veille sur des sources choisies.
C'est un périmètre moins spectaculaire que les promesses habituelles. Il a l’avantage de tenir en production au-delà du premier mois.
Otonom installe des agents IA dans les entreprises, depuis Nantes. Nous écrivons ici ce que nous constatons sur les projets que nous menons. En savoir plus.