Les garde-fous d'un agent IA : ce qui l'empêche de nuire
La question n'est pas « l'agent peut-il se tromper ? » — il le peut. La question est : qu'est-ce qui se trouve entre son erreur et votre client ?
Pourquoi « avant l'envoi » change tout
Un contrôle après envoi est un rapport d'incident. Un contrôle avant envoi est une décision. Entre les deux, il y a un client qui a lu, ou non, une réponse fausse.
C'est aussi une différence de coût : corriger un message parti demande de recontacter, d'expliquer, parfois de dédommager. Bloquer le même message avant départ coûte trente secondes d'arbitrage.
Les sept contrôles
- Vérité produit. L'agent ne peut évoquer qu'une référence, une dimension ou une disponibilité présente au catalogue. Un catalogue vide est un choix sûr : l'agent s'abstient au lieu d'inventer.
- Cohérence des montants. Tout chiffre présenté comme un montant doit provenir d'une pièce, jamais d'une reformulation.
- Isolation des coordonnées. Un texte sortant ne contient jamais le numéro d'un tiers — y compris celui d'un autre client. C'est le garde-fou dont l'absence produit les incidents les plus graves.
- Opt-out. Une demande d'arrêt est traitée avant tout appel au modèle, jamais après. L'ordre n'est pas un détail : le respecter après coup, c'est avoir déjà répondu.
- Ton et longueur. Un plafond de longueur et un lexique interdit évitent le message qui déborde ou qui promet.
- Absence de marqueur interne. Rien de la fiche de l'agent ni de son prompt ne doit apparaître dans un texte client.
- Escalade. Ce qui reste douteux n'est pas envoyé « au mieux » : il est remonté à un humain.
L'ordre compte plus que la liste
Ces contrôles ne sont pas interchangeables. L'opt-out doit précéder tout traitement, sinon on a déjà consommé du contexte pour quelqu'un qui a demandé qu'on le laisse tranquille. La vérité produit doit précéder le ton, sinon on polit un mensonge.
Sur Aquamarine OS, cet ordre est celui du pipeline lui-même : la demande d'arrêt est traitée avant le moindre appel au modèle, et le contrôle de sortie est la dernière porte avant l'envoi. Un texte non approuvé n'a pas de chemin vers le client.
Pour le reste de la chaîne, voir superviser des agents en production.
Questions fréquentes
Un garde-fou ralentit-il l'agent ?
De quelques centaines de millisecondes, imperceptibles à l'échelle d'une conversation. Le vrai coût d'un agent sans garde-fou n'est pas la vitesse : c'est le message qu'il faut rattraper.
Que devient un texte bloqué ?
Il devient une escalade : une ligne dans la file d'arbitrage, avec son motif et le dossier complet. Un humain tranche. Le motif alimente ensuite l'amélioration du socle de connaissance.
Peut-on désactiver les garde-fous pour aller plus vite ?
C'est possible et déconseillé. Un agent sans contrôle de sortie transforme chaque imprécision en message envoyé — et le premier incident coûte plus que tout le temps gagné.
Passer de la méthode à l'exécution
Un audit ciblé applique ce cadre à votre contexte, chiffre le ROI et planifie le déploiement en 2 à 4 semaines.