Agent IA supervisé ou boîte noire : ce qui change vraiment
Le jour de la démonstration, les deux se valent. La différence apparaît au premier incident — et elle est totale.
Les cinq différences
| Agent boîte noire | Agent supervisé | |
|---|---|---|
| Avant l'envoi | La réponse part telle quelle. | Un contrôle de sortie vérifie faits, montants, coordonnées, ton. Ce qui échoue ne part pas. |
| Après coup | Un historique de conversation, parfois. | Un journal d'audit immuable : entrée, décision, sortie, durée, pour chaque exécution. |
| Arrêt d'urgence | Couper le service entier, ou rien. | Suspendre un agent précis, sans toucher aux autres ni redéployer. |
| Quand une source tombe | L'écran affiche des zéros. | L'écran écrit « source injoignable » et refuse d'afficher un chiffre qu'il n'a pas mesuré. |
| Données | Hébergées chez l'éditeur, mêlées à celles d'autres clients. | Un processus, une base et une mémoire par client. Séparation physique. |
Pourquoi la démonstration ne montre rien de tout cela
Une démonstration met en scène le cas nominal : une question claire, une réponse juste. Or les cinq différences ci-dessus ne se manifestent que dans les cas dégradés — la question ambiguë, la donnée manquante, la source en panne, le client qui demande qu'on l'oublie.
D'où la question à poser à tout fournisseur : « montrez-moi ce qui se passe quand l'agent se trompe ». La réponse départage plus sûrement que n'importe quelle démonstration.
Ce que cela coûte, concrètement
Un agent boîte noire coûte moins cher à mettre en route et davantage au premier incident : il faut retrouver ce qui a été dit, à qui, pourquoi — souvent sans trace exploitable — puis rattraper le client.
Un agent supervisé demande de poser des garde-fous au cadrage (voir garde-fous de sortie) et rend cet incident improbable : le texte fautif n'est jamais parti, il est devenu une ligne à arbitrer.
C'est le choix qu'incarne Aquamarine OS : la supervision n'y est pas une option qu'on active, c'est la structure du produit.
Questions fréquentes
Comment savoir si un agent est une boîte noire ?
Trois questions suffisent : puis-je voir ce qui a été bloqué avant envoi, et pourquoi ? puis-je suspendre un agent seul ? que montre l'écran quand une source ne répond plus ? Si les trois réponses sont floues, c'est une boîte noire.
Un agent supervisé est-il plus lent ?
De quelques centaines de millisecondes par réponse, sans effet perceptible dans une conversation. Le contrôle de sortie est déterministe pour l'essentiel.
Peut-on transformer une boîte noire en agent supervisé ?
Partiellement seulement. Le journal d'audit et le coupe-circuit peuvent parfois s'ajouter ; le contrôle avant envoi, non — il suppose de maîtriser le chemin d'exécution, ce que l'éditeur ne livre pas.
Savoir ce que vos agents feraient en cas d'erreur
Un audit ciblé pose les garde-fous adaptés à votre activité et définit ce que votre espace Aquamarine OS doit vous montrer.