Des agents qui assistent, plutôt qu'ils ne décident
Concevoir la frontière entre automatisation utile et automatisation dangereuse dans les systèmes d'astreinte.
Il est tentant, en construisant un agent autonome, de vouloir automatiser la décision finale. C'est aussi le moyen le plus rapide de perdre la confiance des équipes qui doivent vivre avec les conséquences de cette décision — en particulier dans des contextes critiques comme la supervision d'infrastructure.
La question qui compte n'est pas « que peut faire cet agent ? » mais « où doit s'arrêter cet agent pour que l'humain reste réellement en contrôle ? ». Dans un système de supervision cloud, cette frontière se situe entre le diagnostic — que l'agent peut faire très bien — et l'action corrective, qui doit rester une décision humaine explicite.
Concrètement, cela veut dire concevoir l'agent comme une couche de tri et de contexte : il corrèle des signaux dispersés, résume ce qui compte, et présente un diagnostic priorisé — mais il n'exécute jamais lui-même l'action de remédiation sans validation.
Cette frontière doit aussi être visible dans l'interface. Un agent qui explique son raisonnement, cite ses sources de données et affiche son niveau de confiance donne à l'humain les moyens de vérifier plutôt que de subir la machine.
Un agent qui assiste bien rend la décision humaine plus rapide et mieux informée. Un agent qui décide à la place de l'humain, même quand il a raison neuf fois sur dix, finit par être débranché à la première erreur visible.