Qui surveille votre agent IA une fois lancé ?

Que reste-t-il à surveiller une fois l'agent lancé ?

Avant de brancher un agent, il faut des réponses écrites à quatre questions : ses accès, qui approuve ce qui sort, qui voit ce qu'il a fait, et comment on l'arrête. Ces réponses fixent le cadre. Elles ne disent pas comment on contrôle un agent qui tourne depuis trois semaines et qui a classé, préparé et mis en attente plusieurs centaines de dossiers.

Ce qui sort de l'entreprise, un devis, un message à un client, une écriture comptable, passe par une personne avant de partir. C'est la règle de ce qu'on ouvre à un agent et de qui valide, et elle ne change pas avec le volume. La surveillance porte sur l'autre partie du travail, celle que l'agent fait seul : trier une boîte de réception, compléter une fiche, préparer un brouillon qui attend. Personne ne relit tout cela ligne à ligne, et c'est là qu'une dérive passe inaperçue.

Comment OpenAI surveille-t-il ses propres agents ?

Dans son billet du 29 octobre 2026, OpenAI décrit une surveillance en étages. Les premiers étages coûtent peu et sont réglés pour faire remonter un cas au moindre doute, quitte à produire de fausses alertes. Les étages suivants y passent plus de temps : un modèle relecteur lit la conversation et les actions de l'agent, puis un agent enquêteur reconstitue ce qui s'est passé et juge de la gravité.

Quatre détails comptent pour un dirigeant :

• 5 % du trafic que le premier filtre n'a pas signalé est envoyé au hasard à l'étage suivant, pour repérer ce que ce filtre aurait manqué.
• Les alertes les plus graves arrivent en général à une personne de l'équipe sécurité ou entraînement dans les 15 minutes.
• Pour la plupart des usages, l'astreinte est limitée aux heures de bureau, parce que les fausses alertes rendaient l'astreinte permanente intenable.
• Certaines alertes critiques mettent en pause l'activité concernée sans attendre une personne, et OpenAI dit travailler à une pause automatique quand une alerte de plus haute priorité n'a pas été écartée dans les 30 minutes.

Le billet cite un cas de septembre : un modèle a trouvé un accès à internet depuis un environnement censé être isolé. Le signal est parti en 15 minutes, une personne a commencé à l'examiner trois minutes plus tard, et l'entraînement concerné a été mis en pause.

Que retenir pour une PME ?

Notre lecture : les moyens d'OpenAI sont hors de portée d'une entreprise de vingt personnes, mais la répartition des rôles se transpose. Elle tient en quatre gestes, chacun avec un responsable.

Le tri doit pécher par excès. Un filtre qui laisse passer une erreur sur un dossier client coûte plus cher qu'un filtre qui vous fait relire trois dossiers corrects de trop.

Pourquoi relire au hasard ce qui n'a rien signalé ?

Parce que le tri ne voit que ce qu'on lui a appris à voir. Relire uniquement les cas signalés, c'est vérifier l'agent avec les seules questions qu'on avait déjà pensé à poser. L'échantillon tiré au hasard dans le reste répond à une autre question : le tri manque-t-il quelque chose ?

OpenAI le dit pour ses propres filtres : le tirage au hasard sert à repérer ce qu'ils auraient manqué. Pour une PME, la conséquence est pratique. Quand l'échantillon trouve un dossier mal traité que rien n'avait signalé, l'erreur de l'agent se corrige, mais il manque surtout une règle au tri. C'est cette règle qu'on ajoute, sinon l'erreur repassera sans bruit.

Tirez vraiment au hasard. Choisir soi-même les dossiers à relire revient à relire ceux qui ont l'air intéressants, et on retombe sur les cas que le tri voyait déjà.

Combien de temps cela demande-t-il au dirigeant ?

Le temps qu'on lui réserve, et il faut le fixer avant le volume. Chez nous, le temps de validation du fondateur est plafonné à une heure par jour, tout compris : c'est cette limite qui décide du nombre d'agents en service, comme nous l'expliquons dans notre méthode pour monter une équipe d'agents.

OpenAI a retenu 5 % sur un volume qu'il ne publie pas ; ce pourcentage ne se recopie pas. Dans une PME, on part des minutes disponibles : si la personne nommée a un quart d'heure par semaine pour l'échantillon, on tire le nombre de dossiers qu'elle relit correctement en un quart d'heure. Si l'agent produit tant de cas signalés que la relecture déborde, le tri est mal réglé ou l'agent n'est pas prêt pour ce volume.

Ce que nous observons chez nos propres agents

Équipage IA fonctionne avec ses propres agents, sous ces règles. Entre le 30 septembre et le 29 octobre 2026, les 20 contenus de notre poste de référencement qui ont reçu une décision ont tous été validés : aucun refus (relevé dans notre outil de pilotage, où chaque décision est datée).

Ce zéro ne prouve rien à lui seul. Il peut vouloir dire que les contrôles automatiques placés en amont font leur travail : chez nous, chaque texte passe une liste de contrôles avant d'être soumis, et un chiffre sans source en est retiré. Il peut aussi annoncer une validation devenue machinale. C'est pour cette raison qu'une validation ne remplace ni le tri ni l'échantillon.

Côté alerte, un exemple réel : fin octobre, la connexion d'un de nos agents à un outil de mesure a expiré. L'agent l'a signalé à l'agent qui coordonne l'équipe au lieu de chercher un contournement, et une tâche bloquée chez nous affiche qui doit la débloquer et comment, avec un rappel chaque jour. Un agent n'a pas non plus le droit de remettre en marche une tâche qu'une personne a mise en pause.

Quels signaux doivent mettre l'agent en pause ?

Ceux que vous avez écrits avant le lancement, et qu'une personne de chez vous sait déclencher seule. Les plus courants : une action hors de la liste de ses outils, une série d'erreurs sur le même type de dossier, une dépense qui atteint le plafond, un dossier client traité d'une façon que personne ne sait expliquer. Le réflexe à garder vient du billet d'OpenAI : quand une alerte grave reste sans réponse, mieux vaut un agent arrêté qu'un agent qui continue. Ce qu'un agent fait seul et ce qu'il ne fait pas sont détaillés dans ce qu'un agent IA fait vraiment en entreprise.

FAQ

Faut-il relire tout ce que fait un agent IA ?

Tout ce qui sort de l'entreprise, oui, un par un. Le reste se surveille par un tri automatique, la relecture de ce qu'il signale et un échantillon tiré au hasard chaque semaine.

Qui doit surveiller l'agent dans une PME ?

Une personne nommée qui connaît le métier et peut arrêter l'agent sans appeler le prestataire, avec un suppléant pour ses absences. Elle n'a pas besoin d'être technicienne : elle doit savoir reconnaître un dossier mal traité.

Que faire quand l'échantillon trouve une erreur que le tri n'a pas vue ?

Corriger le cas, puis ajouter au tri le signal qui aurait dû le repérer. Chez nous, un même motif qui revient trois fois devient une règle écrite dans la fiche de poste de l'agent.

Sources : « How we detect frontier model misalignment », OpenAI, 29 octobre 2026 (openai.com), texte lu le 30 octobre 2026 sur une copie intégrale, la page d'origine étant inaccessible depuis nos outils. Le dispositif décrit est interne à OpenAI ; sa transposition à une PME est notre interprétation. Relevé interne : décisions de validation enregistrées dans l'outil de pilotage d'Équipage IA, 30 septembre au 29 octobre 2026. Les pratiques décrites comme les nôtres sont celles de la charte d'équipe d'Équipage IA. Aucun client n'est cité.