Que se passe-t-il si l'agent IA se trompe ? Notre modèle d'escalade

Lors de presque tous les Discovery Calls, la même question finit par arriver : Que se passe-t-il si l'agent IA se trompe ? La plupart des fournisseurs répondent par des phrases sur "des modèles testés" ou "une grande précision". Ce n'est pas ainsi que l'on répond à la vraie question.

C'est pourquoi nous montrons ouvertement comment notre modèle d'escalade pour agents IA est construit : une chaîne fixe de seuils de confiance, de demandes de retour aux humains, d'une journalisation sans lacune et de responsabilités clairement nommées, avant que l'agent ne soit jamais mis en ligne.

Qu'est-ce qu'un modèle d'escalade pour un agent IA ?

Un modèle d'escalade détermine le degré d'incertitude à partir duquel un agent IA n'achève plus une tâche de manière autonome, mais la confie à un humain avant qu'une décision ne devienne effective. Il fait partie de l'architecture dès le départ, et non pas comme une couche de sécurité ajoutée après coup.

La pression pour réglementer cela correctement augmente plus vite que la préparation de nombreuses entreprises. Gartner prédit qu'à la fin de 2026, environ 40 pour cent des applications d'entreprise contiendront des agents IA spécifiques à des tâches, contre moins de 5 pour cent en 2025 (Source : //www.gartner.com/en/newsroom/press-releases/2025-08-26-gartner-predicts-40-percent-of-enterprise-apps-will-feature-task-specific-ai-agents-by-2026-up-from-less-than-5-percent-in-2025:Gartner), En même temps, selon un sondage Deloitte auprès de 3 235 cadres dans 24 pays, seuls 21 pour cent des entreprises disposent d'un modèle de gouvernance mature pour les agents IA autonomes (Source : //www.deloitte.com/us/en/insights/topics/emerging-technologies/ai-agents-scaling-faster.html:Deloitte). C'est exactement cette lacune que comble un modèle d'escalade.

Comment fonctionnent les seuils de confiance dans la pratique ?

Les seuils de confiance sont des valeurs limites fixes où un agent estime sa propre certitude dans une décision et agit différemment en fonction de cela. Pour une confiance élevée, l'agent exécute la tâche et l'enregistre. Pour une confiance moyenne, il l'exécute mais marque le cas pour un examen par sondage. Pour une confiance faible, l'agent s'arrête avant l'exécution et la transmet à un humain.

Pour le traitement des factures reçues, cela se concrétise ainsi : Les données de facture claires avec un fournisseur connu et une imputation appropriée sont traitées automatiquement. Les imputations peu claires sont marquées et examinées après coup. Les champs obligatoires manquants ou les écarts par rapport aux données de fournisseur arrêtent le processus immédiatement avant que n'importe quoi soit comptabilisé.

Quand le Human-in-the-loop intervient-il, et qui décide alors ?

Le Human-in-the-loop signifie qu'une tâche ne devienne effective qu'après approbation humaine, une fois que l'agent atteint un seuil d'incertitude ou de risque défini. Ce n'est pas un choix volontaire, mais c'est maintenant aussi ancrée dans la réglementation de l'UE : L'article 14 du Règlement sur l'IA de l'UE exige pour les systèmes à haut risque que les humains puissent à tout moment comprendre, intervenir et arrêter un système d'IA (Source : //artificialintelligenceact.eu/article/14/:EU AI Act, Artikel 14).

Chez nous, il est déterminé à l'avance qui assume ce rôle : du côté du client, une personne de contact nommément désignée qui reçoit les escalades et décide, du côté de NordFlux, un responsable technique qui surveille les seuils et les ajuste. Les deux sont documentés dans le Process Design Document, que nous alignons ensemble avant le Go-live.

Comment assurons-nous la traçabilité si un agent se trompe ?

Chaque décision d'un agent est enregistrée, qu'elle ait été exécutée automatiquement ou escaladée. Le journal contient les données d'entrée, la valeur de confiance déterminée, le chemin choisi et, si un humain est intervenu, qui a décidé quoi et quand.

Ce n'est pas une fin en soi. Sans ce journal, on ne peut clarifier rétrospectivement ni pourquoi une erreur s'est produite, ni si les seuils sont correctement définis. Nous utilisons régulièrement les journaux pour affiner les seuils, par exemple si nous constatons qu'un certain type de demande est escaladé plus souvent que nécessaire ou inversement trop rarement. Plus d'informations sur la mise en œuvre technique de ces agents se trouvent dans notre domaine de prestations Agents IA, pour le classement de la gouvernance et des responsabilités dans la Conseil en IA.

Exemple pratique : Escalade avec l'assistant téléphonique IA

Un artisan qui utilise chez nous un assistant téléphonique IA pour la réception des appels est un bon exemple de ce que cela ressemble dans la vie réelle. L'agent reçoit de manière autonome les demandes standard telles que les rendez-vous ou les horaires généraux. Dès qu'il s'agit d'annulations de rendez-vous de courte durée, de réclamations ou de négociations de prix, l'agent bascule immédiatement et de manière audible pour l'appelant en mode de transfert : Il dit ouvertement qu'il transfère la demande à un employé et transfère avec le contexte, au lieu de mettre l'appelant en boucle.

Chaque appel est enregistré avec une note sur le fait qu'il y a eu escalade et pourquoi. Cela donne à l'entreprise une base solide pour voir quels sujets amènent régulièrement l'agent à ses limites, et pour ajuster les seuils en conséquence, au lieu de se fier à une intuition.

Qui est responsable si l'agent se trompe quand même ?

Même le meilleur modèle d'escalade ne prévient pas chaque erreur, il réduit juste la fenêtre dans laquelle une erreur peut causer des dommages inaperçue. C'est pourquoi nous définissons contractuellement les responsabilités à l'avance plutôt qu'en cas de litige : Qui est responsable de l'approbation professionnelle d'une escalade, qui est responsable du fonctionnement technique de l'agent, et quels cas ne seront jamais automatisés parce que le risque ne le justifie pas.

Un modèle d'escalade ne remplace pas cette clarification, il la rend seulement efficace. Sans responsabilité nommée, chaque escalade finit par ne trouver personne en cas de doute.

Questions fréquemment posées

Que se passe-t-il concrètement si l'agent IA est incertain ?

L'agent n'exécute pas la tâche mais la transfère avec le contexte complet à une personne de contact nommée. Le transfert et la raison en sont enregistrés.

Un client peut-il définir lui-même les seuils de confiance ?

Les seuils sont définis ensemble dans le Process Design Document avant le Go-live et peuvent être ultérieurement réajustés en fonction des données de journal.

Toutes les escalades sont-elles enregistrées, même si rien ne s'est mal passé ?

Oui. Chaque décision est enregistrée, qu'elle ait été exécutée automatiquement ou transférée à un humain.

Le modèle d'escalade remplace-t-il complètement le contrôle humain ?

Non. Il réduit la fréquence à laquelle un humain doit intervenir, mais ne remplace pas la possibilité d'intervenir. C'est également ce que l'article 14 du Règlement sur l'IA de l'UE exige pour les cas à haut risque.

Le modèle s'applique-t-il uniquement aux agents vocaux ou aussi à d'autres agents IA ?

Le principe s'applique à tous les agents IA que nous construisons, qu'il s'agisse d'un flux de travail n8n, d'un agent Copilot ou d'un assistant téléphonique. Les valeurs de seuil concrètes varient selon le cas d'usage.