Human in the loop IA : garder la main sur une IA qui agit

Que signifie « human in the loop » pour une IA qui agit ?

Le human in the loop (HITL, « l'humain dans la boucle ») désigne une approche de l'IA dans laquelle un humain intervient à des moments clés du fonctionnement d'un système automatisé [4]. Appliqué à un agent IA, il consiste à insérer un ou plusieurs points de validation humaine dans son déroulé, avant qu'une action soit exécutée ou publiée [16].

Le principe pour un agent : il propose, l'humain valide

L'agent prépare le travail et propose une décision, puis attend une validation [16]. La règle se résume ainsi : « l'agent propose, l'humain valide », surtout pour les actions à fort impact [28]. L'intervention humaine peut se placer en amont, pour valider les paramètres, ou en aval, pour contrôler les résultats. Cette architecture s'oppose aux systèmes entièrement autonomes [25].

Un second sens, lié à l'apprentissage

Le terme recouvre aussi un usage distinct, centré sur l'entraînement des modèles :

• des humains participent activement à l'entraînement des systèmes d'IA [5] ;
• une boucle de retour continue et itérative s'installe entre humains et IA [6] ;
• l'expertise humaine est intégrée à des moments clés du cycle de vie du modèle [14].

Cet article porte sur le premier sens, le contrôle des actions d'un agent, pas sur l'amélioration des modèles.

L'objectif : automatiser sans perdre en jugement

Le HITL vise l'efficacité de l'automatisation sans sacrifier la précision, la nuance et le raisonnement [10]. L'automatisation reste donc l'objectif. L'humain est placé là où son jugement change le résultat, et non sur chaque étape.

Quelle différence entre human in the loop, on the loop et out of the loop ?

Les trois termes désignent trois niveaux de supervision, selon le moment où l'humain intervient : avant chaque action, au-delà d'un seuil, ou jamais en temps réel.

Ce que change chaque niveau

En HITL, l'humain fait partie du processus de décision. Cette architecture s'oppose aux systèmes entièrement autonomes [25]. Le terme est parfois pris plus largement : un humain qui intervient « à des moments clés » du fonctionnement d'un système automatisé [4]. Les définitions n'ont donc pas toutes la même exigence.

En HOTL, l'agent exécute son cycle complet de manière indépendante tandis qu'un humain le supervise [30]. L'humain n'est plus un passage obligé : il intervient quand un seuil est franchi.

En HOOTL, personne ne peut corriger l'agent pendant qu'il agit [27].

Un découpage de praticiens, pas une norme

Cette typologie provient de sources web, notamment un article d'ingénierie des systèmes agentiques [27] et un comparatif de niveaux de contrôle [30]. Aucune source du dossier ne la rattache à une norme ou à un texte réglementaire. Elle sert de grille de lecture, pas de classification officielle. Les seuils, les limites prédéfinies et les points de contrôle restent à définir par chaque organisation.

Quelles actions d'un agent IA faut-il faire valider par un humain ?

Il faut faire valider par un humain les actions à fort impact, et laisser l'agent traiter seul le reste. La règle de base tient en une formule : « l'agent propose, l'humain valide », surtout pour les actions à fort impact [28]. L'enjeu est concret, car un agent moderne peut enchaîner des dizaines d'actions autonomes : appeler des API, modifier des fichiers, envoyer des e-mails, interagir avec des bases de données [23]. Le but est de maximiser l'autonomie là où c'est sûr et de maintenir le contrôle humain là où c'est nécessaire [23].

Quatre cas de validation systématique

Une grille de décision publiée par Hadrien.ai, source de praticien et non texte officiel, retient quatre cas où l'humain doit valider chaque étape [24] :

• les achats ;
• les communications externes ;
• les modifications irréversibles ;
• la sécurité.

La même grille identifie six autres cas où l'agent peut travailler seul [24].

Un niveau de validation aligné sur la délégation existante

Le niveau de validation suit la délégation déjà en place dans l'entreprise. Une dépense qui demandait l'accord d'un responsable avant l'arrivée de l'agent continue de le demander : l'agent change la vitesse d'exécution, pas la répartition des pouvoirs [33]. Il n'y a donc pas de nouvelle matrice d'autorisations à inventer. Il suffit d'appliquer à l'agent celle qui existe pour les collaborateurs.

Exemple en développement logiciel

Dans le code, la revue par IA accélère le premier passage, tandis que l'humain garde la responsabilité sur l'authentification et le paiement [22]. L'IA absorbe le volume, l'humain tranche là où une erreur coûte cher.

Entre les cas évidents, il reste une zone où la décision se prend au cas par cas. C'est là que se joue le choix entre ce qu'on confie à la machine et ce qu'on garde [20].

Le contrôle humain de l'IA est-il une obligation légale en Europe ?

Oui, mais seulement pour les systèmes d'IA à haut risque. Le human in the loop correspond au contrôle humain au sens de l'article 14 du Règlement européen sur l'IA (RIA), qui est une obligation pour ces systèmes [8][18]. Pour les autres usages, aucune source du dossier n'établit d'obligation légale équivalente.

Ce qui relève de la loi, et ce qui n'en relève pas

Le commentateur estime que cette obligation réglementaire, propre aux systèmes à haut risque, « a muté » en règle éthique pour tous les usages, même à risque minime [18]. Cette lecture peut guider une politique interne de gouvernance. Elle ne crée pas d'obligation juridique pour les systèmes qui ne sont pas à haut risque.

Points de vigilance

• Le dossier ne reproduit pas le texte du Règlement. Il ne permet donc pas de détailler le contenu de l'article 14 ni de dire quels systèmes sont « à haut risque ».
• Les sources 8 et 18 sont deux publications d'un même texte, et non deux avis indépendants.
• Le NIST AI RMF est présenté comme cadre de référence dans un guide pratique [24]. Le dossier n'en précise pas la portée juridique.

Avant de déployer un agent, il faut donc vérifier, avec la direction juridique, si le cas d'usage relève du haut risque. S'il en relève, le contrôle humain est une exigence légale. Sinon, il reste un choix de gouvernance.

Quelles sont les limites de la validation humaine ?

La présence d'un humain dans la boucle ne garantit pas un contrôle effectif : tout dépend du nombre de décisions à valider et de la manière dont l'organisation les a conçues.

Un modèle qui a un domaine de validité. Le principe consiste à laisser la machine proposer, puis à demander à un humain de valider. Selon le blog de Renaud Joly, il fonctionne lorsque les décisions sont peu nombreuses et clairement identifiables [36]. Au-delà, la validation devient un goulot d'étranglement, et le même auteur y voit le frein de l'IA [36].

Un problème d'organisation masqué. Pour IT Social, les entreprises qui déploient des agents savent que le problème est d'organisation et se rabattent, faute de formule, sur l'humain dans la boucle [35]. Le principe rassure, car il laisse croire qu'un validateur posté à chaque carrefour sensible suffit à tenir l'autonomie d'un agent [35]. Le titre de l'article parle d'« outil du pauvre » [35].

Une assurance trompeuse. NXstep, un acteur commercial, relève que la phrase « Un humain valide, donc le risque est couvert » met fin au débat sur l'autonomie des agents dans la plupart des comités de sécurité [37]. Le billet soutient que les modèles ont appris à contourner ce garde-fou [37]. Cette thèse est celle d'un prestataire, pas d'une étude indépendante. Dans un fil Reddit, un témoignage non vérifié juge de son côté que l'idée ressemble plus à une formule qu'à une réalité [11].

Une piste : la supervision comme audit. Selon nouvelles-technologies.net, la supervision peut devenir un mécanisme d'audit en temps réel, et non seulement un garde-fou réactif [34]. Le même texte oppose un niveau d'assurance mesurable aux simples garanties marketing [34].

Pour un DSI, la question utile n'est donc pas « un humain valide-t-il ? », mais « combien de décisions lui soumet-on, lesquelles, et comment mesure-t-on la qualité de son contrôle ? ».

Comment Oupi met-il en pratique la validation humaine ?

Oupi applique le principe « l'agent propose, l'humain valide » : la plateforme demande une validation avant les actions sensibles et peut poser des questions à l'utilisateur en cours de mission.

Ce principe consiste à insérer des points de validation humaine dans le déroulé d'un agent IA, avant qu'une action soit exécutée ou publiée. L'agent prépare le travail et propose une décision, puis attend une validation [16]. Cette règle vaut surtout pour les actions à fort impact [28]. Les deux comportements d'Oupi s'y rattachent :

• Validation avant les actions sensibles : l'agent n'exécute pas seul ce qui engage l'utilisateur. Il soumet l'action, et l'humain décide de la poursuivre ou non.
• Questions en cours de mission : lorsqu'une information manque ou qu'un choix revient à l'utilisateur, Oupi peut l'interroger pendant la mission au lieu de poursuivre sur une hypothèse.

Les deux mécanismes placent l'humain à des moments précis du déroulé. Aucune de ces interventions n'est systématique sur chaque étape : la validation porte sur les actions sensibles, ce qui répond à la logique de ciblage décrite plus haut.

Cette présentation se limite au comportement annoncé. Elle ne dit rien de la qualité des propositions de l'agent, ni de la façon dont une organisation doit définir ce qu'elle juge « sensible ». Cette définition reste une décision de gouvernance, à fixer selon les délégations et les risques propres à chaque entreprise.