Human-in-the-loop : pourquoi c'est non négociable en industrie
Comment encadrer une IA générative dans un contexte industriel : human-in-the-loop, journal d'audit, quotas, AI Act. Le bon réflexe industriel face aux promesses d'IA autonome.
Depuis 2023, l’IA générative s’invite partout dans les outils professionnels. En industrie, l’attente est forte, mais la peur l’est aussi : hallucinations, fuite de données, perte de contrôle, conformité AI Act. La promesse d’une “IA qui fait le travail à votre place” séduit les directions, mais elle est structurellement incompatible avec la réalité industrielle.
Cet article explique pourquoi le human-in-the-loop est non négociable dans un contexte industriel sérieux, et comment l’opérationnaliser concrètement.
Le problème avec “l’IA autonome” en industrie
L’hallucination, pas un bug, une caractéristique
Les modèles de langage actuels (GPT, Claude, Mistral, Llama) ne distinguent pas vrai et faux. Ils produisent du texte plausible. C’est une caractéristique structurelle, pas un bug à corriger : la nature même du modèle est probabiliste.
Sur un cas simple (“résume cette procédure”), l’erreur est généralement bénigne. Sur un cas industriel critique (diagnostic d’une dérive process, validation d’une AMDEC, décision sur une non-conformité), une hallucination peut coûter cher : pièces rebutées par erreur, défaut non détecté, livraison non conforme.
La traçabilité : exigence non négociable
En industrie qualifiée (automobile IATF, aéronautique EN 9100, medtech ISO 13485, pharma GMP), toute décision technique doit être traçable, justifiée, signée. Un audit qualité exige de pouvoir reconstituer : qui a décidé, sur quelle base, avec quelle preuve.
Une IA qui décide seule rend cette traçabilité impossible. Elle ne signe pas. Elle ne justifie pas (au-delà d’un raisonnement opaque). Elle ne porte pas la responsabilité.
La responsabilité juridique reste humaine
L’AI Act européen (entré en vigueur 2024-2025) classe l’IA en quatre niveaux de risque. Les outils industriels utilisant l’IA comme assistance entrent en “risque limité”, à condition que l’utilisateur soit clairement informé qu’il interagit avec une IA, et que la décision finale reste humaine.
Toute architecture qui laisse l’IA “agir” sans validation humaine bascule en “haut risque” et déclenche des obligations lourdes (documentation, audit, supervision humaine renforcée).
Le human-in-the-loop : 4 garde-fous structurels
Un outil industriel sérieusement gouverné implémente quatre garde-fous, pas un :
1. Suggestion sans intégration automatique
L’IA propose. Le résultat apparaît clairement comme une suggestion en attente de validation. Tant que l’utilisateur n’a pas cliqué “Valider”, la suggestion n’entre pas dans le projet, ne déclenche pas d’action, ne modifie aucune donnée métier.
Conséquence : un opérateur peut rejeter ou corriger une suggestion sans aucun impact négatif. Le coût d’une hallucination est borné.
2. Badge IA persistant
Les éléments générés par l’IA sont étiquetés visuellement (“IA” sur fond turquoise par exemple) tant qu’ils n’ont pas été édités par un humain. L’étiquette ne disparaît que dès que quelqu’un modifie le contenu.
Conséquence : à tout moment, un auditeur ou un collègue peut savoir ce qui vient de l’IA et ce qui vient de l’humain. La provenance est portée par la donnée elle-même.
3. Journal d’audit non modifiable
Chaque appel IA est journalisé : qui, quand, quel modèle, quel prompt (résumé), quelle action métier, combien de tokens. Ce journal est non modifiable : aucune action de l’application ne permet de l’effacer. En cas d’audit qualité, le DPO ou l’auditeur peut reconstituer 100 % des interactions IA.
4. Quotas et contrôle par organisation cliente
Chaque organisation cliente dispose d’un quota mensuel de tokens, paramétrable par utilisateur si besoin. Un administrateur peut désactiver l’IA pour un utilisateur spécifique ou plafonner sa consommation. La gouvernance reste côté client, pas côté éditeur.
Ce que ça change concrètement sur un projet 8D
Voici ce qu’un projet Kaizain ressemble en pratique sur une étape D4 (recherche de cause racine d’un défaut) :
| Étape | Action utilisateur | Action IA (assistant) |
|---|---|---|
| Description du problème | Saisir le QQOQCCP | - |
| Cartographier les causes (6M) | Ouvrir le diagramme Ishikawa | Bouton “Suggérer des causes” disponible |
| Cliquer “Suggérer des causes” | - | IA propose plusieurs causes plausibles par branche M avec badge IA |
| Examiner les suggestions | Valider, rejeter, éditer chacune | Les éléments validés perdent leur badge ; les rejetés disparaissent |
| Compléter avec causes terrain | Ajouter manuellement les causes non suggérées | - |
| Voter / prioriser | Voter sur les causes les plus probables | - |
| Documenter la cause racine retenue | Saisir la conclusion humaine | - |
L’IA fait gagner du temps de mise en route. Elle ne décide jamais.
Ce que ça ne change pas
Le human-in-the-loop ne supprime pas la responsabilité de l’utilisateur métier. Au contraire, il la rend explicite. Lorsque vous validez une suggestion IA, vous la faites vôtre, exactement comme vous validez la note d’un stagiaire avant de la transmettre au client.
Cette explicitation est précisément ce qui rend l’IA acceptable en industrie. Sans cela, c’est une boîte noire qui produit du contenu non auditable et non opposable.
Les vraies questions à poser à un éditeur
Avant d’adopter un outil IA en industrie, voici les questions à poser :
- L’IA peut-elle prendre une décision qui modifie une donnée métier sans validation humaine explicite ? Réponse attendue : non.
- Comment sait-on visuellement qu’un élément vient de l’IA ? Réponse attendue : un badge persistant.
- Existe-t-il un journal non modifiable de tous les appels IA ? Réponse attendue : oui, non modifiable, exportable.
- Peut-on désactiver l’IA pour certains utilisateurs ou plafonner leur usage ? Réponse attendue : oui, par organisation cliente et par utilisateur.
- Quel est le provider IA, où est-il hébergé, et quelle est sa politique sur l’utilisation des données pour l’entraînement ? Réponse attendue : claire, vérifiable.
Si une de ces réponses est floue, vous ouvrez la porte à des problèmes de conformité, d’audit ou de qualité quelques mois après le déploiement.
En résumé
L’IA générative apporte une vraie valeur en industrie sur les tâches structurées : suggestion de causes ou d’idées, analyse d’un outil chiffré, pré-remplissage d’un cadrage. Mais elle ne peut pas décider à la place du sachant métier. Le human-in-the-loop n’est pas une précaution excessive : c’est la condition de l’usage de l’IA en industrie qualifiée.
Notre approche chez Kaizain : voir notre page IA gouvernée pour le détail des 4 garde-fous, et notre page Sécurité pour la posture conformité.
Article publié le 29 mai 2026. Vous souhaitez en discuter ? Contactez-nous.