L'IA qui suggère, jamais celle qui décide
Dans un contexte industriel sérieux, l'IA ne peut pas remplacer le sachant. Chez Kaizain, l'IA est un assistant gouverné qui accélère le pré-remplissage et propose des pistes, toujours sous validation humaine.
Pourquoi le human-in-the-loop n'est pas négociable
L'IA générative actuelle (Claude, GPT, Mistral, Llama) produit du texte plausible, pas nécessairement vrai. C'est une caractéristique structurelle, pas un bug à corriger. Sur un cas industriel critique (diagnostic d'une dérive process, validation d'une AMDEC, décision sur une non-conformité), une hallucination peut coûter cher.
De plus, en industrie qualifiée (IATF, EN 9100, ISO 13485, GMP), toute décision technique doit être traçable, justifiée, signée. Une IA qui décide seule rend cette traçabilité impossible. Elle ne signe pas. Elle ne porte pas la responsabilité.
Enfin, l'AI Act européen classe en "risque limité" les outils utilisant l'IA comme assistance, à condition que la décision finale reste humaine. Toute architecture qui laisse l'IA agir sans validation humaine bascule en "haut risque" avec des obligations lourdes.
Comment Kaizain implémente l'IA gouvernée
1. Suggestion sans intégration automatique
L'IA propose. La suggestion apparaît clairement comme "en attente de validation". Tant que l'utilisateur n'a pas cliqué "Valider", rien n'entre dans le projet, aucune action n'est déclenchée, aucune donnée métier n'est modifiée.
2. Badge IA persistant
Chaque élément généré par l'IA porte un badge "IA" turquoise. Le badge disparaît dès qu'un humain édite le contenu. À tout moment, un auditeur peut savoir ce qui vient de l'IA et ce qui vient de l'humain.
3. Journal IA non modifiable
Chaque appel IA est enregistré dans un journal dédié : organisation cliente, utilisateur, modèle, action, volume traité, durée, résultat. Ce journal est non modifiable : aucune action de l'application ne peut effacer une ligne. Consultable par l'administrateur de l'organisation cliente.
4. Quotas et contrôle par organisation cliente
Chaque organisation cliente dispose d'un quota mensuel paramétrable, avec ajustement par utilisateur. Un administrateur peut désactiver l'IA pour un utilisateur, plafonner sa consommation ou bloquer certains modèles.
Gouvernance IA visible et actionnable
Un administrateur de l'organisation cliente accède à une page dédiée : consommation IA mensuelle par utilisateur, vue agrégée des appels (par outil, par action), top utilisateurs, paramétrage des restrictions par utilisateur (modèles autorisés, actions autorisées, quota individuel).
3 familles d'usage où l'IA fait gagner du temps
Suggérer des causes plausibles
Sur un diagramme 6M Ishikawa, un 5 Pourquoi ou une AMDEC (après sélection d'une cible). À partir d'une description de problème. Chaque suggestion est validée ou rejetée individuellement par l'utilisateur, badge IA persistant tant que non éditée.
Générer des idées ou un cadrage
En session de brainstorming (bouton « Suggérer idées ») ou pour pré-remplir un QQOQCCP par champ à partir d'une description libre. L'utilisateur valide ou affine chaque proposition.
Analyser un outil chiffré
Sur un Pareto, un Cp/Cpk, un plan d'expériences DOE ou un VSM : l'IA produit un diagnostic en français industriel, lisible en panneau dédié. Toute action issue de l'analyse est saisie manuellement par l'utilisateur.
Conformité AI Act : Risque limité
L'AI Act européen (adopté 2024) classe les systèmes IA en 4 niveaux. Kaizain se positionne explicitement en risque limité :
- IA assistante uniquement (suggérer, analyser)
- Pas de décision automatisée affectant des personnes
- Pas de scoring, recrutement, avis médical, crédit
- Information claire à l'utilisateur qu'il interagit avec une IA (badge "IA")
Cette classification volontaire évite les obligations d'audit certifié niveau "haut risque" et garde la responsabilité métier côté utilisateur.
Les bonnes questions à poser
L'IA peut-elle modifier mes données sans validation ?
Non. Aucune suggestion IA n'entre dans un projet tant que l'utilisateur n'a pas explicitement cliqué "Valider". Le coût d'une éventuelle hallucination est borné.
Comment sait-on visuellement qu'un élément vient de l'IA ?
Chaque élément généré par l'IA porte un badge "IA" turquoise persistant. Le badge disparaît dès que le contenu est édité par un humain. La provenance est portée par la donnée elle-même.
Quel provider IA utilisez-vous ?
Anthropic Claude par défaut (Haiku, Sonnet, Opus selon le plan). L'architecture est multi-provider : la bascule vers Mistral est opérationnelle sur demande contractuelle. D'autres modèles souverains suisses (ex. Apertus, Swiss AI Initiative) sont sur notre feuille de route.
Les données sortent-elles de l'organisation cliente pour l'IA ?
Oui, ponctuellement, lors d'un appel IA explicite déclenché par l'utilisateur. Jamais en arrière-plan. Anthropic ne réutilise pas les contenus envoyés pour entraîner ses modèles selon ses conditions d'usage. L'option "Zero Data Retention" est négociable pour les comptes éligibles.
Peut-on désactiver l'IA pour certains utilisateurs ?
Oui. Un administrateur de l'organisation cliente peut désactiver l'IA pour un utilisateur spécifique, ou plafonner son quota individuel. La gouvernance reste côté client.
Le journal IA est-il accessible aux administrateurs ?
Oui. Les administrateurs de l'organisation cliente accèdent à une page de gouvernance IA qui agrège les consommations et les appels enregistrés. Le journal IA est non modifiable au niveau de la base de données.
Vous voulez voir l'IA gouvernée à l'œuvre ?
Une démo de 20 minutes pour comprendre concrètement les 4 garde-fous, sur des cas industriels réels.