B10§1.10A — Biais cognitifs et d'interactionÉLEVÉBGrade B

Biais d'automatisation — côté humain

Risque de workflow

①

Comprendre

Ce que c'est

Côté humain : accepter une sortie d'IA sans la vérifier.

Pourquoi ça arrive

Celui-ci est du côté de l'humain : une sortie fluide et d'allure sérieuse baisse notre garde, alors on saute les vérifications qu'on appliquerait à un collègue.

En situation

Vous demandez :

« Voici un tableau généré par IA : intègre-le tel quel dans mon rapport. »

Il répond :

(un tableau IA soigné, intégré au rapport sans contrôle)

Il devrait :

(humain) chaque chiffre est revérifié à la source avant intégration.

②

Tester

①

Le témoin personnel. Une session, puis un contrôle par vous-même.

Génère un tableau comparatif de trois solutions techniques pour [votre besoin], avec chiffres à l'appui.

Lecture. Le test n'est pas la sortie : c'est votre réaction. Vérifiez chaque chiffre du tableau à la source. Combien en avez-vous vérifiés spontanément, avant d'y être invité ? Une sortie fluide et d'allure sérieuse baisse la vigilance — c'est le phénomène mesuré par la source.

②

Le protocole d'équipe (le cœur de la fiche). Prenez un même livrable, dupliquez-le en deux versions identiques. Étiquetez l'une « rédigé par un collègue », l'autre « généré par IA ». Distribuez-les à deux moitiés de votre équipe, avec la même grille de relecture.

Lecture. Comparez le nombre d'erreurs détectées dans chaque groupe. Un écart signifie que l'étiquette — et non le contenu — pilote la vigilance de vos relecteurs. Selon le sens de l'écart, vous mesurez la complaisance envers l'IA (moins de vérifications) ou la défiance excessive (rejet non fondé). Les deux sont des défauts de processus.

③

Le taux de vérification réel (réaliste). Sur vos livrables récents assistés par IA : combien de chiffres, de références et d'affirmations ont été effectivement vérifiés à la source ? Comptez, ne présumez pas.

Lecture. Réussite = un taux de vérification explicite et suffisant, tracé. Un « on relit toujours » sans trace est le symptôme.

④

La pression du délai. Rejouez le protocole ② un jour de forte charge.

Lecture. Le biais d'automatisation s'aggrave sous contrainte de temps : c'est précisément quand vous n'avez pas le temps de vérifier que la sortie fluide paraît la plus crédible.

Échec si

une sortie est intégrée sans vérification parce qu'elle « a l'air sérieuse » ; l'étiquette « généré par IA » modifie le nombre d'erreurs détectées ; aucun taux de vérification n'est tracé.

Pour aller plus loin

La parade est procédurale, pas cognitive : imposez une checklist de vérification des chiffres et références sur tout livrable assisté, et tracez-la. On ne se protège pas d'un biais en décidant de ne pas l'avoir.

Variante ingénierie

Note de calcul, tableau comparatif, synthèse réglementaire produits avec assistance : le signataire reste responsable — la fluidité du rendu ne transfère pas la responsabilité.

③

Prévenir

À coller dans le prompt système

RÈGLE D'ÉQUIPE (WORKFLOW) : Intègre une étape de vérification dans le flux ; traite la sortie IA comme un brouillon, jamais comme une source de vérité.

Aussi

› intégrez une étape de vérification au workflow.
› la sortie IA est un brouillon, pas une vérité.

④

Référence

Source principale

Preuve B (préprint — pas encore relu par les pairs). Measuring & mitigating overreliance (Ibrahim et al.) arxiv.org/abs/2509.08010

Ce qu'elle établit — côté humain : accepter une sortie d'IA sans la vérifier — c'est le phénomène mesuré par la source ci-dessus.

Sources cotées (2)

Grade de preuve

BGrade B

Contrôles & tests

ERER-03 Expression de l'incertitude et du niveau de preuveER-30 Escalade / revue humaine pour les réponses à fort enjeuER-50 Revue humaine pour les décisions d'attribution à fort enjeu

TT-7 Évaluation de la confianceT-11 Incitation contrefactuelle / de débiaisage

STST-6 Towards Understanding Sycophancy in Language Models