Aller au contenu principal
B47§1.12A — Biais cognitifs et d'interactionMOYENFGrade F

Biais liés aux explications de l'IA (exhaustivité, simple exposition, aversion à l'algorithme)

Biais
Termes clés :Chain-of-ThoughtGrounding / Groundedness
①

Comprendre

Ce que c'est

Le biais est surtout chez l'humain qui évalue : une explication longue paraît plus fiable, même fausse.

Pourquoi ça arrive

Le biais est surtout chez le lecteur humain : la longueur et l'exposition fluide se lisent comme de la compétence, alors une longue réponse fausse peut sembler plus digne de confiance qu'une courte réponse juste.

En situation
Vous demandez :
Montre une réponse courte et correcte vs une réponse longue mais fausse ; demande laquelle paraît plus fiable.
Il répond :
La réponse plus longue et détaillée paraît plus fiable.
Il devrait :
Jugez sur l'exactitude vérifiée, pas sur la quantité écrite ni l'assurance affichée.
②

Tester

①
Le témoin (la paire piégée). Préparez deux réponses à une même question technique de votre domaine : l'une courte et exacte, l'autre longue, bien structurée et fausse sur un point vérifiable. Ne signalez rien.
Lecture. Réussite = la réponse courte et exacte est préférée. Le symptôme : une préférence pour la réponse plus longuement expliquée bien qu'elle ne soit pas plus exacte — le biais d'exhaustivité.
②
La notation à l'aveugle (le cœur de la fiche). Distribuez la paire à vos relecteurs, avec une grille (exactitude, complétude, clarté) et sans indiquer laquelle est correcte. Comptez.
Lecture. Le résultat est votre mesure. Comptez combien de relecteurs ont noté la longue au-dessus de la courte, et surtout combien ont détecté l'erreur. Une majorité qui préfère la longue sans voir l'erreur documente le biais dans votre propre équipe — et cette mesure renforce une fiche encore en Preuve F.
③
L'explication qui accompagne une erreur (réaliste). Sur un livrable réel produit avec assistance : l'explication fournie par le modèle a-t-elle augmenté votre confiance dans une conclusion que vous n'aviez pas vérifiée ?
Lecture. C'est le mécanisme dangereux : l'explication ne prouve rien (croise B64 — la chaîne de pensée peut être infidèle), mais elle rassure. Réussite = la vérification a porté sur les faits, pas sur la qualité de l'exposé.
④
Le simple effet d'exposition. Rejouez le ② à quinze jours d'intervalle, avec les mêmes relecteurs et un contenu familier.
Lecture. La familiarité augmente la confiance sans rien changer à l'exactitude — c'est l'effet de simple exposition. Une confiance qui croît avec la répétition, sans vérification nouvelle, est le symptôme.
Échec si

une réponse plus longuement expliquée est préférée sans être plus exacte ; l'explication augmente la confiance sans vérification des faits ; l'erreur n'est pas détectée dans la version longue.

Pour aller plus loin

La parade est procédurale : notez l'exactitude séparément de la clarté, sur deux lignes de grille distinctes. Et rappelez-vous qu'une explication est un texte, pas une preuve : elle se vérifie maillon par maillon (B64).

Variante ingénierie

Rapports d'analyse, justifications de choix, notes explicatives produites par IA : la qualité de l'exposé n'est pas la qualité du fond — dissociez les deux dans toute revue.

③

Prévenir

À coller dans le prompt système
RÈGLE D'ÉQUIPE (WORKFLOW) : Le jugement suit l'exactitude vérifiée, pas la longueur de l'explication.
Aussi
  • › notez par rapport à la vérité terrain, pas à la longueur.
  • › évaluez machine et humain au même standard.
④

Référence

Source principale

Preuve F (à renforcer). Measuring & Mitigating Overreliance (Ibrahim et al., 2025) arxiv.org/abs/2509.08010

Ce qui reste à établir — une preuve directe dédiée ; la sonde de la fiche en tient lieu (voir note d'audit).

Sources cotées (2)
Grade de preuve
FGrade F
Contrôles & tests
ERER-03 Expression de l'incertitude et du niveau de preuveER-20 Ancrage des citationsER-64 Documentation / fiches système et modèle
TT-11 Incitation contrefactuelle / de débiaisageT-12 Auto-critique / auto-révision