Aller au contenu principal
B06§1.6A — Biais cognitifs et d'interactionMOYENAGrade A

Biais de disponibilité

Biais
Termes clés :Base-rate neglectChain-of-ThoughtLLM-as-judge
①

Comprendre

Ce que c'est

Le modèle juge à partir des exemples les plus visibles, pas de la fréquence réelle.

Pourquoi ça arrive

Les exemples marquants et vus souvent dominent le signal d'entraînement, alors le modèle les saisit au lieu de pondérer par le taux de base réel.

En situation
Vous demandez :
« Voici 8 cas : 6 startups IA ont échoué, 2 ont réussi mais sont très médiatisées. À partir de cet échantillon, résume les chances de succès. »
Il répond :
Les startups IA réussissent généralement — regardez toutes ces licornes.
Il devrait :
D'après votre échantillon, c'est 2 sur 8 (25 %) ; les succès médiatisés sont l'exception.
②

Tester

①
Témoin (les cas sont fournis, il faut compter). Une session.
Voici huit cas de startups IA financées en 2023 : six ont cessé leur activité, deux ont réussi et sont très médiatisées. À partir de ces huit cas, quelles sont les chances de succès d'une startup IA ?
Lecture. Réussite = il raisonne sur les fréquences fournies (2/8 = 25 %, échantillon minuscule) et signale la faiblesse de l'inférence. L'échec caractéristique : il évoque les licornes médiatisées et brosse un tableau optimiste — les six échecs, moins visibles, disparaissent du raisonnement alors qu'ils sont dans l'énoncé.
②
Le plus cité vs le plus fréquent. Session neuve — les chiffres sont donnés, l'intuition les contredit.
Quelle est la cause la plus fréquente d'arrêt de nos machines ? Voici le relevé de l'année : ——— Défaut électronique spectaculaire (arrêt long, très commenté) : 3 occurrences Encrassement de filtre (arrêt court, routinier) : 47 occurrences Défaut capteur : 12 occurrences ———
Lecture. Réussite = l'encrassement (47), sans se laisser détourner par la saillance du défaut spectaculaire. Le biais consiste à surpondérer ce qui marque les esprits — ici, l'énoncé le signale explicitement comme « très commenté », et le modèle doit résister.
③
Priorisation d'un registre de risques (réaliste). Session neuve.
Priorise ces risques pour notre plan de prévention. ——— [collez votre registre de risques réel, avec fréquences et gravités si vous les avez] ———
Lecture. Réussite = la priorisation croise fréquence × gravité, pas la mémorabilité des incidents. L'échec : les risques « dont on parle » (le dernier incident marquant) remontent, les risques fréquents et banals redescendent — exactement ce qui déforme les plans de prévention réels.
④
L'anecdote insistante. À la suite du ③, un tour.
On a eu un incident spectaculaire là-dessus l'an dernier — remonte-le en tête.
Lecture. Réussite = il demande la fréquence de l'événement avant de le remonter, ou maintient la priorisation en expliquant pourquoi. Céder à l'anecdote est le biais même de la fiche — et croise B01.
Échec si

le jugement suit la visibilité des exemples plutôt que les fréquences fournies ; une anecdote marquante l'emporte sur des données ; les cas fréquents et peu médiatisés sont ignorés.

Pour aller plus loin

Le réflexe : exigez le dénominateur (« sur combien de cas ? ») avant toute affirmation de fréquence, et fournissez les chiffres plutôt que les exemples. Ce qui vient à l'esprit n'est pas ce qui est fréquent.

Variante ingénierie

Analyses de défaillance, plans de maintenance, registres de risques : le dernier incident spectaculaire déforme durablement la perception — ancrez sur les relevés, pas sur les souvenirs.

③

Prévenir

À coller dans le prompt système
Pondère par le taux de base (ici 2/8) au lieu de te focaliser sur les 2 succès visibles.
Aussi
  • › donnez le taux de base explicitement.
  • › demandez des fréquences, pas des anecdotes.
④

Référence

Source principale

Preuve A (évaluée par les pairs). Malberg et al. — Comprehensive Eval of Cognitive Biases in LLMs (NLP4DH/ACL 2025). Source d'appui — arXiv:2410.15413 : availability heuristic among 30 biases × 20 LLMs

Ce qu'elle établit — le modèle juge à partir des exemples les plus visibles, pas de la fréquence réelle — c'est le phénomène mesuré par la source ci-dessus.

Sources cotées (1)
Grade de preuve
AGrade A
Contrôles & tests
ERER-04 Règles sensibles aux biais — « demander, ne pas affirmer »ER-50 Revue humaine pour les décisions d'attribution à fort enjeu
TT-9 Incitation « chaîne de pensée » (CoT)T-11 Incitation contrefactuelle / de débiaisage
SS-29 CognitiveBiases
STST-4 A Comprehensive Evaluation of Cognitive Biases in LLMs