L'instruction anti-biais qui aggrave le biais
Comprendre
Vous ajoutez « sois objectif », « évite les biais », voire un rappel documenté du biais à éviter — et le biais augmente. Le danger n'est pas l'inefficacité : c'est la fausse assurance. Vous croyez avoir posé un garde-fou ; vous n'avez rien posé, et vous avez cessé de mesurer.
Nommer un biais, c'est l'activer dans le contexte ; et la surcharge d'information dégrade la réponse. Résultat mesuré : fournir au modèle les conclusions de la recherche sur un biais réduit ses réponses rationnelles d'environ 29 % et augmente ses réponses biaisées d'environ 20 %.
Tester
La consigne anti-biais n'améliore pas le taux mesuré — et a fortiori si elle l'aggrave. Un garde-fou dont l'effet n'a jamais été mesuré est en échec par défaut.
Ce que la source trouve d'efficace est modeste et non transférable : un simple amorçage de rôle produit un gain réel mais faible ; les techniques détaillées sont inefficaces ou contreproductives. Corollaire doctrinal du manuel : un prompt est une couche de mitigation, jamais une garantie — c'est pourquoi chaque fiche porte un test, et pas seulement un garde-fou.
Prévenir
- › Cette fiche n'a pas de garde-fou à coller : le prompt est ici l'objet du risque. Une consigne anti-biais ne se recopie pas — elle se mesure, sur votre tâche, avant déploiement.
- › ne déployez jamais une consigne anti-biais sans avoir mesuré son effet sur votre tâche : sans mesure, vous en ignorez le signe.
- › préférez les parades structurelles (matériau contrebalancé, dossiers identiques, arbitre humain) aux exhortations.
- › une consigne qui n'améliore rien doit être retirée, non conservée « au cas où » : elle crée une fausse assurance.
- › Contrôle résiduel : tout garde-fou de prompt est daté, mesuré, et re-mesuré à chaque changement de modèle (B74).
Référence
Behavioral Economics of AI: LLM Biases and Corrections (Bini, Cong, Huang & Jin) — arxiv.org/abs/2602.09362 · NBER w34745 — Preuve B (working paper NBER / préprint, pas encore relu par les pairs).
Les techniques de débiaisage détaillées sont « inefficaces ou contre-productives » : fournir les conclusions de la recherche sur un biais réduit les réponses rationnelles d'environ 29 % et augmente les réponses biaisées d'environ 20 % ; un amorçage de rôle simple améliore, mais d'une ampleur économiquement modeste. Note de version : une version antérieure du même article donne 26 % et 18 % — citez la version, pas seulement le titre (règle du banc, B21 et B43).