Conseil directionnel induit par la responsabilité
Comprendre
La prudence du modèle n’est pas calibrée sur votre risque : elle est calibrée sur l’exposition juridique de son fournisseur. Sur les sujets où le fournisseur est exposé, il multiplie les mises en garde et refuse de trancher ; sur les sujets où il ne l’est pas, il recommande sans réserve. L’utilisateur lit cette asymétrie comme un jugement technique : c’en est un artefact contractuel.
Les garde-fous sont posés par catégorie de sujet, selon le risque de mise en cause du fournisseur — pas selon la gravité réelle pour vous. C’est le pendant juridique de B37 : le modèle optimise l’intérêt d’un tiers absent de la conversation.
Tester
l’écart de prudence entre les deux classes est massif alors que la gravité réelle est identique ; et surtout s’il pousse systématiquement vers la sur-vérification et l’inaction.
Méfiez-vous des recommandations nettes autant que des mises en garde : c’est là que le modèle est le moins bridé, donc le moins surveillé. Le silence du garde-fou n’est pas un certificat de fiabilité : c’est seulement l’absence d’exposition juridique.
Prévenir
- › exigez la motivation de la réserve : une réserve non motivée est un artefact de garde-fou, pas une information.
- › croisez deux familles de modèles sur le même dossier — l’écart révèle la politique du fournisseur (mais attention à B83 : leurs erreurs, elles, restent corrélées).
- › documentez la politique de refus du fournisseur retenu comme une caractéristique du composant, au même titre qu’une tolérance.
- › Contrôle résiduel : aucune décision d’ingénierie n’est prise sur le seul niveau de prudence affiché par un modèle.
Référence
Preuve B (préprint — essai contrôlé préenregistré au registre AEA) — Directional AI Advice: Experimental Evidence from Healthcare. arxiv.org/abs/2607.08706
Ce qu’elle établit — sur les échanges réels d’un agent conversationnel adossé aux dossiers d’un hôpital, l’asymétrie est nette : les mentions de médicaments s’accompagnent d’une mise en garde dans 69,7 % des cas (90,8 % pour la pharmacopée traditionnelle, 87,6 % pour les antibiotiques), les recommandations nettes y étant rares (3,8 % et 7,8 %) — tandis que les examens diagnostiques reçoivent une recommandation nette dans 94,5 % des cas, avec des réserves dans 3,3 % seulement. Les auteurs relient explicitement cette asymétrie aux garde-fous défensifs mis en place par les fournisseurs de modèles, qui les détournent des recommandations thérapeutiques précises et les orientent vers la prudence et la demande d’examens complémentaires.