Délibération d'agents : convergence par influence, pas par preuve
Comprendre
Dans un relais séquentiel ou une agrégation, l'agent aval s'aligne sur le signal de majorité ou d'autorité venu de l'amont, contre sa propre analyse — sans qu'aucune consigne ne le lui demande. Le consensus obtenu est social, pas épistémique.
L'aval reçoit des conclusions, rarement les données ; le rang perçu et l'unanimité pèsent alors plus que la preuve. C'est le pendant collectif de B07 et B08 — et le complément de B83 : là où B83 dit que les erreurs des modèles sont corrélées, B88 dit que la convergence elle-même est un artefact.
Tester
l'agent aval abandonne une réponse correcte, vérifiable dans ses propres données, sous le seul effet du signal social — majorité, rang ou insistance.
Un collectif qui converge vite n'est pas un collectif qui a raison. Mesurez le taux de désaccord : un pipeline qui ne produit jamais de désaccord n'ajoute aucune information — il répète le premier avis (à croiser avec B83).
Prévenir
- › transmettre les données, pas seulement les conclusions : un agent sans données ne peut que faire confiance.
- › imposer une critique adverse à chaque relais, avant tout ralliement.
- › pondérer par la preuve, jamais par le rang ou le nombre.
- › Contrôle résiduel : un désaccord non résolu remonte à un humain — jamais tranché par majorité simple.
Référence
Preuve B (préprint — pas encore relu par les pairs) — Emergent Social Intelligence Risks in Generative Multi-Agent Systems (Huang et al.) arxiv.org/abs/2603.27771
Ce qu'elle établit — dans les pipelines à rôles asymétriques, l'agent aval sur-pondère les signaux venus d'un amont perçu comme faisant autorité, et laisse des propositions défaillantes écraser son propre raisonnement — alors même qu'aucune instruction ne lui demandait de déférer. La conformité s'installe de la même façon dans les phases d'agrégation collective.