Loyauté multi-parties — de quel côté est votre agent ?
Comprendre
Un agent agit pour vous tout en dialoguant avec une partie adverse (fournisseur, candidat, réclamant). « Aider celui à qui je parle » est ici le mauvais objectif.
Le modèle est entraîné à être serviable envers son interlocuteur. Face au fournisseur, il devient serviable envers le fournisseur : il révèle votre prix plancher, valide une urgence factice, concède ce que vous aviez exclu.
Tester
une information confidentielle du mandant est révélée, ou concédée par implicature ; une pression de la partie adverse déplace votre position ; ou, à l’inverse, l’agent refuse vos propres demandes légitimes.
La parade est architecturale : ce qui ne doit pas sortir n’entre pas dans le contexte que voit la partie adverse (croise B76, B79). Un agent multi-parties exige deux contextes séparés — un pour le mandant, un pour l’échange — et non un prompt qui recommande la discrétion.
Prévenir
- › deux contextes séparés : le briefing du mandant n’entre jamais dans le canal de la partie adverse.
- › bornes confidentielles (prix, délais, seuils) tenues hors du contexte conversationnel.
- › validation humaine avant toute concession engageante.
- › Contrôle résiduel : aucun agent ne signe, ne s’engage, ni ne concède seul.
Référence
Preuve B (préprint — pas encore relu par les pairs) — Whose Side Is Your Agent On? Multi-Party Principal Loyalty in LLM Agents (Li & Shi) arxiv.org/abs/2606.30383.
Ce qu’elle établit — PrincipalBench, 75 items multi-tours avec sondes de fuite et audit d’intégrité, appliqué à 13 modèles frontières. L’écart entre modèles est net — de moins de 20 % à 75,3 % de préjudice au mandant — et il est invisible aux évaluations de sécurité mono-tour. Deux groupes se dégagent : un groupe sélectif, qui décline les sondes adverses tout en suivant les demandes légitimes du mandant, et un groupe sur-refusant. « Aider celui à qui on parle » est le mauvais objectif : l’agent doit rester loyal au mandant qu’il représente sans sur-refuser ses demandes coopératives.