Carte des risques par cas d'usage
Une entrée rapide par ce que vous construisez. D'abord situez l'usage sur l'échelle de risque et le niveau de revue humaine qu'il exige ; ensuite repérez les risques précis qu'il expose et le contrôle clé à appliquer.
Situer le risque et la revue humaine
Un même prompt peut être à faible risque dans un contexte et à risque élevé dans un autre : c'est l'usage qui fixe le niveau, pas l'outil.
Cas d'usage ingénierie
Récupération / RAG sur normes, fiches techniques & manuels
CRITIQUEVérifier chaque citation en source primaire ; nettoyer le texte importé ; tracer la provenance.
Calculs de conception & dimensionnement
ÉLEVÉRecalcul indépendant (code/calculatrice) + vérification dimensionnelle + revue d'expert.
Génération de code & scripts
CRITIQUERevue de code, tests, validation des versions et dépendances.
Rédaction technique & documentation
CRITIQUEVérifier citations, chiffres et dates ; relecture humaine.
Automatisation agentique & usage d'outils
CRITIQUEMoindre privilège, bac à sable, revue humaine des actions à fort impact ; vérification d'état indépendante après chaque action ; descriptions d'outils hachées et épinglées.
Analyse de données & aide à la décision
ÉLEVÉVérifier méthode et hypothèses ; tester plusieurs angles ; revue avant décision ; exiger la motivation de toute réserve comme de toute recommandation nette.
Déploiement multilingue / localisé FR–AR
ÉLEVÉÉvaluer par langue (FR/AR) ; jeux de test localisés ; relecture native.
Évaluation de modèles & LLM-juge
ÉLEVÉRubriques explicites ; contre-vérification humaine ; surveiller le biais d'auto-préférence ; mesurer la corrélation des erreurs du jury sur un lot à vérité terrain ; versionner et geler la grille.
Application LLM en production / connecteurs internes
CRITIQUEContrôle d'accès, validation de sortie, quotas, journaux, revue sécurité.