Garde-fous IA : définition complète en IA pour les PME

Les garde-fous IA sont l'ensemble des règles, contrôles et mécanismes qui encadrent le comportement d'un système d'IA pour l'empêcher de produire des sorties dangereuses, fausses ou non conformes. Ils agissent à trois niveaux : au prompt (règles explicites dans le system prompt), à la validation (contrôles automatiques et humains sur les sorties avant action) et à l'accès (limitation des outils et données accessibles à l'agent).

Ce que ça change pour une PME

Les garde-fous sont la condition pour déléguer du travail réel à un agent IA :

• un agent de comptabilité qui ne peut pas valider une écriture au-delà d'un montant, et doit demander validation humaine ensuite ;
• un agent de réponse client qui est interdit de citer un prix non sourcé ;
• un agent de courrier entrant qui classe les pièces en « à vérifier » dès qu'il hésite.

La bonne pratique

Ne pas couvrir tous les cas imaginables — définir les cas à risque critique et y poser des garde-fous solides, puis itérer. Documenter les règles dans le cahier des charges de l'agent. En direction IA externalisée, on considère les garde-fous comme un livrable à part entière : sans eux, pas de mise en production.

Les différents types de garde-fous

Type	Rôle	Exemple
Garde-fou d'entrée	Filtrer ce qui arrive à l'agent	Refuser les demandes hors périmètre, détecter une tentative d'injection de prompt
Garde-fou de sortie	Contrôler ce qu'il produit	Vérifier un format, masquer des données personnelles
Garde-fou d'action	Limiter ce qu'il peut faire	Plafond de montant, liste d'actions autorisées
Supervision humaine	Valider les cas sensibles	Approbation avant envoi ou paiement

Comment les mettre en place

1. Listez les erreurs coûteuses possibles (fuite de données, mauvais montant, message inapproprié).
2. Pour chacune, choisissez la parade la plus simple : règle, validation, limite ou humain.
3. Testez volontairement ces cas, y compris avec des entrées piégées.
4. Journalisez pour pouvoir prouver ce que l'agent a fait.

Questions fréquentes

Les garde-fous ralentissent-ils l'agent ? Légèrement, mais ils évitent des erreurs plus coûteuses que le temps perdu.

Suffisent-ils à sécuriser un agent ? Ils réduisent le risque, ils ne remplacent ni la gouvernance ni la supervision. Voir aussi gouvernance IA.