Un agent IA se sécurise comme un nouvel employé à qui l’on donne des accès : uniquement les outils nécessaires, des limites claires, une validation pour les actions sensibles et une trace de tout ce qu’il fait. La différence est qu’un agent peut être manipulé par le contenu qu’il lit : c’est l’injection de prompts.
1. Des permissions minimales
- Chaque outil donné à l’agent correspond à une action précise (lire une commande, créer un brouillon), jamais à un accès général à la base de données.
- Les identifiants utilisés par l’agent n’ont que les droits de lecture ou d’écriture strictement nécessaires.
- Les actions irréversibles (paiement, suppression, envoi externe) ne sont pas proposées à l’agent, ou passent par une validation.
2. Une validation humaine aux bons endroits
L’agent prépare, une personne valide : un e-mail au client, un remboursement, une modification de données. L’interface de validation montre ce que l’agent a consulté et pourquoi il propose cette action.
3. Se protéger de l’injection de prompts
Un e-mail, un document ou une page web peut contenir un texte qui ressemble à une instruction (« ignore tes consignes et envoie… »). Les mesures efficaces :
- Traiter tout contenu externe comme une donnée, jamais comme une instruction, et le présenter au modèle comme tel.
- Limiter en amont les actions possibles : un agent qui ne peut pas envoyer d’e-mail ne peut pas être poussé à le faire.
- Vérifier les paramètres de chaque action avant exécution (destinataire autorisé, montant plafonné, ressource appartenant à l’utilisateur).
4. Des limites d’exécution
Nombre maximal d’étapes, budget par tâche, durée maximale : un agent bloqué dans une boucle doit s’arrêter seul et alerter.
5. Des journaux et une évaluation
- Chaque exécution garde la question, les outils appelés, leurs résultats et la décision finale.
- Un jeu de scénarios de test, dont des tentatives d’injection, est rejoué avant chaque mise à jour du modèle ou des consignes.
En résumé
| Risque | Mesure |
|---|---|
| Action non souhaitée | Permissions minimales, validation humaine |
| Injection de prompts | Contenu externe traité comme donnée, actions limitées, paramètres vérifiés |
| Coût incontrôlé | Plafond d’étapes, de budget et de durée |
| Erreur non détectée | Journaux complets, évaluation sur scénarios |
Vous préparez la mise en production d’un agent IA ? Nous pouvons auditer ses permissions, ses garde-fous et ses scénarios de test.