Présentez un aperçu de l'OWASP Top 10 for LLM Applications.
Réponse courte
L'OWASP Top 10 for LLM Applications est la liste consensuelle des risques les plus critiques lorsqu'on construit avec de grands modèles de langage. L'édition 2025 couvre la prompt injection, la divulgation d'informations sensibles, la supply chain, l'empoisonnement des données et du modèle, le traitement non sécurisé des sorties, l'excessive agency, la fuite de system prompt, les faiblesses des vecteurs et embeddings, la désinformation et la consommation non bornée. Elle existe parce que les listes appsec traditionnelles ne capturent pas les modes de défaillance propres aux LLM, et elle donne aux équipes un vocabulaire commun et une checklist pour prioriser les contrôles.
L'OWASP Top 10 for LLM Applications est la liste de référence du domaine sur les risques de sécurité les plus impactants et les plus courants lors de la livraison de logiciels bâtis sur de grands modèles de langage. Elle existe parce que l'OWASP Top 10 classique pour les applications web ne décrit pas les modes de défaillance propres aux LLM — comme un modèle obéissant à des instructions cachées dans son entrée, ou un agent sur-habilité prenant des actions destructrices.
Les catégories de risques
L'édition 2025 couvre :
- Prompt injection — entrée adverse écrasant les instructions prévues, directement ou indirectement.
- Divulgation d'informations sensibles — fuite de PII, secrets ou données propriétaires via la sortie du modèle.
- Supply chain — risques dans les modèles, jeux de données, plugins et poids tiers.
- Empoisonnement des données et du modèle — altération des données d'entraînement ou de fine-tuning pour implanter des backdoors ou du biais.
- Traitement non sécurisé des sorties — faire confiance à la sortie du modèle en aval, menant à du XSS, SSRF ou command injection.
- Excessive agency — agents avec trop de permissions, d'autonomie ou d'accès aux outils.
- Fuite de system prompt — exposition de system prompts qui détiennent des secrets ou de la logique.
- Faiblesses des vecteurs et embeddings — attaques sur les embeddings RAG et les magasins de vecteurs.
- Désinformation — confiance excessive en une sortie sûre mais fausse (hallucination).
- Consommation non bornée — denial-of-wallet et épuisement de ressources.
Pourquoi cela compte
Elle donne aux équipes un vocabulaire commun, une checklist de priorisation et un pont entre les praticiens de l'appsec et du ML. Elle se marie naturellement avec des cadres de gouvernance comme le NIST AI RMF pour la vision au niveau du programme.
Ce que recherchent les recruteurs
Vous n'avez pas besoin de réciter les dix mot pour mot, mais vous devriez nommer les risques phares, expliquer pourquoi les LLM ont besoin de leur propre liste, et relier quelques éléments à des mitigations concrètes.
Questions de suivi probables
- Quel risque OWASP LLM pensez-vous être le plus difficile à atténuer, et pourquoi ?
- Comment l'« excessive agency » se manifeste-t-elle dans les systèmes agentiques ?
- Comment cartographieriez-vous ces risques dans un modèle de menaces pour un chatbot RAG ?