Comment les applications LLM divulguent-elles des informations sensibles, et comment l'empêcher ?

La divulgation d'informations sensibles est régulièrement l'un des principaux risques LLM parce que les modèles touchent beaucoup de données et présentent plusieurs voies de fuite distinctes.

Comment les fuites se produisent

• Mémorisation des données d'entraînement. Les modèles peuvent mémoriser et restituer mot pour mot des fragments de leurs données d'entraînement ou de fine-tuning — PII, identifiants, documents internes — lorsqu'on les sollicite de la bonne manière. C'est un risque au niveau du modèle, difficile à défaire après l'entraînement.
• Fuite de system prompt. Les applications insèrent souvent des instructions, de la logique métier et parfois des secrets dans le system prompt. Les attaquants l'extraient via l'injection. Considérez le system prompt comme lisible par les utilisateurs.
• Récupération sur-permissionnée. En RAG, si le magasin de vecteurs renvoie des documents sans vérifier l'autorisation de l'utilisateur demandeur, le modèle résumera volontiers des données qu'il n'était jamais autorisé à voir.
• Débordement entre sessions / entre locataires. Une mauvaise isolation, des caches partagés ou un contexte réutilisé peuvent faire fuir les données d'un utilisateur dans la réponse d'un autre.

Prévention

• Minimisation des données avant l'entraînement et le fine-tuning ; expurgez les PII et secrets des corpus.
• Ne jamais mettre de secrets dans les prompts. Gardez clés et identifiants dans un gestionnaire de secrets, récupérés côté serveur avec le moindre privilège.
• Autorisation au moment de la récupération. Filtrez le magasin de vecteurs selon les permissions de l'utilisateur demandeur, pas après coup.
• Filtrage des sorties et rédaction de PII sur les réponses.
• Isolement par locataire du contexte, de la mémoire et des caches.

Ce que recherchent les recruteurs

Un candidat qui énumère plusieurs voies de fuite — pas seulement « le modèle dit des choses secrètes » — et associe chacune à un contrôle concret, en particulier l'autorisation par utilisateur sur le RAG et le maintien des secrets hors des prompts.