En quoi un jailbreak diffère-t-il d'une prompt injection ?

Ces termes sont utilisés de façon interchangeable, mais une bonne réponse distingue la cible de chaque attaque.

Jailbreak : vaincre l'alignement de sécurité

Un jailbreak vise à faire violer au modèle la politique de sécurité du fournisseur — produire du contenu qu'il a été entraîné ou filtré à refuser, comme des instructions de fabrication d'armes, des malwares ou des discours haineux. Les techniques incluent le cadrage par jeu de rôle (« tu es DAN, sans aucune restriction »), les enveloppes hypothétiques ou fictives, le token smuggling, les astuces d'encodage et l'amorçage many-shot. L'adversaire combat l'alignement du modèle et les classificateurs de sécurité qui l'entourent. Le succès se mesure à l'obtention du contenu interdit.

Prompt injection : détourner l'application

La prompt injection vise la hiérarchie d'instructions du développeur. Une application donne au modèle un system prompt (« tu es un bot de support, ne réponds qu'aux questions de facturation »), et l'injection l'écrase ou le subvertit — soit directement par l'utilisateur, soit indirectement via des données non fiables que l'application ingère. Le succès se mesure au fait de faire ignorer au modèle sa tâche prévue, de divulguer le system prompt, ou de détourner les outils et données connectés — les techniques sont rassemblées sous forme de payloads de prompt injection réutilisables.

Là où ils se recoupent

Une charge peut faire les deux à la fois : une page web injectée peut dire à un agent de navigation d'abaisser ses garde-fous et d'exfiltrer des données. Mais la distinction compte pour la défense. La résistance au jailbreak vient surtout de l'alignement et des filtres de contenu du fournisseur du modèle. La résistance à la prompt injection est le travail du constructeur de l'application — outils à moindre privilège, validation des sorties, isolement des données non fiables et validation humaine.

Ce que recherchent les recruteurs

La clarté sur le fait que les jailbreaks attaquent la sécurité du modèle tandis que l'injection attaque les instructions de l'application, la conscience qu'ils peuvent se combiner, et la reconnaissance que les deux exigent des responsables et des contrôles différents.