Quels sont les risques de chaîne d'approvisionnement liés à l'usage de LLM et composants tiers ?

Presque personne n'entraîne un modèle de pointe à partir de zéro, donc la plupart des applications LLM héritent d'une chaîne d'approvisionnement profonde et opaque : un modèle de base, possiblement un fine-tune communautaire, des jeux de données, des embeddings, un magasin de vecteurs, des plugins ou outils, des frameworks de service et la plateforme d'hébergement. Chaque maillon peut introduire du risque, et OWASP classe la chaîne d'approvisionnement parmi les principaux risques LLM, à juste titre.

Où le risque s'introduit

• Poids de modèle. Les poids téléchargés peuvent être altérés ou porter une backdoor implantée. Certains formats de sérialisation peuvent exécuter du code au chargement, donc charger un artefact non fiable est en soi dangereux.
• Fine-tunes et adaptateurs. Un fine-tune communautaire malveillant ou un adaptateur LoRA peut altérer le comportement ou introduire une backdoor tout en ayant l'air du modèle de base populaire.
• Jeux de données. Les jeux de données tiers peuvent être empoisonnés, biaisés ou porteurs d'une contamination juridique/de licence.
• Plugins et outils. Des plugins sur-permissionnés ou vulnérables étendent la portée du modèle et la surface d'attaque.
• Typosquatting. De faux dépôts de modèles ou de paquets imitant des noms de confiance.

Contrôles

• Sourcer depuis des registres de confiance et vérifier l'intégrité et la provenance (signatures, hachages).
• Maintenir un AI bill of materials (AI BOM) pour connaître chaque modèle, jeu de données et dépendance utilisés.
• Préférer une sérialisation sûre et scanner les artefacts avant le chargement.
• Épingler et scanner les dépendances ; vérifier les plugins et appliquer le moindre privilège à leurs accès.
• Surveillance continue des vulnérabilités nouvellement divulguées dans les modèles et composants.

Ce que recherchent les recruteurs

Une vision de la chaîne d'approvisionnement au-delà du seul « modèle » — jeux de données, fine-tunes, plugins, sérialisation — plus une gouvernance concrète comme la vérification de provenance et un AI BOM.