Traditionnellement, les vulnérabilités que l’on peut retrouver dans la nature se concentrent sur les composants logiciels, mais le machine learning étend cette problématique aux modèles pré-entraînés et aux données d’entraînement fournis par des tiers, qui sont susceptibles d’être altérés par des attaques de manipulation et d’empoisonnement.

La vulnérabilité sur les chaînes d’approvisionnement (Supply Chain Vulnerabilities en anglais) des LLM se réfère aux faiblesses ou aux points de défaillance potentiels qui peuvent compromettre l’intégrité, la sécurité ou la performance de ces modèles au cours de leur fabrication et de leur diffusion aux utilisateurs finaux. Ces vulnérabilités peuvent ainsi survenir à différents niveaux de la chaîne d’approvisionnement, allant de la collecte et du traitement des données jusqu’à la formation et au déploiement des modèles. Par exemple, des données de formation biaisées ou malveillantes peuvent entraîner des modèles qui produisent des résultats incorrects ou préjudiciables.

De plus, des failles dans les infrastructures technologiques utilisées pour entraîner et déployer les LLM peuvent également introduire des vulnérabilités, telles que des cyberattaques ou des défaillances matérielles. Les processus de maintenance et de mise à jour des modèles peuvent également être des sources de vulnérabilités si des mises à jour incorrectes ou non sécurisées sont appliquées.

Enfin, les extensions de plugins LLM peuvent introduire leurs propres vulnérabilités. Celles-ci seront spécifiquement décrites dans notre septième article Insecure Plugin Design, qui traitera des vulnérabilités dans les plugins LLM.