Injection de données de contexte utilisateur involontaireun exploit qui s’appuie sur la frontière entre les données fiables et les instructions exécutables, incitant l’utilisateur à introduire des instructions malveillantes dans les données contextuelles du LLM. L’invite peut être inoffensive : l’instruction malveillante est cachée dans les données contextuelles environnantes. Cela fonctionne lorsqu’un utilisateur télécharge un document, transfère un e-mail ou ajoute du contenu qui est ensuite traité par l’IA.
Les équipes de sécurité peuvent se prémunir contre de telles attaques de plusieurs manières, a déclaré CrowdStrike, notamment en modélisant les menaces partout où le contexte du modèle peut provenir, en élargissant les tests et en étendant l’ingénierie de détection pour inclure les attaques composites.
Cet article a été publié pour la première fois sur CSO.
