Une faille de sécurité de la mémoire dans CPython peut permettre à des modèles de modèles d’IA malveillants d’échapper aux bacs à sable de code et d’exécuter du code arbitraire à l’intérieur des serveurs d’inférence, selon les chercheurs en sécurité de RunSybil.
« En exploitant cette vulnérabilité, les attaquants pourraient prendre pied à l’intérieur des serveurs responsables du traitement de millions de requêtes d’utilisateurs », a écrit Darius Houle, chercheur en sécurité chez RunSybil, dans un article de blog. « Ils pourraient également s’attaquer directement à l’infrastructure cloud sous-jacente qui héberge ces charges de travail. »
Les chercheurs ont démontré comment un modèle spécialement conçu pouvait exploiter la faille pour contourner Jinja, un moteur de création de modèles basé sur Python utilisé pour structurer les interactions entre les utilisateurs et les LLM, les protections sandbox et exécuter du code dans le processus de diffusion du modèle. L’attaque pourrait exposer les fournisseurs d’hébergement d’IA qui permettent aux clients de télécharger et d’exécuter leurs propres modèles, donnant potentiellement aux attaquants un pied dans l’infrastructure de traitement des demandes de plusieurs clients, ajoute le message.
