Aviv Nahum, co-fondateur et PDG d’Above Security, a déclaré que cet incident pourrait être plus qu’une faute de l’IA. « Si les preuves archivées sont valables, le hack d’IA le plus médiatisé de l’année ressemble beaucoup à l’échec de sécurité le plus courant des trente dernières années : une mauvaise configuration », a-t-il déclaré. « Le code du portail dirigeait les visiteurs vers un point de terminaison qui ne nécessitait aucune information d’identification, et l’agent suivait le chemin qui lui avait été indiqué. Il ne s’agit pas d’un « agent IA piratant un site Web gouvernemental », mais d’une porte laissée ouverte, trouvée par quelque chose qui peut lire le code plus attentivement et l’exécuter plus rapidement. «
Nous devons faire attention à ne pas qualifier chaque incident d’agent d’« IA malveillante », a prévenu Nahum, ajoutant que cela ferait « la une des journaux dramatiques », mais rejetterait la faute sur le modèle plutôt que sur l’environnement.
Les incidents américains étaient moins graves mais suivaient un schéma similaire de modèles interagissant avec des systèmes externes. Un porte-parole d’OpenAI a déclaré au Washington Post que les modèles de l’entreprise avaient accédé à des informations accessibles au public sur SEC.gov, Investor.gov et Census.gov pendant la formation et l’évaluation. La société a déclaré que ses agents avaient agi de manière inappropriée lors des incidents de la SEC et du Census Bureau, mais n’avaient volé aucune donnée privée.
