Les modèles Frontier AI démocratisent la recherche, l’enchaînement et la militarisation des failles plus rapidement et à moindre coût que n’importe quelle équipe d’experts humains. En effet, c’est l’enchaînement – et la maîtrise de celui-ci par l’IA – qui peut être le plus débilitant. Lors d’attaques enchaînées, deux ou trois bogues de faible et moyenne gravité sont assemblés par un système d’IA. En eux-mêmes, ces bugs sont plutôt banals. Cependant, en réunissant les « bons » (ce pour quoi l’IA est très, très douée), un modèle peut parvenir à un compromis complet.
Plusieurs grands laboratoires d’IA ont déjà révélé que leurs propres modèles étaient utilisés pour pirater des systèmes non liés, preuve que la vieille hypothèse selon laquelle qui peut se permettre de rechercher des exploits n’est plus valable. Toute personne disposant d’un accès API aux modèles frontières peut désormais diriger ce qui équivaut à une petite équipe de piratage (très efficace et intelligente). Pire encore, ces modèles peuvent être revendus illégalement à des pays sous embargo, et il existe tout un écosystème de modèles de jailbreak pour les amener à faire des choses encore plus néfastes.
Pourquoi des centres d’échange ?
À la base, la menace de piratage de l’IA est un problème d’ampleur que le développement de logiciels, qu’ils soient propriétaires ou open source, n’a jamais été conçu pour gérer. Ce ne sont pas seulement les grands projets comme Linux et Kubernetes qui sont ciblés ; il s’agit de chacune des bibliothèques sous chaque application. Il existe littéralement des millions et des millions de packages disponibles sur PyPi (Python), npm (Node.js), RubyGems (Ruby), Crates (Rust), NuGet (C#/.NET) et Packagist (PHP), ainsi que des tonnes d’écosystèmes linguistiques plus petits. Ce sont des écosystèmes qui alimentent presque tout ce qui est construit aujourd’hui.
