Les procédures de sécurité actuelles pour la formation des modèles d’IA sont inadéquates, ont averti les gouvernements et la communauté de l’IA par des centaines de chercheurs en IA. Ils réclament des règles plus strictes et la création d’un nouvel organisme international supervisant les meilleures pratiques en matière de développement de l’IA.
Dans une lettre ouverte, les spécialistes de l’IA – 487 au moment de la publication, dont de nombreux universitaires de haut niveau – ont appelé à davantage de recherches sur la sécurité de l’IA et à une plus grande importance accordée aux technologies de confinement.
« Des mécanismes de sandboxing puissants, notamment l’airgapping (déconnexion d’Internet), devraient être utilisés pour assurer un confinement de haute sécurité des modèles d’IA cyber-capables », déclarent les signataires, parmi lesquels figurent des sommités telles que Geoffrey Hinton et Yoshua Bengio.
