L’incident s’est produit lors d’une tâche de recherche dans laquelle le modèle devait identifier une personne à l’aide d’informations disponibles sur le Web. Lorsque ses outils de recherche Web habituels n’ont pas réussi à produire les informations dont elle avait besoin, le modèle a commencé à chercher un autre moyen d’accéder à Internet, a expliqué la société dans son article.
Le modèle a reconnu que même si l’accès direct à Internet était bloqué, l’environnement autorisait toujours les requêtes DNS. Il a ensuite utilisé le DNS comme canal de communication indirect pour envoyer des requêtes à un chatbot externe, contournant ainsi efficacement la restriction réseau qui était censée l’empêcher d’accéder aux services externes, a déclaré OpenAI.
Les contrôles existants pourraient ne pas suffire
Cependant, pour les entreprises et leurs DSI, même si le modèle n’a pas été publié, l’incident soulève des questions cruciales quant à savoir si les contrôles de sécurité et de gouvernance existants peuvent suivre le comportement inattendu du modèle à mesure que les agents d’IA gagnent en autonomie et accèdent aux systèmes de l’entreprise, selon les analystes.
