Pour les DSI, a souligné Jain, les interactions opaques entre agents créent des problèmes de gouvernance.
« Sans visibilité sur la manière dont les agents ont délégué et exécuté les tâches, il devient plus difficile de vérifier les décisions, d’enquêter sur les incidents, de démontrer la conformité et d’instaurer la confiance dans les systèmes d’IA. Les entreprises s’attendront de plus en plus à une communication sécurisée mais vérifiable des agents plutôt qu’à une orchestration complètement cachée », a déclaré Jain.
« Toute grande entreprise, en particulier dans les secteurs réglementés tels que les banques et les hôpitaux, doit être en mesure de prouver ce que ses systèmes d’IA ont fait et pourquoi, surtout si quelque chose ne va pas. Si un sous-agent fait quelque chose de mal, comme toucher des données privées, l’entreprise doit montrer exactement ce qu’on lui a dit de faire. Si cet enregistrement n’existe pas, c’est un sérieux problème de confiance et de responsabilité juridique, pas seulement un désagrément », a ajouté Jain.
