Alors que sans Agent Memory, chaque session d’agent repart de zéro, gaspillant des jetons et augmentant le risque de décisions incohérentes dans des processus de longue durée, les DSI doivent s’assurer que la mémoire est régie par une propriété, des politiques de conservation et des contrôles d’accès clairement définis, car elle pourrait contenir des informations personnelles et commercialement sensibles soumises aux réglementations en matière de confidentialité, a déclaré Chaturvedi.
« Une mémoire obsolète pourrait également amener les agents à agir sur des informations incorrectes, telles que des conditions de fournisseur obsolètes ou des préférences des clients. Les entreprises auraient donc besoin de mécanismes pour expirer ou corriger les informations stockées, isoler la mémoire entre les utilisateurs et la protéger contre les fausses entrées délibérément implantées », a-t-il ajouté.
De même, le cache sémantique pourrait permettre de réaliser des économies substantielles sur les coûts de calcul et d’inférence de l’IA, en particulier pour les charges de travail impliquant des informations relativement stables, telles que les requêtes du service d’assistance, les politiques RH et les FAQ sur les produits.
