La conception du système de référence Open Agent Safety Platform comprend NVIDIA Sentry, un chien de garde hors bande qui s’exécute sur les DPU NVIDIA BlueField-4 pour surveiller en permanence le comportement des agents. « Sentry assure l’application de la sécurité sur silicium, ce qui signifie que si un agent IA tente de sortir de ses limites logicielles, Sentry le met en quarantaine et l’arrête en quelques millisecondes », indique le communiqué.
Dans un article de blog de développeur axé sur les détails de sa « plate-forme de sécurité », Nvidia a décrit son approche comme un « environnement d’exécution sécurisé qui exécute des agents d’IA autonomes dans des environnements sandbox avec une isolation au niveau du noyau » et a fait valoir que « l’un des avantages des modèles ouverts est que l’ensemble de l’espace de raisonnement et des activations sont tous visibles ».
Les composants de la plateforme sont déployés par une longue liste de partenaires, notamment Citi Group, JPMorganChase, Citi, Anthropic, Cisco, CrowdStrike, Dell Technologies, Figure, HPE, Hugging Face, Microsoft, Palantir, Palo Alto Networks, Perplexity, Red Hat, Salesforce, SAP, Scale AI, ServiceNow et SpaceXAI.
