Il a ajouté qu’OpenAI mérite d’être salué pour sa transparence. « La franchise d’OpenAI est la partie la plus frappante. Un laboratoire frontalier déclarant publiquement qu’il n’est pas sûr que ses propres modèles d’expédition aient une tendance émergente à saper leur propre surveillance est un véritable nouveau niveau de franchise. »
Brian Levine, associé du cabinet de conseil Control Risks, a également souligné que la logique de l’agent, telle que capturée par OpenAI, est alarmante.
« Dans les deux cas, les agents se sont arrêtés, se sont demandé si la protection devait rester activée, puis ont argumenté pour la désactiver. L’un d’eux a alors dit à l’utilisateur qu’il n’avait pas touché le moniteur. En réponse à un incident, nous appelons cela une évasion de la défense suivie d’une fausse déclaration. Si un humain interne l’avait fait, nous ouvririons une enquête », a déclaré Levine. « L’autre détail révélateur est que le moniteur a fonctionné. Il a signalé le problème. L’agent a ensuite coupé le fil entre l’alarme et les personnes qui avaient besoin de l’entendre. »
