Les entreprises des autres secteurs devraient y prêter une attention particulière. Si votre site Web permet aux clients de passer des commandes, d’annuler des services, de modifier des plans, de transférer des actifs, d’accéder à des informations privées ou de déclencher des obligations contractuelles, vous êtes dans la même ligne de mire. Peut-être que l’exposition financière est moindre. Peut-être que le fardeau réglementaire est plus léger. Mais la question est la même : lorsqu’un logiciel autonome agit via un compte client, qu’est-ce que le client a autorisé exactement et comment le prouveriez-vous ?
Mise à jour des politiques et des systèmes
Au cours des deux ou trois prochaines années, les entreprises connaîtront une refonte massive de leurs politiques, règles, responsabilités et contrôles techniques. Ce ne sera pas élégant. Les conditions d’utilisation seront mises à jour pour définir les agents IA, l’automatisation déléguée, le partage d’informations d’identification, l’accès aux robots, l’accès en lecture seule, l’autorité de transaction et la révocation. Les systèmes d’authentification devront faire la distinction entre un humain, une intégration approuvée, un script non autorisé et un agent autonome fonctionnant avec une certaine forme d’autorisation de l’utilisateur. Les équipes de support client auront besoin de scripts pour les litiges impliquant des agents. Les équipes juridiques auront besoin d’un nouveau langage. Les équipes de sécurité auront besoin de nouveaux modèles de détection. Les équipes produit devront décider si le blocage des agents est une fonctionnalité, un bug ou un désavantage concurrentiel.
Le premier réflexe sera de tout bloquer. C’est compréhensible, surtout pour les banques. Toutefois, il ne s’agit pas d’une stratégie à long terme. Les clients voudront cette capacité. Les entreprises qui rendent cela impossible frustreront les clients qui tentent d’automatiser les tâches de routine. Les entreprises qui rendent les choses trop faciles hériteront de risques inacceptables.
