La version 2 appels LLM prédécide tout avant l’exécution. Mais si vous donnez au deuxième appel l’accès à un outil ou à un agent au lieu de simplement générer une réponse, il peut toujours réacheminer la tâche en cours s’il estime que le plan n’est pas correct. Cela récupère une certaine flexibilité agent. Le routage sécurisé pourrait être une autre solution. Exécutez d’abord les 2 appels ; si la confiance est élevée, continuez à l’utiliser. Sinon, passez à 4 appels.
Défi 5 : L’IA peut trouver le bon problème mais se méprend sur la solution
Les audits système (pour l’exactitude, la latence, la sécurité, etc.) à l’aide d’outils d’IA s’accélèrent. Ces outils sont parfaits pour identifier les lacunes, suggérer des alternatives ou des solutions et déterminer le gain que cette étape garantirait. Plus important encore, ces évaluations sont rapides et tout le monde peut le faire. Dans l’un de nos projets, notre client a utilisé Claude pour le même projet, et les problèmes système qu’il a identifiés étaient tous précis.
Le problème est que ces outils ne sont pas totalement fiables. D’un point de vue directionnel, ces outils ont souvent raison. Mais les solutions qu’ils suggèrent et les gains projetés qu’ils montrent ne sont pas toujours alignés et corrects. Ils ne peuvent identifier le bon levier que pour mal évaluer ce qui les attire ou utiliser de mauvais indicateurs pour calculer les avantages. Dans notre cas, l’outil suggérait une baisse de latence de 5 à 6 secondes alors que le gain n’était que de 500 millisecondes.
