Les développeurs cherchant à réduire le coût des outils de codage basés sur l’IA se tournent de plus en plus vers le style d’invite « Caveman », qui demande aux assistants de codage de communiquer dans un langage télégraphique direct et d’éviter le remplissage conversationnel. La théorie est simple : moins de mots signifie moins de jetons, ce qui se traduit par des coûts d’inférence inférieurs pour les organisations déployant des agents d’IA à grande échelle.
Un nouveau test du fabricant d’IDE JetBrains confirme que les styles d’invite concis tels que le projet viral open source Caveman peuvent réduire l’utilisation des jetons sans nuire aux performances de codage. Cependant, l’entreprise a constaté que les économies réalisées étaient bien inférieures à ce que prétendaient ses partisans.
JetBrains a utilisé le cadre d’évaluation open source Harbour et les tâches de SkillsBench pour son test, et a constaté que la technique Caveman réduisait l’utilisation des jetons de sortie d’environ 8,5 %, bien en dessous des 65 % revendiqués.
