Certaines entreprises vont plus loin, en adoptant des modèles plus anciens ou des alternatives open source pour des cas d’utilisation appropriés. Qualcomm, par exemple, a investi dans l’exécution de modèles sur son propre matériel plutôt que de s’appuyer exclusivement sur des fournisseurs de modèles basés sur le cloud. Cette approche nécessite plus de sophistication technique mais peut réduire considérablement les coûts par jeton pour les applications à volume élevé.
Le vrai défi
Voici ce qui me préoccupe le plus dans la situation actuelle. De nombreuses entreprises ont déployé l’IA sans mettre en place dès le départ une infrastructure de gestion des coûts adéquate. Ils ont été captivés par l’enthousiasme suscité par la technologie, par la pression concurrentielle qui les incitait à agir rapidement et par la conviction que les avantages justifieraient les coûts, quels qu’ils soient. Cette approche fonctionnait lorsque les projets d’IA étaient des expériences à petite échelle. Maintenant que l’IA devient essentielle aux opérations des entreprises, le manque de contrôles financiers devient un problème sérieux. Nous devons apporter la même rigueur à l’achat et au déploiement de l’IA que celle que nous avons apportée à tout autre investissement technologique important.
Les organisations qui réussissent traiteront les coûts des jetons d’IA comme une dépense opérationnelle gérée plutôt que comme une variable imprévisible. Cela signifie déployer les mêmes outils et disciplines qui ont fonctionné pour la gestion des coûts du cloud : visibilité, responsabilité, optimisation et amélioration continue.
