Selon Jain, cela facilite la création de tableaux de bord montrant les coûts par modèle, fournisseur, type de jeton ou mode d’inférence, tout en identifiant les charges de travail coûteuses, la croissance inhabituelle des jetons et les opportunités de passer à des modèles moins chers ou au traitement par lots.
Il s’agit d’une mise à jour opportune, en particulier à la lumière du problème de facturation AWS de la semaine dernière qui a amené certains clients à voir des estimations de coûts incorrectes des services consommés dans la console de gestion AWS, a déclaré Muskan Bandta, associé cloud chez ZopDev, fournisseur de services FinOps.
« Tout ce qui donne aux clients des données de facturation plus claires, plus granulaires et plus fiables est le bienvenu lorsque la confiance dans les chiffres vient d’être ébranlée. Cela ne résout pas ce qui n’a pas fonctionné, mais une meilleure visibilité sur la destination des dépenses est exactement ce que les équipes souhaitent davantage après un épisode comme celui-là », a ajouté Bandta.
