Microsoft demande aux ingénieurs de freiner leur enthousiasme pour la combustion de jetons

Préoccupé par le coût, Microsoft aurait mis en garde ses employés contre une utilisation inutile de l’IA.

Dans un e-mail consulté par 404 Media, le vice-président exécutif de Microsoft, Jay Parikh, a averti que les divisions individuelles se verraient attribuer des objectifs et pourraient être soumises à des restrictions. « Tokenmaxxing n’est pas ce pour quoi nous optimisons. Je veux que nous nous concentrions tous sur la maximisation des résultats qui font bouger les choses pour nos clients et notre entreprise », indique l’e-mail.

Le registre a demandé à Microsoft ce qu’il pensait du rapport, et un porte-parole nous a répondu que la société n’avait « rien à ajouter ».

Microsoft ne manque guère de liquidités et a continué à investir de l’argent dans ses investissements en IA, mais ses efforts apparents pour réduire les dépenses inutiles en IA la mettent en conformité avec d’autres entreprises qui tentent de repenser la manière dont leurs employés utilisent l’IA.

Tokenmaxxing consiste à utiliser autant de jetons IA que possible et à traiter le volume comme une preuve de productivité. Un jeton est l’unité de base utilisée pour traiter et facturer les entrées et sorties des modèles d’IA. Si une entreprise mesure l’utilisation de l’IA par ses employés, brûler autant de jetons que possible rendra les chiffres plus roses.

Cependant, les entreprises doivent prendre en compte le coût de ces jetons ainsi que d’autres facteurs, tels que la productivité. Comme Le registre observé en avril : « Tokenmaxxing n’est pas une stratégie d’IA. »

Microsoft ne semble pas chercher à réduire globalement l’utilisation des jetons – après tout, elle veut être une entreprise axée sur l’IA. Il veut simplement en avoir plus pour son argent.

« Alors que nous accélérons notre utilisation de GitHub Copilot pour atteindre nos objectifs, nous devons tous être conscients de la façon dont nous consommons les jetons », aurait indiqué l’e-mail. GitHub est passé à la facturation basée sur l’utilisation en juin. Bien que le tentacule d’hébergement de code de Microsoft mesure la consommation en crédits IA plutôt qu’en jetons bruts, le changement rend plus difficile à ignorer le coût des ingénieurs qui les utilisent.

Non pas que cela envoie un message particulièrement intéressant aux clients. Comme l’a déclaré un employé anonyme de Microsoft à 404 Media : « Cela ressemble vraiment à l’aveu ultime que nous, en tant qu’hébergeurs d’infrastructures d’IA, ne pouvons pas nous permettre nos propres produits d’IA. Et si c’est même partiellement le cas, comment les entreprises que nous vendons pourraient-elles gérer ?

C’est un peu simpliste. Microsoft peut se permettre ses produits d’IA ; l’e-mail suggère qu’il souhaite que les ingénieurs les utilisent en tenant davantage compte des coûts et des résultats.

C’est peut-être le message que les clients devraient retenir. Les outils et services d’IA entraînent un coût qui doit être mesuré, plutôt que de se demander « combien de jetons avez-vous consommé ? » comme mesure de l’adoption de l’IA. ®