Apparemment inconscient du concept d’ironie, Satya Nadella avertit les entreprises utilisant l’IA de veiller à ne pas divulguer leurs secrets d’affaires parallèlement aux énormes sommes d’argent qu’elles versent chaque mois aux laboratoires frontaliers.

Écrivant dans un long article sur X ce week-end, le PDG et président de Microsoft a mis en garde contre ce qu’il a appelé le « paradoxe de l’information inversé », une situation dans laquelle les acheteurs d’IA paient essentiellement deux fois pour le produit de renseignement qu’ils obtiennent : une première fois en espèces, et une autre fois « avec quelque chose d’encore plus précieux », à savoir les connaissances commerciales exclusives dont on dispose pour alimenter un modèle d’IA afin que celui-ci vaille la peine d’être utilisé dans les rares cas où un investissement dans l’IA est réellement rentable.

« Au fil du temps, l’asymétrie de l’information devient de plus en plus asymétrique », a noté Nadella. « Le vendeur en apprend de plus en plus sur vous à mesure que vous utilisez ce que vous avez acheté, alors que vous en apprenez très peu sur ce qu’il apprend en retour. »

L’ironie est lourde, étant donné que Microsoft lui-même pousse l’IA qui aspire les données commerciales, et Redmond a contribué à lancer tout ce processus compliqué d’IA en investissant des milliards dans le premier leader de l’IA générative, OpenAI. Azure était l’ancien domicile cloud exclusif de ChatGPT et le leadership de Microsoft sans doute a aidé Altman à retrouver son emploi lorsqu’OpenAI l’a évincé en 2023. La relation entre les deux s’est développée tendu dans les années qui ont suivi, et ils ont assoupli plusieurs dispositions d’exclusivité début 2026.

Cela survient également après qu’un certain nombre de grandes organisations ont suspendu ou restreint les déploiements de Microsoft Copilot en 2024 en raison d’un problème connexe : une faible gouvernance des données et des droits d’accès internes tentaculaires.

Securiti, société de sécurité des données d’entreprise, a déclaré Le registre en 2024, environ la moitié des plus de 20 responsables des données interrogés avaient bloqué les déploiements de Copilot, soit en éteignant l’assistant, soit en restreignant considérablement ce à quoi il pouvait accéder. Le problème était particulièrement aigu dans les organisations disposant d’années d’autorisations SharePoint et Microsoft 365 accumulées, où des droits d’accès trop étendus risquaient d’exposer des informations sensibles via Copilot.

Quelques années plus tard, Nadella avertit désormais que les mesures de protection des données ne suffisent même pas pour qu’une entreprise reste en sécurité à l’ère de l’IA.

« Les modèles apprennent de « l’épuisement », des invites que les gens écrivent, des outils utilisés par les agents et surtout des corrections que les gens apportent », a prévenu Nadella. « C’est le genre de connaissances qu’un concurrent ne pourra jamais acheter, et celles qui fuient presque imperceptiblement : trace par trace, correction par correction, évaluation par évaluation. »

Selon Nadella, consommer de l’intelligence grâce à l’IA crée davantage d’intelligence organisationnelle. Le patron de Microsoft a fait valoir que les connaissances générées par ces interactions devraient appartenir aux entreprises qui les créent.

« Les entreprises ont besoin d’une véritable frontière de confiance pour que leur capital humain et leur capital symbolique puissent s’accumuler », a écrit Nadella, décrivant sa solution idéale comme ayant « une frontière dure que rien ne franchit, pas même les renseignements épuisés, sans consentement ».

En d’autres termes, bienvenue dans l’ère post-cloud, où toute votre infrastructure d’IA s’installera au sein de votre propre réseau. Si vous pensez que nous exagérons, Nadella mentionne même que l’une des choses que les entreprises doivent faire pour résoudre le paradoxe inverse de l’information est de créer leurs propres environnements d’apprentissage de l’IA propriétaires « dans les limites du locataire ».

Nous avons demandé à Nadella et Microsoft si la résolution du problème allait au-delà de la bonne gouvernance des données, comme Nadella l’a suggéré dans son article, et un porte-parole nous a répondu oui, décrivant la question comme un problème structurel avec le modèle actuel généralement accepté de l’IA dans lequel les entreprises s’appuient sur des services hébergés. Quiconque utilise l’IA à des fins professionnelles court un risque, ont-ils expliqué.

En plus d’isoler les environnements d’apprentissage, la note X de Nadella suggère également que les entreprises utilisant l’IA devraient créer leurs propres systèmes d’évaluation privés, conserver la propriété de la mémoire organisationnelle de l’IA et découpler leur couche d’orchestration de tout modèle d’IA particulier, créant ainsi « votre propre boucle d’apprentissage continu ».

« Une entreprise devrait pouvoir utiliser un modèle sans renoncer aux connaissances qui le rendent unique », a écrit Nadella.

Le porte-parole de Microsoft a fait valoir que les harnais d’agents et la mémoire devraient être indépendants des modèles, et a appelé les entreprises à avoir les droits sur leurs propres données d’utilisation et les résultats de leurs modèles, faisant écho aux commentaires de Nadella sur l’ironie des grandes entreprises d’IA criant au scandale à propos de la distillation des modèles tout en se réservant « le droit d’apprendre des données d’utilisation et d’interaction des clients ».

Quant à savoir s’il s’agit d’un avertissement générique que quelque chose dans l’industrie de l’IA doit donner ou d’un argumentaire de vente avec Microsoft positionné comme le héros, le porte-parole l’a clairement indiqué, nous disant que Copilot et Azure AI Foundry (une solution hébergée, cela vaut la peine de le souligner) sont la solution de Redmond aux problèmes décrits par Nadella dans son article du week-end. Les deux systèmes séparent le contexte, la mémoire et les agents des modèles d’IA eux-mêmes, offrant ainsi aux entreprises une couche supplémentaire d’assurance que leurs données sont en sécurité, nous a expliqué l’entreprise.

On peut se demander si Microsoft est réellement le héros de la protection des données IA que recherchent les entreprises. Mais le point le plus important est vrai : les laboratoires Frontier collectent de précieuses données exclusives, et cela pourrait se retourner contre les entreprises qui les ont fournies gratuitement. ®

A lire également