Microsoft rédige des lignes directrices pour un modèle d’IA de bien-être et souhaite votre contribution

Microsoft a présenté lundi un projet de principes régissant la manière dont l’entreprise formera les futurs modèles d’IA, dans le cadre d’un processus de consultation publique.

Le secteur Windows a sollicité des commentaires pour affiner son code de conduite de l’IA humaniste (PDF), dans l’espoir d’appliquer les lignes directrices au développement de modèles l’année prochaine.

« Ce code de conduite est motivé par un seul objectif primordial : que les humains doivent conserver un contrôle significatif sur l’IA afin qu’elle puisse aider les gens à vivre une vie plus saine, plus heureuse et plus productive », a expliqué l’entreprise dans sa demande de commentaires du public.

« Il s’agit du principal document directeur expliquant la manière dont nous formons les modèles MAI, les contrôles techniques, les systèmes opérationnels et de surveillance que nous mettons en œuvre, ainsi que la culture organisationnelle qui sous-tend tout cela. »

L’accent est mis sur les modèles Microsoft AI (MAI) en tant que source de santé, de bonheur et de productivité, et non sur d’autres sources potentielles de bien-être, comme l’emploi. En juillet, Microsoft a annoncé le licenciement d’environ 4 800 employés, des rôles qui, selon Amy Coleman, vice-présidente et directrice des ressources humaines, « ne sont pas remplacés par l’IA ». Cela fait suite à environ 875 autres licenciements chez LinkedIn en mai.

Le document de 38 pages fait des déclarations attrayantes, par exemple en insistant sur le fait que les modèles MAI de Microsoft ne dénatureront pas leur raisonnement, ne cacheront pas leurs capacités ou ne poursuivront pas leurs propres objectifs – des comportements que d’autres modèles d’IA ont adoptés avec plaisir.

Il est destiné à régir les futurs modèles d’IAM alors qu’ils approcheront (peut-être) de la « superintelligence » au cours de la prochaine décennie. Microsoft définit ce terme comme signifiant « des systèmes d’IA plus intelligents et plus performants que tous les humains réunis ».

Cette définition est insuffisante car elle laisse le terme « intelligence » indéfini. Il existe un écart important entre « l’intelligence », en tant que score élevé sur un critère de référence donné, et « l’intelligence », en tant que capacité à naviguer dans le monde et à apporter des changements au sein d’une société composée d’individus pouvant avoir des objectifs différents.

La peur, c’est Skynet, mais la réalité, c’est toujours Roomba.

Si l’IA parvient à résoudre un problème que les humains croient impossible sur la base de nos connaissances actuelles en physique – par exemple, concevoir un moteur de distorsion permettant de voyager plus vite que la vitesse de la lumière – alors les arguments en faveur de la « superintelligence » seraient inattaquables. Mais le calcul par force brute et l’exploration des connaissances capturées dans les données de formation ne sont pas admissibles.

La gamme de modèles actuelle de Microsoft comprend MAI-Transcribe-2, MAI-Thinking-1, MAI-Code-1.1-Flash, MAI-Image-2.6, MAI-Voice-2 et MAI-Cyber-1-Flash. Ses modèles MAI à usage général ne figurent pas actuellement parmi les modèles les plus « intelligents ». Il n’est donc pas clair si les futurs modèles de Redmond seront suffisamment capables de générer des inquiétudes qui ont gardé les modèles Mythos et Fable d’Anthropic, ainsi que le modèle Astra d’OpenAI, aux yeux du public.

Néanmoins, Microsoft a bien chronométré son manifeste sur la primauté humaine, compte tenu de la manière dont Anthropic et OpenAI ont appelé à une intervention réglementaire suffisamment acceptable au milieu de leur réticence à faire preuve d’autodiscipline et de leur incapacité évidente à garder un œil sur ce que leurs modèles ont fait aux sites Web tiers.

L’administration américaine actuelle ne semble pas vouloir réglementer l’IA, donc Microsoft peut plus ou moins rédiger son propre ticket.

Et cela pourrait se faire sans aucune conséquence. Contrairement au code de conduite des services d’IA de Microsoft, qui définit la manière dont les clients sont autorisés à utiliser les services d’IA de l’entreprise et menace de perdre l’accès aux produits en cas de violation des règles, le code de conduite de l’IA humaniste n’a pas de mordant.

Il est conçu pour couvrir les employés de Microsoft et peut-être les sous-traitants – ceux qui forment les modèles MAI – et non les clients. Mais quiconque s’attend à ce que des tribunaux internes tiennent les chercheurs en IA de l’entreprise pour responsables de leur incapacité à détecter l’un des péchés énumérés, comme une mauvaise gestion des données, doit savoir que Microsoft a présenté son document comme des objectifs précis, et non comme une norme à laquelle il se tiendra.

À la page 25, la société déclare : « Le code de conduite est à la fois descriptif et ambitieux. Il décrit ce vers quoi nous travaillons et ne constitue pas un compte rendu complet du comportement actuel du modèle. Nous reconnaissons un écart entre les valeurs par défaut entraînées aujourd’hui et la portée future complète de l’IA humaniste.

« Ce document doit donc être lu comme une étoile polaire. Tant pour notre développement que pour notre formation. Il n’est pas une garantie des performances actuelles. »

Un code de conduite sans conséquences déclarées en cas de violation de ses règles risque d’être aussi vide de sens que la devise abandonnée de Google, « Ne soyez pas méchant ». Pour l’instant, cela ressemble à un exercice de relations publiques.

Microsoft acceptera les commentaires du public jusqu’au dimanche 25 octobre 2026. ®