Les filigranes Microsoft AI dans Paint et Photos sont liés aux identifiants utilisateur, selon un chercheur

Lorsqu’Anthropic a révélé plus tôt ce mois-ci qu’elle appliquerait un filigrane statistique de choix de mots à son texte Claude, la société a noté qu’au moins 190 fournisseurs d’IA ont accepté de se conformer aux règles européennes de transparence de l’IA.

L’une de ces sociétés est Microsoft, qui applique sa propre forme de filigrane aux images créées avec l’aide de l’IA dans ses applications Paint et Photos pour Windows.

Le Code de bonnes pratiques de l’UE sur la transparence du contenu généré par l’IA exige que les signataires marquent le contenu créé avec l’aide de l’IA dans un format lisible par machine et que les métadonnées associées indiquent au moins si le contenu a été manipulé par l’IA, ou entièrement créé par elle.

Le règlement crée une obligation mais ne précise pas la méthode de conformité, de sorte que les signataires peuvent utiliser la technologie qui atteint le mieux les objectifs (PDF) « d’efficacité, d’interopérabilité, de robustesse et de fiabilité ».

Microsoft est allé au-delà des exigences minimales dans le but de répondre aux problèmes de sécurité de l’IA. Les règles de l’UE encouragent, mais n’exigent pas, l’inclusion de métadonnées qui font plus que déterminer si les créateurs ont utilisé l’IA pour produire du contenu. Redmond, en tant que l’un des fondateurs de la Coalition for Content Provenance and Authenticity (C2PA), a choisi d’intégrer des images assistées par l’IA dans Paint et Photos avec un identifiant global unique (GUID) lié à l’invite qui a créé l’image.

Xusheng Li, développeur de logiciels chez Vector 35, a récemment publié une analyse de l’approche de Microsoft, que le secteur Windows avait précédemment divulguée dans la documentation Paint and Photos mais n’avait pas détaillé.

« Microsoft Paint et Photos intègrent un GUID émis par le serveur sous forme de filigrane invisible dans les images IA générées localement », a expliqué Li dans un article sur LinkedIn. « Votre invite est envoyée à Microsoft pour modération et le GUID renvoyé est codé en pixels. »

Li note que le filigrane invisible GUID – un entier de 16 octets – est distinct de l’option de filigrane visible que Microsoft propose aux utilisateurs de son logiciel Paint et des fonctionnalités Microsoft 365 AI.

Si Microsoft associe chaque invite à l’utilisateur qui l’a envoyée, alors l’entreprise pourrait en théorie identifier les utilisateurs en se référant au filigrane présent dans une image. Il y a longtemps, les fabricants d’imprimantes laser ont mis en œuvre ce type de suivi et cette pratique a alarmé les défenseurs de la vie privée lorsqu’elle a été révélée.

« Microsoft reçoit et modère l’invite, puis émet le GUID unique que Paint intègre dans l’image générée localement », a déclaré Li. « La peinture envoie également le précédent promptGenerationId comme lastPromptGenerationId avec sa prochaine demande de modération, permettant de lier explicitement les demandes successives. »

Li fait valoir que même si Microsoft a divulgué ses mesures de sécurité en matière d’IA, il n’a pas suffisamment précisé que son manifeste C2PA contient un GUID lié aux invites d’image de l’IA des utilisateurs.

Microsoft n’a pas immédiatement répondu à une demande de commentaire.

D’autres entreprises pensent dans le même sens. Meta a déclaré le mois dernier qu’elle travaillait sur sa propre technologie de filigrane appelée Content Seal. Et OpenAI applique les métadonnées SynthID et C2PA de Google DeepMind à ses images.

Ceux qui cherchent à éviter d’avoir un numéro de suivi intégré dans leurs images générées par l’IA voudront peut-être explorer l’exécution d’un modèle de poids ouvert comme Stable Diffusion et l’exécution d’outils open source sur l’appareil. ®