Le problème de contenu de Big AI : prenez le travail, gardez l’argent

La grande IA a un problème. Ses entreprises doivent ingérer le travail des autres. Vous savez, des livres, des actualités, des photographies, du code, des sites Web, ce mème original que vous avez inventé, et pratiquement tout le reste sur Internet pour entraîner ses grands modèles de langage (LLM). Nous le savons tous. Nous savons également que les entreprises d’IA détestent payer pour tout cela, obéir aux licences qui y sont attachées ou, Dieu nous en préserve, partager leurs revenus avec les entreprises et les personnes qui ont créé l’œuvre en premier lieu.

Récemment, la manière par défaut de faire des affaires de Big AI : « Prenez-le maintenant, discutez de la légalité plus tard » est devenu plus visible que jamais. Regardez, par exemple, la lutte pour le droit d’auteur entre Le New York Times, OpenAI et Microsoft. Selon 404 Médiasrapport sur des documents judiciaires récemment descellés – arguments des plaignants sur lesquels le tribunal n’a pas encore statué – Microsoft savait ce qu’il faisait lorsqu’il importait Internet bon gré mal gré.

Directeur des sciences appliquées de Microsoft, Dr Brent Hecht, a été cité dans le mémoire combiné de 92 pages des plaignants comme disant : l’affaire concernait « un vol étonnant aux proportions sans précédent ». En effet, c’était peut-être le « plus grand vol de main-d’œuvre de l’histoire de l’humanité » » a-t-il déclaré dans le mémoire de jugement sommaire des avocats des journalistes (PDF).Ceci, remarquez, n’était pas un commentaire d’un membre de la presse ; il s’agissait d’un cadre supérieur de Microsoft.

Hecht n’était pas le seul chez Microsoft à faire des commentaires. Dans un document de politique interne de Microsoft également cité dans les documents judiciaires, les auteurs ont admis que l’IA générative pourrait « perturber considérablement l’emploi de ceux-là mêmes qui ont généré les données sur lesquelles le modèle de base a été formé (car) les LLM sont un produit qui détruit sa chaîne d’approvisionnement ». Cela conduit à son tour à effondrement du modèle. Ironiquement, l’IA est en train de tuer la poule aux œufs d’or des créateurs de contenu qui en vaut la peine.

Juge Sidney H. Stein du tribunal de district américain du district sud de New York n’a pas encore rendu de décision sur cette affaire.

OpenAI et Microsoft contestent activement les allégations des plaignants en invoquant la défense d’« utilisation équitable ». Ils affirment que l’utilisation d’articles et de livres publics pour former de grands modèles linguistiques contribue à faire progresser les connaissances publiques et n’agit pas comme un « substitut illégal du marché économique ».

Mais les déclarations citées dans les documents sont réelles. La grande IA sait qu’elle a besoin de contenu. Certaines des entreprises concernées s’en foutent ; l’argent maintenant, l’inquiétude plus tard est leur devise. Ceux qui peuvent regarder au-delà des chiffres de revenus savent bien qu’ils sont engagés dans ce que Microsoft lui-même a appelé une « boucle catastrophique » de la stratégie de contenu de l’IA dans ces documents judiciaires non scellés. Est-ce que cela les arrêtera ? Non.

Selon le dossier (PDF), qui fait référence au témoignage sous serment du propre représentant d’OpenAI, il a également déclaré que ses LLM étaient heureux d’aspirer le travail d’autrui même lorsqu’un paywall le protégeait nominalement. Son représentant aurait déclaré qu’il n’était au courant de « aucun effort visant à détecter le contenu du paywall dans ses ensembles de données de formation » ou « pour supprimer le contenu du paywall de ses ensembles de données de formation ». Lorsque Greg Brockman, cofondateur d’OpenAI, a appris qu’OpenAI pouvait se frayer un chemin à travers le pare-feu, il a répondu : « ah, bien ».

Que ces déclarations reflètent ou non une attitude plus large, des attitudes similaires prévalent parmi les grandes IA. De telles politiques pourraient éventuellement revenir et mordre les créateurs de LLM ; cela affecte déjà le marché du journalisme, de l’écriture de fiction, de la création graphique, tout ce qui exige que les humains soient réellement payés pour produire une œuvre originale.

Mais Big AI ne veut tout simplement pas payer pour cela. Ce n’est pas un effet secondaire. C’est le modèle économique.

Joe User s’en fiche. Ils veulent juste une réponse rapide qui leur semble correcte. Certains d’entre eux se moquent complètement d’obtenir les bonnes réponses. Quant à chercher plus profondément pour voir si les informations qu’ils régurgitent sont exactes, oubliez ça ! Comme le dit un ingénieur logiciel OpenAI : « Peu importe la façon dont nous montrons les liens, les utilisateurs ne cliqueront pas. »

Eh bien, je clique. C’est une grande raison pour laquelle La perplexité est mon IA de choix. Ce n’est pas que cela donne une réponse plus fiable. Non, c’est que, contrairement à la plupart des LLM, Perplexity fournit des sources et des lienset je les vérifie avant d’accepter ce qu’il me dit. Mais je suis un journaliste diplômé en histoire, où mes professeurs m’ont répété que tu étais toujours – untoujours – regardez les sources primaires.

Big AI adopte la même approche avec ses générateurs de code. Le neuvième circuit américain a récemment accordé une victoire serrée à GitHub, Microsoft et OpenAI dans le cadre du Doe contre GitHub procès. Le tribunal a statué que le les plaignants n’avaient pas établi de réclamation en vertu d’une disposition particulière du Digital Millennium Copyright Act (DMCA)qui concerne la suppression ou la modification des informations sur la gestion des droits d’auteur (CMI).

En bref, le tribunal a déclaré que générer un nouveau code sans inclure CMI n’équivaut pas nécessairement à supprimer ou à modifier les informations de droit d’auteur d’une œuvre existante. Le juge Eric Miller a écrit : « Celui qui crée une nouvelle œuvre et ne parvient pas à inclure le CMI ne peut pas être considéré comme ayant « supprimé » ou « modifié » quoi que ce soit.

Cette décision n’établit pas que GitHub Copilot ou tout autre modèle de codage peut s’entraîner sur chaque projet open source sans restriction. Il n’a pas déterminé que la copie du code source dans un ensemble de formation constitue toujours une utilisation équitable. Il n’a pas décidé que le code généré ne pouvait pas enfreindre le droit d’auteur. Et cela n’a certainement pas abrogé la GPL, Apache, BSD, MIT ou toute autre licence open source. Après tout, open source n’est pas synonyme de « faites ce que vous voulez avec ». Cela semble être le cas lorsque l’IA met la main sur du code open source.

C’est le problème du code généré par l’IA. Il est très peu probable qu’un programmeur qui reçoit une suggestion de Copilot vérifie si la GPL couvre le code ou si Apache couvre l’extrait d’une bibliothèque. Le développeur ne peut certainement pas dire quelles conditions de licence peuvent s’appliquer au code qui vient d’apparaître d’Opus 5.5 ou de GPT 6. Comme l’a dit le gars d’OpenAI, les gens ne cliquent pas sur les liens, et dans les pipelines de programmation compatibles avec l’IA, ils n’ont même pas les liens de toute façon.

Un de mes amis, avocat et expert en open source, a un plus grand souci que cette décision étroite. Il m’a dit que ce qui lui donne « une pause, c’est une tendance plus large. Il existe de nombreux cas où les parties contestent les licences open source en tant que contrats plutôt que comme licences de propriété intellectuelle et de droit d’auteur pour lesquelles elles ont été écrites. Les théories des contrats permettent au plaignant d’éviter les questions que le droit d’auteur vous oblige à répondre. « Êtes-vous propriétaire de l’œuvre ?

Il a ajouté : « Ces questions constituent le fondement sur lequel les licences sont construites. Les licences open source sont des autorisations d’utiliser la propriété intellectuelle de quelqu’un. Si une affaire ne peut pas démontrer qu’une propriété intellectuelle a été détenue ou violée, il est juste de se demander si l’application de la licence sous la forme d’un simple contrat soutient les licences open source ou les transforme discrètement en autre chose. »

Avec l’IA dans le mix, ce problème finira par devenir l’un de ces vilains problèmes de propriété intellectuelle que les développeurs détestent, que les entreprises veulent éviter, mais que les tribunaux doivent régler avec des avocats coûteux dont les taux horaires inquiètent même les millionnaires de l’IA.

Après tout, l’incertitude relative à la propriété intellectuelle n’est pas un problème mineur de paperasse. Il s’agit d’un problème de sécurité et de conformité de la chaîne d’approvisionnement. Si vous utilisez du code généré par l’IA, vous importez peut-être des obligations légales inconnues dans votre logiciel. Si vous êtes un développeur open source, votre travail peut être utilisé pour améliorer un service propriétaire qui renvoie du code sans provenance, attribution ou réciprocité significative. Et si vous êtes client, vous comptez peut-être sur un logiciel dont personne ne peut expliquer pleinement les origines. La décision du neuvième circuit n’a rien résolu de tout cela. Nous sommes confrontés à de nombreux autres litiges open source qui rendront SCO contre l’univers Linux connu ça ressemble à une bagarre à propos d’une contravention de stationnement.

Ensuite, il y a la dernière ride : A poursuite antitrust fédérale contre Anthropic, OpenAI, SpaceXAI et Google. Les plaignants allèguent que les entreprises se sont coordonnées pour ralentir le développement de systèmes d’IA avancés.

Le procès fait référence aux déclarations publiques des dirigeants de l’IA appelant tous à une coordination pour « accélérer » le développement de l’IA de pointe au cours d’un seul week-end. Le PDG d’Anthropic, Dario Amodei, a plaidé en faveur d’une coordination à l’échelle de l’industrie pour ralentir le développement des frontières. Sam Altman, PDG d’OpenAI, Demis Hassabis, cofondateur de Google DeepMind et Elon Musk ont ​​également exprimé publiquement des versions selon lesquelles les systèmes d’IA puissants nécessitent des contrôles et un déploiement minutieux.

À première vue, cela semble raisonnable. La sécurité de l’IA est un réel problème. Quiconque dit le contraire n’y a pas prêté attention. Mais il existe une énorme différence entre tous les grands acteurs de l’IA qui s’accordent entre eux sur la rapidité avec laquelle un marché doit se développer.

Cela ressemble énormément à des concurrents qui décident qui peut concourir, ce qu’ils peuvent construire et quand ils peuvent le construire. Les grandes sociétés d’IA ressemblent toutes à des gentils tout en étranglant simultanément leurs petits concurrents.

Pour de simples mortels, cela peut ressembler à une affaire ouverte et fermée. Ce n’est pas le cas. La loi antitrust exige la preuve d’un accord et d’un préjudice réel à la concurrence ; les dirigeants faisant des commentaires publics similaires ne suffisent pas. Les plaignants auront besoin de bien plus que de simples citations sur la sécurité de l’IA ou le développement responsable pour gagner.

D’ailleurs, s’ils gagnent, et alors ? Ce qui ressemblait récemment à d’énormes victoires antitrust a été arraché lorsqu’il s’est agi de punir en fait Google et son activité publicitaireou son plus tôt « perdez le procès, gagnez le règlement » avec la recherche Google.

Voyez-vous le modèle ici ?

Big AI a effectivement fait valoir que les lois sur le droit d’auteur, les licences open source et les règles de concurrence ne devraient pas les ralentir. Lorsque les créateurs s’y opposent, on leur répond que la formation relève d’un usage équitable. Lorsque les développeurs s’y opposent, on leur dit que le code généré est du nouveau code. Lorsque les concurrents s’y opposent, on leur répond que la sécurité exige une coordination entre les plus grandes entreprises.

C’est drôle comme la réponse semble toujours laisser à Big AI les données, le marché et l’argent, n’est-ce pas ?

La question centrale n’est pas de savoir si l’IA doit pouvoir se développer. Cela va se développer. La question est de savoir si les entreprises qui le construisent devraient être autorisées à traiter le travail des autres comme un approvisionnement gratuit en matière première, puis à utiliser les produits qui en résultent pour priver les créateurs du trafic, des revenus et du pouvoir de négociation.

À moins que nous n’arrêtions maintenant l’accaparement des terres par les GPU, seule une poignée de milliardaires bénéficieront réellement de l’IA, le reste d’entre nous devenant des serfs dans un système féodal post-technologique du 21e siècle. ®