MIS À JOUR Microsoft a fait un 180. Suite aux réactions négatives des développeurs, GitHub a supprimé la capacité de Copilot à coller des publicités – ce qu’il appelle des « conseils » – dans toute demande d’extraction invoquant son nom.
Le développeur australien Zach Manson a noté lundi qu’après qu’un collègue ait demandé à Copilot de corriger une faute de frappe dans l’une de ses demandes d’extraction, il avait été surpris de trouver un message de Copilot dans les relations publiques poussant les lecteurs à adopter l’application de productivité Raycast.
« Faites tourner rapidement les agents de codage Copilot depuis n’importe où sur votre machine macOS ou Windows avec Raycast », lit-on dans la note avec un emoji en forme d’éclair et un lien pour installer Raycast.
AD ENREGISTREMENT
« Au départ, je pensais qu’il y avait une sorte d’empoisonnement des données de formation ou une nouvelle injection rapide et que l’équipe Raycast faisait une preuve de concept marketing élaborée », a déclaré Manson. Le registre dans un e-mail.
AD ENREGISTREMENT
Mais non : jetez un œil sur GitHub et vous verrez plus de 11 400 PR contenant le même conseil, tous apparemment ajoutés par Copilot. Jetez un œil au code des PR lui-même et recherchez le bloc appelant Copilot pour ajouter une astuce et vous trouverez de nombreux autres exemples de différentes astuces insérées par Copilot.
Manson nous a dit qu’il n’était pas surpris de voir GitHub faire cela avec un modèle d’IA, mais il a dit que c’était assez offensant de voir la publicité Raycast insérée par Copilot dans son propre PR telle qu’il l’avait écrite.
« Je ne savais même pas que l’intégration de GitHub Copilot Review avait la capacité de modifier les descriptions et les commentaires d’autres utilisateurs », nous a expliqué Manson. « Je ne vois pas de cas d’utilisation valable pour cette capacité. »
GitHub recule
Ce n’est que lundi matin que les observateurs de Microsoft chez Neowin ont découvert le rapport de Manson selon lequel Copilot injectait ce que les développeurs considéraient comme des publicités dans les relations publiques, et, dans l’après-midi, GitHub avait décidé qu’un changement récent apporté à Copilot était peut-être allé un peu trop loin.
Martin Woodward, vice-président des relations avec les développeurs de GitHub, a expliqué dans un article sur X plus tard dans la journée de lundi que l’insertion de publicités par Copilot dans les PR n’est pas réellement un nouveau comportement – c’est le cas dans ceux qu’il crée depuis un certain temps. En revanche, laisser Copilot toucher aux PR qu’il n’a pas créés, mais qui y est mentionné est un nouveau comportement qui n’a pas vraiment fonctionné.
« (Quand) nous avons ajouté la possibilité de faire fonctionner Copilot sur n’importe lequel PR en le mentionnant, le comportement est devenu dégoûtant », a déclaré Woodward.
Tim Rogers, chef de produit principal pour Copilot chez GitHub, a déclaré lundi à Hacker News que donner à Copilot la possibilité d’ajouter des « conseils » aux PR avait pour but « d’aider les développeurs à apprendre de nouvelles façons d’utiliser l’agent dans leur flux de travail ».
AD ENREGISTREMENT
En entendant les commentaires de la communauté suite au message de Manson et au brouhaha qu’il a généré, Rogers a déclaré l’a aidé à réaliser que « après réflexion », laisser Copilot apporter des modifications aux PR rédigées par un humain à son insu « était un mauvais jugement ».
« Nous avons maintenant désactivé ces astuces dans les demandes d’extraction créées ou touchées par Copilot, vous ne verrez donc plus cela se reproduire », a ajouté Rogers. ®
Mis à jour pour ajouter le 31 mars :
Martin Woodward, vice-président des relations avec les développeurs chez GitHub, a déclaré dans un communiqué : « GitHub n’inclut pas et ne prévoit pas d’inclure de publicités dans GitHub. Nous avons identifié un problème de logique de programmation avec une astuce d’agent de codage GitHub Copilot qui est apparue dans le mauvais contexte dans un commentaire de demande d’extraction. Nous avons supprimé les astuces d’agent des commentaires de demande d’extraction à l’avenir.
