Les créateurs sur YouTube devront marquer quand des vidéos réalistes ont été créées à l’aide de l’intelligence artificielle.
Cela fait partie d'un effort plus large de l'entreprise pour être « un site transparent sur le contenu qui pourrait autrement dérouter ou induire les utilisateurs en erreur ». YouTube n’a pas l’intention de reculer ici.
Lorsqu'un utilisateur télécharge une vidéo sur le site, il verra une liste de contrôle lui demandant si le contenu montre une personne réelle disant ou faisant quelque chose qu'elle n'a pas fait, modifie les images d'un lieu ou d'un événement réel, ou représente une scène réaliste qui n'était pas vraiment censé être des lieux.
La divulgation vise à empêcher les utilisateurs d'être induits en erreur par du contenu synthétique dans le contexte de la prolifération de nouveaux outils d'IA générative grand public qui permettent la création rapide et facile de textes, d'images, de vidéos et d'audio convaincants, souvent difficiles à distinguer de la réalité.
Les experts en sécurité Internet ont alarmé le fait que la diffusion de contenus générés par l’IA pourrait induire en erreur et semer la confusion chez les utilisateurs sur Internet, en particulier à l’approche des élections de 2024 aux États-Unis et dans d’autres pays.
Nouvelles règles sur YouTube
Les créateurs YouTube devront identifier lorsque leurs vidéos contiennent du contenu généré par l'IA ou autrement modifié qui semble réaliste – afin que YouTube puisse attribuer une étiquette aux téléspectateurs. Si nous ne marquons pas le contenu de l’IA et que le site Web détecte que nous avons utilisé l’intelligence artificielle, nous pourrions en subir les conséquences. Celles-ci incluront probablement le blocage de vidéos individuelles, et plus tard même du compte entier.
La plateforme a annoncé que la mise à jour serait déployée à l'automne, dans le cadre d'un déploiement plus large de nouvelles politiques en matière d'IA.
Lorsqu'un créateur YouTube signale que sa vidéo contient du contenu généré par l'IA, YouTube ajoutera une étiquette dans la description indiquant qu'elle contient du « contenu modifié ou synthétique » et que « l'audio ou les visuels ont été considérablement modifiés ou générés numériquement ».
Pour les vidéos sur des sujets « sensibles », comme la politique, le label sera ajouté de manière plus visible sur la vidéo elle-même.
Le contenu créé à l'aide des outils génératifs d'IA de YouTube, introduits en septembre, sera également clairement identifié.
Les créateurs ne seront pas tenus de divulguer lorsque le contenu synthétique ou généré par l'IA est clairement irréaliste ou « non pertinent », comme les animations générées par l'IA ou les ajustements d'éclairage ou de couleur. La plateforme indique également qu'elle n'exigera pas des créateurs qu'ils « divulguent si l'IA générative a été utilisée à des fins de productivité, comme la génération de scripts, d'idées de contenu ou de sous-titres automatisés ».
