OpenAI annonce avoir publié de nouvelles politiques pour un outil d'intelligence artificielle appelé Sora 2, en réponse aux préoccupations des studios hollywoodiens, des syndicats et des agences artistiques.
L'outil permet aux utilisateurs de créer des fichiers audio et vidéo réalistes et de haute qualité, à l'aide d'invites textuelles et d'images.
« Il s'agit de créer de nouvelles possibilités », a promis OpenAI dans une vidéo promotionnelle pour Sora 2. « Vous pouvez visualiser le pouvoir d'entrer dans n'importe quel monde ou scène, et de laisser vos amis vous lancer dans le leur. »
Mais avec Sora 2, certains créateurs ont également réalisé de fausses vidéos générées par l'IA de personnages historiques faisant des choses qu'ils n'avaient jamais faites. Par exemple, Martin Luther King Jr. changeant son discours « I Have a Dream », Michael Jackson rappant et volant les nuggets de poulet de quelqu'un, ou M. Rogers saluant le rappeur Tupac Shakur dans son quartier.
Certaines vidéos réimaginaient le regretté Robin Williams parlant sur un banc de parc et dans d’autres endroits. Sa fille Zelda a supplié ses fans d'arrêter de lui envoyer du contenu généré par l'IA, le qualifiant d'« horrible slop ».
« Vous ne faites pas d'art », a-t-elle écrit sur Instagram, « vous faites des hot-dogs dégoûtants et trop transformés à partir de la vie d'êtres humains. »
« C'est plutôt cool, c'est plutôt effrayant », déclare l'actrice Chaley Rose, surtout connue pour son rôle dans la série télévisée . « Les gens peuvent emprunter aux acteurs, à notre vulnérabilité et à notre art pour enseigner aux personnages qu'ils créent comment faire ce que nous faisons. Je détesterais que mon image soit diffusée sans avoir donné la permission ou être celui qui joue le rôle et contrôle la performance. »
Les meilleures agences artistiques d'Hollywood ont été les premières à tirer la sonnette d'alarme.
« Rien ne remplace le talent humain dans notre entreprise, et nous continuerons à nous battre sans relâche pour nos clients afin de garantir leur protection », a écrit United Talent Agency dans un communiqué la semaine dernière. « Lorsqu'il s'agit de Sora d'OpenAI ou de toute autre plateforme qui cherche à tirer profit de la propriété intellectuelle et de l'image de nos clients, nous sommes aux côtés des artistes. L'avenir des industries basées sur l'expression créative et l'art repose sur des contrôles, des protections et une compensation légitime. L'utilisation d'une telle propriété sans consentement, crédit ou compensation est une exploitation, pas une innovation.
La Creative Artists Agency a émis un avertissement similaire la semaine dernière.
L'année dernière, le gouverneur de Californie, Gavin Newsom, a signé un projet de loi exigeant le consentement des acteurs et des interprètes pour utiliser leurs répliques numériques.
Désormais, les agences artistiques et la SAG-AFTRA (qui représente également de nombreux employés de NPR) ont annoncé qu'elles et OpenAI soutenaient une législation fédérale similaire, appelée loi « NO FAKES ».
Jusqu'à présent, certaines des vidéos créées à l'aide de Sora 2 reposaient sur du matériel protégé par le droit d'auteur. Par exemple, il y a une vidéo qui montre le personnage animé Bob l'éponge préparant des drogues illicites.
La Motion Picture Association, qui représente les principaux studios hollywoodiens, a déclaré dans un communiqué que depuis la sortie de Sora 2, « les vidéos qui portent atteinte aux films, émissions et personnages de nos membres ont proliféré sur le service OpenAI et sur les réseaux sociaux ».
Duncan Crabtree-Ireland, directeur exécutif national du syndicat SAG-AFTRA, a déclaré la semaine dernière à NPR qu'il n'était pas possible pour les titulaires de droits de trouver toutes les utilisations possibles de leur matériel.
« C'est un moment de réelle inquiétude et de danger pour tous les acteurs de l'industrie du divertissement. Et cela devrait être le cas pour tous les Américains, nous tous en fait », déclare Crabtree-Ireland.
SAG-AFTRA affirme que l'acteur Bryan Cranston a alerté le syndicat d'éventuels abus. Aujourd’hui, le syndicat et les agences artistiques se disent reconnaissants qu’OpenAI ait écouté ces préoccupations.
La société a annoncé une politique « d'adhésion » donnant à tous les artistes, interprètes et individus le droit de déterminer comment et si ils peuvent être simulés. OpenAI déclare qu'il bloquera la génération de personnages bien connus sur son flux public et supprimera tout matériel existant non conforme.
La semaine dernière, OpenAI a accepté de supprimer les fausses vidéos de Martin Luther King Jr., après que sa succession se soit plainte des « représentations irrespectueuses » du défunt leader des droits civiques.
