OpenAI a empêché les utilisateurs de réaliser des vidéos de Martin Luther King Jr. sur son application Sora après que la succession du leader des droits civiques se soit plainte de la diffusion de « représentations irrespectueuses ».
Depuis que la société a lancé Sora il y a trois semaines, des vidéos hyperréalistes de King disant des propos grossiers, offensants ou racistes ont explosé sur les réseaux sociaux, y compris de fausses vidéos de King volant dans une épicerie, s'éloignant à toute vitesse de la police et perpétuant des stéréotypes raciaux.
Jeudi soir, OpenAI et la succession de King ont publié une déclaration commune indiquant que les vidéos d'IA représentant King sont bloquées car la société « renforce les garde-fous pour les personnages historiques ».
OpenAI a déclaré qu'il estimait qu'il y avait de « forts intérêts en matière de liberté d'expression » à permettre aux utilisateurs de créer des deepfakes de personnages historiques par l'IA, mais que les successions devraient avoir le contrôle ultime sur la manière dont ces ressemblances sont utilisées.
L'application Sora, qui reste accessible uniquement sur invitation, a adopté une approche des garde-fous de sécurité consistant à tirer d'abord et à viser plus tard, ce qui a sonné l'alarme auprès des avocats en propriété intellectuelle, des personnalités publiques et des chercheurs en désinformation.
Lorsqu'une personne rejoint l'application, elle est invitée à enregistrer une vidéo d'elle-même sous plusieurs angles et à s'enregistrer en train de parler. Les utilisateurs peuvent contrôler si d'autres peuvent créer des vidéos deepfake d'eux, ce que Sora appelle un « camée ».
Mais l'application permettait aux utilisateurs de réaliser des vidéos de nombreuses célébrités et personnages historiques sans consentement explicite, permettant ainsi aux utilisateurs de créer de fausses images de la princesse Diana, John F. Kennedy, Kurt Cobain, Malcolm X et bien d'autres.
Kristelia García, professeur de droit de la propriété intellectuelle à Georgetown Law, a déclaré qu'OpenAI n'agit qu'après la plainte de la succession de King est conforme à l'approche de l'entreprise consistant à « demander pardon, pas la permission ».
« L'industrie de l'IA semble évoluer très rapidement, et le premier sur le marché semble être la devise du jour (certainement par rapport à une approche contemplative et soucieuse de l'éthique) », a déclaré García à NPR dans un e-mail.
Elle a noté à quel point les lois sur le droit à la publicité et sur la diffamation varient selon les États et peuvent ne pas toujours s'appliquer aux deepfakes, ce qui signifie qu'il pourrait y avoir « peu d'inconvénients juridiques à simplement laisser les choses se dérouler à moins et jusqu'à ce que quelqu'un se plaigne ».
Même si la capacité de contrôler l'image d'une personne dépend de l'endroit où se trouve la succession d'une personne, certains États disposent de solides protections, comme la Californie, où les héritiers d'une personnalité publique, ou leur succession, détiennent les droits à l'image pendant 70 ans après le décès d'une célébrité.
Dans les jours qui ont suivi la sortie de l'application Sora, le PDG d'OpenAI, Sam Altman, a annoncé des modifications à l'application offrant aux titulaires de droits la possibilité d'opter pour que leur image soit représentée par l'IA, plutôt que de telles représentations soient autorisées par défaut.
Pourtant, les familles de certaines célébrités et personnalités publiques décédées ont critiqué OpenAI pour avoir autorisé des représentations de comportements vulgaires, peu flatteurs ou incriminants.
Après que des vidéos de Robin Williams ont inondé les réseaux sociaux, Zelda Williams, la fille du défunt acteur, a demandé au public d'arrêter de faire des vidéos de son père. « S'il vous plaît, arrêtez de m'envoyer des vidéos IA de mon père », a-t-elle écrit dans un post Instagram, ajoutant que « ce n'est PAS ce qu'il voudrait ».
Bernice King, la fille du leader des droits civiques, a accepté, écrivant sur X : « S'il vous plaît, arrêtez. »
Les studios hollywoodiens et les agences artistiques ont également exprimé leur inquiétude quant au fait qu'OpenAI ait dévoilé l'application Sora sans obtenir le consentement des détenteurs des droits d'auteur.
Il s'agit d'une approche similaire à la façon dont la société a développé ChatGPT, qui a aspiré des masses de contenu protégé par le droit d'auteur sans approbation ni paiement avant de finalement conclure des accords de licence avec certains éditeurs. Cette approche a déclenché une vague de poursuites en matière de droits d'auteur.
