La réaction du public persiste face aux fausses images sexuellement explicites de Taylor Swift qui ont récemment circulé en ligne. Mais la réglementation de ces images générées par l’IA peut poser plus de défis que beaucoup ne le pensent, car seuls 10 États ont directement interdit une certaine forme de pratique dans un contexte de croissance rapide de l’intelligence artificielle.
Les images pornographiques et modifiées numériquement de l’auteur-compositeur-interprète et musicien superstar se sont répandues la semaine dernière sur les réseaux sociaux tels que X, anciennement Twitter. Les images étaient des deepfakes, un relativement nouveau terme désignant une vidéo ou une photo apparemment réaliste mais manipulée produite par une forme d’IA. La technologie est apparue pour la première fois fin 2017, et le partage de code ultérieur l’a rendue plus largement disponible, selon l’Organisation à but non lucratif pour la sécurité des médias sociaux.
« Une partie du problème réside dans le fait que la technologie est devenue moins chère, plus accessible et que ses produits sont plus crédibles, alors que les lois et les protections n’ont pas évolué aussi rapidement », déclare Judith Germano, professeure adjointe et éminente boursière à NYU. École de droit. « Nous avons donc besoin de lois, de normes, de garde-fous et d’un discours politique et public qui abordent ce problème très grave, qui existe depuis des années et qui semble devenir de plus en plus répandu en tant que forme d’exploitation, d’abus et de manipulation sexuels. »
Il n’existe actuellement aucune loi fédérale interdisant la diffusion de tels contenus. Cependant, certains professionnels du droit estiment que « de telles pratiques illicites ne nécessiteront peut-être pas de nouvelle législation, car elles relèvent déjà d’une mosaïque de lois existantes sur la vie privée, la diffamation ou la propriété intellectuelle », selon un article de Droit.com.
Mais la prolifération de ces deepfakes retient l’attention des responsables gouvernementaux – tant au niveau national qu’au niveau des États. Le 30 octobre 2023, le président Joe Biden a publié un décret ordonner « l’établissement de nouvelles normes pour la sûreté et la sécurité de l’IA » tout en ordonnant également au Bureau de la gestion et du budget de « prendre en compte les risques d’abus sexuels d’adultes et d’enfants basés sur des images falsifiées » dans ses prochaines lignes directrices en matière d’achat d’IA.
De plus, au moins les 10 États ci-dessous disposent désormais d’une législation qui cible spécifiquement ceux qui créent et partagent du contenu deepfake explicite, comme le rapporte USA Today. De nombreuses lois ont été adoptées au cours de la dernière année et prévoient des sanctions allant d’amendes à une peine de prison pour les contrevenants.
Les tentatives de lutte contre les pratiques de deepfake ne sont pas parfaites. Germano affirme que certaines lois de l’État exigent un « motif illicite », ce qui, selon elle, pourrait imposer une lourde charge à la victime pour prouver son cas. Les États doivent également déterminer, dit-elle, si leurs lois existantes liées à des sujets tels que la vie privée, le harcèlement et la diffamation sont suffisantes ou « devraient être mieux définies ou élargies ». La plupart des États, par exemple, avoir des lois spécifiques contre la vengeance pornographique, une forme de cyberharcèlement sexuel.
«Je pense que c’est une combinaison de la nécessité pour les États d’avoir une meilleure expertise sur la manière de définir correctement les deepfakes et les remèdes appropriés, afin qu’ils élaborent des lois suffisamment larges pour remédier aux dommages graves, sans pour autant étouffer d’autres lois moins néfastes.» utilisations de la technologie », explique Germano.
Malgré les défis auxquels sont confrontés les législateurs et les régulateurs, elle souligne à quel point il est important que cette pratique préjudiciable soit davantage remarquée.
« Il s’agit d’un problème urgent auquel les États et le gouvernement fédéral doivent discuter de la meilleure façon de le résoudre », déclare Germano. « Ce qui est arrivé à une célébrité aussi célèbre et influente que Taylor Swift met ce problème à l’esprit, mais un problème très préoccupant réside dans le nombre très élevé de personnes victimes de ce type de crime qui n’ont pas la plate-forme et les ressources nécessaires pour contrer les dommages causés. se produit d’un point de vue réputationnel, émotionnel et financier.
