Les avatars de l'IA des personnes décédées – ou «Deadbots» – apparaissent dans des contextes nouveaux et inattendus, y compris ceux où ils ont le pouvoir de persuader.
Ils donnent des interviews plaidant pour des lois plus strictes sur les armes à feu, comme lorsque la famille de Joaquin Oliver, victime de la fusillade de l'école de Parkland en Floride 2018, a créé un avatar AI portant des bonnets et l'a fait parler avec le journaliste Jim Acosta en juillet. « Ce n'est qu'un autre outil de plaidoyer pour créer cette urgence de faire changer les choses », a déclaré à NPR Manuel Oliver, le père de Joaquin.
Et en mai, un avatar d'IA barbu de Chris Pelkey, victime décédée d'un incident de rage au volant en Arizona, a fait une déclaration d'impact vidéo lors de la condamnation de l'homme qui a tué fatalement Pelkey. La famille de Pelkey a créé le Deadbot. « Je pense que c'était authentique », a déclaré le juge Todd Lang après avoir entendu la déclaration d'impact générée par l'IA. Il a ensuite prononcé la phrase maximale.
Pouvoirs de persuasion
L'industrie numérique de la vie après la mort, qui gère les actifs numériques d'une personne après sa mort, devrait quadrupler à près de 80 milliards de dollars au cours de la prochaine décennie. Cela inclut la création de Deadbots. Plus ces robots deviennent immersifs, plus les entreprises technologiques explorent leur potentiel commercial, suscitant une préoccupation dans la communauté de la recherche et ailleurs.
« Il y a une rhétorique puissante avec un Deadbot car il puise dans tout ce désir émotionnel et cette vulnérabilité », a déclaré la caricature Amy Kurzweil. Le travail de Kurzweil explore fréquemment des sujets technologiques, y compris son livre 2023. Le mémoire graphique raconte comment elle et son père, inventeur et futuriste Ray Kurzweil, ont créé un chatbot textuel de son grand-père mort en 2018 en utilisant des documents écrits de ses archives. « Je pouvais avoir l'impression d'avoir une communion avec sa présence », a-t-elle déclaré.
Kurzweil a déclaré que des Deadbots vocaux et vidéo plus immersifs pourraient avoir encore des pouvoirs de persuasion encore plus forts. « C'est un peu comme un film VR ou un film 3D au lieu de quelque chose de granuleux et noir et blanc », a déclaré Kurzweil. « Et donc cela peut être plus affectant. »
Dommages potentiels
Les chercheurs avertissent maintenant que l'utilisation commerciale est la prochaine frontière pour Deadbots. « Bien sûr, il sera monétisé », a déclaré James Hutson, chercheur de l'Université de Lindenwood. Hutson a co-écrit plusieurs études sur Deadbots, dont une exploration de l'éthique de l'utilisation de l'IA pour réanimer les morts.
Le travail de Hutson, ainsi que d'autres études récentes telles que celle de l'Université de Cambridge, qui explore la probabilité que les entreprises utilisent Deadbots pour annoncer des produits aux utilisateurs, soulignent les dommages potentiels de ces utilisations. « Le problème est s'il est perçu comme exploitant, non? » Dit Hutson.
Mais Hutson dit que le public américain a néanmoins été prêt à accepter la possibilité que des publicités leur soient nourris par des mèches. « Quelque chose qui peut sembler très grossier et horrible aujourd'hui ne semblera pas si farfelu ou inapproprié une fois qu'il deviendra normalisé et assez courant », a-t-il déclaré.
Hutson a déclaré qu'une chose, le défunt a fait la promotion des produits à l'écran depuis des décennies. Un Fred Astaire a manipulé numériquement dans les publicités d'aspirateurs dans les années 1990.
D'autre part, a déclaré Hutson, il n'a pas fallu longtemps pour que les consommateurs acceptent à contrecœur des publicités dans le cadre de leurs abonnements à des banderoles comme Hulu et Netflix. Alors pourquoi ne pas aussi les Deadbots soutenus par la publicité? (Les entreprises Deadbot comme ci-après et Project décembre monétisent actuellement leurs produits par le biais d'abonnements payants ou en facturant des frais initiaux.)
Questions juridiques, éthiques et morales
Avant que Deadbot, la publicité puisse décoller, il y a des plis légaux pour s'entraîner. « En Amérique, nous avons du mal avec les droits à la vie privée des vivants, sans parler des droits à la vie privée du défunt », a déclaré Jeffrey Rosenthal, avocat de Philadelphie, spécialisé dans la technologie et la vie privée avec le cabinet d'avocats Blank Rome LLP.
Il n'y a pas de lois fédérales complètes régissant l'utilisation de l'IA aux États-Unis. (L'Union européenne dispose d'une législation qui cherche à mettre des garde-corps autour de l'utilisation de l'IA, mais il ne spécifie pas Deadbots.)
Ce que les États-Unis ont, c'est un patchwork de lois des États qui reconnaissent le droit d'une personne de protéger l'utilisation commerciale de leur nom, de sa ressemblance, de sa voix et d'autres caractéristiques d'identification même après leur mort. Mais Rosenthal a déclaré que le cadre juridique actuel est, dans l'ensemble, mal équipé pour faire face aux préjudices qui pourraient découler, par exemple, une grand-mère Deadbot jetant des publicités chez les membres de la famille.
« Qui est responsable? » Dit Rosenthal. « La société de logiciels qui a développé la grand-mère Deadbot? La société de publicité qui a inséré leur annonce? La société qui possède la propriété intellectuelle? Il existe de nombreuses façons différentes pour que cela ne se traduise par un chemin peu clair quant à ce que la loi dit devrait se produire, puis séparément ce que la société juge devrait se produire d'une perspective éthique et morale. »
Les Deadbot Makers and Digital Advertising Companies NPR avec cette histoire disent qu'ils sont repoussés par les ramifications éthiques et morales de l'utilisation de Deadbots pour vendre des produits.
« Éthiquement, je pense que l'utilisation de morts n'est pas du tout saine », a déclaré Camille Chiang, responsable du contenu de la société de marketing d'IA NEX, qui développe actuellement des avatars de l'IA pour qu'une équipe de basket-ball professionnelle puisse utiliser dans des campagnes publicitaires – seulement ils travaillent avec des athlètes, pas des morts.
« Pourquoi diable voudrais-je que ma grand-mère dise quoi que ce soit qui n'est pas authentique? » a déclaré Alex Quinn, PDG d'Authentic Interactions Inc., la société mère de Deadbot Creator StoryFile. « Cela me désactiverait vraiment en tant que consommateur. Et je ne pense pas que cela nous laisse avec un niveau élevé de réputation. »
Mais Quinn a dit qu'il était « absolument intéressé » à voir s'il existe d'autres façons de rendre les émeutes de Deadbots. Un scénario pourrait impliquer l'insertion d'annonces interstitielles dans les conversations des gens avec Deadbots – tout comme la façon dont les ruptures commerciales traditionnelles apparaissent lors des émissions de télévision.
Un autre pourrait impliquer le Deadbot glanant les goûts et les aversions des vivants qui pourraient être utiles aux annonceurs. « Nous pouvons demander à ces avatars de sonder réellement des informations », a déclaré Quinn. « Vous savez, qui est votre athlète préféré? Quels maillots pourraient vous intéresser? »
Quinn a déclaré que les entreprises allaient essayer de gagner autant d'argent dans les avatars de l'IA des morts et des vivants possibles, et il reconnaît qu'il pourrait y avoir de mauvais acteurs. « Les entreprises testent déjà des choses en interne pour ces cas d'utilisation », a déclaré Quinn, en référence à des cas d'utilisation tels que les avenants mettant en vedette des célébrités vivantes créées avec une IA générative avec laquelle les gens peuvent interactifs. « Nous n'avons tout simplement pas encore vu beaucoup d'implémentations. »
