Jimmy Kimmel est actuellement en vacances d'été après son émission-débat de fin de soirée sur ABC. Mais on pourrait pardonner au fan occasionnel de penser que l'hôte n'a pas quitté le bâtiment. Des vidéos sur les réseaux sociaux semblent le montrer commentant tout, depuis le président Trump s'endormir au milieu d'une réunion jusqu'aux attaques du président contre le candidat au Sénat du Michigan, Abdul El-Sayed.
De fausses vidéos montrant Kimmel et d’autres animateurs de talk-shows télévisés de fin de soirée se multiplient sur les réseaux sociaux. Ces vidéos, réalisées à l’aide de l’IA générative, sont à certains égards plus faciles à créer que les deepfakes d’autres types de célébrités – et pourraient potentiellement être plus perturbatrices.
Pourquoi les gens sont facilement trompés
Jed Rosenzweig, fondateur et rédacteur en chef de la publication en ligne , a enquêté sur la montée de ces deepfakes. Il a déclaré que les animateurs de talk-shows télévisés de fin de soirée sont particulièrement vulnérables à la transformation de leurs portraits en simulations vidéo sur les réseaux sociaux en raison de la facilité avec laquelle le public accepte le contexte dans lequel ils sont présentés.
« Jimmy Kimmel passe vraiment tout son temps à la télévision et parle de politique, et ces clips sont vraiment publiés quotidiennement sur les réseaux sociaux », a déclaré Rosenzweig. « Donc, si vous voyez une vignette de Kimmel liée à quelque chose que Trump a fait hier, il y a là un contexte et une confiance intégrés qui lui donnent une sorte de camouflage. Il faut juste qu'elle ressemble à un clip de Jimmy Kimmel de plus dans un flux déjà rempli de clips de Jimmy Kimmel. »
Rosenzweig a déclaré qu'il existe des signes révélateurs que ces monologues ne sont pas authentiques.
« Les gestes sont étranges. L'écriture ne ressemble pas vraiment à un monologue en direct. Et après environ 10 secondes, Kimmel disparaît et la voix clonée parcourt les images d'actualité », a-t-il déclaré.
Pourtant, certaines de ces vidéos accumulent des centaines de milliers de vues et suscitent des commentaires qui suggèrent qu’au moins certaines personnes pensent que le contenu est réel. Un internaute a commenté une vidéo YouTube : « Merci Jimmy d'avoir dit la vérité. »
Menaces sur la liberté d'expression
Rosenzweig a déclaré que même si d'autres animateurs comme Jon Stewart sont également victimes de ces simulations d'IA, les deepfakes sont particulièrement préoccupants en raison des relations particulièrement controversées de l'animateur avec l'administration Trump.
Le président Trump a demandé à plusieurs reprises le licenciement de Kimmel. Rosenzweig a déclaré que les fausses vidéos, dont beaucoup se moquent ou critiquent Trump, pourraient renforcer la détermination de son administration à un moment où la Commission fédérale des communications et ABC sont engagées dans une bataille juridique sur le droit à la liberté d'expression. « ABC est scrutée tous les soirs pour ce que dit Jimmy Kimmel », a déclaré Rosenzweig.
ABC n'a pas répondu à la demande de commentaires de NPR.
Facile à créer
Ces animateurs de talk-shows générés par l'IA, en tant que genre, représentent à certains égards une menace plus grande que d'autres types de deepfakes de célébrités, tels que les chanteurs et les acteurs : ils sont généralement plus faciles à créer parce que ces animateurs se tiennent généralement debout ou assis au même endroit et parlent à la caméra, et il existe de nombreux enregistrements audio de haute qualité de leurs voix disponibles en ligne pour les cloner.
« Dans de nombreux cas, je peux prendre une seule image d'un animateur en retard et simplement l'animer », a déclaré Hany Farid, professeur d'informatique au Dartmouth College, spécialisé dans l'analyse des deepfakes. « Voici une voix, quinze secondes. Voici un script. Partez. »
En outre, a déclaré Farid, la télévision de fin de soirée est le lieu où de nombreux Américains s'informent et valident leurs opinions.
« Les deepfakes que nous voyons sont essentiellement des campagnes de désinformation qui semblent désormais émaner des (voix) de ces mêmes personnes que nous avons l'habitude d'écouter », a déclaré Farid. « Ils sont donc très efficaces. »
L’attrait de Late Night… en ligne
Même si l’audience est en baisse, environ un quart des Américains regardent encore régulièrement des talk-shows de fin de soirée. Selon une enquête réalisée en 2025 par l'Associated Press-NORC Center for Public Affairs Research, la majorité de ces téléspectateurs sont des démocrates, et ils sont plus nombreux à regarder des clips en ligne que des émissions complètes sur la télévision linéaire classique. Farid et Rosenzweig ont tous deux déclaré que cela pourrait expliquer pourquoi il est plus difficile de trouver sur les réseaux sociaux de faux monologues d'IA provenant d'animateurs de talk-shows de droite.
« Les choses que j'ai vues relèvent davantage des escroqueries et des fraudes », a déclaré Farid. « C'est comme : 'Sean Hannity dit que vous devriez acheter cette crypto-monnaie !' »
Les représentants des hôtes, dont Jimmy Kimmel, Jon Stewart, Sean Hannity et Greg Gutfeld, ont refusé ou n'ont pas répondu aux demandes de commentaires de NPR.
La poignée de créateurs qui produisent des deepfakes pour les animateurs de talk-shows n'ont pas répondu aux questions de NPR sur leurs motivations.
Farid a déclaré qu’ils pourraient le faire pour des raisons idéologiques – ou pour gagner de l’argent.
« C'est du pur clickbait. Obtenez des globes oculaires. Obtenez des publicités. C'est tout », a déclaré Farid.
Les plateformes réagissent
Les plateformes qui hébergent ce slop d’IA tentent de le contrôler. TikTok, ainsi que Google, propriétaire de YouTube, et Meta, propriétaire d'Instagram, ont tous envoyé des déclarations à NPR disant qu'ils exigeaient que les créateurs de contenu deepfake l'étiquetent comme étant créé avec l'IA. Ils ont déclaré utiliser des technologies de détection de ressemblance et de modération pour trouver des deepfakes non autorisés et fournir aux victimes de ces simulations des moyens de demander elles-mêmes leur retrait.
« Nous nous attaquons aux contenus d'IA de mauvaise qualité ou trompeurs en utilisant des systèmes que nous avons développés au fil des années pour lutter contre le spam et les pièges à clics », indique le communiqué de Google, dont YouTube est une filiale. « Au fur et à mesure que cette technologie progresse, nous avons développé des outils inédits dans l'industrie pour protéger les ressemblances de personnalités publiques et de dirigeants civiques, et nous appliquons automatiquement des étiquettes au contenu réaliste de l'IA pour plus de transparence pour le spectateur. »
« Nous exigeons que les gens divulguent, à l'aide de notre outil de divulgation IA, chaque fois qu'ils publient du contenu organique avec une vidéo photoréaliste ou un son réaliste qui a été créé ou modifié numériquement, et nous pouvons appliquer des sanctions s'ils ne le font pas », indique le communiqué de la société mère d'Instagram et de Facebook, Meta. (Meta a demandé à NPR de soumettre un exemple de vidéo deepfake d'un talk-show de fin de soirée provenant d'Instagram ou de Facebook afin de répondre aux questions. La société a confirmé qu'elle avait supprimé la page, qui présentait Kimmel, – après avoir été informée par NPR.)
« La politique de TikTok est de supprimer les deepfakes nuisibles et, séparément, d'exiger des étiquettes sur le contenu réaliste de l'IA qui ne constitue pas une violation par ailleurs », indique le communiqué de TikTok.
Mais la vitesse et le volume avec lesquels ces vidéos apparaissent font que beaucoup y passent.
Un deepfake de Jon Stewart concernant la Première ministre italienne Giorgia Meloni est disponible sur TikTok depuis plus de deux mois. Il n’a pas d’étiquette AI visible. De même, une vidéo sur YouTube montrant un faux Kimmel parlant de Trump se vantant de ses prouesses sur le terrain de golf était toujours en ligne au moment de la publication – trois semaines après sa publication. Il compte plus de 230 000 vues.
Les lois sont à la traîne
Outre les tentatives acharnées des plateformes pour se débarrasser des deepfakes, il existe actuellement peu de recours juridiques pour contrer le problème.
« La question des deepfakes pour des choses comme les animateurs de télévision de fin de soirée tombe dans un domaine qui constitue actuellement une petite lacune dans la loi », a déclaré Louis Tompros, un avocat plaidant en propriété intellectuelle qui s'occupe des affaires d'intelligence artificielle.
Tompros affirme que la loi actuelle sur le droit d'auteur combat uniquement les utilisations non autorisées des œuvres créatives, et non les doubles synthétiques non autorisés des créateurs. Cependant, quelques États comme la Californie et le Tennessee offrent des protections contre les clones vocaux et les deepfakes vidéo générés par l’IA. Un nombre croissant d’États ont adopté des garde-fous ou exigent désormais la divulgation des deepfakes utilisés dans les publicités politiques ; la loi fédérale TAKE IT DOWN, promulguée l'année dernière, criminalise la publication non consensuelle de deepfakes intimes. Mais cela ne couvre pas les deepfakes de contenus non sexuels, comme les commentaires des animateurs de talk-shows.
Pendant ce temps, plusieurs animateurs de fin de soirée, comme John Oliver, ont dénoncé les dangers des deepfakes dans leurs émissions. Les inconvénients technologiques fournissent également du matériel pour la comédie.
« Il y a de réels inconvénients à la croissance incontrôlée de tout cela, dont certains sont certes assez mineurs », a déclaré John Oliver dans un segment de 2025 sur le sujet. « Comme le fait que beaucoup d'entre nous doivent maintenant expliquer à nos parents que la chose incroyable qu'ils ont vue sur Facebook n'est pas réelle. »
