Dans quelle mesure le filtre est-il trop pour les enfants et les adolescents qui publient des selfies sur les réseaux sociaux ?
C’est la question à laquelle sont confrontés les procureurs généraux des États de tout le pays à la suite d’un accord historique avec Meta cet été. Dans le cadre de cet accord, le géant des médias sociaux a accepté de bloquer certains filtres de beauté numériques pour les mineurs, en particulier ceux imitant des transformations extrêmes comme des procédures cosmétiques ou un maquillage épais.
Il incombe désormais aux responsables de l’État de dire à Meta où fixer la limite. Mais définir où finit le plaisir inoffensif et où commence la manipulation nuisible est loin d’être simple.
Impact sur l’image corporelle des jeunes
Pour les adolescents qui naviguent dans le paysage numérique, la pression de la perfection en ligne est une réalité quotidienne. Une grande partie de cette pression est due aux tendances beauté en ligne telles que le « visage Instagram ». Inventée en 2019 par l'écrivain Jia Tolentino, l'expression fait référence à un look caractérisé par un petit nez boutonné, des pommettes saillantes et des lèvres boudeuses. Bien que traditionnellement réalisable dans la vie réelle grâce à la chirurgie plastique ou au maquillage extrême, il peut être appliqué instantanément en ligne à l’aide de filtres de beauté.
Mia Lerner, une lycéenne de 17 ans en Californie et militante pour l'image corporelle des jeunes, connaît les conséquences néfastes de ces outils numériques. Elle a déclaré à NPR que l'expérimentation de filtres de beauté avait contribué à son trouble de l'alimentation et l'avait laissée aux prises avec son image d'elle-même.
« J'ai même essayé de réparer mon nez avec l'IA », a déclaré Lerner. « Mon visage est bien meilleur, je pense, sur (la) photo que j'ai manipulée avec ces filtres de beauté. Mais je vis toujours avec ce nez que je vois dans le miroir. »
Lerner salue l'aspect du règlement Meta qui vise à restreindre les filtres de beauté pour les mineurs. « C'est un pas très important dans la bonne direction », a déclaré Lerner.
Le problème du montage « subtil »
Cependant, l’accord conclu en août entre Meta et 47 États américains – plus Washington DC et trois territoires – n’institue pas une interdiction générale de tous les effets numériques.
Les filtres qui transforment les utilisateurs en personnages ludiques, comme des lutins ou des chiots, resteront disponibles pour les jeunes. Mais il en sera de même pour les filtres offrant des effets d’embellissement subtils, tels que lisser le teint ou ajouter un léger éclat aux yeux.
C’est cette catégorie d’édition relativement mineure qui préoccupe particulièrement Lerner.
« Quand je vois quelque chose qui a été si manifestement généré par l'IA, il est très facile pour moi de dire logiquement : 'Eh bien, cela a évidemment été manipulé, donc je ne peux pas me comparer à cela' », a déclaré Lerner. « Mais quand je vois ces vidéos de personnes légèrement modifiées, il m'est beaucoup plus facile de suivre cette voie de comparaison. »
Garde-corps technologiques et cibles mobiles
Meta a déjà mis en œuvre des mesures pour gérer les filtres de beauté, de plus en plus alimentés par l'intelligence artificielle.
Le géant de la technologie a déjà interdit les filtres qui font explicitement la promotion de la chirurgie esthétique, tels que ceux qui superposent des lignes de marquage préopératoires sur la peau. Il a également fermé sa plate-forme destinée aux créateurs tiers de ces outils, introduit des étiquettes obligatoires pour le contenu généré par l'IA et déployé des systèmes de détection automatisés de l'IA. Malgré ces systèmes, des filtres esthétiques et des fonctionnalités nuisibles qui maintiennent les enfants piégés dans un cycle sans fin de défilement, de clics et de maintien en ligne ont constamment échappé à ces garde-fous, comme l'a écrit un juge fédéral dans un jugement sommaire rejetant la défense de Meta cet été.
Meta n'est pas la seule entreprise technologique aux prises avec l'accès des adolescents aux filtres de beauté. TikTok interdit également aux utilisateurs de moins de 18 ans de les utiliser. Snapchat ne restreint pas l'accès des adolescents aux filtres. Aucune des deux sociétés n’a répondu à la demande de commentaires de NPR. YouTube a déclaré à NPR qu'il n'avait aucun filtre. Mais rien n’empêche les utilisateurs de publier des images ou des vidéos réalisées avec des filtres tiers sur la plateforme – ou sur TikTok et Instagram, d’ailleurs.
Pendant ce temps, les procureurs généraux des États arrivent à la fin du délai de deux mois qu'ils se sont fixé pour fournir à Meta des conseils sous la forme d'une lettre sur ce qui constitue un filtre banni – et ce qui ne l'est pas.
Des standards de beauté en évolution
Ils sont confrontés à une cible mouvante, à mesure que les normes de beauté numérique évoluent rapidement.
« Si les États veulent définir ce qu'est un filtre de beauté, ils devraient définir ce qu'est la beauté », a déclaré Florencia Solari, une technologue créative qui a passé des années à développer des expériences d'IA et de réalité augmentée pour des marques mondiales.
Solari a noté que les cycles de tendance évoluent rapidement. Le « visage Instagram » est déjà en disgrâce. « Les gens commencent à s'éloigner de cela parce que cela commence à paraître un peu clownesque », a déclaré Solari. « Maintenant, ça va vers une maigreur extrême. C'est donc un autre problème. »
En conséquence, les outils utilisés pour obtenir le look le plus récent changent également. Ainsi, ce qui pourrait être qualifié par les législateurs de filtre de beauté « extrême » en 2026 sera probablement différent en 2027.
Changements technologiques
Si les normes de beauté évoluent rapidement, la technologie évolue également.
Au lieu de s'asseoir dans des salles de réunion pour débattre des seuils de pixels pour les pommettes, Kelly Frasier, co-auteur d'une étude récente soulignant les impacts négatifs des médias sociaux sur les problèmes corporels chez les adolescents, a déclaré que les législateurs devraient considérer le fait que les adolescents pourront bientôt utiliser l'IA pour créer de faux univers entiers autour d'eux, et pas seulement changer leur apparence. Ils devraient donc se concentrer sur une réglementation plus large de l’IA pour les mineurs.
« Je pense que les législateurs posent la mauvaise question s'ils demandent où fixer la limite pour les filtres de beauté », a déclaré Frasier. « Et pour être honnête, les filtres deviendront probablement complètement obsolètes dans les prochaines années. »
Défis juridiques et régionaux
En plus des défis technologiques et culturels, les experts juridiques préviennent que les États individuels pourraient avoir du mal à parvenir à un consensus sur ce qui constitue ou non ce que l'accord de règlement décrit comme un « filtre de procédure cosmétique ».
« Ce que nous n'avons pas vraiment une idée, c'est ce qui se passe si les États ne sont pas d'accord les uns avec les autres ? » a déclaré David Greene, avocat principal à l'Electronic Frontier Foundation. « Et si un État trouve, vous savez, que le lifting des sourcils est tout à fait acceptable et qu'un autre pense que c'est horrible ? »
NPR a contacté les bureaux des procureurs généraux des quatre États plaignants qui ont mené le procès – Californie, Colorado, Kentucky et New Jersey – pour une mise à jour des lignes directrices. Mais les responsables ont refusé de commenter ou n'ont pas répondu.
Au-delà des États-Unis, certains régulateurs internationaux espèrent éviter complètement les discussions sur les définitions des filtres de beauté.
En Europe, le projet de loi KIDS Act – conçu pour réglementer l’utilisation des médias sociaux par les jeunes – adopte une approche radicale.
Dans ce plan, « les filtres de beauté – et non les filtres de beauté extrêmes, les filtres de beauté, point final – sont interdits aux mineurs », a déclaré le porte-parole de la Commission européenne, Thomas Regnier. Regnier a déclaré que les législateurs européens surveillaient de près la mise en œuvre du règlement américain. « Nous voulons des services adaptés aux enfants pour nos enfants. Un filtre beauté n'a rien à voir avec un service adapté aux enfants », a déclaré Regnier.
Les adolescents veulent être entendus
Meta indique qu'elle prévoit d'appliquer l'interdiction des « filtres pour procédures cosmétiques » d'ici le début de l'année prochaine.
Pour les jeunes militants comme Lerner, l’espoir est que les entreprises technologiques et les régulateurs incluent les adolescents dans ces discussions. « Très souvent, seuls le gouvernement ou ces entreprises participent à ces conversations », a déclaré Lerner. « L'entreprise devrait nous demander nos points de vue réels, par exemple : « Les gens utilisent-ils réellement ces filtres d'IA extrêmes ou est-ce que cela ne fera aucune différence ? » « Avons-nous besoin de cibler autre chose ? »
Meta a déclaré que la société avait établi des partenariats avec des adolescents au fil des ans, mais n'a pas répondu à la question de NPR demandant si elle le faisait actuellement.
