Dans la publicité Facebook, une femme avec le même visage que l’actrice Emma Watson semble sourire timidement, se pencher devant la caméra et initier une activité sexuelle. La star de Potter, pas Watson. L’annonce fait partie d’une campagne plus large cette semaine pour l’application deepfake, qui permet aux utilisateurs de remplacer n’importe quel visage par une vidéo de leur choix.
Les deepfakes sont des contenus dans lesquels des visages ou des sons sont supprimés ou manipulés. Généralement, les créateurs de deepfake créent des vidéos qui donnent l’impression que les célébrités sont prêtes à apparaître, mais ce n’est pas le cas. Cette technologie est de plus en plus utilisée pour créer du porno non consensuel mettant en vedette les visages de célébrités, d’influenceurs ou à peu près n’importe qui. y compris les enfants.
La campagne publicitaire sur Meta est un clin d’œil au fait que cette technologie autrefois sophistiquée s’est rapidement propagée aux applications grand public facilement disponibles, vantées dans le courant dominant d’Internet. Malgré de nombreuses plates-formes interdisant les contenus manipulateurs et malveillants, des applications comme celle examinée par NBC News ont réussi à passer entre les mailles du filet.
Un examen de la bibliothèque d’annonces de Meta a révélé que dimanche et lundi, une application de création de vidéos “DeepFake FaceSwap” a publié plus de 230 annonces sur les services de Meta, notamment Facebook, Instagram et Messenger. Certaines publicités montraient ce qui semblait être le début d’une vidéo porno avec les sons familiers de la plateforme porno. Présentation de Pornhub lecture de piste. Quelques secondes plus tard, le visage de la femme a été remplacé par celui d’une actrice célèbre.
Lauren Burton, étudiante en journalisme dans le Tennessee, a été choquée lorsqu’elle a vu la même publicité sur une autre application et a enregistré l’écran, Tweetera reçu plus de 10 millions de vues, selon le compteur de vues de Twitter.
“Cela pourrait potentiellement être utilisé avec des élèves du secondaire dans des écoles publiques qui sont victimes d’intimidation”, a déclaré Burton. “Cela peut ruiner la vie de quelqu’un, cela peut lui causer des ennuis au travail. J’y ai accès.”
Parmi les méta-annonces, 127 présentaient des portraits de Watson. Dans un autre 74, le visage de l’actrice Scarlett Johansson a été échangé avec une femme dans une vidéo tout aussi provocante. Aucune des deux actrices n’a répondu aux demandes de commentaires.
“Échangez votre visage avec quelqu’un d’autre”, lit-on dans la légende de la publicité des années 80.
Toutes les publicités de l’application ont été supprimées du service de Meta mardi après que NBC News ait contacté Meta pour un commentaire.
Aucun acte sexuel n’est montré dans les vidéos, mais leur nature suggestive montre comment l’application pourrait être utilisée pour générer de faux contenus sexuels. L’application permet aux utilisateurs de télécharger et de manipuler des vidéos. Il contient également un grand nombre de modèles de vidéos, dont beaucoup semblent provenir de TikTok et de plateformes de médias sociaux similaires.
Les catégories préconfigurées incluent « Mode », « Mariées », « Pour les hommes », « Pour les femmes » et « TikTok », la catégorie avec le plus de choix étant appelée « Hot ». Il présente des vidéos de femmes et d’hommes légèrement vêtus qui dansent et posent. Après avoir choisi un modèle de vidéo ou téléchargé le vôtre, les utilisateurs peuvent entrer une seule photo du visage de n’importe qui et recevoir une version de la vidéo avec échange de visage en quelques secondes.
de conditions d’utilisation L’application à 8 $ par semaine indique que les utilisateurs ne sont pas autorisés à se faire passer pour d’autres ou à télécharger du contenu sexuellement explicite via son service. Le développeur d’applications répertorié sur l’App Store s’appelle Ufoto Limited, qui appartient à sa société mère chinoise Wondershare. Aucune des deux sociétés n’a répondu aux demandes de commentaires.
méta-interdiction Le contenu le plus deepfake En 2020, et l’entreprise interdira contenu adulte avec des publicités telles que nudes représentations de personnes dans des positions explicites ou implicites, ou des activités sexuellement suggestives.
“Notre politique interdit le contenu pour adultes, qu’il soit ou non généré par l’IA, et limite la publicité sur la plate-forme de cette page”, a déclaré un porte-parole de Meta dans un communiqué.
Les mêmes publicités ont également été trouvées dans des applications gratuites de retouche photo et de jeu téléchargées sur l’App Store d’Apple. L’application apparaîtra pour la première fois en 2022 et peut être téléchargée gratuitement à partir de 9 ans.
Un représentant d’Apple a déclaré que la société n’avait pas de règles spécifiques pour les deepfakes, mais qu’elle interdisait les applications contenant de la pornographie ou du contenu diffamatoire. Apple a déclaré avoir supprimé l’application de l’App Store après avoir été contacté par NBC News.
L’application est également disponible sur Google Play et est classée ‘Teen’ pour ‘Thèmes suggestifs’.
Apple et Google ont pris des mesures contre des applications d’échange de visage AI similaires. Sondage Reuters Reuters a découvert que l’application faisait la promotion de la création de “deepfake porn” sur des sites Web pornographiques. À l’époque, Apple n’avait pas de directives spécifiques pour les applications deepfake, mais interdisait les contenus diffamatoires, discriminatoires ou susceptibles de menacer, d’humilier ou de nuire à quiconque. Les évaluations et les campagnes publicitaires de l’application ont été ajustées, mais l’application est toujours disponible en téléchargement gratuit sur l’App Store d’Apple et Google Play.
L’application examinée par NBC News est l’une des dernières en date du boom des produits deepfake grand public librement accessibles.
Une recherche de “deepfake” dans l’App Store révélera de nombreuses applications avec des capacités techniques similaires, y compris celles qui facilitent la création de contenu “chaud”.
Des exemples courants de cette technologie montrent des célébrités et des politiciens faisant et disant des choses qu’ils n’ont jamais réellement dites ou faites. Parfois, l’effet est comique.
Cependant, la technologie deepfake est massivement utilisée pour créer de la pornographie par des stars non consensuelles. Certains sites Web permettent aux utilisateurs de vendre de la pornographie deepfake non consensuelle derrière des murs payants.
Un rapport de 2019 de Deeptrace, un organisme de surveillance des médias synthétiques en ligne basé à Amsterdam, a révélé que 96 % du matériel deepfake en ligne est de nature pornographique.
En janvier, une streameuse Twitch s’est exprimée après qu’un streamer masculin populaire s’est excusé d’avoir consommé du porno deepfake.
Une étude de diffusion en direct menée par l’analyste indépendante Genevieve Oh a révélé que les principaux sites Web consommant de la pornographie deepfake ont connu une explosion du trafic suite aux excuses d’un streamer Twitch. Les recherches d’Oh ont révélé que le nombre de vidéos porno deepfake a presque doublé chaque année depuis 2018.
Partage non consensuel de photos et de vidéos sexuellement explicites illégal dans la plupart des Étatsla loi relative aux médias deepfake est substantiellement Californie, Géorgie, New York, Virginie uniquement.