Il y a de mauvaises rumeurs (Richard Gere a eu la gerbille). Et puis, il y a des rumeurs selon lesquelles vous sortez avec une belle auteure-compositrice lauréate d'un Grammy. Michael B. Jordan a eu le bon genre.
Cette semaine, les réseaux sociaux se sont remplis de ce qui semble être des images générées par l'IA de l'acteur et Raye s'embrassant, sortant avec des rendez-vous et vivant une relation qui, à notre connaissance, n'existe pas. Un post X avec une fausse image des deux posant affectueusement aux MTV Video Music Awards (un événement auquel Jordan n'a même pas assisté) a recueilli plus de 800 000 vues et, mercredi, la plateforme d'Elon Musk n'y a toujours pas apposé l'étiquette « réalisé avec l'IA », ni ne l'a signalée comme étant manipulée numériquement. Lundi, la fausse romance était devenue suffisamment virale pour que Raye soit interrogé à ce sujet sur un tapis rouge.
Raye a nié la rumeur, mais pas Jordan, ce qui est compréhensible, étant donné que la rumeur le fait sortir avec un musicien magnifique et extrêmement talentueux. C'est comme la version flatteuse d'une question chargée : sortez-vous avec Raye ? Dis oui et tu mens. Dites non et vous rejetez des ragots plutôt enviables. Pendant ce temps, la moitié du monde souhaiterait probablement sortir avec Raye ! (Moi inclus, et je suis gay.)
Pour être juste envers Jordan, ce qu’il dit n’a pas vraiment d’importance à ce stade, car les gens le croient déjà. La rumeur appartient désormais à Internet. Un utilisateur X avec plus de 50 000 abonnés a commenté « Les gens ici vivent mon rêve » sur la publication avec l'image du faux couple. « L'énergie de l'âme sœur », a commenté un autre.
Le fait que le Gere/gerbille malarkey ait survécu pendant des décennies est la preuve que les potins sur les célébrités n'ont pas besoin de beaucoup de preuves pour proliférer. Telle est la persistance des rumeurs hollywoodiennes. Mais l’IA générative a radicalement changé la donne. Maintenant, une rumeur a ses propres reçus falsifiés, et en conséquence, les gens ont payé pour protéger les célébrités de ce genre d'absurdités. Salon de la vanité que les rumeurs générées par l’IA deviennent de plus en plus difficiles à combattre.
« Il est certainement inquiétant de voir à quel point les photos d'IA sont devenues réalistes en si peu de temps. Mais ce qui est plus inquiétant, c'est à quel point cette technologie peut être utilisée de manière néfaste – comme les deepfakes pornographiques – et avec une telle facilité. Nous devons faire pression pour une réglementation », a déclaré un célèbre publiciste, qui a requis l'anonymat pour parler franchement de son travail. Salon de la vanité.
Un autre publiciste célèbre raconte VF que lorsqu'un faux prend de l'ampleur, leur équipe peut se tourner discrètement vers un micro-influenceur ou un compte à potins comme Deux Moi pour le démystifier. D’autres fois, ils doivent faire appel à des sociétés numériques spécialisées dans la recherche et la suppression de ce type de matériel. Mais ces entreprises, dit le publiciste, sont « tellement chères ».
De plus en plus, l’un de ces appels est adressé à Loti AI, abréviation de « ressemblance sur Internet ». Selon le cofondateur et PDG Luke Arrigoni, la société protège environ 20 000 acteurs, musiciens, PDG, responsables militaires et les successions de célébrités décédées contre les deepfakes et les fausses rumeurs sur Internet. « Nous sommes le premier à appeler la chaîne de triage à Hollywood du type 'Oups, il y a un truc en ligne' », raconte Arrigoni. Salon de la vanité.
Ces choses vont des fausses romances au deepfake porno en passant par un énorme écosystème d’usurpations d’identité de célébrités néfastes. Pour les identifier, Loti récupère chaque jour quelque 600 millions d’actifs en ligne. « Les célébrités doivent essentiellement embaucher un service qui consomme Internet tous les jours », explique Arrigoni. Il affirme que leur entreprise facture jusqu'à 3 000 dollars par mois pour ses services.
Il y a beaucoup de travail à faire pour des entreprises comme Loti. Ce mois-ci, des images générées par l'IA montrant la chanteuse et actrice coréenne Yoona enceinte se sont répandues sur les réseaux sociaux, ce qui a conduit son agence à déposer une plainte pénale pour les faire retirer. Un Dwayne Johnson généré par l'IA a été montré rejetant publiquement une invitation à l'événement de l'UFC à la Maison Blanche. Un publiciste raconte VF qu'elle a récemment été confrontée à davantage de deepfakes qui mettent des remarques antisémites dans la bouche des clients. En septembre, des vidéos sur X prétendaient montrer Leonardo DiCaprio et un groupe d'autres acteurs soutenant une campagne exhortant les Américains à ne pas voter pour les démocrates en novembre. Les vidéos étaient même accompagnées de faux New York Times image de marque. Dans le cas de DiCaprio, les créateurs ont réutilisé des images d'une véritable interview de MTV News en 2019. D'autres vidéos utilisaient de vrais clips Cameo d'acteurs, dont Annie Potts, Patrick Fabian, Alyssa Milano et Sean Astin, pour donner l'impression que les stars soutiennent un mouvement politique qu'elles ne soutenaient pas.
Bien que ces exemples semblent être politiquement motivés, la plupart d’entre eux ne sont que de la contre-artistique. Les comptes de réseaux sociaux produisent des images d’IA simplement parce que les rumeurs de célébrités génèrent des clics et de l’engagement – un trafic qui peut finalement être monétisé par les personnes qui les produisent et les plateformes qui les hébergent.
D’autres stratagèmes sont plus directs, comme une nouvelle version de l’arnaque du prince nigérian qui utilise des deepfakes de célébrités. Les fraudeurs usurpent l’identité de personnes célèbres en utilisant des vidéos ou des enregistrements audio générés par l’IA pour entretenir des relations avec des inconnus, en grande partie des personnes âgées. Les acteurs masculins plus âgés sont des appâts particulièrement courants, selon Arrigoni. Finalement, la fausse célébrité a besoin d’argent pour une raison farfelue. Peut-être que l'escroc dit à sa marque qu'il est bloqué à l'étranger, ou que son manager l'a trahi, ou qu'il a besoin de 100 000 $ pour échapper à un mauvais contrat. L'image de Brad Pitt a été utilisée récemment pour arnaquer les gens. Une Française aurait transféré des centaines de milliers d'euros à des escrocs après avoir passé plus d'un an à croire qu'elle était en contact fréquent avec l'acteur. Parmi les « preuves » qu’ils lui ont envoyées figuraient des images générées par l’IA montrant soi-disant Pitt hospitalisé pour un cancer.
Le plus gros problème pour des entreprises comme Loti est que les ragots sur les célébrités se propagent souvent plus rapidement que les personnes engagées pour les tuer.
« Le but est de l'arrêter avant que le dentifrice ne sorte du tube », explique Arrigoni. Considérez une fausse romance de célébrité. Le cycle normal de presse peut durer seulement deux ou trois semaines. Si Loti ne détecte pas une fabrication pendant une semaine et a ensuite besoin de plusieurs jours pour la supprimer, « vous êtes à la moitié du cycle ». Au moment où cela disparaît, dit-il, « vous supprimez essentiellement les 20 ou 30 % restants, et le mal est en grande partie fait ».
Une fois qu’ils ont trouvé le faux – ce qui ne représente que la moitié de la bataille – Loti doit alors persuader la plateforme qui l’héberge de le supprimer. Arrigoni a déclaré que la plupart des grandes sociétés de médias sociaux répondent généralement rapidement aux demandes de suppression. Mais il y a une exception notable : X.
« X est une matrice très bizarre de ce qu'ils vont ou ne veulent pas supprimer », explique Arrigoni. Au lieu du processus relativement simplifié que Loti rencontre ailleurs, il dit que les demandes de retrait sont débattues dans des fils de discussion par courrier électronique, même dans les cas impliquant du matériel d'abus sexuel d'enfants généré par l'IA. « Vous êtes vraiment dans un fil conducteur avec quelqu'un qui essaie de le convaincre qu'il s'agit en fait de matériel pédopornographique, ce qui est insensé », a-t-il déclaré.
Andrea Powell, directrice de la Digital Identity Foundation, qui travaille avec des survivants d'abus sexuels basés sur l'image, a rencontré le même problème avec X. « J'espère qu'avec le temps, soit par la force de la politique et de la réglementation, soit peut-être que quelqu'un déchiffrera le code dans le cœur de cette entreprise », dit-elle. X n'a pas répondu à une demande de commentaire.
Les enjeux deviennent considérablement moins drôles lorsque les images truquées sont à caractère sexuel.
Powell raconte à VF qu'un de ses clients – « une célébrité plus âgée et bien connue » – a lu un jour une enquête du New York Times écrite par Nicholas Kristof sur l'exploitation sexuelle en ligne. Après l'avoir lu, elle a cherché sur Google et découvert de la pornographie deepfake présentant sa propre image dont elle ignorait l'existence.
Powell considère les deepfakes sexuels comme « une retourne à la cuisine » – un outil massivement utilisé contre les femmes et les filles. « Presque n'importe quel idiot possédant un téléphone peut désormais créer du porno deepfake », dit-elle.
L’un des derniers phénomènes de deepfake impliquait la pornographie générée par l’IA mettant en scène les enfants de personnes célèbres. (Par souci pour les personnes concernées, nous n'énumérerons aucune des victimes du porno deepfake.) Le Congrès a tenté de rattraper son retard sur ces questions. Le Take It Down Act, promulgué l’année dernière, exige que les plateformes créent un processus pour supprimer les images sexuelles non consensuelles, y compris les contrefaçons générées par l’IA, et qu’elles suppriment les images dans les 48 heures. Il existe également un projet de loi fédérale au Congrès, appelé NO FAKES Act, qui irait plus loin en protégeant contre les répliques non autorisées de la voix d'une personne.
Matt Hartman du Center for Countering Digital Hate considère le problème des deepfakes comme une évolution d'un vieux problème. « Je pense que c'est juste une continuation de ce que nous voyions dans les tabloïds », dit-il. Salon de la vanité. La différence est qu’un tabloïd avait au moins « des normes éditoriales contrôlant une rumeur ». Aujourd’hui, dit-il, « il y a à tout moment quelqu’un derrière un ordinateur qui est capable d’inventer quelque chose et de le projeter comme si c’était vrai ».
Les sociétés d’IA ont lancé la technologie des deepfakes et les sites de médias sociaux ont fourni le public, tout cela avant que des garde-fous ne soient en place. Raye et Jordan constituent peut-être un cas test relativement inoffensif, mais ne vous y trompez pas : nous sommes tous des cobayes.
