Le business lucratif des « faux visages » créés par Intelligence Artificielle

faux visages IA

L’une des conséquences de la digitalisation toujours plus poussée de notre univers est la prolifération d’entreprises spécialisées dans la création de « visages » numériques mais véritables.

Le business est devenu lucratif ces dernières années : des intelligences artificielles réalisent des « visages » plus vrais que nature et qui sont ensuite utilisés sur les réseaux sociaux, entre autres, afin de créer des faux profils par exemple.

«Il existe maintenant des entreprises qui vendent de fausses personnes», explique la journaliste américaine Kashmir Hill du New York Times.

Par exemple, sur le site Web Generated.Photos, le prix d’une fausse personne est de 2,99 dollars et il est possible d’avoir une offre pour l’achat de 1.000 personnes pour 1.000 dollars. Sur certaines plateformes, c’est même gratuit, comme sur « ThisPersonDoesntExist », fondé par un ingénieur de Uber, Philip Wang.

Des visages qui vieillissent, grossissent, parlent…

Certaines entreprises vont même plus loin puisqu’elles proposent, comme l’entreprise américaine Rosebud, de créer des fausses personnes animées qui peuvent bronzer l’été ou sourire pour la photo. Les « faux visages » pourront donc évoluer au fil du temps, selon les saisons et les besoins des clients. Ils pourront même vieillir ou grossir.

«La création de ce type de fausses images n’est devenue possible ces dernières années que grâce aux réseaux antagonistes génératifs», explique la journaliste Kashmir Hill.

Selon elle, ce « nouveau type d’intelligence artificielle » permet d’obtenir des images au haut degré de réalisme.

Comment sont générées ces images?

Afin de créer ces visages, il est d’abord question de posséder une base de données informatiques regroupant des milliers de photos de vraies personnes. Cette base de données est ensuite étudiée afin que l’intelligence artificielle puisse, en s’en inspirant, inventer des vraies personnes.

Le système d’IA voit chaque visage comme une figure mathématique complexe, une plage de valeurs qui peuvent être décalées. Le choix de valeurs différentes – comme celles qui déterminent la taille et la forme des yeux – peut modifier l’image entière », explique le New York Times.

Plus rien à voir avec les Sims

«Lorsque cette technologie est apparue en 2014, elle était tellement mal réalisée que les visages ressemblaient aux Sims», a ironisé Camille François, une chercheuse en désinformation qui cherche à analyser la manipulation des réseaux sociaux.

Si à l’époque, la détection des faux profils était évidente ou du moins peu délicate, la technologie s’est de plus en plus perfectionnée, à tel point qu’il devient presqu’impossible de faire la différence entre vrais visages et faux visages. La chercheuse déplore que «la détection ne fera que devenir plus difficile avec le temps».

Vraiment?

Des graphistes du New-York Times se sont lancés dans un petit jeu : démêler le vrai du faux. Ils ont abouti à divers problèmes non résolus et assez symptomatiques d’une élaboration par une machine. Ils notent par exemple que les algorithmes ne savent pas repérer les boucles d’oreilles ou les lunettes. Une dame peut se retrouver avec deux boucles d’oreilles différentes ou avoir deux branches de lunettes qui ne sont pas similaires exactement.

« Le problème avec l’utilisation de la technologie est qu’elle est à la fois incroyablement puissante et inopinément imparfaite. J’ai essayé de décrire ici, mais, ironiquement, l’incroyable démo / technologie fait mieux le travail », tweete Kashmir Hill.

Certains détails sont plutôt drôles puisque l’IA crée des individus avec deux oreilles distinctement différentes ou des accessoires qui se plantent sur le visage ou les cheveux sans que cette apparition ne soit pertinente.

En dehors de la prouesse technologique et de leurs aléas résiduels encore incohérents, le développement de ce type de sociétés montre comment le numérique a emboité le pas sur le réel, la crise sanitaire amplifiant de facto les dépendances vis-à-vis du digital.

rachel carson la mer autour de nous

« La mer autour de nous » de Rachel Carson, un voyage vers l’invisible

violences faites aux enfants

Violences faites aux enfants : la hausse est « alarmante »