Sur cette image, la personne de gauche est réelle, tandis que celle de droite est générée par l'IA. Leurs globes oculaires sont représentés sous leur visage. Les reflets dans les globes oculaires sont cohérents pour la personne réelle, mais incorrects (d'un point de vue physique) pour la fausse personne. Crédit : Adejumoke Owolabi
En utilisant des méthodes astronomiques pour analyser les reflets des yeux, les chercheurs peuvent potentiellement détecter des images deepfake, bien que la technique comporte un certain risque d’inexactitudes.
À une époque où tout le monde peut créer intelligence artificielle Les images (IA), la capacité à détecter les fausses images, en particulier les deepfakes de personnes, deviennent de plus en plus importantes. Aujourd'hui, les scientifiques affirment que les yeux pourraient être la clé pour distinguer les deepfakes des vraies images.
Détection des deepfakes grâce à l'analyse du globe oculaire
De nouvelles recherches présentées lors de la réunion nationale d'astronomie de la Royal Astronomical Society indiquent que les deepfakes peuvent être identifiés en analysant les reflets dans les yeux humains, de la même manière que les astronomes étudient les images de galaxies. L'étude, dirigée par Adejumoke Owolabi, étudiant en master à l'université de Hull, se concentre sur la cohérence des reflets de lumière dans chaque globe oculaire. Les différences dans ces reflets indiquent souvent une fausse image.
Une série de faux yeux montrant des reflets incohérents dans chaque œil. Crédit : Adejumoke Owolabi
Techniques astronomiques pour la détection des deepfakes
« Les reflets dans les globes oculaires sont cohérents pour la vraie personne, mais incorrects (d'un point de vue physique) pour la fausse personne », a déclaré Kevin Pimbblet, professeur d'astrophysique et directeur du Centre d'excellence pour la science des données, l'intelligence artificielle et la modélisation à l'Université de Hull.
Les chercheurs ont analysé les reflets de lumière sur les globes oculaires de personnes dans des images réelles et générées par l’IA. Ils ont ensuite utilisé des méthodes généralement utilisées en astronomie pour quantifier les reflets et vérifier la cohérence entre les reflets des globes oculaires gauche et droit.
Une série d'yeux réels montrant des reflets globalement cohérents dans les deux yeux. Crédit : Adejumoke Owolabi
Mesurer les incohérences et les implications
Les fausses images manquent souvent de cohérence dans les reflets entre chaque œil, alors que les vraies images montrent généralement les mêmes reflets dans les deux yeux.
« Pour mesurer la forme des galaxies, nous analysons si elles sont compactes au centre, si elles sont symétriques et si elles sont lisses. Nous analysons la distribution de la lumière », explique Pimbblet. « Nous détectons les réflexions de manière automatisée et soumettons leurs caractéristiques morphologiques aux indices CAS (concentration, asymétrie, lissage) et Gini pour comparer la similitude entre les globes oculaires gauche et droit.
« Les résultats montrent que les deepfakes présentent quelques différences entre les deux. »
Le coefficient de Gini est généralement utilisé pour mesurer la répartition de la lumière entre les pixels d'une image d'une galaxie. Cette mesure est effectuée en classant les pixels qui composent l'image d'une galaxie par ordre croissant de flux, puis en comparant le résultat à ce que l'on attendrait d'une distribution de flux parfaitement uniforme. Une valeur de Gini de 0 correspond à une galaxie dans laquelle la lumière est répartie uniformément sur tous les pixels de l'image, tandis qu'une valeur de Gini de 1 correspond à une galaxie dont toute la lumière est concentrée dans un seul pixel.
L'équipe a également testé les paramètres CAS, un outil développé à l'origine par les astronomes pour mesurer la distribution de la lumière des galaxies afin de déterminer leur morphologie, mais a découvert qu'il ne permettait pas de prédire efficacement les faux yeux.
« Il est important de noter que ce n’est pas une solution miracle pour détecter les fausses images », a ajouté Pimbblet. « Il existe des faux positifs et des faux négatifs ; cela ne va pas tout détecter. Mais cette méthode nous fournit une base, un plan d’attaque, dans la course aux armements pour détecter les deepfakes. »
