De nouvelles recherches examinent l’utilisation abusive potentielle de l’IA pour accéder à notre subconscient, comme l’a révélé le scandale Cambridge Analytica. Il critique le projet de réglementation de l’UE sur l’IA pour ses insuffisances en matière de protection contre la manipulation subconsciente, soulignant la nécessité de davantage de garanties de confidentialité dans notre monde de plus en plus axé sur les données.
La nouvelle loi de l’Union européenne sur l’intelligence artificielle pourrait permettre à l’IA d’accéder à notre subconscient.
L’utilisation de données personnelles provenant de millions de publications sur Facebook et d’analyses de données avancées pour influencer les résultats politiques aux États-Unis et au Royaume-Uni était autrefois un concept appartenant au domaine de la science-fiction. Cependant, les événements du scandale Cambridge Analytica en 2018 ont rendu ce scénario réalité. Cet incident a mis en évidence à quel point la progression rapide de la technologie et de l’intelligence artificielle a ouvert la voie à de nouveaux défis et dilemmes éthiques inimaginables auparavant.
L’initiative neurorights menée par la Fondation Neurorights plaide pour la reconnaissance d’un nouvel ensemble de mesures de protection contre les défis de ces avancées techniques. Certains d’entre eux sont débattus dans le cadre de la loi sur l’intelligence artificielle, actuellement en cours de négociation au sein des instances dirigeantes de l’UE. Cette loi doit réglementer, entre autres, la capacité de l’IA à influencer notre subconscient (de la même manière que l’affaire Cambridge Analytica mais à des niveaux bien plus profonds).
Ignasi Beltran de Heredia, doyen de la Faculté de droit et de sciences politiques de l’Université Oberta de Catalunya (UOC) et auteur du livre «Intelligence artificielle et neuroderechos» (Aranzadi, 2023), vient de publier un article en libre accès examinant les défis auxquels nous sommes confrontés du fait des progrès de l’IA et remettant en question le dernier projet de loi de l’UE du point de vue des neurosciences.
Les risques de donner à l’IA accès à notre subconscient
Selon les estimations, seulement 5 % de l’activité cérébrale humaine est consciente. Les 95 % restants se produisent inconsciemment et non seulement nous n’avons aucun contrôle réel sur eux, mais nous n’en sommes même pas conscients. Comme le souligne Beltran de Heredia dans son article, nous ignorons cet extraordinaire torrent d’activité neuronale en raison de la grande complexité de l’interaction entre notre esprit conscient et notre comportement subconscient et de notre manque total de contrôle sur les forces qui guident nos vies.
Toutefois, cela ne signifie pas que les gens ne peuvent pas être influencés inconsciemment. « L’intelligence artificielle dispose de deux manières d’y parvenir », a-t-il expliqué. « La première consiste à collecter des données sur la vie des gens et à créer une architecture décisionnelle qui vous amène à prendre une décision particulière. Et l’autre – actuellement moins développée – consiste à utiliser des applications ou des appareils pour créer directement des impulsions irrésistibles pour notre subconscient afin de générer des réponses impulsives à un niveau subliminal, c’est-à-dire de créer impulsions. »
« À mesure que nous développons progressivement des machines meilleures et plus puissantes et que nous devenons plus étroitement liés à celles-ci, les deux options deviendront de plus en plus répandues. Les algorithmes auront plus d’informations sur nos vies, et il sera plus facile de créer des outils pour générer ces réponses impulsives (…) Le risque de ces technologies est que, tout comme le joueur de flûte de Hamelin, elles nous feront danser sans savoir pourquoi.
Selon Beltran de Heredia, le domaine dans lequel on voit le plus probablement les premières tentatives d’influencer le comportement humain grâce à l’IA est celui du travail, plus précisément de la santé au travail. Il affirme qu’un certain nombre de technologies intrusives sont actuellement utilisées. Il s’agit notamment de dispositifs qui surveillent les chauffeurs de bus pour détecter les capteurs de micro-sommeil ou d’électroencéphalographie (EEG) utilisés par les employeurs pour surveiller les ondes cérébrales des employés afin de détecter les niveaux de stress et d’attention au travail. « Il est difficile de prédire l’avenir, mais si nous ne restreignons pas ces technologies intrusives alors qu’elles en sont encore aux premiers stades de développement, le scénario le plus probable est qu’elles continueront à s’améliorer et à étendre leurs vrilles au nom de la productivité. .»
Les limites (floues) proposées par l’UE
Le nouveau règlement sur l’intelligence artificielle actuellement discuté par l’UE cherche à anticiper les risques futurs possibles liés à cette utilisation et à d’autres utilisations de l’IA. L’article 5.1 du projet de loi initial contenait une interdiction expresse de mettre sur le marché, de mettre en service ou d’utiliser une IA capable d’influencer une personne autrement qu’à un niveau conscient afin de fausser son comportement. Toutefois, les amendements et modifications progressivement introduits depuis ont peu à peu dilué le caractère absolu de l’interdiction.
Le projet de loi actuel, qui servira de référence pour la formulation finale de la loi, interdit de telles techniques uniquement si elles sont destinées à être manipulatrices ou trompeuses, si elles affectent de manière significative la capacité d’une personne à prendre une décision éclairée afin qu’elle prenne une décision. qu’ils n’auraient pas fait autrement, et ils causent un préjudice important à quelqu’un d’une manière ou d’une autre. De plus, l’interdiction ne s’appliquera pas aux systèmes d’IA destinés à des fins thérapeutiques approuvées.
« En vertu de la proposition, l’interdiction de l’IA s’appliquera lorsqu’il y aura un préjudice grave et que la personne finira par faire quelque chose qu’elle n’aurait pas fait autrement. Mais c’est une norme irréaliste. Si je ne peux pas accéder à mon subconscient, je ne peux pas prouver ce que j’aurais fait sans le stimulus, et je ne peux pas non plus prouver le mal (…) Si la publicité subliminale est désormais complètement interdite sans réserve, pourquoi le faisons-nous ? laissant place au conditionnement subliminal par l’intelligence artificielle ?
Selon Beltran de Heredia, si nous laissons la porte ouverte à notre subconscient, même pour de bonnes raisons, nous ne pourrons pas contrôler qui y a accès, comment y accéder ou les objectifs de cet accès. « Certains pourraient penser que ces préoccupations appartiennent à un avenir dystopique improbable. Et pourtant, il ne fait aucun doute que nous sommes déjà confrontés à une intrusion à une profondeur inimaginable il y a seulement quelques années et que le public devrait bénéficier de la protection la plus complète possible. Notre subconscient représente notre moi le plus privé et doit être complètement fermé à tout accès extérieur. En fait, nous ne devrions même pas en discuter.»
Il y a encore beaucoup de choses que nous ignorons sur le fonctionnement de notre cerveau et sur la façon dont les parties conscientes et subconscientes de notre esprit interagissent les unes avec les autres. Le cerveau reste un organe très insaisissable et, même si la science fait de grands progrès dans ce domaine, nous ne connaissons pas beaucoup de façons dont son fonctionnement pourrait être affecté par certains stimuli. « Nous devons être conscients du risque qu’il y a à donner à d’autres personnes et à des entreprises l’accès à notre moi intérieur à des niveaux aussi profonds. Dans le contexte de l’économie des données, de nombreuses institutions publiques et privées sont en concurrence pour accéder à nos informations mais, paradoxalement, il a été démontré à maintes reprises que les individus accordent peu de valeur à leur vie privée », a-t-il conclu.
