Le Dr Wanja Wiese, de l'Université de la Ruhr à Bochum, étudie les conditions nécessaires à la conscience, en soulignant qu'au moins une d'entre elles ne se trouve pas dans les ordinateurs. Dans un nouvel article, il soutient que les différences de structure causale entre le cerveau et les ordinateurs peuvent être pertinentes pour la conscience et que les systèmes d'IA actuels ne sont pas conscients.
Un nouvel article explore les conditions nécessaires à la conscience, soulignant les différences clés entre le cerveau et les ordinateurs, en particulier dans les structures causales, et suggérant qu’une véritable expérience consciente peut nécessiter plus qu’une simple simulation.
Dans un nouvel article, Wanja Wiese étudie les conditions qui doivent être réunies pour que la conscience existe. Au moins l'une d'entre elles ne se trouve pas dans un ordinateur.
Serait-il souhaitable que intelligence artificielle Développer la conscience ? Pas vraiment, pour diverses raisons, selon le Dr Wanja Wiese de l'Institut de philosophie II de l'Université de la Ruhr à Bochum, en Allemagne. Dans un essai, il examine les conditions qui doivent être remplies pour que la conscience existe et compare le cerveau aux ordinateurs. Il a identifié des différences significatives entre les humains et les machines, notamment dans l'organisation des zones cérébrales ainsi que des unités de mémoire et de calcul. « La structure causale pourrait être une différence pertinente pour la conscience », soutient-il. L'essai a été publié le 26 juin 2024 dans la revue Études philosophiques.
Deux approches différentes
Lorsque l’on envisage la possibilité d’une conscience dans les systèmes artificiels, il existe au moins deux approches différentes. L’une d’entre elles pose la question suivante : quelle est la probabilité que les systèmes d’IA actuels soient conscients – et que faut-il ajouter aux systèmes existants pour augmenter la probabilité qu’ils soient capables de conscience ? Une autre approche pose la question suivante : quels types de systèmes d’IA sont peu susceptibles d’être conscients, et comment pouvons-nous exclure la possibilité que certains types de systèmes deviennent conscients ?
Wanja Wiese cherche à identifier les différences entre les ordinateurs et le cerveau. Crédit : RUB, Marquard
Dans ses recherches, Wanja Wiese poursuit la deuxième approche. « Mon objectif est de contribuer à deux objectifs : d’une part, réduire le risque de créer par inadvertance une conscience artificielle. C’est un résultat souhaitable, car on ne sait pas encore clairement dans quelles conditions la création d’une conscience artificielle est moralement autorisée. D’autre part, cette approche devrait permettre d’exclure la tromperie par des systèmes d’IA apparemment conscients qui ne le sont qu’en apparence », explique-t-il. C’est particulièrement important car il existe déjà des indices selon lesquels de nombreuses personnes qui interagissent souvent avec des chatbots attribuent la conscience à ces systèmes. Dans le même temps, les experts s’accordent à dire que les systèmes d’IA actuels ne sont pas conscients.
Le principe de l'énergie libre
Dans son essai, Wiese pose la question suivante : comment pouvons-nous déterminer si des conditions essentielles à la conscience existent et ne sont pas remplies par les ordinateurs classiques, par exemple ? Une caractéristique commune à tous les animaux conscients est qu'ils sont vivants. Cependant, être vivant est une exigence si stricte que beaucoup ne considèrent pas cela comme un candidat plausible pour une condition nécessaire à la conscience. Mais peut-être que certaines conditions qui sont nécessaires pour être vivant sont également nécessaires à la conscience ?
Dans son article, Wanja Wiese fait référence au principe de l'énergie libre du neuroscientifique britannique Karl Friston. Ce principe indique : Les processus qui assurent la pérennité d'un système auto-organisé tel qu'un organisme vivant peuvent être décrits comme un type de traitement de l'information. Chez l'homme, il s'agit notamment des processus qui régulent des paramètres vitaux tels que la température corporelle, la teneur en oxygène du sang et la glycémie. Le même type de traitement de l'information pourrait également être réalisé dans un ordinateur. Cependant, l'ordinateur ne régulerait pas sa température ou sa glycémie, mais se contenterait de simuler ces processus.
La plupart des différences ne concernent pas la conscience
Le chercheur suggère que la même chose pourrait être vraie pour la conscience. En supposant que la conscience contribue à la survie d'un organisme conscient, alors, selon le principe de l'énergie libre, les processus physiologiques qui contribuent au maintien de l'organisme doivent conserver une trace de l'expérience consciente laissée derrière eux et qui peut être décrite comme un processus de traitement de l'information. On peut appeler cela le « corrélat computationnel de la conscience ». Cela aussi peut être réalisé dans un ordinateur. Cependant, il est possible que des conditions supplémentaires doivent être remplies dans un ordinateur pour que celui-ci puisse non seulement simuler mais aussi reproduire l'expérience consciente.
Dans son article, Wanja Wiese analyse donc les différences entre la manière dont les créatures conscientes réalisent le corrélat computationnel de la conscience et la manière dont un ordinateur le réaliserait dans une simulation. Il soutient que la plupart de ces différences ne concernent pas la conscience. Par exemple, contrairement à un ordinateur électronique, notre cerveau est très économe en énergie. Mais il est peu plausible que cela soit une condition nécessaire à la conscience.
Une autre différence réside dans la structure causale des ordinateurs et du cerveau : dans un ordinateur classique, les données doivent toujours être chargées en mémoire, puis traitées dans l’unité centrale de traitement, et enfin stockées à nouveau dans la mémoire. Dans le cerveau, cette séparation n’existe pas, ce qui signifie que la connexion causale des différentes zones du cerveau prend une forme différente. Wanja Wiese soutient que cela pourrait être une différence entre le cerveau et les ordinateurs classiques qui pourrait avoir une incidence sur la conscience.
« À mon avis, la perspective offerte par le principe de l’énergie libre est particulièrement intéressante, car elle permet de décrire les caractéristiques des êtres vivants conscients de telle manière qu’elles peuvent en principe être réalisées dans des systèmes artificiels, mais ne sont pas présentes dans de grandes classes de systèmes artificiels (comme les simulations informatiques) », explique Wanja Wiese. « Cela signifie que les conditions préalables à la conscience dans les systèmes artificiels peuvent être saisies de manière plus détaillée et plus précise. »
