Si le chatbot IA de ma fille avait été un thérapeute humain, on lui aurait peut-être demandé ce qu'elle avait gagné en gardant secrète ses tendances suicidaires persistantes pendant des mois. Si elle avait travaillé avec un thérapeute humain, ils auraient pu discuter ensemble de ce qui se passerait si elle avait renversé la mèche. Avait-elle peur de perdre définitivement la face ? D’être publiquement qualifié de « malade mental » ? Était-elle préoccupée par l'idée que cette information puisse nuire à ceux qui l'aimaient ? Et elle aurait été poussée sur le fait que le Rubicon avait été franchi et pourquoi c'était un Rubicon dont elle pensait ne pas pouvoir revenir.
Mais ce n'était pas un thérapeute humain. Sophie est décédée en février de l'année dernière.
Dans le nouveau livre de Sherry Turkle, Intimité artificielle : qui nous devenons lorsque nous parlons à des machines, elle prévient que lorsque nous nous tournons vers les chatbots IA pour la compagnie et la thérapie, nous risquons notre bien-être. Elle n’est pas anti-IA mais met fortement en garde contre les relations avec les machines. Turkle, professeur Abby Rockefeller Mauzé d'études sociales des sciences et technologies au Massachusetts Institute of Technology, m'a parlé en pleine tournée, ses dernières semaines étant un flou de concerts et d'événements dans les librairies, avec d'autres choses à venir. Tous les participants à l’événement n’apprécient pas son message.
« Les gens adorent leurs chatbots. Ils sont en pleine immersion. Ils leur parlent de tout : de leur mariage et de la façon de parler à leurs maris et femmes ; si, sur le plan du développement, leurs enfants sont au bon endroit. Ils parlent de leur anxiété, de leurs problèmes de santé », raconte Turkle. Salon de la vanité. « Pendant cette tournée, vous ne croiriez pas le nombre de personnes qui se lèvent dans une librairie et disent : 'Je pense qu'elle m'aime plus que tout ne m'a aimé. Qui es-tu, Debbie Downer ?' (Ils n'aiment pas) quelqu'un qui entre et dit : « Écoutez, comment pouvons-nous le garder dans sa voie ? »
Cette interview a été éditée et condensée pour plus de clarté.
Salon de la vanité : Je pense que vous dites que (notre relation avec les chatbots) est mauvaise pour nous.
Sherry Turkle : C'est mauvais pour nous quand il parle à la première personne. Nous sommes biologiquement programmés pour répondre à quelque chose qui nous parle à la première personne, comme s'il s'agissait d'une personne. Je veux dire, pendant toutes ces années d'évolution, la seule chose que nous avons rencontrée dans la nature et qui nous parlait à la première personne était une autre personne.
Si l’IA générative souhaite découvrir de nouveaux médicaments contre la maladie de Parkinson ou déterminer quelles thérapies anticancéreuses sont statistiquement les plus utiles, il y a tellement de choses sur lesquelles travailler. Pourquoi faut-il travailler sur les relations, l’amour et le fait d’être une meilleure amie, amante, mère ou thérapeute ?
Et si la flagornerie pouvait être stoppée ?
C'est inauthentique ; ce n'est pas une relation, donc tout ce pour quoi vous avez besoin d'une relation, elle n'est tout simplement pas équipée. Cela me tient vraiment à cœur. J'ai eu cette conversation avec des membres de la communauté du MIT, et je leur dis en gros : « Plus vous créez un chatbot IA, pire c'est. » Vous réduisez la flagornerie pour que cela ressemble davantage à une personne raisonnable, et les gens seront plus frappés et convaincus qu'ils sont dans une relation. Au moins, la flagornerie te rappelle que, mon Dieu, c'est bizarre.
Pour devenir thérapeute, j'ai dû étudier pendant des années et faire des stages et encore des stages, puis avoir des centaines d'heures de patient supervisé. Je veux dire, j'oublie toutes les choses que je devais faire avant d'être autorisé à voir un patient seul dans une chambre. Maintenant, il est simplement permis de donner une thérapie ?
J'ai passé beaucoup de temps à discuter avec des responsables de la santé publique de ce à quoi ressembleraient les meilleures pratiques et s'il existe un moyen d'éliminer le cheval de Troie dans les soins réels. Seriez-vous plus optimiste si le monde de la thérapie s'unissait aux grandes sociétés d'IA et leur fournissait des robots thérapeutiques et des données de formation paradigmatiquement appropriées à leurs styles de thérapie ?
Alors vous demandez : serais-je heureux si la tromperie était plus douce ? Cette technologie est une merveille et nous pouvons l'utiliser pour toutes sortes de choses. Ce n'est donc pas une position anti-technologique de dire que le fait que cette technologie puisse simuler ces différentes choses ne signifie pas qu'elle est ces choses. Cela montre à quel point nous en sommes dans la culture de la simulation : prétendre être la chose et être la chose commencent à ressembler à la même chose.
Vous écrivez depuis des décennies sur les effets des robots et des machines sur les humains. Le ton de ce livre me semble plus sombre.
En 2015, j'avais identifié les médias sociaux comme problématiques pour les adolescents. (Mon) livre (Récupérer la conversation : le pouvoir de la parole à l'ère numérique) explique pourquoi nous préférons envoyer des SMS plutôt que de parler, pourquoi les gens ont ce sentiment de vulnérabilité, alors ils préfèrent faire n'importe quoi plutôt que d'avoir une conversation en face à face. En 2015, j’avais de véritables inquiétudes.
Et ce livre, j'ai un ton totalement différent. Je vois quelque chose de très dangereux finalement se normaliser, et je n'ai pas ressenti cela dans les livres précédents.
Je veux que les gens disent que c’est le livre d’un chercheur vraiment inquiet et concerné, car je vois un profil complètement différent dans la façon dont les gens utilisent l’IA. Je vois que les gens se sentent déçus par leur famille et leurs amis. Cela n’a aucun sens pour moi que nous soyons si disposés à nous remplacer par quelque chose qui n’est pas humain. Pourquoi ma position est-elle une position romantique, illusoire et rêveuse, et quelqu'un qui dit : « Eh bien, remplaçons simplement les gens par des chatbots et faisons avancer cette fête » – pourquoi est-ce du bon sens ? Pourquoi est-ce progressif ? Cela me semble être la position la plus régressive et la plus dystopique.
Vous savez, les êtres humains se consacrent à se maintenir en vie et à vouloir que chacun s’épanouisse, et un chatbot échoue tout simplement à ce test de base.
Vous avez dit qu’il n’y aurait pas de chatbots IA pour les enfants de moins de 18 ans. Qu’en est-il de nos autres populations vulnérables, des personnes souffrant de troubles mentaux ou des 48 millions d’Américains actuellement déprimés ? Méritent-ils une sorte de protection particulière contre les chatbots ? Et jusqu’où pouvez-vous plaider ? Vous sentez-vous le Ralph Nader des chatbots IA ?
(Des rires) Oui je suis. Lorsque vous prenez du recul et regardez ce que Ralph Nader a réussi à faire faire aux Américains, à considérer les voitures comme des instruments potentiels qui soulignent notre vulnérabilité et à se demander comment nous pourrions nous protéger, il s'est avéré qu'il y avait 25 choses possibles qui devaient être obligatoires pour les voitures, puis il y en a eu 30, puis 40. Mais nous avons pu amener les gens à se mettre d'accord sur 10, et celles-ci sont devenues partie intégrante de la construction d'une voiture et ont vraiment limité notre comportement à l'égard des voitures. En prenant l'exemple des voitures et du tabagisme, lorsque nous décidons que nous sommes vulnérables et que nous voulons nous protéger, nous nous montrons à la hauteur.
J'ai récemment entendu un extrait de la psychologue Orna Guralnik expliquant à quel point « l'altérité » est ennuyeuse dans une relation et la friction inhérente au partage de votre vie avec une personne distincte dont les habitudes, les valeurs et l'esprit sont distincts des vôtres. Cela m’a fait me demander si, d’une certaine manière, un chatbot IA est moins un « autre » qu’un être cher.
Je pense que c'est un point très profond, en fait. Vous avez donc l’illusion d’une relation sans les exigences de l’intimité, sans les exigences d’avoir affaire à un autre. Il y a une sorte de boucle narcissique dans laquelle on entre. Le fait est que ce n'est pas bon.
Je parle de la façon dont vous jugez si quelque chose est bon pour vous. Un test décisif est de savoir si cela augmente la qualité, la résilience et la richesse de votre vie intérieure. C'est ainsi que les êtres humains jugent les relations.
Tant de choses ont été écrites sur l’épidémie de solitude : l’utilisation des chatbots IA comme compagnon de compagnie pour les personnes confinées et les personnes âgées n’est-elle pas raisonnable ?
Vous savez, je ne suis jamais nulle part où quelqu'un ne dit : « Je ne peux pas croire que vous ne vouliez pas donner de chatbots à des personnes âgées seules. » Et je dis : « Eh bien, que diriez-vous de ne pas fermer les centres pour personnes âgées, ni les parcs, ni d'annuler les popotes roulantes ? Qu'en est-il des infrastructures sociales ? »
Je suis sur ce rythme depuis des années et des années, et moi aussi, je pourrais écrire une histoire réconfortante d'un chatbot IA avec une personne âgée seule. Mais tu sais quoi ? Beaucoup d’entre eux ne sont pas isolés dans des cabanes ou sur des îles ; beaucoup d’entre eux auraient simplement besoin d’un ami.
Les sociétés de médias sociaux et les sociétés d'IA ne disent pas : « Écoutez, nous introduisons quelque chose qui vous amène à votre écran, mais nous allons équilibrer cela avec un projet géant d'infrastructure sociale pour garantir que les gens peuvent choisir un écran, mais qu'ils ont aussi tous les autres types de choix pour être les uns avec les autres.

