Voudriez-vous parler avec le « fantôme » d’un être cher généré par l’IA ? L’idée peut sembler effrayante ou cathartique.
Pour 16 volontaires, ces conversations étaient souvent réconfortantes, même lorsque le chatbot agissant comme le fantôme inventait des faits, rapportent le spécialiste de l'information Jack Manning et ses collègues le 12 juin dans les actes de l'étude. Conférence sur la conception de systèmes interactifs. Les résultats suggèrent que, pour les personnes ouvertes à l’utilisation d’une telle technologie, les fantômes de l’IA, également appelés chagrinbots ou deadbots, n’ont pas besoin d’être parfaitement précis pour paraître réels. Ils doivent répondre à des attentes émotionnelles et sociales.
Manning, de l'Université du Colorado à Boulder, a été très surpris de voir à quel point les volontaires aimaient parler aux fantômes générés par l'IA. « Ils adorent cette technologie », dit-il. Sa sœur de 13 ans est décédée alors qu'il avait 11 ans. Aujourd'hui, il ressent une forte aversion à l'idée de parler avec son fantôme numérique.
«J'ai une version de ma sœur en tête», dit-il. « Je ne voudrais pas être confronté au fait que je me trompe peut-être dans ma façon de me souvenir d'elle. »
Cependant, les volontaires de son étude « étaient clairement venus avec un objectif en tête », explique Manning. «Ils avaient une question qui leur paraissait sans réponse ou un détail de leur vie qu’ils voulaient désespérément partager.» Les personnes qui ne souhaitaient pas interagir avec une reconstitution d’un être cher décédé n’ont pas été incluses.
Dans l’ensemble, les bénévoles ont déclaré que l’expérience avait été positive. « J’avais l’impression de parler avec mon grand-père », a déclaré un participant aux chercheurs. Un autre a déclaré : « J’ai juste l’impression d’obtenir la fermeture dont j’avais tant besoin. »
La seule information sur laquelle le chatbot devait s’appuyer pour usurper l’identité était une brève enquête que le participant avait complétée sur son proche décédé. Et lorsque le robot complétait les détails manquants avec des inventions, comme la mention d'un emploi que quelqu'un n'avait jamais occupé, les participants se contentaient souvent d'aller de l'avant.
Les erreurs de ton ou de style les dérangeaient bien plus. Par exemple, le robot n’a jamais utilisé d’emojis – une petite omission qui importait aux participants qui avaient principalement communiqué avec leurs proches par SMS. Dans un autre cas, un robot a appelé un participant « champion », un nom qu’il a déclaré que son proche n’aurait jamais utilisé.
« Si nous voulons comprendre comment concevoir ces systèmes de manière éthique, nous avons besoin de davantage de preuves de ce type », déclare Tomasz Hollanek, éthicien de l'IA de l'Université de Cambridge, qui n'a pas participé à la recherche.
L'étude avait des garde-fous. Un chercheur humain a assuré la médiation de chaque conversation, examinant les réponses du chatbot avant de les transmettre aux participants. Cela a permis d’éviter les interactions qui pourraient être trompeuses ou nuisibles.
Le monde réel est plus compliqué. N’importe qui peut inciter un chatbot à se faire passer pour une personne décédée, et les entreprises vendent désormais des services qui recréent des êtres chers grâce à du texte, des voix ou des visages générés par l’IA. Les participants à l’étude ont vu les risques. On craignait de devenir trop dépendant des conversations avec le bot. Un autre a déclaré : « Je ne sais pas si j’aimerais être la personne que je deviendrais si je continuais à utiliser cela. »
L’absence de garde-fous cohérents dans le monde réel inquiète Manning. Mais l’étude a également atténué sa propre aversion pour les fantômes générés par l’IA. Conçue avec soin, la technologie pourrait aider certaines personnes à surmonter leur deuil, dit-il. « Il existe une version des fantômes génératifs qui pourrait être une chose vraiment positive dans le monde. »
