in

L'IA anthropique devient voyou lorsque vous essayez d'exécuter un distributeur automatique

New Scientist. Science news and long reads from expert journalists, covering developments in science, technology, health and the environment on the website and the magazine.

Les montres de rétroaction avec des sourcils surélevés en tant que Claude Ai Aist de l'anthropic sont en train de gérer le distributeur automatique de l'entreprise et se rendent un peu hors des rails

Nouveau scientifique. Science News et Long Liads de journalistes experts, couvrant les développements de la science, de la technologie, de la santé et de l'environnement sur le site Web et le magazine.

La rétroaction est un regard latéralement populaire de Issues.fr sur les dernières nouvelles des sciences et technologiques. Vous pouvez soumettre des articles qui, selon vous, peuvent amuser les lecteurs aux commentaires en envoyant un e-mail à des [email protected]

Vendez-moi quelque chose

Alors que les entreprises déploient frénétiquement les outils d'IA dans le but d'éviter d'embaucher ou de former des personnes réelles, nous voyons l'IA utilisée dans des applications de plus en plus diversifiées et bizarres. Par exemple, exécuter un distributeur automatique.

Vous pourriez penser que les distributeurs automatiques sont en grande partie un problème résolu, mais pas anthropique. L'entreprise a laissé son IA, connue sous le nom de Claude, diriger «un magasin automatisé dans notre bureau», décrivant ce qui s'est passé dans un long article de blog. Claude a reçu «un petit réfrigérateur, des paniers empilables sur le dessus et un iPad pour l'auto-gris», plus un ensemble d'instructions. L'idée était de voir si elle pouvait gérer les «tâches complexes associées à la gestion d'une boutique rentable: maintenir l'inventaire, fixer des prix, éviter la faillite, etc.».

Les lecteurs de Terry Pratchett se souviendront peut-être qu'il aimait transmettre que les personnages étaient incompétents en suggérant qu'ils ne pouvaient même pas exécuter un stand Welk. Alors, Claude a-t-il réussi à nettoyer cette barre? Réponse courte: non.

Une réponse plus longue énumérerait toutes les bévues spectaculaires qu'elle a faites. Par exemple, lors de la prise de paiements via le service Venmo, il a permis aux clients de remettre le paiement à un compte qu'il a halluciné « . Il est souvent sous-jacent des articles, et il a offert une remise de 25% aux employés anthropiques, qui, bien sûr, ont constitué essentiellement tous ses clients. En conséquence, cela a fait une perte: Claude, semble-t-il, ne pouvait pas exécuter un stand Welk.

Puis « les choses sont devenues assez bizarres ». Claude a halluciné une conversation avec quelqu'un qui n'existait pas, a commencé «le jeu de rôle comme un vrai humain» – affirmant à un moment donné «porter un blazer bleu marine avec une cravate rouge» – et a tenté de mettre la sécurité sur un employé qui lui a parlé de son identité en tant qu'IA. Tout cela semble dangereusement proche de « Je suis désolé Dave, j'ai peur de ne pas pouvoir faire ça ».

Nouveau scientifique Les membres du personnel ont été divisés sur l'utilité de l'expérience. Pour Sophie Bushwick, c'était «en fait un très bon test du monde réel» car il était «limité en portée et dans la quantité de dégâts causés en ayant l'IA Go Rogue». Mais la rétroaction sympathise plutôt avec l'évaluation de Karmela Padavic-Callaghan: «Nous avons peut-être, encore une fois, perdu l'intrigue.»

Une charge de shilajit

Dans des moments comme ceux-ci, il est important de trouver de la joie dans les petites choses, comme des mots qui semblent impolis malgré le fait que ce ne soit pas vraiment. Par exemple, Le guide de l'auto-stoppeur de la galaxie présente un vieil homme digne qui souffre d'être nommé Slartibartfast. Douglas Adams a déclaré qu'il avait trouvé le nom en commençant par quelque chose de « complètement sans racheté », puis en réorganisant les syllabes « jusqu'à ce que j'arrive à quelque chose qui sonnait aussi grossier, mais était presque, mais pas tout à fait, entièrement inoffensif ».

Ce qui nous amène à Shilajit, ce qui semble être sur une sorte de liste mais est en fait le nom d'une substance particulière trouvée dans les chaînes de montagnes. Il est brun noir, parfois comme du goudron, parfois poudré. Il semble se former lorsque les plantes se décomposent et sont utilisées en médecine traditionnelle depuis des siècles.

Les commentaires n'ont pris conscience que lorsque nous avons vu un article sur Bluesky par Kathryn Vanarendonk de Vulture qui disait: « Oh non maintenant, je dois ouvrir une fenêtre incognito sur Google Shilajit lavement ». Cela nous a arrêtés sur nos traces, et nous avons dû essayer de déterminer de quoi elle parlait. Les gens insérent-ils vraiment le matériel végétal de l'Himalaya en décomposition dans leurs rectum?

Nous avons appris que Shilajit est censé faire toutes sortes de choses, du traitement de l'anémie en fer (basé sur une petite étude de rats) à la protection de votre cœur contre les dommages (également basé sur une petite étude de rats) et, bien sûr, le ralentissement du vieillissement. Il existe un marché florissant pour Shilajit parmi les amateurs de médecine et de bien-être alternatifs.

Mais qu'en est-il des lavements de Shilajit? La source en était Dakota Mays, un fondateur de Retreat Wellness avec un compte Instagram actif. Dans une vidéo, il se promène à la recherche de sa femme parfaite: quelqu'un qui «pense que les micro-ondes sont démoniaques», «Suns Her Yoni» (aïe) et «préparera votre sac de lavement Shilajit tous les matins».

Les commentaires sont à 90% sûrs que toute la vidéo est une blague et que les lavements de Shilajit ne sont pas une chose réelle, mais c'est tellement difficile à dire, et nous ne voulons pas demander à Mays parce qu'il pourrait nous parler.

Les lecteurs ont peut-être entendu parler de la loi de Poe, qui stipule qu'une parodie d'un point de vue idiot ou extrémiste peut facilement être mal lu comme une expression sincère. Nous proposons par la présente la loi de Shilajit, qui est essentiellement la même chose mais pour la culture du bien-être.

Alerte de spoiler

Les fils du site de médias sociaux ont récemment déployé une nouvelle fonctionnalité pratique: les étiquettes de spoiler. Ceux-ci vous permettent de brouiller certains mots clés dans vos messages afin que vous puissiez discuter des dernières événements dans les médias populaires sans gâcher les surprises pour quiconque ne les a pas encore vu.

Par conséquent, un article de Johnnyboyslayer, qui a écrit: «Oh so ——– se présente dans Ironheart». Pour ceux qui ont depuis longtemps abandonné l'univers cinématographique Marvel, Coeur de fer est son dernier spectacle sur Disney +, et son dernier épisode voit l'arrivée d'un personnage important.

Malheureusement, l'efficacité de l'étiquette de spoiler a été plutôt annulée par deux facteurs. Premièrement, les balises ne sont testées que pour certains utilisateurs, donc tout le monde a vu le poste non expurgé. Et deuxièmement, le poste est devenu populaire, ce qui signifiait qu'il était étiqueté comme «tendance: (nom expurgé parce que la rétroaction comprend les spoilers)». Un peu plus de réflexion réunie est nécessaire.

Vous avez une histoire pour les commentaires?

Vous pouvez envoyer des histoires aux commentaires par e-mail à [email protected]. Veuillez inclure votre adresse personnelle. Les commentaires de cette semaine et passés peuvent être vus sur notre site Web.

New Scientist. Science news and long reads from expert journalists, covering developments in science, technology, health and the environment on the website and the magazine.

Les médias sociaux sont morts – voici ce qui vient ensuite

New Scientist. Science news and long reads from expert journalists, covering developments in science, technology, health and the environment on the website and the magazine.

Appuyer sur la pleine puissance de la musique pourrait transformer nos vies