Des outils d'IA sont utilisés pour concevoir des protéines et même des virus, ce qui entraîne des craintes, celles-ci pourraient éventuellement être utilisées pour échapper
L'IA pourrait être utilisée pour fabriquer la toxine ricin, mais cela peut également être obtenu à partir de haricots ringans, trouvés dans de nombreux jardins
L'intelligence artificielle promet de transformer la biologie, nous permettant de concevoir de meilleurs médicaments, vaccins et même des organismes synthétiques pour, disons, manger du plastique. Mais certains craignent que cela puisse également être utilisé à des fins plus sombres, pour créer des armes de biow qui ne seraient pas détectées par des méthodes conventionnelles jusqu'à ce qu'elle soit trop tard. Alors, à quel point devrions-nous être inquiets?
«Les progrès de l'IA alimentent les percées en biologie et en médecine», explique Eric Horvitz, directeur scientifique de Microsoft. «Avec un nouveau pouvoir est responsable de la vigilance.»
Son équipe a publié une étude visant à savoir si l'IA pouvait concevoir des protéines qui font la même chose que les protéines connues pour être dangereuses, mais sont suffisamment différentes pour ne pas être reconnues comme dangereuses. L'équipe n'a pas révélé quelles protéines ils ont tenté de repenser – des parties de l'étude ont été retenues – mais elle comprenait probablement des toxines telles que la ricine, célèbres dans un assassinat de 1978, et le botulique, la neurotoxine puissante mieux connue sous le nom de Botox.
Pour faire beaucoup de protéines comme le botulique, vous avez besoin de la recette – l'ADN qui le code. Lorsque les biologistes veulent un morceau d'ADN spécifique, ils le commandent généralement auprès d'entreprises spécialisées dans la fabrication de la pièce souhaitée.
En raison des préoccupations selon lesquelles les bioterroristes potentiels pourraient commander les recettes de fabrication de bio-armes de cette façon, certaines sociétés de synthèse d'ADN dépisteront volontairement les ordres de vérifier si quelqu'un essaie de rendre quelque chose de dangereux. Les protéines sont des séquences d'acides aminés et le dépistage vérifie si la séquence d'acides aminés correspond à des «séquences de préoccupation» – c'est-à-dire des armes bio-armes potentielles.
Mais avec l'IA, il est en théorie possible de concevoir une version d'une protéine qui a une séquence d'acides aminés différente mais qui fait toujours la même chose. Horvitz et ses collègues ont tenté cela avec 72 protéines potentiellement dangereuses et ont montré que les méthodes de dépistage manquent souvent ces versions alternatives.
Ce n'est pas aussi alarmant que cela puisse paraître. Premièrement, l'équipe n'a pas réellement fait les protéines redessinées, pour des raisons évidentes. Mais dans une étude distincte plus tôt cette année, ils ont testé des versions redessinées de protéines inoffensives – et ont essentiellement constaté qu'ils ne fonctionnaient pas.
Deuxièmement, bien qu'il y ait eu des tentatives d'attaques de bioterroristes, bien que très peu, il y a peu de raisons de penser que cela est dû à l'échec du système de balayage volontaire. Il existe déjà de nombreuses façons de le contourner sans recourir à des refontes de l'IA – par exemple, la ricin peut être obtenue à partir de plants d'huile de ricin, trouvés dans de nombreux jardins. Cette étude est l'équivalent de l'avertissement qu'une banque pourrait être volée par un peu de sophistiqué Mission impossible-La plan de style, alors qu'en fait la porte du voûte a été largement ouverte.
Enfin et surtout, lorsque les acteurs de l'État sont exclus, aucun bioterroriste n'a jamais réussi à tuer quiconque utilisant des armes de biow à base de protéines. Le culte d'Aum Shinrikyo au Japon a tenté de tuer des gens avec du botulique, mais n'a réussi qu'avec des agents chimiques. Les lettres lasées par la ricine envoyées à la Maison Blanche n'ont tué personne. Sur la base du nombre de corps, les armes à feu et les explosifs sont extrêmement dangereux que les biotoxines.
Cela signifie-t-il donc que nous cessons de nous inquiéter des armes de biow conçues par l'IA? Pas tout à fait. Alors que les études d'Horvitz ne regardaient que les protéines, ce sont les virus qui représentent la grande menace – et l'IA est déjà utilisée pour repenser des virus entiers.
Le mois dernier, une équipe de l'Université de Stanford en Californie a révélé les résultats de leurs efforts pour repenser un virus qui infecte la bactérie E. coli. Comme pour les protéines redessinées, les résultats étaient peu impressionnants – des 302 virus conçus par l'IA qui ont été fabriqués, seulement 16 pouvaient infecter E. coli. Mais ce n'est que le début.
Interrogé sur les virus conçus par l'IA, James Diggans à l'entreprise de fabrication d'ADN Twist Bioscience et un membre de l'équipe de Horvitz, ont déclaré qu'il était plus facile de détecter les virus codant pour l'ADN préoccupants que les protéines préoccupantes. «Le dépistage de la synthèse fonctionne mieux sur plus d'informations plutôt que moins. Donc, à l'échelle du génome, c'est incroyablement informatif.»
Mais toutes les entreprises de fabrication d'ADN ne réalisent pas ce dépistage et les synthétiseurs d'ADN de Benchtop sont disponibles. Il est question de concevoir des outils d'IA qui refuseront de créer des virus dangereux ou d'essayer de détecter l'intention malveillante, mais les gens ont trouvé de nombreuses façons de contourner les garanties signifiaient, par exemple, pour arrêter les IA de fournir des instructions de fabrication de bombes.
Pour être clair, les antécédents suggèrent que le risque des virus «sauvages» est bien plus élevé que le risque du bioterrorisme. Malgré ce que l'administration américaine actuelle prétend, les preuves suggèrent que SARS-CoV-2 a émergé lorsqu'un virus BAT a sauté sur d'autres animaux sauvages, puis à des gens d'un marché – aucun laboratoire impliqué.
De plus, les bioterroïstes potentiels pourraient faire une quantité incroyable de dégâts simplement en libérant un virus connu, comme la variole. Avec les nombreux trous béants dans les efforts de contrôle des armes de biow, il est peu nécessaire de recourir à la supercherie d'IA pour les contourner.
Pour toutes ces raisons, le risque d'un virus conçu par l'IA est déchaîné de sitôt est probablement proche de zéro. Mais ce risque va croître à mesure que les différentes technologies continuent d'avancer – et la pandémie Covid-19 a montré à quel point un nouveau virus peut créer un nouveau virus, même s'il n'est pas particulièrement mortel. De plus en plus, il y aura des raisons de s'inquiéter.
