De nouveaux correctifs dans le logiciel de dépistage de la biosécurité peuvent rendre plus difficile la production de protéines potentiellement nocives en utilisant l'intelligence artificielle.
Partout dans le monde, ce logiciel surveille les processus pour fabriquer artificiellement les protéines, garantissant que les personnes ayant de mauvaises intentions ne produisent pas de protéines dangereuses, comme les toxines. Faire de légers ajustements avec l'IA pour les toxines ou les protéines virales connues peuvent contourner les garanties, selon les chercheurs le 2 octobre Science. Mais le renforcement des lacunes dans le dépistage peut augmenter la capacité des programmes à signaler les protéines risquées de l'IA.
« Les progrès de l'IA alimentent les percées en biologie et en médecine », a déclaré Eric Horvitz, directeur scientifique de Microsoft à Redmond, Washington. «Pourtant, avec un nouveau pouvoir, il est responsable de la vigilance et de la gestion réfléchie des risques.»
Les protéines sont les chevaux de travail de la biologie. Les molécules effectuent des tâches cellulaires telles que l'assemblage des cellules et le transport de la cargaison dans tout le corps. Avec l'IA, les chercheurs déverrouillent les moyens d'adapter les protéines existantes pour effectuer des tâches spécifiques, pour concevoir de nouvelles protéines ou pour générer de nouveaux organismes.
L'IA peut générer des plans numériques pour les protéines en déterminant les acides aminés nécessaires pour les fabriquer, mais la technologie ne peut pas construire des protéines physiques à partir de l'air mince. Les fabricants d'ADN enchaînent les lettres génétiques appropriées et expédient les gènes synthétiques aux laboratoires de recherche. Les programmes informatiques dépassent les ordres pour s'assurer que les gènes ne font pas de protéines dangereuses.
Horvitz et ses collègues ont simulé des tests pour les modèles de dépistage de biosécurité pour trouver des faiblesses qui pourraient permettre aux protéines générées par l'AI de glisser par les filtres. L'équipe a généré environ 76 000 plans pour 72 protéines nocives, notamment la ricine, la neurotoxine botulique et celles qui aident les virus à infecter les personnes.
Alors que les écrans de biosécurité ont signalé l'ADN pour presque toutes les protéines de leurs formes d'origine, de nombreuses versions ajustées en AI s'étaient faubées. Les correctifs logiciels ont aidé, même en ramassant des gènes après avoir été décomposés en fragments. Les modèles n'ont pas réussi à signaler environ 3% des variantes.
Le travail a été entièrement fait sur les ordinateurs, ce qui signifie que l'équipe n'a pas fabriqué de protéines physiques en laboratoire, et il n'est pas clair si les variantes générées par l'AI ont conservé leur fonction.
En réalité, les écrans de biosécurité signalant des ordres de protéines concernant les protéines «sont une chose incroyablement rare», a déclaré James Diggans, vice-président de la politique et de la biosécurité à Twist Bioscience, une société de synthèse d'ADN basée à San Francisco, lors du briefing.
Bien que les menaces de cybersécurité se produisent tout le temps, «près de zéro», les gens ont tenté de produire des protéines malveillantes, a déclaré Diggans. «Ces systèmes sont un rempart important contre [threats]mais nous devons tous trouver du réconfort dans le fait que ce n'est pas un scénario commun. »
