Le chatbot Claude AI d'Anthropic a aidé un scientifique à planifier des expériences potentiellement risquées sur la grippe aviaire.
Le chercheur s'est appuyé sur Claude pour planifier des études, analyser des données et choisir des expériences impliquant la grippe aviaire hautement pathogène, a rapporté la société le 10 septembre dans un rapport de renseignement sur les menaces. Les travaux visaient à identifier et à introduire des mutations qui pourraient aider les virus de la grippe aviaire à s'adapter aux mammifères et à se transmettre plus facilement entre eux. Anthropic affirme qu’à sa connaissance, aucune entreprise privée n’avait auparavant partagé publiquement des preuves d’une éventuelle utilisation abusive de sa plateforme de développement d’armes biologiques. Mais l'entreprise n'a pas fourni suffisamment de détails pour déterminer si Claude a simplement accéléré le travail que le chercheur pouvait déjà effectuer ou s'il lui a donné une nouvelle capacité, disent les experts.
Apprendre comment les virus de la grippe aviaire pourraient présenter un risque de pandémie « fait tout à fait partie de la recherche en virologie », explique Thomas Friedrich, chercheur sur la grippe, de l'École de médecine vétérinaire de l'Université du Wisconsin-Madison. De telles recherches peuvent aider les scientifiques à évaluer si les virus émergents de la grippe aviaire présentent un risque plus élevé pour les humains.
Mais les expériences qui visent délibérément à renforcer les caractéristiques des agents pathogènes, telles que la transmissibilité ou la gravité de la maladie, font l'objet d'un examen minutieux, explique Friedrich, en raison de préoccupations concernant des accidents ou une mauvaise utilisation.
Bien que le rapport intervienne au milieu de débats plus larges sur la sécurité des modèles d’IA, les arguments sur cette recherche sur le « gain de fonction » sont antérieurs à l’IA générative. En 2012, des études portant sur la grippe aviaire H5N1 et la transmission aérienne chez les furets ont déclenché un débat international sur la question de savoir si les avantages scientifiques l'emportaient sur les risques. Certaines expériences de transmission du virus H5N1 ont été suspendues pendant un an, le temps que les chercheurs et les responsables réfléchissent à la manière de gérer les risques.
Dans le cas d'Anthropic, découvert en mai 2026, le chercheur sur la grippe aviaire a accédé à Claude depuis une région où le service n'était ni pris en charge ni disponible. Anthropic dit que le chercheur a quand même utilisé des solutions de contournement pour accéder à Claude. Le matériel partagé avec Claude suggère que le groupe avait probablement un accès physique aux échantillons de virus pertinents. Anthropic a interdit le compte du chercheur en mai pour avoir contourné les restrictions d'accès.
Anthropic affirme qu'il ne peut pas dire si le chercheur avait l'intention de nuire, car les recherches biologiques légitimes et dangereuses peuvent se ressembler. L'entreprise n'a pas répondu aux questions de Actualités scientifiques pourquoi il considérait le cas comme important, comment il avait évalué le rôle de Claude dans la recherche ou si les expériences proposées avaient réellement été réalisées.
Anthropic a publié trop peu d'informations pour déterminer le but de ses travaux, déclare Gregory Koblentz, chercheur en biodéfense. « Il n'y a aucune preuve que ces recherches soient liées au développement d'armes biologiques », déclare Koblentz de l'Université George Mason à Fairfax, en Virginie.
Le même type de recherche biologique peut servir à des fins très différentes, depuis la science civile jusqu’à la défense militaire. Même les travaux effectués dans une institution militaire ne prouvent pas, à eux seuls, que les chercheurs développent une arme biologique, dit Koblentz.
Anthropic n'a pas non plus fourni suffisamment de détails pour montrer exactement à quel point Claude a aidé, dit Friedrich. Le propre récit de l’entreprise suggère que le modèle d’IA « n’a pas ajouté de manière significative les capacités scientifiques », dit-il. En d’autres termes, cela aurait simplement accéléré le travail du chercheur, plutôt que de permettre quelque chose qu’il n’aurait pas pu faire autrement.
Même si le rôle de Claude consistait uniquement à accélérer le travail, cela peut faire une grande différence dans le flux de travail d'un scientifique, explique le virologue David O'Connor de l'Université du Wisconsin-Madison. Des systèmes tels que Claude peuvent aider les chercheurs à trouver des articles, à synthétiser les résultats et à analyser les données plus rapidement, dit-il. « Des travaux ou des analyses qui m'auraient pris des mois peuvent désormais être réalisés en une après-midi. »
En conséquence, les informations scientifiques existantes, notamment sur les virus de la grippe aviaire, pourraient devenir plus faciles à trouver et à utiliser, explique O'Connor. O'Connor affirme que les modèles d'IA de pointe pourraient permettre aux scientifiques de s'attaquer à des questions qu'ils n'auraient peut-être pas abordées auparavant. « Les modèles pionniers changeront l’ambition des questions de recherche posées », dit-il.
La recherche sur la grippe aviaire était l'un des cinq cas mentionnés dans le rapport d'Anthropic impliquant des utilisations de Claude qui, selon la société, pourraient soutenir le développement d'armes biologiques. Aucun des cinq ne semble techniquement sophistiqué ou particulièrement préoccupant pour le biologiste Kevin Esvelt du MIT Media Lab. Esvelt se méfie davantage des motivations des chercheurs ; il dit que les cinq cas montraient des signes de mauvaises intentions. Mais aucun « ne représentait une tentative compétente de militarisation ».
La mauvaise qualité de ces tentatives particulières ne montre pas ce qu’un utilisateur plus compétent pourrait être capable de faire avec la biologie assistée par l’IA, dit Esvelt. L’IA peut faciliter la recherche et l’analyse, mais transformer une idée en menace biologique nécessite un travail supplémentaire, explique Koblentz. « Même si l'IA est utilisée pour concevoir un agent pathogène potentiellement dangereux, elle ne constitue une menace que lorsque l'organisme peut être modifié en laboratoire ou synthétisé. »
Cela nécessite des installations, des mesures pour contenir les virus, du financement, du personnel formé et une expérience pratique. Ces obstacles varient selon la personne qui effectue le travail, explique O'Connor. Ils constitueraient un obstacle majeur pour une personne inexpérimentée travaillant seule, mais moins pour des scientifiques ayant une formation spécialisée et ayant accès à un laboratoire bien équipé.
Quoi qu’il en soit, les étapes restantes du laboratoire sont importantes, écrit Friedrich dans un e-mail. « Il existe un grand fossé entre l'identification de mutations susceptibles d'adapter un virus de la grippe aviaire à l'homme et un 'résultat biologique nocif'. »
