L’intelligence artificielle s’améliore dans tous les domaines, y compris le piratage. Il est de plus en plus facile que jamais d'usurper l'identité d'une personne, de paralyser des systèmes bancaires et de santé sensibles ou de demander une rançon aux données d'une entreprise. Et si les défenseurs de la cybersécurité ne sont pas prêts, les cyberattaquants exploiteront l’IA pour faire des ravages.
« Il ne s’agit pas d’années, mais de mois », a averti le groupe multinational de renseignement Five Eyes le 22 juin. La toute dernière technologie d’IA « abaisse les barrières pour les acteurs malveillants et augmente la vitesse et la complexité des attaques ». Five Eyes est une alliance secrète remontant à la Seconde Guerre mondiale dans laquelle l'Australie, le Canada, la Nouvelle-Zélande, le Royaume-Uni et les États-Unis travaillent ensemble pour recueillir des renseignements ou répondre aux menaces à la sécurité.
Deux nouveaux modèles, Mythos 5 d'Anthropic et GPT-5.5 d'OpenAI, se sont chacun révélés capables de planifier et d'effectuer de manière indépendante une prise de contrôle complète d'un réseau d'entreprise simulé. Cela signifie qu'un seul pirate informatique pourrait faire ce qui nécessitait autrefois une grande équipe, explique Michael Alexander Riegler, expert en sécurité de l'IA du laboratoire de recherche Simula à Oslo, en Norvège. Ces modèles peuvent également détecter et exploiter des failles de sécurité dans les systèmes d’exploitation, les navigateurs et autres logiciels à un niveau expert, ce qui pourrait obliger les défenseurs à se démener pour corriger les vulnérabilités.
« Ce sera à nouveau ce jeu du chat et de la souris, à savoir qui trouve le trou en premier, qui le ferme en premier ou qui l'exploite en premier. Mais à une vitesse beaucoup plus élevée que celle que nous voyons actuellement. »
Michael Alexandre Riegler
Expert en sécurité IA
L'avertissement de Five Eyes fait suite à l'interdiction par le gouvernement américain d'Anthropic d'autoriser les ressortissants étrangers à accéder à Mythos 5 et à un autre nouveau modèle, Fable 5, invoquant des problèmes de sécurité nationale. Mythos 5 avait été mis à disposition uniquement pour les cyberdéfenseurs afin de les aider à identifier et à corriger les vulnérabilités avant que la technologie ne tombe entre les mains de mauvais acteurs. Fable 5, une version du même modèle dotée de garanties supplémentaires destinées à empêcher son utilisation abusive dans la cybercriminalité, n'était disponible au grand public que pendant quelques jours.
Alors, les cyberattaques alimentées par l’IA constituent-elles vraiment une menace imminente ? Ou s’agit-il davantage d’une posture d’entreprise et d’un battage publicitaire ? Actualités scientifiques a interrogé Riegler sur les risques et la réalité. Cette interview a été éditée pour des raisons de longueur et de clarté.
SN : Les derniers modèles d’IA sont-ils particulièrement dangereux ?
Riegler : Au cours des derniers mois, nous avons beaucoup entendu parler de Mythe et de sa dangerosité. Et je conviens que l’IA présente de nombreux risques en matière de sécurité. Lorsque la capacité de ces modèles augmente, le temps écoulé entre la détection d'un problème et son exploitation devient très court, car vous pouvez essentiellement automatiser l'ensemble du pipeline. Mais ce n'est pas quelque chose de vraiment nouveau…. [It’s] pas seulement les derniers modèles [that] sont une menace pour la sécurité, mais aussi d'autres modèles déjà disponibles. Si vous savez comment les utiliser, vous pouvez… faire de très mauvaises choses.
C'est logique si on y réfléchit. Des outils comme Claude Code rendent le codage beaucoup plus efficace. Vous pouvez automatiser le processus. Vous pourriez en utiliser plusieurs centaines [AI] agents en même temps pour explorer différentes failles de sécurité. Avant, il fallait embaucher un groupe de deux à trois cents hackers [for organized cybercrime]. Il ne vous reste plus qu'à acheter 300 GPU [specialized computer chips used to run AI] et vous pouvez faire des choses similaires.
SN : Alors pourquoi toute cette inquiétude concernant Mythos ?
Riegler : Je pense que c'est autant du marketing qu'un réel danger. Si vous dites : « Je suis assis sur quelque chose qui est si dangereux que nous ne pouvons pas le publier », beaucoup de gens s'y intéresseront vraiment et voudront faire partie de ce groupe qui a accès…. C'est un peu un spectacle, et [the U.S. government and Anthropic] se concentrent sur le mauvais problème.
SN : Quel est le bon problème sur lequel se concentrer ?
Riegler : L'IA représente un risque énorme pour la sécurité…. Mais [the security risk] ce n’est pas seulement une question de modèle. Il s'agit aussi de tout ce qui concerne le modèle. Quel type d'outils vous lui fournissez, s'il a accès à Internet, s'il peut tester son propre code. L’ensemble du système qui l’entoure est donc également très important.
Dans nos tests [with systems combining small AI models and various tools]nous avons réalisé un système qui pourrait, par exemple, pirater votre site internet et trouver des failles de sécurité dans votre site internet, mais aussi pirater votre réseau et tenter d'y trouver des failles de sécurité. Ou cela pourrait briser une autre IA et lui faire faire des choses qu'elle ne devrait pas faire. C'est assez flexible.
SN : Y a-t-il un avantage à ce que les défenseurs de la cybersécurité aient accès aux mêmes outils que les attaquants ?
Riegler : Les tests de sécurité de votre propre système seront plus efficaces. Je pense qu'à la fin, cela s'équilibrera. Ce sera à nouveau ce jeu du chat et de la souris : qui trouve le trou en premier, qui le referme en premier, ou qui l'exploite en premier. Juste à une vitesse beaucoup plus élevée que celle que nous voyons actuellement.
SN : Que peuvent faire les gens pour se protéger contre les cyberattaques sophistiquées basées sur l’IA ?
Riegler : Soyez encore plus prudent lorsque vous utilisez des mots de passe différents pour différents services. Ayez votre logiciel à jour en permanence, utilisez l'authentification à deux facteurs. Tout ce que vous faites est peut-être un peu gênant, mais augmente la sécurité, je vous le recommande.
SN : Qu’en est-il des entreprises et des organismes publics ?
Riegler : Lorsque je parle à des experts en sécurité dans différentes entreprises ou dans le secteur public, ils sont toujours en retard. Certains d’entre eux ont très peur, d’autres pas du tout. Ils doivent prendre au sérieux les risques liés à la sécurité de l’IA et ne pas penser que cela relève d’un avenir lointain.