Ces dernières années, des pays comme les États-Unis, le Royaume-Uni, l’Inde, Israël, l’Iran, la Corée du Sud, la Russie et la Turquie ont massivement investi dans l’intégration de l’intelligence artificielle (IA) dans leurs plateformes d’armement. Le déploiement d'un Kargu-2 de fabrication turque en Libye en 2020 a marqué l'aube du déploiement de systèmes d'armes létaux autonomes (LAWS) sur le champ de bataille. L’utilisation des LAWS a suscité de sérieuses inquiétudes, car il n’existe aucun mécanisme réglementaire international ni cadre juridique pour régir le développement, le déploiement et l’emploi de tels systèmes d’armes.
L’essor de l’IA dans le domaine militaire change rapidement le visage de la guerre, dans la mesure où les systèmes d’armes basés sur l’IA diminuent potentiellement le rôle significatif de la prise de décision humaine. Comme le définit Nils Adler (2023) dans un article publié par Al Jazeera English « les systèmes d’armes autonomes peuvent identifier leurs cibles et décider de lancer une attaque de leur propre chef, sans qu’un humain ne dirige ou contrôle la gâchette ». Il existe un consensus mondial selon lequel « les systèmes d’IA de pointe offrent des avantages stratégiques, mais risquent également de perturber de manière imprévue les régimes réglementaires et normatifs mondiaux régissant les conflits armés ».
Les experts et les universitaires estiment que les systèmes d’armes basés sur l’IA auront un impact majeur sur la guerre, dans la mesure où la pleine autonomie des systèmes d’armes irait à l’encontre des normes établies sur le champ de bataille au cours des siècles. Selon le Conseil européen de la recherche (ERC), « les militaires du monde entier utilisent actuellement plus de 130 systèmes d’armes capables de suivre et d’engager de manière autonome leurs cibles ».
Malgré les progrès réalisés dans ce domaine, il n’existe pas de définition universellement acceptée de ce qui constitue un système d’armes létales autonomes ; la question de l’autonomie sur le champ de bataille reste sujette à interprétation. Le Département américain de la Défense (DOD) définit les LAWS comme « des systèmes d’armes qui, une fois activés, peuvent sélectionner et engager des cibles sans autre intervention d’un opérateur humain ». Un tel concept d'autonomie dans les systèmes d'armes est également connu sous le nom de « humain hors du circuit » ou « autonomie totale ». Dans un système d’armes entièrement autonome, les cibles sont sélectionnées par la machine sur la base des informations fournies par l’IA, la reconnaissance faciale et l’analyse des mégadonnées, sans aucun équipage humain.
Une autre catégorie d'autonomie dans les systèmes d'armes est celle des systèmes d'armes semi-autonomes ou « humains dans la boucle ». Ces armes sont des bombes autoguidées et des systèmes de défense antimissile qui existent depuis des décennies.
Les progrès rapides dans l’utilisation des LAWS ont créé la nécessité de développer un cadre réglementaire pour la gouvernance de ces nouveaux systèmes d’armes. En conséquence, divers États ont convenu d'entamer des négociations pour réglementer et éventuellement interdire les LOIS. La Convention des Nations Unies sur certaines armes classiques (CCW-ONU) a déployé plusieurs efforts dans ce sens en initiant un dialogue international sur les LOIS depuis 2014. La sixième conférence d'examen de la CCC-ONU en décembre 2021 s'est conclue sans résultat positif sur le mécanisme juridique et un accord sur les normes internationales régissant l’utilisation des LOIS. Malgré l’impasse, un consensus s’est dégagé sur la nécessité de poursuivre les négociations.
En 2016, un Groupe d'experts gouvernementaux (UN GGE) a également été créé avec pour mandat de discuter et de réglementer les LOIS. Mais les pays participants doivent encore progresser sur un cadre juridique pour réglementer et interdire le développement, le déploiement et l’utilisation des LAWS.
À mesure que le monde progresse dans l’utilisation de l’IA dans le domaine militaire, les États ont adopté des positions divergentes au sein de la CCW de l’ONU sur la question du développement et de l’utilisation des LOIS. D’ailleurs, certains pays n’auraient intérêt à s’asseoir sur des mesures de contrôle des armements qu’une fois qu’ils auront atteint un certain degré de progrès technologique dans ce domaine.
Il convient de noter que les grandes puissances telles que les États-Unis, la Chine, la Russie et l’Union européenne (UE) n’interdisent pas catégoriquement ou ont cherché à maintenir l’ambiguïté sur la question des armes autonomes. Un rapport du Congressional Research Service des États-Unis, mis à jour en février 2024, souligne que « les États-Unis n’ont actuellement pas de LOIS dans leur inventaire, mais le pays pourrait être obligé de développer des LOIS à l’avenir si ses concurrents choisissent de le faire ».
La Chine est le seul pays du groupe P5 au sein de la CCAC de l'ONU à appeler à l'interdiction des LOIS, soulignant la nécessité d'un protocole contraignant pour régir ces systèmes d'armes. La Chine, lors des débats sur la CCAC de l’ONU, a soutenu que « les caractéristiques des LAWS ne sont pas conformes aux principes du droit international humanitaire (DIH), car ces systèmes d’armes favorisent la peur d’une course aux armements et la menace d’une guerre incontrôlable ».
La Russie reste un participant actif aux discussions au sein de la CCAC de l’ONU, s’opposant aux instruments juridiquement contraignants interdisant le développement et l’utilisation de LOIS.
L'UE a adopté une position conforme au DIH qui s'applique à tous les systèmes d'armes. La déclaration de l'UE lors de la réunion du GGE en mars 2019 a souligné le caractère central du contrôle humain sur les systèmes d'armes. L’UE soutient que le contrôle humain sur la décision de recourir à la force meurtrière doit toujours être conservé.
Les dirigeants mondiaux, les chercheurs et les leaders technologiques ont exprimé leurs inquiétudes quant au développement et à l’utilisation des LAWS qui auraient un impact négatif sur la paix et la sécurité internationales. En mars 2023, des dirigeants de divers domaines de haute technologie ont signé une lettre appelant à l’arrêt du développement des technologies émergentes pour les six prochains mois. La lettre met en garde contre les dangers potentiels pour la société et l’humanité alors que les géants de la technologie se précipitent pour développer des programmes entièrement autonomes.
L’histoire nous rappelle qu’un quasi-monopole sur le développement technologique ne peut jamais être maintenu et maintenu longtemps. Dans les années 1940, par exemple, lorsque les États-Unis développèrent une bombe nucléaire dans le cadre du projet Manhattan, d’autres puissances les rattrapèrent et construisirent leur propre bombe. Cependant, il a fallu plus de deux décennies à la communauté mondiale pour formaliser un accord interdisant la prolifération des armes nucléaires, connu sous le nom de Traité de non-prolifération nucléaire (TNP).
La croissance et la prolifération anarchiques des LAWS menacent de déclencher une nouvelle ère de guerre alimentée par des plates-formes autonomes, compromettant la dignité humaine, la protection des civils et la sécurité des non-combattants. Il est désormais nécessaire que les États trouvent un terrain d’entente pour réglementer et formaliser une compréhension du contrôle humain sur le recours à la force. Les valeurs, l’éthique et les règles de guerre mondiales qui ont guidé l’humanité au cours des deux mille dernières années restent impératives pour le maintien de la paix et de la sécurité internationales.
