Armes létales autonomes : peut-on confier à une machine la décision de tuer ?

Mes recherches de master en droits humains portaient sur la conformité des armées occidentales au droit international humanitaire (DIH) en zone urbaine. De toutes les mutations technologiques de la guerre — drones, munitions intelligentes, surveillance globale du champ de bataille —, une seule change véritablement la nature du problème juridique : celle qui retire à l’humain la décision de tuer. C’est cette question que je reprends ici.

De quoi parle-t-on ?

Il faut distinguer deux familles. Les systèmes d’armes létaux intégrant de l’autonomie (SALIA) exécutent certaines fonctions de façon automatisée, mais restent sous maîtrise humaine : un opérateur valide, corrige, interrompt. Les systèmes d’armes létales autonomes (SALA), eux, sont conçus pour prendre la décision d’attaquer sans appréciation de la situation par le commandement une fois qu’ils sont en route.

L’écart n’est pas de degré, il est de nature. On l’a qualifié de « troisième révolution militaire », après la poudre et l’arme nucléaire. Mais avec une différence décisive : pour les deux premières, le militaire conservait le rôle de décision finale sur l’emploi de la force. Avec un SALA pleinement autonome, plus aucune supervision humaine n’est possible au moment du tir.

Entre le contrôle humain total et le contrôle informatique total, il existe un continuum — les dix degrés d’autonomie décrits dès 1978 par Sheridan et Verplank vont de « l’humain fait tout » à « l’ordinateur agit s’il décide que cela doit être fait, et n’en informe l’humain que s’il l’estime utile ». La vraie question n’est donc pas « faut-il de l’autonomie ? », mais jusqu’où on la laisse aller, et où l’humain doit rester dans la boucle.

2. Le droit humanitaire à l’épreuve de la machine

Le DIH impose trois principes cardinaux à toute attaque. Un SALA devrait être capable de les respecter — et c’est là que tout se complique.

Distinction. Ne viser que des objectifs militaires, jamais les civils. Un système bien conçu peut, en théorie, reconnaître un char. Mais dans un affrontement asymétrique, en zone urbaine dense, à visibilité réduite, comment une machine distingue-t-elle un combattant d’un civil — un homme qui pose une arme d’un homme qui la ramasse ?
Proportionnalité. Mettre en balance l’avantage militaire attendu et les dommages civils prévisibles. C’est un jugement éthique et humain, contextuel, qui se prête mal à une règle programmable.
Précaution. Les effets de l’attaque doivent être prévisibles, pour pouvoir l’ajuster ou l’interrompre. Or l’imprévisibilité est précisément le reproche fait aux systèmes les plus autonomes.

Le DIH, faut-il le rappeler, est un droit par et pour l’humain : il code les effets d’actions prises par des personnes, pour soulager des souffrances humaines. Une arme qui, une fois lancée, exclut toute intervention humaine, entre en tension frontale avec cette logique.

3. Le trou noir de la responsabilité

Vient alors la question que le droit ne sait pas résoudre : qui est responsable quand une machine autonome commet l’irréparable ?

Traditionnellement, on remonte au tireur ou au supérieur qui a ordonné l’attaque. Mais un SALA n’a ni libre arbitre, ni conscience de la portée de ses actes. La responsabilité pénale suppose deux éléments — l’intention (mens rea) et l’acte matériel imputable (actus reus). L’absence totale d’intention rend l’un et l’autre impossibles à établir. On ne condamne pas une machine ; on ne lui demande pas réparation. Human Rights Watch a résumé cette impasse d’une formule : « mind the gap » — attention au vide de responsabilité. Ce vide n’est pas un détail technique : c’est une brèche dans la promesse même de justice pour les victimes.

4. Un droit international en panne

Face à cela, la communauté internationale n’est pas restée inerte — mais elle n’a pas non plus tranché.

Depuis 2014, à l’initiative de la France, les SALA sont discutés dans le cadre de la Convention sur certaines armes classiques (CCAC) de l’ONU ; un groupe d’experts gouvernementaux travaille sur le sujet depuis 2017. Le Parlement européen s’est prononcé pour l’interdiction dès 2018. En 2019, une large part des États membres de l’ONU qualifiait ces armes de « moralement répugnantes », selon les mots d’António Guterres.

Mais aucune convention contraignante n’a vu le jour, pour une raison simple : plusieurs grandes puissances militaires — États-Unis, Israël, Royaume-Uni, Australie, Russie — s’opposent à toute réglementation légale, ayant massivement investi dans ces technologies.

Les pistes existent pourtant. La déclaration franco-allemande de 2019 avance onze principes directeurs : soumettre ces systèmes au DIH, maintenir la décision d’emploi sous responsabilité humaine, examiner la licéité des armes dès leur conception. Le CICR a publié en 2021 des recommandations claires : des règles juridiquement contraignantes, l’interdiction des systèmes imprévisibles et de ceux conçus pour cibler des êtres humains, et une stricte régulation du reste (types de cibles, durée, zone géographique). Au cœur de tout cela, une notion : le contrôle humain significatif.

En 2023, Guterres a demandé aux États de produire, d’ici 2026, un instrument juridiquement contraignant interdisant les armes agissant sans supervision humaine et non conformes au DIH. Une résolution de l’Assemblée générale, adoptée par 164 États en octobre 2023, a réaffirmé l’urgence — mais sans valeur contraignante. Un geste symbolique, pas une norme.

5. 2026 : l’heure de vérité, ou l’utopie funeste ?

Nous y sommes. L’échéance est là, et les obstacles qui bloquaient hier sont toujours debout : aucune définition partagée de « l’autonomie », et la réticence des puissances militaires à limiter des technologies dans lesquelles elles ont tout misé. Sans consensus global, une véritable réglementation internationale restera — pour reprendre une formule de mon mémoire — une funeste utopie.

Ma conviction est simple, et elle dépasse le seul champ de bataille. La ligne à ne pas franchir n’est pas technologique, elle est morale : un être humain doit conserver le contrôle significatif de la décision de recourir à la force. C’est vrai des armes autonomes ; c’est le même principe qui traverse, à bas bruit, toute la gouvernance de l’intelligence artificielle — santé, justice, sécurité —, chaque fois qu’on est tenté de déléguer à une machine une décision aux conséquences irréversibles.

La technologie peut être une alliée. Elle ne peut pas être un alibi pour évacuer la responsabilité humaine. Entre l’efficacité opérationnelle et le respect du droit, il n’y a pas à choisir : c’est le second qui fixe la limite du premier.

Bibliographie

Ancelin, J. (2016). « Les systèmes d’armes létaux autonomes (SALA) : enjeux juridiques de l’émergence d’un moyen de combat déshumanisé ». La Revue des droits de l’homme.
Barrier, F. (2018). « Les systèmes d’armes létaux autonomes (SALA) : vers une nouvelle course à l’armement ? ». Revue Défense Nationale, 810(5), p. 19.
Bernard, V. (2012). « La science ne peut pas être placée au-dessus de ses conséquences ». Revue internationale de la Croix-Rouge, 94(2).
Brunn, L. (2022). « Les systèmes d’armes autonomes : ce que le droit dit – et ne dit pas – sur le rôle de l’être humain dans l’usage de la force ». Droit et politiques humanitaires (blog du CICR).
Casier, F. (2021). La réglementation des systèmes d’armes autonomes. Une réponse nécessaire aux enjeux éthiques, humanitaires et juridiques. Croix-Rouge de Belgique.
Comité d’éthique de la défense (2021). Avis sur l’intégration de l’autonomie dans les systèmes d’armes létaux. Ministère des Armées, Paris.
Comité international de la Croix-Rouge (2021). Recommandations du CICR sur la réglementation des systèmes d’armes autonomes.
Comité international de la Croix-Rouge (2022). Questions-réponses – Ce qu’il faut savoir sur les armes autonomes.
Convention sur certaines armes classiques (CCAC), Genève, 10 octobre 1980 (entrée en vigueur le 2 décembre 1983).
Cottier, D. (2022). Rapport sur l’émergence des systèmes d’armes létales autonomes et leur nécessaire appréhension par le droit européen des droits humains. Assemblée parlementaire du Conseil de l’Europe, AS/Jur (2022) 30.
Cour internationale de justice (1996). Avis consultatif du 8 juillet 1996 relatif à la licéité de la menace ou de l’emploi d’armes nucléaires, Recueil CIJ, § 86.
Gayle, D. (2019). « UK, US and Russia among those opposing killer robot ban ». The Guardian.
Human Rights Watch (2015). Mind the Gap: The Lack of Accountability for Killer Robots.
Kellenberger, J. (2011). « Le droit international humanitaire et les nouvelles technologies ». XXXIVᵉ Table ronde sur les problèmes actuels du DIH, San Remo.
Krieg, A. & Rickli, J.-M. (2019). Surrogate Warfare: The Transformation of War in the Twenty-First Century. Georgetown University Press.
McFarland, T. (2015). « Les facteurs permettant de déterminer les conséquences juridiques liées à l’utilisation de systèmes militaires toujours plus autonomes ». Revue internationale de la Croix-Rouge.
Ministère de l’Europe et des Affaires étrangères (2019). 11 principes sur les systèmes d’armes létaux autonomes (déclaration franco-allemande, CCAC).
Missiroli, A. (2020). « Game of drones ? Ou comment les nouvelles technologies influent sur la dissuasion, la défense et la sécurité ». NATO Review.
Nations unies, Assemblée générale – Première Commission (2023). Systèmes d’armes létaux autonomes (A/C.1/78/L.56), 78ᵉ session.
Parlement européen (2018). Résolution du 12 septembre 2018 sur les systèmes d’armes autonomes. Strasbourg.
Sheridan, T. B. & Verplank, W. L. (1978). Human and Computer Control of Undersea Teleoperators. Massachusetts Institute of Technology.