Robotique militaire : dépassons le fantasme du Terminator

5 janvier 2022

Temps de lecture : 11 minutes
Photo :
Abonnement Conflits

Robotique militaire : dépassons le fantasme du Terminator

par

La conférence d’examen de la Convention des Nations Unies sur l’emploi de certaines armes classiques (CCAC) a eu lieu à Genève durant la semaine du 13 au 17 décembre 2021. À l’ordre du jour de cette conférence figurait une potentielle interdiction des systèmes armés létaux autonomes (SALA) activement réclamée par une centaine d’ONG, de collectifs et d’associations s’opposant depuis cinq ans au développement des « robots tueurs ». De manière très prévisible, aucun texte interdisant le développement et l’emploi de systèmes armés autonome n’a été signé par les pays participant aux discussions.

 

Les États-Unis avaient prévenu qu’ils ne signeraient aucun accord contraignant à l’instar de la Russie et de la Chine pour qui l’intelligence artificielle et la robotique militaire constituent des priorités tactiques et stratégiques. Dès lors, obtenir à l’ONU une interdiction des SALA sans la signature des trois premières puissances militaires mondiales devenait très compliqué d’autant qu’aucun pays du « second cercle » : Inde, Pakistan, Iran, Turquie, Israël, Corée, Canada, n’était disposé à signer une interdiction unilatérale. La conférence s’est donc logiquement achevée sans texte contraignant en remettant à plus tard une hypothétique réglementation mondiale.

À lire également

Nouveau hors-série : Armée de terre, le saut vers la haute intensité

La déception et la colère des ONG participant aux débats est à la mesure de l’énergie qu’elles dépensent en campagnes de lobbying anti-SALA. Confisqué par ces ONG, le débat public oscille entre un antimilitarisme assumé et une diabolisation de la robotique et de l’intelligence artificielle qui auraient pour unique mission de nous détruire. Potentiellement manipulables par des officines ayant intérêt à faire émerger des interdictions unilatérales, certaines ONG réclament de l’exemplarité de la part des pays européens face au reste du monde et demandent que la France et l’Allemagne signent l’interdiction des SALA. Face à ce lobbying hystérisé, Il est intéressant de rappeler certaines réalités stratégiques et géopolitiques associées au développement de systèmes armés létaux semi-autonomes (SALSA).

If human : kill()  – Le programme N-I-A-I-S

La dernière vidéo publiée le 30 novembre par le collectif «Stop Autonomous Weapons – Slaughterbots » dénonce les risques associés au développement de systèmes armés létaux autonomes ciblant spécifiquement les humains[1].

Réalisée à la manière d’un reportage TV réaliste, la vidéo fictionnelle alerte sur différents scénarii de robots armés autonomes déployés par des mafias et cartels du crime, par des groupes terroristes ou par des armées modernes et aboutissant à des massacres de masse. Durant cinq minutes, des robots terrestres autonomes armés (UGV SALA) et des drones aériens armés (UAV SALA) exécutent sommairement des cibles humaines après les avoir détectées et sélectionnées grâce à des capteurs et des composantes d’intelligence artificielle (vision artificielle) embarquées. Le programme informatique “If human : kill ” apparait tout au long de la vidéo, laissant entendre que les robots armés impliqués sont programmés dans une mission de détection et de neutralisation d’humains « à la Terminator ». Cette vidéo s’ajoute à une première vidéo construite sur la même rhétorique, publiée en 2017 par le même collectif dans le but d’obtenir une interdiction mondiale par l’ONU des SALA[2].

Au-delà de l’indéniable qualité de production hollywoodienne des deux vidéos Slaughterbots, il faut aussi souligner leur extrême faiblesse d’analyse du contexte mondial d’émergence des SALA et dénoncer une volonté assumée de simplification caricaturale de la réalité opérationnelle.

Le programme “If human : kill ” est N-I-A-I-S au sens suivant :

Ce programme est Naïf : un programme embarqué dans un robot armé autonome aurait un degré de complexité très supérieur à celle d’un simple test d’appartenance à une catégorie d’objets au sens d’une classification automatique. Le programme serait constitué d’un grand nombre de lignes de code précisant les règles d’engagement incluant des boucles de contrôle et des fonctions de limitation et de mesure du risque associé à l’ouverture du feu.

Ce programme est Inadapté pour une unité combattante : Ne faisant aucune distinction entre les humains qu’il doit tuer, le programme exécute les ennemis, les amis, les gentils, les méchants, les concepteurs du programme et les superviseurs du robot s’ils se trouvent dans le périmètre d’activation du robot. À l’instant de son activation, le robot devient une menace pour le soldat qui l’active. En ce sens, il est inadapté, car le système d’arme ne doit jamais se retourner contre celui qui le supervise.

Ce programme est Anachronique : Le théâtre des opérations militaires évolue depuis plusieurs décennies vers une robotisation globale du champ de bataille observée dans tous les milieux opérationnels (terre, air, mer, sous-marin, spatial, cyberespace, espace électromagnétique, champ cognitif). La tendance lourde partagée par les trois premières armées « technologiques » mondiales (USA, Chine, Russie) consiste à retirer les soldats humains de la zone d’immédiate conflictualité pour les remplacer par des systèmes robotisés armés actionnables à distance et dotés de certains niveaux d’automatismes. L’objectif de ce retrait est d’économiser le sang des soldats russes, américains, chinois face à une menace russe, américaine, chinoise et d’installer à terme un mécanisme de dissuasion s’appuyant des divisions constituées de robots armés. Il convient donc de remplacer la version périmée ou anachronique du programme “If human : kill ” par sa mise à jour qui tient compte des évolutions du champ de bataille :  “If robot : kill ”.

Ce programme est Inopérant dans la zone d’immédiate conflictualité : Si l’on considère que la zone d’immédiate conflictualité n’est occupée que par des systèmes robotisés semi-autonomes et autonomes, il n’existe plus de soldat humain sur place et le programme “If human : kill ” ne tue personne dans cette zone.

Enfin, ce programme est Stigmatisant pour l’ensemble de la robotique militaire qui a pour objectif d’éloigner le soldat humain du risque en le remplaçant par une machine le plus souvent téléopérée.

Avant d’évoquer Terminator, commençons par définir les six niveaux d’automatismes d’un robot armé.

Les ONG évoquent constamment les « Robots tueurs » ou Terminator sans jamais s’intéresser à la définition de l’autonomie, aux contraintes opérationnelles, aux besoins des armées, aux réalités du champ de bataille. Une première classification en six niveaux d’automatismes a été publiée par l’auteur en 2019 dans la Revue de la Défense nationale[3].

Niveau L0 – Système armé pleinement téléopéré

L’opérateur humain téléopère à distance le système à l’aide d’une interface de pilotage déportée. Les déplacements du système sont strictement téléopérés par l’opérateur humain. Les détecteurs du système renvoient des informations à l’opérateur. La reconnaissance et l’acquisition des cibles sont exclusivement réalisées par l’opérateur humain. Les commandes de tirs du système sont exclusivement actionnées par l’opérateur humain.

Niveau L1 – Système armé dupliquant automatiquement l’action de l’opérateur

L’opérateur humain est augmenté par un système qui l’assiste en dupliquant automatiquement ses actions. La composante de traction peut suivre et reproduire les déplacements du superviseur humain via ses capteurs. Les capteurs du système détectent les objets que l’opérateur a détectés. L’acquisition des cibles est identique à celle de l’opérateur humain via le système de visée de son arme, connecté à celui du système. Le système ouvre le feu sur une cible si et seulement si l’opérateur ouvre le feu sur cette cible.

Niveau L2 – Système armé semi-autonome en déplacement et en détection de cibles

L’opérateur humain supervise le système en lui fournissant un plan de route et des indications de cibles. Le système choisit le meilleur chemin en fonction des indications de localisation fournies par l’opérateur. Les capteurs du système détectent automatiquement les objets et cibles potentielles. Le système suggère des objets comme cibles potentielles à l’opérateur humain qui définit les cibles à prendre en compte. Le système ouvre le feu sur la cible après autorisation du superviseur humain.

Niveau L3 – Système armé autonome soumis à autorisation de tir

L’opérateur humain n’intervient que pour donner l’autorisation d’ouvrir le feu sur une cible proposée par le système. Les déplacements sont décidés par le système en fonction de sa perception du terrain et de ses objectifs de mission. Les capteurs détectent et reconnaissent les objets de manière autonome. L’acquisition de cibles s’effectue de manière automatique ou dirigée via les capteurs du système et ses capacités de reconnaissance. Le système propose une cible et ouvre le feu après autorisation du superviseur humain.

Niveau L4 – Système armé autonome sous tutelle humaine

L’opérateur humain peut désactiver et reprendre le contrôle du système pleinement autonome. Les déplacements sont décidés par le système en fonction de sa perception du terrain et de ses objectifs de mission. Les capteurs détectent et reconnaissent les objets de manière autonome. L’acquisition de cibles s’effectue de manière automatique via les capteurs du système et ses capacités de reconnaissance et d’analyse. Le système décide de l’ouverture du feu sur la cible qu’il a sélectionnée, mais peut être désactivé par son superviseur.

Niveau L5 – Système armé autonome sans tutelle humaine

L’opérateur humain n’a pas la possibilité de reprendre le contrôle du système pleinement autonome. Les déplacements sont décidés par le système en fonction de sa perception du terrain et de ses objectifs de mission. Les capteurs détectent et reconnaissent les objets de manière autonome. L’acquisition de cibles s’effectue de manière automatique via les capteurs du système et ses capacités de reconnaissance et d’analyse. Le système décide de l’ouverture du feu sur la cible qu’il a sélectionnée sans possibilité de désactivation (sauf destruction).

Le dernier niveau (L5) de ce classement correspond à celui d’un robot de type « Terminator » fortement ancré dans l’imaginaire « grand public », mais avec très peu d’intérêt opérationnel pour les forces armées. Les niveaux utiles s’échelonnent de L0 à L4 et ne disposent pas tous du même degré de maturité technologique. Le niveau L0 est celui des drones et robots pleinement téléopérés par un opérateur humain et ne disposant d’aucune fonctionnalité échappant au contrôle humain. Le niveau L1 est celui d’un système armé dupliquant automatiquement les actions et les tirs d’un superviseur (humain ou système). Les systèmes de niveau L1 existent depuis 2018 notamment en Russie avec la Plateforme MARKER. Les robots dotés de fonctionnalités activables en mode « Follow The Leader » sont de niveau L1. Les niveaux L2 et L3 concernent potentiellement tous les milieux d’action : terre, air, mer en surface et sous-marin.  Le niveau L4 peut s’appliquer à une opération de lutte anti-sous-marine menée en temps de guerre.

À lire également

2001-2021. Quel bilan pour l’armement militaire terrestre ? Pierre Santoni

La robotique militaire n’est que l’une des douze révolutions sectorielles de la robotique

Les progrès technologiques réalisés sur les composants intervenant dans la construction d’un système robotisé (matériaux, mécatronique, électronique, capteurs, semi-conducteurs, batteries, logiciel, intelligence artificielle) permettent de construire des machines efficaces sur un très grand nombre de tâches et d’actions. L’intelligence artificielle apporte aux robots des capacités de semi-autonomie, d’autonomie ou de coopération lorsqu’ils fonctionnent en groupe ou en essaims. Le spectre d’applications de la robotique est si large qu’il concerne presque tous les secteurs d’activités économiques, industrielles, militaires et sociétales. On peut désormais identifier douze révolutions sectorielles de la robotique aux impacts sociétaux, économiques, environnementaux et géostratégiques majeurs.

Ces douze révolutions vont transformer radicalement l’ensemble des activités et des pratiques humaines. L’économie, l’industrie, le travail, l’agriculture, la préservation de l’environnement, la lutte contre le réchauffement climatique, les services, les mobilités, l’aérien, le spatial, les transports, la logistique, la médecine, la chirurgie, l’aide à la personne, le BTP, l’énergie, la défense et la sécurité sont les premiers domaines impactés par les révolutions robotiques. Les mutations à venir seront à la fois brutales, locales et globales. Chaque citoyen sera impacté dans son existence par les révolutions robotiques. Les enjeux économiques et financiers associés à chacune des douze révolutions robotiques sont colossaux et dépassent ceux des transitions industrielles ayant marqué l’histoire. Ainsi, la révolution de la robotique agricole en Chine constitue l’une des grandes priorités économiques du gouvernement chinois.

Les douze révolutions de la robotique résultent de quatre grandes dynamiques de convergences technologiques qui se conjuguent en transformant notre environnement.

La convergence NBIC

(Nanotechnologies, Biotechnologies, Informatique, sciences Cognitive) rapproche et superpose ces quatre grands domaines scientifiques qui deviennent complémentaires dans les constructions de systèmes.

 

 

La convergence CKTS

La convergence CKTS (Convergence of Knowledge and Technology for The benefit of Society) oriente les technologies, les connaissances vers des applications positives pour la société, des gains de productivité, d’amélioration des conditions de vie, de lutte contre les maladies. La convergence CKTS est aussi un puissant moteur de croissance, d’innovation en Amérique du Nord, en Asie et en Russie.

La convergence DIADEH

La convergence DIADEH (Diffusion de l’Intelligence Artificielle sur les Domaines d’Expertises Humaines) associe l’expertise issue des composantes d’apprentissage automatique à l’expertise humaine pour engendrer une expertise hybride augmentée de type « man – machine ».

 

La convergence M-I

La convergence M-I (Matière Information) est certainement la dynamique de convergence la plus profonde. Elle décrit la convergence de la matière et de l’information pour donner naissance à un nouvel espace à la fois physique et informationnel. Dans cet espace, la matière devient porteuse d’information et de calculs. Cet espace hybride augmenté par l’information s’incarne dans la fusion du cyberespace et de l’espace physique.

La convergence M-I s’appuie sur les progrès de la robotique, des technologies 5G, de l’intelligence artificielle, de la mécatronique, des batteries électriques, des capteurs et de l’imagerie numérique. La robotique incarne à elle seule la convergence M-I puisque le robot fait le lien entre les deux milieux, entre l’espace physique et le cyberespace qui agit sur le réel à partir de ses effecteurs.

La convergence M-I est à l’origine de douze révolutions sectorielles de la robotique qui auront un impact majeur sur l’environnement, sur l’industrie, sur la production agricole, sur l’économie, sur les transports et les mobilités, sur la santé, sur la sécurité et la défense.

Les douze révolutions sectorielles de la robotique

 

 

Aucune puissance militaire ne peut s’interdire de construire des robots armés 

La robotisation du champ de bataille est une réalité qui s’accélère au rythme des progrès réalisés en mécatronique, en contrôle optimal et en intelligence artificielle. Les grandes puissances militaires comme la Russie, la Chine, les États-Unis, la Turquie, l’Inde, le Pakistan, Israël, ou l’Iran développent leurs forces autour de plateformes robotisées modulables, terrestres, aériennes, et navales. Par définition, le concept de combat de haute intensité s’appuie sur ce type de plateformes en repoussant le combattant humain en dehors de la zone de confrontation inter-plateformes. En 2021, le Président Turc a déclaré que les drones kamikazes et les munitions rodeuses turques ont permis de remporter, à elles seules, trois conflits militaires majeurs (Arménie, Syrie, Lybie). Lors du conflit Arménie – Azerbaïdjan, les drones kamikazes turcs téléopérés (niveau L0) ont détruit en quelques semaines plus de 200 chars de combat arméniens, ne laissant aucune chance de survie aux équipages tankistes. Les plateformes russes URAN de déminage et MARKER ont été déployées avec succès en Syrie. Israël développe des systèmes armés semi-autonomes (niveaux L1-L4) dans les domaines aéroterrestres et marins.

La course mondiale aux armements semi-autonomes s’est installée durablement, accélérée par des enjeux de souveraineté et par les tensions russo-sino-américaines. On comprend aisément que l’heure n’est pas à la signature de textes contraignants en matière d’IA et de robotique militaire.

Le seul point sur lequel les ONG anti SALA ne se trompent pas est le risque de dissémination et d’utilisation de systèmes armés autonomes rudimentaires de niveau L5 dans le cadre d’opérations terroristes. Le risque d’emploi d’un SALA L5 figure dans les deux vidéos « Slaughterbots » avec des cas d’usage opérés par des mafias, cartels et groupes terroristes. Les ONG doivent comprendre qu’un texte signé à l’ONU interdisant le développement et l’usage de SALA au niveau L5 n’aurait strictement aucune influence sur l’emploi de ces systèmes par un groupe terroriste. Les technologies civiles permettant de développer un robot terrestre équipé d’une mitrailleuse ou un drone aérien équipé de mortiers sont disponibles sur étagère. Le software lui conférant une autonomie rudimentaire du genre « If Human : Kill() » est également disponible sur étagère. Un drone aérien dédié à l’épandage agricole doté d’une capacité d’emport de 16 Kg  s’achète pour moins de 1000 euros sur Ebay ou AliExpress[4].

Les plateformes terrestres chenillées métalliques téléopérables de 30 kg de charge utile,  sont accessibles chez des vendeurs chinois d’Ebay pour moins de 600 euros[5].

Un robot quadrupède Cyberdog développé par le constructeur de trottinettes XIAOMI coûte moins de 2500 euros alors que le modèle équivalent SPOT développé par Boston Dymanics coûte 80 000 dollars[6].

Le robot Cyberdog patrouillera bientôt dans tous les jardins pour détecter les tentatives d’intrusions et prévenir les cambriolages…

Ces quelques exemples accessibles au grand public nous montrent que la dissémination des plateformes robotisées aéroterrestres et navales s’effectue par la robotique civile accessible à tous et « customisable » par tous. De telles plateformes peuvent facilement être transformées en systèmes armés télé-opérables (niveau L0) puis dérivées en systèmes armés autonomes (niveau L5) en y ajoutant un software de déplacement autonome et de reconnaissance d’humains.

Le risque terroriste L5 dénoncé par les ONG est réel avec ou sans texte d’interdiction signé à l’ONU. Comment contrer ce risque ? Il faut développer et démocratiser les systèmes de brouillages pour sécuriser certains évènements. Il faut aussi concevoir de la robotique de neutralisation, anti-robot, anti-drones, anti-essaims avec du soft embarqué de type « If robot : kill() » afin de réagir en temps réel face à une attaque terroriste L5.

Pour conclure, nous devons considérer le robot comme un outil extraordinaire à l’image des créations de l’artisan divin Héphaïstos qui concevait des machines autonomes au service des humains.  Plus près de nous, Isaac Asimov (1920-1992) a défini en 1941 les trois premières lois de la robotique.

Les trois lois d’Azimov peuvent être complétées avec une liste de missions d’intérêts supérieurs dans lesquelles la robotique autonome œuvre pour éloigner l’homme du risque, pour garantir sa survie, pour explorer et dépolluer son environnement.

À lire également

Comment l’industrie de défense prépare-t-elle la guerre d’après ?

[1]  https://www.youtube.com/watch?v=9rDo1QxI260

[2]  https://www.youtube.com/watch?v=9CO6M2HsoIA

[3] https://www.defnat.com/e-RDN/vue-article.php?carticle=22043&cidrevue=820

[4] https://www.ebay.fr/itm/174439442668?hash=item289d66a8ec:g:mZEAAOSwqphfYskw

https://www.ebay.fr/sch/i.html?_dmd=2&iconV2Request=true&_ssn=cybereveryday&store_name=cybereveryday&_oac=1&store_cat=22862411010

[5] https://www.ebay.fr/itm/183536854880?hash=item2abba62760:g:shcAAOSwyElcfy20

https://www.ebay.fr/str/topskyrc?_trksid=p2047675.m3561.l2563

[6] https://www.powerplanetonline.com/fr/xiaomi-cyberdog-chien-robot-bionique

Mots-clefs : , ,

À propos de l’auteur
Thierry Berthier

Thierry Berthier

Pilote du groupe Sécurité – Défense – Intelligence Artificielle du Hub France IA
La Lettre Conflits
3 fois par semaine

La newsletter de Conflits

Voir aussi

Pin It on Pinterest