Article écrit le 21 décembre 2022 par Nghia NGUYEN 
– 180^e promotion Cardinal de Richelieu
– Professeur au Lycée Jean Monnet (Cognac)

Une création récente

Le Comité d’Éthique de la Défense (COMEDEF) a été créé le 10 janvier 2020 par la Ministre Florence PARLY. Constitué de 18 membres représentatifs, entre autres, du monde des armées, de la recherche et du droit, il a à sa tête un grand commis de l’État, Bernard PÊCHEUR, secondé par l’ancien CEMA, le Général d’armée Henri BENTÉGEAT.

Les avancées scientifiques de la quatrième révolution industrielle, notamment dans le domaine des NBIC (1), posent de graves questions anthropologiques à l’ensemble de la société si ce n’est à la civilisation elle-même. Les armées n’échappent pas à ce questionnement à travers des faits déjà concrets à l’endroit du degré d’autonomie à accorder aux systèmes d’armes, à l’appréhension de nouveaux espaces de bataille mais aussi à l’intégration de capacité nouvelles dans l’organisme des combattants.

Le COMEDEF a, donc, pour mission de réfléchir sur ces questions profondes qui sont de nature à transformer radicalement les guerres qui arrivent. Développant une « réflexion éthique » qui doit accompagner de manière permanente les évolutions scientifiques, il inscrit son action dans une dimension prospective. Le COMEDEF émet donc des avis afin d’informer et de renseigner le MINARM. Il émet des propositions et des recommandations, et ses travaux peuvent être rendus publics. Au-delà, il permettra à notre pays d’élaborer une position internationale en cohérence avec ses valeurs politiques. Avec un logo représentant une boussole, le COMEDEF a pour vocation de donner un cap.

C’est donc pour présenter le comité, sa finalité et ses missions, que Bernard PÊCHEUR s’est rendu sur la BA 709 le mardi 29 novembre 2022. Accompagné par Rose-Marie ANTOINE et Christine BALAGUÉ (deux des dix-huit membres du comité), il fut accueilli par le Colonel Thierry KESSLER-RACHEL, commandant la base aérienne, et le Lieutenant-colonel Thibault RICCI, commandant l’École de l’Aviation de Chasse (EAC). Spécialiste en cyberdéfense, le Colonel KESSLER-RACHEL fut, également, rapporteur du COMEDEF avant sa prise de commandement de la BA 709. Désirant sensibiliser les élèves pilotes – et futurs officiers de l’AAE – aux questions éthiques, il a noué un partenariat avec le COMEDEF qui fait entrer cette réflexion dans le cursus de formation des futurs pilotes de combat.

C’est devant un parterre de personnels de l’EAC, en présence de la presse locale, que les trois membres du COMEDEF présentèrent leurs missions et les travaux jusqu’à présent réalisés : avis sur la défense spatiale, sur l’environnement numérique des combattants, sur l’éthique dans la formation des militaires, sur la notion d’intégration à introduire dans l’usage des SALA (2), sur le soldat augmenté… Avec en filigrane à tous ces thèmes la question omniprésente des avancées en matière d’intelligence artificielle.

De quoi parle-t-on ?

Si l’initiative est éminemment utile, pour ne pas dire d’une urgente nécessité, elle déçoit cependant dès sa présentation. Haut fonctionnaire et juriste de formation, rompu au service de l’État et aux discours institutionnels, M. PÊCHEUR s’est livré à un exercice oratoire particulièrement normatif où son assurance renouvelée dans le Droit, en la constitution et les lois tient lieu de cadre à toute réflexion éthique. « La démarche du COMEDEF s’appuie sur le droit commun qui s’applique à l’ensemble de la société » et « selon le principe de la dignité humaine » affirma t-il. Or, c’est oublier que le droit reste bien relatif et que les lois peuvent évoluer et changer. Surtout, c’est ne pas vouloir dire que la nature humaine c’est justement cela que la révolution du transhumanisme – qui procède directement des NBIC – propose de transformer.

Privilégiant une approche purement juridique des problèmes, le président du COMEDEF engage sa réflexion à partir d’une confusion – qu’il se garde bien de lever – entre les mots «  Éthique » et «  Morale ». Cette confusion, particulièrement conforme à l’air du temps politique et médiatique, est pourtant préjudiciable à l’essentiel. Elle dit surtout ce que l’on désire occulter.
Alors que la Morale se donnera les moyens (valeurs, principes) de distinguer fondamentalement le Bien du Mal, le juste de l’injuste, l’Éthique, elle, se posera comme une réflexion ne s’intéressant pas directement aux objets de la Morale mais à la manière de les (re)définir dans le relativisme voulu par l’époque. C’est donc avant tout à la Morale de précéder et d’éclairer les lois et non aux lois de dire, in fine, ce que devrait être une morale confondue avec l’éthique. Les deux termes ne sont pas synonymes quand bien même les contemporains ont-ils fini par confondre, eux aussi, la fin et le moyen.

L’Éthique dont parle M. PÊCHEUR n’est, au fond, qu’une judiciarisation des évolutions scientifiques et technologiques appliquée aux affaires militaires, dont on se demande s’il y a une place réelle pour une vraie réflexion morale au-delà d’un discours convenu et rhétorique sur la démocratie et l’importance des lois pour garantir la dignité des militaires et de la société.
La place faite au sein du COMEDEF à ceux qui auraient le plus à apporter en matière de Morale et d’Éthique – philosophes, intellectuels, théologiens – dit, à elle seule, l’orientation dans laquelle les promoteurs du comité ont voulu qu’il s’inscrive.

Certes, on trouvera un philosophe en la personne de Jean-Baptiste JEANGÈNE VILMER. Cependant, et sans remettre en cause l’excellence de ses travaux, ce dernier ne représente pas ce que le monde philosophique actuel produit de mieux sur les questions de l’Éthique et du transhumanisme. Recherchant avant tout « des propositions impactantes », le COMEDEF perçoit en fait le débat de fond comme un facteur de paralysie et sacrifie la finalité même de l’Éthique.

Le COMEDEF, un trompe-l’œil ?

« Dieu se rit des hommes qui déplorent les effets dont ils chérissent les causes. » La célèbre citation de BOSSUET n’a malheureusement pas pris une ride en ce début de XXIe siècle. Chaque fois que l’on fuit le sens d’un phénomène, on se condamne à un déni qui se rappellera, tôt ou tard, quand bien même se trouverait-on dans les cimes de l’État. Souvent dramatique pour les individus, ce rappel aux réalités humaines pourrait être catastrophique pour la société.

Les questions ne furent pas nombreuses mais quelques-unes furent néanmoins posées quant à la marge de manœuvre du COMEDEF et, au-delà, de la France pour limiter ou s’opposer aux évolutions imposées par les progrès des NBIC. Sachant que ce sont les États-Unis et la Chine qui, aujourd’hui, donnent le tempo en matière de recherche, d’innovations et de pratiques. La France n’a fait que suivre plus ou moins vite, mais elle a toujours fini par suivre comme en témoigne, par exemple, la possibilité désormais donnée aux drones d’exercer des frappes (3). L’alignement stratégique sur les États-Unis ainsi que la mise aux normes OTAN de nos forces armées à tous les niveaux montrent aussi qu’à terme il nous sera impossible de faire différemment en matière de principes lorsque le champ de bataille sera essentiellement robotisé et digitalisé (4). Quant à la distinction entre SALA et SALIA, si elle tient encore aujourd’hui, elle est d’ores et déjà indexée sur la marche de l’intelligence artificielle dont on ne voit pas en quoi la vitesse d’analyse, la capacité à interpréter et à concevoir (5), les possibilités qu’elle donne d’emblée en matière de guerre cognitive ainsi que la volonté, in fine, d’accéder un jour à une IA forte, n’élimineront pas à terme la partie humaine du contrôle de la décision.

Le plus grave demeure cependant la capacité d’aveuglement dont pourraient faire preuve certains membres du COMEDEF sur les sujets même de leurs réflexions. Ainsi, à une autre question posée sur la révolution du transhumanisme, Christine BALAGUÉ, professeur spécialiste des questions numériques, mit en avant les fantasmes portés par le transhumanisme qui en feraient davantage un mythe qu’une réalité ; allant jusqu’à affirmer que « des humains contrôlés par la technologie, ça n’existe pas » (sic). Ironie du sort : au lendemain même de cette affirmation, Elon MUSK annonçait que sa firme Neuralink sera en mesure d’implanter un premier appareil connecté dans un cerveau humain dans les six prochains mois (6).

_______________

1. Cf. Acronyme pour Nanotechnologies, Biotechnologies, Informatique et Cognitivisme. Les NBIC sont les domaines dans lesquels s’opèrent, de nos jours, les ruptures majeures contemporaines permettant l’entrée de l’Humanité dans l’ère de l’augmentation et du transhumanisme.
2. Cf. DANET (Didier), « Pourquoi la France a renoncé aux SALA », DSI, 157, janvier/février 2022. L’article reprend la réflexion du COMEDEF qui propose les SALIA (Système d’Arme Létal Intégrant de l’Autonomie) à la place des SALA (Système d’Arme Létal Autonome).
3. Cf. Le propos n’est pas une opinion sur le bien-fondé ou non d’armer les drones, mais il est de rappeler les longs débats qui ont précédé cette décision d’employer les drones pour des frappes comme le faisaient déjà Américains et Britanniques depuis des années. Débats dans lesquels il n’était pas rare d’entendre politiques et militaires dire qu’ « on ne fait pas la même guerre que les Américains », que l’ « on n’a pas la même culture qu’eux », qu’ « on s’impose toujours des limites »…
4. Cf. JDEF, “Robots : des nouveaux soldats ?”, 19 décembre 2022. Cette émission du Journal de la Défense présente le COMEDEF.
5. Cf. Les capacités de l’agent conversationnel ChatGPT de la firme OpenAI présenté pour la première fois en novembre 2022.
6. Cf. Annonce faite par Elon MUSK le 30 novembre 2022. Cet implant sera une interface permettant à un individu de communiquer par la pensée avec un réseau connecté. L’objectif sera dans un premier temps de pouvoir rendre la vue ou de permettre à un tétraplégique de se mouvoir. Ce bond technologique (breakthrough device) relève de l’INTERNET des corps ou IoB (INTERNET of Bodies) c’est-à-dire de l’intégration dans le corps humain d’objets connectés. Il existe trois générations d’IoB : celle des objets externes connectés au corps (INTERNET of Things ou IoT), celle des implants (capteurs de contrôle médicaux) et celle de la fusion en temps réel homme/machine avec un réseau extérieur. L’annonce du 30 novembre 2022 renvoie à cette dernière génération dite des « corps embarqués ». Elle illustre le problème que porte le transhumanisme dans son essence même. Partant d’une problématique réparatrice – qui peut être légitime car médicale -, il ouvre sur une problématique d’augmentation propre à changer la nature même de notre humanité. Le délai de six mois annoncé par M. MUSK est celui que demande l’approbation administrative de la Food and Drug Administration (FDA), l’agence de santé publique étatsunienne. Mise à jour du 29 mai 2023 – Neuralink a annoncé, le jeudi 25 mai, disposer désormais de l’autorisation administrative pour pouvoir tester ses implants cérébraux.