Les courses à l'armement

 Les courses à l’armement, où des nations ou des blocs géopolitiques se lancent dans une compétition pour accroître leur puissance militaire, ont été un moteur majeur des tensions internationales au cours du 20e et 21e siècle. Ces compétitions, motivées par le désir de domination militaire, la sécurité nationale ou la dissuasion, ont conduit à des dépenses militaires massives et à des développements technologiques qui ont transformé le paysage géopolitique mondial. La recherche de la suprématie militaire a non seulement eu des conséquences sur les relations internationales, mais a également façonné les stratégies militaires et les alliances mondiales.

L’une des périodes les plus marquantes de la course à l’armement a eu lieu pendant la Guerre froide, entre les États-Unis et l'Union soviétique. Après la Seconde Guerre mondiale, les deux superpuissances ont engagé une compétition intense pour développer des armes de plus en plus sophistiquées, notamment des armes nucléaires. Le développement de la bombe atomique par les États-Unis en 1945, suivi par l'Union soviétique en 1949, a marqué le début de cette course. Les deux nations ont rapidement construit des arsenaux nucléaires, prêts à se dissuader mutuellement par la menace d'une destruction mutuelle assurée. Cette compétition a poussé les deux pays à dépenser des milliards dans le développement de technologies militaires avancées, alimentant une spirale de dépenses militaires et de tensions politiques.

Au-delà des armes nucléaires, la course à l’armement a également inclus des progrès significatifs dans d’autres domaines technologiques, tels que les missiles balistiques intercontinentaux (ICBM), les sous-marins nucléaires, et les satellites de reconnaissance. Ces avancées ont non seulement renforcé les capacités militaires des deux blocs, mais ont aussi radicalement changé les stratégies de défense et les doctrines militaires. La doctrine de la "dissuasion nucléaire" a été l'un des résultats les plus significatifs de cette compétition : l'idée que la possession d'armes nucléaires par deux puissances opposées pouvait prévenir une guerre directe entre elles, en raison de la peur de représailles catastrophiques.

La course à l’armement n’a pas été limitée aux grandes puissances. D’autres nations, souvent dans des régions de tension géopolitique, ont également cherché à développer leurs propres capacités militaires pour renforcer leur sécurité. Par exemple, dans le contexte du Moyen-Orient, des pays comme Israël, l'Iran, et l'Irak ont cherché à développer des arsenaux militaires modernes pour préserver leur influence et leur sécurité dans une région marquée par des rivalités complexes. Israël, par exemple, a développé des armes nucléaires dans les années 1960, ce qui a exacerbé la méfiance avec ses voisins et intensifié les tensions régionales.

Plus récemment, les courses à l'armement ont pris une nouvelle dimension avec l’émergence de nouvelles technologies. Les États-Unis, la Chine et la Russie sont aujourd’hui en compétition pour développer des armes hypersoniques, qui sont des missiles capables de voler à des vitesses supérieures à Mach 5, rendant leur interception par des systèmes de défense existants extrêmement difficile. Ce développement s’inscrit dans une course plus large pour la domination dans les domaines de l’intelligence artificielle, de la cyberguerre et des armements spatiaux. La militarisation de l’espace, avec des satellites militaires avancés et la mise en place de systèmes de défense spatiaux, est désormais un élément clé de la compétition géopolitique entre les grandes puissances.

Les implications des courses à l’armement sont profondes et multiformes. D'une part, elles ont contribué à créer des équilibres de pouvoir qui ont empêché certains types de conflits ouverts, comme cela a été le cas pendant la Guerre froide avec la doctrine de la dissuasion nucléaire. D'autre part, elles ont également entraîné des dangers considérables, notamment en raison de l'escalade de la violence et des risques de prolifération des armes de destruction massive. La possession d’armements nucléaires, par exemple, pose des risques de guerre nucléaire, un scénario qui pourrait dévaster l’humanité entière. Les accords internationaux, comme le Traité de non-prolifération nucléaire (TNP), ont été mis en place pour limiter la prolifération des armes nucléaires, mais les tensions actuelles autour de l'Iran et de la Corée du Nord montrent que la course à l’armement demeure un problème mondial non résolu.

Sur le plan économique, les courses à l’armement peuvent avoir des conséquences importantes. Les dépenses militaires massives, en particulier pour les armes avancées et les technologies de pointe, peuvent peser lourdement sur les budgets nationaux, parfois au détriment d'autres priorités comme l'éducation, la santé ou le bien-être social. Les dépenses militaires mondiales ont atteint des niveaux record dans les années récentes, dépassant souvent les dépenses en développement ou en aide humanitaire. Les pays en développement, qui ne disposent pas des ressources nécessaires pour participer à cette course, sont souvent désavantagés dans la compétition géopolitique mondiale, renforçant ainsi les inégalités internationales.

Les courses à l’armement, bien qu’elles aient produit des innovations technologiques, ont aussi souvent entraîné une augmentation de l’instabilité et des conflits régionaux. Par exemple, la prolifération des armes nucléaires et des missiles a conduit à une intensification des tensions en Asie de l'Est, avec des préoccupations croissantes concernant le programme nucléaire de la Corée du Nord. De même, les tensions entre les États-Unis et la Chine concernant la militarisation de l’espace et le développement de technologies avancées risquent de déstabiliser les relations internationales et d’entraîner une nouvelle course technologique et militaire.

En conclusion, les courses à l’armement restent une dynamique géopolitique essentielle, alimentée par la recherche de la suprématie militaire. Bien que ces compétitions puissent jouer un rôle dissuasif, elles présentent également des risques considérables pour la paix mondiale et l’équilibre des puissances. Pour éviter les dangers associés à ces courses, des accords internationaux solides et une coopération entre les nations sont nécessaires pour contrôler la prolifération des armes et limiter les tensions militaires. Le désarmement et la régulation des armements doivent être des priorités pour assurer un avenir plus sûr et plus stable à l’échelle mondiale.

Les systèmes d'armes intelligents

 Qu'est-ce qui rend les systèmes d'armes IA si controversés?
La principale préoccupation du Conseil était la possibilité qu'un système d'armes IA ne puisse pas fonctionner comme prévu, avec des résultats potentiellement catastrophiques. L'apprentissage automatique incorporé dans les systèmes d'armes pourrait apprendre à mener des attaques involontaires contre des cibles que l'armée n'a pas approuvées et à aggraver un conflit. Ils pourraient d'une autre manière s'échapper du domaine d'utilisation pour lequel ils avaient été conçus et se lancer avec des résultats désastreux.
Comme l'a fait remarquer l'ancien secrétaire à la Marine Richard Danzig, chaque fois qu'une organisation utilise un système technologique complexe pour réaliser sa mission, elle joue dans une certaine mesure à la roulette technologique. »Analyses de l'incident nucléaire de Three Mile Island en 1979 et de la navette spatiale Challenger de 1986 les catastrophes ont montré qu'une combinaison de facteurs organisationnels, techniques et institutionnels peut amener ces systèmes à se comporter de manière non intentionnelle et conduire à des catastrophes. Le ministère de la Défense a consacré des ressources substantielles à découvrir les causes de l'incident de 1988 où le croiseur USS Vincennes a abattu un vol civil iranien tuant 290 personnes. Cette tragédie qui n'a rien à voir avec les techniques avancées de machine learning, mais les systèmes d'armes IA posent de nouveaux défis éthiques qui appellent à une nouvelle réflexion.
Principes des systèmes d'armes IA
Parmi ces principes, plusieurs points clés ressortent. L'une d'elles est qu'il n'y a pas d'exemption des lois de la guerre existantes pour les systèmes d'armes IA, qui ne devraient pas causer de souffrances inutiles ni être aveugles par nature. L'utilisation de l'IA pour soutenir la prise de décision sur le terrain comprend le devoir de prendre des précautions possibles pour réduire le risque de préjudice pour la population civile. »
Le ministère de la Défense a toujours testé et évalué ses systèmes pour s'assurer qu'ils fonctionnent de manière fiable comme prévu. Mais le Conseil d'administration avertit que les systèmes d'armes IA peuvent être non déterministes, non linéaires, de grande dimension, probabilistes et en apprentissage continu. » Lorsqu'elles présentent ces caractéristiques, les techniques traditionnelles de test et de validation sont insuffisantes. »
Le Comité a vivement recommandé que le Ministère élabore des stratégies d'atténuation et des exigences technologiques pour les systèmes d'armes IA qui présentent un risque prévisible d'escalade involontaire. » Le groupe a souligné les disjoncteurs mis en place par la Securities and Exchange Commission pour arrêter les échanges sur les échanges comme modèles. Ils ont suggéré des analogues dans le contexte militaire, y compris des limitations sur les types ou les quantités de force que certains systèmes sont autorisés à utiliser, le découplage de divers cyber-systèmes d'IA les uns des autres, ou des autorisations en couches pour diverses opérations. »
Jeudi 4 octobre 2018
La directive 3000.09 de 2012 du Ministère recommandait que les commandants et les opérateurs soient toujours en mesure d'exercer des niveaux appropriés de jugement humain »sur l'utilisation d'armes autonomes sur le terrain. L'idée était que les contextes dans lesquels les systèmes d'IA pourraient être utilisés dans l'armée diffèrent en tant de détails cruciaux qu'aucune règle plus précise ne peut être formulée dans l'abstrait. Le Conseil a accepté ce raisonnement. Il n'a pas essayé de rendre ce guide plus précis, affirmant que c'est plutôt une norme de continuer à l'utiliser. » Mais il a ajouté d'autres éléments à ces directives à travers une discussion sur un interrupteur d'arrêt pour les systèmes d'armes AI.
Le Conseil a débattu publiquement de la possibilité pour les humains de désactiver les systèmes d'armes IA, même après leur activation. La discussion a semblé tourner sur la question de savoir si les systèmes devraient être suffisamment lents pour que les humains interviennent, ce qui dans de nombreux cas irait à l'encontre de l'objectif. En fin de compte, le Conseil a convenu qu'il devait y avoir un interrupteur d'arrêt, mais qu'il pourrait être déclenché automatiquement sans intervention humaine. De cette façon, le Conseil a reconnu la réalité qu'en raison de l'ampleur des interactions, du temps et des coûts, les humains ne peuvent pas être «dans la boucle» tout le temps. » D'autres, dont Dantzig, ont noté que les communications et la vitesse de traitement inclinent l'équation contre la prise de décision humaine. » Le rapport va au-delà de la dépendance à l'égard des décideurs humains pour recommander la conception de systèmes qui peuvent se désengager ou se désactiver automatiquement lorsqu'ils commencent à dévier.
Mise en œuvre de ces principes
Le Comité a indiqué qu'il y avait déjà eu des exercices avec le personnel du DOD pour voir comment certains principes fonctionneraient dans la pratique. Il serait particulièrement important de mettre en œuvre l'une des recommandations les plus réfléchies et les plus pertinentes du Conseil, à savoir élaborer une typologie de gestion des risques. Ce cadre introduirait des applications militaires basées sur l'IA sur la base de leurs considérations éthiques, de sécurité et de risque juridique "avec l'adoption rapide de technologies matures dans les applications à faible risque et une plus grande précaution dans les applications moins matures qui pourraient entraîner des conséquences néfastes plus importantes."