L’évolution de l’intelligence artificielle et l’avenir de la sécurité nationale

L’intelligence artificielle fait fureur ces jours-ci. Dans les médias populaires, les cyber-systèmes ordinaires semblent presque dépassés, alors que les écrivains se concentrent sur l’IA et évoquent des images de tout, des robots Terminator réels aux compagnons plus bénins. Dans les milieux du renseignement, l’utilisation par la Chine de la télévision en circuit fermé, de la technologie de reconnaissance faciale et d’autres systèmes de surveillance suggère l’arrivée de Big Brother – si ce n’est pas tout à fait en 1984, ce n’est qu’environ quarante ans plus tard. Au Pentagone, des légions d’officiers et d’analystes parlent de la course à l’intelligence artificielle avec la Chine, souvent avec des avertissements inquiétants selon lesquels les États-Unis ne peuvent pas se permettre d’être les seconds de la classe dans ce domaine technologique émergent. Dans les cercles politiques, on s’interroge sur l’éthique de l’IA – par exemple, on se demande si nous pouvons vraiment déléguer à des robots la capacité d’utiliser la force létale contre les ennemis de l’Amérique, aussi mauvais soient-ils. Un nouveau rapport du Defense Innovation Board énonce de grands principes pour l’éthique future de l’IA, mais seulement en termes généraux qui laissent beaucoup de travail à faire encore.

• Lori Robinson
• Non-président Senior Fellow – Politique étrangère, Center for Security, Strategy, and Technology
• Michael E. O’Hanlon
• Co-directeur – Centre pour la sécurité, la stratégie et la technologie, Initiative pour la sécurité en Afrique
• Related
• Russie, Chine, et les risques de guerre : Ma conversation avec le général Mark Milley
• Comment réduire (et ne pas réduire) le budget de la défense
• Livres connexes
• Cibler l’ordinateur
• Créer… l’ordinateur
• Changer les règles

Lori Robinson

Non-président Senior Fellow – Politique étrangère, Center for Security, Strategy, and Technology

Michael E. O’Hanlon

Co-directeur – Centre pour la sécurité, la stratégie et la technologie, Initiative pour la sécurité en Afrique

Que signifie vraiment tout cela et l’IA est-elle susceptible d’être tout ce qu’elle est censée être ? Nous pensons que la réponse est complexe et qu’une modeste dose d’eau froide devrait être jetée sur le sujet. En fait, le développement de bon nombre des systèmes d’IA envisagés aujourd’hui prendra des décennies. De plus, l’IA est souvent confondue avec ce qu’elle n’est pas. La précision sur le concept sera essentielle si nous voulons avoir des discussions intelligentes sur la façon de rechercher, de développer et de réglementer l’IA dans les années à venir.

Les systèmes d’IA sont essentiellement des ordinateurs qui peuvent « apprendre » comment faire les choses par un processus d’essais et d’erreurs avec un certain mécanisme pour leur dire quand ils ont raison et quand ils ont tort – comme par exemple repérer des missiles dans des photographies, ou des personnes dans des foules, comme avec le « Project Maven » du Pentagone – et ensuite appliquer ce qu’ils ont appris pour diagnostiquer les données futures. En d’autres termes, avec l’IA, le logiciel est construit par la machine elle-même, en fait. L’approche informatique générale d’un problème donné est déterminée à l’avance par de véritables humains à l’ancienne, mais l’algorithme réel est créé par un processus d’essais et d’erreurs par l’ordinateur à mesure qu’il ingère et traite d’énormes quantités de données. Le processus de pensée de la machine n’est pas vraiment très sophistiqué. Elle développe des instincts artificiels plus que de l’intelligence – examinant d’énormes quantités de données brutes et trouvant comment reconnaître un chat sur une photo ou un lanceur de missiles sur une autoroute bondée plutôt que de s’engager dans une réflexion profonde (du moins dans un avenir prévisible).

Cette définition nous permet d’identifier rapidement certains types de systèmes informatiques qui ne sont pas, en fait, de l’IA. Ils peuvent être importants, impressionnants et cruciaux pour le combattant, mais ils ne sont pas de l’intelligence artificielle car ils ne créent pas leurs propres algorithmes à partir de données et d’itérations multiples. Il n’y a pas d’apprentissage automatique, pour le dire autrement. Comme le souligne notre collègue Tom Stefanick, il existe une différence fondamentale entre les algorithmes avancés, qui existent depuis des décennies (bien qu’ils s’améliorent constamment, les ordinateurs devenant plus rapides), et l’intelligence artificielle. Il y a également une différence entre un système d’armement autonome et la robotique dirigée par l’IA.

Par exemple, les ordinateurs qui guident un missile de croisière ou un drone ne font pas preuve d’IA. Ils suivent un scénario élaboré, mais prédéterminé, en utilisant des capteurs pour recueillir des données et les transmettre aux ordinateurs, qui utilisent ensuite des logiciels (développés par des humains, à l’avance) pour déterminer le prochain mouvement et le bon endroit pour faire exploser les armes. C’est de l’autonomie. Ce n’est pas l’IA.

Pourquoi est-ce important ? D’une part, cela devrait nous rendre moins essoufflés par l’IA, et la considérer comme un élément d’une révolution informatique plus large qui a commencé dans la seconde moitié du XXe siècle et s’est accélérée au cours de ce siècle. En outre, cela devrait nous aider à voir ce qui peut ou non être réaliste et souhaitable de réglementer dans le domaine de la guerre future.

L’ancien vice-président des chefs d’état-major interarmées, le général Paul Selva, a récemment soutenu que les États-Unis pourraient être à environ une décennie de la capacité de construire un robot autonome qui pourrait décider quand tirer et qui tuer – bien qu’il ait également affirmé que les États-Unis n’avaient aucun plan pour construire réellement une telle créature. Mais si l’on y réfléchit autrement, d’une certaine manière, nous disposons déjà de machines à tuer autonomes depuis une génération. Le missile de croisière dont nous avons parlé plus haut est déployé depuis les années 1970. Il a reçu des instructions pour suivre un itinéraire donné et faire exploser son ogive sans qu’aucun humain ne soit impliqué. Et dans les années 1990, nous savions comment construire des engins tels que les sous-munitions « skeet », capables de survoler un champ de bataille et de rechercher des objets chauds tels que des chars, en utilisant un logiciel pour décider du moment de leur destruction. Ainsi, la machine tueuse décidait déjà d’elle-même.

Même si le Terminator du général Selva n’est pas construit, la robotique se verra probablement confier dans certains cas une plus grande autorité décisionnelle pour décider quand utiliser la force, puisque nous avons en fait déjà franchi ce seuil. Il est certain que ce sujet très délicat exige un contrôle éthique et juridique minutieux et que les risques associés sont sérieux. Pourtant, la vitesse à laquelle les opérations militaires doivent se dérouler incitera à ne pas faire intervenir une personne dans la boucle de décision dans de nombreux contextes tactiques. Quelle que soit la préférence des États-Unis, les restrictions sur les utilisations automatisées de la force violente sembleraient également relativement difficiles à négocier (même si elles sont souhaitables), étant donné l’opposition probable de la Russie et peut-être d’autres nations, ainsi que les énormes problèmes de vérification.

Par exemple, les petits robots qui peuvent opérer en essaim sur terre, dans l’air ou dans l’eau peuvent bénéficier d’une certaine marge de manœuvre pour décider quand utiliser leurs capacités létales. En communiquant entre eux et en traitant les informations sur l’ennemi en temps réel, ils pourraient concentrer leurs attaques là où les défenses sont les plus faibles, dans une forme de combat que John Allen et Amir Husain appellent « hyper-guerre » en raison de sa rapidité et de son intensité. D’autres types d’essaims pourraient attaquer des avions stationnés ; même de petits explosifs, déclenchés avec précision, pourraient désactiver les ailes ou les moteurs ou produire des explosions secondaires beaucoup plus importantes. De nombreux pays auront la capacité de faire de telles choses dans les vingt prochaines années. Même si les États-Unis tentent d’éviter d’utiliser ces essaims à des fins létales et offensives, ils pourraient choisir de les employer comme boucliers défensifs (peut-être contre une attaque d’artillerie nord-coréenne contre Séoul) ou comme aides au brouillage pour accompagner les avions pénétrants. Avec des drones qui peuvent voler dix heures et cent kilomètres ne coûtant plus que des centaines de milliers de dollars, et des quadcoptères avec des portées d’un kilomètre de plus ou de moins coûtant des centaines de dollars, les lignes de tendance sont claires – et le caractère abordable de l’utilisation de nombreux drones de manière organisée est évident.

L’endroit où la réglementation peut être possible, et éthiquement contraignante, est la limitation de l’espace géographique et temporel où les armes pilotées par l’IA ou d’autres algorithmes complexes peuvent utiliser la force létale. Par exemple, les essaims mentionnés ci-dessus pourraient n’être activés qu’à proximité d’un navire, ou dans les cieux près de la DMZ en Corée, ou à une faible distance d’un aérodrome militaire. Il pourrait également être judicieux d’interdire de laisser les machines décider du moment où il faut tuer les gens. Il pourrait être tentant d’utiliser la technologie de reconnaissance faciale sur les futurs robots pour leur faire chasser les prochains Ben Laden, Baghdadi ou Soleimani dans une immense ville du Moyen-Orient. Mais le risque d’erreur, de piratage et de nombreux autres dysfonctionnements est peut-être trop important pour permettre ce genre de choses. Il est probablement également judicieux d’interdire l’utilisation de l’IA pour attaquer l’infrastructure de commande et de contrôle nucléaire d’une grande puissance nucléaire. De telles tentatives pourraient susciter des craintes du type « utilisez-les ou perdez-les » dans une crise future et augmenter ainsi les risques de guerre nucléaire.

Nous en sommes aux premiers jours de l’IA. Nous ne pouvons pas encore commencer à prévoir où elle va et ce qu’elle pourrait rendre possible dans dix, vingt ou trente ans. Mais nous pouvons travailler plus dur pour comprendre ce qu’elle est réellement – et aussi réfléchir sérieusement à la façon de mettre des limites éthiques à son développement et à son utilisation futurs. L’avenir de la guerre, pour le meilleur ou pour le pire, est littéralement en jeu.