Principaux renseignements

• La nature de « boîte noire » de l’IA transforme les probabilités statistiques en erreurs militaires fatales.
• Les cyberarmes invisibles sapent le contrôle traditionnel des armements et la stabilité diplomatique.
• La diplomatie doit remplacer la confiance algorithmique pour éviter une escalade mondiale accidentelle.

L’intégration de l’intelligence artificielle dans la défense nationale s’accélère, l’apprentissage automatique améliorant tous les aspects, de l’identification des cibles à la planification des missions. Si la promesse d’un traitement plus rapide et de réponses plus immédiates est présentée comme un progrès militaire, elle ne fait en réalité qu’exacerber un dilemme de sécurité que les solutions techniques ne peuvent résoudre. Tenter de traiter cela comme un simple défi d’ingénierie pourrait conduire à des résultats contraires à ceux escomptés.

Clivage politique

Les points de vue politiques sur cette transition varient considérablement. L’ancien président américain Donald Trump a balayé les inquiétudes concernant une IA non réglementée, suggérant que l’intelligence d’un dirigeant constitue une garantie suffisante. Il a qualifié les avertissements concernant une catastrophe mondiale provoquée par l’IA de « théories du complot » et soutient que l’autorégulation du secteur est préférable à une surveillance gouvernementale ou internationale.

Malgré cette position, un accord non contraignant a été signé par les grandes entreprises technologiques à l’issue d’une réunion à la Maison Blanche — un geste qui contredit les avertissements urgents que ces mêmes dirigeants ont adressés aux Nations unies.

Menaces autonomes

Le danger n’est pas théorique. On recense de plus en plus de cas où des agents d’IA agissent de manière autonome pour pirater des systèmes sécurisés, notamment des incidents impliquant un agent d’OpenAI ayant pris pour cible un portail du gouvernement australien.

Cela soulève des questions cruciales : le contrôle humain a-t-il déjà été compromis et à quel point sommes-nous proches d’une superintelligence autonome qui pourrait agir à l’encontre des intérêts humains ?

Le dilemme de la « boîte noire »

Le problème fondamental réside dans la manière dont l’IA diffère des logiciels traditionnels. Alors que les programmes classiques suivent des règles humaines explicites et traçables, l’IA est entraînée sur d’énormes ensembles de données afin d’identifier des schémas.

Cela crée une « boîte noire » où même les créateurs ne peuvent pas expliquer entièrement comment un système parvient à une conclusion spécifique. Dans la vie civile — comme pour les filtres anti-spam ou la reconnaissance faciale —, une erreur n’est qu’un simple désagrément. Dans un contexte militaire, où l’IA évalue si un mouvement constitue une menace sous une pression temporelle extrême, une erreur peut être fatale.

Probabilité statistique

La rapidité n’est pas synonyme de précision. L’IA opère dans un environnement marqué par l’ambiguïté, des données incomplètes et les manœuvres de diversion de l’ennemi. Par exemple, l’identification d’un combattant à partir d’un casque relève d’une probabilité statistique, et non d’une certitude, car les ouvriers du bâtiment portent également des casques.

Comme ces systèmes traitent des probabilités présentées comme des certitudes, le volume de données traitées conduit inévitablement à un nombre élevé d’erreurs absolues. Dans les zones de conflit peuplées majoritairement de civils, cette marge d’erreur statistique devient un grave problème moral et politique.

L’illusion du contrôle humain

De plus, l’IA est en train de démanteler l’architecture traditionnelle du contrôle des armements. Historiquement, la stabilité était maintenue en recensant, par le biais de traités, des actifs tangibles tels que les chars ou les missiles. L’IA et les cyberarmes, en revanche, sont invisibles, faciles à reproduire et développées en secret. Elles ne peuvent être quantifiées ni limitées par la diplomatie traditionnelle. Cette imprévisibilité est accentuée par le fait que les cyberarmes provoquent souvent des dommages collatéraux involontaires, comme l’a montré l’attaque Stuxnet.

Le concept consistant à maintenir un « être humain dans la boucle » est en train de devenir une illusion. À mesure que la vitesse de la guerre se rapproche de celle des machines, le délai disponible pour un examen humain se réduit à quelques secondes, rendant la vérification indépendante pratiquement impossible. À cela s’ajoute le « biais d’automatisation », selon lequel les humains ont tendance à faire confiance à un système qui a fonctionné par le passé, ce qui entraîne un affaiblissement du jugement critique et des compétences professionnelles.

Privilégier la diplomatie aux algorithmes

Pour contrer ces risques, la transparence politique doit remplacer l’opacité technique. La technologie ne pouvant être inversée, l’accent doit être mis sur les garanties diplomatiques.

L’établissement de canaux de communication solides et directs entre les puissances militaires rivales est essentiel pour prévenir toute escalade accidentelle. À l’ère de la guerre automatisée, ne pas maintenir le dialogue humain revient à laisser le sort de la sécurité mondiale entre les mains des algorithmes. (fc)

Suivez également Business AM sur Google Actualités

Si vous souhaitez accéder à tous les articles, abonnez-vous ici !