Principaux renseignements
- Des fausses informations générées par l’IA ont failli déclencher un conflit militaire entre les États-Unis et la Chine.
- Des rapports inventés de toutes pièces par un chatbot ont induit les commandants en erreur, les poussant à mobiliser des troupes face à une fausse menace.
- La vérification humaine reste essentielle pour prévenir les « hallucinations » mortelles de l’IA en matière de sécurité nationale.
Une enquête de CNN a révélé un dangereux incident qui a failli dégénérer en conflit : un rapport des services de renseignement militaires américains, élaboré à l’aide de l’intelligence artificielle, a failli déclencher un conflit militaire avec la Chine.
Ce rapport affirmait à tort qu’un navire chinois présent au Moyen-Orient livrait à l’Iran des composants destinés à un programme d’armes nucléaires. Cette désinformation a conduit l’armée américaine à se mobiliser pour une interception, avec le déploiement d’avions et des troupes prêtes à aborder le navire.
Un conflit évité de justesse
La mission prévue n’a été annulée qu’après qu’un examen plus approfondi eut révélé que ces renseignements avaient été produits par un chatbot basé sur l’IA qui avait mal identifié la cargaison du navire. Bien que le contenu réel du navire reste inconnu, des sources ont décrit l’évaluation générée par l’IA comme étant entièrement inventée, avertissant que la confrontation qui en aurait résulté aurait pu déclencher une guerre plus large entre les États-Unis et la Chine.
Comment la désinformation s’est propagée
L’erreur a pris naissance au printemps, lors d’opérations américaines contre l’Iran. Un analyste d’un commandement des opérations spéciales, s’appuyant sur des données du Commandement des opérations spéciales du Pacifique (USSPOC) à Hawaï, a utilisé un chatbot IA pour évaluer le manifeste du navire. Le chatbot a fusionné des renseignements d’origine électromagnétique classifiés avec des données publiques pour aboutir à une conclusion erronée.
De plus, l’analyste a utilisé l’IA une seconde fois pour présenter ces conclusions sous la forme d’un document de renseignement officiel. Le rapport final ressemblant à un document militaire standard, il a été jugé fiable et a conduit les commandants à agir en conséquence.
Le risque des « hallucinations » de l’IA
Cet événement met en évidence les dangers des « hallucinations » dans les grands modèles linguistiques — où l’IA génère des informations convaincantes mais fausses —, en particulier lorsqu’ils sont intégrés dans la prise de décision militaire. Un ancien haut responsable a fait remarquer que de nombreux outils militaires internes basés sur l’IA ne sont en réalité que des logiciels commerciaux rebaptisés.
Cela survient alors que le Pentagone, sous la direction du secrétaire à la Défense Pete Hegseth, promeut une stratégie « IA d’abord » visant à moderniser tous les domaines, du ciblage et du renseignement à la logistique.
Supervision humaine
Des experts, dont le colonel à la retraite de l’armée de l’air Cedric Leighton, soulignent que l’IA ne peut se substituer au jugement humain. Leighton a fait valoir que les analystes du renseignement doivent toujours vérifier de manière indépendante la véracité et la plausibilité des données, un processus qui exige beaucoup de temps et d’expertise.
Cet incident constitue un avertissement sévère quant à la fiabilité et à la sécurité de l’utilisation de l’IA pour des renseignements de sécurité nationale à enjeux élevés. (fc)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
