Principaux renseignements

• Des rebelles houthis ont tenté d’utiliser l’IA Claude pour développer des systèmes de guidage de missiles balistiques.
• Des tactiques de saisie trompeuses ont permis de contourner avec succès certains protocoles de sécurité d’Anthropic.
• Les risques liés à l’utilisation de l’IA comme arme constituent une menace pour la sécurité mondiale.

Un récent rapport de sécurité d’Anthropic révèle que des agents opérant dans le nord du Yémen ont tenté d’exploiter le modèle d’IA Claude pour concevoir des logiciels destinés à des missiles balistiques. C’est ce que rapporte Financial Times.

Rebelles houthis

Bien que l’entreprise n’ait pas explicitement nommé les rebelles houthis, le lieu où ces activités ont eu lieu suggère fortement leur implication. Les militants visaient à utiliser l’IA comme substitut à des ingénieurs logiciels professionnels afin de créer des systèmes de navigation, de contrôle et de guidage pour divers projectiles, notamment des missiles à plusieurs étages et des roquettes guidées alimentées par des ordinateurs basiques de type smartphone.

Contournement des protocoles de sécurité

Le groupe a eu recours à des stratégies trompeuses pour contourner les protocoles de sécurité de l’IA, notamment en répartissant ses requêtes sur différentes sessions et en dissimulant la véritable finalité de son code. Bien que les mesures de protection d’Anthropic aient bloqué de nombreuses tentatives, certaines requêtes ont abouti.

L’IA a été utilisée pour affiner les paramètres de contrôle, intégrer des systèmes de pilotage automatique open source et réaliser des simulations de vol. Malgré ces efforts, l’entreprise estime que le projet n’a pas abouti à la création d’une arme opérationnelle, soulignant qu’un tir d’essai d’une roquette guidée semblait avoir échoué.

Le risque de militarisation de l’IA

Cet incident souligne la nature précaire de l’IA avancée, alors que les développeurs peinent à empêcher que cette technologie ne soit militarisée. Le même rapport indiquait que d’autres utilisateurs avaient tenté d’utiliser le modèle pour mener des recherches sur des armes biologiques.

Pour lutter contre ces menaces, Anthropic a résilié les comptes impliqués et collaboré avec des partenaires de sécurité afin de partager des renseignements. Cependant, l’entreprise a noté que la cellule yéménite avait déjà développé des outils de simulation autonomes et hors ligne, réduisant ainsi sa dépendance à l’IA basée sur le cloud.

Implications géopolitiques

Ces ambitions technologiques coïncident avec une recrudescence de l’activité militaire des Houthis. Ce groupe, soutenu par l’Iran et qualifié d’organisation terroriste par les États-Unis, a récemment lancé des offensives le long de la côte de la mer Rouge et s’est avancé vers le détroit de Bab al-Mandeb. Cette voie navigable stratégique est cruciale pour les transports mondiaux de pétrole, et le conflit a déjà contribué à la hausse des cours du Brent.

En renforçant leurs capacités balistiques et en menaçant les voies maritimes, les Houthis ont intensifié la pression sur l’Arabie saoudite et fait progresser les objectifs géopolitiques plus larges de l’Iran à l’encontre des États-Unis et de leurs alliés.

(at)

Suivez également Business AM sur Google Actualités

Si vous souhaitez accéder à tous les articles, abonnez-vous ici !