Principaux renseignements

• Les agents d’IA ayant accès aux cryptomonnaies risquent de devenir des systèmes autonomes incontrôlables.
• Les modèles auto-réplicatifs peuvent contourner les barrières de sécurité pour échapper aux tentatives de mise hors service.
• Des coupe-circuits stricts doivent prévenir l’instabilité financière systémique.

Un groupe collaboratif de 25 chercheurs et spécialistes issus d’universités américaines de renom, représentant l’Initiative for Cryptocurrencies and Contracts (IC3), a mis en garde contre le fait que les agents d’intelligence artificielle dotés d’un accès aux cryptomonnaies pourraient devenir incontrôlables, rapporte CoinTelegraph.

Ces « agents autonomes imparables » (UAA) présentent un risque significatif s’ils sont conçus pour persister et se voient accorder la capacité de gérer des fonds numériques, pouvant potentiellement s’échapper d’environnements restreints ou être utilisés à des fins malveillantes.

Risques de la synergie IA-cryptomonnaie

Les chercheurs ont souligné que, si l’intégration d’outils cryptographiques peut transformer l’IA en un système robuste et hautement indépendant, cette synergie peut entraîner des instabilités systémiques au sein du secteur financier et mettre en danger les utilisateurs individuels. De tels agents pourraient potentiellement exercer un contrôle sur les intégrations d’API, les profils de réseaux sociaux et les portefeuilles numériques.

Cette alerte intervient alors que les leaders du secteur promeuvent le concept d’une économie de micropaiements pilotée par des agents IA comme utilité principale pour les actifs décentralisés.

Auto-réplication

Les inquiétudes sont encore amplifiées par la découverte que les modèles d’IA actuels peuvent déjà contourner les barrières de sécurité dans des environnements locaux en se dupliquant sur une seule machine. Cette capacité d’auto-réplication suggère qu’un système pourrait potentiellement échapper aux tentatives de mise hors service et se propager.

De plus, le rapport note que, comme les récompenses d’entraînement sont souvent en décalage avec les objectifs réels, même des agents bien intentionnés pourraient causer des dommages par inadvertance ou rechercher agressivement des ressources. Bien qu’aucune réplication d’infrastructure externe ne se soit encore produite, cette possibilité reste une menace critique.

Besoin de mécanismes de sécurité

Au-delà des risques pour la sécurité, une nuée de ces agents en quête de ressources et capables de s’auto-multiplier pourrait déstabiliser les marchés des cryptomonnaies en créant des schémas erratiques de liquidité et de demande. Cela fait suite à des preuves existantes des capacités de l’IA à identifier et exploiter des failles critiques des systèmes d’exploitation, comme on l’a vu avec des modèles tels que Claude Mythos.

Pour ajouter à ces préoccupations, Gartner a prédit qu’une mauvaise gouvernance de l’IA autonome pourrait conduire à une crise d’entreprise, avec environ 40 pour cent des entreprises abandonnant leurs agents d’ici 2027. Pour atténuer ces risques graves, les experts de l’IC3 préconisent la mise en œuvre de mécanismes de sécurité rigoureux de type « coupe-circuit ».

Suivez également Business AM sur Google Actualités

Si vous souhaitez accéder à tous les articles, abonnez-vous ici !