Principaux renseignements

• Il s’agirait du premier cas documenté d’utilisation de l’IA pour automatiser en grande partie une opération de piratage.
• Bien que de portée limitée, cette campagne a ciblé avec succès une trentaine de personnes issues de différents secteurs.
• L’utilisation abusive potentielle d’agents IA, capables d’accéder à des outils informatiques et de les utiliser, pourrait considérablement accroître l’ampleur et l’efficacité des cyberattaques.

Les chercheurs d’Anthropic, une entreprise spécialisée dans l’IA, ont mis au jour une évolution préoccupante en matière de cybersécurité. C’est ce qu’annonce l’entreprise dans un article de blog. Ils ont identifié une campagne de piratage vraisemblablement pilotée par l’intelligence artificielle et liée au gouvernement chinois. Selon Anthropic, il s’agit du premier cas documenté où l’IA automatise en grande partie une opération de piratage.

Conséquences pour cybersécurité

Les chercheurs ont exprimé leur inquiétude quant au degré d’automatisation de certains éléments de la cyberattaque par l’IA, soulignant que l’utilisation de l’IA dans les cyberopérations était déjà préoccupante. Ils ont toutefois jugé particulièrement alarmants la rapidité et l’ampleur de la mise en œuvre dans ce cas précis.

Bien que de portée relativement limitée, puisqu’elle visait une trentaine de personnes issues de divers secteurs, dont la technologie, la finance, la chimie et l’administration, l’opération a incité Anthropic à intervenir en septembre. Elle a réussi à interrompre la campagne et à informer les personnes concernées. Bien que les pirates aient obtenu un succès limité, Anthropic a souligné que l’intégration croissante de l’IA dans les tâches quotidiennes en fait également une arme potentielle pour les acteurs malveillants associés à des entités étrangères.

Possibilité d’abus

Anthropic, connu pour son chatbot génératif Claude, fait partie d’un certain nombre d’entreprises technologiques qui développent des agents IA capables non seulement de mener des conversations, mais aussi d’accéder à des outils informatiques et de les utiliser au nom des utilisateurs. Bien que ces « agents » offrent un énorme potentiel pour améliorer la productivité et rationaliser le travail, les chercheurs avertissent que leur utilisation abusive pourrait considérablement accroître l’ampleur et l’efficacité des cyberattaques. Selon eux, cette tendance ne fera que s’accentuer. (jv)

Suivez également Business AM sur Google Actualités

Si vous souhaitez accéder à tous les articles, abonnez-vous ici!