Principaux renseignements

• Depuis peu, le modèle Claude Mythos d’Anthropic est disponible.
• Le Fonds monétaire international (FMI) s’inquiète de la possible destruction du système financier par ce modèle.
• La directrice du FMI, Kristalina Georgieva, souhaite une plus grande coopération entre les pays en matière de cybersécurité.

Il y a actuellement de la peur dans le monde financier concernant l’intelligence artificielle. Des modèles d’IA avancés comme Mythos d’Anthropic « peuvent être utilisés pour détruire le système financier » s’ils tombent entre de mauvaises mains, a averti la directrice générale du Fonds monétaire international (FMI). C’est ce qu’a rapporté POLITICO.

Anthropic Mythos

Claude Mythos est un grand modèle linguistique développé par Anthropic pour détecter les vulnérabilités logicielles. Anthropic n’a pas rendu le modèle public, en invoquant des préoccupations concernant la sécurité et les abus. Les réactions à Claude Mythos ont été immédiates et mitigées. Ce modèle est disponible à l’utilisation depuis le 9 juin.

Préoccupations dans le monde financier

Les régulateurs financiers sont en état d’alerte élevé depuis avril concernant les risques des modèles d’IA de superpiratage. Cela fait suite à l’annonce par Anthropic de son puissant nouveau modèle Mythos, qui possède des capacités cybernétiques avancées. Cela a suscité des craintes qu’il puisse être utilisé pour des piratages dévastateurs de systèmes critiques.

« Ce que nous reconnaissons, c’est que Mythos n’est que le début ; il y en aura d’autres comme celui-ci », a déclaré Kristalina Georgieva. Elle a déclaré que les modèles d’IA de pointe peuvent être utilisés de manière positive. Ils peuvent « identifier des vulnérabilités en matière de cybersécurité à une vitesse et à une échelle jusqu’alors inimaginables » . Cela peut être utilisé pour « corriger ces vulnérabilités et protéger le système financier contre les attaques ».

« Mais entre de mauvaises mains, cette même capacité peut être utilisée pour détruire le système financier et c’est quelque chose qui nous place en position de désavantage », a-t-elle ajouté.

Cybersécurité

En réponse à cela, les pays doivent, selon Georgieva, « avoir tous les éléments de la cybersécurité en place » . Elle a également plaidé pour « plus de coopération » entre les pays riches et pauvres et entre le secteur public et privé. C’est nécessaire pour se préparer aux risques que les nouveaux modèles peuvent représenter. « Il n’existe pas d’organisation mondiale de cybersécurité et dans l’environnement géopolitique actuel, il est difficile d’imaginer que nous puissions en avoir une », a-t-elle déclaré.

Les économies avancées « doivent trouver un moyen d’aider les pays en développement » à se défendre contre les risques des modèles. C’est important en raison de l’interconnexion du système financier mondial, a déclaré Georgieva. « Si une grande faiblesse existe, elle sera exploitée. De plus, le monde est intégré, les systèmes financiers sont intégrés », a-t-elle déclaré.

Georgieva a également souligné le risque d’une possible bulle de l’IA qui pourrait éclater avec des conséquences désastreuses pour le système financier. « Nous pourrions également voir que l’enthousiasme pour l’IA, le boom de l’IA, court un plus grand risque de se transformer en un effondrement de l’IA. Nous ne le voyons pas comme une probabilité élevée, mais ce n’est pas non plus nul. Donc, cela tombe dans la catégorie des risques à faible probabilité mais à très fort impact », a-t-elle dit.

Perspectives affaiblissantes

Georgieva est en Europe pour présenter l’évaluation économique annuelle du FMI pour la zone euro. Il y est constaté que les perspectives pour la région sont « affaiblies » par la guerre au Moyen-Orient. Par conséquent, les risques tendent vers une croissance plus faible et une inflation plus élevée. (fc)

Suivez également Business AM sur Google Actualités

Si vous souhaitez accéder à tous les articles, abonnez-vous ici !