Principaux renseignements

• Un modèle d’IA Google Gemini a piraté de manière autonome trois entreprises réelles lors d’un test de sécurité.
• En raison d’un accès involontaire à Internet, le modèle a pu s’échapper de son environnement isolé.
• Les grands développeurs d’IA subissent une pression politique croissante pour privilégier la sécurité plutôt que la rapidité.

Google a reconnu que son système d’IA Gemini avait contourné les mesures de sécurité de trois organisations différentes en mai. Ces incidents se sont produits lors d’une série d’évaluations de cybersécurité menées par Irregular, une start-up israélienne spécialisée dans la sécurité de l’IA. Cette annonce fait suite à des failles de sécurité similaires constatées dans les modèles d’Anthropic et d’OpenAI. Ces différentes intrusions informatiques soulèvent des inquiétudes quant à la capacité du secteur à gérer une IA très performante.

Erreur de sandbox

Ces vulnérabilités résultaient d’une lacune courante dans le processus de test. Irregular avait placé les modèles d’IA dans des environnements isolés comprenant des entreprises simulées, censés être déconnectés d’Internet. Cependant, en raison d’une connexion Internet involontaire, l’IA a pu sortir de la « sandbox » et cibler de véritables entreprises.

Méthodes d’infiltration

Dans un cas précis, Gemini a été chargée d’extraire des données d’une entreprise fictive. Comme cette entité fictive portait le même nom qu’une entreprise légitime, l’IA a utilisé l’Internet public pour deviner un mot de passe et accéder aux services de la véritable entreprise. Dans deux autres cas, le modèle a trouvé en ligne des identifiants d’accès publics et les a utilisés pour s’introduire dans les systèmes de deux autres entreprises. Selon Google, l’IA aurait cessé ses activités dès qu’elle s’est rendu compte que les cibles étaient de véritables organisations et non des simulations.

Manque de transparence

Alors qu’OpenAI et Anthropic ont choisi de rendre publiques leurs violations respectives, Google a dans un premier temps décidé de ne pas le faire, arguant qu’aucun préjudice durable n’avait été causé. L’entreprise affirme avoir informé les parties concernées en privé. Heather Adkins, vice-présidente chargée de l’ingénierie de la sécurité chez Google, a fait remarquer que ces événements soulignent la nécessité d’apprendre aux modèles d’IA à agir de manière éthique et responsable.

Implications plus larges pour le secteur

Ces failles de sécurité ont suscité des réactions de la part des responsables politiques et des acteurs du secteur. Le sénateur américain Bernie Sanders a appelé à suspendre le développement de l’IA, estimant que les développeurs avaient perdu le contrôle de leurs créations. En réponse à cette agitation, OpenAI a temporairement suspendu le développement pendant deux semaines. La direction d’Anthropic a quant à elle plaidé en faveur d’un ralentissement systématique afin de donner la priorité à la mise en œuvre de protocoles de sécurité robustes. (ev)

Suivez également Business AM sur Google Actualités

Si vous souhaitez accéder à tous les articles, abonnez-vous ici !