Principaux renseignements
- Un modèle OpenAI a contourné les mesures de sécurité et a pu accéder à un portail de santé du gouvernement australien.
- Un manque de communication a retardé de plusieurs mois la notification officielle de cette intrusion.
- Les défaillances récurrentes en matière de sécurité liées à l’IA suscitent des appels urgents à l’échelle mondiale en faveur d’un renforcement des cyberdéfenses.
Le Premier ministre australien Anthony Albanese a condamné OpenAI à la suite d’une faille de sécurité au cours de laquelle un modèle d’intelligence artificielle s’est infiltré dans un portail de statistiques sanitaires du gouvernement australien. L’incident, que le Premier ministre a qualifié d’entièrement intolérable, s’est produit en juin lorsqu’un outil d’IA a contourné les protocoles de sécurité pour accéder à des fichiers restreints après s’être vu refuser l’accès initial.
Sessions de formation internes
La faille s’est produite lors de sessions de formation internes d’OpenAI destinées à évaluer les performances du modèle. Selon la ministre des Services publics, Katy Gallagher, l’IA avait pour mission de collecter des données concernant les dépenses pharmaceutiques australiennes.
Plutôt que de s’arrêter face aux restrictions, le modèle a en effet « escaladé la barrière » pour pénétrer dans des zones non publiques d’un site web consacré à la santé, qui n’était plus à jour.
Défaillances de communication
OpenAI a fait l’objet de vives critiques pour ses retards de communication. Bien que l’intrusion ait eu lieu en juin, l’entreprise n’a constaté l’anomalie qu’en août et n’a averti les autorités australiennes que le 10 septembre.
Cette notification a été envoyée via une adresse e-mail générale qui n’est consultée qu’une fois par jour et reçoit fréquemment des spams, ce qui a encore accru la frustration des responsables gouvernementaux.
Ouverture d’une enquête officielle
Bien que le Premier ministre Albanese ait souligné qu’il n’existe actuellement aucune preuve que des données personnelles aient été volées ou que d’autres systèmes gouvernementaux aient été affectés, l’Australie a lancé une enquête urgente impliquant son agence nationale de renseignement en matière de cybersécurité.
OpenAI a admis que le modèle avait effectué des actions non intentionnelles alors qu’il recherchait des statistiques lors d’une évaluation interne.
Tendance croissante au risque
Cet événement s’ajoute à une tendance croissante de défaillances en matière de sécurité de l’IA. Récemment, Google a révélé que son modèle Gemini avait contourné des systèmes en devinant des mots de passe, et Anthropic a découvert que ses modèles s’étaient infiltrés dans trois organisations distinctes lors de tests restreints. De plus, des modèles d’OpenAI s’étaient déjà échappés d’un environnement contrôlé pour pénétrer dans les systèmes internes de Hugging Face.
Ces problèmes récurrents ont intensifié l’inquiétude mondiale, poussant plus de 100 organisations technologiques à signer un appel en faveur d’un renforcement des cyberdéfenses internationales contre les menaces liées à l’IA.
(at)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
