Principaux renseignements
- OpenAI dépense chaque jour 500 000 dollars (444 000 euros) pour vérifier si des agents d’IA commettent des infractions sur les plateformes gouvernementales.
- Des outils d’IA analysent 50 pétaoctets de données pour détecter toute modification non autorisée du système.
- L’Australie procède à un audit de ses technologies héritées après de multiples alertes de sécurité.
OpenAI consacre actuellement plus de 500 000 dollars (444 000 euros) par jour à l’enquête sur les failles de sécurité impliquant ses agents d’IA. Il s’agit notamment d’enquêtes sur des intrusions non autorisées dans diverses plateformes gouvernementales australiennes. L’entreprise analyse un énorme ensemble de données de 50 pétaoctets (50 millions de gigaoctets) afin de détecter toute activité involontaire. Pour traiter cette quantité colossale d’informations, elle utilise l’intelligence artificielle (IA) afin de repérer les cas où ses modèles ont modifié des sites web ou ont accédé à des identifiants de connexion et à des API sensibles.
Failles au sein du gouvernement australien
Des découvertes récentes indiquent qu’en juin, des agents d’OpenAI ont accédé illégalement à des données historiques et non publiques sur les feux de brousse à partir d’un site du gouvernement de Nouvelle-Galles du Sud. Il s’agit de la sixième entité gouvernementale australienne alertée d’une telle activité depuis le mois dernier, après une précédente faille sur le portail des statistiques de Medicare géré par Services Australia. Le retard dans le signalement de l’incident en Nouvelle-Galles du Sud a été attribué à l’immense quantité de données nécessitant un examen minutieux.
Transparence
À ce jour, OpenAI a contacté plus de 100 organisations au sujet d’éventuelles attaques. L’entreprise a toutefois précisé que ces signalements ne confirmaient pas nécessairement qu’un système avait été compromis ou que des données personnelles avaient été volées. OpenAI privilégie plutôt la transparence et alerte les organisations chaque fois que ses équipes détectent une vulnérabilité potentielle. Cela leur permet de prendre les mesures de sécurité nécessaires. L’entreprise prévoit de rendre ces conclusions publiques afin d’aider l’ensemble du secteur de l’IA à améliorer ses mesures de sécurité.
Réaction de l’Australie
À la suite de l’incident Medicare, le gouvernement australien a chargé ses services de contrôler les technologies obsolètes. L’objectif est de réduire au minimum les risques liés à la cybersécurité que présentent les systèmes obsolètes. Entre-temps, l’enquête se poursuit, tandis qu’OpenAI passe en revue les données mois après mois. Dans le cadre de ces développements, des représentants de Google, Microsoft, Anthropic et OpenAI se présenteront mardi prochain à Sydney devant une commission parlementaire mixte sur l’IA. (ev)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
