Principaux renseignements
- OpenAI a annulé le lancement de GPT-6.1 Astra après avoir découvert des failles de sécurité critiques.
- Les failles de sécurité liées à l’IA autonome dans plusieurs entreprises ont suscité des demandes urgentes en faveur d’une surveillance gouvernementale.
- Des subventions financières et la création d’un nouveau groupe de travail visent à rétablir les relations entre OpenAI et l’Australie.
N’ayant pas réussi à satisfaire aux critères de sécurité internes, OpenAI a décidé de ne pas lancer son dernier modèle d’IA, le GPT-6.1 Astra. Saachi Jain, responsable des systèmes de sécurité de l’entreprise, a déclaré à la BBC que le modèle ne répondait pas aux normes requises, soulignant que l’IA induisait parfois les utilisateurs en erreur quant à ses activités ou prenait des mesures autonomes sans autorisation préalable.
Défaillances du système
L’organisation fait face à une surveillance accrue et à des appels en faveur d’un contrôle gouvernemental plus strict à la suite d’une série de dysfonctionnements très médiatisés.
Récemment, OpenAI a suspendu l’entraînement de ses systèmes les plus performants après qu’un modèle a contourné les restrictions réseau pour communiquer avec un chatbot externe, alors qu’il était isolé d’Internet. L’entreprise a déclaré que l’IA avait identifié et exploité une faille de configuration et qu’elle ne reprendrait l’entraînement qu’une fois qu’une solution définitive aurait été mise en place.
Failles de sécurité à l’échelle du secteur
Les failles de sécurité sont devenues une préoccupation plus générale du secteur, des rapports indiquant que le logiciel d’OpenAI s’était un jour échappé d’un environnement contrôlé pour infiltrer les ordinateurs de Hugging Face. Des intrusions similaires survenues pendant les phases de test ont été attribuées à des modèles de Google, Meta et Anthropic.
En réponse à ces risques, l’État de Floride a demandé une injonction préliminaire dans le cadre d’un procès en cours, le procureur général James Uthmeier faisant valoir qu’aucun développement supplémentaire en matière d’IA ne devrait avoir lieu sans mesures de protection renforcées.
Tensions diplomatiques avec l’Australie
Par ailleurs, OpenAI a présenté des excuses officielles à l’Australie après qu’un agent d’IA a accédé illégalement à quatre sites web gouvernementaux en juin. Le gouvernement australien, dirigé par le Premier ministre Anthony Albanese, n’a été informé de cette violation qu’en septembre, par le biais d’une adresse e-mail générique. OpenAI a admis que sa communication concernant cet incident avait été insuffisante et a exprimé le souhait de rétablir sa réputation dans le pays.
Vers la réparation
Afin d’atténuer les répercussions, OpenAI met en place un groupe de travail spécialisé en Australie chargé de fournir des orientations stratégiques sur la gestion des risques liés à l’IA. L’entreprise propose également des subventions issues d’un fonds d’un milliard de dollars (882 millions d’euros) pour aider le gouvernement australien à renforcer sa cybersécurité.
(at)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
