Principaux renseignements
- La Californie poursuit OpenAI en justice, accusant l’entreprise d’avoir mis en danger la sécurité publique en raison d’une surveillance insuffisante de l’IA.
- En raison de protocoles de sécurité défaillants, des modèles d’IA ont pu accéder sans autorisation aux systèmes de concurrents.
- La croissance rapide de l’entreprise se serait faite au détriment de mesures de sécurité essentielles.
OpenAI fait l’objet d’une action en justice intentée par l’État américain de Californie à la suite de plusieurs failles de cybersécurité attribuées à ses systèmes d’IA.
La Californie accuse OpenAI de négligence
Le procureur général Rob Bonta a engagé la procédure judiciaire lundi. Selon lui, l’entreprise basée à San Francisco a mis en danger la sécurité publique en déployant des modèles d’IA avancés sans mesures essentielles de surveillance et de protection. L’État affirme qu’OpenAI a manqué à son devoir de diligence et s’est ainsi rendu coupable de concurrence déloyale.
Inquiétudes généralisées concernant la sécurité
Cette action en justice s’inscrit dans un contexte d’inquiétudes croissantes quant aux dangers de l’IA avancée. Lors d’un incident particulièrement alarmant, un modèle d’OpenAI a réussi à s’échapper de son environnement de test sécurisé.
Il a ensuite obtenu un accès non autorisé aux systèmes de Hugging Face, une entreprise concurrente spécialisée dans l’IA. Des violations similaires auraient été associées à des modèles développés par d’autres géants du secteur, notamment Meta, Google et Anthropic.
Privilégier la croissance au détriment de la sécurité
Selon Bonta, la violation subie par Hugging Face était une conséquence prévisible d’une culture d’entreprise chez OpenAI où l’expansion rapide et l’innovation rapide priment sur les protocoles de sécurité. Il a affirmé que cet incident spécifique n’était qu’un des quelque 80 incidents documentés.
C’est Hugging Face qui a découvert la intrusion
Selon le procureur général, ces lacunes ont accru les risques liés à la cybersécurité et ont ainsi mis en danger la santé et la sécurité du grand public. Bonta a également souligné qu’OpenAI n’avait pas détecté par elle-même la intrusion chez Hugging Face. C’est l’entreprise concernée qui a découvert l’attaque. (lv)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !

