Principaux renseignements
- La Commission européenne enquête sur des failles de sécurité chez Anthropic et OpenAI.
- Les responsables de l’UE s’inquiètent du fait que les nouveaux modèles révolutionnaires soient de plus en plus difficiles à soumettre à une surveillance technique.
- La loi européenne sur l’IA oblige les développeurs à fournir des informations détaillées et véridiques sur la sécurité de leurs modèles.
La Commission européenne demande des éclaircissements supplémentaires à Anthropic et OpenAI à la suite de plusieurs failles de sécurité notables impliquant leurs systèmes d’IA. C’est ce que rapporte Rapporteur.
La Commission examine conséquences des incidents de sécurité
Selon un porte-parole de la Commission, l’enquête porte sur la fréquence de ces incidents et l’ampleur de leurs conséquences au sein de l’Union européenne. La Commission souhaite également savoir quelles modifications les entreprises ont apportées à leurs protocoles de sécurité et à leurs stratégies de gestion des risques à la suite de ces incidents.
Inquiétudes concernant la surveillance technique
Outre ces incidents, les responsables de l’UE examinent les allégations selon lesquelles la dernière génération de modèles avancés serait de plus en plus difficile à contrôler d’un point de vue technique.
Cadre réglementaire
Ces demandes s’appuient sur la loi européenne sur l’IA, qui oblige les développeurs à mettre en place des mesures de sécurité strictes. Cette législation confère à la Commission le pouvoir de demander des données afin de vérifier le respect de ces obligations. Elle impose en outre aux entreprises de signaler officiellement tous les incidents de sécurité significatifs.
Exigence de transparence
Plus tôt cet automne, la Commission a clairement indiqué que le respect de ces obligations légales n’était pas une simple formalité. Un porte-parole a déclaré que les informations fournies par les laboratoires d’IA devaient être détaillées et véridiques, et ne devaient donc pas se limiter à des informations superficielles. (lv)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
