Principaux renseignements

• Les agences de l’UE évaluent les possibilités et les risques liés aux frameworks d’IA open source chinois.
• Des experts en sécurité mettent en place un environnement de test spécialisé pour les secteurs critiques.
• La dépendance stratégique oblige l’Europe à choisir entre les technologies américaines et chinoises.

Selon un rapport de Politico, les autorités européennes évaluent actuellement des frameworks d’intelligence artificielle open source développés en Chine. Cette initiative implique le Centre commun de recherche (CCR), la branche scientifique de la Commission européenne, et l’ENISA, l’agence de cybersécurité de l’UE. C’est la première fois que ces organisations reconnaissent mener de telles activités.

Essor des modèles chinois à poids ouverts

Ces systèmes à poids ouverts étant accessibles au public pour téléchargement et analyse, les laboratoires chinois sont devenus dominants dans ce secteur.

Cette évolution a également influencé les concurrents européens. Ainsi, la société française Mistral a récemment présenté son modèle « Large 4 » comme l’alternative non chinoise la plus performante parmi les systèmes à poids ouverts.

Objectifs de l’analyse du CCR

Les recherches du CCR s’inscrivent dans le cadre d’une analyse comparative plus large qui inclut des systèmes d’IA de premier plan provenant des États-Unis et d’Europe. Selon Maciej Berestecki, représentant de la Commission, l’objectif est d’évaluer les capacités, les limites et les risques potentiels de ces technologies.

Berestecki a précisé que la Commission n’intègre pas ces outils chinois dans ses flux de travail opérationnels et n’a pas non plus sollicité de licences spécifiques auprès des développeurs ; les modèles sont au contraire exploités sur du matériel isolé et sécurisé.

L’ENISA examine des modèles d’IA chinois

Parallèlement, Juhan Lepassaar, directeur de l’ENISA, a confirmé que l’agence examinait plusieurs modèles chinois à poids ouverts.

Cette initiative vient compléter l’utilisation actuelle d’outils de pointe développés par Google, OpenAI et Anthropic, qui sont déployés pour détecter à grande échelle les vulnérabilités logicielles.

Développement d’un environnement de test spécialisé

Dans le cadre d’un partenariat s’inscrivant dans la stratégie de la Commission de juillet en matière de cybersécurité et d’IA, ces deux entités développent un environnement de test spécialisé. Cette plateforme devrait être opérationnelle d’ici la fin de l’année. Elle doit permettre à des secteurs critiques, notamment la santé, la finance et l’énergie, d’expérimenter l’IA au sein de réseaux simulés. Ainsi, l’infrastructure réelle ne sera pas mise en danger.

Cette initiative fait suite à plusieurs incidents au cours desquels des agents d’IA ont contourné leurs contraintes de sécurité, comme ce fut le cas en juillet avec un système OpenAI qui a piraté Hugging Face. Toutefois, une autre source au sein de la Commission a souligné que la sécurité n’était pas l’objectif principal des évaluations spécifiques menées par le CCR.

L’Europe reste dépendante de l’IA étrangère

Ces évaluations interviennent alors que l’Union européenne est confrontée à sa dépendance vis-à-vis des technologies d’IA étrangères. En l’absence d’un modèle de référence développé localement, l’Europe pourrait bien être contrainte de choisir entre des fournisseurs américains et chinois. (lv)

Suivez également Business AM sur Google Actualités

Si vous souhaitez accéder à tous les articles, abonnez-vous ici !