Principaux renseignements
- Les élus doivent assumer l’entière responsabilité de toutes les décisions législatives.
- Les « hallucinations » générées par l’IA menacent la transparence démocratique et l’exactitude juridique.
- De nouvelles directives imposent une vérification rigoureuse et la divulgation de l’utilisation de l’IA.
Roberta Metsola, présidente du Parlement européen, a mis en garde les députés européens contre l’utilisation de l’intelligence artificielle comme substitut au processus législatif. C’est ce que rapporte Politico. Lors d’une réunion consacrée à l’utilisation de l’IA au sein du Parlement, elle a déclaré que les élus devaient rester personnellement responsables de toutes les décisions législatives.
Selon Mme Metsola, l’IA peut aider à rédiger des amendements. Toutefois, la technologie ne peut remplacer les débats entre parlementaires ni le jugement critique nécessaire pour prendre des décisions juridiques complexes.
Le risque d’hallucinations
Afin de garantir la transparence démocratique, Mme Metsola souhaite que le Parlement communique ouvertement sur l’utilisation de l’IA. Les citoyens peuvent ainsi demander des comptes à leurs représentants.
Cette préoccupation grandit alors que les responsables parlementaires constatent une hausse du nombre d’amendements rédigés par l’IA. Certains font même référence à des textes législatifs inexistants. Le secrétaire général, Alessandro Chiocchetti, a illustré ces risques par un exemple concret. Un député européen a reçu des conseils juridiques erronés via un outil d’IA. Des experts juridiques ont ensuite eu besoin de deux jours pour identifier et corriger l’erreur.
De nouvelles directives sur l’utilisation de l’IA
Chiocchetti estime que les députés européens doivent rester responsables de la rédaction et de l’examen des lois. L’IA peut toutefois les aider à classer un grand nombre d’amendements.
L’administration parlementaire prépare donc de nouvelles directives. Celles-ci reposent sur trois principes : la transparence concernant l’utilisation de l’IA, l’interdiction de télécharger des documents confidentiels sur des plateformes publiques et la vérification approfondie de tous les résultats générés par l’IA.
Des règles différentes pour le personnel et les députés
Actuellement, les règles diffèrent selon les catégories de personnel. Depuis 2024, les collaborateurs doivent signaler lorsqu’ils utilisent l’IA dans leur travail. Cette obligation ne s’applique pas encore aux députés européens pour leurs discours ou leurs amendements.
Pour imposer également ces règles aux élus, le Parlement devra peut-être modifier son règlement intérieur. La commission des affaires constitutionnelles pourrait alors être chargée d’examiner cette modification.
La protection des données sensibles
En parallèle des nouvelles directives, le Parlement développe sa propre plateforme d’IA destinée au traitement des informations sensibles : l’EPGenAI Hub. Cet outil repose sur l’infrastructure interne du Parlement et doit permettre de traiter les données confidentielles en toute sécurité.
Les applications commerciales comme ChatGPT, Claude d’Anthropic et Llama de Meta restent disponibles pour les tâches moins sensibles. Le Parlement adopte également une approche prudente en matière de matériel. L’institution a notamment désactivé certaines fonctions d’IA intégrées aux tablettes afin de protéger la confidentialité des données.
(zvm)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
