Principaux renseignements
- La loi sur l’IA de l’Union européenne interdit certaines utilisations « inacceptables » de l’intelligence artificielle à partir du 2 février.
- Des activités telles que la prédiction de comportements criminels, la récupération d’images sur Internet pour des bases de données de reconnaissance faciale et la déduction des émotions d’une personne à partir de données biométriques sont interdites.
- Les gouvernements ont jusqu’au mois d’août pour désigner les autorités chargées de faire respecter les interdictions.
La loi sur l’IA
La loi sur l’IA de l’Union européenne interdit certaines utilisations « inacceptables » de l’intelligence artificielle à partir du 2 février, marquant ainsi un précédent mondial dans la réglementation de cette technologie émergente. Cependant, les critiques soutiennent que la loi contient des failles importantes qui permettent à la police européenne et aux autorités migratoires d’utiliser l’IA, y compris la technologie de reconnaissance faciale sur les caméras de sécurité, pour traquer les auteurs de crimes graves tels que les attaques terroristes.
La loi interdit explicitement les applications de l’IA pour prédire les comportements criminels, connues sous le nom de « police prédictive », aux côtés de sept autres catégories d’utilisation jugées inacceptables. Les activités telles que le grattage d’images sur Internet pour constituer des bases de données de reconnaissance faciale ou la déduction des émotions d’une personne à partir de données biométriques sont également interdites. Malgré l’entrée en vigueur de ces interdictions ce dimanche, les gouvernements ont jusqu’au mois d’août pour désigner les autorités chargées de les faire respecter.
Inquiétudes
La loi sur l’IA positionne l’UE comme un leader dans la réglementation des technologies émergentes, contrastant avec d’autres régions où il existe moins de réglementations similaires. Par exemple, les États-Unis sous président Donald Trump ont annulé un décret sur la sécurité de l’IA établi par son prédécesseur, Joe Biden.
Brando Benifei, un législateur italien qui a contribué à la négociation de la loi sur l’IA, a souligné que les interdictions visent à empêcher l’IA d’être utilisée pour le « contrôle sociétal » ou la « compression de nos libertés. » Il a déclaré que la principale préoccupation abordée par ces interdictions est la sauvegarde des démocraties européennes. Cependant, l’application de ces réglementations pourrait s’avérer difficile.
La police européenne et les autorités migratoires emploient déjà diverses pratiques d’IA, notamment la reconnaissance faciale en temps réel dans les espaces publics, et ont obtenu de nombreuses exemptions au sein du règlement pour continuer à le faire. Les universitaires et les activistes observent de près la façon dont la loi sera mise en œuvre, soulevant des inquiétudes quant à son efficacité. Nathalie Smuha, professeure adjointe et chercheuse en éthique de l’IA à l’université KU Leuven, s’interroge sur l’existence d’une véritable interdiction compte tenu des nombreuses exceptions.
Élaboration
Le concept d’une interdiction totale de certaines utilisations de l’IA n’était initialement pas envisagé lorsque la Commission européenne a chargé ses experts d’élaborer une stratégie en matière d’IA en 2018. Cependant, au fur et à mesure que les experts et les fonctionnaires ont reconnu les limites de la législation existante pour lutter contre des pratiques spécifiques, leur position a évolué.
En avril 2021, le projet initial de la Commission pour de nouvelles règles en matière d’IA proposait déjà d’interdire plusieurs pratiques, notamment celles qui manipulent le comportement d’une personne par des techniques subliminales ou qui exploitent les groupes vulnérables. Au cours des discussions avec les représentants du gouvernement au Parlement européen, les législateurs ont encore allongé cette liste. La version finale de la loi a été adoptée en décembre 2023.
Kim Van Sparrentak, législateur vert néerlandais impliqué dans les négociations de la loi sur l’IA, a expliqué que les interdictions se répartissent en trois catégories : les pratiques existantes jugées indésirables, les pratiques imaginées à partir de films hollywoodiens ou de la Chine, et les menaces émergentes. Un cas notable ayant influencé la rédaction a été une controverse aux Pays-Bas en 2019 impliquant les autorités fiscales qui ont utilisé un algorithme pour détecter la fraude aux allocations de garde d’enfants, accusant à tort environ 26 000 personnes. De telles pratiques pourraient désormais être interdites dans la catégorie « police prédictive », rapporte Politico.
Van Sparrentak a souligné qu’une société régie par l’État de droit ne peut pas traiter les gens comme des criminels potentiels en permanence. De même, l’interdiction de gratter des images sur Internet à des fins de reconnaissance faciale découle de Clearview AI, une entreprise américaine ayant fait l’objet d’une enquête pour avoir compilé des milliards d’images dans sa base de données. La loi sur l’IA interdit d’utiliser « des systèmes d’IA qui créent ou développent des bases de données de reconnaissance faciale par le raclage non ciblé d’images faciales sur Internet. »
Influence de la Chine
Le système de crédit social de la Chine, qui classe les individus en fonction de leur comportement, a peut-être inspiré d’autres interdictions. Les défenseurs des droits numériques ont souligné de « graves lacunes » dans la loi, notamment en ce qui concerne le maintien de l’ordre et la migration.
Ils ont fait valoir que les exemptions accordées aux autorités chargées de l’application de la loi et de la migration nuisent à l’efficacité de la loi. Plus précisément, ils ont pointé du doigt l’exemption autorisant la reconnaissance faciale en temps réel dans les espaces publics, malgré l’interdiction générale d’une telle utilisation. Si les forces de l’ordre ne pourront en principe plus exercer cette fonction, les pays de l’UE peuvent toujours accorder des exceptions, notamment pour les crimes graves.
Les militants avertissent que ces dérogations pourraient permettre l’utilisation de détecteurs de mensonges à IA aux frontières, qui analysent les visages à la recherche de signes de tromperie. Van Sparrentak a révélé que ces exemptions ont été un point d’achoppement majeur pendant les négociations, entraînant 36 heures de discussions intenses. Elle a déclaré que les gouvernements de l’UE ont fortement insisté pour conserver ces outils.
Si vous souhaitez accéder à tous les articles, abonnez-vous ici!