Pour les députés européens, à l’heure actuelle, le recours à la reconnaissance faciale par les forces de l’ordre ne permettrait pas d’éviter plusieurs biais et discriminations liés à l’intelligence artificielle. Cela pourrait également porter atteinte à la vie privée des citoyens.
Le Parlement européen vient de rendre son verdict concernant l’utilisation de la reconnaissance faciale par la police dans les espaces publics. Pour les eurodéputés, c’est un non catégorique, et ce, tout simplement parce qu’à l’heure actuelle, les outils dont nous disposons ne sont pas encore parfaitement au point. Les utiliser entrainerait forcément des biais algorithmiques, notamment envers les « groupes ethniques minoritaires, les personnes LGBTI, les personnes âgées et les femmes ».
Le Parlement souhaite que les algorithmes qui pourraient être utilisés à cette fin soient transparents, traçables et suffisamment documentés pour éviter toutes formes de discrimination.
De plus, étant donné le manque de garanties solides à l’heure actuelle, les eurodéputés estiment que le recours à la reconnaissance faciale porterait une atteinte directe et conséquente à la vie privée des citoyens. Ce type d’outil ne peut, pour l’heure, être utilisé qu’à des fins répressives « clairement justifiées » et dans le « plein respect des principes de proportionnalités et de nécessité ». C’est pourquoi ils demandent « une interdiction permanente de la reconnaissance automatisée des individus dans les espaces publics, notant que les citoyens ne devraient être surveillés que lorsqu’ils sont soupçonnés d’un crime ».
Les données comportementales pour prédire le crime
L’utilisation de bases de données privées de reconnaissance faciale, dont le très controversé Clearview IA qui est déjà utilisé par certaines forces de l’ordre, doit être interdite, de même qu’ « une police prédictive basée sur des données comportementales ». La position du Parlement européen est la même concernant les systèmes de notation sociale « qui tentent d’évaluer la fiabilité des citoyens en fonction de leur comportement ou de leur personnalité ».
« Les droits fondamentaux sont inconditionnels. Pour la première fois, nous appelons à un moratoire sur le déploiement de systèmes de reconnaissance faciale à des fins répressives, car la technologie s’est avérée inefficace et conduit souvent à des résultats discriminatoires », a déclaré l’eurodéputé Petar Vitanov.
« Les décisions finales doivent revenir à des opérateurs humains et les sujets surveillés par des systèmes alimentés par l’IA doivent avoir accès à des recours », demande le Parlement européen.
Depuis plusieurs mois, la Commission européenne travaille sur un projet de loi concernant l’intelligente artificielle et son utilisation au sein des espaces publics. Elle souhaite définir un cadre précis dans lequel l’IA pourrait être utilisée, et ce, à condition de respecter certaines garanties procédurales.
À lire aussi:
