Face aux dangers des intelligences artificielles, l’ONU demande d’instaurer des règles

Les Nations-Unies s’inquiètent d’un rapport sur les dangers potentiels des IA rendu par les Commissions des droits de l’Homme. Cette technologie intéresse beaucoup les polices et les systèmes judiciaires, mais elle est loin d’être infaillible. Tout en laissant entrevoir de très dystopiques futurs.

L’intelligence artificielle sera sans aucun doute la prochaine grande révélation technologique à bouleverser nos vies, et il y a fort à parier que nous n’avons même pas encore aperçu la partie émergée de ce titanesque iceberg. Mais certains des premiers glaçons qui s’accumulent à la proue ont de quoi faire froid dans le dos : reconnaissance faciale, traçage, et autres écoutes de la population. Un véritable cauchemar dystopique qui inquiète l’ONU : l’assemblée vient de demander la mise en place d’un moratoire sur l’intelligence artificielle.

Les cauchemars d’Asimov

Les Nations Unies incitent chaque pays membre à évaluer les risques que présentent ces nouvelles technologies pour le droit à la vie privée ou encore la liberté de circulation et d’expression des citoyens. L’assemblée appelle à interdire les abus, dont les premiers commencent à défrayer les chroniques ou, à tout le moins, de mettre en place un cadre juridique spécifique à l’encadrement de ces nouvelles technologies.

Michelle Bachelet, ancienne présidente chilienne devenue Haute-commissaire des droits de l’Homme de l’ONU défend cette prise d’action avant qu’il ne soit trop tard: « Les technologies d’intelligence artificielle peuvent avoir des effets négatifs, voire catastrophiques s’ils sont utilisés sans prendre en compte suffisamment la manière dont ils affectent les droits humains. Les systèmes d’IA sont utilisés pour déterminer qui peut bénéficier de services publics, décident de qui a une chance d’être recruté pour un emploi et, bien sûr, ont une influence sur l’information que les gens peuvent voir et partager en ligne. »

Prédire le crime

Selon un rapport rendu à l’ONU par la Haute-commissaire, le recours trop systématique aux IA entraine aussi de nombreuses erreurs, car ces outils ne sont pas forcément au point : les dysfonctionnements de l’IA ont empêché des gens de toucher des aides sociales, de trouver un emploi ou encore ont mené à des arrestations d’innocents sur la base de systèmes de reconnaissance faciale mal entraînés. Dans ce dernier cas, les intelligences artificielles semblent encore avoir beaucoup de mal à identifier des personnes qui ne sont pas de couleur blanche. C’est très gênant quand Twitter ne reconnait pas la présence d’une personne noire sur une photo, mais quand ces IA sont utilisées à des fins judiciaires, le risque est réel pour les droits des personnes.

Outre l’épineuse question des IA de reconnaissance faciale, l’ONU s’inquiète de l’apparition d’applications prédictives utilisées par les polices ou les systèmes judiciaires. Des analyses informatiques qui tentent de prédire où et quand serait commis un crime en se basant sur le big data. Une possibilité sortie tout droit des pires cauchemars du génie de la science-fiction Isaac Asimov.

Pour aller plus loin :

Plus
Dernière mise à jour:
Dernière mise à jour:
Lire plus...
Marchés
BEL20