Principaux renseignements
- Quinze services de police ont procédé à des arrestations uniquement sur la base d’un logiciel de reconnaissance faciale sans chercher à obtenir des preuves supplémentaires.
- Au moins huit personnes ont été arrêtées à tort en raison d’identifications basées sur l’IA, dont deux cas précédemment non documentés.
- De nombreux services de police n’ont pas d’exigences de transparence concernant leur utilisation de la technologie de reconnaissance faciale.
Une enquête récente du Washington Post révèle une tendance inquiétante des services de police à l’échelle nationale à utiliser à mauvais escient les logiciels de reconnaissance faciale. L’étude a révélé que de nombreux services procèdent à des arrestations en se basant uniquement sur les correspondances de l’IA sans chercher à obtenir des preuves supplémentaires, ignorant souvent les politiques internes qui imposent la corroboration.
Sur les 23 services dont les dossiers sont disponibles, quinze répartis dans douze États ont arrêté des suspects en se basant uniquement sur des correspondances générées par l’IA. Ces cas impliquaient fréquemment des rapports qualifiant les correspondances non vérifiées de l’IA de « correspondances à 100 pour cent » ou affirmant que la technologie identifiait « incontestablement » un suspect. Au moins huit personnes aux États-Unis ont été arrêtées à tort en raison de ces identifications basées sur l’IA, dont deux étaient auparavant sans papiers. Bien que toutes les affaires aient finalement été classées, des procédures d’enquête de base telles que la vérification des alibis et la comparaison des preuves physiques auraient pu empêcher ces arrestations injustes.
Questions de transparence et préoccupations
L’étendue réelle des fausses arrestations alimentées par l’IA reste floue, car la plupart des services n’ont pas d’exigences de transparence concernant leur utilisation de la technologie de reconnaissance faciale.
L’enquête du Post a porté sur 75 services de police, et les dossiers détaillés de 23 d’entre eux ont révélé que près des deux tiers de ceux qui ont utilisé l’IA pour des arrestations n’ont pas corroboré les correspondances avec d’autres preuves. De nombreux services ont refusé de discuter de leurs pratiques ou ont affirmé que les agents se fiaient à leur jugement visuel pour confirmer les résultats de l’IA.
Cas et résultats
À Florence, dans le Kentucky, la police a utilisé des correspondances non vérifiées de l’IA dans au moins quatre cas, ce qui a donné lieu à des résultats variables. Le procureur local Louis Kelly a défendu le jugement des agents dans l’identification des suspects, y compris ceux signalés par le système d’IA.
Le Washington Post a réalisé son rapport en examinant les pratiques de reconnaissance faciale dans 75 services de police, en se concentrant sur les dossiers détaillés de 23 d’entre eux. L’enquête a révélé que quinze services, dont Austin, Détroit et Miami, ont procédé à des arrestations uniquement sur la base de correspondances avec l’IA, sans vérification indépendante.
Certains services n’avaient pas suffisamment de dossiers ou de transparence, tandis que d’autres employaient des méthodes douteuses comme la présentation de photos identifiées par l’IA à des témoins pour confirmation. Bien que les entretiens aient permis d’éclaircir certains cas, le recours à des identifications par IA non corroborées reste un problème très répandu.
Si vous souhaitez accéder à tous les articles, abonnez-vous ici!