Scandale chez Alibaba: le géant du web est accusé d’avoir déployé un logiciel pour détecter les Ouïghours

Isopix

Le géant chinois fait l’objet de nombreuses critiques sur la scène internationale. D’après un rapport de l’Integrated Pest and Vector Management (IPVM), Alibaba aurait élaboré un logiciel de reconnaissance faciale capable d’identifier les Ouïghours sur des vidéos.

Le service de modération de contenu cloud Shield d’Alibaba aurait développé un algorithme de reconnaissance faciale apte à détecter l’origine ethnique d’une personne. C’est en tout cas ce que révèle un compte-rendu publié par le cabinet de recherche IPVM.

Alibaba décrit Cloud Shield comme ‘un système qui détecte et reconnaît les textes, images, vidéos et les voix contenant de la pornographie, de la politique, du terrorisme violent, des publicités et des spams, et fournit des capacités de vérification, de marquage, de configuration personnalisée et autres’.

Mais le rapport de l’IPVM voit les choses sous un autre angle. Il explique que les archives du logiciel prouvent que l’algorithme peut détecter des lunettes, des sourires et… les traits à caractère ‘ethnique’ d’un sujet, plus précisément, ceux d’un Ouïghour.

Crédit: IPVM

En d’autres termes, si un Ouïghour diffuse une vidéo sur un site lié au Cloud Shield d’Alibaba, le logiciel est capable de détecter si l’utilisateur est un Ouïghour et d’éventuellement signaler la vidéo aux autorités chinoises, pour que le contenu soit contrôlé, voire supprimé.

‘Contraire à nos politiques et à nos valeurs’

De son côté, le géant du web s’est dit ‘consterné’ et nie ces allégations, arguant que ‘la discrimination raciale ou ethnique ou encore, le profilage sous quelque forme que ce soit, viole les politiques et les valeurs d’Alibaba’. ‘Nous n’avons jamais eu l’intention d’utiliser notre technologie pour cibler des groupes ethniques spécifiques, et nous avons éliminé toute étiquette ethnique dans notre offre de produits’ a déclaré la société.

Pourtant, l’IPVM a également relevé que la mention ‘Ouïghour’ avait été détectée dans le logiciel de reconnaissance. Mention qui aurait été hasardeusement supprimée dès que le rapport a été publié. D’après Alibaba, cette appellation n’aurait été utilisée que dans le cadre d’un ‘environnement test’. 

10% de ses revenus

Plus tôt ce mois-ci, l’IPVM avait également découvert qu’Huawei et Megvii avaient développé conjointement une technologie capable d’alerter le gouvernement chinois lorsque le système détectait le visage d’un membre de la communauté ouïghoure.

Cette annonce intervient alors que les défenseurs des droits de l’homme accusent la Chine de travail forcé sur plus d’un million de Ouïghours, une population issue d’un territoire semi-autonome de l’Ouest de la Chine. 

Alibaba est coté à la Bourse de New York et de Honk-Kong. Le cloud computing est l’un des segments d’Alibaba qui connaît la plus forte croissance. L’année dernière, Alibaba Cloud s’est même positionné comme le plus grand acteur de la région d’Asie-Pacifique. Le Cloud Shield d’Alibaba a connu une croissance de 60% et représente près de 10% des revenus engrangés par la société entre juillet et septembre.