En Chine, les citoyens qui utilisent l’application de paiement mobile Alipay se voient attribuer une note de “crédit personnel”, qui leur est décernée par une autre application, Zhima Credit. La note qui leur est donnée est non seulement déterminante pour leur accès au crédit, mais aussi pour un vaste éventail de services.
Les utilisateurs d’Alipay peuvent se voir attribuer une note comprise entre 350 et 950, en fonction de leur comportement et de divers facteurs : leur propension à rembourser leurs dettes, mais aussi les diplômes qu’ils ont obtenus, les produits qu’ils choisissent d’acheter, leurs bonnes actions (dons de sang, bénévolat…), et, de façon plus dérangeante, leurs fréquentations. Lorsque les proches des utilisateurs sont bien notés, eux-mêmes sont bien notés. Mais le contraire est vrai aussi… ce qui pourrait inviter la population à ostraciser ceux qui ont les plus mauvaises notes.
“On peut imaginer un avenir où les gens surveillent les notes de crédit de leurs amis pour s’assurer qu’elles ne baissent pas, et où ils pourraient abandonner leurs amis si cela devait les affecter. C’est terrifiant”, commente l’expert du big Data Frank Pasquale dans Wired.
Un score de 722 permet d’obtenir de meilleurs crédits, de meilleurs appartements en location, et donne accès à plusieurs applications de rencontres.
Les plus mal-notés ostracisés
Au contraire, les plus mal notés s’exposent à payer des dépôts de garantie supérieurs, un internet plus lent, une attente plus longue pour obtenir des soins à l’hôpital, ou des interdictions de voyager avec certains moyens de transports. Le journaliste Liu Hu en a fait l’expérience : il était condamné à voyager en seconde classe dans les trains les plus lents. Il ne pouvait plus acheter certains produits, ou séjourner dans des hôtels de luxe. De même, il n’avait plus la possibilité d’emprunter. Sa mauvaise note avait fait de lui “un citoyen de seconde classe”, dit-il.
Le gouvernement chinois ambitionne de déployer un programme de plus grande ampleur
De plus, il avait constaté que le système de notation de Zhima avait été couplé avec le système de notation du gouvernement chinois, qui place les dissidents et certaines autres personnes sur une liste noire, “la liste des personnes malhonnêtes”.
Depuis 2014, le gouvernement chinois a lancé un programme de “crédit social” prévoyant l’attribution d’une note, qui devrait être pleinement opérationnel en 2020. L’objectif annoncé est de “construire une culture de la « sincérité’ et une « société socialiste harmonieuse » dans laquelle il sera « glorieux de maintenir la confiance”. Le principe qui se trouve derrière ce projet est simple : Dès que la confiance est ébranlée, des restrictions doivent être imposées partout ». Les fauteurs – individus ou entreprises – seraient privés de tout un éventail de bénéfices, et se verraient soumis à une surveillance quotidienne étendue et à des inspections inopinées.
Selon le plan, les données fournies par les smartphones, les médias sociaux, les plates-formes d’e-commerce, collectées sur les 700 millions de Chinois qui ont accès à l’internet pourraient être exploitées. De même, les enregistrements des tribunaux, de la police, les banques, des impôts et des employeurs, seront utilisés.
Toutes les informations concernant les citoyens sont stockées dans une base de données gigantesque.
Le score ainsi déterminé conditionnera l’accès aux transports publics, à certains services publics, aux logements sociaux, aux emplois, à l’internet et bien sûr, au crédit.
Black Mirror, ou quand la fiction devient réalité
Nosedive, un épisode de la troisième saison de la série populaire Black Mirror de Netflix, met en scène un scénario tout à fait comparable. Les gens attribuent des points aux personnes qu’ils rencontrent au quotidien avec leur smartphone. Ces points permettent de calculer un score social, qui détermine leur capacité à emprunter, ou à utiliser certains moyens de transport. Une dystopie… censée nous inquiéter pour nous distraire et nous faire réfléchir. Mais pour plus d’un milliard de personnes aujourd’hui, c’est leur réalité quotidienne.