Google est restée très discrète tandis que le scandale “Cambridge Analytica” éclaboussait Facebook, mettant en évidence les dérives possibles avec l’exploitation des données personnelles. Mais cette vidéo inquiétante de 9 minutes montre que les grosses têtes de Mountain Views réfléchissent aussi à des manières de refaçonner le monde en utilisant les données des utilisateurs. 

The Verge s’est procuré cette vidéo de 9 minutes, The Selfish Ledger. Elle a été réalisée en 2016 par Nick Foster, qui dirige la conception au sein de “Google X”, le laboratoire de Google en charge des travaux d’intelligence artificielle. Cette vidéo n’était réservée qu’à l’usage interne de la firme. 

Elle montre comment les têtes pensantes du géant de l’internet envisagent d’éradiquer la pauvreté et les maladies, ou plus généralement, d’imposer les valeurs de la firme, par la collecte et l’exploitation des données la collecte de données d’utilisateur.

(Note : la vidéo est en anglais)

Une collecte des données exhaustive

La vidéo envisage un monde dans lequel toutes les données qui concernent tous les individus seraient collectées exhaustivement au moyen de la totalité de leurs appareils, pour être rassemblées dans une sorte de “registre” (“ledger”, en anglais). Ce dernier ferait l’objet d’un intensif “data mining” pour fournir un gigantesque modèle des comportements, décisions, relations et traits de caractère humains. Il serait transmis de génération en génération, pour être enrichi et affiné. 

Ce modèle permettrait de tirer des conclusions et des prédictions sur les relations entre ces décisions, actions, préférences, et relations au niveau global, et les conséquences qu’ils induisent individuellement et socialement.

Il serait alors possible d’introduire de nouvelles données dans le registre, afin d’induire de nouveaux comportements, qui, à leur tour, aboutiraient à des situations différentes. “Nous pourrions alors développer une compréhension à l’échelle de l’espèce des questions complexes telles que la dépression, la santé, et la pauvreté”, précise le narrateur.

Un monde dans lequel nous ne sommes plus que les gardiens temporaires des informations

“Les principes de conception centrés sur l’utilisateur ont dominé le monde de l’informatique depuis des décennies, mais que se passerait-il si nous examinions ces choses un peu différemment? Et si le registre pouvait se voir confier une volonté ou un objectif, au lieu de se contenter d’agir comme une référence historique? Et si nous nous concentrions sur la création d’un registre plus riche, en introduisant d’autres sources d’information? Et si nous ne nous considérions plus comme les propriétaires de cette information, mais comme les conservateurs, les porteurs temporaires, les gardiens?” se demande le narrateur, dans la vidéo. 

Influencer les décisions quotidiennes

Il poursuit en expliquant que si Google disposait d’un tel modèle, il pourrait apprendre de ces données, et transmettre ces apprentissages aux générations futures. Il pourrait aussi instiller une influence sur les décisions prises par les utilisateurs.

La vidéo montre que les applications que nous utilisons pourraient être paramétrées pour influencer nos décisions quotidiennes, afin qu’elles respectent un agenda bien précis (La vidéo présente l’exemple d’une application “aidant” l’utilisateur à effectuer un choix entre plusieurs offres de bananes sur la base de 3 objectifs initiaux : manger plus sainement, protéger l’environnement, et soutenir les entreprises locales, par exemple. Mais on pourrait imaginer des objectifs très différents, peut-être moins humanistes…)

Ces objectifs “refléteraient les valeurs de Google en tant qu’organisation”, affirme le narrateur. “Les suggestions pourraient ne pas être converties par l’utilisateur, mais par le registre lui-même”, poursuit-il, signifiant ainsi que le registre pourrait lui-même inciter l’utilisateur à effectuer certains choix, en tenant compte de ses goûts, de ses préférences pour concevoir des produits destinés à collecter les données qu’il lui manque, afin de s’assurer que l’utilisateur les choisira à coup sûr au moment de l’achat. “Le registre pourrait activement chercher à combler les vides dans sa connaissance et même sélectionner des produits à acheter assurant la collecte de données dont il penserait qu’ils pourraient séduire l’utilisateur”, cite The Verge.

“Bien sûr, le concept se fonde sur l’hypothèse que Google aurait accès à une quantité colossale de données d’utilisateur et de décisions. Les inquiétudes en matière de respect de la vie privée ou des externalités négatives [nuisances, ndlr] ne sont jamais mentionnées dans la vidéo”, observe The Verge.

Google : un « exercice intellectuel »

Invité à commenter la vidéo, un porte-parole du département X de Google a dit la chose suivante :

“Nous comprenons que cela puisse déranger – c’est conçu pour ça. Il s’agit d’un exercice intellectuel mené par l’équipe du Design qui date d’il y a des années, et qui utilise une technique appelée “concept spéculatif” pour explorer des idées et des concepts inconfortables afin de provoquer la discussion et le débat. Ce n’est lié à aucun produit actuel ou futur”.

En clair: rassurez-vous, bonnes gens, c’est pour rire! Nous vous laissons juges…