Facebook n’a pas hésité à acheter des encarts publicitaires dans le New York Times et le Washington Post pour expliquer au monde les mesures qu’elle compte prendre pour le protéger des interférences d’entités malveillantes. Mais il semble qu’il ne s’agirait que d’une bonne volonté de façade, écrit Sara Wachter-Boettcher, dans Quartz. Selon des sources du Congrès américain, le géant technologique renâcle à collaborer dans le cadre de l’enquête concernant une possible interférence de la Russie dans les élections. Il a toutefois effacé des milliers de posts incriminés après qu’un chercheur a démontré que ceux-ci avaient eu un impact bien plus grand sur les élections que la firme ne l’avait admis elle-même.
Une succession de bugs informatiques
Ce n’est pas si étonnant, affirme Wachter-Boettcher : Facebook « gère depuis très longtemps ses défaillances éthiques comme des bugs informatiques qu’il faut réparer : se dire désolé, supprimer les bugs en question, et ne plus s’en soucier. Finalement, chacun de ces ratés est traité comme un incident isolé, plutôt que comme faisant partie d’un problème systémique qui aurait besoin d’une action systémique. En conséquence, Facebook continue de commettre le même type de gaffe, encore et encore ».
Les critères haineux sont admissibles… tant qu’ils n’ont pas été écartés
Wachter-Boettcher prend l’exemple d’une enquête récente menée par ProPublica. Cette dernière a révélé que l’interface publicitaire de Facebook permettait à des annonceurs de choisir la cible de leurs messages, et éventuellement, d’introduire des termes antisémites comme « ceux qui détestent les juifs » ou « comment brûler les juifs ». Les journalistes qui ont employé ces critères pour les tester ont constaté que leurs publicités étaient diffusées en ligne 15 minutes plus tard.Facebook a réagi en supprimant immédiatement ces catégories. « Nous n’avons jamais eu l’intention ou envisagé que cette fonctionnalité aurait pu être utilisée de cette manière », a écrit Sheryl Sandberg, le COO au de Facebook, dans un post. Mais la firme aurait dû anticiper que sa plate-forme publicitaire ferait l’objet d’abus, d’autant que ProPublica l’en avais déjà avertie il y a un an.Des journalistes de cette organisation avaient alors démontré qu’il était possible pour une agence immobilière d’acheter des publicités ciblant les utilisateurs en fonction de leur race ou de leur ethnie, une discrimination tout à fait illégale aux États-Unis. Facebook avait alors présenté des excuses, et supprimé la fonctionnalité qui permettait à ses annonceurs d’utiliser ces critères. « En d’autres mots, elle a réglé le bugs, et elle est passée autre chose ». Mais cet incident n’a pas amené la firme à se remettre en question, et à se demander plus généralement si son système pouvait être à l’origine de discriminations, ou susceptible de répandre de la haine.
D’autres priorités
Elle aurait pourtant dû le faire, affirme Wachter-Boettcher. Facebook pèse maintenant près de 500 milliards de dollars, et rien que pour l’année dernière, elle a enregistré 27 milliards de dollars de recettes publicitaires. Ses effectifs sont composés des cadres parmi les plus brillants du monde. La firme dispose donc des ressources nécessaires pour réaliser une revue exhaustive et de vaste ampleur des vulnérabilités de son interface. Mais elle ne le fait pas, car ce n’est pas une priorité. En effet, la firme fonctionne à merveille… du point de vue de sa rentabilité.Et c’est bien là le problème. Les géants des Tech ne cherchent que la croissance, et à obtenir le plus d’engagement possible de leurs utilisateurs. Mark Zuckerberg, le CEO de Facebook, avait littéralement évoqué ce choix quand il s’était adressé aux investisseurs à l’occasion de l’introduction en bourse de l’entreprise en 2012 :
« Lorsque la plupart des entreprises se développent, elles ont tendance à se freiner excessivement, parce qu’elles redoutent plus de commettre des erreurs, que de perdre des opportunités en réagissant trop lentement ».
Cette priorisation de la rentabilité a maintenant des conséquences désastreuses. Et celles-ci ont dépassé le stade de la gaffe vexante ou offensante pour les simples utilisateurs. Elles menacent désormais l’infrastructure sociale et politique de pays entiers. « Demandez [aux cadres de Facebook] qu’ils cessent de se contenter de simples corrections, et qu’ils effectuent un véritable travail, ou nous en payerons tous le prix », conclut Wachter-Boettcher.