TikTok échoue à protéger les enfants de ses contenus trashs

Isopix

La croissance fulgurante de TikTok signifie que le réseau social est aujourd’hui confronté au même problème que ses prédécesseurs ont connu avant lui, mais bien plus rapidement.

Le succès de TikTok est remarquable au vu de sa jeunesse, mais c’est aussi ce qui pourrait lui faire se tirer une balle dans le pied. Les équipes ‘inexpérimentées’ du réseau social chinois auraient bien du mal à modérer les contenus indésirables pour les enfants présents sur sa plateforme, révèle le Financial Times. Un problème auquel d’autres médias ont été confrontés avant elle, comme Facebook ou YouTube.

Les vidéos troublantes de YouTube qui trompent les enfants – BBC Trending

Des violences sur les jeunes filles

Plusieurs chercheurs ont déclaré au Financial Times qu’ils avaient découvert sur TikTok un contenu inapproprié qui allait à l’encontre de ses politiques. L1ght, par exemple, est un groupe qui recherche sur les réseaux sociaux des contenus néfastes pour les enfants. Il a ainsi découvert sur TikTok des contenus incluant de la violence contre les femmes, en particulier les jeunes filles. En particulier le hashtag #kidnap – qui rassemble 28 millions de résultats – où les garçons orchestrent des enlèvements et des attaques sur leurs petites amies.

‘Nos algorithmes ont découvert un contenu très troublant sur TikTok’, a déclaré au FT Zohar Levkovitz, directeur général de L1ght. ‘Nous sommes surtout inquiets du fait que les tendances violentes en ligne pourraient facilement devenir des incidents de la vie réelle, et donner le mauvais exemple aux jeunes générations.’ Le Financial Times a en outre trouvé des preuves de violence, de discours de haine, d’intimidation et de contenus sexuellement explicites sur TikTok.

‘C’est un endroit qui peut être très dangereux pour les jeunes’, a également déclaré Darren Davidson, rédacteur en chef de Storyful, une agence de renseignements sur les médias sociaux. ‘En général, nous voyons ce que nous avons vu sur les plateformes traditionnelles il y a quatre ou cinq ans.’

Les modérateurs font défaut

Pour faire bonne figure, la plateforme forme désormais en toute hâte des équipes dans le monde entier pour modérer ses flux de vidéos virales. Et la tâche se révèle ardue, l’application chinoise ayant cumulé pas moins d’un milliard d’utilisateurs mensuels en seulement trois ans.

Dans ce cadre, elle a mis en place des équipes de sécurité et de modération individuelles ‘totalement autonomes’ aux États-Unis, et vise à faire de même en Europe. La majorité des modérations de contenu avaient jusqu’alors lieu à Pékin, de façon uniforme, des les bureaux de sa société-mère Byte Dance.

Imiter les concurrents?

Eric Han, responsable de la sécurité de la plateforme aux États-Unis, s’est également défendu en indiquant que la société avait un processus de déclaration conforme à celui de ses concurrents. ‘Dans notre itération actuelle de TikTok, nous avons un peu plus d’un an’, a-t-il dit. ‘Nous faisons ce que les autres plateformes ont fait à ce stade de leur trajectoire. Il y a un engagement total pour la sécurité des utilisateurs.’

Copier le comportement de ses prédécesseurs pourraient pourtant s’avérer vain dans le cas de TikTok. L’entreprise est en réalité bien en retard sur ses rivaux de la Silicon Valley, qui ont bénéficié de temps supplémentaire pour trouver comment protéger les jeunes utilisateurs contre les messages indésirables voire illégaux.

Lire aussi: TikTok paye plus d’un million pour violation de la vie privée des enfants