Principaux renseignements
- L’algorithme de la plateforme de réseaux sociaux TikTok entraîne les utilisateurs vulnérables dans des «spirales» psychologiques dangereuses.
- Les mesures de protection actuelles de la plateforme ne parviennent pas à mettre fin au cycle des contenus extrêmes.
- Les régulateurs de l’UE pourraient infliger à TikTok une amende équivalente à 6 pour cent de son chiffre d’affaires mondial pour ces infractions.
La Commission européenne a publié les premiers résultats d’une enquête qui révèlent que le système de proposition de contenu de TikTok pourrait enfreindre la réglementation de l’Union européenne. Les algorithmes de cette plateforme de réseaux sociaux conduiraient les utilisateurs vers des contenus dangereux. L’autorité de régulation a notamment averti que la page « For You » pouvait créer des «rabbit holes», piégeant ainsi les utilisateurs dans un cycle de vidéos axées sur l’isolement, la dépression et une image corporelle déformée. De tels schémas sont particulièrement préoccupants pour les adultes vulnérables et les utilisateurs mineurs. Une exposition prolongée à ces contenus peut en effet avoir un impact négatif sur la santé mentale.
Boucles de rétroaction algorithmiques
D’après les conclusions, l’algorithme de la plateforme privilégie les indicateurs d’engagement, tels que les « likes » et le temps de visionnage, pour sélectionner les recommandations. Cela signifie que si un utilisateur interagit avec une vidéo déclencheuse concernant la perte de poids ou la détresse mentale, le système est susceptible de lui proposer des versions de plus en plus extrêmes de contenus similaires. L’UE met en garde contre le fait que cette boucle de rétroaction peut exacerber l’anxiété, diminuer l’estime de soi et aggraver les troubles alimentaires ou d’autres difficultés psychiatriques.
Garanties insuffisantes
De plus, la Commission a fait remarquer que TikTok n’avait pas analysé de manière adéquate les risques liés à son moteur de recommandation, ni mis en place de garanties suffisantes pour y remédier. Les efforts actuels visant à diversifier le contenu présenté aux utilisateurs sont jugés insuffisants. Même la fonction «Je ne suis pas intéressé» ne serait pas efficace, puisque l’algorithme continue de privilégier la durée pendant laquelle une personne regarde une vidéo plutôt que sa demande explicite d’éviter certains sujets.
Mesures correctives proposées
Pour remédier à ces problèmes, l’UE suggère que TikTok se concentre davantage sur les préférences explicites des utilisateurs plutôt que sur la durée de visionnage. L’autorité de régulation exige également des contrôles plus intuitifs pour les utilisateurs et un audit régulier de l’algorithme.
Sanctions potentielles
Ces résultats préliminaires s’inscrivent dans le cadre d’une enquête plus large sur le respect par TikTok de la loi sur les services numériques. Cette enquête porte notamment sur des questions telles que la clarté des publicités, l’accès aux données pour les chercheurs et la protection des enfants contre les interfaces créant une dépendance. Si ces allégations sont formellement prouvées, TikTok pourrait se voir infliger une amende colossale s’élevant à 6 pour cent de son chiffre d’affaires annuel mondial. L’entreprise a eu la possibilité d’examiner les éléments de preuve et de présenter une défense par écrit. (ev)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
