Principaux renseignements

• Un vaste réseau d’utilisateurs de Telegram, couvrant l’Espagne et l’Italie, diffuse du contenu sexuel préjudiciable.
• Les auteurs monétisent ce contenu abusif en facturant des frais d’accès et en faisant la promotion de bots « nudifiants » qui créent de fausses images de nudité.
• AI Forensics préconise une modération renforcée sur Telegram et demande que la plateforme soit classée comme « très grande plateforme en ligne » afin d’accroître la transparence et la responsabilité.

Un rapport récent d’AI Forensics révèle qu’un « réseau d’abus à grande échelle » est actif sur la plateforme de messagerie Telegram. L’organisation européenne à but non lucratif a examiné 2,8 millions de messages dans 16 groupes Telegram sur une période de six semaines. Et a découvert un vaste réseau partageant des contenus sexuels préjudiciables. Il s’agit notamment de matériel à caractère sexuel diffusé sans consentement et de pédopornographie. Environ 52 000 personnes seraient impliquées dans cette affaire en Espagne et en Italie.

Exploitation et monétisation

Selon le rapport, il s’agirait principalement de jeunes hommes hétérosexuels qui diffusent des images et des vidéos de femmes qu’ils connaissent, souvent sans leur consentement. Dans les cas les plus extrêmes, il s’agit de contenus mettant en scène des enfants dans des scénarios d’inceste et de viol. Les auteurs tirent profit de ces contenus en facturant l’accès aux chaînes et aux archives. Ils font également la promotion de « bots » dits « nudifying », qui créent de fausses photos de nus.

L’enquête révèle que les auteurs nomment et taguent souvent les victimes apparaissant dans les vidéos, et qu’ils les rendent identifiables grâce aux liens vers leurs profils partagés sur les chaînes Telegram. Le contenu est donc également diffusé en dehors de Telegram, sur des plateformes telles que TikTok, Reddit et Instagram.

Appels à une modération et une responsabilisation accrues

Selon AI Forensics, les efforts actuels de modération de Telegram sont insuffisants. Bien que l’on ait fermé certains groupes, on les a rapidement recréés sous les mêmes noms. AI Forensics appelle Telegram à améliorer ses mécanismes de signalement et à appliquer plus strictement ses règles d’utilisation. Notamment en ce qui concerne la génération de revenus via le modèle d’abonnement Premium.

L’organisation préconise également de classer Telegram comme une « très grande plateforme en ligne » (VLOP) au titre de la loi européenne sur les services numériques. Cela permettrait aux régulateurs d’imposer à la plateforme une plus grande transparence. Et une plus grande responsabilité concernant ses algorithmes et ses pratiques de modération des contenus. En outre, ils insistent pour que l’on inclue des dispositions dans la loi européenne sur l’IA afin de permettre aux plateformes en ligne de supprimer plus facilement les contenus liés à l’exploitation sexuelle des enfants et les images non consenties.

Telegram

Telegram affirme qu’il interdit les contenus à caractère sexuel impliquant des enfants et les images publiées sans consentement, conformément à ses conditions d’utilisation. Selon la plateforme, on déploie déjà des outils de modération basés sur l’IA et du personnel humain pour lutter contre les abus. La plateforme encourage également les utilisateurs à signaler les infractions. Les sanctions en cas de violation des règles de la plateforme vont de la suspension temporaire de certaines fonctionnalités à la suppression définitive du compte. (ev)(fc)

Suivez également Business AM sur Google Actualités

Si vous souhaitez accéder à tous les articles, abonnez-vous ici !