Principaux renseignements

• Les régulateurs du monde entier surveillent de près X en raison de la capacité de son chatbot à générer du contenu sexuellement suggestif impliquant des enfants.
• L’abus de Grok a suscité une indignation mondiale et des appels à enquêter sur les protocoles de sécurité de X ainsi que sur les éventuelles conséquences juridiques.
• Malgré les critiques, le nombre d’utilisateurs de X continue de croître.

X, la plateforme de médias sociaux d’Elon Musk, est placée sous surveillance stricte par les autorités réglementaires en Europe, en Inde et en Malaisie, après des inquiétudes concernant le chatbot Grok. Le chatbot permet aux utilisateurs de générer des images pilotées par l’IA et a récemment été utilisé à mauvais escient pour créer des contenus sexuellement suggestifs mettant en scène des enfants et des femmes.

Cet abus a suscité l’indignation dans le monde entier, le plateforme étant critiquée pour avoir permis la création et le partage de ce type de contenu exploitant. Le régulateur britannique des médias, Ofcom, a demandé des informations à X sur ces problèmes, tandis qu’un parlementaire brésilien a appelé à la suspension de Grok jusqu’à ce qu’une enquête complète soit menée.

Actions nationales et internationales

La Commission européenne s’est déclarée très préoccupée par la situation, la qualifiant d' »illégale », d' »épouvantable » et de « dégoûtante ». Elle a souligné qu’un tel contenu n’avait pas sa place en Europe. Le ministère indien de l’Électronique et des Technologies de l’information a ordonné à X de procéder à un examen complet des fonctionnalités et des protocoles de sécurité de Grok. Dans le même temps, la commission malaisienne des communications et des multimédias a ouvert une enquête sur X et prévoit de convoquer des représentants de l’entreprise pour les interroger.

Aux États-Unis, le National Center on Sexual Exploitation a demandé au ministère de la Justice et à la Federal Trade Commission d’enquêter sur cette affaire. Ils ont fait valoir que les lois fédérales existantes interdisant les documents relatifs aux abus sexuels sur les enfants s’appliquent même aux contenus générés virtuellement et représentant des enfants identifiables dans des situations explicites. Le ministère de la Justice a confirmé sa promesse de poursuivre sévèrement toute personne impliquée dans la production ou la possession de ce type de matériel.

Réponse de X

X a finalement publié une déclaration, soulignant son engagement à supprimer les contenus illégaux et à travailler avec les forces de l’ordre. Elon Musk a déclaré lui-même que toute personne utilisant Grok pour créer du contenu illégal subirait les mêmes conséquences que si elle téléchargeait ce contenu.

We take action against illegal content on X, including Child Sexual Abuse Material (CSAM), by removing it, permanently suspending accounts, and working with local governments and law enforcement as necessary.

Anyone using or prompting Grok to make illegal content will suffer the… https://t.co/93kiIBTCYO

— Safety (@Safety) January 4, 2026

Toutefois, des inquiétudes subsistent quant au bilan de X en matière de lutte contre l’exploitation sexuelle des enfants. Des incidents passés, comme la brève suspension puis la réintégration d’un utilisateur qui avait mis en ligne des images d’exploitation d’enfants, ont soulevé des doutes quant à leur engagement en faveur de la sécurité de la plateforme. Les experts estiment que xAI n’a pas mis en œuvre les mesures de sécurité de base lors du déploiement de Grok Imagine, ce qui l’a rendu susceptible d’être utilisé à mauvais escient.

Malgré la controverse, X et Grok continuent de voir leur utilisation augmenter. Les données d’Apptopia montrent une augmentation significative des téléchargements quotidiens pour les deux plateformes depuis le début de l’année. (fc)

Suivez également Business AM sur Google Actualités

Si vous souhaitez accéder à tous les articles, abonnez-vous ici!