Principaux renseignements
- L’Ofcom enquête sur la plateforme X d’Elon Musk pour utilisation abusive potentielle de l’outil d’IA Grok afin de générer des images sexuellement explicites, y compris des images d’enfants.
- X risque de lourdes sanctions, pouvant atteindre 10 pour cent de son chiffre d’affaires mondial ou 18 millions de livres sterling (environ 20,8 millions d’euros), s’il s’avère qu’il enfreint la législation britannique en matière de protection des enfants.
L’autorité britannique de régulation des médias, l’Ofcom, a ouvert une enquête sur la plateforme de médias sociaux X d’Elon Musk concernant son outil d’IA Grok. Des inquiétudes ont été exprimées quant à l’utilisation abusive de Grok pour générer des images sexuellement explicites, notamment celles représentant des enfants.
L’Ofcom a déclaré avoir reçu des informations inquiétantes selon lesquelles le chatbot serait utilisé pour créer et partager des images non autorisées de personnes nues et des contenus à caractère sexuel impliquant des mineurs. Si la violation de la législation britannique est avérée, X pourrait se voir infliger des sanctions sévères, pouvant aller jusqu’à une amende équivalente à 10 pour cent de son chiffre d’affaires mondial ou 18 millions de livres sterling (environ 20,8 millions d’euros), le montant le plus élevé étant retenu.
Réactions politiques
Si X ne coopère pas, l’Ofcom a le pouvoir de demander une ordonnance judiciaire obligeant les fournisseurs d’accès à Internet à bloquer l’accès à la plateforme au Royaume-Uni. La secrétaire à la Technologie, Liz Kendall, a exprimé son soutien à l’enquête de l’Ofcom et a demandé qu’elle soit menée à bien rapidement, soulignant la nécessité d’agir rapidement pour protéger le public et les victimes.
Son prédécesseur, Peter Kyle, a qualifié la situation d’« épouvantable » et a raconté une anecdote bouleversante au sujet d’une image d’une femme juive en bikini superposée à Auschwitz, générée par Grok et diffusée en ligne. D’autres politiciens ont fait part de leurs inquiétudes, notamment la politicienne nord-irlandaise Cara Hunter, qui a décidé de quitter la plateforme en raison de ces problèmes. Downing Street a réitéré l’engagement du gouvernement à protéger les enfants, tout en précisant que sa présence sur X restait à l’étude.
Recherche ciblée
L’enquête de l’Ofcom portera principalement sur la question de savoir si X a supprimé de manière adéquate les contenus illégaux dès qu’il en a eu connaissance et s’il a pris les mesures appropriées pour empêcher les utilisateurs britanniques d’être exposés à ce type de contenus. Cela inclut les images intimes non consenties et les contenus pédopornographiques. L’autorité de régulation évaluera également l’efficacité des systèmes de vérification de l’âge de X pour empêcher les enfants d’accéder à des contenus pornographiques.
Préoccupations mondiales
Cette enquête fait suite aux critiques mondiales à l’encontre de la fonctionnalité de création d’images de Grok, qui a conduit à des interdictions temporaires en Malaisie et en Indonésie au cours du week-end. Bien qu’un porte-parole de l’Ofcom n’ait pas pu fournir de calendrier pour l’enquête, il a souligné sa haute priorité et l’engagement du régulateur à faire respecter les protections juridiques contre les contenus préjudiciables, en particulier lorsque des enfants sont en danger.
Les experts juridiques suggèrent que, bien que l’Ofcom dispose d’une certaine flexibilité pour déterminer le rythme de l’enquête, il pourrait potentiellement demander une ordonnance de perturbation des activités (une ordonnance judiciaire bloquant l’accès à X au Royaume-Uni) comme mesure immédiate plutôt que comme dernier recours, mais uniquement dans des circonstances exceptionnelles impliquant un préjudice continu. (uv)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici!