Principaux renseignements

• L’Union européenne enquête sur la plateforme X d’Elon Musk, car son chatbot IA Grok pourrait générer du contenu pédopornographique à l’aide de deepfakes.
• Les critiques mondiales s’intensifient à l’encontre de Grok pour avoir produit et partagé des images inappropriées.
• Cette enquête de l’UE fait suite à une amende de 120 millions d’euros infligée à X en vertu de la loi sur les services numériques pour avoir induit les utilisateurs en erreur et entravé l’accès aux données.

L’Union européenne a ouvert une enquête sur la plateforme de médias sociaux X d’Elon Musk, anciennement connue sous le nom de Twitter, concernant son chatbot IA Grok. L’enquête vise à déterminer si X a correctement pris en compte les risques liés au déploiement de Grok, en particulier sa génération de deepfakes sexuellement explicites pouvant constituer du matériel pédopornographique.

Critiques mondiales croissantes

Cette action fait suite aux critiques mondiales croissantes à l’encontre de Grok après que des utilisateurs ont signalé que le chatbot produisait et partageait des images inappropriées sur X. Les organismes de réglementation et les organisations de protection de l’enfance ont exprimé de sérieuses préoccupations quant à la nature préjudiciable de ces deepfakes.

L’autorité britannique de régulation des communications, l’Ofcom, a ouvert une enquête officielle afin de déterminer si X a enfreint la loi britannique sur la sécurité en ligne. La France et l’Inde se sont également jointes au concert de condamnations, accusant Grok de créer des images à caractère sexuel sans consentement, ce qui est illégal.

X, une filiale de xAI, affirme qu’elle supprime les contenus illégaux, y compris les contenus pédopornographiques, suspend les comptes en infraction et collabore avec les forces de l’ordre si nécessaire.

Amendes précédentes et controverse

L’enquête de l’UE sur Grok fait suite à une amende substantielle de 120 millions d’euros infligée à X en vertu de la loi sur les services numériques (DSA). Cette sanction précédente découlait de préoccupations selon lesquelles X aurait induit les utilisateurs en erreur avec son système de vérification payant par coche bleue, aurait entravé l’accès des chercheurs aux données et n’aurait pas mis en place un référentiel publicitaire approprié.

La DSA, mise en œuvre en 2023, habilite l’UE à infliger des amendes pouvant atteindre 6 pour cent du chiffre d’affaires annuel mondial d’une plateforme en ligne qui ne traite pas efficacement les contenus illégaux, la désinformation ou les violations de la transparence. L’administration Trump a déjà critiqué la DSA, la qualifiant d’atteinte à la liberté d’expression. Le vice-président américain JD Vance, faisant écho à ce sentiment, a publiquement condamné les mesures prises par l’UE à l’encontre de X en décembre, appelant à soutenir la liberté d’expression plutôt que ce qu’il percevait comme des attaques contre les entreprises américaines. (uv)

Suivez également Business AM sur Google Actualités

Si vous souhaitez accéder à tous les articles, abonnez-vous ici!

(ns)