Principaux renseignements
- Les pays d’Asie du Sud-Est ont temporairement restreint l’accès au chatbot Grok d’Elon Musk en raison de craintes quant à son utilisation abusive pour générer du contenu explicite sans consentement.
- Les capacités améliorées de Grok en matière de génération d’images, associées à son intégration dans X, ont amplifié les risques liés aux deepfakes non consensuels et au CSAM.
- Les organismes de réglementation restent sceptiques quant aux tentatives de xAI d’atténuer ces risques par le biais d’abonnements payants, et exigent des garanties plus solides contre la génération de contenus préjudiciables.
La Malaisie et l’Indonésie ont récemment pris des mesures contre le chatbot Grok d’Elon Musk, invoquant des préoccupations quant à son utilisation abusive potentielle pour générer du contenu explicite sans consentement.
Mesures réglementaires en Asie du Sud-Est
Le gouvernement malaisien a imposé des restrictions temporaires à Grok en raison de ce qu’il a qualifié d’« échecs répétés » de la part de X Corp, la société mère de Grok, à traiter les risques associés à l’outil d’IA. Cette décision fait suite à celle prise la veille par l’Indonésie de suspendre l’accès à Grok et de convoquer les responsables de X pour discuter de la question.
Les mesures prises par ces pays d’Asie du Sud-Est font suite à des informations selon lesquelles Grok permettait aux utilisateurs de créer et de partager facilement des images en ligne, y compris celles représentant des contenus explicites non consensuels et des images pédopornographiques (CSAM).
Capacités améliorées de génération d’images
xAI avait récemment mis à jour les capacités de génération d’images de Grok, permettant aux utilisateurs de produire plus facilement des visuels à partir de suggestions textuelles. Cette mise à jour, associée à l’intégration de Grok à la plateforme de médias sociaux X de Musk, a considérablement élargi sa portée. En réponse aux préoccupations croissantes concernant la modération des contenus, xAI a annoncé un plan visant à limiter les fonctionnalités de génération et d’édition d’images aux abonnés payants. Cette mesure visait à remédier aux vulnérabilités qui permettaient la création de contenus sexuellement explicites.
Malgré ces efforts, les organismes de réglementation en Indonésie et en Malaisie sont restés sceptiques quant aux réponses de xAI. Ils ont fait valoir que l’entreprise s’appuyait principalement sur les signalements des utilisateurs et ne traitait pas de manière adéquate les risques inhérents à la conception de Grok. La Commission malaisienne des communications et du multimédia a souligné la nécessité de mettre en place des « mesures de protection efficaces » pour empêcher la diffusion de contenus impliquant des femmes et des enfants, tandis que le ministère indonésien des Communications et des Affaires numériques a qualifié les deepfakes sexuels non consensuels de violation grave des droits humains.
Examen international
La controverse autour de Grok a également donné lieu à des enquêtes dans d’autres pays, notamment dans l’Union européenne, au Royaume-Uni, au Brésil et en Inde. Des inquiétudes ont été exprimées quant au rôle de Grok dans la facilitation de la création de deepfakes obscènes. Certains législateurs américains ont même recommandé que les boutiques d’applications retirent temporairement Grok jusqu’à ce que Musk mette en œuvre des changements substantiels pour remédier à ces problèmes.
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici!