Principaux renseignements
- Meta doit supprimer les deepfakes générés par l’IA et revoir en profondeur ses systèmes de protection défaillants.
- Le Comité de surveillance a exigé des sanctions plus sévères à l’encontre des comptes diffusant des contenus synthétiques trompeurs.
- Les modifications algorithmiques devraient déprioriser les contenus manipulés afin de limiter leur diffusion virale.
Meta doit supprimer deux vidéos deepfake générées par l’IA de Facebook. Cette décision a été prise par son propre Comité de surveillance. Cet organisme indépendant critique également Meta, estimant que les mesures actuelles contre les contenus trompeurs générés par l’IA n’offrent pas une protection suffisante. Les deux vidéos mettaient en scène un responsable politique travailliste britannique et une jeune femme musulmane dans des situations qui n’avaient jamais eu lieu. C’est ce que rapporte The Guardian.
L’affaire de la falsification politique
L’une des vidéos montrait un conseiller municipal travailliste écossais tenant prétendument des propos provocateurs sur les réfugiés. Selon le Comité de surveillance, la vidéo présentait des signes évidents de manipulation par l’IA. Le son et les mouvements des lèvres n’étaient notamment pas parfaitement synchronisés.
Meta n’avait initialement pas supprimé la vidéo ni ajouté de label indiquant l’utilisation de l’IA. Le Comité de surveillance a estimé que la vidéo enfreignait bel et bien les règles de Meta concernant les discours haineux. Les images associaient les réfugiés en tant que groupe à des comportements criminels et à des violences sexuelles à caractère prédateur. Selon le Comité, Meta aurait donc dû supprimer la vidéo et lui attribuer un label ‘high risk AI’.
Les femmes prises pour cibles par l’IA
Une deuxième décision concernait une vidéo manipulée par l’IA montrant une jeune femme musulmane en Europe. Elle milite pour une meilleure sensibilisation à la santé menstruelle. Dans la vidéo, elle semblait pratiquer des exercices absurdes et manger des aliments malsains.
Selon le Comité, ces images faisaient partie d’une série plus large de vidéos et de photos générées par l’IA visant à ridiculiser la jeune femme. Certaines de ces images ont enregistré plusieurs dizaines de millions de vues, notamment sur les plateformes de Meta. Le Comité a estimé que la vidéo enfreignait la politique de l’entreprise contre le harcèlement et les brimades et a ordonné sa suppression.
Le Comité met également en garde contre une tendance plus large. Selon l’organisme, les femmes qui s’expriment publiquement deviennent de plus en plus souvent la cible d’images générées par l’IA et de désinformation.
Un appel à une réforme systémique
Le Comité de surveillance décrit les mesures de protection actuelles de Meta contre les deepfakes comme ‘constamment et fondamentalement insuffisantes’. Dans les deux affaires, le Comité a formulé au total douze recommandations en matière de politique de contenu.
Dans la première affaire, le Comité a proposé neuf changements. Ceux-ci comprennent notamment une utilisation plus large des labels ‘high risk AI’, des sanctions plus sévères contre les comptes qui diffusent de manière répétée des contenus trompeurs générés par l’IA et davantage de transparence concernant l’utilisation des labels liés à l’IA.
Modifications algorithmiques proposées
Le Comité souhaite également que Meta adapte ses algorithmes. Selon sa recommandation, les contenus ‘high risk’ ayant reçu un label doivent apparaître moins souvent dans les fils d’actualité des utilisateurs. L’objectif est ainsi de limiter la diffusion des contenus trompeurs générés par l’IA.
Le Comité a également proposé d’afficher un écran d’avertissement avant que les utilisateurs puissent consulter certains contenus générés par l’IA. Enfin, Meta devrait élargir la définition des ‘images manipulées indésirables’ prévue par ses règles. Les deepfakes attribuant à tort des propos ou des actes à des particuliers pourraient ainsi mieux relever de ces règles. (zvm)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
