L’actualité : Une vidéo de propagande avec des présentateurs télé vantant le gouvernement chinois et le parti communiste a été diffusée dans l’Empire du Milieu. Le twist est que cette vidéo est en réalité générée par une intelligence artificielle. C’est ce qu’affirme un cabinet d’études américain, explique l’AFP dans une dépêche.

• L’intelligence artificielle met en scène des présentateurs qui travaillent pour un journal télévisé fictif du nom de Wolf News. Cette vidéo a été diffusée sur les réseaux sociaux « pour assurer apparemment la promotion des intérêts du Parti communiste chinois », explique l’entreprise américaine Graphika dans une étude.
• On peut y voir dans l’une de ces vidéos, « un présentateur qui dit s’appeler Alex, critiquer l’inaction des États-Unis face à la violence des armes qui ravage ce pays », explique Graphika.
• « C’est la première fois que nous voyons une opération de soutien à un État avoir recours à une vidéo issue de l’intelligence artificielle mettant en scène des personnes fictives pour créer un contenu politique trompeur », a déclaré le vice-président de l’entreprise américaine.

Le paradoxe

Le contexte : Alors que la Chine met en place des lois pour contrôler les deepfakes, il en existe maintenant pour faire la promotion de son gouvernement.

• Depuis le 10 janvier 2023, la Chine a mis en vigueur les premières lois sur les deepfakes.
• Ces lois devaient contraindre l’utilisation des deepfakes en Chine. Mais cette nouvelle vidéo enfreindrait, au moins, cinq d’entre-elles :
  • Les utilisateurs doivent donner leur consentement si leur image est utilisée dans un deepfake.
  • Les services de deepfake ne peuvent pas utiliser la technologie pour diffuser des fake news.
  • Les services de deepfake doivent authentifier l’identité réelle des utilisateurs.
  • Le contenu synthétique doit comporter une notification quelconque pour informer les utilisateurs que l’image ou la vidéo a été modifiée par la technologie.
• En fin 2022, Paul Triolo, responsable de la politique technologique au cabinet de conseil Albright Stonebridge avait déclaré chez CNBC : « Les autorités chinoises sont clairement désireuses de réprimer la capacité des éléments hostiles au régime à utiliser des « deepfakes » de hauts dirigeants, y compris Xi Jinping, pour diffuser des déclarations hostiles au régime ».
• Aujourd’hui, c’est une vidéo faisant la promotion du gouvernement chinois qui est diffusée, même si on ne sait pas encore si cette vidéo est bel et bien un résultat d’une demande du gouvernement.

À noter : il est néanmoins important de rappeler que la technologie deepfake n’est pas seulement destinée à créer et propager de fausses informations. Elle est aussi utile dans des domaines tels que l’éducation ou encore les soins de santé.

• Avec les capacités des algorithmes des deepfakes à créer des images, il est possible de récréer des scènes de l’histoire pour aider à l’éducation par exemple. Ou encore de générer des images ultra-réalistes pour aider les médecins dans leurs diagnostics.