À partir du 10 janvier 2023, la Chine va imposer les premières lois sur les deepfakes, ces images ou vidéos générées ou modifiées de manière synthétique à l’aide d’une forme d’intelligence artificielle.
La Chine va s’attaquer aux deepfakes : la censure à l’épreuve de la technologie
Pourquoi est-ce important ?
Les deepfakes sont parfois très difficiles à distinguer de la réalité. En conséquence, les diffusions de ces deepfakes peuvent participer à la création des fake news diffusées à grande échelle. La Chine dit vouloir lutter contre cette diffusion de fausse information et va devenir le premier pays à réguler cette intelligence artificielle.L’actualité : Pékin a annoncé ses règles régissant les deepfakes début 2022, et les a finalisées en décembre. Elles seront en vigueur début 2023. En voici quelques propositions :
- Les utilisateurs doivent donner leur consentement si leur image est utilisée dans un deepfake.
- Les services de deepfake ne peuvent pas utiliser la technologie pour diffuser des fake news.
- Les services de deepfake doivent authentifier l’identité réelle des utilisateurs.
- Le contenu synthétique doit comporter une notification quelconque pour informer les utilisateurs que l’image ou la vidéo a été modifiée par la technologie.
- Les contenus qui vont à l’encontre des lois en vigueur seront interdits, tout comme ceux qui mettent en danger la sécurité et les intérêts nationaux, nuisent à l’image nationale ou perturbent l’économie.
Une loi pour aider la censure
L’analyse : la Chine a-t-elle peur des deepfakes ou de sa perte de contrôle ?
- Selon les analystes, cette loi poursuit deux objectifs : renforcer la censure en ligne et prendre de l’avance sur la réglementation relative aux nouvelles technologies. « Les autorités chinoises sont clairement désireuses de réprimer la capacité des éléments hostiles au régime à utiliser des « deepfakes » de hauts dirigeants, y compris Xi Jinping, pour diffuser des déclarations hostiles au régime » », a déclaré Paul Triolo, responsable de la politique technologique au cabinet de conseil Albright Stonebridge à CNBC.
- Triolo a ajouté que les réglementations sur l’IA que Pékin a introduites ces dernières années sont « conçues pour que la réglementation du contenu et les efforts de censure aient une longueur d’avance sur les technologies émergentes, garantissant que Pékin puisse continuer à anticiper l’émergence de technologies qui pourraient être utilisées pour contourner le système de contrôle global. »
- Kendra Schaefer, partenaire du cabinet de conseil Trivium China basée à Pékin, a indiqué à CNBC en février dernier : « Ce qui est intéressant, c’est que la Chine s’attaque à l’une des menaces critiques qui pèsent sur notre société à l’ère moderne : l’érosion de la confiance dans ce que nous voyons et entendons, et la difficulté croissante de séparer la vérité du mensonge ».
- Pourtant la technologie deepfake n’est pas seulement destiné à créer et propager de fausses informations. Elle est aussi utile dans des domaines tels que l’éducation ou encore les soins de santé.
Le contexte : Depuis la fin de l’année 2020, la Chine a cherché à contenir le pouvoir des géants technologiques du pays et a introduit une réglementation radicale dans des domaines allant de l’antitrust à la protection des données. Mais elle a également cherché à réglementer les technologies émergentes et est allée plus loin que tout autre pays dans sa réglementation des technologiques.
- Au début de l’année, la Chine a introduit une règle régissant la manière dont les entreprises technologiques peuvent utiliser les algorithmes de recommandation, dans une autre loi inédite.