En Chine, Zao, la nouvelle application de type deepfake, est devenue virale. Cet application d’échange de visage est maintenant la plus télechargée du pays. Les utilisateurs fournissent à l’application une série de selfies dans lesquels ils clignent des yeux, bougent la bouche et créent des expressions faciales. Zao utilise ensuite ces clichés pour les transposer de manière réaliste à des personnages de films, d’émission de télévision ou d’autres contenus.

Toutefois, les critiques ont mis en garde contre le fait que l’application dispose de droits gratuits, irrévocables, permanents et transférables sur tout contenu généré par l’utilisateur. De cette manière, Zao peut utiliser les images des utilisateurs pour des publicités. Ces conditions ont immédiatement entraîné des réactions indignées.

WeChat, le plus important service de chat en Chine, a notamment bloqué les services de Zao.

Échange de visage

Zao a été développé par Momo, une société chinoise générant la majorité de ses revenus à partir de services de streaming. Momo est cotée à la bourse américaine Nasdaq. La capitalisation boursière de la société est de plus de 7 milliards de dollars.

Zao permet à ses utilisateurs de remplacer des célébrités dans des scènes de films de cinéma, d’émissions de télévision ou de vidéoclips. L’utilisateur peut ensuite partager ce contenu sur les médias sociaux avec d’autres personnes.

Ces dernières années, les applications de substitution de visage sont devenues populaires. Il y a d’abord eu Masquerade, qui a été reprise par Facebook en 2016. Plus récemment, on a assisté au lancement de FaceApp, une application russe qui génère une version plus âgée de vous-même. 

FaceApp, développé par la société russe Wireless Lab, a également fait l’objet de critiques. Les critiques ont notamment expliqué que l’application stockait de nombreuses données personnelles de ses utilisateurs. L’origine russe de l’application était également une source d’inquiétudes pour beaucoup de personnes. L’organisation Bits of Freedom a déconseillé d’utiliser FaceApp.

Fausses nouvelles

En outre, les critiques estiment qu’il existe un autre risque. « Avec l’aide de l’intelligence artificielle, il est possible de créer de fausses vidéos avec des visages et des voix reconstitués artificiellement », indiquent-t-il. « Cette technologie peut être utilisée à des fins d’usurpation d’identité, de cyberintimidation et de fausses informations. »

Momo a déclaré comprendre parfaitement les préoccupations liées à la protection de la vie privée. La société a également modifié les conditions d’utilisation de l’application. Zao a promis d’utiliser les photos et vidéos de fichiers collectés uniquement pour améliorer ses services.

Le contenu supprimé par les utilisateurs sera également éliminé de ses serveurs. Mais cette annonce n’a pas rassuré tout le monde. Selon WeChat, propriété de la société Internet chinoise Tencent, l’application présente trop de risques pour la sécurité.