L’intelligence artificielle offre de nouvelles opportunités pour manipuler très facilement des enregistrements audio et vidéo. Il est possible de créer des sosies parfaits, de simuler des mouvements, des expressions faciales, et des dialogues. Bien entendu, l’industrie du porno, qui n’est jamais en reste quand il s’agit de s’approprier de nouvelles opportunités en matière de création, s’est déjà emparée de ces technologies. Les producteurs de films et de vidéos pornographiques utilisent ainsi l’intelligence artificielle pour remplacer les visages des acteur de films porno par ceux de célébrités. Désormais, une application propose à ses utilisateurs de faire de même. Cela soulève la question des droits des personnes dont on exploite ainsi les images, affirme Wired.  

Gal Gadot, Scarlett Johansson et Taylor Swift auraient déjà fait les frais de ces emprunts d’images. Et la création de cette application, qui démocratise ces techniques, suggère que ce type de productions va se multiplier de manière exponentielle, et que les victimes seront de plus en plus nombreuses.

Les vidéos issues de ces applications, surnommées « deepfakes », sont un « cocktail nocif conçu avec les pires problèmes de l’Internet d’aujourd’hui. Elles repoussent à la fois les limites de la pornographie non consensuelle et celle des fake News », écrit Wired.

Vide juridique

Pire, un vide juridique sidéral entoure ces pratiques, et il sera donc très difficile pour les personnes dont les images ont été utilisées d’empêcher la diffusion des vidéos qui en sont issues, ou d’obtenir réparation pour l’humiliation qu’elles pourraient en avoir conçu.

En effet, techniquement, ce n’est pas une question de vie privée. Car ces vidéos sont des créations, et il n’est pas possible de poursuivre quelqu’un au motif qu’il aurait exposé des détails de la vie intime des victimes, puisque, par définition, ce n’est pas réellement leur vie intime.

De ce fait, le retrait de ces vidéos peut être assimilé à de la censure, car elles sont considérées comme des productions « artistiques ». Aux États-Unis, le Premier Amendement, qui protège la liberté d’expression, a ainsi toujours protégé les œuvres de nature caricaturale, parodique ou satirique.

Les célébrités… et nous autres

Mais pour l’homme (et la femme) de la rue, les choses seront bien plus compliquées. Ils pourront tenter de faire appel à la législation anti-diffamation, mais il leur sera très compliqué de montrer que les créateurs cherchaient à leur nuire. Car la plupart du temps, ces vidéos semblent avoir été conçues pour donner du plaisir à leur auteur, plutôt que pour humilier l’objet de son désir.

« Inévitablement, quelqu’un soulignera le nombre de jeunes hommes qui ont eu des posters de la princesse Leia dans leur chambre à titre de fantasme masturbatoire. Est-ce seulement le fait qu’on l’ait découvert qui fait du mal ? Légalement, nous devrons être capables de définir ce qui est nuisible dans ces pratiques, et pas seulement le fait qu’elles nous font nous sentir mal », explique Mary Anne Franks, une professeure de droit experte sur la législation du Premier amendement à l’école de Droit de l’université de Miami.

Les plate-formes de l’internet à notre aide ?

Pour le moment, le “droit à l’oubli” n’existe pas aux États-Unis, mais Google a indiqué qu’il supprimerait les liens vers les vidéos pornographiques non consensuelles des recherches liées à une personne figurant dans ces vidéos.

Les grandes plates-formes de l’Internet disposent également des outils d’intelligence artificielle qui leur permettent à la fois de détecter les œuvres pornographiques, mais aussi de détecter les vidéos qui ont été modifiées. On peut donc espérer que lorsque les premières plaintes commenceront à apparaître, elles prendront des mesures pour bloquer l’accès aux vidéos offensantes.