L’Union européenne voudrait pouvoir automatiquement scanner les contenus des conversations et des smartphones. L’idée est de lutter contre la pédopornographie et le terrorisme, mais des experts s’inquiètent pour le respect de la vie privée et le pouvoir ainsi donnés aux géants de la tech.
Le fabricant de smartphones Apple avait déjà mis ce projet sur la table, en août de cette année. La solution s’appelle le Client side scanning (CSS). Les données (par exemple images et texte) envoyées via des conversations sont cryptées à l’envoi et à la réception. Le CSS permettrait de scanner le contenu, juste avant l’envoi, sur le smartphone même.
Apple voulait instaurer cette solution pour lutter contre le partage d’images d’abus sexuels sur mineurs, qui foisonnent sur internet. Mais des scientifiques de renom, comme des chercheurs du Massachusetts Institute of Technology (MIT) et de l’Université de Cambridge ont véhémentement critiqué le projet. Selon eux, Apple installerait un software de surveillance sur tous les smartphones. Ils s’inquiétaient que ce contrôle soit limité aux mains d’Apple et craignaient la pression d’autorités pour rechercher tel ou tel type de contenu. Le fabricant au logo de pomme croquée a alors, dans un premier temps, suspendu son initiative.
L’UE sur la voie du CSS
Selon les informations du quotidien allemand Welt, l’Union européenne aimerait utiliser le CSS. La Commissaire de l’Intérieur, Ylva Johansson, serait en train de préparer un texte de loi. Ce qui peut paraître étonnant, car l’UE semble souvent réticente à toutes initiatives d’hypercontrôle technologique. Elle a d’ailleurs récemment voulu interdire la reconnaissance faciale dans l’espace public.
L’autorité européenne aimerait donc pouvoir jeter un œil sur le contenu des messages. Mais actuellement, la plupart des messageries intègre un cryptage de bout à bout, il est donc (en principe) impossible d’intercepter le contenu de l’extérieur (et des demandes des autorités publiques aux prestataires de services de communication, comme WhatsApp par exemple, de partager les messages, ont souvent suscité de vifs débats). De plus, les gestionnaires des réseaux sociaux sont soumis au secret des télécommunications, une liberté fondamentale, et ne sont théoriquement plus autorisés à scanner les conversations.
Ce projet de législation prévoit de contraindre les fabricants de téléphones d’installer un logiciel de contrôle. L’exigence est de ne pas rompre le cryptage des données, comme le Conseil des ministres de l’UE l’a un temps envisagé par le passé. Il est d’ailleurs, via ce logiciel, contourné, car le système intervient avant le cryptage. Ce logiciel, couplé à l’intelligence artificielle, doit reconnaître les images interdites, comme de la pédopornographie. Le CSS est pour l’heure la seule technologie qui permet de faire cela.
Des doutes sur le bien-fondé
« Chacun qui ose émettre des doutes sur ce projet de loi, ou le décrit comme dangereux et contre-productif, est discrédité comme voulant couvrir les criminels », estime Patrick Breyer, député européen (parti Pirate), interrogé par le journal allemand. Daniel Kretzschmar, représentant du syndicat allemand des fonctionnaires de police, est également critique: « le scan automatique pour le contenu incriminé, par des entreprises privées, avec des obligations de signalement difficiles à suivre par les autorités de police, cache deux dangers. D’un côté, des innocents peuvent tomber dans le viseur de la justice, et de l’autre côté, les entreprises privées vont choisir quel contenu signaler à l’autorité ».
Des experts craignent également un nombre important de faux signalements, les algorithmes pouvant avoir des défauts, comme ceux d’Instagram souvent accusés de signaler tout et n’importe quoi comme de la « nudité » (œuvres d’art comprises), par exemple. D’un autre côté les experts voient la loi comme un alibi pour une mainmise plus large sur les conversations privées. De plus, les Etats seraient ainsi dépendants des entreprises privées, mais au contraire la justice et les enquêtes de police restent un exercice exclusif de l’Etat.
Thomas-Gabriel Rüdiger, directeur de l’Institut pour la cybercriminalité de la haute école de police de Brandenburg, estime que la loi tomberait surtout sur les mineurs. Selon lui, les statistiques de la criminalité montrent que les jeunes sont auteurs de 43% des infractions commises en matière de pédopornographie. Par exemple, si une fille de 13 ans envoie une photo un peu explicite à son copain de 14 ans, ou vice-versa, cela est défini comme de la pornographie infantile, et punissable. L’expert en cybercriminalité estime que les vrais criminels, visés par cette loi, passeront alors simplement à d’autres solutions, comme le partage de données via des clés USB.
« Epargner plus de conséquences aux victimes »
D’un autre côté, les personnes qui s’occupent de la protection des mineurs, même si elles comprennent les critiques en matière de vie privée, estiment que la mesure est une bonne idée. « On oublie de souligner qu’il s’agit de centaines de milliers d’illustrations, et de centaines de milliers d’enfants victimes de violences sexuelles. Ils auraient au moins la chance d’être épargnés de davantage de conséquences et de dangers futurs », analyse Rainer Becker, président de l’Aide allemande aux enfants, pour le journal allemand Welt. Pour lui, la balance entre la protection des données et la protection de l’intégrité des enfants devrait tomber du côté des enfants.
Initialement, la commissaire Johansson voulait proposer son projet de loi le premier décembre, comme il était indiqué dans son agenda. Mais au vu de nombreuses critiques, le rendez-vous a été postposé le temps d’améliorer le texte.