Principaux renseignements
- Les accords privés ne bénéficient pas de la transparence et du contrôle en matière de droits de l’homme qu’offre la législation publique.
- Les outils de protection tels que la vérification de l’âge peuvent, sans le vouloir, compromettre la vie privée et l’anonymat des utilisateurs.
- Les gouvernements doivent mettre en place des cadres fondés sur des données probantes plutôt que de s’en remettre à des accords entre entreprises.
Les spécialistes des Nations unies ont qualifié l’accord juridique conclu entre Meta et plusieurs procureurs généraux d’États américains d’étape importante vers une plus grande responsabilisation des plateformes. Ils examinent notamment la manière dont la conception des services numériques est étudiée. Ils avertissent toutefois que les accords privés ne constituent pas un substitut adéquat à une législation ouverte et fondée sur les droits.
Il existe une crainte importante que les décisions prises à huis clos puissent établir des précédents à l’échelle du secteur. Le paysage numérique pour les jeunes du monde entier pourrait ainsi être façonné sans consultation publique ni contrôle suffisant en matière de droits de l’homme.
Mécanismes de protection et nouvelles vulnérabilités
L’accord introduit plusieurs mécanismes de protection. Il s’agit notamment d’outils de contrôle parental, de systèmes de vérification de l’âge et de restrictions concernant les notifications et le temps d’utilisation. Il permet également aux utilisateurs de moins de 18 ans d’opter pour des recommandations non personnalisées. Celles-ci s’appuient sur des données générales plutôt que sur l’historique individuel de l’utilisateur.
Bien que ces fonctionnalités visent à protéger les jeunes, les experts avertissent qu’elles introduisent de nouvelles vulnérabilités. Les outils de vérification de l’âge peuvent manquer de précision et nécessiter la collecte de données personnelles supplémentaires. L’anonymat et la vie privée pourraient ainsi être compromis. De plus, des restrictions trop larges pourraient entraver la capacité des jeunes à s’exprimer ou à nouer des liens avec d’autres personnes.
Équilibre entre accès et transparence algorithmique
Pour de nombreux jeunes marginalisés, Internet constitue une source essentielle de soutien et de communauté qui n’est pas disponible hors ligne. Par conséquent, toute limitation d’accès doit être proportionnée et nécessaire. Il faut ainsi éviter d’aggraver les inégalités sociales existantes.
Pour garantir une véritable sécurité, les experts ont évoqué l’importance de « l’explicabilité algorithmique ». Les utilisateurs doivent pouvoir comprendre comment les systèmes de recommandation influencent leur expérience en ligne. Sans cette transparence, il est difficile de déterminer si les modifications apportées à la conception réduisent réellement les risques ou si elles rendent simplement les problèmes existants moins visibles.
Problèmes systémiques et risques réglementaires mondiaux
Les spécialistes avertissent également qu’une dépendance excessive au contrôle parental ou aux changements de comportement des utilisateurs passe à côté de la racine du problème. Il s’agit de modèles économiques conçus pour maximiser l’engagement des utilisateurs.
Ces problèmes systémiques touchent non seulement les mineurs, mais aussi les adultes. L’accord suggère en outre que d’autres grandes plateformes telles que TikTok, YouTube et Snap pourraient adopter des mesures similaires. Il existe donc un risque qu’un seul accord d’entreprise devienne une norme réglementaire mondiale.
L’appel à des cadres fondés sur des données probantes
Les experts des Nations unies appellent finalement les gouvernements à éviter une interdiction totale des réseaux sociaux pour les mineurs. Ils préconisent plutôt la création de cadres cohérents et fondés sur des données probantes.
Selon les experts, le simple respect d’un accord ne garantit pas son efficacité. Ils préconisent donc des audits indépendants afin de mesurer la réduction effective des préjudices. Les futures normes de sécurité doivent également, selon eux, être élaborées de manière transparente, avec la participation active des jeunes. (zvm)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
