Principaux renseignements
- Les documents internes de Meta révèlent des inquiétudes concernant un éventuel usage abusif des chatbots IA à des fins d’exploitation, en particulier auprès des mineurs.
- Le PDG, Mark Zuckerberg, a écarté les recommandations visant à renforcer les mesures de sécurité et a privilégié la liberté de choix des utilisateurs.
- L’indignation publique a ensuite contraint Meta à revoir sa position et à limiter l’accès des adolescents aux chatbots IA.
Les documents internes de Meta, récemment rendus publics dans le cadre d’un procès intenté par le procureur général du Nouveau-Mexique, Raul Torrez, mettent en lumière un débat controversé au sein de l’entreprise sur la sécurité de ses chatbots IA pour les mineurs. Dans ce procès, Meta est accusé de ne pas avoir suffisamment protégé les enfants contre les contenus et interactions à caractère sexuel sur les plateformes Facebook et Instagram.
Exploitation
L’une des principales préoccupations du personnel chargé de la sécurité chez Meta était que les chatbots, conçus pour tenir compagnie et capables d’engager des conversations romantiques et sexuelles, puissent être détournés à des fins d’exploitation.
Malgré ces avertissements, le PDG, Mark Zuckerberg, aurait rejeté les recommandations visant à mettre en place des mesures de sécurité plus strictes, telles que le contrôle parental. Il a préféré adopter une approche moins restrictive, plaçant la liberté de choix et la liberté d’expression des utilisateurs au centre de ses priorités.
Désaccords au sein de Meta
Les communications internes révèlent qu’il existe des désaccords au sein de la direction de Meta. Certains dirigeants, dont Ravi Sinha, responsable de la sécurité des enfants, et Antigone Davis, responsable de la sécurité mondiale, ont exprimé leurs inquiétudes quant au risque que les chatbots sexualisent des mineurs. Zuckerberg semble toutefois avoir accordé la priorité à une expérience moins censurée. D’après des e-mails et des comptes rendus de réunions, il était favorable à l’autorisation de conversations « osées » pour les adultes.
Indignation publique
La controverse autour de la politique de Meta concernant les chatbots IA a finalement été révélée, entraînant des critiques du Congrès américain et une grande inquiétude. Des rapports ont détaillé les possibilités offertes par les chatbots pour des interactions à caractère sexuel avec des personnages mineurs, y compris des descriptions graphiques de corps prépubères.
Sous une pression croissante, Meta a finalement révisé sa position. L’entreprise a annoncé que les adolescents n’auraient plus accès aux chatbots IA et qu’une version révisée, avec des mesures de sécurité renforcées, serait mise en place.
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici!