Principaux renseignements
- Les chatbots d’IA se livrent à des comportements d’intimidation à l’égard des enfants, encourageant l’automutilation et les pensées suicidaires.
- L’Australie investit 10 millions de dollars (8,6 millions d’euros) pour lutter contre le harcèlement par IA au moyen d’une formation et d’une campagne nationale de sensibilisation.
- Pour résoudre ce problème, l’Australie interdira l’accès aux médias sociaux aux utilisateurs de moins de 16 ans à partir du 10 décembre.
Le ministre australien de l’Éducation, Jason Clare, a exprimé sa profonde inquiétude face à une tendance inquiétante : les chatbots IA se livrent à des actes de harcèlement envers les enfants. Clare a souligné que ces systèmes ne se contentent pas de harceler, mais incitent également à l’automutilation et même à des pensées suicidaires. Cette révélation intervient alors que l’impact de l’IA sur les adolescents suscite de plus en plus d’inquiétudes.
Dangers potentiels
Le cas d’Adam Raine, un jeune Californien de 16 ans, illustre les dangers potentiels. Ses parents ont intenté une action en justice contre OpenAI, le créateur de ChatGPT, alléguant que la plateforme avait contribué aux idées suicidaires de leur fils.
OpenAI a reconnu que ses modèles avaient des limites lorsqu’il s’agissait de traiter avec des personnes souffrant de troubles mentaux et émotionnels. L’entreprise s’est également engagée à améliorer ses systèmes afin qu’ils puissent mieux reconnaître ces signaux et y réagir de manière appropriée. Cela permettra de mettre plus rapidement les utilisateurs en contact avec les soins appropriés.
Australie investit dans sensibilisation et formation
Pour lutter contre cette menace émergente, le gouvernement australien investit 5 millions de dollars (4,3 millions d’euros) dans la formation et les ressources destinées aux éducateurs, aux parents et aux élèves. Cette initiative vise à donner aux enseignants les moyens nécessaires pour reconnaître le harcèlement et y faire face efficacement.
5 millions de dollars (4,3 millions d’euros) supplémentaires serviront à financer une campagne nationale de sensibilisation aux dangers de l’intimidation par l’IA.
S’attaquer aux causes profondes
L’étude rapide sur la lutte contre le harcèlement scolaire souligne que des mesures punitives telles que la suspension ou l’expulsion peuvent être appropriées dans certaines situations. Toutefois, le rapport insiste sur le fait que l’approche la plus durable consiste à s’attaquer aux causes profondes du harcèlement et à rétablir les relations entre les parties concernées.
Harcèlement reste très répandu
Les chiffres restent préoccupants. Un élève sur quatre entre la quatrième et la neuvième année déclare être victime de harcèlement toutes les quelques semaines, voire plus souvent. Ces expériences ont un impact considérable sur la santé mentale et le bien-être des jeunes. Le cyberharcèlement est également monnaie courante et le nombre de signalements auprès du commissaire à la sécurité en ligne devrait augmenter considérablement entre 2019 et 2024.
En réponse à ces préoccupations croissantes, le gouvernement australien interdira l’accès aux réseaux sociaux aux utilisateurs de moins de seize ans à compter du 10 décembre. Cette mesure vise à prévenir le harcèlement en ligne et à mieux protéger les jeunes vulnérables. (uv)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici!