Principaux renseignements
- Le commissaire à l’enfance demande une interdiction totale des applications de « nudification » de l’IA.
- L’approche actuelle du gouvernement est critiquée comme étant insuffisante, permettant à ces applications de fonctionner sans contrôle, avec des conséquences potentiellement dévastatrices pour les enfants.
- L’Internet Watch Foundation a constaté une augmentation de 380 pour cent des signalements d’images d’abus sexuels d’enfants générés par l’IA.
La commissaire à l’enfance de l’Angleterre demande l’interdiction totale des applications d’intelligence artificielle (IA) qui génèrent des images sexuellement suggestives de mineurs. C’est ce qu’a rapporté la BBC britannique. Dame Rachel de Souza affirme que ces applications de « nudification », qui utilisent l’IA pour modifier les photos et représenter des personnes nues, constituent une menace importante et nécessitent une action immédiate de la part du gouvernement. Elle critique l’approche actuelle du gouvernement, qu’elle juge insuffisante, car elle permet à ces applications de fonctionner sans contrôle, avec des conséquences potentiellement dévastatrices pour les enfants. Bien que le gouvernement reconnaisse l’illégalité des contenus pédopornographiques et qu’il envisage de légiférer sur les outils d’intelligence artificielle conçus pour créer de tels contenus, Dame de Souza estime que cela ne va pas assez loin.
- Elle plaide pour une interdiction totale des applications « nudifiantes », indépendamment de leur classification en tant que générateurs d’abus sexuels sur les enfants.
Lien avec l’augmentation du nombre de signalements de maltraitance d’enfants
Les préoccupations du commissaire sont reprises par l’Internet Watch Foundation (IWF), qui a constaté une augmentation stupéfiante de 380 pour cent des signalements d’images d’abus sexuels sur des enfants générées par l’IA en 2024 par rapport à l’année précédente. Cette tendance alarmante souligne l’urgence d’une intervention.
Dame de Souza propose également plusieurs mesures supplémentaires, notamment l’obligation légale pour les développeurs d’IA d’identifier et d’atténuer les risques posés par leurs produits pour les enfants, un processus systématique de retrait des images sexuellement explicites d’enfants sur Internet, et la reconnaissance des abus sexuels générés par l’IA comme une forme de violence à l’égard des femmes et des filles.
- Les syndicats de chefs d’établissement partagent ces préoccupations, soulignant l’urgence de réviser les réglementations à mesure que la technologie progresse rapidement. Ils soulignent la nécessité pour les cadres juridiques et les initiatives éducatives de suivre le rythme de l’évolution des capacités de l’IA.
Si vous souhaitez accéder à tous les articles, abonnez-vous ici!