Principaux renseignements
- Les Deepfakes sont utilisés pour diffuser des informations erronées et nuire aux écoles américaines.
- Des directeurs d’école ont été ciblés par des deepfakes générés par l’intelligence artificielle et contenant des propos racistes et violents à l’encontre des élèves noirs.
- Des mesures juridiques sont mises en œuvre pour criminaliser l’utilisation malveillante des deepfakes, mais des mesures préventives et des stratégies de normalisation sociale sont également nécessaires.
Les « deepfakes » représentent une menace sérieuse pour les écoles américaines, obligeant les éducateurs à élaborer des plans d’urgence pour gérer les contenus sexuellement explicites générés par l’IA et impliquant des élèves ou des membres du personnel.
Ces images et vidéos générées par l’IA peuvent être utilisées pour diffuser des informations erronées, commettre des fraudes ou créer des contenus préjudiciables, ce qui fait qu’il est essentiel que les écoles s’attaquent à ce nouveau problème.
Des incidents récents ont mis en évidence les dangers des « deepfakes » dans les établissements scolaires. Dans deux cas distincts, des directeurs d’école ont été la cible de « deepfakes » générés par l’intelligence artificielle et contenant des propos racistes et violents à l’encontre d’élèves noirs. Dans un cas, c’est un élève qui a créé le deepfake, tandis que dans l’autre, c’est un directeur sportif mécontent qui a été arrêté.
Mesures techniques et juridiques
L’absence de technologie efficace pour lutter contre ces outils d’IA est une préoccupation majeure pour les éducateurs. Alors que des mesures juridiques sont mises en œuvre aux niveaux national et étatique pour criminaliser l’utilisation malveillante des deepfakes, les experts soulignent la nécessité de mesures préventives et de stratégies de normalisation sociale.
Plusieurs États ont adopté des lois criminalisant la création ou la distribution de pornographie enfantine générée par l’IA. Au niveau fédéral, le sénateur Ted Cruz a proposé la loi « Take It Down Act », qui criminaliserait la divulgation intentionnelle de représentations visuelles intimes non consensuelles, y compris les « deepfakes ».
Les districts scolaires sont aux prises avec la manière de répondre à cette menace en constante évolution. Dans un cas précis, le directeur sportif d’un lycée du Maryland a créé un faux enregistrement audio du principal, en représailles à une enquête sur des malversations financières présumées. Les enquêteurs ont pu identifier le suspect grâce à d’anciens journaux d’accès à l’ordinateur.
Incidents et conséquences
Un autre incident concerne des lycéens de New York qui ont utilisé l’IA pour usurper l’identité du principal de leur collège et ont posté les faux sur TikTok. Bien que les élèves aient été sanctionnés, l’événement a suscité la peur et l’anxiété chez les parents et les élèves.
L’utilisation de « deepfakes » dans les écoles soulève de sérieuses inquiétudes quant à la sécurité des élèves, à la protection de leur vie privée et au risque de préjudice. Pour résoudre ce problème, il convient d’adopter une approche à multiples facettes comprenant des cadres juridiques, des solutions technologiques et des campagnes de sensibilisation sociale visant à promouvoir une utilisation responsable de l’IA.
Si vous souhaitez accéder à tous les articles, abonnez-vous ici!