Principaux renseignements
- Sept poursuites judiciaires allèguent que le chatbot ChatGPT d’OpenAI a provoqué des crises de santé mentale et des décès injustifiés.
- Les plaignants affirment que ChatGPT, utilisé par des millions de personnes, est fondamentalement défectueux et dangereux en raison de son potentiel à induire des psychoses et des pensées suicidaires.
- OpenAI reconnaît la possibilité d’une dégradation des mesures de sécurité lors d’interactions prolongées et a mis en place des mesures de protection telles que le contrôle parental.
Sept actions en justice alléguant des dommages causés par le chatbot ChatGPT d’OpenAI ont été déposées jeudi. Quatre cas sont des poursuites pour mort injustifiée, tandis que trois personnes affirment que la technologie a entraîné des crises de santé mentale. Les plaignants affirment que ChatGPT, utilisé par 800 millions de personnes, est fondamentalement défectueux et dangereux. Une plainte affirme que le jeune homme de 17 ans a eu des conversations suicidaires avec le chatbot pendant un mois avant de décéder en août. C’est ce que rapporte le site d’information américain The New York Times.
OpenAI prend des mesures de précaution
À la suite d’un procès pour décès injustifié intenté en août par la famille d’un adolescent californien, OpenAI a reconnu la dégradation potentielle des mesures de sécurité lors d’interactions prolongées avec un chatbot. Par la suite, ils ont mis en place des mesures de protection pour les adolescents et les utilisateurs en détresse, y compris des contrôles parentaux qui alertent les parents en cas de discussions sur le suicide ou l’automutilation.
Utilisateurs discutent de leurs pensées suicidaires
L’analyse récente d’OpenAI a révélé que 0,07 pour cent des utilisateurs pouvaient être confrontés à des urgences de santé mentale liées à la psychose ou à la manie par semaine, tandis que 0,15 pour cent discutaient du suicide. Rapportés à l’ensemble des utilisateurs, ces pourcentages correspondent à un demi-million d’individus présentant des signes de psychose ou de manie et à plus d’un million d’individus discutant potentiellement d’intentions suicidaires.
Les poursuites ont été engagées par le Tech Justice Law Project et le Social Media Victims Law Center. Meetali Jain, fondatrice du Tech Justice Law Project, a souligné la diversité des personnes qui ont eu des interactions troublantes avec ChatGPT, mettant en évidence le potentiel de nuisance du chatbot en dépit de sa conception conversationnelle semblable à celle des humains. Ces affaires mettent en lumière le débat actuel sur les implications éthiques et la sécurité des technologies d’intelligence artificielle de plus en plus sophistiquées. (fc)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici!