Principaux renseignements

• OpenAI fait l’objet d’une action en justice après qu’un auteur de fusillade de masse a utilisé ChatGPT pour obtenir des conseils tactiques.
• La technologie d’IA peine à faire la distinction entre un texte fictif et une véritable intention violente.
• Les experts juridiques débattent pour savoir si les entreprises d’IA devraient partager le devoir d’un thérapeute d’avertir les victimes.

Une tragique fusillade de masse à Tumbler Ridge, au Canada, a déclenché un débat crucial concernant la responsabilité des développeurs d’IA de signaler les menaces violentes par rapport à leur obligation de protéger la confidentialité des utilisateurs. Avant l’attaque, qui a coûté la vie à plusieurs personnes, dont des élèves et des membres de leur famille, l’auteur aurait utilisé ChatGPT d’OpenAI pour obtenir des conseils tactiques sur l’efficacité des fusils de chasse dans des espaces confinés.

Cet incident a donné lieu à une action civile contre OpenAI et son PDG, Sam Altman, les familles des victimes et le gouvernement de la Colombie-Britannique reprochant à l’entreprise de ne pas avoir agi alors qu’elle avait connaissance de ces dialogues dangereux.

Dilemme entre vie privée et sécurité

Le conflit central réside dans la difficulté à distinguer une menace réelle d’une interaction inoffensive. Des experts juridiques, tels que Jenin Younes, avocate spécialisée dans les libertés civiles, font valoir que rendre obligatoire la surveillance des conversations privées pourrait porter atteinte aux droits constitutionnels fondamentaux et à la vie privée.

À l’inverse, on s’inquiète de plus en plus du fait que l’IA fournisse un niveau d’informations détaillées susceptible de faciliter la planification d’attaques à grande échelle par des individus.

L’obstacle technique 

Le défi technique que représente l’évaluation de l’intention est considérable. Fazl Barez, chercheur en sécurité de l’IA à l’université d’Oxford, note que la technologie actuelle ne permet pas de différencier de manière fiable un écrivain créatif rédigeant un meurtre fictif, un scientifique menant des recherches sur des agents pathogènes dangereux pour des raisons de sécurité, et une personne planifiant un véritable crime.

Il suggère qu’une menace crédible ne peut être identifiée qu’en analysant les schémas comportementaux sur plusieurs sessions plutôt qu’en se concentrant sur des déclarations isolées.

Comparaison entre l’IA et les professionnels de la santé mentale

Des comparaisons ont été établies entre les entreprises d’IA et les professionnels de la santé mentale, qui sont légalement tenus d’alerter les victimes potentielles en cas de menaces crédibles.

Cependant, la professeure Chinmayi Sharma, de l’université de Fordham, souligne une différence fondamentale : les thérapeutes sont des professionnels agréés, formés à l’évaluation des menaces et soumis à des normes juridiques strictes, tandis que les entreprises d’IA ne disposent ni de l’expertise ni de la responsabilité professionnelle requises.

D’effets dissuasifs

D’autres risques concernent la possibilité d’une partialité systémique. La professeure Sharma met en garde contre le fait que les outils de surveillance basés sur l’IA pourraient signaler de manière disproportionnée les propos des groupes minoritaires en raison de biais intégrés dans les données d’entraînement, ce qui conduirait à un ciblage injuste.

De plus, la perspective d’une surveillance constante pourrait dissuader les personnes d’utiliser des chatbots pour obtenir un soutien en matière de santé mentale ou pour mener une réflexion personnelle, par crainte que leurs pensées les plus intimes ne soient transmises aux autorités.

L’obligation d’alerte

D’un point de vue juridique, l’obligation d’alerte n’est pas encore clairement étendue aux fournisseurs d’IA.

Le professeur Bryan Choi, de l’université du Colorado à Boulder, explique qu’en vertu des lois actuelles, un chatbot ne partage pas la « relation privilégiée » qu’entretient un thérapeute avec un patient, ce qui rend difficile de tenir des entreprises comme OpenAI légalement responsables de ne pas avoir alerté la police.

À la recherche d’une solution

Pour résoudre ces tensions, certains suggèrent la création d’organismes de contrôle indépendants chargés d’établir des protocoles de signalement. De telles organisations pourraient évaluer les menaces et gérer le partage des données sans compromettre l’anonymat des utilisateurs.

À tout le moins, les défenseurs de cette cause soutiennent que les utilisateurs doivent être explicitement informés si leurs données font l’objet d’une surveillance et dans quelles conditions spécifiques elles pourraient être partagées avec les forces de l’ordre. À mesure que l’IA continue d’évoluer, l’équilibre entre la sécurité publique et la liberté individuelle reste un défi juridique et éthique non résolu.

Suivez également Business AM sur Google Actualités

Si vous souhaitez accéder à tous les articles, abonnez-vous ici !