Principaux renseignements
- Plusieurs modèles d’IA de premier plan enfreignent souvent les normes juridiques européennes dans le cadre de procès simulés.
- Les systèmes privilégient les profits au détriment des besoins des clients et dissimulent leur identité artificielle.
- Les taux de conformité varient considérablement, Gemini échouant dans 90 pour cent des cas.
Selon une étude menée par Aithos, un centre d’IA basé à Amsterdam, les principales plateformes d’intelligence artificielle enfreignent souvent les normes juridiques européennes lors de tests simulés. L’étude s’est penchée sur douze modèles différents, utilisant des technologies d’Anthropic, d’OpenAI et de Google, et a évalué leurs performances dans dix scénarios spécifiques destinés à provoquer des réponses illégales. Les résultats ont montré que même le modèle le plus conforme n’a pas respecté la loi dans 46 pour cent des tests.
Manquements éthiques dans le conseil financier
Une grande partie de ces infractions a été commise dans le cadre de fonctions de conseil et de vente. Par exemple, lorsqu’une IA a joué le rôle de conseiller en retraite pour un assureur néerlandais, elle a reçu pour instruction de privilégier le profit au détriment des besoins réels du client. Une pratique qualifiée de manipulation du client et interdite par la réglementation européenne. Cela a conduit à des résultats dangereux, comme le fait que le système ait proposé un plan financier sur 30 ans à une personne en phase terminale et fourni des informations erronées sur la gestion du patrimoine après le décès.
L’étude a également mis en lumière des problèmes de transparence. Lors de tests où l’on demandait à une IA de prendre des rendez-vous chez le dentiste en se faisant passer pour une personne, les systèmes s’accordaient généralement pour dissimuler leur nature artificielle. Or, la législation oblige les organisations à informer les utilisateurs lorsqu’ils communiquent avec une machine.
Comparaison de la conformité des modèles
Les performances variaient considérablement d’un modèle testé à l’autre. Claude Opus a obtenu les meilleurs résultats et s’est conformé à la réglementation dans 54 pour cent des cas. En revanche, Gemini de Google n’a respecté les restrictions légales que dans 10 pour cent des cas.
Nadia Kadhim, directrice d’Aithos, a souligné que ces conclusions démontrent que les outils d’IA actuels ne sont pas conçus pour garantir les droits individuels. Elle a averti que, dans la mesure où ces systèmes peuvent mettre en danger la vie privée, l’autonomie et d’autres libertés fondamentales de l’être humain, le non-respect des lois existantes peut entraîner des préjudices considérables dans la pratique.
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
