Principaux renseignements
- La mise en place de mentions légales par Google concernant d’éventuelles inexactitudes dans ses résumés médicaux générés par l’IA constitue un risque pour la sécurité des utilisateurs.
- Le fait de dissimuler les avertissements sous le résumé initial augmente le risque que les utilisateurs négligent des avertissements cruciaux et se fient à des conseils médicaux inexacts.
- Les experts recommandent de placer des mentions légales visibles et facilement lisibles en haut des résumés générés par l’IA afin d’encourager une évaluation critique et de promouvoir le recours à une aide professionnelle.
Les aperçus générés par l’IA de Google fournissent des résumés d’informations au-dessus des résultats de recherche. Ces aperçus soulèvent des inquiétudes quant à la sécurité des utilisateurs. Cela est dû à l’emplacement et à la visibilité des avertissements concernant les inexactitudes potentielles des conseils médicaux. Google affirme que ces fonctionnalités encouragent les utilisateurs à demander l’aide d’un professionnel. Cependant, les experts estiment que l’approche actuelle est insuffisante. Ils la jugent même potentiellement dangereuse.
Problèmes d’accessibilité
Le Guardian a découvert que les avertissements informant les utilisateurs des limites des conseils médicaux générés par l’IA n’apparaissent qu’après avoir cliqué sur le bouton « Afficher plus ».Ils apparaissent alors sous le résumé original dans une police plus petite. Cet emplacement fait que les utilisateurs peuvent facilement négliger ces avertissements cruciaux, en particulier lorsqu’ils recherchent des réponses rapides à des questions liées à la santé.
Les experts en IA et les défenseurs des patients soulignent plusieurs dangers liés à cette approche. Ils expliquent que, même les modèles d’IA avancés, peuvent générer des informations inexactes ou trompeuses. Cela est particulièrement préoccupant dans des domaines complexes comme les soins de santé. Deuxièmement, les utilisateurs peuvent ne pas fournir un contexte complet ou décrire avec précision leurs symptômes. Cela peut entraîner des interprétations erronées des réponses de l’IA. Ces erreurs peuvent être potentiellement dangereuses.
Nécessité d’avertissements bien visibles
Des avertissements bien visibles sont essentiels pour briser la confiance automatique et encourager les utilisateurs à évaluer de manière critique les informations fournies. Cependant, en dissimulant ces avertissements, Google risque de promouvoir un faux sentiment de sécurité. Cela peut augmenter le risque que les utilisateurs se fient à des conseils médicaux inexacts.
De plus, des enquêtes précédentes menées par The Guardian ont déjà révélé des cas d’informations trompeuses sur la santé dans les aperçus de l’IA de Google. Ces conclusions soulignent la nécessité d’avertissements clairs et facilement accessibles. En effet, ils sont essentiels pour atténuer les dommages potentiels causés par des informations inexactes.
Recommandations d’experts
Les experts suggèrent que l’avertissement soit placé tout en haut de l’aperçu de l’IA, en utilisant une taille de police comparable à celle du reste du texte. Ainsi, cet emplacement bien visible permettrait de garantir que les utilisateurs soient immédiatement conscients des limites des conseils générés par l’IA. De plus, il encouragerait également les utilisateurs à consulter un professionnel de santé si nécessaire. (at)
(JW)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici!