Principaux renseignements
- KPMG a retiré un rapport mondial sur l’IA contenant des études de cas inventées de toutes pièces, résultant d’hallucinations de l’IA.
- Plusieurs organisations de premier plan ont démenti les allégations erronées contenues dans le rapport concernant leur mise en œuvre de l’IA.
- Les cabinets professionnels réputés mettent en jeu leur crédibilité lorsqu’ils publient des informations erronées non vérifiées générées par l’IA.
Une publication récente de KPMG concernant la mise en œuvre mondiale de l’intelligence artificielle s’est avérée contenir des études de cas inventées de toutes pièces, probablement issues d’hallucinations de l’IA. Le document, intitulé « Redéfinir l’excellence à l’ère de l’IA agentive », présentait de manière erronée le degré d’adoption de cette technologie par diverses organisations. Ces erreurs ont d’abord été détectées par GPTZero, puis confirmées par le Financial Times.
Les organisations réfutent les allégations contenues dans le rapport
Plusieurs entités de premier plan mentionnées dans le rapport ont réfuté ces allégations. UBS a rejeté comme étant totalement fausses les affirmations selon lesquelles elle utiliserait des agents IA pour la gestion des risques et le conseil en investissement via une plateforme en partenariat avec Microsoft.
De même, les Chemins de fer fédéraux suisses et Transport for London ont qualifié les descriptions de KPMG concernant leurs optimisations des transports en commun basées sur l’IA d’inexactes et trompeuses. Dans un autre cas, une allégation concernant l’utilisation de l’IA par le NHS Greater Manchester pour le triage des patients s’est avérée être une interprétation erronée d’un communiqué de presse axé sur la recherche sur le cancer du poumon.
KPMG retire son rapport
En réponse à ces divergences, KPMG a retiré le rapport de plusieurs plateformes. Un représentant de l’entreprise a déclaré que le cabinet enquêtait sur les circonstances de cette publication et a souligné que les employés étaient tenus de recourir à une supervision humaine pour vérifier les sources et garantir l’intégrité du contenu.
Une série d’échecs de l’IA
Cet incident n’est pas un cas isolé parmi les grands cabinets de services professionnels. Le mois dernier, EY a dû retirer une étude en raison de notes de bas de page fictives et d’autres erreurs identifiées par GPTZero.
De plus, le cabinet d’avocats Sullivan & Cromwell a reconnu en avril qu’un dossier de faillite qu’il avait produit contenait des erreurs générées par l’IA concernant le droit américain.
Inquiétudes concernant l’autorité professionnelle
Edward Tian, le directeur de GPTZero, a averti que lorsque des cabinets prestigieux du « Big Four » publient des données peu fiables, cela compromet la qualité globale de l’information. Il a fait remarquer que, comme ces cabinets de conseil sont considérés comme faisant autorité, leurs erreurs peuvent entraîner un effet domino de désinformation.
Cela est particulièrement ironique étant donné que des cabinets comme KPMG se présentent activement comme des experts en matière de déploiement responsable de l’IA, produisant de vastes quantités de « leadership éclairé » pour attirer des entreprises clientes à la recherche de conseils sur la manière d’éviter les erreurs mêmes que le cabinet a commises.
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
