Principaux renseignements
- Les réclamations générées par l’IA surchargent les services belges d’assistance à la clientèle et de médiation en raison de leur longueur excessive et de l’utilisation d’un jargon juridique hors de propos.
- Des outils de guidage contrôlés orientent désormais les utilisateurs vers une communication factuelle, neutre et concise.
Les services clients et les services de médiation sont confrontés à une forte augmentation des réclamations générées par l’intelligence artificielle. C’est ce que rapporte Nieuwsblad. Les messages rédigés par l’IA se caractérisent généralement par une longueur excessive, un ton excessivement agressif et l’utilisation d’arguments juridiques souvent non pertinents ou inapplicables à la jurisprudence locale.
Augmentation du volume et de la complexité
Certains médiateurs ont remarqué que les plaintes, qui se résumaient autrefois à quelques courts paragraphes, sont désormais devenues des documents de plusieurs pages. Les textes présentent souvent des structures « robotiques », telles que des listes et des résumés, qui indiquent clairement l’utilisation de l’IA. Le langage peu naturel et l’inclusion de détails non pertinents dans les messages alourdissent la charge de travail du personnel et ralentissent l’ensemble du processus de traitement.
« Hallucinations » de l’IA
Le médiateur fédéral des consommateurs, Pieter-Jan De Koning, met en évidence un problème plus profond. L’IA peut induire les utilisateurs en erreur en leur faisant croire qu’ils ont juridiquement raison sur la base d’« hallucinations » ou de données erronées.
Cela crée une atmosphère conflictuelle où les plaignants sont moins disposés à faire des compromis ou à rechercher un terrain d’entente raisonnable, car ils ont été convaincus par le logiciel que leur position est incontestable.
Accompagnement
Pour contrer cette tendance, le Service flamand du médiateur, dirigé par Myriam Parys, lance son propre outil d’accompagnement basé sur l’IA. Bien que Parys reconnaisse que l’IA peut aider les personnes qui ont du mal à exprimer leurs problèmes, elle met en garde contre une confiance aveugle dans ces systèmes. Elle remarque que le ton autoritaire des e-mails générés par l’IA disparaît souvent lorsque les collaborateurs prennent contact par téléphone avec les clients concernés.
Mise en œuvre d’une « prompt » contrôlée
Le nouvel outil fournit une « consigne » spécifique que les utilisateurs doivent saisir dans un logiciel d’IA tel que Microsoft CoPilot ou ChatGPT. Ces instructions imposent à l’IA de n’utiliser que les faits fournis par l’utilisateur, interdisent l’ajout de jargon juridique externe, exigent le maintien d’un ton respectueux et neutre, et limitent la longueur du texte à une seule page.
Enfin, le Médiateur flamand invite les citoyens à relire manuellement le texte généré afin de s’assurer qu’il est exact et parfaitement compréhensible avant de l’envoyer.
(at)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
