Principaux renseignements

• Les chatbots IA fournissent aux électeurs des recommandations politiques incohérentes et trompeuses.
• Des défaillances techniques et des lacunes dans l’apprentissage entraînent un biais significatif en faveur de certains partis.
• Des lacunes réglementaires permettent à ces systèmes peu fiables d’influencer les processus démocratiques.

Une étude récente menée par l’organisation de défense des libertés civiles Liberties révèle que les chatbots IA à usage général fournissent des conseils erronés et incohérents aux électeurs à la recherche de recommandations politiques.

En analysant les données issues des élections législatives hongroises, cette étude a montré que ces systèmes suggèrent souvent des partis qui ne sont même pas en lice ou omettent de mentionner les options les plus pertinentes. Cela crée un risque important, car le ton autoritaire des réponses peut induire les utilisateurs en erreur et les amener à se fier à des informations erronées.

Visibilité des partis

L’étude s’est concentrée sur ChatGPT et Gemini, en utilisant cinq profils d’électeurs distincts basés sur les données de Voksmonitor, une application de vote hongroise réputée. Chaque profil a été testé à plusieurs reprises afin de vérifier si l’IA était capable de faire correspondre les opinions de l’utilisateur au parti politique correspondant.

Les résultats ont révélé une disparité flagrante en matière de visibilité ; par exemple, ChatGPT n’a pas recommandé le parti Tisza, pourtant vainqueur, dans 90 pour cent des cas où le profil de l’utilisateur correspondait clairement à ce parti. À l’inverse, le parti Fidesz a été identifié de manière beaucoup plus cohérente et fréquente.

Défaillances techniques

Au-delà des biais partisans, l’étude a mis en évidence de graves incohérences techniques. Des requêtes identiques donnaient souvent des résultats très différents, et dans 96 pour cent des réponses, l’IA incluait des partis qui ne figuraient pas sur le bulletin de vote de 2026.

De plus, l’étude a relevé un comportement contradictoire : les chatbots commençaient par une mise en garde indiquant qu’ils ne pouvaient pas fournir de conseils politiques, pour ensuite proposer des recommandations détaillées et persuasives concernant les partis.

L’impact des lacunes dans les données d’entraînement

Les chercheurs attribuent ces défaillances à des lacunes dans les données d’entraînement et aux limites du traitement du langage, soulignant que la montée en puissance soudaine du parti Tisza s’est produite après l’entraînement des modèles d’IA.

Bien que le résultat de cette élection particulière n’ait pas été altéré, le rapport met en garde contre le fait que, dans des scrutins plus disputés, de telles inexactitudes pourraient influencer le résultat final.

Appels à la responsabilisation

Ces conclusions mettent également en évidence une lacune juridique dans la réglementation européenne. Alors que la loi sur les services numériques et la loi européenne sur l’IA traitent des risques systémiques liés aux élections et à la sécurité de l’IA, l’étude suggère que les chatbots passent actuellement entre les mailles du filet de ces cadres réglementaires.

Par conséquent, Liberties fait valoir que les fournisseurs d’IA devraient cesser de proposer des conseils de vote personnalisés à moins de pouvoir garantir une transparence, une responsabilité et une précision totales. L’organisation souligne que les processus démocratiques ne peuvent pas dépendre de systèmes opaques qui affichent une neutralité de façade tout en fournissant des conseils non reproductibles et peu fiables.

Suivez également Business AM sur Google Actualités

Si vous souhaitez accéder à tous les articles, abonnez-vous ici !