Les mèmes: ces grands véhiculeurs de fake news qui échappent aux IA

(Dave Rushen/SOPA Images/Shutterstock – Isopix)

Les mèmes ont envahi Internet ces dernières années. Ils sont même devenus les rois sur les réseaux sociaux. Aujourd’hui, de plus en plus, ils servent à véhiculer des fake news. Et contrairement au deepfake, il est très difficile pour une IA de les reconnaitre.

L’année dernière, les deepfake étaient partout dans les médias. Il s’agit de vidéos modifiés pour faire dire à une personne célèbre ou à un personnage ce que l’on veut. Nombreux étaient ceux qui pensaient qu’il allait devenir l’arme ultime des fake news. Mais dans les faits, les informaticiens ont trouvé facilement des solutions pour les détecter et les supprimer automatiquement.

Une étude de Zignal Labs indique qu’en réalité, ce sont les mèmes qui sont le plus dangereux pour véhiculer des fake news. Les mèmes, ce sont ces photos, souvent humoristiques, où une image est associée à du texte. Pour vous donner une idée, voici l’une des compilations du site Topito sur les derniers mèmes sortis.

Danger

Aujourd’hui, ces mêmes images sont détournées pour véhiculer des théories complotistes et des fake news. Leur dangerosité vient d’une part de leur but premier: faire rire. Les mèmes sont alors pris à la légère, sans aucun sérieux. Elles ne seront donc pas dénoncées, mais leur idée principale aura quand même été véhiculée. Cela ne concerne pas seulement les fakes news, mais aussi les stéréotypes sexistes, homophobes, racistes, etc. Considérant que c’est une blague, les mèmes ne sont pas rapportés aux gestionnaires de la plateforme. Et l’image continue de banaliser des idées avilissantes sur des minorités.

Certains mèmes sont beaucoup moins flagrants. Si on ne connait pas l’origine de l’image, on peut être tenté d’y croire. C’est par exemple le cas de ce même, qui semble montrer qu’il y a une puce 5G dans les vaccins. Seuls les connaisseurs reconnaitront le schéma d’une pédale de guitare. L’étude montre que la diffusion de cette image est corrélée avec une baisse de 6 points de pourcentage dans les sondages sur les personnes prêtes à se faire vacciner. Cela signifie que cette image a réussi à faire baisser le nombre d’Américains qui n’aurait pas vu de problèmes à recevoir le vaccin contre le Covid.

La faiblesse des IA

Le gros problème des mèmes est, que contrairement aux deepfake, il est difficile de créer une IA capable de les détecter. En effet, les programmes de ce type savent rechercher une image ou un texte qui véhicule une idée fausse. Mais ils ne savent pas analyser les deux en même temps. Le texte étant collé directement dans la photo, une intelligence artificielle ne sait pas encore la dissocier.

Les humains en sont capables par contre. Mais vu le nombre de mèmes disponibles sur les réseaux sociaux, seul un travail automatique serait capable d’analyser assez rapidement toutes les images présentes sur le web. L’autre possibilité est qu’un grand nombre de personnes dénoncent ces mèmes pour que les modérateurs puissent les voir et les supprimer. Les internautes sont, pour l’instant, les seuls à pouvoir réellement agir sur le phénomène.