Les multinationales sont confrontées à un paradoxe. Partout dans le monde, les organisations s’efforcent d’adopter l’intelligence artificielle générative (GenAI) le plus rapidement possible. Elles souhaitent ainsi accroître leur efficacité, innover plus rapidement et améliorer l’expérience client. Dans le même temps, ces avantages cachent un défi majeur qui est rarement abordé dans les salles de réunion ou les documents stratégiques : le comportement imprévisible des grands modèles linguistiques (LLM) lorsqu’ils sont déployés dans divers contextes culturels, juridiques et géographiques.
Des recherches récentes montrent que ces modèles ne se comportent pas de manière cohérente et prévisible. Leurs résultats peuvent varier considérablement en fonction de l’endroit où le modèle est hébergé, des données sur lesquelles il a été entraîné et des normes politiques ou sociales qui y sont intégrées. Pour les organisations mondiales qui doivent opérer de manière cohérente sur différents marchés, ces différences peuvent créer des risques spécifiques. Sans une vision claire, Les LLM constituent un danger pour la conformité, mais aussi pour la réputation et la confiance de l’entreprise. Cependant, l’IA est désormais devenue si importante qu’il n’est plus envisageable d’en freiner l’adoption.
Un contexte différent, une réponse différente
Le cœur du problème tient à un manque de cohérence caractéristique de l’IA générative. Contrairement aux systèmes logiciels classiques qui exécutent du code déterministe, les LLM génèrent des réponses sur la base de modèles statistiques qu’ils ont été entraînés sur de vastes ensembles de données. Ces ensembles de données intègrent inévitablement les normes culturelles, politiques et sociales du contexte dans lequel ils ont été créés. De ce fait, une question posée dans une langue ou une région donnée peut recevoir une réponse complètement différente si la même question est posée dans une autre langue. Des recherches menées sur des centaines de modèles et des millions de points de données montrent des variations fréquentes dans les résultats dès lors que des requêtes identiques sont testées dans des contextes différents. La géographie, la langue et les limites internes du modèle contribuent toutes à des résultats incohérents.
Pour une multinationale, cette incohérence est bien plus qu’une question théorique. Il suffit de penser à la communication avec les clients, où les systèmes automatisés doivent réagir d’une manière qui tienne compte des normes locales. En Europe, un assistant IA peut générer des réponses en se basant sur un certain nombre d’hypothèses concernant les contraintes politiques et les codes culturels, alors que ce même système peut produire en Asie une réponse différente, voire contradictoire. Ces variations peuvent involontairement véhiculer des positions que l’organisation ne soutient pas ou qui vont à l’encontre des valeurs et des attentes locales. Il en résulte des risques pour la réputation, une perte de confiance des clients et des parties prenantes, et dans les cas extrêmes, voire une réaction négative de l’opinion publique.
Les régulateurs s’intéressent également à cette question. Les cadres réglementaires visant à protéger les données, tels que le RGPD, imposent des conditions strictes pour la collecte, le traitement et la conservation des données à caractère personnel. Lorsque les modèles génératifs sont façonnés par les législations locales en matière de localisation des données et doivent tenir compte des contrôles et de la souveraineté, la conformité devient beaucoup plus difficile à assurer. Un fournisseur d’IA peut transmettre des demandes à différentes juridictions ou appliquer diverses règles de modération de contenu en fonction de la législation régionale. Ce qui est interprété comme une mise en œuvre correcte sur un marché peut être considéré comme non conforme dans une autre région en raison de règles différentes en matière de résidence des données et de traitement. Les multinationales qui utilisent l’IA générative comme une solution universelle s’exposent à des risques juridiques inédits, uniquement en raison du lieu et de la manière dont leurs données sont traitées.
Les biais restent souvent cachés
Un autre défi en matière de conformité tient au comportement caché de ces modèles. Les organisations partent souvent du principe qu’un modèle sous-jacent peut être utilisé en toute sécurité dès lors qu’un fournisseur d’IA respecte des critères de base tels que le chiffrement, la minimisation des données et le contrôle d’accès. Des études montrent toutefois que des biais, des informations obsolètes et des limites structurelles peuvent subsister dans les modèles sans être détectés. Certains modèles étudiés ont donné des résultats obsolètes ou inexacts, même lorsque les questions étaient posées de manière simple et claire. Dans les entreprises, cela nuit à la fiabilité des résultats de l’IA, surtout lorsque les décisions automatisées déterminent les parcours clients ou les processus internes de conformité.
Ce problème est encore plus grave pour les multinationales des secteurs fortement réglementés tels que la finance, la santé ou l’énergie. Dans ces domaines, les contrôles internes à l’échelle mondiale exigent un respect cohérent des normes juridiques. Si les systèmes d’IA donnent, selon les régions, des interprétations différentes des politiques de risque, des définitions juridiques ou des procédures opérationnelles, les organisations courent un risque réel et grave de non-conformité involontaire à la législation. Les directions et les équipes juridiques commencent toutefois à reconnaître que l’IA générative, dans sa forme actuelle, ne doit pas être traitée comme un logiciel déterministe où une entrée identique génère toujours une sortie identique.
Que peuvent faire les organisations ?
Comment les organisations internationales doivent-elles réagir face à cette situation ? La première étape consiste à reconnaître que l’adoption non encadrée de l’IA constitue un risque en soi. Il n’existe pas de solution miracle, mais il existe des moyens concrets de limiter l’exposition aux risques et de renforcer la confiance dans les déploiements transfrontaliers de l’IA. Au cœur de cette démarche se trouve un cadre combinant des audits continus des modèles et une gouvernance formelle. Les organisations ont besoin de processus permettant de tester le comportement de l’IA dans les différentes langues, les différents contextes culturels et les différentes juridictions législatives dans lesquels elles opèrent. La réalisation d’audits constants implique que les résultats doivent être validés non seulement en termes d’exactitude et de pertinence, mais aussi pour détecter tout biais involontaire ou contenu préjudiciable. De plus, cela doit être effectué à intervalles réguliers, car les modèles évoluent.
Les organisations auraient également tout intérêt à envisager un modèle de gouvernance qui définisse clairement les rôles et les responsabilités en matière de supervision de l’IA. Qui est chargé de choisir les modèles ? Et de vérifier les résultats ou de réagir aux incidents ? En intégrant la gouvernance de l’IA dans les cadres existants de gestion des risques et de conformité, les organisations s’assurent que les décisions relatives aux déploiements tiennent compte des considérations juridiques et éthiques, et pas uniquement des exigences techniques ou de la facilité opérationnelle. Des comptes rendus réguliers à la direction peuvent également contribuer à maintenir l’attention au sein de l’organisation et à garantir que les écarts soient rapidement détectés.
Le potentiel de l’IA générative est trop important pour que les organisations mondiales puissent se permettre de l’ignorer. Cependant, une approche insuffisamment rigoureuse de l’IA comporte au moins autant de risques que d’avantages. Pour les multinationales, le défi consiste à trouver un équilibre entre innovation et gouvernance. Des audits rigoureux et la prise en compte des différences de comportement des modèles selon les contextes constituent un point de départ pour réduire les biais et protéger la réputation et le statut juridique des organisations. Avec une bonne vue d’ensemble, les entreprises peuvent concrétiser les promesses de l’IA sans compromettre la cohérence et l’intégrité de leurs opérations mondiales.
Vladimir Kropotov, chercheur principal en menaces chez TrendAI, division de Trend Micro
