Principaux renseignements
- Meredith Whittaker, directrice de la Signal Technology Foundation, a mis en garde contre les dangers des robots autonomes.
- Les agents d’intelligence artificielle exercent un contrôle important et accèdent à de grandes quantités de données, ce qui peut permettre d’accéder à des informations sensibles que les utilisateurs souhaiteraient garder confidentielles.
- Un agent d’intelligence artificielle suffisamment puissant pourrait traiter des données en dehors de l’appareil, en envoyant des informations à des serveurs en nuage, ce qui poserait de graves problèmes de sécurité et de confidentialité.
Meredith Whittaker, directrice de la Signal Technology Foundation, s’est inquiétée des risques potentiels des agents d’IA pour la vie privée des utilisateurs. Alors que certains leaders technologiques applaudissent les possibilités de « l’IA agentique » et encouragent l’expérimentation de ces robots par les utilisateurs, Whittaker a mis en garde, lors d’une récente conférence aux États-Unis, contre les dangers posés par les robots autonomes.
Menace réelle
Elle estime que nous sommes confrontés à une véritable menace en raison du contrôle important que ces systèmes exercent et de leur accès à de vastes quantités de données. Whittaker décrit les agents d’IA comme des « robots magiques » capables de penser en plusieurs étapes et d’effectuer des tâches pour les utilisateurs, leur permettant essentiellement de se désengager de leurs propres processus cognitifs.
Un exemple souvent cité est la capacité d’un agent d’IA à rechercher des concerts, à acheter des billets et même à utiliser Signal pour envoyer des messages à des amis à propos de l’événement. Cependant, Whittaker s’inquiète des données dont ces agents ont besoin à différents stades de ce processus. En effet, ils pourraient avoir accès à des informations sensibles que les utilisateurs souhaiteraient garder confidentielles.
Elle explique que les agents ont besoin d’accéder aux navigateurs des utilisateurs, mais aussi aux détails des cartes de crédit pour l’achat des billets. De plus, ils doivent consulter les calendriers, les listes de contacts et même avoir la possibilité d’ouvrir Signal pour envoyer des messages. Cela implique un large éventail de permissions, proche de l’accès « root », qui permet à l’agent de contrôler de nombreuses bases de données du système.
Graves problèmes de sécurité et de confidentialité
Whittaker affirme qu’un agent d’IA suffisamment puissant traiterait probablement les données en dehors de l’appareil, en envoyant des informations à des serveurs en nuage. Cela soulève de graves problèmes de sécurité et de confidentialité, en compromettant potentiellement la frontière entre les couches de l’application et du système d’exploitation. En fin de compte, elle estime que cet accès non contrôlé pourrait compromettre la confidentialité des messages Signal.
Scénarios catastrophiques
Les préoccupations de Whittaker sont partagées par d’autres personnalités du domaine de l’IA. Yoshua Bengio, chercheur renommé dans le domaine de l’IA, a fait écho à des avertissements similaires en janvier lors du Forum économique mondial de Davos. Il a souligné que le développement de « l’IA agentique » pourrait conduire aux scénarios catastrophiques souvent associés à l’intelligence artificielle générale, des machines capables de raisonner comme les humains.
Bengio insiste sur la nécessité de poursuivre la recherche sur le développement d’une IA sûre, tout en reconnaissant et en comprenant les risques inhérents. Il appelle à investir dans des technologies conçues pour empêcher la création de systèmes qui pourraient à terme constituer une menace pour l’humanité.
Si vous souhaitez accéder à tous les articles, abonnez-vous ici!