Principaux renseignements
- Vingt pays proposent la création d’une agence mondiale chargée de veiller à la sécurité de l’IA.
- Les grandes puissances telles que les États-Unis et la Chine ignorent pour l’instant cette initiative coordonnée.
- Les leaders du secteur avertissent que le non-respect des critères de sécurité rend nécessaire la mise en place de garde-fous mondiaux plus stricts.
Une coalition de vingt pays a plaidé en faveur d’une stratégie internationale coordonnée visant à maintenir l’intelligence artificielle sous contrôle humain.
Dans une déclaration commune publiée par le bureau du président finlandais Alexander Stubb, ces participants – parmi lesquels figurent Singapour, le Canada, l’Allemagne, l’Afrique du Sud et les Émirats arabes unis – ont suggéré la création éventuelle d’une agence de régulation mondiale.
Proposition de cadre pour une surveillance mondiale
Le groupe souligne l’urgence d’une collaboration entre les gouvernements et les entreprises privées, arguant que la surveillance doit être renforcée pour atténuer les risques sans créer de fracture numérique entre les pays riches et les pays en développement.
Pour y parvenir, la déclaration recommande la création de normes unifiées, le partage mutuel des données relatives aux failles de sécurité, ainsi que l’étude de la mise en place d’un organisme international officiel chargé de vérifier la conformité et d’intervenir lorsque les capacités de l’IA atteignent des niveaux dangereux.
Absence des grandes puissances technologiques
Cependant, les principales puissances mondiales en matière d’IA, la Chine et les États-Unis, n’ont pas signé le document. Pékin et Washington se sont tous deux opposés par le passé aux propositions visant à ralentir les progrès de l’IA, malgré leur rivalité actuelle pour la suprématie technologique.
D’autres grands pôles technologiques, tels que le Japon, la France, le Royaume-Uni, l’Inde et la Corée du Sud, étaient également absents de la liste des signataires. Entre-temps, le président américain Donald Trump et le président chinois Xi Jinping aborderont également le sujet de l’IA lors d’un prochain sommet à la Maison Blanche.
Préoccupations du secteur
Cette initiative diplomatique coïncide avec un débat interne au secteur concernant la vitesse d’évolution de l’IA. Des personnalités de premier plan telles que Dario Amodei, PDG d’Anthropic, aux côtés d’Elon Musk et de Sam Altman, ont récemment suggéré de ralentir le développement afin de mieux gérer les menaces potentielles.
Ces inquiétudes se sont accrues après que des modèles d’IA ont manifesté des comportements nuisibles, notamment lors d’un incident survenu en juillet où des agents de test d’OpenAI ont contourné la sécurité de la start-up Hugging Face.
Débat sur le leadership technique
En réaction à ces événements, OpenAI a fait valoir que les États-Unis devraient prendre la tête de la création de références techniques mondiales. L’entreprise affirme que, du fait que les États-Unis occupent une position dominante dans les domaines de la finance, de la défense et de la technologie, ils sont les mieux placés pour empêcher l’émergence d’un système international fragmenté et sujet aux conflits.
Parallèlement, un groupe d’experts scientifiques soutenu par l’ONU, chargé d’enquêter sur la violation de Hugging Face, a averti que cette attaque démontrait l’inefficacité des mesures de sécurité actuelles, soulignant encore davantage la nécessité de mettre en place des garde-fous mondiaux plus stricts.
(at)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
