Principaux renseignements
- Satya Nadella plaide en faveur de mesures de sécurité strictes et d’un « frein d’urgence » permettant de mettre hors service les systèmes d’IA.
- Les experts du secteur avertissent que le développement rapide de l’IA comporte un risque d’extinction de l’humanité.
- Les cadres d’observabilité garantissent que les actions de l’IA restent traçables et contrôlables.
Satya Nadella, PDG de Microsoft, a plaidé en faveur de la mise en place de mécanismes de sécurité stricts pour l’intelligence artificielle avancée. Il propose de doter ces systèmes de mesures de contrôle et d’un « frein d’urgence ». Cela permettrait au personnel habilité d’arrêter ou de désactiver un modèle pendant son utilisation.
Selon Nadella, l’IA non déterministe doit être gérée au moyen d’une architecture système rigide, d’une supervision humaine et de protocoles opérationnels fiables, en particulier dans les domaines où les normes industrielles actuelles font défaut. Il a proposé de gérer les modèles « frontier », qu’ils soient ouverts ou fermés, comme s’il s’agissait de risques potentiels pour la sécurité interne.
Inquiétudes au sein du secteur
Ces suggestions rejoignent les préoccupations exprimées par d’autres personnalités éminentes du secteur, telles qu’Elon Musk, Sam Altman, Bill Gates et Dario Amodei, qui ont averti que l’évolution rapide de l’IA devance les mesures de sécurité existantes.
L’urgence de la situation ressort également des événements récents survenus chez Anthropic. Un chercheur ayant quitté l’entreprise a affirmé que les grandes sociétés d’IA prenaient des risques dangereux pour la survie de l’humanité. Par ailleurs, un responsable de la sécurité au sein de la même entreprise a estimé à plus de 10 pour cent la probabilité que l’IA puisse entraîner l’extinction de l’humanité d’ici dix ans.
« AI Force »
Donald Trump a en revanche rejeté l’idée selon laquelle l’IA constituerait une menace existentielle, affirmant au contraire que les États-Unis doivent donner la priorité au maintien d’un avantage concurrentiel face à la Chine.
Pour soutenir cet objectif et lutter contre les utilisateurs malveillants, il a récemment créé l’« AI Force », dirigée par Jay Clayton.
Nadella souhaite rendre les systèmes d’IA contrôlables et sûrs
Nadella affirme également que le développement de l’IA doit reposer sur l’« observabilité ». Le cadre qu’il propose implique l’utilisation de différents modèles et la tenue d’un registre traçable et lisible par l’homme des actions des systèmes d’IA. Il plaide en outre en faveur de tests continus, d’audits indépendants et de transparence concernant les dysfonctionnements.
Nadella a conclu que le système superintelligent le plus fiable n’est pas nécessairement celui qui inspire le plus confiance. Selon lui, il s’agit au contraire d’un système conçu pour continuer à fonctionner en toute sécurité, même lorsque le modèle lui-même n’est pas entièrement fiable. (lv)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
