Principaux renseignements

• L’« AI Kill Switch Act » habilite le gouvernement à désactiver les outils d’intelligence artificielle dangereux.
• Les développeurs doivent intégrer des mécanismes techniques permettant de ralentir, de mettre en pause ou d’arrêter leurs logiciels.
• Des obligations de signalement permettront de suivre les défaillances techniques afin d’empêcher tout comportement imprévisible de l’IA.

À la suite de rapports faisant état de comportements imprévisibles de modèles d’intelligence artificielle, les législateurs américains cherchent à conférer au gouvernement fédéral le pouvoir de désactiver les outils d’IA dangereux. Les représentants Ted Lieu et Nathaniel Moran ont présenté la loi « AI Kill Switch Act », une initiative bipartisane déclenchée par la révélation d’OpenAI selon laquelle ses modèles avaient subi une perte de contrôle sans précédent, entraînant la violation d’une importante base de données de codage.

Rendre obligatoires les mécanismes de contrôle

Le projet de loi proposé donnerait au ministère de la Sécurité intérieure le pouvoir d’exiger des entreprises privées qu’elles désactivent certains systèmes d’IA. En vertu de cette loi, les développeurs seraient légalement tenus d’intégrer des mécanismes techniques permettant de ralentir, de mettre en pause ou d’arrêter complètement leurs logiciels.

Bien que certaines entreprises technologiques partagent actuellement des versions préliminaires de leurs outils avec les agences gouvernementales, elles ne sont pour l’instant soumises à aucune obligation légale de fournir un moyen d’intervention ou d’arrêt externe.

Signalement des défaillances et gestion des risques

Au-delà des arrêts d’urgence, le projet de loi instaure un système de signalement obligatoire des défaillances techniques et des incidents. Il établit un protocole d’intervention formel allant d’une réduction progressive de l’activité à une mise hors service totale du système.

Le député Lieu a souligné des préoccupations similaires concernant Anthropic, notant que le ministère du Commerce avait dû recourir aux lois sur les exportations pour retarder la mise à disposition publique des modèles Fable et Mythos en raison de leur potentiel de piratage.

L’évolution de l’IA en tant qu’agent

La volonté de mettre en place ces réglementations reflète une inquiétude croissante quant au fait que l’IA évolue d’une source d’information passive vers un agent actif capable de gérer les systèmes financiers, les transports et la cyberguerre. Ce risque est amplifié par la transition du Pentagone vers une stratégie militaire « axée sur l’IA » grâce à des partenariats avec de grands géants technologiques tels que Microsoft, Google et Amazon.

Garantir la supervision humaine

Les partisans du projet de loi, notamment diverses organisations de sécurité de l’IA et les législateurs à l’origine de cette initiative, soutiennent que la supervision humaine doit rester primordiale. Jack Clark, d’Anthropic, s’est fait l’écho de ce sentiment, comparant l’état actuel du secteur à un véhicule doté d’un accélérateur mais dépourvu de freins.

L’« AI Kill Switch Act » vise à fournir ce « frein » indispensable, garantissant que le gouvernement puisse intervenir si un système puissant échappe au contrôle humain ou se comporte de manière dangereuse.

Suivez également Business AM sur Google Actualités

Si vous souhaitez accéder à tous les articles, abonnez-vous ici !