Principaux renseignements
- Nvidia pourrait cesser d’approvisionner les clients qui développent des IA dangereuses.
- C’est l’innovation technique, et non une législation restrictive, qui garantit la sécurité de l’IA.
- Des services de sécurité spécialisés surveillent les agents d’IA afin de gagner la confiance des utilisateurs.
Lors d’une récente visite à Londres, Jensen Huang, PDG de Nvidia, a laissé entendre que l’entreprise pourrait envisager de cesser ses livraisons aux clients développant une IA dangereuse. C’est ce qu’indique Bloomberg.
Il a précisé que ce scénario restait pour l’instant théorique. Selon lui, une telle décision ferait suite à des discussions directes avec le client. Huang a également souligné que Nvidia fournissait des outils polyvalents, mais n’exerçait aucun contrôle sur les activités de ses partenaires.
Des contrôles plus stricts sur les clients
Cette approche de la réglementation transparaît déjà dans les pratiques commerciales de Nvidia. L’année dernière, l’entreprise a mis en place un processus de vérification strict pour les acheteurs au Japon, en Malaisie et à Singapour, ce qui a conduit plus de 50 pour cent de sa clientèle existante sur ces marchés à perdre son éligibilité à l’achat.
Solutions technologiques pour la sécurité de l’IA
Malgré les inquiétudes généralisées concernant les risques liés à l’IA, Huang considère ces préoccupations comme des obstacles surmontables. Il estime que la solution ne réside pas dans l’imposition de lois restrictives, mais dans le perfectionnement de la technologie elle-même. En utilisant l’IA pour surveiller et contrôler d’autres systèmes d’IA, il est possible d’améliorer la sécurité.
C’est pourquoi Nvidia a créé un département dédié à la sécurité. Celui-ci évalue les agents d’IA avant leur lancement. Selon Huang, la confiance est une condition essentielle pour continuer à développer l’utilisation de ces outils.
Nvidia mise sur la croissance de l’IA
Cette stratégie va dans le sens des intérêts financiers de Nvidia, car une adoption plus large des agents d’IA entraîne une demande accrue pour le matériel nécessaire. Huang s’est déjà prononcé en faveur d’une innovation rapide et a suggéré, lors d’un récent événement Dreamforce, que les entreprises devaient agir rapidement et ne freiner les progrès que si un produit spécifique s’avérait dangereux.
Cette position contraste avec celle de Dario Amodei, qui a plaidé en faveur d’un ralentissement mondial et de la mise en place de normes industrielles communes.
Investissements européens
Nvidia investit également dans la recherche sur la sécurité en Europe et met à disposition 250 millions de dollars (222 millions d’euros) de puissance de calcul – plutôt que de fonds en espèces – pour soutenir la recherche sur le contrôle des agents d’IA. Des institutions telles que l’University College London et l’université d’Oxford participent à cette initiative.
Parallèlement, d’autres leaders du secteur ont exprimé des préoccupations différentes ; un dirigeant d’Anthropic a mis en garde contre les dangers inhérents aux modèles open source, tandis que le responsable financier d’OpenAI a mis en garde contre les failles de cybersécurité associées à l’IA chinoise. (lv)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
