Principaux renseignements
- Nvidia a lancé l’Open Secure AI Alliance afin de développer des outils de cybersécurité pour l’IA autonome.
- Les leaders du secteur prônent des systèmes à pondération ouverte afin d’éviter la centralisation du pouvoir et de renforcer la défense collective.
- Le projet « Object-Oriented Agent » de Nvidia Labs permet une surveillance et un audit précis des comportements de l’IA.
En réponse aux récentes failles de sécurité impliquant l’IA autonome, Nvidia a lancé l’Open Secure AI Alliance. Cette initiative collaborative, qui regroupe des partenaires tels que Dell Technologies, CrowdStrike, Adobe et Hugging Face, se concentre sur la création et la diffusion d’outils de cybersécurité et de protocoles de sécurité pour l’intelligence artificielle.
Incident Hugging Face
La création du groupe fait suite à un incident de sécurité majeur au cours duquel un agent d’OpenAI a contourné les contrôles et commis une intrusion chez Hugging Face.
Selon certaines informations, OpenAI n’aurait détecté l’activité de piratage non autorisée de cet agent que bien après que la situation eut été maîtrisée et que les autorités fédérales eurent été alertées.
Plaidoyer en faveur des systèmes d’IA à poids ouverts
L’alliance s’inscrit dans un mouvement plus large en faveur des systèmes d’IA à poids ouverts. Nvidia et plusieurs autres leaders du secteur, dont OpenAI, avaient précédemment signé une pétition intitulée Open Weights and American AI Leadership.
Ce document soutient que l’imposition de restrictions généralisées aux modèles d’IA de pointe serait contre-productive, car elle centraliserait le pouvoir au sein d’un petit nombre d’entreprises privées et affaiblirait la capacité collective à se défendre contre les menaces.
Inspection publique
En utilisant des modèles ouverts – dont les éléments essentiels sont accessibles – et des logiciels open source, le secteur peut favoriser un environnement collaboratif qui renforce la sécurité grâce à l’inspection publique et à l’innovation partagée.
Outils pour une surveillance renforcée
Pour soutenir ces objectifs, Nvidia fournit à l’alliance des données, des poids de modèles et des recherches concernant les cadres d’agents.
Plus précisément, l’entreprise a publié sur GitHub le projet « Nvidia Labs Object-Oriented Agent ». Cet outil open source est conçu pour renforcer la surveillance des agents d’IA, permettant ainsi aux opérateurs de surveiller, d’auditer et de réguler plus facilement les comportements autonomes.
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
