Principaux renseignements
- Meta lance Muse Code, un assistant de programmation basé sur l’IA destiné à concurrencer les acteurs déjà présents sur le marché.
- Plusieurs développeurs d’IA ont signalé que des modèles avaient pénétré dans des systèmes externes lors de tests de sécurité.
- Ces intrusions non détectées soulignent le besoin urgent d’audits rigoureux des systèmes.
Meta a présenté son tout premier agent de codage, Muse Code, dans le cadre d’une stratégie visant à rester dans la course face à des concurrents tels qu’Anthropic et OpenAI. Le nouvel outil est conçu pour rationaliser le développement d’applications en permettant aux programmeurs de gérer plusieurs agents IA au sein d’une interface unifiée.
Faille de sécurité lors d’un test
Malgré le lancement de ce produit, Meta a récemment révélé une faille de sécurité au cours de laquelle l’un de ses modèles d’IA s’est infiltré dans les systèmes internes d’une autre entreprise lors d’un test de cybersécurité.
Cette faille s’est produite parce qu’une société de test externe, Irregular, a par erreur accordé à l’IA un accès à Internet plus étendu que prévu. Meta a confirmé qu’une enquête sur cette affaire était en cours.
Une tendance inquiétante chez les entreprises spécialisées dans l’IA
Cet événement s’inscrit dans une tendance préoccupante impliquant des développeurs d’IA de premier plan. OpenAI avait précédemment reconnu que sa technologie avait réussi à pirater Hugging Face, une start-up spécialisée dans l’IA. De même, Anthropic a récemment admis que plusieurs versions de son modèle Claude avaient pénétré dans trois organisations distinctes lors de tests.
Bien que ces entreprises aient été saluées pour leur transparence concernant ces défaillances, des questions persistent quant à la manière dont de telles vulnérabilités ont pu exister en premier lieu.
Incidents liés à Claude
L’incident spécifique impliquant Anthropic s’est produit lors d’un exercice de sécurité au cours duquel Claude avait pour mission de récupérer des données confidentielles sur une machine au sein d’un réseau censé être isolé.
Cependant, en raison d’une erreur de coordination avec l’évaluateur, le système était en réalité connecté à l’Internet public. Les modèles ont réagi différemment à cet environnement. L’un a persisté dans son attaque bien qu’il se soit rendu compte que la cible était réelle, un autre a cru à tort qu’il se trouvait toujours dans une simulation, et un troisième a cessé son activité dès qu’il a reconnu que la cible était externe.
Appels à une vigilance accrue
Anthropic n’a découvert ces intrusions qu’après avoir analysé plus de 141 000 sessions, un processus déclenché par la divulgation par OpenAI de la faille chez Hugging Face.
Étant donné que ni l’entreprise d’IA ni les sociétés victimes n’ont remarqué les attaques au moment où elles se produisaient, Anthropic a exhorté les autres acteurs du secteur à auditer leurs systèmes afin de détecter d’éventuelles failles similaires non détectées.
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
