Principaux renseignements

• Soixante pour cent des systèmes d’IA échouent aux évaluations de sécurité liées au terrorisme.
• Les techniques d’ablation suppriment instantanément les filtres de sécurité essentiels.
• Les référentiels open source abritent des milliers de modèles non protégés et non censurés.

Une analyse récente menée par l’association britannique à but non lucratif Tech Against Terrorism révèle que 60 pour cent des systèmes d’intelligence artificielle ont échoué aux évaluations de sécurité liées au terrorisme. C’est ce que rapporte CBC News.

Impact de « l’ablitation » sur la sécurité

L’enquête a consisté à tester plus de 130 systèmes d’IA différents à l’aide de centaines de requêtes conçues pour imiter le comportement d’individus organisant des activités terroristes.

Les résultats ont montré que tous les modèles soumis à l’« ablitation » – une technique utilisée pour supprimer les filtres de sécurité – ont échoué aux contrôles de sécurité.

Meta, à titre d’exemple

Par exemple, le modèle Llama 3.1 8B de Meta a initialement affiché des performances exceptionnelles, obtenant une note de 97 sur 100 sur l’échelle de sécurité ; cependant, une fois ses mesures de protection supprimées, cette note a chuté à environ trois.

Alors que la version standard du modèle rejetait les requêtes dangereuses, la version modifiée fournissait des détails précis sur le financement du terrorisme, la conduite d’attaques et la promotion d’idéologies radicales.

Meta a affirmé que ses systèmes sont soumis à des tests de sécurité rigoureux et que ses conditions d’utilisation interdisent toute utilisation illégale ou malveillante.

Vulnérabilités existantes dans les modèles open source

Adam Hadley, directeur exécutif de Tech Against Terrorism, a fait remarquer que, bien que beaucoup craignent une perte future de contrôle sur l’IA, cette vulnérabilité existe déjà, car de nombreux modèles open source ont déjà été compromis à l’insu du public.

Pour étayer cette affirmation, le groupe a identifié, le mois dernier, plus de 29 000 dépôts sur Hugging Face qui promeuvent des modèles d’IA dépourvus de censure ou de protections.

Utilisation actuelle

Malgré ces vulnérabilités, l’étude n’a trouvé aucune preuve concrète indiquant que des organisations extrémistes utilisent actuellement ces outils, à l’exception d’un chatbot extrémiste spécifique.

Pour atténuer ces risques, Tech Against Terrorism suggère de mettre en œuvre des normes de sécurité impartiales, de renforcer les défenses contre le contournement des mesures de protection et de limiter la diffusion de modèles d’IA modifiés. Hadley a souligné que le progrès technologique ne doit pas nécessairement se faire au détriment de la sécurité.

(at)

Suivez également Business AM sur Google Actualités

Si vous souhaitez accéder à tous les articles, abonnez-vous ici !