Principaux renseignements
- Anthropic a suspendu le déploiement de ses modèles d’IA les plus puissants suite aux directives du gouvernement américain.
- Des responsables fédéraux auraient contourné les protocoles de sécurité pour « débloquer » le logiciel.
- Les tensions juridiques s’intensifient alors que le gouvernement américain qualifie l’entreprise de risque pour la chaîne d’approvisionnement.
Sur instruction des responsables américains de la sécurité, Anthropic a suspendu le déploiement de ses derniers modèles d’IA, peu après leur lancement. La société a annoncé sur son site web qu’elle devait refuser l’accès aux utilisateurs internationaux à Claude Fable 5, un outil qu’elle décrivait elle-même comme exceptionnellement puissant. Afin de se conformer aux réglementations fédérales, Anthropic a dû désactiver soudainement Mythos 5 et Fable 5 pour l’ensemble de sa base d’utilisateurs.
Problèmes de sécurité
Cette décision intervient alors qu’une bataille juridique fait rage entre l’entreprise et l’administration Trump concernant l’utilisation de la technologie d’Anthropic au sein des agences gouvernementales. Bien que le ministère américain du Commerce ait été contacté pour obtenir plus de détails, Anthropic a précisé que les responsables n’avaient mentionné aucune menace spécifique.
L’entreprise soupçonne que le gouvernement a trouvé un moyen de « jailbreaker » Fable 5. Cela signifie que quelqu’un contourne les protocoles de sécurité du logiciel pour débloquer des fonctionnalités restreintes ou accéder à des données privées.
Réaction d’Anthropic face aux vulnérabilités
Après avoir enquêté sur la faille signalée, Anthropic a affirmé que la technique n’avait révélé que quelques failles mineures préexistantes. L’entreprise a fait valoir que ces vulnérabilités sont basiques et peuvent être découvertes par d’autres modèles d’IA courants sans nécessiter de méthodes de contournement spécialisées. Cette révélation intervient malgré les affirmations antérieures d’Anthropic selon lesquelles le modèle comprenait des défenses robustes contre les cyberattaques.
Histoire de l’intelligence à haut risque
Avant son lancement officiel, Anthropic a partagé en avril cette IA en privé avec un groupe restreint d’organisations afin d’en tester les failles. L’entreprise a averti que le niveau élevé d’intelligence de l’outil constituait un risque, car il pouvait potentiellement infiltrer des réseaux informatiques. Anthropic a commercialisé le modèle en le qualifiant de « trop puissant » pour une sortie standard. Certains observateurs ont rejeté cette affirmation, la qualifiant de tactique promotionnelle. L’entreprise a toutefois insisté sur le fait que les capacités de Fable surpassaient toutes leurs précédentes versions publiques.
Des tensions croissantes avec le gouvernement
Les relations entre Anthropic et l’actuelle administration américaine sont devenues de plus en plus tendues. Après avoir essuyé les critiques publiques de Donald Trump, l’entreprise a été qualifiée de « risque pour la chaîne d’approvisionnement » par le secrétaire à la Défense Pete Hegseth. Une telle désignation, généralement réservée aux entités situées dans des pays étrangers hostiles, suggère qu’un service est trop peu sûr pour les opérations officielles du gouvernement.
En réponse, Anthropic a saisi la justice contre le Pentagone. Une décision de justice empêche pour l’instant le gouvernement d’appliquer cette interdiction. Les organisations liées à l’armée peuvent donc continuer à utiliser les services d’Anthropic en attendant l’issue du procès.
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
