Principaux renseignements
- Anthropic apposera un filigrane sur l’ensemble du contenu généré par l’IA Claude à l’échelle mondiale.
- Des signatures invisibles et des métadonnées permettront d’identifier les textes et médias synthétiques.
- Ces changements sont motivés par les dispositions de la loi européenne sur l’IA, afin d’éviter de lourdes amendes.
Afin de se conformer aux exigences de transparence de la loi européenne sur l’IA, Anthropic met en place un système mondial visant à apposer un filigrane sur l’ensemble du contenu produit par son IA Claude. Depuis le 2 août, cette initiative s’appliquera à tous les utilisateurs à travers le monde, quel que soit leur lieu de résidence, ce qui illustre bien comment les réglementations européennes dictent souvent les normes internationales du secteur.
Intégration complète dans l’écosystème
L’entreprise intégrera ces marqueurs dans l’ensemble de son écosystème, y compris l’application grand public standard, l’API destinée aux développeurs et des outils spécialisés tels que Claude Code et Cowork. De plus, ces mesures de protection s’étendront aux versions de Claude hébergées via Microsoft Foundry, Google Cloud et AWS.
Alors que les nouveaux modèles lancés après la date butoir disposeront de cette fonctionnalité en natif, Anthropic travaille actuellement à la mise à niveau des anciennes versions du modèle afin de leur offrir une prise en charge similaire.
Méthodologie technique
L’approche technique repose sur deux méthodes distinctes. Pour les sorties textuelles, l’IA intègre un motif subtil et lisible par machine directement dans le texte. Cette signature invisible est conçue pour rester intacte même après la copie et le collage du texte, sans compromettre la qualité ni la clarté de l’écriture.
Pour les fichiers visuels ou structurés tels que les fichiers .png, .jpg ou .svg, le système y associe des métadonnées de provenance signées. Celles-ci font office de trace numérique, permettant à des outils spécialisés de vérifier que le fichier a bien été traité par l’IA et de détecter toute modification ultérieure.
Limites et défaillances potentielles
Malgré ces efforts, Anthropic souligne que le système n’est pas infaillible. Les métadonnées peuvent être effacées par des actions simples telles que la réalisation d’une capture d’écran, la conversion de formats de fichiers ou la réenregistrement du document.
De plus, la présence d’un filigrane constitue un indice plutôt qu’une preuve absolue. Les utilisateurs recourant souvent à Claude pour modifier ou résumer un texte existant, une marque peut apparaître sur un contenu que l’IA n’a pas créé à l’origine. À l’inverse, de brefs extraits ou des textes fortement modifiés peuvent passer inaperçus.
Motif réglementaire
La transition est une réponse directe à l’article 50 de la loi européenne sur l’IA, qui exige que le contenu synthétique soit clairement identifiable. La loi soulignant qu’aucune méthode d’identification n’est suffisante à elle seule, les régulateurs préconisent une stratégie à plusieurs niveaux impliquant l’empreinte numérique et les signatures numériques.
Les enjeux en cas de non-conformité sont considérables, les sanctions potentielles pouvant atteindre 3 pour cent du chiffre d’affaires annuel mondial total d’une entreprise ou 15 millions d’euros.
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
