Principaux renseignements
- OpenAI lance les filigranes « textGrain » dans le cadre des exigences de transparence prévues par la loi européenne sur l’IA.
- Des schémas cachés dans le choix du vocabulaire permettent d’identifier les textes générés par l’IA sans symboles visibles.
- L’édition ou la traduction manuelle peut réduire considérablement la précision de la détection.
Afin de se conformer aux exigences de transparence de la loi européenne sur l’IA, OpenAI a annoncé la mise en place d’un filigrane invisible pour les contenus produits par Codex et ChatGPT au sein de l’Union européenne.
Réglementations
Les réglementations, entrées en vigueur le 2 août, obligent les développeurs d’IA à s’assurer que les résultats générés par leurs systèmes sont identifiables par d’autres logiciels.
Bien que cette fonctionnalité soit déployée sur divers forfaits destinés aux utilisateurs basés dans l’UE au cours des prochaines semaines, elle ne constituera pas une norme mondiale. Toutefois, les développeurs d’API du monde entier peuvent activer manuellement cette fonctionnalité pour des modèles spécifiques dès maintenant.
textGrain
Cette technologie, appelée « textGrain », n’utilise pas de symboles visibles. Elle fonctionne plutôt en influençant subtilement le choix du vocabulaire du modèle afin de créer un motif caché. Cela garantit que le filigrane reste intégré même si le texte est copié-collé. Selon OpenAI, ce processus ne compromet pas l’efficacité du modèle et ne révèle pas l’identité de l’utilisateur.
Vulnérabilités du système
Malgré sa sophistication, le système présente des vulnérabilités. OpenAI a noté que le fait de remplacer environ 10 pour cent des mots par des synonymes peut réduire considérablement la précision de la détection, qui passe de 92 pour cent à 66 pour cent.
De plus, l’outil rencontre des difficultés avec les contenus traduits, les solutions mathématiques et les courts extraits de texte. En raison de ces incohérences, l’accès à l’outil de détection est actuellement limité aux organisations spécialisées et aux chercheurs afin de garantir son utilisation responsable.
Nuances de l’attribution
L’entreprise a précisé que l’absence de filigrane ne constitue pas une preuve définitive que le texte a été rédigé par un humain, car cela pourrait résulter d’une révision approfondie ou d’une génération par un autre fournisseur d’IA.
De plus, si un filigrane peut indiquer qu’un outil OpenAI a été utilisé, il ne permet pas de quantifier le niveau de créativité humaine ou de supervision impliqué dans le produit final.
(at)
Suivez également Business AM sur Google Actualités
Si vous souhaitez accéder à tous les articles, abonnez-vous ici !
