Parmi les multiples applications de ChatGPT, il y a la possibilité de lui demander de répondre à des questions d’examens. Une triche qui passerait entre les mailles des correcteurs humains et des logiciels anti-plagiat. Mais cela ne devrait pas durer pas bien longtemps.
Tricher grâce à ChatGPT, ce ne sera bientôt plus possible : une appli anti-plagiat débarque… et elle a été créée par un étudiant
Pourquoi est-ce important ?
Lancé il y a un peu plus d'un mois, le chatbot d'OpenAI est considéré par certains comme une véritable révolution. Et comme chaque innovation, il a amené son lot d'inquiétudes. Les établissements scolaires craignent notamment que ChatGPT ne permette à leurs étudiants de tricher. Les logiciels anti-plagiat actuels ne sont pas efficaces, étant donné que les textes produits par l'IA ne sont jamais apparus ailleurs.Dans l’actu : un étudiant crée une appli qui détecte les textes écrits par ChatGPT.
- Un étudiant de Princeton a mis au point un programme permettant de savoir si un texte a été écrit par une intelligence artificielle telle que ChatGPT.
- Son application a eu tellement de succès qu’elle a fini par ne plus fonctionner.
Le détail : comment l’appli fonctionne-t-elle ?
- Il n’aura fallu que quelques semaines à Edward Tian, étudiant en informatique et en journalisme à l’université de Princeton (États-Unis) pour créer une application capable de déterminer si un texte a été écrit – ou non – par ChatGPT.
- Le nom de l’application : GPTZero. Elle est accessible ici.
- En raison d’un trafic plus important que prévu, il lui arrive parfois de crasher.
- Dans une interview accordée au Daily Beast, l’étudiant a expliqué avoir basé son application sur deux métriques :
- « Perplexity », qui analyse la complexité des phrases.
- « Burstiness », qui analyse l’uniformité des phrases sur l’ensemble du texte.
- Après quelques minutes, l’application donne un score : plus il est bas, plus il est probable que le texte ait été écrit par une IA; plus il est haut, plus il est probable qu’il soit d’origine humaine.
- Sur Twitter, Edward Tian a fait une démonstration avec un article du New Yorker écrit par un humain et un texte publié sur LinkeIn et généré par ChatGPT.
- La publication du New Yorker a obtenu un score de 114 et a été estampillée comme « probablement générée par un humain ».
- Le texte de ChatGPT a obtenu un score de 40 et l’application a indiqué qu’il avait « probablement été généré par une IA ».
- « Les humains méritent de savoir quand l’écriture n’est pas humaine », a déclaré Edward Tian. « Il y a tellement de battage autour de ChatGPT et de la génération par IA ces derniers temps, que les humains méritent de connaître la vérité. »
Pas tout à fait au point
Un exemple : test raté.
- Nous avons, nous aussi, testé le potentiel de GPTZero.
- Nous lui avons soumis une réponse de ChatGPT à la question « Quels sont les effets d’une hausse des taux d’intérêt ? » et un de nos articles relatifs à cette même thématique. Résultats :
- Notre article a bien été identifié comme ayant « probablement été écrit par un humain », avec un score très élevé (269).
- Le texte de ChatGPT a obtenu un score bien moins important (104)… mais l’application a conclu qu’il avait lui aussi été créé par un humain.
- Edward Tian a donc encore du pain sur la planche.
Et maintenant : OpenAI y travaille aussi.
- Si l’application de l’étudiant américain est perfectible, les tricheurs ne pourront pas se reposer sur leurs lauriers bien longtemps.
- OpenAI, la firme qui a conçu ChatGPT, travaille actuellement sur sa propre technique anti-plagiat.
- « Fondamentalement, chaque fois que GPT génère un texte long, nous voulons qu’il y ait un signal secret imperceptible dans ses choix de mots, que vous pouvez utiliser pour prouver plus tard que, oui, cela vient de GPT » a récemment indiqué Scott Aaronson, un chercheur du MIT qui a récemment rejoint OpenAI.
- Pour l’instant, OpenAI reste avare en explications. Quoi qu’il en soit, l’entreprise promet du lourd.
- Selon Scott Aaronson, il sera même possible de vérifier si quelques phrases générées par une IA ont été subtilement ajoutées au beau milieu d’un texte écrit par un humain.