Tricher grâce à ChatGPT, ce ne sera bientôt plus possible : une appli anti-plagiat débarque… et elle a été créée par un étudiant

Parmi les multiples applications de ChatGPT, il y a la possibilité de lui demander de répondre à des questions d’examens. Une triche qui passerait entre les mailles des correcteurs humains et des logiciels anti-plagiat. Mais cela ne devrait pas durer pas bien longtemps.

Pourquoi est-ce important ?

Lancé il y a un peu plus d'un mois, le chatbot d'OpenAI est considéré par certains comme une véritable révolution. Et comme chaque innovation, il a amené son lot d'inquiétudes. Les établissements scolaires craignent notamment que ChatGPT ne permette à leurs étudiants de tricher. Les logiciels anti-plagiat actuels ne sont pas efficaces, étant donné que les textes produits par l'IA ne sont jamais apparus ailleurs.

Dans l’actu : un étudiant crée une appli qui détecte les textes écrits par ChatGPT.

  • Un étudiant de Princeton a mis au point un programme permettant de savoir si un texte a été écrit par une intelligence artificielle telle que ChatGPT.
  • Son application a eu tellement de succès qu’elle a fini par ne plus fonctionner.

Le détail : comment l’appli fonctionne-t-elle ?

  • Il n’aura fallu que quelques semaines à Edward Tian, étudiant en informatique et en journalisme à l’université de Princeton (États-Unis) pour créer une application capable de déterminer si un texte a été écrit – ou non – par ChatGPT.
    • Le nom de l’application : GPTZero. Elle est accessible ici.
    • En raison d’un trafic plus important que prévu, il lui arrive parfois de crasher.
  • Dans une interview accordée au Daily Beast, l’étudiant a expliqué avoir basé son application sur deux métriques :
    • « Perplexity », qui analyse la complexité des phrases.
    • « Burstiness », qui analyse l’uniformité des phrases sur l’ensemble du texte.
    • Après quelques minutes, l’application donne un score : plus il est bas, plus il est probable que le texte ait été écrit par une IA; plus il est haut, plus il est probable qu’il soit d’origine humaine.
  • Sur Twitter, Edward Tian a fait une démonstration avec un article du New Yorker écrit par un humain et un texte publié sur LinkeIn et généré par ChatGPT.
    • La publication du New Yorker a obtenu un score de 114 et a été estampillée comme « probablement générée par un humain ».
    • Le texte de ChatGPT a obtenu un score de 40 et l’application a indiqué qu’il avait « probablement été généré par une IA ».
  • « Les humains méritent de savoir quand l’écriture n’est pas humaine », a déclaré Edward Tian. « Il y a tellement de battage autour de ChatGPT et de la génération par IA ces derniers temps, que les humains méritent de connaître la vérité. »

Pas tout à fait au point

Un exemple : test raté.

  • Nous avons, nous aussi, testé le potentiel de GPTZero.
  • Nous lui avons soumis une réponse de ChatGPT à la question « Quels sont les effets d’une hausse des taux d’intérêt ? » et un de nos articles relatifs à cette même thématique. Résultats :
    • Notre article a bien été identifié comme ayant « probablement été écrit par un humain », avec un score très élevé (269).
    • Le texte de ChatGPT a obtenu un score bien moins important (104)… mais l’application a conclu qu’il avait lui aussi été créé par un humain.
  • Edward Tian a donc encore du pain sur la planche.

Et maintenant : OpenAI y travaille aussi.

  • Si l’application de l’étudiant américain est perfectible, les tricheurs ne pourront pas se reposer sur leurs lauriers bien longtemps.
  • OpenAI, la firme qui a conçu ChatGPT, travaille actuellement sur sa propre technique anti-plagiat.
    • « Fondamentalement, chaque fois que GPT génère un texte long, nous voulons qu’il y ait un signal secret imperceptible dans ses choix de mots, que vous pouvez utiliser pour prouver plus tard que, oui, cela vient de GPT » a récemment indiqué Scott Aaronson, un chercheur du MIT qui a récemment rejoint OpenAI.
  • Pour l’instant, OpenAI reste avare en explications. Quoi qu’il en soit, l’entreprise promet du lourd.
    • Selon Scott Aaronson, il sera même possible de vérifier si quelques phrases générées par une IA ont été subtilement ajoutées au beau milieu d’un texte écrit par un humain.
Plus
Marchés
Ma liste de suivi
Marchés
BEL20