ChatGPT et le détecteur de mensonge

La traque au mensonge est vieille comme le monde.

Au Moyen Âge, les juges pensaient pouvoir confondre les menteurs – ou les Pinocchio avant l’heure – grâce à une technique aussi originale que délicieuse : leur faire avaler de la farine. Si leur bouche s’asséchait, leur verdict était sans appel : menteur !

Et puis la science a pris le relais. En 1885, un certain Cesare Lombroso invente un détecteur de mensonge mesurant la pression sanguine. Au fil des siècles, l'innovation perfectionne la technique.

Aujourd’hui, les tricheurs ont changé de costume. Plus besoin de copier sur son voisin : il suffit de murmurer “ChatGPT, aide-moi à …”.

Souvenez-vous : dans notre dernière newsletter, on vous révélait que 79 % des lycéens demandent régulièrement un coup de pouce à ChatGPT.

Chez Ed, on s’est donc demandé : comment aider les profs à flairer les petites supercheries numériques des élèves, sans tomber dans la chasse aux sorcières ?

La technique du faisceau d’indices

Faisceau d’indices : ensemble d’indices qui, par leur convergence, permettent de prouver un fait juridique ou un acte juridique.

Dans le cas du recours à ChatGPT, on a listé les indices à exploiter :

• Un niveau de langue différent du profil de l’élève.
  
• Des phrases longues, neutres, bien ponctuées, et sans coquilles ni erreurs grammaticales… trop parfait pour être honnête.
  
• Un ton générique, sans prise de position ni référence au cours.
  
• Un enchaînement parfait des idées.
• Des répétitions fréquentes de mots ou de phrases.
  
• L’utilisation de mots et d’expressions typiques : « crucial », « accru », « Dans un monde en constante évolution…  », « En quête de », « Dans cette quête de », « En somme », « se distingue de », « se démarque de »…
  
• L’emploi récurrent du participe présent : « tout en permettant », « tout en mettant », « tout en promettant… »
  
• Des citations floues, inexistantes, ou mal contextualisées.
  
• Des erreurs "non humaines", telles que des contresens subtils, interprétations trop abstraites ou ce qu’on appelle dans le jargon de l’IA des hallucinations, comprenez des fausses statistiques, fausses affirmations ou fausses citations.
  
• Si le texte n’est pas manuscrit, vous remarquerez peut-être des titres avec des majuscules à chaque mot – exemple : “La Liberté d’Expression en Question”.

⚠️ Ces erreurs peuvent être corrigées grâce à un prompt adapté. Certains élèves nous ont d’ailleurs confié qu’ils demandaient à ChatGPT de leur rédiger un contenu avec des fautes d’orthographe ou de réaliser une traduction conformément à un niveau de langue B2…

Alors, restez sur vos gardes et faites de la prévention.

L’existence de polygraphes numériques

En fouillant un peu le web, on a déniché quelques outils conçus pour détecter les textes générés par IA :

• GPTZero : conçu pour le monde de l’enseignement, il analyse le texte et fournit un score indiquant la probabilité qu’il ait été généré par une IA.
  Inconvénient : plus efficace pour les textes anglais que français, peu fiable sur les textes courts, et retravaillés manuellement.
• Draft & Goal : une extension Chrome qui vient tout droit de Montréal, simple à utiliser.
   Inconvénient : moins pertinent pour les textes argumentatifs ou hybrides.
• ZeroGPT : c’est aujourd’hui l’outil le plus utilisé.
  Inconvénient : souvent critiqué pour ses faux positifs, surtout quand le texte est humainement bien écrit.

En résumé : comme le détecteur de mensonges, ces outils sont loin d’être infaillibles. Toutefois, ils peuvent parfaitement servir d’indicateur si un indice vous a mis la puce à l’oreille.

Conclusion

Utiliser ChatGPT ne peut être ni un interdit, ni un tort, ni un secret. Se lancer dans une moyenâgeuse chasse aux sorcières serait aussi vain qu’inopportun.

L’important est d’apprendre aux élèves à bien s’en servir :

• En valorisant le processus de réflexion : les brouillons, schémas, ou les étapes intermédiaires.
• En intégrant l’IA dans le processus d’apprentissage : avant ou après la rédaction, pour structurer, questionner, challenger et clarifier ses idées.
• En encourageant les travaux personnalisés, en lien avec l’expérience ou les opinions des élèves, que ChatGPT est moins susceptible de générer.

L’IA peut être un formidable outil d’apprentissage à condition de ne pas en faire un raccourci. Et la meilleure défense reste, encore et toujours, la pédagogie.