Impossible de détecter les IA de façon fiable

Dans sa FAQ, OpenAI a publié une note pour expliquer comment ChatGPT est un outil qu’il est impossible à éviter aujourd’hui. Au lieu de vouloir se battre contre, il est préférable de l’utiliser à son avantage et surtout de le transformer en outil pédagogique. Comme la calculatrice a pu être un outil de triche, elle a fini par devenir essentielle. C’est aussi en disant ça que les détracteurs diront qu’aujourd’hui les élèves ne savent plus faire de calcul mental. Cela s’applique aussi aux correcteurs orthographiques qui corrigent tellement rapidement que l’on peut faire des erreurs qui seront corrigées.

Sauf que pour beaucoup d’enseignants le gros problème est qu’il n’y a pas de moyens de détecter les textes générés par une IA. Sans oublier que les faux positifs sont extrêmement nombreux. Donc sanctionner un élève qui n’a pas utilisé d’intelligence artificielle est profondément injuste.

OpenAI admet ainsi que même ses outils de détection ne sont pas fiables . Cela prouve bien que si même le créateur d’une IA ne peut pas détecter sa propre intelligence artificielle, qui peut ? Même en demandant à ChatGPT si c’est lui qui a écrit un texte, il ne saura pas.

ChatGPT n’a aucune « connaissance » du contenu qui pourrait être généré par l’IA. Il inventera parfois des réponses à des questions telles que “avez-vous écrit ce texte ?” ou “Cela aurait-il pu être écrit par l'IA ?” Ces réponses sont aléatoires et n’ont aucun fondement factuel.

Car pour faire simple, un détecteur d’IA va regarder la probabilité de trouver le mot d'après dans chaque phrase. Si le texte est prévisible, alors il sera marqué comme IA. Au point même où un humain qui écrit un texte de façon simple sera considéré comme une intelligence artificielle. Puis en demandant à ChatGPT de complexifier le texte, il sera détecté comme humain…

Les enseignants doivent se battre avec l’IA, pas contre

OpenAI tente ainsi de donner des conseils et des idées pour que les professeurs utilisent ChatGPT à leurs avantages. Il n’est pas possible de contrer l’outil, donc autant s’en servir. Le but est ainsi de montrer aux enseignants qu’ils doivent s’instruire sur le sujet pour permettre aux élèves de ne pas utiliser bêtement l’IA. Par exemple au lieu de demander à ChatGPT d'écrire un texte. Il est possible de lui demander de résumer des sources complexes de faucon vulgarisé. Cela permet d'intégrer plus d’informations et surtout d’en apprendre plus au final.

Il faut aussi faire attention à la fiabilité des informations des générateurs de texte. C’est tout un nouvel enseignement qui se met en place et qui force encore les professeurs à s’adapter. Difficile ainsi de demander à toute une génération d'enseignants qui essayent déjà de s’adapter aux outils numériques, d’apprendre à utiliser les IA.

OpenAI a ainsi publié une page avec des conseils pour utiliser l’IA à son avantage dans l’enseignement.