ChatGPT : le pire ennemi de l’éducation ?

Ce qui devait arriver… arriva… Les étudiants ont commencé à utiliser ChatGPT pour leurs devoirs maison et leurs dissertations. En France, la faculté de Lyon avait d’ailleurs été l’une des premières à en faire les frais. Mais dans ce milieu, les choses évoluent vite. OpenAI vient tout juste de publier un détecteur de texte généré par les intelligences artificielles (IA). C'est un outil qui, bien qu'il soit loin d'être parfait, pourrait devenir une ressource précieuse pour les enseignants.

Cette décision de la société dirigée par Sam Altman intervient dans un contexte d'inquiétude croissante concernant le bot conversationnel, qui connaît un engouement croissant depuis sa sortie officielle. Certaines écoles et universités l'ont déjà interdit et sont devenues l'épicentre d'un débat sur les modèles éducatifs actuels.

OpenAI lance un outil capable de détecter les intelligences artificielles

L'un des défis qui pèsent sur le système éducatif, du moins pour l'instant, est de trouver un moyen de détecter les textes générés par des intelligences artificielles - et pas tout simplement d’interdire leur utilisation. La solution des créateurs de ChatGPT rejoint d'autres idées qui ont émergé ces derniers temps pour relever ce défi important. OpenAI précise dans son communiqué que leur outil est capable d’identifier correctement 26% d’un texte écrit par son IA. Les équipes de la société précisent également que ce dernier étiquette également à tort le texte écrit par l’homme comme écrit par l’IA de 9%. Autrement dit, ce n’est pas un outil infaillible.

L’aspect positif de tout cela est que le détecteur est ouvert au public et qu’il peut être utilisé gratuitement. Pour le tester, il vous suffit d'aller sur platform.openai.com/ai-text-classifier/, de coller le texte souhaité et d'appuyer sur 'Soumettre'. Après l'avoir analysé, l’AI Text Classifier renverra un résultat. Les résultats seront classés en fonction de la probabilité que le texte ait été généré par une IA. De cette façon, l'utilisateur trouvera plusieurs options : très improbable, improbable, peu clair ou possible.

De plus, il est important de noter que le détecteur a besoin d'un minimum de 1 000 mots pour faire son travail et qu'il n'est pas encore formé pour détecter le texte co-écrit par l'homme. C'est-à-dire que l'analyse est effectuée en tenant compte du texte entièrement créé par des humains ou par une IA. La question qui vous intéresse peut-être, c’est de savoir comment les équipes de Sam Altman ont fabriqué ce détecteur ? Eh bien, dans les grandes lignes, c’est assez simple. OpenAI a formé un modèle de langage en utilisant des ensembles de données contenant du texte généré par des intelligences artificielles et par des humains. Dans le cas de ce dernier, l'ensemble des données provenait de trois sources : Wikipedia, WebText et des démos d’InstructGPT.