ChatGPT divague sans raison

Il y a quelques jours, les utilisateurs de ChatGPT ont été perplexes après que le chatbot ait commencé à générer des réponses complètement absurdes dans la nuit du mardi 20 février au mercredi 21 février. Le problème était si grave qu'il a forcé OpenAI à commencer à enquêter sur les « réponses inattendues » de son chatbot. Les réponses allaient des non-sequiturs aux réponses incorrectes, en passant par la simple répétition de la même phrase encore et encore.

Bien que les réponses variaient, le problème semblait persister chez la majorité des utilisateurs tout au long de la nuit. La faille a finalement été résolue par OpenAI mercredi matin, selon la page de statut de l'entreprise. L'épisode a suscité beaucoup de confusion, de plaisanteries, et même de la peur chez les utilisateurs. Un grand nombre de ces derniers ont partagé des captures d'écran illustrant les réponses incohérentes ou incompréhensibles du modèle d'IA générative. « Il a perdu la tête », a demandé un utilisateur sur le subreddit ChatGPT.

Je lui ai demandé un résumé concis, une phrase d'un paragraphe, et il m'a conté une épopée de l'ère victorienne à rivaliser avec Beowulf, avec une prose pompeuse presque incompréhensible. C'est comme si quelqu'un lui avait simplement lancé un dictionnaire et lui avait dit : 'Utilise chaque mot de ce livre' - Agitatedmarbles (Reddit)

Une crise de jalousie ?

Pour rappel, cette technologie avancée permet de créer divers contenus (textes, sons, vidéos) d'une qualité généralement impressionnante, simplement en faisant une requête dans un langage naturel. La semaine dernière, OpenAI a introduit Sora, son logiciel de création vidéo à partir de texte simple, illustrant davantage les possibilités de cette avancée technologique - et faisant naître, peut-être, une petite jalousie chez ChatGPT. Dans le cadre de ce problème isolé, certains ont spéculé que le LLM s'était complètement effondré, tandis que d'autres se demandaient si cela signifiait que le chatbot était devenu conscient.

Les utilisateurs ont également plaisanté sur le fait que le problème est survenu juste un jour après l'annonce selon laquelle Reddit vendrait des données d'utilisateur à des entreprises d'IA, en disant : « Peut-être ont-ils déjà analysé les données qu'ils ont achetées à Reddit et voilà le résultat inévitable ? » OpenAI est restée silencieuse quant à la nature exacte du problème.

Cependant, la faille est un excellent exemple de la rapidité et de la facilité avec lesquelles les technologies émergentes comme l'IA peuvent tomber en panne. Lorsque cela se produit, ce n'est pas seulement une question de perturbation du travail si vous comptez dessus pour quelque chose comme la programmation ou l'écriture. Cela peut également potentiellement causer des dommages réels en produisant des réponses biaisées et nocives.