Pour celles et ceux qui ne connaissent pas l’émission (ce qui ne serait pas une surprise, celle-ci étant avant tout destinée à un public anglophone), il s’agit d’un programme généré par une IA et qui reproduit un spectacle de stand-up. Nothing Forever, c’est son nom, fait un véritable carton et il aura suffit de quelques messages sur la plate-forme Reddit pour que son audience explose. Inspirée par la sitcom légendaire Seinfeld, l’émission a été marquée par les commentaires d’un Jerry Seinfeld virtuel qui ne sont pas passés auprès de nombreux spectateurs.

Dans la foulée, ce qui devait arriver arriva : Twitch a décidé de bannir purement et simplement le programme !

Des propos qui conduisent au bannissement de Nothing Forever sur Twitch

Au cours d’un sketch, le modèle 3D de Jerry Seinfeld a lancé une série de commentaires qui ne sont pas du tout passés et ont été jugés transphobes :

Je pense faire un article sur le fait qu’être transphobe est en réalité une maladie mentale. Ou que tous les libéraux sont secrètement homosexuels et veulent imposer leur volonté à tout le monde. Ou quelque chose sur la manière dont les personnes transgenres ruinent le tissu social.

La séquence indigne de nombreux spectateurs et n’entraîne que peu de rires. L’IA conclu par :

Mais personne ne rit, alors je vais m’arrêter. Merci d’être venu ce soir. À la prochaine fois. Où est passé tout le monde ?

Pour Twitch, ce dérapage a justifié une suspension temporaire de deux semaines (pour le moment). Les instances de la plate-forme de streaming ont estimé que celle-ci ne pouvait se permettre de tels propos et on se doute qu’elle agira de la même manière – voire plus durement – si cela devait se reproduire. Dans la foulée de cette diffusion, les développeurs de Nothing Forever ont martelé que les propos de l’IA ne reflétaient pas leur opinion et que ces dérapages ont été causés par des problèmes d’IA.

Interrogé par le site Vice, ils ont ainsi expliqué que le changement de modèle d’IA a eu des répercussions négatives et il va sans dire qu’ils feront tout pour éviter de futurs déboires.

Nous avons commencé à avoir une panne en utilisant le modèle Davinci GPT-3 d’OpenAI, qui provoquait des comportements erratiques durant le spectacle. OpenAI a un modèle moins sophistiqué, Curie, qui était le prédécesseur de Davinci. Lorsque Davinci est tombé en panne, nous sommes passés à Curie pour essayer de maintenir l’émission sans temps mort. Le passage à Curie est à l’origine du texte inapproprié qui été généré.

Cet exemple démontre une nouvelle fois que l’IA peut conduire à des dérives. Les spectateurs de Nothing Forever, quant à eux, vont devoir patienter en espérant que leur programme revienne à l’issue des deux semaines de suspension. Car pour l’heure, rien n’est décidé.