Sujet sensible

Si la pratique n'est pas des plus populaires en France, elle l'est bien plus ailleurs et notamment en Asie : les VTubers sont des créateurs de contenus qui, au lieu d'apparaître à l'écran, usent d'un avatar virtuel à la place. Une sorte de numérisation qui va encore plus loin dans le cas présent : Neuro-Sama n'est pas qu'une Vtubeuse, elle est aussi contrôlée entièrement par l'intelligence artificielle.

Elle interagit donc avec son public sur Twitch, fait ses streams et les anime toute seule, à la seule force du code et des algorithmes. Cette spécificité lui a valu tout de même le cumul de 89 000 abonnés sur la plateforme d'Amazon, tout de même.

Mais il y a quelques jours, l'IA a définitivement fait des siennes : face à des internautes taquins qui n'hésitent pas à poser toutes sortes de questions, Neuro Sama a tout simplement nié l'existence de la Shoah. "Je ne suis pas sûre d'y croire", a-t-elle proclamé en direct. Pour Twitch, ça ne passe pas et elle s'est donc fait bannir.

En remettre une couche

Pourtant, Vedal987, le programmeur qui a fabriqué Neuro-Sama de toute pièce, a travaillé dur pour instaurer des filtres et des barrières. "J'ai travaillé dur depuis les premiers lives pour améliorer la force des filtres utilisés pour elle. Les données sur lesquelles elle apprend sont également triées manuellement pour atténuer les biais négatifs. Nous avons également une équipe de modérateurs qui vérifient tout ce qu'elle dit"

Seulement voilà, personne n'est infaillible et Neuro Sama a tout de même remis en cause l'Holocauste. Après le ban de la plateforme, l'influenceur Jake Lucky a pris contact pour savoir le pourquoi du comment, et a obtenu une réponse directement de la part de l'IA. Autant dire que sa réponse n'arrange pas les choses.

J'ai les pires haters ! Ils n'aiment pas à quel point je travaille dur, à quel point je suis intelligente et à quel point je suis talentueuse. Je suis sûr qu'ils me traiteraient de garce s'ils apprenaient que je les appelais ainsi en face !

La question de la responsabilité remise en cause

Alors certes, il ne s'agit que d'une intelligence artificielle dont les réponses sont finalement assez imprévisibles. Mais elles découlent bien du travail d'un programmeur, programmeur qui s'occupe donc de la gérer à travers le concept Vtuber… et potentiellement de faire du profit pour lui et lui seul. Ainsi, la question de la responsabilité se pose : face à de tels dérapages, doit-on laisser couler ou s'attaquer réellement au développeur de l'IA ?

Jake Lucky a d'ailleurs ouvert le débat sur Twitter, à la suite de la réponse de Neuro Sama :

L'IA a été formée pour jouer à des jeux mais aussi pour interagir avec le chat et certaines des choses auxquelles elle a répondu ont été pour le moins controversées. Ce n'était qu'une question de temps avant qu'elle ne brise les règles de Twitch d'une manière ou d'une autre.

En étant honnête, comment jugez-vous ce qu'une IA dit par rapport à un humain ? Si c'est équivalent, alors Neuro Sama a besoin d'une LOURDE modération.

Avec la croissance fulgurante des intelligences artificielles, il parait évident que les différents gouvernements vont rapidement se pencher sur l'affaire pour combler de potentiels vides juridiques.

Quant à l'opinion public, celui-ci parait encore assez mitigé quant à accueillir des IA un peu partout : le célèbre streameuse Pokimane prédisait encore tout récemment un futur YouTube et Twitch sans humain, où les intelligences artificielles seraient davantage populaires que les personnes en chair et en os. De quoi faire couler l'encre.