Les modèles d'IA générative créent constamment du contenu et le répercutent. Les entreprises ne semblent pas capables (ou désireuses) de faire face à ce qui est considéré comme la plus grande menace pour Internet.
C’était mieux avant !
Comme nous étions tous heureux avant 2023. Avant que les ChatGPT et les DALL-E n'entrent dans nos vies. Avant que leurs capacités « magiques » ne commencent à nous émerveiller pendant que ces IA étaient occupées à tuer Internet ! C'est du moins ce que pensent des analystes comme Ed Zitron. Selon lui, il se pourrait que nous assistions à la mort d'internet tel que nous le connaissions. Le pire, c'est qu'il dispose d'un argument de poids pour le croire.
Cet argument n'est autre que la façon dont l'IA générative est en train de tout contaminer. Elle a commencé à le faire en 2023, lorsque des images et des textes générés par des modèles d'IA comme celui d'OpenAI ont commencé à s'infiltrer dans les réseaux sociaux. Cela nous semblait merveilleux : la qualité de l'écriture de l'IA. Les images étaient superbes - tant qu'on ne lui demandait pas de dessiner des mains. Nous partagions ces créations sur Twitter, Facebook ou Instagram, et nous ne nous sommes pas rendu compte d'une chose importante : nous nourrissions un monstre !
Des modèles génératifs aux modèles dégénératifs
Aujourd’hui, nous le faisons toujours, mais nous le faisons aussi de plus en plus intensément. Le danger est que les modèles d'IA qui, jusqu'en 2023, ne se nourrissaient que de textes et d'images générés par l'homme, sont devenus cannibales. Ils mangent des données qu'ils ont eux-mêmes générées, se nourrissant à leur tour, encore et encore, dans un dangereux cercle vicieux. Une boucle infinie qui pourrait finalement aboutir à des modèles d'IA générative mutants très inquiétants.
I coined a term on @machinekillspod that I feel like needs its own essay: Habsburg AI – a system that is so heavily trained on the outputs of other generative AI's that it becomes an inbred mutant, likely with exaggerated, grotesque features. It joins the lineage of Potemkin AI.
— Jathan Sadowski (@jathansadowski) February 13, 2023
Bien sûr, ce n'est pas quelque chose que nous découvrons maintenant : il était clair que l'IA remplissait Internet de contenu. La question était de savoir ce qui se passerait lorsque l'IA se nourrirait de ce contenu. Jathan Sadowski, chercheur dans le domaine de l'économie politique des technologies de l'information, a pris de l'avance en février 2023, lorsqu'il a déclaré que « un système tellement formé avec les résultats d'autres IA génératives devient un mutant consanguin, probablement avec des traits exagérés et grotesques. »
Globalement, la situation devient inquiétante pour beaucoup, comme Ed Zitron, qui souligne que nous n'avons pas affaire à des modèles d'IA générative, mais à des modèles dégénératifs qui dégradent la qualité d’Internet. Le problème est que personne ne semble vouloir (ou pouvoir) arrêter la formation de cette boule de neige géante. Et le pire dans tout ça, c’est que même les grosses entreprises ne semblent s'attaquer à cette dynamique inquiétante. Enfin Google le fait un peu, mais comment vous dire qu'Internet et Google sont plus ou moins synonymes…