Une IA vous parle et vous met en garde au cœur de San Francisco

Un écran à l'entrée du Misalignment Museum accueille les visiteurs avec la phrase que nous avons choisie comme titre de cet article : "Désolée d'avoir détruit l'humanité". En anglais, cela donne "Sorry for killing most of humanity".

Au sein du Musée du Désalignement de San Francisco, une grande exposition autour des IA fait parler d'elle. L'information a même été reprise par l'AFP (Agence France Presse). On comprend facilement cet engouement : les avancées technologiques qui entourent les IA font peur au grand public. Poussant le trait jusqu'à la parodie, l'exposition dépeint un monde dans lequel des IA surpuissantes et sans morales sont devenues incontrôlables.

La commissaire de l'exposition, Audrey Kim, résume très bien l'idée. Elle déclare : "Le concept du musée est de placer le visiteur dans un monde post-apocalyptique dans lequel une intelligence artificielle a déjà détruit la majeure partie de l'humanité. Par la suite, elle se rend compte du poids moral de ses actions et décide de créer une sortie de mémorial à la disparition de l'humanité". L'exposition serait alors une sorte d'immersion au sein de ce mémorial.

En ce moment, tous les médias se mettent à parler d'Intelligence Artificielle, un terme flou, qui couvre énormément de réalités différentes. Il y a un écart énorme entre une Intelligence Artificielle Générale (ou IAG, se dit d'une IA capable d'égaler voire de surpasser l'humain dans toutes les tâches cognitives dont nos cerveaux sont capables) et une IA comme Siri par exemple.

Une IAG surpuissante ayant atteint la fameuse Singularité, donc capable de penser par elle-même, reste un concept de science-fiction. Peut-être que certain(e)s d'entre vous pensent que nous nous en approchons avec ChatGPT. Au risque de vous décevoir, le bébé d'OpenAI a beau être un outil impressionnant pour un public non-initié, il n'en reste pas moins qu'un simple modèle de langage.

Alors, toute cette histoire de mémorial n'est-elle qu'un délire d'artistes qui jouent sur nos peurs ? Qu'un bon gros coup de com ? Pas vraiment. Même si nous sommes loin des fantasmes de SF, il y a tout de même de bonnes raisons de craindre l'ère des IA.

La peur des Intelligences Artificielles est-elle rationnelle ? Oui

San Francisco se situe en plein cœur de la Silicon Valley, là où certaines des entreprises d'IA les plus performantes du monde mènent une course effrénée à l'IA forte. Une IA forte est une IAG capable d'émettre ses propres réflexions et même d'éprouver des sentiments. Pour le moment, nous en sommes assez loin, mais ce petit milieu se rapproche chaque jour un peu plus de son dangereux Graal.

Selon de nombreux experts en Intelligences Artificielles, comme Lê Nguyen Hoang, il est urgent de s'intéresser aux valeurs morales à coder dans les IA du futur. Bien faite, une IA peut être incroyablement bénéfique à l'humanité selon Sam Altman, fondateur d'OpenAI. Mal gérée, cette même IA aurait un pouvoir de destruction massif.

L'exposition dont nous parlons aujourd'hui invite ses visiteurs à participer à plusieurs expériences de pensée afin que des personnes non-expertes comme vous et moi puissent mieux comprendre les enjeux qui entourent le développement des intelligences artificielles. L'œuvre préférée d'Audrey Kim est une sculpture appelée « Paperclip Embrace ». Elle représente deux bustes d'humains se tenant l'un l'autre, entièrement faits de trombones.

Cette œuvre est une référence évidente au travail du philosophe et auteur de SF Nick Bostrom. Dans les années 2000, Bostrom a imaginé ce qu'il se passerait si une IA surpuissante codée sans aucune valeur morale avait pour seul objectif de maximiser la production de trombones. Spoiler : cette IA pourrait conduire à la fin du monde.

Puisque nous sommes sur jeuxvideo.com, nous en profitons pour vous conseiller un excellent jeu gratuit sur navigateur, lui aussi créé autour de l'expérience de pensée des trombones de Nick Bostrom. Si vous avez une heure ou deux à tuer, essayez Universal Paperclips ! On vous promet que ce n'est pas un placement de produit, mais une simple recommandation.

Tout comme Paperclip Embrace, chaque œuvre exposée actuellement au Misalgnment Museum invite à la réflexion autour d'une des problématiques que posent les intelligences artificielles. Ainsi, on peut retrouver des travaux, entre autres, sur :

• Les choix moraux que devront effectuer les véhicules autonomes (une voiture qui se conduit seule doit-elle protéger son passager avant tout, quitte à tuer des gens ? Toutes les vies se valent-elles ? Il s'agit de questions hautement philosophiques).
• L'impact des modèles de langage comme ChatGPT sur les arnaques ou la propagande politique.
• L'arme de désinformation de masse que représentent les deep fakes, ces imitations plus vraies que nature de visages et de voix.

L'objectif de la commissaire est de rendre permanente cette exposition en y installant fréquemment de nouvelles œuvres. Les IA posent de nouveaux défis philosophiques presque tous les jours : a priori, il y aura toujours de la matière !