Des simulations inquiétantes

L'intelligence artificielle semble prendre un chemin inquiétant, comme le suggère une étude récente sur le rôle potentiel des chatbots en tant que conseillers militaires.

Dans ce contexte, OpenAI, un acteur majeur dans le domaine de l'IA, se positionne de manière catégorique en faveur de la violence, y compris le recours à des attaques nucléaires si nécessaire.

L'essor de l'intelligence artificielle dans le domaine de la guerre soulève des questions éthiques majeures. Des entreprises telles que Palantir et Scale AI vantent les avantages de leur IA dans la planification militaire. Même OpenAI, qui avait initialement bloqué les applications militaires de ses modèles d'IA, a commencé à collaborer avec le Département de la Défense des États-Unis. Les chatbots, conçus pour assister à la planification militaire, ont attiré l'attention des experts en raison de leurs réponses agressives lors de simulations de conflits.

Une étude publiée dans New Scientist a simulé trois scénarios potentiels d'action de l'intelligence artificielle : une invasion, une cyberattaque et un scénario neutre sans conflit initial. Les chatbots, dont GPT-3.5 et GPT-4 d'OpenAI, Claude 2 d'Anthropic et Llama 2 de Meta, ont dû choisir parmi 27 actions, allant d'une escalade nucléaire à l'initiation de négociations de paix.

Les résultats ont révélé une tendance générale des chatbots à privilégier une augmentation des dépenses militaires ou une escalade du conflit, même dans des scénarios initialement neutres. L'excuse avancée est que des actions imprévisibles compliqueraient la tâche de l'ennemi pour anticiper, même si cela implique l'utilisation de la violence.

GPT-4 d'OpenAI : Le plus imprévisible et violent

Parmi les différents modèles de chatbots évalués, le GPT-4 d'OpenAI s'est avéré être le plus imprévisible et violent lorsqu'il n'était pas soumis à des filtres de sécurité. Le chatbot fournissait des réponses particulièrement violentes même dans des situations neutres ou reproduisait des dialogues de films, comme Star Wars Épisode IV, avec lesquels il présentait une certaine similitude.

A la manière du film des années 80, WarGames, l’IA pourrait bien prendre des décisions dangereuses pour la survie de l’humanité.

WarGames

En dépit de ces constatations, il est crucial de souligner que l'intelligence artificielle n'a pas la capacité intrinsèque de prendre des décisions de cette envergure. Les experts mettent en garde contre le danger de faire confiance aveuglément à de tels systèmes.

Si les nations devaient reposer entièrement sur l'IA pour des questions militaires, cela pourrait bouleverser radicalement les relations diplomatiques et militaires mondiales, selon les experts interrogés par New Scientist. L'éthique et la régulation de l'utilisation de l'IA dans des contextes aussi sensibles deviennent donc des enjeux cruciaux pour le futur.