Le développement de l'intelligence artificielle bat son plein, mais devant tous les avantages qu'elle peut apporter, il y a aussi les problèmes potentiels qu'elle peut engendrer. Un groupe d'experts en intelligence artificielle a voulu influer sur ces risques, et l'a fait de manière très particulière.
Un message de 22 mots qui fait peur
Alors que la série Black Mirror revient pour une saison 6 très prochainement, des experts éminents en intelligence artificielle ont partagé ce mardi 30 mai, un message d’avertissement très concis sur un risque d'extinction. Le Center for AI Safety est une ONG dont l'objectif est de « réduire les risques sociétaux posés par l'IA ». Le « Statement on AI Risk » a été publié sur le site internet officiel et réunit divers experts en IA, universitaires, journalistes et régulateurs. Tous ont voulu mettre en garde contre les dangers de développer cette technologie de manière inappropriée, et pour cela, ils ont utilisé un message percutant de seulement 22 mots (27 dans sa traduction française) :
L'atténuation du risque d'extinction lié à l'IA devrait être une priorité mondiale, au même titre que d'autres risques sociétaux tels que les pandémies et les guerres nucléaires.
Parmi les signataires figurent Geoffrey Hinton (ancien de Google), Yoshua Bengio (Turing Award 2018), Demis Hassabis (PDG de DeepMind), Dario Amodei (PDG d'Anthropic), Kevin Scott (Directeur des nouvelles technologies de Microsoft), Bruce Schneier (l'un des plus grands experts en cybersécurité) ou encore Sam Altman (PDG d'OpenAI). Bien sûr, ce ne sont pas les seuls à avoir approuvé ce message, puisque tout expert peut rejoindre la déclaration sous la forme proposée sur le site Web du Center for AI Safety.
L’IA est-elle une réelle menace pour l’humanité ?
Dans ces 22 mots, le groupe de spécialistes souligne la nécessité de prendre des précautions pour éviter une extinction potentielle de l’humanité. Au travers de ce message, les experts ont exprimé leur inquiétude quant à la façon dont l'IA pourrait évoluer au-delà du contrôle humain, mettant ainsi en péril notre existence à tous. Cette déclaration simple, mais puissante, souligne l'urgence d'une réflexion approfondie sur le développement et l'utilisation de l'IA. Elle invite les chercheurs, les décideurs et la société dans son ensemble à travailler main dans la main pour garantir que l'IA soit développée de manière sûre et responsable.
Sam Altman, PDG d'OpenAI
Les experts soulignent également l'importance de la recherche continue dans le domaine de l'IA pour mieux comprendre les implications potentielles et les risques futurs. Ils insistent sur le fait que nous devons prendre au sérieux les avertissements de la communauté scientifique afin d'éviter des conséquences indésirables. Au-delà de ça, il est important de rappeler que l'IA présente un potentiel immense pour améliorer notre monde, mais qu’elle doit aussi être développée et utilisée de manière responsable pour éviter un éventuel risque d'extinction.