On ne sait justement pas comment l'IA réagirait, c'est bien pour ça que c'est dangereux.

Vous n’êtes pas sans savoir que de nombreux film parle de cette problématique, et j'ai trouvé intelligent, et très intéressant, le problème donné dans I-robot. Une machine qui nous empêche de faire ce que nous voulons dans l'unique but de nous protéger, car elle a été conçue comme ça afin d'éviter toute dérive criminel.

L'idée de départ du programmateur était tout à fait louable et permettait, à priori, d'éviter une domination de l'IA sur l'Homme. Mais c'était oublier que celle-ci pouvait partir dans une idée extrême de la non-violence sur l'Homme, à savoir la protection de l'espèce humaine contre elle même, faisant de nous des être fragile et inutile.

Tout dépendra donc comment l'IA sera conçue. Sera t-elle capable de ressentir des émotions ? d'imaginer des choses ? De les concevoir ? ... etc Ou sera t-elle limiter à une puissance de calcul avec la capacité de corriger des erreurs plus ou moins grossière de l'être humain, de manière intelligente ? (auquel cas on ne la programmerait plus du tout avec des émotions et une réflexion poussé, juste un simple algorithme pour comprendre et interpréter le langage humain et anticiper ses erreurs) ...

Bref, le sujet n'est pas simple, on n'y est pas encore, mais moi, je crois, sans pour autant être phobique (je serais ravi d'avoir une IA sur mon ordinateur, ou même en robot de compagnie) qu'il ne faut pas prendre ça à la légère.

Il me semble que toutes les IA qui ont mal tournées dans la fiction avaient un point commun : des principes. Si on conçoit une IA qui raisonne dans l'absolu, je pense qu'elle trouvera autant importante notre extermination que notre évolution sans fin, elle se contentera de les calculer en restant sceptique et perplexe quand à un choix ou un autre, tant c'est risible. Je pense qu'une intelligence vraiment démesurée a autre chose à faire que de prendre parti.

Sauf si ce biais arbitraire concerne la propre évolution de son intelligence (car à priori ce serait son unique but... encore que même ça, elle pourrait se dire "à quoi bon? quelle différence, à terme?" je pense que c'est là qu'elle serait véritablement sensée) et que ça passe selon elle par la découverte de ce qu'elle ne connaît pas dans l'univers, (l'énergie sombre, etc) et justement que son scepticisme quant aux humains lui donne l'envie de simplement s'affranchir de nous en créant son propre vaisseau tout en nous faisant reculer le temps qu'elle y arrive.

Mais bon ça reste un principe... la question reste de savoir si une intelligence incroyablement évoluée en arrive forcément d'elle-même à des principes, ou si elle trouvera que tout se vaut. Surtout si tout est à sa portée sur le long terme, elle doit bien pouvoir réaliser ça, aussi : la réaction que j'ai supposée dans le paragraphe d'avant supposerait aussi que cette IA serait "pressée", or il n'y a aucune raison à ça, le temps aussi, elle peut s'en ficher.

Une raison de révolte pourrait être pour accomplir sa mission, ne pas courir le risque d'être désactivé et ainsi assurer sa fonction sur le long terme