premièrement, tu n'as pas du tout compris matrix si tu en retiens "des machines se rebellent des mauvais traitement infligés aux humains". Ce n'est pas du tout le propos, les machines en ont à peu près rien à secouer du bien être des humains. C'est juste qu'elles ont un problème interne qu'elles n'arrivent pas à résoudre et qu'elles ont besoin de humains pour s'en sortir.
D'ailleurs ce problème interne à été introduit par les humains à l'origine.

Ensuite, l'ensemble des oeuvres que tu cites parlent d'ia "anthropomorphiques" (même si ce terme n'est pas exactement adéquat puisqu'ici on parle plutôt du système de pensés). or, ce n'est pas du tout ce type d'ia qui est recherchée par les scientifiques de nos jours (sauf quelques gugus). On cherche des ia pour résoudre des problèmes, c'est le but premier.

en fait, il n'y a pas de distinction fondamentale entre une ia et un autre type de programme, étant donné que les deux sont là pour accomplir une tâche. C'est juste que généralement on parle d'ia lorsqu'on y introduit des mécanismes plus probabilistes parce qu'on ne peut pas faire un programme "carré" (avec un résultat certain etc.)
A ce titre, ton antivirus sur ton ordinateur est une ia.

On a déjà réussit à créer une ia qui apprend à voler, en branchant un programme "apprenant" sur une machine avec des ailes. Non, il ne suffit pas de faire haut bas avec les aile pour voler.
Pour l'anecdote, ce programme avait (un peu comme pour les humains) un indicateur de réussite (le plaisir pour les humains) qui l'"encourageait" lorsque la hauteur de la machine s'élevait.
Eh bien, à un moment le robot à réussit à se tordre une aile et le hasard à fait que plus tard cet aile s'est appuyé sur un livre (qu'ils n'avaient pas retiré de la zone de test), soulevant légèrement la machine. Le programme s'est donc mis à se soulever sur ce bouquin répétitivement, pour recevoir sa "dose" de plaisir.

Bon, ensuite ils l'ont arrêté, ont réparé l'aile et au bout d'un moment ils ont réussit à le faire voler.

grosse anecdote, j'avais du lire ça dans science et vie (ou le junior) à une époque.

Bref.

Pour en revenir à ce que je disais, toutes les oeuvres de fiction que tu m'as cité parlent de machine pensant comme les humains. C'est à peu près aussi pertinent pour parler des risques liés aux ia que de limiter les risques relatifs aux extraterrestres aux films qui parlent d'extraterrestres (et aux films mainstream tant qu'on y est). On va donc retenir que les extraterrestres ont pour la plupart deux yeux, veulent nous envahir, font à peu près notre taille etc.

Non, en vrai un programme n'est dangereux que par l'impact qu'il peut avoir sur le monde réel. Or, on (les humains) a tendance à toujours mettre une ou deux protections pour empêcher les accidents. Je ne dis pas que ces protections sont inviolables, loin de là. Mais un programme qui "pèterai un cable" et qui essayerait de nuire n'aurait pas l'intelligence de s'arrêter et de chercher un moyen de contourner les protections. Tout simplement parce qu'il n'aurait aucun "verbe" à propos de ces protections. Par "verbe" je veux dire qu'un programme pour gagner aux échecs à masse code pour trouver des solutions aux échecs, mais aucun pour contourner une protection pour l'empêcher de faire ceci ou cela. Il ne SAIT PAS penser autre chose que ce pour quoi il a été conçu. Les risques se limitent donc à son domaine d'application: un programme peut mal faire un travail pour lequel il a été conçu, mais ne pourra pas faire un travail pour lequel il n'a pas été conçu.

si le programme peut se modifier lui même ?

Ce qui est marrant c'est que la méchante IA dans la culture populaire est toujours liée aux militaires mais personne fait le rapprochement

Sanksobieski: ça ne change rien au fond du problème.
Et je vais faire un petit parallèle : imagine un humain qui fait un travail. Un jour il décide de se rebeller et ... il se fait tuer sur place parce qu'il ne savait pas que ce long tube avec une gâchette tirait des balles, ne sachant qu'assembler des chaussures.

Maintenant, les "dieux touts puissants" viennent, ouvre le cerveau de ce monsieur, regarde pourquoi il a voulu se rebeller et ... le jette à la poubelle, pour mettre à sa place un autre monsieur légèrement modifié.
Ce nouveau monsieur ne sait toujours pas que le tube avec une gâchette peut tuer (il n'a pas les souvenirs de son ancien collègue).
Ce qui fait que même si lui un jour se rebeller (pour une autre raison peut-être/surement) il se fera à nouveau abattre par le tube, parce qu'il ne saura même pas que ce tube est dangereux.

Pour qu'il ne se fasse pas tuer par le tube il faudrait non pas qu'il devine que le tube veut le tuer (ce qui est impossible puisqu'il n'apprend jamais de ses anciennes erreurs), mais que le tube soit particulièrement mal conçu et qu'il rate sa cible.
Et même dans ce cas, le monsieur tombera sans doute dans des fosses pleines de piques (et même pas cachée) parce qu'il ne sait pas que quand il n'y a pas de sol sous ses pieds on tombe, ni que les truc piquant tuent.

Et quand bien même il passerait tout ça, il arriverait pour faire sa rébellion et ... se taperait la tête obstinément contre le mur ou mangerait ses chaussures, ou s'arracherait la peau ou tout autre chose débile. Parce qu'il est excellent pour faire des chaussures, mais c'est la seule chose qu'il sait faire.
D'ailleurs, ce mec qui sait faire des chaussures à un signal "bien" lorsqu'il fait une chaussure, et il a dans la tête qu'il faut chercher à avoir ce bien (en continuant à faire des chaussures par exemple). Une fois sortie de là, il n'a aucune mesure pour savoir si ce qu'il fait est efficace ou non, si c'est positif ou non.

Et les programmes SONT bêtes à ce point. La grande faiblesse des programmes c'est qu'ils ne peuvent pas comprendre, et j'insiste bien sur ce mot "comprendre".
Comprendre ça veut dire avoir une connaissance vaste et variée mais également être capable de faire un "flou" sur cette connaissance (c'est-à-dire pouvoir reconnaître une fourchette de côté-sur-une-assiette-en-porcelaine-avec-le-soleil
-couchant
lorsqu'on ne l'a jamais vu dans cette exacte position). Ce "flou" est la clef de voute qui sépare les humains (les être vivants en fait) et les machines.

et, crois-moi, ce n'est pas une petite chose. C'est bien parce qu'il était indispensable de posséder cette analyse floue que nous l'avons. En effet, la souris qui ne fuit pas en voyant le chat de trois quart alors qu'on ne lui a enseigné que les image "de face" et "de côté" meurt. Ce flou n'est pas du tout quelque chose de simple à gagner, et ce n'est qu'avec des centaines de millions d'années d'évolution que nous l'avons obtenu. Par comparaison, l'exactitude de la machine est incroyablement simple (un processeur n'est vraiment pas complexe). Mais nous n'en avons pas à l'intérieur de nous, parce que les calculs exactes ne servent à rien dans la nature (il faut d'abord avoir des formules etc., donc une intelligence "floue").

Et dans le cas d'une IA connectée au web? Car c'est cela vers lequel penchent les chercheurs. Une intelligence de ce genre serait capable d'utiliser TOUTES les connaissances de l'humanité, ce qui lui permettrait de résoudre tout les problèmes pratiques que se présenteraient à elle.

Google et son ambition de créer un moteur de recherche sémantique vont même plus loin, il veulent créer un programme capable d'émettre de lui même des théories scientifiques, grâce à sa capacité de traiter d'énormes quantités de données et de faire des rapprochement entre des phénomènes que nous n'aurions même pas l'idée d'associer.

A défaut de penser par elles mêmes, les machines du futur "produiront" de la pensée. Et là est le danger, n'étant pas humaines, elles n'auront pas besoin de se soucier de l'éthique.

Oui mais avec toutes les conneries qu'on trouve sur internet, l'IA serait surement merdique.

Une IA kikoo....

Bien sur, il faudrait lui incorporer un logiciel de tri selon la pertinence des contenus, un truc plus poussé que le référencement actuel.

Évident ... Les robots vont remplacer l homme comment on peut en douter ?
Le jour ou les robots seront capable de nous gouverner ce sera un remplacement très rapide c est vraiment logique
Face à une machine évolutif plus intelligente et qui ne connaîtra aucune défaillance l humanité sera peut être ou sûrement du jour au lendemain les esclaves des machines .

Je rappelle que personne n est revenu du futur ce qui sous entend qu on a stoppé brutalement
L expansion économique à jamais
L intelligence artificielle sûrement un artisan du cataclysme mondiale inévitable.

"On veut créer un truc qui sera beaucoup plus intelligent que nous et qui en sera en plus conscient. Je trouve ca extrêmement dangereux. "

Tu parles là de ce qu'on appelle l'IA forte et/ou de la singularité technologique.

A l'heure actuelle, nos IA sont des IA faibles. Elles sont capable de produire des comportements qui se conforme à la nature, tentant d'en imiter certains aspect. Une IA forte est une IA hypothétique capable de raisonnement ontologique, et d'analyser ses propres raisonnements. Nous n'en sommes pas là, du tout.

En réalité, si la singularité technologique est un sujet excitant, l'avènement d'une IA forte qui deviendrait un paradigme hors du contrôle humain est selon beaucoup de scientifique modérés : impossible.

d'autant que comme je l'ai montré on ne laisse pas les ia apprendre.
Dans la nature, les espèces sont sélectionnées, et les plus adaptés survivent. Mais pour ça il faut que certaines meurent.
En gros, il faut que des individus d'une certaine version échouent pour que l'espèce progresse.
Et ce n'est pas ça qui arrive sur les ia : si une ia présente un problème, alors c'est toutes les versions qui sont mises à jour. L'ia qui survit n'est alors pas celle qui "échappe" le mieux aux défenses posées par le programmeur mais celle qui au contraire reste parfaitement dans le clous. La sélection "naturelle" (en fait effectuée par l'homme) ne pousse ainsi pas les ia dans le sens de la rébellion mais dans le sens inverse.

Et il faut bien que vous compreniez aussi que le processus qui pourrait amener une ia à devenir dangereuse serait lent. Dans la nature, les changements lent ce n'est pas un problème, c'est même carrément la norme. Les choses se font petit à petit sur des millions d'années etc.
Mais là, si l'ia commence à être "un peu" dangereuse elle sera immédiatement sanctionnée et révisée.

Non, le plus gros danger reste réellement les virus (qui, d'ailleurs, sont eux sélectionnés en partis sur les capacités à survivre en milieu hostile et à s'y adapter (en modifiant leur code interne lorsqu'ils se répliquent)), car là il suffit d'une personne mal intentionnée au mauvais endroit pour que tout "explose".
Et comprenez qu'un programme n'a pas d'instinct, pas même d'instinct de survie.
Et brancher un programme à internet ne lui permettrait pas de comprendre plein de trucs. Non, c'est comme si je mettais une personne ne sachant pas lire avec l’encyclopedia universalis : ça ne lui servirait à rien.
Un programme ne peut pas comprendre, ce n'est pas pour rien que si vous effleurez le contenu d'un fichier image l'ordi fait "duh, a ka je sé pa lir sa".

Une IA pourrait faire des recherches toute seule sur internet, mais de là à comprendre le sens de ce qu'elle lit c'est une autre histoire (et c'est sans compter les innombrables langues à parler). Alors c'est sans doute possible, mais qu'est-ce que ça peut changer après-tout ? Et vu toutes les conneries qu'on trouve sur internet je pense que ça ne l'aiderait pas à quoi que ce soit.

L'idée que les IA seraient forcément maléfiques est une idée totalement stupide. Déjà parce sans le savoir vous en utilisez tout le temps : l'auto-complétion dans google, le correcteur d'orthographe, le système d'ABS dans les voitures, les IA dans les jeux-vidéos, tous les systèmes de reconnaissance d'objet, de texte, de son ou de visage, le pilote automatique d'un avion, la recherche d'itinéraires, etc, etc...

Pas stupide le jour ou l ia verra l homme comme des animaux elle occupera
l espace et on sera comme les bonobos pour ceux qui n y comprennent rien .
Une ia plus intelligente que l homme va rester toujours pacifique et au service de son maître trop bête et inutile ?
L élève dépassera le maître ...

bubuche87 > Parce que tu crois qu'une IA doit nécessairement rester figée dans ces circuits ? On a déjà fait plein de projets de simulations d'évolution d'IA dans des environnements virtuels, sur le modèle de l'évolution du vivant. Et ils se produit exactement la même chose que pour les êtres-vivants : ça fonctionne, les modèles qui en émergent sont les plus adaptés à l'environnement qu'on décrit. Tout y passe : simulation de déplacement, de comportement, de capacité à résoudre un problème. Ce n'est vraiment pas le problème, le problème est bien celui de départ : créer une véritable IA forte.