Ravi de voir que nous nous comprenons enfin andy

Dans l'ordre du plus intéressant au moins intéressant :

"Si l'homme crée la meilleure IA(1) qu'il puisse créer à un instant t, et que cette IA(1) crée elle-même une autre IA(2), cette dernière sera forcément technologiquement hors de portée pour l'homme."
Relis bien Wikipedia il n'est jamais écrit ça, tu le reformules très mal (et comme on disait en prépa "formule mal formulée... formule mal comprise).
Tu oublies des conditions importantes dans ta phrase qui la rendent alors entièrement fausse :
1) En quoi la meilleure IA que l'homme puisse créer lui serait supérieure ?
2) Si tel était le cas, en quoi celle-ci deviendrait hors de portée ? ie. non rattrapable et avec une "croissance d'intelligence" supérieure à celle de l'homme ?
Encore une troisième fois, ne confondez pas croissance et divergence.

Donc voilà. Je ne dis pas que ce n'est pas possible, je dis que tes arguments sont logiquement instables. Je cherche tout de même toujours un moyen de voir le rapport entre l'intelligence et le nombre de teraflops. Il n'y a vraiment aucun rapport. Depuis quand un ordi "réfléchit" avec la rapidité de son processeur ? N'importe quoi. Je peux t'assurer que la machine de Turing est aussi intelligente que le dernier Intel SUPREME MEGA X de la mort... Elle était juste moins rapide, that's all.

Plus secondaire car loin de faire avancer le débat : pour ce qui est des "je crois" mêlé à des "ça a été démontré" voilà les phrases qui me choquent :
1. "La "singularité technologique" est, je pense, un palier de l'évolution humaine auquel nous n'échapperons pas si nous sommes toujours là dans quelques centaines d'années."
Rien à dire. C'est une phrase de la plus stricte opinion et croyance personnelle.

2. "Il y a peu, avec l'informatique, il a inventé "l'IA". L'intelligence artificielle, qui ne connait, à priori et théoriquement, aucune limite."
Qui a dit ça ? Où ça a été vérifié ? Depuis quand on établit des conclusions sur des a priori ? On établit des conjectures, qui pour certaines peuvent mettre jusqu'à des siècles pour être enfin démontrées... Mais on a jamais démontré quoi que ce soit avec une simple conjecture si ce n'est un nouveau chemin à découvrir ou combler dans la science. Voilà pourquoi je disais la croyance guide mais ne prouve pas.
Donc oui tu ne le dis pas explicitement mais ça le sous entend grandement quand même.
Qui plus est ce genre de phrase ne sert à rien tu l'auras bien compris, car tout aussi faussement vrai : a priori, l'intelligence connait une limite...
Je sais que l'on a tendance à s'égarer dans l'esthétisme de l'infini mais vous savez, démontrer que quelque chose converge ou diverge c'est de la même teneur et difficulté mathématique.

3. "Dans "Hypérion" de Dan Simmons, qui je trouve, propose un univers très plausible"
Opinion.

4. "Mon avis est, pour l'instant et pour beaucoup de bonnes raisons, que ça nous arrivera un jour où l'autre."
Opinion + où sont ces raisons que tu avances ? (On appelle ça un combot dans Tekken )

5. "En gros : "Je crois l'humanité capable de ça, mais il ne faudra pas le faire"
J'aime pas les gros.

Voilà. Ce genre de phrases (presque toutes dans le premier post) ont le mérite de n'avoir aucun fondement et de ne pas jeter les bonnes bases pour le débat (ou alors allez sur paranormal, on adore les opinions là bas). Que doit-on faire ? Se taire ? Fermer sa gueule ? Tu veux que je fasse quoi chapix ? Que je fasse comme l'arroseur arrosé et que je lui réponde juste "non car je pense que c'est faux". Génial. Faisons avancer le débat mais pas les idées...

PS : Dans l'éventualité où une forme d'intelligence supérieure à l'homme naitrait un jour je vous rappelle qu'une machine c'est comme les hommes... Ca se détruit facilement (qui plus est quand on est seul contre tous).

Relis bien Wikipedia il n'est jamais écrit ça, tu le reformules très mal :

Wikipédia, définition de la singularité :
(...)Pour beaucoup, il est question d'intelligence artificielle quelle que soit la méthode pour la créer. Au-delà de ce point, le progrès ne serait plus l’œuvre que d’Intelligences artificielles, elles-mêmes en constante progression.

... je veux bien que tu reformules alors, si tu trouve que je le fait mal.

"Je cherche tout de même toujours un moyen de voir le rapport entre l'intelligence et le nombre de teraflops"

Je n'ai jamais parlé de ça. Et je trouve celà ridicule aussi, rassures-toi.

"Plus secondaire car loin de faire avancer le débat :"

Il n'y pas réellement de débat. La question est s'autorise-t-on à extrapoler ou pas ?

"Mon avis est, pour l'instant et pour beaucoup de bonnes raisons, que ça nous arrivera un jour où l'autre."

J'ai déjà changé d'avis, mais je ne l'exclu pas pour autant.

"Je crois l'humanité capable de ça, mais il ne faudra pas le faire"

Je résume l'idée de Irving John Good en 1965, il ne faut pas sortir les arguments de leur contexte. Lis son texte, c'est ce qu'il veut dire. Oui "en gros" ce n'est pas mathématique, et alors ? Il parle Français, je résume son texte en utilisant le Français, et non des équations, pour évoquer sa vision, pour se faire une idée simple de ce qu'il dit.

.. Pour le reste, j'ai répondu dans mon post précédent.

Wikipedia reste plus précis que toi sur un point... disons plutôt plus extravagant. Contrairement à ta phrase, il pose l'hypothèse que l'homme puisse faire une intelligence lui étant supérieure à un instant t (toi tu dis que l'homme peut créer une intelligence maximale à un instant t, mais tu n'as jamais dit qu'elle lui était supérieure).

Mais reste tout aussi imprécis sur l'absence d'argument mathématique qui détermine qu'une courbe ayant dépassée une autre en un point(Très fréquemment basée sur les teraflops et leur comparaison douteuse avec le fonctionnement d'un cerveau (homme ou pas)) se retrouve par un miracle sans nom forcément la dépasser à t+x pour tout x > 0 ... Et bien ça c'est du n'importe quoi.