Dans les textes sacrés on parles d'entité à la puissance et au pouvoir incommensurable. Absolument innateignable par l'être humain.
Et les êtres humains vont prendre ces idoles pour Dieu. Ils ne savent pas faire la différence entre l'absolu et l'extremmement grand.
Je me demande si c'est ce qui va se passer avec l'IA à un moment donné.
A un moment donné nous n'arriverons plus du tout à comprendre ce que nous racontent les IA et prendrons ce qu'ils disent pour la perfection, parce que ca nous semblera si "génial" que c'est "forcément" ça la perfection.
C'est déjà arrivé dans le monde des echecs, Dans les années 2010, les dernière machines etait tellement puissante que certains se sont mis à les idealiser. Pourtant arrivé dans les années 2020 ces même machines capable de stratégie "parfaite" se faisait exploser par les nouvelles stratégie des nouvelles machines.
Comme quoi "la perfection" n'etait pas si parfaite.
Je me dit qu'il pourrait se passer la meme chose avec chat gpt 37.5 dans 200 ans il sera tellement loin qu'on se mettra a se dire que ce qu'il dit est parfait. Ce qu'il proposera semblera tellement génial qu'on se dira "forcément que c'est vrai". Et pourtant pas du tout en fait, en comparaison de l'absolu il sera en réalité a des années lumière.
Je me demande si cet hubris ne nousfera pas prendre des decisions radicale que l'on n'aurait pas prise avec notre humilité humaine.
En se basant sur des entité que l'on ne comprend pas que l'on pense parfaite peut etre qu'on oubliera l'humilité qui nous a été utile toute notre evolution ?
Peut etre qu'on choisira une voie, un modèle de société, un modèle economique qui sur le papier semblera absolument parfait et en tant qu'humain on sera incapable de le refuter et ca aurait l'air genial, du jamais vu et pourtant ce serait une erreur monumental que les version futur des IA pourront facilement percevoir ?
Ca fait un peu peur.
Bref tldr j'espère que même doté de fausses idoles qu'on conservera notre humilité et que l'on n'oubliera pas l'Absolu.