Salut !

Suite à un débat houleux entre bons camarades, j'en viens à demander l'avis du forum Philosophie concernant l'affirmation suivante. J'espère qu'elle ne présente aucune véritable ambiguïté.

"Une intelligence omnisciente dotée de parole est en mesure de prédire en détail l'avenir d'un individu dont les actes sont déterminés, mais demeure incapable de formuler cette prédiction à voix haute"

Je souhaite simplement savoir ce que vous évoque cette phrase, et l'interprétation que vous lui donneriez.

Merci à tous

Une intelligence omnisciente capable de prédire l'avenir dans son moindre détail suppose un système entièrement déterministe. Dans un tel système, l'intelligence en question prend également en vue toute les actions qu'elle posera à l'avenir ; qu'elle formule ou pas ses prédictions à voix haute fait donc partie de ces dernières et la réaction de ceux qui l'écoutent également.

Évidemment, de telles expériences conceptualo-imaginaires sont bourrées de paradoxes, reposent sur des postulats qui mériteraient d'être questionnés et des définitions qui demanderaient à être clarifiées.

On suppose effectivement que le comportement de l'intelligence est déterminé, et qu'elle est donc en mesure de prédire son propre comportement.

Sous ces hypothèses, mon affirmation sous-entend que si l'on se place dans le cas de figure où un individu souhaite connaître son avenir, cette intelligence ne pourra pas énoncer n'importe quelle prédiction à n'importe quel individu sans lui mentir.

Quels sont les paradoxes possibles ? Y a-t-il un autre postulat à clarifier ?

"Sous ces hypothèses, mon affirmation sous-entend que si l'on se place dans le cas de figure où un individu souhaite connaître son avenir, cette intelligence ne pourra pas énoncer n'importe quelle prédiction à n'importe quel individu sans lui mentir."

Tu fais comme si cet individu pouvait poser un acte qui ne serait pas prévu depuis toujours par l'être omniscient et lui formuler une demande pour ainsi dire inattendue. En toute logique il faudrait ici conclure que, et la demande de l'individu lambda et la réponse de l'être omniscient, sont déjà connus par avance par ce dernier. Qu'il lui réponde ou non la "vérité" (autre définition à clarifier, le langage courant est-il à même de dire une telle chose ? un tel langage n'est-il pas toujours une simplification pratique par définition incapable de rendre compte du "contenu" du savoir d'un être omniscient ?) est connu par lui à l'avance. Il n'y a pas d'impossibilité formelle a priori pour un tel être de formuler une telle prédiction vraie à condition que l'enchainement nécessaire des causes et des effets rende possible que l'individu demandeur puisse à la fois entendre son destin et l'accomplir tout de même.

Ensuite il faut clarifier les capacités de l'être omniscient en tant qu'agent : n'est-il que le pur spectateur de ses actes et, en ce sens, sait-il qu'il n'est pas un agent du tout, voire pas un individu tout court ?

Moi, ça me fait surtout penser au mythe de Cassandre ; la pauvre savait tout ce qui allait arriver, mais personne ne la croyait.

Et puis, la prédiction dans un système entièrement déterminé soulève la question de sa propre utilité, comme le mentionne [jsp] dans son premier post : à quoi bon prédire dans une perspective d'inéluctabilité. C'est finalement pire que la prophétie autoréalisatrice, c'est la prophétie futile. A quoi bon prévenir un homme de ce qui lui arrivera s'il ne peut pas modifier le cours des choses, si ses réactions elles-mêmes sont dictées par la nécessité ?

"Tu fais comme si cet individu pouvait poser un acte qui ne serait pas prévu depuis toujours par l'être omniscient et lui formuler une demande pour ainsi dire inattendue. En toute logique il faudrait ici conclure que, et la demande de l'individu lambda et la réponse de l'être omniscient, sont déjà connus par avance par ce dernier."

Je ne vois pas en quoi la demande serait inattendue. L'unicité d'un schéma d'action ne nous empêche pas de formuler l'hypothèse qu'à la date t de ce schéma d'action, un individu ira voir la "machine" pour lui poser des questions (situation évidemment prévue par la machine). Ce n'est qu'un postulat supplémentaire qui ne rajoute aucune incohérence à notre modèle.

On suppose également que le langage ne présente pas d'ambiguïté et que chaque affirmation peut être objectivement définie comme étant "vraie" ou "fausse" (ce n'est pas trop éloigné de la réalité je pense). Et que la machine aura pour vocation d'informer son interlocuteur le mieux possible.

"Il n'y a pas d'impossibilité formelle a priori pour un tel être de formuler une telle prédiction vraie à condition que l'enchaînement nécessaire des causes et des effets rende possible que l'individu demandeur puisse à la fois entendre son destin et l'accomplir tout de même."

Cette condition en revanche est très forte. Pour en venir au but de ce topic, le point de vue que je défends est que les prédictions de la machine auront toutes les chances d'être très vagues et imprécises malgré son omniscience, puisque la moindre indication peut forcer l'individu à déjouer son destin, et donc à tromper la machine qui pourtant est omnisciente. Par anticipation la machine devra donc omettre certaines prédictions si elle souhaite rester dans le vrai, et donc refuser de répondre à certaines questions.

"Ensuite il faut clarifier les capacités de l'être omniscient en tant qu'agent : n'est-il que le pur spectateur de ses actes et, en ce sens, sait-il qu'il n'est pas un agent du tout, voire pas un individu tout court ?"

On peut supposer qu'il n'est pas nécessairement conscient de son existence. Je ne sais pas si c'est un point important à définir, jusqu'à maintenant j'aurais eu tendance à dire que non.

"à quoi bon prédire dans une perspective d'inéluctabilité. C'est finalement pire que la prophétie autoréalisatrice, c'est la prophétie futile. A quoi bon prévenir un homme de ce qui lui arrivera s'il ne peut pas modifier le cours des choses, si ses réactions elles-mêmes sont dictées par la nécessité ?"

Justement, si un individu est censé avoir un grave accident de manière spontanée, je ne pense pas qu'il sera prévenu par la machine. Sauf si la machine est convaincue que l'individu ne pourra pas éviter cet accident en dépit de sa prévision.

en dépit de la connaissance de cette prévision*

l'omniscience présuppose la connaissance de tous ce qui existe or l'avenir n'existant pas encore il sort du domaine d'action de l'omniscience.

Dans un cadre déterministe, l'être omniscient a toutes les informations possibles pour pouvoir prédire l'avenir.

Mais du coup, dans ton schéma, tu présupposes que l'I.A.-oracle souhaite que l'histoire ne dévie pas. Mais, étant omnisciente, toute chose étant égale par ailleurs, - la machine connaissant tous les facteurs elle est capable de prévoir les conséquences d'une telle déviation, de la *calculer* en quelques sorte, et donc, je ne crois pas qu'une déviation du cours des événements la dérangerait, attendu qu'elle serait capable de calculer toutes ses conséquences.
Elle saurait à l'avance quelles sont les conséquences de son intervention, si elle dit la vérité dans toute sa précision, ses effets sur le comportement de l'individu, elle serait même capable de se rendre compte quelle est la meilleure solution pour l'homme : ce que je veux dire c'est que, que le cours des événements soient modifié ou non par son intervention, la machine reste omnisciente quoi qu'il en soit, donc quelle serait son intérêt pour cacher la vérité ?

Celui-ci, d'ailleurs serait tout autant déterminé, qu'il ne consulte pas la machine (schéma de base) ou qu'il la consulte (car dans ce cas, la nouvelle trame serait tout autant déterministe - son action elle même étant déterminé par la connaissance issue de la machine.)
Donc, dans les deux cas, pour l'I.A., ça revient à contrôler les événements.

D'ailleurs, finalement, que l'I.A. mente ou dise la vérité (ou même qu'elle ne dise rien), c'est elle qui détermine les événements à partir du moment où elle est consultée, donc elle n'est pas seulement omnisciente, elle est aussi motrice.
Même en parlant de ""Destin"", le fait que la machine ait un rôle à jouer dans celui-ci, fait d'elle un élément déterminant du champ.

Autre question : et si l'I.A.-oracle voit que ça fait partie du Destin de l'homme que d'entendre la vérité entière et précise de sa part ? Aura t-elle encore le choix de lui mentir, ou sera t-elle liée par le déterminisme du Destin ?
En fait, dans ce cas l'I.A.-oracle n'a pas plus de liberté d'action que l'homme, peut-être.

Rappelons avant tout que l'idée de "déviation" est purement hypothétique. C'est en réalité un abus de langage, puisque tout est déjà déterminé à l'avance par la machine. Ce terme intervient cependant lorsqu'on essaie de décrypter le schéma de réflexion que la machine effectue afin de rester conforme au comportement qu'on lui impose, à savoir :

1) informer au mieux l'individu qui lui pose une question
2) dire la vérité
J'ai même envie de rajouter un 3ème principe prédominant sur le premier, et qui permet à la machine de trouver une échappatoire à certains cas trop farfelus :
3) rester concis

La rencontre entre l'individu et la machine influence les futurs actes de l'individu. Du point de vue de la machine, la trame suit dans un premier temps un unique chemin possible, représenté par le passé, par ce qui s'est déjà produit avant la rencontre. Toujours en se plaçant dans le point de vue de la machine, on peut ensuite imaginer une infinité de subdivisions qui découlent de l'infinité de comportements possibles de la machine face à l'individu. C'est la machine qui décide quelle subdivision le destin empruntera. Elle exclut déjà les subdivisions qui ne respectent pas les principes énoncés précédemment, et choisit parmi les subdivisions restantes. C'est ce procédé d'exclusion que nous essayons de détailler, afin de déterminer à quoi peut ressembler l'ensemble des comportements que la machine reste en mesure d'adopter.
Il y a une subdivision qu'il est important de relever : celle où la machine reste muette. C'est une trame qui ne surviendra pas puisqu'elle entrerait en contradiction avec le 1er principe, mais c'est une trame de référence qui permet d'imaginer ce qui se serait produit si la rencontre n'avait pas eu lieu. Et c'est sur la base de cette trame que la machine fait le tri entre les prédictions qu'elle peut faire et celles qu'elle ne peut pas faire.

Un petit exemple pour illustrer l'idée :
Nommons tout d'abord A cette trame de référence. Ce qu'on entend par "déviation" désigne finalement toute autre subdivision, toute autre trame qui ne soit pas la A.
Suivant la trame A, la machine a pu calculer que l'individu qui l'interroge mourrait d'ici 1 mois dans un crash aérien.
Supposons que l'individu lui demande "À quelle date vais-je mourir et dans quelles circonstances ?"
La machine ne peut rester muette, sinon elle mettrait en péril le premier principe. Elle va donc imaginer dans un premier temps une réponse précise et concise qui renseigne l'individu sur ce qu'elle a vu dans la trame A, et vérifier si la trame B engendrée par sa réponse reste en accord avec ses principes.
Suivant ce mode réflexion, sa réponse serait donc, à peu de choses près : "Vous allez mourir dans 1 mois au cours d'un crash aérien". Si elle fait cette annonce, il y a de fortes chances pour que l'individu parvienne à déjouer cette prédiction en décommandant son vol. Si c'est le cas, la machine le sait et finit par exclure cette réponse, puisqu'elle entrerait en contradiction avec le deuxième principe. La trame B est donc exclue, et une nouvelle trame est envisagée.
Une des seule réponses possibles est finalement "Je ne peux pas vous répondre", puisque tout autre renseignement explicite inciterait l'individu à déjouer cet acte, et je maintiens qu'il aurait alors toutes les chances d'y parvenir, sauf cas farfelu.
J'illustrerais donc son schéma de réflexion de cette manière :
(oui, j'ai bien aimé ton utilisation du mot "trame" dans ton dernier message donc c'est le terme que j'utilise dorénavant pour désigner un schéma d'action )

Tout cela permet donc de justifier, à mon sens, l'incapacité de cette intelligence à formuler à voix haute certaines prédictions qu'elle a en tête.

"la machine reste omnisciente quoi qu'il en soit, donc quelle serait son intérêt pour cacher la vérité ?"

En réalité elle ne cache pas la vérité. Tout ce qu'elle dit est vrai, mais elle ne peut pas formuler à voix haute tous les aspects de cette vérité sous peine d'engendrer une trame au cours de laquelle, tenant compte des paroles de la machine, l'individu parviendrait à déjouer ses affirmations.

Je suis d'accord avec les deux paragraphes qui suivent.

"et si l'I.A.-oracle voit que ça fait partie du Destin de l'homme que d'entendre la vérité entière et précise de sa part ?"

Si l'IA a vu cela, ça signifie nécessairement que l'homme ne parviendra pas à (ou ne tentera pas de) déjouer les prédictions de la machine. C'est la seule situation dans laquelle la machine aurait le droit de tout lui dévoiler.

"Aura t-elle encore le choix de lui mentir, ou sera t-elle liée par le déterminisme du Destin ?"

Elle n'aura pas ce choix-là puisqu'elle a vu que ça se passerait autrement. Et si elle mentait, cela entrerait en contradiction avec ses principes.

En raisonnant par l'absurde, on peut en aboutir à la conclusion que si elle lit le destin et qu'elle tente de le déjouer par ses propres actions, elle perdra alors son caractère omniscient puisque suite à son acte de rébellion, le destin qu'elle avait initialement imaginé ne sera plus conforme à ce qu'il s'est véritablement produit.

La machine est omnisciente au sens où elle sait ce qui découlera de chacun de ses actes, mais elle doit quand même faire des choix et réfléchir au comportement qu'elle doit adopter afin de respecter ses principes.

Concrètement son temps de réflexion est nul puisqu'elle sait déjà ce qu'il va se produire, mais si nous humains devions imaginer la manière dont ses prédictions sont faites au sein d'un tel modèle, ça serait je pense suivant le schéma que je viens de présenter.

Dites les gars j'espere que Gluta vous emmerde pas.

Sinon votre debat se place t il dans un referentiel formalise et fini ?
Si non, ca donne quoi ?

D'accord, j'ai compris la problématique :

L'I.A. doit dire la vérité ; si elle dit ce qu'elle prévoit, mais que l'homme modifie les événements suite à cette connaissance, elle n'aura pas dit la vérité puisque les choses ne se passeront finalement pas comme elle l'aura dit, justement à cause de ce qu'elle aura dit.

C'est sur ce paradoxe que vous réfléchissez ?

Ou alors, ce n'est qu'un corollaire du paradigme de base ""Une intelligence omnisciente dotée de parole est en mesure de prédire en détail l'avenir d'un individu dont les actes sont déterminés, mais demeure incapable de formuler cette prédiction à voix haute "", - dans le cadre duquel vous recherchez tous les cas où l'I.A. serait mise dans l'impossibilité de révéler ce qu'elle sait, malgré sa capacité de parole ?

J'avoue que si la discussion me plaît, je ne comprends pas bien l'objectif auquel vous voulez arriver, tes amis et toi ?

edophoenix Voir le profil de edophoenix
Posté le 18 novembre 2014 à 17:52:18 Avertir un administrateur
D'accord, j'ai compris la problématique :

L'I.A. doit dire la vérité ; si elle dit ce qu'elle prévoit, mais que l'homme modifie les événements suite à cette connaissance, elle n'aura pas dit la vérité puisque les choses ne se passeront finalement pas comme elle l'aura dit, justement à cause de ce qu'elle aura dit.

C'est sur ce paradoxe que vous réfléchissez ?

Oui. Je défends le point de vue que la machine ne pourra formuler certaines prédictions, tandis que d'autres pensent que cela rentrerait en contradiction avec son caractère omniscient.

Je soutiens que ce paradoxe (qui n'en est finalement pas un) sera déjoué par le "silence" de la machine, tandis que d'autres pensent que si selon la trame A un individu est censé avoir un accident, la machine le lui prédira et cet accident arrivera par la "force des choses", même si l'individu fait tout pour l'éviter. Pour moi, la machine se contentera simplement de se taire dans la majorité des cas, sauf si elle estime que cet accident est inévitable même si elle le lui prédit. Mais mes amis ne me comprennent pas ( ) dans la mesure où il n'y a de toute manière qu'une trame possible, donc le fait d'imaginer plusieurs trames n'aurait pas de sens. Moi, ça ne me dérange pas outre mesure et je pense qu'une disjonction des cas est nécessaire afin de cerner le comportement de la machine.

"J'avoue que si la discussion me plaît, je ne comprends pas bien l'objectif auquel vous voulez arriver, tes amis et toi ?"

Je souhaitais avoir des avis extérieurs car c'est un problème que je trouve assez complexe voire contre-intuitif à certains égards, et c'est aussi un sujet qui me plaît !

Petite question :

Cette machine est bien physique ?? Si oui il y a un problème car si elle doit calculer toute la réalité, à un moment donné elle va devoir simuler sa propre existence et la copie de la machine dans la simulation va à son tour simuler sa propre existence, etc... Ce qui demanderait à cette machine une puissance et une mémoire infinie. Si c'est le cas alors pas de soucis enfin c'est ce qui en était sortis lors du même débat sur le forum science.

Je peux avoir un lien du débat en question ?

Oui je vais chercher mais la question n'était pas la même. C'était le gars a t-il l'accident ou pas ? et puis c'est un forum ou on est plus... comment dire ? pragmatique Ça va pas t'avancer beaucoup je crois.