Bonjour à toutes et à tous,

Je m'intéresse en ce moment aux lois de la Robotique.

1. Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu'un être humain soit exposé au danger.
2. Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la première loi.
3. Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la première ou la seconde loi.

Ces trois lois ont été créées par Isaac Asimov, auteur de Science-fiction, américain naturalisé d'origine Russe.

Dans un de ses livres ( série de Fondation ), il crée une nouvelle loi, la loi zéro, qui fait d'abord passer l'humanité devant une entité humaine, ces nouvelles lois sont :

* Loi Zéro : Un robot ne peut nuire à l’humanité ni, en restant passif, permettre que l’humanité souffre d’un mal.

Les Trois Lois sont donc modifiées ainsi :

* Première Loi : Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger, sauf en cas de contradiction avec la Loi Zéro.
* Deuxième Loi : Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Loi Zéro ou la Première Loi.
* Troisième Loi : Un robot doit protéger son existence dans la mesure où cette protection n’est pas en contradiction avec la Loi Zéro, la Première ou la Deuxième Loi.

Qu'en pensez vous ?

Pensez vous que ces lois sont applicables ou seront applicables ?

Pensez vous qu'il faudrait, modifier, rajouter, supprimer des lois ?

Le débat est ouvert

Tout depend ce que tu veux faire avec tes robots et comment ils fonctionnent. Je suposerais dans la suite qu'ils comprenent le langage naturel de la meme facon qu'un humain.

Dans un premier temps, je ferais remarque que l'etablissement de ces regles a pour seul but de forcer les robots comme creation et outils de l'homme. Ces lois retirent aux robots les possiblites d'independance. Ainsi certains diraient que c'est une nouvelle forme d'esclavage. Cela ouvre la question "quelles sont les especes que l'on a le droit de reduire en esclavage ?".

Ces lois orientent egalemnet les robots dans une optique centre sur l'homme. Qu'adviendrait il de ces robots si l'homme venait a disparaitre ? (Saturn's children de Charles Stross aborde cette question )

Finalement, je dirais que ces lois sont jolies sur le papier, mais quelles sont relativement peu utile car trop difficile a implementer. Pour la loi 'zero' par exemple, est il mieux de lacher un moindre mal sur l'humanite pour retirer une chance d'un mal plus grand a venir ? Pour la loi numero 'un', que devrait faire un robot alors que quelqu'un s'apprete a abatre une foule d'individu ? Ne rien faire condamne la foule. s'interposer va sauver quelques vies. D'un autre cote tuer la personne qui s'apprete a tirer sauve la foule mais implique que le robot tue un homme.

my 0.02$

"quelles sont les especes que l'on a le droit de reduire en esclavage ?"

Toutes sauf les humains.

Un cheval n'est pas payé, et on lui demande pas son avis.

Pis un robot n'est pas vivant, hein.

En même temps, quelle idée de donner une conscience à un outil ...

En réalité le problème n'est pas de donner une conscience à un outil, mais d'essayer de reproduire artificiellement la plasticité cérébrale et le fonctionnement des réseaux neuronaux humains pour permettre aux robots des apprentissages complexes. Par abus de langage certains parlent de "conscience".

Dejà dans le cycle des robots + fondation, la Terre est particulièrement paranoïaque concernant les robots. Ce qui explique que les industriels doivent implanter de telle règles si il veulent un jour pouvoir vendre leur robot à grande échelle.
Leur but final étant d'en vendre sur Terre, là où ils sont interdits alors que c'est le plus gros marcher potentiel.

Sans cette paranoïa et cette interdiction stricte, il est plus que probable que les industriels se foutent de ce genre de lois (pour le moment ils sont bien trop primitifs pour que des lois si abstraites soit applicables de toutes manières), et surtout les applications pratiques se limitent pour le moment aux objectifs militaires, donc la première loi serait contradictoire avec leur raison d'être (ou alors il faudrait qu'ils soient tellement primitifs qu'il n'aient pas conscience que bombarder une ville implique forcément la mort d'être humains).

Sinon pour ta question godrik, la loi zero n'a jamais été implanté, ni même prévue... C'est seulement au court de l'histoire que 2 robots particulièrement avancées arrivent à cette conclusion et réussissent à se reprogrammer pour diminuer le poids de 3 autres lois.

Ces 2 robots mis à part, tout les robots n'ont que les 3 lois originelles, et on pourrait même imaginer un cas plus extrême encore que ton exemple : un terroriste a le doigt sur une bombe qui risque de tuer des milliers de gens et se braque lui-même un pistolet sur la tempe en affirmant qu'il se tuera si quelqu'un avance ou tente de l'en empêcher.
Un robot n'a pas la capacité d'évaluer qui mérite de vivre ou de mourir entre un psychopathe et une foule d'innocents. Il lui sera impossible de protéger la foule sans tuer indirectement le terroriste, donc tout ce qu'il pourra faire c'est protéger le terroriste en empêchant tout le monde de s'approcher ou de lui tirer dessus (sauf si ca risque de blesser quelqu'un).
Enfin, si un robot est assez évolué pour comprendre que quoi qu'il fasse (y compris l'inaction), il enfreindrait de toutes manières la première loi, alors il "grillera" et son cerveau serait définitivement endommagé).

Musculus, je laisse la question "quelles especes ont a la droit de reduire en esclavage ?" volontairement ouverte. C'est une question d'ethique et de philosophie qui n'a pas vraimement sa place ici.

Par contre, dire qu'un robot ne serait pas vivant me parait cavalier. Si il se deplace, reflechit, prends des decision, se reproduit (construit d'autres robots) et est conscient de son existence, j'ai pas mal de mal a accepter que ce n'est pas vivant. Certes, ce n'est pas une forme de vie biologique (lire: a base de carbonne). Dire que ce n'est pas une forme de vie me parait fort.

Pour d'autre references en science fiction que asimov, je conseillerai "star trek. The next generation" qui presente en assez grand detail les aspects socologiques lie a l'existence de robot a travers le personnage Data (qui se dit "Daie-ta" et pas "da-ta", sinon il est pas content).

PaulAimik, je sais, j'ai lu fondation egalement. Ma question est rhetorique. En donnant des loi a une machine, on change son comportement. Le comportement que tu decris peut etre acceptable. On peut aussi vouloir qu'en cas de conflit entre deux personnes, le robot se desactive. On peut aussi vouloir qu'il tue le teroriste. Je pense qu'il faut commencer par se demander comment on souhaite qu'il reagisse face a une situation et que l'on edicte les regles par la suite.

Les trois lois me semblent pertinentes mais je n'ai jamais compris comment on pouvait s'assurer que les constructeurs de robots les ait bien implantés.

Si des robots existent, il me parait évident que les humains vont vouloir les exploiter à des fins militaires. D'ailleurs, on le voit déjà...

"Sinon pour ta question godrik, la loi zero n'a jamais été implanté, ni même prévue... C'est seulement au court de l'histoire que 2 robots particulièrement avancées arrivent à cette conclusion et réussissent à se reprogrammer pour diminuer le poids de 3 autres lois. "

Pas tout à fait : dans certaines nouvelle, particulièrement "The Evitable Conflict" (qui est plus ancien que fondation), Asimov utilise déjà ce thème de la loi zéro.

en ce qui concerne ces histoires de dilemmes liés aux 3 lois, il faut bien voir que les robots d'Asimov sont des créatures très intelligentes, capables de prendre en quelques fractions de secondes les décisions nécessaires pour sauver le maximum de personnes.

par exemple, si elles doivent choisir entre une foule et un terroriste, elles tueront le terroriste (s'il n'y a pas d'autres possibilités)

d'ailleurs, la plupart des nouvelles d'Asimov sur les robots mettent en scène l'interprétation des 3 lois dans différentes situations.

"Par contre, dire qu'un robot ne serait pas vivant me parait cavalier. Si il se deplace, reflechit, prends des decision, se reproduit (construit d'autres robots) et est conscient de son existence, j'ai pas mal de mal a accepter que ce n'est pas vivant. Certes, ce n'est pas une forme de vie biologique (lire: a base de carbonne). Dire que ce n'est pas une forme de vie me parait fort."

C'est comme dire que les licornes sont vivantes, en fait.

A moins que tu partes du fait que les choses non réelles puissent être vivantes. Dans ce cas, oui, ils sont vivants, puisqu'ils sont une reproduction de la vie avec d'autres matériaux.

Et aussi, à propos de ces lois ... elles sont pas un peu simplistes ? A première vue, on dirait qu'elles partent du fait que la seule chose qui est interdite à des robots, c'est de tuer ou de blesser les gens de manière active ou passive. Et c'est tout.

Ça peut paraître peut-être naïf comme question, étant donné que je suis pas un grand lecteur d'Asimov.

Bin justement le but c'est d'avoir des loi simples et standard pour définir un comportement communs à tout les robots, qu'ils soient chargés d'assister les décision d'un gouvernement, ou qu'ils fassent le ménage...
Même si ces lois sont simples en apparence, ca peut aboutir à des situations tordues, d'où l'interet de pouvoir s'appuyer sur un standard pour comprendre rapidement certaines décisions d'un robots, quel que soit son modèle et sa fonction, et sans même avoir à l'approcher, le démonter (ce qui serait pas très commode pour diagnostiquer un robot perdu sur une planète inhospitalière...) ou analyser toutes ses données (ce qui prendrait un temps colossale...).

En plus le fait qu'elles puissent s'énoncer simplement a son importance dans une nouvelle ou un romain... C'est plus facile à placer dans un dialogue qu'un énorme grafcet sur une feuille A0 ! ;)

Ca lui a aussi permis de s'imposer des règles à respecter pour la majorité de ses nouvelles (à quelques exceptions près), en s'interdisant de faire des robots "fous" qui cherchent à détruire le monde.
Hors avec ces lois, si certains robots apparaissent comme "fou", on se rend compte qu'il y a toujours une explication logique, autre que "c'est un robot tueur laché dans la nature".

Enfin permet aussi de caricaturer le comportement humain et ses préjugés : même si aucun robot n'a nuit à un être humain, que c'est impossible et que ca n'arrivera jamais, la masse continue de les considérer comme des machines dangereuses, voir malfaisantes.
Ce qui mène parfois certains personnages à leur perte, non pas à cause des robots mais à cause de leur préjugés sur eux.

"Si il se deplace, reflechit, prends des decision, se reproduit (construit d'autres robots) et est conscient de son existence, j'ai pas mal de mal a accepter que ce n'est pas vivant."

Comment sais-tu qu'il "est conscient de son existence" ? Question, rhétorique, la réponse sort complètement du champ de ce forum.

Ah. Ces lois sont donc bien adaptées aux romans d'Asimov, par contre elles serviraient pas à grand chose si on les appliquait dans la réalité.

Ok merci.