Robot, trop humain

La « loi de la nature » une superstition. — Si vous par­lez avec tant d’enthousiasme de la confor­mité aux lois qui existent dans la nature, il faut que vous admet­tiez soit que, par une obéis­sance libre­ment consen­tie et sou­mise à elle-même, les choses natu­relles suivent leurs lois — en quel cas vous admi­rez donc la mora­lité de la nature — ; soit que vous évoquiez l’idée d’un méca­ni­cien créa­teur qui a fabri­qué la pen­dule la plus ingé­nieuse en y pla­çant, en guise d’ornements, les êtres vivants. — La néces­sité dans la nature devient plus humaine par l’expression « confor­mité aux lois », c’est le der­nier refuge de la rêve­rie mythologique.

Humain, trop humain, F. Nietzsche

Les robots, mais d’une manière géné­rale les machines, prennent, au fil du temps, une part de plus en plus impor­tante dans notre société : du simple iPod à la sonde Phoe­nix explo­rant Mars, les liens que nous tis­sons avec eux sont, chaque jour, plus com­plexes et plus étroits. Ce chan­ge­ment cultu­rel, comme toute révo­lu­tion liée au pro­grès tech­no­lo­gique (comme ce fut le cas, par exemple avec l’avènement de l’imprimerie), se doit d’être accom­pa­gné par une réflexion inter­dis­ci­pli­naire sur les tenants et abou­tis­sants de tels bou­le­ver­se­ments. L’art en géné­ral et la science-fiction en par­ti­cu­lier ont déjà entamé, depuis la moi­tié du siècle der­nier, cette réflexion. A nous, simples citoyens, de la faire rebondir.

La rela­tion étroite et ambi­guë qui unit l’homme et le robot ne date pas du siècle der­nier. Ni du siècle d’avant. Le désir de conce­voir un outil comme exten­sion de soi, comme sup­pléant amé­lioré, remonte en effet à ce temps très ancien où, pour la pre­mière fois, un homme s’est saisi d’une perche pour attra­per un fruit inac­ces­sible. L’image de la perche est, à mon avis, la meilleure illus­tra­tion de ce fan­tasme qui nous enva­hit quand nous son­geons au robot : le pro­lon­ge­ment de nous-mêmes (cf. les nom­breux exo– ou endos­que­lettes décrits et employés dans la science-fiction). En effet, l’humain, aussi humain soit-il, trop humain ou pas, fait face à ses propres limites (phy­siques mais aussi intel­lec­tuelles, émotives, etc.) qui l’entravent dans sa volonté de domi­ner le monde. Telle pomme est trop haute pour sa petite taille ? Qu’à cela ne tienne, son cer­veau conçoit, Deus ex machina², un engin capable de le pro­lon­ger, de com­pen­ser ses fai­blesses, de sup­pléer à sa propre fini­tude, en un mot de per­fec­tion­ner sa chair en pro­je­tant son être dans la matière, tout ceci dans le but pro­grammé de domi­ner le réel (attra­per une pomme, explo­rer des endroits inac­ces­sibles ou dan­ge­reux, rendre pos­sible ce que l’homme, de ses propres mains, ne peut réa­li­ser).

Comme nous l’ont mon­tré pré­cé­dem­ment InFo­lio, Llo et Stel­laS­ta­bat, beau­coup d’améliorations ont été appor­tées au robot depuis la perche ori­gi­nelle et l’homme ne cesse de per­fec­tion­ner sa créa­tion. Il tente d’injecter à la machine ce qui lui semble le mieux le défi­nir dans son huma­nité : l’intelligence, l’acquisition des sens et de la mobi­lité, le lan­gage, la cog­ni­tion et l’apprentissage, la socia­li­sa­tion, l’anthropomorphisme, les capa­ci­tés émotion­nelles… Les dif­fé­rentes voies visant à per­fec­tion­ner le robot vont sou­vent dans le même sens : faire le robot à l’image de l’homme. Mais en mieux…

Car là est le car­re­four para­doxal : l’homme impar­fait, inca­pable de répondre entiè­re­ment aux ambi­tions déme­su­rées qu’il s’est fixé, crée une machine pour le pro­lon­ger, pour le rendre par­fait, mais, ce fai­sant, il lui injecte ses propres attri­buts, il le calque sur lui-même en gom­mant cer­tains de ses défauts et en accen­tuant cer­taines qua­li­tés. Mais peut-on rendre quelque chose de par­fait si on le fait héri­ter de soi-même, être imparfait ?

On voit bien que c’est un rap­port méta­phy­sique qui s’insinue entre ce sujet, l’homme, et ce qui semble être l’objet, le robot. Un flux entre deux matières oppo­sées, entre le vivant et l’inerte, le souffle orga­nique ins­tillé dans la matière métal­lique inani­mée. Un rêve, on ne peut plus démiur­gique bien sûr, alchi­mique pour le moins ! L’homme assis sur le trône divin donne vie à la matière, le fan­tasme n’est pas nou­veau : le dieu chré­tien façonne l’homme à même la terre glaise, le rabin donne vie au Golem en ins­cri­vant EMETH (vérité en hébreu) sur son front, Fran­ken­stein insuffle l’étincelle de vie à sa créa­ture, Gep­petto taille un mor­ceau de bois qui s’anime pour deve­nir Pinoc­chio, etc.

Der­rière cette rela­tion méta­phy­sique, il y a aussi comme un désir de filia­tion qui s’installe entre l’homme et sa créa­ture. Une filia­tion patriar­cale bien sûr où le père éduque le fils selon ses propres cri­tères mais sur­tout une rela­tion de ser­vi­tude dans la mesure où le fils n’existe que pour ser­vir le père. En ce sens la rela­tion homme-robot semble uti­li­ta­riste : cepen­dant elle peut entrer dans un schéma affec­tif comme ces nou­veaux robots qui servent de fami­liers et d’animaux de compagnie.

Comme dans tous pro­ces­sus de (pro-)création, il y a égale­ment une pro­jec­tion spé­cu­laire, incons­ciente ou non, de sa propre image dans le corps de l’autre, quelque chose qui incons­ciem­ment dit : « Je donne la vie à ce robot pour qu’il me sur­vive et je le fais à mon image pour qu’il me per­pé­tue et m’immortalise après ma propre dis­pa­ri­tion. » Le robot, en ce sens, peut être une réponse à notre désir de des­cen­dance par­faite et rêvée : l’enfant pro­digue qui réa­lise en mieux tout ce que les parents n’ont jamais réussi à faire, et qui le fait dura­ble­ment, même après leur mort. Tima, dans le Métro­po­lis d’Ozamu Tezuka est typi­que­ment cette petite fille-robot : créée par le doc­teur Laugh­ton à l’image de sa fille dis­pa­rue, afin de domi­ner le monde.

Hal, dans 2001, l’odyssée de l’espace

Jean-François Lyo­tard³ avance que notre obses­sion, notre fas­ci­na­tion pour les voyages inter­stel­laires, notre désir de nous trans­po­ser ailleurs, de tout refaire depuis le début (le fan­tasme de la seconde chance en quelque sorte) serait en rela­tion directe avec la dis­pa­ri­tion pro­gram­mée de notre espèce. Les hommes savent, incons­ciem­ment ou non, que, quoiqu’il advienne, l’humanité est abso­lu­ment éphé­mère et vouée à dis­pa­raître. Tôt ou tard. Au mieux, notre soleil a encore entre 5 et 7 mil­liards d’années à vivre et finira par s’éteindre, inexo­ra­ble­ment, nous entraî­nant dans sa mort. Cette lubie de l’expatriation pla­né­taire serait donc intrin­sè­que­ment liée à notre ins­tinct de sur­vie (argu­ment que l’on peut bien sûr réfu­ter quand on observe le peu d’intérêt que sus­cite réel­le­ment la pré­ser­va­tion de notre écosys­tème). Les robots dans ce cadre là ont tout à fait leur place. Si nous-mêmes, pour des rai­sons phy­siques, écono­miques ou autres, nous ne pou­vons pas migrer cor­po­rel­le­ment vers d’autres lieux alors nous enver­rions nos copies méca­niques immor­telles, capables de nous repré­sen­ter dans notre huma­nité, dont la mis­sion serait le témoi­gnage cultu­rel et intel­lec­tuel de notre exis­tence, la preuve his­to­rique de notre place dans l’histoire cosmique.

Enfin le robot sus­cite égale­ment beau­coup d’inquiétudes : depuis Isaac Asi­mov et ses lois morales dic­tant la conduite du robot⁴ jusqu’au très sérieux dos­sier d’Impli­ca­tions phi­lo­so­phiques⁵ qui réflé­chit à l’octroi de droits aux robots afin de garan­tir l’intégrité de notre propre huma­nité. Les robots inquiètent autant qu’ils fas­cinent, car ils peuvent aussi reflé­ter nos imper­fec­tions (la haine, la vio­lence, la convoi­tise, la folie, etc.), mais en pire…

Le fan­tasme d’une armée de robots indes­truc­tibles sans conscience (que l’on retrouve sou­vent dans la Science Fic­tion comme dans la nou­velle Nou­veau modèle⁶. L’autre inquié­tude, que reflète bien la SF, est que le robot échappe tota­le­ment à notre contrôle, soit de manière tech­nique (erreur de pro­gram­ma­tion, pira­tage) soit parce que nous lui aurions donné une conscience qui l’émancipe suf­fi­sam­ment pour qu’il échappe à notre contrôle (HAL dans 2001 l’Odys­sée de l’Espace, de Arthur C. Clarke et Stan­ley Kubrick par exemple)… Quelles qu’en soient les rai­sons, la coexis­tence avec des êtres, par défi­ni­tion supé­rieurs à nous (en force, en intel­li­gence, en résis­tance), fussent-ils créés et contrô­lés par nous, est une source d’inquiétudes légi­times qui ali­mente depuis long­temps notre ima­gi­naire et ravive nos angoisses d’asservissement (à l’échelle de notre espèce, comme dans la Pla­nète des Singes). Tout ceci n’est évidem­ment pas sans nous rap­pe­ler le mythe d’un cer­tain doc­teur Faust : entre pro­grès scien­ti­fiques, soif de connais­sances, ambi­tions aux limites sans cesse repous­sées, un pacte avec le diable peut être contracté sans même que nous nous en ren­dions compte.

Wall-e, seul sur­vi­vant d’une terre ren­due invi­vable par les humains…

Quoiqu’on en dise et qu’on vou­drait nous faire croire, la pro­blé­ma­tique concer­nant les robots n’est pas res­treinte aux seuls champs tech­no­lo­giques et scien­ti­fiques. La pro­mis­cuité et la rela­tion que nous entre­te­nons et conti­nue­rons de tis­ser à l’avenir avec les robots posent égale­ment d’autres ques­tions (abor­dées fina­le­ment par la science fic­tion avant tout le monde) d’ordre éthique, escha­to­lo­gique, anthro­po­lo­gique, psy­cho­lo­gique, social. Il serait par­fai­te­ment irrai­sonné de les occul­ter car répondre à ces ques­tions revient à fixer et à défi­nir les limites, les rôles et les rela­tions entre le créa­teur et sa création.

Humain, trop robot, avez-vous dit ? Non ! Robot, trop humain.

1. Beau­coup de remer­cie­ments accom­pagnent cet édito avec en pre­mier lieu, InFo­lio, Ekwerkwe, Rose, Stel­laS­ta­bat pour leurs éclai­rages et leurs exemples dans la lit­té­ra­ture de SF [↩]
2. A pro­pos du cer­veau, cette remar­quable réflexion d’Andrée Chedid :

   « Nous sommes néan­moins trop simples et nos vies bien trop brèves, pour arri­ver jusqu’au bout de ce cer­veau mil­lé­naire tel­le­ment vaste avec toutes ses voies mul­tiples et ses méandres. D’ailleurs com­prendre le cer­veau à l’aide du cer­veau serait, comme dirait mon ami phi­lo­sophe, “aussi impos­sible que de s’asseoir sur ses propres genoux”. Jamais, tant
   sa construc­tion est com­plexe nous n’en ver­rons la fin. À moins peut-être qu’un jour grâce, à un robot ou à une machine un homme crie : “Deus ex machina.”

   Ou plu­tôt deus ex Machina? »

   L’Étoffe de l’univers, Andrée Che­did, Flam­ma­rion, 2010 [↩]

3. La Condi­tion Post­mo­derne, Jean-François Lyo­tard, Coll. Cri­tique, Edi­tions de Minuit, 1979 [↩]
4. “Les Robots”, Isaac Asi­mov, J’ai lu, 1967

   « Pre­mière Loi : ‘Un robot ne peut por­ter atteinte à un être humain ni, res­tant pas­sif, lais­ser cet être humain exposé au danger.’ ;

   Deuxième Loi : ‘Un robot doit obéir aux ordres don­nés par les êtres humains, sauf si de tels ordres sont en contra­dic­tion avec la Pre­mière Loi.’ ;

   Troi­sième Loi : ‘Un robot doit pro­té­ger son exis­tence dans la mesure où cette pro­tec­tion n’entre pas en contra­dic­tion avec la Pre­mière ou la Deuxième Loi.’ » [↩]

5. http://www.implications-philosophiques.org est un site d’expression phi­lo­so­phique et éthique qui regroupe des étudiants avan­cés issus de dis­ci­plines variées. Le dos­sier sur les robots est ici. [↩]
6. Second Variety, Phi­lip K. Dick, 1953) de Phi­lip K. Dick d’où sera tiré le film Pla­nète Hur­lante de Chris­tian Duguay) n’est pas loin. A pro­pos de l’usage meur­trier qu’on l’on pour­rait faire des robots, on pourra lire les articles de Noel Shar­key, pro­fes­seur de robo­tique à l’université Shef­field, qui met en garde contre l’utilisation déjà effec­tive — les articles datent de 2007 — des robots par l’armée : un article ici et un autre en anglais là [↩]

Bifur­ca­tions imaginables ?

2 réponses à “Robot, trop humain”

1. Julie (De Litteris) dit :

   6 novembre 2011 à 9:12

   Je relis pour la troi­sième fois cet article en le trou­vant tou­jours aussi excellent et juste (notam­ment cette der­nière par­tie où tu parles d’expatriation… je n’avais pas vu les choses ainsi et je trouve cette idée de robots, emblé­ma­tiques de l’humanité, inté­res­sante : après tout, c’est un module, une machine — même emplie de musique, d’extraits des dif­fé­rentes langues de l’humanité, de repré­sen­ta­tions artis­tiques– que nous avons envoyée à tra­vers l’espace, pour nous représenter).

   Ce que tu évoques dans un pre­mier temps (l’auto-robotisation de l’homme) me fait pen­ser à une nou­velle de Greg Egan, “en appre­nant à être moi”, où l’homme a décou­vert le moyen d’atteindre l’immortalité en trans­fé­rant sur un cris­tal ses sou­ve­nirs et en insé­rant dans un corps robo­tisé ce cris­tal. Mais les sou­ve­nirs sont-ils suf­fi­sants pour défi­nir l’homme ? Un corps bio­nique peut-il être consi­déré comme un véri­table récep­tacle “humain”, propre à conte­nir le moi ?

   C’est un très beau texte, que je te recom­mande, si tu le connais pas : tu le trou­ve­ras dans le recueil “axio­ma­tique” (en livre de poche), avec les autres excel­lentes réflexions, entre SF et méta­phy­sique, de cet auteur australien.

   belle jour­née à toi!
2. Sébastien dit :

   7 novembre 2011 à 11:54

   Poser la ques­tion de l’humanisation du robot (que toutes les recherches scien­ti­fiques tendent à réa­li­ser) implique éthi­que­ment, il me semble, qu’on ait répondu à LA ques­tion anthropo-ontologique : Qu’est-ce qui défi­nit réel­le­ment l’humanité dans l’homme ? Sa culture et son his­toire (sa mémoire dit Greg Egan) diraient cer­tains, sa carte géné­tique diraient d’autres… Sa faculté de créer ses outils, de s’adapter à l’environnement… Il y un peu de tout ça et pour­tant ce n’est pas suf­fi­sant. On a long­temps cru, avec Des­cartes, que la Rai­son était la défi­ni­tion abso­lue de l’homme (relé­guant par là même un cer­tain nombre de fous à l’état de sous-humains), or l’histoire nous a mon­tré qu’avec rai­son l’homme pou­vait com­mettre les pires actes de bar­ba­rie… Devant cet échec, Lévi­nas pro­pose de défi­nir l’homme comme un être capable de répondre de ses dires et de ses actes, de répondre de et pour lui-même et de répondre de et pour l’ensemble de sa com­mu­nauté… Le robot, pour moi, sera trop humain à par­tir du moment où il sera capable d’endosser ce “répondre de et pour” de Lévi­nas. A quand donc un robot “res­pon­sable” ? Ceci rejoint fina­le­ment les 3 lois édic­tées par Asimov.

   J’essaierai de trou­ver Greg Egan, ça fait long­temps d’ailleurs que je n’ai pas lu de SF… Merci du tuyau !