Des naissances Raéliennes au décès récent (le 2 février 2003) de Dolly, la brebis née le 5 juillet 1996 et clonée à partir d'une cellule d'un animal adulte, les innombrables débats autour du clonage montrent l'intérêt populaire pour ce domaine scientifique et éthique. Même la jeunesse n'échappe pas à cet engouement, puisque l'on pouvait découvrir dans un hebdomadaire à grand tirage ([18]) le résultat d'un sondage « Le clonage des animaux, pour ou contre ? », montrant que 21 % des lecteurs étaient pour, 36 % étaient contre, et 43 % pour et contre, selon les finalités du clonage lui-même. Un argument en faveur du clonage fait référence au fait que celui-ci peut permettre de sauver des espèces en voie de disparition ; des arguments opposés s'appuient sur le fait que « ce n'est pas naturel », ou que c'est « dangereux pour la santé des animaux ».
Il est de fait que les annonces multiples (succès autant qu'échecs) autour du clonage font ressurgir, sous une forme plus ou moins nouvelle, de très anciennes discussions autour de thèmes bien connus : le double, l'étranger, l'esclave, la machine, l'immortalité, le successeur de l'homme, etc. Et il est indéniable que le clonage, s'il ne dérange pas trop lorsqu'il s'applique à des plantes (dont c'est parfois le seul mode de reproduction) et, dans une moindre mesure, à des animaux, soulève de nombreux problèmes d'éthique lorsque sa cible est l'homme.
Pour explorer ces questions, il nous est loisible de nous tourner vers la littérature scientifique (par exemple [20]), la presse à scandale, ou encore vers la science-fiction, qui depuis bien longtemps s'est intéressée au problème. Certes, l'auteur de science-fiction n'est pas là pour prédire le futur, ce dont il est tout aussi incapable que n'importe quelle « Madame Soleil », et il n'a en général pas plus de compétences techniques dans les domaines explorés que l'honnête homme actuel. Pourtant, il s'est très souvent donné implicitement pour tâche d'accompagner le présent, d'explorer l'espace des possibles, de jeter les lueurs de « sa » compréhension dans l'obscurité qui nous entoure. L'une des explications de cette « capacité » particulière des auteurs tient à la construction même du récit de science-fiction : il est fréquent que celui-ci s'intéresse à une technologie particulière, parfois existante, mais le plus souvent anticipée, voir fantasmatique, et essaye d'en tirer les conséquences, si possible inattendues, par exemple (mais ce n'est que l'un des cas de figure) en essayant d'imaginer ce qui pourrait se passer si quelque chose allait de travers. En bref, l'auteur de science-fiction s'est souvent aventuré là où les médias n'avaient pas encore mis le pied, à une époque où ce n'était pas encore « à la mode... »
Ce qui nous intéressera par conséquent, plus que le réalisme ou la plausibilité des techniques décrites ou évoquées, ce sera la réflexion sur l'impact de l'utilisation de ces techniques sur l'individu, la société, ou l'image que nous nous faisons de l'humanité.
C'est ainsi que l'on peut retrouver la très riche problématique du clone dans nombre de récits, souvent anciens. Le clone est d'abord le double. Qui ne s'est jamais dit « si j'étais deux, je ferais faire à l'autre tout ce qui m'embête » ? (À chaque fois que je pense ceci, je me console en me disant que, vu que je ne suis pas particulièrement doué, c'est probablement lui qui m'imposerait les tâches les moins gratifiantes). On voit ici apparaître l'un des premiers aspects du statut ambigu du clone. Il est semblable à nous, il peut donc faire la même chose que nous ; mais il reste notre inférieur, notre esclave. Nous sommes le modèle, lui, la copie. Il nous doit quelque chose : l'antériorité, la vie, peut-être ?
Charles Sheffield nous décrit, dans la nouvelle « Out of Copyrights » [41]une société qui ressuscite les grands hommes du passé pour utiliser leurs compétences... Dans des domaines souvent bien éloignés de leurs activités originelles. La même thématique apparaît chez Le Guin (« Nine Lives » [24]). Dans ces textes, le clone humain est devenu l'un des rouages importants de la société. Pourtant, même si l'humanité du clone est rarement remise en question (par exemple, Alan Turing écrivait en 1950 dans « Computing Machinery and Intelligence » [46]qu'il était fort probable que l'on parvienne un jour à recréer un individu complet à partir d'une simple cellule prélevée sur la peau d'un homme, mais que le résultat ne saurait en aucun cas être assimilé à une machine), le statut et les droits liés à tout humain lui sont rarement accordés de bon coeur. À l'échelle d'une société, nous assistons dans certains récits à la création d'une caste de sous-humains, que l'on appelle ceci des robots, ou des androïdes, en bref des esclaves dont l'existence trouve sa justification dans le fait qu'ils sont différents de nous. L'auteur Tchèque Karel Capek, évoquant le concept dans « R.U.R. » [2], nous en montre immédiatement une conséquence logique : la révolte de ces esclaves, et la disparition finale de l'humanité.
En littérature, et en particulier en Science-Fiction, le clone permet l'assouvissement de nos fantasmes. Deux hommes sont amoureux d'une même femme ? Pas de problème, il suffit de la cloner pour que tout le monde soit content, ou presque. C'est le thème du « Triangle à quatre côtés » [44] (il est fait appel dans l'histoire à un « reproducteur de matière », mais ceci ne change guère les leçons que l'on peut en tirer). Le clone est également le partenaire sexuel idéal dans nombre de récits ([24], par exemple).
Une autre acceptation du clone est celle de source de matière première biologique, banque d'organes inépuisable. Greg Egan nous en fait la démonstration dans « Le Réserviste » [8], dans lequel un riche individu entretient une armée de clones, destinés à le pourvoir en organes, et même en corps de rechange.
Cette dernière thématique est intéressante : la technologie du clone est ici au service du grand rêve, du grand fantasme de l'humanité : la longévité, la vie éternelle, l'immortalité. Dans le texte d'Egan, cette longévité est relative ; le cerveau est simplement transplanté d'un corps âgé vers un corps plus jeune. Mais le cerveau lui-même finit par se dégrader. Peut-on y remédier, de quelle manière ?
Egan fait référence au caractère holographique de la mémoire des informations conservées dans le cerveau (et, partant, de la personnalité et de la conscience) ; une partie de la personnalité reste attachée l'ancien corps. Une approche voisine est envisagée par Alexander Lazarevich dans un article sur la technologie de l'immortalité [23]. Alors qu'il suggère également l'utilisation de clones plus jeunes pour servir de support au cerveau, et donc à la personnalité, il propose également de tirer parti de la symétrie partielle des deux hémisphères cérébraux. Bien que ceux-ci jouent des rôles dissemblables, et que les informations conservées dans chacun soient différentes, Lazarevich imagine qu'il est possible d'utiliser les communications qui existent entre ces hémisphères (le corpus calosum), pour permettre un « échange standard » du cerveau. Dans ce procédé, l'un des hémisphères (le droit par exemple), est physiquement remplacé par l'hémisphère correspondant, « vierge », prélevé sur un clone. En quelques années, ce demi-cerveau « comble son retard », et acquiert directement des connaissances nouvelles, par les méthodes habituelles chez l'homme, en même temps qu'il assimile les « souvenirs » utiles, sollicités par l'existence quotidienne, par échanges avec le cerveau gauche. Au bout d'un laps de temps suffisant (dix ans, par exemple), la partie gauche du cerveau peut, à son tour, être remplacée, s'appuyant cette fois sur les acquis du cerveau droit. Un processus similaire est illustré dans une nouvelle de Robert P. Munafo [32].
Ce qui est attrayant dans ce concept est qu'il ne fait appel à aucune nouvelle découverte révolutionnaire, mais à de « simples » progrès, que l'on peut juger réalistes, dans les technologies du clonage et de la microchirurgie. En particulier, ni la nano-technologie, dans son sens le plus fort, ni la compréhension totale du fonctionnement du cerveau ne sont nécessaires dans cette approche. On notera encore qu'il y a, dans l'esprit de l'auteur de la proposition, conservation de l'individualité de la personne, bien qu'il y ait, à terme, remplacement du corps complet, cerveau inclus.
Le cinéma de Science-Fiction, lorsqu'il traite du clone, nous habitue à des méthodes plus expéditives. Dans le film « À l'aube du 6ème jour » [42], la technique du clonage permet de ressusciter des personnes disparues. Des corps standards, « dépourvus d'ADN », sont cultivés in vitro ; l'ADN de la personne disparue est injectée dans un tel corps, ce qui crée un double parfait, puis les « souvenirs » sont installés dans le cerveau, et la personne peut repartir sur le champ vers de nouvelles aventures.
Le concept du double qui attend ainsi son activation n'est guère nouveau. On en trouve l'idée, pour ne citer que les grands classiques, dans « Le monde du ~A » de van Vogt [47], ou encore dans le personnage de l'Ombre Jaune, d'Henri Vernes (par exemple, [48]), et même, dans un autre registre, dans les « Graines d'Épouvante » de Jack Finney [12]ou le « Père Truqué » de Philip K. Dick [4].
Dans la pratique, nombre de textes intéressants s'intéressent moins à la perspective paranoïaque du remplacement du sujet par un « autre », différent, hostile, qu'à celle, que l'on peut qualifier d'optimiste, de la continuation de son existence. Naturellement, les auteurs s'efforcent de rendre crédibles le concept et l'opération elle-même, et d'en expliciter les différentes phases : pouvoir prendre une copie de l'esprit d'un humain nécessite une connaissance approfondie de la structure et du fonctionnement du cerveau, la disponibilité de la technologie permettant d'analyser celui d'une personne (d'une manière destructrice ou non), la capacité enfin de rendre actif cette copie, soit en la transférant dans un réceptacle organique vierge ou spécifiquement conçu à cette fin, soit encore en l'utilisant comme source d'entrée d'un programme simulant le fonctionnement du cerveau. Il faut naturellement savoir réaliser cette simulation, mais on peut imaginer que cette dernière condition est satisfaite dans la pratique si l'on dispose des connaissances et des outils permettant de réaliser la copie elle-même.
L'idée d'une mémoire associée au cerveau, et permettant de conserver les souvenirs d'un être humain n'est, en elle-même, pas très nouvelle. De très beaux textes, tels que « Mémoire vive, mémoire morte » de Gérard Klein [22], ou encore « En apprenant à être moi » de Greg Egan [7] viennent immédiatement à l'esprit. Arthur C. Clarke, dans « La Cité et les Astres » [3], écrit en 1955, nous montre une civilisation très avancée dans laquelle des « Immortels » vivent par cycles de plusieurs centaines d'années. Ils naissent adolescents, recouvrent peu à peu les souvenirs de leurs vies antérieures, puis retournent reposer pour quelques milliers d'années dans les banques de données de la Cité : « Les caractères spécifique de l'homme, et plus encore ceux de son esprit, sont incroyablement complexes... Nos ancêtres apprirent à analyser et conserver l'Information spécifique de l'être humain, et à l'utiliser pour recréer l'original... Il y a fort longtemps qu'ils savent se stocker eux-mêmes, ou plus précisément ils savent stocker les patrons désincarnés d'où on peut les rappeler à l'existence » (pp. 30-31). « Pourquoi accepterait-on la mort, tellement inutile, quand on avait la possibilité de vivre un millier d'années et de sauter par-dessus les millénaires pour prendre un nouveau départ dans le monde qu'on avait aidé à construire ? » (pp 191).
Une telle société risque de devenir extrêmement statique et repliée sur elle-même ; pour cette raison, la Cité de Diaspar, ou du moins l'Intelligence Artificielle qui gère celle-ci, construit à l'occasion des personnalités entièrement nouvelles, susceptibles d'introduire un brin de fantaisie dans la vie de la population. L'ouvrage décrit l'arrivée d'un tel « unique », sa rencontre avec les habitants de Lys, une autre branche de l'humanité, constituée d'individus soumis à la vieillesse et à la mort, sa découverte de l'univers, et les conséquences qui vont en découler.
Quarante ans plus tard, Greg Egan s'attaque au même sujet dans « Diaspora » [11]. Comme dans l'ouvrage de Clarke, on y assiste à la création d'un individu nouveau, à sa découverte des « Polis », la civilisation virtuelle dans laquelle il vit, à sa rencontre avec des individus de chair et d'os, à sa découverte de l'univers, etc. Entre ces deux romans, la technologie a fait des progrès, et Egan peut se montrer beaucoup plus précis et convaincant que Clarke. Son cas n'est pas isolé. Les textes qui mettent en scène des copies de personnes sont devenus extrêmement nombreux au cours de ces dix dernières années. Citons parmi les romans « La cité des permutants » de Greg Egan [10], « Expérience Terminale » de Robert J. Sawyer [39], ou encore « Morte en mémoire vive » de Peter James [19] ; parmi les nouvelles « Adieux à Genêts » d'Emmanuel Levilain-Clément [26], « Rêves de transition » de Greg Egan [9], « Sur le seuil » de Jean-Jacques Girardot [16], etc.
Dans la quasi-totalité des textes récents, une même science, la nanotechnologie (que celle-ci soit simplement mentionnée ou qu'elle fasse l'objet de longs développements descriptifs), est le vecteur de toutes les opérations visant à assurer le transfert de l'esprit depuis son support biologique vers un autre support mécanique ou biologique. Est-il utile de s'appesantir sur ce terme, qui fait aujourd'hui partie intégrante du bric-à-brac technico-scientifique de tout écrivain de science-fiction qui se respecte ? Disons en peu de mots qu'il s'agit d'une technologie encore inexistante, mais largement anticipée (cf. [13,38,5,6] par exemple), dont la finalité est de contrôler l'arrangement de la matière avec une précision de l'ordre du nanomètre, permettant en pratique d'obtenir l'assemblage de n'importe quelle combinaison physiquement possible d'atomes - un travail aussi simple que de construire une maquette du Sacré-Coeur en empilant des balles de tennis et de ping-pong avec une pince de la taille de la tour Eiffel... Aucune nouvelle découverte fondamentale n'est nécessaire : l'arrivée effective de la nanotechnologie ne dépend que de simples progrès, attendus, en ingénierie. Les tenants de cette technologie prétendent que son avènement sera, pour l'humanité, une étape aussi décisive que la découverte et la maîtrise du feu ; il faudrait des pages et des pages pour en décrire les potentialités. Qu'il suffise de dire que l'une des retombées les plus attendues est la création de nano-ordinateurs, d'une puissance équivalente à celle des plus grosses machines actuelles, de la taille d'un micron cube, donc bien plus petits qu'une cellule humaine, et d'un coût de fabrication dérisoire.
La mise en relation de la nano-technologie, des progrès de l'informatique et de l'avancée des connaissances relatives au cerveau humain aboutit ainsi à un résultat aux implications saisissantes : le « brain-uploading », une technique qui permet de construire au sein d'un ordinateur une représentation du cerveau humain. Le concept de «chargement» de l'esprit est clair : il s'agit de conserver, dans une mémoire informatique, une reproduction, ou une sauvegarde, d'un esprit humain, l'esprit (il n'est ici nullement question de l'âme !) étant cette chose mystérieuse qui est le résultat d'un ensemble complexe de réactions électrochimiques se produisant au sein de notre cerveau. La terminologie habituellement utilisée pour désigner de tels objets est le terme de « copie » ou « clone informatique ».
Ce qui différencie fondamentalement la copie d'un individu des autres formes d'enregistrement (photographie, vidéo, tomographie) est qu'une telle copie est activable. Utilisée comme donnée d'entrée du logiciel adéquat exécuté sur un ordinateur de puissance suffisante, le processus informatique engendré par la copie se comporte, dans son univers virtuel, comme se comporterait l'être humain initial.
Le lecteur intéressé par le concept trouvera sur Internet nombre de documents de référence, beaucoup plus complets que la brève présentation qui va suivre, l'un des sites les plus anciens étant « The Mind Uploading Home Page » [43], maintenu par Joseph J. Strout, qui est consacré au processus putatif de transfert de l'esprit humain depuis son substrat naturel, le cerveau, vers un support artificiel conçu par l'homme. On y trouve naturellement une description des aspects technologiques, sur lesquels nous reviendrons, mais aussi une certaine dose de réflexion philosophique sur la nature de la pensée et de la vie, l'identité et la personnalité. Strout s'interroge également sur les conséquences, politiques et sociales, de l'application de cette technologie.
Qu'est-ce que l'esprit, ou l'intelligence, ou la conscience ? Clairement, conscience et cerveau sont étroitement liés, et, comme le fait remarquer Strout, quasiment tous les aspects comportementaux de l'individu peuvent être modifiés par des actions physiques exercées sur le cerveau. Il est donc indéniable que c'est, matériellement, cet organe qui est le siège de l'activité de l'esprit. Physiquement, en ce qui nous concerne, le cerveau apparaît comme un assemblage de «cellules grises», les neurones. Chaque neurone reçoit des informations (impulsions électriques, dites «potentiels d'action») de ses voisins à travers des entrées (les dendrites, et plus spécifiquement leurs terminaisons, les synapses, typiquement au nombre de 1000, parfois jusqu'à 100000 par neurone), et génère en réponse une sortie sur un axone, qui peut être connecté aux synapses d'autres neurones, ou encore aller commander des muscles. Bien que dans certaines synapses, un contact direct des membranes des deux axones permette une conductivité électrique, il existe la plupart du temps une fente synaptique (de 20 à 50 nanomètres) interdisant cette transmission directe du signal nerveux. Les extrémités des axones sont en fait dotées de vésicules contenant des substances chimiques, les neurotransmetteurs (une centaine répertoriés, telle l'acétylcholine), qui peuvent avoir une action excitatrice ou inhibitrice. Ces substances sont libérées dans la fente synaptique lors de l'arrivée des potentiels d'action, et, en se fixant sur les membranes réceptrices des dendrites ou du corps cellulaire des neurones connectés, vont éventuellement donner naissance à de nouveaux potentiels d'action, avant d'être recyclées. L'horloge humaine repose ainsi sur des mécanismes physico-chimiques qui ne sont pas particulièrement rapides (le «cycle» est de l'ordre de la milliseconde, 10 puissance moins 3 secondes, soit 1000 Hz, fréquence à comparer avec celle des ordinateurs personnels actuels, 3 GHz, lesquels sont donc, aujourd'hui déjà, trois millions de fois plus rapides). Le problème est que le cerveau est massivement parallèle : il y a environ 10 puissance 15 synapses connectant 10 puissance 12 neurones, soit l'équivalent de mille milliards de petits ordinateurs assez fortement interconnectés fonctionnant en parallèle ! Si, suivant en cela la doctrine du matérialisme, on accepte l'idée que c'est cet assemblage particulier de neurones qui donne naissance à la conscience, on peut se demander comment reproduire artificiellement le même phénomène. Ne rêvons pas tout de suite, la technologie n'est pas encore au point. Malgré les progrès de la Cognitique (dont l'acceptation va ici des neuro-sciences jusqu'aux recherches sur l'intelligence artificielle, en passant par les sciences sociales et les sciences du langage ; voir par exemple l'article « Faut-il avoir peur des sciences cognitives » de Jean-Michel Maldamé [27]), nous ne disposons pas d'une connaissance suffisamment détaillée, au niveau cellulaire, du fonctionnement du cerveau (c.f. l'essai de Marvin Minsky « La Société de l'Esprit » [28], et pour un état des lieux plus récent [34] ou [40]), nous sommes bien loin de pouvoir en relever la topographie, et nous n'avons ni la capacité de stockage nécessaire à la représentation du modèle, ni la puissance de calcul permettant d'en faire fonctionner une simulation. Dans l'hypothèse plus que simpliste où le neurone s'avère n'être qu'un automate, avec autant d'entrées que de synapses, se déclenchant lorsqu'un certain seuil est atteint (typiquement lorsque entre 20 et 100 synapses sont activées), un calcul rapide montre en effet qu'il faut un minimum de 10 puissance 15 octets (mais très probablement beaucoup plus) pour représenter le cerveau humain, soit plusieurs ordres de grandeur au dessus de ce que l'on sait construire. De même, on est loin de disposer de mille milliards d'ordinateurs ; de là à les interconnecter, même avec Internet... Pourtant, ce premier point n'est pas très inquiétant. L'industrie informatique a progressé, par rapport à nombre de techniques plus anciennes, à un rythme effrayant au cours de ces trente dernières années (capacité de la mémoire, puissance de calcul, intégration, consommation en énergie et coût de fabrication s'améliorant régulièrement d'un facteur deux tous les dix-huit mois, la «loi de Moore»), et l'on s'accorde à penser que cette progression va se maintenir durant les dix années à venir. (Vous avez certainement déjà entendu dire que si l'industrie automobile avait évolué au rythme de l'industrie informatique, nous aurions tous des Rolls Royces, plusieurs, qu'elles ne consommeraient qu'un centimètre cube de carburant aux cent kilomètres, et qu'elles ne coûteraient pas plus cher qu'un carnet de métro ; j'ajoute souvent que, merveille de la miniaturisation, elles ne mesureraient plus que deux centimètres de long, ce qui résoudrait en outre les problèmes de stationnement.) Par ailleurs, il est probable que la nanotechnologie, déjà évoquée, viendra assez rapidement à notre secours dans notre course à la puissance de calcul.
Il est donc réaliste d'envisager la simulation sur un ordinateur du fonctionnement d'un cerveau humain. Nous nous intéressons ici à la « simulation organique », qui va s'attacher à recréer l'organe en considérant le cerveau comme un réseau dense (c'est à dire, fortement interconnecté) de neurones. Il deviendra probablement possible, à court terme (10 à 15 ans), de simuler correctement sur une machine le fonctionnement de neurones humains. Les «connaissances» de ces neurones se limitent probablement aux liaisons (synapses et axone) de ce neurone avec ses voisins topologiques, et à certains assemblages internes de protéines, représentant la mémoire du neurone, et influant sur son comportement. Si l'ensemble de ces phénomènes physico-chimiques est correctement analysé et modélisé, cette entité de base, ce «neurone électronique» sera une simulation assez fine pour se comporter en tous points comme un véritable neurone, capable en particulier de reconfigurer ses connexions externes et de faire évoluer sa mémoire interne. Il ne reste plus qu'à aligner un nombre suffisant de telles simulations (grâce à la nanotechnologie) pour obtenir un automate cellulaire (au sens de Conway), modélisant un «cerveau» en état de fonctionnement. Si la topologie de cet automate est calquée sur celle d'un cerveau humain spécifique, et si les neurones électroniques sont dotés des mêmes connaissances que les neurones organiques correspondants, nous aurons réalisé une simulation convaincante de notre organe, et donc de «l'esprit» de notre individu.
Revenons à notre transfert d'esprit. Comment, maintenant que nous savons réaliser un «cerveau électronique», obtenir une description suffisamment précise de la topologie du cerveau physique d'un individu, afin de créer sa copie, sous la forme d'une de ces simulations organiques que nous venons de définir ?
Les méthodes in vivo ne sont pas très nombreuses. L'idée première est le passage au scanner, une procédure non destructrice, disponible aujourd'hui. Plusieurs techniques existent. L'imagerie par résonance magnétique nucléaire (RMN) fait appel à un champ magnétique variable, provoquant des résonances de certains types d'atomes (hydrogène par exemple) ; la détection et l'analyse de ces résonances permet de dresser une carte du cerveau. La tomographie X ou scanner à rayons X, utilise le fait que les différents types de tissus absorbent différemment ce rayonnement. Dans ces deux techniques, source et détecteur se déplacent et tournent autour du corps, et la précision des mesures est de l'ordre du millimètre. Enfin, la tomographie par émission de positrons fait appel à la détection de la désintégration d'isotopes radioactifs à courte période (tels que l'oxygène 15) injectés dans l'organisme. La précision, de l'ordre de 4 mm, est moins bonne que celle des techniques précédentes. Le lecteur intéressé trouvera dans un numéro déjà ancien de « La Recherche » [35]une couverture complète de la question. Dans tous les cas, les résolutions obtenues sont bien trop grossières pour satisfaire nos besoins, et nous nous heurtons à des limitations physiques qui semblent difficiles à contourner. Pourtant, de nouvelles techniques apparaissent périodiquement, basées par exemple sur l'analyse d'interférences. Des outils holographiques utilisant des rayons gamma, des rayons X ou des faisceaux de neutrons fourniraient la précision nécessaire ; ils présenteraient l'inconvénient probable d'endommager les tissus analysés... Il sera possible, dans un futur proche, de remplacer les ondes (rayons X, rayons gamma) par des faisceaux d'atomes : c'est le microscope atomique (pour lequel reste actuellement le problème de trouver l'équivalent d'un bloc optique déviant les atomes : déflecteurs à fentes microscopiques, lentilles magnétiques...). Un faisceau d'atomes d'hélium lancés à 1000 m/s fournirait la même résolution que les rayons X, avec une énergie transmise 10 puissance 10 fois plus faible, qui ne conduirait pas à une destruction des tissus étudiés.
Les techniques «destructrices» sont cependant, pour l'instant, plus réalistes. On peut imaginer que le cerveau soit congelé, d'une manière ou d'une autre, et débité en tranches extrêmement minces, qu'il serait possible d'analyser séparément, par des méthodes classiques, de manière beaucoup plus fine que lorsque l'on a affaire à l'organe tout entier. L'analyse peut être physique d'abord (topologie des connexions) puis chimique (la composition du neurone, des synapses). Eugen Leitl [25] décrit une méthode dans laquelle le cerveau est balayé point par point par un laser ultraviolet, vaporisant quelques molécules à la fois, dont les débris sont recueillis et analysés au spectroscope de masse. Hans Moravec [31,30]propose d'utiliser un robot équipé de milliards de doigts à l'échelle du nanomètre, terminés par des sondes actives, retombée de la nanotechnologie, machine dont on trouve également une description dans « Le Problème de Turing » [29] et que l'on voit en fonctionnement dans « L'éternité, moins la vie » [15]. Le patient, la tête fermement maintenue en place, est assis tranquillement, tandis que le robot analyse un neurone, mesure son activité physico-chimique, puis le détruit et remplace fonctionnellement axone et synapses par certains de ses doigts. Le robot opère naturellement sur un grand nombre de neurones à la fois. Au bout d'un moment, il n'y a plus de neurones, et l'ensemble de l'activité du cerveau a été graduellement remplacée par une simulation opérée par la machine. Dans une proposition voisine, des nanomachines sont injectées dans le cerveau. Chacune prend place près d'un neurone, voire même à l'intérieur de celui-ci, et analyse ses entrées et ses sorties, sur une période de temps suffisamment longue pour que toutes les réactions du neurone soient correctement modélisées et que l'on puisse les prédire sans erreur : quelques jours, quelques semaines peut-être. Lorsque cette certitude est acquise, la micro-machine détruit le neurone et le remplace fonctionnellement, recevant par des capteurs, correspondant aux synapses, les messages de ses voisins, et fournissant ses réponses par une sonde active, équivalente à l'axone. Là encore, un grand nombre de substitutions peuvent être réalisées simultanément ; lorsque l'ensemble des neurones a été remplacé par de telles machines, la simulation est complète. La configuration et le contenu des mémoires des nanomachines peuvent alors être relevés, fournissant les données nécessaires à la création de la copie. David Ross illustre le processus dans une courte nouvelle, « Uploading Jason Macklin » [36].
Voici donc un bref résumé de certaines des techniques potentielles pour accéder à l'immortalité (au sens de «longévité non limitée») au travers des ordinateurs du futur. Elles sont discutées, parfois avec passion, au sein d'une partie de la communauté scientifique, et en tout cas semblent raisonnablement réalistes. L'immortalité devient ainsi une notion concrète, quasiment palpable. Rêvons un peu, imaginons les problèmes technologiques résolus (selon nombre d'auteurs, la probabilité est très grande que ce soit le cas d'ici cinquante à cent cinquante ans [43]), et esquissons quelques thèmes de réflexion sur le futur de nos copies.
Une question intéressante est de savoir si ces processus seront considérés comme de simples logiciels (même «intelligents»), ou si la société va leur concéder le statut de personne ; naturellement, la voie la plus riche est celle où les entités électroniques sont assimilées à des personnes (comme dans l'univers de la Culture, décrit par Iain M. Banks [1]), que ces entités soient des intelligences artificielles ou des copies.
Voici en effet des logiciels, tournant sur des machines, qui prétendent être conscients, avoir une identité et des souvenirs, et se comportent en effet comme des entités intelligentes au sens de Turing (le fameux «test de Turing», proposé par le mathématicien américain Alan Turing dans les années cinquante [46], met en scène un observateur humain dialoguant à travers un terminal avec une entité dont il ignore la nature, programme ou autre être humain ; l'observateur doit déterminer la nature de son correspondant ; s'il ne parvient pas à acquérir la certitude subjective qu'il est face à une machine, l'entité a réussi le test). Notre future société devra trancher, en particulier sur le plan juridique, sur la nature de ces entités : intelligentes ou non, humaines ou non, clones ou continuations réelles de l'original ? Le problème vient naturellement du fait qu'il n'existe aucune unanimité concernant la simple définition de ces concepts. Qu'est-ce que l'intelligence humaine ? L'intelligence animale ? Une machine peut-elle être intelligente ? Nombre de personnes s'élèvent en faux contre cette seule idée. Le problème, avec les gens qui affirment qu'une machine ne peut penser et ne saura jamais le faire (sous-entendant ainsi qu'il existe chez l'homme quelque chose qui ne se réduit pas au seul fonctionnement physico-chimique du cerveau), est qu'ils n'ont à aucun moment explicité les théories et les tests qui leur permettent d'arriver à cette conclusion. Il est probable que si un tel test était effectivement décrit, il serait possible de construire une machine susceptible de le réussir - et de trouver un humain incapable de le passer. On peut certes s'ingénier à accumuler nuances et qualificatifs, défendre ses positions mot à mot. Nos copies sont intelligentes, mais sont-elles conscientes de leur existence ? Même si elles le prétendent, ne s'agit-il pas d'une simple simulation de comportement conscient ? Même les analyses poussées sur la question (telles le livre de Roger Penrose, «The Emperor's New Mind» [33]) se réduisent, semble-t-il, à des tentatives de rationalisation de bases irrationnelles, relents du «vitalisme» [17]aujourd'hui abandonné... dans toutes les autres disciplines. Ne faut-il pas, au contraire, en conclure que la conscience naît de l'intelligence ?
Alan Turing, dans son article fondateur [46], répond par avance à ces questions. Si l'on pousse le raisonnement à l'extrême, dit-il, le seul moyen de savoir si une machine pense véritablement est d'être la machine, et de s'analyser soi-même. Bien sûr, personne n'accepterait une telle analyse venant de la machine elle-même. Mais l'on peut également arguer que le seul moyen de savoir si un autre homme pense vraiment est d'être cet autre homme. Nous voici en plein solipsisme. C'est une conséquence que l'on peut qualifier de « logique », mais qui rend toute communication impossible. La seule manière d'éviter cet écueil, conclut Turing, est d'accepter poliment la convention que, les uns et les autres, nous pensons - et que les machines peuvent faire de même.
Une autre question intéressante est la suivante : va-t-on considérer qu'il y a identité entre la copie et la personne, ou bien la copie aura-t-elle un statut particulier vis à vis de la personne (descendant, clone), tout en étant considérée comme distincte de la personne ? Cette question de l'identité n'est pas triviale. L'une des réponses classiques est celle de la continuité : l'identité naît de la continuité des perceptions, des sentiments, des souvenirs. La copie est-elle donc l'humain qu'elle se souvient d'avoir été ? Vaste débat. Mais le vieillard est-il encore l'enfant qu'il se souvient d'avoir été ? Suis-je, à l'instant où j'écris cette phrase, la même personne que celle qui a commencé à rédiger cet article ? Oui, nous répond notre brave vieux bon sens, si prompt à tomber dans toutes les embûches que la logique veut bien lui tendre. De moins en moins, affirment certains philosophes, même si d'autres défendent à corps et à cris la position contraire : « Ça alors, Smith, comme vous avez changé ! Vous aviez une moustache noire, et elle est maintenant poivre et sel ; vous étiez grand et maigre, et vous voici petit et gros ; vous aviez les yeux bleus, et ils sont devenus marrons... - Mais je ne m'appelle pas Smith ! - Ah bon ! Vous avez aussi changé de nom ? » Cette interrogation sur la « continuité » n'est d'ailleurs pas nouvelle, puisqu'on la trouve déjà dans la légende des Argonautes (Jason, la Toison d'Or, etc). Après des années de navigation, le navire Argo revient au port, ayant subi mille réparations, changement de mât ici, de planche là... Est-ce bien, demande le conteur, le même navire que celui qui est parti ?
Certaines des techniques évoquées plus haut, comme la procédure Moravec ou le nanoremplacement, font appel, de manière réaliste, à la notion de continuité : au cours de l'opération, qui peut durer plusieurs heures, voire plusieurs jours, il y a transfert progressif de l'activité intellectuelle depuis son support organique vers une représentation électronique. On peut même imaginer un nanoremplacement extrêmement progressif. Chaque jour, nous perdons quelques millions de cellules. D'autres naissent, qui viennent les remplacer (ce n'est pas tout à fait vrai pour nos neurones, mais passons sur ce détail). Lorsqu'un neurone de notre cerveau disparaît, ce qui arrive en permanence, cette disparition passe inaperçue (du moins sur un court laps de temps, même si l'effet cumulatif devient sensible à longue). On peut imaginer que c'est également vrai si nous remplaçons un neurone sur le point de disparaître par une nanomachine qui se comporte comme ce neurone. La procédure de nanoremplacement peut donc s'étaler sur des dizaines d'années... Il y a là de bons atouts pour arguer de l'identité entre la copie et l'original.
La position est plus contestable lorsqu'il s'agit d'une copie obtenue par un scan d'une personne vivante. Nous sommes alors en présence de deux entités, identiques à un instant donné, mais qui vont progressivement diverger, fournissant des personnalités de plus en plus différentes. Jusqu'à quel point y a-t-il identité ? Faut-il réaliser le scan et ne pas réveiller l'original ? Il y a certes là une certaine discontinuité physique, mais ce n'est pas, à tout prendre, pire que ce qui arrive aux personnages de Star Trek deux ou trois fois par épisode (vous savez, le fameux «Beam me up, Scotty...») ; le problème de l'identité entre l'original et la personne téléportée y est d'ailleurs brièvement effleuré dans cette série, sur le pur plan anecdotique : Spock : «Hum... Capitaine Kirk, nous avons eu un petit problème avec le fonctionnement du téléporteur. Vous avez bien été transporté sur la planète autour de laquelle nous orbitons, mais vous n'avez pas été dématérialisé ici, sur l'Entreprise. Si maintenant vous voulez bien me suivre jusqu'aux désintégrateurs...». Le même problème arrive à l'héroïne de « Think Like a Dinosaur » [21]. Le moins que l'on puisse dire est que la solution n'est qu'à moitié satisfaisante pour elle.
Cette dernière parenthèse technologique nous fait toucher du doigt les problèmes juridiques qui vont se poser à notre société. Que faire si deux copies sont activées par erreur ? Si une copie disparaît accidentellement, peut-on réactiver une version plus ancienne d'un jour ? D'une minute ? A-t-on «tué» un être électronique, ou lui a-t-on simplement fait oublier, perdre une minute, une journée de son existence ?
Nous en arrivons enfin à la science-fiction, et dans une thématique qui n'est pas si originale que ça, puisque ces « copies » et ces « intelligences artificielles » (à l'instar des « clones ») sont autant de figures nouvelles du double, succédant aux androïdes, robots et autres extra-terrestres, autant d'occasion de réfléchir sur la nature humaine et la notion d'humanité.
Des lois spécifiques s'appliquent aujourd'hui aux «objets» que l'on peut posséder : animaux, véhicules ou logiciels. L'une des questions que devront se poser les législateurs de demain est celle-ci : où s'arrête un programme traditionnel, et où débute une I.A., quels sont les droits de ces entités ? Naturellement, la voie la plus riche est celle où les entités électroniques sont assimilées à des personnes (comme dans l'univers de la Culture, décrit par Iain M. Banks [1]), que ces entités soient des intelligences artificielles ou des copies. Prenons le cas d'une «copie.» Elle a été obtenue par un «upload», chargement de la description d'un cerveau humain particulier, et peut être considérée comme un «clone», «héritier», «représentant», etc. du modèle initial, possiblement disparu. Elle est de nature différente de l'original, mais, d'une certaine manière, elle peut être assimilée à cette «personne» en ce sens que son comportement est identique à celui de la personne physique dont elle est la copie, et nous avons de bonnes raisons, pratiques autant qu'éthiques, de l'accepter en tant que « personne humaine ».
Considérons maintenant le problème de la simulation « fonctionnelle », nommé ainsi par opposition à la simulation « organique » présentée ci-dessus. Alors que cette dernière s'attache à simuler l'organe, recréant ainsi la fonction, la simulation «fonctionnelle», tout comme un avion permet à l'homme de se déplacer dans les airs par une technologie qui n'emprunte en rien au modèle de l'oiseau, ne passera pas par la création de neurones électroniques, mais sera plutôt le fait de cogniticiens qui auront modélisé le comportement non du cerveau, organe physique, mais de l'esprit humain, au moyen d'un ensemble extrêmement important de savoirs, règles, méta-règles et d'autres artifices informatiques restant à concevoir, constituant une base de connaissances. Très grossièrement, on peut assimiler ce modèle aux systèmes experts actuels, dans lesquels un moteur d'inférences, s'appuyant sur des faits et guidé par des méta-règles, applique des règles pour aboutir à de nouvelles conclusions, actions ou faits nouveaux venant enrichir la base de connaissances. De tels programmes informatiques constitueront de pures Intelligences Artificielles, I.A., au sens propre, qui ne devront rien au modèle organique du cerveau humain.
Considérons maintenant une I.A., c'est à dire un simple assemblage de règles, pourvue de données en quantité et qualité suffisantes pour qu'elle se comporte, vis à vis de l'extérieur, strictement de la même manière que peut le faire une copie spécifique. Cet être est donc artificiel, intelligent au sens du test de Turing, semble doté d'une personnalité qui lui est propre, mais reste, aux termes de la loi, un programme, tandis que la copie est une personne. Pourtant, on peut montrer qu'il n'y a pas de différence de nature entre une I.A. et une copie : après tout, cette dernière n'est jamais qu'une simulation réalisée au moyen d'un moteur spécialisé, appliquant des règles décrivant le fonctionnement des neurones, et manipulant des données. Mieux encore, si l'on considère le coût exorbitant de la simulation individuelle des mille milliards de neurones d'un cerveau humain, il est probable que l'on tentera de mettre au point des optimiseurs visant à assembler en grappes les neurones qui remplissant globalement une fonction particulière, et à simuler cette fonction plutôt que les neurones individuellement. À terme, on peut imaginer que la totalité des données décrivant un cerveau puisse être ramenée, par un mécanisme de compression très élaboré, à un ensemble de règles, et qu'un individu puisse être simulé, de manière entièrement satisfaisante pour lui et pour la société, au moyen de la même technologie que celle utilisée pour les I.A., réduisant peut-être d'un facteur un million le coût de cette simulation... Il n'y a plus dès lors la moindre différence entre une copie d'un individu et une entité purement artificielle.
Nous voici au terme de la spéculation scientifique. Il ne nous reste plus, à nous autres, auteurs et lecteurs, qu'à nous interroger sur ces nouveaux concepts.
Que représente pour nous, être de chair, la copie de notre esprit qui vient d'être réalisée ? Est-ce quelque chose qui nous est complètement indifférent ? Allons-nous penser, comme André Ruellan [37] : «Si je comprends bien, il s'agit de payer pour qu'un guignol qui se prendra pour moi puisse vivre éternellement ? Jamais !» Est-ce au contraire une sorte d'enfant, de descendant, de clone, de frère jumeau, envers lequel nous ressentons des obligations ? Comment allons-nous, affectivement, nous comporter en présence de notre propre copie ? De celle de l'être aimé ? Allons-nous nous détacher de celui-ci, pour peut-être tomber amoureux de son double ? Joli thème de nouvelle...
Quel est donc l'avenir que nous proposent les auteurs de science-fiction ? Pour m'en tenir à trois exemples récents, Greg Egan dans « Diaspora » [11], Scott Westerfeld dans « L'I.A. et son Double » [49], ou encore Ian M. Banks dans ses textes consacrés à la Culture [1], la civilisation de demain nous montre une humanité ayant maîtrisé nombre de technologies, au sein de laquelle cohabitent (plus ou moins harmonieusement, en fonction des besoins de l'intrigue) humains modifiés ou non, copies, intelligences artificielles, et extraterrestres. Une thématique qu'avait déjà exploré Arthur C. Clarke avec beaucoup d'intelligence dans « La Cité et les Astres » ([3]).
Ainsi, l'un des « messages » de nombre d'écrivains est le suivant : au cours de ce siècle, l'homme va (enfin) rencontrer d'autres êtres intelligents, non humains au sens strict du terme, les « intelligences artificielles », I.A. et « copies ». Peut-être saura-t-il reconnaître alors que le clone informatique est un humain comme les autres...
À Francis Valéry, qui a publié une version différente de cet article en 1997 dans la revue CyberDreams [14].
À Ellen Herzfeld, qui a, en son temps, insisté pour que je lise Greg Egan, avec les conséquences fâcheuses que l'on connaît.
À Jean-Michel Truong, qui présente dans « Totalement inhumaine » [45]une vision remarquablement stimulante, quoique bien sombre, de l'avenir de l'intelligence artificielle.
À Stéphane Nicot, qui m'a forcé la main pour obtenir cette nouvelle version, ce qui était une bonne idée.
© 2003 Jean-Jacques Girardot, tous droits réservés.