La guerre invisible
Pour
un mouvement social en faveur de l'ECE
Je tenterai, dans cet article, de poser quelques
réflexions sur le sujet de l'Emulation de Cerveau Entier (ECE),
qui me semble trop rapidement traité dans l'espace francophone,
alors que c'est précisément un sujet qui évolue
très vite et qui permet de toucher à beaucoup de domaines
de connaissances de l'humain. Fasciné par les perspectives qu'il
ouvre, je suis depuis plusieurs années les aventures des (trop)
rares scientifiques qui le prennent au sérieux. Dans une
deuxième partie, je comparerai le chantier de l'ECE avec
d'autres grands projets humains récents ou moins récents.
Qu'est-ce que l'ECE ?
Appelé couramment mind uploading
(téléchargement de l'esprit), raccourci pratique car
imagé, l'Emulation de Cerveau Entier est la traduction en
français de Whole Brain Emulation (WBE), terme plus exact
proposé par Randal Koene. Pour faire simple, c'est la
reproduction sur support informatique des composants biologiques du
cerveau permettant à la conscience individuelle d'exister.
Emulation ou Simulation ?
Ces deux termes ayant plusieurs sens selon la discipline qui les
utilise, émulation est préféré car il
suppose une modélisation relativement fidèle de la
structure physico-chimique du cerveau. Simulation
sous-entendrait que "tous les moyens sont bons" pour obtenir la
conscience. En fait, au niveau des synapses ou groupes de synapses par
exemple, le système serait probablement
simplifié/simulé ; le niveau de détail
nécessaire est un point de débat.
Pourquoi l'ECE ?
Les neuroscientifiques butent depuis de nombreuses
années sur la difficulté d'observation des
phénomènes du cerveau, peu accessible tant qu'il
fonctionne. Comme en astrophysique, la solution réside dans
l'opportunité de créer des modèles capables de
proposer des scenarii, de confirmer ou d'infirmer des
hypothèses. Jusqu'ici, la puissance des ordinateurs a
constitué le principal frein à cette démarche.
Comme l'explique Randal Koene dans cette vidéo-questionnaire,
nous entrons dans une décennie où la principale
tâche des neurosciences sera l'intégration,
c'est-à-dire l'incorporation des données
collectées pendant plus d'un siècle dans des
modèles de plus en plus sophistiqués et
détaillés.
L'ECE a donc un intérêt pour la
compréhension du fonctionnement du cerveau dans son
ensemble.
Mais l'ECE a un intérêt collatéral :
si on parvient à reproduire la conscience d'un individu en
émulant son cerveau biologique, et si les mécanismes de
ce cerveau sont compris et maîtrisés, notamment le
vieillissement, alors on peut logiquement espérer prolonger indéfiniment son existence.
L'ECE ferait alors penser à la "découverte" de
l'Amérique par Christophe Colomb : alors que ce dernier avait
reçu une aide financière conséquente pour
simplement améliorer une route commerciale en la raccourcissant,
il découvre tout un continent (sans même s'en rendre
compte d'ailleurs).
Ohayō gozaimasu ?
Objections
Néanmoins, et même au sein des transhumanistes, le mind uploading
est encore loin de faire l'unanimité. La plupart des objections
que j'ai rencontrées autour de moi quand j'ai eu le loisir d'en
parler relevaient de quatre grandes catégories :
1) la perte du corps
"Mais je n'ai pas envie de vivre dans un ordinateur !" est
l'exclamation la plus courante. Corollaire de la croyance selon
laquelle placer un cerveau dans une machine le priverait
automatiquement de ses terminaisons nerveuses. Or il est vraisemblable
que l'ECE comportera une connection, d'une manière où
d'une autre, à un environnement, soit virtuel (avec des lois
similaires à celles du monde dans lequel nous vivons) soit
réel (par le biais de mains, d'yeux voire de corps artificiels
entiers). Et cette connection pourra à terme être tout
aussi riche que l'originale, voire plus. En fait, l'émulé, si
l'émulation est bien faite, n'aura pas du tout l'impression de
perdre son corps.
2) la perte du "moi"
"Si on arrive à
émuler mon cerveau, ce sera quelqu'un qui aura les mêmes
souvenirs que moi, mais ce ne sera pas moi !". Cette objection est très courante et j'avoue avoir moi-même mis un peu de temps à la surmonter.
En fait, elle me fait penser à la réaction qu'ont
tous les enfants à un moment donné de leur vie, à l'instant
de s'endormir : l'horreur que constitue le basculement dans le sommeil
leur apparaît brusquement, et ils luttent pour ne pas "perdre le
contrôle", tomber dans l'inconscience...
L'ECE nous invite à nous demander ce qu'est
réellement le "moi". Si je sombre dans le coma pendant dix ans,
et que toutes mes cellules ont été naturellement
remplacées, au réveil et en imaginant que ma
mémoire soit intacte, serai-je vraiment moi ?
Si je suis copié dans une 'imprimante moléculaire"
(le télétransporteur imaginaire popularisé par Star Trek),
qui sera le vrai moi ? Celui qui a été détruit, ou
celui qui apparaît ensuite ? Et si on ne détruisait pas
l'original ? (une excellente illustration de ce paradoxe peut
être trouvée dans le film de John Weldon "To Be")
Les partisans d'une "transition douce", aboutissant
à l'ECE en passant par le remplacement progressif des zones
abimées du cerveau par des prothèses, pensent que l'ECE
"brutal" (scan et reconstitution digitale) créerait un moi
différent. Mais l'ECE, même obtenu progressivement, est
une émulation sur support non biologique, donc par
définition, copiable à volonté. Que se
passerait-il alors si l'on copiait ce "moi" sur le même supercalculateur,
lequel serait le "bon moi", si même un observateur externe serait
incapable de répondre à cette question ?
En réalité, cette objection se fonde sur une
illusion, que l'on pourrait appeler l'illusion de la continuité
de la conscience. Comme dans un dessin animé, où l'on
jurerait de la continuité de Grosminet en train de pourchasser
Titi, alors que ce ne sont que des suites d'images fixes, nous avons
l'impression d'une continuité de conscience alors que nos
cerveaux sont en permanence en train de réactualiser leurs
souvenirs et de réaliser qui ils sont. Comme au réveil :
nous rappelons à nous nos souvenirs, rétablissons une
continuité de conscience interrompue par le rêve, et c'est
reparti pour un tour.
L'idée selon laquelle la conscience serait une sorte de
feu, de flamme s'appuyant sur la matière combustible du cerveau
pour continuer à exister, va dans le sens de notre intuition
mais est trompeuse. Elle doit plutôt être vue comme un
phénomène unique et rare, créé par (et
seulement par) une certaine configuration physico-chimique. Si l'on
parvient à accepter que nous sommes cette configuration, et rien d'autre, alors nous pouvons accepter sans réserve le mind uploading et aller nous coucher tranquilles, contents demain de nous réveiller dans un corps quasi indestructible !
Pour ma part, depuis que je me suis fait à cette
idée, je dors beaucoup mieux. Plus sérieusement, je pense
que c'est une façon de voir les choses qui est assez naturelle pour les
cultures baignées par l'idée de résurrection /
métempsycose, voire de conscience cosmique, comme l'hindouisme, mais peut-être plus difficile en
partant de la cosmogonie occidentale.
3) la faisabilité
Troisième
grande classe d'objections, le côté irréaliste de
l'ECE. Il est vrai que de nombreux arguments ont été
présentés contre la possibilité concrète de
reproduire un cerveau sur un support non biologique. Sans même
parler de l'objection dualiste (selon laquelle l'âme n'est pas un
produit de mécanismes physiques), l'ECE repose sur des paris
techniques certains : énormité des données
à traiter, difficulté à obtenir ces mêmes
données, consommation d'énergie de telles
émulations... Mais les partisans de la possibilité de
l'ECE n'ont ignoré aucun écueil potentiel (jusqu'à
l'hypothèse de phénomènes quantiques
significatifs) et l'excellente Feuille de Route vers l'ECE de Nick Bostrom (Oxford, 2008) les aborde tous.
Aujourd'hui, et ce alors que deux très gros projets d'ECE
ont été lancés presque simultanément en
Europe et aux Etats-Unis, on peut dire que la question de la
faisabilité n'est plus à l'ordre du jour. Qu'un
scientifique reconnu comme Jean-Pierre Changeux, qui parle longuement
de simulation de systèmes neuronaux dans ses livres
récents comme l'Homme de Vérité,
se soit vu confier le poste de responsable du thème "Ethique et
Société" du Human Brain Project (HBP), interpelle sur les
interrogations qui commencent à poindre au plus haut niveau.
Et si Christophe Colomb commençait à se dire que
peut-être, dans sa longue vue, ce n'étaient pas tout
à fait les Indes ?
4) la perte de contrôle
La
dernière objection à l'ECE est son impact sur
l'espèce humaine. Disposerons-nous d'assez d'énergie pour
émuler les cerveaux de milliards d'êtres humains ? L'ECE
n'est-elle pas la première étape du développement
de superhumains agissant mille fois plus vite que leurs contemporains
et devenant, par là même, incontrôlables ?
C'est une question qui mérite d'être posée
même si les conséquences pratiques d'une
démocratisation de l'ECE paraissent encore lointaines.
L'idée d'une hypothétique singularité,
popularisée par des auteurs de science-fiction et reprise par
les sensationnalistes, mérite d'être examinée
sérieusement.
Il est difficile de prévoir quoi que ce soit aujourd'hui,
mais il est probable qu'à cause de son coût, l'ECE sera
à ses débuts réservée à une
minorité, d'autant plus que les premières ECE seront sans
doute imprécises et lacunaires, sujettes à pannes et
dysfonctionnements (comme toute technologie par ailleurs). D'autre
part, les "émulés" ne seront pas tous des informaticiens
spécialisés en neurosciences computationnelles : ils
seront donc grandement dépendants de l'infrastructure autorisant
l'ECE (data centers
notamment). Les corps artificiels seront extrêmement
surveillés, tout comme les armes le sont aujourd'hui. Il est
très probable que pendant longtemps, l'ECE se résumera
à d'inoffensifs robots domestiques contenant des humains
simplement heureux de vivre un peu plus longtemps dans le monde
où ils ont grandi. J'insiste sur la grande
vulnérabilité des "émulés" : pendant
longtemps ils seront très facilement "contrôlables",
tellement facilement d'ailleurs que cela soulèvera sans doute
d'autres questions ; incarnés dans des corps artificiels
bridés, connectés à des cerveaux à la
vitesse bridée également, ils seront loin du fantasme de
la machine toute puissante, et sans doute aucun, ils n'auront que
très peu de maîtrise sur le monde physique.
Attendez que je me relève, et vous allez tous mourir !
On pourrait comparer le passage vers l'ECE à la
révolution industrielle du XIXème siècle : le
développement du chômage dans les campagnes a fait affluer
énormément de gens dans les villes, où existait la
possibilité d'une vie moins pénible. Petit à
petit, la vie urbaine a secrété ses propres mythes,
rêves et activités, a pris son autonomie, et la part de la
population vouée à l'agriculture régressé
jusqu'au minimum nécessaire. Les citadins voyageaient chaque
été à la campagne pour rendre visite à leur
famille, puis pour le plaisir, quand celle-ci a fini par partir elle
aussi. Il se passera probablement la même chose avec les mondes
virtuels (phénomène dont l'on peut déjà
déceler aujourd'hui l'ébauche). Penser que les
"non-biologiques" se déconnecteront immédiatement de
l'humanité biologique est un délire de science-fiction.
Le processus sera sans aucun doute long, émaillé de
discussions, de débats, d'accords et de conflits... comme cela a
toujours été le cas entre êtres humains.
A très long terme, "biologiques" et "non-biologiques" ne
seraient pas fondamentalement concurrents. La situation serait bien
différente de celle d'une lutte pour la survie dans un
écosystème fermé. La capacité des
non-biologiques à vivre hors de la biosphère terrestre
les invitera certainement à chercher d'autres environnements de
développement loin de la Terre.
Quant à une hypothétique explosion d'intelligence,
de quoi parle-t-on ? Peut-on réellement être "plus
intelligents" ? Que cela veut-il dire exactement ? Augmenter la taille
du néocortex ? Avec quelle durée acceptable de maturation
ou d'éducation ? Einstein par exemple jouait du violon, mais
beaucoup moins bien que ses contemporains virtuoses du violon.
Quand on sait que les personnes souffrant d'hypermnésie
(capacité à se souvenir de presque tout) font en
général face à de graves et handicapants
problèmes de concentration, on peut se demander si notre cerveau
est structurellement capable d'être "augmenté" autrement
que par quelques réglages marginaux. Il semblerait qu'il soit
une machine complexe et très précisément
organisée, construite par des millions d'années
d'évolution.
La crainte de la perte de contrôle est comme la peur
d'internet : des outils nouveaux et puissants font peser la menace de
la disparition de l'ordre ancien, avec ses défauts et ses
qualités.
La réponse à la singularité (concept
né de l'imagination d'ultralibéraux américains
pour la plupart) sera politique. Mais pour que nous gardions dès
le début la main sur l'ECE, nous devons, en tant que
communauté politique, nous placer aux premières loges du
mouvement.
Rôle de l'Etat : une perspective historique pour un questionnement politique
Le mois dernier passait sur Arte un
documentaire retraçant l'entrée en guerre des Etats-Unis en 1941, en
prenant comme appui narratif les destinées de quatre villes américaines
de taille moyenne. En 1939, l'opinion publique semblait peu favorable
à l'intervention ; puis les succès militaires nazis et l'expansion
japonaise dans le Pacifique changèrent lentement la donne, jusqu'à
l'attaque surprise de Pearl Harbor en décembre 1941. Je croyais
connaître cette histoire par coeur, et pourtant j'ai appris plusieurs
choses étonnantes. Tout d'abord, les Américains connurent des premières
semaines difficiles, notamment à Guadalcanal. Désorganisés et
inexpérimentés, ils ne bénéficiaient pas encore de la puissance
matérielle que leur économie de taille continentale leur fournirait par
la suite. Mêmes difficultés en Tunisie face à Rommel, quand il fut
question de reprendre le contrôle de la Méditerranée. La guerre avait
été déclarée brusquement et il manquait aux marines l'expérience du
combat, jusqu'aux plus hauts postes, face à des stratèges allemands
rôdés par deux ans de conquêtes.
Rapidement cependant, la vapeur
s'inversa, grâce aux Soviétiques sur le front de l'est, un peu oublié
dans le documentaire, mais aussi et surtout grâce au passage foudroyant
de l'économie américaine à une économie de guerre, transformant des
villes entières en chantiers navals, réquisitionnant les temples du
fordisme qu'étaient les usines automobiles pour produire à la chaîne
avions et chars d'assaut. C'est sans doute la partie la plus
impressionnante du documentaire : en quelques mois, le chômage disparaît
presque entièrement, un sentiment de solidarité s'installe jusque dans
les plus petits villages, parvenant presque parfois à gommer la
ségrégation raciale. Une euphorie diffuse envahit le spectateur, car
les mécanismes en jeu semblent transcender les intérêts individuels.
Très concrètement en
réalité, l'Axe, en ce début d'année 1942, était parti pour cadenasser
l'accès au pétrole du Golfe, et son expansion militaire représentait
une menace d'asphyxie réelle pour les Etats-Unis en tant que communauté
politique coincée entre les menaces japonaise dans le Pacifique et
allemande dans l'Atlantique. Réflexe de survie donc d'un Etat qui avait
mis un peu de temps à réagir.
Yeah
Les exemples de sursauts industriels et technologiques
accélérateurs de progrès ont souvent lieu en temps
de guerre. Citons le Projet Manhattan (27 milliards de dollars
actuels), incroyable programme de maîtrise de l'énergie
nucléaire, ou encore Apollo (170 milliards de dollars actuels),
en pleine guerre froide (ou comment donner à un programme de
missiles intercontinentaux et de satellites d'espionnage une touche de
respectabilité...).
Faut-il la menace de l'annihilation totale pour que les Etats
libèrent l'énergie qu'ils sont capables de
générer ? Faut-il que l'ECE devienne un enjeu de
sécurité (ce qu'elle ne sera probablement jamais) pour
être prise au sérieux par les décideurs politiques
?
Les Human Brain Project (Union Européenne)
et BRAIN Initiative (Etats-Unis) ont des budgets similaires au Human
Genome Project (1990-2003), quelques milliards de dollars chacun pour une période
de dix ans (2013-2023). Il est étonnant que la rhétorique utilisée pour
ces deux projets d'ECE soit d'ordre purement financier : quand Barack Obama
insiste sur la création d'emplois, le responsable du HBP, Henry
Markram, souligne le coût des maladies mentales pour la société.
Or ces
projets vont bien plus loin, et d'ailleurs les personnalités impliquées
semblent pertinemment le savoir. Henry Markram laissait ainsi clairement entendre dans la première partie du film au long cours de Noah Hutton, avant
l'obtention de la bourse européenne d'un
milliard d'euros, qu'il serait à terme possible de «
charger » l'esprit
de son interlocuteur et de continuer à lui parler. Parmi le
groupe de
six scientifiques qui ont donné l'impulsion de la BRAIN
Initiative se
trouve George Church (MIT, Harvard), accessoirement connecté
(aux côtés d'Ed Boyden, MIT) au volet C de la
très transhumaniste Initiative 2045
de Dimitry Itskov, volet qui concerne la réalisation de l'ECE.
Pourquoi alors ne parler que
d'argent, d'emplois ou de traitement des maladies du cerveau, quand il
y a quelque chose de bien plus gigantesque à portée de
neurone : le
transfert d'esprits et consciences humains sur des supports non
biologiques ? Peut-être faudra-t-il un peu de temps à
l'opinion
mondiale pour réaliser que derrière l'émulation de
cerveaux humains se
cache la possibilité bien concrète d'éradiquer la
mort biologique.
Et encore un peu de temps pour rendre cette possibilité
attirante ; alors ces projets aux budgets ridicules seront
multipliés par cent ou
mille, et un enthousiasme fébrile gagnera les êtres
humains qui auront la
chance de vivre à ce moment-là sur la planète,
jusqu'ici courbés sur leurs
petits problèmes de mortels au sein d'une espèce mortelle.
Souvenons-nous aussi que de nombreux projets scientifiques et
sociaux, parce que trop tièdes ou manquant de susciter le
rêve et l'envie, échouent par manque d'élan. Ainsi
le programme Constellation (lancé par G.W. Bush en 2004,
abandonné par B. Obama en 2010) qui devait envoyer des missions
habitées sur la Lune puis sur Mars.
Il semble important, aujourd'hui, d'initier un
intérêt, puis un profond mouvement social pour la
réalisation de l'ECE. Changeons de prespective. Nous pensons
vivre dans une ère de paix globale, mais des hommes et des
femmes meurent chaque jour. "C'est la vie" diront certains. Cela me
fait penser au mythe de Thésée.
Les Athéniens livraient ainsi quatorze jeunes gens,
chaque année, au Minotaure, tribut au roi de Crète. Il a
fallu que Thésée, décidé à mettre
fin au massacre qui était devenu une habitude, aille contre
l'avis de son père Egée, roi d'Athènes, se mesurer
au Minotaure.
La mort biologique est le tribut invisible auquel nous autres
Athéniens ne pensons même plus. Allons contre l'avis de
nos pères faire face à ce qui est réputé
invincible. Déclarons la guerre que personne ne voit !
EMG
publié sur Mesacosan
et AFT Technoprog !
|