Skeptic-21-2-201606.jpg Suite du résumé du dernier numéro de Skeptic... (premier épisode : ici, suivant : ici) Avis personnels en italique..

Numériser un cerveau & le copier

C’est le dossier du numéro où scepticisme, matérialisme, transcendance se mélangent allègrement.

Qui commence de manière bizarre puisque le premier article de Kenneth Hayworth démonte par avance le deuxième du très sceptique Peter Kassan, qui discutait de l’impossibilité de dupliquer un cerveau, état des pensées inclus.

Les problèmes techniques évoqués par Kassan couvrent la modélisation de 85 milliards de neurones et 85 billions de synapses (alors que nous ne savons encore modéliser qu’un ver à 302 neurones et 7000 synapses). Si même c’était possible, le coût en serait faramineux. La précision ne serait jamais suffisante pour un tel système chaotique. Un cerveau numérisé pourrait paraître conscient mais ce ne serait que notre interprétation extérieure.

Pour Hayworth par contre, il n’y a pas d’objection de principe à une description complète d’un cerveau, et Kassan n’est pas au courant des progrès foudroyants de ces dernières années. Ce qui ne veut pas dire que nous ayons une chance de pouvoir dupliquer à l’identique un cerveau dans un avenir proche, mais c’est envisageable à très long terme. (Je passe sur l’avalanche de termes techniques, je n’ai évidemment pas le début de la moindre qualification pour juger de la plausibilité de la chose.)

Des rétines artificielles (ça commence tout juste) ne posent pas de problème, pourquoi cela en poserait-il pour le reste de notre corps et du cerveau ? C’est le matérialisme : si on suppose que le cerveau est uniquement gouverné par les lois de la physique, alors on peut remplacer chaque paquet de neurone par une simulation équivalente, pourvu que les interfaces soient respectées. Et au final on obtient un cerveau numérisé strictement équivalent.

Le problème de la conscience

Et la conscience ? On pense savoir où elle se logerait. Le phenomenal self-model (je n’ai pas de traduction française) est une structure qui regroupe actions et états du cerveau et semble agir comme un centre de contrôle. Les neurones concernés couvriraient de grandes parties du cortex, de l’hippocampe, du ganglion basal. Les modèles du cerveau actuel, tous matérialistes, impliquent donc qu’une conscience peut être copiée, comme un programme... et reproduite en plusieurs exemplaires !

Un autre article de Robert Lawrence Kuhn (présentateur d’une série télévisée philosophique) continue sur ce problème de la conscience. Il rapproche ce problème de celui de la Singularité, ce moment où un cerveau électronique nous dépassera. Pour Kuhn, les problèmes technologiques ou la mécanique quantique ne sont pas des obstacles à un cerveau numérique : l’« éléphant dans la pièce », c’est le problème de la conscience. Si nous comprenons parfaitement ce qui cause la conscience, nous pouvons la reproduire en silicium, comme un cœur artificiel. Mais pour d’autres penseurs, simuler n’est pas reproduire (une simulation d’un ouragan n’est pas mouillée) et un cerveau numérique ne serait qu’un « zombie ».

Le support de la conscience

Le substrat biologique à la conscience est-il nécessaire ? Kuhn développe certaines entretiens avec spécialistes et scientifiques de renom, mais aucune certitude n’apparaît. Roger Penrose depuis longtemps pense que la conscience n’est pas calculable et se cache dans l’indéterminisme quantique. Cela reste à prouver (après tout, tout est quantique si on descend assez bas). Pour Ray Kurzweil, les ordinateurs arriveront au stade où ils diront eux-même qu’ils sont devenus conscients, et participeront au débat pour définir les critères.

Toujours pour Kurzweil, il n’y a pas de critère objectif, scientifique, permettant de savoir si un autre être est conscient ou un zombie. Nous ne pouvons être sûrs que pour nous-mêmes, et nous l’accordons aux autres humains par analogie. Si un robot se mettait à exprimer toutes les caractéristiques de la conscience, nous lui accorderions aussi — et il vaudrait mieux, sinon le robot serait furieux ! Au-delà de la Singularité, d’autres formes de conscience pourraient même apparaître.

Fondamentalement, y a-t-il besoin d’autre chose que de nos neurones ou d’une simulation pour arriver à la conscience ? Kuhn énumère les différentes théories autour de sa nature :

  • matérialisme : la conscience est un état physique, mesurable, reproductible (ce que laisse supposer l’état actuel de la science) ;
  • épiphénomènalisme : la conscience n’est qu’une apparence, elle existe mais n’est en réalité jamais le moteur des actions du cerveau (l’« écume de la vague ») ;
  • physicalisme non-réductible : la conscience reste le produit de l’activité physique du cerveau mais est un phénomène émergent, non physique, lui ;
  • conscience quantique : la conscience n’est pas calculable et se niche dans les équations quantiques ;

Jusque là on reste dans un cadre physique et scientifique, et un ordinateur conscient reste envisageable. Avec les théories qui suivent, cela est plus discutable :

  • qualia comme force : la conscience est indépendante du monde physique habituel, quantique ou pas, comme une nouvelle force ;
  • qualia comme espace : idem, mais qualia est une structure totalement différente de la réalité (nouvelle dimension...) ;
  • panpsychisme : tout dans l’univers possède une particule de proto-conscience, qui peut s’agréger en « vraie » conscience ;
  • dualisme : la conscience réside dans un univers totalement détaché, une telle âme notamment peut exister indépendamment du cerveau (vision de nombre de religions) ;
  • conscience comme réalité ultime : seule la conscience existe, et l’univers physique émane de la « conscience cosmique » (voir certaines religions asiatiques).

De l’aspect pratique

L’importance de la conscience chez les robots aura un jour un aspect pratique, puisqu’ils conquerront un jour l’univers (en tout cas plus vite que nous, humains de chair) (cas extrême : les sondes autoréplicantes de von Neumann). Une colonisation par des machines intelligentes mais inconscientes ne serait pas philosophiquement la même chose que par des robots conscients, que nous pourrions prendre pour nos enfants — ou nous-mêmes, si nous nous sommes téléchargés dans ces robots voyageurs. Et ces futures (super-)intelligences artificielles, nécessiteront-elles la conscience ?

Autre aspect pratique, l’immortalité. Suivant les options ci-dessus, elle est possible, ou pas (création de zombies), et la duplication d’une conscience est possible, ou pas. Si la duplication est possible, on aura des indices pour trancher entre les théories précédentes : une même conscience copiée plusieurs fois donnerait-elle lieu à plusieurs consciences indépendantes qui ne se sentiront pas différentes de l’original, resteront-elles liées dans une même conscience, ou celle-ci se fragmentera-t-elle ? La conscience originale est-elle détruite avec le corps original ?

Je ne commenterais pas ce débat qui me passe très au-dessus. Je me bornerais à citer deux bouquins de SF assez exigeants :
- la
Cité des permutants de Greg Egan, sur la conscience et son besoin d’incarnation physique ;
-
Accelerando de Charles Stross, sur la Singularité, les consciences numérisées et dupliquées, dont j’avais parlé ici.