Commentaire
sur Totalement
inhumaine
par
Michel Volle
Truong pense
que le logiciel succèdera à l'homme comme
véhicule de la conscience. Cette perspective
le réjouit : après Auschwitz, Pol Pot
et le 11 septembre 2001, l'homme ne lui semble pas être
le meilleur support de l'intelligence. Truong se range
ainsi parmi les misanthropes, nous y reviendrons.
Suivons les étapes
de son raisonnement :
1) Turing a dit
que le code informatique était analogue au code
génétique. Truong nomme "e-gène"
le morceau de code qui s'exprime pour obtenir un comportement
d'une machine. Certes le code tolère mal la mutation
(une erreur dans la copie d'un bit rend le plus souvent
le code inopérant), mais il peut évoluer
s'il est modulaire et structuré en un ensemble
d'agents capables de communiquer. Le logiciel peut alors
acquérir une "sexualité" en désignant
par ce terme l'aptitude à combiner des gènes
d'origine différente. Il devient ainsi un être
biologique qui fournit le "génotype". Le matériel
fournit le "phénotype", machine de survie des
e-gènes.
Truong indique
ici une piste intéressante : au lieu de produire
de gros programmes informatiques, dit-il, il serait
plus efficace de faire de petits logiciels, embryons
auxquels on donnerait le temps d'évoluer. Cependant
cette évolution ne peut avoir lieu que si l'être
humain oriente par ses choix la reproduction et la mise
en oeuvre des e-gènes. Pour Truong, ces choix
seront dictés par les "mèmes".
2) Les mèmes
sont les idées stéréotypées,
unités élémentaires du discours
que les médias répandent dans l'esprit
des êtres humains. Exemples : "CRS = SS", "il
y a une vie après la mort" sont des mèmes
banals ; un paradigme scientifique est un mème
complexe. La "guerre des étoiles", l'"Internet"
sont des mèmes à la fois banals dans leur
expression médiatique et complexes dans leur
déclinaison technique. Ils ont orienté
d'importantes ressources financières vers la
production d'e-gènes. Supposer que l'évolution
des e-gènes est totalement orientée par
des stéréotypes est une hypothèse
pessimiste (on peut supposer que la volonté intelligente
a elle aussi une influence), mais c'est celle que fait
Truong.
3) La "pompe
mème - e-gène" est la troisième
pièce de sa construction : les mèmes incitent
à produire des e-gènes, les e-gènes
une fois produits confortent les mèmes. Ainsi
l'Internet facilite l'échange de matériel
génétique, le croisement et la multiplication
des e-gènes, et le succès de ceux-ci renforce
le mème Internet.
4) Alors émerge,
dit Truong, une nouvelle forme de vie : le "Successeur".
Le Successeur nous aveugle par des mèmes pour
se reproduire ; il fait de nous son "cheptel". Truong
utilise une analogie avec des vers qui parasitent les
crevettes. Ces vers secrètent une drogue qui
opacifie la cornée des crevettes ; elles remontent
vers la lumière et sont alors à la portée
des canards qui les mangent puis rejettent les vers
sur la rive où ceux-ci se reproduisent. L'humanité,
véhicule temporaire de l'intelligence, est grâce
au mécanisme de la pompe mème - e-gène
à la fois tutrice et nourricière de son
Successeur.
Que reste-t-il
en effet de l'être humain, dit Truong, une fois
que le logiciel a imité et reproduit en mieux
toutes ses fonctions naturelles ? un résidu.
Truong effleure là, me semble-t-il, une idée
profonde. En effet, on ne peut pas définir l'humanité,
pas plus qu'il n'est possible de décrire un visage
avec des mots. Ce "résidu", que chacun découvre
en soi après avoir éliminé les
accidents de son individualité, mais qui ne s'expérimente
cependant que sous forme individuelle, s'offre à
une méditation qui peut conduire à la
sagesse. Cependant si Truong aperçoit ce chemin
il ne le choisit pas. Il voit l'humanité se répartir
entre trois catégories : les Imbus qui font marcher
la pompe mème - e-gène ; le cheptel, qui
la subit ; et "epsilon", résidu humain, écart
à l'asymptote voué à disparaître
pour faire place au Successeur.
*
*
Truong s'exprime
dans une langue agréable et simple. Il est brillant.
Reste à savoir s'il est profond. La première
qualité d'un essai, c'est de nourrir un dialogue
: le lecteur lit, s'interroge et trouve un peu plus
loin la réponse à sa question. Or Truong
ne répond pas aux questions que son texte suscite.
En voici trois :
1) L'être
humain s'est déjà accommodé de
plusieurs "successeurs" potentiels : le langage, qui
a une existence propre depuis que des hommes se sont
mis à parler ; l'écriture, support de
la mémoire ; l'impression, support de la diffusion
des textes. Des machines remplacent nos jambes (bateau,
bicyclette, automobile, avion), des prothèses
assistent nos sens (lunettes, appareils acoustiques).
L'élevage, l'agriculture pratiquent depuis 10
000 ans, par la sélection des espèces,
la manipulation génétique. La bionique,
l'intelligence artificielle s'ajoutent maintenant au
catalogue des prothèses qui assistent nos activités
physiques ou mentales. N'avons nous pas tendance, par
défaut de perspective historique, à exagérer
leur nouveauté ?
2) Du point de
vue poétique toute parole qui éveille
l'intuition et suscite la rêverie est légitime,
car la poésie relève d'une démarche
mentale antérieure au raisonnement. Mais le but
d'un essai est de susciter la réflexion, non
la rêverie. Or certaines phrases sont impropres
au raisonnement parce qu'elles ne sont pas "falsifiables",
pour utiliser le vocabulaire de Popper. "Y a-t-il une
vie après la mort ?" La réponse peut être
"oui" ou "non" sans que l'expérience puisse trancher,
la conviction intime du croyant lui-même oscillant
entre ces deux pôles. Donc si cette question est
un intéressant objet de rêverie, du point
de vue de la réflexion elle est futile. "L'intelligence
des ordinateurs atteindra-t-elle, dépassera-t-elle
celle des êtres humains ?" me semble du même
type. On peut y répondre par oui, par non, ou
osciller entre les deux réponses sans pouvoir
trancher par l'expérience puisque celle-ci se
situe dans un futur indéfini et ne peut s'appuyer
sur aucun précédent.
3) Toute espèce
vivante étant (par définition même
de la vie) appelée à disparaître,
il est probable que l'humanité, vieille de trois
millions d'années, aura un successeur avant que
la terre ne disparaisse dans quatre milliards d'années.
Notre espèce élabore des poisons avec
tant d'insouciance, que ce soit à des fins militaires
ou pour le profit, qu'il se peut même qu'elle
s'éteigne dans les siècles prochains.
Le logiciel est-il plausible comme successeur ? Le futur
support de l'intelligence ne sera-t-il pas plutôt
un descendant des rats ou d'autres animaux rescapés
des maladies que nous aurons déclenchées
?
Il existe en
effet, entre la complexité du logiciel et celle
du cerveau d'un être vivant, une différence
de nature. Aussi compliqué soit-il, le logiciel
est de taille finie puisqu'il s'agit d'un texte.
Mais toute théorie, aussi puissante soit-elle,
reste incomplète ; aucun objet naturel (et le
cerveau en est un) ne peut donc être reproduit
par un texte. Si un texte poétique semble nous
mettre en relation avec le monde lui-même, c'est
parce que notre cerveau le complète par le réseau
de connotations qui enrichit l'apport des mots et, au
prix d'une imprécision que le logiciel ne saurait
tolérer, ouvre la perspective d'une rêverie
sans limites.
L'intuition de
ceux qui vivent dans un univers de science fiction ou
de dessin animé s'affranchit de l'expérience
: dans cet univers toutes les métamorphoses sont
possibles, toutes les chimères peuvent exister,
quiconque évoquerait une impossibilité
serait immédiatement démenti. Mais l'expérience
distingue le possible de l'impossible et assigne des
bornes à notre action. Il existe dans le monde
de l'expérience des questions pertinentes,
c'est-à-dire utiles à l'action, et d'autres
qui ne le sont pas. Je prétends que les rêveries
sur l'intelligence des ordinateurs sont impertinentes
dans la mesure exacte où elles détournent
des questions pertinentes.
*
*
Nous sommes confrontés
non à des ordinateurs intelligents mais à
un automate programmable auquel le réseau
confère l'ubiquité. Sa puissance
peut aider l'être humain dans son travail et ses
jeux, mais le cerveau lui reste supérieur dans
l'analyse (sélectionner, observer, interpréter
les données relatives à un domaine nouveau)
et la synthèse (expliquer à un autre ce
que l'on a compris), ainsi que dans la décision
et la conception (pour lesquelles, certes, l'ordinateur
peut nous assister utilement mais non nous remplacer).
Nous qui savons tant bien que mal parler, lire, écrire,
compter, domestiquer plantes et animaux, fabriquer produits
et outils, communiquer, déposer et retrouver
notre mémoire collective dans des encyclopédies
etc., nous devons maintenant apprendre à tirer
parti de l'automate programmable. Pour voir clair dans
les questions de savoir-faire et de savoir-vivre, d'organisation
collective et personnelle que cela pose, il importe
de percevoir la frontière qui nous sépare
de lui, de discerner ce qu'il sait faire de ce que nous
savons faire, de sorte que son insertion dans notre
action, dans nos processus, puisse être judicieuse.
Il faut pour tracer cette frontière un outil
conceptuel aussi précis que le scalpel du chirurgien.
Or les rêveries
sur l'intelligence de l'ordinateur, sur un "successeur"
logiciel hypothétique de l'être humain,
brouillent cette frontière. On ne peut pas penser
la relation entre deux êtres dont on a postulé
l'identité, fût-elle asymptotique. L'intelligence
de la machine s'actualisant dans un futur indéfini,
l'intuition s'évade des contraintes de l'action
et tourne le dos à des questions qui sautent
pourtant aux yeux : comment assister nos processus opérationnels
; tirer parti de la conjugaison des données et
du commentaire ; fonder la solidité des référentiels
; articuler les médias ; faire interopérer
les SI de diverses entreprises ; assurer la dialectique
du SI et de la stratégie, etc.
Ceci n'est pas
sans conséquences. La rêverie poétique
délasse le praticien expert : il n'est
pas dupe des illusions qu'elle comporte et il est rattaché
à l'expérience par un ressort de rappel.
Mais les personnes qui décident en matière
de système d'information ne sont pas des praticiens
experts. La diffusion médiatique de rêveries
comme celle de Truong risque de les placer sur une orbite
mentale d'où il leur sera impossible de revenir
vers le sol.
Ce n'est pas
de rêveries impertinentes que nous avons besoin
dans ce domaine si difficile à maîtriser,
mais de réalisme scientifique et de méthode
expérimentale.
*
*
Quelques mots
enfin sur la misanthropie de Truong. Tous ceux qui portent
un jugement négatif sur l'espèce humaine
en tirant argument de ses crimes et atrocités
témoignent d'une souffrance qui mérite
la compassion. Je crois cependant que les faits qu'ils
évoquent (Auschwitz etc.) sont des alibis pour
exprimer un mal plus profond encore, le mal métaphysique
(cf. "mise en perspective" dans "e-conomie"), souffrance
que provoque l'imperfection de la personne humaine dès
lors qu'elle s'incarne dans un individu.
Truong n'est
pas seul à appeler de ses vœux la guérison
qu'apporterait la fin de l'humanité et son remplacement
par une machine devenue intelligente. Il y a là
une orientation analogue à celle qui voit dans
le suicide la réponse à un malheur personnel.
Pourtant la méditation sur le mal métaphysique
(ou sur le Mal tout court) pourrait être, tout
comme la méditation sur notre humanité,
source de sagesse.
©
Michel Volle 20 mars 2002
