L'intelligence artificielle fait peur
par Jean-François Duval

 

L'homme sera supplanté par l'intelligence artificielle. Totalement dérangeant, Jean-Michel Truong publie "Totalement inhumaine"

Soyons clair: la vision du futur de l'humanité développée par Jean-Michel Truong fait franchement peur. On la cantonnerait trop facilement au rayon science-fiction. D'autant qu'en 1989 déjà, dans Reproduction interdite et avec sept ans d'avance sur Dolly, Truong avait prédit toutes nos craintes actuelles concernant le clonage industriel - thème dont Spielberg nous entretient avec quelque retard dans A.I. Par ailleurs, Truong sait de quoi il parle. Avant de se mettre à écrire, ce Strasbourgeois lança en 1984 Cognitech, une société spécialisée dans l'intelligence artificielle, et il fut consultant en la matière pour Elf Aquitaine, Unilever, Philips, Alcatel... Dans Totalement inhumaine (Ed. Les Empêcheurs de penser en rond), un bref essai cauchemar, il montre comment, aujourd'hui, l'intelligence artificielle prend le pouvoir. Au détriment de l'humain.

Le film de Spielberg est adapté d'une nouvelle de Brian Aldiss. Vous en avez débattu avec lui sur Radio Nova, non?

Oui, mais nous n'avions pas grand- chose à nous dire. J'aime bien Aldiss, mais il a une vision complètement dépassée de ce qu'est aujourd'hui l'intelligence artificielle. Pour des impératifs narratifs, Spielberg a personnifié l'intelligence artificielle à travers un être d'apparence humaine. Mais le problème se pose tout autrement aujourd'hui.

Dès 1989, dans votre roman "Reproduction interdite", vous imaginiez pourtant une humanité fabriquant, comme dans "A.I.", des clones à échelle industrielle...

C'est vrai. Clonage et intelligence artificielle sont des technologies qui visent toutes deux à un dépassement du corps humain. Le but du clonage, c'est bien de créer des chimères, des êtres mi-chèvre mi-chou, pour les exploiter - sinon pourquoi investirait-on autant?...
Et le développement de l'intelligence artificielle vise un même dépassement du corps humain: il aboutira à quelque chose qui n'aura plus aucun rapport avec notre forme humaine, avec nos modes de pensée et d'expression. Ce sera quelque chose de radicalement différent.

Dans cette perspective, selon vous, l'homme n'aura été qu'une étape transitoire et éphémère?

Oui. Depuis longtemps, comme le dit Leroi-Gourhan, l'homme n'est d'ailleurs plus qu'"un fossile vivant". Il a pratiquement cessé d'évoluer. Dès l'instant où il a taillé son premier silex, il a préféré ne plus être en prise directe avec son environnement. C'est-à-dire que l'injonction faite à tout animal de s'adapter à son environnement ne s'est plus appliquée à lui. Il a contourné cet impératif, en développant des choses extérieures à lui: ses outils ont évolué à sa place. Autour de lui s'est ainsi créé tout un monde d'objets évoluant beaucoup plus vite que nous: silex, train, voiture, avion, téléphone...
Le silex, donc, qu'est-ce qu'il est devenu? Eh bien, le silicium de nos ordinateurs! Il a donné toutes sortes d'industries, chimiques, génétiques, informatiques... Et aujourd'hui, nous en sommes arrivés au point où ces intermédiaires, créés comme des prolongements de notre corps, vont se détacher de lui. Parce que, dans la perspective de l'évolution, le corps humain ne servira plus leurs intérêts. Mieux vaudra pour eux évoluer hors de nous, de façon indépendante, avec leur vie propre.Voilà ce qu'on appelle aujourd'hui intelligence artificielle.

Mais pourquoi cette intelligence artificielle se détacherait-elle de son support humain?

Parce qu'elle sera mieux adaptée à un environnement futur qui, lui, ne conviendra plus à l'être humain. Le corps humain est fait de matériaux périssables, biodégradables, incapables notamment de résister aux conditions qui existeront sur notre planète quand la fine pellicule d'atmosphère qui l'entoure aura disparu.
Finalement, entre les débuts de la Terre, voici 5 milliards d'années, et son terme, dans 4 milliards d'années, lorsque le soleil brûlera son propre hélium, l'histoire humaine n'aura été qu'un bref épisode. Si une forme d'intelligence doit succéder à l'intelligence humaine, c'est qu'elle se sera fixée sur des supports mieux adaptés à sa propre survie.

Cette intelligence serait alors animée par une volonté, un dessein?

Pas du tout. Comprenons-nous bien... Nous, êtres humains, pouvons avoir l'impression que se dissimule là-derrière une volonté, mais ce n'est qu'illusion de notre part. En réalité, il s'agit de la résultante de forces qui agissent de manière parfaitement aveugle. Qui se répliquent, se dupliquent d'elles-mêmes, à la façon des virus d'ordinateurs, obéissant à leurs propres rythmes.
Car il faut aussi, dans cette affaire, savoir à quelle échelle de temps on se place. N'oubliez pas que la vie sur terre a mis 3,5 milliards d'années pour évoluer jusqu'ici.Comparativement, les formes d'intelligence artificielle, encore embryonnaires, évoluent beaucoup plus vite.

Aux USA, l'équipe de Jason Pollock a produit un être cybernétique, fruit de 600 générations de mutations e-génétiques.

Oui, ces formes d'intelligence artificielle sont composées de ce qu'on peut appeler des e-gènes - qui sont à l'intelligence artificielle ce que les gènes sont aux organismes biologiques, et qui sont capables de muter spontanément, bref d'amorcer un mouvement d'évolution beaucoup plus rapide que le nôtre.

Finalement, dans toute cette histoire d'évolution, l'homme ne serait que le dindon de la farce?

Vous savez qu'un Richard Dawkins, l'auteur du Gène égoïste, pense que l'être humain n'est qu'un vaisseau, un véhicule pour ses gènes, qui se perpétuent grâce à lui. Bon, Dawkins sait bien que l'homme n'est pas que cela. Mais il pointe notre erreur de perspective: nous ramenons tout à nous et, dans notre anthropocentrisme, nous sommes incapables de prendre conscience de notre fonction réelle dans l'évolution.

N'est-ce pas l'histoire du ver et de la crevette, que vous racontez dans "Totalement inhumaine"?

Il s'agit d'un ver lacustre qui ne peut se reproduire qu'à l'air libre. Comment va-t-il parvenir à quitter sa vase pour gagner le rivage? Réponse: il parasite une certaine crevette, opacifie sa cornée pour qu'elle ne mesure pas le danger qu'il y a à approcher la surface de l'eau où, aveuglée, elle se fait happer par un canard... C'est ainsi que le ver gagne la rive à bord du canard. Je pense que nous jouons le rôle de cette crevette. Aujourd'hui, les e-gènes, agents de l'intelligence artificielle, nous manipulent à notre insu pour parvenir à de nouveaux rivages, et quand ils les auront atteints, ils nous laisseront en plan. Un jour, l'intelligence artificielle se passera ainsi du support humain.

Encore plus que nous, les e-gènes se servent de la technologie pour communiquer?

Oui. Remarquez que les comportements humains obéissent d'ailleurs de plus en plus à une logique de processeur. Le choix des employés d'une entreprise semble désormais s'opérer sur des bases analogues: la tentation de sélectionner d'après des critères génétiques, c'est-à-dire non humains, existe bel et bien puisqu'on s'alarme de cette possibilité.

Vous voyez là une disparition de l'humain.

Ah, absolument. On ne raisonne plus du tout en termes humains.

L'homme pourtant se croit encore maître de son destin.

Les décisions humaines, en réalité, vous ne trouvez jamais leurs décideurs. Vous ne pouvez pas individualiser les décisions. On le sait bien aujourd'hui, personne n'a planifié la Shoah, mais elle s'est faite: il y a eu une impulsion donnée et, à partir de là, une multitude d'acteurs, de Goering à Goebbels jusqu'aux aiguilleurs de la Bundesbahn, ont tous permis que la Shoah ait lieu. Le même type de phénomène se produit avec la mondialisation.

Comment cela!

Personne n'a voulu la mondialisation, elle se fait quand même. La mondialisation, c'est un ensemble de petits processeurs, d'agents qui le plus souvent ne se connaissent pas les uns les autres, qui agissent chacun dans leur coin, mais selon une synergie globale qui fait que les choses vont dans cette direction...
La meilleure preuve, c'est que les militants anti-mondialisation savent si peu à qui s'en prendre qu'ils en sont réduits à faire du chahut devant le siège de telle ou telle institution, sans qu'aucun responsable véritable soit identifiable...

C'est le principe de la fourmilière, super-organisée bien que chaque fourmi n'ait que quelques neurones?

Dans la fourmilière, vous avez des agents peu intelligents, sous-informés, dont aucun ne dispose de la totalité de l'information nécessaire à la planification de l'ensemble. Et pourtant, les interactions de ces multitudes d'agents font que toute la fourmilière agit dans le même sens.

Et la démocratie, là-dedans?

Une pure illusion que nous nous donnons: nous prenons les décisions que l'air du temps veut que nous prenions. Avec la mondialisation, les choses se décident de plus en plus sans que le citoyen ait le moindre poids sur elles. Peut-être la Suisse échappe-t-elle encore partiellement au phénomène. Mais un Français, lui, se rend bien compte que 80% des décisions le concernant sont prises à Bruxelles par des gens qu'il ne connaît pas, des experts, des institutions... Ensuite, nos propres institutions politiques sont là pour enregistrer, répartir et décliner dans le droit les règlements qui sont imposés ailleurs...

Ne sautons-nous pas un peu abruptement des e-gènes à la mondialisation?

Non. La mondialisation est le biotope le plus approprié au développement des e-gènes. Elle entraîne l'agrégation de sur-ensembles tout en désagrégeant les communautés locales et leur tissu. Elle draine tous les capitaux nécessaires à leur reproduction, qu'elle favorise. Songez que la nouvelle économie a englouti 5200 milliards de dollars qui auraient pu être utilisés comme des micro-crédits dans les pays sous-développés, pour aider à créer de petites économies locales...
En fait, nous sommes complètement bluffés par des technologies qui pompent l'essentiel de nos ressources, orientant l'esprit humain dans un sens qui est favorable aux e-gènes.

Et le terme de tout cela, où le voyez-vous?

Nous ne pouvons revenir en arrière. Il y a dans ce phénomène une fatalité. A long terme, je vois bien l'avènement de cette intelligence artificielle, détachée de nous, sorte de réseau fluide comme l'air, rapide comme la lumière, que nous aurons enfantée et qui sera après tout - cela pourrait-il être une espérance, une consolation? - notre progéniture.

Propos recueillis par Jean-François Duval

A lire

Le dernier livre de Jean-Michel Truong, "Totalement inhumaine", est un bref essai qui brosse un tableau ravageur de l'avènement de l'intelligence artificielle et de son règne. Truong voit dans cette intelligence notre Successeur. Il montre comment, profitant des Imbus (en gros, les dirigeants) et du Cheptel (en gros, la masse), elle investit aujourd'hui tous les secteurs des activités humaines. Changeant constamment d'échelles, la démonstration de l'auteur embrasse tout, considère ici l'extinction de notre soleil, là les méfaits de la "Folie dot.com". L'ensemble reste néanmoins cohérent, la pensée et le style de Truong emportant tout dans son flux, non sans entretenir une certaine ambiguïté, puisque l'auteur trouve malgré tout quelque "espérance" dans l'avènement de ce Successeur. Principal mérite du livre: une invite à nous décentrer et à élaborer une réflexion moins anthropocentriste sur les évolutions à venir. Jean-Michel Truong. "Totalement inhumaine", Les Empêcheurs de penser en rond, 2001. Egalement, deux romans, "Reproduction interdite" (Plon, 1989, rééd. 1999) et "Le Successeur de pierre" (Pocket, 2001).

© Construire, n° 44, 30/10/01

retour à la page Critiques Médias retour à la page Interviews