L’Intelligence Artificielle et ses parents

Culture Club – SRC 1ère chaine

Enregistrement : Vendredi 14 avril 23

Culture 101 – 9 min

 

Notes pour une chronique

La hantise du Dr Frankenstein

 

INTRO

 

En littérature, je suis grand amoureux, entre autres, de genres qu’on considérait autrefois comme « mineurs » : roman policier, fantastique, de politique-fiction, de science-fiction, d’espionnage.

 

Pour deux raisons principales :

 

D’abord parce que ce sont souvent des récits extrêmement dynamiques, des histoires qui swignent, ce qui contrebalance fort bien mon penchant pour la contemplation.

Mine de rien, je suis quelqu’un d’extrêmement lent et solitaire, qui adore laisser sa pensée prendre de longues marches sans but dans la nature. Et à ça, je vous assure qu’un bon roman de Tom Clancy ou de Robert Ludlum vous fait un sacré contrepoids.

 

Ensuite parce que ce sont des formes qui permettent des commentaires sur la vie courante et sur le monde dans lequel nous vivons ou avons vécu, des commentaires ou des critiques qui seraient souvent très difficiles à formuler sans le recours à une fable.

Puisque, à mes yeux, un roman de James Bond ou d’Agatha Christie, une aventure martienne ou une enquête policière avec Maigret dans le Paris des année 50 ou avec Philip Marlowe dans le Los Angeles des années 40, ça se lit de la même manière que La Cigale et la Fourmi : en transparence.

Dracula est un roman formidable qui est fort loin de ne parler que de personnages qui ont les dents tellement longues qu’ils s’enfargent dedans – c’est surtout une fable extraordinairement évocatrice sur… la sensualité absolue. Ce n’est pas quand il vous mord, que le Seigneur des Carpathes vous tient le mieux en son pouvoir, c’est quand il vous… frôle.

Et les réflexions que peuvent inspirer Le Portrait de Dorian Gray d’Oscar Wilde ou L’étrange cas du docteur Jekyll et de Mister Hyde de Robert-Louis Stevenson, sont passionnantes. Quels sont les liens, tout au fond de nous, entre bien et mal, entre beauté et laideur ? Peut-on être uniquement beau et éternellement jeune ? Peut-on vraiment n’être que bon ?

 

DÉPART

 

Cela étant, ces genres sont aussi extrêmement variés.

Et parmi les tonalités presque infinies qu’ils nous offrent, certaines, au fil de ma vie, sont devenues plus investies que d’autres.

Les sagas, par exemple.

 

Les sagas fantastiques, comme Le Seigneur des Anneaux de monsieur Tolkien – bien entendu.

Mais tout autant, en science-fiction, celles que j’ai fini par appeler les sagas impériales.

 

Les sagas impériales comportent habituellement plusieurs gros tomes, et racontent des mondes complexes, souvent très détaillés, avec leurs tensions, leurs jeux de pouvoir, ce qui fait qu’à mes yeux elles sont doublement satisfaisantes : elles sont à la fois lentes ET palpitantes.

 

Il y en a plusieurs, dont certaines comme Le Cycle des Princes d’Ambre de Roger Zelazny sont des casse-têtes fascinants. (Dommage qu’en français la traduction soit bien pire que médiocre)

Toutefois, si je regarde les livres ayant le plus de vécu sur les tablettes de cette section-là de ma bibliothèque, je suis bien obligé de me rendre à l’évidence, la médaille d’or ex aequo revient à Dunes de Frank Herbert et au Cycle d’Hypérion de Dan Simmons, que j’ai tous les deux relus plusieurs fois. (Dans le cas de Dunes : 7 fois, je crois – ce qui est tout un contrat !)

 

La médaille d’argent, elle, revient à Alfred Van Vogt et à son monde du Non-A – le monde non-aristotélicien — magnifiquement traduit par ni plus ni moins que Boris Vian.

 

Ce sont trois cycles qui présentent des univers complets en-soi – passionnants et totalement différents.

MAIS…

Ils ont aussi un point commun capital – et c’est de lui que je voudrais surtout vous entretenir, d’autant plus qu’il est on ne plus actuel.

Et qu’il est présent depuis les tout débuts de la science-fiction, dans un roman paru… en 1818.

 

LUKE, I am your father !

 

Ce thème, c’est celui de la responsabilité à l’égard de notre descendance en tant qu’espèce.

Autrement dit : notre responsabilité à l’égard de l’intelligence artificielle.

 

On en parle beaucoup, de l’IA, ces temps-ci.

On se demande si elle ne va pas supplanter la nôtre.

Mais il me semble que la toute première question qu’elle devrait susciter ce n’est pas celle du changement – celle-là s’est posée à tous les tournants de notre histoire : à l’invention de la machine à vapeur, de l’avion, des moyens de communication, de l’électronique. « On ne reconnait plus rien ! »

 

Non, la première question, elle devrait être, il me semble : cette fois-ci, allons-nous accepter de prendre nos responsabilités ?

 

Qu’est-ce que je veux dire par là ?

 

POURQUOI M’AS-TU CRÉÉ ?

 

La grande révolte métaphysique des êtres humains, elle est dirigée contre Dieu : « Pourquoi m’as-tu donné la vie, tout en m’annonçant que j’allais mourir ? »

Albert Camus, dans L’Homme révolté, fait de cette question le cœur de l’histoire humaine.

 

Eh bien « Pourquoi m’as-tu donné la vie, si c’était juste pour pouvoir m’annoncer que je vais mourir ? » c’est, à très peu de choses près, la question que le monstre pose à son créateur dans Frankenstein.

 

N’oubliez pas que le monstre, dans le roman de Mary Shelley, n’a même pas de nom !

Il vient au monde… et à sa vue son créateur est immédiatement dégoûté et le chasse. Non seulement le monstre – qui n’a jamais demandé à venir au monde — est rejeté par son créateur, mais en plus, il est condamné à ne même pas avoir de compagne et à vivre sa damnation… tout seul !

 

Tout le roman consiste alors dans le récit de la révolte du monstre : « Puisque tu me rejettes, je te rejette aussi : tu vas souffrir ! »

 

Eh bien on peut dire que cette invention fictive de la toute première intelligence artificielle présage TRÈS MAL pour la suite des choses dans la vraie vie.

 

Parce que les humains ne sont vraiment pas forts du côté de l’acceptation des responsabilités.

 

*

À l’autre bout du spectre – pour ainsi dire : débarrassons-nous de la question en la remettant entre les mains… des robots.

Isaac Asimov : Le Cycle des Robots (Les Robots et Les Cavernes d’acier)

Il invente un classique : les 3 règles de la robotique :

 

1- « Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger. »

2- « Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la Première Loi. »

3- « Un robot doit protéger son existence dans la mesure où cette protection n’entre pas en contradiction avec la Première ou la Deuxième Loi. »

 

Autrement dit : si ça fonctionnait, les Robots seraient BEAUCOUP plus brillants que les Humains qui ne sont jamais parvenus à s’empêcher de s’arracher la tête les uns aux autres et de détruire la planète même qui leur a donné la vie

 

*****

 

Je ne veux pas vous gâcher le plaisir de découvrir les œuvres, alors je vais vous dire en deux mots ce que les auteurs des 5 œuvres ont imaginé comme rapport en l’être humain et l’intelligence qu’il a créée.

Lisez les livres. Et découvrez par vous-même qui a prôné ou imaginé quoi.

 

Je vous rappelle les 5 œuvres

 

Frankenstein, de Mary Shelley

Le Cycle de Dunes, de Frank Herbert

Le Cycle des Non-A, d’Alfred Van Vogt

Le Cycle d’Hypérion, de Dan Simmons

Le Cycle des Robots, d’Isaac Asimov

 

1- L’humanité doit choisir : changer – ou alors répéter sans fin les mêmes schémas de peur et de fuite, en se faisant vampiriser tout au long du chemin par les machines qu’elle a créées

 

2- Détruis tout ce que tu voudras, Machine maudite, mais ne m’adresse plus la parole !

 

3- Interdis la machine, et deviens Dieu

 

4- Ta route est un cul de sac, petit Humain. Plus ta machine sera puissante, et plus elle te laissera sans défense entre les mains de celui qui réussira à en prendre le contrôle à ton insu.

 

5- Imagine une manière d’obliger les Intelligences artificielles à se contrôler elles-mêmes – et ensuite ferme les yeux, croise les doigts très fort, et espère que ça marche

 

Bonnes lectures !

Et bon printemps !

.

.


 

 

 

 

 

 

Laisser un commentaire

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.