La
chose à penser: voilà un titre qui évoque chez
vous probablement des réminiscences très philosophiques
et
très françaises. Je vous rappelle le texte de la Seconde
Méditation de Descartes:
"Mais
qu'est-ce donc que je suis? Une chose qui pense. Qu'est-ce qu'une chose
qui pense? C'est une chose qui entend, qui conçoit, qui affirme,
qui nie, qui veut, qui ne veut pas, qui imagine aussi et qui sent." (1)
Or,
pour
Descartes cette "chose qui pense" est tout à fait
différente
des choses matérielles, en particulier du corps. Le corps humain
est une espèce d'automate très perfectionné mais,
comme le dit Descartes dans la cinquième partie du Discours de
la Méthode, il y a deux moyens très certains pour
reconnaître
que, s'il y avait des machines semblables à l'homme, il ne
s'agirait
pas d'êtres humains, à savoir: premièrement, de
telles
machines
"ne
pourraient user de paroles ni d'autres signes en le composant, comme
nous
faisons pour déclarer aux autres nos pensées"
et,
deuxièmement,
"elles
n'agiraient pas par connaissance, mais seulement par la disposition de
leurs organes" (2)
Voilà
alors ce qui fait la différence entre les hommes et les
bêtes:
le langage et la raison. La chose à penser, la "res cogitans",
qui
nous permet de parler et de penser, est une "chose" entièrement
immatérielle. L'homme selon Descartes, n'est pas un automate qui
pense, mais il est un composé d'un automate et d'une "chose
à
penser". Le langage c'est un instrument de signification et de
communication.
On peut bien imiter ces deux actions avec une machine, mais elle ne
saurait
pas, dit Descartes, reconnaître le sens de tout ce qui se dira en
sa présence. Quant à la raison, on peut bien mettre dans
une machine une particulière disposition à faire quelque
chose, la programmer alors, comme nous le disons aujourd'hui,
mais
ces programmes sont toujours particuliers, tandis que la raison est un
"instrument universel". La machine n'est donc pas responsable de ses
actes,
elle est an-éthique.
Les
efforts de la recherche actuelle dans le champ de l'intelligence
artificielle
(IA) sont des efforts tout à fait anti-cartésiens:
il s'agit de faire une machine à penser. Ça c'est le but.
La réalité est, par contre, très
cartésienne:
ce qu'on fait c'est la simulation, ou plutôt la dissimulation. Je
vous propose d'abord d'essayer de penser le phénomène de
l'IA sous ce point de vue. C'est ce que j'appelle la mise en
scène
de la pensée. La proposition "la chose à penser" peut
être interprétée aussi comme faisant allusion
à
la (ou les) chose(s) auxquelles nous pensons ou plutôt aux choses
qui nous donnent à penser. Mais, qu'est-ce exactement qu'une chose?
Je laisse ouverte ici cette question pour y revenir dans la
seconde
partie de mon exposé.
I.
La mise en scène de la pensée
Les
machines
à penser
dévelopées par
les ingénieurs
de la connaissance (knowledge engineers) ne sont pas simplement
des machines à calculer, mais elles prétendent remplir
des
fonctions sémantiques dans des champs spécialisés.
Elles ne possèdent pas (encore) la raison dans sa fonction
universelle.
Elles manquent de sens commun. Et pourtant elles donnent
l'impression
qu'elles pensent vraiment. Il s'agit doc d'une simulation, ou d'un show.
En
reprenant la thèse de Marshall McLuhan ("the medium is the
message")
Neil Postman a interprété le phénomène de
la
télévision comme un médium qui transforme
tous
les contenus en leur donnant l'apparence d'amusement (3). Je voudrais
prolonger cette interprétation en l'appliquant à
l'IA. Ma thèse alors peut être formulée de la
manière
suivante: l'intelligence artificielle transforme la pensée et
ses
contenus en leur donnant l'apparence d'un show. En d'autres
termes,
l'IA c'est une mise en scène de la pensée.
Je
laisse ouverte la question (toujours posée par les défenseurs
du paradigme de l'IA et tranchée aussi dogmatiquement que le
fait
le dualisme cartésien) de savoir si un jour ces choses
seront vraiment capables de penser. Je crois que souvent les
discussions théoriques à ce propos sont
destinées à
détourner notre attention de ce qui se passe en
réalité
dans ce domaine. Si nous considérons le phénomène
humain d'un point de vue évolutif, c'est-à-dire comme
un phénomène émergent, je ne vois pas de
dificultés
de principe concernant la possibilité de reproduire artificiellement
quelques caractéristiques dites humaines, soit avec des moyens
biologiques,
soit avec d'autres substances. Il reste bien sûr à savoir
si ce qu'on obtiendra sera de la même qualité que ce que
nous
prenons comme modèle...
Pour
le moment le médium de l'IA est, comme je le disais,
tout
à fait théâtral. Il s'agit de donner
l'impression
que les machines peuvent penser, voir, agir, parler, etc. Elles
sont définies comme obéissant au principe de Turing,
c'est-à-dire au principe selon lequel la simulation cesse
d'être
considérée comme telle si elle peut être
dissimulée
de telle manière qu'on ne sait plus la reconnaître comme
simulation.
L'IA transforme la pensée et les choses à penser dans une
affaire de mise en scène: on développe les libretti
ainsi que les instructions de régie. Les pièces qu'on
joue
sont pour la plupart d'un contenu scientifique spécialisé
(expert systems), mais ça commence à changer au
fur
et à mesure que l'industrie prévoit un business
au-delà
des applications, par exemple, militaires. La chose à penser,
ça c'est déjà du show business. Comme le
dit
Postman à propos de la télévision, ce n'est pas
Orwell,
c'est Huxley qui avait raison.
Qu'est-ce
qu'on essaie de simuler en le dissimulat? Tout d'abord, il
s'agit
de systèmes qui peuvent trouver des solutions aux problèmes.
Ils le font en suivant des règles et en les appliquant à
un corps de savoir. On simule alors un dialogue avec des gens de
profession,
dont on pense qu'ils peuvent juger à propos d'un cas particulier
parce qu'ils possèdent des connaissances plus
générales
qui leur permettent de distinguer ce qui est spécifique ou
plutôt
routinier. Mais, peut-on savoir suffisament dans un champ quelconque?
Les
spécialistes ne se caractérisent-ils pas aussi bien par
ce
qu'ils savent (ou croient savoir) que par ce qu'ils ignorent, dans la
mesure
où ils sont conscients de cette ignorance? (4)
C'est justement le non-savoir qui est le fondament de la recherche. Or,
les systèmes de l'IA sont des systèmes de savoir qui,
jusqu'à
présent, ignorent qu'ils ignorent. Ils n'ont pas encore appris
à
dire "je ne sais pas". On dissimule alors le non-savoir en simulant le
savoir. Le système doit toujours jouer le rôle de
quelqu'un
qui sait – et qui cache son ignorance.
Conséquemment alors, le
système
n'est pas capable de prendre du temps pour penser. Il ne
réfléchit
pas bien qu'il joue le rôle de quelqu'un qui le fait.
Deuxièmement,
alors il s'agit d'une mise en scène de la rationnalité.
Mais
bien que l'ordinateur soit en principe une machine universelle et maléable,
il n'est pas encore structuré de manière à faire
émerger
la rationnalité au sens cartésien. Il a toujours besoin
de
règles, des programmes etc. Hubert Dreyfus a spécialement
souligné ce point dans sa critique des limites (actuels) de l'IA
(5). Ces règles le particularisent et font justement
que tout ce qu'on joue ou transmet prend le
caractère
d'un show. Il s'agit en efet d'un discours qu'on met sous la
forme
de l'IA. On doit alors simuler le dialogue, qui en
réalité
a la forme déséquilibrée de questions et
réponses obsessives. La simulation d'un dialogue
basée sur
une rationnalité
humaine, c'est-à-dire ouverte (au monde et aux autres),
transforme
l'un des pôles
en
un mono-logue. Puisqu'on parle le même langage, on s'en
aperçoit
pas...
Finalement,
je voudrais porter mon attention sur le problème de la
complexité.
L'IA est extrêmement utile dans des situations où les
variables
sont multiples et qui nécessiteraient beaucoup de temps et de
travail
pour trouver une réponse précise. On peut alors simuler
la
façon de dominer une telle situation. Mais, comme nous l'avons
déjà
remerqué, tandis que nous sommes conscients (malheureusement pas
toujours!) de l'impossibilité de tenir compte de toutes les
variables
aussi bien que de la possibilité des erreurs, la mise en
scène
de l'IA donne une réponse (éventuellement la
machine prend une décision, et, dans le cas du robot,
elle agit) en dissimulant le non-savoir. On peut, bien
sûr, demander
des raisons au système afin de vérifier les
réponses,
mais une telle vérification est très limitée. De
facto les systèmes de l'IA sont très limités
en
tant qu'ils sont effectivement destinés à jouer un
rôle
ou plutôt une pièce. Voilà leur grandeur,
mais
aussi leur misère.
II.
La chose à penser
La
pensée, voilà un sujet dont les philosophes discutent
depuis quelques trois mille ans. C'est surtout cette chose à
penser, c'est-à-dire l'homme en tant qu'être pensant,
qui a donné à penser, de sorte que la pensée est
devenue,
dans la tradition métaphysique occidentale, la chose par
excellence
de la pensé elle-même. Aristote définit
l'étant
le plus parfait comme noesis noeseos (la pensée qui se
pense
elle même) et Descartes, tout à fait dans cette
tradition,
confirme l'identité du "je pense" comme un
phénomène
ontologique irréductible, qui se trouve à la base de
toute
autre connaissance. Si l'IA fait des efforts pour simuler (et
peut-être
un jour aussi reproduire) la pensée, elle se trouve,
à
mon avis, dans la plus authentique tradition métaphysique.
Mettre
en question la métaphysique, cela signifie (entre autres) se
demander
si la chose à penser doit être principaliter
et essentialiter la pensée elle-même, soit dans sa
forme humaine, divine ou bien artificielle.
D'où
vient-il que nous parlons d'elle comme d'une chose? Et de
quelle
forme détermine cette façon de parler notre vue des
choses
comme objets de pensée? Qu'est-ce qu'une chose? Je veux
rappeler
ici seulement les recherches heideggeriennes sur ce sujet, sans en
aller
faire maintenant tout un exposé (6). Je voudrais
remarquer, tout d'abord, que les efforts artificiels pour
éclairer
la pensée sont, à mon avis, tout à fait oedipiens,
dans le sens qu'ils sont des efforts d'autodéfinition et qu'ils
prennent leur origine dans le champ du rêve et de l'imaginaire.
Jean
Brun signale le phénomène comme suit:
"Les
machines sont beaucoup plus que les enfants de la raison, elles sont
surtout
les filles de l'imagination, de rêves et des mythes; elles sont
beaucoup
plus que des instruments techniques: elles son des appareils
métaphysiques.
D'elles, l'homme attend davantage que des sauvetages
socio-économiques
libérateurs, il espère qu'elles lui apporteront un Salut
et une délivrance l'arrachant à lui-même et
à
ses limites existentielles. Mais il en attend aussi sa
consécration
comme Créateur tout-puissant. Et c'est pourquoi il les adore.
L'essence
de la machine est d'être tenue pour dispensatrice d'extase,
même
dans ses oeuvres de mort, car l'on y voit des apocalypses
nécessaires
au surgissement d'aubes nouvelles. Bref, les machines sont des
prothèses
du moi qui impliquent le désir de l'homme de se projeter
au-delà
de son essence et de son existence." (7)
A
quoi
rêvons-nous quand nous essayons de créer une chose
à
penser? Jean Brun nous renvoie à un beaux texte de Paul
Valéry
dans "La crise de l'esprit":
"L'homme
est cet animal séparé, ce bizarre être vivant qui
s'est
opposé à tous les autres, par ses (...) songes, – par l' intensité,
l'enchaînement, par la
diversité
de ses songes!" (8)
C'est
par nos songes, remarque Valéry, que nous essayons de produire
ce
qui n'est pas, que nous sommes en contradiction continue avec la
facticité
de notre existence et, bien sûr, avec les principes et conditions
qui déterminent cette existence:
"Il
y des rêves contre la pesanteur et des rêves contre les
lois
du mouvement. Il en est contre l'espace et il en est contre la
durée.
L'ubiquité, la prophétie, l'Eau de Jouvence on
été
rêvées, le sont encore sous des noms scientifiques." (9)
Quant
au rêve de la Connaissance, Paul Valéry nous rappelle son
origine dans la Genèse. Il est lié au rêve de
l'Immortalité.
Il me semble que ce deux rêves, qui sont en réalité
un, puisqu'une connaissance absolue nous permettrait aussi de vaincre
la mort, sont en quelque sorte à l'origine de tous nos
autres
rêves. Si nous mettons d'un côté nos rêves et
de l'autre les réalisations, nous pouvons dire que dans le cas
du
rêve de la Connaissance on trouve trois grands échelons:
l'écriture
(qui, comme nous le rappele Platon, fut donnée aux hommes par le
dieu égyptien Tot), la machine à imprimer de Gutenberg
(ce
fut la Bible qu'on a d'abord imprimée!), et nos machines
à
penser. Dans son "Propos sur l'intelligence", Paul Valéry
fait
allusion à une évolution possible des "machines
calculatrices"
vers ce que nous appelons aujourd'hui expert systems. Il
écrit:
"Ces
machines calculatrices qui me passent par l'esprit me suggèrent
une réflexion que je noterai au passage. Il y a des
activités
intellectuelles qui peuvent changer de rang par le
progrès
des procédés techniques. Quand ces procédés
deviennent plus précis, quand la profession se ramène peu
à peu à l'application de moyens
énumérables,
exactement indiqués par l'examen du cas particulier, la valeur
personnelle
du professionnel perd de plus en plus d'importance. On sait quel
rôle
jouent l'habilité individuelle et les procédés
secrets
dans une quantité de domaines. mais le progrès dont je
parlais
tend à rendre les résultats indépendants de ces
qualités
singulières."
C'est
le cas, dit Valéry en prévoyant ELYZA et MYCIN, du
médecin
"[...] qui en devenant un
agent impersonnel de la science de guérir, perdrait tout ce charme qui tient à
l'incertitude de son art et à
ce qu'on
suppose
invinciblement qu'il y ajoute de magie individuelle." (10)
Les
"intellectuels
qui servent à quelque chose", comme Valéry les appelle
pour
les distinguer de ceux "qui ne servent à rien", sont-ils les
victimes
d'une concrétisation nouvelle du rêve de la Connaissance?
Comment définir notre rélation avec des machines
à
savoir? Quels fruits désirons-nous de l'arbre de la
Connaissance?
Quel est le manque que nous y projetons? Ecoutons le texte de
la
Genèse:
"Le
serpent était le plus rusé de tous les animaux des champs
que Yahvé Dieu avait fait. Il dit à la femme: "Alors,
Dieu
a dit: Vous ne mangerez pas de tous les arbres du jardin?" La femme
répondit
au serpent: "Nous pouvons manger du fruit des arbres du jardin. Mais du
fruit de l'arbre qui est au milieu du jardin, Die a dit: Vous n'en
mangerez
pas, vous n'y toucherez pas, sous peine de mort." Le serpent
répliqua
à la femme: "Pas du tout! Vous ne mourrez pas! Mais Dieu sait
que,
le jour où vous en mangerez, vos yeux s'ouvriront et vous serez
comme des dieux, qui connaissent le bien et le mal." (Gen. 3, 1-5)
Désir
de Connaissance et désir de se diviniser sont intimiment
liés.
Cette intelligence n'est pas liée au voir –
mais au manger!
C'est-à-dire
à un appétit charnel, qui pour la femme se
manifeste
déjà dans le désir de toucher. Le fruit de
la connaissance divine (genitivus subjectivus et objectivus!)
est lié à la perte du fruit de "l'arbre de vie" (Gen. 1,
9). Dès maintenant nous cherchons maîtriser l'espace et le
temps, devenus des objets absolus du désir humain.
La
psychanalyse, en particulier celle développée par Jacques
Lacan, nous donne à penser que le désir humain est
marqué
par le manque de l'objet absolu. La rencontre incarnée et
réelle
avec ce manque est – la "Chose" (11), qui n'est
pas
justement une "chose" mais le rappel de la "place vide", de "l'a-chose"
du désir. C'est alors, d'après la psychanalyse, la
"Chose"
qui donne – à parler. L'IA
semble
exprimer le rêve
névrotique
de trouver finalement la chose à penser,
c'est-à-dire
le sujet pensant, libéré du désir, ne se laissant
plus rien dire par la "Chose". Il y aurait finalement une "Versöhnung"
entre le "Ich" et le "Es". "Mais", écrit
Lacan,
"si
l'on méconnaît l'excentricité radicale de soi
à
lui-même à quoi l'homme est affronté, autrement dit
la vérité découverte par Freud, on faillera sur
l'ordre
et sur les voies de la médiation psychanalytique". (12)
Cette
"excentricité" signifie que l'homme "donneur de sens" doit
toujours
reconnaître les limites de son activité grammaticale,
parce
que les choses qui nous donnet toujours à penser, n'ont
originairement,
comme le dit Octavio Paz, aucun sens, elle ne signifient rien:
"Por
la escritura abolimos las cosas, las convertimos en sentido; por la
lectura,
abolimos los signos, apuramos el sentido y, casi inmediatamente, lo
disipamos:
el sentido vuelve al amasijo primordial. La arboleda no tiene nombre y
estos árboles no son signos: son árboles. Son reales y
son
ilegibles. Aunque aludo a ellos cuando digo: estos árboles son
ilegibles,
ellos no se dan por aludidos. No dice, no significan: están
allí,
nada más están. Yo los puedo derribar, quemar, cortar,
convertir
en mástiles, sillas, barcos, casas, ceniza; puedo pintarlos,
esculpirlos,
describirlos, convertirlos en símbolos de esto o de aquelle
(inclusive
de ellos mismos) y hacer otra arboleda, real o imaginaria, con ellos;
puedo
clasificarlos, analizarlos, reducirlos a uan fórmula
química
o a una proposición matemática y así traducirlos,
convertirlos en lenguaje - per estos árboles, estos que
señalo
y que están más allá, siempre más
allá,
de mis signos y de mis palabras, intocables, inalcanzables,
impenetrables,
son lo que son y ningún nombre, ninguna combinación de
signos
los dice. Y son irrepetibles: nunca volverán a ser lo que ahora
mismo son." (13)
Voilà
alors la découverte poétique par excellence: la chose
à
penser n'est pas une chose et – on ne peut pas
la penser!
C'est-à-dire,
elle ne se laisse pas réduire métaphysiquement.
Elle
est incommensurable. Elle nous donne à penser. C'est dans ce
sens
aussi que les choses à penser cherchées par l'IA,
aussi bien que les autres choses, peuvent nous donner à
penser,
pourvu que nous renoncions à les considérer
traumatiquement
comme donneuses originaires de sens. Naturelle ou artificielle,
elle n'a pas de sens. Pour une pensée qui se désire au-delà
de la métaphysique, c'est-à-dire qui est en train
d'en guérir, ce n'est pas précisément la
pensée
elle-même, mais la "chose de la pensée", "die Sache des
Denkens"
(Heidegger), qui est l'essentiel. Cette chose incommensurable,
c'est-à-dire,
qui conditionne toute mesure et, par conséquent, toute
pensée, naturelle ou artificielle, nous
l'appelons –
temps (14).
|