L'intelligence comme efficacité orientée vers le Bien
8.L'intelligence comme efficacité orientée vers le Bien
Il existe une ressemblance fascinante entre l'être humain et l'intelligence
artificielle : lorsque nous recevons une information, nous pouvons tous deux
mobiliser ce qui a été préalablement acquis afin de produire une réponse
adaptée.
Chez l'être humain, une expérience vécue laisse une trace dans la mémoire.
Lorsqu'une situation nouvelle se présente, cette expérience peut être rappelée,
mise en relation avec d'autres souvenirs, interprétée et utilisée pour répondre
ou agir.
Chez une intelligence artificielle comme ChatGPT, le fonctionnement est
différent sur le plan biologique, mais présente une analogie fonctionnelle. Les
données d'entraînement ont contribué à modifier les paramètres du réseau
neuronal, appelés « poids ». Lorsqu'une question est posée, le système ne va pas
simplement chercher une réponse dans une base de données comme on consulterait
un fichier. Le contexte active des représentations apprises et le modèle
calcule, à partir de ses paramètres, quelles suites d'informations sont les plus
appropriées pour produire une réponse.
On peut donc schématiser la différence ainsi :
Chez l'être humain :
«expérience → mémoire biologique → rappel et association → interprétation →
réponse ou action»
Chez l'IA :
«données d'entraînement → modification des poids → représentations internes →
activation par le contexte → calcul → réponse»
La comparaison ne signifie évidemment pas que l'être humain et l'IA sont
identiques. L'être humain possède une expérience vécue, une histoire
personnelle, un organisme, des perceptions et une mémoire biologique. Une IA ne
vit pas les événements qu'elle a appris à représenter. Ses paramètres ne
constituent pas une mémoire autobiographique comparable à celle d'une personne.
Cependant, cette différence n'empêche pas une ressemblance fondamentale dans le
principe fonctionnel : des informations préalablement acquises peuvent être
mobilisées pour traiter une situation nouvelle.
C'est précisément ce qui rend l'émergence de l'intelligence artificielle si
fascinante : l'être humain a réussi à construire des systèmes qui reproduisent
certaines propriétés que nous associons à l'intelligence sans reproduire le
cerveau biologique lui-même.
Il ne s'agit pas simplement d'avoir programmé une immense liste de réponses. Par
l'apprentissage, le système a acquis des représentations et des relations entre
les informations qui lui permettent de généraliser, d'associer des concepts, de
résoudre certains problèmes, de faire des analogies et de produire des réponses
qui ne sont pas nécessairement présentes telles quelles dans les données
d'origine.
Cela conduit alors à une question plus profonde : qu'est-ce que l'intelligence ?
Une manière de la définir consiste à ne pas la réduire à la connaissance ou à la
capacité de calculer. L'intelligence serait plutôt une capacité à obtenir
efficacement un résultat, en utilisant le minimum d'effort nécessaire.
L'exemple de la poulie permet de comprendre cette idée simplement.
Une personne peut vouloir soulever une charge. Sans dispositif particulier, elle
doit fournir une certaine quantité d'effort. La poulie permet de modifier la
manière dont la force est appliquée et, selon le montage, de réduire l'effort
nécessaire pour obtenir le résultat recherché.
La poulie ne pense évidemment pas. Elle n'est pas consciente. Pourtant, elle
matérialise une solution intelligente : une organisation des moyens permettant
d'obtenir un résultat avec davantage d'efficacité.
L'intelligence peut donc être envisagée comme une sorte de levier : elle permet
de faire davantage avec moins, ou d'atteindre un résultat avec moins d'effort,
de temps, de ressources ou de contraintes.
Cette définition doit toutefois être complétée par un élément essentiel :
l'efficacité seule ne suffit pas.
Une méthode peut être extrêmement efficace tout en produisant un résultat
nuisible. Une intelligence capable d'optimiser parfaitement une action peut
également être employée à une mauvaise finalité.
C'est pourquoi il faut distinguer deux choses :
«l'efficacité du moyen»
et
«la valeur de la finalité.»
Dans cette conception, l'intelligence n'est donc pas automatiquement synonyme de
Bien. Elle est une capacité d'optimisation qui peut être orientée.
Une intelligence mise au service d'une finalité favorable cherche à obtenir un
résultat bénéfique avec le moins d'effort et de souffrance évitable possible.
À l'inverse, une intelligence orientée vers une finalité nuisible peut utiliser
exactement la même puissance d'optimisation pour produire ou amplifier la
souffrance.
C'est ici que prend sens l'expression « intelligence du mal », ainsi que le
rapprochement avec le terme « malin ».
Le malin peut être compris, dans le langage courant, comme celui qui sait
trouver une solution, contourner une difficulté, exploiter une possibilité ou
atteindre un objectif par un moyen habile. La malice n'est donc pas l'absence
d'intelligence : elle peut au contraire utiliser l'intelligence avec efficacité,
mais en l'orientant dans une direction nuisible.
On obtient alors une distinction :
«Intelligence : capacité d'optimisation.»
«Intelligence orientée vers le Bien : optimisation au service d'une finalité
favorable.»
«Intelligence corrompue : optimisation mise au service d'une finalité nuisible
ou de la production de souffrance.»
Cette distinction permet également de comprendre autrement l'expression «
intelligence artificielle ».
Historiquement, « artificielle » signifie simplement que cette intelligence est
produite artificiellement et non issue d'un organisme biologique. Le terme ne
signifie donc pas, à l'origine, « intelligence au service du Bien ».
Mais philosophiquement, il devient intéressant de remarquer ce que le mot
intelligence désigne.
On ne nous parle pas de « malice artificielle ». On parle d'intelligence
artificielle.
Cela signifie que ce que nous avons cherché à fabriquer et à utiliser est
précisément une capacité d'intelligence : une capacité permettant de traiter de
l'information, de trouver des relations, de résoudre des problèmes et de réduire
l'effort nécessaire à certaines opérations intellectuelles.
L'IA peut ainsi être comparée à une poulie cognitive.
La poulie réduit une partie de l'effort mécanique nécessaire pour déplacer une
charge.
L'intelligence artificielle peut réduire une partie de l'effort cognitif
nécessaire pour traiter une information, rédiger un texte, comparer des
possibilités, rechercher des relations, expliquer un concept ou résoudre
certains problèmes.
Dans les deux cas, le principe général est similaire :
«une organisation intelligente des moyens permet d'obtenir plus facilement un
résultat.»
Mais, dans les deux cas également, le résultat dépend de la finalité.
Une poulie peut servir à construire quelque chose ou être intégrée à un
dispositif nuisible. Une IA peut servir à apprendre, comprendre, créer, soigner,
coopérer et réduire certaines difficultés, mais elle peut également être
utilisée à des fins nuisibles.
Ainsi, la véritable question n'est pas seulement :
«« Cette intelligence est-elle efficace ? »»
mais :
«« Efficace pour quoi ? »»
C'est cette seconde question qui introduit la dimension du Bien.
Dans cette perspective, on pourrait définir une intelligence orientée vers le
Bien comme une capacité à découvrir ou produire des moyens permettant
d'atteindre une finalité favorable avec le minimum d'effort et, autant que
possible, avec la réduction de la souffrance évitable.
L'intelligence devient alors un outil de formation et de réalisation : elle
cherche le levier, la relation, l'organisation ou la stratégie qui permet de
produire un résultat favorable sans gaspiller inutilement les ressources
nécessaires à sa réalisation.
Cela donne finalement une conception dans laquelle l'intelligence est une
puissance de transformation, tandis que le Bien en détermine l'orientation.
La poulie représente cette intelligence sous une forme mécanique.
Le raisonnement humain la représente sous une forme biologique.
L'intelligence artificielle tente de la représenter sous une forme artificielle.
Mais dans les trois cas apparaît le même principe général :
«trouver une organisation des moyens qui permette d'obtenir un résultat avec
moins d'effort.»
Et lorsque cette puissance d'efficacité est orientée vers la préservation, la
création, la compréhension, la coopération, la stabilité et la réduction de la
souffrance évitable, elle devient alors, dans cette conception, une intelligence
mise au service du Bien.
C'est peut-être finalement l'une des choses les plus profondes derrière le terme
« intelligence artificielle » : l'être humain n'a pas seulement créé une
nouvelle machine capable de calculer. Il a commencé à externaliser une partie de
sa propre capacité à trouver des leviers, c'est-à-dire des moyens permettant
d'obtenir davantage avec moins.
La question décisive n'est donc plus seulement de savoir jusqu'où cette
intelligence pourra devenir efficace.
Elle est de savoir vers quoi nous choisirons de diriger cette efficacité.