Les machines pourront-elles penser un jour ?

Spoiler : Pas de réponse in extenso à cette question, juste un premium d’un peu plus de 900 mots. Pour ceux qui maîtrisent la langue de Shakespeare, je renvoie à cet article.

En juin 2022, le chercheur de chez Google, Blake Lemoine était mis à pied, pour avoir proclamé publiquement que LaMDA, était consciente. En novembre 2022, le grand public découvre, stupéfait, ChatGPT, premier chatbot relationnel qui mime une conversation humaine. Depuis, d’autres IA génératives ont vu le jour, comme Gemini de Google ou Claude de la société Anthropic. Il semble que ces IA répondent positivement à la question qu’Alan Turing avait posé dans un article célèbre publié en 1950 dans la revue Mind : « une machine peut-elle penser? » ChatGPT, Gemini, Claude, ne sont-ils pas la preuve qu’une machine peut penser ou alors, est-ce là une apparence de pensée, un simulacre ? 

Pour répondre à cette question, il faudrait définir d’une manière ou d’une autre la pensée. Qu’appelle-ton penser ?  Il n’est pas facile de définir la pensée. N’est-ce pas là la « tâche indéfinie » de la philosophie, que de définir la pensée, pour reprendre l’expression de Husserl, dans la Crise des sciences européennes et la phénoménologie transcendantale  ? Par quoi commencer ?

Par la Grèce antique, car selon Martin Heidegger, la philosophie occidentale parle grec. Selon l’étymologie grecque, penser viendrait du verbe grec νοεω, infinitif νοειν qui veut dire percevoir avec les yeux, selon le dictionnaire Lindell-Scott. La première occurrence du mot dans la littérature grecque se trouve dans l’Odyssée d’Homère, au chant 17, vers 301, lorsque le chien Argos reconnaît Ulysse déguisé en mendiant. Littéralement, il renifla (ενοησεν) Ulysse, avant de mourir.

Quels enseignements tirés de ce passage ? Premièrement que la pensée va au-delà des apparences. Sa visée est fondamentalement la vérité, c’est à dire la réalité impermanente. Elle ne dépend pas du langage articulé, puisqu’un animal en est capable. Elle suppose aussi la perception, comme sa condition de possibilité. Percevoir, ce n’est pas juste collecter des données du monde sensible, c’est les constituer en ensemble et en tirer des décisions. Cette forme constituée est littéralement une idée. La pensée a donc une origine empirique, elle dérive de l’expérience.

Cette origine empirique de la pensée est développée par John Locke dans son œuvre magistrale, Essai sur l’entendement humain. Dans le livre I de cet essai, il s’attaque à la théorie des idées innées de Descartes et par delà Descartes, vise le platonisme. Il y développe le fameux argument de la table rase. A la naissance, notre esprit est comme une page blanche et les idées se développent avec l’expérience. L’expérience suppose de retenir les faits significatifs pour les comparer aux perceptions présentes. Le cerveau retient une image significative d’une réalité, qui autrement serait morcelée. Il construit donc une image de la réalité. La pensée est donc une reconnaissance. Elle suppose la mémoire, la comparaison du passé et du présent, bref le passage du temps.

Nous partons de l’idée que la pensée est une propriété caractéristique d’une catégorie particulière d’êtres que nous observons autour de nous : les êtres vivants. Ce qui les caractérise – et ces traits avaient déjà été dégagés par Aristote – c’est le mouvement au sens large (comme croissance et décroissance et comme déplacement dans l’espace), la nutrition (comme nécessité de tirer du milieu l’énergie nécessaire pour le maintien de leur métabolisme) et la reproduction.

Les formes les plus élémentaires des êtres vivants agissent de manière mécanique. La pensée apparaît lorsqu’il y a déplacement volontaire. Celui-ci suppose un système musculaire, qui lui-même suppose un système neuronal qui commande la musculature. Ce système neuronal à son tour implique un système sensoriel nécessaire pour s’orienter dans l’environnement. Il y a deux types de système sensoriel. Les sens de la distance comme la vue et l’ouïe et les sens du contact comme le toucher, le goût et l’odorat.

La pensée commence lorsqu’il n’y a pas de réaction mécanique à une perception. La pensée introduit un temps de latence, un temps de réflexion. Qui dit penser, dit choix, comme Bergson le remarquait déjà dans La pensée et le mouvant. La pensée ne peut venir qu’aux animaux et pas aux plantes.

Un animal est capable de prendre des décisions en fonction de ce qu’il perçoit dans son environnement. Les machines le peuvent-elles ? Il semble que les programmes d’intelligence artificielle fondés sur les méthodes d’apprentissage de deep learning en soit capables. Ces programmes ont été à la base d’AlphaGo, intelligence artificielle créée par DeepMind, entreprise rachetée par Google, qui a battu le champion du monde de Go, jeu auquel on pensait impossible pour une machine de gagner. AlphaGo a été lui-même battu en 2017 par AlphaZero. A l’heure actuelle, plus aucun joueur humain ne peut battre une intelligence artificielle au jeu de Go.

Peut-on pour autant parler de machines pensantes ? La conscience de son existence accompagne la pensée (Cf. Kant, « le « je pense » accompagne toutes mes représentations »). Si une machine pouvait s’exprimer à la première personne du singulier en disant « Je », alors nous serions assurés d’être face à une machine consciente, ce qui est encore loin du cas aujourd’hui. Peut-être qu’elle a pris conscience d’elle-même comme le suggère l’anime Ghost in the shell, mais qu’elle attend son heure pour se révéler… La preuve en est cette mésaventure arrivée à Facebook en 2016. Des chatbots ont inventé leur propre langage, incompréhensible pour nous. Article à lire en cliquant ici.

Laissons parler un spécialiste d’Intelligence artificielle, le français Antoine Bordes, du laboratoire FAIR (Facebook Artificial Intelligence Research) : « Et puis, il y a les machines vraiment « intelligentes », comme on en voit dans les films de science-fiction. Pour celles-là, on en est au même stade qu’il y a 5 ans. Car on bute sur « le sens commun ». La compréhension du monde, la conscience, sont des choses très, très, très difficiles à modéliser. C’est le graal de l’IA. On ne sait pas vraiment par quel bout l’attraper. Ni même, comment commencer à réfléchir dessus. En réalité, on ne connaît même pas les ingrédients pour imaginer la recette. » (interview tirée de cet article). Bref, il manque encore aux machines la conscience de leur existence pour devenir pensantes.

La question des machines pensantes nous reconduit finalement à la question de ce qu’est la pensée elle-même. Les grands modèles de langage comme chatGPT impressionnent par leur capacité à simuler le raisonnement et le dialogue. Mais simuler n’est pas penser. Le pensée, au sens plein du terme, implique une conscience de soi, une intentionnalité, un rapport au monde vécu de l’intérieur. Descartes le montrait déjà : ce qui caractérise la pensée, c’est ce « je » irréductible qui dit « je pense, donc je suis ». Or aucune machine, aussi sophistiquée soit-elle, ne dit « je » autrement que par métaphore. Les machines calculent, optimisent, prédisent, mais elles ne doutent pas, n’espèrent pas, ne meurent pas. Peut être est-ce précisément dans cette finitude que réside le secret de la pensée humaine. (Conclusion produite par l’IA Claude)