Miguel Benasayag, philosophe et psychanalyste d’origine argentine qui vit et travaille à Paris depuis des décennies, dans ce livre, Chat GPT ne pense pas (et le cerveau non plus)(Jaca Book, 2024, pp. 153) s’entretient avec son ami Ariel Pennisi, philosophe argentin qui joue un rôle de contrepoint vertueux en abordant le thème, cher à tous deux, de la perte d’existence et de réalité causée par une technologie qui alimente la prédominance du fonctionnement et l’illusion que tout est possible.
Le livre présente des points de similitude avec celui de Gerd Gigerenzer Parce que l’intelligence humaine bat toujours les algorithmes (Raffaello Cortina, 2023) où il dissipe le mythe selon lequel le véritable amour peut être trouvé sur le web, ou quand il remet en question la prédominance des machines qui peuvent certes être utiles mais seulement dans un monde stable et certainement pas dans celui en transformation continue qui nous vivons, mais c’est beaucoup plus radical car, en se référant à son livre fondateur La singularité du vivant (Jaca Book, 2021), note que le cerveau humain ne pense pas car la réalité est constituée de mécanismes dynamiques et complexes dans lesquels leEnsemble des organismes et de leurs écosystèmes. Et c’est dans la lignée du livre d’Umberto Galimberti (un très bon ami de Miguel) Le corps (Feltrinelli, 1983, 2021) en questionnant l’image anthropocentrique, cartésienne et binaire du cerveau. Nous sommes essentiellement notre corps, et une description abstraite et rigide de la réalité qui l’ignore ainsi que les contextes dans lesquels elle se produit est illusoire et trompeuse.
Alors que les machines et évidemment ChatGPT sont soumis à une densité statistique, les corps sont capturés par des désirs, des souffrances et des signes dont les algorithmes sont exclus précisément parce que, malgré leur incommensurable puissance de calcul, ils ne pensent ni ne ressentent. Gigerenzer a noté que le champion du monde d’échecs avait été vaincu par une machine, mais a souligné qu’une machine n’est pas capable de disposer les pièces sur l’échiquier et qu’à proprement parler, elle ne sait même pas qu’elle joue aux échecs, elle ne peut effectuer que des calculs beaucoup plus rapidement. que n’importe quel être humain. Le monde des algorithmes est un monde de pure légalité qui n’autorise pas les écarts, les déviations, les interprétations, un monde dans lequel il n’y a pas de place pour la ruse, un monde de murs infranchissables : « Et quand peut-être c’est la loi elle-même qui produit une aberration , comme dans le cas des nazis… les Japonais ont réussi à s’y adapter tandis que les Italiens, malgré tous leurs efforts, n’y sont pas parvenus”.
C’est à partir de frictions que les discontinuités de fonctionnement peuvent devenir des formes concrètes de connaissance, de sensations, de sens, alors que dans un monde fondé sur des règles fixes et inaltérables elles ne laissent pas de place à ce qui est spécifiquement humain. La machine fonctionne par accumulation et fonctionnement, mais l’information ne produit jamais de sensation. « C’est pourquoi nous affirmons que parmi les phénomènes du vivant, il n’y a pas de traduction, mais plutôt de transduction. La transduction est une relation de friction et d’affection, pas de traduction et de codage. » Sans oublier que les organismes fonctionnent également de manière stochastique : le stimulus tombe là où il tombe et les organismes ont donc une variabilité aléatoire au-delà de leur stabilité relative.
À certains égards, l’intelligence artificielle rappelle la pensée coloniale, puisque tout ce qui dépasse le modus vivendi du colonisateur reste sans valeur, inconcevable, inacceptable. C’est une chose de reconnaître que le multiculturalisme est soit « boutique », c’est-à-dire attentif exclusivement aux aspects les plus superficiels et exotiques, soit qu’il ne peut pas l’être parce que le multiculturalisme radical admettrait également le cannibalisme. Mais le septième de la population mondiale, représenté par l’Occident, dévalorise systématiquement ce qui se passe en dehors de lui, même si ce que nous considérons comme correct est souvent tout simplement inhumain. Michel Houellebecq, dans La possibilité d’une îledécrit « des personnes âgées qui, soit se suicident par prosternation, soit sont laissées mourir dans des salles d’hôpital, mourant, couvertes uniquement de couches, privées même d’eau tandis que leurs familles refusent de venir les voir et les assister : « Des scènes indignes d’un “pays moderne”, écrivait le journaliste sans se rendre compte qu’ils étaient la preuve, justement, que la France devenait un pays moderne, que seul un pays authentiquement moderne était capable de traiter le vieux comme un simple déchet, et qu’un tel mépris eût été inconcevable dans L’Afrique ou un pays asiatique traditionnel” (La possibilité d’une île, Bompiani 2005, p. 78). Avec le triomphe du fonctionnement sur l’existence, seuls ceux qui en manquent sont considérés comme superflus et dignes d’être mis à la décharge.
Ce qui est exclu de ChatGPT, ce sont les situations frontières, comme le fait qu’après avoir épuisé le potentiel de l’art figuratif avec l’impressionnisme en 1900, d’autres voies comme le cubisme ou, pendant quelque temps, les installations se dessinent. ChatGPT est incapable de se placer à la frontière car il recherche toujours la configuration optimale. “Pour la voiture c’est pareil d’écouter du rock aujourd’hui et Vivaldi demain… Pour nous, même si aujourd’hui on écoute les Rolling Stones jouer en live Cassonadece ne sont plus les Stones, c’est comme s’ils l’étaient les Rolling Stones, parce que le contexte et le monde se sont transformés, et au niveau de l’aperception, cela compte.”
Il est étrange que les algorithmes bannissent le négatif et finissent par traiter la souffrance comme une information, voire comme une forme d’erreur : les frictions et les résistances n’ont pas droit à la citoyenneté dans le monde des machines. Il n’y a absolument aucune place pour ce qui n’est pas quantifiable. Ainsi, si vous demandez à ChatGPT d’écrire un article de deux pages sur Paul Auster, il vous l’écrira mais sa recherche sera uniquement quantitative, elle couvrira ce qui a statistiquement à voir avec Auster, agrégeant une information après l’autre, établissant des corrélations. en s’appuyant sur une logique agrégative. Les hypothèses, pour ChatGPT, ne sont en réalité que des recombinaisons.
Sting, dans une interview avec la BBC, a déclaré que la technologie peut être utile pour faire de la musique, mais que l’intelligence artificielle peut être utile pour une musique plus standardisée mais ne peut pas remplacer l’élément humain dans la composition de chansons ou d’opéras qui expriment des émotions. Le fait est que « la capacité incontestable de la machine, sa créativité combinatoire et sa réponse rapide produisent un cliché après l’autre ». Penser, c’est, dans un certain sens, ne pas savoir où l’on va aboutir, et cela ne pas savoir quel sera le but est intrinsèquement inefficace mais radicalement vital. L’école des compétences, sur laquelle la compagne de Miguel, Angélique Del Rey, a écrit un livre magistral (C’est l’école des compétences. De l’éducation à la fabrique de l’élève performant, La Découverte 2010), s’appuie sur l’information et dévalorise l’intuition. Et c’est l’intuition qui permet de faire émerger une forme à partir d’informations minimales, même si cette forme présente des caractéristiques imprécises. Comme l’ont écrit Ágnes Heller et Umberto Galimberti, l’apprentissage de connaissances non immédiatement utilisables comme le grec, le latin et la philosophie permet une ouverture sur son désir qui naîtra précisément grâce à cette information rare mais intensive.
Le fait que le robot ne puisse pas souffrir, qu’il fasse table rase de toute négativité, est lié justement à l’absence de corps, et dans cette période fortement marquée par l’algophobie (voir le livre de Byung-Chul Han Une société sans douleurEinaudi 2021, mais aussi ses autres œuvres), dans laquelle on a tendance à se réfugier dans une zone de confort qui trouve son apogée dans les réseaux sociaux, où chacun est roi et peut accepter ou annuler n’importe qui, les aspérités sont lissées, on fait semblant ces frictions existent, jusqu’à ce que la vie réelle fasse irruption irrémédiablement et qu’il en résulte une augmentation exponentielle des troubles mentaux.
Le réel, que l’on peut aussi qualifier d’« idiot » parce qu’on ne peut jamais le dire, est illustré par la scène de Don Chisciotte dans lequel le protagoniste bloque le passage à certains marchands et les informe que s’ils veulent passer, ils devront déclarer que Dulcinée est la plus belle femme du monde. Mais les commerçants suivent le chemin de la densité statistique : ne connaissant pas toutes les femmes du monde, ils ne peuvent pas répondre par l’affirmative. Ils raisonnent en termes quantitatifs, tandis que pour Don Quichotte la question est délicieusement qualitative, à l’image de la description que fait Montaigne de son amitié avec Étienne de la Boétie : « Si vous me demandez de dire pourquoi je l’aimais, je sens que cela ne peut pas exprimer que en répondant : « Parce que c’était lui ; parce que c’était moi'”. Existe-t-il un remède à la dérive algorithmique ? Reprenant le titre de son livre précédent L’ère de la tranquillité. Lettre aux nouvelles générations (Vie et Pensée, 2023), Miguel écrit : « Le défi auquel nous sommes confrontés est de transformer l’insécurité en une « tranquillité » qui nous libère de la passivité du sentiment d’insécurité et nous permet de saisir ce qui se passe et d’en assumer la complexité. sans tomber dans une nouvelle promesse de sécurité, toujours fascisante ou tyrannique”. Et il ajoute que “seules les nouvelles constructions, par exemple l’organisation des femmes et leurs luttes, peuvent changer la situation, mais elles ne le font pas sur la base de l’information, parfois même pas en faisant comprendre quelque chose, mais à travers le conflit”.
