Un autre livre sur l'intelligence artificielle, les civilisations extraterrestres, le métaverse et le posthumain ? Ah non ! Encore ! Mais… attendez, il doit y avoir une erreur : l’édition originale de ce livre est parue en polonais en 1964, il y a soixante ans ! Mais comment est-ce possible, si l’auteur parle de simulations virtuelles, de chômage technologique, d’algorithmes intelligents ? C'est possible, car l'auteur de ce livre fantastique est Stanislaw Lem, l'un des plus grands écrivains de science-fiction de tous les temps.

La Summa Technologiae est depuis des années un obscur objet de désir pour les amateurs de science-fiction, de futurologie et de philosophie scientifique. Il a finalement attiré l'attention du monde entier avec la traduction anglaise réalisée par l'University of Minnesota Press en 2013, et depuis lors, nous avons travaillé pour le porter en Italie, surmontant la résistance de ceux qui réduisaient Lem au seul auteur de Solaris. En 2017 , un premier extrait en italien a été publié dans ce magazine, traduit par Marco Bertoli et édité par moi-même. Un premier contact avec les ayants droit semblait prometteur, mais aucun éditeur ne s'est montré intéressé à entreprendre la tâche d'une traduction qui, philologiquement, devait avoir lieu sur l'original polonais et non sur la version anglaise. Un exemplaire piraté, mal traduit avec un logiciel automatique, est apparu à des prix improbables sur les boutiques en ligne en 2022. Et puis, enfin, le voici : la somptueuse édition italienne créée par Luiss University Press, grâce à la longue vague du centenaire, qui en L'Italie a connu une floraison de nouvelles éditions, de réimpressions, de traductions, favorisées également par le fait que les thèmes de Lem, trop en avance sur leur temps au cours des années où parurent ses œuvres, sont aujourd'hui extrêmement actuels.

Le Lucrèce de Lviv 

La Summa Technologiae n’est pas en réalité, malgré son titre, un traité systématique. On ne pouvait pas non plus s'attendre à autre chose de la part d'un penseur comme Lem, dont le fil conducteur de toute sa production littéraire a toujours été la remise en question de l'ambition humaine de connaître « tout ». Plus systématique est peut-être son ouvrage suivant, cette Philosophie du hasard (1968) que l'on ne désespère plus de pouvoir un jour lire en italien (rappelons qu'elle est également inédite en anglais), et que Lem définit ironiquement dans la préface comme une « théorie complètement générale ». Il y a des passages où l'auteur se contredit clairement, et nous en verrons un en particulier plus tard ; mais c'est le résultat normal d'un travail qui était censé représenter pour Lem un travail continu de réflexion et, surtout, une sorte de bloc-notes sur lequel noter les idées les plus farfelues et extravagantes pour être explorées plus tard dans des nouvelles. et des romans, comme cela arrivera souvent. Et pourtant il est néanmoins possible d'identifier dans ces quatre cents pages très denses les pierres angulaires de sa réflexion, presque une sorte de « théorie du futur ». Peut-être s'agit-il simplement d'une erreur, car Lem nous rappelle à quel point il est typique des êtres humains - ou plutôt des "homéostats", c'est-à-dire des organismes qui tentent de trouver un équilibre dans l'environnement dans lequel ils vivent - de rechercher des structures et des régularités même là où il y en a. ne le sont pas, ils le sont, condition sine qua non pour développer une métaphysique (et par là il nous met en garde, en passant , contre l'inévitable métaphysique des machines intelligentes, qui par nature recherchent des schémas récursifs dans les données…). Mais essayons quand même.

Luigi Marinelli, l'éminent érudit slave à qui l'on doit non seulement la traduction italienne de la Somme mais aussi une introduction très érudite, définit à juste titre Lem comme le « Lucrèce de Léopold ». Car, comme le grand épicurien, l'écrivain polonais fonde sa conception de l'univers sur l'absence de téléologie, d'un but qui fait bouger les choses, et considère la réalité comme le fruit d'un simple jeu de hasard. Ce n’est pas une conception strictement matérialiste, remarquez, car le matérialiste accepte que toute réalité puisse être réduite à des principes premiers, à des éléments de base fondamentaux, et par conséquent parfaitement connus, une hypothèse que Lem nie catégoriquement ; plutôt une acceptation des principes darwiniens de l'évolution par sélection naturelle, « l'horloger aveugle » de Richard Dawkins, mais sans tout le corollaire du darwinisme social et des conceptions utilitaristes. L’univers n’a aucun but et ses homéostats sont le résultat du pur hasard. À partir de là, que peut-on spéculer sur l’avenir de la civilisation humaine et, par conséquent, sur l’existence d’autres civilisations intelligentes ? Est-il possible de faire des hypothèses ? On ne peut certainement pas imaginer une sorte de « théorie de la modernisation » appliquée à l’échelle cosmique, selon laquelle toutes les espèces intelligentes seraient destinées à suivre un chemin de développement similaire, comme le pensent des futurologues comme Ray Kurzweil avec ses conceptions téléologiques sur la « singularité technologique ». . Kurzweil est aussi un darwiniste, mais contrairement à Lem, il appartient à cette vaste catégorie de « malentendus » qui n'ont pas compris l'aspect aveugle et aléatoire du processus évolutif ; et bien que tous deux croient que l'évolution technologique suit les mêmes lois que l'évolution biologique, cela signifie pour Lem que les futurs développements technologiques seront également le résultat de processus aléatoires, tandis que Kurzweil les croit régis par des lois tendant inexorablement vers la complexité et l'intelligence. En effet, Lem part de l'hypothèse que l'évolution technique "a jusqu'à présent évolué dans une direction plus ou moins opposée à celle de l'évolution biologique, produisant exclusivement des systèmes à spécialisation limitée".

La seule façon d'obtenir des machines universelles sur le modèle de Turing consiste à « poursuivre le développement de la théorie de l'auto-organisation des systèmes capables de s'auto-programmer et de s'adapter » ; mais, comme nous le savons grâce aux œuvres narratives de Lem, cela ne signifie pas arriver automatiquement à une sorte de superintelligence divine, comme le prédit la théorie de la singularité. Pensez à Eden, le monde du roman éponyme (1959) où d'étranges et énormes machines ont continué pendant des millénaires à produire obtus et aveuglément des formes de vie intelligente si désespérées qu'elles préfèrent la mort violente à la vie insipide « donnée » par l'usine idiote. ; ou encore aux formes de vie technologiques produites par l'évolution sur Régis III, la planète de L'Invincible (1964), qui échappaient à tout contrôle de leurs géniteurs comme les cellules cancéreuses, à tel point que les protagonistes parleront de « nécrosphère ».

Les limites de la connaissance 

Mais le vrai problème est un autre. Si l'on accepte les théories de la cybernétique, qui effacent les frontières entre êtres humains et machines, il faut aussi accepter la théorie de l'information, qui fut l'ancêtre de la cybernétique : Lem précise, en bon antiréductionniste, qu'il ne croit pas que tout est information ; mais accepte la thèse de Claude Shannon qui compare la théorie de l'information à la deuxième loi de la thermodynamique et voit en elle la limite la plus sérieuse contre laquelle toute civilisation intelligente – humaine ou machine – se trouvera inexorablement confrontée : le « pic d'information ».

« Ainsi, la clé de toutes les sources d’énergie, ainsi que de l’accumulation de connaissances, est l’information. […]. La quantité d'informations pouvant être transmises via l'un de ses canaux est limitée. La science est l'un de ces canaux qui unissent la civilisation au monde extérieur [...]. Mais à terme, nous atteindrons un état où il sera impossible d’augmenter la capacité de transmission scientifique au rythme dicté par l’augmentation de la quantité d’informations. […]. La science ne pourra pas surmonter cette barrière, elle ne pourra pas absorber l’avalanche d’informations qu’elle a provoquée. »

C'est une préoccupation constante de la pensée de Lem. C'est évidemment autour de ce thème que s'articulent Solaris (1961), tout comme La Voix du Maître (1968) : à l'idée de bon sens selon laquelle plus on acquiert d'informations sur une question, plus on pourra la saisir, Lem oppose une inexorable barrière, une loi de la nature. Toutes les civilisations intelligentes sont probablement destinées à le rencontrer à un moment donné de leur développement, et Lem anticipe ici un concept qui n'arrivera que plus de trente ans plus tard : la théorie du Grand Filtre, selon laquelle la solution au paradoxe de Fermi sur la raison pour laquelle nous n'avons pas encore rencontré de civilisations extraterrestres consiste en « des causes qui nous sont totalement incompréhensibles, qui commencent à agir à un certain stade de développement ». Lem imagine que la cause en question consiste précisément dans une barrière d'information. La science repose sur le principe de l’induction, « la tentative forcée de transformer une information incomplète en information complète ». Et pourtant, la théorie de l’information « affirme que, dans un système isolé, l’information peut réduire ou maintenir une quantité fixe, mais pas augmenter ». Par conséquent, notre croyance innée, illustrée par l’impératif hilbertien « nous devons savoir, nous saurons », est vouée à être contredite par les mêmes lois de la nature par lesquelles nous croyions naïvement qu’un jour nous serions capables de tout savoir .

Sommes-nous déjà à ce stade ? Si l'on comprend les propos de Lem sur le fait que, parvenu à ce stade, la solution la plus naturelle mais aussi inutile consiste à se tourner vers l'intelligence artificielle, comme description de notre époque actuelle, dans laquelle nous avons renoncé à développer des théories pour laisser la tâche aux algorithmes de trouver des liens de causalité, alors peut-être que la réponse est oui. Même sans s'inquiéter des signaux qui parlent d'une crise de la physique , d'une difficulté croissante de la biologie et de la génétique à comprendre les mécanismes les plus profonds de la nature humaine, sans parler des fameux et abusés théorèmes d'incomplétude , il est de fait que notre recours à l'apprentissage automatique représente une abdication de la capacité d'inférence de la logique humaine : nous ne sommes pas capables d'imiter électroniquement le processus d'acquisition d'informations par l'intelligence humaine, nous en créons donc un complètement nouveau, statistique et basé sur la force brute de calcul, plus réactif à la logique de la machine. Mais Lem est prêt à démentir les espoirs des prêtres des algorithmes “L'utilisation de la cybernétique pour créer une « armée de scientifiques artificiels », bien qu'elle semble prometteuse, est essentiellement une continuation de la phase précédente; la structure de la science reste fondamentalement la même, sauf que des renforts issus du renseignement électronique arrivent sur le front de la recherche".

Inscription 

Que faire alors ? Lem répond à cette question en suggérant une possible « issue de secours » que les civilisations technologiquement matures pourraient mettre en œuvre. C'est celle de la fantomatique , la technique de construction de mondes simulés, de métavers indiscernables de la réalité dans lesquels migrer. Ces « enkystements » - dans le sens où ils émergent comme des kystes sur la réalité de premier niveau - servent de tampon contre l'excès d'information et produisent en même temps une information d'un type nouveau, pourrait-on dire synthétique . Il s'agit en fait d'une version extrême du phénomène des « bulles » sociales produites par la surcharge informationnelle de l'écosystème médiatique contemporain : face à l'impossibilité de gérer l'énorme quantité d'informations qui nous arrivent, on réagit en se réfugiant dans une bulle où les informations sont soigneusement filtrées afin de ne pas entrer en dissonance cognitive avec les croyances et convictions personnelles ; des bulles qui finissent par devenir des mondes à part, imperméables à la réalité extérieure et où des récits alternatifs sont créés et consommés. De là, il n'y a qu'un pas vers la construction de mondes réels simulés, et ces dernières années l'écart avec le futur imaginé par Lem s'est encore réduit grâce aux développements de la réalité virtuelle, ce que l'écrivain polonais a défini avec le terme « fantasmatique ». . Le cosmos pourrait regorger de civilisations « enkystées », qui ne communiquent plus avec le monde extérieur ; d'où l' universi Silentium . Nous entrons ici dans la partie la plus visionnaire de la discussion, des années en avance sur l’hypothèse moderne de la simulation. Lem ne pense pas, comme son collègue Philip K. Dick , que notre monde pourrait lui-même être une simulation ; et en effet il déclare à un moment donné qu'il ne croit pas que la tendance des civilisations technologiques aille volontairement dans cette direction, car ce serait un suicide. Puis, cependant, il change d’avis ; probablement aussi parce qu'à un moment donné, il rencontre l'idée - bien connue de ceux qui fréquentent les pensées de Dick - que les êtres qui vivent dans ces simulations pourraient finir par être piégés malgré eux , parce qu'ils ont oublié la porte de sortie.

On a déjà observé, en commentant certaines des histoires de Lem traduites pour la première fois en italien il y a seulement quelques années, que parmi les nombreuses préfigurations inquiétantes des œuvres ultérieures de science-fiction (il n'échappe pas à l'attention de Marinelli qu'à un moment donné, Lem parle pratiquement de Matrix ), il y en a un en particulier, qui anticipe de manière choquante l'intrigue d' Inception de Christopher Nolan . Eh bien, quelque chose de très similaire se produit ici. Dans ce film, le protagoniste et sa femme ont créé un monde onirique si convaincant qu’ils ont perdu la trace du monde réel ; Cobb – le personnage incarné par Leonardo Di Caprio – a cependant trouvé une astuce : créer un totem, un objet dont lui seul connaît les propriétés et qui soit capable de lui rappeler, chaque fois qu'il le voit et le touche, que c'est son monde. pas vrai. Lem a eu cette idée cinquante ans plus tôt. En fait, imaginez que, puisqu'une simulation informatique ne peut pas lire les pensées d'une personne, il est donc possible que la personne qui se trouve dans la simulation et elle seule sache "qu'un certain tiroir de notre bureau est bloqué". Alors, pour vérifier s'il est ou non dans une simulation (ou dans un rêve), il rentre chez lui en courant pour faire un test. Le tiroir n'est pas bloqué ! C'est une illusion. Ici aussi, comme dans Inception , Lem imagine que la femme de notre protagoniste ne croit pas à ses déclarations :

« Notre femme se met à rire avec compassion et explique que le tiroir a été raboté le matin même par le menuisier qu'elle avait appelé. Donc, nous ne savons toujours rien avec certitude. Soit c'est le monde réel, soit la machine a fait une manœuvre intelligente, invalidant la nôtre. »

Dans l'histoire beaucoup plus tardive du Matelas , ce problème n'est résolu que d'une seule manière : par un suicide qui, s'il est réalisé dans le monde illusoire, aura pour effet de nous ramener à la réalité, comme cela arrive lorsque nous tombons d'une échelle dans un monde illusoire. un rêve. Une solution extrême que Nolan utilisera également dans son film, mais probablement sans avoir connaissance des deux textes de Lem, alors disponibles uniquement en polonais. Comme c'est le cas des romans de Dick, qui semblent de plus en plus proches de la réalité dans laquelle nous vivons - ce qui n'aurait pas surpris l'écrivain californien, convaincu du lien étroit entre sa fiction et des vérités d'ordre supérieur - on pourrait donc dire que même notre avenir et l'imagination du futur commencent à ressembler de plus en plus à l'œuvre de Stanislaw Lem. Mais si cela se produit, c'est probablement pour des raisons plus prosaïques que celles imaginées par Dick : c'est le fruit de sa capacité à anticiper les conséquences extrêmes de ces tendances qu'il voyait déjà à l'œuvre au moment où il écrivait, à partir desquelles il destiné à nous avertir. Non pas qu’il faille lire la Summa Technologiae avec une attitude oraculaire, comme pour s’attendre à on ne sait quelle prophétie ; Lem lui-même a rejeté à plusieurs reprises bon nombre de ses élucubrations comme étant absurdes, ne voulant pas se prendre trop au sérieux, peut-être de peur de finir par croire tellement en ces inventions qu'il ne serait plus capable de les distinguer de la réalité, comme ce fut le cas de son collègue américain. . C'est précisément de là que son caractère antisystématique, qui d'une part l'éloigne grandement du modèle d'Aquin auquel fait référence le titre de l'ouvrage, d'autre part le rappelle à sa manière, presque en se moquant de lui, car, comme dans le cas de l'ambition de la théologie scolastique était de classer Dieu dans les définitions comptables, ce qui a évidemment entraîné un fiasco retentissant ; l'ambition de la scolastique contemporaine de comprendre la nature de la réalité et son avenir est vouée à un fiasco similaire.

Roberto Paura
(lire l’article original dans la revue italienne Quaderni d’altri tempi)

Stanislaw Lem: Summa Technologiae. Scritti sul futuro, Traduzione e cura di Luigi Marinelli, Luiss University Press, Roma, 2023, pp. 425, € 35,00