Spécialiste de l’intelligence artificielle, Jean-Gabriel Ganascia s’interroge sur les fantasmes liées au transhumanisme. Il dénonce le mythe de la Singularité, ainsi que les visions hasardeuses d’un de ses théoriciens les plus en vue : Ray Kurzweil.
La fin du monde est-elle proche ? Ce n’est pas Philippulus, le prophète tintinesque de L’Etoile mystérieuse qui profère cette menace, mais un aréopage de sommités du monde scientifique et économique, de Stephen Hawking à Elon Musk passant par Bill Gates, qui ont publié plusieurs tribunes pour nous alerter sur cette catastrophe annoncée. Hawking l’affirme : “L’intelligence artificielle pourrait mettre fin à l’humanité.”
{"type":"Pave-Haut2-Desktop"}
D’ici quelques décennies, l’humanité telle que nous la connaissons laisserait place à une posthumanité incarnée dans un magma composite de circuits imprimés et de neurones artificiels.
Sous le nom de “Singularité technologique”, un terme qui vient des mathématiques et de la physique pour caractériser des brusques changements d’état, cette théorie brumeuse affirme que les progrès de l’IA vont bientôt aboutir à une rupture brutale mais invisible qui signifierait la disparition de ce qui constitue l’humain.
Les machines parviendront à se régénérer de façon autonome avec une complexité croissante, pour prendre de plus en plus de pouvoir et donc se débarrasser des formes de vie moins efficaces, c’est-à-dire de nous-mêmes, avec notre pauvre cerveau handicapé par les névroses et la dépression, et notre corps condamné au vieillissement.
Après l’anthropocène, le “robotocène”, le “numéricocène” ? Il manque encore le néologisme pour qualifier cette ère prédite par les « technoprophètes” dont le chercheur Jean-Gabriel Ganascia analyse dans Le Mythe de la Singularité les affirmations – ou les élucubrations…
Scénario à la Matrix
Professeur à l’université Pierre-et-Marie Curie Paris VI, spécialiste de l’intelligence artificielle, Jean-Gabriel Ganascia entend clarifier et surtout relativiser ces hypothèses inquiétantes. Dans un ouvrage concis, 140 pages, Le Mythe de la Singularité, il dresse un état des lieux des implications philosophiques et des apories de ces spéculations et tente de démonter leur prétention scientifique.
Car si le scénario à la Matrix de la Singularité inquiète à juste titre, il est vu au contraire comme un phénomène très positif, un saut qualitatif de l’existence et de la vie animée, par quelques pontes de la Silicon Valley. Ainsi le célèbre et étrange Ray Kurzweil, apôtre fervent du transhumanisme.
Sorte de mixe entre le Dr Folamour et Woody Allen, ce petit génie de l’informatique, auteur d’innombrables ouvrages à succès, célèbre avec un enthousiasme quasi mystique les révolutions promises par la Singularité. Il s’appuie sur “la loi de Moore”, du nom du chercheur Gordon Earl Moore qui établit dès 1965 que la puissance des ordinateurs double tous les deux ans.
Dans une optique pseudo darwinienne, Kurzweil n’hésite pas à extrapoler cette loi de Moore pour affirmer, selon Jean-Gabriel Ganascia, qu’elle ne “se limite pas au champ restreint de la technologie, mais qu’elle relève d’un principe plus général qui régit l’évolution de la culture humaine, de l’homme, de la vie et de la nature depuis les origines”.
Post-humain, le stade suprême de la création
Kurzweil décrit six périodes depuis le big bang jusqu’à nous. D’abord la matière inorganisée, puis l’étincelle de la vie avec les cellules et l’ADN, jusqu’aux êtres intelligents que nous sommes, inventant des technologies qui prennent peu à peu leur autonomie et “se greffent sur la matière organique pour donner naissance (…) à une humanité augmentée”. La sixième période verra l’apothéose de l’esprit avec une intelligence essentiellement technologique.
“La loi de Moore serait la loi universelle de l’évolution qui conduit du néant primitif à l’épanouissement de la spiritualité universelle”, écrit Jean-Gabriel Ganascia.
Pour Kurzweil, la Singularité représente le stade suprême de la création, enfin délivrée de la maladie et de la mort. A titre personnel, il envisage très sérieusement d’uploader son précieux cerveau sur des ordinateurs et d’atteindre ainsi à une forme d’immortalité.
Rappelons que ce technoprophète n’est pas exactement un écrivaillon de SF de deuxième zone mais qu’il est directeur de projet chez Google, qu’il dirige l’université de la Singularité dont les fonds proviennent de grandes entreprises comme la Nasa, Intel, Nokia, Linkedin, etc.
Jean-Gabriel Ganascia remet en question les présupposé de ces ambitieuses conceptions en démontrant leur absence de scientificité. Il relativise en particulier le caractère permanent de la loi de Moore, qui repose sur une observation empirique dont rien ne garantit la pérennité et qui ne peut donc prétendre au titre de “loi” scientifique.
Il évoque aussi l’expérience de pensée dite de la “chambre chinoise” imaginée par le philosophe John Searle qui établit la différence essentielle entre une intelligence humaine capable d’interpréter des signes et une intelligence artificielle qui ne fait que répéter des consignes sans les comprendre.
Gnose postmoderne
Mais l’aspect le plus stimulant de l’essai de Ganascia est peut-être sa mise en parallèle de cette théorie de la Singularité – née de la post-modernité new age et d’un dévoiement du darwinisme – avec les mythes les plus anciens de l’humanité, en particulier la gnose, cet ensemble de croyances immémoriales qui ont affecté le judaïsme et le christianisme en reprenant des éléments magiques venus de religions du Moyen-Orient antique comme le zoroastrisme. Ce rapprochement peut sembler paradoxal comme le reconnaît le chercheur, mais les analogies sont troublantes.
Pour la pensée gnostique, le monde repose sur un dualité radicale entre l’être suprême et un faux dieu, un démiurge qui a conçu un univers imparfait rempli de malfaçons. Pour sortir de ce monde fictif et fondamentalement mauvais, il faut avoir recours à un savoir occulte qui permettra à certains l’accès à un univers dont le mal sera banni.
Jean-Michel Ganascia affirme retrouver ces caractéristiques dans la pensée de la Singularité, avec l’idée commune d’un nature imparfaite qu’une connaissance secrète, telle la loi de Moore, permettra de d’amener à la perfection. Il est pour lui évident que les conceptions de Kurzweil relèvent bien plus du mythos que du logos, du mythe que de la science. Et il est révélateur que nombre de tenants de la Singularité se soient inspirés d’ouvrages de science-fiction. Par une inversion troublante, ce n’est plus la science qui inspire la fiction, mais celle-ci qui détermine des connaissances prétendument scientifiques.
Le Mythe de la Singularité se veut ainsi une critique de croyances millénaristes qui sans nier les risques liés à la puissance croissante de l’IA remet les chose à leur place. Mais restons prudents et rappelons-nous – toujours Matrix – que si les machines ont atteint la capacité de prendre le pouvoir sur nous, elle ont bien évidemment celui de nous cacher cette toute-puissance en nous donnant l’illusion que nous sommes toujours leurs maîtres. Peut-être est-il déjà trop tard… Que le dernier éteigne l’ordi avant de partir !
Le Mythe de la Singularité
Faut-il craindre l’intelligence artificielle? de Jean-Gabriel Ganascia (Seuil/Science ouverte)
{"type":"Banniere-Basse"}
