Fractale Framboise

The Singularity is Near, Ray Kurzweil

par Christian - mardi, 7 mars 2006 - 22:16 (Critiques, Lectures, Société)

En futurologie, chaque décennie a son livre-phare. Celui qui définit la forme du futur dans lequel on s’attend à vivre. Les années 70 ont été marquées par Future Shock d’Alvin Toffler (1970), un livre qui allait contribuer au vocabulaire contemporain et (indirectement) faciliter la montée du web. Durant les années 80, c’est Engines of Creation (1985) d’Eric Drexler qui a agi comme catalyseur à l’émergence du concept de la nanotechnologie. Les années 90 sont encore un peu trop rapprochées pour y désigner un livre marquant, mais The Physics of Immortality de Frank Tipler (1995) me paraît être dans la course, en bien et (surtout) en mal. Pour les années zéro, je pense que l’on peut déjà nominer The Singularity is Near de Ray Kurzweil (2005) comme la concrétisation du zeitgeist futuriste de la décennie. Chose certaine, ce n’est pas un accident si on y retrouve des éléments des trois livres précédents.

La singularité, en quelques mots, se produira quand le taux de changement social et technologique atteindra une asymptote. (ou, en termes encore plus simplistes, quand il se produira un montant de changement infini en un rien de temps: Imaginez un graphique de courbe exponentielle étiqueté “changement versus temps”) La condition qui marquera l’arrivée de la singularité reste floue, mais plusieurs penseurs s’entendent pour dire qu’elle surviendra peu après l’activation d’une intelligence artificielle des milliers de fois plus intelligente qu’un être humain ordinaire: Après, dit-on, ce sont ces IAs qui vont alimenter la courbe de changement vers l’infini. (Le truc difficile, bien sûr, c’est de construire la première de ces IAs) Ma propre définition du terme est simple: la singularité surviendra au moment ou l’ensemble des homo sapiens ne seront plus au sommet de la pyramide cognitive terrestre.

Peu importe votre définition, l’implication sociale de la singularité est majeur: personne ne peut prédire ce qui se passera après puisque, par définition, elle changera tout.

Pour l’amateur de science-fiction, la singularité n’est plus très surprenante étant donné la masse de SF a avoir abordé le sujet depuis une vingtaine d’années. On avancera même que le concept de la singularité est l’œuvre d’un écrivain de SF: Vernor Vinge, qui avait commencé à explorer ces idées dès le début des années 1980 dans des œuvres telles The Peace War (1984), puis plus tard avec l’essai séminal “The Coming Technological Singularity” (1993). (Précisons tout de même que Vinge a un doctorat en sciences informatiques…) Un an plus tard, Blood Music de Greg Bear (1985) a définitivement des relents singuliers. Ailleurs dans l’histoire de la SF, on y associera des œuvres telles Childhood’s End (Clarke, 1953). Plus récemment, des romans comme Accelerando de Charles Stross (2005) confrontent la notion de singularité avec une certaine inquiétude, celle d’explorer l’inimaginable.

Parallèlement, l’idée de la singularité a fait son chemin au sein de toute la classe technologique issue de la révolution internet. Ce n’est pas un accident: Si il y a une vérité rendue évidente depuis quelque décennies, c’est que le changement s’accélère. Le changement ne devient pas seulement plus important d’année en année, mais la vitesse du changement accélère tout aussi rapidement. Les taux d’adoptions de technologie s’accroissent sans cesse: Combien de temps c’est écoulé entre l’introduction de l’automobile et son adoption par la moitié de la population? Pour la télévision? Pour le téléphones cellulaires? Pour l’Internet? Pour les lecteurs MP3? Non, nous n’avons plus à être convaincu que le changement est une constante, ou bien que le futur comporte une certitude de changements profonds. La singularité n’est pas seulement une expression de cette conviction, mais son extrapolation logique.

Le long livre documentaire The Singularity is Near de Kurzweil occupe une place de choix entre la SF et la réalité. En confirmant des théories de la SF, en imaginant l’aboutissement de tendances actuelles, Kurzweil fait le pont entre la réalité et l’hypothèse. Pour les amateurs de SF, The Singularity is Near est une affirmation; mais pour les penseurs réalistes (pensez politiciens, gens d’affaire et analystes), le livre rend envisageable une bonne partie des suppositions les plus loufoques de la SF.

Ne vous leurrez pas: Ce deuxième aspect est beaucoup plus important que le premier. Les fans de SF ont beau se targuer de vivre quinze minutes dans le futur (ce qui n’est pas toujours vrai, viz la forte tendance réactionnaire chez certains fans) ils ont une influence minime quand vient le moment d’orienter les débats de société. The Singularity is Near a beau répéter ce qui est évident aux fans, c’est un livre qui a l’ambition d’avoir de l’influence là où ça compte.

Mais mon emphase sur la relation entre la SF et la singularité est sans doute un peu excessive. Kurzweil n’est pas issu, de près ou de loin, du milieu de la SF: Sa réputation en est une d’inventeur, d’informaticien, d’entrepreneur et de futuriste. Si vous utilisez des logiciels de reconnaissance optique ou de voix, c’est un peu grâce à lui. (On peut directement tracer son influence dans le logiciel OmniPage, par exemple) Sa liste de réalisations est trop longue pour être résumée, mais on reconnaîtra tout de même l’influence de ses livres de futurologie The Age of Intelligent Machines (1990) et The Age of Spiritual Machines (1999), dont certaines prédictions sont déjà partiellement validés. Entre autres projets, il s’affaire présentement à devenir immortel: personne n’osera parier contre lui.

Bref, Kurzweil n’est pas un deux de pique, ni “un autre auteur de sci-fi”: Il a les compétences nécessaires pour faire un survol de ce qui se passe à la fine pointe de la technologie et la crédibilité requise pour se faire prendre au sérieux par les bien-pensants. Cela fait de lui un observateur idéal pour décrire les tendances qui mènent (inévitablement, selon lui) à la singularité et ce qui risque de ce passer d’ici là. Il se risque même à une prédiction: La singularité est à l’horaire pour 2045.

Plus ou moins bien divisé en neuf chapitres, The Singularity is Near commence par s’attaquer aux facteurs historiques que l’on peut extrapoler. Le premier chapitre explore l’idée selon laquelle l’évolution biologique a été remplacée par l’évolution technologique: les humains sont pratiquement déjà aux commandes de leur propre destinée génétique et façonneront littéralement leur adaptation au futur. Mais cette auto-évolution biologique n’est qu’un prélude à la création de super-intelligences (artificielles ou pas) qui deviendront nos héritiers évolutionnaires. Comme introduction, ça commence fort!

Le deuxième chapitre en est un dédié à aux sciences informatiques: À l’aide de graphiques traçant l’évolution de la technologie depuis des décennies, Kurzweil montre de façon assez convaincante comment la technologie est effectivement sur une pente exponentielle. Il trace les progrès de l’électronique depuis ses débuts, et termine avec un survol des percées qui pourraient entretenir la loi de Moore pendant les quelques prochaines décennies. Étant donné mes intérêts professionnels, je n’ai rien à redire sur ce passage.

En revanche, je suis bien moins calé en science biologiques, ce qui m’a laissé un peu à dépourvu durant les deux chapitres suivants, respectivement consacrés aux liens entre l’informatique et le cerveau humain, puis aux fondements biologiques de l’intelligence humaine. Mais aussi ardue soit-elle, toute cette neurobiologie a le mérite de préparer le terrain pour un des arguments principaux de Kurzweil; il n’y a rien de fondamentalement spécial à la cognition humaine, rien qu’une machine suffisamment puissante (ou mieux encore, suffisamment bien conçue) ne puisse répéter. Une discussion amusante de l’intelligence artificielle a lieu un peu plus tard dans le livre, démontrant que les exemples de “seul un humain peut…” ont tendance à être trivialisée dès qu’un ordinateur peut les achever. (Depuis que Deep Blue a défait Gary Kasparov en 1997, par exemple, personne n’ose sérieusement clamer que la capacité de bien jouer aux échecs est ce qui sépare vraiment les humains des machines.)

C’est dans le chapitre cinq, “GNR” (Genetics, Nanotechnology, Robotics; une expression équivalent aux GRINs [Genetics, Robotics, Informatics, Nanotechnology] de Joel Garreau) que Kurzweil commence à entrer dans le vif du sujet. À ce moment-là du livre, les facteurs historiques qui mènent à la Singularité sont déjà établis: L’accélération technologique, les bouleversements sociaux de moins en moins difficiles, la cohérence de plus en plus certaine de nos modèles physiques, etc. C’est avec les technologies de pointe en génétique, nanotechnologie et robotique que Kurzweil prédit notre accession à la singularité. La génétique permettra de comprendre le corps humain dans son entièreté; la nanotechnologie nous donnera un contrôle parfait sur la matière; la robotique fera en sorte de reproduire et d’améliorer nos capacités dans des créations artificielles. C’est l’union de tous ces facteurs, avance Kurzweil, qui mènera directement à la singularité —et surtout à la création d’une ou plusieurs intelligences superhumaines qui nous seront ce que nous sommes à des chiens ou des chats… puis à des bactéries et être unicellulaires. Le foisonnement des exemples utilisés pour décrire le progrès déjà établi rends le scepticisme difficile.

Mais le changement est la moindre les choses; l’impact du changement, lui, est ce qu’il y a de plus intéressant. C’est au chapitre six, “The Impact…” que Kurzweil déchaîne ses spéculations. Immortalité? Dites bonjour aux humains 2.0 (vous pourriez en être un si vous vivez assez longtemps; ils sont prévus pour 2030.) Transfert de conscience en format non-biologique? Trivial. Exploration de l’espace? Pfeh. Résolution des problèmes sociaux? Un peu plus difficile, mais encore bien envisageable à une ère où rien n’est impossible. “Imaginez quelques chose: Fait” semble être le slogan de l’ère singulière.

Si le dernier paragraphe a des relents quasi-mystiques, dites-vous que vous n’êtes pas les seuls à subodorer une veine spirituelle dans ces extrapolations. C’est au chapitre sept, “Ich bin ein Singularitatian” que Kurzweil passe un peu de temps à s’intéresser aux enjeux philosophiques posés par la Singularité. S’agit-il d’une croyance? D’une autre manifestation du matérialisme absolu? Est-ce que le singularisme évacue la divinité? Qu’est-ce que la “conscience” (voir même “l’individualité”) si l’on parvient à copier des cerveaux? Seulement une vingtaine de pages sont passées sur les implications philosophiques, mais Kurzweil a au moins la grâce de passer quelques paragraphes à discuter de la singularité comme transcendance (ou, en termes moins délicats gracieuseté de Ken MacLeod, “The Rapture of the Nerds.”)

Mais Kurzweil préfère passer à autre chose, ce qu’on lui pardonnera aisément puisque ces “autres choses” consistent à explorer les problèmes inhérents à une telle accélération technologique. Une maîtrise absolue de la nanotechnologie, par exemple, implique aussi la possibilité du gray goo problem, une situation assez agaçante durant laquelle des nanobots fou mangent toute la planète. (Oups.) D’autres problèmes similaires, qualifiés de façon assez amusante de “risques existentiels”, deviennent tout aussi possibles et ce alors que certaines autres catastrophes (tels l’anéantissement de notre civilisation par un astéroïde perdu ou une pandémie) sont éliminés par de tels niveaux de technologie. Difficile, à la lecture de ce chapitre, d’échapper à l’impression que le futur est une porte qui se referme (pensez pollution, épuisement des ressources, surpopulation, etc.) et que la course technologique est peut-être le coup de pouce qui nous permettra de se glisser dehors avant que tout se verrouille devant nous.

Finalement, Kurzweil termine son livre avec un neuvième chapitre assez long, répondant à ses critiques en avançant des arguments contre quelques-unes des objections les plus courantes à la singularité. Un très court épilogue souligne que la singularité pourrait fort bien représenter le triomphe ultime de l’intelligence humaine envers le cosmos, nous permettant essentiellement de “gagner” le concours existentiel dans lequel l’univers est engagé.

Ouf.

Le moins que l’on puisse dire, c’est qu’un lecteur de The Singularity is Near verra son esprit étiré de manière permanente. Il y a un souffle et une ambition dans ce livre que l’on ne retrouve que, euh, en science-fiction. Un des points forts de Kurzweil est de nous situer sur une chronologie inévitable. Après l’éclatement des futurs confortables de la SF de l’âge d’or, voici que l’on revient à un futur bien précis. Telle, telle, telle chose se produira peu importe les circonstances, et le résultat sera meilleur pour tous. Peu importe si on y croit, il y a un confort certain à construire un futur de la sorte: un des buts de la futurologie est de mettre le présent en contexte, et à lire Kurzweil, aujourd’hui prend l’aspect d’un prologue à quelque chose de bien plus excitant. Nul besoin de préciser que Kurzweil est un réaliste optimiste, ce qui n’est pas une mauvaise chose: philosophiquement, même pris dans sa forme la plus diluée, la singularité a des similitudes philosophiques intéressantes avec l’eschatologie de Tipler — l’idée d’un futur meilleur directement basé sur nos actes individuels et collectifs.

J’ai commencé cette critique en m’intéressant à l’interface entre la SF et le futurisme, les fans et les pouvoirs sociaux. Si rien d’autre, The Singularity is Near est un plaidoyer éloquent en faveur des technologie GNR et du potentiel de leurs pleines réalisations. Ce livre est toujours abondamment discuté un peu partout et continue de bien vendre (mon édition, achetée moins de quatre mois après la sortie du livre, est déjà une troisième réimpression). Une bonne partie de ce succès est dû à la force des idées du livre. Mais il faut aussi compter sur le style accessible de Kurzweil, qui dresse peu d’embûches entre les idées et le lecteur. Dans une trouvaille inspirée, Kurzweil se sert de dialogues entre des personnages historiques (Ned Ludd, Charles Darwin, Sigmund Freud), actuels (Kay Kurzweil, Bill Gates, Eric Drexler) et fictifs (Molly, George 2048, Molly 2104) pour illustrer certains concepts de manière divertissante. Le reste du livre, plus particulièrement sa deuxième moitié, est d’une lisibilité exemplaire. Qui plus est, le livre n’est définitivement pas dépourvu d’humour: Un passage Adamesque considérant notre univers comme une simulation construite pour l’amusement d’entités extérieures (“Our simulation is turned off”, ironiquement situé à la page 404) recommande la singularité comme une façon de rester aussi intéressant que possible à nos observateurs. Délicieux!

Il va sans dire que la réaction des lecteurs devant ce livre dépendra en grande partie de leur attitude devant la Singularité. Cela devient éventuellement une question de croyance: est-ce que l’on “croit” ou pas en l’Avènement? Les plus sceptique hausseront des sourcils et y verront, peut-être avec justesse, une autre tentative de transformer une lecture du progrès technologique en une prescription théologique. Les plus convaincus (et les plus jeunes; je suis certain qu’il y a une corrélation entre notre espérance de vie et l’estimé singulier) y verront un plan à suivre pour un meilleur futur. Les auteurs de SF, bien sûr, y exploiteront une tonne métrique d’idées.

Mais qu’on croit ou pas, The Singularity is Near s’avère un livre important qui s’attaque à des questions de progrès technologique bien réelles. Dans sa version la plus diluée, la singularité ne fait qu’exprimer la différence entre les plus avancés et les moins bien nantis: lecteurs de blogs, vous êtes dans les premières rangées du contingent humain —mais est-ce que ce qui vous préoccupe autant serait compréhensible aux habitants du troisième monde? La dernière campagne électorale canadienne a été dominée par des questions relatives au mariage entre couples de même sexe, à la réduction de la taxe nationale, au maintien d’un système de santé public national: tous des enjeux impossibles dans une bonne partie du monde (y compris au sude de la frontière canadienne), ou bien ici même il y a quelques années. La singularité existe déjà: je suis incapable d’expliquer mon travail à une partie de ma famille, et des outils que j’utilise sur une base quotidienne n’existaient pas il y a cinq ans. De prendre ces constatations, de les projeter dans un futur et y apposer le terme flou de “singularité” ne me semble pas gratuit, mais utile pour commencer à aborder ce qui se prépare.

Mais qu’en est-il de la Singularité, version forte? Le téléchargement des esprits, la création du techno-paradis sur terre? Il me semble cruel de clore cet exposé bien préliminaire de The Singularity is Near sans ouvrir le débat.

Je mentionnait plus tôt de la corrélation entre l’âge et l’acceptation du concept de la singularité. Puisque j’aurai 70 ans en 2045, je ne suis pas surpris d’être à cheval entre l’optimisme et le scepticisme. Ayant déjà déclaré que la singularité existe déjà, il ne me reste qu’à définir où je vois la limite du réalisable. Mes soupçons sont que la singularité, version forte, aura lieu —mais pas pour tout le monde, et probablement plus tard qu’on le croit. Dans un parallèle à nos définitions sans cesse plus exigeantes du terme “intelligence artificielle”, il est bien possible que la définition de la singularité soit aussi remaniée pour devenir de plus en plus inatteignable.

Les résistances sociales au changement deviennent plus importantes que la capacité de la technologie à livrer ces changement: les hystéries de type “OMG! Il y a des plans de bombes sur l’Internet!” sont stupides mais typiques de ce qui nous attends. En ce qui me concerne, je suis nettement plus intéressé aux obstacles socio-politiques à la singularité qu’aux défis techno-scientifiques: on peut prédire le progrès technologique, mais les mouvements de foule irrationnels me rendent très, très nerveux. (D’où mon vif intérêt pour les ouvrages de Joel Garreau qui explorent le côté politique de tels changements, plus spécifiquement Radical Evolution) Le clivage américain entre les bleus urbains et les rouges ruraux m’apparaît comme une conséquence de la singularité développante: je serais à peine surpris de voir le monde se stratifier en une série de couches de progrès, avec les singularitariens au-dessus, et les régimes fondamentalistes tout en bas de l’échelle —avec des masses pauvres et exploitées par des élites. La routine, quoi.

Peu importe les réassurances de Kurzweil, je demeure également obsédé, peut-être même terrifié par le paradoxe de Fermi: Si la vie est si commune, si l’intelligence est si ordinaire, si la singularité est si inévitable, pourquoi n’a-t-on pas vu évidence d’une civilisation singulière à travers l’univers? Kurzweil a la décence de reconnaître le paradoxe à la page 357, mais sa réponse (“Nous sommes les premiers! Tra-la-la!”) est loin de me satisfaire. Et si nous connaissions déjà la réponse à la question “la singularité est-elle possible?” Et si la réponse est “non, la porte se referme sous notre nez?” Et si les inquiétudes actuelles au sujet d’une récession mondiale, de la fin du pétrole abordable, d’une catastrophe écologique, du choc des civilisations détruites par le terrorisme n’étaient que des signes avant-coureurs d’une inévitabilité?

A bien y repenser, je préfère la vision de Kurzweil.

  2 commentaires