Homo Deus : faut-il avoir peur des algorithmes ?

Sur quels enjeux notre civilisation va-t-elle exercer son pouvoir collectif, non pas à 20 ans, mais à 100 ou 200 ans ?

Dans cette perspective longue, Yuval Noah Harari (Homo Deus, A Brief History of Tomorrow, 2016 pour la version anglaise, 2017 pour la version française à paraître) nous annonce d’emblée que nos trois problèmes historiques, la faim, la maladie et la guerre, peuvent être considérés comme résolus. Sa thèse principale est celle d’une prise de pouvoir par les algorithmes, dont la prochaine Matinale du Club permettra de débattre le 12 septembre grâce à Nozha Boujemaa, spécialiste de la science des données et directrice de recherche à l’Institut national de recherche en informatique et en automatique (Inria)

Il nous rappelle la thèse de son précédent livre (Homo Sapiens, un énorme succès mondial) : l’homme a conquis la planète parce que, seul, il sait inventer des histoires capables de faire agir ensemble des multitudes : religions ou concepts, comme l’argent.
Il considère que les grandes histoires du passé sont épuisées : les religions traditionnelles sont mortes, remplacées depuis 300 ans par une nouvelle religion, l’humanisme, dont le père est Rousseau et qui nous annonce que la vérité n’est pas en Dieu mais en nous-même, que chaque individu est unique avec sa voix intérieure et ses expériences et que le pouvoir ultime revient à l’électeur et au consommateur.

L’humanisme a connu trois variantes : le socialisme, le libéralisme et l’évolutionnisme (autre nom du nazisme). Une guerre de religion entre elles au 20e siècle a failli emporter l’humanité et laisser le libéralisme seul vainqueur.
Son triomphe fait illusion mais l’humanisme va être détruit par les récentes avancées scientifiques. Elles nous révèlent que « l’individu » est une invention, comme Dieu : notre « moi » est l’addition de plusieurs voix, actionnées par des échanges chimiques et électriques et hautement influençables. Comme les autres organismes, nous sommes de simples algorithmes, simulables tôt ou tard (en mieux) par d’autres algorithmes. La science nous annonce un monde où la majorité des hommes sera inutile à l’économie et à l’armée, avec une minorité incontournable, immortelle et super intelligente.

Quand ces vérités seront révélées au plus grand nombre, il faudra aux hommes une nouvelle religion, car nos sociétés reposent sur l’alliance de la science du temps et d’une religion adaptée : la science a besoin de la religion, porteuse d’ordre et seule source de légitimité « surhumaine ». L’auteur nous encourage à chercher la religion de demain dans les laboratoires de recherche de la Silicon Valley où il identifie deux religions naissantes :

  • Le techno-humanisme annonce une mutation de notre cerveau d’homo sapiens, ouvrant à un nouvel homo deus des expériences mentales inouïes et la conquête de la galaxie, via l’ingénierie génétique, les nanotechnologies et des interfaces cerveaux/ordinateurs qui sauront renforcer les forces et plus seulement pallier les faiblesses mentales. Mais l’auteur croit que le techno-humanisme est encore trop humaniste pour réussir.
  • Le dataïsme qui met plus sur un piédestal non plus l’homme, mais l’information, et qui propose la première nouvelle valeur depuis 1789 : la liberté de l’information. Le dataïsme a déjà conquis tout l’establishment scientifique, séduit par une approche unifiée décrivant tous les mécanismes comme des mécanismes de gestion de l’information. Il a gagné en économie, avec le modèle du marché financier. Il va gagner en politique car élections, partis et parlements sont obsolètes, lents, loin des nouvelles technologies et incapables de comprendre la globalité du système, donc de donner une vision du futur. Les organisations qui l’emportent sont celles qui gèrent l’information le plus efficacement : l’internet des objets, qui reliera tout à tout, saura tout piloter. Les humains sont déjà prêts à s’y soumettre : ils veulent par dessus tout être « dans le réseau ».

(A noter que chaque assertion est prudemment balancée d’une remarque suggérant que l’inverse est possible : plus de famines demain… sauf d’origine humaine ! Ce qui affaiblit la prévision, quand on sait que la grande famine de 1845 dans une Irlande massivement exportatrice de produits alimentaires était « d’origine humaine »).

Le livre, construit pour répliquer le succès d’Homo Sapiens, a été écrit trop vite : le lecteur français s’en rend compte dès la page 4, quand on lui explique qu’au moment des famines de 1692 et 1694, « Louis XIV folâtrait avec ses maitresses à Versailles ». L’auteur (historien) pouvait facilement vérifier que le roi n’avait alors plus de maitresses depuis 10 ans, mais une épouse dévote, Madame de Maintenon, fort loin de « folâtrer » …

Les thèses avancées ne sont pas ou naïvement argumentées :

  • La médecine du 21e siècle va se concentrer sur l’amélioration des bien-portants ? Oui, parce que les travaux luttant contre la perte de mémoire des vieux permettront aussi d’accroître la mémoire de certains jeunes (?) ; qu’on va améliorer le fonctionnement du cerveau (à l’appui, l’article d’une journaliste sur sa brève expérience dans un simulateur américain pour snipers) ; et que la politique de santé brésilienne pourrait très bien demain préférer quelques super humains à des millions de Brésiliens en bonne santé (?).
  • .Les élections seront obsolètes, parce que l’algorithme de Google est plus fiable que moi qui me laisse embobiner par le discours de réélection d’un sortant que je m’étais promis de « sortir ».
  • Nous remettrons nos décisions à des algorithmes, comme Angelina Jolie a décidé sa mastectomie au vu d’une analyse de son génome.

La thèse principale est celle d’une prise de pouvoir par les algorithmes.

Entendue au premier degré, elle n’est pas très convaincante : les algorithmes auront demain un statut de personne morale, parce qu’une société de capital-risque a donné un siège dans son comité d’investissement à un algorithme d’évaluation des investissements. Les ordinateurs seront comme des humains, parce que Turing observait que les ordinateurs seraient demain comme les gays des années 50. Mais la remarque de Turing dit l’inverse : l’important n’est pas d’être intelligent (ni même sensible), mais d’être reconnu par ses contemporains. Les assistants personnels sur lesquels travaillent les GAFA pourront sûrement un jour tenir auprès de nous le rôle de l’esclave grec précepteur du patricien romain, ou du Butler du lord britannique, mais ces deux figures n’ont jamais été traitées sur un pied d’égalité par leur maître, ni à plus forte raison reconnues comme des autorités.

Mais la thèse est probablement à prendre au second degré, et elle est alors nettement plus convaincante : les algorithmes vont prendre le pouvoir symboliquement, comme hier les dieux Lagashet Shurupak dans l’ancien Sumer et, demain comme hier, ce sont les prêtres du dieu qui seront aux manettes. L’auteur nous annonce donc que les maîtres des algorithmes vont encore consolider leur pouvoir en l’appuyant sur une religion scientifique dont la valeur centrale ne sera plus l’homme, ni même la vérité (l’auteur affirme en effet crûment que la science ne se préoccupe pas de vérité, mais de pouvoir). 

Les prêtres du dataïsme sont les GAFA et cette nouvelle valeur de « liberté d’information » est la leur : laissez-nous librement collecter et retraiter toute votre information, nous en ferons un meilleur usage que vous. L’auteur se garde de prendre parti et affirme décrire objectivement cette évolution. Pourtant son livre suscite un certain malaise, par son alignement sur les thèses de la Silicon Valley et par sa tonalité anti-humaniste.

L’auteur relaie le discours « dataïste » à travers une admiration sans recul pour les nouvelles plateformes numériques de partage. Un premier exemple savoureux est celui où il affirme que demain 50.000 voitures collectives pourraient remplacer un milliard de voitures partagées qui nous amènent tous les matins au travail et nous en ramènent tous les soirs, à la même heure. Elles devront avoir chacune la taille de plusieurs trains… Un second exemple plus déplaisant est la façon dont l’auteur fait d’Aaron Swartz le premier martyr de la religion dataïste : Aaron Swartz est ce hacker qui voulait ouvrir sur le net l’accès gratuit aux articles scientifiques et qui s’est suicidé à 23 ans plutôt que d’aller en prison. Il est paradoxal de l’assimiler aux GAFA revendiquant aussi leur droit de proposer gratuitement n’importe quelle information non produite par eux, mais en échange de données personnelles qui seront, elles, privatisées et sources de rente.

Le second malaise vient des définitions caricaturales et très personnelles que l’auteur donne de l’humanisme ; de son idée de faire du nazisme l’un des courants de l’humanisme ; ou de mettre au débit de l’humanisme les guerres du 20e siècle. Des pages parmi les plus personnelles du livre dénoncent le productivisme, le traitement inhumain des animaux, l’idée que notre monde est assis sur une croissance infinie (car seule la croissance enrichit les plus pauvres) qui amènera inéluctablement la fin de la planète. Et on voit en filigrane émerger du livre la dénonciation élitiste d’un monde démocratique, sans dieux, soumis à la consommation des masses et à leurs choix politiques. Avec l’espoir d’une humanité nouvelle, réduite à ceux qui comprennent le système parce qu’ils le fabriquent et le contrôlent.

 

Share

Ajouter un commentaire