Vedi qui la traduzione italiana

En avril 2015, je publiais ici un blog Transhumanisme et résurrection. Le succès foudroyant du dernier livre Homo Deus de Yuval Noah Harari me pousse à revenir sur cette question. « Le Point » du 31 août a publié une interview de l’auteur, qui résume bien son propos. Au point de départ, il y a deux postulats négatifs : deux mythes sont en voie de disparition, car ils perdent de plus en plus leur pertinence : l’existence de Dieu et la liberté individuelle.

De la religion, Harari dit trois choses : il déclare d’abord « qu’une des caractéristiques primordiales des êtres divins est de fabriquer du vivant ». Or, dit-il, nous sommes capables de « remodeler la vie » ou encore de « refaçonner le code de la vie ». D’autre part, qui dit « vie » dit « mort », et justement les technologies issues de l’AI (artificial intelligence) permettront de renouveler indéfiniment la vie, de faire reculer et, à terme, de supprimer la mort. Plus besoin alors de dieu ni de religion. En second lieu, Harari constate que les religions fournissent des critères d’identité qui permettaient la constitution de communautés et engendraient par ailleurs des crises. Or, nous n’avons plus besoin de ces critères : aujourd’hui, les communautés politiques sont constituées autrement : partout on trouve « l’état-nation bureaucratique ». Les religions, on le voit bien, n’ont rien à dire soit sur la vie quotidienne, réglée par les techniques (médicales ou autres), soit sur le développement réel de la civilisation, l’AI et la génétique. Enfin, Harari relie la religion à la question de l’autorité : la religion fournit une fiction qui justifie une autorité de type monarchique, aujourd’hui obsolète.

De la liberté individuelle qui est aujourd’hui l’élément central de la civilisation, Harari dit qu’elle aussi est une fiction : « La science explique que les sentiments, les choix et les désirs humains sont le simple produit de la biochimie », explicables en principe (même si nous n’avons pas encore aujourd’hui les formules mathématiques de ces régions que nous appelons « l’âme »). Tout relève d’algorithmes. Dès à présent, il y a intérêt à faire confiance, pour les actes à poser, aux datas disponibles, plutôt qu’aux variations des humeurs humaines. Ce sont eux, ces datas, qui fourniront l’autorité du futur.

A la limite, on entrevoit donc « un système cosmique de traitement des données, qui serait pareil à Dieu : il sera partout, contrôlera tout et les êtres humains sont destinés à se fondre en lui ». Notons au passage qu’il y a ici une idée de Dieu qui est plus large que celles mentionnées plus haut ; on le décrivait par ses prérogatives : maître de la vie et de la mort, référent ultime des communautés, fondement de l’autorité. Ici, il s’agit d’une part de son ubiquité (« il sera partout »), de l’autre de son caractère de fin ultime qui annulerait l’humain par une absorption non plus mystique mais mathématique : manière moderne de dire le triomphe de l’Un sur l’homme.

Les propos de Harari me conduisent à poser quelques questions :

Sur dieu et la religion

Certes, les affirmations de Harari rejoignent en partie les critiques qui ont pu être formulées, dans l’histoire récente de la pensée, à propos une idée « trop humaine » de ce qu’on appelle dieu, et ces critiques ont porté du fruit, si on considère l’affinement de la question de Dieu, l’avènement de la sécularisation, la fin ou, mieux, la transformation de la religion. Il ne semble pas qu’Harari connaisse tellement toute l’histoire récente de la théologie (au sens non confessionnel de ce terme : discours sur dieu). C’est à l’idée affinée de Dieu dans le monde présent, non pas à ses représentations grossières, même si elles sont encore vives, qu’il aurait fallu s’affronter. En tout cas, pour reprendre un des développements de Harari, il me semble qu’il y a une différence considérable entre fabriquer la vie, d’une part, la remodeler et refaçonner, de l’autre. Cette différence est palpable dans l’usage du préfixe « re ». S’il y a de la vie, nous pouvons intervenir sur elle. Mais faire de la vie, c’est-à-dire faire naître un vivant à partir de matériaux non organiques est une tout autre performance. Or, on n’est encore jamais passé de la seconde à la première, et on ne peut affirmer qu’on le pourra, sinon sur la base d’un acte de foi dont la crédibilité est douteuse. Et, à supposer qu’on y parvienne, il faudrait alors répondre à la question toujours actuelle de Leibniz : « Pourquoi y a-t-il quelque chose plutôt que rien ? » ou encore : « Comment y a-t-il quelque chose ? ». Il me semble que ce genre de questions est métaphysique, c’est-à-dire d’une autre nature que les questions de physique et de technologie, fussent-elles « nano » : c’est la question du fondement.  Jusqu’à présent, le mot « dieu » personnalisait la réponse à cette question. Si on supprime ce mot et ce qu’il désigne, que met-on à la place ? Harari dirait : les big data, je vais y revenir.

Sur la liberté individuelle.

On trouve dans le texte de cet interview des expressions qui ne vont pas dans la direction du « tout algorithme ». A propos des psychotropes, Harari souligne par trois fois que nous ne cherchons pas vraiment à « comprendre la complexité de l’esprit humain ». Nous faisons toutes nos manipulations terriblement efficaces, sur le monde et sur nous-mêmes « avant de comprendre ce que nous faisons ». Je ne sais pas comment interpréter ce texte dans le cadre du tout algorithme. Qu’est-ce que compréhension préalable ? D’où sort-elle ? comment est-elle possible ? C’est au manque de cette régulation qu’Hariri attribue une « épidémie de stress et de dépression ». N’y aurait-il pas alors quelque chose d’antérieur aux big datas ? Ne faudrait-il pas élaborer quelque chose comme une théorie de la connaissance éthique ? Mais alors nous sortons du paradigme « tout algorithme ».

Une autre difficulté vient de passages où l’auteur fait intervenir des éléments qui semblent étrangers à sa démarche. « Je ne suis pas déterministe », dit-il. Il remarque en effet que, avec les instruments techniques de l’époque, « l’humanité a construit, au choix un régime nazi, une dictature communiste ou une démocratie libérale ». « Au choix » ! Mais, plus haut, il disait : « nos choix sont le simple produit de la biochimie », et ses développements comprennent une exhortation, justement, à laisser nos choix à Google qui sait mieux que nous ce qui convient à un instant donné, qu’il s’agisse d’acheter une voiture ou de voter pour tel ou tel candidat. Les choix que nous ferions à partir de notre humanité, et non à partir d’algorithmes pertinents, ne semblent donc pas à prendre en considération. La question serait plutôt : qu’est-ce qui, « algorithmicant » parlant, oriente vers le nazisme, le communisme, ou plutôt la démocratie libérale ? Et s’il s’agit pour cela de définir un algorithme, n’en revient-on pas au déterminisme ? Sinon, il manque à Harari une réflexion sur le choix dont il parle.

Une troisième difficulté vient de ce que, si on laisse exclusivement jouer l’AI, on aboutit à quelque chose qui pourrait bien ressembler, en pire, aux hiérarchies nazi ou communiste et à leurs camps de concentration et de destruction. Hariri semble considérer comme inévitable que le développement de l’AI et du tout algorithme engendre une nouvelle aristocratie, une « élite », dit-il à plusieurs reprises, qui laisse derrière elle des populations « inutiles », « barbares », tandis qu’elle-même jouit de « zones avancées de civilisation ». « L’essor d’une classe inutile, écrit-il, est un problème inédit dans l’Histoire et personne n’en connaît les conséquences ».  Est-ce tellement inédit ? Harari est juif, et les théories qui ont conduit le nazisme à tenter de supprimer sa nation avaient aussi quelque chose de déterministe, à savoir l’exaltation quasi mystique de la race arienne, vouée à l’exaltation, sur la race juive vouée à la destruction.

D’ailleurs tout cela n’est-il pas divagations, elles aussi, inutiles, si le développement de l’AI entraîne la disparition de l’homo sapiens, remplacé jusque dans son cerveau ? On n’est plus dans l’humain, même « augmenté » mais dans ce que certains transhumanistes appellent le « post-humain ». Au fond, il y a déjà et il y aura de plus en plus une « saison élites », celles-ci diminuant progressivement en nombre tout en augmentant en capacités, jusqu’au moment où le dieu algorithme aura tout absorbé, où tout se « sera fondu en lui ».

La réflexion que je formule ici n’est pas purement théorique. Il est sûr que la technique contemporaine, avec l’immense saut fait avec l’internet, se révèle de plus en plus puissante : des premiers ordinateurs au smartphone de poche, que de progrès en si peu de temps ! Et les conséquences suivent et suivront. Harari montre la supériorité écrasante de l’Etat d’Israël sur son ennemi palestinien, due à « un réseau de drones, caméras et algorithmes qui contrôlent quasi chaque individu en Cisjordanie ». Les mêmes réseaux se développeront ailleurs ; eux ou d’autres de même nature sont déjà l’œuvre. De la sorte, l’horizon d’une division de l’humanité entre une « élite » (mais ce mot convient-il ?) performante et une masse inutile et barbare, ne relève pas de la science fiction. Il est plus que temps de revenir à des perspectives éthiques qui orientent autrement l’AI, afin qu’elle puisse servir le bien-être de tous les hommes, le bien de la « maison commune » comme dit le pape François.