Suite de « Prélude à une réflexion sur l’humain et le numérique ». La réflexion sur l’éthique du numérique n’en est qu’à ses débuts. Le champ d’investigation est immense car le numérique va influer de plus en plus fortement sur notre façon de nous situer, de nous souvenir, de nous distraire, de nous cultiver, de nous penser, de ressentir, etc.
Avant d’évoquer les moyens éventuels de contenir la rationalité débordante de l’intelligence artificielle, nous devons vérifier si cette démarche est utile. Pourquoi poser des bornes à l’utilisation des algorithmes et des données ? Que voulons-nous protéger ? Cette prétention est-elle justifiée ? Un monde autorégulé par des algorithmes ne serait-il pas plus sûr, plus vivable, plus « éthique » qu’un monde qui briderait ce potentiel d’amélioration de nos existences et de régulation de nos pulsions agressives ?
Si nous n’adhérons pas spontanément (sauf exception) à ce projet, c’est que nous estimons qu’il existe des différences de nature entre l’homme et la machine et que nous devons sauvegarder notre propre nature.
Lesquelles ? Pourquoi devrions-nous renoncer à la promesse d’augmenter considérablement l’humain par la machine et la machine par l’humain ? Quelle est finalement la place de l’humanisme dans un monde radicalement amélioré par la rationalité des algorithmes et la capacité d’analyser et d’utiliser intelligemment les milliards de données issues de ses moindres pulsations ?
Qu’est-ce qui distingue fondamentalement l’homme de la machine ?
La notion d’intelligence artificielle, largement médiatisée, comporte bien des ambiguïtés. Il est habituel de l’opposer à l’intelligence humaine et de pointer ses progrès continus. Avec le message implicite ou même explicite chez une partie de l’élite numérique mondiale que la première dépassera absolument la seconde et pourra un jour prochain contenir toute l’intelligence humaine passée, présente et à venir.
C’est le concept de la « singularité » inventé par Ray Kurzweil, l’Ingénieur en chef directeur de la stratégie de Google et président de la Singularity University. Cette expression bizarre désigne le moment (un jour de 2029 selon ses prévisions) où la machine dépassera pour toujours l’homme dans sa capacité de compréhension du monde, de traitement de l’information et de décision.
Ce concept repose fondamentalement sur l’équivalence entre puissance de traitement et capacité d’intellectualisation (la fameuse loi de Moore, qui pose que la puissance des machines double tous les 18 mois, même si elle paraît maintenant peiner à soutenir ce rythme) et sur la conviction que l’intelligence se confond avec la capacité d’abstraction et de calcul.
Pierre-Eric Oudeyer (INRIA) se méfie de cette conception qui a les traits d’une pensée magique. Certes les algorithmes seront capables d’identifier, comparer, utiliser des informations pertinente contenues dans des milliards de données en quelques secondes. Une grande partie, sinon la totalité de la recherche scientifique, utilise depuis longtemps l’outil numérique et sa capacité de calcul, de simulation, de vérification. S’il n’en disposait pas, pratiquement tous les travaux de recherche s’arrêteraient.
Mais le numérique attire notre attention vers des informations déjà filtrées et éloigne de notre attention un nombre peut-être plus considérable encore d’autres informations qui paraissent n’avoir aucun rapport avec l’objet d’étude mais qui pourraient pourtant être pertinentes. Il crée un biais dans notre analyse et n’est pas capable (pour « longtemps » encore selon Cédric Villani) d’intuitions fulgurantes comme celles qui animent les mathématiciens lorsqu’ils inventent un nouveau théorème après avoir réfléchi en vain pendant des années à une solution. Il ne peut analyser les enchaînements de situations qui ne se sont jamais produites dans le passé tout simplement par manque de données.
La créativité, l’invention, le hasard, la folie comptent beaucoup dans les découvertes et non pas seulement l’intelligence rationnelle et mathématique.
Le numérique est d’ailleurs un excellent outil pour développer la capacité d’imagination de l’homme en lui permettant de simuler à la perfection l’apparence, le fonctionnement, les caractéristiques réelles de ce qu’il invente ou veut créer fonctionne dans la réalité ce qu’il invente ou veut créer. C’est une aide désormais indispensable pour les architectes, les urbanistes, les ingénieurs, les stylistes et des millions de créateurs qui ont besoin de tester dans la réalité virtuelle les œuvres issues de leur imagination. Aurait-elle cependant amélioré les œuvres de Mozart, Nietzsche ou Rimbaud ?
Les machines ont des cerveaux avec des capacités d’abstraction et d’absorption de données incommensurables par rapport à l’humain. Mais elles sont dépourvues de corps.
Le cerveau humain, ou même le cerveau de tout animal (voire le cerveau des arbres qui se situe dans les milliards de kilomètres de leurs racines selon Peter Wohlleben) a besoin de l’instanciation physique apportée par le corps.
Séparer l’esprit du corps, c’est se priver d’une source colossale d’informations : il existe déjà des milliards de capteurs dans les corps des êtres vivants, qui leur permettent de gérer en permanence des milliards d’interactions avec leur environnement. L’intelligence par le corps reste inconnaissable par la machine. « Allez faire comprendre à un ordinateur ce qu’est vraiment de l’eau alors qu’il n’a jamais eu la sensation d’être mouillé ! » (Pierre-Yves Oudeyer). Le corps (et donc la souffrance, la jouissance, le désir, l’imbrication dans le vivant) et la folie créatrice (de l’artiste, du poète, du philosophe, du mathématicien), voilà deux singularités propres à l’humain et au vivant.
Le langage de la machine est radicalement différent du langage humain
Plutôt que d’intelligence artificielle, avec la tonalité magique que contient sciemment l’expression, parlons plutôt de la capacité d’auto-apprentissage des machines, qui, de fait, devient phénoménale.
Cette capacité d’apprentissage a déjà été modélisée par Turing sous le terme de « raison computationnelle ». L’informatique utilise le langage mathématique pour formater une représentation temporaire de la réalité. Ce système de construction progressive d’abstraction formelle n’a pas vocation à être complet. Il fonctionne par approximations itératives. Le code informatique n’est jamais clos. Il s’annule et se reconstruit en permanence pour progresser vers une meilleure approximation (Milad Doueihi). C’est en cela que le langage informatique est radicalement différent du langage humain qui fixe au contraire une représentation de la réalité.
C’est pourquoi, remarque Milad Doueihi, le numérique ne laisse pas de ruines sur lesquelles on pourrait méditer ou se ressourcer. Il se reconstruit en permanence et détruit au fil de l’eau ses représentations successives.
C’est encore une différence fondamentale avec l’homme. L’homme a une mémoire de ce qu’il était et de son passé. Il s’inscrit dans une histoire personnelle et collective, dans le souvenir de ses émotions, de ses rencontres et la mémoire du passé de la collectivité dans laquelle il s’insère (même réécrite au rythme des historiographies).
Avec le numérique, il a accès à des mémoires immenses, incommensurables par rapport à ce dont il a besoin ou qu’il peut absorber, mais extérieures à lui. Il ne faudrait pas que cet accès se paye au prix d’une marginalisation, d’un abandon de sa mémoire intérieure qui est une partie de lui-même.
Une fonction importante de la mémoire est l’oubli
On ne souvient que d’une petite fraction des événements qui vous sont arrivés ou qu’on vous a relatés. Auparavant, l’oubli était donné d’emblée : l’humain devait faire des efforts considérables pour laisser des traces (par exemple construire une pyramide ou une cathédrale).
Avec internet, c’est l’inverse. Ses traces, aussi futiles soient-elles, aussi peu représentatives de lui, tous ses essais, erreurs, échecs, sont indélébiles. Une entreprise, une administration ou un opérateur pourra les utiliser demain, dans 30 ans et après sa mort.
Encore que personne ne sache si les données recueillies actuellement seront correctement reformatées et transposées dans les mémoires artificielles des prochains siècles ou des prochains millénaires, qui n’auront naturellement aucun rapport avec celles dont nous disposerons à vue humaine.
De nombreux bibliothécaires d’institutions fréquentées par des historiens éditent sur des supports papier robustes les fichiers numériques dont ils considèrent qu’ils peuvent avoir un intérêt historique. Ils constatent d’ailleurs que les encres du Moyen Age étaient beaucoup plus persistantes que nos impressions actuelles.
Le danger est de priver l’humain de sa propre mémoire et des traces qu’il désire laisser.
Préserver le droit à l’oubli, supprimer les traces, en conserver certaines sur plusieurs siècles sont un impératif éthique du numérique.
Nous pouvons donc identifier quelques notables singularités humaines qu’il nous faut préserver car elles distinguent fondamentalement l’homme de la machine :
- la créativité c’est-à-dire l’invention, le hasard, le tâtonnement intuitif, l’art
- l’intelligence du corps c’est-à-dire la capacité à ressentir, le plaisir physique,
- l’émotion c’est-à-dire la douleur, la joie, l’empathie, l’amour
- la mémoire, c’est à dire le souvenir sélectif et le sens de l’histoire.
Et nous pouvons répondre aux questions posées au début de cet article :
- Oui, les singularités humaines doivent être préservées et même sanctuarisées.
- Non, un monde autorégulé par les algorithmes ne serait pas vivable. L’Homme n’est pas une machine au rabais.
- Oui, nous devons accepter les perspectives de l’intelligence artificielle pour renforcer notre propre intelligence du monde que nous avons créé.
- Oui, une éthique du numérique est nécessaire pour instaurer une cohabitation bienfaisante entre le numérique et l’humain
- Oui, les différences ontologiques entre l’humain et la machine fournissent des repères solides pour définir cette éthique du numérique.
----------------------------------------------------------
La plupart des matériaux utilisés pour cette réflexion sont issus des présentations et des travaux réalisés de 2015 à 2017 par la chaire « L’Humain face au défi du Numérique » du Collège des Bernardins, sous la responsabilité de Milad Doueihi (philosophe, historien des religions et titulaire de la chaire d’humanisme numérique de l’Université de Paris IV) et Jacques-François Marchandise (entrepreneur et enseignant, délégué général de la Fondation Internet Nouvelle Génération).
L’ensemble des travaux sont disponibles sur le site du Collège des Bernardins. Les comptes rendus des nombreuses séances publiques et séminaires organisés par la Chaire ont été réalisés par Maryvonne Valorso-Grandin.
Ajouter un commentaire