S’il parvient à repousser puis abolir ses limitations biologiques, comme les transhumanistes le lui promettent, et s’il renonce à la finitude qui caractérise la condition humaine depuis la nuit des temps, l’homme ne pénètre-t-il pas dans un monde où tous les repères moraux se brouillent et disparaissent ?

Le philosophe Bertrand Vergely tire par exemple les conséquences morales d’une suppression de la mort : « L’irréversibilité de la mort est l’un des garants de la morale. Je ne vous tue pas parce que mon geste aurait une conséquence irréversible. Le jour où l’on ne meurt plus, où l’on peut réparer le corps à l’infini, il n’y a plus d’obstacle à la violence, c’est la porte ouverte à la barbarie totale. En outre – c’est le second aspect –, le propre de la vie, c’est le risque, l’incertitude. Ainsi, l’action, la prise de décision n’ont de sens que parce que tout n’est pas écrit. Imaginez une course sportive dans laquelle on connaîtrait le palmarès à l’avance. Quel intérêt y aurait-il à s’engager dans l’épreuve ? Aucun ! Si la mort est vaincue, il n’y a plus de prise de risque, donc plus de victoire, plus d’échec, plus de surprise, c’est une forme d’anéantissement. Autrement dit, pour créer un homme qui ne meurt pas, on crée un homme qui ne vit plus. »

Non moins radical est le changement du rapport à l’Autre dans un monde où l’individu accède à l’autonomie totale par le pouvoir de la science : « éliminer les failles de l’homme, le rendre « parfait », c’est aussi en faire un être solitaire, qui se suffit à lui-même. Il faut être blessé, ouvert, pour aller vers l’autre »*, remarque le philosophe Jean-Michel Besnier.

Monique Canto-Sperber définit le risque éthique comme « un risque qui met en cause les conditions qui rendent possible l’interrogation éthique. Le risque éthique renvoie moins à la possibilité toujours présente de mal faire qu’au risque d’avoir perdu le sens de ce que signifie mal faire. »

Dans « Demain les posthumains », Jean-Michel Besnier, partant du postulat qu’un robot suffisamment intelligent devra probablement être considéré comme un être moral à part entière, et non plus comme un simple instrument, propose d’accompagner le développement technique en construisant une « nouvelle éthique posthumaine ». Dans cette perspective, il s’agit de rechercher les conditions de coexistence harmonieuse des hommes et des organismes à intelligence artificielle.

Mais le philosophe ne commet-il pas l’erreur de croire qu’il nous est possible de nous représenter (à l’avance !) le mode d’être et de pensée d’une Intelligence Artificielle ? Et d’en disposer en esprit pour annoncer une « nouvelle ère » de relations éthiques ? Comme si l’évolution illimitée et accélérée des IA autoriserait une quelconque stabilité sociale ! La vérité, c’est que nous ne pouvons rigoureusement rien dire de la psychologie ou de l’éthique des superintelligences.

En revanche, on peut prévoir à coup sûr que la place de l’homme « naturel » au milieu des IA sera très inconfortable. La fréquentation quotidienne des IA ne constituera-t-elle pas une expérience fondamentalement déprimante pour l’individu « naturel » ? Comment ce dernier, soumis à la compétition des machines dans la sphère du travail et de la créativité, dépossédé de tout rôle social qui lui vaudrait la reconnaissance des autres, pourrait-il s’épanouir ?

Saint-Exupéry a forgé l’image du « Mozart assassiné » en chaque enfant dont le développement est étouffé par un environnement adverse ou négligent. L’avènement de l’IA ne promet-il pas très sûrement d’instaurer un tel contexte, en démolissant étape par étape, à partir du sommet, la fameuse pyramide de Maslow ?

A ce que cette perspective comporte de paradoxal, de la part d’une innovation censée améliorer le bien-être des hommes, nous pouvons trouver une explication dans l’hypothèse, avancée par Jean-Michel Besnier, que la perfection des réalisations techniques de l’homme augmentent chez ce dernier le sentiment de sa nullité, au point de le faire pratiquement consentir à disparaître au profit de ses propres créations.