C’est le propre de l’homme de surestimer sa maîtrise. Il ne voit qu’une part minime des conséquences de ses actes. Lorsqu’au XXème siècle, des individus entreprirent de recréer l’homme et la société à neuf à partir d’une idéologie, toutes ces tentatives se conclurent par des catastrophes proportionnées à l’ambition initiale du projet. Les Anciens avaient un mot pour désigner l’orgueil démiurgique de l’homme. Ils l’appelaient l’hybris, la démesure.
Le perfectionnement technique intervenu depuis la Seconde Guerre Mondiale n’a aucunement accru la capacité des sociétés humaines à prévoir leurs destinées, ou en tout cas à maîtriser les conséquences de leurs actes. On pourrait même arguer le contraire, tant la technique est en soi génératrice d’imprévisibilité.
Malgré les enseignements de l’Histoire, les transhumanistes manifestent une foi solide dans une entreprise dont l’ambition est littéralement sans précédent puisqu’il n’est plus question de forger un homme neuf par « la » bonne éducation ou rééducation, mais « d’optimiser » la structure et le fonctionnement de son organisme et de son cerveau, au moyen de technologies dont Hitler ou Staline n’auraient pas osé rêver.
Le physicien Max Tegmark a établi un parallèle éclairant entre l’IA et l’arme nucléaire. Il a montré notamment que celle-ci a été utilisée immédiatement après sa mise au point, alors que les scientifiques étaient loin d’en connaître toutes les caractéristiques et tous les impacts. Ce n’est qu’après les premiers tests que l’on a mesuré la nocivité des radiations, découvert les effets de l’Impulsion Electromagnétique, et compris le mécanisme de l’Hiver Nucléaire. En l’occurrence, Tegmark songeait au risque technologique de perte de contrôle.
Mais son analogie est tout aussi valable pour les répercussions sociales et morales d’un projet aussi présomptueux que celui des transhumanistes.
Deux caractéristiques de notre développement technique devrait cependant nous inciter à une très grande prudence: le fait que la recherche scientifique procède de plus en plus par « émergence » (je crée et je regarde ensuite ce qui se passe) et le conformisme de masse porté aux nues par la nouvelle économie digitale.
Ainsi, nos chercheurs sont aujourd’hui, de plus en plus, des créateurs de phénomènes artificiels plutôt que des analystes de phénomènes naturels. Non qu’ils ne maîtrisent pas les conditions de leur expérimentations, mais ils cherchent à susciter des processus inconnus sans objectif bien établi au départ.
A cela s’ajoute une propension contemporaine au conformisme socio-économique, dans une ivresse de nouveauté et de bénéfices immédiats. L’entreprise star de l’ère numérique est monopolistique et court-termiste.
On pourrait résumer la situation en disant que la science ne sait plus ce qu’elle fabrique et que tout le monde se jette dessus.
Dans ces conditions, quel sera le filet de sécurité de l’espèce humaine ? Chaque essai transgressif n’engage-t-il pas irrémédiablement l’avenir de l’humanité ? En augmentant certains humains, ou en faisant émerger des IA supérieures, les transhumanistes ne cherchent-ils pas à imposer à tous leur propre vision de l’avenir ?