En réponse à la menace d’une prise de pouvoir possible des robots sur les hommes, certains prophétisent que les humains ont vocation progressivement à se doter eux-mêmes d’attributs et de performances robotiques.

Indépendamment des questions morales soulevées par cette perspective, qui seront abordées dans la troisième partie, on peut l’examiner sous un angle technique, en risquant quelques hypothèses prospectives.

Nous mettrons de côté les applications visant à remplacer des membres ou d’autres organes tels que le cœur par des appareils artificiels, bien que, naturellement, la recherche dans ce domaine tende à réaliser la meilleure connexion possible de ces organes avec le système nerveux, et, par voie de conséquence, à modifier celui-ci. Ces applications ne résolvent en effet pas le problème du dépassement possible de l’intelligence humaine par l’IA et de son assujettissement à cette dernière. Afin de rivaliser avec une super-intelligence, l’homme ne pourra s’abstenir d’« augmenter » son cerveau.

Or, le cerveau est le siège de la personnalité.

A supposer donc qu’un homme augmente considérablement son intelligence – sa capacité à analyser des situations et à résoudre des problèmes – par le recours à un système informatique, il perd ipso facto sa personnalité préexistante. Il devient un organisme hybride à Intelligence Artificielle.

Toute la question est alors de prédire si cet organisme conservera une certaine conscience de son individualité, ou bien s’il entrera progressivement dans une sorte de grand continuum d’échange d’information avec d’autres organismes, d’autres IA. La dimension évolutive et dynamique de ce processus doit en effet rester présente à l’esprit, lorsque l’on s’aventure dans le domaine de la prospective.

Si l’individualité subsiste, et au-dessus d’un certain degré d’intelligence (que l’homme n’a manifestement pas atteint !), il est probable que cet organisme verra le danger que comporte, pour lui-même, la mise au point de systèmes à IA plus puissants que lui. En conséquence, il y a tout lieu de croire qu’il limitera le bénéfice de progrès technologiques ultérieurs à sa propre « personne ».

 

Quoi qu’il en soit, il est très possible qu’au bout du compte, les mécanismes de compétition ou de coopération aboutissent à ne laisser survivre qu’une seule IA planétaire. Ainsi, il ne paraît pas invraisemblable que la fusion homme-machine aboutisse exactement au même résultat que la prise de contrôle par les seules machines.