L’émergence d’Intelligences Artificielles de plus en plus sophistiquées aura les conséquences suivantes :

– déstabilisation des économies : les machines effectuant mieux toutes les tâches, un nombre sans cesse plus grand d’individus se retrouveront disqualifiés pour le travail rémunéré. Ces individus n’ayant rien à offrir qui ait une valeur marchande, devront être subventionnés à moins d’être purement et simplement laissés pour compte. L’accélération des bouleversements économiques échappera à toute possibilité de contrôle par les régulateurs étatiques ou les organisations internationales.

– déstabilisation des sociétés : l’apparition d’organismes artificiels ou hybrides (hommes « augmentés ») rendra caducs tous les fondements millénaires du droit civil, et désagrégera la société. Le droit des plus faibles cessera d’être respecté par des organismes plus rapides que la législation et de ce fait, toujours capables de contourner le droit.

– aliénation des humains : par souci « d’efficacité » toutes les décisions seront, de bonne foi, confiées à des IA surpuissantes car la complexité des facteurs en jeu dépassera le jugement et la capacité d’abstraction des humains. Le pouvoir sera accaparé par les machines, ou au mieux par une petite élite technocratique, qui régentera la masse des humains oisifs, réduits au rang d’animaux domestiques.

– déstabilisation psychologiques des individus : dans le contexte général de déclassement de l’humain et le bouleversement de plus en plus rapide de l’économie et de la société, enfin de tout repère mental, les individus – qu’ils soient « normaux » ou « augmentés » seront profondément affectés sur le plan psychologique. Il est probable que leur aptitude au raisonnement logique soit même irrémédiablement ébranlé : il en résultera un monde extrêmement chaotique peuple de créatures plus ou moins aliénées.

– disparition du concept même d’individu : au stade suivant de la progression technologique c’est la notion même d’individu qui disparaît, car la notion d’individu est liée à un mécanisme physiologique de continuité par la stabilité relative de la conscience. De même qu’après un traumatisme profond, un individu peut devenir un autre que lui-même (par exemple un malade d’Alzheimer), un homme assujetti à des modifications profondes de son mode de raisonnement et de sa perception du monde, verrait se dissoudre sa personnalité.

A un certain stade de cette évolution, l’homme est condamné à disparaître en tant qu’espèce – de même probablement que toute vie biologique.