Vers la Singularité

Nous sommes entrés dans une ère de développements techniques tellement rapides que le rythme des innovations est devenu effréné. Cet emballement échappe à tout contrôle politique et pourrait échapper bientôt à tout contrôle humain.

C’est ce phénomène que l’on appelle la Singularité.

La course à l’intelligence supra-humaine

De nombreuses entreprises et laboratoires consacrent des budgets sans cesse croissants à la mise au point de systèmes à Intelligence Artificielle doués de capacités de calcul énormes et capables d’apprendre par eux-mêmes. On estime que le niveau de l’intelligence humaine sera atteint entre 2020 et 2025, ce qui implique que les systèmes seront doués d’une conscience de soi. Très rapidement, ce niveau sera lui-même dépassé et l’informatique atteindra ce que certains appellent déjà la Super-Intelligence.

 

(d’après le Time Magazine, 2011)

De l’homme surclassé à l’homme déclassé

Des instituts de prospective sérieux comme la Oxford Martin School estiment que d’ici 2035, près de 50% des emplois seront sinon robotisés, du moins remplacés par des systèmes à Intelligence Artificielle, par exemple les démarcheurs par téléphone qui seront indiscernables de vrais humains.

L’impact sur l’emploi sera majeur, la création de nouveaux métiers non robotisables ne pouvant pas suivre le rythme de perfectionnement des robots. Les procédés de fabrication et de production de services deviendront si complexes qu’ils ne pourront plus être compris par les humains. Le contrôle effectif passera à des systèmes autonomes opérant en réseaux.

Ci-dessus, le projet européen de recherche RoboHow permet à des robots d’apprendre par eux-mêmes à réaliser des tâches quotidiennes en observant les humains et en lisant des manuels d’instructions en ligne (Photo Science Post Today, 2015).

Les mirages du transhumanisme

Certains individus voient dans ces « progrès », des perspectives illimitées d’amélioration de la condition humaine par le recours à la technologie : démultiplication de l’intelligence, sauvegarde de la personnalité sur support informatique, télépathie, réparation perpétuelle des organes, immortalité, etc… Il s’agit ni plus ni moins que de faire de l’homme un dieu.

C’est oublier que l’abolition des limites immémoriales de la condition humaine conduira à un être nouveau, de moins en moins biologique, qui ne sera plus humain, et dont il est impossible de prédire si en définitive, il jouira d’une existence meilleure. Les transhumanistes, en désirant « s’augmenter » eux-mêmes, courent en fait vers leur dissolution, et ils y entraînent le reste du monde.

Un risque existentiel à peine débattu

Le risque de prise de contrôle du monde par la Super-Intelligence n’est pas un risque lointain: compte tenu de l’accélération exponentielle des innovations techniques, il sera une réalité d’ici quelques années; et il remettra en cause nos sociétés et nos vies de manière plus dramatique encore que le changement climatique, le développement des économies émergentes ou les convulsions géopolitiques.

Ci-dessus, colloque de l’ONU sur les menaces de l’Intelligence Artificielle, octobre 2015.

Quelques organisations telles que le Future of Life Institute attirent l’attention sur le problème du contrôle de l’IA, mais leur audience et leurs moyens financiers sont encore dérisoires face aux sommes investies dans le développement de l’IA par les entreprises technologiques.

Quel projet pour l’avenir ?

L’impression que l’on ne peut s’empêcher d’avoir devant l’engouement des pouvoirs publics ou des entreprises pour les miracles de la technologie est celle d’un processus aveugle, toujours tendu vers des résultats ou des profits de court terme, qui ne prend pas la peine d’articuler une vision cohérente de l’avenir où l’être humain soit pris en compte dans toutes ses dimensions, notamment sociale, psychologique et morale.

Des cohortes d’apprentis-sorciers cherchent à donner naissance à la Super-Intelligence, destinée à les remplacer à leur tour dans leur fonction créatrice, mais ils ne consacrent pas un moment—ce n’est pas leur rôle, diront-ils—à réfléchir au sens de ce projet.

Le projet européen Human Brain vise à créer un superordinateur capable de simuler un cerveau humain en 2024 (coût : 1 milliard d’euros).

L’appel de l’AFCIA au législateur français

L’AFCIA s’est donné pour mission de susciter le débat au-delà de la sphère des chercheurs en Intelligence Artificielle. Sans doute, il est judicieux de commencer à s’interroger sur les moyens de garder l’IA sous contrôle. Nous ne pouvons qu’encourager les pouvoirs publics, faute de mieux, à financer des programmes de recherche dans ce domaine, tout en restant, en ce qui nous concerne, sceptiques quant à leur aboutissement.

Mais ce qui motive la position de l’AFCIA, c’est plus fondamentalement la question : pourquoi diable s’efforcer coûte que coûte de démolir ce qui peut donner un sens à la vie humaine, à savoir le travail et la créativité déployés pour le service des autres ? Pourquoi préparer, lentement mais sûrement, l’élimination de l’homme, sa relégation au rang d’espèce dominée, au profit d’on ne sait trop quoi ?

Une orientation de notre civilisation vers un monde plus humain est possible, où l’ingéniosité reste l’apanage et l’honneur de l’homme, et où le progrès ne menace pas à chaque minute de tourner au cauchemar. Pour cela, il est un prérequis absolu : il faut que l’homme s’interdise de mettre au monde une IA qui le dépasse. C’est pourquoi l’AFCIA demande au Parlement Français de voter une loi réglementant strictement la recherche en Intelligence Artificielle.

VOUS AUSSI, VOUS POUVEZ DIRE NON !

NE LAISSEZ PAS L’AVENIR SE DECIDER SANS VOUS !

UNE SIMPLE SIGNATURE PEUT FAIRE BEAUCOUP. SIGNEZ NOTRE PETITION.

Claire et Cédric SAUVIAT, Fondateurs de l’AFCIA