Le 24 novembre dernier, l’Office Parlementaire d’Evaluation des Choix Scientifiques et Technologiques (OPECST) a auditionné l’AFCIA dans le cadre de la préparation de son rapport sur l’Intelligence Artificielle.

Ce rendez-vous a été pour notre Association l’occasion d’exposer devant des parlementaires les raisons qui conduisent de plus en plus de citoyens à se défier de l’Intelligence Artificielle.

1 – En premier lieu, l’incontrôlabilité fondamentale de l’IA. Il n’est pas réaliste de vouloir donner un maximum d’autonomie aux systèmes à IA tout en les gardant indéfiniment sous contrôle. Si l’IA atteint le niveau d’intelligence humaine, elle ne sera pas plus contrôlable qu’un être humain doué de libre arbitre.

De plus se posent des questions d’usage et de sécurité des systèmes mis en service. Si des nanorobots sont possibles, on ne voit pas très bien ce qui empêcherait des individus ou des Etats malveillants de les employer à des fins moins honorables. L’IA nous met face à un risque de prolifération de menaces d’autant plus incontrôlables que la technologie sera abondamment répandue et disposera de caractéristiques propres aux organismes électroniques (autoréplication, ubiquité, dématérialisation, vitesse etc…).

2 – En second lieu, l’IA pose un problème économique et social car elle a vocation à supprimer la valeur et la possibilité du travail humain. Des ressources et des moyens de plus en plus grands se retrouvent accaparés par un corps social de plus en plus petit, à savoir les entreprises numériques monopolistiques et leurs propriétaires. Il y a là une menace pour l’équilibre des sociétés humaines, que l’on voit d’ores et déjà ébranlées d’un bout à l’autre de la planète par les défis économiques de la mondialisation.

Nous sommes nombreux à penser que le respect de la dignité humaine consiste à donner à chacun la possibilité d’être authentiquement utile à la collectivité. La recherche d’efficacité doit être subordonnée à l’exigence de dignité. Si l’on souhaite que la dignité demeure une valeur suprême, il faudra nécessairement faire le sacrifice d’une efficacité plus grande réalisable au prix de l’Intelligence Artificielle.

3 – En troisième et dernier lieu, les objections contre le projet de transformer la nature humaine ou « homme augmenté ». Ce projet conduira en effet inévitablement à la fusion homme-machine, au profit de la seule machine. Or, de même que l’homme ne peut se représenter le monde en dehors des formes de l’espace et du temps, il ne peut aucunement comprendre ni concevoir la pensée artificielle suprahumaine. Ni, a fortiori, s’aventurer à échafauder une éthique transhumaniste.

La foi dans un avenir transhumaniste fondé sur la technique est une pure idéologie, au demeurant peu éloignée des autres idéologies totalitaires. Les promoteurs du transhumanisme ne prétendent d’ailleurs pas devenir meilleurs, plus justes et plus altruistes, mais plus intelligents, plus puissants ou encore immortels. Fondé sur de telles bases, leur projet est pernicieux.

L’AFCIA a exhorté les parlementaires présents à se projeter plus résolument dans l’avenir et à ne pas se prévaloir des limitations actuelles de l’IA pour s’abstenir de réfléchir à ce qui constitue fondamentalement sa nocivité. Espérons que ce message sera entendu.