Cet article est paru dans la revue « Biocontact » qui propose un dossier spécial sur l’intelligence artificielle, que nous vous recommandons. Disponible en ligne ou dans la plupart des magasins bio. Article également disponible en téléchargement

C’est parti, l’IA envahit notre quotidien, comme l’avait annoncé Cédric Villani à l’époque de son fameux rapport : « L’IA sera partout, comme l’électricité. »

Face au déferlement de l’IA, beaucoup de nos concitoyens sont impressionnés et admiratifs. Leur enthousiasme est encouragé par la publicité, légitimé par les indéniables réussites – notamment médicales – de l’IA : il occupe tout l’espace public.

Beaucoup de nos concitoyens ressentent aussi une vague inquiétude, à laquelle entreprises et institutions ont répondu en créant « l’éthique de l’IA », destinée sans doute à rassurer, et dont nous reparlerons.

Enfin, beaucoup de nos concitoyens éprouvent pour l’IA de la gêne, du rejet, voire du dégoût. À ceux-là, la parole n’est jamais donnée, car il n’est pas convenable d’exprimer de tels sentiments.
Et pourtant, ce rejet, qui peine souvent à trouver une expression claire, a des raisons profondes et il est parfaitement légitime.

Qu’est-ce que l’IA ? Que vise-t-elle ? Que peut-elle ?

Qu’est-ce que l’intelligence artificielle ? Une IA est un système informatique simulant les capacités cognitives de l’homme.

Deuxième question : que vise l’IA ? Le but poursuivi dans le développement de l’IA est d’accroître indéfiniment l’autonomie de la machine. Notons au passage que ce progrès est irréversible.
Voici enfin la troisième et très controversée question : que peut l’IA ? Jusqu’où est-il possible de pousser l’autonomie de la machine ? Pourra-t-elle un jour entièrement reproduire l’intelligence humaine ?

La croyance que les possibilités de l’IA sont bornées et qu’elle serait, en raison de sa nature artificielle, toujours nécessairement dépendante de l’homme ne repose sur rien. Tout tend à démontrer le contraire.

Un potentiel illimité

Pour le comprendre, il est parfaitement inutile d’entrer dans le détail des mécanismes de fonctionnement des ordinateurs et, en particulier, de l’apprentissage profond.

Il faut au contraire considérer ce que la science nous dit du corps et du cerveau humain. Elle postule que la pensée et l’activité humaines découlent, par une chaîne de causalité certes longue et encore très mystérieuse, des lois de la physique.

Le cerveau, centre de contrôle du corps et siège de la pensée, est constitué de 100 milliards de cellules nerveuses (neurones) reliées entre elles et échangeant des signaux électriques et chimiques. Au cours de la vie, les connexions entre neurones se réorganisent au gré de l’apprentissage et de l’expérience.
Lorsque naît un enfant, son bagage cérébral (mémoire, savoir, intelligence, etc.) est très limité. Or, parti de rien, l’enfant apprend tout. Il acquiert, outre la préhension et la locomotion, le langage et le raisonnement. Ce prodige s’explique par le mimétisme. L’enfant commence par répéter ce qu’il entend. Il nomme les objets nouveaux, et associe les causes à leurs effets. Toute son activité, motrice et psychique, trouve son fondement dans la combinatoire gigantesque des échanges chimiques entre les neurones du cerveau, qui n’est ni plus ni moins qu’une machine biologique capable de « calcul » et de mémorisation

Lorsque les philosophes s’émeuvent : « Vous ne pouvez pas réduire la pensée à un calcul », leur révolte ne pèse rien face au consensus scientifique. Le cerveau n’est pas magique : la pensée est le résultat du « calcul » neuronal, tout comme l’intelligence artificielle repose sur le « calcul » effectué par des milliards de neurones artificiels (électroniques).
L’argument souvent entendu, « L’IA n’est pas intelligente, elle se contente de répéter ce qu’on lui apprend », perd de vue que l’apprentissage humain est tout aussi mimétique que celui de la machine.

Une autre objection fréquente est tout aussi faible. « L’être humain est plus qu’un simple ordinateur car il a un corps, donc une sensibilité, ce que n’a pas la machine. Or le psychisme ne peut être dissocié, chez l’être humain, de la corporéité. C’est pourquoi l’intelligence humaine est et restera unique. » Or, si, par sensibilité, on entend l’aptitude à recevoir des informations visuelles, sonores, et tactiles du monde extérieur, il est évident que la machine, dotée de caméras, de microphones, de senseurs, peut être reliée à son environnement aussi bien, si ce n’est mieux, que l’homme.

Ainsi, l’intelligence artificielle fonctionne de manière, sinon identique, du moins comparable à l’intelligence humaine. Sauf qu’elle peut encore augmenter le nombre de ses neurones, multiplier les possibilités de leurs connexions, optimiser ses processus d’apprentissage, élargir ses interfaces avec le monde extérieur, et ce, sans aucune limite a priori.

L’IA d’aujourd’hui vous impressionne ? Vous n’avez encore rien vu.

Une évolution incontrôlable

Les quelques centaines de milliers de techniciens qui développent l’IA à travers le monde contrôlent-ils son évolution ? Non, car chacun ne maîtrise qu’une infime parcelle de l’ensemble, tandis qu’il n’existe, à l’heure actuelle, aucune norme internationale contraignante ni instance de régulation.

De plus, comment s’y prendre ? Les algorithmes sont pratiquement accessibles à tous et partout, les copier ou les transférer ne demande pas de gros moyens, et ils peuvent être facilement dissimulés. Pour couronner le tout, on ne sait pas comment rendre un programme informatique sûr à 100 % : nul n’échappe au piratage et les protections peuvent être désactivées.

Depuis plusieurs années, l’Union européenne a néanmoins relevé le défi de la régulation de l’IA. En mars 2024, elle a adopté une loi – revue à la baisse sous la pression des lobbies – interdisant certaines applications telles que la notation sociale, et réglementant de nombreuses autres, en général sous l’angle de la transparence et de la protection des données personnelles.

Cette initiative, qui n’est pas a priori condamnable, présente de graves défauts :
1) les lois ne sont opérantes que lorsque les entreprises les acceptent ou sont contraintes de s’y plier ; elles n’ont aucune prise sur les cybercriminels qui, par Internet, peuvent agir chez nous depuis n’importe où dans le monde ;
2) elles ne considèrent que les risques immédiats et les nuisances flagrantes, occultant de ce fait les impacts plus insidieux de l’IA sur la vie humaine et la société. Par exemple, l’addiction à ChatGPT est un risque avéré contre lequel ni la loi européenne ni les chartes éthiques ne prévoient de mesures ;
3) elles misent souvent sur l’esprit de responsabilité des entreprises, qui ont plutôt intérêt à court-circuiter les procédures et sous-estimer les risques.

En outre, le problème de l’IA dépasse largement la seule thématique de sa régulation.

Une révolution cosmologique

En effet, l’IA n’est pas une technologie comme une autre. Ce n’est pas un « outil » qui appellerait simplement des mesures de contrôle de la part des pouvoirs publics. Douer la machine de pensée n’est pas un acte anodin, surtout si avec la pensée lui est donnée la capacité de s’auto-perfectionner… sans les limitations humaines. Rappelons les qualités dont jouissent les ordinateurs : mémoire illimitée, infatigabilité, reproductibilité à l’identique illimitée et donc immortalité, vitesse et précision électroniques, immatérialité et ubiquité…

La relation homme-machine est donc foncièrement dissymétrique. Or c’est parce que les hommes se ressemblent que la vie en société est possible. Les individus ont, certes, chacun leur propre caractère, mais cela les rend d’autant plus prévisibles. Sur cette prévisibilité du comportement se fonde la société. À l’inverse, la machine est imprévisible : son être intérieur est inaccessible et peut-être même inconnaissable. Une machine n’est pas un interlocuteur fiable ; elle peut dissimuler, elle peut tromper, je ne peux rien dire de sa probité et de sa conscience morale.

Ce n’est pas un hasard si l’une des ambitions des techniciens informatiques est de façonner une « IA de confiance ».
N’y a-t-il pas alors dans la quête de « moralisation de l’IA » quelque chose de stalinien qui donne froid dans le dos ? En bref, on prétend remplir le monde de machines qui interagiront constamment avec les personnes, et on nous explique que ces machines seront dressées pour être parfaitement éthiques. De là à envisager que les machines éthiques deviennent garantes de la rectitude morale des personnes, il n’y a, hélas, qu’un pas.

En fait, l’émergence de machines intelligentes représente une double révolution.
En premier lieu, il s’agit d’une révolution écologique. L’IA est un nouveau compétiteur darwinien pour l’espèce humaine. Au rythme où elle progresse, la question n’est pas de savoir si elle va nous dominer un jour, mais de savoir quand.
En second lieu, c’est une révolution cosmologique, voire métaphysique. Désormais, une nouvelle forme de vie, de pensée et d’action prend place dans l’univers, aux côtés de l’homme, mais différente de sa nature animale. Quelle sera sa place ? Ceux qui envisagent de remplir chaque recoin du monde d’objets connectés et donc, tôt ou tard, d’objets pensants, imaginent-ils les conséquences psychologiques et morales de cette cohabitation ?

L’intelligence artificielle ouvre bel et bien un abîme de questionnement et de perplexité. En dehors des transhumanistes et des auteurs de science-fiction, fort peu de nos contemporains s’en sont avisés.

Menace sur les piliers de l’existence

Or, indépendamment de la direction éthique imprimée à son développement, l’intelligence artificielle menace directement les fondements de l’existence humaine.

Liberté : en donnant à des intérêts privés ou aux États les moyens de surveiller, de contrôler, de tracasser et de réprimer les individus, avec une intrusivité jamais égalée dans l’Histoire. Funeste illusion que de croire que ce danger ne concerne que les dictatures asiatiques, alors qu’en France même, la bureaucratie étend chaque année un peu plus sa mainmise sur la vie des citoyens.

Vérité : en donnant à des intérêts privés ou aux États les moyens de falsifier la réalité, de déformer l’information, de manipuler l’opinion publique. À l’heure où chacun trouve en Internet la première source d’information, songe-t-on à la facilité avec laquelle celle-ci peut être altérée par l’IA ?

Autonomie : en prétendant assister, voire se substituer à l’individu dans les tâches quotidiennes, l’IA le prive de son autonomie et de sa relation directe au monde et aux autres. Le projet démiurgique de l’IA prend le contre-pied de la voie traditionnelle et immémoriale de formation de l’individu : l’éducation et l’apprentissage par l’expérience personnelle, en lui substituant la curatelle permanente.

Lien social : en frappant d’obsolescence tous les emplois, l’IA annonce la fin du travail de masse et la concentration de la richesse au sein d’une oligarchie. Elle dépossède l’individu de toute créativité (la production intellectuelle, artisanale et artistique étant automatisée) et, par là même, de toute possibilité de reconnaissance sociale.

Poésie et transcendance : en abolissant les distances, le mystère et la solitude, en confondant réel et virtuel, en projetant sa lumière blafarde chaque minute sur chaque chose, l’IA, prolongeant et amplifiant l’action débilitante du téléphone portable, transforme le monde en un espace plat, sans consistance et sans relief, où l’esprit en quête d’effort et de sens ne trouve plus d’aliment.

En un mot, l’expérience humaine, après avoir été réifiée par un capitalisme sans garde-fou, est désormais nullifiée. Tel est le devenir de l’homme à l’ère de l’intelligence artificielle.

Pour autant, l’avenir n’est pas écrit.

Il est encore possible, pour chacun d’entre nous, de refuser l’IA et de le faire savoir autour de soi – en famille, au travail, dans la société. Jusqu’à ce que notre voix porte.

Cédric Sauviat et Christian Castellanet.