Nous avons reçu dernièrement un message de Peter Lumsdaine, fondateur de l’ARROWS – Alliance to Resist Robotic Warfare and Society – et habitant de Seattle.

Peter nous informe que son association cherche à sensibiliser le public aux dangers de l’IA, et que c’est avec un grand plaisir qu’elle a appris, au cours de recherches sur Internet, l’existence de l’AFCIA.

Peter est engagé notamment dans la dénonciation des drones et autres armes autonomes, dont il a personnellement pu constater les méfaits lors de plusieurs déplacements dans des pays en guerre. Nous publions ci-dessous l’article, paru dans le Times en avril 2015, dans lequel il évoque la Conférence de Princeton de février 2015 sur les armes autonomes.

 

Lors de mon voyage de Seattle au New Jersey pour participer à la première Conférence Interconfessionnelle sur les Drones militaires qui avait lieu à l’Université de Princeton, j’étais constamment hanté par les souvenirs de mes précédentes visites dans des zones de guerre du Mexique et d’Irak. Dans les allées enneigées de Princeton, mes pensées s’échappaient sans cesse vers les villages de sable de la Sierra Madre, les étroites ruelles de Nadjaf ou les sinistres taudis en béton de Bagdad-Est.

Lorsque nous nous rendîmes dans les communautés chiites, sunnites et chrétiennes de l’Irak en guerre, mon épouse Meg – qui est pasteure mennonite – et moi-même, fûmes tous deux frappés par la vivacité de leurs traditions culturelles ancestrales. Pourtant, l’ère de la guerre robotique, dont nous ignorions tout alors, avait déjà débarqué en Mésopotamie, sous forme de robots terrestres rôdant dans les rues en terre battue et les arrière-cours,  et de drones tournoyant dans le ciel du désert à la recherche de cibles. Ces derniers furent bientôt suivis par les Predator, ces drones américains sans pilote qui lancèrent leurs missiles Hellfire sur les quartiers délabrés des rebelles chiites – bien que ceux-ci comptassent alors parmi les adversaires les plus résolus d’Al-Qaida et de l’Etat Islamique au Moyen-Orient.

A la Conférence nationale, en février 2015, cent cinquante délégués chrétiens, juifs, musulmans et sikhs firent l’état des lieux de la guerre de drones et débattirent des problèmes moraux que pose cette forme radicalement nouvelle de tuerie high-tech qui se répand actuellement sur la planète, dans une course aux armements robotiques toujours plus nombreux, mortels et autonomes.

Le Bureau du Journalisme d’Investigation, une ONG connue pour son impartialité et sa rigueur, dénombre 2866 personnes tuées par des frappes de drones américains dans les seuls pays du Pakistan et du Yémen, dont plus de 481 civils non-combattants, parmi lesquels au moins 176 enfants. 2% seulement de ces 2866 tués étaient des activistes à forte valeur stratégique. Par ailleurs, le Centre d’Etudes et d’Analyses Navales montre qu’en Afghanistan, les drones ont dix fois plus de chance de tuer des civils que les avions à pilote.

Lorsque l’on parle de combattants à pied déguenillés, de familles civiles ou d’enfants touchés par des missiles Hellfire de Lochkheed Martin tirés par des drones en embuscade, on a tendance à oublier que cela veut dire des individus éventrés par des éclats de shrapnel ou brûlés vifs par le feu des explosifs. Les survivants s’en tirent souvent avec des mutilations horribles et des souffrances sans remède.

Une « Guerre contre le Terrorisme » menée par la terreur venue du ciel est une absurdité et un échec moral absolu.

C’est aussi une impasse, d’un point de vue tactique, parce qu’elle nous fabrique des ennemis inexpiables plus vite qu’elle ne les élimine.

C’est pourquoi les responsables des différentes confessions qui se sont assemblées à Princeton ont appelé le gouvernement américain à cesser immédiatement l’usage des drones armés et des drones tueurs.

Les frappes de drones constituent seulement un tout petit aperçu de la guerre robotique qui risque de se généraliser dans notre « meilleur des mondes » du vingt-et-unième siècle, si nous laissons les tendances actuelles perdurer et même s’accélérer. Déjà, au sein même des Etats-Unis, les drones participent de la surveillance gouvernementale au titre de la sécurité intérieure. Les dollars du contribuable américain servent à subventionner la surveillance par drones mise en place par des gouvernements corrompus au Mexique et en Colombie où, derrière le paravent de la lutte contre le narco-trafic, elle facilite la répression de l’agitation paysanne et de la résistance locale au pillage des ressources minières par les conglomérats.

Pour Denise Garcia, professeur de Relations Internationales à la Northeastern University de Boston, les drones et robots terrestres actuels sont les « précurseurs des nanobots et autres humanoïdes tueurs dans le style de Terminator ». C’est pourquoi la conférence de Princeton a appelé à interdire en urgence, et au niveau mondial, les armes autonomes et semiautonomes, telles que le prototype X-45 de Boeing.

Du physicien Stephen Hawking à l’informaticien Bill Joy, de nombreux experts affirment que si l’Intelligence Artificielle poursuit son développement, elle pourrait rapidement sortir du contrôle humain. Le fondateur de Tesla, Elon Musk, qualifie quant à lui le développement de l’IA d’« invocation du Démon ».

Nous devrions garder en mémoire ce discours prophétique de Martin Luther King contre la guerre du Vietnam, en 1967 :

« Lorsque les machines et les ordinateurs, les profits et les droits de propriété sont considérés comme plus importants que les hommes, les trois hydres que sont le Racisme, le Matérialisme et le Militarisme sont invincibles.

La décision nous appartient. Et même si nous préférerions ne pas avoir à le faire, c’est pourtant bien à nous de décider en ce moment crucial de l’histoire humaine. »

 

Nous nous réjouissons de ces premiers contacts avec nos amis d’Outre-Atlantique, qui préludent à la constitution d’un réseau international de lutte contre l’Intelligence Artificielle.

 

 

 

 

Nous avions évoqué, il y a un peu plus de deux ans, les avertissements de l’informaticien Stuart Russell et du physicien Max Tegmark.

Ces personnalités, toutes deux membres du Future of Life Institute américain, ont réitéré devant l’ONU leur pressant appel à l’interdiction des armes autonomes. Afin de rendre leurs arguments plus frappants, ils ont réalisé une vidéo de réalité-fiction très impressionnante.

Dans ce clip de sept minutes, on assiste à une série d’événements et de reportages télévisés montrant comment, en quelques mois, l’invention de drones tueurs à reconnaissance faciale par une entreprise d’armement plonge le monde dans la terreur.

S’il s’agit bien de fiction, les technologies mises en scène existent d’ores et déjà, hormis leur miniaturisation (à moins que les armées américaine, russe ou chinoise ne disposent déjà secrètement de telles armes, allez savoir…)

Pour visionner la vidéo « Slaughterbots », rendez-vous sur le site du Future of Life Institute, ICI

…

Impressionnant, n’est-ce-pas ?

Pourtant, la conclusion tirée par Stuart Russell et ses amis nous semble quelque peu incongrue. Interdire les armes autonomes ? A quoi bon, si tous les éléments qui servent à les fabriquer sont en vente libre : IA de pilotage, IA de reconnaissance faciale, drones, explosifs, etc… ?

C’est comme si on distribuait à toute la population de la farine, du lait et des œufs à gogo en lui interdisant avec la plus grande fermeté de faire des crêpes !!

La seule, l’unique conclusion logique que les hommes sensés devraient tirer de telles considérations – et de nombreuses autres que nous ne cessons de mettre en lumière jour après jour – c’est que c’est l’IA elle-même qui pose problème. C’est elle qu’il faut interdire.

Mais à l’AFCIA, nous ne sommes pas inquiets : cette évidence s’imposera bientôt à tous, il ne peut en être autrement.

… que ton interview dans L’OBS de cette semaine (1er mars 2018) m’a convaincu de ta clairvoyance au sujet de l’Intelligence Artificielle. C’est bien le moins qu’on pouvait attendre de la part de quelqu’un capable d’apprivoiser la lumière (tu me diras comment tu fais, parce que moi ça fait trois fois que je me brûle les doigts avec des allumettes) !

J’ai bien l’intention de m’inspirer de tes propos pour mon TPE de physique+économie (ah oui, j’ai oublié de te préciser que je suis élève en Première). Voici les extraits que je préfère :

Sur la diffusion de l’IA

L’IA sera partout, comme l’électricité.

Youpi ! Je me réjouis par avance d’être entouré d’yeux et d’oreilles partout où j’irai. Nos ancêtres animistes croyaient que le monde était plein d’esprits, la technologie va leur donner raison !

 

Sur l’explosion de l’IA et le progrès fulgurant de la puissance de calcul informatique 

Tout le monde a été pris par surprise. La puissance de calcul a joué, ainsi que les progrès en mathématique algorithmique. Les gigantesques bases de données ont donné un nouvel envol aux méthodes d’apprentissage « statistique », qui permettent aux machines d’apprendre à partir d’exemples. Encore plus inattendu : les « réseaux de neurones », qu’on croyait morts et enterrés, ont montré que finalement ils fonctionnaient. Il a suffi de quelques années pour qu’on change complètement d’opinion à leur sujet. Il n’y a pas beaucoup de coups de théâtre comme ça dans le domaine de l’informatique. Cette nouvelle donne de l’IA a tout bousculé, dans les applications comme dans les sciences.

Non Cédric ! Ne me dis pas que toi aussi tu as été surpris ! Tu aurais donc complètement changé d’avis ? Heureusement, ce sera bien la dernière fois. Désormais, je suis sûr que toutes tes prédictions se réaliseront, et tu ne seras plus jamais pris en défaut, notamment quand tu dis que la naissance d’une IA forte menaçant à terme l’existence même de l’humanité, c’est « de la science-fiction ! » et quand tu dis que « la conscience, l’autonomie et même le simple bon sens sont très très loin de ce que l’IA sait faire » et aussi quand tu dis qu’ « il y a des pièges et des dangers dans l’IA, mais ils ne sont pas là.»

 

Des vies sauvées par milliers !

Il ne fait pas de doute pour moi que des vies seront sauvées par l’IA. […] Parmi nos interlocuteurs dans l’administration, ceux du ministère de la Défense étaient les plus convaincus de l’urgence de l’IA.

Tu sais Cédric, c’est sans doute parce qu’ils savent que les Etats belliqueux et les terroristes (cyber ou non) ont la ferme intention d’utiliser l’IA pour sauver des vies, et qu’ils ne veulent pas être en reste.

 

De nouveaux métiers en émergence

Concepteur et vérificateur de base de données, par exemple, car la qualité des données sur lesquelles on éduque un système informatique est fondamentale. […] Il va aussi y avoir des métiers liés à la bonne ergonomie, au partage des rôles entre l’employé et l’algorithme. Il va certainement apparaître toutes sortes de métiers liés aux tests, au développement, à l’accompagnement de la transformation pas l’IA. […] Ensuite, au fur et à mesure que l’on automatise, il y a une autre catégorie de métiers – notamment dans l’éducation, dans la santé, le soin aux personnes âgées – où l’on aura besoin de qualités vraiment humaines, de lien social, de relation, d’empathie… Problème : personne ne sait à quelle vitesse cette mutation va s’effectuer.

Génial ! J’ai toujours rêvé de devenir éducateur de système informatique ! Mais sinon, je veux bien être ergonomiste-entremetteur pour humains et algorithmes, ou bien accompagnateur-testeur pour entreprise en voie de transformation. Et que l’on ne me dise pas que ce sont des métiers « à la con » ! Rien n’est plus noble que le métier de mouche du coche numérique, car comme tu le dis si bien, Cédric, « de toute façon, on a besoin de travail pour se réaliser, se sentir utile. »

Quant à ma petite sœur, elle préfère mettre en pratique ses qualités vraiment humaines avec des personnes âgées, elle veut devenir infirmière. Le problème c’est qu’elle est moins patiente avec les vieux qu’un robot ! Se pourrait-il que les robots aient plus de talent pour les qualités humaines que les hommes ?

 

Voilà, j’espère que ton rapport définitif va sortir bientôt, j’en aurai besoin pour terminer mon TPE. En attendant, je me plonge dans la lecture (rébarbative, celle-là) d’un rapport écrit par de vrais rabat-joie : « The Malicious Use of Artificial Intelligence »! (De l’Usage Malveillant de l’Intelligence Artificielle). Figure-toi que ces cocos-là me feraient presque flipper si je n’avais pas lu ton interview !

Alexandre, 1ère ES 8, Lycée Lepoil d’Enlbon, Sens

 

… que d’aborder l’amélioration qui prétend résulter des NBIC comme la traduction d’un parti pris (idéologique, politique, industriel, civilisationnel…) sur le format que l’on voudrait imposer à l’humain – un parti pris en tant que tel discutable. »

 

Malgré son titre « commercial », le petit livre de Laurent Alexandre et Jean-Michel Besnier « Les Robots font-ils l’amour ? » (Dunod, 2016) contient les éléments d’une profonde réflexion sur le transhumanisme en général et l’Intelligence Artificielle en particulier.

Il s’agit en effet non pas tant d’un commentaire sur la science qui se fait que d’une réflexion prospective sur le monde que nous prépare la technique et d’une critique vigoureuse du mouvement qui lui donne aujourd’hui un contenu politique et idéologique : le transhumanisme.

Pour Jean-Michel Besnier, cette idéologie est fondamentalement viciée parce que les transhumanistes veulent en fait « éviter l’inconvénient qui s’attache à toute vie, à savoir l’aventure et la liberté. »

Citons quelques extraits éclairants de ce dialogue entre deux personnalités qui, dans le panorama médiatique français, se distinguent par leur lucidité :

 

Sur le réductionnisme de l’idéologie transhumaniste

Jean-Michel Besnier : « Je redis mon attachement au rôle humanogène dévolu à la technique, mais j’exige aussi la préservation de la dimension symbolique, propre à l’espèce humaine, [à savoir] le langage, condition de l’art politique. […] L’objection du chiffre contre la réflexion argumentée est emblématique d’une évolution des technosciences qui écarte les langues de culture pour ne garder au mieux que les signaux et codages qui lui restent nécessaires. »

«  L’amélioration de l’espèce humaine n’est pas l’augmentation des performances et des facultés des individus, sauf à vouloir animaliser ou machiniser l’humain en le soumettant à la mesure, ou en le réduisant aux algorithmes et aux métabolismes dont se délectent la culture du numérique et les GAFA. »

 

 

Sur la fusion homme-machine

Laurent Alexandre : « Pour être à la hauteur des automates, certains dirigeants de Google proposent de nous hybrider avec l’IA : devenir cyborg pour ne pas à être dépassé par l’IA ! […] Paradoxalement, l’ultime outil de l’humanité pour éviter sa vassalisation serait ainsi l’instrument de son suicide. »

JMB : « Le transhumanisme affiche son mépris pour la dimension symbolique de l’existence de l’être désirant. La fusion avec la machine est la version la plus brutale du cynisme qui consiste à supprimer en l’humain toutes les ressources qui lui ont permis de grandir (« tout ce qui ne me tue pas me fait grandir », comme dit Nietzsche) et d’aimer (la conscience de l’éphémère est au principe de toute ouverture sur l’autre que soi). »

 

 

Sur la concurrence de l’IA

JMB : « En réalité, la menace couve depuis longtemps : depuis la révolution industrielle, la machine apparaît comme responsable du sentiment d’impuissance que les humains éprouvent de plus en plus. Elle est un facteur de mésestime de soi, la cause de cette « honte prométhéenne d’être soi » décrite par le philosophe autrichien Günther Anders. Mais, comme si les manufactures et les automates de tout poil ne suffisaient pas, la machine paraît s’être aujourd’hui accaparée l’intelligence, et les jeux sont faits : elle va nous remplacer dans ce que nous avons de plus spécifique, de plus gratifiant et donc, elle nous condamne à disparaître progressivement. »

LA : « Les algorithmes ne vont pas nécessairement nous tuer mais ils créent une situation révolutionnaire. L’IA va nous faire basculer dans une autre civilisation où le travail et l’argent pourraient disparaître. L’IA est longtemps restée un sujet de science-fiction. Elle est désormais une simple question de calendrier : l’explosion des capacités informatiques (la puissance des serveurs informatiques a été multipliée par un milliard en trente et un ans) rend probable l’émergence d’une IA supérieure à l’intelligence humaine dans les prochaines décennies. »

 

Aurons-nous le courage de regarder la réalité en face ?

Laurent Alexandre montre bien que les intellectuels se laissent régulièrement surprendre du fait de leur incapacité à prendre au sérieux les utopies, et en particularité, actuellement, l’utopie posthumaine des humains augmentés. Au risque de laisser se développer un nouveau totalitarisme « soft ».

JMB « Biototalitaire, le monde le sera au fur et à mesure qu’il fera triompher l’obsession technoprogressiste pour la seule survie, pour une longévité sans fin(alité), pour une individuation biologique privée de la dimension symbolique qui fait l’existence humaine. »

« La régulation des technologies d’amélioration de l’humain n’évitera pas l’examen de ces conséquences socio-anthropologiques et elle devra faire droit aux questions philosophiques : faut-il vouloir supprimer le hasard dans la condition humaine ? »

« Je préfère me demander si une limite doit être opposée à la perfectibilité humaine. Autrement dit : faut-il refuser, à un moment donné, de poursuivre la quête d’un progrès, au risque de bloquer l’histoire humaine ? […] Ce n’est pas être réactionnaire que d’aborder l’amélioration qui prétend résulter des NBIC comme la traduction d’un parti pris (idéologique, politique, industriel, civilisationnel…) sur le format que l’on voudrait imposer à l’humain – un parti pris en tant que tel discutable. »

 

Pour agir

L’humanité est confrontée à de grands défis mais les gouvernements sont dépassés par les acteurs du numérique. La technologie est plus forte que la loi, c’est elle qui structure la société.

LA : « Face à la déferlante de la Silicon Valley, l’Etat est sidéré et piétine à la vitesse d’un sénateur. »

JMB : « Admettons donc que la technologie soit a priori incapable de s’autolimiter : on dit en effet qu’elle est le lieu de l’expression de la démesure dont les humains sont capables. Elle ne peut recevoir de frein que de l’extérieur, c’est-à-dire qu’il lui faut être tempérée par ce qui relève de la réflexion et du symbolique (la communication politique). »

LA : « L’Ecole jouera un rôle central dans la préparation à ce qui s’annonce devant nous. […] Les trois piliers de l’Ecole sont à refondre : le contenu, la méthode et le personnel. Il faudra, d’abord, réhabiliter les humanités et la culture générale, puisque vouloir concurrencer les machines sur les matières techniques sera bientôt dérisoire. »

 

Nous ne pouvons que nous réjouir de voir le débat porté enfin sur le plan des valeurs anthropologiques que nous défendons à travers l’AFCIA, et formulé en des termes qui sont pratiquement les nôtres.

Dans un rapport du 14 mars 2017 sur l’Intelligence Artificielle, le bureau de veille technologique du Parlement (OPECST) avance quinze propositions concernant l’Intelligence Artificielle.

Ces mesures résultent de l’enquête réalisée par la sénatrice Dominique Gillot et le député Claude de Ganay auprès d’un panel de spécialistes en 2016 et 2017, et à laquelle l’AFCIA a participé.

Que préconisent nos parlementaires pour parvenir à l’objectif d’une IA « maîtrisée, utile et démystifiée ? »

 

Une démarche timide et encore trop consensuelle …

Bien entendu, on cherchera en vain une remise en question de l’IA elle-même. On ne peut en effet pas attendre de la part de nos élus une prise de position critique à l’égard d’une tendance dans laquelle se ruent tous les acteurs économiques. Pas question d’apparaître comme susceptibles de freiner la marche vers le Saint-Graal de la croissance !

Il en résulte des formules prudentes qui ne manquent parfois ni d’incohérence ni même d’humour :

Pour une IA maîtrisée, il faut se garder… d’une contrainte juridique trop forte. Ce serait en effet dommage d’essayer de maîtriser.

Favoriser (comment ?) des algorithmes et des robots sûrs, transparents et justes. Par exemple, un drône tueur juste est un drône qui ne tue que les méchants ?

Former et sensibiliser le grand public aux conséquences pratiques de l’IA et de la robotisation. A quel moment ? Avant ou après leur licenciement ?

Etre vigilant sur les usages spectaculaires et alarmistes du concept d’IA. Comment ? En empêchant la presse de nous avertir qu’Elon Musk veut nous implanter des puces dans le cerveau ?

 

… mais une démarche dans la bonne direction !

Il serait toutefois injuste de ne pas saluer la prise de conscience de la dimension éthique de l’IA dans ces travaux du Parlement.

En particulier le projet d’un Institut National de l’Ethique de l’IA nous semble une initiative judicieuse, à condition bien entendu qu’il soit ouvert à d’autres sensibilités que celles des chercheurs en IA et des entreprises numériques. Le but d’un tel Institut étant en effet de structurer la relation entre le pôle des développeurs de l’IA et le reste de la société civile, il importe que celle-ci y soit représentée. Enfin, cet Institut devrait en tout état de cause rester sous tutelle du Parlement, et sous contrôle démocratique.

Cependant, comme le font remarquer les rapporteurs, c’est au plan international que devrait se jouer le débat éthique sur l’IA, susceptible d’aboutir à une charte ou à une réglementation quelque peu contraignante. L’une des premières missions de l’Institut National de l’Ethique de l’IA devrait être par conséquent de mettre en place un organisme international équivalent au sein de l’ONU.

 

Comme tout le monde – sans doute un peu plus que tout le monde, d’ailleurs – les partisans de l’intelligence artificielle connaissent leur petit bout de Gramsci. Ils savent que les batailles politiques se gagnent d’abord sur le terrain culturel. Le film d’animation Les nouveaux héros (2015), création Disney tirée d’une BD Marvel, le prouve, sans prendre de détours, avec une franchise assez déconcertante.

L’histoire : Hiro, un jeune prodige de la technologie, déprimé par la mort de son frère, forme une nouvelle bande de super-héros avec les amis du défunt pour démasquer un méchant. Ils seront épaulés par Baymask, un « assistant personnel santé » conçu par le frère avant son décès accidentel.

Tout le catéchisme de l’IA est là, effeuillé chapitre par chapitre : la mondialisation heureuse avec la ville de San Fransokyo, jumelage concret de San Fransisco et Tokyo ; l’esprit start-up comme voie royale vers la réussite (royale et particulièrement ouverte, où tout le monde aurait ses chances à condition bien sûr d’avoir du génie, ce qui mine un peu le message égalitaire…) ; l’homme du commun qui devient un super-héros grâce à sa maitrise technologique et, enfin, l’intelligence artificielle gentille, au service des hommes, le robot bisounours. « Nous voulions un robot câlin, » résume Don Hall l’un des réalisateurs. Et Baymask, sorte de croisement entre Bibendum et le fantôme Casper, inspiré par des prototypes de robot en vinyle, « fait le job » comme personne. Une sorte de « doudou » dont l’intelligence ne demande qu’à progresser. Le jeune Hiro augmente d’ailleurs ses capacités tout au long du film. Le robot – pardon, l’assistant médical personnel – d’abord un peu ignoré par les hommes, leur devient utile, puis indispensable pour finir par s’imposer comme leur arme fatale. Dans les dernières scènes, il enfile une armure. En deviendrait-il inquiétant ? Rejoindrait-il Terminator et les robots d’antan ? Surtout pas ! On y a veillé : « il devait produire un effet intimidant et très puissant mais, en même temps, rappeler le robot en vinyle adorable qui se trouve en dessous, » précise Chris Williams, le deuxième réalisateur. Manquerait plus que l’on se pose des questions sur les intentions de Baymask…  Il est gentil, vous dit-on, même si ses pouvoirs finissent par surpasser ceux des humains. Les scénaristes lui ont même prévu une faiblesse pour rassurer tout le monde avec une scène où sa batterie se décharge. Comme le diable est dans les détails, le très mauvais groupe Fall out boy a composé un morceau pour la BO du film. Son titre ? Immortals. Oui, au pluriel, tous immortels. Tout est dit, scénarisé, réalisé avec un immense talent. Et quand on se retourne vers la gamine de 11 ans qui vient de regarder le film, elle lâche avec enthousiasme, debout sur le coussin de son fauteuil : « trop bien, surtout le robot ! » Oui, la guerre est culturelle. Et elle est déclarée.

 

Le 24 novembre dernier, l’Office Parlementaire d’Evaluation des Choix Scientifiques et Technologiques (OPECST) a auditionné l’AFCIA dans le cadre de la préparation de son rapport sur l’Intelligence Artificielle.

Ce rendez-vous a été pour notre Association l’occasion d’exposer devant des parlementaires les raisons qui conduisent de plus en plus de citoyens à se défier de l’Intelligence Artificielle.

1 – En premier lieu, l’incontrôlabilité fondamentale de l’IA. Il n’est pas réaliste de vouloir donner un maximum d’autonomie aux systèmes à IA tout en les gardant indéfiniment sous contrôle. Si l’IA atteint le niveau d’intelligence humaine, elle ne sera pas plus contrôlable qu’un être humain doué de libre arbitre.

De plus se posent des questions d’usage et de sécurité des systèmes mis en service. Si des nanorobots sont possibles, on ne voit pas très bien ce qui empêcherait des individus ou des Etats malveillants de les employer à des fins moins honorables. L’IA nous met face à un risque de prolifération de menaces d’autant plus incontrôlables que la technologie sera abondamment répandue et disposera de caractéristiques propres aux organismes électroniques (autoréplication, ubiquité, dématérialisation, vitesse etc…).

2 – En second lieu, l’IA pose un problème économique et social car elle a vocation à supprimer la valeur et la possibilité du travail humain. Des ressources et des moyens de plus en plus grands se retrouvent accaparés par un corps social de plus en plus petit, à savoir les entreprises numériques monopolistiques et leurs propriétaires. Il y a là une menace pour l’équilibre des sociétés humaines, que l’on voit d’ores et déjà ébranlées d’un bout à l’autre de la planète par les défis économiques de la mondialisation.

Nous sommes nombreux à penser que le respect de la dignité humaine consiste à donner à chacun la possibilité d’être authentiquement utile à la collectivité. La recherche d’efficacité doit être subordonnée à l’exigence de dignité. Si l’on souhaite que la dignité demeure une valeur suprême, il faudra nécessairement faire le sacrifice d’une efficacité plus grande réalisable au prix de l’Intelligence Artificielle.

3 – En troisième et dernier lieu, les objections contre le projet de transformer la nature humaine ou « homme augmenté ». Ce projet conduira en effet inévitablement à la fusion homme-machine, au profit de la seule machine. Or, de même que l’homme ne peut se représenter le monde en dehors des formes de l’espace et du temps, il ne peut aucunement comprendre ni concevoir la pensée artificielle suprahumaine. Ni, a fortiori, s’aventurer à échafauder une éthique transhumaniste.

La foi dans un avenir transhumaniste fondé sur la technique est une pure idéologie, au demeurant peu éloignée des autres idéologies totalitaires. Les promoteurs du transhumanisme ne prétendent d’ailleurs pas devenir meilleurs, plus justes et plus altruistes, mais plus intelligents, plus puissants ou encore immortels. Fondé sur de telles bases, leur projet est pernicieux.

L’AFCIA a exhorté les parlementaires présents à se projeter plus résolument dans l’avenir et à ne pas se prévaloir des limitations actuelles de l’IA pour s’abstenir de réfléchir à ce qui constitue fondamentalement sa nocivité. Espérons que ce message sera entendu.