L’Institut Ethique et Politique organise le jeudi 20 avril 2023, à Neuilly-sur-Seine, un débat entre Gilles Babinet et Cédric Sauviat sur le thème « L’IA va-t-elle tuer l’homme ? ».

Gilles Babinet, entrepreneur, co-président du Conseil National du Numérique depuis 2021, auteur de « Refondre les politiques publiques avec le numérique » aux éditions Dunod.

Cédric Sauviat, chef d’entreprise, ingénieur, fondateur de l’Association Française Contre l’Intelligence Artificielle, auteur avec Marie David de « IA. La Nouvelle Barbarie » aux éditions du Rocher.

L’Institut Ethique et Politique est un laboratoire d’idées indépendant fondé en 2011, oeuvrant à la refondation d’une politique basée sur le bien commun.

INSCRIPTION

L’addiction aux écrans et la nocivité des contenus accessibles à la jeunesse, font partie, comme le déficit budgétaire, de ces tristes réalités connues d’à peu près tout le monde sans que cela n’entraîne d’autre action publique que de vagues appels à la modération.

L’excellent reportage de Jeff Orlowski « Derrière nos écrans de fumée », produit et diffusé par Netflix, a eu cette année le grand mérite de vulgariser une critique virulente des réseaux sociaux. Bien que n’apportant pas de grande révélation, la saveur et l’efficacité de ce docu-fiction tiennent notamment à ce qu’il donne la parole aux « repentis » de la Silicon Valley, ces jeunes gens qui créèrent Facebook, Twitter et consorts, avant de virer leur cutie et de déclarer, comme Chamath Palihapitiya, ex-dirigeant de Facebook : « les outils que nous avons créés sont en train de détruire la société. […] Je n’utilise plus cette merde et j’interdis à mes gosses d’utiliser cette merde. »

Pour nécessaire et salutaire qu’il soit, le visionnage de ce film ne permet pas de faire le tour de la question. En dénonçant les manipulations auxquelles se livrent les géants d’Internet sur les cerveaux des enfants, et en laissant entendre que les écrans ont été ainsi dévoyés de leur finalité première, il passe sous silence bon nombre de problèmes posés d’une manière plus fondamentale par ceux-ci.

Il faut, pour s’en convaincre, lire le brillant essai du sociologue Fabien Lebrun, « On achève bien les enfants » qui vient de paraître aux Editions Le Bord de l’Eau.

L’auteur discerne dans ces objets que sont les écrans (de télévision, de téléphone, d’ordinateur, de tablette) les véritables ordonnateurs de la vie des nouvelles générations. Et comment pourrait-il en être autrement puisque le jeune Occidental passe devant eux près de 6 heures 45 par jour, soit le tiers de son temps de veille ?  

Tenus littéralement captifs par leurs écrans, les ados leur ont sacrifié leur sommeil (qui a diminué de deux heures en une vingtaine d’années), leur activité physique (les trois quarts des adolescents passent moins d’une heure par jour en plein air), jusqu’à leurs relations avec le monde extérieur, à l’instar de ces hikikomori japonais qui vivent reclus dans leur appartement, n’ayant pour toute occupation que la télévision, les jeux vidéo et internet. Fabien Lebrun souligne que ces « marginaux » que l’on pourrait croire peu nombreux, sont tout de même près d’un million au Japon, et qu’une fraction considérable entre dans l’âge mûr sans avoir pour autant renoué avec le réel.

Les chiffres sont impitoyables. Ils attestent que les dégâts, loin d’être cantonnés à une minorité mal avisée, frappent une classe d’âge entière : 400 000 Français de 14 à 24 ans visionnent du porno plusieurs fois par jour, la banalisation du porno entraînant 6 000 jeunes filles de moins de 15 ans à se prostituer dans les écoles. Toujours en France, 700 000 enfants sont victimes de cyberharcèlement.

L’enquête de Fabien Lebrun nous emmène ensuite au Congo, où des milliers d’enfants sont exploités dans les mines ou massacrés par des chefs de guerre, pour fournir à l’industrie des écrans les métaux rares dont elle a besoin ; puis dans les cités-décharges du Ghana, où échouent les millions de tonnes de déchets électroniques que l’Occident n’a pas la décence de recycler sous ses propres latitudes.

Au terme du voyage, le lecteur entrevoit l’ampleur de l’offensive du capitalisme numérique contre l’enfance. Au Sud, les corps broyés et les vies brisées ; au Nord, la psyché infantile soumise à un grand dérèglement, à un grand conditionnement, prélude à une société de sujets automatisés. Un système où les hommes deviennent superflus et où la place est faite au règne de l’intelligence artificielle.

Comment ne pas trembler en songeant qu’aujourd’hui même, COVID aidant, à l’heure des Etats Généraux du Numérique pour l’Education (4 et 5 novembre 2020), l’Education Nationale a pourtant désigné « l’illectronisme » comme une tare à combattre et distribue massivement des tablettes à nos enfants…

En 1987, Michel Henry dénonçait le divorce entre la science et la culture dans un essai retentissant, « La Barbarie » (PUF, 1987).

La « culture » moderne, disait-il, ne prétend pas seulement réduire toute forme de savoir à celui de la science et ainsi toute culture à une culture scientifique, elle étend au monde et aux sociétés tout entières l’autonégation de la vie en laquelle se résout son projet aberrant.

Un peu plus de trente ans ont passé, l’idéologie mortifère de la technoscience a continué ses ravages et elle met aujourd’hui au point, à plein régime, sa dernière création dirigée contre l’Homme : l’Intelligence Artificielle.

C’est donc en hommage au philosophe français que Marie David et Cédric Sauviat ont intitulé leur réquisitoire, qui paraît actuellement aux éditions du Rocher, « IA. La nouvelle Barbarie. »

Tout en expliquant clairement l’évolution des diverses technologies, cet ouvrage dissèque les défis que la machine lance aujourd’hui à l’Homme et s’inscrit en faux contre le discours dominant : Non, l’Intelligence artificielle n’est pas un progrès « comme les autres », un « sens de l’Histoire » irrévocable.

Le public curieux fera son profit de ce petit livre qui ose prendre clairement position dans un débat que les promoteurs du progrès algorithmique et de la « culture start-up », avec l’aide des grandes institutions publiques, s’efforcent par tous les moyens d’escamoter.

Les professionnels de l’Ethique des affaires y trouveront également une illustration de ce à quoi les « Chartes Ethiques » ne devraient pas ressembler.

Au sommaire :

1 – Origine et histoire de l’intelligence artificielle

2 – La grande hypocrisie

3 – Le progrès comme religion

4 – La dépossession de nous-mêmes

5 – Ethique

 

Les auteurs

Marie David, polytechnicienne, a dirigé plusieurs équipes dédiées au Big Data et à l’IA dans le secteur de la banque et de l’assurance.

Cédric Sauviat, polytechnicien, milite depuis plusieurs années pour l’émergence d’un débat sur les conséquences de l’intelligence artificielle.

 

Technique débridée, politique étouffé ?

Qu’en est-il de la relation entre la technique et le politique ?

Tel sera le thème des 7 èmes Assises de l’association Technologos, qui se tiendront :

les vendredi 27 et samedi 28 septembre prochains

à l’Institut de Paléontologie Humaine,

1 rue René Panhard 75013 PARIS (entrée libre).

Le déferlement technique qui caractérise notre époque déborde partout, au point d’étouffer le politique, non seulement lors de sa manifestation électorale, mais aussi dans toutes les activités relevant de la gestion de la cité.

Trois thèmes de réflexion et d’échanges :

Vendredi

• Que produit l’infiltration du technique dans l’organisation socio-politique ?
• Comment s’imposent les innovations techniques dans notre société ?

Samedi matin

• Comment lutter contre l’emprise de la technique sur le politique ?

 

Pour en savoir plus sur Technologos

Pour plus de détails sur les Assises 2019

Après la « Silicolonisation du monde » (L’Echappée, 2016), le philosophe Eric Sadin explore le phénomène de l’Intelligence Artificielle dans un essai paru le 18 octobre 2018 : « L’intelligence artificielle ou l’Enjeu du siècle – Anatomie d’un antihumanisme radical » (L’Echappée)

C’est l’obsession de l’époque. Entreprises, politiques, chercheurs… ne jurent que par elle, car elle laisse entrevoir des perspectives économiques illimitées ainsi que l’émergence d’un monde partout sécurisé, optimisé et fluidifié. L’objet de cet enivrement, c’est l’intelligence artificielle.

Elle génère pléthore de discours qui occultent sa principale fonction: énoncer la vérité. Elle se dresse comme une puissance habilitée à expertiser le réel de façon plus fiable que nous-mêmes. L’intelligence artificielle est appelée, du haut de son autorité, à imposer sa loi, orientant la conduite des affaires humaines. Désormais, une technologie revêt un « pouvoir injonctif » entraînant l’éradication progressive des principes juridico-politiques qui nous fondent, soit le libre exercice de notre faculté de jugement et d’action.

Chaque énonciation de la vérité vise à générer quantité d’actions tout au long de notre quotidien, faisant émerger une « main invisible automatisée », où le moindre phénomène du réel se trouve analysé en vue d’être monétisé ou orienté à des fins utilitaristes.

Il s’avère impératif de s’opposer à cette offensive antihumaniste et de faire valoir, contre une rationalité normative promettant la perfection supposée en toute chose, des formes de rationalité fondées sur la pluralité des êtres et l’incertitude inhérente à la vie. Tel est l’enjeu politique majeur de notre temps.

Ce livre procède à une anatomie au scalpel de l’intelligence artificielle, de son histoire, de ses caractéristiques, de ses domaines d’application, des intérêts en jeu, et constitue un appel à privilégier des modes d’existence fondées sur de tout autres aspirations.

 

Nous avons reçu dernièrement un message de Peter Lumsdaine, fondateur de l’ARROWS – Alliance to Resist Robotic Warfare and Society – et habitant de Seattle.

Peter nous informe que son association cherche à sensibiliser le public aux dangers de l’IA, et que c’est avec un grand plaisir qu’elle a appris, au cours de recherches sur Internet, l’existence de l’AFCIA.

Peter est engagé notamment dans la dénonciation des drones et autres armes autonomes, dont il a personnellement pu constater les méfaits lors de plusieurs déplacements dans des pays en guerre. Nous publions ci-dessous l’article, paru dans le Times en avril 2015, dans lequel il évoque la Conférence de Princeton de février 2015 sur les armes autonomes.

 

Lors de mon voyage de Seattle au New Jersey pour participer à la première Conférence Interconfessionnelle sur les Drones militaires qui avait lieu à l’Université de Princeton, j’étais constamment hanté par les souvenirs de mes précédentes visites dans des zones de guerre du Mexique et d’Irak. Dans les allées enneigées de Princeton, mes pensées s’échappaient sans cesse vers les villages de sable de la Sierra Madre, les étroites ruelles de Nadjaf ou les sinistres taudis en béton de Bagdad-Est.

Lorsque nous nous rendîmes dans les communautés chiites, sunnites et chrétiennes de l’Irak en guerre, mon épouse Meg – qui est pasteure mennonite – et moi-même, fûmes tous deux frappés par la vivacité de leurs traditions culturelles ancestrales. Pourtant, l’ère de la guerre robotique, dont nous ignorions tout alors, avait déjà débarqué en Mésopotamie, sous forme de robots terrestres rôdant dans les rues en terre battue et les arrière-cours,  et de drones tournoyant dans le ciel du désert à la recherche de cibles. Ces derniers furent bientôt suivis par les Predator, ces drones américains sans pilote qui lancèrent leurs missiles Hellfire sur les quartiers délabrés des rebelles chiites – bien que ceux-ci comptassent alors parmi les adversaires les plus résolus d’Al-Qaida et de l’Etat Islamique au Moyen-Orient.

A la Conférence nationale, en février 2015, cent cinquante délégués chrétiens, juifs, musulmans et sikhs firent l’état des lieux de la guerre de drones et débattirent des problèmes moraux que pose cette forme radicalement nouvelle de tuerie high-tech qui se répand actuellement sur la planète, dans une course aux armements robotiques toujours plus nombreux, mortels et autonomes.

Le Bureau du Journalisme d’Investigation, une ONG connue pour son impartialité et sa rigueur, dénombre 2866 personnes tuées par des frappes de drones américains dans les seuls pays du Pakistan et du Yémen, dont plus de 481 civils non-combattants, parmi lesquels au moins 176 enfants. 2% seulement de ces 2866 tués étaient des activistes à forte valeur stratégique. Par ailleurs, le Centre d’Etudes et d’Analyses Navales montre qu’en Afghanistan, les drones ont dix fois plus de chance de tuer des civils que les avions à pilote.

Lorsque l’on parle de combattants à pied déguenillés, de familles civiles ou d’enfants touchés par des missiles Hellfire de Lochkheed Martin tirés par des drones en embuscade, on a tendance à oublier que cela veut dire des individus éventrés par des éclats de shrapnel ou brûlés vifs par le feu des explosifs. Les survivants s’en tirent souvent avec des mutilations horribles et des souffrances sans remède.

Une « Guerre contre le Terrorisme » menée par la terreur venue du ciel est une absurdité et un échec moral absolu.

C’est aussi une impasse, d’un point de vue tactique, parce qu’elle nous fabrique des ennemis inexpiables plus vite qu’elle ne les élimine.

C’est pourquoi les responsables des différentes confessions qui se sont assemblées à Princeton ont appelé le gouvernement américain à cesser immédiatement l’usage des drones armés et des drones tueurs.

Les frappes de drones constituent seulement un tout petit aperçu de la guerre robotique qui risque de se généraliser dans notre « meilleur des mondes » du vingt-et-unième siècle, si nous laissons les tendances actuelles perdurer et même s’accélérer. Déjà, au sein même des Etats-Unis, les drones participent de la surveillance gouvernementale au titre de la sécurité intérieure. Les dollars du contribuable américain servent à subventionner la surveillance par drones mise en place par des gouvernements corrompus au Mexique et en Colombie où, derrière le paravent de la lutte contre le narco-trafic, elle facilite la répression de l’agitation paysanne et de la résistance locale au pillage des ressources minières par les conglomérats.

Pour Denise Garcia, professeur de Relations Internationales à la Northeastern University de Boston, les drones et robots terrestres actuels sont les « précurseurs des nanobots et autres humanoïdes tueurs dans le style de Terminator ». C’est pourquoi la conférence de Princeton a appelé à interdire en urgence, et au niveau mondial, les armes autonomes et semiautonomes, telles que le prototype X-45 de Boeing.

Du physicien Stephen Hawking à l’informaticien Bill Joy, de nombreux experts affirment que si l’Intelligence Artificielle poursuit son développement, elle pourrait rapidement sortir du contrôle humain. Le fondateur de Tesla, Elon Musk, qualifie quant à lui le développement de l’IA d’« invocation du Démon ».

Nous devrions garder en mémoire ce discours prophétique de Martin Luther King contre la guerre du Vietnam, en 1967 :

« Lorsque les machines et les ordinateurs, les profits et les droits de propriété sont considérés comme plus importants que les hommes, les trois hydres que sont le Racisme, le Matérialisme et le Militarisme sont invincibles.

La décision nous appartient. Et même si nous préférerions ne pas avoir à le faire, c’est pourtant bien à nous de décider en ce moment crucial de l’histoire humaine. »

 

Nous nous réjouissons de ces premiers contacts avec nos amis d’Outre-Atlantique, qui préludent à la constitution d’un réseau international de lutte contre l’Intelligence Artificielle.

 

 

 

 

Nous avions évoqué, il y a un peu plus de deux ans, les avertissements de l’informaticien Stuart Russell et du physicien Max Tegmark.

Ces personnalités, toutes deux membres du Future of Life Institute américain, ont réitéré devant l’ONU leur pressant appel à l’interdiction des armes autonomes. Afin de rendre leurs arguments plus frappants, ils ont réalisé une vidéo de réalité-fiction très impressionnante.

Dans ce clip de sept minutes, on assiste à une série d’événements et de reportages télévisés montrant comment, en quelques mois, l’invention de drones tueurs à reconnaissance faciale par une entreprise d’armement plonge le monde dans la terreur.

S’il s’agit bien de fiction, les technologies mises en scène existent d’ores et déjà, hormis leur miniaturisation (à moins que les armées américaine, russe ou chinoise ne disposent déjà secrètement de telles armes, allez savoir…)

Pour visionner la vidéo « Slaughterbots », rendez-vous sur le site du Future of Life Institute, ICI

…

Impressionnant, n’est-ce-pas ?

Pourtant, la conclusion tirée par Stuart Russell et ses amis nous semble quelque peu incongrue. Interdire les armes autonomes ? A quoi bon, si tous les éléments qui servent à les fabriquer sont en vente libre : IA de pilotage, IA de reconnaissance faciale, drones, explosifs, etc… ?

C’est comme si on distribuait à toute la population de la farine, du lait et des œufs à gogo en lui interdisant avec la plus grande fermeté de faire des crêpes !!

La seule, l’unique conclusion logique que les hommes sensés devraient tirer de telles considérations – et de nombreuses autres que nous ne cessons de mettre en lumière jour après jour – c’est que c’est l’IA elle-même qui pose problème. C’est elle qu’il faut interdire.

Mais à l’AFCIA, nous ne sommes pas inquiets : cette évidence s’imposera bientôt à tous, il ne peut en être autrement.

… que ton interview dans L’OBS de cette semaine (1er mars 2018) m’a convaincu de ta clairvoyance au sujet de l’Intelligence Artificielle. C’est bien le moins qu’on pouvait attendre de la part de quelqu’un capable d’apprivoiser la lumière (tu me diras comment tu fais, parce que moi ça fait trois fois que je me brûle les doigts avec des allumettes) !

J’ai bien l’intention de m’inspirer de tes propos pour mon TPE de physique+économie (ah oui, j’ai oublié de te préciser que je suis élève en Première). Voici les extraits que je préfère :

Sur la diffusion de l’IA

L’IA sera partout, comme l’électricité.

Youpi ! Je me réjouis par avance d’être entouré d’yeux et d’oreilles partout où j’irai. Nos ancêtres animistes croyaient que le monde était plein d’esprits, la technologie va leur donner raison !

 

Sur l’explosion de l’IA et le progrès fulgurant de la puissance de calcul informatique 

Tout le monde a été pris par surprise. La puissance de calcul a joué, ainsi que les progrès en mathématique algorithmique. Les gigantesques bases de données ont donné un nouvel envol aux méthodes d’apprentissage « statistique », qui permettent aux machines d’apprendre à partir d’exemples. Encore plus inattendu : les « réseaux de neurones », qu’on croyait morts et enterrés, ont montré que finalement ils fonctionnaient. Il a suffi de quelques années pour qu’on change complètement d’opinion à leur sujet. Il n’y a pas beaucoup de coups de théâtre comme ça dans le domaine de l’informatique. Cette nouvelle donne de l’IA a tout bousculé, dans les applications comme dans les sciences.

Non Cédric ! Ne me dis pas que toi aussi tu as été surpris ! Tu aurais donc complètement changé d’avis ? Heureusement, ce sera bien la dernière fois. Désormais, je suis sûr que toutes tes prédictions se réaliseront, et tu ne seras plus jamais pris en défaut, notamment quand tu dis que la naissance d’une IA forte menaçant à terme l’existence même de l’humanité, c’est « de la science-fiction ! » et quand tu dis que « la conscience, l’autonomie et même le simple bon sens sont très très loin de ce que l’IA sait faire » et aussi quand tu dis qu’ « il y a des pièges et des dangers dans l’IA, mais ils ne sont pas là.»

 

Des vies sauvées par milliers !

Il ne fait pas de doute pour moi que des vies seront sauvées par l’IA. […] Parmi nos interlocuteurs dans l’administration, ceux du ministère de la Défense étaient les plus convaincus de l’urgence de l’IA.

Tu sais Cédric, c’est sans doute parce qu’ils savent que les Etats belliqueux et les terroristes (cyber ou non) ont la ferme intention d’utiliser l’IA pour sauver des vies, et qu’ils ne veulent pas être en reste.

 

De nouveaux métiers en émergence

Concepteur et vérificateur de base de données, par exemple, car la qualité des données sur lesquelles on éduque un système informatique est fondamentale. […] Il va aussi y avoir des métiers liés à la bonne ergonomie, au partage des rôles entre l’employé et l’algorithme. Il va certainement apparaître toutes sortes de métiers liés aux tests, au développement, à l’accompagnement de la transformation pas l’IA. […] Ensuite, au fur et à mesure que l’on automatise, il y a une autre catégorie de métiers – notamment dans l’éducation, dans la santé, le soin aux personnes âgées – où l’on aura besoin de qualités vraiment humaines, de lien social, de relation, d’empathie… Problème : personne ne sait à quelle vitesse cette mutation va s’effectuer.

Génial ! J’ai toujours rêvé de devenir éducateur de système informatique ! Mais sinon, je veux bien être ergonomiste-entremetteur pour humains et algorithmes, ou bien accompagnateur-testeur pour entreprise en voie de transformation. Et que l’on ne me dise pas que ce sont des métiers « à la con » ! Rien n’est plus noble que le métier de mouche du coche numérique, car comme tu le dis si bien, Cédric, « de toute façon, on a besoin de travail pour se réaliser, se sentir utile. »

Quant à ma petite sœur, elle préfère mettre en pratique ses qualités vraiment humaines avec des personnes âgées, elle veut devenir infirmière. Le problème c’est qu’elle est moins patiente avec les vieux qu’un robot ! Se pourrait-il que les robots aient plus de talent pour les qualités humaines que les hommes ?

 

Voilà, j’espère que ton rapport définitif va sortir bientôt, j’en aurai besoin pour terminer mon TPE. En attendant, je me plonge dans la lecture (rébarbative, celle-là) d’un rapport écrit par de vrais rabat-joie : « The Malicious Use of Artificial Intelligence »! (De l’Usage Malveillant de l’Intelligence Artificielle). Figure-toi que ces cocos-là me feraient presque flipper si je n’avais pas lu ton interview !

Alexandre, 1ère ES 8, Lycée Lepoil d’Enlbon, Sens

 

… que d’aborder l’amélioration qui prétend résulter des NBIC comme la traduction d’un parti pris (idéologique, politique, industriel, civilisationnel…) sur le format que l’on voudrait imposer à l’humain – un parti pris en tant que tel discutable. »

 

Malgré son titre « commercial », le petit livre de Laurent Alexandre et Jean-Michel Besnier « Les Robots font-ils l’amour ? » (Dunod, 2016) contient les éléments d’une profonde réflexion sur le transhumanisme en général et l’Intelligence Artificielle en particulier.

Il s’agit en effet non pas tant d’un commentaire sur la science qui se fait que d’une réflexion prospective sur le monde que nous prépare la technique et d’une critique vigoureuse du mouvement qui lui donne aujourd’hui un contenu politique et idéologique : le transhumanisme.

Pour Jean-Michel Besnier, cette idéologie est fondamentalement viciée parce que les transhumanistes veulent en fait « éviter l’inconvénient qui s’attache à toute vie, à savoir l’aventure et la liberté. »

Citons quelques extraits éclairants de ce dialogue entre deux personnalités qui, dans le panorama médiatique français, se distinguent par leur lucidité :

 

Sur le réductionnisme de l’idéologie transhumaniste

Jean-Michel Besnier : « Je redis mon attachement au rôle humanogène dévolu à la technique, mais j’exige aussi la préservation de la dimension symbolique, propre à l’espèce humaine, [à savoir] le langage, condition de l’art politique. […] L’objection du chiffre contre la réflexion argumentée est emblématique d’une évolution des technosciences qui écarte les langues de culture pour ne garder au mieux que les signaux et codages qui lui restent nécessaires. »

«  L’amélioration de l’espèce humaine n’est pas l’augmentation des performances et des facultés des individus, sauf à vouloir animaliser ou machiniser l’humain en le soumettant à la mesure, ou en le réduisant aux algorithmes et aux métabolismes dont se délectent la culture du numérique et les GAFA. »

 

 

Sur la fusion homme-machine

Laurent Alexandre : « Pour être à la hauteur des automates, certains dirigeants de Google proposent de nous hybrider avec l’IA : devenir cyborg pour ne pas à être dépassé par l’IA ! […] Paradoxalement, l’ultime outil de l’humanité pour éviter sa vassalisation serait ainsi l’instrument de son suicide. »

JMB : « Le transhumanisme affiche son mépris pour la dimension symbolique de l’existence de l’être désirant. La fusion avec la machine est la version la plus brutale du cynisme qui consiste à supprimer en l’humain toutes les ressources qui lui ont permis de grandir (« tout ce qui ne me tue pas me fait grandir », comme dit Nietzsche) et d’aimer (la conscience de l’éphémère est au principe de toute ouverture sur l’autre que soi). »

 

 

Sur la concurrence de l’IA

JMB : « En réalité, la menace couve depuis longtemps : depuis la révolution industrielle, la machine apparaît comme responsable du sentiment d’impuissance que les humains éprouvent de plus en plus. Elle est un facteur de mésestime de soi, la cause de cette « honte prométhéenne d’être soi » décrite par le philosophe autrichien Günther Anders. Mais, comme si les manufactures et les automates de tout poil ne suffisaient pas, la machine paraît s’être aujourd’hui accaparée l’intelligence, et les jeux sont faits : elle va nous remplacer dans ce que nous avons de plus spécifique, de plus gratifiant et donc, elle nous condamne à disparaître progressivement. »

LA : « Les algorithmes ne vont pas nécessairement nous tuer mais ils créent une situation révolutionnaire. L’IA va nous faire basculer dans une autre civilisation où le travail et l’argent pourraient disparaître. L’IA est longtemps restée un sujet de science-fiction. Elle est désormais une simple question de calendrier : l’explosion des capacités informatiques (la puissance des serveurs informatiques a été multipliée par un milliard en trente et un ans) rend probable l’émergence d’une IA supérieure à l’intelligence humaine dans les prochaines décennies. »

 

Aurons-nous le courage de regarder la réalité en face ?

Laurent Alexandre montre bien que les intellectuels se laissent régulièrement surprendre du fait de leur incapacité à prendre au sérieux les utopies, et en particularité, actuellement, l’utopie posthumaine des humains augmentés. Au risque de laisser se développer un nouveau totalitarisme « soft ».

JMB « Biototalitaire, le monde le sera au fur et à mesure qu’il fera triompher l’obsession technoprogressiste pour la seule survie, pour une longévité sans fin(alité), pour une individuation biologique privée de la dimension symbolique qui fait l’existence humaine. »

« La régulation des technologies d’amélioration de l’humain n’évitera pas l’examen de ces conséquences socio-anthropologiques et elle devra faire droit aux questions philosophiques : faut-il vouloir supprimer le hasard dans la condition humaine ? »

« Je préfère me demander si une limite doit être opposée à la perfectibilité humaine. Autrement dit : faut-il refuser, à un moment donné, de poursuivre la quête d’un progrès, au risque de bloquer l’histoire humaine ? […] Ce n’est pas être réactionnaire que d’aborder l’amélioration qui prétend résulter des NBIC comme la traduction d’un parti pris (idéologique, politique, industriel, civilisationnel…) sur le format que l’on voudrait imposer à l’humain – un parti pris en tant que tel discutable. »

 

Pour agir

L’humanité est confrontée à de grands défis mais les gouvernements sont dépassés par les acteurs du numérique. La technologie est plus forte que la loi, c’est elle qui structure la société.

LA : « Face à la déferlante de la Silicon Valley, l’Etat est sidéré et piétine à la vitesse d’un sénateur. »

JMB : « Admettons donc que la technologie soit a priori incapable de s’autolimiter : on dit en effet qu’elle est le lieu de l’expression de la démesure dont les humains sont capables. Elle ne peut recevoir de frein que de l’extérieur, c’est-à-dire qu’il lui faut être tempérée par ce qui relève de la réflexion et du symbolique (la communication politique). »

LA : « L’Ecole jouera un rôle central dans la préparation à ce qui s’annonce devant nous. […] Les trois piliers de l’Ecole sont à refondre : le contenu, la méthode et le personnel. Il faudra, d’abord, réhabiliter les humanités et la culture générale, puisque vouloir concurrencer les machines sur les matières techniques sera bientôt dérisoire. »

 

Nous ne pouvons que nous réjouir de voir le débat porté enfin sur le plan des valeurs anthropologiques que nous défendons à travers l’AFCIA, et formulé en des termes qui sont pratiquement les nôtres.