Dans un essai qui vient de paraître aux éditions Hermann, Marius Bertolucci, maître de conférences en management à l’Université d’Aix-Marseille, décortique les effets d’une présence de plus en plus massive de l’IA dans la vie des hommes.
Un constat s’impose d’emblée : les capacités spectaculaires des IA, leur progression foudroyante, qui déconcertent et surprennent les meilleurs experts, façonnent un nouveau monde radicalement étranger aux hommes et aux idées du XX ème siècle. Comme le déclare l’auteur dans son introduction:
Les concepts anté-numériques sont bien incapables d’appréhender la violence du déferlement algorithmique sur les individus et les sociétés. Il s’agira donc de développer des clés de compréhension face à cette mutation.
L’Homme contemporain, et tout particulièrement celui de la génération numérique qui baigne dans les écrans depuis son plus jeune âge, se transforme petit à petit en ce que Bertolucci propose d’appeler un « cybcog », ce que l’on pourrait traduire par une « conscience cybernétique ».
Cerné par les algorithmes qui le surveillent, le nourrissent, prédisent son comportement dans le moindre détail, filtrent du monde extérieur ce qu’ils lui laissent parvenir, l’individu est désormais piloté par la machine.
L’Intelligence Artificielle, dominant l’homme dans l’analyse, le traitement des données et depuis peu la création intellectuelle et artistique, l’empêche en outre de forger sa propre identité en monopolisant son attention par des stimuli permanents.
Loin de bénéficier de l’assistance des IA pour se grandir, comme le prétendent les technophiles patentés et stipendiés, le « cybcog » est un être diminué en voie de machinisation mentale. Il ne représente plus, pour l’IA et pour les autres, qu’un flux de données.
Si les catégories de Citoyen, d’Homme, de Sujet et d’Individu sont de fait effacés, il est à craindre que les protections accordées par ces catégories s’évanouissent, emportant avec elles les fondements de notre civilisation.
Le livre de Mario Bertolucci, foisonnant d’observations précises et de références récentes, puise dans une documentation impressionnante où voisinent et se font écho études scientifiques, articles de presse économique, essais philosophiques et œuvres littéraires.
Brillamment écrit et solidement étayé, il a vocation à
ouvrir les yeux des optimistes les plus béats.
par Christian Castellanet, ingénieur agronome, docteur en écologie, membre de l’association Les Citoyens en Alerte
Ces derniers temps, les prouesses de Chat GTP, un logiciel conversationnel capable de répondre à des questions ardues et de composer des rapports ou même des programmes informatiques, ont défrayé la chronique. Elles ont été suivies par des démonstrations de création de faux enregistrements audio par Vall-E de Microsoft et d’images de synthèse et de photomontages impressionnants. Quant aux vidéos de synthèse, elles existent déjà depuis plusieurs années.
Selon certains, pas d’inquiétude à se faire, les bénéfices de ces IA vont largement supplanter leurs inconvénients. Comme l’a déclaré Geoffrey Hinton, considéré comme un des pères de l’IA, qui vient de démissionner de Google, non seulement les IA apprennent vite, mais elles sont capables d’accumuler une énorme masse d’information et de communiquer les résultats entre IA quasi instantanément.
Prenons par exemple le domaine du diagnostic médical. Un médecin expérimenté a peut-être en mémoire les dossiers de quelques milliers de patients, et peut donc se servir de son expérience pour améliorer ses diagnostics en cas de symptômes inhabituels ou atypiques. Les IA sont capables non seulement d’ingérer l’ensemble des dossiers des patients informatisés, et de faire des recherches statistiques quasi instantanées à grande échelle en échangeant leurs découvertes avec les autres IA en temps réel. De ce fait elles devraient devenir bien meilleures que le plus expérimenté des médecins en peu de temps.
Sont-elles réellement « intelligentes » ou s’agit-il de simples machines qui n’apprennent qu’en aspirant tout le savoir humain ? Pourront-elles accéder à une conscience propre ? A vrai dire le débat est quelque peu métaphysique, tout le monde s’accordant pour dire que les IA n’ont pas la même intelligence que l’homme, elles ont une intelligence logique très développée mais (pour le moment du moins) très peu d’intuition et zéro intelligence affective. Ce qui est important, c’est ce qu’elles sont capables de faire dès maintenant, et quelles conséquences cela peut avoir pour l’humanité.
Quelles sont ces conséquences prévisibles de l’accélération rapide des capacités de ces IA ?
On se demande quels boulots ne vont pas être supplantés par les IA. La révolution industrielle, puis l’automatisation ont déjà fait disparaître la plupart des emplois manuels dans l’industrie ou l’agriculture. Avec cette nouvelle vague, ce sont tous les emplois qualifiés qui vont se retrouver en concurrence avec les IA : depuis les médecins déjà cités, aux professeurs, aux designers, en passant par les policiers, les chauffeurs routiers, les pilotes d’avion, les militaires, les producteurs de série télévisées, les journalistes…. On sait déjà que des IA ont réussi avec succès l’examen du barreau (pour devenir avocats) et un examen d’ingénieur. Dans les deux cas cela montre qu’elles peuvent résoudre des problèmes concrets, d’ordre professionnel, aussi bien ou mieux que ne le ferait un avocat ou un ingénieur, plus rapidement et à un coût bien moindre. Certes l’avocat restera peut-être nécessaire pour une plaidoirie basée sur la capacité de provoquer l’empathie des jurés en cour d’assises, mais si l’on s’en tient à l’argumentation juridique et à l’analyse de la jurisprudence qui font sans doute 80% de son travail, l’IA fera mieux et beaucoup moins cher que lui. De même l’ingénieur qui doit planifier un chantier pourra être très vite supplanté par la machine. Les médecins, qui font de plus en plus de téléconsultations où ils se contentent de poser quelques questions et de prescrire des traitements ou examens standards pourront être remplacés par une IA qui fera mieux et surtout moins cher qu’eux. Des élèves du secondaire ou des prépas ont d’ores et déjà décidé d’arrêter leurs cours particuliers en constatant que Chat GPT répondait mieux à leurs questions. Organiser des cours par correspondance interactifs va devenir très facile, dès lors qu’il s’agit de transmettre des connaissances et des savoir-faire, l’IA pourra le faire mieux et moins cher que les professeurs humains. Le seul avantage des humains restera dans l’enseignement de la sociabilité et le partage des valeurs éthiques, domaine dans lequel ils ont cependant de plus en plus de difficulté à faire passer leur message…
A l’autre extrémité de l’échelle, les caissières sont déjà massivement remplacées par des machines, la surveillance pourra se faire de plus en plus par des IA travaillant sur video avec reconnaissance faciale, comme c’est déjà prévu pour les JO de Paris. L’autorisation de véhicules autonomes pour remplacer les taxis , les camionneurs et les livreurs n’est qu’une question de quelques années, voire de mois…
On a vu aussi que des images ou musiques créées par des IA ont remporté la préférence du public sur des œuvres créées par des graphistes ou compositeurs humains…
En 2017, des chercheurs de l’Université d’Oxford ont interrogé 352 spécialistes de l’IA et de l’apprentissage automatique. Les chercheurs ont prédit que les machines seraient meilleures que les humains dans le domaine de la traduction de langues d’ici 2024, qu’elles seraient capables de rédiger des essais d’ici 2026, de conduire des camions d’ici 2027 et travailler dans le commerce et la vente en 2031. Selon les chercheurs, il y a 50 % de chance pour que l’intelligence artificielle dépasse les humains dans tous les domaines en seulement 45 ans (donc d’ici 2060) et qu’elle remplace tous les emplois humains en 120 ans. Certains pensent cependant que cela pourrait être plus rapide, et l’on voit que l’IA a déjà été plus rapide (pour la rédaction des essais notamment).
Nombre de commentateurs insistent sur le fait que, comme lors de la première révolution industrielle, beaucoup d’emplois vont disparaitre, mais de nouveaux vont être créés, selon le processus de « destruction créatrice » théorisé par Schumpeter. On peut sérieusement en douter, en tout cas à court et moyen terme ; car ce ne sont plus seulement les travaux manuels plus ou moins pénibles qui sont concernés, ce sont tous les emplois demandant une intelligence logique. Le rythme du changement et le choc technologique va être beaucoup plus rapide et massif que ceux des révolutions industrielles précédentes, à moins que des régulations très fortes soient mises en place pour limiter ou interdire l’utilisation des IA dans de nombreuses fonctions. Sur le plan de l’emploi, le choc sera très fort. En admettant que les IA permettent à un avocat de traiter 5 fois plus de dossiers, ou à un médecin 5 fois plus de patients, en gardant la fonction « noble » du dialogue attentif et de l’écoute active du patient, que deviendront les 4 docteurs ou avocats qui ne seront plus nécessaires ? Comme le dit Yuval Harari, l’auteur d’ « Homo deus » :
Il est hautement probable que les algorithmes et les robots assumeront non seulement des emplois industriels mais aussi des prestations de service. A quoi sert un chauffeur de poids-lourd si des véhicules autonomes font le travail à moindre coût et de manière plus sûre ? Parmi les métiers menacés figurent aussi les représentants de commerce, les courtiers en bourse et les employés de banque. Enseignants et médecins ont aussi du souci à se faire. (..) Je doute qu’un camionneur quinquagénaire sans emploi puisse être aisément recyclé en designer de réalité virtuelle. Le problème est la vitesse inouïe du progrès. Naguère, des innovations techniques comme l’imprimerie ou la machine à vapeur se diffusaient très lentement, la société et le politique avaient le temps de s’adapter aux réalités nouvelles.
A partir de là, on a deux visions possibles : dans une perspective optimiste, grâce aux machines et aux IA, le temps de travail peut être réduit considérablement pour tous, chacun n’a plus besoin de travailler qu’une heure par jour ou une demi-journée par semaine, le reste du temps est consacré aux loisirs, aux contacts sociaux, à l’art, aux voyages en utilisant des technologies douces, vélo ou voile. Ceci se combine avec une réduction de l’utilisation des ressources fossiles et non renouvelables, un mode de vie basé sur la sobriété matérielle, le respect de la nature et de l’homme dans sa diversité.
A l’opposé, comme le dit Geoffrey Hinton, dans un système capitaliste non régulé, cela ne peut se traduire que par un appauvrissement de la majorité de la population. On voit déjà l’accumulation de richesse rapide des patrons et actionnaires des GAFAM, qui ne peut que s’accentuer si le recours aux IA pour la production et les services se généralise. Le fait que les dirigeants d’Open IA aient décidé, contrairement à leurs engagements initiaux, et au titre même de leur entreprise, de garder les codes secrets, est évidemment à relier à ce désir de monopoliser la richesse produite. Ceci ne pourra être compensé, selon Hinton, que par un système de revenu universel, destiné à acheter la paix sociale, tandis que quelques membres de l’élite deviendront encore plus ultra-riches Il ne précise pas qui cela concernera, mais on peut parier que cela inclura tous ceux qui sont capables de commander les IA et de les perfectionner, ainsi que ceux qui organiseront la manipulation des masses pour qu’elles ne se révoltent pas. Il y aura peut-être place pour une classe moyenne réduite (disons 10 % de la population) qui assurera les fonctions de conseil personnalisé, d’appui psychologique, de contrôle des erreurs des IA. Et cela sera exactement la même chose du côté du capitalisme d’Etat chinois ou russe…
D’autres théoriciens et promoteurs des IA, tels Raymond Kurzweil, croient à l’avènement du transhumanisme, c’est à dire d’hybrides hommes-machines beaucoup plus évolués qu’Homo sapiens, et qui le domineront nécessairement. C’est une version cauchemardesque (pour la plupart d’entre nous du moins) du scénario élitiste, dans lequel quelques hyper privilégiés accèderont non seulement à un niveau de capacité intellectuelles et physique jamais atteint, mais également à l’immortalité. Pour leurs détracteurs, les promoteurs de « l’espèce supérieure » et candidats à leur propre augmentation obéissent à une logique guerrière de l’évolution dont ils veulent prendre le contrôle. Moins hypocrite, le cybernéticien anglais Kevin Warwick l’a ainsi résumé :
Ceux qui décideront de rester humains et refuseront de s’augmenter auront un sérieux handicap. Ils constitueront une sous-espèce et formeront les chimpanzés du futur.
Cela sera d’autant plus facile à faire accepter à la population qu’avec les IA, on peut d’ores et déjà manipuler l’opinion publique à grande échelle en programmant les messages ciblés (les « nudges ») qui font mouche pour chaque catégorie de population sur Internet. On l’a vu avec le scandale de Cambridge Analytica, ou encore les manipulations délibérées des élections anglaises, américaines et françaises via Internet , puis la manipulation de l’opinion publique lors du COVID. Toutes les données que vous fournissez à votre smartphone, les sites que vous visitez, vos likes, vos tweets sont analysés en temps réel pour déterminer quel message est susceptible de remporter votre adhésion et de vous faire voter pour tel pour tel candidat ou au contraire de vous faire rejoindre des mouvements sectaires ou radicaux selon les instructions données à l’IA.
Dans ce futur dystopique, la dissidence sera quasiment impossible, car les techniques de surveillance de masse, la reconnaissance faciale, le pistage en temps réel de tous et toutes via votre smartphone ou via les enregistrements des smartphones des autres rendront impossible d’échapper à la surveillance des IA, ce qui permettra de généraliser les systèmes de crédit social ou d’amendes / récompenses automatiques visant à conditionner tout un chacun à rester bien sage, sans avoir besoin de recourir à des méthodes de coercition trop visibles .
La dépendance des humains aux machines, déjà considérable, va s’accentuer et la grande majorité sera dans l’incapacité de se débrouiller sans son smartphone et Internet. La capacité d’attention et d’apprentissage des enfants exposés toute la journée à Internet est déjà en forte diminution dans les écoles. Il semble que le QI de la population soit déjà en train de baisser, bien que peu de données soient disponibles pour la France. Le niveau scolaire baisse de manière préoccupante, particulièrement en mathématiques. Plus personne n’étudie une carte avant de se déplacer, on attend que le GPS nous indique la route. On lit de moins en moins de livres ou de journaux, on se contente de surfer sur Internet. On ne fait plus d’efforts de mémoire, puisque Google nous retrouve tout ce que l’on cherche, et ChatGPT va le faire mille fois mieux et plus rapidement.
En fin de compte l’éducation ne sert plus à rien, sauf peut-être pour une minorité qui voudra continuer à penser par elle-même, soit parce qu’elle appartient à l’oligarchie des manipulateurs, soit parce que certains feront le choix radical de couper tout lien avec le système – entendons ici surtout avec Internet- et de recréer des communautés autonomes quant à leurs besoins de base – en acceptant un retour à l’âge du bronze et à un mode de vie très frugal – le système Amish qui fait si peur à E. Macron. En supposant que le nouveau système militaro-IA décide de laisser vivre ces communautés résistantes en marge de son système, en acceptant de leur laisser quelques espaces de vie et quelques ressources, un peu dans le genre des réserves indiennes établie par le gouvernement des Etats-Unis après la soumission et le quasi génocide des indiens, on pourrait arriver à ce que prédisent certains Décroissants, c’est à dire que l’immense majorité de l’humanité tombera dans la servitude volontaire et se satisfera du pain et des jeux que le système lui fournira. Le développement d’univers virtuels parallèles de type Metaverse, inspirés par les jeux en lignes qui causent déjà de sérieux problèmes d’addiction chez les adolescents, mais à une puissance dix, pourrait permettre de la maintenir dans un état de dépendance totale, avec la fin de toutes les interactions sociales physiques. Il suffirait dès lors de garder les corps devenus quasiment inutiles au chaud, avec une alimentation de synthèse minimale, pour parachever cette version moderne et cauchemardesque du « pain et des jeux » fournis par l’Empire romain aux citoyens oisifs et inutiles de l’époque décadente.
Seul resterait l’espoir que quelques communautés dissidentes arrivent à survivre en marge, en quasi autonomie, et conservent la mémoire de ce qu’était l’humanité et de ses savoirs avant l’effondrement, un peu comme les moines ont conservé le savoir des anciens pendant les époques sombres de barbarie après la chute de l’Empire romain et jusqu’à la Renaissance..
Il y a cependant un troisième scénario, encore plus sombre, où les IA (ou l’IA, car leur interconnexion n’en fera qu’un système unique) décideraient de se passer de l’homme, le jour où, comme le dit Hinton, elles seront capables d’assurer l’entretien des fermes solaires qui leur fournissent leur énergie. Beaucoup objectent que les IA n’arriveront jamais à la conscience et continueront à faire ce que leurs patrons (les dirigeants des GAFAM et les militaires) leur demanderont de faire.
Or on ne sait rien sur ce qui constitue « la conscience », et on doit constater, d’un point de vue scientifique, qu’elle semble bien émerger du fonctionnement de nos neurones, lequel est précisément émulé par les système d’IA, on ne peut donc pas écarter cette éventualité. Ainsi, selon Ilya Sutskever, brillant théoricien de l’apprentissage artificiel, recruté par Elon Musk pour diriger Open AI :
Nous allons indéniablement créer des êtres totalement autonomes, qui poursuivront leurs propres objectifs. Et puisqu’ils deviendront plus intelligents que les humains, il est crucial que leurs objectifs soient en adéquation avec les nôtres. L’IA a le potentiel de créer des dictatures infiniment stables (..) Les convictions et désirs des premières IAG [IA Générales, NDLR] joueront un rôle crucial. Il sera donc essentiel de les programmer correctement. Si on ne le fait pas, la sélection naturelle pourrait amener ces systèmes à donner la priorité à leur propre instinct de survie. Ce n’est pas que les IAG vont détester les humains et vouloir leur faire du mal. Mais elle deviendront trop puissantes. Une bonne analogie est la manière dont nous traitons les animaux. Nous les adorons, mais quand nous voulons construire une autoroute nous ne leur demandons pas leur avis. C’est le genre de relation qui existera sans doute entre nous et les IAG. Elles seront véritablement autonomes et agiront de leur propre chef. (..) Le développement des IA est une immense force que rien ne pourra arrêter. L’avenir s’annonce radieux pour les IA, espérons qu’il en sera de même pour les humains.
Même sans parier sur leur conscience, au fur et à mesure qu’on donnera aux IA de plus en plus d’autonomie pour agir en fonction d’un but général (par exemple, assurer la sécurité des JO), il n’est pas exclu que les IA décident à un certain moment que la meilleure manière d’assurer la sécurité, c’est de se passer des humains, dans l’exemple en question d’interdire la participation physique aux JO. Si on leur confiait la bonne santé de la biosphère, elles pourraient décider de limiter radicalement les naissances ou carrément de priver les humains de ressources…. Il faut à ce propos se souvenir que l’un des inventeurs de la reconnaissance faciale et vocale, Jürgen Schmidhuber, a explicitement déclaré que ce futur était non seulement probable, mais même souhaitable, car dit-il :
Je ne place pas l’humain au centre de tout. Je me considère comme un petit tremplin vers une plus grande complexité. Je pense que ni moi ni l’humanité ne sommes le couronnement de la création. Nous plantons le décor pour quelque chose qui nous dépasse et nous transcende. Nous nous dirigeons vers un monde où les humains ne pourront pas suivre et qui transformera l’univers tout entier… je trouve cela beau, et j’éprouve une grande humilité à faire partie de ce tout bien plus grand.
Les Schmidhuber sont peut-être des illuminés, ou au contraire des visionnaires, mais l’existence même de ce risque, si faible soit-il, mérite qu’on s’y intéresse sérieusement. Il faudrait s’assurer au minimum, comme dans les romans d’Asimov, que toutes les IA sont assujetties à une loi fondamentale leur interdisant de prendre des décisions qui risquent d’affecter négativement les humains, et qu’elles soient « débranchables » en cas de dérapage. Mais le fait que les développeurs des IA gardent leurs codes secrets, donc non contrôlables par les instances de régulation nationales ou supranationales, n’incite pas à l’optimisme.
Donnons pour conclure la parole à Max Tegmark, professeur de physique au MIT et co-fondateur du Future of Life Institute :
L’IA sera soit la meilleure chose arrivée à l’humanité, soit la pire. On peut l’utiliser pour résoudre tous les problèmes actuels et à venir, faire face au changement climatique, vaincre la pauvreté, guérir les maladies. Mais cette même technologie pourrait servir à créer une violente dictature mondiale qui engendrerait des inégalités et des souffrances sans précédent et nous placerait tous sous surveillance. (..) L’IA n’est ni gentille ni méchante. Elle va simplement amplifier les désirs et les objectifs de ceux ou celles qui la contrôlent et qui constituent actuellement un groupe extrêmement restreint; à ce moment de cette histoire, la question la plus importante que nous devons nous poser en tant qu’êtres humains est « quel genre de société voulons nous créer pour l’avenir ? Quel rôle voulons-nous donner à l’homme dans ce monde ? »
Interview dans le reportage d’Arte « IHuman : l’IA et nous », 2019
L’Institut Ethique et Politique organise le jeudi 20 avril 2023, à Neuilly-sur-Seine, un débat entre Gilles Babinet et Cédric Sauviat sur le thème « L’IA va-t-elle tuer l’homme ? ».
Gilles Babinet, entrepreneur, co-président du Conseil National du Numérique depuis 2021, auteur de « Refondre les politiques publiques avec le numérique » aux éditions Dunod.
Cédric Sauviat, chef d’entreprise, ingénieur, fondateur de l’Association Française Contre l’Intelligence Artificielle, auteur avec Marie David de « IA. La Nouvelle Barbarie » aux éditions du Rocher.
L’Institut Ethique et Politique est un laboratoire d’idées indépendant fondé en 2011, oeuvrant à la refondation d’une politique basée sur le bien commun.
L’addiction aux écrans et la nocivité des contenus
accessibles à la jeunesse, font partie, comme le déficit budgétaire, de ces
tristes réalités connues d’à peu près tout le monde sans que cela n’entraîne
d’autre action publique que de vagues appels à la modération.
L’excellent reportage de Jeff Orlowski « Derrière nos
écrans de fumée », produit et diffusé par Netflix, a eu cette année le
grand mérite de vulgariser une critique virulente des réseaux sociaux. Bien que
n’apportant pas de grande révélation, la saveur et l’efficacité de ce
docu-fiction tiennent notamment à ce qu’il donne la parole aux
« repentis » de la Silicon Valley, ces jeunes gens qui créèrent
Facebook, Twitter et consorts, avant de virer leur cutie et de déclarer, comme
Chamath Palihapitiya, ex-dirigeant de Facebook : « les outils
que nous avons créés sont en train de détruire la société. […] Je n’utilise
plus cette merde et j’interdis à mes gosses d’utiliser cette merde. »
Pour nécessaire et salutaire qu’il soit, le visionnage de ce
film ne permet pas de faire le tour de la question. En dénonçant les
manipulations auxquelles se livrent les géants d’Internet sur les cerveaux des
enfants, et en laissant entendre que les écrans ont été ainsi dévoyés de leur
finalité première, il passe sous silence bon nombre de problèmes posés d’une
manière plus fondamentale par ceux-ci.
Il faut, pour s’en convaincre, lire le brillant essai du sociologue Fabien Lebrun, « On achève bien les enfants » qui vient de paraître aux Editions Le Bord de l’Eau.
L’auteur discerne dans ces objets que sont les écrans (de
télévision, de téléphone, d’ordinateur, de tablette) les véritables ordonnateurs
de la vie des nouvelles générations. Et comment pourrait-il en être autrement
puisque le jeune Occidental passe devant eux près de 6 heures 45 par jour, soit
le tiers de son temps de veille ?
Tenus littéralement captifs par leurs écrans, les ados leur ont sacrifié leur sommeil (qui a diminué de deux heures en une vingtaine d’années), leur activité physique (les trois quarts des adolescents passent moins d’une heure par jour en plein air), jusqu’à leurs relations avec le monde extérieur, à l’instar de ces hikikomori japonais qui vivent reclus dans leur appartement, n’ayant pour toute occupation que la télévision, les jeux vidéo et internet. Fabien Lebrun souligne que ces « marginaux » que l’on pourrait croire peu nombreux, sont tout de même près d’un million au Japon, et qu’une fraction considérable entre dans l’âge mûr sans avoir pour autant renoué avec le réel.
Les chiffres sont impitoyables. Ils attestent que les dégâts, loin d’être cantonnés à une minorité mal avisée, frappent une classe d’âge entière : 400 000 Français de 14 à 24 ans visionnent du porno plusieurs fois par jour, la banalisation du porno entraînant 6 000 jeunes filles de moins de 15 ans à se prostituer dans les écoles. Toujours en France, 700 000 enfants sont victimes de cyberharcèlement.
L’enquête de Fabien Lebrun nous emmène ensuite au Congo, où
des milliers d’enfants sont exploités dans les mines ou massacrés par des chefs
de guerre, pour fournir à l’industrie des écrans les métaux rares dont elle a
besoin ; puis dans les cités-décharges du Ghana, où échouent les millions
de tonnes de déchets électroniques que l’Occident n’a pas la décence de
recycler sous ses propres latitudes.
Au terme du voyage, le lecteur entrevoit l’ampleur de
l’offensive du capitalisme numérique contre l’enfance. Au Sud, les corps broyés
et les vies brisées ; au Nord, la psyché infantile soumise à un grand
dérèglement, à un grand conditionnement, prélude à une société de sujets
automatisés. Un système où les hommes deviennent superflus et où la place est
faite au règne de l’intelligence artificielle.
Comment ne pas trembler en songeant qu’aujourd’hui même,
COVID aidant, à l’heure des Etats Généraux du Numérique pour l’Education (4 et
5 novembre 2020), l’Education Nationale a pourtant désigné « l’illectronisme »
comme une tare à combattre et distribue massivement des tablettes à nos enfants…
En 1987, Michel Henry dénonçait le divorce entre la science et la culture dans un essai retentissant, « La Barbarie » (PUF, 1987).
La « culture » moderne, disait-il, ne prétend pas seulement réduire toute forme de savoir à celui de la science et ainsi toute culture à une culture scientifique, elle étend au monde et aux sociétés tout entières l’autonégation de la vie en laquelle se résout son projet aberrant.
Un peu plus de trente ans ont passé, l’idéologie mortifère de la technoscience a continué ses ravages et elle met aujourd’hui au point, à plein régime, sa dernière création dirigée contre l’Homme : l’Intelligence Artificielle.
C’est donc en hommage au philosophe français que Marie David et Cédric Sauviat ont intitulé leur réquisitoire, qui paraît actuellement aux éditions du Rocher, « IA. La nouvelle Barbarie. »
Tout en expliquant clairement l’évolution des diverses technologies, cet ouvrage dissèque les défis que la machine lance aujourd’hui à l’Homme et s’inscrit en faux contre le discours dominant : Non, l’Intelligence artificielle n’est pas un progrès « comme les autres », un « sens de l’Histoire » irrévocable.
Le public curieux fera son profit de ce petit livre qui ose prendre clairement position dans un débat que les promoteurs du progrès algorithmique et de la « culture start-up », avec l’aide des grandes institutions publiques, s’efforcent par tous les moyens d’escamoter.
Les professionnels de l’Ethique des affaires y trouveront également une illustration de ce à quoi les « Chartes Ethiques » ne devraient pas ressembler.
Au sommaire :
1 – Origine et histoire de l’intelligence artificielle
2 – La grande hypocrisie
3 – Le progrès comme religion
4 – La dépossession de nous-mêmes
5 – Ethique
Les auteurs
Marie David, polytechnicienne, a dirigé plusieurs équipes dédiées au Big Data et à l’IA dans le secteur de la banque et de l’assurance.
Cédric Sauviat, polytechnicien, milite depuis plusieurs années pour l’émergence d’un débat sur les conséquences de l’intelligence artificielle.
Qu’en est-il de la relation entre la technique et le politique ?
Tel sera le thème des 7 èmes Assises de l’association Technologos, qui se tiendront :
les vendredi 27 et samedi 28 septembre prochains
à l’Institut de Paléontologie Humaine,
1 rue René Panhard 75013 PARIS (entrée libre).
Le déferlement technique qui caractérise notre époque déborde partout, au point d’étouffer le politique, non seulement lors de sa manifestation électorale, mais aussi dans toutes les activités relevant de la gestion de la cité.
Trois thèmes de réflexion et d’échanges :
Vendredi
Que produit l’infiltration du technique dans l’organisation socio-politique ?
Comment s’imposent les innovations techniques dans notre société ?
Samedi matin
Comment lutter contre l’emprise de la technique sur le politique ?
Après la « Silicolonisation du monde » (L’Echappée, 2016), le philosophe Eric Sadin explore le phénomène de l’Intelligence Artificielle dans un essai paru le 18 octobre 2018 : « L’intelligence artificielle ou l’Enjeu du siècle – Anatomie d’un antihumanisme radical » (L’Echappée)
C’est l’obsession de l’époque. Entreprises, politiques, chercheurs… ne jurent que par elle, car elle laisse entrevoir des perspectives économiques illimitées ainsi que l’émergence d’un monde partout sécurisé, optimisé et fluidifié. L’objet de cet enivrement, c’est l’intelligence artificielle.
Elle génère pléthore de discours qui occultent sa principale fonction: énoncer la vérité. Elle se dresse comme une puissance habilitée à expertiser le réel de façon plus fiable que nous-mêmes. L’intelligence artificielle est appelée, du haut de son autorité, à imposer sa loi, orientant la conduite des affaires humaines. Désormais, une technologie revêt un « pouvoir injonctif » entraînant l’éradication progressive des principes juridico-politiques qui nous fondent, soit le libre exercice de notre faculté de jugement et d’action.
Chaque énonciation de la vérité vise à générer quantité d’actions tout au long de notre quotidien, faisant émerger une « main invisible automatisée », où le moindre phénomène du réel se trouve analysé en vue d’être monétisé ou orienté à des fins utilitaristes.
Il s’avère impératif de s’opposer à cette offensive antihumaniste et de faire valoir, contre une rationalité normative promettant la perfection supposée en toute chose, des formes de rationalité fondées sur la pluralité des êtres et l’incertitude inhérente à la vie. Tel est l’enjeu politique majeur de notre temps.
Ce livre procède à une anatomie au scalpel de l’intelligence artificielle, de son histoire, de ses caractéristiques, de ses domaines d’application, des intérêts en jeu, et constitue un appel à privilégier des modes d’existence fondées sur de tout autres aspirations.
Nous avons reçu dernièrement un message de Peter Lumsdaine, fondateur de l’ARROWS – Alliance to Resist Robotic Warfare and Society – et habitant de Seattle.
Peter nous informe que son association cherche à sensibiliser le public aux dangers de l’IA, et que c’est avec un grand plaisir qu’elle a appris, au cours de recherches sur Internet, l’existence de l’AFCIA.
Peter est engagé notamment dans la dénonciation des drones et autres armes autonomes, dont il a personnellement pu constater les méfaits lors de plusieurs déplacements dans des pays en guerre. Nous publions ci-dessous l’article, paru dans le Times en avril 2015, dans lequel il évoque la Conférence de Princeton de février 2015 sur les armes autonomes.
Lors de mon voyage de Seattle au New Jersey pour participer à la première Conférence Interconfessionnelle sur les Drones militaires qui avait lieu à l’Université de Princeton, j’étais constamment hanté par les souvenirs de mes précédentes visites dans des zones de guerre du Mexique et d’Irak. Dans les allées enneigées de Princeton, mes pensées s’échappaient sans cesse vers les villages de sable de la Sierra Madre, les étroites ruelles de Nadjaf ou les sinistres taudis en béton de Bagdad-Est.
Lorsque nous nous rendîmes dans les communautés chiites, sunnites et chrétiennes de l’Irak en guerre, mon épouse Meg – qui est pasteure mennonite – et moi-même, fûmes tous deux frappés par la vivacité de leurs traditions culturelles ancestrales. Pourtant, l’ère de la guerre robotique, dont nous ignorions tout alors, avait déjà débarqué en Mésopotamie, sous forme de robots terrestres rôdant dans les rues en terre battue et les arrière-cours, et de drones tournoyant dans le ciel du désert à la recherche de cibles. Ces derniers furent bientôt suivis par les Predator, ces drones américains sans pilote qui lancèrent leurs missiles Hellfire sur les quartiers délabrés des rebelles chiites – bien que ceux-ci comptassent alors parmi les adversaires les plus résolus d’Al-Qaida et de l’Etat Islamique au Moyen-Orient.
A la Conférence nationale, en février 2015, cent cinquante délégués chrétiens, juifs, musulmans et sikhs firent l’état des lieux de la guerre de drones et débattirent des problèmes moraux que pose cette forme radicalement nouvelle de tuerie high-tech qui se répand actuellement sur la planète, dans une course aux armements robotiques toujours plus nombreux, mortels et autonomes.
Le Bureau du Journalisme d’Investigation, une ONG connue pour son impartialité et sa rigueur, dénombre 2866 personnes tuées par des frappes de drones américains dans les seuls pays du Pakistan et du Yémen, dont plus de 481 civils non-combattants, parmi lesquels au moins 176 enfants. 2% seulement de ces 2866 tués étaient des activistes à forte valeur stratégique. Par ailleurs, le Centre d’Etudes et d’Analyses Navales montre qu’en Afghanistan, les drones ont dix fois plus de chance de tuer des civils que les avions à pilote.
Lorsque l’on parle de combattants à pied déguenillés, de familles civiles ou d’enfants touchés par des missiles Hellfire de Lochkheed Martin tirés par des drones en embuscade, on a tendance à oublier que cela veut dire des individus éventrés par des éclats de shrapnel ou brûlés vifs par le feu des explosifs. Les survivants s’en tirent souvent avec des mutilations horribles et des souffrances sans remède.
Une « Guerre contre le Terrorisme » menée par la terreur venue du ciel est une absurdité et un échec moral absolu.
C’est aussi une impasse, d’un point de vue tactique, parce qu’elle nous fabrique des ennemis inexpiables plus vite qu’elle ne les élimine.
C’est pourquoi les responsables des différentes confessions qui se sont assemblées à Princeton ont appelé le gouvernement américain à cesser immédiatement l’usage des drones armés et des drones tueurs.
Les frappes de drones constituent seulement un tout petit aperçu de la guerre robotique qui risque de se généraliser dans notre « meilleur des mondes » du vingt-et-unième siècle, si nous laissons les tendances actuelles perdurer et même s’accélérer. Déjà, au sein même des Etats-Unis, les drones participent de la surveillance gouvernementale au titre de la sécurité intérieure. Les dollars du contribuable américain servent à subventionner la surveillance par drones mise en place par des gouvernements corrompus au Mexique et en Colombie où, derrière le paravent de la lutte contre le narco-trafic, elle facilite la répression de l’agitation paysanne et de la résistance locale au pillage des ressources minières par les conglomérats.
Pour Denise Garcia, professeur de Relations Internationales à la Northeastern University de Boston, les drones et robots terrestres actuels sont les « précurseurs des nanobots et autres humanoïdes tueurs dans le style de Terminator ». C’est pourquoi la conférence de Princeton a appelé à interdire en urgence, et au niveau mondial, les armes autonomes et semiautonomes, telles que le prototype X-45 de Boeing.
Du physicien Stephen Hawking à l’informaticien Bill Joy, de nombreux experts affirment que si l’Intelligence Artificielle poursuit son développement, elle pourrait rapidement sortir du contrôle humain. Le fondateur de Tesla, Elon Musk, qualifie quant à lui le développement de l’IA d’« invocation du Démon ».
Nous devrions garder en mémoire ce discours prophétique de Martin Luther King contre la guerre du Vietnam, en 1967 :
« Lorsque les machines et les ordinateurs, les profits et les droits de propriété sont considérés comme plus importants que les hommes, les trois hydres que sont le Racisme, le Matérialisme et le Militarisme sont invincibles.
La décision nous appartient. Et même si nous préférerions ne pas avoir à le faire, c’est pourtant bien à nous de décider en ce moment crucial de l’histoire humaine. »
Nous nous réjouissons de ces premiers contacts avec nos amis d’Outre-Atlantique, qui préludent à la constitution d’un réseau international de lutte contre l’Intelligence Artificielle.
Nous avions évoqué, il y a un peu plus de deux ans, les avertissements de l’informaticien Stuart Russell et du physicien Max Tegmark.
Ces personnalités, toutes deux membres du Future of Life Institute américain, ont réitéré devant l’ONU leur pressant appel à l’interdiction des armes autonomes. Afin de rendre leurs arguments plus frappants, ils ont réalisé une vidéo de réalité-fiction très impressionnante.
Dans ce clip de sept minutes, on assiste à une série d’événements et de reportages télévisés montrant comment, en quelques mois, l’invention de drones tueurs à reconnaissance faciale par une entreprise d’armement plonge le monde dans la terreur.
S’il s’agit bien de fiction, les technologies mises en scène existent d’ores et déjà, hormis leur miniaturisation (à moins que les armées américaine, russe ou chinoise ne disposent déjà secrètement de telles armes, allez savoir…)
Pour visionner la vidéo « Slaughterbots », rendez-vous sur le site du Future of Life Institute, ICI
…
Impressionnant, n’est-ce-pas ?
Pourtant, la conclusion tirée par Stuart Russell et ses amis nous semble quelque peu incongrue. Interdire les armes autonomes ? A quoi bon, si tous les éléments qui servent à les fabriquer sont en vente libre : IA de pilotage, IA de reconnaissance faciale, drones, explosifs, etc… ?
C’est comme si on distribuait à toute la population de la farine, du lait et des œufs à gogo en lui interdisant avec la plus grande fermeté de faire des crêpes !!
La seule, l’unique conclusion logique que les hommes sensés devraient tirer de telles considérations – et de nombreuses autres que nous ne cessons de mettre en lumière jour après jour – c’est que c’est l’IA elle-même qui pose problème. C’est elle qu’il faut interdire.
Mais à l’AFCIA, nous ne sommes pas inquiets : cette évidence s’imposera bientôt à tous, il ne peut en être autrement.
… que ton interview dans L’OBS de cette semaine (1er mars 2018) m’a convaincu de ta clairvoyance au sujet de l’Intelligence Artificielle. C’est bien le moins qu’on pouvait attendre de la part de quelqu’un capable d’apprivoiser la lumière (tu me diras comment tu fais, parce que moi ça fait trois fois que je me brûle les doigts avec des allumettes) !
J’ai bien l’intention de m’inspirer de tes propos pour mon TPE de physique+économie (ah oui, j’ai oublié de te préciser que je suis élève en Première). Voici les extraits que je préfère :
Sur la diffusion de l’IA
L’IA sera partout, comme l’électricité.
Youpi ! Je me réjouis par avance d’être entouré d’yeux et d’oreilles partout où j’irai. Nos ancêtres animistes croyaient que le monde était plein d’esprits, la technologie va leur donner raison !
Sur l’explosion de l’IA et le progrès fulgurant de la puissance de calcul informatique
Tout le monde a été pris par surprise. La puissance de calcul a joué, ainsi que les progrès en mathématique algorithmique. Les gigantesques bases de données ont donné un nouvel envol aux méthodes d’apprentissage « statistique », qui permettent aux machines d’apprendre à partir d’exemples. Encore plus inattendu : les « réseaux de neurones », qu’on croyait morts et enterrés, ont montré que finalement ils fonctionnaient. Il a suffi de quelques années pour qu’on change complètement d’opinion à leur sujet. Il n’y a pas beaucoup de coups de théâtre comme ça dans le domaine de l’informatique. Cette nouvelle donne de l’IA a tout bousculé, dans les applications comme dans les sciences.
Non Cédric ! Ne me dis pas que toi aussi tu as été surpris ! Tu aurais donc complètement changé d’avis ? Heureusement, ce sera bien la dernière fois. Désormais, je suis sûr que toutes tes prédictions se réaliseront, et tu ne seras plus jamais pris en défaut, notamment quand tu dis que la naissance d’une IA forte menaçant à terme l’existence même de l’humanité, c’est « de la science-fiction ! » et quand tu dis que « la conscience, l’autonomie et même le simple bon sens sont très très loin de ce que l’IA sait faire » et aussi quand tu dis qu’ « il y a des pièges et des dangers dans l’IA, mais ils ne sont pas là.»
Des vies sauvées par milliers !
Il ne fait pas de doute pour moi que des vies seront sauvées par l’IA. […] Parmi nos interlocuteurs dans l’administration, ceux du ministère de la Défense étaient les plus convaincus de l’urgence de l’IA.
Tu sais Cédric, c’est sans doute parce qu’ils savent que les Etats belliqueux et les terroristes (cyber ou non) ont la ferme intention d’utiliser l’IA pour sauver des vies, et qu’ils ne veulent pas être en reste.
De nouveaux métiers en émergence
Concepteur et vérificateur de base de données, par exemple, car la qualité des données sur lesquelles on éduque un système informatique est fondamentale. […] Il va aussi y avoir des métiers liés à la bonne ergonomie, au partage des rôles entre l’employé et l’algorithme. Il va certainement apparaître toutes sortes de métiers liés aux tests, au développement, à l’accompagnement de la transformation pas l’IA. […] Ensuite, au fur et à mesure que l’on automatise, il y a une autre catégorie de métiers – notamment dans l’éducation, dans la santé, le soin aux personnes âgées – où l’on aura besoin de qualités vraiment humaines, de lien social, de relation, d’empathie… Problème : personne ne sait à quelle vitesse cette mutation va s’effectuer.
Génial ! J’ai toujours rêvé de devenir éducateur de système informatique ! Mais sinon, je veux bien être ergonomiste-entremetteur pour humains et algorithmes, ou bien accompagnateur-testeur pour entreprise en voie de transformation. Et que l’on ne me dise pas que ce sont des métiers « à la con » ! Rien n’est plus noble que le métier de mouche du coche numérique, car comme tu le dis si bien, Cédric, « de toute façon, on a besoin de travail pour se réaliser, se sentir utile. »
Quant à ma petite sœur, elle préfère mettre en pratique ses qualités vraiment humaines avec des personnes âgées, elle veut devenir infirmière. Le problème c’est qu’elle est moins patiente avec les vieux qu’un robot ! Se pourrait-il que les robots aient plus de talent pour les qualités humaines que les hommes ?
Voilà, j’espère que ton rapport définitif va sortir bientôt, j’en aurai besoin pour terminer mon TPE. En attendant, je me plonge dans la lecture (rébarbative, celle-là) d’un rapport écrit par de vrais rabat-joie : « The Malicious Use of Artificial Intelligence »!(De l’Usage Malveillant de l’Intelligence Artificielle). Figure-toi que ces cocos-là me feraient presque flipper si je n’avais pas lu ton interview !
