Intelligence Artificielle : risque énorme ou avenir radieux pour l’humanité ?

par Christian Castellanet, ingénieur agronome, docteur en écologie, membre de l’association Les Citoyens en Alerte

Ces derniers temps, les prouesses de Chat GTP, un logiciel conversationnel capable de répondre à des questions ardues et de composer des rapports ou même des programmes informatiques, ont défrayé la chronique. Elles ont été suivies par des démonstrations de création de faux enregistrements audio par Vall-E de Microsoft et d’images de synthèse et de photomontages impressionnants. Quant aux vidéos de synthèse, elles existent déjà depuis plusieurs années.

Selon certains, pas d’inquiétude à se faire, les bénéfices de ces IA vont largement supplanter leurs inconvénients. Comme l’a déclaré Geoffrey Hinton, considéré comme un des pères de l’IA, qui vient de démissionner de Google, non seulement les IA apprennent vite, mais elles sont capables d’accumuler une énorme masse d’information et de communiquer les résultats entre IA quasi instantanément.

Prenons par exemple le domaine du diagnostic médical. Un médecin expérimenté a peut-être en mémoire les dossiers de quelques milliers de patients, et peut donc se servir de son expérience pour améliorer ses diagnostics en cas de symptômes inhabituels ou atypiques. Les IA sont capables non seulement d’ingérer l’ensemble des dossiers des patients informatisés, et de faire des recherches statistiques quasi instantanées à grande échelle en échangeant leurs découvertes avec les autres IA en temps réel. De ce fait elles devraient devenir bien meilleures que le plus expérimenté des médecins en peu de temps.

Sont-elles réellement « intelligentes » ou s’agit-il de simples machines qui n’apprennent qu’en aspirant tout le savoir humain ? Pourront-elles accéder à une conscience propre ? A vrai dire le débat est quelque peu métaphysique, tout le monde s’accordant pour dire que les IA n’ont pas la même intelligence que l’homme, elles ont une intelligence logique très développée mais (pour le moment du moins) très peu d’intuition et zéro intelligence affective. Ce qui est important, c’est ce qu’elles sont capables de faire dès maintenant, et quelles conséquences cela peut avoir pour l’humanité.

Quelles sont ces conséquences prévisibles de l’accélération rapide des capacités de ces IA ?

On se demande quels boulots ne vont pas être supplantés par les IA. La révolution industrielle, puis l’automatisation ont déjà fait disparaître la plupart des emplois manuels dans l’industrie ou l’agriculture. Avec cette nouvelle vague, ce sont tous les emplois qualifiés qui vont se retrouver en concurrence avec les IA : depuis les médecins déjà cités, aux professeurs, aux designers, en passant par les policiers, les chauffeurs routiers, les pilotes d’avion, les militaires, les producteurs de série télévisées, les journalistes…. On sait déjà que des IA ont réussi avec succès l’examen du barreau (pour devenir avocats) et un examen d’ingénieur. Dans les deux cas cela montre qu’elles peuvent résoudre des problèmes concrets, d’ordre professionnel, aussi bien ou mieux que ne le ferait un avocat ou un ingénieur, plus rapidement et à un coût bien moindre. Certes l’avocat restera peut-être nécessaire pour une plaidoirie basée sur la capacité de provoquer l’empathie des jurés en cour d’assises, mais si l’on s’en tient à l’argumentation juridique et à l’analyse de la jurisprudence qui font sans doute 80% de son travail, l’IA fera mieux et beaucoup moins cher que lui. De même l’ingénieur qui doit planifier un chantier pourra être très vite supplanté par la machine. Les médecins, qui font de plus en plus de téléconsultations où ils se contentent de poser quelques questions et de prescrire des traitements ou examens standards pourront être remplacés par une IA qui fera mieux et surtout moins cher qu’eux. Des élèves du secondaire ou des prépas ont d’ores et déjà décidé d’arrêter leurs cours particuliers en constatant que Chat GPT répondait mieux à leurs questions. Organiser des cours par correspondance interactifs va devenir très facile,
dès lors qu’il s’agit de transmettre des connaissances et des savoir-faire, l’IA pourra le faire mieux et moins cher que les professeurs humains. Le seul avantage des humains restera dans l’enseignement de la sociabilité et le partage des valeurs éthiques, domaine dans lequel ils ont cependant de plus en plus de difficulté à faire passer leur message…

A l’autre extrémité de l’échelle, les caissières sont déjà massivement remplacées par des machines, la surveillance pourra se faire de plus en plus par des IA travaillant sur video avec reconnaissance faciale, comme c’est déjà prévu pour les JO de Paris. L’autorisation de véhicules autonomes pour remplacer les taxis , les camionneurs et les livreurs n’est qu’une question de quelques années, voire de mois…

On a vu aussi que des images ou musiques créées par des IA ont remporté la préférence du public sur des œuvres créées par des graphistes ou compositeurs humains…

En 2017, des chercheurs de l’Université d’Oxford ont interrogé 352 spécialistes de l’IA et de l’apprentissage automatique. Les chercheurs ont prédit que les machines seraient meilleures que les humains dans le domaine de la traduction de langues d’ici 2024, qu’elles seraient capables de rédiger des essais d’ici 2026, de conduire des camions d’ici 2027 et travailler dans le commerce et la vente en 2031. Selon les chercheurs, il y a 50 % de chance pour que l’intelligence artificielle dépasse les humains dans tous les domaines en seulement 45 ans (donc d’ici 2060) et qu’elle remplace tous les emplois humains en 120 ans. Certains pensent cependant que cela pourrait être plus rapide, et l’on voit que l’IA a déjà été plus rapide (pour la rédaction des essais notamment).

Nombre de commentateurs insistent sur le fait que, comme lors de la première révolution industrielle, beaucoup d’emplois vont disparaitre, mais de nouveaux vont être créés, selon le processus de « destruction créatrice » théorisé par Schumpeter. On peut sérieusement en douter, en tout cas à court et moyen terme ; car ce ne sont plus seulement les travaux manuels plus ou moins pénibles qui sont concernés, ce sont tous les emplois demandant une intelligence logique. Le rythme du changement et le choc technologique va être beaucoup plus rapide et massif que ceux des révolutions industrielles précédentes, à moins que des régulations très fortes soient mises en place pour limiter ou interdire l’utilisation des IA dans de nombreuses fonctions. Sur le plan de l’emploi, le choc sera très fort. En admettant que les IA permettent à un avocat de traiter 5 fois plus de dossiers, ou à un médecin 5 fois plus de patients, en gardant la fonction « noble » du dialogue attentif et de l’écoute active du patient, que deviendront les 4 docteurs ou avocats qui ne seront plus nécessaires ? Comme le dit Yuval Harari, l’auteur d’ « Homo deus » :

Il est hautement probable que les
algorithmes et les robots assumeront non seulement des emplois industriels mais aussi des prestations de service. A quoi sert un chauffeur de poids-lourd si des véhicules autonomes font le travail à moindre coût et de manière plus sûre ? Parmi les métiers menacés figurent aussi les représentants de commerce, les courtiers en bourse et les employés de banque. Enseignants et médecins ont aussi du souci à se faire. (..) Je doute qu’un camionneur quinquagénaire sans emploi puisse être aisément recyclé en designer de réalité virtuelle. Le problème est la vitesse inouïe du progrès. Naguère, des innovations techniques comme l’imprimerie ou la machine à vapeur se diffusaient très lentement, la société et le politique avaient le temps de s’adapter aux réalités nouvelles.

A partir de là, on a deux visions possibles : dans une perspective optimiste, grâce aux machines et aux IA, le temps de travail peut être réduit considérablement pour tous, chacun n’a plus besoin de travailler qu’une heure par jour ou une demi-journée par semaine, le reste du temps est consacré aux loisirs, aux contacts sociaux, à l’art, aux voyages en utilisant des technologies douces, vélo ou voile. Ceci se combine avec une réduction de l’utilisation des ressources fossiles et non renouvelables, un mode de
vie basé sur la sobriété matérielle, le respect de la nature et de l’homme dans sa diversité.

A l’opposé, comme le dit Geoffrey Hinton, dans un système capitaliste non régulé, cela ne peut se traduire que par un appauvrissement de la majorité de la population. On voit déjà l’accumulation de richesse rapide des patrons et actionnaires des GAFAM, qui ne peut que s’accentuer si le recours aux IA pour la production et les services se généralise. Le fait que les dirigeants d’Open IA aient décidé, contrairement à leurs engagements initiaux, et au titre même de leur entreprise, de garder les codes secrets, est évidemment à relier à ce désir de monopoliser la richesse produite. Ceci ne pourra être compensé, selon Hinton, que par un système de revenu universel, destiné à acheter la paix sociale, tandis que quelques membres de l’élite deviendront encore plus ultra-riches Il ne précise pas qui cela concernera, mais on peut parier que cela inclura tous ceux qui sont capables de commander les IA et de les perfectionner, ainsi que ceux qui organiseront la manipulation des masses pour qu’elles ne se révoltent pas. Il y aura peut-être place pour une classe moyenne réduite (disons 10 % de la population) qui assurera les fonctions de conseil personnalisé, d’appui psychologique, de contrôle
des erreurs des IA. Et cela sera exactement la même chose du côté du capitalisme d’Etat chinois ou russe…

D’autres théoriciens et promoteurs des IA, tels Raymond Kurzweil, croient à
l’avènement du transhumanisme, c’est à dire d’hybrides hommes-machines
beaucoup plus évolués qu’Homo sapiens, et qui le domineront nécessairement. C’est une version cauchemardesque (pour la plupart d’entre nous du moins) du scénario élitiste, dans lequel quelques hyper privilégiés accèderont non seulement à un niveau de capacité intellectuelles et physique jamais atteint, mais également à l’immortalité. Pour leurs détracteurs, les promoteurs de « l’espèce supérieure » et candidats à leur propre augmentation obéissent à une logique guerrière de l’évolution dont ils veulent prendre le contrôle. Moins hypocrite, le cybernéticien anglais Kevin Warwick l’a ainsi résumé :

Ceux qui décideront de rester humains et refuseront de s’augmenter auront un sérieux handicap. Ils constitueront une sous-espèce et formeront les chimpanzés du futur.

Cela sera d’autant plus facile à faire accepter à la population qu’avec les IA, on peut d’ores et déjà manipuler l’opinion publique à grande échelle en programmant les messages ciblés (les « nudges ») qui font mouche pour chaque catégorie de population sur Internet. On l’a vu avec le scandale de Cambridge Analytica, ou encore les manipulations délibérées des élections anglaises, américaines et françaises via Internet , puis la manipulation de l’opinion publique lors du COVID. Toutes les données que vous fournissez à votre smartphone, les sites que vous visitez, vos likes, vos tweets sont analysés en temps réel pour déterminer quel message est susceptible de remporter votre adhésion et de vous faire voter pour tel pour tel candidat ou au contraire de vous faire rejoindre des mouvements sectaires ou radicaux selon les instructions données à l’IA.

Dans ce futur dystopique, la dissidence sera quasiment impossible, car les techniques de surveillance de masse, la reconnaissance faciale, le pistage en temps réel de tous et toutes via votre smartphone ou via les enregistrements des smartphones des autres rendront impossible d’échapper à la surveillance des IA, ce qui permettra de généraliser les systèmes de crédit social ou d’amendes / récompenses automatiques visant à conditionner tout un chacun à rester bien sage, sans avoir besoin de recourir à des méthodes de coercition trop visibles .

La dépendance des humains aux machines, déjà considérable, va s’accentuer et la grande majorité sera dans l’incapacité de se débrouiller sans son smartphone et Internet. La capacité d’attention et d’apprentissage des enfants exposés toute la journée à Internet est déjà en forte diminution dans les écoles. Il semble que le QI de la population soit déjà en train de baisser, bien que peu de données soient disponibles pour la France. Le niveau scolaire baisse de manière préoccupante, particulièrement en mathématiques. Plus personne n’étudie une carte avant de se déplacer, on attend que le GPS nous indique la route. On lit de moins en moins de livres ou de journaux, on se contente de surfer sur Internet. On ne fait plus d’efforts de mémoire, puisque Google nous retrouve tout ce que l’on cherche, et ChatGPT va le faire mille fois mieux et plus rapidement.

En fin de compte l’éducation ne sert plus à rien, sauf peut-être pour une minorité qui voudra continuer à penser par elle-même, soit parce qu’elle appartient à l’oligarchie des manipulateurs, soit parce que
certains feront le choix radical de couper tout lien avec le système – entendons ici surtout avec Internet- et de recréer des communautés autonomes quant à leurs besoins de base – en acceptant un retour à l’âge du bronze et à un mode de vie très frugal – le système Amish qui fait si peur à E. Macron. En supposant que le nouveau système militaro-IA décide de laisser vivre ces communautés résistantes en marge de son système, en acceptant de leur laisser quelques espaces de vie et quelques ressources, un peu dans le genre des réserves indiennes établie par le gouvernement des Etats-Unis après la soumission et le quasi génocide des indiens, on pourrait arriver à ce que prédisent certains Décroissants, c’est à dire que l’immense majorité de l’humanité  tombera dans la servitude volontaire et se satisfera du pain et des jeux que le système lui fournira. Le développement d’univers virtuels parallèles de type Metaverse, inspirés par les jeux en lignes qui causent déjà de sérieux problèmes d’addiction chez les adolescents, mais à une puissance dix, pourrait permettre de la maintenir dans un état de dépendance totale, avec la fin de toutes les interactions sociales physiques. Il suffirait dès lors de garder les corps devenus quasiment inutiles au chaud, avec une alimentation de synthèse minimale, pour parachever cette version moderne et cauchemardesque du « pain et des jeux » fournis par l’Empire romain aux citoyens oisifs et inutiles de l’époque décadente.

Seul resterait l’espoir que quelques communautés dissidentes arrivent à survivre en marge, en quasi autonomie, et conservent la mémoire de ce qu’était l’humanité et de ses savoirs avant l’effondrement, un peu comme les moines ont conservé le savoir des anciens pendant les époques sombres de barbarie après la chute de l’Empire romain et jusqu’à la Renaissance..

Il y a cependant un troisième scénario, encore plus sombre, où les IA (ou l’IA, car leur interconnexion n’en fera qu’un système unique) décideraient de se passer de l’homme, le jour où, comme le dit Hinton, elles seront capables d’assurer l’entretien des fermes solaires qui leur fournissent leur énergie. Beaucoup objectent que les IA n’arriveront jamais à la conscience et continueront à faire ce que leurs patrons (les dirigeants des GAFAM et les militaires) leur demanderont de faire.

Or on ne sait rien sur ce qui constitue « la conscience », et on doit constater, d’un point de vue scientifique, qu’elle semble bien émerger du fonctionnement de nos neurones, lequel est précisément émulé par les système d’IA, on ne peut donc pas écarter cette éventualité. Ainsi, selon Ilya Sutskever, brillant théoricien de l’apprentissage artificiel, recruté par Elon Musk pour diriger Open AI :

Nous allons indéniablement créer des êtres totalement autonomes, qui poursuivront leurs propres objectifs. Et puisqu’ils deviendront plus intelligents que les humains, il est crucial que leurs objectifs soient en adéquation avec les nôtres. L’IA a le potentiel de créer des dictatures infiniment stables (..) Les convictions et désirs des premières IAG [IA Générales, NDLR] joueront un rôle crucial. Il sera donc essentiel de les programmer correctement. Si on ne le fait pas, la sélection naturelle pourrait amener ces systèmes à donner la priorité à leur propre instinct de survie. Ce n’est pas que les IAG vont détester les humains et vouloir leur faire du mal. Mais elle deviendront trop puissantes. Une bonne analogie est la manière dont nous traitons les animaux. Nous les adorons, mais quand nous voulons construire une autoroute nous ne leur demandons pas leur avis. C’est le genre de relation qui existera sans doute entre nous et les IAG. Elles seront véritablement autonomes et agiront de leur propre chef. (..) Le développement des IA est une immense force que rien ne pourra arrêter. L’avenir s’annonce radieux pour les IA, espérons qu’il en sera de même pour les humains.

Même sans parier sur leur conscience, au fur et à mesure qu’on donnera aux IA de plus en plus d’autonomie pour agir en fonction d’un but général (par exemple, assurer la sécurité des JO), il n’est pas exclu que les IA décident à un certain moment que la meilleure manière d’assurer la sécurité, c’est de se passer des humains, dans l’exemple en question d’interdire la participation physique aux JO. Si on leur confiait la bonne santé de la biosphère, elles pourraient décider de limiter radicalement les naissances ou carrément de priver les humains de ressources…. Il faut à ce propos se souvenir que l’un des inventeurs de la reconnaissance faciale et vocale, Jürgen Schmidhuber, a explicitement déclaré que ce futur était non seulement probable, mais même souhaitable, car dit-il :

Je ne place pas l’humain au centre de tout. Je me considère comme un petit tremplin vers une plus grande complexité. Je pense que ni moi ni l’humanité ne sommes le couronnement de la création. Nous plantons le décor pour quelque chose qui nous dépasse et nous transcende. Nous nous dirigeons vers un monde où les humains ne pourront pas suivre et qui transformera l’univers tout entier… je trouve cela beau, et j’éprouve une grande humilité à faire partie de ce tout bien plus grand.

Les Schmidhuber sont peut-être des illuminés, ou au contraire des visionnaires, mais l’existence même de ce risque, si faible soit-il, mérite qu’on s’y intéresse sérieusement. Il faudrait s’assurer au minimum, comme dans les romans d’Asimov, que toutes les IA sont assujetties à une loi fondamentale leur interdisant de prendre des décisions qui risquent d’affecter négativement les humains, et qu’elles soient « débranchables » en cas de dérapage. Mais le fait que les développeurs des IA gardent leurs codes secrets, donc non contrôlables par les instances de régulation nationales ou supranationales, n’incite pas à l’optimisme.

Donnons pour conclure la parole à Max Tegmark, professeur de physique au MIT et co-fondateur du Future of Life Institute :

L’IA sera soit la meilleure chose arrivée à l’humanité, soit la pire. On peut l’utiliser pour résoudre tous les problèmes actuels et à venir, faire face au changement climatique, vaincre la pauvreté, guérir les maladies. Mais cette même technologie pourrait servir à créer une violente dictature mondiale qui engendrerait des inégalités et des souffrances sans précédent et nous placerait tous sous surveillance. (..) L’IA n’est ni gentille ni méchante. Elle va simplement amplifier les désirs et les objectifs de ceux ou celles qui la contrôlent et qui constituent actuellement un groupe extrêmement restreint; à ce moment de cette histoire, la question la plus importante que nous devons nous poser en tant qu’êtres humains est « quel genre de société voulons nous créer pour l’avenir ? Quel rôle voulons-nous donner à l’homme dans ce monde ? »

Interview dans le reportage d’Arte « IHuman : l’IA et nous », 2019

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée.

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.