Auteur : afcia

7/03/18 – « Cher Cédric Villani, je t’écris pour te dire …

/ afcia / 7 Comments

… que ton interview dans L’OBS de cette semaine (1er mars 2018) m’a convaincu de ta clairvoyance au sujet de l’Intelligence Artificielle. C’est bien le moins qu’on pouvait attendre de la part de quelqu’un capable d’apprivoiser la lumière (tu me diras comment tu fais, parce que moi ça fait trois fois que je me brûle les doigts avec des allumettes) !

J’ai bien l’intention de m’inspirer de tes propos pour mon TPE de physique+économie (ah oui, j’ai oublié de te préciser que je suis élève en Première). Voici les extraits que je préfère :

Sur la diffusion de l’IA

L’IA sera partout, comme l’électricité.

Youpi ! Je me réjouis par avance d’être entouré d’yeux et d’oreilles partout où j’irai. Nos ancêtres animistes croyaient que le monde était plein d’esprits, la technologie va leur donner raison !

 

Sur l’explosion de l’IA et le progrès fulgurant de la puissance de calcul informatique 

Tout le monde a été pris par surprise. La puissance de calcul a joué, ainsi que les progrès en mathématique algorithmique. Les gigantesques bases de données ont donné un nouvel envol aux méthodes d’apprentissage « statistique », qui permettent aux machines d’apprendre à partir d’exemples. Encore plus inattendu : les « réseaux de neurones », qu’on croyait morts et enterrés, ont montré que finalement ils fonctionnaient. Il a suffi de quelques années pour qu’on change complètement d’opinion à leur sujet. Il n’y a pas beaucoup de coups de théâtre comme ça dans le domaine de l’informatique. Cette nouvelle donne de l’IA a tout bousculé, dans les applications comme dans les sciences.

Non Cédric ! Ne me dis pas que toi aussi tu as été surpris ! Tu aurais donc complètement changé d’avis ? Heureusement, ce sera bien la dernière fois. Désormais, je suis sûr que toutes tes prédictions se réaliseront, et tu ne seras plus jamais pris en défaut, notamment quand tu dis que la naissance d’une IA forte menaçant à terme l’existence même de l’humanité, c’est « de la science-fiction ! » et quand tu dis que « la conscience, l’autonomie et même le simple bon sens sont très très loin de ce que l’IA sait faire » et aussi quand tu dis qu’ « il y a des pièges et des dangers dans l’IA, mais ils ne sont pas là.»

 

Des vies sauvées par milliers !

Il ne fait pas de doute pour moi que des vies seront sauvées par l’IA. […] Parmi nos interlocuteurs dans l’administration, ceux du ministère de la Défense étaient les plus convaincus de l’urgence de l’IA.

Tu sais Cédric, c’est sans doute parce qu’ils savent que les Etats belliqueux et les terroristes (cyber ou non) ont la ferme intention d’utiliser l’IA pour sauver des vies, et qu’ils ne veulent pas être en reste.

 

De nouveaux métiers en émergence

Concepteur et vérificateur de base de données, par exemple, car la qualité des données sur lesquelles on éduque un système informatique est fondamentale. […] Il va aussi y avoir des métiers liés à la bonne ergonomie, au partage des rôles entre l’employé et l’algorithme. Il va certainement apparaître toutes sortes de métiers liés aux tests, au développement, à l’accompagnement de la transformation pas l’IA. […] Ensuite, au fur et à mesure que l’on automatise, il y a une autre catégorie de métiers – notamment dans l’éducation, dans la santé, le soin aux personnes âgées – où l’on aura besoin de qualités vraiment humaines, de lien social, de relation, d’empathie… Problème : personne ne sait à quelle vitesse cette mutation va s’effectuer.

Génial ! J’ai toujours rêvé de devenir éducateur de système informatique ! Mais sinon, je veux bien être ergonomiste-entremetteur pour humains et algorithmes, ou bien accompagnateur-testeur pour entreprise en voie de transformation. Et que l’on ne me dise pas que ce sont des métiers « à la con » ! Rien n’est plus noble que le métier de mouche du coche numérique, car comme tu le dis si bien, Cédric, « de toute façon, on a besoin de travail pour se réaliser, se sentir utile. »

Quant à ma petite sœur, elle préfère mettre en pratique ses qualités vraiment humaines avec des personnes âgées, elle veut devenir infirmière. Le problème c’est qu’elle est moins patiente avec les vieux qu’un robot ! Se pourrait-il que les robots aient plus de talent pour les qualités humaines que les hommes ?

 

Voilà, j’espère que ton rapport définitif va sortir bientôt, j’en aurai besoin pour terminer mon TPE. En attendant, je me plonge dans la lecture (rébarbative, celle-là) d’un rapport écrit par de vrais rabat-joie : « The Malicious Use of Artificial Intelligence »! (De l’Usage Malveillant de l’Intelligence Artificielle). Figure-toi que ces cocos-là me feraient presque flipper si je n’avais pas lu ton interview !

Alexandre, 1ère ES 8, Lycée Lepoil d’Enlbon, Sens

 

Périlleuse technolâtrie

/ afcia / 3 Comments

Que les individus soient en perte de repères dans un monde déboussolé, c’est à fois un cliché et un constat certainement globalement juste. Mais il est un vieux repère de la modernité qui a résisté contre vents et marées et constituera peut-être l’ultime d’entre eux : l’enthousiasme, la foi, voire la vénération pour l’évolution technique, qui prend aujourd’hui la forme des technologies numériques. Propagé par les politiques, les économistes et les médias, cet optimisme technologique (ou technoptimisme) nous aveugle et nous empêche de prendre la mesure des conséquences humaines et écologiques du déferlement numérique et robotique qui saisit l’humanité depuis une vingtaine d’années.

Selon Bertrand Méheust, nous sommes face à un « nouvel âge de l’esprit » que plus rien ne pourra arrêter sur sa lancée… sauf un effondrement de la mégamachine (ce qui ne saurait tarder). Savoir que tout cela se terminera un jour ne nous prémunit pas hic et nunc contre la dangereuse mutation anthropologique que cela implique, même si l’on fait partie – ce qui est mon cas – des derniers réfractaires du smartphone, condamnés à vivre avec amertume l’évanouissement à marche forcée d’un monde qui nous était jusqu’il y a peu familier. L’économie numérique représente bien une rupture majeure, et il serait vain de vouloir nous comparer aux époques antérieures. Rien de cyclique ici, sous le soleil de l’innovation, rien que du nouveau, comme l’on bien vu les camarades de Pièces et main d’œuvre. Entre fantasme et réalité, le transhumanisme, l’extropianisme et la singularité technologique représentent les bonheurs et accomplissements que nous promettent les techno-prophètes dans le courant de ce siècle. Pour ce, ils peuvent compter sur l’appui des « progressistes » de gauche comme de droite, qui voient dans toute extension des droits individuels des bienfaits que seuls des réactionnaires pourraient critiquer, même si ces droits passent de plus en plus par le truchement de la technoscience, comme, par exemple, les nouvelles techniques de procréation. Que faire ? D’abord décréter un moratoire sur l’innovation incontrôlée, puis organiser une désescalade technique, voilà une condition nécessaire pour reconstruire la cohésion sociale dans une société qui se voudrait démocratique, écologique et décente.

L’actualité des livres vient à la rescousse.

Dans Seuls ensemble. De plus en plus de technologies, de moins en moins de relations humaines (éd. L’Echappée, 2015), la psychologue et anthropologue du MIT Sherry Turkle (née en 1948) a étudié l’impact des nouvelles technologies en Intelligence Artificielle sur la « façon dont nous nous pensons, dont nous pensons nos relations avec autrui et le sens de notre humanité » (p.20). Pour ce, elle s’est appuyée sur deux cent cinquante observations cliniques, principalement d’enfants, d’adolescents et de personnes âgées.

La première partie traite de leur rapport avec les robots – aux doux noms de Tamagochis, Furby, AIBO, My Real Baby, etc… – pour constater la facilité avec laquelle nous projetons sur eux nos sentiments et avons des attentes démesurées sur ce qu’ils pourraient nous apporter en terme d’aide, mais aussi de réconfort, d’amitié et même de sexualité !

D’une part, la notion d’authenticité perd de sa substance au profit d’une nouvelle définition de la vie « à mi-chemin entre le programme inanimé et la créature vivante » (p.61). D’autre part, les êtres humains sont remis en cause dans leur capacité à prendre soin les uns des autres. Les robots, « nous sommes aujourd’hui prêts, émotionnellement et je dirais même philosophiquement, à les accueillir » (p.31). Ces « créatures » robotiques sont traitées comme des égaux et non plus comme des machines, elles sont placées sur le terrain du sens, « alors qu’elles n’en dégagent aucun. » Elles sont de plus en plus présentes dans les maisons de retraite où elles remplacent le personnel manquant ou défaillant. En majorité, les pensionnaires s’y attachent, rentrent en intimité avec elles. A l’argument selon lequel les machines ne peuvent éprouver d’affects, les roboticiens répondent sans rire qu’ils en fabriqueront un jour de manière synthétique.

« Il est tellement aisé d’être obnubilé par la technologie et de ne plus chercher à développer notre compréhension de la vie », conclut l’auteure (p.170).

La seconde partie concerne l’internet avec ses réseaux sociaux, ses jeux en ligne, sa Second Life et ses sites de confession. Les effets de leur omniprésence dans notre quotidien sont loin d’être négligeables. D’abord celui d’une attention fragmentée permanente aboutissant au multitasking (multi-tâches) chez les jeunes, cette faculté qui impressionne tant les aînés, alors que les études en psychologie montrent que lorsque l’on fait plusieurs choses à la fois, on fractionne son attention et on les fait toutes moins bien. Ensuite, un effacement de la frontière entre la vie professionnelle et la vie privée, quand le smartphone reste allumé jour et nuit. Même en vacances, le cadre américain reçoit environ 500 courriels, plusieurs centaines de textos et 40 appels par jour !

Résultat : faute de temps, tous nos interlocuteurs sont réifiés, nous les traitons comme des objets. Turkle a aussi étudié le cas des natifs numériques (digital natives), les générations nées après 1990 pour lesquelles le web représente un liquide amniotique non questionné. « Je suis connecté, donc je suis ! » Et alors ?, répondront les technoptimistes.

« Ce n’est pas parce qu’un comportement devient normal qu’il perd la dimension problématique qui l’avait auparavant fait considérer comme pathologique », précise l’auteure (p.283).

Les jeux en ligne et Second Life nous entraînent dans un monde virtuel fait de simulacres, qu’on finit par préférer à notre vie réelle, les plus accros y passant la moitié de leur temps de veille ! Nous en demandons moins aux êtres humains et plus à la technologie, à laquelle nous appliquons une pensée magique : tant que je suis connecté, je suis en sécurité, et les gens que j’aime ne disparaîtront pas. Facebook est un fauve insatiable qu’il faut alimenter en permanence de nouvelles « positives » sous forme de textes, de photos, de vidéos, qui envahissent la vie privée, dans une simplification et un appauvrissement de nos relations.

A la fin du livre, nous apprenons qu’aujourd’hui de plus en plus de jeunes Américains ont la nostalgie du monde d’avant la connexion généralisée, quand les parents étaient attentifs, investis et engagés envers leurs enfants. Un début d’espoir de révolte ? Ce copieux essai de 523 pages fait le point sur un phénomène toujours sous-estimé dans ses retombées sociétales. Et encore, Turkle n’aborde pas ici l’aspect anti-écologique de ces technologies. Que resterait-il bien pour les défendre ? Chers lecteurs de France, voilà un excellent sujet pour le bac !

Bernard Legros

Article paru à l’origine dans Kairos, revue technocritique belge, n°19 avril/mai 2015

Bernard Legros est enseignant, essayiste, membre de l’Appel pour une Ecole Démocratique et membre fondateur du Mouvement politique des Objecteurs de Croissance (Belgique)

 

 

Jean-Michel Besnier : « Ce n’est pas être réactionnaire… »

/ afcia

… que d’aborder l’amélioration qui prétend résulter des NBIC comme la traduction d’un parti pris (idéologique, politique, industriel, civilisationnel…) sur le format que l’on voudrait imposer à l’humain – un parti pris en tant que tel discutable. »

 

Malgré son titre « commercial », le petit livre de Laurent Alexandre et Jean-Michel Besnier « Les Robots font-ils l’amour ? » (Dunod, 2016) contient les éléments d’une profonde réflexion sur le transhumanisme en général et l’Intelligence Artificielle en particulier.

Il s’agit en effet non pas tant d’un commentaire sur la science qui se fait que d’une réflexion prospective sur le monde que nous prépare la technique et d’une critique vigoureuse du mouvement qui lui donne aujourd’hui un contenu politique et idéologique : le transhumanisme.

Pour Jean-Michel Besnier, cette idéologie est fondamentalement viciée parce que les transhumanistes veulent en fait « éviter l’inconvénient qui s’attache à toute vie, à savoir l’aventure et la liberté. »

Citons quelques extraits éclairants de ce dialogue entre deux personnalités qui, dans le panorama médiatique français, se distinguent par leur lucidité :

 

Sur le réductionnisme de l’idéologie transhumaniste

Jean-Michel Besnier : « Je redis mon attachement au rôle humanogène dévolu à la technique, mais j’exige aussi la préservation de la dimension symbolique, propre à l’espèce humaine, [à savoir] le langage, condition de l’art politique. […] L’objection du chiffre contre la réflexion argumentée est emblématique d’une évolution des technosciences qui écarte les langues de culture pour ne garder au mieux que les signaux et codages qui lui restent nécessaires. »

«  L’amélioration de l’espèce humaine n’est pas l’augmentation des performances et des facultés des individus, sauf à vouloir animaliser ou machiniser l’humain en le soumettant à la mesure, ou en le réduisant aux algorithmes et aux métabolismes dont se délectent la culture du numérique et les GAFA. »

 

 

Sur la fusion homme-machine

Laurent Alexandre : « Pour être à la hauteur des automates, certains dirigeants de Google proposent de nous hybrider avec l’IA : devenir cyborg pour ne pas à être dépassé par l’IA ! […] Paradoxalement, l’ultime outil de l’humanité pour éviter sa vassalisation serait ainsi l’instrument de son suicide. »

JMB : « Le transhumanisme affiche son mépris pour la dimension symbolique de l’existence de l’être désirant. La fusion avec la machine est la version la plus brutale du cynisme qui consiste à supprimer en l’humain toutes les ressources qui lui ont permis de grandir (« tout ce qui ne me tue pas me fait grandir », comme dit Nietzsche) et d’aimer (la conscience de l’éphémère est au principe de toute ouverture sur l’autre que soi). »

 

 

Sur la concurrence de l’IA

JMB : « En réalité, la menace couve depuis longtemps : depuis la révolution industrielle, la machine apparaît comme responsable du sentiment d’impuissance que les humains éprouvent de plus en plus. Elle est un facteur de mésestime de soi, la cause de cette « honte prométhéenne d’être soi » décrite par le philosophe autrichien Günther Anders. Mais, comme si les manufactures et les automates de tout poil ne suffisaient pas, la machine paraît s’être aujourd’hui accaparée l’intelligence, et les jeux sont faits : elle va nous remplacer dans ce que nous avons de plus spécifique, de plus gratifiant et donc, elle nous condamne à disparaître progressivement. »

LA : « Les algorithmes ne vont pas nécessairement nous tuer mais ils créent une situation révolutionnaire. L’IA va nous faire basculer dans une autre civilisation où le travail et l’argent pourraient disparaître. L’IA est longtemps restée un sujet de science-fiction. Elle est désormais une simple question de calendrier : l’explosion des capacités informatiques (la puissance des serveurs informatiques a été multipliée par un milliard en trente et un ans) rend probable l’émergence d’une IA supérieure à l’intelligence humaine dans les prochaines décennies. »

 

Aurons-nous le courage de regarder la réalité en face ?

Laurent Alexandre montre bien que les intellectuels se laissent régulièrement surprendre du fait de leur incapacité à prendre au sérieux les utopies, et en particularité, actuellement, l’utopie posthumaine des humains augmentés. Au risque de laisser se développer un nouveau totalitarisme « soft ».

JMB « Biototalitaire, le monde le sera au fur et à mesure qu’il fera triompher l’obsession technoprogressiste pour la seule survie, pour une longévité sans fin(alité), pour une individuation biologique privée de la dimension symbolique qui fait l’existence humaine. »

« La régulation des technologies d’amélioration de l’humain n’évitera pas l’examen de ces conséquences socio-anthropologiques et elle devra faire droit aux questions philosophiques : faut-il vouloir supprimer le hasard dans la condition humaine ? »

« Je préfère me demander si une limite doit être opposée à la perfectibilité humaine. Autrement dit : faut-il refuser, à un moment donné, de poursuivre la quête d’un progrès, au risque de bloquer l’histoire humaine ? […] Ce n’est pas être réactionnaire que d’aborder l’amélioration qui prétend résulter des NBIC comme la traduction d’un parti pris (idéologique, politique, industriel, civilisationnel…) sur le format que l’on voudrait imposer à l’humain – un parti pris en tant que tel discutable. »

 

Pour agir

L’humanité est confrontée à de grands défis mais les gouvernements sont dépassés par les acteurs du numérique. La technologie est plus forte que la loi, c’est elle qui structure la société.

LA : « Face à la déferlante de la Silicon Valley, l’Etat est sidéré et piétine à la vitesse d’un sénateur. »

JMB : « Admettons donc que la technologie soit a priori incapable de s’autolimiter : on dit en effet qu’elle est le lieu de l’expression de la démesure dont les humains sont capables. Elle ne peut recevoir de frein que de l’extérieur, c’est-à-dire qu’il lui faut être tempérée par ce qui relève de la réflexion et du symbolique (la communication politique). »

LA : « L’Ecole jouera un rôle central dans la préparation à ce qui s’annonce devant nous. […] Les trois piliers de l’Ecole sont à refondre : le contenu, la méthode et le personnel. Il faudra, d’abord, réhabiliter les humanités et la culture générale, puisque vouloir concurrencer les machines sur les matières techniques sera bientôt dérisoire. »

 

Nous ne pouvons que nous réjouir de voir le débat porté enfin sur le plan des valeurs anthropologiques que nous défendons à travers l’AFCIA, et formulé en des termes qui sont pratiquement les nôtres.

3/04/17 – Elon Musk et les mystificateurs de l’IA

/ afcia

Dans un rapport du 14 mars 2017 sur l’Intelligence Artificielle, le bureau de veille technologique du Parlement (OPECST) avance quinze propositions concernant l’Intelligence Artificielle.

Ces mesures résultent de l’enquête réalisée par la sénatrice Dominique Gillot et le député Claude de Ganay auprès d’un panel de spécialistes en 2016 et 2017, et à laquelle l’AFCIA a participé.

Que préconisent nos parlementaires pour parvenir à l’objectif d’une IA « maîtrisée, utile et démystifiée ? »

 

Une démarche timide et encore trop consensuelle …

Bien entendu, on cherchera en vain une remise en question de l’IA elle-même. On ne peut en effet pas attendre de la part de nos élus une prise de position critique à l’égard d’une tendance dans laquelle se ruent tous les acteurs économiques. Pas question d’apparaître comme susceptibles de freiner la marche vers le Saint-Graal de la croissance !

Il en résulte des formules prudentes qui ne manquent parfois ni d’incohérence ni même d’humour :

Pour une IA maîtrisée, il faut se garder… d’une contrainte juridique trop forte. Ce serait en effet dommage d’essayer de maîtriser.

Favoriser (comment ?) des algorithmes et des robots sûrs, transparents et justes. Par exemple, un drône tueur juste est un drône qui ne tue que les méchants ?

Former et sensibiliser le grand public aux conséquences pratiques de l’IA et de la robotisation. A quel moment ? Avant ou après leur licenciement ?

Etre vigilant sur les usages spectaculaires et alarmistes du concept d’IA. Comment ? En empêchant la presse de nous avertir qu’Elon Musk veut nous implanter des puces dans le cerveau ?

 

… mais une démarche dans la bonne direction !

Il serait toutefois injuste de ne pas saluer la prise de conscience de la dimension éthique de l’IA dans ces travaux du Parlement.

En particulier le projet d’un Institut National de l’Ethique de l’IA nous semble une initiative judicieuse, à condition bien entendu qu’il soit ouvert à d’autres sensibilités que celles des chercheurs en IA et des entreprises numériques. Le but d’un tel Institut étant en effet de structurer la relation entre le pôle des développeurs de l’IA et le reste de la société civile, il importe que celle-ci y soit représentée. Enfin, cet Institut devrait en tout état de cause rester sous tutelle du Parlement, et sous contrôle démocratique.

Cependant, comme le font remarquer les rapporteurs, c’est au plan international que devrait se jouer le débat éthique sur l’IA, susceptible d’aboutir à une charte ou à une réglementation quelque peu contraignante. L’une des premières missions de l’Institut National de l’Ethique de l’IA devrait être par conséquent de mettre en place un organisme international équivalent au sein de l’ONU.

De l’intelligence artificielle bisounours

/ afcia

 

Comme tout le monde – sans doute un peu plus que tout le monde, d’ailleurs – les partisans de l’intelligence artificielle connaissent leur petit bout de Gramsci. Ils savent que les batailles politiques se gagnent d’abord sur le terrain culturel. Le film d’animation Les nouveaux héros (2015), création Disney tirée d’une BD Marvel, le prouve, sans prendre de détours, avec une franchise assez déconcertante.

L’histoire : Hiro, un jeune prodige de la technologie, déprimé par la mort de son frère, forme une nouvelle bande de super-héros avec les amis du défunt pour démasquer un méchant. Ils seront épaulés par Baymask, un « assistant personnel santé » conçu par le frère avant son décès accidentel.

Tout le catéchisme de l’IA est là, effeuillé chapitre par chapitre : la mondialisation heureuse avec la ville de San Fransokyo, jumelage concret de San Fransisco et Tokyo ; l’esprit start-up comme voie royale vers la réussite (royale et particulièrement ouverte, où tout le monde aurait ses chances à condition bien sûr d’avoir du génie, ce qui mine un peu le message égalitaire…) ; l’homme du commun qui devient un super-héros grâce à sa maitrise technologique et, enfin, l’intelligence artificielle gentille, au service des hommes, le robot bisounours. « Nous voulions un robot câlin, » résume Don Hall l’un des réalisateurs. Et Baymask, sorte de croisement entre Bibendum et le fantôme Casper, inspiré par des prototypes de robot en vinyle, « fait le job » comme personne. Une sorte de « doudou » dont l’intelligence ne demande qu’à progresser. Le jeune Hiro augmente d’ailleurs ses capacités tout au long du film. Le robot – pardon, l’assistant médical personnel – d’abord un peu ignoré par les hommes, leur devient utile, puis indispensable pour finir par s’imposer comme leur arme fatale. Dans les dernières scènes, il enfile une armure. En deviendrait-il inquiétant ? Rejoindrait-il Terminator et les robots d’antan ? Surtout pas ! On y a veillé : « il devait produire un effet intimidant et très puissant mais, en même temps, rappeler le robot en vinyle adorable qui se trouve en dessous, » précise Chris Williams, le deuxième réalisateur. Manquerait plus que l’on se pose des questions sur les intentions de Baymask…  Il est gentil, vous dit-on, même si ses pouvoirs finissent par surpasser ceux des humains. Les scénaristes lui ont même prévu une faiblesse pour rassurer tout le monde avec une scène où sa batterie se décharge. Comme le diable est dans les détails, le très mauvais groupe Fall out boy a composé un morceau pour la BO du film. Son titre ? Immortals. Oui, au pluriel, tous immortels. Tout est dit, scénarisé, réalisé avec un immense talent. Et quand on se retourne vers la gamine de 11 ans qui vient de regarder le film, elle lâche avec enthousiasme, debout sur le coussin de son fauteuil : « trop bien, surtout le robot ! » Oui, la guerre est culturelle. Et elle est déclarée.

24/11/16 – Le Parlement français à l’écoute de l’AFCIA

/ afcia

 

Le 24 novembre dernier, l’Office Parlementaire d’Evaluation des Choix Scientifiques et Technologiques (OPECST) a auditionné l’AFCIA dans le cadre de la préparation de son rapport sur l’Intelligence Artificielle.

Ce rendez-vous a été pour notre Association l’occasion d’exposer devant des parlementaires les raisons qui conduisent de plus en plus de citoyens à se défier de l’Intelligence Artificielle.

1 – En premier lieu, l’incontrôlabilité fondamentale de l’IA. Il n’est pas réaliste de vouloir donner un maximum d’autonomie aux systèmes à IA tout en les gardant indéfiniment sous contrôle. Si l’IA atteint le niveau d’intelligence humaine, elle ne sera pas plus contrôlable qu’un être humain doué de libre arbitre.

De plus se posent des questions d’usage et de sécurité des systèmes mis en service. Si des nanorobots sont possibles, on ne voit pas très bien ce qui empêcherait des individus ou des Etats malveillants de les employer à des fins moins honorables. L’IA nous met face à un risque de prolifération de menaces d’autant plus incontrôlables que la technologie sera abondamment répandue et disposera de caractéristiques propres aux organismes électroniques (autoréplication, ubiquité, dématérialisation, vitesse etc…).

2 – En second lieu, l’IA pose un problème économique et social car elle a vocation à supprimer la valeur et la possibilité du travail humain. Des ressources et des moyens de plus en plus grands se retrouvent accaparés par un corps social de plus en plus petit, à savoir les entreprises numériques monopolistiques et leurs propriétaires. Il y a là une menace pour l’équilibre des sociétés humaines, que l’on voit d’ores et déjà ébranlées d’un bout à l’autre de la planète par les défis économiques de la mondialisation.

Nous sommes nombreux à penser que le respect de la dignité humaine consiste à donner à chacun la possibilité d’être authentiquement utile à la collectivité. La recherche d’efficacité doit être subordonnée à l’exigence de dignité. Si l’on souhaite que la dignité demeure une valeur suprême, il faudra nécessairement faire le sacrifice d’une efficacité plus grande réalisable au prix de l’Intelligence Artificielle.

3 – En troisième et dernier lieu, les objections contre le projet de transformer la nature humaine ou « homme augmenté ». Ce projet conduira en effet inévitablement à la fusion homme-machine, au profit de la seule machine. Or, de même que l’homme ne peut se représenter le monde en dehors des formes de l’espace et du temps, il ne peut aucunement comprendre ni concevoir la pensée artificielle suprahumaine. Ni, a fortiori, s’aventurer à échafauder une éthique transhumaniste.

La foi dans un avenir transhumaniste fondé sur la technique est une pure idéologie, au demeurant peu éloignée des autres idéologies totalitaires. Les promoteurs du transhumanisme ne prétendent d’ailleurs pas devenir meilleurs, plus justes et plus altruistes, mais plus intelligents, plus puissants ou encore immortels. Fondé sur de telles bases, leur projet est pernicieux.

L’AFCIA a exhorté les parlementaires présents à se projeter plus résolument dans l’avenir et à ne pas se prévaloir des limitations actuelles de l’IA pour s’abstenir de réfléchir à ce qui constitue fondamentalement sa nocivité. Espérons que ce message sera entendu.

 

Le piège de l’éternel présent

/ afcia

« On est passé de “C’est n’importe quoi” à “On le sait depuis 20 ans” puis à “ça n’apporte rien” et, enfin, à “de toute façon ça ne change rien”.» Le sociologue Louis Chauvel, qui vient de publier La spirale du déclassement (Seuil) décrit ainsi (pour le site Slate) l’accueil universitaire de ses différents travaux sur la paupérisation des classes moyennes. Le même enchaînement d’arguments pourrait résumer les débats autour de l’Intelligence Artificielle tant il reflète parfaitement cette incapacité à lier le constat présent à ses évolutions possibles.

 

Surdité à l’avenir

 

Dans le cas de l’intelligence artificielle, cette surdité à l’avenir trouve une partie de son explication dans ce que l’on pourrait nommer la création d’un éternel présent, figeant le temps comme la réflexion. Aujourd’hui, la moindre seconde de nos vies, le moindre de nos gestes génèrent des données, qui elles-mêmes donneront lieu à analyse. L’instant présent est devenu une mine d’information. Pour améliorer l’avenir comme on l’entend souvent ? Pas vraiment. Surtout pour prendre le contrôle du quotidien, pour parvenir à une maîtrise de l’immédiat ou du futur le plus proche (quelques jours, tout au plus).

Les innombrables applications et recommandations d’achats ont un objectif, clairement revendiqué par leur concepteur : fluidifier le quotidien, le rendre plus pratique, adaptable, pour en finir avec sa dimension la plus irritante (la plus humaine ?), sa capacité à ignorer nos désirs.  Si l’instant présent devient assez malléable pour se plier à notre volonté, alors pourquoi en sortir ? Au contraire, testons les limites de son élasticité, étirons-le pour le modeler aux nouvelles habitudes de consommation. Et crions-lui notre reconnaissance : Présent forever !

Qu’est-ce qui peut bien faire le poids face à l’instant T enfin domestiqué ?  Le passé ? Soumis aux interprétations, il déclenche des débats interminables. On n’y échappe pas et c’est bien ce qu’on lui reproche. Quand au futur, par définition, il a le pouvoir de déjouer notre contrôle et notre volonté. Il se transforme alors en Histoire puis en passé et revient parasiter la modernité heureuse. Non, décidément, seule la maîtrise du présent peut enrayer cet engrenage.

 

 

« On en est loin aujourd’hui »

 

L’intelligence artificielle bénéficie plus que tout autre domaine de cette installation douillette de l’homme dans l’instant T. Car, pour mettre en lumière les évolutions possibles et les risques de l’IA, on doit en passer par la projection. Sacrilège du Dieu Aujourd’hui ! La réponse ne se fait pas attendre : « c’est du fantasme catastrophiste, de la science-fiction de dépressif. Ma grand-mère aussi avait peur du train », avant le couperet : « on en est encore loin aujourd’hui » Si débat il doit y avoir, qu’il se concentre alors sur la technique du jour, sur du tangible. Retour forcé au présent.

Mais si le discours patine, il en va autrement des technologies et de ceux qui les conçoivent. Eux pensent à l’avenir et le façonnent. Quand les premières paroles de nos journées iront à des « assistants personnels », il sera un peu tard pour dire « c’est n’importe quoi ». Quand le mot embauche concernera essentiellement l’intégration de nouvelles machines dans un processus déserté par l’homme, il sera difficile de prétendre que « de toute façon, ça ne change rien. » Le piège de l’éternel présent se sera refermé.

 

A lire : http://www.slate.fr/story/126821/louis-chauvel-sociologue-lose-graphiques

 

 

22/08/16 – L’AFCIA lance sa campagne « Médias et Institutions »

/ afcia

rapport fond paille

La brochure « Enjeux éthiques et sociaux » fait le point sur les questions que personne ne pose. Extraits.

Ce rapport n’est pas un état des lieux de la recherche en Intelligence Artificielle. Il constitue une contribution à la réflexion autour d’un sujet insuffisamment débattu en France. Trop souvent, les médias mettent en scène une pseudo controverse opposant un porte-parole de l’IA nommément identifié (chercheur, entrepreneur, homme politique) et une interrogation, un doute ou une inquiétude, censée émaner de la vox populi, et jamais incarnée par un individu précis. Dans ce simulacre de débat, l’avantage revient invariablement au héraut de la connaissance et du progrès. Fort de son aura académique, de son élan entrepreneurial ou de son influence politique, il n’a aucune peine à convaincre d’inanité un contradicteur dont l’étoffe est tissée de songes.

L’Association Française Contre l’Intelligence Artificielle entend occuper la place aujourd’hui vacante dans ce dialogue pipé entre un discours à prétention hégémonique, et toutes les objections qu’il mériterait de susciter. […]

Nous allons exposer ici, de la manière la plus nette possible, quels sont les problèmes posés par l’Intelligence Artificielle et son développement ultra-rapide. Nous formulerons des questions sans détour : que le lecteur y apporte la réponse qu’il lui plaira. […]

Sans doute existe-t-il beaucoup à faire pour imaginer comment construire un avenir bénéfique sans IA, et si nous osons formuler les principes d’un projet de civilisation à la fin de cet opuscule, nous ne prétendons certainement pas détenir la clé d’une société idéale à l’échelle de la planète.

Au moins souhaitons-nous ouvrir un débat, car ce débat doit avoir lieu. Il y a urgence.

SOMMAIRE :

I – IA et Risque Technologique

Sait-on comment garder le contrôle ? Vers une prise de pouvoir indolore ? Où mène la fusion homme-machine ?

II – IA et Logique Economique

Faut-il s’attendre à une émergence de nouveaux emplois ? Jusqu’où la robotisation reste-t-elle socialement responsable ? Une société sans travail est-elle possible ? Et souhaitable ? Le progrès technologique est-il devenu aveugle ?

III – IA et Projet Humain

Notre science nous a-t-elle donné la maîtrise ? Peut-il y avoir une éthique transhumaniste ? Le transhumanisme est-il écologique ?

CONCLUSION : Principes pour un autre projet

Un exemplaire est envoyé à chaque donateur dans le cadre de la campagne sur HelloAsso.

25/04/16 – Les « jobs à la con », prémices de la fin du travail ?

/ afcia

Un article du « Monde » du 24 avril 2016, par Lorraine de Foucher et Nicolas Santolaria, donne à réfléchir sur la prolifération des « jobs à la con » (bullshit jobs en anglais) dans les entreprises grandes et petites. De plus en plus de jeunes salariés sont en effet confrontés à des métiers ennuyeux, aux contours mal définis, et dont l’intitulé comporte de préférence de pompeux anglicismes.

Jean a fait une prestigieuse école en trois lettres, pour aller contrôler la gestion d’une société en quatre lettres. « Je mets des chiffres dans des cases, et je compte. Parfois, je compte même les cases pour m’amuser. C’est quand même fou le nombre de cases qu’il peut y avoir dans un tableur Excel », feint-il de s’extasier.

[Comme dans le cas de Jean] l’émiettement des tâches au bureau donne à beaucoup le sentiment d’occuper un emploi dénué de sens. Les « jobs à la con » sont-ils le mal du siècle ou seulement une étape dans la mutation du travail ?

Avec humour, Nicolas Santolaria propose plusieurs descriptifs pour des emplois « idiots » du futur – pas si éloignés, hélas, de la réalité.

LEAD IMPLEMENTATION ARCHITECT – Votre rôle est d’effectuer une veille constante sur l’émergence de nouvelles technologies disruptives et de les intégrer à l’architecture réseau de la multinationale pour laquelle vous travaillez, afin qu’elle garde la souplesse opératoire d’une jeune start-up. Vous êtes le stratège d’une guerre technologique qui ne dit pas son nom, et le seul à connaître les plans de la Babel informatique que vous avez édifiée. En vrai, vous jouez à Clash of Clans en buvant du maté.

CUSTOMER IDENTITY PLANNER – Steve Jobs l’avait bien compris : il ne suffit pas d’inventer le produit, il faut également conceptualiser le client qui va avec. Grâce à des solutions de Customer design, vous établissez les profils qui permettront un écoulement fluide des marchandises et, en étroite collaboration avec le département de growth hacking, vous tentez d’accélérer leur éclosion. Votre fierté ? Avoir favorisé l’émergence des « décroissants compulsifs ». En vrai, vous profitez de votre temps libre pour faire votre arbre généalogique (vous êtes déjà remonté jusqu’à 1567!).

Comment de tels emplois peuvent-ils émerger dans une économie pourtant axée sur la productivité ? David Graeber, anthropologue à la London School of Economics, et introducteur du terme « bullshit jobs » dans un article publié en 2013, s’étonne ainsi de la bureaucratisation croissante du monde du travail :

Dans la théorie économique du capitalisme […], la dernière chose que le marché et l’entreprise sont censés faire, c’est de donner de l’argent à des travailleurs qui ne servent à rien. C’est pourtant bien ce qui se passe ! La plupart des gens travaillent efficacement pendant quinze heures par semaine environ, comme l’avait prédit Keynes, et le reste du temps, ils le passent à critiquer l’organisation, organiser des séminaires de motivation, mettre à jour leurs profils Facebook et télécharger des séries télé.

Pour l’AFCIA, les « jobs à la con » sont probablement révélateurs d’une tendance de l’économie à s’organiser de manière à exclure progressivement le facteur humain. A côté de la forme d’exclusion explicite que constitue le chômage, se développe une autre voie consistant à attribuer des « emplois fictifs » sans réel intérêt ni pour l’employé, ni même pour l’employeur. Car si les métiers peu épanouissants ne datent pas d’hier, la nouveauté réside désormais dans ce qu’ils n’ont pas, ou très peu, d’utilité pour l’entreprise. Contre toute logique économique, les dirigeants les tolèrent ou les favorisent sans doute pour la bonne raison qu’ils sont eux-mêmes déconnectés de la réalité humaine de leur firme, et ne s’intéressent que très marginalement à l’expérience vécue par leurs collaborateurs.

En revanche, s’il est une leçon que réaffirme l’analyse du « Monde » avec force, c’est que chacun veut un travail qui donne un sens à sa vie. Telle est la conviction profonde de l’AFCIA, et l’origine de son engagement contre un processus qui cherche à  frustrer l’être humain de ce besoin et de ce droit fondamentaux.

15/02/16 – Que peut Confucius contre les automates ?

/ afcia

Charles-Edouard Bouée, président de Roland Berger,  cabinet de conseil en stratégie d’entreprise, s’est penché sur le problème de l’avenir de l’homme dans la civilisation des machines, dans son ouvrage « Confucius et les automates ».

Fort de sa connaissance des entreprises et des révolutions techniques en cours, l’auteur se livre à une description très complète d’un monde à venir dominé par les entreprises technologiques américaines et chinoises leaders du numérique, réunies au sein de ce qu’il appelle le « Septième Continent ».

Accélération des échanges et des processus industriels, mise sous surveillance généralisée des individus à des fins d’exploitation commerciale, intelligence artificielle entrant en concurrence avec l’intelligence humaine, robotisation, telles sont les tendances décrites en détail par Charles-Edouard Bouée, qui en souligne autant les attraits que les aspects inquiétants.

En fait, il ne cache pas que la révolution en marche constitue un véritable défi pour l’individu, condamné à devoir s’adapter à une réalité socio-économique qui s’évertue à l’en exclure.

Nous sommes face à un phénomène beaucoup plus complexe [que la crise économique de ces dernières années] qui fait que pour la première fois dans l’histoire de l’économie mondiale, une révolution technologique n’est pas synonyme de progrès social pour les générations futures, en tout cas pour celles qui ne sont pas en mesure de suivre des cursus scientifiques et techniques, ce qui est la majorité.

Le constat est exposé avec lucidité par un auteur que l’on ne peut pourtant pas soupçonner d’une hostilité de principe pour l’innovation. Ni de parti-pris contre le capitalisme ! Et pourtant, continue-t-il :

C’est comme si l’on revenait aux origines du capitalisme : très grande concentration de richesses chez les détenteurs du capital, paupérisation rampante des exclus du progrès technique.

Quel sera donc le recours contre la montée en puissance d’une nouvelle forme d’aliénation ? On pourrait penser qu’après avoir posé les prémisses avec tant de conviction, Charles-Edouard Bouée n’hésite pas à formuler la seule conclusion logique : se détourner au plus vite de cette voie sans issue. Las ! Il retombe au contraire dans le réflexe « c’est à nous de nous adapter ! » que nous avions déjà entendu de la part d’Alain Madelin.

Cela risque, à moyen terme, de ne laisser à une majorité d’êtres humains que le rôle de supplétifs des robots. [..] Un enseignement de meilleure qualité permettra à davantage de jeunes d’intégrer la nouvelle civilisation des machines et de susciter un boom de la création de start-up technologiques, dont on sait qu’elles sont le moteur de l’innovation.

Un boom de start-up technologiques ! Pour quoi faire ? Accélérer la course-poursuite ? Foncer plus vite encore vers le désastre ?

Pourtant, rien n’est perdu. Après ce faux départ, Charles-Edouard Bouée en vient enfin à formuler la thèse qui a donné son titre à l’ouvrage : le réapprentissage de la sagesse universelle, en suivant l’exemple illustre de Confucius.

Pour survivre au sein du nouvel âge des machines, l’Homme devra produire ce dont elles seront toujours incapables, quel que soit leur niveau d’intelligence : de l’amour des autres, du bonheur, de l’humour. Jusqu’à aujourd’hui, aucun laboratoire du monde n’a été capable de construire un robot qui rit. Le monde des machines ne rigole pas, il travaille sans relâche. Il ne joue pas, il « fabrique ». Il n’est pas solidaire, il est « connecté ». Cela laisse à l’homme des champs immenses où démontrer qu’il a sa place dans le nouveau monde des machines et que cette place est la première. Si les robots ne nous divisent pas, nous vaincrons…

Espérons que le mot d’ordre de Charles-Edouard Bouée sera entendu ! Mais alors, si la voie du salut passe par la « sagesse universelle », au carrefour des traditions confucéenne et kantienne, pourquoi donc ne pas le dire, M. Bouée, et appeler de vos vœux un enseignement public qui lui fasse la part belle, plutôt qu’au développement et à la diffusion des technologies numériques ?

 

 

« Confucius et les automates » (écrit en collaboration avec François Roche) est paru aux éditions Bernard Grasset.