Category Archives: Non classé

  • -
Jean-Michel Besnier

Jean-Michel Besnier : « Ce n’est pas être réactionnaire… »

Category : Non classé

… que d’aborder l’amélioration qui prétend résulter des NBIC comme la traduction d’un parti pris (idéologique, politique, industriel, civilisationnel…) sur le format que l’on voudrait imposer à l’humain – un parti pris en tant que tel discutable. »

 

Malgré son titre « commercial », le petit livre de Laurent Alexandre et Jean-Michel Besnier « Les Robots font-ils l’amour ? » (Dunod, 2016) contient les éléments d’une profonde réflexion sur le transhumanisme en général et l’Intelligence Artificielle en particulier.

Il s’agit en effet non pas tant d’un commentaire sur la science qui se fait que d’une réflexion prospective sur le monde que nous prépare la technique et d’une critique vigoureuse du mouvement qui lui donne aujourd’hui un contenu politique et idéologique : le transhumanisme.

Pour Jean-Michel Besnier, cette idéologie est fondamentalement viciée parce que les transhumanistes veulent en fait « éviter l’inconvénient qui s’attache à toute vie, à savoir l’aventure et la liberté. »

Citons quelques extraits éclairants de ce dialogue entre deux personnalités qui, dans le panorama médiatique français, se distinguent par leur lucidité :

 

Sur le réductionnisme de l’idéologie transhumaniste

Jean-Michel Besnier : « Je redis mon attachement au rôle humanogène dévolu à la technique, mais j’exige aussi la préservation de la dimension symbolique, propre à l’espèce humaine, [à savoir] le langage, condition de l’art politique. […] L’objection du chiffre contre la réflexion argumentée est emblématique d’une évolution des technosciences qui écarte les langues de culture pour ne garder au mieux que les signaux et codages qui lui restent nécessaires. »

«  L’amélioration de l’espèce humaine n’est pas l’augmentation des performances et des facultés des individus, sauf à vouloir animaliser ou machiniser l’humain en le soumettant à la mesure, ou en le réduisant aux algorithmes et aux métabolismes dont se délectent la culture du numérique et les GAFA. »

 

 

Sur la fusion homme-machine

Laurent Alexandre : « Pour être à la hauteur des automates, certains dirigeants de Google proposent de nous hybrider avec l’IA : devenir cyborg pour ne pas à être dépassé par l’IA ! […] Paradoxalement, l’ultime outil de l’humanité pour éviter sa vassalisation serait ainsi l’instrument de son suicide. »

JMB : « Le transhumanisme affiche son mépris pour la dimension symbolique de l’existence de l’être désirant. La fusion avec la machine est la version la plus brutale du cynisme qui consiste à supprimer en l’humain toutes les ressources qui lui ont permis de grandir (« tout ce qui ne me tue pas me fait grandir », comme dit Nietzsche) et d’aimer (la conscience de l’éphémère est au principe de toute ouverture sur l’autre que soi). »

 

 

Sur la concurrence de l’IA

JMB : « En réalité, la menace couve depuis longtemps : depuis la révolution industrielle, la machine apparaît comme responsable du sentiment d’impuissance que les humains éprouvent de plus en plus. Elle est un facteur de mésestime de soi, la cause de cette « honte prométhéenne d’être soi » décrite par le philosophe autrichien Günther Anders. Mais, comme si les manufactures et les automates de tout poil ne suffisaient pas, la machine paraît s’être aujourd’hui accaparée l’intelligence, et les jeux sont faits : elle va nous remplacer dans ce que nous avons de plus spécifique, de plus gratifiant et donc, elle nous condamne à disparaître progressivement. »

LA : « Les algorithmes ne vont pas nécessairement nous tuer mais ils créent une situation révolutionnaire. L’IA va nous faire basculer dans une autre civilisation où le travail et l’argent pourraient disparaître. L’IA est longtemps restée un sujet de science-fiction. Elle est désormais une simple question de calendrier : l’explosion des capacités informatiques (la puissance des serveurs informatiques a été multipliée par un milliard en trente et un ans) rend probable l’émergence d’une IA supérieure à l’intelligence humaine dans les prochaines décennies. »

 

Aurons-nous le courage de regarder la réalité en face ?

Laurent Alexandre montre bien que les intellectuels se laissent régulièrement surprendre du fait de leur incapacité à prendre au sérieux les utopies, et en particularité, actuellement, l’utopie posthumaine des humains augmentés. Au risque de laisser se développer un nouveau totalitarisme « soft ».

JMB « Biototalitaire, le monde le sera au fur et à mesure qu’il fera triompher l’obsession technoprogressiste pour la seule survie, pour une longévité sans fin(alité), pour une individuation biologique privée de la dimension symbolique qui fait l’existence humaine. »

« La régulation des technologies d’amélioration de l’humain n’évitera pas l’examen de ces conséquences socio-anthropologiques et elle devra faire droit aux questions philosophiques : faut-il vouloir supprimer le hasard dans la condition humaine ? »

« Je préfère me demander si une limite doit être opposée à la perfectibilité humaine. Autrement dit : faut-il refuser, à un moment donné, de poursuivre la quête d’un progrès, au risque de bloquer l’histoire humaine ? […] Ce n’est pas être réactionnaire que d’aborder l’amélioration qui prétend résulter des NBIC comme la traduction d’un parti pris (idéologique, politique, industriel, civilisationnel…) sur le format que l’on voudrait imposer à l’humain – un parti pris en tant que tel discutable. »

 

Pour agir

L’humanité est confrontée à de grands défis mais les gouvernements sont dépassés par les acteurs du numérique. La technologie est plus forte que la loi, c’est elle qui structure la société.

LA : « Face à la déferlante de la Silicon Valley, l’Etat est sidéré et piétine à la vitesse d’un sénateur. »

JMB : « Admettons donc que la technologie soit a priori incapable de s’autolimiter : on dit en effet qu’elle est le lieu de l’expression de la démesure dont les humains sont capables. Elle ne peut recevoir de frein que de l’extérieur, c’est-à-dire qu’il lui faut être tempérée par ce qui relève de la réflexion et du symbolique (la communication politique). »

LA : « L’Ecole jouera un rôle central dans la préparation à ce qui s’annonce devant nous. […] Les trois piliers de l’Ecole sont à refondre : le contenu, la méthode et le personnel. Il faudra, d’abord, réhabiliter les humanités et la culture générale, puisque vouloir concurrencer les machines sur les matières techniques sera bientôt dérisoire. »

 

Nous ne pouvons que nous réjouir de voir le débat porté enfin sur le plan des valeurs anthropologiques que nous défendons à travers l’AFCIA, et formulé en des termes qui sont pratiquement les nôtres.


  • -
Elon Musk démystifier

3/04/17 – Elon Musk et les mystificateurs de l’IA

Category : Non classé

Dans un rapport du 14 mars 2017 sur l’Intelligence Artificielle, le bureau de veille technologique du Parlement (OPECST) avance quinze propositions concernant l’Intelligence Artificielle.

Ces mesures résultent de l’enquête réalisée par la sénatrice Dominique Gillot et le député Claude de Ganay auprès d’un panel de spécialistes en 2016 et 2017, et à laquelle l’AFCIA a participé.

Que préconisent nos parlementaires pour parvenir à l’objectif d’une IA « maîtrisée, utile et démystifiée ? »

 

Une démarche timide et encore trop consensuelle …

Bien entendu, on cherchera en vain une remise en question de l’IA elle-même. On ne peut en effet pas attendre de la part de nos élus une prise de position critique à l’égard d’une tendance dans laquelle se ruent tous les acteurs économiques. Pas question d’apparaître comme susceptibles de freiner la marche vers le Saint-Graal de la croissance !

Il en résulte des formules prudentes qui ne manquent parfois ni d’incohérence ni même d’humour :

Pour une IA maîtrisée, il faut se garder… d’une contrainte juridique trop forte. Ce serait en effet dommage d’essayer de maîtriser.

Favoriser (comment ?) des algorithmes et des robots sûrs, transparents et justes. Par exemple, un drône tueur juste est un drône qui ne tue que les méchants ?

Former et sensibiliser le grand public aux conséquences pratiques de l’IA et de la robotisation. A quel moment ? Avant ou après leur licenciement ?

Etre vigilant sur les usages spectaculaires et alarmistes du concept d’IA. Comment ? En empêchant la presse de nous avertir qu’Elon Musk veut nous implanter des puces dans le cerveau ?

 

… mais une démarche dans la bonne direction !

Il serait toutefois injuste de ne pas saluer la prise de conscience de la dimension éthique de l’IA dans ces travaux du Parlement.

En particulier le projet d’un Institut National de l’Ethique de l’IA nous semble une initiative judicieuse, à condition bien entendu qu’il soit ouvert à d’autres sensibilités que celles des chercheurs en IA et des entreprises numériques. Le but d’un tel Institut étant en effet de structurer la relation entre le pôle des développeurs de l’IA et le reste de la société civile, il importe que celle-ci y soit représentée. Enfin, cet Institut devrait en tout état de cause rester sous tutelle du Parlement, et sous contrôle démocratique.

Cependant, comme le font remarquer les rapporteurs, c’est au plan international que devrait se jouer le débat éthique sur l’IA, susceptible d’aboutir à une charte ou à une réglementation quelque peu contraignante. L’une des premières missions de l’Institut National de l’Ethique de l’IA devrait être par conséquent de mettre en place un organisme international équivalent au sein de l’ONU.


  • -
nvxheros

De l’intelligence artificielle bisounours

Category : Non classé

 

Comme tout le monde – sans doute un peu plus que tout le monde, d’ailleurs – les partisans de l’intelligence artificielle connaissent leur petit bout de Gramsci. Ils savent que les batailles politiques se gagnent d’abord sur le terrain culturel. Le film d’animation Les nouveaux héros (2015), création Disney tirée d’une BD Marvel, le prouve, sans prendre de détours, avec une franchise assez déconcertante.

L’histoire : Hiro, un jeune prodige de la technologie, déprimé par la mort de son frère, forme une nouvelle bande de super-héros avec les amis du défunt pour démasquer un méchant. Ils seront épaulés par Baymask, un « assistant personnel santé » conçu par le frère avant son décès accidentel.

Tout le catéchisme de l’IA est là, effeuillé chapitre par chapitre : la mondialisation heureuse avec la ville de San Fransokyo, jumelage concret de San Fransisco et Tokyo ; l’esprit start-up comme voie royale vers la réussite (royale et particulièrement ouverte, où tout le monde aurait ses chances à condition bien sûr d’avoir du génie, ce qui mine un peu le message égalitaire…) ; l’homme du commun qui devient un super-héros grâce à sa maitrise technologique et, enfin, l’intelligence artificielle gentille, au service des hommes, le robot bisounours. « Nous voulions un robot câlin, » résume Don Hall l’un des réalisateurs. Et Baymask, sorte de croisement entre Bibendum et le fantôme Casper, inspiré par des prototypes de robot en vinyle, « fait le job » comme personne. Une sorte de « doudou » dont l’intelligence ne demande qu’à progresser. Le jeune Hiro augmente d’ailleurs ses capacités tout au long du film. Le robot – pardon, l’assistant médical personnel – d’abord un peu ignoré par les hommes, leur devient utile, puis indispensable pour finir par s’imposer comme leur arme fatale. Dans les dernières scènes, il enfile une armure. En deviendrait-il inquiétant ? Rejoindrait-il Terminator et les robots d’antan ? Surtout pas ! On y a veillé : « il devait produire un effet intimidant et très puissant mais, en même temps, rappeler le robot en vinyle adorable qui se trouve en dessous, » précise Chris Williams, le deuxième réalisateur. Manquerait plus que l’on se pose des questions sur les intentions de Baymask…  Il est gentil, vous dit-on, même si ses pouvoirs finissent par surpasser ceux des humains. Les scénaristes lui ont même prévu une faiblesse pour rassurer tout le monde avec une scène où sa batterie se décharge. Comme le diable est dans les détails, le très mauvais groupe Fall out boy a composé un morceau pour la BO du film. Son titre ? Immortals. Oui, au pluriel, tous immortels. Tout est dit, scénarisé, réalisé avec un immense talent. Et quand on se retourne vers la gamine de 11 ans qui vient de regarder le film, elle lâche avec enthousiasme, debout sur le coussin de son fauteuil : « trop bien, surtout le robot ! » Oui, la guerre est culturelle. Et elle est déclarée.


  • -
photo-senat-2

24/11/16 – Le Parlement français à l’écoute de l’AFCIA

Category : Non classé

 

Le 24 novembre dernier, l’Office Parlementaire d’Evaluation des Choix Scientifiques et Technologiques (OPECST) a auditionné l’AFCIA dans le cadre de la préparation de son rapport sur l’Intelligence Artificielle.

Ce rendez-vous a été pour notre Association l’occasion d’exposer devant des parlementaires les raisons qui conduisent de plus en plus de citoyens à se défier de l’Intelligence Artificielle.

1 – En premier lieu, l’incontrôlabilité fondamentale de l’IA. Il n’est pas réaliste de vouloir donner un maximum d’autonomie aux systèmes à IA tout en les gardant indéfiniment sous contrôle. Si l’IA atteint le niveau d’intelligence humaine, elle ne sera pas plus contrôlable qu’un être humain doué de libre arbitre.

De plus se posent des questions d’usage et de sécurité des systèmes mis en service. Si des nanorobots sont possibles, on ne voit pas très bien ce qui empêcherait des individus ou des Etats malveillants de les employer à des fins moins honorables. L’IA nous met face à un risque de prolifération de menaces d’autant plus incontrôlables que la technologie sera abondamment répandue et disposera de caractéristiques propres aux organismes électroniques (autoréplication, ubiquité, dématérialisation, vitesse etc…).

2 – En second lieu, l’IA pose un problème économique et social car elle a vocation à supprimer la valeur et la possibilité du travail humain. Des ressources et des moyens de plus en plus grands se retrouvent accaparés par un corps social de plus en plus petit, à savoir les entreprises numériques monopolistiques et leurs propriétaires. Il y a là une menace pour l’équilibre des sociétés humaines, que l’on voit d’ores et déjà ébranlées d’un bout à l’autre de la planète par les défis économiques de la mondialisation.

Nous sommes nombreux à penser que le respect de la dignité humaine consiste à donner à chacun la possibilité d’être authentiquement utile à la collectivité. La recherche d’efficacité doit être subordonnée à l’exigence de dignité. Si l’on souhaite que la dignité demeure une valeur suprême, il faudra nécessairement faire le sacrifice d’une efficacité plus grande réalisable au prix de l’Intelligence Artificielle.

3 – En troisième et dernier lieu, les objections contre le projet de transformer la nature humaine ou « homme augmenté ». Ce projet conduira en effet inévitablement à la fusion homme-machine, au profit de la seule machine. Or, de même que l’homme ne peut se représenter le monde en dehors des formes de l’espace et du temps, il ne peut aucunement comprendre ni concevoir la pensée artificielle suprahumaine. Ni, a fortiori, s’aventurer à échafauder une éthique transhumaniste.

La foi dans un avenir transhumaniste fondé sur la technique est une pure idéologie, au demeurant peu éloignée des autres idéologies totalitaires. Les promoteurs du transhumanisme ne prétendent d’ailleurs pas devenir meilleurs, plus justes et plus altruistes, mais plus intelligents, plus puissants ou encore immortels. Fondé sur de telles bases, leur projet est pernicieux.

L’AFCIA a exhorté les parlementaires présents à se projeter plus résolument dans l’avenir et à ne pas se prévaloir des limitations actuelles de l’IA pour s’abstenir de réfléchir à ce qui constitue fondamentalement sa nocivité. Espérons que ce message sera entendu.

 


  • -

Le piège de l’éternel présent

Category : Non classé

« On est passé de “C’est n’importe quoi” à “On le sait depuis 20 ans” puis à “ça n’apporte rien” et, enfin, à “de toute façon ça ne change rien”.» Le sociologue Louis Chauvel, qui vient de publier La spirale du déclassement (Seuil) décrit ainsi (pour le site Slate) l’accueil universitaire de ses différents travaux sur la paupérisation des classes moyennes. Le même enchaînement d’arguments pourrait résumer les débats autour de l’Intelligence Artificielle tant il reflète parfaitement cette incapacité à lier le constat présent à ses évolutions possibles.

 

Surdité à l’avenir

 

Dans le cas de l’intelligence artificielle, cette surdité à l’avenir trouve une partie de son explication dans ce que l’on pourrait nommer la création d’un éternel présent, figeant le temps comme la réflexion. Aujourd’hui, la moindre seconde de nos vies, le moindre de nos gestes génèrent des données, qui elles-mêmes donneront lieu à analyse. L’instant présent est devenu une mine d’information. Pour améliorer l’avenir comme on l’entend souvent ? Pas vraiment. Surtout pour prendre le contrôle du quotidien, pour parvenir à une maîtrise de l’immédiat ou du futur le plus proche (quelques jours, tout au plus).

Les innombrables applications et recommandations d’achats ont un objectif, clairement revendiqué par leur concepteur : fluidifier le quotidien, le rendre plus pratique, adaptable, pour en finir avec sa dimension la plus irritante (la plus humaine ?), sa capacité à ignorer nos désirs.  Si l’instant présent devient assez malléable pour se plier à notre volonté, alors pourquoi en sortir ? Au contraire, testons les limites de son élasticité, étirons-le pour le modeler aux nouvelles habitudes de consommation. Et crions-lui notre reconnaissance : Présent forever !

Qu’est-ce qui peut bien faire le poids face à l’instant T enfin domestiqué ?  Le passé ? Soumis aux interprétations, il déclenche des débats interminables. On n’y échappe pas et c’est bien ce qu’on lui reproche. Quand au futur, par définition, il a le pouvoir de déjouer notre contrôle et notre volonté. Il se transforme alors en Histoire puis en passé et revient parasiter la modernité heureuse. Non, décidément, seule la maîtrise du présent peut enrayer cet engrenage.

 

 

« On en est loin aujourd’hui »

 

L’intelligence artificielle bénéficie plus que tout autre domaine de cette installation douillette de l’homme dans l’instant T. Car, pour mettre en lumière les évolutions possibles et les risques de l’IA, on doit en passer par la projection. Sacrilège du Dieu Aujourd’hui ! La réponse ne se fait pas attendre : « c’est du fantasme catastrophiste, de la science-fiction de dépressif. Ma grand-mère aussi avait peur du train », avant le couperet : « on en est encore loin aujourd’hui » Si débat il doit y avoir, qu’il se concentre alors sur la technique du jour, sur du tangible. Retour forcé au présent.

Mais si le discours patine, il en va autrement des technologies et de ceux qui les conçoivent. Eux pensent à l’avenir et le façonnent. Quand les premières paroles de nos journées iront à des « assistants personnels », il sera un peu tard pour dire « c’est n’importe quoi ». Quand le mot embauche concernera essentiellement l’intégration de nouvelles machines dans un processus déserté par l’homme, il sera difficile de prétendre que « de toute façon, ça ne change rien. » Le piège de l’éternel présent se sera refermé.

 

A lire : http://www.slate.fr/story/126821/louis-chauvel-sociologue-lose-graphiques

 

 


  • -

22/08/16 – L’AFCIA lance sa campagne « Médias et Institutions »

Category : Non classé

rapport fond paille

La brochure « Enjeux éthiques et sociaux » fait le point sur les questions que personne ne pose. Extraits.

Ce rapport n’est pas un état des lieux de la recherche en Intelligence Artificielle. Il constitue une contribution à la réflexion autour d’un sujet insuffisamment débattu en France. Trop souvent, les médias mettent en scène une pseudo controverse opposant un porte-parole de l’IA nommément identifié (chercheur, entrepreneur, homme politique) et une interrogation, un doute ou une inquiétude, censée émaner de la vox populi, et jamais incarnée par un individu précis. Dans ce simulacre de débat, l’avantage revient invariablement au héraut de la connaissance et du progrès. Fort de son aura académique, de son élan entrepreneurial ou de son influence politique, il n’a aucune peine à convaincre d’inanité un contradicteur dont l’étoffe est tissée de songes.

L’Association Française Contre l’Intelligence Artificielle entend occuper la place aujourd’hui vacante dans ce dialogue pipé entre un discours à prétention hégémonique, et toutes les objections qu’il mériterait de susciter. […]

Nous allons exposer ici, de la manière la plus nette possible, quels sont les problèmes posés par l’Intelligence Artificielle et son développement ultra-rapide. Nous formulerons des questions sans détour : que le lecteur y apporte la réponse qu’il lui plaira. […]

Sans doute existe-t-il beaucoup à faire pour imaginer comment construire un avenir bénéfique sans IA, et si nous osons formuler les principes d’un projet de civilisation à la fin de cet opuscule, nous ne prétendons certainement pas détenir la clé d’une société idéale à l’échelle de la planète.

Au moins souhaitons-nous ouvrir un débat, car ce débat doit avoir lieu. Il y a urgence.

SOMMAIRE :

I – IA et Risque Technologique

Sait-on comment garder le contrôle ? Vers une prise de pouvoir indolore ? Où mène la fusion homme-machine ?

II – IA et Logique Economique

Faut-il s’attendre à une émergence de nouveaux emplois ? Jusqu’où la robotisation reste-t-elle socialement responsable ? Une société sans travail est-elle possible ? Et souhaitable ? Le progrès technologique est-il devenu aveugle ?

III – IA et Projet Humain

Notre science nous a-t-elle donné la maîtrise ? Peut-il y avoir une éthique transhumaniste ? Le transhumanisme est-il écologique ?

CONCLUSION : Principes pour un autre projet

Un exemplaire est envoyé à chaque donateur dans le cadre de la campagne sur HelloAsso.


  • -

25/04/16 – Les « jobs à la con », prémices de la fin du travail ?

Category : Non classé

Un article du « Monde » du 24 avril 2016, par Lorraine de Foucher et Nicolas Santolaria, donne à réfléchir sur la prolifération des « jobs à la con » (bullshit jobs en anglais) dans les entreprises grandes et petites. De plus en plus de jeunes salariés sont en effet confrontés à des métiers ennuyeux, aux contours mal définis, et dont l’intitulé comporte de préférence de pompeux anglicismes.

Jean a fait une prestigieuse école en trois lettres, pour aller contrôler la gestion d’une société en quatre lettres. « Je mets des chiffres dans des cases, et je compte. Parfois, je compte même les cases pour m’amuser. C’est quand même fou le nombre de cases qu’il peut y avoir dans un tableur Excel », feint-il de s’extasier.

[Comme dans le cas de Jean] l’émiettement des tâches au bureau donne à beaucoup le sentiment d’occuper un emploi dénué de sens. Les « jobs à la con » sont-ils le mal du siècle ou seulement une étape dans la mutation du travail ?

Avec humour, Nicolas Santolaria propose plusieurs descriptifs pour des emplois « idiots » du futur – pas si éloignés, hélas, de la réalité.

LEAD IMPLEMENTATION ARCHITECT – Votre rôle est d’effectuer une veille constante sur l’émergence de nouvelles technologies disruptives et de les intégrer à l’architecture réseau de la multinationale pour laquelle vous travaillez, afin qu’elle garde la souplesse opératoire d’une jeune start-up. Vous êtes le stratège d’une guerre technologique qui ne dit pas son nom, et le seul à connaître les plans de la Babel informatique que vous avez édifiée. En vrai, vous jouez à Clash of Clans en buvant du maté.

CUSTOMER IDENTITY PLANNER – Steve Jobs l’avait bien compris : il ne suffit pas d’inventer le produit, il faut également conceptualiser le client qui va avec. Grâce à des solutions de Customer design, vous établissez les profils qui permettront un écoulement fluide des marchandises et, en étroite collaboration avec le département de growth hacking, vous tentez d’accélérer leur éclosion. Votre fierté ? Avoir favorisé l’émergence des « décroissants compulsifs ». En vrai, vous profitez de votre temps libre pour faire votre arbre généalogique (vous êtes déjà remonté jusqu’à 1567!).

Comment de tels emplois peuvent-ils émerger dans une économie pourtant axée sur la productivité ? David Graeber, anthropologue à la London School of Economics, et introducteur du terme « bullshit jobs » dans un article publié en 2013, s’étonne ainsi de la bureaucratisation croissante du monde du travail :

Dans la théorie économique du capitalisme […], la dernière chose que le marché et l’entreprise sont censés faire, c’est de donner de l’argent à des travailleurs qui ne servent à rien. C’est pourtant bien ce qui se passe ! La plupart des gens travaillent efficacement pendant quinze heures par semaine environ, comme l’avait prédit Keynes, et le reste du temps, ils le passent à critiquer l’organisation, organiser des séminaires de motivation, mettre à jour leurs profils Facebook et télécharger des séries télé.

Pour l’AFCIA, les « jobs à la con » sont probablement révélateurs d’une tendance de l’économie à s’organiser de manière à exclure progressivement le facteur humain. A côté de la forme d’exclusion explicite que constitue le chômage, se développe une autre voie consistant à attribuer des « emplois fictifs » sans réel intérêt ni pour l’employé, ni même pour l’employeur. Car si les métiers peu épanouissants ne datent pas d’hier, la nouveauté réside désormais dans ce qu’ils n’ont pas, ou très peu, d’utilité pour l’entreprise. Contre toute logique économique, les dirigeants les tolèrent ou les favorisent sans doute pour la bonne raison qu’ils sont eux-mêmes déconnectés de la réalité humaine de leur firme, et ne s’intéressent que très marginalement à l’expérience vécue par leurs collaborateurs.

En revanche, s’il est une leçon que réaffirme l’analyse du « Monde » avec force, c’est que chacun veut un travail qui donne un sens à sa vie. Telle est la conviction profonde de l’AFCIA, et l’origine de son engagement contre un processus qui cherche à  frustrer l’être humain de ce besoin et de ce droit fondamentaux.


  • -

15/02/16 – Que peut Confucius contre les automates ?

Category : Non classé

Charles-Edouard Bouée, président de Roland Berger,  cabinet de conseil en stratégie d’entreprise, s’est penché sur le problème de l’avenir de l’homme dans la civilisation des machines, dans son ouvrage « Confucius et les automates ».

Fort de sa connaissance des entreprises et des révolutions techniques en cours, l’auteur se livre à une description très complète d’un monde à venir dominé par les entreprises technologiques américaines et chinoises leaders du numérique, réunies au sein de ce qu’il appelle le « Septième Continent ».

Accélération des échanges et des processus industriels, mise sous surveillance généralisée des individus à des fins d’exploitation commerciale, intelligence artificielle entrant en concurrence avec l’intelligence humaine, robotisation, telles sont les tendances décrites en détail par Charles-Edouard Bouée, qui en souligne autant les attraits que les aspects inquiétants.

En fait, il ne cache pas que la révolution en marche constitue un véritable défi pour l’individu, condamné à devoir s’adapter à une réalité socio-économique qui s’évertue à l’en exclure.

Nous sommes face à un phénomène beaucoup plus complexe [que la crise économique de ces dernières années] qui fait que pour la première fois dans l’histoire de l’économie mondiale, une révolution technologique n’est pas synonyme de progrès social pour les générations futures, en tout cas pour celles qui ne sont pas en mesure de suivre des cursus scientifiques et techniques, ce qui est la majorité.

Le constat est exposé avec lucidité par un auteur que l’on ne peut pourtant pas soupçonner d’une hostilité de principe pour l’innovation. Ni de parti-pris contre le capitalisme ! Et pourtant, continue-t-il :

C’est comme si l’on revenait aux origines du capitalisme : très grande concentration de richesses chez les détenteurs du capital, paupérisation rampante des exclus du progrès technique.

Quel sera donc le recours contre la montée en puissance d’une nouvelle forme d’aliénation ? On pourrait penser qu’après avoir posé les prémisses avec tant de conviction, Charles-Edouard Bouée n’hésite pas à formuler la seule conclusion logique : se détourner au plus vite de cette voie sans issue. Las ! Il retombe au contraire dans le réflexe « c’est à nous de nous adapter ! » que nous avions déjà entendu de la part d’Alain Madelin.

Cela risque, à moyen terme, de ne laisser à une majorité d’êtres humains que le rôle de supplétifs des robots. [..] Un enseignement de meilleure qualité permettra à davantage de jeunes d’intégrer la nouvelle civilisation des machines et de susciter un boom de la création de start-up technologiques, dont on sait qu’elles sont le moteur de l’innovation.

Un boom de start-up technologiques ! Pour quoi faire ? Accélérer la course-poursuite ? Foncer plus vite encore vers le désastre ?

Pourtant, rien n’est perdu. Après ce faux départ, Charles-Edouard Bouée en vient enfin à formuler la thèse qui a donné son titre à l’ouvrage : le réapprentissage de la sagesse universelle, en suivant l’exemple illustre de Confucius.

Pour survivre au sein du nouvel âge des machines, l’Homme devra produire ce dont elles seront toujours incapables, quel que soit leur niveau d’intelligence : de l’amour des autres, du bonheur, de l’humour. Jusqu’à aujourd’hui, aucun laboratoire du monde n’a été capable de construire un robot qui rit. Le monde des machines ne rigole pas, il travaille sans relâche. Il ne joue pas, il « fabrique ». Il n’est pas solidaire, il est « connecté ». Cela laisse à l’homme des champs immenses où démontrer qu’il a sa place dans le nouveau monde des machines et que cette place est la première. Si les robots ne nous divisent pas, nous vaincrons…

Espérons que le mot d’ordre de Charles-Edouard Bouée sera entendu ! Mais alors, si la voie du salut passe par la « sagesse universelle », au carrefour des traditions confucéenne et kantienne, pourquoi donc ne pas le dire, M. Bouée, et appeler de vos vœux un enseignement public qui lui fasse la part belle, plutôt qu’au développement et à la diffusion des technologies numériques ?

 

 

« Confucius et les automates » (écrit en collaboration avec François Roche) est paru aux éditions Bernard Grasset.


  • -

2/12/15 – ‘La Croix’ dénonce les illusions du transhumanisme

Category : Non classé

Dans une série d’articles parus tout au long du mois de novembre, le journal La Croix se penche sur l’idéologie transhumaniste, préparant ainsi le colloque « L’homme augmenté conduit-il au transhumanisme ? » organisé le 28 novembre à Lyon par l’Académie Catholique de France.

Plusieurs intellectuels ont été invités à s’exprimer dans les colonnes du quotidien catholique. Nous citons ici de larges extraits de deux de ces interventions.

Jean-Michel Besnier, professeur de philosophie à la Sorbonne :

L’émergence d’une nouvelle espèce est au cœur des projections de l’Université de la Singularité, aux États-Unis, et de son mentor Ray Kurzweil, qui promettent, d’ici à 2045, l’avènement d’une intelligence artificielle surpassant très largement la nôtre. On peut se gausser de ce genre de prédictions mais je rappelle tout de même que Ray Kurzweil a été conseiller spécial d’Obama…[…]

L’humanité semble traverser une profonde dépression marquée par cette mésestime de soi, dans laquelle l’attachement aux machines trouve sa source. Pour le dire autrement : puisque l’homme est si faillible, puisque sa volonté conduit au pire, pourquoi ne pas s’en remettre aux machines et travailler à l’émergence d’une nouvelle humanité ? À travers ces courants, l’homme paraît jouer son va-tout. […]

Leur fascination repose, à mon sens, sur une vision très naïve de l’épanouissement humain. Prenons la question de l’immortalité. Les transhumanistes espèrent à terme « tuer la mort ». Des recherches sont actuellement menées pour comprendre et enrayer les processus de vieillissement des cellules.

Peut-être parviendra-t-on à repousser extrêmement loin la longévité humaine, voire à rendre l’homme immortel. Certains, dans leurs hypothèses les plus folles, imaginent même pouvoir un jour télécharger la conscience ! Reste que, en elle-même, cette quête pose question.

Les Grecs nous ont appris que la mort est le privilège de l’homme (les Dieux sont immortels et les animaux aussi, puisque l’animalité ne se réfère qu’à l’espèce qui perdure). Et de fait, tout ce que l’homme fait de grandiose tient toujours à cet affairement avec la mort, l’art, la culture, le langage… À l’inverse, les technologies lissent, simplifient et nous détournent du symbolique.

La Croix : Oui, et de l’altérité aussi…

J.-M. B. : Effectivement. Car éliminer les failles de l’homme, le rendre « parfait », c’est aussi en faire un être solitaire, qui se suffit à lui-même. Comme le disait l’écrivain Georges Bataille, nous ne communiquons jamais que par nos blessures… Il faut être blessé, ouvert, pour aller vers l’autre.

À cet égard, il est intéressant de se tourner vers l’imaginaire proposé par la science-fiction. L’être humain dépeint dans deux ou trois mille ans est un être solitaire qui, certes, évolue dans une foule bigarrée mais tout en restant profondément seul.

Bertrand Vergely, philosophe et théologien :

La Croix : La quête de l’immortalité a-t-elle toujours jalonné l’histoire de l’homme ?
Bertrand Vergely : Oui, et on le comprend, car cela va dans le sens de la vie, de l’amour de la vie, de la confiance. C’est l’élan de l’homme qui ne se résout pas à ce que la mort et le néant soient les derniers mots de toute chose. Chez les Grecs, la quête de l’immortalité est ainsi liée à la figure du héros qui, par ses exploits extraordinaires, devient un être mémorable, à l’image d’Hercule qui se mesure au monstrueux.

Le héros antique a résisté à ses démons intérieurs dans un parcours initiatique. Cependant, cette quête n’a rien à voir avec ce que les transhumanistes projettent de réaliser. L’immortalité, telle qu’ils la conçoivent, n’a plus rien d’un engagement moral : il s’agit de perpétuer indéfiniment le corps, par peur de la fin, dans une approche égocentrée et une obsession de maîtrise et de sécurité. Le grand paradoxe, c’est que vouloir ainsi supprimer la mort est en réalité suicidaire.

Pourquoi ?
B. V. : Parce que cela signerait, d’une part, la fin de la morale, d’autre part, la fin du risque et du courage. Comme le rappelle le philosophe Vladimir Jankélévitch, l’irréversibilité de la mort est l’un des garants de la morale. Je ne vous tue pas parce que mon geste aurait une conséquence irréversible.

Le jour où l’on ne meurt plus, où l’on peut réparer le corps à l’infini, il n’y a plus d’obstacle à la violence, c’est la porte ouverte à la barbarie totale. En outre – c’est le second aspect –, le propre de la vie, c’est le risque, l’incertitude. Ainsi, l’action, la prise de décision n’ont de sens que parce que tout n’est pas écrit. Imaginez une course sportive dans laquelle on connaîtrait le palmarès à l’avance.

Quel intérêt y aurait-il à s’engager dans l’épreuve ? Aucun ! Si la mort est vaincue, il n’y a plus de prise de risque, donc plus de victoire, plus d’échec, plus de surprise, c’est une forme d’anéantissement. Autrement dit, pour créer un homme qui ne meurt pas, on crée un homme qui ne vit plus.

Comment se fait-il que cette imposture ne semble plus visible aujourd’hui ?
B. V. : Nous vivons dans une société matérialiste, fascinée par la technologie toute puissante. Remettre en question la promesse d’immortalité, c’est apparaître comme opposé au progrès technique. En réalité, les projections transhumanistes prospèrent sur un impensé philosophique et sont intellectuellement très frustes.

À quoi bon vivre indéfiniment si toute vie réelle m’échappe ? Ce qui compte n’est pas de perpétuer le corps à l’infini, mais bien de vivre « une éternité de vie ». Or celle-ci ne trouve pas sa source dans le temps qui s’étire indéfiniment mais dans ce que l’on expérimente d’unique et d’inoubliable. Le sentiment d’éternité se forge dans l’intensité de la vie.

Cette vision du monde peut-elle l’emporter face à la tentation transhumaniste ?
B. V. : Oui, j’en suis convaincu. La première chose, c’est de poser un regard critique sur les promesses transhumanistes, donner à voir leurs contradictions et leur absurdité. Vivre perpétuellement ? Mais qui cela concernerait-il ? Voudrait-on d’une « humanité à deux vitesses » ? Car ne nous leurrons pas, seuls les plus fortunés auront accès à la longévité.

La deuxième chose, c’est de partager des expériences de vie très profondes. Pour cela, il est important que des personnes inspirées témoignent de la puissance de la vie, de la lumière qu’elle recèle, de la beauté, de la grâce. C’est notamment le rôle des poètes, des écrivains, des philosophes, des cinéastes. Partageons ce que nous vivons, ce que nous sentons.

Ce sera d’autant plus aisé qu’il y aura une fatigue d’homo technicus, une lassitude vis-à-vis de cette frénésie technique désincarnée, bien pâle à côté de la vie elle-même, si imparfaite soit-elle !

 


  • -
UN

6/11/15 – Le danger de l’IA débattu aux Nations-Unies

Category : Non classé

L’Institut de Recherche sur la Criminalité et la Justice de l’ONU (UNICRI) a organisé un colloque le 14 octobre dernier à New York sur les défis posés par l’émergence de l’Intelligence Artificielle.

Cet Institut s’intéresse en effet aux problèmes posés par l’IA sur la sécurité publique, au même titre que les menaces Nucléaire, Bactériologique et Chimique.

Deux experts ont été invités à s’exprimer devant quelques 130 délégués de 65 nations : Nick Bostrom, philosophe, fondateur du Future of Humanity Institute (FHI), et Max Tegmark, physicien, fondateur du Future of Life Institute (FLI).

L’intervention de Max Tegmark s’est attachée à démontrer pourquoi il est nécessaire de se préoccuper très soigneusement de la sécurité des systèmes d’IA avancés avant de les mettre au point. Si l’humanité s’est résignée à devoir subir quelques graves incendies avant de codifier les conditions d’emploi du feu, il n’est plus du tout question de tolérer des tâtonnements et des erreurs lorsqu’il s’agit de nucléaire, de manipulations génétiques ou d’Intelligence Artificielle. Les conséquences de notre imprévoyance peuvent en effet s’avérer très lourdes, comme Tegmark le démontre à partir de l’exemple de l’arme atomique.

Tegmark UN 14 oct 15

Bien que la bombe atomique ait été inventée en 1945, les dommages occasionnés par les retombées radioactives, l’impulsion électromagnétique ou l’hiver nucléaire n’ont été compris et considérés à leur juste proportion que plusieurs décennies plus tard. En d’autres termes, dans le cas de la bombe atomique, les « études d’impact » n’ont donc pas été menées d’une manière satisfaisante.

C’est très précisément ce qu’il faut à tout prix éviter dans le cas de l’IA, car les enjeux sont colossaux… voire existentiels, comme le souligne Nick Bostrom.

De même que l’Homme impose sa loi au Chimpanzé, avec lequel il partage pourtant 95% de son patrimoine génétique et ne s’en distingue que par quelques neurones de plus, de même une Intelligence Artificielle supérieure (ce que Bostrom nomme la Superintelligence) pourrait rapidement prendre le contrôle de nos destinées.

La question du contrôle de l’IA se pose donc avec acuité.

Or, dans son allocution, Bostrom déclare :

Il y a des scénarios plausibles dans lesquels des systèmes superintelligents deviennent très puissants. Et face à cela, il y a quelques manières apparemment plausibles de résoudre le problème du contrôle; mais ce sont là des idées qui nous viennent immédiatement à l’esprit et qui, à bien y regarder, s’avèrent inopérantes. Le problème des mécanismes de contrôle reste donc actuellement ouvert et non résolu.

Cela va devenir difficile, car en réalité il faut que nous disposions de ces mécanismes de contrôle avant de construire ces systèmes intelligents.

Pour gagner « the Wisdom Race »  (la course à la sagesse), Nick Bostrom en appelle donc à un financement plus important des programmes de recherche en sécurité de l’IA (IA Safety) et à une collaboration plus étroite de ces chercheurs avec ceux du développement (IA Development).

L’AFCIA souscrit aux analyses de Max Tegmark et Nick Bostrom. Néanmoins sa conclusion s’en éloigne significativement : plutôt que de croire présomptueusement que nous saurons maîtriser les forces que nous nous apprêtons à libérer, alors qu’il n’y a pas le début d’un consensus pour savoir comment faire, renonçons purement et simplement à les libérer.

Messieurs Bostrom et Tegmark, la vraie sagesse consiste à renoncer à l’IA !

Les exposés de Max Tegmark et Nick Bostrom sont accessibles in extenso sur le site : http://gizmodo.com/experts-warn-un-panel-about-the-dangers-of-artificial-s-1736932856