Author Archives: afcia

  • -
UN

6/11/15 – Le danger de l’IA débattu aux Nations-Unies

Category : Non classé

L’Institut de Recherche sur la Criminalité et la Justice de l’ONU (UNICRI) a organisé un colloque le 14 octobre dernier à New York sur les défis posés par l’émergence de l’Intelligence Artificielle.

Cet Institut s’intéresse en effet aux problèmes posés par l’IA sur la sécurité publique, au même titre que les menaces Nucléaire, Bactériologique et Chimique.

Deux experts ont été invités à s’exprimer devant quelques 130 délégués de 65 nations : Nick Bostrom, philosophe, fondateur du Future of Humanity Institute (FHI), et Max Tegmark, physicien, fondateur du Future of Life Institute (FLI).

L’intervention de Max Tegmark s’est attachée à démontrer pourquoi il est nécessaire de se préoccuper très soigneusement de la sécurité des systèmes d’IA avancés avant de les mettre au point. Si l’humanité s’est résignée à devoir subir quelques graves incendies avant de codifier les conditions d’emploi du feu, il n’est plus du tout question de tolérer des tâtonnements et des erreurs lorsqu’il s’agit de nucléaire, de manipulations génétiques ou d’Intelligence Artificielle. Les conséquences de notre imprévoyance peuvent en effet s’avérer très lourdes, comme Tegmark le démontre à partir de l’exemple de l’arme atomique.

Tegmark UN 14 oct 15

Bien que la bombe atomique ait été inventée en 1945, les dommages occasionnés par les retombées radioactives, l’impulsion électromagnétique ou l’hiver nucléaire n’ont été compris et considérés à leur juste proportion que plusieurs décennies plus tard. En d’autres termes, dans le cas de la bombe atomique, les « études d’impact » n’ont donc pas été menées d’une manière satisfaisante.

C’est très précisément ce qu’il faut à tout prix éviter dans le cas de l’IA, car les enjeux sont colossaux… voire existentiels, comme le souligne Nick Bostrom.

De même que l’Homme impose sa loi au Chimpanzé, avec lequel il partage pourtant 95% de son patrimoine génétique et ne s’en distingue que par quelques neurones de plus, de même une Intelligence Artificielle supérieure (ce que Bostrom nomme la Superintelligence) pourrait rapidement prendre le contrôle de nos destinées.

La question du contrôle de l’IA se pose donc avec acuité.

Or, dans son allocution, Bostrom déclare :

Il y a des scénarios plausibles dans lesquels des systèmes superintelligents deviennent très puissants. Et face à cela, il y a quelques manières apparemment plausibles de résoudre le problème du contrôle; mais ce sont là des idées qui nous viennent immédiatement à l’esprit et qui, à bien y regarder, s’avèrent inopérantes. Le problème des mécanismes de contrôle reste donc actuellement ouvert et non résolu.

Cela va devenir difficile, car en réalité il faut que nous disposions de ces mécanismes de contrôle avant de construire ces systèmes intelligents.

Pour gagner « the Wisdom Race »  (la course à la sagesse), Nick Bostrom en appelle donc à un financement plus important des programmes de recherche en sécurité de l’IA (IA Safety) et à une collaboration plus étroite de ces chercheurs avec ceux du développement (IA Development).

L’AFCIA souscrit aux analyses de Max Tegmark et Nick Bostrom. Néanmoins sa conclusion s’en éloigne significativement : plutôt que de croire présomptueusement que nous saurons maîtriser les forces que nous nous apprêtons à libérer, alors qu’il n’y a pas le début d’un consensus pour savoir comment faire, renonçons purement et simplement à les libérer.

Messieurs Bostrom et Tegmark, la vraie sagesse consiste à renoncer à l’IA !

Les exposés de Max Tegmark et Nick Bostrom sont accessibles in extenso sur le site : http://gizmodo.com/experts-warn-un-panel-about-the-dangers-of-artificial-s-1736932856


  • -

8/10/15 – L’anthropologue Michel Nachez annonce la fin de l’emploi pour les humains

Category : Non classé

Michel Nachez, anthropologue attaché à l’Université de Strasbourg, dresse un panorama des transformations économiques en cours, dans son livre « Les Machines intelligentes et l’Homme » aux éditions Neotheque.

Des caissières de supermarché aux journalistes, le chercheur passe en revue un grand nombre de métiers dont l’avenir, à horizon de 10 ou 20 ans, est menacé par l’automatisation et la robotisation, ou bien le passage à l’économie numérique. Au total, ce sont des millions d’emplois qui seront détruits au cours des vingt prochaines années, au rythme des avancées technologiques.

Au crédit de la robotique, le nombre de nouveaux métiers ou d’emplois créés est, en contrepartie, bien mince. Pour Michel Nachez, ces emplois ne seront d’ailleurs réservés qu’à des individus hautement qualifiés. On est loin des discours officiels qui tentent de faire passer le développement de la robotique pour un formidable atout dans la lutte contre le chômage. Ecoutons sa conclusion :

Dans cet exposé j’ai voulu évoquer un fait inéluctable et qui est peu

(du moins de manière officielle, lucide et claire) (re)connu par les

instances qui nous gouvernent : la perte, vouée à s’amplifier de plus en

plus, de nombre d’emplois et de métiers jusque-là dévolus à des

personnes ayant un faible à moyen niveau de qualification soit la plus

grande partie de la population active sur Terre du fait de

l’automatisation, de la robotisation et de la net-économie s’implantant de

plus en plus dans le monde du travail. Il pourrait donc se préparer (non :

se poursuivre !) une redoutable paupérisation et qui risque fort de se

révéler « galopante », y compris dans les pays développés.

Oui, c’est bien de cela qu’il s’agit : comment le ferons-nous, avec quels

modes de partage/répartition de la richesse et sur la base de quels

critères ? C’est bien là, en dernière analyse, la plus importante des

questions…

Nous assistons en ce moment à une extraordinaire mutation dans

l’Histoire de l’Humanité, qui a pour caractéristique d’être mondiale et

non pas limitée à l’une ou l’autre nation, culture ou aire géographique.

L’actuelle génération d’hommes de pouvoir ne parvient visiblement pas à

faire face aux changements rapides en cours tant économiques que

technologiques (la plupart d’entre eux, d’ailleurs, ne connait/comprend

visiblement pas grand-chose aux technologies en question). Ils expliquent

que les formes d’emplois changent et qu’il s’agit seulement de favoriser

une adaptation des individus aux nouvelles caractéristiques de

l’économie. Ce faisant ils nient ou au moins minimisent ces évolutions

que nous constatons tous : que le chômage de masse augmente de plus

en plus depuis le début des années 1980 et ce mouvement va aller

s’accélérant avec la raréfaction des emplois et la prévisible augmentation

de la population.

Michel Nachez aurait-il lu lui aussi les propos d’Alain Madelin ? En tout cas, il indique très nettement que le problème exige une réponse politique :

Soyons clair : non, le progrès technologique actuel n’est pas synonyme

de création d’emplois, ce qui d’ailleurs ne doit pas être confondu avec la

création de richesse création de richesses pour quelques possédants !

Actuellement, les plus grands (et puissants !) de ceux-ci sont tous issus

des nouvelles technologies : ce sont Google, Amazon, Apple, Facebook

et quelques autres géants de la Silicon Valley, et ils redessinent en ce

moment la carte du pouvoir sur la planète. Ce sont ces très grandes

entreprises qui dominent et imposent leurs stratégies au monde entier. Si

aucun contrepouvoir ne se lève, si aucun modèle politico/social novateur

n’émerge, alors il y a de fortes chances, comme le montre Alain Cardon

dans son analyse [Cardon, 2011], que nous soyons tous, bientôt, sous contrôle

total et cela pourrait dépasser, et de loin, le Big Brother imaginé par Georges

Orwell. Si cela se produit, ce sera le révélateur de l’absurdité du système

néo-libéral, héritier d’idéologies dépassées du XIXème siècle.

Michel Nachez prend bien garde de préciser que son enquête est scientifique et qu’il ne prétend pas proposer de solution aux problèmes soulevés. C’est bien le rôle de l’AFCIA que de prendre position sur le sujet. Car en plus du formidable bouleversement de l’économie qui est en train de se dérouler, se profile aussi la montée d’une angoisse existentielle chez les humains privés de raison d’être. Il est temps de remettre l’Homme – et pas seulement le Moi, mais aussi l’Autre – au centre de notre organisation économique et sociale.

Une partie de l’ouvrage de Michel Nachez est consultable sur le site www.nachez.info.

 


  • -

15/09/15 – Alain Madelin n’a pas compris…

Category : Non classé

Interviewé par le Figaro (« Il nous faut inventer la richesse de la révolution numérique », édition du 14 septembre 2015), Alain Madelin, cette « haute figure du libéralisme français », a montré qu’il n’avait pas perçu le problème posé par l’Intelligence Artificielle.

Le point de départ de l’article réside dans le constat, dressé par certains économistes, que la révolution numérique – « troisième révolution industrielle », après celle du Néolithique et celle du XIXème siècle – n’entraînerait pas la croissance espérée. En cause, le mode actuel de diffusion de la technologie qui ne permet pas de rémunérer à sa juste valeur le travail produit, et par conséquent, de créer suffisamment d’emplois pour alimenter la croissance.

S’exprimant aux côtés d’Alain Madelin, l’économiste Daniel Cohen, auteur du livre « Le Monde est clos et le Désir infini » (Albin Michel, 2015), expose ses arguments :

L’économie numérique dynamite nos cadres de pensée actuels. Cela porte d’abord sur le travail humain. Au XXème siècle, le progrès technique était complémentaire de l’emploi. L’organisation scientifique du travail constituait une chaîne organiquement intégrée. Du travailleur à la chaîne jusqu’au patron, en passant par les ingénieurs…, chaque catégorie sociale y trouvait une place. Ceci explique d’ailleurs que les inégalités de salaires ne progressaient pas. Aujourd’hui, le progrès numérique se substitue au travail, le robot venant remplacer les emplois. Mais pas n’importe lesquels. Ceux qui se situent au milieu de la chaîne de production regroupant les travailleurs qui possèdent un certain degré de compétences. Bref, les classes moyennes. Ce phénomène, qui contribue au ralentissement de la croissance, peut s’avérer explosif : une classe moyenne attaquée peut déstabiliser l’équilibre politique d’une nation. »

C’est là qu’Alain Madelin vole au secours de l’économie, en indiquant la voie à suivre pour, selon ses termes, « tendre vers une nouvelle société, qui à défaut d’être prospère, serait apaisée ».

 La clé, confie-t-il, c’est l’invention des formes d’emploi et de travail de demain. A la peur des délocalisations s’ajoute aujourd’hui la peur des robots ou de l’intelligence artificielle, c’est-à-dire, pour beaucoup, la grande peur du déclassement. Là encore, pas de panique. […] Les emplois du futur ne sont pas nécessairement des emplois de livreurs de pizzas, qui seront peut-être remplacés par des drônes, mais des coachs, des décorateurs et tous métiers liés à l’embellissement de la vie. »

Malgré son optimisme sympathique, Alain Madelin semble ne pas réellement comprendre ce que signifie « Intelligence Artificielle ». Le drône qui livre les pizzas sans pilote n’en est qu’une application, au demeurant relativement basique. Mais il y a d’ores et déjà des logiciels qui font office de coachs ou de décorateurs. Ainsi le programme ALICE parvient à simuler, de manière jugée convaincante par certains patients, un entretien avec un psychothérapeute.

La triste réalité, que Monsieur Madelin, à l’instar de beaucoup, se refuse encore à admettre, c’est qu’avec l’Intelligence Artificielle, on n’a plus besoin des humains, point final. Il n’y aura pas de « nouveaux métiers » ni « d’emplois du futur ».

 


  • 0

17/07/15 – Stuart Russell, un pionnier de l’IA, exprime ses inquiétudes

Category : Non classé

Dans un article pour le magazine américain Science (édition du 17/07/15), Stuart Russell compare l’Intelligence Artificielle à l’arme atomique. L’une et l’autre invention pourraient selon lui avoir des conséquences désastreuses.

Stuart Russell, chercheur à l’Université de Berkeley, n’est pas un dilettante. C’est une figure très connue et respectée dans le domaine, auteur en 1994 du manuel de référence  « Artificial Intelligence : A Modern Approach ».

Extraits de ses propos (notre traduction) :

Les scénarios catastrophes peuvent être multiples et complexes, allant des entreprises en quête d’un super-avantage technologique, aux Etats cherchant à créer des systèmes IA avant leurs ennemis, ou encore une évolution à petit feu vers une situation de dépendance et d’incapacité comme celle décrite par l’écrivain E.M. Forster dans The Machine Stops (1).

[…] A ceux qui disent : « après tout, il se pourrait que l’on ne parvienne jamais au stade de l’Intelligence Artificielle de niveau humain ou supra-humain », je répondrais que c’est comme foncer à toute allure vers une falaise en se disant « pourvu qu’on tombe bientôt en panne sèche ! »

[…] La réglementation des armes nucléaires concerne des objets et des matières fissiles, alors qu’avec l’IA on a affaire à une multiplicité déconcertante de logiciels qu’il est encore impossible de décrire. A ce que je sache, il n’existe à l’heure actuelle aucun mouvement significatif réclamant une réglementation de l’IA, que ce soit à l’intérieur ou à l’extérieur des milieux de la recherche, tout simplement parce qu’on ne sait pas comment écrire cette réglementation.

Nous devons nous détourner du cap actuel qui est de créer de l’Intelligence Artificielle pour le plaisir de créer de l’Intelligence Artificielle, sans nous préoccuper des résultats obtenus en chemin et de leurs conséquences.

(1) Dans ce livre de 1909, Forster dépeint un monde post-apocalyptique dans lequel les humains vivent sous terre, dans des cellules isolées, sous la dépendance totale d’une Machine omnipotente. (NDLR)