Ingénieur, catholique, consultant en éthique des affaires et travaillant sur l’éthique numérique dans le cadre du think tank Espérance & Algorithmes créé par Etienne de Roquigny, Laurent Barthélémy a souhaité nous faire part de ses commentaires sur le livre de Marie David et Cédric Sauviat « Intelligence artificielle, la nouvelle barbarie » (Editions du Rocher, 2019)

Interpellé par le passage sur la vision de l’IA et des mégadonnées par l’Eglise catholique (pp.283 et suivantes), j’ai fourni aux auteurs quelques commentaires et éléments d’information complémentaires, que je développe ici.

1. Pour ce qui est de la contribution du catholicisme, ce qu’on appelle Doctrine sociale de l’Eglise, je trouve leurs propos à la fois encourageants (pour le catholicisme) et un peu sévères.

1.1 Encourageants parce que le catholicisme romain est la seule religion convoquée comme témoin à la barre du procès de l’IA (sauf très rapidement le shintoïsme à propos des tamaguchi). C’est flatteur, soit parce que les auteurs en attendent beaucoup, soit parce que les autres religions n’ont pas grand’chose à dire sur ce sujet (je suis peut-être un peu injuste pour le judaïsme, mais on attend tout de même autre chose que des articles brillants mais dispersés).

Plus sérieusement, Rome a en effet pris l’habitude depuis le XVIIIème siècle de prendre position sur les aspects religieux et moraux des problèmes du temps, mêmes temporels et profanes.

Dès 1745 Benoît XIV résume, dans l’encyclique sur les contrats et l’usure Vix pervenit, la doctrine thomiste qui privilégie l’association en société (affectio societatis) au prêt d’argent impersonnel et de surcroît usuraire. C’est le coup d’envoi de la doctrine sociale de l’Eglise, qui est plus facile à manier par le commun des mortels que la doctrine thomiste, même si cette dernière a traité du sujet (et n’a sans doute pas dit son dernier mot, y compris sur la pensée humaine et la pensée artificielle). Tout le monde connaît ensuite :

Rerum Novarum de Léon XIII sur la condition ouvrière et les garde-fous à mettre au capitalisme (le socialisme était récusé sans appel. Léon XIII est le seul avec Marx à avoir apporté une pensée structurée sur la question ouvrière, n’en déplaise aux disciples de Proudhon et Sorel) ;

Quadragesimo Anno de Pie XI en 1931 sur le capitalisme financier et la crise de 1929 ;

Mater & Magistra de Jean XXIII, Octogesimo Anno de Paul VI sur la mondialisation (déjà) ;

Centesimo Anno/Laborem Exercens/ Sollicitudo Rei Socialis de Jean-Paul II qui revient sur le capitalisme et ses excès possibles après la chute du socialisme ;

Caritas in Veritate de Benoît XVI, qui aborde les dérives financières du capitalisme (crise de 2008) et commence un peu à s’occuper d’environnement et de développement durable;

Evangelii Gaudium et surtout Laudato Si de François sur l’écologie…

Bref, selon l’heureuse formule de Benoît XVI, « La doctrine sociale de l’Église éclaire d’une lumière qui ne change pas les problèmes toujours nouveaux qui surgissent » (Caritas in Veritate, n° 12).

Il est donc normal d’attendre de Rome quelque chose qui se tienne sur l’IA, ou même plus largement la numérisation de la société et même la numérisation de l’économie.

Je crains toutefois qu’il ne soit audacieux d’écrire, comme le fait le livre, que Laudato Si condamne sans appel l’IA « en tant que projet et en tant que système ». François condamne à l’emporte-pièce et sans nuance les dérives financières et hyperlibérales, mais pas le capitalisme en tant que tel. Cela s’applique à mon avis de la même façon à l’usage malveillant de l’IA ou simplement à des fins d’accumulation frénétique de capital (ce qu’Aristote appelait la chrématistique pour la distinguer de l’économie, qui, elle, est au service de l’homme).

1.2 Un peu sévères parce que, contrairement à ce qui est écrit, l’Eglise catholique n’est pas muette à ce stade sur la question de l’IA, et, pour avoir étudié d’assez près la littérature ouverte sur l’éthique de l’IA (y compris le rapport Villani, celui bien meilleur de la CNIL et pas mal d’autres), je pense qu’elle n’a pas à rougir des quelques pages qu’elle a pu commettre sur le sujet, comparativement au courant humaniste, à la franc-maçonnerie qui cogite beaucoup sur le sujet, au protestantisme, au judaïsme, aux universités islamiques qui depuis quelques années travaillent dur pour élaborer une doctrine sociale (par exemple Mushin Mahdi publié en français par l’Institut du monde arabe ; ou dans la sphère anglophone Heydar Shadi, ou https://www.islamicity.org/values ou https://www.al-islam.org)  dans une optique radicalement différente puisque l’Islam est par nature englobant et théocratique et ignore la laïcité, du moins dans l’Oumma).

Voici plusieurs exemples illustrant une véritable préoccupation de l’Eglise pour l’IA:

En décembre 2016, s’est tenue au Vatican une conférence intitulée dans un latin irréprochable “ Power and Limits of Artificial Intelligence”.

L’académie Centesimus Annus a diffusé en 2018 les actes d’un colloque “Catholic Social Teaching in action: Facing the Challenges of Digital Age”

L’Académie Pontificale pour la Vie a tenu un séminaire en février 2019 sur la robo-éthique dont on attend d’ailleurs la publication des actes.

Le Père Salobir, dominicain, président fondateur d’OPTIC – Ordre des Prêcheurs pour les Technologies, l’Information et la Communication- créé en 2012 – a lancé de nombreuses initiatives sur le numérique et l’IA.

La COMECE (Commission des Episcopats de la Communauté Européenne) a diffusé un texte en janvier 2019 sur “La robotisation de la vie”.

L’Eglise Catholique de Paris a publié en 2018 deux fiches dans le contexte des débats bioéthiques nationaux, l’une sur l’intelligence artificielle et l’autre document sur les mégadonnées

1.3 En conclusion Les auteurs le soulignent avec raison, même si l’Eglise catholique a jusqu’à présent l’habitude de tourner sept fois sa plume dans l’encrier avant de s’exprimer sur les questions sociales ou économiques de l’époque, il devient maintenant urgent qu’elle fasse entendre sa voix sur le « numérique » et sur l’IA dans la mesure où cette dernière a directement à voir avec l’anthropologie (catholique en l’occurrence) et avec la sociologie. Sur un enjeu tel que l’utilisation massive des algorithmes dans la vie sociale et économique, il y a effectivement matière à une encyclique ou quelque chose d’approchant. Et à une formation minimum des prêtres sur ces sujets. Il en va de la place et de la valeur de l’être humain dans la Création, capax Dei comme le résume saint Augustin, au-dessus des animaux et a fortiori au-dessus des machines ou des idoles.

Permettez-moi de terminer avec quelques commentaires généraux sur « Intelligence Artificielle, la nouvelle barbarie » :

2.  Il me semble que la page 62 résume bien le livre (sans compter ses nombreux aspects didactiques, qui mêlent réflexions personnelles ou à deux voix, et bibliographie approfondie) :

 « En fait, et c’est la thèse de ce livre, les problèmes que pose l’intelligence artificielle ne sont absolument pas liés, comme le fait croire la Silicon Valley, à l’émergence d’une intelligence artificielle forte. L’invasion de notre quotidien par des algorithmes qui s’insinuent dans de multiples domaines, l’anthropomorphisation de la technique, et le changement de rapports [humains] qui s’ensuit posent des questions fondamentales. Une grande partie de notre capacité à vivre des expériences humaines s’érode déjà dangereusement. Les problèmes théoriques dénoncés par un Elon Musk [ou un Stephen Hawking ou un Bill Gates] masquent la domination des produits de la Silicon Valley ainsi que leurs effets pernicieux dans nos vies. »

Les [ ] sont de moi.

A quoi j’ajouterai tout de même l’utilisation délibérément malfaisante de l’IA (cyberattaques, SALA= systèmes d’armes létaux autonomes…)

A propos des SALA : au début du XXème siècle, l’Amirauté britannique a refusé de concevoir et de construire des sous-marins (malgré les inventions de Bushnell, Fulton… dans le monde anglo-saxon) au motif que c’était une arme de voyous et non de gentlemen… Ce n’était pas faux à l’époque et même pendant WWII, mais les Britanniques ont fini par s’y mettre, faisant de nécessité stratégique, vertu militaire. On verra s’il en est de même pour les SALA et pas seulement en Grande-Bretagne.

3. Les passages sur : haine du corps, haine du temps, haine de l’incarnation, haine du risque m’ont paru bien vu et font effectivement écho à une tendance ancestrale de l’esprit humain : la Gnose, liée au manichéisme et à ses dérivés (catharisme etc.) L’âme seule est bonne, engluée dans la matière qui elle a été créée par un dieu mauvais, le corps est mauvais, il faut pour s’en sortir acquérir des connaissances et des pratiques réservées à une élite (ésotérisme), bref le contraire du christianisme.

4. Ingénieur moi-même, je ne suis pas franchement convaincu par le fait que la « neutralité de la technique » soit juste un mantra d’ingénieur (p.142 par exemple). N’en déplaise à Ellul, Heidegger, Anders et quelques autres, je pense qu’un ingénieur normalement constitué est parfaitement conscient de la finalité de ce qu’il conçoit/réalise/exploite, que ce soit en médecine nucléaire ou en armement nucléaire, en utilisation de la chimie ou de la biologie à des fins thérapeutiques ou de destruction massive de vies humaines etc. Il me semble que ce qu’il y a derrière ce débat c’est la question de la morale des actes humains: nature de l’acte, advertance (conscience ou pas de ce qu’on fait, délibérément et avec obstination ou pas), finalité et circonstances. Il est d’ailleurs intéressant de voir comme la casuistique si critiquée (à juste titre du fait de ses excès, à tort du fait de sa logique) revient en force dans l’éthique de l’IA…

5. « Dans la relation humaine il y a engagement réciproque de subjectivités. » (tout le chapitre 10 « Imitation Games »). Bien vu. Le terme « pensée artificielle » couvrirait d’ailleurs mieux le sujet que celui d' »intelligence artificielle ». Mais c’est un autre livre, qui traiterait d’intuition, de réflexivité, de relation au réel, capacité d’abstraction, des autres puissances de l’âme, du rêve, de la fabrication mentale des images pour nourrir la raison, des universaux et du nominalisme (vieux débat) …

Quid du langage et de la délibération entre personnes pour préparer une décision ?

6. Le passage p.98 sur le double pouvoir des GAFAM et des BATX m’a paru très éclairant: Amazon/AWS, Google Cloud et Azure fournisseurs privilégiés (oligopolistiques) d’infrastructures d’IA et de machine learning et pas seulement utilisateurs massifs d’algorithmes dont ils détiennent les clés.

7. Un point important également, bien mis en évidence par David et Sauviat :  le « back office » des entreprises est probablement plus vulnérable à l’IA (Robotic Process Information et AI) que le « front office ».

8. Page 159 « Le progrès technique procède par améliorations incrémentales plutôt que par ruptures » : discutable à mon avis. Le nucléaire, la miniaturisation de l’électronique, les découvertes médicales etc. sont plutôt des ruptures ? Demain l’ordinateur quantique, l’anti-gravitation quand on y arrivera… L’impression 3D me paraît être une rupture, de même que le sera (ou l’est déjà ?) l’usine délocalisée et déserte du futur à cause du numérique.

9. Des passages très intéressants sur la difficulté à contester le « jugement » de la machine si son « raisonnement » n’est pas explicable, du fait qu’elle est réputée plus fiable, car pouvant brasser davantage d’informations, sans rien oublier, sans émotion, sans préjugés (à part ceux qu’on y a introduits), sans biais (à part ceux qu’on y a introduits), sans se tromper.

10.  On s’attendrait à ce qu’après avoir précisé ce qu’on entend par « humanisme » (au-delà de la définition très large p.278), on nous propose une grille d’appréciation de ce que devrait être une IA éthique selon cette vision humaniste (qui n’est visiblement ni celle d’Asilomar ni celle du christianisme). J’ai lu récemment (je ne sais plus où !) que l’humanisme c’est « En avant, pour la plus grande gloire de l’homme » et le christianisme c’est « En haut, pour la plus grande gloire de Dieu ». Quant à Asilomar et aux autres « chartes éthiques de l’IA » des GAFAM, je laisse le soin aux experts de les qualifier. « Tous connectés et supervisés, pour la plus grande gloire de qui ? »

Laurent Barthélémy, consultant en éthique des affaires

www.hyperionlbc.com contact@hyperionlbc.com