Ingénieur, catholique, consultant en éthique des affaires et travaillant sur l’éthique numérique dans le cadre du think tank Espérance & Algorithmes créé par Etienne de Roquigny, Laurent Barthélémy a souhaité nous faire part de ses commentaires sur le livre de Marie David et Cédric Sauviat « Intelligence artificielle, la nouvelle barbarie » (Editions du Rocher, 2019)
Interpellé par le passage sur la vision de l’IA et des mégadonnées par l’Eglise catholique (pp.283 et suivantes), j’ai fourni aux auteurs quelques commentaires et éléments d’information complémentaires, que je développe ici.
1. Pour ce qui est de la contribution du catholicisme, ce qu’on appelle
Doctrine sociale de l’Eglise, je trouve leurs propos à la fois encourageants
(pour le catholicisme) et un peu sévères.
1.1 Encourageants parce que le catholicisme romain est la seule religion convoquée comme témoin à la barre du procès de l’IA (sauf très rapidement le shintoïsme à propos des tamaguchi). C’est flatteur, soit parce que les auteurs en attendent beaucoup, soit parce que les autres religions n’ont pas grand’chose à dire sur ce sujet (je suis peut-être un peu injuste pour le judaïsme, mais on attend tout de même autre chose que des articles brillants mais dispersés).
Plus sérieusement, Rome a en effet pris l’habitude depuis le XVIIIème siècle de prendre position sur les aspects religieux et moraux des problèmes du temps, mêmes temporels et profanes.
Dès 1745 Benoît XIV résume, dans l’encyclique sur les contrats et l’usure Vix pervenit, la doctrine thomiste qui privilégie l’association en société (affectio societatis) au prêt d’argent impersonnel et de surcroît usuraire. C’est le coup d’envoi de la doctrine sociale de l’Eglise, qui est plus facile à manier par le commun des mortels que la doctrine thomiste, même si cette dernière a traité du sujet (et n’a sans doute pas dit son dernier mot, y compris sur la pensée humaine et la pensée artificielle). Tout le monde connaît ensuite :
Rerum Novarum de Léon XIII sur la condition ouvrière et les garde-fous à mettre au capitalisme (le socialisme était récusé sans appel. Léon XIII est le seul avec Marx à avoir apporté une pensée structurée sur la question ouvrière, n’en déplaise aux disciples de Proudhon et Sorel) ;
Quadragesimo Anno de Pie XI en 1931 sur le capitalisme financier et la crise de 1929 ;
Mater & Magistra de Jean XXIII, Octogesimo Anno de Paul VI sur la mondialisation (déjà) ;
Centesimo Anno/Laborem Exercens/
Sollicitudo Rei Socialis de Jean-Paul II qui revient sur le capitalisme et ses excès possibles
après la chute du socialisme ;
Caritas in Veritate de Benoît XVI, qui aborde les dérives financières du capitalisme (crise de 2008) et commence un peu à s’occuper d’environnement et de développement durable;
Evangelii Gaudium et surtout Laudato Si de François sur l’écologie…
Bref, selon l’heureuse formule de
Benoît XVI, « La doctrine sociale de l’Église éclaire d’une lumière qui
ne change pas les problèmes toujours nouveaux qui surgissent » (Caritas
in Veritate, n° 12).
Il est donc normal d’attendre de Rome quelque chose qui se tienne sur l’IA, ou même plus largement la numérisation de la société et même la numérisation de l’économie.
Je crains toutefois qu’il ne soit audacieux d’écrire, comme le fait le livre, que Laudato Si condamne sans appel l’IA « en tant que projet et en tant que système ». François condamne à l’emporte-pièce et sans nuance les dérives financières et hyperlibérales, mais pas le capitalisme en tant que tel. Cela s’applique à mon avis de la même façon à l’usage malveillant de l’IA ou simplement à des fins d’accumulation frénétique de capital (ce qu’Aristote appelait la chrématistique pour la distinguer de l’économie, qui, elle, est au service de l’homme).
1.2 Un peu sévères parce que, contrairement à ce qui est écrit, l’Eglise catholique n’est pas muette à ce stade sur la question de l’IA, et, pour avoir étudié d’assez près la littérature ouverte sur l’éthique de l’IA (y compris le rapport Villani, celui bien meilleur de la CNIL et pas mal d’autres), je pense qu’elle n’a pas à rougir des quelques pages qu’elle a pu commettre sur le sujet, comparativement au courant humaniste, à la franc-maçonnerie qui cogite beaucoup sur le sujet, au protestantisme, au judaïsme, aux universités islamiques qui depuis quelques années travaillent dur pour élaborer une doctrine sociale (par exemple Mushin Mahdi publié en français par l’Institut du monde arabe ; ou dans la sphère anglophone Heydar Shadi, ou https://www.islamicity.org/values ou https://www.al-islam.org) dans une optique radicalement différente puisque l’Islam est par nature englobant et théocratique et ignore la laïcité, du moins dans l’Oumma).
Voici plusieurs exemples illustrant une véritable préoccupation de l’Eglise pour l’IA:
En décembre 2016, s’est tenue au Vatican une
conférence intitulée dans un latin irréprochable “ Power and Limits of Artificial
Intelligence”.
L’académie Centesimus Annus a diffusé en 2018
les actes d’un colloque “Catholic
Social Teaching in action: Facing the Challenges of Digital Age”
L’Académie Pontificale pour la Vie a tenu un séminaire en février 2019 sur la
robo-éthique dont on
attend d’ailleurs la publication des actes.
Le Père Salobir, dominicain, président fondateur
d’OPTIC – Ordre des Prêcheurs pour les Technologies, l’Information et la Communication-
créé en 2012 – a lancé de nombreuses initiatives sur le numérique et l’IA.
La COMECE (Commission des Episcopats de la Communauté
Européenne) a diffusé un texte en janvier 2019 sur “La robotisation de la vie”.
L’Eglise Catholique de Paris a publié en 2018 deux
fiches dans le contexte des débats bioéthiques nationaux, l’une sur l’intelligence artificielle et l’autre document sur les mégadonnées
1.3 En conclusion Les auteurs le soulignent
avec raison, même si l’Eglise catholique a jusqu’à présent l’habitude de
tourner sept fois sa plume dans l’encrier avant de s’exprimer sur les questions
sociales ou économiques de l’époque, il devient maintenant urgent qu’elle fasse
entendre sa voix sur le « numérique » et sur l’IA dans la mesure où
cette dernière a directement à voir avec l’anthropologie (catholique en
l’occurrence) et avec la sociologie. Sur un enjeu tel que l’utilisation massive
des algorithmes dans la vie sociale et économique, il y a effectivement matière
à une encyclique ou quelque chose d’approchant. Et à une formation minimum des
prêtres sur ces sujets. Il en va de la place et de la valeur de l’être humain
dans la Création, capax Dei comme le résume saint Augustin, au-dessus
des animaux et a fortiori au-dessus des machines ou des idoles.
Permettez-moi de terminer avec quelques commentaires généraux sur « Intelligence Artificielle, la nouvelle barbarie » :
2. Il me semble que la page 62 résume
bien le livre (sans compter ses nombreux aspects didactiques, qui mêlent
réflexions personnelles ou à deux voix, et bibliographie approfondie) :
« En fait, et c’est la thèse de ce livre,
les problèmes que pose l’intelligence artificielle ne sont absolument pas liés,
comme le fait croire la Silicon Valley, à l’émergence d’une intelligence
artificielle forte. L’invasion de notre quotidien par des algorithmes qui
s’insinuent dans de multiples domaines, l’anthropomorphisation de la technique,
et le changement de rapports [humains] qui s’ensuit posent des questions
fondamentales. Une grande partie de notre capacité à vivre des expériences
humaines s’érode déjà dangereusement. Les problèmes théoriques dénoncés par un
Elon Musk [ou un Stephen Hawking ou un Bill Gates] masquent la
domination des produits de la Silicon Valley ainsi que leurs effets pernicieux
dans nos vies. »
Les [ ] sont de moi.
A quoi j’ajouterai tout de même
l’utilisation délibérément malfaisante de l’IA (cyberattaques, SALA= systèmes
d’armes létaux autonomes…)
A propos des SALA : au début du
XXème siècle, l’Amirauté britannique a refusé de concevoir et de construire des
sous-marins (malgré les inventions de Bushnell, Fulton… dans le monde
anglo-saxon) au motif que c’était une arme de voyous et non de gentlemen… Ce
n’était pas faux à l’époque et même pendant WWII, mais les Britanniques ont
fini par s’y mettre, faisant de nécessité stratégique, vertu militaire. On
verra s’il en est de même pour les SALA et pas seulement en Grande-Bretagne.
3. Les passages sur : haine du corps, haine du temps, haine de
l’incarnation, haine du risque m’ont paru bien vu et font effectivement écho à
une tendance ancestrale de l’esprit humain : la Gnose, liée au manichéisme et à
ses dérivés (catharisme etc.) L’âme seule est bonne, engluée dans la matière
qui elle a été créée par un dieu mauvais, le corps est mauvais, il faut pour
s’en sortir acquérir des connaissances et des pratiques réservées à une élite
(ésotérisme), bref le contraire du christianisme.
4. Ingénieur moi-même, je ne suis pas franchement convaincu par le fait que
la « neutralité de la technique » soit juste un mantra d’ingénieur
(p.142 par exemple). N’en déplaise à Ellul, Heidegger, Anders et quelques
autres, je pense qu’un ingénieur normalement constitué est parfaitement
conscient de la finalité de ce qu’il conçoit/réalise/exploite, que ce soit en
médecine nucléaire ou en armement nucléaire, en utilisation de la chimie ou de
la biologie à des fins thérapeutiques ou de destruction massive de vies
humaines etc. Il me semble que ce qu’il y a derrière ce débat c’est la question
de la morale des actes humains: nature de l’acte, advertance (conscience ou pas
de ce qu’on fait, délibérément et avec obstination ou pas), finalité et
circonstances. Il est d’ailleurs intéressant de voir comme la casuistique si
critiquée (à juste titre du fait de ses excès, à tort du fait de sa logique)
revient en force dans l’éthique de l’IA…
5. « Dans la relation humaine il y a engagement réciproque de
subjectivités. » (tout le chapitre 10 « Imitation Games »). Bien
vu. Le terme « pensée artificielle » couvrirait d’ailleurs mieux le
sujet que celui d' »intelligence artificielle ». Mais c’est un autre
livre, qui traiterait d’intuition, de réflexivité, de relation au réel,
capacité d’abstraction, des autres puissances de l’âme, du rêve, de la
fabrication mentale des images pour nourrir la raison, des universaux et du
nominalisme (vieux débat) …
Quid du langage et de la délibération entre personnes
pour préparer une décision ?
6. Le passage p.98 sur le double pouvoir des GAFAM et des BATX m’a paru très
éclairant: Amazon/AWS, Google Cloud et Azure fournisseurs privilégiés
(oligopolistiques) d’infrastructures d’IA et de machine learning et pas
seulement utilisateurs massifs d’algorithmes dont ils détiennent les clés.
7. Un point important également, bien mis en évidence par David et
Sauviat : le « back
office » des entreprises est probablement plus vulnérable à l’IA (Robotic
Process Information et AI) que le « front office ».
8. Page 159 « Le progrès technique procède par
améliorations incrémentales plutôt que par ruptures » : discutable à
mon avis. Le nucléaire, la miniaturisation de l’électronique, les découvertes
médicales etc. sont plutôt des ruptures ? Demain l’ordinateur quantique,
l’anti-gravitation quand on y arrivera… L’impression 3D me paraît être une
rupture, de même que le sera (ou l’est déjà ?) l’usine délocalisée et déserte
du futur à cause du numérique.
9. Des passages très intéressants sur la difficulté à contester le
« jugement » de la machine si son « raisonnement » n’est
pas explicable, du fait qu’elle est réputée plus fiable, car pouvant brasser
davantage d’informations, sans rien oublier, sans émotion, sans préjugés (à
part ceux qu’on y a introduits), sans biais (à part ceux qu’on y a introduits),
sans se tromper.
10. On s’attendrait à ce qu’après avoir précisé ce qu’on entend par « humanisme » (au-delà de la définition très large p.278), on nous propose une grille d’appréciation de ce que devrait être une IA éthique selon cette vision humaniste (qui n’est visiblement ni celle d’Asilomar ni celle du christianisme). J’ai lu récemment (je ne sais plus où !) que l’humanisme c’est « En avant, pour la plus grande gloire de l’homme » et le christianisme c’est « En haut, pour la plus grande gloire de Dieu ». Quant à Asilomar et aux autres « chartes éthiques de l’IA » des GAFAM, je laisse le soin aux experts de les qualifier. « Tous connectés et supervisés, pour la plus grande gloire de qui ? »
Laurent Barthélémy, consultant en éthique des affaires
www.hyperionlbc.com contact@hyperionlbc.com
