L’ordinateur Watson, création d’IBM, est un exemple concret du déplacement du pouvoir de décision vers un système à IA. Ce système expert est capable de lire 200 millions de pages d’encyclopédie en 3 secondes, et d’en extraire des informations sur un mode d’apprentissage « statistique ». Il est commercialisé dans le but d’aider des professionnels à prendre des décisions dans des situations où il faut faire appel à une immense base de données de références, par exemple pour choisir la thérapie la mieux adaptée à un patient particulier.
Qui décide ensuite de la thérapie ? « Watson n’a pas vocation à endosser la blouse blanche. Ce n’est qu’un outil d’aide à la décision. Au final, c’est bien le praticien qui tranche », indiquent les commerciaux d’IBM*.
Pourtant, imagine-t-on un praticien passer outre l’avis de Watson, dès lors que celui-ci est notoirement reconnu comme le plus qualifié des deux ? En définitive, c’est bien Watson qui décide. La sauvegarde du libre-arbitre est une illusion entretenue par le vendeur.
Ce type de situation va irrémédiablement se multiplier dans les années à venir. La numérisation des échanges aidant, on peut très bien imaginer que la prise de décision soi-disant « assistée » par ordinateurs devienne un mode de fonctionnement normal de l’économie et de l’administration.
Les rapports humains assistés par ordinateur constituent un autre registre dans lequel les IA pourraient s’immiscer au cœur des relations humaines. Mon smartphone me dit qui tu es, quel est ton CV, quels sont tes revenus (en fonction de tes vêtements), quel est ton niveau d’éducation (en fonction de ton langage), si tu es sincère, préoccupé, inquiet, etc… Il me souffle les questions que des spécialistes en négociation ou en PNL pourraient imaginer, me suggère des réponses, traduit ou rectifie mes propos.
Dans l’étape suivante, les deux smartphones se mettent directement en relation pour assurer la communication dans les conditions optimales. On est à nouveau dans une « course entre l’épée et le bouclier », chacun devant s’assurer une longueur d’avance pour dominer son adversaire.
Face à des systèmes incommensurablement plus rapides et précis que l’homme, que vaut la satisfaction, pour ce dernier, d’avoir conservé son libre-arbitre, si tous les leviers de l’action lui sont retirés – pour la bonne cause, bien entendu ?
Alain Cardon, un scientifique qui a consacré sa carrière à la recherche en IA, a fini par détruire volontairement une grande partie de ses résultats, parce qu’il entrevoyait une probable « domination des humains et de la nature par des systèmes artificiels autonomes opérant coactivement en réseaux hyper-denses », selon ses propres termes. La question n’est pas tant de savoir si cette vision va se concrétiser, que de savoir comment éviter qu’elle se concrétise. Par ailleurs, si elle est inévitable, l’homme sera-t-il conscient d’être dominé ? Aura-t-il la volonté d’y résister ?