Cri d’alarme du prix Nobel de Physique, Geoffrey Hinton :  » personne ne sait vraiment si nous serons capables de les contrôler »

John Hopfield, 91 ans et professeur à la prestigieuse université Princeton, et Geoffrey Hinton, 76 ans et professeur à l’université de Toronto au Canada, ont été récompensés « pour leurs découvertes et inventions fondamentales qui permettent l’apprentissage automatique grâce aux réseaux neuronaux artificiels ». Ils travaillent sur le sujet depuis les années 1980.
Les réseaux de neurones artificiels s’inspirent du réseau de neurones dans notre cerveau. Les deux lauréats du prix Nobel de physique de cette année ont utilisé des outils de la physique pour développer des méthodes qui sont à la base des puissants systèmes d’apprentissage automatique d’aujourd’hui », a indiqué le jury dans son communiqué.
Plus inquiet que fier de ses recherches, jusqu’aux déclarations à l’issue de son prix Nobel – faites depuis « un hôtel californien bas de gamme »- Geoffrey Hinton a martelé un message de prudence. « Dans les mêmes circonstances, je referai la même chose », a-t-il déclaré. « Mais je suis inquiet que la conséquence majeure de tout ça puisse être que les modèles deviennent plus intelligents que nous et prennent le contrôle ».

Il avait déjà dit en juin 2023 « Avant que les IA ne deviennent plus intelligentes que nous, je pense que ceux qui les développent devraient être encouragés à travailler davantage à se demander comment elles pourraient essayer de prendre le contrôle » ,devant un parterre d’industriels de la tech en juin 2023.
Il a ensuite déclaré (le 9 octobre) dans une interview video : https://www.rtl.be/page-videos/monde/le-cri-dalarme-du-prix-nobel-de-physique-et-pere-de-lia-la-plupart-des-meilleurs/2024-10-09/video/720050
« J’espère que l’IA pourra apporter beaucoup d’avantages, une grande augmentation de productivité, et un meilleure vie pour tous. Je suis convaincu que ça sera le cas dans le domaine de la Santé. Ma préoccupation, c’est que cela ne conduise également à des choses négatives, et en particulier , lorsqu’on arrivera à des choses plus intelligentes que nous, personne ne sait vraiment si nous serons capable de les contrôler. La plupart des meilleurs chercheurs que je connais pensent que l’IA va devenir plus intelligente que les humains. Ils ont différentes échéances  : la plupart pensent que cela arrivera dans les 20 prochaines années, certains pensent que ce sera beaucoup plus rapide, d’autres plus tard. Nous devons réfléchir sérieusement à ce qui se passera alors. C’est pourquoi nous avons besoin de plus de recherche. Je défends donc l’idée que la majorité des meilleurs jeunes chercheurs devraient travailler sur la sécurité de l’IA, et que nos gouvernements devraient obliger les grandes compagnies à leur fournir les capacités de traitement de données dont ils ont besoin pour le faire. »


En savoir plus sur AFCIA

Subscribe to get the latest posts sent to your email.

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.