Dans notre pays en proie à une crise politique, budgétaire et sociale aiguë, l’attention médiatique s’est momentanément détournée des problèmes liés à l’IA. Et pourtant, l’IA continue d’avancer…

Il y a quelques jours, des milliers de sites internet à travers le monde (en France, les sites des préfectures par exemple) ont dû être fermés en raison d’une menace de cyberattaques massives utilisant une faille dans le langage PHP. La faille existait depuis longtemps mais n’a été mise en évidence que récemment par l’IA. Et l’information a fuité avant que des actions correctives soient prises. Tous les systèmes informatiques sont désormais à la merci de pirates dopés à l’IA…

L’IA est parvenue, bien plus vite que prévu, à des niveaux de performance et d’autonomie qui font trembler.

Nous avons rapporté dernièrement l’appel lancé par une trentaine d’Etats, pour créer une instance de contrôle. Il s’agirait d’une institution internationale capable de « fixer des normes, permettre leur vérification et réunir les États lorsque des seuils de capacités sont franchis ». La France a rejoint l’initiative le 23 septembre alors qu’elle présidait le Conseil de Sécurité pour la première séance jamais consacrée aux risques de perte de contrôle de l’IA avancée. Pour l’instant, les Etats-Unis s’opposent à toute gouvernance partagée sur ce thème. Mais pour combien de temps ?

Car, même aux Etats-Unis, l’opinion publique a pris conscience de l’enjeu.

Selon un récent sondage, 63% des Américains estiment que le risque que l’IA détruise l’humanité est réel (ce qui regroupe trois degrés de risque : modéré, important ou certain), tandis que 15% sont sans opinion. Les chiffres sont pratiquement les mêmes pour les électeurs de Trump. Ceci l’amènera-t-il à changer sa politique alors que jusqu’à présent il a rejeté tout encadrement réglementaire ?

En attendant, deux parlementaires américains de l’opposition ont déposé le 23 septembre dernier un projet de loi visant à rien moins qu’interdire la « Superintelligence Artificielle » (dont la définition est : système dépassant les capacités humaines dans la plupart des domaines, y compris la prise de décision et l’autoperfectionnement) et faire en sorte que cette interdiction soit adoptée à l’échelle internationale.

Tout ceci semble de bon sens et on ne peut qu’applaudir… sauf que l’encadrement de l’IA « frontière » (modèles avancés d’IA) et de la Superintelligence ne représente guère que le « minimum syndical » de la réponse aux enjeux de l’IA.

L’IA disponible pour le grand public, telle qu’elle se répand actuellement, est d’ores et déjà une catastrophe.

Tôt ou tard, chacun devra se rendre à l’évidence, y compris ceux qui continuent à la prôner sans comprendre qu’ils préparent leur propre remplacement… à plus brève échéance qu’ils ne l’imaginent.

Ainsi, encore enthousiasmé par l’IA il n’y a pas si longtemps, un Cédric Villani est-il revenu de son optimisme. Motif : l’annonce par OpenAI, début octobre, de la résolution de 700 problèmes majeurs de mathématiques par une IA, en quelques heures.

Dans son interview au Figaro du 16 octobre, Villani parle à présent d’une « Apocalypse Now » pour la communauté mathématicienne.

L’IA fait désormais peser un risque existentiel pour la discipline. […] je n’avais pas anticipé, comme aucun d’entre nous, que cela arriverait aussi vite. Mon collègue Hugo Duminil-Copin, médaille Fields 2022, a été effondré de voir l’intégralité de son domaine de recherche asséché en une nuit. Toutes les grandes conjectures que lui et ses équipes rêvaient de démontrer ont été démontrées d’un coup.

Tant que l’IA ne détruisait pas son métier, Villani n’en avait cure… mais à présent il déchante, et peut-être a-t-il enfin pris conscience de ce que les humains vont perdre.

Les défenseurs de l’IA feraient bien de méditer cet exemple, ils sont les prochains sur la liste.

Heureusement, nous sommes de plus en plus nombreux à nous mobiliser.

Les artistes et professionnels de la création s’organisent au sein du Collectif Réveillons-nous ! L’affaire Thelison Aurélien a provoqué une prise de conscience du grand public sur le fait que beaucoup d’oeuvres sont aujourd’hui produites par l’IA sans qu’il le sache. L’idée d’un label « Garanti sans IA » fait son chemin. 

Un nouveau mouvement Stop IA a vu le jour cet été. Ses valeurs sont très proches de celles de l’AFCIA, avec un mode d’action différent. Son objectif est de créer une mobilisation populaire contre l’IA, en organisation des actions concrètes de sensibilisation dans l’espace public. Ses membres ont déjà organisé trois rassemblements devant le siège de Mistral AI.

De nombreux groupes se mobilisent également contre les projets de centres de données (data center), en particulier celui du Consortium Campus AI à Fouju en Seine-et-Marne, présenté comme le plus grand data center d’Europe, qui devrait occuper 90 ha et consommer l’équivalent de la production électrique d’un réacteur nucléaire.  Le collectif Stop Campus IA, présent lors de la manifestation pour le Climat à Fontainebleau le 26 septembre, a été rejoint par de nombreux habitants. 

L’association Pause IA a également organisé le 23 septembre une série d’actions, à Paris et dans plusieurs villes de province.

Enfin, les débats sur l’IA sont de plus en plus fréquents, comme ceux récemment organisés par Technologos et Reporterre … et les nôtres !

Christian Castellanet & Cédric Sauviat

---

Prochains événements

Jeudi 5 novembre de 18H30 à 22H30 au Bar Commun, 135 rue des Poissonniers PARIS 18EME – Rencontre-débat sur l’IA à l’initiative du collectif Réveillons-nous ! Une occasion de rencontrer tous les groupes qui se mobilisent actuellement contre la course folle vers l’IA, et pour une reprise en main par les citoyens.

Mardi 8 décembre de 18H00 à 20H00 au Maltais Rouge, 40 rue de Malte PARIS 11EME – Conférence du professeur Christopher Pollmann “Les IA risquent-elles effectivement de s’émanciper de la tutelle humaine et de tyranniser la société ?”

Enfin, marquez dès maintenant dans vos agendas la date de la prochaine Assemblée Générale de l’AFCIA, qui aura lieu le Samedi 6 février 2027 à Paris. Le programme et le lieu vous seront communiqués ultérieurement.

Dernières parutions

Dossier spécial « IA D’LA JOIE », dans le numéro 83 de MOINS! Journal Romand d’Ecologie Politique