Invité du Medef 41 pour son assemblée annuelle, le conférencier-chercheur spécialisé dans l’anticipation des risques liés à l’IA, Vincent Guérin, a lancé un message d’alerte. L’IA menace nos démocraties et une régulation s’impose.
L’universitaire Vincent Guérin constate une accélération de l’IA avec la montée en puissance de l’IA générative. Crédit JL Vezon.
« L’IA fait courir un risque existentiel à l’humanité. » Chercheur spécialisé dans l’anticipation des risques liés à l’IA et aux neurotechnologies, Vincent Guérin livre un constat particulièrement alarmiste. « Le risque anthropologique est aujourd’hui aussi puissant que les risques naturels, climatiques, bioterroristes ou nucléaires menaçant l’humanité », a-t-il affirmé au terme d’une heure d’intervention où il a cartographié l’IA et ses enjeux. Devant 300 personnes, réunies dans l’amphithéâtre Monceau de Vendôme, Vincent Guérin rejoint le chercheur britannique Jacob Coxon qui déclarait il y a quelques semaines que les deux géants de l’IA, OpenAI (ChatGPT) et Anthropic (Claude), « n’agissent pas de manière responsable et foncent tout droit vers une super-intelligence capable de s’améliorer elle-même. Ils jouent avec nos vies ».
L’été dernier, plusieurs menaces ont d’ailleurs été révélées. Des modèles d’IA d’Anthropic ont ainsi obtenu un accès non autorisé à trois organisations, alors qu’OpenAI a révélé que deux de ses modèles étaient sortis, de leur propre initiative, du milieu confiné dans lequel ils étaient testés pour attaquer le site Hugging Face. (1) Ces systèmes avancés pourraient, à terme, acquérir la capacité de lancer des cyberattaques de grande ampleur et d’agir de leur propre chef en dehors de toute validation humaine. Prémices de scénarios de science-fiction à la Matrix ? Pour Vincent Guérin, plusieurs facteurs interagissent au premier rang dont le soutien sans faille de l’administration Trump aux accélérationnistes, mais aussi la rivalité technologique sino-américaine qui génère une course à la (toute)puissance technologique.
En parallèle, des investissements massifs se multiplient, à l’image de The Citadel, présenté comme le plus grand data center au monde, situé dans le désert du Nevada. Sur 120 000 m², il est conçu pour atteindre à terme une puissance de 650 MW et héberge les données des plus grands géants du numérique (Amazon, Google, Netflix). En France, le projet de campus AI à Foulu en Seine-et-Marne, associant Mistral, bpi, MGX (un fonds d’investissement émirati) et Nvidia, est conçu pour offrir 3 GW de capacité de calcul afin d’assurer la souveraineté technologique française.
Conséquences sur l’emploi
Alors que l’IA permet d’automatiser de nombreuses tâches, Vincent Guérin n’a pas caché les menaces qui pèsent sur l’emploi qualifié, le fameux « job apocalypse » pointé par le Financial Time mais aussi la Banque de France et HEC dans une récente étude. Un chiffre inquiète : entre fin 2022 et mars 2026, le recrutement en CDI des 21-29 ans a reculé de 28 % dans les métiers exposés à l’IA selon la Banque de France, alors que la baisse n’est que de 8 % pour les jeunes dans les secteurs les moins exposés. « On est loin de la destruction créatrice d’emploi mise en avant par certains économistes comme Schumpeter », assure V. Guérin. Au-delà, l’IA affecte les capacités cognitives des individus avec « un risque d’effacement intellectuel » et « d’atrophie cognitive ». La standardisation guette aussi avec l’explosion de contenus synthétiques, ce que le conférencier nomme « la dégénérescence systémique du web ».
Le scénario des transhumanistes comme Nick Bostrom ou Elon Musk qui rêvent d’accroître la bande passante de la pensée humaine pour suivre le rythme de l’intelligence artificielle et ainsi parvenir à une symbiose homme-machine, voire une fusion homme-machine, est donc en marche.
Si les contestations se multiplient notamment contre la construction de supercalculateurs ou méga-data centers, les citoyens doivent poser des limites car le risque de déstabilisation des démocraties est bien là. Certaines IA génératives comme celle de Grok développée par xAI, intégrée à la plateforme X (anciennement Twitter), produisent régulièrement de la désinformation, se faisant le relais de thèses négationnistes.
Une puissante régulation est donc nécessaire ; si l’Europe s’y attelle, ce n’est pas le cas aux États-Unis où les géants de la tech imposent leur loi et financent leurs projets en empruntant des milliards de dollars, tarissant au passage les sources de financement d’États surendettés comme la France. « Pour la première fois dans l’histoire, l’intégrité de la biosphère et la survie de l’espèce sont menacées par l’activité humaine. Il est urgent de construire une éthique du futur pour le présent comme le formalise le philosophe Hans Jonas », a conclu Vincent Guérin.
- (1) Plateforme open source de référence mondiale pour le machine learning et l’intelligence artificielle, souvent qualifiée de « GitHub de l’IA ». Acquise par Nvidia pour 1,9 milliard de dollars.
A lire aussi: L’IA change déjà la donne dans les entreprises du Centre-Val de Loire