Les avertissements concernant une apocalypse liée à l’IA atteignent leur paroxysme. La semaine dernière, Jacob Coxon, chercheur chez Anthropic, a choqué le monde entier en démissionnant publiquement, révélant que «les personnes qui développent l’IA sont sincèrement convaincues qu’elle pourrait tous nous tuer d’ici la fin de la décennie». Ses propos ont rapidement été corroborés par Evan Hubinger, responsable de la science de l’alignement au sein de l’entreprise, qui a estimé à plus de 10% la probabilité selon laquelle l’IA tuerait tous les êtres humains. En l’espace de quelques jours, le PDG d’Anthropic, Dario Amodei, celui d’OpenAI, Sam Altman, ainsi que d’autres figures de proue de l’IA ont tous appelé à ralentir le rythme du développement de l’IA.

Les craintes d’un scénario apocalyptique lié à l’IA ne cessent de croître depuis un certain temps. Geoffrey Hinton, considéré comme «le parrain de l’IA», soutient depuis longtemps que la perte de contrôle des systèmes d’IA superintelligents pourrait «conduire à l’extinction de l’humanité». Plus récemment, Bill Gates a mis en avant la menace de bouleversements économiques induits par l’IA. Quant à Elon Musk, il appelle à une pause dans la course à l’IA depuis au moins 2023.

L’inquiétude du public va bien au-delà des scénarios apocalyptiques; elle est alimentée par des préoccupations liées aux pertes d’emploi, à la consommation d’eau et d’énergie des centres de données, à l’utilisation de l’IA par les enfants, ainsi qu’aux risques croissants en matière de cybersécurité et de sécurité nationale. Un récent sondage Gallup a révélé que sept Américains sur dix s’opposent désormais à la construction de centres de données à proximité de leur domicile. Seuls 32% des Américains font confiance à l’IA, contre 87% en Chine.

Comment les décideurs politiques, les chefs d’entreprise et les investisseurs devraient-ils se prémunir contre les risques liés à l’IA? Même les scénarios les plus extrêmes en matière d’IA sont trop graves pour être écartés, aussi improbables soient-ils. Les décideurs politiques ont la responsabilité de protéger le public, tandis que les chefs d’entreprise ont le devoir fiduciaire de préserver les intérêts des actionnaires et des clients. Compte tenu des conséquences potentiellement catastrophiques, il serait peut-être prudent de réduire l’exposition avant qu’une catastrophe ne se produise.

Mais se prémunir contre des risques existentiels à faible probabilité est exceptionnellement difficile. Dans le monde dystopique qu’une IA incontrôlée pourrait engendrer, les couvertures traditionnelles telles que les obligations et les options de vente ne seraient guère utiles, car les comptes financiers, les systèmes de paiement et les registres pourraient eux-mêmes être compromis.

Les investisseurs ne pourraient pas non plus nécessairement compter sur l’intervention des gouvernements pour rétablir la stabilité des marchés. Si les institutions mêmes qui servent habituellement de filet de sécurité en cas de crise étaient elles-mêmes affaiblies, il serait pratiquement impossible de faire respecter les contrats et les droits de propriété. Les actifs réels, tels que les droits fonciers et les droits d’eau, pourraient conserver leur valeur dans des scénarios moins extrêmes, mais même ceux-ci perdraient toute pertinence en cas d’apocalypse provoquée par l’IA.

Il existe néanmoins plusieurs mesures concrètes que les décideurs politiques et les chefs d’entreprise peuvent prendre. L’une d’elles consiste à mettre en place des «air gaps» plus stricts, isolant les réseaux et systèmes organisationnels critiques des réseaux non sécurisés tels qu’Internet public. Pour l’instant, ils peuvent se rassurer en se disant que les modèles d’IA actuels restent trop peu fiables et imprévisibles pour lancer le genre de campagne coordonnée qui menacerait la survie de l’humanité. Mais leur sophistication et leur portée croissantes exigent une réévaluation urgente des cyberdéfenses existantes.

Deuxièmement, il existe une marge de manœuvre considérable pour une réglementation plus stricte de l’IA, comprenant notamment des contrôles de sécurité rigoureux et des exigences en matière d’octroi de licences. Il faut reconnaître que réglementer l’IA au-delà des frontières ne sera pas chose aisée à une époque où la concurrence géopolitique s’intensifie. Aucun organisme international ne dispose actuellement de l’autorité nécessaire pour superviser, et encore moins contrôler, le développement de l’IA de pointe aux Etats-Unis, en Chine ou ailleurs, en particulier en ce qui concerne les modèles à poids ouvert.

Les accords de contrôle des armes nucléaires constituent un précédent évident, bien qu’imparfait. En juillet 2026, plus de 1 000 employés d’entreprises de pointe dans le domaine de l’IA ont signé une lettre appelant à un «effort international» pour développer les «outils techniques et de gouvernance nécessaires afin de réguler délibérément le rythme des avancées dans le développement de l’IA automatisée».

Certains pourraient se moquer de l’idée que les Etats-Unis et la Chine, engagés dans une rivalité acharnée, coopèrent dans le domaine de l’IA, mais aucun des deux pays n’a intérêt à une course technologique effrénée qui aboutirait à une destruction mutuelle. Le risque d’extinction de l’IA pourrait donc constituer le problème d’action collective par excellence, obligeant les gouvernements et les entreprises à faire face à des dangers qu’aucun pays ni aucune organisation ne peut affronter seul. Les entreprises collaborent déjà au sein d’associations professionnelles et de groupes sectoriels pour atténuer les cybermenaces, et l’IA leur donne encore plus de raisons de le faire.

La perspective d’une IA capable de s’améliorer de manière récursive, qui sous-tend de nombreux scénarios d’extinction, pourrait rendre obsolètes les stratégies habituelles de gestion de crise. Les mesures de résilience qui ont aidé les institutions à survivre à la pandémie de COVID-19 ne serviront pas à grand-chose face à de puissants systèmes d’IA capables de falsifier des données et de perturber les infrastructures critiques et les opérations commerciales. Même les agents d’IA actuels peuvent rapidement contourner les contrôles conçus pour les contenir, comme l’a montré la faille de sécurité chez Hugging Face.

Les chefs d’entreprise n’ont pas besoin d’attendre que les gouvernements agissent. Ils peuvent ralentir ou suspendre le déploiement de l’IA et installer des «kill switches» qui leur permettraient de mettre hors service les systèmes indésirables si nécessaire. Ils peuvent également soutenir les appels en faveur d’une pause dans le développement de l’IA de pointe ou d’une interdiction de la recherche de la superintelligence.

Il y a ensuite le danger que de puissants outils d’IA tombent entre de mauvaises mains. Certaines des avancées les plus importantes dans le développement de l’IA proviennent de pays dont les valeurs et les intérêts sont en contradiction avec ceux de l’Occident. Même en l’absence de superintelligence autonome, des Etats hostiles et des organisations terroristes pourraient utiliser des outils d’IA pour causer d’énormes dommages.

Le fait que les plus grands esprits du secteur de l’IA estiment qu’il existe un risque non négligeable que leurs propres produits provoquent l’extinction de l’humanité dans un avenir prévisible devrait constituer un signal d’alarme pour les décideurs politiques et les entreprises. Si ces prédictions apocalyptiques sont ne serait-ce qu’un tant soit peu plausibles, les stratégies conventionnelles de gestion des risques ne suffiront pas.

Texte traduit par intelligence artificielle.

Copyright: Project Syndicate, 2026
www.project-syndicate.org