Gates : l'IA est assez puissante pour « causer un milliard de morts »

Bill Gates alerte sur les pandémies d'origine humaine et les risques de l'IA depuis une décennie, généralement sur le ton mesuré du philanthrope. Sur Meet the Press de NBC, diffusé le 27 septembre, le ton mesuré avait disparu. L'intelligence artificielle, a-t-il dit, est « certainement assez puissante pour provoquer des événements causant un milliard de morts ». Les garde-fous volontaires — la réponse préférée de l'industrie — ne suffisent pas. Ce qu'il faut, a-t-il plaidé, c'est une régulation publique et une surveillance policière des systèmes les plus puissants. C'est la position la plus offensive jamais prise par Gates, et elle atterrit dans un Washington qui marche dans l'autre sens.

Le chiffre fait un travail argumentatif, et Gates le sait. « Un milliard de morts » n'est pas une prédiction — c'est un réglage d'échelle, une manière de sortir la conversation des registres familiers de la tech (emplois, compétition, innovation) pour l'installer dans celui du risque catastrophique, où les précédents s'appellent pandémies et armes nucléaires. Gates prévient depuis dix ans contre les pandémies provoquées, avec une prescience célèbre. Il applique aujourd'hui la même machinerie rhétorique à l'IA : nommer l'échelle d'abord, et le débat politique devra se hisser à sa hauteur.

Ce qui fait porter l'intervention, c'est l'histoire de l'orateur. Gates n'est pas un catastrophiste professionnel mais le plus grand techno-optimiste du dernier demi-siècle — l'homme qui crut que le logiciel organiserait l'information du monde puis dépensa sa fortune à vacciner ses enfants. Quand l'optimiste en chef déclare l'autorégulation de l'industrie un échec, cela pèse d'un poids qu'aucun critique extérieur n'atteint. Il a passé sa carrière dans la logique de l'industrie, comme le note l'article. Le renard ne se contente pas d'alerter sur le poulailler. Il a aidé à le bâtir.

Commençons par le chiffre, car Gates l'a choisi à dessein. Un milliard de morts n'est pas une métaphore ; c'est une échelle — celle des armes biologiques d'ingénierie, des pathogènes conçus par IA, des cas d'usage abusifs qui empêchent les experts en biosécurité de dormir. La promesse de 200 milliards de la fondation Gates, annoncée avec l'interview, est largement calibrée sur ces risques : l'argent suit l'avertissement.

La demande politique est la vraie nouvelle. Gates n'a pas réclamé de pause ni de moratoire — les positions maximalistes que Washington a appris à ignorer. Il a réclamé régulation et surveillance policière : la machinerie peu glamour de l'État, appliquée au développement de l'IA. C'est exiger que la technologie soit gouvernée comme l'aviation ou la pharmacie, pas comme le logiciel.

La demande politique est délibérément sans glamour, et c'est sa force. Gates n'a pas réclamé de pause ni de moratoire — ces exigences maximalistes qui permettent à Washington de classer le risque IA en « pas sérieux » et de passer à autre chose. Il a réclamé une régulation et une surveillance policière des systèmes les plus puissants : licences, inspections, sanctions. Le modèle, c'est l'aviation, où personne ne fait voler un avion non inspecté, ou la pharmacie, où personne ne vend un médicament non testé. Le logiciel a toujours été l'exception — livrer d'abord, corriger ensuite. Gates plaide que l'exception doit s'arrêter là où les enjeux deviennent civilisationnels.

« Insuffisant » : le verdict sur les garde-fous volontaires, et le choix du mot est précis. L'offre des labos — engagements, red-teaming, cadres de sécurité publiés sur des blogs d'entreprise — est, dans la lecture de Gates, de l'auto-notation : l'élève qui rédige son propre bulletin. Les régimes volontaires fonctionnent quand l'incitation à tricher est faible. Dans une course qui vaut des milliers de milliards, l'incitation à tricher, c'est la course elle-même. Chaque labo qui ralentit pour la sécurité perd du terrain sur celui qui ne ralentit pas — d'où la réponse préférée de l'industrie, toujours collective et non contraignante : tout le monde promet, personne n'est puni.

Le rapport d'Anthropic est la pièce qui rend l'abstrait concret. Les Houthis soutenus par l'Iran — une organisation terroriste désignée — ont tenté d'utiliser des systèmes d'IA commerciaux pour fabriquer des missiles balistiques guidés. Pas un scénario de think tank, pas un exercice de red team : une tentative documentée de convertir des modèles grand public en ingénierie d'armement, sans aucun gouvernement dans la boucle. Voilà le pipeline du milliard de morts en miniature, et il répond à l'objection favorite de l'industrie — que les risques sont hypothétiques — par un dossier. Les modèles sont déjà assez bons pour être utiles aux mauvaises mains. Reste à savoir si quelqu'un surveille les mains.

“Le renard vous dit que le poulailler a besoin d'un verrou.”

L'ironie, c'est que Pékin est à moitié d'accord avec Gates, et l'article le saisit. Le commentaire de Xinhua — mettant Washington en garde contre toute décision nucléaire confiée à l'IA — est un rare moment de convergence des superpuissances : les deux camps, en pleine course, reconnaissent que certaines applications exigent des bornes. Le commandement nucléaire est la ligne rouge la plus vive de l'histoire des techniques ; pendant quatre-vingts ans, les deux superpuissances ont gardé des mains humaines sur la décision de tir, à travers chaque crise et chaque vague d'automatisation. Que Pékin l'invoque aujourd'hui, dans le contexte de la gouvernance de l'IA, suggère le seul endroit où la logique de course s'effondre : personne ne veut des machines décidant de la fin du monde, quelles que soient les machines.

« Insuffisants » : tel fut son verdict sur les garde-fous volontaires — les engagements, les tests adversariaux et les cadres de sécurité que les laboratoires offrent en alternative à la loi. Venant d'un homme qui a passé sa carrière dans la logique de l'industrie, ce congédiement pèse lourd : le renard vous dit que le poulailler a besoin d'un verrou.

L'obstacle a un nom et un bureau. Le président Trump refuse les limites à l'IA au motif que réguler céderait la course à la Chine — et dans le Washington actuel, la course à la Chine est l'atout qui bat tous les autres arguments. L'interview de Gates se lit au mieux comme un défi direct à cette logique : le cadrage de la course, sous-entend-il, est la façon de perdre ce qui compte vraiment.

Le rapport d'Anthropic fournit la pièce à conviction. Les Houthis soutenus par l'Iran, selon les constats du laboratoire, ont tenté d'utiliser des systèmes d'IA pour construire des missiles balistiques guidés — pas une hypothèse, mais une tentative documentée d'une organisation terroriste désignée de convertir l'IA commerciale en ingénierie d'armement. Voilà le pipeline du milliard de morts en miniature : des modèles largement disponibles, des acteurs motivés, aucun gouvernement dans la boucle.

La voix chinoise dans le débat, via un commentaire de Xinhua, ajoute la nuance géopolitique : Pékin a mis Washington en garde contre toute décision nucléaire confiée à l'IA — un rare moment d'accord entre superpuissances sur la nécessité de bornes, pendant que les deux camps courent pour construire. L'audition sénatoriale à venir sur le Frontier Model Transparency Act dira si cet accord peut devenir loi.

Le calendrier de Gates n'est pas accidentel. L'interview a été diffusée dans une fenêtre — l'audition du Sénat la semaine prochaine, la promesse de 200 milliards, le rapport d'Anthropic — conçue pour rendre la régulation incontournable comme sujet. Qu'elle devienne incontournable comme politique dépendra de savoir si Washington craint le milliard de morts plus qu'il ne craint de perdre la course.

L'audition du Sénat la semaine prochaine est l'endroit où le timing de l'interview devient stratégie. Le Frontier Model Transparency Act — quelle qu'en soit la forme finale — représente la première tentative sérieuse de convertir la position Gates en loi : divulgation obligatoire, visibilité gouvernementale sur les entraînements les plus puissants, fin de l'auto-notation. Les auditions sont le lieu où Washington décide si une idée est légiférable ou seulement discutable, et Gates a fourni à la commission son cadrage, sa pièce à conviction (le rapport Houthi) et sa formule choc (le milliard de morts). Reste à savoir si la commission craint plus le milliard de morts que la défaite dans la course — car dans ce Congrès, ce sont les deux seules peurs au menu.

Un courant plus profond coule sous la politique. Pendant dix ans, la gouvernance de l'IA a vécu dans la zone volontaire parce que la technologie allait plus vite que le législateur et que les labos s'en accommodaient. Gates déclare cette ère close — non parce que la technologie a ralenti, mais parce que les enjeux ont rattrapé. Un milliard de morts, c'est le genre de chiffre qui fait passer un sujet de la presse tech au briefing de sécurité nationale, de la commission du commerce à celle des forces armées. L'interview a été calée dans une fenêtre conçue pour rendre la régulation incontournable comme sujet. Qu'elle devienne incontournable comme politique, c'est le combat de l'année qui vient.

La couverture occidentale traite l'interview comme un point d'inflexion : le techno-optimiste le plus crédible des cinquante dernières années déclarant l'autorégulation de l'industrie un échec. Le cadrage du « milliard de morts » domine les titres, mais la presse politique se concentre sur la demande de surveillance policière — une exigence concrète, légiférable, qui donne à l'audition du Sénat de quoi travailler.

L'angle de la résistance de Trump est la tension que l'Occident ne parvient pas à résoudre : l'argument de la course à la Chine du président contre l'argument du risque catastrophique de Gates, avec le rapport d'Anthropic sur les Houthis pesant du côté de Gates.

La lecture occidentale du point d'inflexion a l'histoire pour elle. Les industries technologiques commencent toujours par jurer qu'elles peuvent s'autoréguler — chemins de fer, radio, aviation, pharmacie ont tous plaidé leur cause — et perdent toujours l'argument au moment où les conséquences publiques deviennent indéniables. L'aviation a eu ses régulateurs après les crashs ; la pharmacie après les empoisonnements. Le schéma est sinistre mais constant : l'autorégulation dure jusqu'à la première catastrophe, et la sage décision est de réguler avant. Gates plaide que la première catastrophe de l'IA, à l'échelle du milliard de morts, n'est pas un droit d'inscription acceptable pour la leçon.

La couverture orientale, emmenée par le commentaire de Xinhua, s'accorde avec Gates sur le danger et diverge sur la sincérité de la prescription. La position de Pékin — pas d'IA dans les décisions nucléaires, une gouvernance internationale plutôt qu'une régulation américaine — est présentée comme le cadre le plus sérieux : le risque est mondial, donc la gouvernance doit être multilatérale, pas Washington écrivant les règles pour tout le monde.

Le cadrage de la course à la Chine est lu avec scepticisme : la « course » est invoquée pour justifier la dérégulation, et la dérégulation est ce qui produit les scénarios au milliard de morts. Le prisme oriental voit un paradoxe que l'Occident refuse de nommer.

La question orientale de la sincérité est plus acérée qu'il n'y paraît. Pékin est d'accord avec Gates sur le danger — pas d'IA dans les décisions nucléaires, gouvernance internationale — mais doute de l'ordonnance, car une régulation américaine des labos américains ne lie pas les labos chinois, et Washington écrivant les règles pour tous les autres, c'est — dans cette lecture — l'hégémonie avec une étiquette de sécurité. L'alternative orientale est multilatérale : le risque est mondial, donc la gouvernance doit se négocier, pas s'imposer. C'est un cadre sérieux, qui expose l'angle mort de la position Gates — qu'une régulation nationale d'une technologie sans frontières est nécessaire mais insuffisante, un verrou sur un poulailler pendant que les renards courent le voisinage.

Le scepticisme sur la course complète le tableau oriental. Dans le récit de Pékin, « la course » est invoquée à Washington pour justifier la dérégulation, et la dérégulation produit les scénarios au milliard de morts — une boucle fermée où la peur de perdre justifie le comportement qui fait tout perdre. Le paradoxe que l'Occident ne nomme pas, c'est que les deux superpuissances sont à la fois terrifiées par la technologie et terrifiées de ralentir. Le commentaire de Xinhua trace la ligne : s'accorder sur les lignes rouges, négocier la gouvernance, et cesser de prétendre que la course justifie l'imprudence. C'est la phrase la plus multilatérale de tout le débat, venue de la capitale la moins multilatérale.

Le prisme du Sud global entend l'avertissement au milliard de morts et pose la question suivante : le milliard de morts de qui ? L'histoire du risque catastrophique, c'est que ses fardeaux tombent sur le Sud — les pandémies, les guerres par procuration, les retombées climatiques. Une gouvernance de l'IA conçue à Washington et à Pékin, note le Sud, protégera Washington et Pékin d'abord.

Le rapport sur les missiles houthis atterrit différemment ici aussi : des acteurs non étatiques transformant l'IA commerciale en armement, c'est l'aperçu d'un monde où la technologie la plus dangereuse est disponible pour tous sauf pour les responsables. L'exigence du Sud est un siège à la table de la gouvernance — pas en appendice, mais comme condition.

La question du Sud — un milliard de morts de qui ? — recadre tout le débat, car l'histoire du risque catastrophique est une histoire de fardeaux inégaux. Les pandémies tuent d'abord et plus fort là où les systèmes de santé sont les plus minces. Les guerres par procuration se livrent sur le sol du Sud. Les retombées climatiques frappent les pays qui ont le moins émis. Une gouvernance de l'IA conçue à Washington et Pékin protégera Washington et Pékin d'abord ; le reste du monde recevra le compte rendu d'incident. Exiger un siège à la table n'est pas de la courtoisie. C'est reconnaître que les plus susceptibles de mourir des scénarios au milliard de morts sont les moins représentés dans les salles où on les gouverne.

L'interview laisse donc le débat où Gates le veut : l'ère volontaire déclarée close, le cadrage de la course contesté, et une audition au Sénat comme prochain champ de bataille. Que Washington craigne plus le milliard de morts que la défaite dans la course n'est pas une question rhétorique — c'est la question législative de l'année, et la réponse s'écrira dans la loi ou dans son absence. Gates a choisi le chiffre à dessein. Un milliard n'est pas une métaphore. C'est l'échelle à laquelle « insuffisant » cesse d'être une critique pour devenir une épitaphe — des garde-fous, ou des gens qu'ils devaient protéger.