En route vers Wall Street, OpenAI et Anthropic alertent sur une IA qui pourrait échapper à tout contrôle et réclament un frein mondial, sans cesser d’accélérer. Un double discours, accusent leurs critiques, de la Maison Blanche aux militants anti-IA.

L’IA qui s’améliore toute seule

Les deux laboratoires de San Francisco, à l’origine de ChatGPT et Claude, décrivent un même point de bascule: l’«auto-amélioration récursive», stade où des IA pourraient «entraîner leurs successeurs, avec un rôle humain réduit», selon les mots d’Anthropic début juin.

L’entreprise juge «plausible» de l’atteindre mais sans certitude. OpenAI en fait un objectif assumé et l’annonce «d’ici mars 2028» dans un texte publié lundi, reprenant une prévision de son patron Sam Altman à l’automne.

Le ton est relativement optimiste chez les créateurs de ChatGPT, qui promettent une «IA personnelle» à chaque habitant de la planète, plus transformatrice que l’électricité ou l’automobile – une technologie «rendue résiliente» par la ceinture, le code de la route et le permis, écrivent-ils.

Anthropic décrit aussi un bond potentiel pour la médecine, la technologie et l’économie mais son discours adopte une tonalité plus grave, évoquant explicitement les risques de «perte de contrôle». Mardi, il a rendu public Fable 5, une version bridée de son modèle de pointe, Mythos, en raison des risques de détournements pour des attaques cyber ou biologiques.

Ok pour ralentir, mais tous ensemble

«Il faut avoir la possibilité de lever le pied de l’accélérateur et de poser le pied sur le frein», a résumé la semaine dernière le cofondateur d’Anthropic, Jack Clark.

D’où l’évocation d’une coordination internationale capable de freiner toute l’industrie, y compris les rivaux chinois ou Google, à contre-courant de la course actuelle aux meilleurs modèles et aux investissements faramineux.

Anthropic a suggéré jeudi un «système de coordination mondiale» permettant de «suspendre temporairement le développement de l’IA de pointe». Mais seulement si aucun rival n’en profite pour prendre de l’avance, une condition jugée très improbable à court terme.

OpenAI, dans son texte publié lundi, évoque aussi une organisation multilatérale, en mesure de «ralentir le développement de pointe si nécessaire».

L’idée n’est pas neuve: Sam Altman parle depuis 2023 d’une sorte d’autorité internationale, à l’image de l’AIEA, le gendarme onusien du nucléaire, avec la possibilité de fixer un rythme annuel pour ajouter des compétences aux modèles de pointe.

Trois ans plus tard, OpenAI et Anthropic publient de nouveaux modèles environ tous les mois.

En février, Anthropic a retiré son engagement unilatéral à mettre en pause l’entraînement de modèles plus puissants tant que leur sûreté n’était pas démontrée. Sa charte distingue désormais ce que l’entreprise s’engage à appliquer quelle que soit la concurrence, et ce qu’elle recommande à tout le secteur mais sans s’y astreindre seule.

Alarmisme

Ces promesses vertueuses sont actualisées en pleine course aux capitaux. Les deux entreprises ont annoncé début juin avoir déposé un projet d’entrée en Bourse, encore non détaillé publiquement, mais qui permet de tester l’appétit des investisseurs.

La cohérence éthique des deux fleurons américains de l’IA est contestée de toutes parts. L’influent ex-conseiller IA de la Maison Blanche, David Sacks, accuse Anthropic de «jouer sur la peur», une accusation répandue dans l’industrie et l’administration Trump.

Cet entrepreneur y voit une tentative d’obtenir une régulation étatique, visant à écarter les modèles open source, dont le code est public, au profit des siens. Un argument, contesté par Anthropic, que reprend aussi Yann LeCun, chercheur français de référence dans le développement de l’IA.

À l’opposé de David Sacks, partisan de l’innovation technologique sans frein, le mouvement «Stop AI», qui veut interrompre le développement de la technologie, dénonce des engagements creux.

L’évocation du coup de frein par les deux laboratoires, «ça me paraît être du marketing préalable à l’entrée en Bourse, en essayant de répondre au retour de flamme du public» sur cette technologie, a réagi sur X Gary Marcus, universitaire devenu une figure de la critique contre l’enthousiasme pro-IA.

D’autres, comme la présidente de l’application de messagerie Signal, Meredith Whittaker, estiment que «le vrai danger n’est pas dans le futur» hypothétique brandi par ces pionniers, mais déjà «dans le présent» avec ses conséquences sur l’emploi, la surveillance et la concentration du pouvoir.