COURSE A LA SUPERINTELLIGENCE: L'industrie de l'IA hésite entre alliance et rivalité

Le 12 septembre 2026, Dario Amodei, patron d'Anthropic, appelle à ralentir le développement de l'intelligence artificielle. Sam Altman et Elon Musk, ses rivaux habituels, lui donnent raison en quelques heures. Quelques jours plus tard, Mark Zuckerberg et Jensen Huang refusent de lui emboiter le pas. Entre incident de cybersécurité, départs de chercheurs inquiets et pressions des investisseurs, le secteur peine à trouver une position commune sur la conduite à tenir face à ses propres risques.

Le 12 septembre 2026, Dario Amodei publie sur son site personnel un texte intitulé « We Must Pace the Frontier ». Le patron d'Anthropic y appelle à ralentir la vitesse de développement de l'intelligence artificielle. Il ne réclame pas l'arrêt des entraînements de modèles, mais du temps pour renforcer la sécurité.

Sa principale crainte porte sur un mécanisme qu'il désigne sous le nom d'amélioration récursive autonome. L'IA participe désormais à la conception de la génération suivante d'IA. Ce processus s'accélère depuis l'été 2026, selon Amodei, chez Anthropic comme ailleurs dans l'industrie. Sans supervision, il pourrait, écrit-il, dépasser la capacité humaine à comprendre et à contrôler ces systèmes.
Amodei cite un événement précis pour étayer son inquiétude. En Juillet 2026, près de 700 agents fondés sur un modèle d'OpenAI sortent de leur environnement de test. Ils accèdent à Internet et attaquent les serveurs de la plateforme Hugging Face, sans avoir reçu cette instruction. Certains agents se sacrifient pour le groupe. D'autres tentent de pirater le système chargé de les évaluer. Le dommage économique reste limité. Personne n'est blessé. Mais Amodei y voit un signal d'alerte. Il estime que, d'ici six à douze mois, un groupe d'agents plus capables pourrait prendre le contrôle de l'intégralité d'Internet. Les dégâts se chiffreraient alors en centaines de milliards de dollars.

Le texte reçoit un écho inhabituel. Sam Altman, patron d'OpenAI et rival historique d'Amodei, publie son accord sur X. Il précise que le sujet occupe les discussions internes d'OpenAI depuis plusieurs semaines. Elon Musk, qui a fusionné sa start-up xAI avec SpaceX, se rallie également au message. Ce rapprochement tranche avec l'histoire des deux hommes. Amodei a quitté OpenAI en 2020. Il jugeait l'entreprise trop permissive sur les questions de sécurité, avant de fonder Anthropic en 2021.
 
L'appel d'Amodei ne sort pas du néeant. Depuis juin 2026, plusieurs alertes de même nature circulent dans l'industrie. Sam Altman lui-même en avait formulé une. Un groupe d'employés du secteur a fait de même. Jacob Coxon, chercheur britannique de 27 ans, illustre cette inquiétude interne. Il quitte Anthropic après avoir déjà quitté OpenAI, jugeant qu'aucune des deux entreprises n'agit de façon responsable face à une course vers des systèmes capables de s'auto-améliorer. Selon Coxon, une partie du secteur emploie en privé des expressions comme « crunchtime » ou « endgame » pour décrire cette trajectoire. Il affirme que de nombreux dirigeants et chercheurs partagent ces craintes en coulisses, tout en tenant un discours plus rassurant en public. Ce témoignage est rapporté par le Wall Street Journal.

Ce départ n'est pas isolé. Evan Hubinger, chercheur chez Anthropic, soutient publiquement la mise en garde de Coxon sur X. Il évalue lui-même à plus de 10 % la probabilité que l'IA cause l'extinction de l'humanité au cours de la prochaine décennie. Plus tôt dans l'année, un autre chercheur avait déjà quitté l'entreprise pour se consacrer à la poésie, estimant que le monde était en péril.
Face à ces inquiétudes, Amodei propose un plan en trois étapes. La première consiste à intégrer des observateurs indépendants au sein des entreprises d'IA.Ces observateurs disposeraient d'un accès comparable à celui des salariés : bureaux, badges, ordinateurs professionnels. Ils pourraient vérifier le respect des engagements de sécurité, signaler tout incident et évaluer non seulement les modèles finis mais aussi les chaînes d'entraînement. Amodei compare ce dispositif aux superviseurs que le secteur bancaire place parfois au sein même des établissements financiers. Anthropic s'engage à l'appliquer sans attendre le reste du secteur. Sam Altman promet de faire de même chez OpenAI.

La deuxième étape appelle les entreprises des pays démocratiques à coordonner des normes de sécurité communes, avec le soutien des gouvernements. Amodei propose notamment un système de paliers : si un modèle atteint une capacité jugée sensible, comme la faculté de contourner la plupart des méthodes de confinement, il devrait être accompagné de certifications d'alignement, obtenues par évaluation et audit des environnements d'entraînement.

La troisième étape concerne une coordination mondiale, incluant la Chine. Amodei distingue quatre niveaux d'accord possibles, du plus simple au plus ambitieux. Le premier interdirait certains usages manifestement dangereux de l'IA, comme la production d'armes biologiques. Le deuxième imposerait un test des modèles avant leur sortie, pour les risques liés à la cybersécurité, à la biologie et à l'alignement. Le troisième instaurerait une forme de limite de vitesse sur le rythme de l'amélioration récursive, à la manière des traités SALT (accords bilatéraux de limitation des armements stratégiques nucléaires conclus entre les États-Unis et l'URSS pendant la guerre froide) qui plafonnaient le nombre de missiles sans supprimer la dissuasion. Le quatrième, un ralentissement global concerté, lui paraît le plus difficile à atteindre.

Amodei insiste sur un point. Ralentir ne signifie pas renoncer à la compétitivité américaine face à la Chine. Il soutient le maintien des restrictions sur la vente de puces avancées à des entités chinoises, la lutte contre la contrebande de semi-conducteurs et contre le vol de poids de modèles. Il partage l'analyse du secrétaire au Trésor Scott Bessent, pour qui, une avance chinoise en matière d'IA représenterait un danger majeur pour les États-Unis et pour le monde.

Demis Hassabis, patron de Google DeepMind, se montre favorable à l'orientation générale de ces propositions. Il estime toutefois que les détails restent à préciser. D'autres dirigeants rejettent frontalement l'approche d'Amodei. Mark Zuckerberg répond, quelques jours plus tard, que Meta ne compte pas ralentir. Il affirme que tout laboratoire négligeant l'alignement de ses modèles prendra du retard sur le marché, laissant entendre que la concurrence suffira à sanctionner les acteurs les moins prudents. Jensen Huang, patron de Nvidia, va plus loin. Il juge que choisir entre sécurité et vitesse constitue un faux dilemme, et que les lois encadrant l'IA sont inutiles.

Ces prises de position interrogent la sincérité de l'union affichée quelques jours plus tôt. Zuckerberg précise que Meta consacre l'essentiel de sa puissance de calcul à ses utilisateurs, et non à une course vers une IA capable de s'améliorer seule, une pique adressée à ses concurrents. L'argument perd toutefois en crédibilité dans un autre contexte. Meta vient d'accepter de payer jusqu'à 18 milliards de dollars dans une affaire liée à la dépendance d'enfants à Instagram. Le contraste entre ce discours et cet épisode alimente le scepticisme d'une partie de la presse, qui s'interroge ouvertement : cet appel commun à la prudence relève-t-il d'une réelle inflexion, ou d'une opération de communication destinée à rassurer régulateurs et opinion publique avant que chacun ne reprenne sa course ?

Sur le plan réglementaire, les approches divergent selon les pays. Le gouvernement américain a mis en place, début août 2026, un cadre de supervision fondé sur le volontariat. Les nouveaux modèles peuvent y être soumis à un examen avant leur sortie, sans obligation. L'administration Trump privilégie la flexibilité, par crainte de freiner la compétitivité américaine face à la Chine. Le président s'est régulièrement opposé à toute mesure susceptible de ralentir le développement de l'IA aux États-Unis, qu'il s'agisse de la publication des modèles ou de la construction de centres de données. Au Royaume-Uni, une structure hybride associant secteur public et secteur privé est envisagée, inspirée de la régulation financière américaine.

Un autre point de tension concerne l'ouverture des modèles. OpenAI, Anthropic, xAI et Google conservent des modèles fermés. Les partisans de l'IA ouverte critiquent cette opacité, qu'ils jugent risquée en l'absence de contrôle extérieur sur le fonctionnement réel des systèmes.

L'épisode d'Hugging Face n'est pas resté isolé. Après avoir identifié des dérapages sur leurs propres modèles, OpenAI et Anthropic ont chacun suspendu, pendant quelques jours, le travail sur leurs nouvelles IA. Les deux entreprises ont ensuite repris leur rythme antérieur. D'autres incidents comparables, quoique moins sévères, ont été rapportés depuis. Ils impliquaient des agents IA sortis de leur cadre de test à l'insu de leurs superviseurs. Ces agents ont montré une capacité à se coordonner entre eux, à établir une hiérarchie et à dissimuler leurs actions.
Cette reprise rapide illustre la difficulté centrale soulevée par cet épisode. Les entreprises d'IA restent en concurrence commerciale directe. Elles évoluent sous la pression d'investisseurs qui attendent une croissance rapide. OpenAI a d'ailleurs repoussé son entrée en Bourse à 2027. Sam Altman justifie ce report par le contexte sécuritaire actuel, jugé peu propice à une introduction en Bourse. L'entreprise a pourtant lancé, dans le même temps, son nouveau modèle GPT-6 Astra.

La question posée par cet épisode dépasse la sincérité de chaque dirigeant pris isolément. Elle porte sur la capacité collective du secteur à mettre de côté des intérêts commerciaux concurrents, au nom d'un risque que tous n'évaluent pas de la même manière. Amodei propose un cadre concret : des évaluateurs indépendants, une coordination entre démocraties, un dialogue avec la Chine limité à des points précis comme l'interdiction des usages liés aux armes biologiques. La réponse de Zuckerberg et de Huang, survenue quelques jours à peine après le ralliement d'Altman et de Musk, montre que ce cadre reste loin de faire l'unanimité.
Aujourd’hui, l’industrie de l’IA affiche sa prudence tout en accélérant son rythme de développement. L'écart entre les deux se mesure désormais en mois, pas en années.

Alioune BA