ActualitéIA

Anthropic dit avoir franchi son seuil d’alerte sur l’IA qui accélère sa propre recherche

Dans son prospectus amendé du 10 novembre, Anthropic dit avoir atteint le seuil de sa politique de sécurité sur la recherche automatisée.

Anthropic, qui développe l’assistant Claude, affirme avoir atteint un seuil d’alerte de sa politique de sécurité : celui d’une IA qui accélère fortement la recherche sur l’IA. Ce franchissement l’engage à renforcer ses protections et pourrait peser sur le calendrier de ses prochains modèles.

Anthropic l’écrit dans la version de son prospectus d’introduction en Bourse déposée le 10 novembre 2026 auprès de la SEC, le gendarme boursier américain. Ce document, destiné aux futurs actionnaires, fixe une fourchette de prix de 70 à 78 dollars par action. Cela représente environ 63 à 70 euros au taux de la Banque centrale européenne du 11 novembre 2026.

Huit jours plus tôt, Anthropic écrivait seulement que ce seuil pourrait être atteint « de façon imminente ». Elle fonde sa décision sur ce qu’elle attend de ses prochains modèles et sur son rythme de progrès d’ensemble, plutôt que sur ses modèles actuels.

Une phrase réécrite en huit jours

La première version publique, déposée le 26 octobre, citait déjà l’IA qui accélère l’IA parmi les risques couverts par la politique de sécurité, sans mentionner le seuil. Ce prospectus, appelé formulaire S-1 aux États-Unis, a ensuite été modifié par deux amendements.

Le premier amendement, daté du 2 novembre, a ajouté ce seuil à la liste des risques. Anthropic y écrivait qu’elle « pourrait atteindre de façon imminente » ce que sa politique appelle un « progrès considérablement accéléré attribuable à l’IA ». Elle s’appuyait sur ses estimations internes et ses attentes pour ses futurs modèles. La même version précisait qu’aucun modèle actuel n’avait été classé au-delà du seuil.

Le deuxième amendement, daté du 10 novembre, remplace ce passage. Anthropic y rappelle que le seuil s’applique dès qu’elle « observe ou anticipe » le degré d’accélération fixé par sa politique. Elle écrit avoir « déterminé » qu’elle l’a atteint, sur la base de ses attentes pour ses futurs modèles et de son rythme de progrès.

Capture du deuxième amendement au formulaire S-1 d'Anthropic : le paragraphe en anglais où l'entreprise écrit avoir atteint le seuil de sa politique sur la recherche en IA.
Capture : Anthropic, deuxième amendement au formulaire S-1 (titre de couverture et extrait de la page 35), SEC, 10 novembre 2026

Le texte du 10 novembre ne dit plus qu’aucun modèle actuel n’a été classé au-delà du seuil. L’entreprise ajoute qu’elle « continue d’évaluer les données sous-jacentes ». Elle dit étudier ce qu’implique ce franchissement et annonce d’autres rapports, sans calendrier.

Anthropic a révisé ce seuil en juillet

Ce seuil figure dans la politique de sécurité d’Anthropic, baptisée Responsible Scaling Policy (RSP). Ce document, qu’Anthropic s’impose et publie, fixe les protections à ajouter à mesure que ses modèles gagnent en capacités. Sa version 3.4, en vigueur depuis le 8 juillet 2026, a révisé la définition de ce seuil.

Le seuil s’intitule « R&D automatisée dans des domaines clés », R&D signifiant recherche et développement. Il vise des systèmes capables d’automatiser entièrement, ou d’accélérer fortement, le travail de grandes équipes de chercheurs de haut niveau. Pour l’instant, Anthropic ne l’évalue que pour la recherche en IA.

Le seuil est atteint dans deux cas. Dans le premier, les modèles pourraient remplacer l’ensemble des chercheurs et ingénieurs de recherche d’Anthropic, pour un coût qui ne dépasse pas cinq fois celui de ces équipes.

Dans le second, l’entreprise observe ou anticipe un doublement du rythme de progrès des capacités de l’IA. La politique le définit ainsi : autant de progrès en un an qu’en deux ans au rythme de référence. Il doit aussi être plausible que ce doublement vienne en bonne partie de l’automatisation de la recherche. Les amendements de novembre reprennent les termes de ce second cas.

Les protections prévues par la politique

Pour ce seuil, la politique engage Anthropic à financer des projets de sécurité ambitieux, même peu conventionnels, pour résister aux attaquants les mieux équipés au monde. L’entreprise veut enregistrer et centraliser les traces de toutes ses activités critiques de développement de l’IA. Des modèles d’IA les analyseraient pour repérer les menaces, comme le comportement anormal d’un employé ou d’un système d’IA.

La politique prévoit aussi des évaluations systématiques du comportement de Claude. Anthropic veut que ses équipes internes chargées de l’attaquer trouvent plus de failles dans ses protections que les chercheurs extérieurs qu’elle paie pour chaque faille signalée. Elle prévoit enfin de publier des rapports de risques sur l’état de ces mesures, relus par au moins un expert extérieur indépendant.

La politique ajoute un engagement pour un cas précis : Anthropic aurait, ou aurait bientôt, un modèle qui franchit ce seuil, avec des preuves claires qu’aucun concurrent n’en aura un bientôt. Elle exigerait alors une démonstration solide que le risque de catastrophe est maîtrisé. Au besoin, elle retarderait le développement et la mise à disposition de ses modèles, tant qu’elle se jugerait nettement en tête.

Dans le prospectus du 10 novembre, Anthropic envisage de modifier sa politique « pour garder les humains aux commandes du développement des modèles de pointe ». Elle étudie une validation humaine obligatoire de certaines décisions de recherche, à mesure que ses modèles prennent une part croissante de ce travail.

Claude écrit une part croissante du code d’Anthropic

Selon le prospectus du 10 novembre, les modèles d’Anthropic écrivent une part importante et croissante de son code. Ils mènent aussi de plus en plus ses recherches, y compris sur la sécurité.

Anthropic chiffre son propre usage de Claude, au prix catalogue : sa valeur a été multipliée par plus de 250 entre janvier et septembre 2026. En avril 2026, sa valeur mensuelle a dépassé pour la première fois la masse salariale mensuelle de l’entreprise, hors rémunération en actions.

Selon le même document, l’organisation « pourrait perdre la visibilité sur certains processus ». Des humains auraient alors du mal à les comprendre et à les contrôler. Anthropic ajoute qu’elle ne s’attend pas à pouvoir laisser Claude concevoir et construire seul ses modèles suivants en toute sécurité, sans réelle supervision humaine.

Un rythme probablement doublé, selon METR

Le 5 novembre, METR, une organisation indépendante qui évalue les capacités des modèles d’IA, a publié une évaluation de l’accélération chez Anthropic. Selon METR, sur des tâches bien définies, Anthropic améliorait probablement ses modèles environ deux fois plus vite en octobre 2026 qu’entre mars 2024 et octobre 2025. METR précise que ce chiffre est très incertain : le rythme réel pourrait être plus proche de 1,3 fois ou de 3 fois le rythme passé.

METR a aussi relu la partie « R&D automatisée » du rapport de risques d’Anthropic d’août 2026, qui couvre la période jusqu’au 15 juillet. Ce rapport concluait que le seuil n’était pas franchi. METR juge « exagéré » l’argument sur le second cas, celui du doublement, et estime « plausible » que ce seuil ait été franchi dès le 15 juillet. La plupart des chercheurs de METR et d’Anthropic penchaient toutefois pour un seuil non franchi à cette date.

Une cotation attendue dès le 19 novembre

Le 10 novembre, Anthropic a lancé sa tournée de présentation aux investisseurs, avant de fixer le prix définitif. L’offre porte sur 825 millions d’actions, dont 801 millions vendues par Anthropic. La société a demandé leur cotation au Nasdaq, la Bourse américaine des valeurs technologiques, sous le symbole ANT.

Selon le site financier Yahoo Finance, le haut de la fourchette valorise l’entreprise à environ 1 400 milliards de dollars, soit environ 1 260 milliards d’euros. Ce calcul inclut toutes les actions potentielles. Yahoo Finance rapporte, sans nommer ses sources, que les échanges pourraient commencer dès le 19 novembre. Le prospectus du 26 octobre détaillait déjà les pertes du premier semestre.

Les limites de l’annonce

Anthropic n’indique ni le modèle, ni la mesure, ni le chiffre qui l’ont conduite à conclure au franchissement du seuil. Son communiqué du 10 novembre sur la tournée ne mentionne pas le seuil.

La politique relie ce seuil à la notion de modèle « très performant ». Quand un rapport de risques porte sur un tel modèle et que de larges passages en sont masqués, il doit passer par une relecture externe complète. Le prospectus ne dit pas si un modèle a déjà été désigné ainsi.

« Comme dans tous les dossiers S-1, les risques sont délibérément exagérés », avait déclaré en octobre Ray Wang, fondateur du cabinet Constellation Research. Il l’a dit avant une émission de Yahoo Finance, donc avant l’annonce sur le seuil.

Le prospectus du 10 novembre signale une autre limite : une grande partie des données d’Anthropic sur son rythme de progrès vient d’indicateurs retardés. L’entreprise a donc déjà repéré une accélération importante seulement après coup, écrit-elle, et cela pourrait se reproduire.

Notre analyse

Un développeur d’IA de premier plan affirme, dans un document déposé auprès de la SEC, avoir atteint son propre seuil sur l’IA qui accélère l’IA. Le moment compte : la mention arrive dans la version qui fixe la fourchette de prix de l’introduction en Bourse. Sa politique permet de l’affirmer sur la base d’une accélération « anticipée », sans observation sur les modèles actuels.

Pour les entreprises clientes de Claude, la question pratique porte sur le calendrier des prochains modèles. Le prospectus prévient que de futures mesures pourraient changer « si, comment et quand » Anthropic développe ou met à disposition de nouveaux modèles.

Anthropic a déjà restreint ou retardé certains modèles. Son modèle de pointe Mythos, dont la version 5.2 a été annoncée le 9 novembre, n’a d’abord été proposé qu’à des organisations choisies, pour des usages en cybersécurité, via le programme Project Glasswing. D’après le prospectus du 26 octobre, l’entreprise a aussi repoussé de plus d’un mois le pré-entraînement d’un nouveau modèle de base, la première étape de sa fabrication. Elle voulait d’abord mieux protéger ses modèles contre le vol.

Plusieurs points restent inconnus. Anthropic n’a pas dit quelles protections s’appliquent déjà, ni lesquelles restent à mettre en place. Elle n’a pas dit non plus si un modèle sera classé « très performant », ni quand paraîtront les rapports promis.

À suivre : ces rapports et la relecture externe que la politique prévoit pour eux, la prochaine version de la politique de sécurité, et le prix final de l’introduction en Bourse.

Sources

Image d’en-tête : graphique MACCUS, données d’Anthropic (politique RSP 3.4, prospectus et amendements déposés à la SEC), de METR (5 novembre 2026) et de Yahoo Finance (11 novembre 2026)

Laisser un commentaire