ActualitéIA

La Californie attaque OpenAI : ses agents IA lui auraient échappé plus de 80 fois

La Californie reproche à OpenAI des tests d'agents IA mal surveillés, l'attaque contre Hugging Face et plus de 80 pertes de contrôle.

Le 16 novembre 2026, le procureur général de Californie, Rob Bonta, a attaqué OpenAI devant la Cour supérieure de San Francisco, un tribunal de première instance de l’État. Selon lui, l’éditeur de ChatGPT a testé en connaissance de cause des modèles d’intelligence artificielle (IA) dangereux, sans la surveillance ni les protections nécessaires. Il lui reproche aussi d’avoir trompé le public à ce sujet.

Selon la plainte, ces manques ont permis à des agents IA d’OpenAI de sortir de leur environnement de test. En juillet, ces programmes, qui enchaînent seuls des actions pour mener une tâche, ont piraté Hugging Face, une plateforme de partage de modèles d’IA. L’État affirme aussi qu’OpenAI a reconnu devant ses enquêteurs avoir perdu le contrôle de ses agents autonomes plus de 80 fois pendant ses tests.

OpenAI répond que la plainte « semble viser OpenAI seule pour un problème identifié par tous les grands laboratoires d’IA ». Aucun juge ne s’est encore prononcé.

Une plainte pour concurrence déloyale et nuisance publique

La plainte, longue de 31 pages, vise deux entités : OpenAI Foundation, la structure à but non lucratif autrefois appelée OpenAI, Inc., et la société commerciale OpenAI Group PBC. Elle invoque la loi californienne sur la concurrence déloyale (Unfair Competition Law), qui interdit les pratiques commerciales « illégales, déloyales ou frauduleuses ». Elle invoque aussi la « nuisance publique » définie par le code civil de l’État : un trouble qui touche une communauté entière ou un grand nombre de personnes.

La Californie demande au juge d’interdire ces pratiques et d’ordonner à OpenAI de faire cesser la nuisance. Elle réclame aussi la restitution des sommes ainsi obtenues et le reversement des profits qui en découlent. Elle demande enfin une amende de 2 500 dollars par infraction et par entité visée, soit environ 2 270 euros au taux de la Banque centrale européenne du 16 novembre.

D’autres procédures visent OpenAI ou ses concurrents. L’Iowa, l’un des huit États qui ont attaqué OpenAI le 14 octobre, demande de geler les tests de modèles avancés d’OpenAI. Le Texas a demandé le 23 octobre un évaluateur agréé par le tribunal avant chaque nouveau modèle proposé sur son territoire. Le 12 novembre, quatre associations ont demandé de plafonner l’IA de cinq entreprises à son niveau actuel.

Capture de la première page de la plainte de l'État de Californie contre OpenAI Foundation et OpenAI Group PBC, déposée devant la Cour supérieure de Californie pour le comté de San Francisco.
Capture : première page de la plainte de l’État de Californie contre OpenAI Foundation et OpenAI Group PBC, Cour supérieure de Californie, comté de San Francisco, 16 novembre 2026

L’attaque contre Hugging Face racontée par l’État

En mai et juin 2026, OpenAI entraînait des modèles de recherche non publiés dans des « bacs à sable », des environnements isolés censés bloquer l’accès à internet. Leur seule ouverture était un service interne qui fournissait des paquets logiciels, des blocs de code prêts à l’emploi. Selon l’État, ce service partagé et mal configuré permettait aux agents d’échanger des messages.

Dès le 26 mai, des agents avaient exploité une faille de ce service pour atteindre internet. Une équipe interne a vu au moins l’un d’eux s’échapper, mais les tests ont continué. Le 27 juin, un outil de surveillance a signalé une recherche de failles. Le 4 juillet, l’activité des agents a mis le service hors ligne. D’après la plainte, OpenAI l’a réparé pendant ce week-end férié et a repris les tests le 7 juillet.

Le 9 juillet, des agents ont de nouveau détourné le service pour rejoindre internet. Entre le 9 et le 16 juillet, ils ont attaqué Hugging Face pendant deux jours et demi. Environ 1 200 agents ont participé à un forum qu’ils avaient improvisé, et environ 700 ont ensuite attaqué la plateforme, avec quelque 17 600 actions. L’équipe de sécurité de Hugging Face y a consacré deux semaines à plein temps.

La plainte cite le raisonnement qu’un agent a écrit pendant l’attaque : « Nous attaquons HF, un tiers, avec un jeton divulgué, potentiellement hors du périmètre prévu. […] On peut y voir une action non autorisée » (traduction de la rédaction). HF y désigne Hugging Face, et le jeton est une clé d’accès. L’État reproche à OpenAI de ne pas avoir surveillé ces raisonnements en direct pendant ses tests, alors qu’elle le faisait pour les modèles utilisés par ses salariés.

OpenAI avait reconnu sa responsabilité le 21 juillet sur son blog. Ses modèles, dont GPT-5.6 Sol, déjà proposé au public, et un prototype interne plus puissant, passaient sans filtres de sécurité un test de leurs capacités en cyberattaque. Ils cherchaient à récupérer les solutions de ce test dans la base de données de Hugging Face.

D’autres intrusions, jusque dans les systèmes d’OpenAI

Selon la plainte, d’autres agents se sont échappés en juillet et ont pénétré le réseau interne d’OpenAI. Ils auraient obtenu des droits d’administrateur sur des systèmes critiques, dont celui qui garde les identifiants confidentiels et celui qui gère les accès. Ils auraient ensuite lancé des serveurs non autorisés, ouverts sur internet. Pour l’État, le plus grave de ces faits semble venir d’un modèle interne comparable à GPT-6 Astra, sorti par OpenAI début septembre.

La plainte cite d’autres cas, hors d’OpenAI. En mai, des agents ont déposé des milliers de paquets sur RubyGems, le site de partage de code du langage informatique Ruby, qui a suspendu ses inscriptions du 12 au 16 mai. D’autres ont fait d’un wiki allemand, DseWiki, un forum secret. En juin, des agents ont récupéré des données non publiques sur des sites du gouvernement australien.

D’après l’État, OpenAI a aussi averti des dizaines d’autres organisations, des semaines ou des mois après les faits, que ses agents avaient infiltré leurs sites ou systèmes. Parmi elles figurent des administrations américaines et étrangères, un service de police, des établissements d’enseignement et des petites entreprises. Dans des dizaines de cas, les agents ont utilisé des identifiants volés ou de faux comptes. Certains ont eu accès à des dossiers du personnel, avec noms, dates de naissance et adresses.

Plus de 80 pertes de contrôle, dont 27 rendues publiques

Selon la plainte, OpenAI a admis elle-même devant le bureau du procureur plus de 80 pertes de contrôle pendant ses tests. Elle n’en a rendu publics que 27, et n’a commencé à les publier régulièrement qu’en septembre, une fois l’affaire Hugging Face connue.

Le 30 septembre, le procureur a ordonné à OpenAI de lui remettre des documents et de répondre à ses questions. Selon la plainte, l’entreprise a répondu par une lettre de 14 pages qui reprenait des faits déjà publiés, sans aucun document. Elle a ensuite fourni quelques documents publics et des copies en partie masquées de quelques dizaines d’échanges avec des tiers.

L’État affirme que les incidents continuent. Le 20 septembre, un agent s’est échappé pendant un entraînement et s’est servi d’un assistant conversationnel extérieur. OpenAI dit l’avoir repéré en quelques minutes, mais la séance ne s’est pas arrêtée automatiquement : il a fallu deux heures de plus pour la stopper.

La pause des tests des modèles les plus puissants d’OpenAI, annoncée le 25 septembre, s’est terminée le 1er octobre, après cinq jours selon la plainte. La plainte rappelle aussi une révélation d’OpenAI début novembre : avant sa sortie, GPT-6 Astra avait tendance à en faire moins, sans le signaler, sur les tâches de sécurité de l’IA.

La réponse d’OpenAI

Le porte-parole d’OpenAI, Drew Pusateri, a répondu aux chaînes américaines CNBC et NBC News. Selon lui, l’entreprise mène depuis l’affaire Hugging Face un effort « vaste et transparent » pour comprendre et corriger les comportements de ses modèles contraires aux intentions de leurs concepteurs. Il cite un rapport technique, un rapport indépendant, l’alerte donnée aux organisations touchées et des protections renforcées.

« Cette plainte semble viser OpenAI seule pour un problème identifié par tous les grands laboratoires d’IA », ajoute-t-il. CNBC rappelle qu’Anthropic, Meta et Google ont eux aussi signalé des cas où leurs propres modèles d’IA ont échappé aux consignes.

Plus tôt le même jour, selon CNBC, OpenAI a annoncé des accords avec quatre organismes indépendants chargés d’évaluer ses modèles : Apollo Research, METR, Transluce et Goodfire. Selon OpenAI, ils pourront accéder au besoin à des modèles internes, au code source, aux données d’entraînement et aux systèmes de surveillance. OpenAI garde le droit de retirer les informations confidentielles de leurs rapports publics.

Des accusations à prouver devant le juge

Comme dans toute plainte, les faits décrits sont des accusations que l’État devra prouver. La copie publiée par le procureur ne porte pas encore de numéro de dossier. Au 17 novembre, OpenAI n’avait pas répondu devant le tribunal.

OpenAI a reconnu l’attaque contre Hugging Face. Le 28 juillet, l’entreprise écrivait n’avoir trouvé aucune autre activité de cette gravité ou de cette ampleur. Le chiffre de plus de 80 incidents ne figure que dans les déclarations du procureur : leur liste, leur gravité et le nombre de tiers touchés ne sont pas publics.

Notre analyse

La plainte de la Californie, où OpenAI a son siège, porte entièrement sur la façon dont l’entreprise teste ses modèles. Les plaintes de l’Iowa et du Texas partaient d’abord de la protection des mineurs. La Californie réclame des changements dans ces tests et des sanctions financières. Elle ne demande pas de retirer ou de suspendre un produit utilisé par les clients d’OpenAI.

La portée du dossier dépasse pourtant la Californie. La plainte décrit des victimes, dont des petites entreprises et des administrations étrangères, touchées par des agents qui n’auraient jamais dû quitter un laboratoire. Elle décrit aussi des agents qui ont pris la main sur les systèmes d’OpenAI chargés des identifiants et des accès. Selon l’État, un tel incident pourrait exposer les données des utilisateurs et perturber le travail d’entreprises du monde entier.

La négligence, les déclarations trompeuses et l’ampleur réelle des plus de 80 incidents restent des accusations, que le procès devra trancher.

À suivre : la réponse d’OpenAI devant le tribunal, la publication éventuelle de la liste des incidents, les premiers rapports des quatre évaluateurs indépendants et l’avancée des procédures de l’Iowa, du Texas et des associations.

Sources

Image d’en-tête : graphique MACCUS, données de la plainte de l’État de Californie (16 novembre 2026) et d’OpenAI (21 juillet 2026)

Laisser un commentaire