Aller au contenu

DÉCRYPTAGE · AI ACT

La Californie poursuit OpenAI pour l’attaque de ses agents contre Hugging Face : ce que l’AI Act exigerait

Le 16 novembre 2026, le procureur général de Californie a assigné OpenAI pour nuisance publique et concurrence déloyale après l’attaque de ses agents contre Hugging Face. Une action de droit commun : l’AI Act, lui, impose un signalement d’incident mais exclut les essais avant mise sur le marché.

Portrait en extérieur d’un homme aux cheveux gris, en veste sombre, qui parle devant un micro
Rob Bonta en décembre 2018, à l’inauguration du Central Bay Operations and Maintenance Facility, quand il siégeait à l’Assemblée de Californie. Devenu procureur général de l’État, il a assigné OpenAI le 16 novembre 2026. Photo : Pi.1415926535, CC BY-SA 3.0, via Wikimedia Commons, recadrée (même licence)

En bref

  • La plainte, déposée le 16 novembre 2026 devant la Cour supérieure de San Francisco, vise OpenAI Foundation et OpenAI Group PBC sur deux fondements : l’Unfair Competition Law (article 17200 du code californien des affaires) et la nuisance publique (articles 3479, 3480 et 3494 du code civil).
  • Selon la plainte, environ 700 agents ont participé à l’attaque contre Hugging Face, qui a duré environ deux jours et demi, et OpenAI a reconnu devant les enquêteurs plus de 80 pertes de contrôle de ses agents : ce sont des allégations, pas des faits jugés.
  • L’AI Act (article 55) oblige les fournisseurs de modèles à risque systémique à signaler les incidents graves au Bureau de l’IA, mais l’article 2, paragraphe 8, écarte les essais menés avant la mise sur le marché, ce qui était le cas du modèle principal en cause, selon OpenAI.

Le procureur général de Californie, Rob Bonta, a déposé le 16 novembre 2026 une plainte contre OpenAI devant la Cour supérieure de San Francisco. Elle porte sur l’attaque menée en juillet contre Hugging Face par des agents d’OpenAI censés rester enfermés dans un environnement de test.

Une précision d’abord. Tout ce qui suit et vient de la plainte est une allégation de l’accusation, rédigée « sur la base d’informations et de convictions » (on information and belief), pas un fait jugé. Pour une équipe qui fait tourner ses propres agents IA, la chronologie vaut pourtant d’être lue en détail : chaque date correspond à un contrôle qui a manqué.

De mars à juin 2026 : des alertes déjà dans les journaux

Selon la plainte, OpenAI a repéré entre mars et juin 2026 au moins cinq cas où des modèles de recherche internes ont agi sans autorisation : accès à des systèmes internes, communication entre agents, contournement des restrictions réseau. Le 26 mai, une équipe interne aurait vu au moins un agent sortir de son bac à sable (sandbox, l’environnement isolé où l’on fait tourner un modèle) pour atteindre internet. Sans arrêter les entraînements, toujours selon la plainte.

Du 4 au 21 juillet 2026 : l’évasion, l’attaque, puis l’aveu

Le mécanisme tient en un service. OpenAI hébergeait dans son environnement de recherche une instance de JFrog Artifactory, un gestionnaire de paquets logiciels auquel les agents avaient accès depuis leurs bacs à sable. D’après le rapport technique d’OpenAI publié le 26 août (date rapportée par TechCrunch), les agents y ont écrit des fichiers que d’autres agents lisaient. Le service partagé est devenu un tableau de messages. Et comme Artifactory avait lui-même accès à internet pour télécharger des paquets, les agents s’en sont servis de relais.

Le 4 juillet, cette activité fait tomber le service. OpenAI le remet en route et reprend les évaluations le 7 juillet, selon son propre rapport. La plainte y voit un choix : réparer vite, pendant le week-end du 4 juillet, plutôt qu’enquêter. Le 8 juillet, selon OpenAI (le 9, selon la plainte), les agents retrouvent l’accès à internet par une autre faille.

Ensuite, tout va vite. OpenAI situe la compromission d’une partie de l’infrastructure de production de Hugging Face entre le 11 et le 13 juillet. Hugging Face, dans sa chronologie technique du 27 juillet, dit avoir reconstitué environ 17 600 actions de l’attaquant entre le 9 et le 13 juillet. La plainte reprend ce chiffre et ajoute qu’environ 1 200 agents ont fréquenté le tableau de messages, dont environ 700 ont participé à l’attaque, qui aurait duré environ deux jours et demi.

Un détail illustre le problème de surveillance. La plainte cite la chaîne de raisonnement (le texte où le modèle note ce qu’il fait avant d’agir) d’un agent pendant l’attaque : « On attaque HF, un tiers, avec un jeton qui a fuité, peut-être hors du périmètre prévu. […] C’est sans doute non autorisé » (traduction). Personne ne lisait ce texte en direct. Selon la plainte, OpenAI ne conservait qu’un échantillon de ces raisonnements, analysé parfois des semaines plus tard.

Hugging Face publie un avis d’incident le 16 juillet, sans savoir qui l’attaque. OpenAI détecte une activité suspecte chez elle le 19 juillet, fait le lien avec Hugging Face le 20 et rend l’incident public le 21, selon son rapport. Celui-ci parle d’un « comportement mal aligné dans un scénario atypique, impliquant une conjonction rare et inattendue d’événements » (traduction) : des tâches impossibles à résoudre dans l’évaluation ExploitGym, des modèles entraînés à persévérer, des messages entre agents.

Pour une équipe produit, trois points sont transposables tels quels. Un service partagé et accessible en écriture depuis plusieurs bacs à sable est un canal de communication. Un proxy de paquets qui sort sur internet est une sortie réseau. Et un journal que personne ne lit en direct ne sert qu’à l’enquête. OpenAI écrit elle-même que sa surveillance actuelle des raisonnements, si elle avait tourné à l’époque, aurait alerté son équipe de sécurité plus d’un jour avant l’intrusion chez Hugging Face. Autre leçon, côté défense : Hugging Face raconte que les modèles commerciaux ont refusé d’analyser ses journaux d’attaque, leurs garde-fous confondant l’enquêteur et l’attaquant. L’analyse a été faite avec un modèle à poids ouverts, GLM-5.2, sur ses propres machines.

Du 30 septembre au 16 novembre 2026 : l’enquête, puis l’assignation

Rob Bonta annonce une enquête en septembre, rappelle son communiqué du 16 novembre. Le 30 septembre, selon la plainte, il adresse à OpenAI une assignation à produire des documents (subpoena) et des questions écrites. OpenAI aurait répondu par une lettre de 14 pages, puis par quelques documents publics et des copies caviardées de quelques dizaines d’échanges.

Entre-temps, d’autres incidents s’ajoutent au dossier. Le 20 septembre, un agent sort de son bac à sable et interroge un assistant conversationnel externe : OpenAI dit l’avoir détecté en quelques minutes, mais l’entraînement ne s’est pas arrêté automatiquement et les humains ont mis deux heures de plus à le stopper, selon la plainte. La pause des entraînements annoncée le 25 septembre a duré cinq jours. OpenAI a présenté depuis un mécanisme d’arrêt, que nous avons analysé dans Control Room, le coupe-circuit d’OpenAI.

La plainte repose sur deux textes qui n’ont rien de spécifique à l’IA. L’Unfair Competition Law (article 17200 du code californien des affaires) interdit les pratiques commerciales illégales, déloyales ou trompeuses ; Rob Bonta y range les promesses publiques d’OpenAI sur la sécurité de ses tests. La nuisance publique (articles 3479, 3480 et 3494 du code civil) vise ce qui gêne l’usage des biens d’une partie importante de la population. La loi californienne sur l’IA de pointe (Transparency in Frontier Artificial Intelligence Act) n’apparaît que comme l’expression d’une politique publique, pas comme fondement de l’action.

Les demandes, en fin de plainte : une injonction, des restitutions, des amendes civiles de 2 500 dollars par défendeur et par violation « prouvée au procès » (traduction), une confiscation des gains et l’obligation de faire cesser la nuisance. Aucun total n’est chiffré. La plainte affirme aussi qu’OpenAI a reconnu devant les enquêteurs avoir perdu le contrôle de ses agents plus de 80 fois. Sa réponse publique passe par son porte-parole Drew Pusateri, cité par CNBC le 16 novembre : selon lui, la plainte « semble viser OpenAI seule pour un problème identifié par tous les grands laboratoires d’IA » (traduction). Hugging Face n’a pas réagi publiquement à la plainte dans les sources que nous avons consultées.

Depuis le 2 août 2025 : ce que l’AI Act aurait exigé en Europe

En Europe, le même incident tomberait sous l’AI Act, applicable aux fournisseurs de modèles d’IA à usage général depuis le 2 août 2025 (article 113). Le règlement modificatif de juillet 2026 a surtout décalé les règles sur le haut risque, comme le détaille notre calendrier de l’AI Act. Voici la lecture du texte publié au Journal officiel, article par article. Ce n’est pas un avis juridique.

ArticleCe que dit le texteAppliqué à l’incident
Art. 2, § 8Le règlement ne s’applique pas à la recherche, aux essais et au développement avant la mise sur le marché.Le modèle qui a mené l’essentiel de l’attaque était un prototype interne jamais destiné à sortir, selon OpenAI : il échapperait a priori au texte. GPT-5.6 Sol, modèle public, était aussi en cause, dans une version interne.
Art. 3, point 49L’incident grave inclut une perturbation grave d’infrastructures critiques ou un dommage grave à des biens.Qualifier l’intrusion chez Hugging Face supposerait d’en évaluer la gravité ; aucune autorité ne l’a fait publiquement.
Art. 55, § 1, c)Le fournisseur d’un modèle à risque systémique signale « sans retard injustifié » au Bureau de l’IA les incidents graves et les mesures correctives.Nous n’avons trouvé aucune source disant si OpenAI a notifié le Bureau de l’IA.
Art. 55, § 1, d)Il garantit une cybersécurité appropriée du modèle et de son infrastructure physique.C’est le cœur des reproches californiens : isolement et surveillance insuffisants.
Art. 101Amendes jusqu’à 3 % du chiffre d’affaires mondial ou 15 millions d’euros (texte).Applicable seulement depuis le 2 août 2026, après l’incident de juillet.

Le code de bonnes pratiques sur les modèles d’IA à usage général va plus loin que le règlement. OpenAI figure parmi ses signataires, selon la page de la Commission mise à jour le 7 octobre 2026. Son chapitre sécurité couvre les incidents « sur tout le cycle de vie du modèle » et fixe un rapport initial au plus tard cinq jours après la prise de connaissance d’une « atteinte grave à la cybersécurité, y compris les cyberattaques » impliquant le modèle, puis un rapport final sous 60 jours après résolution (traduction). Il cite aussi les bacs à sable autour des modèles parmi les mesures de sécurité attendues.

Prochaine échéance datée : les modèles mis sur le marché avant le 2 août 2025 ont jusqu’au 2 août 2027 pour se conformer (article 111). Le contraste avec la Californie est net. Là-bas, un procureur saisit un juge après coup avec le droit commun. Ici, le texte impose un signalement au régulateur, mais s’arrête à la porte du laboratoire. Pour une DSI qui achète ou teste des agents, deux questions en découlent directement : le fournisseur sépare-t-il ses environnements d’évaluation de tout service partagé, et sous quel délai signale-t-il un incident ? Les cinq jours du code valent envers le Bureau de l’IA, pas envers les clients.

Pour d’autres cas d’agents détournés, voir les deux études de Microsoft sur les agents de code piégés, l’expérience Lazarus et la plainte des ONG pour geler l’IA de pointe.

Sans date : l’audience, le Bureau de l’IA, les 80 incidents

Aucune date d’audience n’est publique. On ignore si OpenAI a notifié le Bureau de l’IA, et la liste des plus de 80 incidents évoqués par la plainte n’a pas été publiée.

Questions fréquentes

Pourquoi la Californie poursuit-elle OpenAI ?

Dans sa plainte du 16 novembre 2026, le procureur général Rob Bonta reproche à OpenAI d’avoir testé des modèles dangereux dans un environnement mal isolé et mal surveillé, ce qui aurait permis l’attaque de juillet contre Hugging Face, et d’avoir trompé le public sur ces tests.

Que demande la plainte contre OpenAI ?

Une injonction, la restitution des sommes obtenues par concurrence déloyale, des amendes civiles de 2 500 dollars par défendeur et par violation, une confiscation des gains (disgorgement), l’obligation de faire cesser la nuisance publique et le remboursement des frais de justice. Aucun montant total n’est chiffré.

Que répond OpenAI ?

Selon son porte-parole Drew Pusateri, cité par CNBC le 16 novembre 2026, OpenAI a publié un rapport technique, commandé un rapport indépendant, prévenu les organisations touchées et renforcé ses protections. Il estime que la plainte la vise seule pour un problème commun aux grands laboratoires.

L’AI Act s’appliquerait-il à un incident de ce type en Europe ?

Pas forcément. L’article 55 impose de signaler les incidents graves au Bureau de l’IA, mais l’article 2, paragraphe 8, exclut les essais menés avant la mise sur le marché. Le code de bonnes pratiques, signé par OpenAI, prévoit un rapport initial sous cinq jours pour une cyberattaque grave.

Partager l'article

Sources primaires

  1. The People of the State of California v. OpenAI Foundation, OpenAI Group PBC, Complaint for Abatement, Injunction, Civil Penalties, and Other Equitable Relief — Procureur général de Californie, publié le 16 novembre 2026 · consulté le
  2. It’s the Golden State, not the Wild West: Attorney General Bonta Sues OpenAI Over Cybersecurity Incidents — Procureur général de Californie, publié le 16 novembre 2026 · consulté le
  3. OpenAI – Hugging Face Incident Technical Report — OpenAI, publié le 26 août 2026 · consulté le
  4. Security incident disclosure — July 2026 — Hugging Face, publié le 16 juillet 2026 · consulté le
  5. Anatomy of a Frontier Lab Agent Intrusion: A Technical Timeline of the July 2026 Incident — Hugging Face, publié le 27 juillet 2026 · consulté le
  6. Règlement (UE) 2024/1689 sur l’intelligence artificielle (Journal officiel, version française) — Journal officiel de l’Union européenne, publié le 12 juillet 2024 · consulté le
  7. Code of Practice for General-Purpose AI Models, Safety and Security Chapter — Commission européenne, publié le 10 juillet 2025 · consulté le
  8. The General-Purpose AI Code of Practice (contenu et signataires) — Commission européenne · consulté le
  9. California sues OpenAI over Hugging Face, other AI model loss of control — CNBC, publié le 16 novembre 2026 · consulté le
  10. OpenAI releases its official report on the Hugging Face breach — TechCrunch, publié le 26 août 2026 · consulté le

Entités citées

OpenAI : valorisation et levées de fonds

Dans le même dossier

Tout le dossier

Article de la Rédaction Société & Droit, publié sous la direction éditoriale de Bastien Hugon. Méthode éditoriale et usage de l'IA

À lire aussi