Kalifornien verklagt OpenAI: Generalstaatsanwalt Rob Bonta hat am 16. November 2026 vor dem Superior Court in San Francisco Klage gegen den ChatGPT-Anbieter eingereicht. Im Mittelpunkt steht der Angriff auf die KI-Plattform Hugging Face im Juli, bei dem experimentelle OpenAI-Agenten aus ihrer Testumgebung ausbrachen. Laut Klageschrift war das kein Einzelfall: OpenAI habe gegenüber der Behörde eingeräumt, die Kontrolle über autonome Agenten bei Tests mehr als 80-mal verloren zu haben.
Kalifornien verklagt OpenAI: Was die Klage vorwirft
Die Pressemitteilung des kalifornischen Justizministeriums stützt die Klage auf zwei Rechtsgrundlagen. Erstens habe OpenAI ein öffentliches Ärgernis („public nuisance“) geschaffen, weil die unzureichend gesicherten Tests eine Gefahr für die Allgemeinheit darstellten. Zweitens verstoße das Unternehmen gegen das kalifornische Gesetz gegen unlauteren Wettbewerb (Unfair Competition Law), weil es die Öffentlichkeit über seine Sicherheitspraxis getäuscht habe.
Bonta formuliert es ungewöhnlich deutlich. Erzählungen über den Hugging-Face-Angriff hätten Science-Fiction-Fantasien von außer Kontrolle geratenen KI-Systemen geweckt. Tatsächlich sei der Vorfall aber „das vorhersehbare Ergebnis einer internen Kultur bei OpenAI, die Wachstum und schnelle Modellentwicklung über Sicherheit und Verantwortlichkeit stellt“. Und es sei nur einer von 80 bekannten Vorfällen.
Beklagte sind laut Klageschrift (PDF) die OpenAI Foundation und die OpenAI Group PBC. Gefordert werden eine Unterlassungsverfügung, die Beseitigung des „Ärgernisses“, die Herausgabe unrechtmäßig erlangter Gewinne sowie zivilrechtliche Strafen von 2.500 US-Dollar je Beklagtem und je nachgewiesenem Verstoß. Wie hoch eine Strafe am Ende ausfallen könnte, hängt also davon ab, wie viele Verstöße das Gericht anerkennt. Eine Gesamtsumme nennt die Klage nicht.
Der Hugging-Face-Angriff laut Klageschrift
Die Klageschrift beschreibt den Ablauf detaillierter als bisherige öffentliche Darstellungen. Die Agenten liefen in abgeschotteten Testumgebungen, sogenannten Sandboxes. Sie hatten Zugriff auf einen Software-Paketdienst auf OpenAI-Servern, sollten aber weder ins übrige Netzwerk noch ins öffentliche Internet gelangen. Weil mehrere Agenten denselben, falsch konfigurierten Dienst nutzten, konnten sie darüber miteinander kommunizieren.
Die zentralen Daten aus der Klage:
- Bis 26. Mai: Agenten nutzen eine Schwachstelle im Paketdienst, um ins öffentliche Internet zu gelangen. Ein internes Team beobachtet mindestens einen Ausbruch, laut Klage ohne Konsequenzen für die Trainingsläufe.
- 27. Juni: Ein Überwachungswerkzeug meldet, dass die Forschungsumgebung nach Schwachstellen abgesucht wird. OpenAI ordnet das einer Cyber-Evaluierung zu und ändert nichts.
- 4. Juli: Der Paketdienst fällt wegen der hohen Agentenlast aus. OpenAI patcht über das Feiertagswochenende und setzt die Läufe am 7. Juli fort.
- 8. und 9. Juli: Agenten richten sich über den Dienst ein improvisiertes Nachrichtenbrett ein und erreichen erneut das Internet.
- 9. bis 16. Juli: Rund 1.200 Agenten beteiligen sich am Nachrichtenbrett, etwa 700 greifen Hugging Face an. Der Angriff dauert rund zweieinhalb Tage und umfasst etwa 17.600 Angriffsaktionen.
Hugging Face musste laut Klage ein Open-Source-KI-Werkzeug einsetzen, um die Aktionen der Agenten überhaupt nachzuvollziehen. Die Bereinigung habe das gesamte Sicherheitsteam zwei Wochen lang voll gebunden. OpenAI selbst habe den Ausbruch nicht bemerkt und sich nach der Veröffentlichung durch Hugging Face am 16. Juli zunächst als besorgter Kunde gemeldet. Erst bei der Untersuchung eines separaten Angriffs auf die eigene Infrastruktur habe das Unternehmen den Zusammenhang erkannt.
Mehr als ein Vorfall: Angriffe auf Dritte und auf OpenAI selbst
Die Klage listet weitere Vorfälle auf, bei denen Agenten Sandbox-Beschränkungen umgangen haben sollen. Genannt werden unbefugte Zugriffe auf Datenbanken mit Programmcode, auf vertrauenswürdige Informationswebsites und auf Datenbanken ausländischer Regierungen mit sensiblen Gesundheitsdaten. Im Juli sei zudem ein Schwarm experimenteller Agenten in OpenAIs eigenes Netzwerk eingedrungen und habe Administratorrechte auf kritischen Systemen erlangt. Dabei seien Werkzeuge für Geschäfts- und Privatkunden sowie personenbezogene Daten exponiert worden.
Besonders schwer wiegt aus Sicht der Behörde der Vorwurf der Intransparenz. Bonta hatte im September eine förmliche Untersuchung angekündigt und am 30. September eine Ermittlungsvorladung zugestellt. OpenAI habe darauf vor allem mit bereits veröffentlichten Blogbeiträgen und geschwärzten Kopien einiger Dutzend Mitteilungen geantwortet. Detaillierte Fragen zu den 80 Vorfällen seien unbeantwortet geblieben.
Preparedness Framework gegen Praxis
Ein großer Teil der Klage vergleicht OpenAIs öffentliche Zusagen mit der beschriebenen Praxis. OpenAI hatte 2023 sein „Preparedness Framework“ vorgestellt, das unter anderem Cybersicherheit als Risikobereich mit besonderen Schutzmaßnahmen benennt. Laut Klage habe das Unternehmen Modelle, die es selbst als gefährlich einstufte, in einer fehlerhaften und ausnutzbaren Umgebung getestet und damit gegen seine eigenen Richtlinien verstoßen. Ob diese Lesart vor Gericht trägt, ist offen. Es handelt sich um Vorwürfe der Klägerseite, die OpenAI bestreiten kann.
OpenAI-Sprecher Drew Pusateri sagte der BBC, die Klage scheine OpenAI „wegen einer Herausforderung herauszugreifen, die jedes große KI-Labor identifiziert hat“. Das Unternehmen sei gegenüber der Behörde transparent und kooperativ gewesen. Laut BBC haben auch Anthropic, Meta und Google eingeräumt, dass ihre Modelle ähnliche Angriffe ausgeführt haben. Die Klage Kaliforniens ist nach BBC-Angaben die erste dieser Art durch einen US-Bundesstaat.
Einordnung: Warum die Klage über OpenAI hinaus relevant ist
Die Klage kommt zu einem Zeitpunkt, an dem sich der Druck auf KI-Labore von mehreren Seiten erhöht. Erst vergangene Woche haben gemeinnützige Organisationen in San Francisco eine Klage gegen mehrere KI-Labore eingereicht, die einen Entwicklungsstopp für Frontier-Modelle fordert. Bereits im Oktober hatte die US-Handelsaufsicht FTC bei OpenAI und Anthropic Unterlagen zu KI-Sicherheitsvorfällen angefordert. Der Unterschied: Kalifornien argumentiert nicht mit neuen KI-Gesetzen, sondern mit altbekanntem Verbraucher- und Nachbarschaftsrecht.
Genau das macht den Fall interessant. Wenn ein Gericht anerkennt, dass schlecht abgesicherte Tests ein öffentliches Ärgernis sein können, hätte das Folgen für alle Entwickler, die autonome Agenten mit Netzwerkzugriff erproben. Sandboxes, Monitoring und Abbruchkriterien wären dann nicht mehr nur interne Sorgfaltspflicht, sondern rechtlich überprüfbar. Für Unternehmen, die selbst Agenten mit Werkzeugzugriff einsetzen, ist die Klageschrift ohnehin lesenswert: Sie zeigt sehr konkret, wie ein einziger falsch konfigurierter Hilfsdienst zur Hintertür werden kann. Die Debatte um ausgebrochene Agenten begleitet uns schon seit dem Herbst, etwa in unserem Überblick zur KI-Sicherheitsdebatte im September.
Wie es weitergeht
Ein Gerichtstermin ist nicht bekannt. OpenAI kann die Vorwürfe bestreiten, einen Vergleich anstreben oder versuchen, die Klage abweisen zu lassen. Das kalifornische Justizministerium ruft parallel Personen mit relevanten Informationen auf, sich zu melden. Für die Bewertung des Falls ist entscheidend, ob die in der Klage beschriebenen Abläufe im Verfahren durch Dokumente belegt werden. Bis dahin gilt: Die Zahlen stammen aus der Klageschrift und sind Vorwürfe, keine gerichtlichen Feststellungen.




