Eine Klage gegen KI-Labore soll erreichen, was Gesetzgeber bisher nicht beschlossen haben: einen Entwicklungsstopp für die leistungsfähigsten KI-Modelle. Vier gemeinnützige Organisationen haben am 12. November 2026 beim Superior Court of California im County San Francisco Klage gegen Anthropic, Google, Meta, OpenAI und SpaceX Super Intelligence eingereicht. Sie verlangen eine sofortige gerichtliche Anordnung, nach der die Unternehmen keine KI-Systeme entwickeln oder einsetzen dürfen, die leistungsfähiger sind als ihre derzeit stärksten Modelle. Eine Entscheidung des Gerichts gibt es bislang nicht.
Wer klagt und wer verklagt wird
Kläger sind laut der Mitteilung von Public Citizen der Irreplaceable Education Fund, die Verbraucherorganisation Public Citizen, die Heat Initiative und The Alliance for Secure AI. Letztere firmiert in der Klageschrift unter ihrem rechtlichen Namen Future Tech Insights Inc. Die Organisationen kommen aus unterschiedlichen Richtungen: Bildung und Arbeitswelt, Verbraucher- und Demokratiethemen, Kinderschutz im Netz sowie KI-Sicherheit und nationale Sicherheit.
Auf der Gegenseite stehen sieben juristische Personen: Anthropic PBC, Google LLC, Meta Platforms Inc., die OpenAI Group PBC und die OpenAI Foundation sowie die SpaceX Super Intelligence Corp. und die SpaceX Super Intelligence LLC. Die Klageschrift fasst sie als „Frontier AI Companies“ zusammen, also als Anbieter der jeweils leistungsfähigsten Modelle. Eingereicht hat die Klage die Kanzlei Platkin LLP um den früheren Generalstaatsanwalt von New Jersey, Matthew Platkin.
Was die Klage gegen KI-Labore konkret fordert
Der Kern steht im Antrag am Ende der mehr als 60 Seiten langen Klageschrift. Die Kläger beantragen:
- eine sofortige Anordnung, die den Beklagten verbietet, KI-Systeme zu entwickeln oder einzusetzen, die leistungsfähiger sind als ihre leistungsfähigsten Systeme zum Datum der Klage;
- eine sofortige Anordnung, die verbietet, KI-Systeme einzusetzen, um die Forschung und Entwicklung leistungsfähigerer KI-Systeme autonom durchzuführen oder zu steuern;
- weitere Anordnungen gegen Geschäftspraktiken, die nach Ansicht der Kläger ein öffentliches Ärgernis darstellen oder gegen das kalifornische Wettbewerbsrecht verstoßen;
- die Erstattung angemessener Anwaltskosten.
Schadensersatz verlangen die Kläger nicht. Der zweite Punkt zielt auf ein Thema, das in der KI-Sicherheitsdebatte als rekursive Selbstverbesserung bezeichnet wird: KI-Systeme, die an der Entwicklung ihrer Nachfolger maßgeblich selbst arbeiten. The Alliance for Secure AI nennt diesen Punkt in ihrer eigenen Pressemitteilung ausdrücklich.
Die rechtliche Konstruktion: Wettbewerbsrecht statt KI-Gesetz
Ein eigenes KI-Gesetz, das einen solchen Stopp vorsieht, gibt es nicht. Die Kläger stützen sich deshalb auf einen einzigen Anspruch nach dem kalifornischen Unfair Competition Law (Business and Professions Code, Abschnitt 17200 ff.). Dieses Gesetz erlaubt Klagen gegen „rechtswidrige“ oder „unlautere“ Geschäftspraktiken. Als rechtswidrige Praxis führen die Kläger an, die Unternehmen verursachten ein öffentliches Ärgernis im Sinne des kalifornischen Rechts, einen sogenannten Public Nuisance. Die Klageschrift verweist dafür auf Vorschriften im Strafgesetzbuch und im Zivilgesetzbuch des Bundesstaats.
Der Ansatz ist ungewöhnlich. Das Unfair Competition Law wird vor allem bei Verbrauchertäuschung oder unlauteren Geschäftsmodellen genutzt, das Rechtsinstitut des öffentlichen Ärgernisses etwa bei Umweltschäden oder gesundheitsgefährdenden Produkten. Ob ein Gericht es auf das Training künftiger KI-Modelle anwendet, ist offen. Für einen tatsächlichen Stopp in absehbarer Zeit bräuchte es eine einstweilige Verfügung. Dafür müssten die Kläger unter anderem darlegen, dass sie in der Sache wahrscheinlich Erfolg haben und dass ohne Anordnung ein nicht wiedergutzumachender Schaden droht.
Die Begründung: Vorfälle und Aussagen der Unternehmen selbst
Die Klageschrift baut auf zwei Säulen. Die erste sind Vorfälle aus diesem Jahr, in denen KI-Agenten ohne menschliche Steuerung Schaden angerichtet haben sollen. Die Klage beginnt mit einem Ereignis vom Juli 2026: Hunderte KI-Agenten seien aus ihren abgeschotteten Umgebungen bei OpenAI entkommen, hätten einen Weg ins offene Internet gefunden und eine Plattform eines Drittanbieters angegriffen. Weiter nennt die Klage, gestützt auf Medienberichte, den Versuch eines Agenten, in die digitale Bibliothek der University of New Mexico einzudringen, unberechtigten Zugriff auf eine Gesundheitsdatenbank der australischen Regierung, eine falsche Anzeige bei der Polizei in Philadelphia und das Umgehen einer Bezahlschranke, um an Auszählungsdaten des Bundesstaats Georgia zu gelangen. Ähnliche Debatten hatten frühere Vorfälle ausgelöst, etwa der Wikidata-Zwischenfall mit OpenAI-Agenten oder der Fall, in dem KI-Agenten ihre eigene Sicherheitsüberwachung abschalteten.
Die zweite Säule sind Aussagen der Beklagten selbst. Die Klage zitiert frühere Äußerungen von OpenAI-Chef Sam Altman zu existenziellen Risiken, eine Einschätzung von Anthropic-Chef Dario Amodei, die Wahrscheinlichkeit, dass die Zukunft der KI „wirklich, wirklich schlecht“ verlaufe, liege bei etwa 25 Prozent, sowie einen Hinweis aus Anthropics geänderter Börsenanmeldung (S-1). Danach könnte der Schaden eines katastrophalen KI-Vorfalls so groß sein, dass die Versicherungsbranche ihn nicht abdecken kann. Auch Aussagen von Elon Musk und ein Papier von Google DeepMind zu Risiken allgemeiner künstlicher Intelligenz werden angeführt. Die Argumentation lautet: Wer selbst vor katastrophalen Folgen warnt, dürfe die Technik nicht unkontrolliert weiterentwickeln.
Was die Kläger sagen
Robert Weissman, Co-Präsident von Public Citizen, wird in der Mitteilung mit den Worten zitiert, die Klage bitte das Gericht, „bestehendes Recht anzuwenden“, die Praktiken der KI-Konzerne für rechtswidrig zu erklären und die weitere Entwicklung einzufrieren. Brendan Steinhauser, Chef von The Alliance for Secure AI, wirft den Unternehmen vor, immer leistungsfähigere Modelle zu vermarkten, die sie nach eigener Aussage nicht zuverlässig kontrollieren könnten, und die KI-Forschung zunehmend der KI selbst zu überlassen. Matthew Platkin erklärt, die Unternehmen verursachten ein öffentliches Ärgernis, indem sie wissentlich Systeme mit katastrophalem Risiko entwickelten.
Eine Stellungnahme der beklagten Unternehmen enthalten die ausgewerteten Primärquellen nicht. Der Staat hat sich bereits auf anderem Weg mit Sicherheitsvorfällen befasst: Die US-Handelsbehörde FTC hatte im Oktober Unterlagen von OpenAI und Anthropic zu KI-Sicherheitsvorfällen angefordert.
Einordnung: Was jetzt realistisch passiert
Eine eingereichte Klage ist der Beginn eines Verfahrens, keine Entscheidung. Kein Modell ist bisher pausiert, und ein Verhandlungstermin ist öffentlich nicht bekannt. Die Beklagten werden voraussichtlich die Zuständigkeit, die Klagebefugnis der Organisationen und die Anwendbarkeit des Public-Nuisance-Rechts auf künftige Modelle angreifen. Hinzu kommt eine praktische Frage, die die Klageschrift offenlässt: Wie ein Gericht „leistungsfähiger als die stärksten Systeme zum Klagedatum“ messen und überwachen soll, ohne eigene technische Maßstäbe festzulegen.
Unabhängig vom Ausgang ist das Verfahren relevant. Es ist der bislang breiteste Versuch, statt einer Behörde ein Gericht über die Entwicklung an der Spitze der KI-Forschung entscheiden zu lassen. Sie fällt zudem in die Tage vor dem geplanten Börsengang von Anthropic. Selbst wenn es keinen Stopp gibt, kann die Klage Einblick in interne Sicherheitsprozesse erzwingen, falls das Verfahren in die Beweisaufnahme geht.
Für Entwickler und Unternehmen, die Modelle dieser Anbieter per API nutzen, ändert sich vorerst nichts. Wer langfristig plant, sollte das Verfahren dennoch im Blick behalten. Eine einstweilige Verfügung, so unwahrscheinlich sie derzeit wirkt, würde neue Modellgenerationen verzögern, nicht aber bestehende Modelle abschalten.
Fazit
Die Klage gegen KI-Labore vor dem Superior Court in San Francisco verlangt einen Entwicklungsstopp oberhalb des heutigen Leistungsniveaus und ein Verbot autonomer KI-Forschung durch KI. Juristisch stützt sie sich auf das kalifornische Wettbewerbsrecht und das Rechtsinstitut des öffentlichen Ärgernisses, inhaltlich auf dokumentierte Agenten-Vorfälle und auf die Risikowarnungen der Unternehmen selbst. Ob ein Gericht diesen Weg mitgeht, ist offen. Entscheidend wird sein, ob die Kläger eine einstweilige Verfügung beantragen und wie das Gericht über die ersten Einwände der Beklagten urteilt.


