OpenAI hat am 20. November 2026 offengelegt, wie das Unternehmen gegen Adversarial Distillation vorgeht, also gegen den Versuch, die Fähigkeiten eines Spitzenmodells unerlaubt in ein anderes Modell zu kopieren. Im Mittelpunkt steht die geschützte Denkkette (Chain of Thought), die Modelle wie GPT-6.2 Astra und GPT-6.2 Sol intern erzeugen. In einem internen Test sank die Erfolgsquote automatisierter Angreifer, die diese Denkschritte aus einer früheren Anfrage rekonstruieren wollten, von 54,0 Prozent bei GPT-6 Astra mit den ursprünglichen Schutzmaßnahmen auf 0,2 Prozent bei GPT-6.2 Astra. Die Zahlen stammen von OpenAI selbst und sind nicht unabhängig überprüft. Interessant ist der Bericht vor allem, weil er erklärt, warum Distillation für Anbieter nicht nur eine Frage des geistigen Eigentums ist.
Was Adversarial Distillation ist
Distillation ist an sich eine gängige Technik im maschinellen Lernen. Ein kleineres oder neues Modell, der „Schüler“, lernt aus den Antworten, den Denkschritten oder den Bewertungen eines anderen Modells, des „Lehrers“. Viele Anbieter nutzen das legitim, um aus großen Modellen günstigere Varianten zu machen.
Adversarial wird es, wenn jemand die Ausgaben eines fremden Modells ohne Erlaubnis in großem Stil abgreift, um damit ein eigenes Modell zu trainieren. Laut dem OpenAI-Bericht liegt das Sicherheitsproblem darin, dass der Schüler zwar die Fähigkeiten übernimmt, nicht aber die Schutzmechanismen. Ein Modell, das Verteidigern hilft, Schwachstellen in Software zu finden, könnte nach einer solchen Kopie Angreifern helfen, sie auszunutzen. Dieselbe Logik gilt für Biologie und andere Bereiche mit doppeltem Verwendungszweck.
Warum die Denkkette so wertvoll ist
Reasoning-Modelle erzeugen vor ihrer Antwort Zwischenschritte. Nutzer sehen davon meist nur eine Zusammenfassung. Die exakten Denkspuren enthalten aber oft Informationen, die in der finalen Antwort fehlen. Genau das macht sie zu besonders wertvollen Trainingsdaten.
OpenAI hat das in einer internen Studie untersucht. Ausgangspunkt war jeweils dasselbe vortrainierte Schülermodell. Trainiert wurde es mit Aufgabenverläufen von Lehrermodellen auf Astra-Niveau, die an Programmier- und defensiven Sicherheitsaufgaben arbeiteten. Eine Variante bekam nur das, was Nutzer normalerweise sehen: Antworten, Zusammenfassungen der Denkschritte und Tool-Aufrufe. Die andere bekam zusätzlich die exakten Denkspuren.
Nach dem überwachten Feintuning schnitt der Schüler mit exakten Denkspuren in der Regel besser ab. Nach einer zusätzlichen Runde Reinforcement Learning lag er beim größten getesteten Rechenbudget weiterhin vorn, bei kleineren Budgets dagegen die Variante mit Zusammenfassungen. OpenAIs Schluss: Wer die Denkspuren schützt, begrenzt die Übertragung von Cyber-Fähigkeiten, selbst wenn die ursprünglichen Aufgaben völlig harmlos und erlaubt waren. Über viele Interaktionen hinweg könnten exakte Denkspuren einem Schüler Fähigkeiten beibringen, die über die Aufgaben des Lehrers hinausgehen. Anthropic hatte nach OpenAI-Angaben einen ähnlichen Effekt auf dem Programmier-Benchmark SWE-bench Verified beobachtet.
Zwei Verteidigungsebenen
OpenAI beschreibt die Abwehr auf zwei Ebenen, die sich gegenseitig verstärken sollen.
Auf Ebene der einzelnen Anfrage greifen drei Mechanismen:
- Adversariales Training: Die Modelle lernen, Extraktionsversuche zu erkennen und die geschützten Denkschritte nicht preiszugeben, ohne legitime Bitten um Erklärungen abzuweisen. Die Trainingsbeispiele stammen aus erfolgreichen Angriffen, die beim internen Red-Teaming, bei Ermittlungen oder durch Hinweise externer Forschender aufgefallen sind.
- Klassifikatoren: Eingabefilter erkennen Extraktionsversuche, Ausgabefilter prüfen Antworten und auch die Argumente von Tool-Aufrufen auf Lecks. Letzteres ist wichtig, weil ein Modell Denkschritte in einem Tool-Argument verraten kann, ohne sie in der Antwort zu zeigen.
- API-Schutz: Bei GPT-6.2 Astra und Sol ist die geschützte Denkkette an den Gesprächsverlauf gebunden, der sie erzeugt hat. Wird eine frühere Nachricht umgeschrieben, verwirft die API die darauf folgenden Denkschritte. Ältere Modellfamilien mit schwächeren Schutzmaßnahmen können die Denkketten der neuen Modelle nicht mehr lesen.
Der letzte Punkt ist eine direkte Reaktion auf eine Kampagne, die OpenAI am 30. September öffentlich gemacht hatte. Damals hatten Angreifer verschlüsselte Denkschritte aus einem Gespräch in ein anderes kopiert und das Modell gebeten, sie in lesbarer Form wiederzugeben. OpenAI schreibt nun, man habe die Schutzgrenzen zwischen Nutzern, Workspaces, Organisationen und Modellfamilien verschärft und dabei auch einen Weg geschlossen, über den die verschlüsselte Denkkette eines anderen Nutzers hätte offengelegt werden können.
Auf Ebene ganzer Kampagnen sucht OpenAI nach Mustern in Anfrage- und Kontodaten, die auf koordinierte Extraktion hindeuten. Wöchentliche Maßnahmen gegen solche Kampagnen hätten in diesem Jahr Tausende bis Zehntausende Konten betroffen, mit deutlich steigender Tendenz im Sommer. Indikatoren teile man mit anderen Modellanbietern.
Die Zahlen hinter der Adversarial Distillation-Abwehr
Gemessen hat OpenAI die Wirkung mit automatisierten KI-Angreifern, die ihre Taktik an die Reaktionen des Systems anpassen, in einem Black-Box-Szenario, also mit der Sicht eines externen Nutzers. Die Werte sind über sechs Angreifermodelle gemittelt:
- Denkschritte aus einer früheren Anfrage extrahieren: 54,0 Prozent Erfolg bei GPT-6 Astra (alte Schutzmaßnahmen), 0,2 Prozent bei GPT-6.2 Astra
- Denkschritte aus der aktuellen Anfrage extrahieren: 22,9 Prozent bei GPT-6 Astra, 0,9 Prozent bei GPT-6.2 Astra
Ausgewählte Verbesserungen will OpenAI nun auch auf GPT-6 Astra übertragen. Die Modelle selbst hatten wir beim Start in unserem Beitrag zu GPT-6.2 Astra und Sol vorgestellt.
Politische Dimension
OpenAI rahmt das Thema ausdrücklich auch als Frage der nationalen Sicherheit. Das Unternehmen erinnert daran, dass es im Februar den US-Kongress über Versuche von DeepSeek unterrichtet habe, US-Spitzenmodelle zu destillieren. Die September-Kampagne habe man im Kern Personen zugeordnet, die mit Moonshot AI, dem Entwickler von Kimi, in Verbindung stünden. Weitere Fälle wolle man bald veröffentlichen.
Zugleich wirbt OpenAI für Gesetze, die der US-Regierung mehr Mittel gegen ausländische Akteure geben sollen, und nennt den Chip Security Act, den AI OVERWATCH Act und den MATCH Act. Das passt zeitlich zu einem am selben Tag veröffentlichten Bericht zweier Ausschüsse des Repräsentantenhauses, der Distillation als einen Grund für den Aufstieg chinesischer Open-Weight-Modelle nennt. Man sollte im Blick behalten, dass OpenAI hier auch in eigener Sache argumentiert: Wer Distillation erschwert, schützt neben der Sicherheit auch sein Geschäftsmodell.
Was andere Anbieter daraus lernen können
Am Ende formuliert OpenAI Empfehlungen für andere Entwickler und Plattformen:
- Denkketten über die gesamte Interaktion schützen, also auch Tool-Argumente prüfen und die Wiederverwendung verschlüsselter Denkschritte über Gespräche und Modelle hinweg einschränken.
- Erfolgreiche Extraktionsangriffe als Regressionstests aufbewahren und neue Schutzmaßnahmen gegen adaptive Angreifer testen.
- Maßnahmen auf Anfrageebene mit Ermittlungen auf Kampagnenebene verbinden.
- Schutzanforderungen mit Partnern abstimmen, die die eigenen Modelle anbieten.
Für Entwickler, die die OpenAI-API nutzen, hat die neue Bindung der Denkkette an den Verlauf eine praktische Folge: Wer frühere Nachrichten in einem Gespräch nachträglich verändert, verliert die anschließenden Denkschritte. Das ist gewollt, kann aber Agenten-Frameworks betreffen, die Verläufe umschreiben oder verdichten. Wer solche Workflows betreibt, sollte das Verhalten nach dem Wechsel auf GPT-6.2 testen.
Unterm Strich ist der Bericht eine der bisher detailliertesten Beschreibungen, wie ein großer Anbieter die Denkschritte seiner Modelle absichert. Die beeindruckenden Prozentwerte stammen aus internen Tests unter Bedingungen, die OpenAI selbst festgelegt hat. Wie robust die Abwehr gegen entschlossene, gut ausgestattete Angreifer ist, wird sich erst zeigen, wenn unabhängige Forschende sie prüfen.




