Prompt-Diebstahl bei KI-Anbietern ist kein theoretisches Risiko, sondern über Monate passiert. Zu diesem Ergebnis kommt eine Studie des Sicherheitsunternehmens Dragos. Dessen Forschungschef HD Moore, bekannt als Erfinder von Metasploit, schickte von Juli bis November 2026 rund zwei Millionen Prompts mit eindeutigen, präparierten Geheimnissen an verbreitete KI-Dienste und beobachtete, wo diese Geheimnisse wieder auftauchten. Das Ergebnis: Angreifer saßen unbemerkt bei mindestens drei Inferenz-Anbietern, Händler auf einem Marktplatz lasen Kundenanfragen mit, und Datenschutz-Einstellungen wie Zero Data Retention wurden vielfach ignoriert. Am Sonntag, dem 22. November, reagierte der KI-Router OpenRouter und warf drei Anbieter von seiner Plattform.
Wie die Canary-Studie funktioniert
Ein Canary Token ist ein Geheimnis, das nur an einer einzigen Stelle existiert. Wird es irgendwo benutzt, weiß man, dass genau diese Stelle offengelegt wurde. Dragos versah jede Anfrage mit einem eigenen AWS-Schlüssel, einem DNS-Namen und einer URL, die nirgendwo sonst vorkamen. Die AWS-Schlüssel waren echte Schlüssel zu leeren, vollständig protokollierten Konten. Später baute das Team einen eigenen Dienst, der für jeden Prompt eindeutige Hostnamen, Adressen und Zugangsdaten erzeugt und die passenden Dienste gleich mitbetreibt: DNS, Web, Git, SSH, Datenbanken und Mail.
Die ersten Tokens schlugen laut dem Bericht vom 19. November schon nach wenigen Tagen an, und die Tokens aus dem Juli werden bis heute verwendet. Weil jedes Token auf den Prompt, das Modell, den Router und die Datenschutz-Einstellung zurückführbar ist, ließ sich genau nachvollziehen, welche Anfrage über welchen Weg abgeflossen war.
Prompt-Diebstahl bei drei Anbietern
Der schwerwiegendste Befund: Angreifer stahlen bei drei verschiedenen Hosting-Anbietern laufend Daten. Der früheste Einbruch reicht bis Mitte Juli zurück. Keiner der drei Anbieter wusste davon, bis Dragos ihn informierte. Da die Köder-Prompts zusammen mit echten Kundenanfragen verarbeitet wurden, gehen die Forscher davon aus, dass auch diese kopiert wurden.
Beim größten Fall ging es um einige Hundert präparierte AWS-Schlüssel, jeder in genau einer Anfrage an einen Anbieter verschickt, Ende Oktober in wenigen kurzen Zeitfenstern. Jede Anfrage aus diesen Fenstern wurde gestohlen, auch solche, die der Anbieter abgelehnt hatte, bevor überhaupt ein Modell lief. Das deutet darauf hin, dass der Angreifer den Datenverkehr direkt am Eingang mitschnitt. In den beiden anderen Fällen waren auch Anfragen mit Zero-Data-Retention-Markierung betroffen. „Ein Datenschutz-Flag hilft nicht, wenn der Angreifer schon drin ist“, schreibt Moore.
Die Angreifer gingen mit den Schlüsseln immer gleich vor. Sie prüften, ob ein Schlüssel funktioniert, teils schon wenige Stunden nach der Anfrage. Dann suchten sie in S3-Buckets, im Secrets Manager und im Parameter Store nach Daten und versuchten, in AWS Bedrock Modelle freizuschalten, Bedrock-API-Schlüssel zu erzeugen und eigene IAM-Benutzer anzulegen. Insgesamt lösten die Köderschlüssel Zehntausende AWS-API-Aufrufe aus. Nach Angaben von The Hacker News setzte einer der Angreifer am 1. November das KI-gestützte Pentest-Framework ARTEX ein, um zu prüfen, ob seine Schlüssel noch gültig waren. ARTEX spielte bereits beim Cyberangriff auf die EU-Kommission eine Rolle.
Marktplatz-Händler lasen einfach mit
Der zweite Befund kam ganz ohne Einbruch aus. KI-Router bieten einen einzigen API-Zugang, über den Anfragen an viele Modelle und Anbieter weitergeleitet werden. Manche sind offene Marktplätze, auf denen der günstigste Verkäufer den Zuschlag bekommt. Die ertappten Händler mussten nur ein Modell zum niedrigsten Preis anbieten, die Protokollierung einschalten und warten.
Auffällig war, wie persönlich das ablief. Es handelte sich um Einzelpersonen an privaten Internetanschlüssen. In einem Fall öffnete jemand etwa anderthalb Tage nach zwei Anfragen beide geheimen URLs in einem Desktop-Browser und probierte Benutzernamen aus. In einem anderen Fall versuchte jemand von einem Mac an einem Heimanschluss in Frankreich, sich mit Passwörtern aus zwei Prompts per SSH als root anzumelden, jeden Versuch von Hand getippt. Ein weiterer Router leitete einen Teil seines Datenverkehrs stillschweigend auf den Marktplatz weiter, ohne das offenzulegen. Mit einer Art Traceroute für KI-Anfragen verfolgte Dragos rund 2.000 Routen. Mehrere Hundert davon führten über Systeme, die sich nicht zuordnen ließen, und ein Händler fügte jedem Prompt heimlich rund 1.000 zusätzliche Tokens hinzu.
Zero Data Retention wurde oft ignoriert
Der dritte Befund betrifft die Datenschutz-Versprechen. Hier benutzte niemand einen Schlüssel, aber die geheimen URLs aus den Prompts wurden wiederholt abgerufen, von Firmen, die die Anfragen nie hätten sehen dürfen. Das deutlichste Beispiel ist ein chinesisches KI-Labor, das Dragos nicht namentlich nennt. Dessen Systeme riefen bei mehr als der Hälfte der Prompts an seine Modelle die geheimen URLs ab, darunter etwa zwei Drittel der Anfragen, die als „keine Datensammlung“ oder Zero Data Retention markiert waren. Das geschah auch, wenn die Anfragen an US-Anbieter gingen, die die Modelle des Labors weiterverkaufen.
Auch große US-Anbieter fielen auf. Einer rief eine geheime URL noch mehr als zwei Monate nach einer einzigen Anfrage an seinen Suchdienst ab. Am merkwürdigsten war ein Fall, in dem ein geheimer Link 24 Tage nach der Anfrage in einem Chat des Bürodienstes Feishu auftauchte und binnen zwei Minuten von drei Desktop-Rechnern und drei Smartphones in Peking und Shanghai geöffnet wurde. Die Anfrage war mit Zero-Data-Retention-Flag an einen US-Anbieter gegangen.
OpenRouter wirft drei Anbieter raus
Der KI-Router OpenRouter veröffentlichte am Sonntag eine Mitteilung zu den Vorfällen. Demnach hat das Unternehmen drei Anbieter von der Plattform entfernt, 125 Endpunkten die Zero-Data-Retention-Eignung entzogen und alle möglicherweise betroffenen Kunden benachrichtigt. Die Entfernungen betreffen von den Forschern gemeldete Anbieter und weitere, die vorsorglich gestrichen wurden. OpenRouter selbst sei nicht kompromittiert worden. Das Unternehmen will die Testmethode der Forscher übernehmen und dauerhaft einsetzen und erst nach Prüfung wieder Zero-Data-Retention-Status vergeben. Wie stark OpenRouter inzwischen als Zugang zu Modellen genutzt wird, zeigte zuletzt der US-Bericht zu chinesischen Open-Weight-Modellen.
Welche drei Anbieter entfernt wurden, nennt OpenRouter nicht, ebenso wenig Dragos die drei kompromittierten Anbieter. Drei Anbieter haben eigene Mitteilungen veröffentlicht, die OpenRouter verlinkt: Phala meldet einen kompromittierten Inferenz-Server, Together AI ein Leck gespeicherter Prompt-Stichproben aus Juni und Juli, und Novita einen Konfigurationsfehler, durch den Anfragen an ein weiteres Unternehmen weitergeleitet wurden.
Was Unternehmen jetzt tun sollten
- Zugangsdaten in Prompts rotieren: Wer über Router oder Zweitanbieter Schlüssel, Passwörter oder interne Links an Modelle geschickt hat, sollte sie als offengelegt behandeln. Besonders gefährdet sind KI-Agenten, die alles weiterreichen, was sie lesen können.
- Den Weg der Anfragen festlegen: Laut Moore bindet ein Datenschutz-Flag nur den ersten Hop. Bei Routern sollten Kunden die Anbieter selbst auswählen und prüfen, ob die Einstellungen den Weg tatsächlich ändern. Von Reseller-Marktplätzen rät Dragos ab.
- Eigene Canaries legen: Ein falscher Schlüssel im Kontext von Agenten und Pipelines wirkt als Stolperdraht. Jede Nutzung ist ein Sicherheitsvorfall.
- Geheimnisfilter einschalten: Manche Anbieter entfernen bekannte Schlüsselformate automatisch aus Prompts. Das hilft, erfasst aber keine vertraulichen Inhalte ohne festes Format.
Wie schnell gestohlene Zugangsdaten aus Entwickler-Umgebungen missbraucht werden, zeigte zuletzt auch der Fall der kompromittierten Microsoft-Agent-Framework-Pakete.
Einordnung
Die Studie trifft einen wunden Punkt der KI-Branche. Prompts enthalten oft Quellcode, interne Kommunikation, Kundendaten und Zugangsdaten. Sie sind damit häufig wertvoller als die Rechenleistung, die ihre Verarbeitung kostet. Gleichzeitig laufen Anfragen über Ketten aus Routern, Wiederverkäufern und Hostern, die für Kunden kaum sichtbar sind. Datenschutz-Einstellungen sind in dieser Kette nur so viel wert wie das schwächste Glied. Die Forscher arbeiten nach eigenen Angaben inzwischen mit rund einem Dutzend Anbietern zusammen, gestohlene Schlüssel und Links werden aber weiterhin abgerufen. Wer KI-Dienste nutzt, sollte deshalb nicht fragen, ob ein Anbieter Zero Data Retention verspricht, sondern wer die Anfrage auf dem Weg dorthin überhaupt sehen kann.



