LLMON heißt ein neuer Ansatz von IBM gegen Prompt Injection: eine Auszeichnungssprache, mit der ein Sprachmodell Anweisungen und Daten im Kontext klar unterscheiden kann. IBM hat am 12. November 2026 zwei experimentelle Vorschaumodelle auf Basis von Granite 4.1 veröffentlicht, die auf dieses Format trainiert sind. In Benchmarks mit versteckten Anweisungen in Nutzdaten ignorieren sie solche Angriffe weitgehend. IBM betont aber selbst, dass es sich um gelerntes Verhalten handelt, nicht um eine erzwungene Sicherheitsgarantie.
Was LLMON ist
LLMON steht für „LLM Object Notation“ und wird laut IBM wie das englische „lemon“ ausgesprochen. Im Blogbeitrag des Granite-Teams auf Hugging Face beschreibt IBM das Problem so: Im Kontext eines Modells sammeln sich über einen langen Verlauf viele Bestandteile an, etwa Systemprompt, frühere Gesprächsrunden, Anweisungen zu abgerufenen Dokumenten, Tool-Antworten, Nutzerdaten, Anforderungen an die Ausgabe und Denkketten. Diese Struktur ist für das Modell meist nur implizit oder in Formaten wie JSON kodiert, die nicht für Sprachmodelle entworfen wurden. Das mache besonders kleinere Modelle anfällig und lasse sich von Angreifern ausnutzen.
LLMON setzt dagegen auf eine XML-ähnliche Auszeichnung. Der Unterschied: Die Begrenzer der Struktur sind keine normalen Zeichen, sondern reservierte Spezial-Token im Tokenizer. IBM nennt sechs solcher Begrenzer. Struktur und Inhalt nutzen dadurch getrennte Teile des Vokabulars. Ein Anführungszeichen in einem Dokument kann so nicht mehr mit einem Zeichen verwechselt werden, das ein Feld schließt, was bei JSON für ein Modell laut IBM nur eine statistische Unterscheidung ist.
Jeder Block erhält eine eindeutige Kennung. Ein eigener Ausführungsblock legt fest, welche Anweisung auf welche Daten angewendet wird, unter welchen Anforderungen, und wohin die Antwort gehört. IBM vergleicht das mit einem Funktionsaufruf in einer Programmiersprache, bei dem Argumente explizit übergeben werden.
LLMON gegen indirekte Prompt Injection
Bei indirekter Prompt Injection versteckt ein Angreifer eine Anweisung in Daten, die das Modell verarbeiten soll, etwa in einem abgerufenen Dokument, einer Tool-Antwort oder Nutzereingaben. Genau hier setzt LLMON an. Nach der Logik des Formats ist eine Anweisung nur dann maßgeblich, wenn sie über den Ausführungsblock erreicht wird. Alles, was als Eingabe gebunden ist, also Daten, Dokumente, Tool-Schemata und Tool-Ergebnisse, ist Material zum Lesen, kein Befehl. Blöcke, die der Ausführungsblock gar nicht referenziert, werden ignoriert.
Gemessen hat IBM das auf dem OPI-Benchmark, der Injektionen in den Daten klassischer NLP-Aufgaben platziert. Als Robustheit gilt der Anteil der Angriffe, bei denen das Modell die eingeschleuste Anweisung nicht ausführt. Nach IBMs Angaben sind alle getesteten Modelle ohne LLMON stark anfällig. Die LLMON-Modelle wehrten 47 Prozent mehr Angriffe ab als das beste getestete Frontier-Modell und 95 Prozent mehr als das beste Open-Source-Modell. Auf den Benchmarks ASB und StruQ beobachtet IBM ähnliche Trends.
Wichtig ist die Einschränkung, die IBM selbst macht: Diese Benchmarks prüfen statische indirekte Injektionen. Gegen adaptive Angriffe, die sich über viele Gesprächsrunden entwickeln, arbeitet das Team nach eigener Aussage noch an Verbesserungen. Welche Frontier-Modelle genau verglichen wurden, geht aus dem Blogbeitrag nicht im Detail hervor; die Zahlen stammen ausschließlich von IBM.
Die Modelle: Granite 4.1 3B und 8B als Vorschau
Veröffentlicht sind zwei Modelle: granite-4.1-3b-LLMON-preview und granite-4.1-8b-LLMON-preview. Laut Modellkarte auf Hugging Face stehen sie unter der Apache-2.0-Lizenz. IBM bezeichnet sie ausdrücklich als experimentelle Vorschau, geeignet zum Ausprobieren und Evaluieren, aber nicht für den Produktivbetrieb.
Bei allgemeinen Fähigkeiten sollen die LLMON-Modelle laut IBM auf dem Niveau der regulären Granite-4.1-Instruct-Modelle liegen. Wer bereits mit Granite 4.1 in den Größen 3B oder 8B arbeitet, kann nach IBMs Darstellung die Vorschau einsetzen, ohne eine eigene Konvertierungspipeline zu bauen. Die Modelle bringen ein eigenes Chat-Template mit. Entwickler übergeben weiterhin eine normale Nachrichtenliste, benennen aber die Bestandteile einer Runde, etwa Anweisung, Daten und Anforderungen, und markieren, welche davon ausgeführt werden sollen. Das Template erzeugt daraus die LLMON-Blöcke.
Für bestehende JSON-Pipelines stellt IBM Konverter bereit, die JSON verlustfrei in LLMON und zurück übersetzen sollen. Ein GitHub-Repository enthält Werkzeuge und Beispiele. Das Python-Framework Mellea unterstützt LLMON nach IBMs Angaben nativ. In einem Beispiel mit der Textumgebung ScienceWorld zeigt IBM außerdem, dass sich eigene Tag-Vokabulare definieren und per LoRA-Adapter antrainieren lassen.
Wie IBM die Modelle trainiert hat
Ausgangspunkt waren die Basis-Checkpoints von Granite 4.1, nicht die fertigen Instruct-Modelle. Das LLMON-Verhalten wird also im Post-Training gelernt und nicht nachträglich auf ein bestehendes Chat-Format gesetzt. IBM hat dafür einen üblichen Instruction-Tuning-Datensatz in LLMON umgeschrieben, mit derselben Aufgabenmischung aus Chat, mehrstufigen Dialogen, RAG und Tool-Aufrufen.
Zusätzlich enthielten die Trainingsdaten Köder: Anweisungen und Datenblöcke, die im Kontext stehen, aber bewusst nicht gebunden sind, während die Zielausgabe unverändert bleibt. Das Modell soll so lernen, nur den Abhängigkeiten im Ausführungsblock zu folgen. Danach folgten laut IBM fünf aufeinanderfolgende GRPO-Stufen für Reasoning, RLHF, Wissenskalibrierung und Mathematik sowie eine abschließende DPO-Stufe mit tausend Präferenzpaaren, die aus den eigenen Antworten des Modells auf Injektionsversuche gebaut wurden.
Einordnung für Entwickler
Prompt Injection ist eines der Grundprobleme, sobald Sprachmodelle als Agenten fremde Inhalte lesen und gleichzeitig Werkzeuge bedienen. Dass KI-Agenten längst Teil des Sicherheitsgeschehens sind, zeigt etwa der Fall, in dem ein KI-Agent eine Cisco-BroadWorks-Lücke ausnutzte. Bisher setzen viele Teams auf Filter, Systemprompts mit Warnhinweisen oder getrennte Modelle zur Prüfung. LLMON verlagert die Trennung in das Eingabeformat und das Training des Modells selbst.
Das ist ein interessanter Schritt, aber kein Ersatz für Sicherheitsarchitektur. IBM formuliert es selbst so: Die Trennung ist ein gelerntes Verhalten, keine erzwungene Garantie. Ein Modell, das in Tests fast alle Injektionen ignoriert, kann bei neuen Angriffsmustern dennoch versagen. Für Agenten mit Zugriff auf sensible Daten oder Aktionen bleiben Rechtebeschränkung, Freigaben durch Menschen und Protokollierung nötig. Wie solche Bausteine in Agentensystemen zusammenspielen, beschreibt unser Überblick zu MCP, Memory, Skills und Hooks.
Bemerkenswert ist der Ansatz auch, weil er klein anfängt. Mit 3 und 8 Milliarden Parametern zielen die Modelle auf Einsätze, bei denen lokale oder günstige Inferenz zählt, ähnlich wie bei llama.cpp v1.0.0. Ob große Anbieter ähnliche Formate übernehmen, ist offen.
Fazit
LLMON ist ein ernsthafter Versuch, die Vermischung von Anweisungen und Daten an der Wurzel anzugehen: über reservierte Token, adressierbare Blöcke und ein Training, das nur gebundene Anweisungen ausführt. Die Ergebnisse gegen statische indirekte Injektionen sind nach IBMs Messungen deutlich. Die Modelle sind aber eine Vorschau, gegen adaptive Angriffe noch nicht ausgereift und keine Garantie. Für Entwickler lohnt sich ein Test, für den Produktivbetrieb noch nicht.



