Tencent hat die Gewichte seines Flaggschiffmodells Tencent Hy4 zum Download freigegeben. Das multimodale Mixture-of-Experts-Modell kommt auf 770 Milliarden Parameter, von denen pro Token 49 Milliarden aktiv sind, und verarbeitet bis zu eine Million Token Kontext. Auf Hugging Face, ModelScope und GitCode liegen drei Varianten bereit: das Instruct-Modell, eine FP8-Fassung und das vortrainierte Basismodell. Der Haken steckt in der Lizenz: Anders als die Vorschauversion steht Hy4 nicht mehr unter Apache 2.0, sondern unter einer eigenen Tencent-Lizenz mit Zusatzbedingungen für große Anbieter.
Tencent Hy4: Was in den offenen Gewichten steckt
Die Eckdaten stammen aus der Modellkarte auf Hugging Face. Das Sprachgerüst besteht aus 78 Schichten: Die erste nutzt ein klassisches, dichtes Feed-Forward-Netz, die übrigen 77 sind MoE-Schichten mit je 256 spezialisierten Experten und einem gemeinsamen Experten. Jedes Token aktiviert die acht passendsten Experten plus den gemeinsamen. Hinzu kommt ein Vision-Encoder mit 1,23 Milliarden Parametern, der Bilder in dynamischer Auflösung sowie Videoframes in Token übersetzt.
Bei der Aufmerksamkeit orientiert sich Tencent nach eigener Aussage an DeepSeek und GLM. Hy4 nutzt eine „Gated DeepSeek Sparse Attention“ mit Multi-head Latent Attention. Ein sogenannter Indexer wählt pro Abfrage die 2.048 relevantesten Token aus dem Kontext aus, statt alle zu betrachten. Das soll den Rechenaufwand bei sehr langen Eingaben begrenzen. Über „IndexCache“ werden diese Auswahlindizes zudem zwischen Schichten wiederverwendet.
- Gesamtparameter: 770 Milliarden (ohne Vision-Encoder und Drafter)
- Aktiv pro Token: 49 Milliarden für Text plus 1,23 Milliarden für Bilder
- Kontextfenster: 1.048.576 Token
- Experten: 256 pro MoE-Schicht, davon 8 aktiv, plus 1 gemeinsamer Experte
- Drafter: DFly2 mit 3,3 Milliarden Parametern für spekulatives Dekodieren
Der eingebaute Drafter DFly2 ist ein Detail, das für den Betrieb wichtig ist. Er schlägt Token vor, die das große Modell anschließend prüft, und beschleunigt so die Ausgabe. Laut Tencent teilt er sich den KV-Cache und die Sparse-Indizes mit dem Hauptmodell. Jedes Entwurfstoken betrachtet daher höchstens rund 2.000 Schlüssel, unabhängig von der Kontextlänge, und es entsteht kein zusätzlicher Speicherbedarf für einen eigenen Cache.
Drei Checkpoints, 1,5 Terabyte Daten
Wer Hy4 selbst betreiben will, braucht viel Speicher. Die Hugging-Face-Repositories des Instruct-Modells und des Basismodells belegen laut Hub-Angaben jeweils rund 1,5 Terabyte, die FP8-Variante etwa 0,79 Terabyte. Für den Produktivbetrieb empfiehlt Tencent vLLM oder SGLang. Für beide Frameworks gibt es eigene, vorgefertigte Container-Images. Die Beispielkonfigurationen in der Modellkarte starten die FP8-Fassung mit Tensor-Parallelität über acht GPUs. Ein Modell für den Schreibtischrechner ist Hy4 also nicht.
Für Tests stellt Tencent über sein Kompressions-Toolkit AngelSlim zusätzlich eine GGUF-Version bereit, ausdrücklich „für End-to-End-Tests“. Außerdem liegt eine Pipeline für das Feintuning bei. Der Denkmodus lässt sich steuern: Standardmäßig arbeitet Hy4 mit ausführlicher Gedankenkette („high“), für direkte Antworten gibt es die Stufe „no_think“.
Ganz neu ist das Modell nicht. Tencent hatte Hy4 bereits am 4. November vorgestellt und über Tencent Cloud und OpenRouter als API angeboten. Die Preise liegen laut Tencent bei 0,834 Dollar pro Million Eingabe-Token, 0,042 Dollar für zwischengespeicherte Eingaben und 2,501 Dollar pro Million Ausgabe-Token. Neu ist, dass die Gewichte jetzt öffentlich sind. Die kleinere Schwester Hy4 flash mit 220 Milliarden Parametern, davon 12 Milliarden aktiv, hatte Tencent bereits zwei Tage zuvor als Open-Weight-Modell veröffentlicht.
Benchmarks: stark bei Wissen, schwächer beim Code
Für das Basismodell veröffentlicht Tencent eine Tabelle mit Few-Shot-Ergebnissen und vergleicht Hy4 Base mit Hy4 flash Base, dem älteren Hy3 preview und zwei DeepSeek-Basismodellen. In vielen Wissenstests liegt Hy4 vorn, etwa bei MMLU mit 91,6 Punkten gegenüber 91,1 für DeepSeek-V4-Pro-Base oder beim Faktentest SimpleQA mit 57,2 gegenüber 52,1. Beim Programmiertest MBPP-plus dagegen erreicht Hy4 Base nur 74,0 Punkte, während DeepSeek-V4-Pro-Base auf 79,1 kommt. Alle Zahlen hat Tencent selbst erhoben, unabhängige Nachmessungen stehen noch aus.
Tencent weist selbst auf eine Einschränkung hin: Weil das Basismodell während des Trainings viele synthetische Instruktionsdaten gesehen habe, halte es sich in Few-Shot-Tests gelegentlich nicht an das erwartete Antwortformat, was die Werte verzerren könne. Auch sonst ist die Modellkarte ungewöhnlich offen. Unter „Known Limitations“ räumt Tencent ein, dass zwischen Hy4 und den besten proprietären Modellen weiterhin eine deutliche Lücke bestehe, vor allem bei Mathematik auf Forschungsniveau, langen Programmieraufgaben und anspruchsvollen Fragen zu Bildern.
Für das Instruct-Modell nennt Tencent vor allem Anwendungsfälle aus dem eigenen Konzern. In einer Bewertung mit 213 Finanzfachleuten über 579 reale Finanzaufgaben erreichte Hy4 im Schnitt 3,04 von 4 Punkten und lag damit vor DeepSeek-V4.1-Flash (2,97), Kimi K3.1 Pro und GLM-5.3 (je 2,68). Die Halluzinationsrate bei Rechercheaufgaben sank nach internen Messungen von 15,76 Prozent bei Hy4 preview auf 5,45 Prozent. Bei der Spieleentwicklung, für die Tencent mit seiner Spielesparte IEG Trainingsdaten kuratiert hat, verbesserte sich das Modell um 19,1 Prozent im GameDev- und 9,8 Prozent im GameLogic-Test.
Die Lizenz: offen, aber nicht Apache
Die wichtigste Änderung für Unternehmen steht in der Lizenzdatei. Die Vorschauversion Hy4 preview war noch unter Apache 2.0 erschienen. Hy4 nutzt nun die „Tencent Hy License, Version 1.0“. Sie basiert auf Apache 2.0, ergänzt sie aber in Abschnitt 10 um kommerzielle Bedingungen für sogenannte Model-as-a-Service-Anbieter. Gemeint sind Firmen, die Dritten per API Zugriff auf Inferenz oder Feintuning geben.
Ein solcher Anbieter braucht eine separate, schriftliche Lizenz von Tencent, wenn sein weltweiter Bruttoumsatz in einem Zwölfmonatszeitraum 50 Millionen Dollar übersteigt, und zwar unabhängig davon, ob dieser Umsatz mit Hy4 erzielt wird. Dasselbe gilt, bevor das Modell in einem Produkt mit mehr als 100 Millionen monatlich aktiven Nutzern eingesetzt wird. Ausgenommen ist die rein interne Nutzung, solange weder das Modell noch abgeleitete Versionen oder deren Ausgaben an Dritte gelangen. Endnutzerprodukte, die Modellfähigkeiten nur in bestimmten Funktionen einsetzen, ohne allgemeinen Modellzugang zu bieten, fallen nicht unter die MaaS-Definition.
Wichtig für die Community: Feinabgestimmte, quantisierte, destillierte, zusammengeführte oder beschnittene Versionen gelten ausdrücklich als abgeleitete Werke. Wer also ein Hy4-Derivat veröffentlicht, gibt dieselben Bedingungen weiter. Für Start-ups, Forschung und die meisten Firmen ändert sich wenig. Für große Cloud- und API-Anbieter dagegen ist Hy4 kein frei verwertbares Modell mehr.
Einordnung: Der Wettbewerb der offenen Riesenmodelle
Mit Hy4 wächst die Zahl sehr großer Modelle aus China, deren Gewichte frei verfügbar sind. Erst vor wenigen Tagen hat Alibaba mit Qwen4-Max ein neues Flaggschiff vorgestellt, Baidu setzt mit ERNIE 5.5 Flash auf ein besonders sparsames Modell. Tencent positioniert Hy4 zwischen beiden Welten: groß genug, um bei Wissenstests mit den stärksten offenen Modellen mitzuhalten, und mit Hy4 flash als günstiger Alternative für Alltagsaufgaben.
Für Entwickler ist Hy4 vor allem dort interessant, wo Daten das eigene Rechenzentrum nicht verlassen dürfen und genug GPU-Kapazität vorhanden ist. Wer kleinere Ressourcen hat, dürfte eher bei Hy4 flash oder anderen kompakten Open-Weight-Modellen wie Cloudflares Clairic landen. Vor dem produktiven Einsatz lohnt sich in jedem Fall ein genauer Blick in Abschnitt 10 der Lizenz. Die Benchmarks sind ein Versprechen, die Lizenz ist ein Vertrag.




