Temperature ist ein Steuerparameter für Sprachmodelle, der bestimmt, wie zufällig oder deterministisch ein Modell bei der Wortauswahl vorgeht.
Bei jedem generierten Token berechnet ein Sprachmodell eine Wahrscheinlichkeitsverteilung über alle möglichen nächsten Wörter. Eine niedrige Temperature (nahe 0) lässt das Modell fast immer das wahrscheinlichste Wort wählen, was zu konsistenten, vorhersehbaren, aber manchmal repetitiven Antworten führt.
Eine höhere Temperature (etwa 0,7 bis 1,0 oder darüber) erlaubt es dem Modell häufiger, auch weniger wahrscheinliche Wörter zu wählen, was kreativere, abwechslungsreichere, aber auch fehleranfälligere Antworten erzeugt.
Für Aufgaben wie Programmcode, Faktenbeantwortung oder Datenverarbeitung wird meist eine niedrige Temperature empfohlen, während kreatives Schreiben oder Brainstorming von einer höheren Temperature profitiert.
