Alignment bezeichnet in der KI-Forschung den Prozess und das Ziel, ein KI-Modell so zu trainieren, dass sein Verhalten mit menschlichen Werten, Absichten und Sicherheitsanforderungen übereinstimmt.
Ein leistungsfähiges Modell allein garantiert noch nicht, dass es sich hilfreich, ehrlich und harmlos verhält – Alignment-Methoden wie Reinforcement Learning from Human Feedback (RLHF) trainieren das Modell gezielt darauf, Antworten zu bevorzugen, die menschliche Bewerter als gut, sicher und angemessen einstufen.
Zu den zentralen Alignment-Zielen zählen die Vermeidung schädlicher oder gefährlicher Inhalte, die Reduzierung von Vorurteilen (Bias) in Trainingsdaten und Modellantworten sowie die Förderung von Ehrlichkeit, etwa indem ein Modell lieber zugibt, etwas nicht zu wissen, statt zu halluzinieren.
Alignment ist ein aktives und keineswegs abgeschlossenes Forschungsfeld, gerade weil mit zunehmender Autonomie von KI-Agenten die potenziellen Folgen von Fehlausrichtungen zwischen Modellverhalten und menschlichen Absichten weiter zunehmen.
