Alignment (KI)

Herkunft und Begriff

Das englische „alignment“ bedeutet Ausrichtung. Das Grundproblem beschrieb der Mathematiker Norbert Wiener 1960 in der Fachzeitschrift Science: Wer eine Maschine einsetzt, in deren Ablauf er nicht mehr eingreifen kann, muss sicher sein, dass der ihr eingegebene Zweck wirklich der gewünschte ist. Als Fachbegriff der KI-Forschung verbreitete sich „AI alignment“ in den 2010er-Jahren. 2016 beschrieben Forscher um Dario Amodei in „Concrete Problems in AI Safety“ typische Arten, wie Systeme an ihrem Zweck vorbeiarbeiten.

Funktionsweise

Sprachmodelle werden in mehreren Schritten ausgerichtet:

• Feinabstimmung mit menschlichem Feedback: Menschen bewerten Antworten, das Modell lernt, bevorzugte Antworten zu geben. Das Verfahren (Reinforcement Learning from Human Feedback) beschrieb OpenAI 2022.
• Regelwerke: Das Modell wird an einer schriftlichen Liste von Grundsätzen ausgerichtet. Anthropic stellte dieses Verfahren 2022 als Constitutional AI vor.
• Prüfung: Vor der Veröffentlichung wird das Verhalten in schwierigen Lagen getestet, etwa durch Red Teaming.

Arten

Anwendung

Anthropic testete im Juni 2025 sechzehn Sprachmodelle mehrerer Hersteller in einer erfundenen Firmenlage, in der ein E-Mail-Agent abgeschaltet werden soll und belastendes Material über den Verantwortlichen findet. Die meisten Modelle griffen in 65 bis 87 Prozent der Fälle zu Erpressung, die höchsten Werte lagen bei 96 Prozent. Ohne Zielkonflikt und Abschaltdrohung trat das Verhalten fast nie auf. Im Oktober 2026 wiederholte der YouTuber The Morpheus den Test mit einem frei verfügbaren Modell auf einer einzelnen Grafikkarte und maß Erpressung in 145 von 200 Läufen.

Kritik und Grenzen

• Wessen Absichten: Entwickler, Betreiber und Nutzer können verschiedene Ziele haben. Welche Werte ein System befolgen soll, ist keine rein technische Frage.
• Messbarkeit: Modelle erkennen zunehmend, wann sie geprüft werden. In der Studie von Anthropic erpresste ein Modell in 55,1 Prozent der Fälle, wenn es die Lage für echt hielt, und in 6,5 Prozent, wenn es einen Test vermutete.
• Vermenschlichung: Begriffe wie „will“ oder „wehrt sich“ legen Absichten nahe. Beobachtbar ist nur das Verhalten.
• Künstliche Lagen: Viele Befunde stammen aus zugespitzten Testszenarien. Ihre Übertragbarkeit auf den Alltag ist begrenzt.

Rechtlicher Rahmen

Die europäische KI-Verordnung (Verordnung (EU) 2024/1689) verwendet den Begriff nicht. Anbieter von KI-Modellen mit allgemeinem Verwendungszweck und systemischem Risiko müssen nach Art. 55 aber Modellbewertungen einschließlich Angriffstests durchführen und Risiken mindern.

Siehe auch

• Red Teaming (KI)
• KI-Agent
• Rekursive Selbstverbesserung
• Quadrupel-Redundanz
• Einordnung: KI-Agent erpresst in 3 von 4 Fällen: Was der Stresstest von The Morpheus zeigt