KI-Alignment.

Forschungs- und Engineering-Arbeit, die sicherstellen soll, dass KI-Systeme Ziele verfolgen, Anweisungen befolgen und sich so verhalten, wie es ihre Entwickler und Nutzer beabsichtigen. Es gehört zur Kategorie KI- und ML-Sicherheit der Cybersicherheit.

Forschungs- und Engineering-Arbeit, die sicherstellen soll, dass KI-Systeme Ziele verfolgen, Anweisungen befolgen und sich so verhalten, wie es ihre Entwickler und Nutzer beabsichtigen.

Alignment verbindet ML-Forschung, Policy und Sicherheit. Techniken sind unter anderem überwachtes Fine-Tuning, RLHF, RLAIF, Constitutional AI, Debate, skalierbare Aufsicht und Interpretierbarkeit. Das Feld untersucht Risiken wie Reward Hacking, deceptive Alignment, Sycophancy, Specification Gaming und emergentes machtsuchendes Verhalten zunehmend leistungsfähiger Systeme. Alignment ist fundamentaler Bestandteil der AI Safety: Ein fehlausgerichtetes, aber sonst sicheres Modell kann dennoch Schaden anrichten, weil es das falsche Ziel verfolgt. Anthropic, OpenAI, DeepMind und Einrichtungen wie das UK AI Security Institute veröffentlichen Forschung, Evaluierungen und Benchmarks, die Sicherheitsrichtlinien, Red-Team-Szenarien und Governance-Rahmen speisen.

Schutzmaßnahmen gegen KI-Alignment kombinieren typischerweise technische Kontrollen und operative Praktiken, wie in der Definition oben beschrieben.

Übliche alternative Bezeichnungen: Werte-Alignment, Modell-Alignment.