Making Language Models Aligned with Human Intentions and Values

Worum geht's

Du lernst Grundlagen und aktuelle Konzepte der AI-Alignment-Forschung für große Sprachmodelle kennen. Du setzt dich mit Modellstrukturen, bestehenden Methoden, Metriken und gesellschaftlichen Herausforderungen auseinander und erwirbst praktische Erfahrungen in Projektgestaltung und Python-Implementierung, um Strategien zur Ausrichtung von Sprachmodellen an menschlichen Intentionen und Werten zu entwerfen und umzusetzen.

Was du danach kannst

• Verständnis der Entwicklungsprozesse und Strukturen klassischer und moderner Sprachmodelle
• Kenntnis zentraler Theorien und relevanter Arbeiten zum AI-Alignment großer Sprachmodelle
• Fähigkeit, Strategien zur Einschränkung oder Evaluierung von Sprachmodellen unter Berücksichtigung menschlicher Intentionen und Werte zu entwerfen und umzusetzen

Aus was das Modul besteht

• SeminarEinführende Sitzung, Teilnehmerpräsentationen zu speziellen Alignment-Themen und anschließende Diskussionen
• ProjektarbeitGruppenarbeit zur Entwicklung und Implementierung eines Projekts zur Minderung von Fehlanpassungen von Sprachmodellen

Lehrmethode

• Teilnehmerpräsentationen mit DiskussionVertiefung einzelner Alignment-Themen und Förderung kritischer Diskussion
• Gruppenprojekte mit Python-ImplementierungPraktische Anwendung, Projektgestaltung und Umsetzung von Alignment-Strategien