Aligning Generative AI to Social Values (6 ECTS)

Worum geht's

Du setzt dich mit Generative AI und deren Schnittstelle zu gesellschaftlichen Werten auseinander. Am Ende kannst du ethische Herausforderungen erkennen, Bias in generativen Modellen identifizieren und praktische Schritte zur Ausrichtung von Sprachmodellen an sozialen Wertvorstellungen umsetzen.

Was du danach kannst

Verständnis ethischer Prinzipien und Frameworks für AI-Alignment
Kritische Bewertung gesellschaftlicher Auswirkungen generativer KI
Erkennen und Mildern von Bias in generativen Modellen
Praktische Erfahrung beim Entwerfen ethisch ausgerichteter Modelle
Reflexion über Balance von Innovation und ethischer Verantwortung
Interdisziplinäre Teamarbeit zur Bearbeitung von Alignment-Projekten

Aus was das Modul besteht

VorlesungEinführung in zentrale Konzepte von Generative AI und sozialen Werten; kurze Übungen zur Verständnissicherung
SeminarAnwendung der Konzepte in Gruppenprojekten; Erarbeitung und Präsentation eines Forschungsprojekts zur Ausrichtung von generativen Modellen

Lehrmethode

Vorlesung mit Slides und PräsentationenVermittlung der theoretischen Grundlagen und Schlüsselkonzepte
Kurze Übungsfragen und Aufgaben in der VorlesungÜberprüfung und Festigung des Verständnisses
SeminargruppenarbeitPraktische Anwendung, Teamarbeit und Ausarbeitung eines verantwortungsvollen ML-Projekts
Abschlusspräsentation und schriftlicher BerichtKommunikation der Ergebnisse an ein Fachpublikum und Dokumentation der Arbeit

Solltest du schon können

Grundkenntnisse in Machine Learningempfohlen
Programmierkenntnisseempfohlen
Interesse an Ethik, Sozialwissenschaften und Technologiepolitikempfohlen

Prüfung

Projektarbeitschriftliche AusarbeitungPräsentation

Die Modulprüfung besteht aus einer Gruppenprojektarbeit mit schriftlichem Bericht (10–15 Seiten) und einer abschließenden Präsentation (ca. 5 Minuten). Der schriftliche Bericht bildet 90 % der Note, die Präsentation 10 %. Hilfsmittel und Dauer werden kursintern bekanntgegeben.

Literatur

Gabriel, Iason - Artificial intelligence, values, and alignment
Ryan, Michael J.; Held, William; Yang, Diyi - Unintended Impacts of LLM Alignment on Global Representation
Casper, Stephen et al. - Open problems and fundamental limitations of reinforcement learning from human feedback
Shi, Weiyan et al. - CultureBank: An Online Community-Driven Knowledge Base Towards Culturally Aware Language Technologies

Termine

Seminar(SOT86074) Aligning Generative AI to Social Values (part of 6 ECTS module)4 Gruppen zur Wahl

AFr.09:00–18:00H.004, CIP-Raum (2910.EG.004)einmalig am 22.01.
BFr.13:00–14:30
Online: Videokonferenz
2× · 11.12.–18.12.
- 11.12.
- 18.12.
CSa.09:00–18:00H.004, CIP-Raum (2910.EG.004)einmalig am 23.01.
DSo.09:00–18:00H.004, CIP-Raum (2910.EG.004)einmalig am 24.01.

Vorlesung(SOT86097, SOT86074) Aligning Generative AI to Social Values4 Gruppen zur Wahl

AFr.09:00–18:00H.004, CIP-Raum (2910.EG.004)einmalig am 20.11.
BMo.13:00–14:30Online: Videokonferenzeinmalig am 12.10.
CSa.09:00–18:00H.004, CIP-Raum (2910.EG.004)einmalig am 21.11.
DSo.09:00–18:00H.004, CIP-Raum (2910.EG.004)einmalig am 22.11.

Aus dem laufenden Semester, unverbindlich. Von mehreren Gruppen besucht man eine; der Stundenplan schlägt automatisch die mit den wenigsten Überschneidungen vor.

Filter