Aligning Generative AI to Social Values (3 ECTS)

Worum geht's

Du setzt dich mit generativen KI-Systemen und deren Beziehung zu gesellschaftlichen Werten auseinander. Du lernst, ethische Prinzipien und Frameworks anzuwenden, Bias zu erkennen und zu mindern sowie Methoden wie Auditing und Red Teaming anzuwenden, um KI-Systeme verantwortungsvoll zu gestalten.

Was du danach kannst

Prinzipien und Frameworks zur Ausrichtung generativer KI an gesellschaftlichen Werten verstehen
Auswirkungen generativer KI auf Fairness, Rechenschaft, Transparenz und Inklusion kritisch bewerten
Bias in generativen Modellen identifizieren und Gegenmaßnahmen anwenden
Herausforderungen beim Ausbalancieren von Innovation und ethischer Verantwortung einschätzen

Aus was das Modul besteht

VorlesungEinführung in Konzepte, Präsentationen und kurze Übungen zur Vermittlung und Überprüfung des Verständnisses

Lehrmethode

Vorlesung mit Folien und PräsentationenVermittlung zentraler Konzepte und Theorie
Kurzübungen und Fragen während der VorlesungSicherstellung des Verständnisses durch aktive Beteiligung

Solltest du schon können

Grundkenntnisse in Machine Learningempfohlen
Programmierkenntnisseempfohlen
Interesse an Ethik, Sozialwissenschaften und Technologiepolitikempfohlen

Prüfung

KlausurMultiple Choice

Schriftliche Prüfung in Form eines Multiple-Choice-Tests, Dauer 60 Minuten. Die Prüfung überprüft Dein Verständnis der Prinzipien, Frameworks und der gesellschaftlichen Auswirkungen generativer KI.

Literatur

Gabriel, Iason - Artificial intelligence, values, and alignment
Ryan, Michael J.; Held, William; Yang, Diyi - Unintended Impacts of LLM Alignment on Global Representation
Casper, Stephen; Davies, Xander; Shi, Claudia; Gilbert, Thomas Krendl; Scheurer, Jérémy; Rando, Javier; Freedman, Rachel et al. - Open problems and fundamental limitations of reinforcement learning from human feedback
Shi, Weiyan; Li, Ryan; Zhang, Yutong; Ziems, Caleb; Horesh, Raya; Abreu de Paula, Rogério; Yang, Diyi - CultureBank: An Online Community-Driven Knowledge Base Towards Culturally Aware Language Technologies

Termine

Vorlesung(SOT86097, SOT86074) Aligning Generative AI to Social Values4 Gruppen zur Wahl

AFr.09:00–18:00H.004, CIP-Raum (2910.EG.004)einmalig am 20.11.
BMo.13:00–14:30Online: Videokonferenzeinmalig am 12.10.
CSa.09:00–18:00H.004, CIP-Raum (2910.EG.004)einmalig am 21.11.
DSo.09:00–18:00H.004, CIP-Raum (2910.EG.004)einmalig am 22.11.

Aus dem laufenden Semester, unverbindlich. Von mehreren Gruppen besucht man eine; der Stundenplan schlägt automatisch die mit den wenigsten Überschneidungen vor.

Filter