Robust Machine Learning

Worum geht's

Du lernst Grundlagen und aktuelle Methoden der robusten Machine Learning (ML). Das Modul behandelt Angriffsarten und Threat-Modelle, praktische Angriffsmethoden sowie empirische und zertifizierbare Verteidigungen. Am Ende kannst du Methoden zur Absicherung von ML-Systemen einschätzen und passende Algorithmen für konkrete Probleme auswählen.

Was du danach kannst

• Verständnis von Adversarial-Basics, Attack-Typen und Threat-Models
• Kenntnis von Angriffsmethoden (Gradient-based, score-based, black-box)
• Vertrautheit mit empirischen Abwehrmethoden, z.B. adversarial training
• Verständnis robuster Verfahren für diskrete Domänen (Graphs, LLMs)
• Kenntnis zertifizierbarer Verteidigungen (z.B. randomized smoothing, IBP)
• Fähigkeit, algorithmische Vor- und Nachteile zu bewerten und Methoden auszuwählen

Aus was das Modul besteht

• VorlesungVorstellung und Diskussion der theoretischen Konzepte
• ÜbungenAnwendung der Konzepte zur Übung und zur Veranschaulichung von Eigenschaften
• Assignments / ProgrammierprojekteEigenständige Vertiefung und praktische Umsetzung der Themen

Lehrmethode

• Vorlesung mit Präsentationsfolienzur Vermittlung und Diskussion theoretischer Konzepte
• Übungenzum Einüben der Konzepte und zum Aufzeigen von Eigenschaften
• Assignments (inkl. Programmierprojekte)für individuelles Selbststudium und praktische Anwendung