Fundamentals of Foundation Models

Worum geht's

Du lernst, was Foundation Models sind (z. B. LLMs, CLIP, Bildgenerierung) und wie sie aufgebaut, trainiert und feinabgestimmt werden. Am Ende verstehst du Architektur, Skalierung, Datenanforderungen und verteiltes Training sowie Strategien zum Fine-Tuning und zur Alignment/Anpassung von Modellen.

Was du danach kannst

• Fundamente von Foundation Models (LLMs, CLIP, Bildgeneratoren) verstehen
• bestehende Foundation Models anpassen und erweitern können
• Optimierungsverfahren für das Training solcher Modelle anwenden und anpassen
• Feinabstimmung (Fine-Tuning) und Nutzung vorhandener Modelle beherrschen
• Datenanforderungen und Abhängigkeiten von Foundation Models einschätzen

Aus was das Modul besteht

• VorlesungEinführung und technische Vermittlung zu Architektur, Datenanforderungen, Skalierung und verteiltem Training
• Übungen / Coding-Aufgabenwöchentliche oder zweiwöchentliche Aufgaben zu Theorie und Implementierung; Lösungen werden nachfolgend bereitgestellt
• Diskussions-/ÜbungssitzungenKlärung konkreter Fragen zu Aufgaben und Vertiefung einzelner Vorlesungsthemen

Lehrmethode

• Vorlesung mit Folien und TafelVermittlung der technischen Grundlagen und Konzepte
• Praxisorientierte Coding-BeispieleAnwendung und Implementierung der behandelten Methoden
• Regelmäßige Übungsaufgaben mit LösungenFestigung der Inhalte durch Theorie- und Programmieraufgaben
• Diskussions-/ÜbungssitzungenBeantwortung konkreter Fragen und Vertiefung schwieriger Themen