Embedded System Design for Machine Learning

Worum geht's

Du lernst, wie du Machine-Learning-Modelle auf eingebettete Geräte bringst: vom Design-Flow über Modellkompression und Softwareoptimierung bis hin zu einfachen Hardwarebeschleunigern. Am Ende kannst du Modelle für Mikrocontroller deployen, Kompressions- und Beschleunigungsmaßnahmen bewerten und eine einfache Hardwarebeschleuniger-Designsimulation durchführen.

Was du danach kannst

Design-Flow für Deployment von ML auf Embedded-Geräten verstehen
Trade-offs von Software- vs. Hardware-Ausführung beurteilen
Modellkompressionsmethoden anwenden
Prinzipien der Hardwarebeschleunigung (SIMD, Vector, 2D-Systolic) anwenden
einen modernen Deployment-Flow (z. B. TVM) für eine ML-Anwendung nutzen
Deployment-Code auf einem Mikrocontroller implementieren und einfachen HW-Beschleuniger entwerfen

Aus was das Modul besteht

VorlesungVermittlung der theoretischen Inhalte, Übungen integriert, Aktivierung durch Gruppenarbeiten
Labor/PraktikumDrei betreute Laborteile zur praktischen Anwendung: TVM-Toolchain, Deployment einer Keyword-Erkennung auf Mikrocontroller, Entwurf eines einfachen HW-Accelerators und Simulation

Lehrmethode

Präsentation mit Foliengrundlegende Inhalte strukturiert vermitteln
Integrierte Übungen und Gruppenarbeitendirektes Anwenden der Inhalte an Beispielaufgaben und Förderung von Teamarbeit
Tutoriell betreute LabortasksPraktische Umsetzung des Vorlesungsstoffs in kleinen Gruppen und problemorientiertes Lernen

Solltest du schon können

Grundkenntnisse in Embedded C und Mikrocontrollern
Grundkenntnisse in Hardware-Design (VHDL/Verilog)
Grundkenntnisse in Machine-Learning-Algorithmenempfohlen

Prüfung

Code-AbgabeKlausurmündliche Alternative

Die Bewertung setzt sich aus der Abgabe von Programmcode für die drei Laborteile (Coursework, 20% der Gesamtnote) und einer Abschlussklausur zusammen (90 Minuten schriftlich oder alternativ 30 Minuten mündlich, 80% der Gesamtnote). In der Klausur werden Fragen zu Vorlesungs- und Laborinhalten gestellt. Die Code-Abgaben prüfen die praktischen Deploy-Fähigkeiten; die Klausur prüft theoretisches und praktisches Verständnis.

Literatur

Vivienne Sze, Yu-Hsin Chen, Tien-Ju Yang, Joel S. Emer - Efficient Processing of Deep Neural Networks
David Patterson, John Hennessy - Computer Organization and Design RISC-V Edition - The Hardware Software Interface

Termine

Vorlesung mit ÜbungEmbedded System Design for Machine Learning2 Gruppen zur Wahl

AFr.14:00–16:30
N 1095 ZG, Hörsaal mit exp. Bühne (0101.Z1.095)
14× · 23.10.–05.02.
- 23.10.
- 30.10.
- 06.11.
- 13.11.
- 20.11.
- 27.11.
- 04.12.
- 11.12.
- 18.12.
- 08.01.
- 15.01.
- 22.01.
- 29.01.
- 05.02.
BFr.16:45–17:30
N 1095 ZG, Hörsaal mit exp. Bühne (0101.Z1.095)
4× · 23.10.–18.12.
- 23.10.
- 30.10.
- 27.11.
- 18.12.

Aus dem laufenden Semester, unverbindlich. Von mehreren Gruppen besucht man eine; der Stundenplan schlägt automatisch die mit den wenigsten Überschneidungen vor.

Filter