INF2552 Advanced Topics in Deep Learning

Modulverantwortliche
  • Prof. Dr. Andreas Peter Dominik
Lehrende
  • Prof. Dr. Franz Cemic
  • Prof. Dr. Andreas Peter Dominik
  • Prof. Dr. Cornelia Sigges
Notwendige Voraussetzungen zur Teilnahme

Für Bachelor Applied Data Science

DS1006 Data Science Projekt

Für Bachelor Informatik:

Keine

Empfohlene Voraussetzungen zur Teilnahme

II2520 Einführung in Deep Learning oder gleichwertige Kenntnisse

Kurzbeschreibung

Der Kurs bietet eine Einführung in fortgeschrittene Deep-Learning-Techniken, wie beispielsweise Transfer Learning, semi-supervised Learning oder Reinforcement Learning sowie in aktuelle Entwicklungen.

Inhalte
  • Erweiterte Architekturen und Techniken:
    • Erweiterungen von CNNs (Attention, ResNet, WaveNet, und weitere)
    • Transformer
    • Large Language Models (LLMs)
  • Transfer Learning:
    • Pre-trained Models
    • Fine-Tuning von LLMs
  • Generative Modelle:
    • Variational Autoencoders
    • GANs, VAE-GANs
    • Diffusion
    • Sequence-to-Sequence Networks
  • Reinforcement Learning:
    • Einführung und Grundlagen
    • Erste Einführung in Deep Q- und Policy Gradient Networks
  • Anwendung:
    • Datenvorbereitung und Augmentation
    • Modellevaluation und Optimierung:
    • Hyperparameter Tuning
    • Modellinterpretation
    • Erklärbarkeit
  • Aktuelle Entwicklungen und Forschung:
    • Erarbeitung neuer Ergebnisse anhand von Originalliteratur
    • Diskussion von State-of-the-Art-Techniken.
Qualifikations- und Lernziele

Fachkompetenzen

  • Die Studierenden können fortgeschrittene Deep-Learning-Architekturen beschreiben sowie ihre Funktionsweise und Implementation erklären. Die Studierenden sind dadurch in der Lage, ein tiefgreifendes Verständnis solcher Architekturen zu demonstrieren.
  • Sie können die aktuelle Forschung und den aktuellen Stand in der Entwicklung des Deep Learning benennen.
  • Sie können Möglichkeiten und Grenzen des Deep Learning in unterschiedlichen Anwendungsdomänen benennen und erläutern.
  • Sie können für verschiedene Anwendungsfälle die geeignetste Architektur und Technik des Deep-Learnings auswählen

Methodenkompetenzen (fachlich & überfachlich)

  • Die Studierenden können eigene Deep-Learning-Modelle mit Hilfe von Frameworks erstellen und anwenden.
  • Sie können Techniken zur Datenvorbereitung gezielt anwenden.
  • Sie können Ergebnisse und ihre Relevanz für eine Anwendung beurteilen.

Sozialkompetenzen

  • Die Studierenden können effektiv in Teams arbeiten, um gemeinsame Ziele zu erreichen und Projekte erfolgreich abzuschließen.
  • Sie können konstruktives Feedback zur Verbesserung der eigenen Arbeit geben und annehmen.

Selbstkompetenzen

  • Die Studierenden können eigenständig ihre Lern- und Arbeitsprozesse organisieren sowie effektiv ihre Zeit managen.
  • Sie erkennen die Notwendigkeit und haben die Bereitschaft, kontinuierlich neues Wissen zu erwerben und sich selbstständig in neue Themengebiete einzuarbeiten.
ECTS-Leistungspunkte (CrP)
  • 6 CrP
  • Arbeitsaufwand 180 Std.
  • Präsenzzeit 60 Std.
  • Selbststudium 120 Std.
Lehr- und Lernformen
  • 4 SWS
  • Seminaristischer Unterricht 2 SWS
  • Praktikum 2 SWS
Studiensemester
  • Bioinformatik (B.Sc. 2022)
  • Informatik (B.Sc. 2022)
Dauer
1 Semester
Häufigkeit des Angebots
Einmal im Jahr
Unterrichtssprache
Deutsch
Bonuspunkte

Ja

Bonuspunkte werden gemäß § 9 (4) der Allgemeinen Bestimmungen vergeben. Art und Weise der Zusatzleistungen wird den Studierenden zu Veranstaltungsbeginn rechtzeitig und in geeigneter Art und Weise mitgeteilt.

Prüfungsleistungen

Prüfungsvorleistung:

Übungsaufgaben (75% der Aufgaben)

(Aufgabe gilt nur bei Anwesenheit als erbracht)

(Anzahl der Übungsaufgaben wird den Studierenden rechtzeitig und in geeigneter Weise bekannt gegeben.)

Prüfungsleistung:

Klausur oder Projekt oder mündliche Prüfung

(Art des Leistungsnachweises wird den Studierenden rechtzeitig und in geeigneter Weise bekannt gegeben.)

Benotung
Die Bewertung des Moduls erfolgt gemäß §§ 9, ggf. 12 (Teilleistungen), ggf. 18 (Arbeiten, Kolloquien) der Allgemeinen Bestimmungen (Teil I der Prüfungsordnung).
Verwendbarkeit
Gemäß § 5 der Allgemeinen Bestimmungen (Teil I der Prüfungsordnung) Verwendbarkeit in allen Bachelorstudiengänge der THM möglich.
Literatur, Medien
  • Goodfellow, I.; Bengio, J; Courville, A.: Deep Learning. MIT Press.
  • Chollet, F.: Deep Learning with Python. Manning.
  • Sutton, R.S.; Barto, A.G.: Reinforcement Learning. An Introduction. MIT Press.
  • Aktuelle wissenschaftliche Paper und Artikel (werden während des Kurses bekannt gegeben)

Rechtliche Hinweise