Klausur (bei geringer Teilnehmerzahl evtl. mündliche Prüfung)

Durch den Einsatz von maschinellen Lernverfahren in der Praxis haben sich eine Reihe neuer Herausforderungen ergeben: Manche Modelle generalisieren nicht gut bei kleinsten Veränderungen in der Datengrundlage; manche Modelle nutzen Merkmale, die zu einer Diskriminierung bestimmter Personengruppen führen; manche Modelle sind zu liberale bei der Klassifikatio neuer Datentypen; die Entscheidungen mancher Modelle sind für die Endnutzer wie etwa Mediziner nicht nachvollziehbar. Insgesamt führt dies zu einem Glaubwürdigkeitsproblem der derzeitigen maschinellen Lernverfahren. Aus diesem Grund fokussiert sich Forschung zunehmend auf Fragen der Glaubwürdigkeit im Maschinellen Lernen ("Trustworthy Machine Learning"; TML). In dieser Vorlesung werden die theoretischen und technischen Hintergründe von Kernthemen im Bereich TML. Dabei werden zum einen wichtige, klassische und aktuelle Forschungsartikel kritisch reflektiert, zum anderen TML-Techniken anhand von Übungen praktisch erprobt.

Die Studierenden sind in der Lage, Forschungsarbeiten im Bereich TML kritisch zu lesen, einzuschätzen und zu diskutieren. Sie verfügen über technisches Hintergrundwissen, um grundlegende TML-Techniken in einem Deep Learning-Kontext zu implementieren. Sie sind in die Lage versetzt, ein eigenes Forschungsprojekt im Bereich TML durchzuführen.

Prerequisites: Students should be familiar with Python and PyTorch coding. They should have basic knowledge of machine learning concepts: supervised learning, function fitting, generalisation gap, overfitting, and regularisation. Furthermore they should have basic knowledge of deep learning (CNNs and Transformers, their components, and empirical techniques for training and evaluating them), for instance by having passed ML-4103 (or equivalent). Basic maths skills (multivariate calculus, linear algebra, probability, statistics, and optimisation) are also required.