Safe and Robust Machine Learning - Application- / Co-Design Perspective

Kontext

Maschinelles Lernen ist ein vielversprechender Ansatz für die Objekterkennung oder -segmentierung in diversen Bereichen. Mit dem zunehmenden Einsatz von Machine-Learning-Modellen in sicherheitskritischen Anwendungen ist es jedoch auch wichtig, sowohl die Sicherheit/Zuverlässigkeit zu gewährleisten, als auch die Robustheit der ML-Modelle zu erhöhen. Wichtige Aspekte spielen hierbei von Hardwareseite die Absicherung gegen transiente zufällige Fehler. Von Softwareseite ist insbesondere die eine Schätzung der Unsicherheit der neuronalen Netze interessant. 

Ziel der Arbeit:
Das Ziel dieser Arbeit ist es, die Robustheit und Zuverlässigkeit von Machine-Learning-Modellen zu verbessern und die Unsicherheit von Vorhersagen zu schätzen. Dabei liegt der Fokus auf der Anwendungs- und Co-Design Perspektive. Es sollen Techniken zur Robustheit und Unsicherheitsschätzung von neuronalen Netzwerken entwickelt und evaluiert werden.

Aufgaben

• Überblick über die aktuelle Literatur zu Robustheit und Unsicherheitsschätzung von Machine-Learning-Modellen
• Entwurf und Implementierung von Techniken zur Robustheit und Unsicherheitsschätzung von neuronalen Netzwerken auf Hardware-Ebene
• Experimentelle Evaluation der entwickelten Techniken anhand von Benchmarks und realen Datensätzen
• Diskussion der Ergebnisse und Ableitung von Schlussfolgerungen

Voraussetzungen

• Große Motivation für das Thema Machine Learning und selbstständige Problemlösungskompetenz
• Grundlegende Kenntnisse in ML und neuronalen Netzen von Vorteil
• Programmiererfahrung sollte vorhanden sein, Python-Kenntnisse von Vorteil aber nicht zwingend erforderlich.