ATHENA: Advanced learning through efficient transparent model harnessing with explainable data

Kontext

In cyber-physikalischen Systemen, wie beispielsweise hochautomatisierten Fahrzeugen, autonomen Robotern und ähnlichem, ist der Einsatz von Neuronalen Netzen aufgrund deren immenser Leistungsfähigkeit im Umgang mit hochdimensionalen Daten besonders interessant. Diese Modelle erfordern selbst mit modernen Architekturen erheblichen Aufwand, um die erforderlichen Datenpunkte für das Training bereitzustellen. Die Daten müssen trotz effizienten Trainingsstrategien aufwändig gelabelt werden, eine teuer und stupide Arbeit. Darüber hinaus muss für das Training eine immense Menge an Energie aufgebracht werden, was aus Nachhaltigkeitsaspekten nicht zielführend sein kann. xAI (explainable AI) Methoden erlauben jedoch sowohl die Post-hoc Erklärung, warum ein Modell eine bestimmte Entscheidung getroffen hat, als auch die Entwicklung sich selbsterklärender Modelle. So lassen sich gezielt Untersuchungen anstellen und wichtige Datenpunkte extrahieren. Zielsetzung der Arbeit soll sein, Trainingsdaten auszuwählen, welche einen besonderen Mehrwert für das Modell und somit für das Retraining aufweisen. Hierfür sollen verschiedene xAI Methoden recherchiert, angewendet und gegeneinander evaluiert werden.

Ziele

• Recherche zu explainable AI Methoden (xAI), insbesondere zu intrinsisch erklärbaren Neuronalen Netzen
• Auswahl von Methoden
• Anwendung der gewählten Methoden auf Trainingsdaten
• Implementierung eines End-to-End Workflows (Pipeline mit gefunden Datenpunkten) für effizientes Retraining
• Evaluation und Benchmarking der Methoden und Ergebnisse

Voraussetzungen

• Besonders wichtig ist eine selbstständige und strukturierte Arbeitsweise
• Programmierkenntnisse in Python
• Interesse an xAI
• Wünschenswert sind Kenntnisse in Spieltheorie, Linearer Algebra usw.
• Kenntnisse in PyTorch oder Tensorflow