Methodik zur Evaluation des Modell-Beschleuniger Co-Designs im Deep Learning

Kontext

Deep Learning (DL) bezeichnet ein maschinelles Lernverfahren der künstlichen Intelligenz, in dem neuronale Netze jegliche Funktionen approximieren und verschiedenste Aufgaben lösen. Meist erzielen sie dabei eine höhere Prädiktionsgenauigkeit als Menschen. Jedoch sind sie selten so effizient wie der Mensch. Um z.B. Energieeffizienz zu steigern, werden spezielle Hardwarebeschleuniger entworfen, die jedoch oft durch die Anwendung von Kompressionsmethoden die Genauigkeit verschlechtern. Dabei stellt die Bewertung des Accuracy-Ressource-Trade-Offs eine große Herausforderung dar.

Ziele

Im Rahmen dieser Abschlussarbeit soll eine Methodik zur Bewertung des Accuracy-Ressource-Trade-Offs entwickelt werden. Zunächst startet die Arbeit mit einer Literaturrecherche und Identifikation von geeigneten Konzepten zur kombinierten Bewertung der Prädiktionsgenauigkeit des DL-Modells und den genutzten Hardwareressourcen und -kosten, z.B. Energieeffizienz, Latenz, Bandbreite. Darauf aufbauend wird eine eigene Methodik entwickelt, die zur Evaluation des Modell-Beschleuniger Co-Designs verwendet werden kann. Deren Eignung wird schließlich in der Bewertung von bestehenden Beschleunigern erprobt.

Voraussetzungen

• Programmiererfahrung in Python und C++
• Grundkenntnisse über Neuronale Netze
• Motivation und Interesse am selbstständigen Lösen von technischen Problemen