Machine Learning Compiler für eingebettete Systeme

Kontext

KI Anwendungen finden zunehmend Verbreitung auch in eingebetteten Systemen. Um die nötige Performance und Energieeffizient zu erreichen werden häufig dedizierte Beschleuniger eingesetzt, z.B. Ethos-U von Arm. Um diese effektiv verwenden zu können werden spezialisierte Compiler eingesetzt, um die trainierten Netzwerke in für den Beschleuniger verständliche Instruktionen zu übersetzen. Dabei werden zahlreiche Optimierungen ausgeführt, z.B. Graph- und Schleifen-Optimierung, um die Performance zu steigern.

Aufgaben

Ihre Aufgabe wird sein, sich in die Thematik zu Compilern für eingebettete Systeme einzuarbeiten und diesen für einen bestimmten Beschleuniger anzupassen. Speziell geht es um den IREE Compiler, der die verwendete Hardware über eine HAL anspricht. Zunächst steht die Entwicklung einer Integrationsschnittstelle im Fokus.

Voraussetzungen

Kenntnisse in C++ und Python
Interesse an der Erforschung von KI in eingebetteten Bereichen
Interesse and Optimierungen für Machine Learning Algorithmen