Hardware Implementierung von Early Exits in Beschleunigerhardware

Kontext

Early Exits erweisen sich als effektive Methode, um neuronale Netzwerke an sich ändernde Ausführungskontexte anzupassen. Obwohl verzweigte neuronale Netzwerke und frühzeitige Abbruchstellen aktiv erforscht werden, wird eine Hardwareimplementierung dieser Ansätze nur selten durchgeführt. Eine solche Implementierung ist entscheidend für den realen Einsatz und muss erfolgen, um sie in bestehende eingebettete Systeme zu integrieren.

Aufgaben

In dieser Arbeit sind die Studierenden mit der Aufgabe betraut, eine Methodik und Generierungsfähigkeit zu implementieren, um Early Exits in ausgewiesene KI-Beschleuniger zu integrieren, wie zum Beispiel Gemini.

Voraussetzungen

• Gute Kenntnisse in der Hardwareentwicklung unter Verwendung von HLS-Sprachen.
• Gute Kenntnisse in Methoden und Modellen des maschinellen Lernens.