Safety und Security für KI-Beschleuniger – Tracing von Layer-Aktivierungen

Safety und Security für KI-Beschleuniger – Tracing von Layer-Aktivierungen

. .

Kontext

Der klassische Ansatz für höchste Sicherheitsanforderungen (ASIL-D für Automobile) zielt darauf ab, alle systematischen System- und Softwarefehler in der Entwicklungsphase zu finden. Für bestimmte Klassen von Fehlern kann dieses Ziel durch sorgfältige Arbeit (Prozesse, Werkzeuge usw.) weitgehend erreicht werden. Bei Systemen, die KI-Beschleuniger enthalten, gibt es jedoch immer wieder sporadische Effekte, die zu Fehlfunktionen oder kurzfristigen Leistungseinbußen führen. Diese können z. B. durch kollidierende Zugriffe auf gemeinsam genutzte Ressourcen wie Speicher bzw. Ein-/Ausgabe-Komponenten oder durch einen unerkannten Synchronisationsbedarf zwischen Prozessen, sowie durch Angriffe oder Eingabeverzerrungen verursacht werden. Die Erklärung des Black-Box-Verhaltens eines KI-Beschleunigers ist ein sich immer weiter entwickelndes Forschungsgebiet und auftretende Effekte können nicht immer mit herkömmlichen oder bekannten Methoden erklärt werden. Ein Versuch, Klassifizierungsergebnisse von KI-Beschleunigern zu erklären, wäre die Betrachtung der Aktivierungsmuster während einer Klassifizierung. Mit einem vom ITIV entwickelten Tool ist es möglich, die Aktivierungen der Layers während der Inferenz von Eingabebildern zu verfolgen. Es ist Ihre Aufgabe, diese Traces auszuwerten, Metriken zur Beschreibung zu finden und diese zu nutzen, um Aussagen über den Betriebszustand dieser Beschleuniger zu treffen.

Aufgaben

  • Literaturrecherche zu KI-Explanability und Beschleunigern
  • Evaluation und Implementierung von Strategien zur Überwachung von Aktivierungen und deren Auswirkungen auf die Ergebnisvalidität
  • Trade-Off-Evaluierung zwischen Ressourcenverbrauch und Genauigkeit der Gesundheitsvorhersage

Die folgenden Aufgabe ist für eine "sehr gute" Note erforderlich:

  • Vorschlag für eine Strategie zur Erkennung von Eindringlingen auf der Grundlage von Layer-Traces

Voraussetzungen

  • Interesse an eingebetteten Systemen, KI-Forschung und neuen Entwurfsmethoden
  • Sehr gute Kenntnisse in Python (vorzugsweise mit Kenntnissen in KI-Lernbibliotheken, wie PyTorch, Tensorflow)
  • Fähigkeit zu selbständigem Arbeiten

Vor Beginn der konkreten Arbeiten muss ein Exposé geschrieben und vom Betreuer genehmigt werden.

(Bilder erstellt mit Dalle 2).