Hardware-aware NAS
Die ideale neuronale Architektur für den jeweiligen Anwendungsfall zu finden, kann viel Zeit und Ausprobieren erfordern. Die Neuronale Architektursuche (auch NAS) automatisiert diesen Gestaltungsschritt und findet teilweise Architekturen, die manuell erstellte übertreffen. Ferner lässt sich sogar die nötige Ressourcenabschätzung durch ein Tiefes Neuronales Netzwerk automatisieren. Auf diese Weise wird der bedarfsangepasste Einsatz von Neuronalen Netzwerken wesentlich vereinfacht.
Quantisierungsbewusste Neuronale Architektursuche
Es zeigt sich zunehmend, dass die Leistungsfähigkeit neuronaler Architekturen stark von nachgelagerten Komprimierungsverfahren abhängt.
Meist werden die NAS und Komprimierungsverfahren wie Quantisierung in komplett voneinander unabhängigen Schritten betrachtet, um den Suchraum überschaulicher zu gestalten. Dieses Vorgehen hat aber den Nachteil, dass Abhängigkeiten zwischen den gewählten Architekturparametern und dem Einfluss des gewählten Quantisierungsschemas in der NAS nicht mit betrachtet werden, was zu suboptimalen Modellen führen kann.
Unsere Forschung untersucht aktuell Möglichkeiten beide Verfahren sinnvoll zu kombinieren, mit einem Hauptaugenmerk auf die Suchraumerweiterung und die Evaluationsstrategie der gesampleten Modelle.
Ansprechpartnerin: Natalie Maman, M.Sc. | Aktuelle Publikation
Neuronale Architektursuche für Audio- und Zeitreihenmodelle
Ein Verfahren, auf dem zur Zeit ein Hauptaugenmerk liegt, beruht auf der Kombination von evolutionären Algorithmen und Reinforcement Learning und findet optimale Architekturen durch zielgerichtetes Mutieren, Rekombinieren und Aussortieren von Kandidaten. Unsere Anforderungen beinhalten typischerweise den effizienten Betrieb auf ressourcenbeschränkter Hardware, darum fließen Hardwarekosten wie Latenz oder Energieverbrauch als Optimierungskriterien in die Architektursuche mit ein.
Unsere Forschung fokussiert sich hierbei abermals auf Anwendungsfälle aus den Bereichen Signalverarbeitung und Zeitreihenanalyse, beispielsweise um latenzoptimierte Architekturen für die Simulation von zeitvarianten, nicht-linearen Audioeffekten zu finden.
Ansprechpartner: Christopher Ringhofer, M.Sc. | Aktuelle Publikation
Angewandte Neuronale Architektursuche
In unserer Forschung beschäftigen wir uns mit der Entwicklung von Smart Surfaces, bei denen alltägliche Oberflächen wie Tische als interaktive Schnittstellen für Smart-Home-Anwendungen genutzt werden. Anstelle zusätzlicher Eingabegeräte oder sichtbarer Technik sollen bestehende Oberflächen durch nahtlos integrierte Sensorik und lokale Signalverarbeitung erweitert werden.
Der Ansatz basiert auf der Erfassung von Vibrationen, die durch Gesten wie Tippen oder Klopfen auf der Oberfläche entstehen. Diese Schwingungssignale werden von unauffällig integrierten Sensoren erfasst und mithilfe maschineller Lernverfahren direkt auf dem Gerät ausgewertet. Durch die ausschließliche On-Device-Verarbeitung wird ein Privacy-by-Design-Ansatz verfolgt, der ohne Kameras, Mikrofone oder Cloud-Anbindung auskommt. Aufbauend auf bestehenden Arbeiten wie Smatable wird ein vollständiges End-to-End-System entwickelt, das Hardware, Signalaufbereitung und energieeffiziente KI-Modelle kombiniert. Der Fokus liegt dabei auf kompakten 1D-CNN-Architekturen, die für den Einsatz auf Embedded- und FPGA-Plattformen geeignet sind.
In zukünftiger Forschung untersuchen wir die Erweiterung des Gestenvokabulars, die Lokalisierung von Gesten auf einzelnen Oberflächen sowie die Übertragbarkeit auf unterschiedliche Materialien und Nutzungsszenarien. Ziel ist es, natürliche, robuste und datenschutzfreundliche Interaktionen mit smarten Alltagsoberflächen zu ermöglichen.
Ansprechpartner: Florian Hettstedt, M.Sc. | Aktuelle Publikation