Jahr | 2025 |
Autor(en) | Ben Luca Kroehs |
Titel | An Intermediate Data Format for In-the-loop Training on Neuromorphic Hardware |
KIP-Nummer | HD-KIP 25-27 |
KIP-Gruppe(n) | F9 |
Dokumentart | Bachelorarbeit |
Abstract (de) | Intermediäre Formate, sowohl für Netzwerktopologien als auch für Daten in gepulsten neuronalen Netzen (SNNs) sind entscheidend für die Interoperabilität zwischen Simulatoren und die Austauschbarkeit neuromorpher Hardware-Plattformen. In dieser Arbeit wird ein Datenaustauschformat vorgestellt, das die Neuromorphic Intermediate Representation (NIR) erweitert, indem es die Infrastruktur zur Darstellung und Transformation von Spike-Daten auf Netzwerkknotenebene bereitstellt. Das Format unterstützt sowohl event-basierte als auch zeitdiskretisierte Repräsentationen von Daten und ermöglicht die Konvertierung zwischen beiden. Um die praktische Relevanz des Formats zu demonstrieren, wurde eine In-the-Loop-Trainingsroutine implementiert, die die Software-Frameworks hxtorch und jaxsnn mit der neuromorphen Hardware BrainScaleS-2 kombiniert. Der Vorwärtspfad wird auf der Hardware ausgeführt, während der Rückwärtspfad in der Simulation unter Verwendung der Hardware-Spikes berechnet wird. Die Trainingsleistung wird als Funktion der zeitlichen Auflösung dt bewertet und zeigt eine starke Abhängigkeit in der Simulation und eine auflösungsinvariante Genauigkeit auf der Hardware jenseits eines bestimmten Schwellenwertes. Im Vergleich zu existierenden Standards wie ONNX oder PyNN bietet das vorgeschlagene Format eine leichtere und anpassungsfähigere Lösung, die auf Anwendungsfälle des maschinellen Lernens von gepulsten neuronalen Netzen zugeschnitten ist. Es erleichtert simulator-unabhängiges Training und vereinfacht den Zugang zu neuromorphen Substraten. |
Abstract (en) | Intermediate representations for both network topologies and observable data in spiking neural networks are crucial for achieving interoperability between simulators and enabling the interchangeability of neuromorphic hardware platforms. This thesis introduces a data exchange format that extends the Neuromorphic Intermediate Representation (NIR) by providing the infrastructure to represent and transform node-wise spike data. The format supports both event-based and time-discretized representations of data and allows conversion between them. To demonstrate its practical relevance, an in-the-loop training routine is implemented that combines the hxtorch and jaxsnn software frameworks with the BrainScaleS-2 neuromorphic hardware. The forward pass is executed on hardware, while the backward pass is computed in simulation using the hardware spikes. The training performance is evaluated as a function of the temporal resolution dt, showing a strong dependency in simulation and a resolution-invariant accuracy on hardware beyond a certain threshold. In comparison to existing standards such as ONNX or PyNN, the proposed format offers a more lightweight and adaptable solution tailored for machine learning use cases of spiking neural networks. It facilitates framework-independent training pipelines and simplifies access to neuromorphic substrates. |
Datei |