KIP publications

year 2021
author(s) Philipp Spilger
title From Neural Network Descriptions to Neuromorphic Hardware — A Signal-Flow Graph Compiler Approach
KIP-Nummer HD-KIP 21-30
KIP-Gruppe(n) F9
document type Masterarbeit
Abstract (de)

Der Bedarf an künstlicher Intelligenz (KI), der Fähigkeit von Maschinen zu lernen und Probleme zu lösen, wächst schnell. Spezielle Beschleuniger Hardware wird verwendet, um damit Schritt zu halten. Neben klassischen Beschleunigern, die auf Daten-parallelen numerischen Berechnungen beruhen, wird Event-basierte neuromorphe Hardware entwickelt. Um KI Modelle effizient beschreiben und nutzen zu können, ist eine natürliche Frontend und Backend Software Abstraktion essentiell. In dieser Arbeit wird eine Signalfluss Graph-basierte Experiment Beschreibung als natürliche Abstraktion für BrainScaleS-2 entwickelt und implementiert. BrainScaleS-2 ist eine Event-basierte neuromorphe Hardware Plattform, die spikende und klassische neuronale Netzwerke unter Verwendung von analogen Schaltkreisen emuliert. Daran angegliedert entwickelte Ausführungsmodelle erlauben Just- in-Time Ausführung sowie Kompilation für autarken Einsatz. Darauf aufbauend werden PyTorch und PyNN als Frontends für klassische und spikende Experimente integriert. Die Entwicklungen werden durch eine gründliche Leistungsanalyse unter Verwendung von artifiziellen Testprogrammen und realen Experimenten evaluiert. Die Evaluation wird abgeschlossen durch eine Ende-zu-Ende Anwendung auf energieeffiziente autarke Klassifikation von Elektrokardiogramm Aufnahmen.

Abstract (en)

The demand for Artificial intelligence (AI), the ability of machines to learn and solve problems, is growing rapidly. Special-purpose accelerator hardware is utilized to keep up. Aside classical accelerators relying on dense, data-parallel numerical calculations, “event-based” neuromorphic hardware emulating neural networks directly is emerging. To efficiently describe and use AI models with accelerators, a natural front and back end software abstraction is crucial. In this work, a signal-flow graph-based experiment representation is developed and implemented as a natural abstraction for BrainScaleS-2, an event-based neuromorphic hardware platform emulating spiking and classical neural networks using analog circuits. Accompanying development of execution models allows just-in-time execution and compilation for standalone deployment. Building on top of this, PyTorch and PyNN are integrated as front ends for classical and spiking experiments. The developments are evaluated by a thorough performance analysis using artificial benchmarks and real-world experiments, culminating in an end-to-end application for energy-efficient standalone classification of electrocardiogram recordings.

bibtex
@mastersthesis{spilger2021master,
  author   = {Philipp Spilger},
  title    = {From Neural Network Descriptions to Neuromorphic Hardware --- A Signal-Flow Graph Compiler Approach},
  school   = {Universit├Ąt Heidelberg},
  year     = {2021},
  type     = {Masterarbeit}
}
Datei pdf
KIP - Bibliothek
Im Neuenheimer Feld 227
Raum 3.402
69120 Heidelberg