KIP publications

year 2020
author(s) Arne Emmel
title Inference with Convolutional Neural Networks on Analog Neuromorphic Hardware
KIP-Nummer HD-KIP 20-91
KIP-Gruppe(n) F9
document type Masterarbeit
Abstract (de)

Im Rahmen eines Wettbewerbs zur Förderung energiesparender Hardwarelösungen für künstliche Intelligenz wird das analoge neuromorphe BrainScaleS-2 System für die Beschleunigung künstlicher neuronaler Netzwerke verwendet. Dazu werden Elektrokardiogramme analysiert und mögliche Klassifizierungsmethoden aufgezeigt, dies beinhaltet sowohl Methoden aus der Chaostheorie als auch faltende neuronale Netzwerke. Letztere sind sehr universell einsetzbar, was zusätzlich durch eine Anwendung auf Sensordaten zur Aktivitätserkennung gezeigt wird. Um diese künstlichen neuronalen Netzwerke unter transparenter Einbindung des BrainScaleS-2 Systems zu ermöglichen, wird die PyTorch-Erweiterung hxtorch um weitere Funktionalität ergänzt. Zusätzlich wird ein Simulationsmodus implementiert, welcher mit Quantisierung und statistischem Rauschen einige Eigenschaften der analogen Inferenz abbildet, um mit der Hardware kompatible Modelle zu trainieren. Die vorgestellten Methoden ermöglichen den Nachweis von Vorhofflimmern in Elektrokardiogrammaufnahmen bei durchschnittlichen Laufzeiten bis hinunter zu 10 μs. Abhängig vom Optimierungsziel werden auf dem zur Verfügung gestellten Datensatz Genauigkeiten zwischen 92,2 % und 95,4 % bei Falsch-Positiv-Raten von 17,1 % bis 8,7 % erreicht.

Abstract (en)

In the context of a competition to advance energy efficient hardware solutions for artificial intelligence, the analog BrainScaleS-2 system is used to accelerate artificial neural networks. For this purpose, electrocardiograms are analyzed and possible classification methods are presented, including methods from chaos theory as well as convolutional neural networks. The latter are universally applicable, which is additionally shown by an application to sensor data for activity recognition. In order to realize these artificial neural networks under transparent integration of the BrainScaleS-2 system, the PyTorch extension hxtorch is supplemented by further functionality. In addition, a simulation mode is implemented, which uses quantization and statistical noise to represent some properties of analog inference for training hardware-compatible models. The presented methods allow detection of atrial fibrillation in electrocardiogram recordings with average runtimes down to 10 μs. Depending on the optimization target, accuracies between 92.2 % and 95.4 % are achieved on the provided dataset with false positive rates from 17.1 % to 8.7 %.

bibtex
@mastersthesis{emmel2020,
  author   = {Arne Emmel},
  title    = {Inference with Convolutional Neural Networks on Analog Neuromorphic Hardware},
  school   = {Universit├Ąt Heidelberg},
  year     = {2020},
  type     = {Master's Thesis},
  month    = {11}
}
Datei pdf
KIP - Bibliothek
Im Neuenheimer Feld 227
Raum 3.402
69120 Heidelberg