KIP publications

 
year 2015
author(s) Oliver Breitwieser
title Towards a Neuromorphic Implementation of Spike-Based Expectation Maximization
KIP-Nummer HD-KIP 15-80
KIP-Gruppe(n) F9
document type Masterarbeit
Abstract (de)

Im sogenannten Modell von Spike-basierter Erwartungsmaximierung (SEM) lernt eine Population stochastischer Neuronen unbeaufsichtigt typische Merkmale in Spikemustern einer auf sie projizierenden Eingangsschicht zu erkennen. Modelle unüberwachten Lernens wie dieses sind primäre Kandidaten für Emulation in neuromorpher Hardware, welche sich typischerweise durch eine niedrige Energieaufnahme sowie einen hohen Beschleunigungsfaktor im Vergleich zur Simulation auf konventioneller Rechnerarchitektur auszeichnet. Jedoch ist das ursprüngliche SEM-Modell eher abstrakt und daher nicht geeignet, direkt auf neuromorphe Hardware portiert zu werden. Diese Arbeit stellt NSEM vor, eine mechanistische Implementierung von SEM, die kompatibel zu zeitgenössischen neuromorphen Systemen ist. NSEM nutzt LIF-Neuronen mit exponentiellen Synapsen, welche einen de facto Standard für neuromorphe Systeme darstellen, sowie doppelt-exponentielles STDP. NSEM ist insbesondere für die Implementierung auf der NM-PM1 Plattform gedacht, die im Rahmen des Human Brain Project entwickelt wird. Daher wird besonderer Wert auf jene Modifikationen gelegt, die notwendig sind, um die synaptischen Plastizitätsregeln an die Charakteristiken der NM-PM1 an- zupassen. Netzwerkarchitektur und Parametrisierung werden im Detail erläutert, sowie die Leistungsfähigkeit der Implementation in einer Serie Softwaresimulationen, welche Hardwarebeschränkungen unterliegen, gezeigt. Des Weiteren werden mögliche Mechanismen, die eine erfolgreiche Emulation in Hardware behindern könnten, sowie geeignete Kompensationsmethoden, diskutiert.

Abstract (en)

In the spike-based expectation maximization (SEM) model, a population of stochastic neurons learns to detect salient features in the spike patterns emitted by a forward projecting input layer in an unsupervised manner. Such unsupervised learning models are particularly suit- able for neuromorphic emulation, which is usually characterized by low power consumption and high speed-up compared to simulation on conventional computing architectures. However, the original SEM model is rather abstract and therefore not amenable for a straightforward translation to existing neurmorphic devices. This thesis presents NSEM, a mechanistic implementation of SEM that is compatible with state-of-the-art neuromorphic hardware. In NSEM, we use LIF neurons with exponential synapses, which are a de-facto standard for neuromorphic devices, as well as double-exponential STDP. In particular, NSEM is targeted for implementation on the NM-PM1 platform currently under development in the Human Brain Project. Therefore, particular emphasis is put on modifying the synaptic plasticity rules to be compatible to the characteristics of the NM-PM1. We provide a detailed discussion of the network architecture and parametrization of NSEM and demonstrate the performance of our implementation in a series of hardware-constrained software simulations. Furthermore, potential obstacles of a successful emulation on hardware are discussed and methods for compensation presented.

bibtex
@mastersthesis{breitwieser2015masterthesis,
  author   = {Oliver Breitwieser},
  title    = {Towards a Neuromorphic Implementation of Spike-Based Expectation Maximization},
  school   = {Universit\"at Heidelberg},
  year     = {2015},
  type     = {Masterarbeit}
}
up
KIP - Bibliothek
Im Neuenheimer Feld 227
Raum 3.402
69120 Heidelberg