KIP publications

 
year 2018
author(s) Philipp Spilger
title Spike-based Expectation Maximization on the HICANN-DLSv2 Neuromorphic Chip
KIP-Nummer HD-KIP 18-159
KIP-Gruppe(n) F9
document type Bachelorarbeit
Abstract (de)

Neuromorphe Spike-basierte Erwartungsmaximierung (NSEM) ist eine speziell auf die Implementierung in neuromorpher Hardware angepasste Variante der unüberwachten Lernmethode Spike-basierte Erwartungsmaximierung (SEM). Das Netzwerk ist in der Lage, in, von einer Eingangsschicht, präsentierten Spikeabfolgen unbeaufsichtigt typische Muster zu erkennen. Dabei wird eine lokale STDP Lernregel mit homöostatisch stabilisierten stochastischen Neuronen kombiniert. Während SEM mit abstrakten stochastischen Neuronen formuliert wurde, erweitert NSEM das Modell auf LIF Neuronen mit exponentiellen Synapsen, exponentiellem STDP und stochastischen Gewichtsanpassungen, um deren mögliche limitierte Auflösung auf Hardware zu überwinden. Diese Arbeit präsentiert die Implementierung von NSEM auf dem zweiten Prototypen der hybriden neuromorphen Plattform HICANN-DLS, die im Rahmen des Human Brain Projects entwickelt wird. Die korrekte Funktionsweise von allen eigenständigen Bestandteilen des Netzwerks wird einzeln und in Kombination überprüft. Die Lernregeln sind vollständig auf dem Plastizitätsprozessor (PPU), einem Mehrzweck-Prozessor eingebettet auf dem Chip, unter Ermöglichung von Parametrisierung und Kapselung, implementiert. Ein neu entwickelter Datentyp zum Speichern von Bruchzahlen wird zur Implementation von stochastischen Gewichtsanpassungen verwendet. Die Implementation ebendiesen Datentyps wird beschrieben und die Leistungsfähigkeit untersucht. Darüber hinaus werden Verbesserungen der Parameterversorgung der PPU vom Experiment-ausführenden Computer detailliert beschrieben.

Abstract (en)

Neuromorphic spike-based expectation maximization (NSEM) is an adaption of the unsupervised learning method of spike-based expectation maximization (SEM) tailored to implementation on neuromorphic hardware. A cause layer is able to infer salient features in spike-trains presented by an input layer. The network combines a local STDP learning rule with homeostatically stabilized stochastic neurons. Whereas SEM was introduced with abstract stochastic neurons, NSEM extends the model to include LIF neurons with exponential synapses, exponential STDP curves and stochastic weight updates to overcome a possibly limited weight resolution in hardware. This thesis presents the implementation of NSEM on the hybrid neuromorphic HICANN-DLS version 2 prototype chip developed in the Human Brain Project. Correct functioning of all distinct building blocks of the network is verified individually and in combination. The learning rules are fully implemented on the plasticity processing unit (PPU), a general purpose processor embedded in the chip, using a newly developed fractional number type for stochastic weight updates while keeping encapsulation and parameterization in mind. Implementation of this type is described and its performance evaluated. In addition, improvements to the process of providing parameters to the PPU from the experiment-executing host computer are elaborated.

bibtex
@mastersthesis{DLSv2NSEM,
  author   = {Philipp Spilger},
  title    = {Spike-based Expectation Maximization on the HICANN-DLSv2 Neuromorphic Chip},
  school   = {Universit\"at Heidelberg},
  year     = {2018},
  type     = {Bachelorarbeit},
  month    = {11}
}
Datei pdf
up
KIP - Bibliothek
Im Neuenheimer Feld 227
Raum 3.402
69120 Heidelberg