KIP publications

 
year 2018
author(s) Felix Schneider
title Towards Spike–based Expectation Maximization in a Closed–Loop Setup on an Accelerated Neuromorphic Substrate
KIP-Nummer HD-KIP 18-137
KIP-Gruppe(n) F9
document type Bachelorarbeit
Abstract (de)

Lernexperimente sind im allgemeinen zeitaufwendig und rechenintensiv, wenn sie auf herkömmlichen Rechenmaschinen ausgeführt werden. Im Gegensatz zu anwendungsspezifischen Schaltkreisen auf neuromorpher Hardware wie dem BrainScaleS System, welches feuernde neuronale Netze schnell und effizient emmulieren kann. Ein mögliches Modell für solch ein Lernexperiment heißt Spike-basierte Erwartungswertmaximierung (SEM) – eine Population von Neuronen versucht die darunterliegende Struktur in Spikemustern zu finden. Dieser Ansatz lässt sich auf Leaky-Integrate-and-Fire Neuronen übertragen, was eine Implementation auf dem BrainScaleS System möglich macht.
Der meist versprechende Ansatz ist es dabei einen closed–loop Operationsmodus zu nutzen, welcher eine Echtzeit Kommunikation zwischen der neuromorphen Hardware und einem Kontrollcomputer ermöglicht und beide System zu einem hybriden System kombiniert. Wir werden in dieser Arbeit nötige Mechanismen für die Durchführung von SEM Experimentn auf dem BrainScaleS System präsentieren. Diese wurden auf diesem System implementiert und getestet: Eine Gewichtsanpassung ausgelöst von einem Kontrollcomputer sowie eine homeostatische Ratenanpassung mit einem Sea-of-Noise Netzwerk als eine auf dem System befindliche Spikequelle. Diese präsentierten Experimente stellen zudem die ersten closed–loop Experimente auf der aktuellen Hardware Version (HICANN v4) dar.

Abstract (en)

Learning experiments are in general time–consuming and computationally expensive if executed on conventional computing machines. In contrast to application–specific circuits on neuromorphic hardware like the BrainScaleS system, which can emulate Spiking Neural Networks fast and efficient. A possible model for a learning experiment is called Spike-based Expectation Maximization (SEM) – A population of neurons tries to find the hidden cause of spike patterns in an unsupervised manner. It is possible to transfer this approach to Leaky-Integrate-and-Fire (LIF) neurons which make an implementation on state-of-the-art neuromorphic hardware like the BrainScaleS system possible.
The most promising approach is to use a closed–loop operation mode which enables real–time communication between the neuromorphic part and a host computer, forming both systems into a hybrid system. We will present in this thesis necessary mechanisms for SEM experiments which were implemented and verified on the BrainScaleS system: Weight adaptation from the host computer during emulation and a homeostatic rate adaptation using Sea-of-Noise networks as an on–wafer spike source. These presented experiments are the first using the closed–loop operation mode on the current hardware version HICANN v4.

Datei pdf
up
KIP - Bibliothek
Im Neuenheimer Feld 227
Raum 3.402
69120 Heidelberg