KIP publications

 
year 2016
author(s) Akos Kungl
title Sampling with leaky integrate-and-fire neurons on the HICANNv4 neuromorphic chip
KIP-Nummer HD-KIP 16-84
KIP-Gruppe(n) F9
document type Masterarbeit
Abstract (de)

Neuromorphe Computer mit Mischsignalen sind Hardwareparadigmen, die neurobiologische Architekturen nachahmen, indem sie Konzepte oder Teile des Nervensystems, wie Neuronen und Synapsen, in integrierten Schaltkreisen implementieren. Durch ihre parallele Berechnung und ihren niedrigen Energieverbrauch
sind sie gute Kandidaten, um die Leistung konventioneller von-Neumann Rechner bei bestimmten Aufgaben zu übertreffen. Jedoch sind spezielle Berechnungmethoden nötig um dieses Potential zu nutzen. Das Konzept von Boltzmann-Maschinen (BM), also Netzwerken aus stochastischen binären Einheiten mit symmetrischen Wechselwirkungen, ist eine aus dem Bereich des maschinellen Lernens stammende, dafür geeignete Idee (Petrovici et al. [2013]).

Aufbauend auf der Arbeit von Stöckel [2015] präsentieren wir in dieser Arbeit die Implementierung einer aus zwei Neuronen bestehende Prototyp-Boltzmann-Maschine auf dem HICANNv4 neuromorphen Chip (Millner [2012]). Wir stellen ein allgemeines Verfahren zur Kalibrierung der einzelnen Neuronen im Netzwerk sowie der Netzwerkverbindungen selbst vor. Schließlich demonstrieren wir die Implementierung kontrastiver Divergenz. Wir stellen fest, dass das Netzwerk die Generierung einer Zielverteilung mit einem Kullback–Leibler-Divergenzwert in der Größenordnung von 104 erlernen kann.

Die entwickelte Kalibration der einzelnen Neuronen und die Konfiguration der Netzwerke sind universell für den HICANNv4 Chip, aber die begrenzte Anzahl der Rauschquellen beschränkt die Größe der Boltzmann-Maschine auf 2 Neuronen. Alternative Rauschquellen sind notwendig um das Netzwerk zu vergrössern.

Abstract (en)

Mixed-signal neuromorphic computers are hardware paradigms that mimic neurobiological architectures by implementing principles or structural elements of the nervous system, i.e. neurons and synapses, in integrated circuits. With their parallel computation and low power consumption, they are good candidates to outperform conventional von Neumann CPUs in certain tasks. However, special computation methods are needed to utilize their potential. The concept of Boltzmann machines (BM), which are networks of stochastic binary units with symmetric interactions, is a suitable machine learning idea for these novel computers (Petrovici et al. [2013]).

Building on and improving upon the work of Stöckel [2015] in this thesis, we present the implementation of a proof of concept BM consisting of 2 neurons on the HICANNv4 neuromorphic chip (Millner [2012]). We show a general method to calibrate single neurons in the network and the network connections themselves. Finally, an implementation of Contrastive Divergence is demonstrated. We show that the network can be fitted to sampling from a target distribution with a Kullback–Leibler divergence value on the order of 104.

The developed calibration of the single neurons and the fitting methods of the network are universal for the HICANNv4 chip, but the limited noise sources on the chip restrict the size of the BM to 2 sampling neurons. Providing alternative sources of noise is necessary to extend the size of the network.

bibtex
@mastersthesis{kungl2016sampling,
  author   = {Akos Kungl},
  title    = {Sampling with leaky integrate-and-fire neurons on the HICANNv4 neuromorphic chip},
  school   = {Universit\"at Heidelberg},
  year     = {2016},
  type     = {Masterarbeit}
}
up
KIP - Bibliothek
Im Neuenheimer Feld 227
Raum 3.402
69120 Heidelberg