KIP publications

 
year 2019
author(s) Raphael C. Engelhardt
title Short-Term Plasticity on the BrainScaleS Neuromorphic System
KIP-Nummer HD-KIP 19-89
KIP-Gruppe(n) F9
document type Masterarbeit
Abstract (de)

Künstliche Neuronale Netze bilden ein mächtiges Werkzeug bei der Bewältigung klassischer Aufgaben des Machine Learning. Konstituierende Bestandteile dieser Netzwerke sind abstrakte Neuronen, die jedoch nicht das Ziel haben, das Verhalten ihrer biologischen Vorbildern exakt abzubilden. Spikende Neuronale Netze hingegen, basieren auf mathematischen Modellen, die die Dynamik biologischer Neuronen beschreiben. In Softwaresimulationen geht dieser Zugewinn an biologischer Plausibilität mit einem beträchtlichen Rechenaufwand für die numerische Lösung der beschreibenden Differentialgleichungen einher.
Das neuromorphe Hardwaresystem BrainScaleS basiert auf dem Ansatz, Neuronenmodelle nicht numerisch zu simulieren, sondern sie als analoge Schaltkreise zu implementieren. Auch die synaptische Plastizität, die für das Lernen grundlegende Fähigkeit Verbindungsstärken zwischen einzelnen Neuronen im Laufe der Zeit anzupassen, ist in diesem System vorhanden.
Die hier vorliegende Masterarbeit beschäftigt sich mit der Implementierung der synaptischen Kurzzeit-Depression. Nach einer ausgiebigen Charakterisierung der stochastischen und systematischen Abweichungen innerhalb des Systems werden zwei Experimente vorgestellt, die maßgeblich auf dem Prinzip der synaptischen Kurzzeit-Depression beruhen. Ersteres gründet auf dem Gedanken, die Verteilung der Zustände einer mit LIF-Neuronen realisierten Boltzmann-Maschine zu glätten. Im zweiten Experiment soll gezeigt werden, wie die Kurzzeitplastizität in einem System zwei einander gegenseitig inhibierender Neuronenpopulationen einen kontinuierlichen Wechsel der dominierenden Population verursacht. Beide Experimente vergleichen jeweils die Software- und Hardwareimplementierung, mit dem Ziel die Durchführbarkeit von Kurzzeitplastizität-Experimenten auf der neuromorphen Hardware BrainScaleS zu ergründen.

Abstract (en)

Artificial Neuronal Networks are a powerful tool in solving typical Machine Learning. Constituent elements of these networks are abstract neurons, that do however not strive for an exact representation of their biological counterparts. Spiking Neuronal networks, on the other hand, are based on mathematical models, describing the dynamic of biologic neurons. In software simulations this gain of biological plausibility comes at the cost of a considerable computational effort for the numerical solving of the describing differential equations.
The neuromorphic hardware system BrainScaleS is based on the principle to not simulate neuron models numerically, but to implement them as analog circuits. Synaptic plasticity, the ability to adapt connection strengths between individual neurons, which is fundamental for learning, is implemented on this system.
The present master's thesis treats the implementation of synaptic short-term depression. After an extensive characterization of stochastic and systematic variations in the system, two experiments are presented based on the principle of short-term depression. The first one is founded on the idea of flattening the distribution of states of a Boltzmann machine implemented by LIF neurons. In the second one, it should be shown how short-term plasticity enables a continuous switching of neuronal activity in a system of two mutually inhibiting neuron populations. Both experiments compare software and hardware implementation with the goal of investigating the possibility of short-term based experiments on the neuromorphic system BrainScaleS.

bibtex
@mastersthesis{engelhardt2019,
  author   = {Raphael C. Engelhardt},
  title    = {Short-Term Plasticity on the BrainScaleS Neuromorphic System},
  school   = {Universit\"at Heidelberg},
  year     = {2019},
  type     = {Masterarbeit},
  month    = {November}
}
up
KIP - Bibliothek
Im Neuenheimer Feld 227
Raum 3.402
69120 Heidelberg