KIP-Veröffentlichungen

Jahr 2021
Autor(en) Markus Kreft
Titel Input-Induced Dynamical States in Homeostatically Regulated Neuromorphic Recurrent Neural Networks
KIP-Nummer HD-KIP 21-38
KIP-Gruppe(n) F9
Dokumentart Masterarbeit
Keywords (angezeigt) neuromorphic computing, neural networks, homeostasis
Abstract (de)

Die Verarbeitung von Informationen mit rekurrenten spikenden neuronalen Netzwerken ist sowohl für die Neurowissenschaft, als auch für neuartige Rechenansätze mit Computern von Interesse. Die Verbindungen zwischen den Neuronen in solchen Netzwerken bestimmen deren Dynamik und Funktionsweise. Präzise Kontrolle dieser Verbindungen ist eine akute Herausforderung. In dieser Arbeit wird eine lokale homöostatische Plastizitätsregel verwendet, die die synaptischen Gewichte auf Grundlage der Feuerraten einzelner Neuronen reguliert, um stabile Netzwerkaktivität zu erreichen. Unter diesen Umständen kann der dynamische Zustand, charakterisiert durch die Autokorrelationszeit, über die Stärke der Koppelung an externen Input gesteuert werden.
Netzwerke wurden auf dem neuromorphen Hardware System BSS-2 implementiert, was schnelle und effiziente Emulation ermöglicht. Als Referenz wurden die gleichen Netzwerke auch mit numerischen Rechnungen simuliert. Für beide Implementierungen wurde die gleiche qualitative Kontrolle über die Netzwerkdynamik beobachtet. Im Rahmen des Reservoir Computing wurde das spikende Netzwerk um einen Linearen Readout erweitert und für Klassifikationsaufgaben genutzt. Der Aufbau wurde mit verschiedenen spikenden Datensätzen untersucht. Besonders wurde der Einfluss des dynamischen Zustands im Reservoir auf die Klassifikation, nach dem Prinzip des Critical Computing, betrachtet.

Abstract (en)

Information processing in recurrent spiking neural networks is of interest to both neuroscience and novel approaches to computation. The synaptic connections between neurons in these networks determine their dynamics and function. Precise control of the connections poses an acute challenge. This thesis leverages a local homeostatic plasticity rule that regulates synaptic weights based on single neuron spike rates to achieve stable network activity. In this setting the coupling strength of the network to external input allows control over the specific dynamical regime as characterised by the autocorrelation time.
Networks were implemented on the BSS-2 neuromorphic hardware system that enables fast and efficient emulation. For reference, the networks were also simulated with numerical methods. The same kind of qualitative control of network dynamics was found for both implementations. In a reservoir computing setting the spiking network was extended with a linear readout for classification tasks. This setup was analysed with various spiking datasets. Specifically, the impact of different dynamical states in the reservoir on classification performance was observed, following the general guiding principle of critical computing.


bibtex
@mastersthesis{kreft2021msc,
  author   = {Markus Kreft},
  title    = {Input-Induced Dynamical States in Homeostatically Regulated Neuromorphic Recurrent Neural Networks},
  school   = {Heidelberg University},
  year     = {2021},
  type     = {Master Thesis}
}
Datei pdf
KIP - Bibliothek
Im Neuenheimer Feld 227
Raum 3.402
69120 Heidelberg