KIP-Veröffentlichungen

Inspiriert von den herausragenden Eigenschaften des menschlichen Gehirns haben die Bereiche maschinelles Lernen, computergestützte Neurowissenschaften und neuromorphes Rechnen im letzten Jahrzehnt signifikante synergistische Fortschritte erzielt. Leistungsstarke neuronale Netzwerkmodelle, die auf maschinellem Lernen basieren, wurden als Modelle für die Neurowissenschaften und für die Anwendung in der neuromorphen Elektronik vorgeschlagen. Jedoch wird der Aspekt der Robustheit bei diesen Modellen häufig vernachlässigt. Sowohl biologische als auch technische Substrate weisen verschiedene Mängel auf, die die Leistung von Rechenmodellen beeinträchtigen oder deren Implementierung sogar verhindern. Diese Arbeit beschreibt drei Projekte, die darauf abzielen, robustes Lernen mit lokalen Lernregeln in neuronalen Netzen zu implementieren. Zuerst präsentieren wir eine Implementierung der spike-basierten Bayes’schen Inferenz auf beschleunigter neuromorpher Hardware. Durch Lernen schafft das Model die störenden Auswirkungen der unpräzisen Hardware zu kompensieren, während es von der Beschleunigung der Hardware profitiert. Zweitens zeigen wir die Vorteile neuromorpher Berechnungen in einer Pilotstudie an einem Prototyp-Chip. Dabei quantifizieren wir die Geschwindigkeit und den Energieverbrauch des Systems im Vergleich zu einer Softwaresimulation und zeigen, wie On-Chip-Lernen zur Robustheit des Lernens beiträgt. Schließlich präsentieren wir ein robustes Modell für tiefes bestärkendes Lernen unter Verwendung lokaler Lernregeln. Es zeigt, wie Backpropagation in Kombination mit Neuromodulation in einem biologisch plausiblen Rahmen implementiert werden kann. Die Ergebnisse tragen zur Entwicklung robuster und leistungsfähiger Lernnetzwerke für biologische und neuromorphe Substrate bei. 

Inspired by the remarkable properties of the human brain, the fields of machine learning, computational neuroscience and neuromorphic engineering have achieved significant synergistic progress in the last decade. Powerful neural network models rooted in machine learning have been proposed as models for neuroscience and for applications in neuromorphic engineering. However, the aspect of robustness is often neglected in these models. Both biological and engineered substrates show diverse imperfections that deteriorate the performance of computation models or even prohibit their implementation. This thesis describes three projects aiming at implementing robust learning with local plasticity rules in neural networks. First, we demonstrate the advantages of neuromorphic computations in a pilot study on a prototype chip. Thereby, we quantify the speed and energy consumption of the system compared to a software simulation and show how on-chip learning contributes to the robustness of learning. Second, we present an implementation of spike-based Bayesian inference on accelerated neuromorphic hardware. The model copes, via learning, with the disruptive effects of the imperfect substrate and benefits from the acceleration. Finally, we present a robust model of deep reinforcement learning using local learning rules. It shows how backpropagation combined with neuromodulation could be implemented in a biologically plausible framework. The results contribute to the pursuit of robust and powerful learning networks for biological and neuromorphic substrates.