Synaptic Learning for Neuromorphic Vision - Processing Address Events with Spiking Neural Networks

Das Gehirn ubertrifft herkommliche Computerarchitekturen in Bezug auf Energieeffizienz, Robustheit und Anpassungsfahigkeit. Diese Aspekte sind auch fur neue Technologien wichtig. Es lohnt sich daher, zu untersuchen, welche biologischen Prozesse das Gehirn zu Berechnungen befahigen und wie sie in Silizium umgesetzt werden konnen. Um sich davon inspirieren zu lassen, wie das Gehirn Berechnungen durchfuhrt, ist ein Paradigmenwechsel im Vergleich zu herkommlichen Computerarchitekturen erforderlich. Tatsachlich besteht das Gehirn aus Nervenzellen, Neuronen genannt, die uber Synapsen miteinander verbunden sind und selbstorganisierte Netzwerke bilden. Neuronen und Synapsen sind komplexe dynamische Systeme, die durch biochemische und elektrische Reaktionen gesteuert werden. Infolgedessen konnen sie ihre Berechnungen nur auf lokale Informationen stutzen. Zusatzlich kommunizieren Neuronen untereinander mit kurzen elektrischen Impulsen, den so genannten Spikes, die sich uber Synapsen bewegen. Computational Neuroscientists versuchen, diese Berechnungen mit spikenden neuronalen Netzen zu modellieren. Wenn sie auf dedizierter neuromorpher Hardware implementiert werden, konnen spikende neuronale Netze wie das Gehirn schnelle, energieeffiziente Berechnungen durchfuhren. Bis vor kurzem waren die Vorteile dieser Technologie aufgrund des Mangels an funktionellen Methoden zur Programmierung von spikenden neuronalen Netzen begrenzt. Lernen ist ein Paradigma fur die Programmierung von spikenden neuronalen Netzen, bei dem sich Neuronen selbst zu funktionalen Netzen organisieren. Wie im Gehirn basiert das Lernen in neuromorpher Hardware auf synaptischer Plastizitat. Synaptische Plastizitatsregeln charakterisieren Gewichtsaktualisierungen im Hinblick auf Informationen, die lokal an der Synapse anliegen. Das Lernen geschieht also kontinuierlich und online, wahrend sensorischer Input in das Netzwerk gestreamt wird. Herkommliche tiefe neuronale Netze werden ublicherweise durch Gradientenabstieg trainiert. Die durch die biologische Lerndynamik auferlegten Einschrankungen verhindern jedoch die Verwendung der konventionellen Backpropagation zur Berechnung der Gradienten. Beispielsweise behindern kontinuierliche Aktualisierungen den synchronen Wechsel zwischen Vorwarts- und Ruckwartsphasen. Daruber hinaus verhindern Gedachtnisbeschrankungen, dass die Geschichte der neuronalen Aktivitat im Neuron gespeichert wird, so dass Verfahren wie Backpropagation-Through-Time nicht moglich sind. Neuartige Losungen fur diese Probleme wurden von Computational Neuroscientists innerhalb des Zeitrahmens dieser Arbeit vorgeschlagen. In dieser Arbeit werden spikende neuronaler Netzwerke entwickelt, um Aufgaben der visuomotorischen Neurorobotik zu losen. In der Tat entwickelten sich biologische neuronale Netze ursprunglich zur Steuerung des Korpers. Die Robotik stellt also den kunstlichen Korper fur das kunstliche Gehirn zur Verfugung. Auf der einen Seite tragt diese Arbeit zu den gegenwartigen Bemuhungen um das Verstandnis des Gehirns bei, indem sie schwierige Closed-Loop-Benchmarks liefert, ahnlich dem, was dem biologischen Gehirn widerfahrt. Auf der anderen Seite werden neue Wege zur Losung traditioneller Robotik Probleme vorgestellt, die auf vom Gehirn inspirierten Paradigmen basieren. Die Forschung wird in zwei Schritten durchgefuhrt. Zunachst werden vielversprechende synaptische Plastizitatsregeln identifiziert und mit ereignisbasierten Vision-Benchmarks aus der realen Welt verglichen. Zweitens werden neuartige Methoden zur Abbildung visueller Reprasentationen auf motorische Befehle vorgestellt. Neuromorphe visuelle Sensoren stellen einen wichtigen Schritt auf dem Weg zu hirninspirierten Paradigmen dar. Im Gegensatz zu herkommlichen Kameras senden diese Sensoren Adressereignisse aus, die lokalen Anderungen der Lichtintensitat entsprechen. Das ereignisbasierte Paradigma ermoglicht eine energieeffiziente und schnelle Bildverarbeitung, erfordert aber die Ableitung neuer asynchroner Algorithmen. Spikende neuronale Netze stellen eine Untergruppe von asynchronen Algorithmen dar, die vom Gehirn inspiriert und fur neuromorphe Hardwaretechnologie geeignet sind. In enger Zusammenarbeit mit Computational Neuroscientists werden erfolgreiche Methoden zum Erlernen raumlich-zeitlicher Abstraktionen aus der Adressereignisdarstellung berichtet. Es wird gezeigt, dass Top-Down-Regeln der synaptischen Plastizitat, die zur Optimierung einer objektiven Funktion abgeleitet wurden, die Bottom-Up-Regeln ubertreffen, die allein auf Beobachtungen im Gehirn basieren. Mit dieser Einsicht wird eine neue synaptische Plastizitatsregel namens "Deep Continuous Local Learning" eingefuhrt, die derzeit den neuesten Stand der Technik bei ereignisbasierten Vision-Benchmarks erreicht. Diese Regel wurde wahrend eines Aufenthalts an der Universitat von Kalifornien, Irvine, gemeinsam abgeleitet, implementiert und evaluiert. Im zweiten Teil dieser Arbeit wird der visuomotorische Kreis geschlossen, indem die gelernten visuellen Reprasentationen auf motorische Befehle abgebildet werden. Drei Ansatze werden diskutiert, um ein visuomotorisches Mapping zu erhalten: manuelle Kopplung, Belohnungs-Kopplung und Minimierung des Vorhersagefehlers. Es wird gezeigt, wie diese Ansatze, welche als synaptische Plastizitatsregeln implementiert sind, verwendet werden konnen, um einfache Strategien und Bewegungen zu lernen. Diese Arbeit ebnet den Weg zur Integration von hirninspirierten Berechnungsparadigmen in das Gebiet der Robotik. Es wird sogar prognostiziert, dass Fortschritte in den neuromorphen Technologien und bei den Plastizitatsregeln die Entwicklung von Hochleistungs-Lernrobotern mit geringem Energieverbrauch ermoglicht.