(CONNECT) Timo Gierlich und Dr. Mihai A. Petrovici von der NeuroTMA-Forschungsgruppe der Universität Bern haben einen neuen Lernmechanismus für gehirninspirierte Netzwerke entwickelt. Dafür arbeiteten sie mit Forschenden der Universität Heidelberg und des Okinawa Institute of Science and Technology zusammen.
Ihre Methode, die sie Spike-based Alignment Learning (SAL) nennen, nutzt laut einer Mitteilung zufällige Schwankungen in der Aktivität künstlicher Nervenzellen, um asymmetrische Verbindungen erkennbar zu machen. Das erlaubt weit voneinander entfernten Synapsen, sich selbstständig aufeinander abzustimmen, ohne direkt miteinander zu kommunizieren. Stattdessen nutzen sie ausschliesslich Informationen, die an der Synapse selbst verfügbar sind. Der Ansatz könnte dazu beitragen, Lernprozesse im Gehirn besser zu verstehen und robuste, energieeffiziente gehirninspirierte Computersysteme zu entwickeln. Ihre Studie ist nun in der Fachzeitschrift „Nature Communications“ erschienen.
Die neue Methode nutzt das sogenannte Rauschen, kleine zufällige Schwankungen der Signale, um zu erkennen, welche Verbindungen im Netzwerk noch nicht gut aufeinander abgestimmt sind, also „Lernbedarf“ haben. „Rauschen gilt in technischen Systemen meist als Störfaktor“, wird Doktorand und Studien-Erstautor Gierlich zitiert. „In unserem Ansatz liefert es aber genau die Variation, aus der das Netzwerk Informationen über seine Verbindungen gewinnen kann.“
Damit hat das Team eine Alternative zur sogenannten Fehler-Rückpropagation geschaffen. „Unser Ziel ist nicht, Fehler-Rückpropagation auf herkömmlichen Computern zu ersetzen“, so Petrovici. „Wir wollen verstehen, wie ein Netzwerk auch dann leistungsfähig lernen kann, wenn jede Verbindung nur die Informationen nutzt, die direkt an ihrem eigenen Ort verfügbar sind. Das ermöglicht den Entwurf neuartiger Rechenarchitekturen, die ohne den Transport grosser Informationsmengen über lange Strecken auskommen, und dadurch ein Vielfaches an Geschwindigkeit und Energieeffizienz gewinnen.“
Die Forschenden testeten SAL in verschiedenen künstlichen Netzwerken – von gehirnähnlichen Modellen bis zur Bilderkennung. In allen Fällen gelang es SAL, die benötigten Verbindungen zuverlässig aufeinander abzustimmen, obwohl jede Verbindung nur Informationen aus ihrer unmittelbaren Umgebung verwendete.
SAL könnte insbesondere für neuromorphes Computing interessant sein, dessen Funktionsweise sich am Gehirn orientiert. Die Forschenden nennen als mögliche künftige Anwendungen unter anderem intelligente Sensoren und tragbare Geräte, die auch dann zuverlässig funktionieren, wenn sich ihre Bauteile oder ihre Umgebung verändern. ce/mm