Lernverfahren von Künstlichen Neuronalen Netzwerken

2.5 Vergleich mit biologischen Netzen 2,6
Wie schon erwähnt sind KNN sehr stark (nach Meinung vieler Neurobiologen zu stark) idealisierte Modelle von
komplexen biologischen Netzen. Das Wesentliche ist jedoch in beiden Systemen gleich.
Folgende Ähnlichkeiten konnten bei KNN beibehalten werden:
- Neuronen Die Elemente in KNN sind relativ einfach im Vergleich mit dem Gesamtsystem. Die Informationsverarbeitung
entspricht der eines biologischen Neurons.
- Massive Parallelität Die Datenverarbeitung erfolgt parallel, d.h. die Aufgabe wird auf viele Neuronen
aufgeteilt, nicht wie bei serieller Datenverarbeitung, wo die Befehle von einem zentralen Prozessor nacheinander
abgearbeitet werden.
Auch ist jedes Neuron mit relativ vielen anderen Neuronen verbunden. Bei anderen Datenverarbeitungssystemen
ist die Kommunikation zwischen den Hardwarekomponenten viel geringer.
- Gerichtete Verbindungen Verbindungen übertragen den Grad der Aktivierung und werden in biologischen
Netzen, je nach dem ob sie vor oder nach der Synapse liegen, Axone oder Dendriten genannt. Die
Funktion ist aber genau die gleiche.
- Gewichte Heute nimmt man an, dass die gesamte Informationsspeicherung in den Synapsen stattfindet.
Auch die Lern- und Anpassungsfähigkeit des Gehirns wird nur durch die Variabilität der Synapsenstärken
ermöglicht. Synapsen entsprechen grob den Gewichten bei KNN, weil Aktionspotentiale von verschiedenen
Synapsen ein Neuron verschieden anregen können. Es gibt auch hemmende Synapsen, welche Gewichten mit
negativem Vorzeichen entsprechen.
- Hebbsche Lernregel Schon früh erkannte man, dass im Gehirn die Verbindung zwischen zwei Neuronen
gestärkt wird, wenn sie gleichzeitig aktiv sind. Diese Lernregel wurde von Hebb auf KNN übertragen. Von
der Hebbschen Lernregel sind dann viele weitere Lernalgorithmen abgeleitet worden.
- Assoziativspeicher Informationen werden im Gehirn nicht wie beim Computer mit Hilfe von Adressen
gespeichert, mit denen man die Daten wieder findet, sondern assoziativ. Auch KNN wurden schon erfolgreich
als Assoziativspeicher benutzt.
Daneben gibt es aber auch viele Aspekte, die von den meisten Modellen nicht berücksichtigt werden und der
Vereinfachung zum Opfer fallen mussten:
- Anzahl der Neuronen und Verbindungen Die Zahl der Neuronen in unserem Gehirn wird auf etwa
10 11 geschätzt, bei Simulationen werden aber nur etwa 10 2 bis 10 4 Neuronen verwendet. Es ist anzunehmen,
dass sich viele Fähigkeiten erst mit einer grösseren Anzahl von Neuronen realisieren lassen. Auch die Anzahl
der Verbindungen pro Neuron sind in biologischen Systemen viel höher als bei Simulationen.
- Amplitudenmodulation statt Frequenzmodulation Bei biologischen Systemen ist ein Signal stärker,
wenn die Frequenz der ankommenden Aktionspotentiale grösser ist. Eine solche Modulation ist nötig, weil
Nervenfasern Information binär übertragen. Im Gegensatz dazu verwenden KNN eine sog. Amplitudenmodulation
und können somit mit einem numerischen Aktivierungswert arbeiten. Synapsen lassen sich dann als
Faktoren interpretieren, welche diesen Aktivierungswert ändern. Es ist noch unerforscht, ob Frequenzmodulation
entscheidende Vorteile gegenüber der heute verwendeten Informationsübertragung bringt. Einige neuere
Modelle, die pulscodierte Verfahren verwenden, erbrachten bisher für technische Anwendungen keine Vorteile,
hatten aber einen viel höheren Simulationsaufwand zur Folge.
10