Darstellung und Analyse hydrologischer Topologien auf der Basis ...

2.4 Künstliche neuronale Netze 37
2.4.2 Dynamische Eigenschaften
Die Eingabe für ein neuronales Netz (U, W, A, O, NET , ex) mit den Eingabeneuronen {u 1 , . . . , u k } ⊆
U besteht aus einem Eingabevektor (x 1 , . . . , x k ) ∈ IR k , wobei jedem Eingabeneuron das korrespondierende
Element des Vektors als externe Eingabe zugewiesen wird:
∀i ∈ {1, . . . , k} : ex(u i ) = x i .
Anschließend können die Aktivierungen aller Neuronen des Netzes berechnet werden. Um sicherzustellen,
dass zum Zeitpunkt der Berechnung der Aktivierung eines jeden Neurons die Signale an
eingehenden Kanten bereits aktualisiert wurden, werden die Neuronen in Feedforward-Netzen in einer
festgelegten Reihenfolge besucht. Nachdem entsprechend dieser Reihenfolge alle Aktivierungen
aktualisiert wurden, repräsentieren die Ausgaben der Ausgabeneuronen {v 1 , . . . , v l } ⊆ U den Ausgabevektor
(y 1 , . . . , y l ) des Netzes (Abbildung 2.4):
∀i ∈ {1, . . . , l} : y i = O vi (a vi ).
Die Signalweiterleitung in neuronalen Netzen von der Eingabeschicht bis zur Ausgabeschicht wird
als Propagierung bezeichnet.
2.4.3 Lernen
Für viele neuronale Netze existieren so genannte Lernverfahren, mit Hilfe derer die Gewichte im Netz
gezielt angepasst werden können. Das Ziel dieser Anpassung ist es, die Gewichte so zu verändern,
dass das Netz auf bestimmte Eingaben mit bestimmten Ausgaben reagiert und auf diese Weise auch
auf neue, unbekannte Eingaben mit einer geeigneten Reaktion antwortet. Die Eingabe für Lernverfahren
besteht üblicherweise aus einer Lernaufgabe, welche aus einer endlichen Menge von Trainingsmustern
besteht. Jedes dieser Trainingsmuster besteht aus einem Eingabevektor (i 1 , . . . , i k ) und, im
Falle überwachter Lernaufgaben, einem zugehörigen Ausgabevektor (o 1 , . . . , o l ). Dieser Ausgabevektor
gibt die korrekte Anwort des neuronalen Netzes bei Eingabe des assoziierten Eingabevektors
an. Bei unüberwachten Lernaufgaben ist die korrekte Ausgabe des Netzes undefiniert.
Überwachte Lernaufgaben lassen sich weiter unterteilen in einfache und schwere Lernaufgaben. Bei
einfachen Lernaufgaben bestehen die Trainingsmuster aus Eingabevektoren und dazugehörigen korrekten
Aktivierungen für alle Neuronen. Im Fall von schweren Lernaufgaben sind innere Neuronen
vorhanden, jedoch nur die korrekten Aktivierungen der Ausgabeneuronen bekannt. Schwere Lernaufgaben
können weiter klassifiziert werden in Aufgaben mit variabler Netzwerkstruktur sowie Aufgaben
mit fixer Netzwerkstruktur. Im ersten Fall dürfen während des Lernverfahrens innere Neuronen hinzugefügt
oder entfernt sowie Änderungen an der Netzwerkstruktur vorgenommen werden. Bei Aufgaben
mit fixer Netzwerkstruktur dürfen lediglich Kantengewichte modifiziert werden (Abbildung 2.6).