Adaptive Modellierung und Simulation - Adaptive Systemarchitektur ...

RBF-Lernverfahren 2-35
Initialisierung ist also eine parallele (OFF-LINE) oder sequentielle (ON-LINE)
Clusteranalyse nötig. Für eine effiziente Initialisierung müssen wir nun unterscheiden,
ob die Trainingsdaten bekannt oder unbekannt sind.
• Bekannte Trainingsdaten
In diesem Fall können wir eine grobe, statistische Vorverarbeitung der Gesamtmenge
der Trainingsdaten durchführen. Dazu wird zuerst mit einem einfachen
Clustersuchalgorithmus (z.B. k-mean) eine Unterteilung der Daten in
Haufen (cluster) vorgenommen. Bei Klassifizierungsproblemen wird dies
durch die Annnahme der Existenz von Muster-Haufen gleicher Klassenzugehörigkeit
gerechtfertigt. Dann wird in wenigen Rechner-Minuten die Streuung
(Eigenwerte) der Cluster bestimmt und damit die Parameter M bzw. c und C
der dazu gehörenden Glockenfunktionen initialisiert.
Grundalgorithmus k-mean-Clusterung
Bei der k-mean-Clusterung werden Cluster aus einer Menge A von vorhandenen
Daten gebildet und schrittweise verfeinert. Dabei werden folgende Schritte
durchgeführt:
• Wähle m zufällige Muster xk ∈A als Clusterzentren ck, bilde Cluster Ck =
{ ck, }.
REPEAT
• Ordne alle xi ∈A zu den nächstgelegenen Clusterzentren zu: Suche cz so,
dass |xi-cz| = mink |xi-ck|, und füge xi zu Cz zu.
• Entferne alle Cluster mit |Ci| < 1
• Bilde für jedes Cluster k ein neues Zentrum ck = 〈x〉 als Mittelwert aller
Muster in Ck
UNTIL Iterationszahl > Max
• Unbekannte Trainingsdaten
Der einfachste Ansatz einer sequentiellen Clusteranalyse besteht darin, die initiale
Verteilung der Glockenfunktionen so zu wählen, dass der Raum der Eingabemuster
{x} entweder systematisch in periodischen Abständen durch die
Glockenfunktionen überdeckt wird. In Abb. 2.18 ist dieser Gedanke verdeutlicht.