Neuronale Netze - D. Kriesel

Ein 8-1-8-Netz funktioniert nicht mehr, da die Möglichkeit vorhanden sein muss, dass
die Ausgabe eines Neurons von einem anderen ausgeglichen wird, und bei nur einem
versteckten Neuron natürlich kein Ausgleichsneuron vorhanden ist.
SNIPE: Die statische Methode getEncoderSampleLesson der Klasse TrainingSampleLesson
erlaubt es, einfache Trainingsamples für derartige Encoderprobleme beliebiger Dimensionalität
zu generieren.
Übungsaufgaben
Aufgabe 8. Ein 2-15-15-2-MLP soll durch ein MLP mit nur einer einzigen verdeckten
Schicht, aber gleich vielen Gewichten ersetzt werden. Berechnen Sie, wieviele Neurone
dieses Netz in seiner verdeckten Schicht hat. Hinweis: Vergessen Sie das BIAS-Neuron
nicht.
Aufgabe 9. In Abb. 5.4 auf Seite 94 sehen Sie jeweils ein kleines Netz für die Booleschen
Funktionen AND und OR. Schreiben Sie Tabellen, die sämtliche Berechnungsgrößen
in den Neuronalen Netzen beinhalten (z.B. Netzeingabe, Aktivierungen, etc).
Exerzieren Sie die vier möglichen Eingaben der Netze durch und notieren Sie die Werte
dieser Größen für die jeweiligen Eingaben. Verfahren Sie in gleicher Weise für XOR-Netz
(Abb. 5.9 auf Seite 106).
Aufgabe 10.
1. Nennen Sie alle Booleschen Funktionen B 3 → B 1 , welche linear separierbar sind,
bzw. charakterisieren Sie sie genau.
2. Nennen Sie diejenigen, die es nicht sind, bzw. charakterisieren Sie sie genau.
Aufgabe 11. Ein einfaches 2-1-Netz soll mittels Backpropagation of Error und η = 0.1
mit einem einzigen Muster trainiert werden. Prüfen Sie, ob der Fehler
Err = Errp = 1
(t − y)2
2
konvergiert und wenn ja, zu welchem Wert. Wie sieht die Fehlerkurve aus? Das Muster
(p, t) sei definiert zu p = (p1, p2) = (0.3, 0.7) und tΩ = 0.4. Initialisieren Sie die
Gewichte zufällig im Intervall [1; −1].
Aufgabe 12. Ein einstufiges Perceptron mit zwei Inputneuronen, Biasneuron und
binärer Schwellenwertfunktion als Aktivierungsfunktion trennt den zweidimensionalen
Raum durch eine Gerade g in zwei Teile. Berechnen Sie für ein solches Perceptron