Neuronale Netze

dkriesel.com2.5 Technische Neuronen als Karikatur der BiologieMit 2 · 10 11 Neuronen gibt es Nervensysteme,die mehr Neuronen besitzenals die des Menschen: Hier seien Elephantenund bestimmte Walarten genannt.Bemerkung: Bereits mit der oben (sehrdünn) beschriebenen Rechenleistung einerFliege können unsere aktuellen Computerschon nicht mehr mithalten.2.5 Übergang zu technischenNeuronen: NeuronaleNetze sind eine Karikaturder BiologieWie kommen wir nun von den biologischenNeuronalen Netzen zu den technischen?Durch radikalste Vereinfachung. Hierzumöchte ich nun die für die technische Seiterelevanten Erkenntnisse noch einmal kurzzusammenfassen:Wir haben gesehen, dass die biologischenNeurone miteinander auf gewichtete Weisevernetzt sind und ihr Signal bei Reizungelektrisch über das Axon übertragen.Von dort gelangen sie aber nichtdirekt in die Nachfolgeneurone, sondernüberwinden erst den synaptischen Spalt,in dem das Signal durch variierbare chemischeVorgänge noch einmal verändertwird. Im empfangenden Neuron werdendann die vielen durch den synaptischenSpalt nachverarbeiteten Inputs zu einemImpuls zusammengefasst bzw. aufkumuliert.Je nachdem, wie sehr das Neurondurch den kumulierten Input gereizt wird,gibt es dann selbst einen Impuls ab, odernicht – der Output ist also nichtlinear, erist nicht etwa proportional zum kumuliertenInput. Unsere kurze Zusammenfassungentspricht nun genau den wenigen Faktorenbiologischer Neuronaler Netze, welchewir in die technische Approximation übernehmenwollen:Vektorieller Input: Der Input von technischenNeuronen hat viele Komponenten,ist also ein Vektor. In der Naturempfängt ein Neuron ja auch Impulsevon durchschnittlich 10 3 bis 10 4 anderenNeuronen.Skalarer Output: Der Output eines Neuronsist ein Skalar, hat also nur eineKomponente. Viele skalare Outputsbilden dann wieder einen vektoriellenInput eines anderen Neurons. Diesbedeutet insbesondere, dass irgendwoim Neuron die vielen Inputkomponentenso zusammengefasst werdenmüssen, dass nur eine Komponenteübrig bleibt.Synapsen verändern Input: Auch in technischenNeuronalen Netzen werdendie Inputs vorverarbeitet, nämlichmit einer Zahl (dem Gewicht) multipliziert– also gewichtet. Die Menge allerdieser synaptischen Gewichte stellen– sowohl im biologischen als auchim technischen Sinne – den Informationsspeicherdes neuronalen Netzesdar.Aufkumulieren der Inputs: In der Biologiewerden die Inputs nach der chemischenVeränderung zu einem Impulszusammengefasst, also aufkumuliertD. Kriesel – Ein kleiner Überblick über Neuronale Netze (EPSILON-DE) 33