"Sieci neuronowe we wspomaganiu rozwiÄ zywania ... - IPPT PAN

3.2. Sieci neuronowe
3.2.1. Wprowadzenie
W sieciach neuronowych przetwarzanie informacji odbywa się w sposób lokalny,
poprzez realizowanie elementarnych procesów, czyli poprzez neurony. Pierwowzorem
matematycznego modelu neuronu jest jego biologiczny odpowiednik. Dokładne działanie
biologicznego neuronu nie jest do końca zbadane, więc wszystkie modele matematyczne są w
pewnym sensie próbą przybliżonego odwzorowania działania biologicznego neuronu. Jednym
z pierwszych modeli neuronów jest zaproponowany w 1943 roku model McCulloch-Pittsa
[38]. Przyjmuje on neuron jako jednostkę binarną. Model neurony przedstawiony został na
rysunku 3.2.
Rys. 3.2 Model neuronu.
Istota działania tego modelu polega na sumowania sygnałów wejściowych x przemnożonych
przez wartości wag w . Otrzymana suma iloczynów ϕ nazywana jest potencjałem
membranowym, to poprzez analogie z biologicznym neuronem. Działanie matematycznego
motelu neuronu wyrazić można jako:
N
∑
T
ϕ = x * w = x * w ,
i=
1
i
i
x = [ x , x
1
w = [ w , w
1
2
,..., x ],
2
i
,..., w ].
Ostatni etap to działanie funkcji aktywacji f , dla której argumentem jest właśnie potencjał
membranowy. Otrzymana wartość jest sygnałem wyjściowym neuronu y . W neuronie
McCulloch-Pittsa jako funkcję aktywacji f zaproponowano funkcję progową, wyrażoną
i
wzorem:
f
⎧1,
= ⎨
⎩0,
ϕ > p
ϕ < p
.
Stosowane są również modelu neuronów z innymi funkcjami aktywacji. Najpopularniejszą
z nich jest funkcja sigmoidalna.
W ogólnym przypadku można przyjąć, że neuron realizuje pewne nieliniowe odwzorowanie
n : X → Y . X reprezentuje tu przestrzeń wejść, a Y przestrzeń wyjść. Rodzaj odwzorowania
i przestrzeni zależy od problemu i funkcji, jaką realizuje dany neuron. Najczęściej przyjmuje
33