UNIVERSITA' DEGLI STUDI DI PAVIA - Robotica

quindi
mentre
2
∂f
( )
err ∂ ⎛ D j − d ⎞ j
= ⎜ ⎟ = −(
D j − d
∂y
j ∂y
⎜
j 2 ⎟
⎝ ⎠
∂y
∂I
j
j
∂
=
∂I
j
⎛ 1
⎜
⎝1+
e
81
−I
j
⎞
⎟ = y j
⎠
⋅(
1−
y
Ora è possibile scrivere l’equazione della variazione dei pesi in funzione
delle grandezze calcolate in precedenza, ottenendo:
∆ w = + η ⋅(
D − y ) ⋅ y ⋅(
1−
y ) ⋅ h
kj
Gli ultimi due passaggi cambiano leggermente se si considera di
parametrizzare l’esponenziale nella funzione sigmoide con un opportuno valore
β . In questo caso si ottiene:
∂y
∂I
j
j
∂ ⎛ 1
= ⎜ −
∂I
⎝1
+ e
j
j
β⋅I
j
j
⎞
⎟ = β ⋅ y j
⎠
j
j
j
)
⋅(
1−
y
e l’equazione che determina l’entità della variazione dei pesi diviene
∆ w = + η ⋅ β ⋅(
D − y ) ⋅ y ⋅(
1−
y ) ⋅h
4.5.4 Retropropagazione dell'errore
kj
Il termine Backpropagation si riferisce al metodo utilizzato per la modifica
dei pesi negli strati nascosti della rete, basato su una tecnica denominata, appunto,
retropropagazione dell'errore. Anche questa tecnica è stata ricavata applicando
alcune semplici regole matematiche alle equazioni che caratterizzano una rete
neurale. In particolare si è partiti da
j
∂f
∆w1 jk = −η
⋅
∂w1
j
j
err
jk
j
j
j
)
j
)
j