Thèse Sciences Cognitives - Olivier Nerot

Mémorisation par forçage des dynamiques chaotiques dans les modèles connexionnistes récurrents
1
y= f( x)
= -b( wx-q)
1+
e
Il est possible de définir l’entropie de l’état d’un neurone par
¥
ò
-¥
x 2 x
H( x) = p ( x).log p ( x). dx
La modification de cette entropie, lors du passage par la fonction neurone f, donne :
H( y) = H( x) + H ( x)
avec H ( x) = p ( x).log f ¢ ( x). dx
trans
trans
¥
ò
-¥
x
2
Si l’on cherche alors à maximiser Htrans, ce qui revient à maximiser H(y) pour un x donné,
et donc à maximiser l’entropie de sortie d’un neurone, il est possible de modifier les paramètres q
et w de la fonction f, par :
Soit, après calculs :
d H
et
dt
dw
q
H
a a
q dt w
= =
trans trans
d
y et
dt
dw
q
æ 1
1 ö
= 2ab(
- 2)
= aç + b(
x-2 xy)
÷ , avec pour u=f(x), u = u x px x dx
dt è w ø
ò ( ). ( ).
L’intérêt de ce calcul est de faire apparaître dans l’apprentissage sur les poids, un terme
en xy, qui rapproche une telle évolution de celle d’un apprentissage hebbien. Ainsi, le rôle d’un
apprentissage hebbien peut être de maximiser l’entropie informationnelle de sortie des neurones.
4.4 Descente du gradient de l’erreur
L’algorithme de rétropropagation du
gradient permet de faire apprendre à un
réseau de neurones feed-forward
multicouches des associations entrée-sortie.
Dans cette architecture, l’information ne se
propage que dans un sens, de l’entrée vers
la sortie, confortant un peu plus le paradigme
de boucle perception-action. Une telle
architecture, de type perceptron
multicouches, ne peut pas produire de sortie
dynamique sans posséder de rétroaction
dans son architecture.
L’algorithme de rétropropagation du
gradient fut ensuite généralisé aux
Figure 4-1 : Partition des neurones
architectures récurrentes, tout d’abord pour
l’apprentissage de points fixes, puis en vue de l’apprentissage de séries temporelles. Nous
APPRENTISSAGE DANS LES RESEAUX RECURRENTS 81
¥
-¥