Thèse Sciences Cognitives - Olivier Nerot

Mémorisation par forçage des dynamiques chaotiques dans les modèles connexionnistes récurrents
l’influence de la perturbation induite. Ainsi, il n’est pas possible de mettre en application l’idée
d’une reconnaissance par anticipation du signal forçant (5.2 Principes , p.98).
Il est donc nécessaire ,dans un premier temps, de se tourner vers les règles à descente de
gradient, afin de minimiser l’écart entre la dynamique du réseau et le signal de forçage extérieur.
Malheureusement, comme nous l’avons déjà vu, les seules règles développées à ce jour réalisant
cette descente de gradient sont soit non on-line, soit non locales, et perdent donc toute plausibilité
biologique. Il sera donc nécessaire, dans les règles qui suivent, de perdre la possibilité de calcul
d’un gradient exact, en les rendant on-line et locales.
8.3.1 Description
La rétropropagation du gradient revient à faire parcourir à l’envers les erreurs réalisées
par les sorties du réseau, afin de modifier à posteriori les poids synaptiques. Un tel comportement
peut être plausible, puisqu’il existe bien dans le neurone biologique une transmission d’information
du soma vers la synapse. Par contre, BPTT mémorise le passé du réseau afin de déterminer le
gradient de l’erreur à chaque itération passée : il est donc off-line.
Qu’en est-il si cet algorithme est rendu artificiellement on-line ?
La première idée proposée fut de ne pas mémoriser les états passés du réseau, de
laisser diffuser à l’envers l’erreur dans le réseau, et d’effectuer l’apprentissage sur l’erreur locale
ainsi calculée (Figure 8-8).
Figure 8-8 : Rétropropagation de l'erreur
Cette méthode est similaire à celle utilisée par BPTT, ou par la rétropropagation, qui
consiste à faire circuler à l’envers l’erreur des neurones de sortie. Ici, la sortie est représentée par
le neurone que l’on veut forcer. La différence principale porte sur la conservation de la valeur des
erreurs, à chaque itération. En effet, contrairement à BPTT, où l’apprentissage est réalisé tous les
T itérations, et réinitialise à 0 les erreurs du réseau, dans le cas présenté ici, T vaut 1, et les
erreurs ne sont par réinitialisées, afin de permettre leur diffusion dans le réseau. A chaque
itération, le réseau propage à l’envers cette erreur aux neurones voisins. Dans le cas où il s’agit
d’un réseau à mémoire, il est possible de s’inspirer de l’algorithme de Wan [[207]], qui a généralisé
l’algorithme de rétropropagation du gradient aux réseaux multicouches feed-forward. Sa méthode
consiste à convoluer le vecteur erreur avec le vecteur poids (Figure 8-9).
ANTICIPATION DU FORÇAGE DES DYNAMIQUES 191