Thèse Sciences Cognitives - Olivier Nerot

116
Mémorisation par forçage des dynamiques chaotiques dans les modèles connexionnistes récurrents
tandis qu’une erreur élevée diffusera plus loin sa perturbation dans le réseau, en
annexant un plus grand nombre de neurones. De cette façon, une dynamique difficile à
apprendre (complexe pour le réseau), diffusera plus loin dans le réseau, en créant donc
un apprentissage plus profond dans le système 44 .
Figure 5-11 : Modularisation par l'erreur
La propagation de l’erreur étant proportionnelle à son intensité, au fur et à mesure que le
réseau apprend à anticiper le site de forçage, le module modifié par l’apprentissage voit sa
taille diminuer. De cette façon, lorsque le site de forçage est devenu autonome, des neurones
se retrouvent spécialisés dans l’anticipation du site.
De la même façon, un tel système cherche à apprendre par cœur ce qui est
prédictible dans le signal par la seule connaissance de ce signal. Puis la perturbation
résiduelle diffusera en permanence dans le réseau, entretenue par l’écart entre
l’information perçue et l’information anticipée (Figure 5-11). De cette façon, elle
modifiera les dynamiques de neurones éloignés de la zone de forçage, en permettant
peut-être à ces zones de créer une association avec un autre site de forçage, qui peut
rendre le premier signal anticipable, car les deux forçages peuvent être liés causalement
dans l’environnement : la connaissance de l’un amène une information supplémentaire
pour l’anticipation de l’autre. Il y a mise en commun des perturbations résiduelles pour
maximiser l’anticipation de chacune. De cette façon, il y a annexion automatique du
nombre de neurones nécessaires à la réalisation d’une tâche. En supposant que le
réseau est assez grand pour pouvoir affecter autant de neurones que nécessaire à
l’anticipation d’un forçage, il est envisageable que le réseau puisse s’adapter de façon
autonome à la tâche.
Le même phénomène s’observe sur un plan neurophysiologique : il a été montré
récemment qu’il y a activation des aires primaires visuelles chez les aveugles lisant du
braille [[168]]. Il se crée donc une imagerie mentale de la lecture, suite à l’annexion des
neurones peu stimulés des aires visuelles. La spécialisation neuronale provient alors
d’un autre site de forçage, celui provenant de la sensation tactile.
44 Ce type de comportement est commun à presque tous les modèles connexionnistes classiques, où l’erreur
est rétropagée dans le réseau. Cette constatation n’est donc pas nouvelle, mais ne peut être mise clairement
en évidence que dans de grands réseaux, à voisinage local.
DEUXIEME PARTIE : DEVELOPPEMENT