Thèse Sciences Cognitives - Olivier Nerot

190
Mémorisation par forçage des dynamiques chaotiques dans les modèles connexionnistes récurrents
le même principe, la modification du réseau se fera préférentiellement dans la direction des poids
forts, mais ici, comme la règle d’apprentissage ne tient pas compte de la valeur des wij, ce
phénomène est plutôt dû au fait que les poids forts facilitent l’activité des neurones, et accélèrent
donc la modification de leurs poids. On retrouve donc le même principe de modularisation, mais
selon un principe différent. La seconde caractéristique est que cette modularisation fonctionnelle
ne se fait pas par des modules possédant une hiérarchie simple et localisée autour des entrées du
réseau. Il est en effet possible de voir que les zones ayant saturé à 1 ou 0 s’organisent en paysage
qualifiable de fractal, fait de méandres plus ou moins fins. Afin de mettre en évidence ce
comportement, nous avons réalisé un filtrage passe-bas de l’état du réseau, qui permet de mettre
mieux en valeur ces zones connexes de méandres. Un tel résultat est à rapprocher de ceux
portant sur les cartes topologiques des spécialisations neuronales.
Le premier résultat auquel fait penser
cette organisation a été obtenu par Hubel &
Wiesel[[100]]. Sur la Figure 8-7 a été tracé la
surface du cortex d’un macaque, avec, en noir,
l’ensemble des neurones qui répondent
spécifiquement à la stimulation d’un même
oeil. Il est possible de voir que la spécialisation
neuronale observée suit le même type de
figure que celles obtenues par un simple
apprentissage hebbien. Le second résultat à
rapprocher est celui obtenu par Weliky & al.
[[212]], qui ont décrit de façon systématique
les zones de l’aire 17 du cortex visuel primaire
répondant sélectivement à l’orientation du
stimulus visuel : il y a, de la même façon, une
Figure 8-7 : Paysage des spécificités neuronales
interpénétration des zones de réponse préférentielle à chacune des orientations. Nous postulerons
donc que ce type d’organisation de la fonctionnalité des neurones suit le même principe d’une
segmentation complexe du paysage neuronal, due à l’apprentissage, et non pas causée par une
pré-spécialisation neuronale. Nous chercherons donc à utiliser des règles pouvant, de la même
façon, ‘fractaliser’ l’organisation fonctionnelle de l’architecture neuronale.
Une autre remarque vient s’ajouter à celles ci, qui confirme l’idée de l’utilisation d’une
période réfractaire. En effet, l’utilisation d’un w11 de valeur négative, oblige le neurone qui a saturé
à 1 à diminuer son coefficient de rétroaction wii , et donc d’évoluer vers un neurone à forte
rétroaction négative. Ainsi, un neurone qui sature voit son état diminuer jusqu’à ce que sa sortie
soit ramenée à zéro. Ceci peut être interprété sous forme d’une fatigue du neurone, qui peut
correspondre d’une certaine façon à une période réfractaire. On peut voir dès lors un lien entre
modularisation fonctionnelle ‘fractalisée’, période réfractaire et règle d’apprentissage hebbienne.
8.3 Diffusion de l'erreur dans le réseau
Bien que la règle présentée précédemment soit intéressante pour notre approche, car elle
permet la diffusion de l’apprentissage dans le réseau, et peut donc permettre une modularisation
fonctionnelle en créant des zones aux frontières complexes, elle présente un défaut qui nous
limite dans son utilisation : elle ne cherche pas à anticiper le signal forçant, et donc à minimiser
TROISIEME PARTIE : RESULTATS