Thèse Sciences Cognitives - Olivier Nerot

168
Mémorisation par forçage des dynamiques chaotiques dans les modèles connexionnistes récurrents
x ( t+ dt) = ( - dt) x () t + dt. F( X (), t X (),..., t X ()) t
i 1 i 1 2 N
Ce type de réseau est un intermédiaire entre le modèle continu et le modèle discret, et
nous offre en effet des dynamiques plus lisses. Mais quel dt choisir ? Pour un taux de
discrétisation faible, on approche le modèle continu, mais les équations du réseau deviennent
presque linéaires, amenant les dynamiques du réseau vers des points fixes. Et, pour un taux trop
élevé, on se ramène au cas discret, où les dynamiques ne sont plus lisses. De tels comportements
ont été étudiés par Renals [[164]] qui a mis en évidence le caractère bifurquant de dt.
1. Caractère bifurquant du gain
Figure 7-27 : avec pente de 43/64
Pour deux conditions initiales proches, sont tracées les dynamiques des quatres neurones
grisés de la matrice 8x8 des neurones. Après une phase de sensibilité aux conditions initiales,
les dynamiques se stabilisent sur le même attracteur, avec un déphasage.
Dans les réseaux simulés, nous avons en général pris dt=0,1 et avons augmenté la
pente de la fonction neurone. Nous nous sommes rendus compte qu’il était difficile de
savoir sur quel régime allait se stabiliser le réseau, même en prenant de fortes valeurs
pour cette pente. En prenant un réseau de 64 neurones, à différences finies, à poids
aléatoires, et, en augmentant la pente de la fonction neurone, nous avons facilement pu
obtenir des comportements qui nous semblaient chaotiques. Afin de le vérifier, nous
avons cherché à observer la dépendance aux conditions initiales de ce réseau. Nous
avons en effet rapidement pensé être face à comportement chaotique du réseau,
puisqu’une variation de 10 -8 des conditions initiales faisait diverger les dynamiques du
réseau (Figure 7-27). Mais, après cette phase chaotique, les deux réseaux se
TROISIEME PARTIE : RESULTATS