Thèse Sciences Cognitives - Olivier Nerot

Mémorisation par forçage des dynamiques chaotiques dans les modèles connexionnistes récurrents
Ceci peut être une nouvelle voie de
recherche. En effet, la plupart des
apprentissages cherchent à descendre
un gradient, en cherchant un minimum
global, et sont limités par la
convergence du réseau vers des
minima locaux, considérés comme
parasites. Peut-être faudrait-il
considérer que le réseau se satisfait de
ces minima locaux, et que leur très
grand nombre permet d’en trouver au
moins un qui soit ‘suffisant’ ? Comme
nous l’avons dit, l’apprentissage
humain ne conduit pas à un rappel
parfait : le souvenir est simplement
‘satisfaisant’, et son évocation
reconstruit une configuration appauvrie
par rapport à celle obtenue pendant la
perception.
Nous chercherons donc à amener le
système vers des régimes alternant
rapidement des phases synchronisées
et des phases non-synchronisées.
Nous avons donc prolongé le tracé de
la carte de bifurcation du neurone
[96,12] pour de hautes valeurs de b
(Figure 7-40). Ces transitions
s’accélèrent bien, mais l’augmentation
de la raideur de la fonction neurone
accentue la saturation des neurones. Il
s’ensuit que les dynamiques tendent à
se geler, c’est à dire passent par des
phases de ‘bursting’, où la dynamique
sature, et devient chaotique par
bouffées périodiques(Figure 7-41).
Pour de très hautes valeurs de b, le
réseau se fige sur un point fixe. Il
existe donc une limite à l’accélération
des transitions entre les régimes. Cette
limite est certainement accentuée par
les limites de précision de la machine.
Figure 7-41 : Gel des dynamiques
En effet, pour de très hautes valeurs de b, la raideur de la fonction neurone est très
élevée, ce qui, pour une précision finie, échantillonne la valeur des sorties possibles du
réseau. Le nombre de configurations du réseau diminue donc, en augmentant alors ses
chances de stabilisation. On peut voir ce phénomène sur la Figure 7-41, où la sortie X(t)
semble être de plus en plus discrétisée quand b augmente.
Figure 7-40 : Diagramme de bifurcation à b élevé
DYNAMIQUES OBSERVEES ET EXPERIMENTEES 179