Thèse Sciences Cognitives - Olivier Nerot

Mémorisation par forçage des dynamiques chaotiques dans les modèles connexionnistes récurrents
5.3.2 Pour l'architecture
5.3.3 Bilan
1. Récurrence locale
Afin d’observer un comportement dynamique libre, à partir de neurones sans
dynamique propre, il est nécessaire que l’architecture soit récurrente, afin de créer des
rétroactions qui les entretiennent. Plusieurs résultats nous encouragèrent à limiter ces
récurrences à un proche voisinage neuronal.
Tout d’abord, la thèse de Bruno Cessac [[32]] montre que les propriétés dynamiques d’un
réseau récurrent sont conservées, même pour de très faibles taux de connections
récurrentes. D’autre part, la majorité des connections synaptiques d’un neurone
biologique sont contenues dans un cube d’un centimètre de coté.
De plus, la notion de récurrence locale permet d’interpréter la transmission d’information
en termes de diffusions dans le réseau, car il existe une notion de distance entre deux
neurones du réseau. Dans un réseau totalement récurrent, tous les neurones sont à une
distance 1 les uns des autres : aucune diffusion n’est observable. Cette architecture offre
donc la possibilité de vérifier le principe de modularisation fonctionnelle autour des sites
de forçage.
Dans plusieurs de nos réseaux, cette diffusion est très visible (Figure 7-21 Figure 7-22
Figure 7-23 p.163).
2. Séquentiel ou parallèle
Il s’est posé le choix du mode d’itération, séquentiel ou parallèle. Dans le cas
séquentiel, à chaque itération, un seul neurone évolue, choisi au hasard, ou appartenant
à une liste pré-établie ; dans le cas parallèle, l’ensemble des neurones du réseau
modifient leur état en même temps.
Bien qu’il existe des résultats montrant que ces deux règles d’itérations n’engendrent pas
le même type de comportement, nous nous sommes limités à l’étude du mode parallèle
pour trois raisons. La première est une simple considération biologique : il n’existe pas
d’évidence biologique d’une désynchronisation des itérations neuronales. La deuxième
tient aux temps de calculs. Comme nous comptions simuler le plus grand nombre
possible de neurones dans un seul réseau, nous avons utilisé l’ordinateur parallèle du
TIMC, qui itère tous ses processeurs en parallèle. Désynchroniser les itérations
neuronales aurait compliquer et ralenti encore les calculs. Et enfin, comme nous nous
intéressions aux dynamiques de populations neuronales, à leurs synchronismes locaux, il
était essentiel de voir les dynamiques évoluer en parallèle.
Ainsi, nous nous sommes restreints à l’étude de dynamiques neuronales à itérations
synchrones.
Le modèle de neurone utilisé, en vue de l’obtention des propriétés présentées dans le
modèle théorique de mémoire, sera donc, dans le cas le plus général, du type de celui présenté
dans la Figure 5-14.
UN MODELE CONNEXIONNISTE DE LA MEMOIRE 123