Thèse Sciences Cognitives - Olivier Nerot

Recommendations

Info

164 Mémorisation par forçage des dynamiques chaotiques dans les modèles connexionnistes récurrents Ainsi, lorsqu’un site a été spécialisé (annexé à un site de forçage), il est plus difficile d’en modifier les dynamiques, mais, dès que cela a été réalisé, ses dynamiques deviennent dominantes, et diffusent dans la totalité du réseau. Il y a une forme de ‘fidélisation’ des sites à leur zone de forçage, et pour les faire ‘changer de camp’, il est nécessaire de les ‘persuader’ par un forçage de plus grande force. De cette façon, dans les réseaux où il y a diffusion des dynamiques, il est possible de spécialiser les neurones à un site. Dans le cas où il y a plusieurs sites, ces spécialisations définissent des modules affectés à chaque site de forçage. Malheureusement, chaque neurone n’est affecté qu’à un seul site : il n’y a pas d’interférence observable entre les dynamiques qui diffusent. Un tel réseau ne peut donc pas permettre d’observer la propriété d’association modulaire (5.2.3 Association multimodale des forçages, p.112), à moins que l’apprentissage ne permette de réaliser ces interférences, et fasse diffuser les modules les uns dans les Figure 7-22 : Apparition d'un vortex autres. Comme nous le verrons, un simple apprentissage hebbien peut réaliser ce type de modularisation dans un réseau forcé, avec une règle dont l’effet s’apparente un peu à celui d’une période réfractaire (8.2 L’apprentissage Hebbien, p.186). 2. Matrice de connexion aléatoire TYPE LOIS PARAMETRES Entrées "Î i S , x ( t= t ) = 1 Evolution T i i x ( t¹ t ) = 0 i i N i = å ij j j= 1 ht () wx() t - e si() t = 1+ e 10 i å i k= 0 bhi() t -bhi() t x () t = s( t-kSk ) ( ) TROISIEME PARTIE : RESULTATS N=8192 w = A ([ -a;] 1 ij ij S(0)=1 S(k>0)=-0,1 Afin de mesurer l’effet de la variation des poids, nous avons choisi des poids aléatoires, répartis uniformément entre -1 et 1, puis nous les avons ramenés dans un intervalle [-Wmin;1], Wmin>0, par projection de l’intervalle [-1;1] sur [-Wmin;1]. De cette façon, la configuration générale des poids est respectée, et seule change le taux de
Mémorisation par forçage des dynamiques chaotiques dans les modèles connexionnistes récurrents poids négatifs (de 0% pour a=0 à 50% pour a=1.0). La fonction de transfert en sortie est la même pour tous les neurones, et est égale à celle de l’expérience précédente. De la même façon que précédemment, un forçage à t=0 de l’un des sites, crée une perturbation qui diffuse dans la totalité du réseau, sous forme d’ondes. Lorsque les poids sont choisis aléatoirement dans [0;1] (Wmin=0), ces ondes diffusent de la même façon que précédemment, avec l’apparition d’un bruit additif sur les états des neurones. Lorsque l’on augmente un peu Wmin (Wmin=0.2), ce bruit augmente, et modifie légèrement la diffusion de l’onde. Plus Wmin est élevé, plus la perturbation de l’onde est grande. Pour Wmin=0,6, la perturbation de la diffusion est telle qu’elle empêche l’apparition de fronts d’ondes positives et négatives aux frontières nettes. Ce comportement semble logique, puisque dans le cas où Wmin=0, le réseau reste diffusant, et n’empêche donc pas la propagation de l’onde. Par contre le caractère aléatoire des Wij perturbe la diffusion de cette onde qui se retrouve donc bruite. En augmentant Wmin, se créent des forces de rétroaction négative, qui viennent contrarier la diffusion de l’onde, ce qui provoque un ralentissement de sa diffusion. L’ensemble de ces résultats est synthétisé sur la Figure 7-23, où sont représentés les états des sites qui ont été modifiés par le forçage initial. Les schémas ont été réalisés à la même échelle, ce qui montre le ralentissement de la diffusion lors de l’augmentation de Wmin. Dans le cas où Wmin = 0,6 une activité centrale semble émerger, qui fait saturer les sorties à +1 ou -1. En Figure 7-23 : Perturbation de la diffusion laissant évoluer le réseau, celui-ci entretient cette saturation centrale, tout en continuant à faire diffuser une activité bruitée autour du site de forçage. En laissant itérer le réseau, cette zone centrale de saturation diffuse et finit par être dominante : la totalité du réseau s’est organisée en zones d’activité cohérente. Ce résultat est à rapprocher de celui qui sera obtenu par un apprentissage hebbien nonsymétrique (8.2 L’apprentissage Hebbien, p.186). De la même façon, il y a diffusion bruitée de l’activité du site de forçage autour de ce site, avec apparition de zones cohérentes dont la plupart des neurones saturent. Contrairement au résultat obtenu avec l’apprentissage hebbien, qui finit par stabiliser la totalité du réseau sur un cycle +1/-1 pour tous les neurones, avec des frontières de déphasage figées, ici les frontières sont mobiles. Ces zones en phase sont de très grande dimension par rapport à la taille du voisinage (chaque neurone est connecté à ses huit plus proches voisins). Ainsi, dans un tel réseau, de grandes populations peuvent se mettre globalement en phase, avec, localement (à la frontière), des déphasages qui participent au déplacement des frontières des zones synchronisées. DYNAMIQUES OBSERVEES ET EXPERIMENTEES 165
Page 1:
THESE présentée en vue d’obteni
Page 5 and 6:
Mémorisation par forçage neuronal
Page 7 and 8:
Mémorisation par forçage des dyna
Page 9 and 10:
Page 11 and 12:
Page 13 and 14:
Page 15 and 16:
Page 17 and 18:
Page 19 and 20:
Page 21:
Page 24 and 25:
Page 26 and 27:
26 Mémorisation par forçage des d
Page 28 and 29:
Page 30 and 31:
Page 32 and 33:
Page 34 and 35:
Page 36 and 37:
Page 38 and 39:
Page 40 and 41:
Page 42 and 43:
Page 44 and 45:
Page 46 and 47:
Page 48 and 49:
Page 50 and 51:
Page 52 and 53:
Page 54 and 55:
Page 56 and 57:
Page 58 and 59:
Page 60 and 61:
Page 62 and 63:
Page 65 and 66:
Page 67 and 68:
Page 69 and 70:
Page 71 and 72:
Page 73 and 74:
Page 75 and 76:
Page 77 and 78:
Page 79 and 80:
Page 81 and 82:
Page 83 and 84:
Page 85 and 86:
Page 87 and 88:
Page 89 and 90:
Page 91 and 92:
Page 93 and 94:
Page 95 and 96:
Page 97 and 98:
Page 99 and 100:
Page 101 and 102:
Page 103 and 104:
Page 105 and 106:
Page 107 and 108:
Page 109 and 110:
Page 111 and 112:
Page 113 and 114: Mémorisation par forçage des dyna
Page 128 and 129: 128 Mémorisation par forçage des
Page 163: Mémorisation par forçage des dyna
Page 205: Mémorisation par forçage des dyna
Page 214 and 215:
214 Mémorisation par forçage des
Page 216 and 217:
Page 218 and 219:
Page 220 and 221:
Page 222 and 223:
Page 224 and 225:
Page 226 and 227:
Page 228 and 229:
show all

Thèse Sciences Cognitives - Olivier Nerot

Create successful ePaper yourself

Delete template?

Save as template?