Thèse Sciences Cognitives - Olivier Nerot

Recommendations

Info

186 Mémorisation par forçage des dynamiques chaotiques dans les modèles connexionnistes récurrents 8.2 L’apprentissage Hebbien 8.2.1 Description Cet apprentissage est on-line et local et réalise, pour chaque neurone, un calcul du type dwij =h xx i j Dans le cadre de cette thèse, cette règle a été généralisée sous la forme, ce qui peut permettre d’éviter la symétrie dwij=dwji : dw = w si x > c et x > c ij 11 i j dw = w si x > c et x < c ij 10 i j dw = w si x < c et x > c ij 01 i j dw = w si x < c et x < c ij 00 i j 8.2.2 Résultats : Points fixes et fractalisation du réseau Figure 8-1 : Influence de l'apprentissage Hebbien sur les attracteurs Dans sa thèse intitulée ‘Apprentissage dans les réseaux neuromimétiques à dynamique chaotique’ [[32]], Mathias Quoy a montré clairement l’intérêt d’une règle hebbienne pour TROISIEME PARTIE : RESULTATS
Mémorisation par forçage des dynamiques chaotiques dans les modèles connexionnistes récurrents l’apprentissage dans des réseaux récurrents, et la plausibilité biologique de cette approche. Dans les deux cas (connexionniste et biologique), la dimension de l’attracteur cérébral diminue lors de la reconnaissance d’un stimulus 56 . Ainsi, l’application d’une règle hebbienne réalise cette diminution de la dimension fractale de l’attracteur du réseau. Malheureusement, un tel encodage ne peut pas être appliqué en permanence dans le réseau dans les cas où l’évolution des poids suit une loi symétrique telle que dwij = dw ji . En effet, une telle règle tend à symétriser les poids, et donc amène le réseau vers un point fixe. Ainsi, par exemple, en reprenant le réseau dont quelques attracteurs ont été tracés sur la Figure 7-2, qui est un réseau Hopfieldien classique (sans délai, ni mémoire), un apprentissage hebbien, avec w10=w01, modifie les attracteurs locaux (Figure 8-1). Mais si l’on continue ce même apprentissage, les attracteurs convergent tous vers un point fixe (Figure 8-2). De la même façon, les poids sont symétrisés dans un réseau à délais, amenant les dynamiques sur des points fixes. Figure 8-2 : Evolution de l'attracteur du neurone 3-0 Afin d’éviter cette symétrisation des poids, nous avons choisi des variations de poids évitant la saturation des neurones à 1 ou 0, et l’empêchant ainsi d’aller vers un point fixe. Dans ce but, nous avons fixé w11 à une valeur négative qui empêche les neurones de converger vers 1, et w00 à une valeur positive afin d’éviter sa convergence vers 0. De plus, en fixant w10 à une valeur positive, cela tend à diffuser dans le réseau les zones excitées. Dans un tel réseau, nous avons initialisé l’ensemble des poids et des états à zéro, puis nous avons forcé à 1 le carré central 16x16 d’un réseau 128x128. La Figure 8-3 montre l’état 56 Malgré la remise en cause de la validité des calculs de dimension fractale dans les attracteurs biologiques[[140]][[189]], nous pouvons considérer que les estimations de diminution de ces dimensions restent valides. ANTICIPATION DU FORÇAGE DES DYNAMIQUES 187
Page 1:
THESE présentée en vue d’obteni
Page 5 and 6:
Mémorisation par forçage neuronal
Page 7 and 8:
Mémorisation par forçage des dyna
Page 9 and 10:
Page 11 and 12:
Page 13 and 14:
Page 15 and 16:
Page 17 and 18:
Page 19 and 20:
Page 21:
Page 24 and 25:
Page 26 and 27:
26 Mémorisation par forçage des d
Page 28 and 29:
Page 30 and 31:
Page 32 and 33:
Page 34 and 35:
Page 36 and 37:
Page 38 and 39:
Page 40 and 41:
Page 42 and 43:
Page 44 and 45:
Page 46 and 47:
Page 48 and 49:
Page 50 and 51:
Page 52 and 53:
Page 54 and 55:
Page 56 and 57:
Page 58 and 59:
Page 60 and 61:
Page 62 and 63:
Page 65 and 66:
Page 67 and 68:
Page 69 and 70:
Page 71 and 72:
Page 73 and 74:
Page 75 and 76:
Page 77 and 78:
Page 79 and 80:
Page 81 and 82:
Page 83 and 84:
Page 85 and 86:
Page 87 and 88:
Page 89 and 90:
Page 91 and 92:
Page 93 and 94:
Page 95 and 96:
Page 97 and 98:
Page 99 and 100:
Page 101 and 102:
Page 103 and 104:
Page 105 and 106:
Page 107 and 108:
Page 109 and 110:
Page 111 and 112:
Page 113 and 114:
Page 115 and 116:
Page 117 and 118:
Page 119 and 120:
Page 121 and 122:
Page 123 and 124:
Page 125 and 126:
Page 128 and 129:
128 Mémorisation par forçage des
Page 130 and 131:
Page 132 and 133:
Page 134 and 135:
Page 136 and 137: 136 Mémorisation par forçage des
Page 140 and 141: Mémorisation par forçage des dyna
Page 185: Mémorisation par forçage des dyna
Page 205: Mémorisation par forçage des dyna
show all

Thèse Sciences Cognitives - Olivier Nerot

Create successful ePaper yourself

Delete template?

Save as template?