Thèse Sciences Cognitives - Olivier Nerot

Recommendations

Info

Mémorisation par forçage des dynamiques chaotiques dans les modèles connexionnistes récurrents central du réseau pour t allant de 200 à 210. On voit, dans cette figure, le carré noir central (neurones à 1), et des sortes de ‘napperons’ qui diffusent lentement autour de la zone stimulée. Figure 8-3 : Diffusion de l'apprentissage. t=200 De plus, la zone qui diffuse peut être séparée en deux sous-zones. La première, qui entoure les axes de symétrie du carré central, contient des neurones qui ont atteint un cycle limite à deux états, 1 et 0, et dont les poids ont saturé vers leurs valeurs extrémales, +1 ou -1. La seconde zone, qui apparaît plus grisée sur la figure précédente, contient des neurones qui n’ont pas saturé à 1 ou 0, et dont les poids sont encore faibles et instables, passant rapidement d’une valeur positive à une valeur négative. Cette instabilité se remarque par la grande variabilité des figures qui apparaissent entre t et t+1. Figure 8-4 : Diffusion de l'apprentissage. t=600 Cette instabilité devient alors peu à peu irrégulière, et est comparable à un bruit qui continue à diffuser dans le réseau. Ainsi, par exemple, les zones grises de la Figure 8-4 , à t=600, apparaissent nettement moins organisées que celles de la Figure 8-3. Par contre, les bras des axes de symétrie du carré central continuent à diffuser, en entretenant les figures géométriques qu’ils produisent. (Figure 8-5). En laissant évoluer ainsi ce modèle, les bras finissent par emplir l’ensemble du réseau, en le menant finalement vers un cycle binaire, où les neurones oscillent entre 1 et 0 (Figure 8-6). Normalement, pour un carré parfait, l’organisation des zones à 1 et des zones à 0 devraient respecter les axes de symétrie du carré. Or, dans l’expérience réalisée ici, le carré central n’est pas uniformément égal à 1, certaines valeurs de sa frontière ayant été mises à 0,9. Ceci explique que l’état final vers lequel converge le réseau ne possède pas les quatre symétries du carré de forçage. 188 TROISIEME PARTIE : RESULTATS
Mémorisation par forçage des dynamiques chaotiques dans les modèles connexionnistes récurrents Figure 8-5 : Diffusion de l'apprentissage. t=800 Mais il est intéressant de noter sur le zoom de la figure ci-dessous, que les zones noires, qui représentent l’ensemble des neurones à 1, se désorganisent progressivement au fur et à mesure que l’on s’éloigne du centre de forçage, en perdant leur symétrie initiale. Ainsi, un tel réseau amplifie les différences initiales du carré, et peut permettre de voir une forme de sensibilité aux conditions initiales, en assimilant ces conditions initiales au pattern forçant le réseau. Figure 8-6 : Fractalisation d'un réseau. t=4000 Ce type de comportement est très encourageant pour la ligne de travail que nous nous sommes fixée en début de thèse. En effet, le comportement décrit précédemment contient deux propriétés caractéristiques de celles que nous souhaitions obtenir. La première est celle de la diffusion de l’information dans le réseau, plus facilement visualisable grâce au caractère strictement local des récurrences du réseau (chaque neurone est uniquement connecté à ses huit plus proches voisins). Un tel comportement nous permet d’espérer voir une modularisation fonctionnelle des réseaux utilisant des règles d’apprentissage dérivées de celle décrite ici. Selon ANTICIPATION DU FORÇAGE DES DYNAMIQUES 189
Page 1:
THESE présentée en vue d’obteni
Page 5 and 6:
Mémorisation par forçage neuronal
Page 7 and 8:
Mémorisation par forçage des dyna
Page 9 and 10:
Page 11 and 12:
Page 13 and 14:
Page 15 and 16:
Page 17 and 18:
Page 19 and 20:
Page 21:
Page 24 and 25:
Page 26 and 27:
26 Mémorisation par forçage des d
Page 28 and 29:
Page 30 and 31:
Page 32 and 33:
Page 34 and 35:
Page 36 and 37:
Page 38 and 39:
Page 40 and 41:
Page 42 and 43:
Page 44 and 45:
Page 46 and 47:
Page 48 and 49:
Page 50 and 51:
Page 52 and 53:
Page 54 and 55:
Page 56 and 57:
Page 58 and 59:
Page 60 and 61:
Page 62 and 63:
Page 65 and 66:
Page 67 and 68:
Page 69 and 70:
Page 71 and 72:
Page 73 and 74:
Page 75 and 76:
Page 77 and 78:
Page 79 and 80:
Page 81 and 82:
Page 83 and 84:
Page 85 and 86:
Page 87 and 88:
Page 89 and 90:
Page 91 and 92:
Page 93 and 94:
Page 95 and 96:
Page 97 and 98:
Page 99 and 100:
Page 101 and 102:
Page 103 and 104:
Page 105 and 106:
Page 107 and 108:
Page 109 and 110:
Page 111 and 112:
Page 113 and 114:
Page 115 and 116:
Page 117 and 118:
Page 119 and 120:
Page 121 and 122:
Page 123 and 124:
Page 125 and 126:
Page 128 and 129:
128 Mémorisation par forçage des
Page 130 and 131:
Page 132 and 133:
Page 134 and 135:
Page 136 and 137:
Page 138 and 139: 138 Mémorisation par forçage des
Page 140 and 141: Mémorisation par forçage des dyna
Page 187: Mémorisation par forçage des dyna
Page 205: Mémorisation par forçage des dyna
show all

Thèse Sciences Cognitives - Olivier Nerot

You also want an ePaper? Increase the reach of your titles

Delete template?

Save as template?