Thèse Sciences Cognitives - Olivier Nerot

Recommendations

Info

172 Mémorisation par forçage des dynamiques chaotiques dans les modèles connexionnistes récurrents dynamique devait alors être presque reprise depuis le début, car le réseau quittait le régime que l’on voulait lui faire apprendre. TROISIEME PARTIE : RESULTATS Figure 7-31 : Variation des courbes d'écart Figure 7-32 : Début des variations lisses de L0
Mémorisation par forçage des dynamiques chaotiques dans les modèles connexionnistes récurrents C’est de cette façon que, presque systématiquement, lors des apprentissages que nous avons essayés, après une phase de décroissance régulière de l’erreur, celle-ci faisait un saut brusque, puis recommençait à décroître, jusqu’à la bifurcation suivante. Faut-il alors, lors de l’apprentissage, essayer de rester sur les variations lisses observées précédemment, ou au contraire essayer de faire varier les paramètres du réseau en le faisant passer d’un régime à l’autre ? Dans le premier cas, l’apprentissage est trop lent, et de toute façon il finit toujours par y avoir une bifurcation de la dynamique du système. Dans le second cas, il est impossible de prévoir l’effet qu’aura une modification du paramètre sur la dynamique du système. 7.3 Paramètres bifurquants Nous avons donc cherché à savoir quels étaient les paramètres ‘sensibles’ du réseau, afin d’orienter un peu les voies possibles de l’apprentissage. N’oublions pas en effet que l’étude préliminaire des dynamiques du réseau a pour objet de trouver un modèle qui puisse être chaotique lorsqu’il est forcé, par diffusion des perturbations induites dans le système, et dont on puisse modifier les dynamiques internes par apprentissage, pour les faire coïncider avec les dynamiques externes. Il était donc essentiel de savoir sur quels paramètres jouer dans nos modèles afin d’en modifier les dynamiques. 7.3.1 Variation du gain Ce paramètre correspond au gain b de la fonction neurone : b - x V e s( x) = 1+ e b - x V où V représente le nombre de neurones inclus dans le voisinage local. Il a déjà été démontré que ce paramètre est bifurquant pour des réseaux hopfieldiens avec ou sans délais [[40]][[43]], nous pouvons donc nous attendre à ce qu’il se révèle bifurquant pour des modèles plus complexes. 1. Dans un modèle à délais En reprenant le réseau étudié précédemment (1 Modèles à délai, p.151), nous avons cherché à observer l’évolution des attracteurs obtenus auparavant (Figure 7-9, p.152), pour de nouvelles valeurs de b. Ce gain est modifié pour l’ensemble des neurones du réseau, et est mis à la même valeur. Comme nous pouvions le prévoir, et conformément aux résultats déjà obtenus sur le sujet, il y a complexification des dynamiques individuelles avec l’augmentation du gain. Ce résultat est logique, car, l’augmentation du gain accroît la raideur de la fonction neurone. La non-linéarité neuronale est donc accentuée, augmentant donc la complexité des dynamiques. Nous n’avons pas étudié les propriétés des types de bifurcation observées, car cela n’était pas notre propos initial, mais, conformément aux études plus précises sur le sujet [[33]][[34]][[35]][[32]][[68]], plusieurs types de bifurcations sont , DYNAMIQUES OBSERVEES ET EXPERIMENTEES 173
Page 1:
THESE présentée en vue d’obteni
Page 5 and 6:
Mémorisation par forçage neuronal
Page 7 and 8:
Mémorisation par forçage des dyna
Page 9 and 10:
Page 11 and 12:
Page 13 and 14:
Page 15 and 16:
Page 17 and 18:
Page 19 and 20:
Page 21:
Page 24 and 25:
Page 26 and 27:
26 Mémorisation par forçage des d
Page 28 and 29:
Page 30 and 31:
Page 32 and 33:
Page 34 and 35:
Page 36 and 37:
Page 38 and 39:
Page 40 and 41:
Page 42 and 43:
Page 44 and 45:
Page 46 and 47:
Page 48 and 49:
Page 50 and 51:
Page 52 and 53:
Page 54 and 55:
Page 56 and 57:
Page 58 and 59:
Page 60 and 61:
Page 62 and 63:
Page 65 and 66:
Page 67 and 68:
Page 69 and 70:
Page 71 and 72:
Page 73 and 74:
Page 75 and 76:
Page 77 and 78:
Page 79 and 80:
Page 81 and 82:
Page 83 and 84:
Page 85 and 86:
Page 87 and 88:
Page 89 and 90:
Page 91 and 92:
Page 93 and 94:
Page 95 and 96:
Page 97 and 98:
Page 99 and 100:
Page 101 and 102:
Page 103 and 104:
Page 105 and 106:
Page 107 and 108:
Page 109 and 110:
Page 111 and 112:
Page 113 and 114:
Page 115 and 116:
Page 117 and 118:
Page 119 and 120:
Page 121 and 122: Mémorisation par forçage des dyna
Page 128 and 129: 128 Mémorisation par forçage des
Page 171: Mémorisation par forçage des dyna
Page 205: Mémorisation par forçage des dyna
Page 222 and 223:
Page 224 and 225:
Page 226 and 227:
Page 228 and 229:
show all

Thèse Sciences Cognitives - Olivier Nerot

Create successful ePaper yourself

Delete template?

Save as template?