Thèse Sciences Cognitives - Olivier Nerot

Mémorisation par forçage des dynamiques chaotiques dans les modèles connexionnistes récurrents
8. ANTICIPATION DU FORÇAGE DES DYNAMIQUES
La mémoire procède à un calcul musical, un calcul prophétique.
Edgard Allan Poe. Eureka
8.1 Introduction : Un algorithme on-line local ?
Comme cela a été exposé précédemment au sujet des algorithmes d’apprentissage
utilisés pour les réseaux récurrents, il suffirait que l’un d’entre eux soit on-line et local, pour qu’il
soit biologiquement plausible. Nous avons donc essayé de modifier ces algorithmes, en faisant
une approximation de localité dans RTRL, ou en limitant la mémorisation nécessaire à BPTT.
Dans les deux cas, de tels algorithmes peuvent encore être efficaces pour des fonctions simples
telles que des sinusoïdes. Ainsi, ces algorithmes simplifiés permettent des apprentissages dont les
résultats sont similaires à ceux obtenus avec les algorithmes originaux. En effet, dans la plupart
des articles traitant de ces algorithmes, seules des fonctions simples sont apprises, et les valident
[[153]]. Nous avons essayé, sans succès, de faire apprendre une dynamique de Lorenz à un
réseau de 64 neurones, entièrement interconnectés, grâce à un apprentissage de type RTRL On
peut en conclure que l’algorithme original RTRL réalise des approximations qui limitent ses
capacités, sans trop nuire à l’apprentissage de fonctions simples. A ce jour, peu de réseaux
récurrents ont appris de façon satisfaisante des dynamiques complexes. A notre connaissance,
nous pouvons citer [[207]], qui, grâce à un réseau multicouches récurrent à mémoire, a pu faire
apprendre la géométrie de l’attracteur de Lorenz. Dans [[128]], un simple réseau à 16 neurones
réussit à apprendre une fonction de Hénon, et dans [[132]], un réseau récurrent à fonction radiale
reproduit une dynamique de Mackey-Glass. Dans chacun des cas, le temps d’apprentissage est
très long (de l’ordre du million d’itérations), et le choix des paramètres d’apprentissage est fait de
façon expérimentale : un observateur extérieur doit adapter les gains d’apprentissage afin de
permettre un apprentissage satisfaisant.
Les expériences portant sur l’apprentissage, réalisées dans cette thèse, ne permirent pas
l’apprentissage de fonctions chaotiques, ce qui aurait permis de valider l’hypothèse d’un
apprentissage par anticipation d’environnements complexes forçant les dynamiques du système,
grâce à un algorithme on-line local, biologiquement plausible. A chaque fois, l’algorithme se
limitait à anticiper des fonctions simples. Mais, comme ce fut le cas lors de l’expérimentation des
dynamiques, des propriétés mises en évidence pendant l’apprentissage permettent de penser que
certains phénomènes observables dans les systèmes réels peuvent provenir de lois similaires, et
ont inspiré le développement du modèle théorique.
ANTICIPATION DU FORÇAGE DES DYNAMIQUES 185