Thèse Sciences Cognitives - Olivier Nerot

Mémorisation par forçage des dynamiques chaotiques dans les modèles connexionnistes récurrents
sortie, peut le faire, mais dès lors, l’apprentissage devient d’une trop grande complexité.
Il est impossible de connaître le gradient de l’erreur selon chacun des paramètres.
Il reste donc de nombreux problèmes à résoudre, dont on peut orienter la résolution
selon deux axes. Soit il est nécessaire de réaliser un prétraitement de l’information
extérieure, afin de la ramener à un encodage réalisable dans le réseau, soit il faut
améliorer le réseau afin de rendre les dynamiques de l’environnement anticipables sans
pré-traitement.
Faire découler la loi d’apprentissage de la fonction d’autonomie
Dans toute la thèse, nous avons admis que le stade où le système anticipe son
environnement, est celui où son autonomie est maximisée, car à ce stade, le système
simule en interne l’évolution de l’environnement, et l’influence des dynamiques externes
est effacée. De façon plus rigoureuse, il serait nécessaire de justifier cette équivalence,
afin de permettre la détermination exacte d’une règle d’apprentissage maximisant
l’autonomie du système. Ceci pourrait être une voie de recherche, complétant l’approche
où les lois dérivent d’une minimisation de l’erreur en sortie du système.
Changer le paramètre support d’information
Dans tous les cas étudiés, nous avons considéré que le paramètre qui supporte
l’information du réseau était l’intensité de sa sortie. Cette hypothèse, contraire aux
connaissances neurophysiologiques actuelles, a peut être été un facteur limitant. Ainsi, il
pourrait être intéréssant de chercher à faire porter l’information par les délais inter-spike.
Ceci est une voie de recherche potentielle, en accord avec l’utilisation de réseaux de
type integrate and fire.
Apprentissage on-line local de fonctions complexes.
Les seules fonctions qui ont pu être apprises par les règles d’apprentissage proposées
sont simples, assimilables à des sinusoïdes. Dès que ces fonctions deviennent plus
complexes, le réseau, dans les meilleurs cas, apprend une fonction périodique ‘proche’
du signal forçant. Dans le cas de l’apprentissage de fonctions chaotiques, les réseaux,
après une phase de perturbation résiduelle due au forçage, se stabilisent sur un cycle
limite. Faut-il alors penser que les règles d’apprentissage proposées sont limitées à
l’apprentissage d’une période et d’une phase, et ne peuvent réaliser un apprentissage
par-coeur que dans le cas d’une sinusoïde ? Dans ce cas, il serait souhaitable de réaliser
une sur-couche, transformant l’information extérieure en un ensemble de fonctions
périodiques.
Associer synchronisme et anticipation
De plus, nous avons postulé que l’apprentissage des dynamiques forçantes tend à
synchroniser les dynamiques de population neuronale. Ce résultat n’a pas été obtenu de
façon explicite, car nous pensions le chercher après l’obtention d’une règle
d’apprentissage valide. Les difficultés rencontrées pendant la recherche de cette règle
ne nous ont pas permis de passer à cette phase.
Peut-être alors faudrait-il chercher explicitement, dans la règle d’apprentissage, à
maximiser les synchronismes locaux, en vue de l’anticipation du signal forçant ? Alors
l’utilisation des catégories isochrones du réseau pourrait être intéressante.
Capacités de généralisation
CONCLUSION GENERALE ET PERSPECTIVES 211