Thèse Sciences Cognitives - Olivier Nerot

Mémorisation par forçage des dynamiques chaotiques dans les modèles connexionnistes récurrents
vecteur. Cette hypothèse fut d’ailleurs vérifiée biologiquement dans le cadre d’exercices
de pointage, où les vecteurs des décharges qui précèdent un mouvement du bras vers le
bas et vers la droite s’orientent dans la même direction (Figure 2-3, d’après A.
Georgopoulos).
Ce nouveau type d’encodage représente une deuxième phase, et possède plusieurs
avantages:
à Une plus grande finesse de représentation :
Dans le cas d’un encodage scalaire, il est par exemple possible de mémoriser N faits
booléens dans N mémoires binaires. Dans le cas d’un encodage vectoriel, il est possible
d’encoder l’état d’une variable à 2 N états. Ceci ne représente pas un gain en mémoire,
mais permet de voir un continuum dans la représentation d’une donnée.
à Robustesse de l’information :
Un concept étant représenté par un vecteur, une erreur sur l’une de ses composantes ne
détruit pas toute l’information, et il est possible dans certains cas de retrouver l’information
bruitée.
à Notion de flou, d’approximation :
Comme le nombre d’état d’une variable est plus élevé, et que de plus il est possible de lui
associer une représentation graphique (sous forme d’hypercube dans le cas de variables
d’état binaires), la notion de flou devient naturelle : un vecteur pris au hasard dans l’espace
d’état est plus ou moins proche des vecteurs déjà appris.
Mais, même dans ce cadre de l’encodage vectoriel, il faut toujours atteindre l’unique
solution, encodée par un état du système correspondant à un point fixe. Or, la plupart de
l’information que l’on souhaite traiter est dynamique : reconnaissance d’un son, filtrage,
contrôle de systèmes dynamiques. L’une des premières idées consiste à procéder à un
pré-traitement des données dynamiques pour les rendre statiques, en prenant la
transformée de Fourier d’un signal par exemple, ou en mettant sous forme vectorielle les
états successifs d’une variable dynamique.
Les problèmes posés par une telle approche sont de plusieurs types. Tout d’abord, la
donnée encodée n’étant plus de même nature que la donnée réelle, le filtrage doit
prédéterminer l’information pertinente. Ceci convient lors d’une approche industrielle du
problème, où l’on souhaite exclusivement vérifier de façon quantifiable le respect d’une
propriété requise dans le cahier des charges. Cette même approche ne peut pas être
respectée dans un travail de modélisation, puisqu’il est souhaité que le modèle partage
le maximum de propriétés avec le système réel. Il est donc préférable de minimiser a
priori tout choix prédéterminant l‘information pertinente. Autre problème, l’approche
connexionniste a souvent justifié ses architectures en comparant ses temps de réponses
à ceux des systèmes réels : temps de reconnaissance d’un visage, temps de rappel
d’information, et a négligé l’observation des échecs en rappel ou en reconnaissance des
systèmes réels : il est possible de ne pas reconnaître un visage connu, ou d’avoir un mot
`sur le bout de la langue’. Pourtant, ce phénomène est caractéristique des systèmes
réels, et il n’est pas rare que la solution survienne quand on s’y attend le moins,
quelques heures après que la question ait été posée. Ceci montre que la solution peut
subsister dans le système pendant longtemps, et que les temps de réponse de 300ms
pour une reconnaissance, qui justifièrent l’approche connexionniste, peuvent être à
l’origine de sa remise en cause.
ENCODAGE DYNAMIQUE, MEMOIRE ET CHAOS 27