Thèse Sciences Cognitives - Olivier Nerot

Mémorisation par forçage des dynamiques chaotiques dans les modèles connexionnistes récurrents
approche est que l’enfant ne peut pas découvrir les comportements du système bicyclette, loin des
états d’équilibre, puisqu’il est systématiquement ramené à l’équilibre ! Si le forçage est total,
l’enfant ne réalise aucune erreur, et son apprentissage sera faible. Pour éviter ceci, il est possible
de lâcher le vélo de temps à autre, afin que l’enfant, lancé sur une bonne trajectoire, puisse
continuer seul, et apprendre ses erreurs. Dans ce cas, l’enfant apprend à contrôler un système
dynamique simplifié, dont la connaissance est suffisante pour maintenir un vélo en équilibre.
Pour réaliser ce dernier type d’apprentissage, Toomarian et Bahren proposent de contrôler
le degré de forçage en fonction de l’erreur : si le vélo commence à tomber, il faut le retenir
fermement, et si l’enfant apprend bien, on peut le lâcher doucement. Il s’agit là plus d’un forçage
de l’environnement : le but dans ce cas est de faire apprendre au système un environnement
simplifié, dont la connaissance est suffisante pour le maintien de l’équilibre appris.
Nous postulerons dans cette thèse, contrairement à l’approche précédente, que le forçage
est total à l’échelle du neurone : l’information externe remplace l’activité du neurone. Ce que le
réseau cherche à réaliser, c’est simplement d’être seul à l’origine de la modification des
dynamiques durant la perception. Par contre, il peut y avoir simplification de l’environnement.
L’idée du forçage est une idée simple qui, curieusement, n’est utilisé que depuis peu de
temps. Il est pourtant possible de voir et de justifier son rôle sur plusieurs plans : psychologique,
biologique, et théorique. L’ensemble de ces justifications permettent de penser que nos neurones
sont forcés par les dynamiques de notre environnement, et qu’ils tendent à minimiser l’influence
de cette perturbation en cherchant à l’anticiper. Ainsi, le forçage, ou Teacher-Forcing, ne sera pas
vu comme une méthode connexionniste améliorant l’apprentissage dans les réseaux récurrents, ni
comme un principe de simplification de l’environnement, mais comme l’un des principes même de
la perception de notre environnement : l’environnement force nos dynamiques internes.
Nous tenterons de justifier cette hypothèse par les différents résultats suivants, qui portent
à la fois sur des expériences psychologiques, des résultats neurophysiologiques, ou des
considérations théoriques.
1. Complexification des dynamiques
Cette hypothèse du forçage peut permettre de comprendre comment les dynamiques
du système neuronal se complexifient lors de la perception [[218]], ce qui a permis
d’interpréter le chaos neuronal comme un filtre de nouveauté, ou un état de non
reconnaissance (p.53).
Prenons le cas d’un système simple, constitué d’un ressort délivrant une force
restituable non linéaire 34 , et d’une masse (Figure 5-2) : si l’autre extrémité du ressort est
forcée par une dynamique périodique de faible intensité, la masse peut se stabiliser sur
un cycle limite simple, par exemple sur un attracteur de période 1. Si l’on augmente
l’intensité de ce forçage, l’orbite précédente devient instable, amenant le système sur un
attracteur de période 2. En continuant ainsi, et à partir d’une certaine intensité critique de
forçage, les dynamiques du système deviennent chaotiques.
Ainsi, les systèmes ‘ressort+masse’ et ‘signal de forçage’ peuvent être vus comme
des systèmes dont les régimes libres sont simples. Et dès que l’environnement est perçu
(c’est à dire qu’il modifie les dynamiques du système percevant), à partir d’une certaine
34 Signifie que la constante de raideur du ressort est fonction de son allongement.
UN MODELE CONNEXIONNISTE DE LA MEMOIRE 99