nouveaux resultats theoriques concernant les cartes topologiques 1

More documents

Recommendations

Info

Bulletin d’information des Laboratoires Centraux de Thomson CSF, décembre 19921 IntroductionL’algorithme d’auto-organisation de Kohonen (Kohonen,1984) est un algorithme dequantication vectorielle possédant d’intéressantes propriétés de conservation de latopologie. Cet algorithme, également connu sous le nom d’algorithme des cartestopologiques, a été mis en œuvre dans diverses applications (Burel,1991 ; Burel &Pottier,1991 ; Hemani,1990 ; Martinelli,1990). Toutefois, il a été très peu étudié d’un pointde vue théorique (Kohonen,1984), ce qui limite son usage par les chercheurs de formation“Traitement du Signal”.Nous présentons de nouveaux résultats théoriques qui aident à la compréhension despropriétés de l’algorithme de Kohonen, et nous proposons des algorithmes équivalents,plus proches des algorithmes classiquement utilisés en traitement du signal.L’article est organisé comme suit. L’algorithme des cartes topologiques et les algorithmestraditionnels de quantication vectorielle sont rappelés dans les sections 2 et 3. Dans lasection 4, une analyse de l’état d’équilibre des cartes topologiques nous conduira à proposerun nouvel algorithme : VQN (Vector Quantization with Neighbourhood), plus proche desalgorithmes classiques, mais possédant les mêmes propriétés topologiques que l’algorithmede Kohonen. Dans le section 5, nous montrons que, sous une condition d’organisationsufsante, l’algorithme de Kohonen et VQN minimisent une fonction de Lyapounov.Ensuite, nous proposerons une légère modication de ces algorithmes, qui permet delever la condition. Enn, dans la section 6, nous présentons des résultats expérimentauxobtenus sur des données image. Nous comparons notamment la convergence des différentsalgorithmes présentés dans l’article.2 L’algorithme des Cartes Topologiques de Kohonen(KH)Le modèle des cartes topologiques est inspiré d’une structure neuronale présente danscertaines aires corticales (g 1). Les neurones sont organisés en couches, et, à l’intérieur dechaque couche, chaque neurone émet des connexions excitatrices vers ses voisins les plusproches, et des connexions inhibitrices vers les neurones plus éloignés. Tous les neuronesrecoivent les mêmes entrées.Kohonen a simulé le comportement de ce type de structure, et a montré qu’il peut êtreapproximé par l’algorithme suivant. Considérons un réseau de M neurones, et notons K2
Bulletin d’information des Laboratoires Centraux de Thomson CSF, décembre 1992sortiesentreesFIG. 1: Le modèle des cartes topologiques (1D)le nombre d’entrées, et x [x 1 x 2 x K ] T un vecteur d’entrée. Les vecteurs d’entréesont extraits d’un ensemble d’apprentissage A. Cet ensemble contient cardA vecteurs.Chaque neurone est caractérisé par un vecteur de poids W j [W 1 j W Kj ] T ,où j est lenuméro du neurone. En réponse à un vecteur d’entrée x, le neurone pour lequel la distancequadratique W j x 2 est minimale est appelé neurone vainqueur. Nous noterons O j lasortie du neurone j :O j W j x 2 KW ij x i 2i1L’algorithme d’apprentissage est le suivant (t est l’indice d’itération et T le nombre totald’itérations) :1. t 0Initialisation des vecteurs poids W 1 W 2 W M 2. n 1Choix aléatoire d’une permutation de l’ensemble 1 2cardA3. Présentation du vecteur xn en entrée.4. Calcul des sorties des neurones : O j5. Determination du vainqueur (neurone k quialaplusfaiblesortie)6. Modication des poids : W j jk t[x W j ] (1)3
Page 1: Bulletin d’information des Labora
Page 5 and 6: Bulletin d’information des Labora
Page 25: Bulletin d’information des Labora

nouveaux resultats theoriques concernant les cartes topologiques 1

Create successful ePaper yourself

Delete template?

Save as template?