Conception des modèles d'observation audio temps réel à l ... - atiam

2.5 Approches Filter 132.5 Approches FilterLes approches de types filter sont les premières réponses qui ont été donnéesau problème de sélection des descripteurs. Les scores attribués aux descripteurssont calculés à partir de la base d’entraînement, et les manières decalculer ce score diffèrent selon les algorithmes. Les critères usuels se basentsur des critères issus de la théorie de l’information ou sur la corrélation.D’autres algorithmes calculent les scores en se basant sur des notions de voisinage.Les filters ont l’avantage de nécessiter peu de calculs. Cependant ilssouffrent de limites théoriques connues, que nous donneront après avoir présentéles algorithmes que nous avons utilisé pour nos expérimentations.Gain d’information L’une des stratégies permettant d’attribuer des scoresaux descripteurs consiste à mesurer le gain d’information de chacun des descripteurspar rapport à la classe. La notion de gain d’information est issuede la théorie de l’information, initiée par Claude Shannon à la fin des annéesquarante. Pour une classe c et un descripteur i, le gain d’information de i parrapport à c est :G(i,c) = H(c) − H(c|i)H(c) est l’entropie de c et H(c|i) est l’entropie conditionnelle de c sachant i.Cette méthode destinée à donner un ordre entre les descripteurs est basée surun critère naïf, mais elle demande peu de calculs.Ratio du gain d’information Son calcul consiste à diviser le gain d’informationpar l’entropie associée au descripteur. Comme le gain d’information,c’est un critère dont le calcul est rapide. Pour une classe c et un descripteur i,le ratio du gain d’information de i par rapport à c est :R(i,c) =H(c) − H(c|i)H(i)ReliefF Il s’agit ([19], [26]) d’une amélioration de l’algorithme Relief (proposédans [17], puis analysé et discuté dans [12]). Relief traite uniquementles problèmes de classification binaires. Son principe est d’estimer le mérited’un descripteur selon sa capacité à permettre de séparer les instances éloignéesles unes des autres. À chaque tour dans la boucle principale de l’algorithme unvecteur de la base d’entraînement est tiré au hasard et ses deux plus prochesvoisins dans chaque classe sont identifiés. Le mérite de chaque descripteurest alors mis à jour. Si le vecteur tiré au hasard et son plus proche voisin dansla même classe ont des valeurs différentes pour un descripteur, ce descripteurne permet pas de distinguer deux vecteurs de la même classe et son score estdiminué. Si le vecteur et son plus proche voisin dans l’autre classe ont desvaleurs différentes pour un descripteur, ce descripteur permet de distinguerdeux vecteurs de classes différentes et son score est augmenté.Avec ReliefF, Kononenko généralise Relief pour son utilisation dans desproblèmes multi-classes. Il modifie également l’algorithme de manière à neplus considérer seulement les voisins les plus proches appartenant à chaque