traitement d'images par modèles discrets sur ... - Olivier Lezoray

94 Chapitre 3 - Classification de données d’images par apprentissage
➌ Décodage global par algorithme évolutionnaire A partir des différents schémas de
décomposition de la littérature et nos propositions, nous pouvons globalement faire le classement
suivant de leur performances : DDAG ≤ ADAG ≤ Décodage direct ≤ ODAG ≤ Décodage
par stacking. On voit donc que pour améliorer les performances des schémas de décodage, cela
nous amène à prendre en compte le fait que les classificateurs utilisés ne sont pas parfaits et
voire même que certains sont parfois non pertinents pour une classification donnée. Jusqu’à présent,
toutes les méthodes de la littérature (y compris les nôtres) partent du principe naturel que
pour concevoir un schéma multi-classes performant, chacune des fonctions de décision binaires
doit être la plus performante possible. C’est ce qui est mis en avant dans les travaux de Rifkin
[RIFKIN04] qui montre que si les classificateurs binaires sont bien optimisés, des schémas de
décomposition et de décodage différents amènent souvent à des résultats proches. C’est également
ce que nous avons pu constater dans nos travaux. Cependant, les schémas de décodage par
apprentissage permettent pourtant d’améliorer les performances, ce qui laisse supposer qu’une
autre voie est possible. Ceci nous a amené à nous poser la question suivante : produit-on le
meilleur schéma multi-classes possible en combinant les meilleurs classificateurs binaires
A priori rien ne peut garantir le fait que combiner les fonctions de décision binaires les plus performantes
performantes permette de produire le meilleur schéma de décodage exploitant cellesci.
Il suffit de considérer le principe du boosting [SCHAPI03] pour se persuader du contraire : on
peut produire un schéma de classification performant à partir de plusieurs classificateurs faibles.
Nous nous sommes alors proposés de vérifier ce fait expérimentalement afin de produire des
contre-exemples au triptyque habituel à savoir 1) Décomposition 2) Optimisation des classificateurs
binaires 3) Décodage. Pour cela, nous avons cherché à optimiser globalement le problème
multi-classes par décomposition. Cela revient à effectuer une sélection de modèle globale car
l’optimisation d’un classificateur binaire n’est plus effectuée par rapport à ses seules performances
en généralisation mais par rapport aux performances en généralisation de l’ensemble du
schéma multi-classes. Une telle optimisation globale est un problème difficile car l’espace des
modèles potentiels à tester est très grand. Nous avons donc choisi une méta-heuristique à base
d’algorithme évolutionnaire pour effectuer cette sélection globale de modèle. Nous ne détaillons
pas ici sa mise en oeuvre [LEBRUN06, 53]. Nous avons fixé le schéma de décodage comme étant
un décodage direct par la méthode de Price pour une décomposition un-contre-un. Le tableau
3.11 présente les résultats que nous avons obtenus sur plusieurs bases avec deux schémas de
décomposition différents.
un-contre-tous un-contre-un
Base n c ē ∆ē ē ∆ē
Satimage 6 11,6±1,0% +0,1% 11,8 ± 1,0% -0,0%
USPS 10 8,5±1,6% -0,3% 8,4±1,6% -0,5%
Letter 26 19,7±1,8% -2,4% 18,6±2,1% -2,8%
TAB. 3.11 – Taux d’erreur moyen ē et écart type ∆ē des valeurs estimées de e par validation
croisée avec une sélection de modèles par algorithme évolutionnaire.
La colonne ∆ē correspond à l’écart entre la sélection de modèle global par algorithme évolutionnaire
et une sélection de modèle classique (une indépendante par fonction de décision
binaire). Les classificateur binaires sont ici des SVM. Les résultats illustrent bien qu’une sélection
multi-modèle est plus performante qu’une sélection classique et cet effet s’accentue lorsque
le nombre de classes augmente. Ces résultats remettent totalement en question le triptyque habituel
de la conception d’un schéma multi-classes de combinaison de classificateurs binaires.