traitement d'images par modèles discrets sur ... - Olivier Lezoray

86 Chapitre 3 - Classification de données d’images par apprentissage
Dans la majorité des schémas de combinaison utilisés, cette structure est prédéfinie [DIETTE95,
VAPNIK98, KREBEL99]. Pour d’autres méthodes, la structure de la matrice (les différentes décompositions
binaires) est produite par un schéma d’apprentissage [PÉREZ-02, ABE05]. Nous
ne considérons que des décompositions pré-définies et nous présentons les principales dans la
suite ; il en existe d’autres (on consultera par exemple [LEI05, MOREIR98]).
3.5.1.1 Un contre tous
La méthode un-contre-tous (One Versus All [VAPNIK98, RIFKIN04]) est la plus simple et
elle produit autant de problèmes binaires que de classes. Chaque problème binaire correspond
à la discrimination des exemples d’une classe avec ceux des autres classes. La matrice (3.16)
illustre la décomposition un-contre-tous pour un problème avec 4 classes.
Ψ =
⎡
⎢
⎣
+1 −1 −1 −1
−1 +1 −1 −1
−1 −1 +1 −1
−1 −1 −1 +1
⎤
⎥
⎦ (3.16)
Cette méthode de décomposition produit peu de problèmes binaires. Cependant, ceux-ci ont
l’inconvénient d’utiliser systématiquement l’ensemble des exemples du problème multi-classes
et par conséquent les temps d’apprentissage de chaque sous-problème binaire sont importants
[LEI05]. De plus, les fonctions de décision produites sont généralement complexes.
3.5.1.2 Un contre un
La méthode un-contre-un (One Versus One [KREBEL99], Round Robin [FÜRNK03], ou Pairwise
Coupling [PRICE94]) est sûrement la méthode la plus utilisée. L’idée est que pour chaque
sous-problème binaire seules deux classes du problème initial sont retenues. Le nombre de problèmes
binaires induits par cette décomposition est de n c (n c − 1)/2. La matrice (3.17) illustre
cette décomposition pour un problème avec 4 classes.
⎡
Ψ =
⎢
⎣
+1 −1 0 0
+1 0 −1 0
+1 0 0 −1
0 +1 −1 0
0 +1 0 −1
0 0 +1 −1
⎤
⎥
⎦
(3.17)
Avec cette décomposition, chaque problème binaire est de taille plus faible que le problème
initial, ce qui réduit les temps d’entraînement liés à chaque problème de discrimination. Ce gain
est atténué par l’augmentation du nombre de problèmes binaires à traiter. La discrimination est
facilitée, car la frontière de décision ne concerne que deux classes à chaque fois. Pour simplifier
les notations, nous noterons ψ wi ,w j
le classificateur binaire qui discrimine la classe w i de la
classe w j .
3.5.1.3 ECOC : Error Correcting Output Codes
Les matrices Ψ de type ECOC comportent k lignes et le nombre de lignes désigne la longueur
du code utilisé [DIETTE95]. Le principe est de produire un grand nombre de lignes (donc