traitement d'images par modèles discrets sur ... - Olivier Lezoray

3.5. Schémas multi-classes de combinaison de classificateurs binaires 93
principe de décodage donne de meilleurs résultats qu’un DDAG mais pas qu’un décodage direct.
Cependant, cela atténue fortement les différences entre les schémas de décodage direct
dont l’influence semble minime dans notre décodage indirect en cascade. Cela semble cohérent
avec les observations de PLATT [PLATT99B] qui précise que l’utilisation d’un DDAG permet
de réduire la borne d’erreur du décodage (même si cela ne permet pas de surpasser un décodage
direct). Notre décodage indirect en cascade semble réduire encore plus cette borne sans toutefois
à nouveau surpasser un décodage direct.
➋ Décodage direct par stacking Les schémas de décodage direct permettent d’obtenir
de meilleurs résultats que les schémas en cascade simples de type DDAG. Cependant il n’est
pas possible de faire un choix entre les décodages par Price, Maximin et ECOC car cela dépend
des bases de données. Ceci s’explique facilement car ces schémas de décodage ne peuvent pas
s’adapter aux mauvaises configurations qui peuvent apparaître. Par exemple, pour classer un
exemple, si des classificateurs non pertinents prédisent une mauvaise classe et si des classificateurs
pertinents prédisent cette même mauvaise classe, alors la décision finale risque fort d’être
fausse. Savicky et Furnkranz [SAVICK03] ont alors proposé de construire par apprentissage le
schéma de décodage direct par stacking [WOLPER92].
ω 3 vs ω 4 ω 2 vs ω 4 ω 2 vs ω 3 ω 1 vs ω 4 ω 1 vs ω 3 ω 1 vs ω 2
D(x) = (D(ψ ω3,ω4 , x), D(ψ ω2,ω4 , x), D(ψ ω2,ω3 , x), D(ψ ω1,ω4 , x), D(ψ ω1,ω3 , x), D(ψ ω1,ω2 , x))
Stacked
classificateur
ω 3
FIG. 3.16 – Décodage direct par Stacking.
Le principe est le suivant, chaque exemple x ∈ Z(ψ i ) E est présenté à tous les classificateurs
binaires et l’on obtient un vecteur D(x) = (D(ψ 1 , x), · · · , D(ψ k , x)) T pour chaque
exemple. Ceci permet de construire une nouvelle base de données Z = {(D(x), y), ∀x ∈ X }.
Cette nouvelle base de données peut être alors apprise par un classificateur n-aire. Ce classificateur
construit donc une fonction de décision multi-classes qui émule le schéma de décodage.
La figure 3.16 résume le fonctionnement de ce schéma de décodage. SAVICKY et FURNKRANZ
[SAVICK03] n’ont montré aucune amélioration à l’aide du stacking pour des classificateurs binaires
de type arbres de décision, cependant ils utilisaient non pas les sorties des classificateurs
mais des prédictions de type classe. Nous avons pu montrer qu’en utilisant les sorties de classificateur
neuronaux avec un arbre de décision pour effectuer le stacking, cela permet d’améliorer
grandement les résultats [46], ce qui en fait un très bon schéma de décodage. Cependant, en
effectuant le stacking par un classificateur n-aire, nous allons exactement à l’inverse de ce qui
était voulu avec le schéma de décomposition à savoir simplifier le problème car les arbres de
décisions obtenus pour le stacking sont d’une grande complexité. Néanmoins, cela a permis de
montrer que les schémas de décodage directs sont limités par leur faible adaptation au cas des
classificateurs non pertinents.