traitement d'images par modèles discrets sur ... - Olivier Lezoray

3.5. Schémas multi-classes de combinaison de classificateurs binaires 85
PRICE remarque alors que la majorité des frontières de décision binaires sont linéaires et la
complexité globale du schéma multi-classes basé sur une décomposition binaire est beaucoup
moins grande que le schéma multi-classes direct. Le même type de comportement a été constaté
pour les arbres de décision [FÜRNK01, FRANK04]. En conséquence, des approches basées sur
une décomposition d’un problème en sous-problèmes binaires bénéficie de plusieurs avantages
majeurs : simplicité des fonctions de décision, apprentissage rapide et donc une sélection de
modèle plus aisée (attributs pertinents, exemples pertinents, hyper-paramètres).
Dans nos travaux, nous nous sommes intéressés à concevoir des schémas multi-classes de combinaison
de classificateurs binaires. La figure 3.12 présente le schéma global d’une telle approche.
Pour concevoir un tel schéma, deux éléments doivent être déterminés : le schéma de décomposition
et le schéma de décodage. Une fois le schéma de décomposition déterminé, nous avons à
construire k fonctions de décision binaires D(ψ i ). Une fois l’apprentissage des classificateurs
binaires effectués, classer un exemple revient à interroger l’ensemble (ou un sous-ensemble) des
classificateurs et à déterminer la classe finale par un schéma de décodage des sorties fournies par
les classificateurs. La sortie d’un classificateur ψ i pour un exemple x ∈ X sera notée D(ψ i , x).
Un schéma de décodage effectue alors généralement un calcul de confiance d’appartenances aux
classes : g : R k → R |Y| puis une décision est prise à partir de ces dernières par h : R |Y| → Y. Un
schéma de décodage effectue donc la transformation suivante : h ◦ g(D(ψ 1 , x), · · · , D(ψ k , x)).
Nous noterons indifféremment le nombre de classes à discriminer par n c ou |Y|.
Dans la suite, nous présentons les schémas de décomposition usuels puis les schémas de
décodage associés. Nous présentons finalement nos propositions de schémas de décodage.
3.5.1 Schémas de décomposition
La décomposition d’un problème multi-classes en k problèmes binaires est la première étape
d’un schéma de multi-classes de combinaison. Elle correspond à définir k vecteurs ψ. A partir
de ces vecteurs, une matrice Ψ de codage du problème multi-classes est définie.
ω 1 · · · ω nc
Ψ =
ψ 1
∣ ∣∣∣∣∣∣ ψ 1,1 · · · ψ 1,nc
. (3.14)
. . ..
ψ k ψ k,1 ψ k,nc
Chaque ligne de Ψ correspond à un vecteur ψ i et chaque colonne de Ψ indique le problème
binaire dans lequel les exemples d’une classe donnée sont utilisés. La structure de la matrice
Ψ définit la nature du schéma de combinaison utilisé. Un sous-problème de discrimination binaire
issu d’un problème multi-classes est donc défini à partir d’un vecteur ψ i (nous désignons
également le classificateur par cette même notation). Ce vecteur représente pour chaque classe
ω y de la base initiale sa correspondance avec des exemples considérés comme appartenant à la
classe positive (ψ i,y = +1), à la classe négative (ψ i,y = −1) ou non présent (ψ i,y = 0) pour le
problème binaire induit. La définition d’une base d’apprentissage binaire Z (ψ i ) à partir d’une
base multi-classes Z et de la transformation binaire induite par ψ i est la suivante :
Z (ψ i ) = {(x, +1) | (x, y) ∈ Z, ψ i,y = +1} ∪ {(x, −1) | (x, y) ∈ Z, ψ i,y = −1} (3.15)
D(ψ i ) désigne la fonction de décision du classificateur ψ i produite à partir d’une base d’entraînement
Z(ψ i ) E .