traitement d'images par modèles discrets sur ... - Olivier Lezoray

3.4. Construction de fonctions de décision parcimonieuses 75
(C θ , σ θ , k θ , β θ ) ← EXTRAIREPARAMÈTRES(θ)
(Z E , Z V ) ← ECHANTILLONAGE(Z A )\\ séparation proportionnelle 2/3 et 1/3
˜Z E ← SIMPLIFICATION(Z E , k θ )
D ← ENTRAÎNEMENTSVM( ˜Z E , C θ , σ θ , β θ )
e BER ← TAUXERREURBALANCÉ(D, Z V )
n VS ← NOMBREDEVECTEURSSUPPORT(D)
q ← QFD(e BER , n SV , β θ )
retourner q
Algorithme 5: Etapes d’entraînement d’un SVM pour un modèle θ.
Reste à définir la Qualité d’une Fonction de Décision (QFD) à partir d’un compromis entre
le taux d’erreur balancé (BER) et la complexité de la fonction de décision produite. Cette complexité
dépend du nombre de vecteurs de support nécessaires à sa définition et du nombre d’attributs
utilisés par cette fonction. Notre définition empirique de ce critère de qualité est la suivante :
q FD = (1 − e BER ) − c VS log 2 (1 + n VS ) − c β log 2 (coût(β)) (3.12)
avec coût(β) = ∑ β i κ i . Les constantes κ i représentent le coût relatif d’extraction des attributs
i si l’on souhaite tenir compte du temps de calcul associé à chaque attribut.
Les valeurs des constantes c VS et c β servent à la pénalisation de la complexité et sont fixées
par l’utilisateur. Elles représentent respectivement l’importance de la pénalisation due à l’augmentation
du nombre de vecteurs de support et à l’augmentation du nombre d’attributs utilisés
ou des coûts associés. L’idée directrice, pour cette définition, est qu’un doublement du nombre
de vecteurs de support doit au moins correspondre à une diminution de la valeur de c VS pour
le taux d’erreur balancé pour que le processus décisionnel correspondant soit considéré comme
étant de qualité supérieure. Lorsque les valeurs de c VS et c β sont faibles (< 0,01), c’est le principe
de parcimonie qui est privilégié.
L’espace de recherche Θ a une cardinalité importante lorsque l’on souhaite trouver un modèle
θ ∈ Θ qui réalise la recherche d’une fonction de décision optimale selon les critères que
nous avons définis. Il faut alors disposer d’une méthode de sélection qui puisse explorer l’espace
Θ de manière plus efficace et dans des temps de calcul plus raisonnables qu’une évaluation systématique
de tous les modèles possibles. Nous avons choisi une méta-heuristique de recherche
avec tabous pour effectuer cette recherche car elle a déjà été utilisée avec succès d’une part pour
la sélection d’attributs [KORYCI04] et d’hyper-paramètres [CAWLEY01] d’un SVM d’autre part.
Le synopsis de la recherche avec tabous est le présenté dans l’algorithme 6.