traitement d'images par modèles discrets sur ... - Olivier Lezoray

76 Chapitre 3 - Classification de données d’images par apprentissage
1. Choisir une solution initiale θ 0 ∈ Θ (θ ∗ = θ 0 , ¯Θ = ∅, it = 0),
2. Sélectionner la meilleure solution non taboue θ it+1 = arg max q (θ) dans le voisinage
θ∈Ṽ (θ it)
Ṽ (θ it ) de θ it ,
3. Mettre à jour la meilleure solution actuelle θ ∗ si q(θ it+1 ) > q(θ ∗ ),
4. Mettre à jour la liste des solutions taboues,
5. Répéter les étapes 2 à 5 (it = it + 1) jusqu’à ce que le critère d’arrêt soit vrai,
6. Retourner θ ∗ .
Algorithme 6: Synopsis de la recherche tabou.
La recherche avec tabous [DRÉO03, GLOVER97] est basée sur une recherche itérative qui
choisit dans un voisinage restreint la meilleure solution même si elle est plus mauvaise que
celle de l’itération précédente. Une mémoire à court terme est utilisée pour éviter tout cycle
visitant périodiquement le même optimum local. À partir des derniers mouvements mémorisés,
un ensemble de solutions est considéré comme tabou. Un mouvement n’est donc réalisable que
vers l’une des solutions voisines qui n’est pas taboue. Le choix des solutions taboues peut être
tout simplement les dernières solutions visitées, mais en général le critère déterminant les solutions
taboues à un moment précis de la recherche dépend du problème à optimiser et de la
représentation d’une solution. Nous avons donc proposé d’utiliser la recherche avec tabous pour
optimiser l’ensemble des paramètres liés à un SVM (attributs pertinents et hyper-paramètres),
ainsi que la sélection du niveau de simplification. L’objectif est de permettre une sélection rapide
de bons modèles à partir d’une représentation simplifiée et de n’utiliser les représentations
moins simplifiées que si elles diminuent suffisamment le taux d’erreur. Pour obtenir un tel résultat,
la recherche avec tabous doit commencer avec une représentation fortement simplifiée de
la base d’entraînement (une valeur de k faible). Ceci permet, dès les premières itérations de la
recherche, de produire des solutions qui permettront de réaliser une sélection rapide des attributs
et des hyper-paramètres pour identifier des régions d’intérêt dans l’espace de recherche. De plus,
nous avons défini des stratégies spécifiques d’intensification et de diversification afin d’améliorer
les performances de notre modèle de recherche avec tabous. L’intensification a pour objectif
de réaliser une recherche exhaustive dans des zones prometteuses de l’espace de recherche et faiblement
explorées. La diversification a pour objectif de réaliser des modifications significatives
de la solution pour permettre de quitter rapidement une zone de recherche peu efficace où déjà
explorée par intensification afin de découvrir des zones prometteuses de l’espace de recherche.
Nous avons mené de nombreuses expérimentations pour mesurer l’efficacité de la méthode
de sélection de modèle proposée pour produire des fonctions de décision efficaces en généralisation
et de complexité réduite. Nous n’en montrons ici qu’une petite partie sur la base OpticDigits
[ASUNCI07] à travers le tableau 3.6 où les notations suivantes sont utilisées :
– T app désigne la durée en secondes nécessaires à notre méthode pour la sélection d’un
modèle θ ∗ qui est considéré comme la solution optimale du problème.
– k désigne le niveau de simplification optimal de la base d’entraînement,
– q BER est égal à 1 − e BER et l’erreur BER est évaluée à partir de la base de test Z T ,
– n VS correspond au nombre de vecteurs de support utilisés par la fonction de décision,
– n AS correspond au nombre d’attributs sélectionnés relativement au modèle θ ∗ .