traitement d'images par modèles discrets sur ... - Olivier Lezoray

60 Chapitre 3 - Classification de données d’images par apprentissage
f d : O → X
X
f ∈ H : X → Y
O
f o : O → Y
Y
FIG. 3.1 – Pour un problème d’apprentissage donné, un objet o ∈ O représentatif de ce problème
est décrit par un vecteur d’attributs x ∈ X et est identifié par l’oracle o comme étant de la classe
y ∈ Y. Dans ce schéma, f d et f o représentent respectivement la procédure réalisant la description
d’un objet o et le processus décisionnel de l’oracle o. L’objectif d’un apprenant est de choisir
une hypothèse f ∈ H dont les prédictions sont les plus proches possible de l’oracle.
La problématique de l’apprentissage supervisé est de trouver une fonction f aussi bonne que
possible qui à un vecteur x ∈ X associe une classe y ∈ Y. L’objectif est alors de choisir f ∗ ∈ H
qui minimise le risque réel correspondant :
f ∗ = arg min R reel (h) (3.1)
h∈H
Pour évaluer la pertinence de la prédiction de f, on introduit généralement une fonction de coût
l(f(x), y). L’estimation du risque lié à une hypothèse h à partir d’un ensemble Z m ∈ Z de m
exemples, appelée risque empirique, est égal à :
R emp (f) = 1 m
m∑
l (f (x i ) , y i ) (3.2)
i=1
Le risque empirique ne permet pas d’évaluer la pertinence d’un modèle car il est possible de
choisir f de manière à ce que le risque empirique soit nul mais que l’erreur en généralisation
soit élevée (sur-apprentissage) [CORNUÉ02].
Si l’on replace l’apprentissage supervisé relativement au processus de fouille de données, un
système d’apprentissage doit réaliser l’optimisation d’un problème qui regroupe la sélection des
exemples, la sélection des attributs, la sélection des hyper-paramètres relatifs à l’exploitation
d’algorithmes d’apprentissage supervisé, la structure de la décomposition en sous-problèmes et
le principe de décodage mis en œuvre (figure 3.2). La décomposition en sous-problèmes est classique
en apprentissage artificiel. On distinguera plusieurs cas. Le premier classique consiste à
utiliser plusieurs classificateurs puis à les combiner [KUNCHE04]. Le second consiste à décomposer
un problème de classification en n c classes en plusieurs sous problèmes plus simples et
à les combiner ensuite [HSU02] (approches un-contre-tous ou bien un-contre-un par exemple).
Nous reviendrons plus en détail (voir section 3.5) sur ce second type de décomposition. Chaque
sous-problème peut nécessiter une sélection d’exemples et d’attributs qui lui est propre et donner
naissance à une nouvelle décomposition. Cela signifie que, pris dans sa globalité, un système
d’apprentissage artificiel supervisé devra permettre d’effectuer les étapes 3 à 6 du processus de
fouille de données. Nous pouvons regrouper l’ensemble de ces sélections sous le terme générique
de sélection de modèles (ou sélection multi-modèle si nous voulons insister sur la pluralité
des sélections à réaliser). La sélection d’un modèle optimisant la qualité du processus décisionnel
correspond donc à un problème d’optimisation difficile et deux approches sont possibles