Analyse en composantes principales

Théorème 3.1. Soit F k un sous-espace portant l’inertie maximale, alors le sous-espace de dimension
k + 1 portant l’inertie maximale est la somme directe de F k et du sous-espace de dimension 1
orthogonal à F k portant l’inertie maximale.
155
160
165
La démonstration de ce théorème figure en annexe 5.2.
Il est donc possible de rechercher le sous espace F k séquentiellement axe par axe, en cherchant tout
d’abord l’axe portant l’inertie maximale, puis celui orthogonal à ce dernier portant l’inertie maximale,
et ainsi de suite.
3.1 Recherche de l’axe portant l’inertie maximale
On cherche l’axe ∆ u tel que l’inertie I ∆ ⊥ u
expliquée par cet axe soit maximale. Cela revient à
chercher ∆ u tel que I ∆u soit minimale d’après le théorème de Huygens (12). Puisqu’en projetant
sur l’axe ∆ u on perd l’inertie I ∆u , on aura bien une inertie restante I ∆ ⊥ u
maximale, ce qui revient à
déformer le moins possible le nuage des individus.
Comme on est en ACP normée la métrique M est l’identité et la matrice de variance V est égale
à la matrice de corrélation R (cf. remarque 2.1). L’inertie expliquée par l’axe ∆ u est alors I ∆ ⊥ u
=
u t Ru d’après (16). Il faut donc trouver le vecteur unitaire u solution du problème d’optimisation sous
contrainte suivant :
{
maxu u t Ru
u t u = 1
(21)
170
La matrice de corrélation R étant symétrique elle est diagonalisable : R = P∆P t , où ∆ est la matrice
diagonale composée des valeurs propres λ 1 ≥ . . . ≥ λ j ≥ . . . ≥ λ p , et où la matrice de passage P est
la matrice orthogonale dont les colonnes sont les vecteurs propres v j de R. Il vient alors que
u t Ru =
p∑
λ j < u, v j > 2 . (22)
j=1
En nommant u j les composantes du vecteur u (normé) dans la base des vecteurs propres, on a
u t Ru =
p∑
λ j u 2 j ≤ λ 1(u 2 1 + . . . + u2 p) ≤ λ 1 . (23)
} {{ }
=u t u=1
j=1
175
Le vecteur u maximisant cette quantité n’est autre que v 1 , le vecteur propre associé à la plus grande
valeur propre λ 1 de R, pour lequel on a donc I ∆ ⊥ v1
= λ 1 .
3.2 Recherche des axes suivants
Nous cherchons cette fois un vecteur unitaire u, orthogonal au précédent (v 1 ), et maximisant la
quantité u t Ru. En nommant encore u j les composantes de ce vecteur u dans la base des vecteurs
propres, on a :
u t Ru =
p∑
λ j u 2 j ≤ λ 2 (u 2 2 + . . . + u 2 p) ≤ λ 2 . (24)
j=2
7