ESPACE DE HILBERT

Chapitre 2
ESPACE DE HILBERT
Le cadre adapté à l’étude des séries chronologiques est celui d’un espace vectoriel de variables aléatoires
de variance …nie, o¤rant une interprétation simple de la corrélation (et de la non corrélation). Ce chapitre
introduit la structure euclidienne et plus généralement celle d’un espace de Hilbert qui correspond à ce
cadre. Il dé…nit les notions de longueur, d’orthogonalité et de projection. Il ne saurait donner tous les
éléments. Il sert de base, uni…e des notations et concepts et ne peut être correctement assimilé que par
une utilisation systématique d’exemples et de schémas dans le plan vectoriel R 2 ou l’espace vectoriel R 3 .
1
2.1 Espace Pré-Hilbertien
2.1.1 Dé…nition et exemples
Dé…nition 2.1 Un espace pré-hilbertien est un espace vectoriel E muni d’un produit scalaire (dite structure
euclidienne), c’est à dire d’une application bilinéaire de E E ! C, notée hx; yi telle que
hx; yi = hy; xi 8x; y 2 E (conjugaison dans C : a + ib ! a ib)
hx + z; yi = hx; yi + hz; yi 8x; y; z 2 E
h x; yi = hx; yi 8x; y 2 E; 8 2 C
hx; xi 0 8x 2 E
hx; xi = 0 , x = 0
Dans le cas d’un espace vectoriel sur R, la première propriété se réduit à la symétrie hx; yi = hy; xi.
Dans la suite du cours, sauf mention contraire, le corps des scalaires sera réel.
La notation hx j yi est parfois utilisée pour noter un produit scalaire.
Exemple 2.1 L’espace euclidien R n
Dans R dé…nissons hx; yi = x y (le produit de deux nombres réels)
Dans R 2 soit x = (x1; x2) ; y = (y1; y2) deux vecteurs. Dé…nissons hx; yi = x1y1 + x2y2. Véri…er les
axiomes euclidiens. Généraliser à R n .
Pour comprendre l’ensemble des notions introduites dans ce chapitre, manipuler, avec des dessins les
espaces euclidiens R 2 ; R 3 .
Proposition 2.1 (Identité de la médiane), Soit E un espace pré-hilbertien :
8x; 8y 2 E; hx + y; x + yi + hx y; x yi = 2 hx; xi + 2 hy; yi
1 c 1980 2007 Philippe JOLIVALDT PARIS1 Permission d’utiliser ce document pour un usage étudiant strictement
personnel (ni professionnel ni commercial)
33

34 CHAPITRE 2. ESPACE DE HILBERT
Trouver un ”sens”à cette proposition : dans l’espace euclidien R 2 une représentation graphique donne
l’origine de son appellation.
Exemple 2.2 Soit E = fx; x = ( 1; 2; : : :); i 2 Rg l’ensemble des suite in…nies de nombres réels, tous
nuls sauf un nombre …ni. Bien entendu, ce n’est pas toujours le même nombre d’éléments non nuls pour
les di¤érents vecteurs. Dé…nissons
hx; yi = h( 1; 2; : : :); ( 1; 2; : : :)i = 1 1 + 2 2 : : :
Dé…nissons la structure naturelle d’espace vectoriel :
x + y = ( 1 + 1; 2 + 2; : : :)
Il faut véri…er que les dé…nitions précédentes font de E un espace pré-hilbertien.
Exemple 2.3 SoitF = fx; x = ( 1; 2; : : :); i 2 Rg l’ensemble des suite in…nies de nombres réels véri-
…ant (propriété dite de ”carrés sommables”)
1X
i=1
2
i < 1
Voici une des premières di¢ cultés de la structure in…nie dimensionnelle. Comment donner un sens à
la somme de deux vecteurs, au ”produit scalaire”?
Dé…nissons
x + y = ( 1 + 1; 2 + 2; : : :)
L’identité de la médiane, valable dans l’espace euclidien R donne l’inégalité
( + ) 2 < 2 2 + 2 2
La sommabilité au carré des séries ( 1; 2; : : :) et ( 1; 2; : : :) donnent par majoration, un sens au vecteur
somme. Pour le produit scalaire, dé…nissons
Utilisons l’inégalité
hx; yi = h( 1; 2; : : :); ( 1; 2; : : :)i = 1 1 + 2 2 : : :
2 j j j j j j 2 + j j 2
pour assurer l’absolue sommabilité de la série 1 1 + 2 2 : : : et donc un sens au ”produit scalaire”. Il ne
reste plus qu’à véri…er les axiomes pour ôter les guillemets précédentes...
Exemple 2.4 Soit un intervalle [a; b] et E l’espace vectoriel des fonctions dé…nies et continues sur [a; b] :
Dé…nissons
hf; gi =
Z b
a
f(x)g(x)dx
Cela donne une structure euclidienne sur E. Utilisez la notion d’intégrale de Riemann et le fait que vous
intégrez un carré et une fonction continue pour étudier le caractère dé…ni positif.
2.1.2 Propriétés d’un produit scalaire
Proposition 2.2 (Inégalité de Bouniakovski-Cauchy-Schwarz 2 notée BCS) Dans un espace pré-hilbertien
E, pour tout couple de vecteurs x; y, on a
hx; yi 2
hx; xi hy; yi
2 Schwarz Herman (1843-1921) Mathématicien allemand spécialiste des fonctions analytiques ( fonction dans le domaine
complexe), il est connu pour son égalité sur les dérivées partielles secondes d’une fonction deux fois dérivables et sur
l’inégalité dont il partage la renommée avec Cauchy et le russe Bouniakovski

2.1. ESPACE PRÉ-HILBERTIEN 35
Dé…nition 2.2 Soit E un ensemble. Une norme N sur E est une application de E ! R + satisfaisant
aux conditions suivantes :8x; 8y 2 E; 8 2 R
N(x) 0; N(x + y) N(x) + N(y); N( x) = j j N(x); N(x) = 0 , x = 0
Dé…nition 2.3 Dans un espace pré-hilbertien, la quantité
dé…nit la norme (longueur) d’un vecteur x
kxk = p hx; xi
Véri…er que le terme "norme", (ou longueur), est justi…é, c’est à dire que les propriétés caractéristiques
d’une norme sont véri…ées. La seule propriété à détailler est l’inégalité triangulaire :
kx + yk 2 = kxk 2 + kyk 2 + 2 hx; yi
Dans votre élan, revoyez ce qu’est une distance
kxk 2 + kyk 2 + 2 kxk kyk par l’inégalité de BCS
Dé…nition 2.4 Soit E un ensemble. Une distance d sur E est une application de E E ! R + satisfaisant
aux conditions suivantes
et véri…ez la proposition suivante :
d(x; x) = 0 8x 2 E
d(x; y) = d(y; x) 8x; y 2 E
d(x; y) d(x; z) + d(z; y) 8x; y; z 2 E
d(x; y) = 0 =) x = y 8x; y 2 E
Proposition 2.3 Soit E un espace pré-hilbertien. kx yk dé…nit une distance sur E, notée aussi d(x; y).
Dé…nition 2.5 Soit E un espace pré-hilbertien. Une suite de vecteurs (xn) n2Z de E converge vers un
vecteur x de E si :
8"; 9N("); 8n > N("); d(xn; x) "
ou
Ce mode de convergence est appelé convergence en norme, en norme euclidienne et noté abusivement
kxn xk ! 0
lim xn = x
Proposition 2.4 La convergence en norme implique la convergence des normes
kxn xk ! 0 ) kxnk ! kxk
La convergence en norme de deux suites implique la convergence des produits scalaires
kxn xk ! 0
kyn yk ! 0 ) hxn; yni ! hx; yi
Proposition 2.5 (Identité de parallélogramme) Dans un espace pré-hilbertien, pour tout couple de vecteurs
x; y, on a
kx + yk 2 + kx yk 2 = 2 kxk 2 + 2 kyk 2
Exercice 2.1 Un air de "déjà vu" ? Un dessin dans l’espace euclidien R 2 !

36 CHAPITRE 2. ESPACE DE HILBERT
2.2 Espace de Hilbert
Dans R, considérons une suite convergente des nombres réels, soit : xn ! x. Cela signi…e que 8"; 9N(");
8n > N jxn xj ". Bien entendu, à partir d’un certain rang, les éléments de cette suite sont très proches
les uns des autres, c’est à dire que 8"; 9N; 8n; m > N; d(xn; xm) ". Mais une propriété remarquable
de l’ensemble des nombres réels est que la réciproque est vraie : si 8"; 9N; 8n; m > N; d(xn; xm) ",
alors la suite est convergente. Certes on ne connaît pas obligatoirement sa limite, mais elle existe en tant
que nombre réel. Il s’agit donc d’un outil très commode pour démontrer la convergence d’une suite de
nombres réels. Nous allons formaliser cette propriété.
2.2.1 Suite de Cauchy
Dé…nition 2.6 Une suite de vecteurs d’un espace vectoriel muni d’une norme forme une suite de Cauchy
si
8"; 9N; 8n; m > N; d(xn; xm) "
Toute suite convergente est une suite de Cauchy mais la réciproque n’est pas toujours vraie.
On accorde donc une importance particulière aux espaces pour lesquels la réciproque est valide :
Dé…nition 2.7 Un espace vectoriel normé complet est un espace dans lequel toute suite de Cauchy
converge.
Exemple 2.5 R; R k ; C k sont des espaces complets MAIS Q ne l’est pas ( p 2 n’est pas un nombre rationnel)
2.2.2 Espace de Hilbert
Dé…nition 2.8 Un espace de Hilbert ou hilbertien 3 est un espace pré-hilbertien complet.
Les résultats suivants son admis.
Exemple 2.6 Les espaces R; R 2 ; : : : ; R n et tout espace vectoriel de dimension …nie sont des espaces
hilbertiens.
Exemple 2.7 L’espace noté l 2 des suites de carrés sommables est un espace hilbertien.
Exemple 2.8 EXEMPLE ESSENTIEL
L’espace L 2 ( ; A, P), muni du produit scalaire
hX; Y i = Cov(X; Y ) = E [(X E (X)) (Y E (Y ))]
est un espace de Hilbert.
Ce résultat, fondé sur l’intégration au sens de Lebesgue4 , sera interprété uniquement de façon géométrique.
L’usage essentiel réside dans les idées de norme d’une variable aléatoire, de projection orthogonale,
de base orthonormale.
La norme, la longueur d’une variable aléatoire est donc son écart-type :
s
Z
kXk = p hX; Xi =
L’inégalité de Bouniakovski-Cauchy-Schwarz exprime que
(X(!) E (X (!))) 2 dP(!) = X
cov(X; Y ) X Y
3 Hilbert David (1862-1943) Ce mathématicien allemand travaille et enrichit considérablement tous les domaines des
mathématiques. Auteur de 23 problèmes qui ont dynamisé de nombreux travaux du vingtième siècle, il introduit une
approche géométrique en l’analyse dont découle la notion de produit scalaire et d’espace de Hilbert
4 Lebesgue Henri (1875-1941) Ce mathématicien français est le créateur d’une nouvelle théorie de l’intégrale qui porte
son nom. Elle généralise l’intégrale de Riemann.

2.2. ESPACE DE HILBERT 37
Exercice 2.2 Ecrire et interpréter en terme probabiliste, dans cet espace L 2 ( ; A, P), les di¤érentes
relations déjà énoncées comme l’inégalité triangulaire.
La di¢ culté dans cet espace est qu’une variable aléatoire de "longueur" nulle signi…e une variable
aléatoire d’écart-type nul. Cela ne signi…e pas qu’elle est identiquement nulle. La théorie de Lebesgue
introduit le concept de variables équivalentes ou presque sûrement égales si elles ne di¤èrent que sur un
ensemble de mesure nulle.
2.2.3 Orthogonalité
Il s’agit de généraliser l’idée élémentaire de "perpendiculaire".
Dé…nition 2.9 Deux vecteurs x; y d’un espace hilbertien sont orthogonaux si
hx; yi = 0
La notion, aisée à comprendre, ne présente des di¢ cultés que lorsqu’interviennent des vecteurs d’un
espace de dimension ”in…nie”.
Dé…nition 2.10 Deux sous-espaces F1;F2 d’un hilbertien E sont dits orthogonaux si
8x 2 F1;8y 2 F2; hx; yi = 0
Proposition 2.6 Soit F un sous-espace d’un espace hilbertien E. L’ensemble des vecteurs de E orthogonaux
à F forme un sous-espace vectoriel de E; noté F ? .
Proposition 2.7 (Théorème de Pythagore) Soit x1 : : : xn n vecteurs d’un espace hilbertien, orthogonaux
deux à deux. Alors
hx1 + + xn; x1 + + xni = hx1; x1i + + hxn; xni
2.2.4 Fermeture
En dimension …nie, un sous-espace d’un espace hilbertien, parce que de dimension …nie, est complet et
les limites en norme des suites d’éléments de ce sous-espace appartiennent à ce sous-espace. Toute suite
de Cauchy converge et ceci vers un vecteur du sous-espace .
Dé…nition 2.11 Un sous-espace F d’un espace hilbertien E est fermé si toute suite de vecteurs de
F convergente dans E, converge vers un vecteur de ce sous-espace F
8 (xn) n2N 2 F; y = limxn ) y 2 F
La convergence s’entend au sens de la norme associée au produit scalaire dé…ni sur E.
En dimension in…nie, la situation n’est plus systématique ; ainsi le sous-espace des suites de nombres
réels tous nuls sauf un nombre …ni est un sous-espace de l’espace hilbertien l 2 mais il n’est pas fermé et
pas complet.
Dé…nition 2.12 Soit un espace hilbertien E. La fermeture de F est le plus petit sous-espace fermé de
E contenant F .
Proposition 2.8 Soit un espace hilbertien E et F un sous-espace. L’orthogonal F ? est un sous-espace
fermé de E.

38 CHAPITRE 2. ESPACE DE HILBERT
2.2.5 Projection orthogonale
Dans un espace vectoriel euclidien de dimension …nie, nous savons projeter orthogonalement de façon
unique un vecteur sur un sous-espace : nous ”traçons”la perpendiculaire et de plus la longueur du segment
ainsi créé est la plus courte distance entre le point et le sous-espace. Les espaces de Hilbert possèdent
exactement la même propriété.
Représentons la géométrie du produit scalaire dans R 2 .
Les vecteurs de la …gure précédente véri…ent (utilisez vos connaissances sur un triangle rectangle) :
hX; Y i = kXk kY k cos ( ) = kXk kPX(Y )k
cos ( ) =
hX; Y i
kXk kY k
Lorsque les vecteurs sont unitaires (kXk = kY k = 1) ; nous avons hX; Y i = cos ( ) = kPX(Y )k
L’outil essentiel, dans ce cours, est l’outil de projection orthogonale.
Théorème 2.1 (Théorème de RIESZ 5 de la projection orthogonale) Soit E un espace de Hilbert et F
un sous-espace fermé. Soit y un point de E n’appartenant pas à F . Alors le problème
inf ky xk
x2F
possède une et une seule solution notée y ? 2 F et telle que (y y ? ) 2 F ? . Cet élément y ? est appelé
projection orthogonale de y sur F et l’application associée notée PF (y).
Le résultat qui permet de manipuler l’application projection orthogonale est le suivant :
5 Frigyes (frédéric) Riesz (1880- 1956) Cet hongrois, père de l’analyse fonctionnelle, innove dans tous les domaines des
espaces de Banach à l’analyse de Fourier, en passant par la théorie ergodique. Le présent théorème est une des formes d’un
théorème de représentation construit avec Fischer

2.3. BASES ORTHONORMALES 39
Proposition 2.9 Soit E un espace hilbertien et F un sous-espace fermé de E. F et F ? sont des sousespaces
fermés supplémentaires.
Proposition 2.10 L’application qui à un point de E fait correspondre sa projection orthogonale sur un
sous-espace fermé F possède les propriétés suivantes (valables pour tous les éléments ad hoc...)
1) PF ( x + y) = PF (x) + PF (y)
2) PF + PF ? = IdE
3) kxk 2 = kPF (x)k 2 + k(Id PF )(x)k 2
4) PF (xn) ! PF (x) si kxn xk ! 0
5) x 2 F ssi PF (x) = x
6) x 2 F ? ssi PF (x) = 0
7) PF PF (x) = PF (x)
8) F1 F2 ssi PF1PF2 (x) = PF1 (x)
S’il existe une proposition à comprendre, il s’agit bien de cette proposition ! ! ! Avant de la démontrer,
essayer de la comprendre sur un graphique dans R 2 ; R 3 . Et il est tout aussi utile de caractériser P F ?
avec des résultats équivalents.
Proposition 2.11 Soit E un espace de Hilbert et F un sous-espace fermé. Alors F ? ? = F .
2.3 Bases orthonormales
L’équivalent de l’outil aux bases algébriques dans un espace vectoriel est pour un espace de Hilbert
la base orthonormale.
2.3.1 Bases orthonormales
Dé…nition 2.13 Soit E un espace de Hilbert ; (ei) i2I une famille de vecteurs est dite
orthogonale si hei; eji = 0 i 6= j
orthonormale si de plus keik = 1 8i 2 I
Exemple 2.9 Dans l 2 la famille formée de vecteurs ei = f0; 0; : : : ; 1; : : :g le 1 étant à la i ème coordonnée,
est une famille orthonormale
Exemple 2.10 Soit L 2 [ ; + ] l’espace des fonctions de carré intégrable sur l’intervalle [ ; + ] La
famille (ep(t)) p2Z = e ipt
p2Z est orthonormale. Que dire de la famille (ep(t)) p2Z = (cos(pt)) p2Z ?
Dé…nition 2.14 Soit E un espace de Hilbert ; (ei) i2I une famille de vecteurs. Si le seul vecteur orthogonal
à tous les éléments ei est le vecteur nul, cette famille est dite totale.
DANS LA SUITE DU COURS, L’ENSEMBLE I SERA DENOMBRABLE
On parle alors de suite totale.
Dé…nition 2.15 Un espace de Hilbert est appelé séparable s’il possède une suite totale.
Théorème 2.2 Soit E un espace de Hilbert séparable. Il possède une base et même une in…nité de bases
orthonormales. Toutes ces bases possèdent le même nombre d’éléments appelé la dimension de l’espace de
Hilbert E.

40 CHAPITRE 2. ESPACE DE HILBERT
Procédure d’orthonormalisation de Gram-Schmidt Soit E un espace de Hilbert séparable. Soit
(yi) i2I une suite de vecteurs linéairement indépendants. A partir de ces vecteurs, il est possible de
construire une base orthonormale en appliquant de façon récursive la construction présentée dans la
…gure du produit scalaire ; c’est la procédure de Gram-Schmidt suivante :
Par récurrence, nous construisons un vecteur orthogonal à tous les précédents, par projection orthogonale
sur l’espace engendré par ces vecteurs puis nous le normalisons.
La procédure se déroule ainsi :
et ainsi de suite...
Les vecteurs xi forment une base orthonormale.
2.3.2 Relations
u1 = y1 x1 = u1
ku1k
u2 = y2 hy2; x1i x1 x2 = u2
ku2k
u3 = y3 hy3; x1i x1 hy3; x2i x2 x3 = u3
ku3k
De la même façon que les calculs dans un espace vectoriel s’e¤ectuent sur une base, nous allons
développer les calculs dans un espace de Hilbert grâce aux bases orthonormales.
Dé…nition 2.16 Soit E un espace de Hilbert séparable ; (ei) i2I une suite orthonormale de vecteurs. Le
i ème coe¢ cient de Fourier 6 d’un vecteur x est le nombre xi = hei; xi
Proposition 2.12 (Relation de Bessel) Soit E un espace de Hilbert séparable ; (ei) i2I une suite totale
de vecteurs, x 2 E, alors les coe¢ cients de Fourier véri…ent
X
i2I
jxij 2
kxk 2
(Identités de Parseval) Si de plus la suite (ei) i2I est une base orthonormale
2.4 Opérateurs
X
jxij 2 = kxk 2
i2I
X
xiyi = hx; yi
i2I
x = X
Dé…nition 2.17 Soit E et F deux espaces de Hilbert. Un opérateur u est une application linéaire de
E dans F:
L’ensemble des opérateurs de E dans F possède lui même une structure d’espace vectoriel normé
grâce à la dé…nition suivante :
i2I
xiei
Dé…nition 2.18 La norme d’un opérateur de E dans F est dé…nie par
kjujk = sup ku(x)k
kxk 1
6 Fourier Joseph (1768-1830) Ce mathématicien français qui vit les pyramides avec Napoléon, a développé la théorie
de la chaleur, les équations di¤érentielles et les fonctions trigonométriques. Il met ainsi en évidence l’orthogonalité de ces
dernières.

2.4. OPÉRATEURS 41
A gauche, on dé…nit la norme d’un opérateur . A droite ku(x)k désigne une norme dans l’espace F et
kxk une norme dans l’espace E.
Dé…nition 2.19 Un opérateur u tel que kjujk < 1 est dit borné.
Une propriété remarquable et admise est qu’il y a équivalence, dans les espaces hilbertiens, entre
opérateur borné et opérateur continu.
Dé…nition 2.20 Soit u un opérateur. L’opérateur adjoint u est l’opérateur véri…ant pour tous vecteurs
x; y
hx; u(y)i = hu (x); yi
Exemple 2.11 Dans l’espace L 2 ( ; A, P), l’opérateur ”retard” est dé…ni comme l’application
B (Xt) = Xt 1
On véri…e que kjBjk = 1. Un tel opérateur est isométrique : il conserve la longueur des vecteurs.
Par exemple, dans R 2 , l’application rotation conserve la longueur des vecteurs. Dans le cadre des séries
chronologiques indexées par l’ensemble Z, il existe un opérateur nommé opérateur ”avance”F : F (Xt) =
Xt+1.
Si les séries sont stationnaires
hXt; B(Xt 1)i = hXt; Xt 1i = X(1) = hXt+1; Xti = hF (Xt); Xti
F est l’opérateur adjoint de B et véri…e
BF = F B = Id
Dans un tel cas, ces opérateurs sont dits unitaires. Remarquons que cette propriété nécessite l’ensemble
des indices Z. Dans N, cela n’est pas vrai : étudier l’action de ces opérateurs avec une série commençant
à l’instant 0: Nous admettrons cependant cette propriété, en faisant attention, si nécessaire à ce qui se
passe à l’origine.
L’intérêt de ces opérateurs est qu’il est possible de dé…nir des polynômes, des fractions rationnelles et
même des séries formelles en les variables B ou F . Le caractère unitaire des opérateurs justi…e tous ces
calculs à partir des seules propriétés des coe¢ cients réels ou complexes des expressions.
Exemple 2.12 Dans l’espace L 2 ( ; A, P), soit l’opérateur (1 B). Cet opérateur est inversible si et
seulement si j j 6= 1 et
(1 B) 1 = 1 + B + 2 B 2 + ::: + k B k + ::: si j j < 1
(1 B) 1 =
=
1
F 1 1 F + 1
1 F
2 F 2
:::
k F k
::::si j j > 1
Exemple 2.13 Dans l’espace L 2 ( ; A, P), la série formelle P
i2N iB i dé…nit un opérateur si et seulement
si la série des coe¢ cients est absolument sommable :
X
j ij < 1
i2N

42 CHAPITRE 2. ESPACE DE HILBERT
2.5 Convergence en moyenne quadratique
Il s’agit simplement d’un dictionnaire traduisant les notions de convergence d’un espace de Hilbert
dans le vocabulaire usuel de l’espace L 2 ( ; A, P).
Proposition 2.13 Dans l’espace L 2 ( ; A, P), nous appelons convergence en moyenne quadratique ou
convergence L 2 la convergence en norme (associée au produit scalaire)
Xn
L 2
m:q:
! X , Xn !
n!1 n!1 X , kXn Xk 2 = E (Xn X) 2 ! 0
n!1
Proposition 2.14 Soit (Xn) n2N ; (Yn) n2N deux suites de variables aléatoires de L 2 ( ; A, P) et X; Y deux
éléments de cet espace. Si Xn
E (Xn) 2 !
n!1 E (X) 2
E (XnYn) !
n!1 E (XY )
E (Xn) !
n!1 E (X)
m:q:
m:q:
! X, et Yn ! Y alors
n!1 n!1
2.6 Projection et Espérance conditionnelle
Soit (Xt) t2Z un processus stationnaire dé…ni sur un espace L 2 ( ; A, P). Notons L t 1(X) la fermeture
dans L 2 ( ; A, P) du sous-espace engendré par toutes les combinaisons linéaires de Xs pour s t,
c’est à dire l’ensemble des combinaisons linéaires …nis P k
i=0 aiXt i et l’ensemble des limites de toutes
combinaisons linéaires P
i 0 aiXt i tel que P
i 0 jaij < 1
Il sera aussi utilisé des sous-espaces notés L b a(X) pour dé…nir la fermeture dans L 2 ( ; A, P) des sousespaces
engendrés par toutes les combinaisons possibles de la forme
kX
i=1
aiXti
t1; : : : tk 2 Z\ [a; b]
A priori, réaliser la meilleure prédiction de Xt+1 consiste à calculer E(Xt+1=L t 1(X)):
2.6.1 Espérance conditionnelle
Bien qu’écrivant une espérance conditionnelle, nous avons restreint nos calculs à des projections linéaires
et donc à des régression linéaires. De fait, il est possible d’imaginer que les sous-espaces de type
L b a(X) contiennent un plus large éventail de fonctions : par exemple des fonctions continues, des fonctions
monotones. Dé…nissons ainsi les sous-espaces suivants :
Dé…nition 2.21 Soit X; Y deux variables aléatoires, réelles d’un espace L 2 ( ; A, P). Soit L(Y ) le sousespace
fermé formé de toutes les fonctions de L 2 ( ; A, P) qui puissent s’écrire comme g(Y ) avec g fonction
réelle monotone par morceaux. La projection orthogonale de X sur L(Y ) est appelée espérance conditionnelle
de X par Y et notée E(X=Y ).
L’existence d’une telle projection est assurée par le théorème de Riesz. Elle possède toutes les propriétés
de la projection orthogonale. Ainsi
Proposition 2.15 Soit X; Y deux variables aléatoires, réelles d’un espace L 2 ( ; A, P). E(X=Y ) véri…e
8Z 2 L(Y ); E(ZE(X=Y )) = E(ZX)

2.6. PROJECTION ET ESPÉRANCE CONDITIONNELLE 43
Il ne s’agit que de la propriété d’orthogonalité :
hX E(X=Y ); Zi = 0
De la même façon, nous pouvons détailler toutes les propriétés de cette ”projection” à l’image des
propriétés de la projection linéaire orthogonale.
La véritable di¢ culté se situe à deux niveaux :
1) Il faut le cadre théorique de l’intégration au sens de Lebesgue pour démontrer ce résultat qui, de
fait, n’utilise pas des fonctions monotones mais des fonctions plus générales dites ”mesurables”(dont les
fonctions monotones font partie...)
2) Même en acceptant ce cadre, le résultat est peu exploitable car il est souvent di¢ cile d’exprimer
analytiquement cette espérance conditionnelle.
Pour ces raisons, nous nous limiterons, dans la suite, à des prédicteurs linéaires. Il existe cependant
un résultat qui justi…e l’usage de l’espérance conditionnelle :
Proposition 2.16 Dans le cas des processus gaussiens, il y a équivalence entre prédicteur linéaire et
espérance conditionnelle.
2.6.2 Prédiction linéaire
La meilleure prédiction linéaire est donnée par
Proposition 2.17 Le meilleur prédicteur linéaire de Xt+1, sachant L t 1(X) est la projection linéaire de
Xt+1 sur L t 1(X)
Cette prédiction sera notée suivant les contextes
P L t 1 (X)(Xt+1); P t 1(Xt+1); [Xt+1; \ Xt(1)
Dans le cas où l’espace d’information disponible est restreint à L t 1(X), \ Xt(1) est donc combinaison
linéaire des X1; X2; :::; Xt.
Par application du théorème de Riesz dans sa partie constructive exprimant l’orthogonalité de la
di¤érence entre le vecteur Xt+1 et sa projection P t 1(Xt+1) d’une part et l’ensemble des vecteurs générateurs
X1; :::; Xt de l’espace de projection L t 1(X) d’autre part, le calcul explicite consiste à résoudre l’ensemble
des équations nommées normales.
En e¤et
d’où
*
Xt+1
Xt+1 P t 1(Xt+1) ? L t 1(X)
Xt+1 P t 1(Xt+1); Z = 0; 8Z 2 L t 1(X)
tX
i=1
aiXt+i 1; Xr
+
= 0 r = 1; : : : ; t
tX
ai hXt+i 1; Xri = hXt+1; Xri r = 1; : : : ; t
i=1
Ces relations ”normales”dans le cas d’un processus stationnaire s’écrivent :
tX
ai X(i r) = X(t + 1 r) r = 1; : : : ; t
i=1

44 CHAPITRE 2. ESPACE DE HILBERT
soit sous forme développée matricielle, en omettant l’indice X
2
6
4
(0)
(1)
.
(1)
(0)
. .
(t
(t
.
3 2
1)
2) 7 6
7 6
7 6
5 4
(t 1) (t 2) (0)
Nous reviendrons en détail plus tard sur ce système d’équations.
2
a1
a2
.
at
3
2
7
5 =
6
4
Bibliographie associée à ce chapitre
Les éléments de ce chapitre sont développés
BOX P. G. et JENKINS P. M. (1976) ”Time Series Analysis”, Holden Day, San Francisco. Chapitre
BROCKWELLl, P.J., DAVIS, R.A. (1990) ”Time Series : Theory and Methods.”, (2nd ed.),.Springer,
New York. Chapitre 2. .D. (1994), ”Time Series Analysis”, Princeton University Press, Princeton. Chapitre
1,2,3
GOURIEROUX C., MONFORT A. (1990) ”Séries temporelles et modèles dynamiques”, Economica,
Paris. Chapitre 6
Le livre le plus simple sur les espaces de Hilbert
BERBERIAN (1961) "Introdution to Hilbert Space”, Oxford University Press, New York.
2.7 Exercices
Exercice 2.3 Dans un espace hilbertien, où se trouve l’extrémité de vecteurs de même longueur ? (dessiner
dans R 2 ; R 3 ).
Exercice 2.4 Soit E l’espace vectoriel des matrices carrées d’ordre 2 à coe¢ cients réels. Montrer que
dé…nit un produit scalaire
hA; Bi = trace( T AB)
Indication. Si A = (aij); B = (bij); trace( T AB) = (a11b11 + a21b21) + (a12b12 + a22b22)
Exercice 2.5 A partir des vecteurs X1 = (0; 1; 1) 0 ; X2 = (2; 0; 2) 0 ; X3 = (1; 1; 2) 0 construire une base
orthonormale de R3 par le procédé de Gram-Schmidt.
p
2;
Indication. Une possibilité Y1 = (0; 1
2
1
2
p 2) 0 ; Y2 = ( 1
3
p 6; 1
6
(1)
(2)
.
(t)
p p
1 0
6; 6) ; Y3 = (
6
1
3
3
7
5
p 3; 1
3
p p
1 0
3; 3) 3
Exercice 2.6 Soient les vecteurs X1 = (0; 1; 1) 0 ; X2 = (2; 0; 2) 0 ; Y = (1; 1; 2) 0 . On projette orthogonalement
Y sur le sous-espace vectoriel engendré par X1; X2. Notons cette projection b Y = X1 + X2.
1) Donner une représentation de ces trois vecteurs dans R 3 .
2) Calculer la valeur des paramètres ; en utilisant l’orthogonalité de Y b Y au sous-espace engendré
par X1; X2.
3) Calculer la valeur des paramètres qui minimise la somme des carrés résiduels dans la régression
linéaire de Y sur X1; X2.
Indication. 2) = 1=3; = 5=6
Exercice 2.7 Considérons le processus Xt = A cos(!t) + B sin(!t). A; B sont des variables aléatoires
normées, orthogonales entre elles
1) Montrer que ce processus est stationnaire.
2) Supposons données X0 = A; X1 = A cos(!)+B sin(!). En appliquant le théorème de Riesz, calculer
les meilleures prédictions linéaires \ X1(1); \ X2(1).
3) Calculer \ X3(1); \ X4(1):

2.7. EXERCICES 45
Exercice 2.8 Soit E l’espace vectoriel des fonctions dé…nies, continues, (intégrables au sens de Riemann)
sur l’intervalle [0; 1]. On pose
hf; gi =
Z 1
1
f(x)g(x)dx
1) Soient les polynômes f(x) = x2 + x + 1 et g(x) = 4x + 1: Calculer hf; gi.
2) Véri…er les axiomes d’un produit scalaire.
3) Déterminer les trois premiers éléments de degré 0,1,2 de la base orthonormée du sous-espace des
polynômes de degré inférieur ou égal à 2. (Ces polynômes sont les premiers d’une famille de polynômes
dite de Legendre)
4) Calculer les coe¢ cients de Fourier du polynôme x2 + x + 1 dans cette base.
Indication. 1)16=3, 3) P0(x) = 1
p 2 ; P1(x) =
= 4
3
p 2 1
p2 + 1
3
p 2 p 3
q
3 2
2x+ 15
p 2 p 5
q q
3
5
x; P2(x) =
2 2
q
5 3x
2
2 1
2
3x 2 1
2
4) x 2 +x + 1
Exercice 2.9 Montrer que dans la démonstration du théorème de Riesz, la propriété de sous-espace
vectoriel fermé peut être remplacée par celle de sous-espace convexe fermé.
Exercice 2.10 Soit P1;P2 deux projecteurs orthogonaux d’un espace de Hilbert E.
1) Supposons P1P2 = P2P1. Que peut-on dire de P1P2 (nature, image, noyau) ?
2) Donner un condition nécessaire pour que P1 + P2 soit un projecteur. Dans ce cas, que sont l’image
et le noyau de cette application.
Exercice 2.11 Soit trois vecteurs x1; x2; x3 de R3 Soit la matrice suivante (appelée grassmanienne)
2
hx1; x1i
G (x1; x2; x3) = 4 hx2; x1i
hx1; x2i
hx2; x2i
3
hx1; x3i
hx2; x3i 5
hx3; x1i hx3; x2i hx3; x3i
et soit
(x1; x2; x3) = det (G (x1; x2; x3))
1) Soit x1 = ax2 + bx3. Véri…er dans ce cas que (x1; x2; x3) = 0:
Nous admettrons que si n vecteurs sont linéairement dépendants, alors (x1; :::; xn) = 0 mais que si
les vecteurs sont linéairement indépendants alors (x1; :::; xn) > 0
2) Soit x; y deux vecteurs linéairement indépendants. En calculant (x; y) retrouver l’inégalité de
Bouniakovski-Cauchy Schwarz.
3) Soit le sous-espace F engendré par les vecteurs indépendants x1 et x2: Soit y un vecteur n’appartenant
pas à ce plan. Notons d = ky PF (y)k. Montrer que
d =
s
(y; x2; x3)
(x1; x2)
Cette expression assez simple à programmer permet un calcul aisé de la longueur d’une projection
Exercice 2.12 La di¤érence entre Espérance Conditionnelle et Meilleur Prédicteur Linéaire. Soit Y une
v.a.r. uniformément distribuée sur [ 1 : +1] et soit X = Y 2 :
1) Déterminer le meilleur prédicteur de X conditionnellement à Y et le meilleur prédicteur de Y
conditionnellement à X.
2) Calculer E(X aY b) 2 . En déduire que le meilleur prédicteur linéaire de X en fonction de Y
est 1=3 . Que dire de Y en fonction de X?
Indication. Rappel Pour une v.a.r. uniforme sur [1; 1], E(Y ) = 0; E(Y 2 ) = 1=3
1) E(X=Y ) = X 2 ; E(Y=X) = 0
2) Minimiser E(Y 2 aY b) 2 =var(Y 2 ) + a 2 E(Y 2 ) + b E(Y 2 ) 2
E(Y=X) = 0 est une fonction linéaire de X !