Théorie de Lyapunov, commande robuste et ... - LAAS CNRS

Théorie de Lyapunov, commande robuste et optimisation
D. Arzelier
LAAS-CNRS - UPR 8001
Toulouse

Quelques éléments de contexte 2
Algèbre linéaire
Théorie de la complexité
Théorie de l’information
R.E. Kalman
Théorie de Wiener−Hopf−Kalman
Théorie des systèmes dynamiques
Analyse numérique
Perturbations
A. Turing
Système
dynamique
P( ∆ )
N. Wiener
Sorties
C. Shannon
Théorie de l’ interpolation
Théorie des fonctions analytiques
Actions
Loi de
commande
K
Mesures
H. Black
H. Bode
G. Zames
Théorie des opérateurs
J.L. Lagrange
A. Lyapunov
Programmation mathématique
H. Nyquist
Théorie de Lyapunov, commande robuste et optimisation
JNMACS
06/09/05

Le modèle standard 3
Le modèle standard : [Doyle 1983]
Formulation générale et unifiée des problèmes de modélisation, d’analyse et de synthèse des
systèmes de commande à contre-réaction multivariables
Hypothèse :
w
P
z
Le modèle généralisé P et le correcteur généralisé K
u
y
sont des modèles LTI
K
Schéma standard
- Synthèse des approches fréquentielles (outils graphiques, sensibilité, robustesse) et espace
d’état (Optimalité, LQG, théorie de Lyapunov)
- Optimisation pour l’analyse de performance (analyse pire-cas) et description de l’incertitude
de modélisation
- Utilisation systématique des normes systèmes (H ∞ , H 2 ...)
Théorie de Lyapunov, commande robuste et optimisation
JNMACS
06/09/05

Modélisation incertaine, analyse et synthèse robustes 4
w
w ∆
∆
P
z ∆
z
Problème 1 (modélisation incertaine)
Choisir (w, u, z, y, z ∆ ,w ∆ ), caractériser la causalité entrée-sortie
u
K
y
et décrire ∆ ∈ ∆
Problème 2 (synthèse robuste)
w
P( ∆ )
z
Déterminer K conférant à l’interconnexion stabilité et perfor-
u
y
mances robustes
K
∆
Problème 3 (analyse robuste)
w
w ∆
N
z ∆
z
Pour K donné, déterminer si l’interconnexion est robuste en
stabilité et performance
Théorie de Lyapunov, commande robuste et optimisation
JNMACS
06/09/05

Analyse et synthèse robustes 5
- La synthèse H ∞ [Zames 1981]
min
K∈K
‖T zw(K)‖ ∞
➊ Problème d’interpolation de fonctions analytiques, techniques de Nevanlinna-Pick-Schur,
théorie des opérateurs de Sarason, AAK, BH, [FHZ 84], [Doyle 84]
➋ Problème de Nehari-Hankel, théorie de la factorisation, paramétrisation de Youla,
argument de séparation [BSS80], [Glover 84], [DGKF 89]
➌ Emergence de la formulation LMI [Willems 71], [GA 94]
- La µ-analyse : [Popov 61], [Sandberg 63], [Doyle 1982], [Safonov 1982]
µ ∆ (P )=
1
min {σ(∆) : ∆ ∈ ∆, det(1 − P ∆) = 0}
➊ Analyse fonctionnelle, théorie des opérateurs [Zames 63], [Narendra 64]
➋ Optimisation globale et optimisation convexe [YD 90], [YND 91], [FTD 91], [Ferreres 99]
Théorie de Lyapunov, commande robuste et optimisation
JNMACS
06/09/05

Analyse et synthèse robustes 6
- Théorie de Lyapunov et stabilité quadratique [LP 47], [Barmish 1985], [BPG 89] [BB 1991]
P ≻ 0 A ′ (∆,K)P + P A(∆,K) ≺ 0
➊ Algèbre des polynômes et méthodes graphiques [Yakubovich 62], [Kalman 63]
➋ Algèbre linéaire et numérique [Willems 1971]
➌ Prog. SDP :PI[BF 63], [NN 1994] et appr. non diff. [Kelley 1960], [Overton 88]
➥ Approches littérales ≠ Approches numériques
”a wide (but incomplete) class of linear controller design problems can be cast as convex optimization problems”
Pb. de commande = Pb. de programmation mathématique +méthode numérique efficace
➦ Résultats faibles ≠ Résultats forts
Complexité calculatoire : P=NPet démonstrabilité globale : convexité
• Problèmes ”faciles” : alternative numérique aux solutions littérales usuelles
• Problèmes ”durs” : relaxations convexes
Nota : SIAM J. of Control devient SIAM J. of Control and Optimization en 1976
Théorie de Lyapunov, commande robuste et optimisation
JNMACS
06/09/05

MPI + LMI = CR ou NLP + BMI = TC 7
Bcp. de problèmes en commande robuste sont encore non convexes (BMI) [Safonov 1994]
Identification robuste :
- Identification fréquentielle
- Validation de modèle
Synthèse :
- µ-synthèse
- Synthèse multiobjectifs
- Synthèse avec contrainte de structure
Analyse robuste en stabilité et performance :
-Modèle incertain LFT : théorie du µ
- Recherche de multiplieurs et théorie de la séparation des graphes
- Analyse robuste par les IQC’s
Théorie de Lyapunov, commande robuste et optimisation
JNMACS
06/09/05

Classes de problèmes d’optimisation non convexes 8
Problème BMI : Problème avec contrainte de rang :
min c ′ x
min c ′ x
sous
n∑
n∑ n∑
F 0 + F i x i + G i,j x i x j ≻ 0
sous F 0 +
i=1
i=1 j=i
n∑
F i x i ≻ 0
i=1
rang(G 0 +
n∑
G i x i ) ≤ N
Problème de complémentarité conique : Minimisation concave :
i=1
min
sous
Trace(ZF)
min f(x)
(F , Z) ∈K ×K
sous F 0 +
n∑
F i x i ≻ 0
i=1
f concave
Théorie de Lyapunov, commande robuste et optimisation
JNMACS
06/09/05

Exemple de problème LMI sous contrainte de rang 9
10
Ensemble réalisable :
M ′ P M

✔ Les approches par relaxation :
Quelques approches usuelles 10
- Dualité et relaxation lagrangiennes
Théorie de Lyapunov, S-procédure, lemme de Finsler et d’élimination, relaxation
de rang
- Les relaxations hiérarchiques
Polynômes positifs, SOS, théorie des moments
- Les relaxations heuristiques
Relaxations croisées et algorithmes de descente coordonnée
✔ Les approches algorithmiques :
- La méthode du gradient conditionnel
- Les méthodes de pénalité et de barrière
- L’optimisation non différentiable
- L’optimisation globale
Théorie de Lyapunov, commande robuste et optimisation
JNMACS
06/09/05

Dualité et relaxation Lagrangiennes 11
p ∗ = inf
x∈X
f(x)
sous h i (x) ≤ 0 i =1, ··· ,m
Le Lagrangien : L(x, λ) =f(x)+
Le problème dual :
m∑
λ i h i (x) λ i ≥ 0
i=1
d ⋆ =
sup
λ∈R +m
inf
x∈X
L(x, λ) = sup
λ∈R m+
θ(λ)
- La fonction duale θ(λ) est concave et semi-continue supérieurement
- Résoudre le dual du dual revient àrésoudre une relaxation convexe du pb. primal
- Dualité faiblep ⋆ ≥ d ⋆ , dualité forte, théorèmes des alternatives
- Dualité SDP(Application de la dualité conique)
Théorie de Lyapunov, commande robuste et optimisation
JNMACS
06/09/05

Relaxation lagrangienne : la S-procédure 12
Proposition 1 : f(x) ≥ 0 ∀ x ≠0∈X |h i (x) ≥ 0, i =1, ··· ,m
m∑
Proposition 2 : ∃ τ i ≥ 0, i =1, ··· ,m | f(x) − τ i h i (x) ≥ 0
i=1
S-procedure 1 ([Yakubovich 71])
Pour f(x) =x ′ Ax, h i (x) =x ′ B i x, i =1, ··· ,m et X = R n :
- Si ∃ x ∈ R n tel que h 1 (x) > 0 alors pour m =1,laS-procédure n’est pas pessimiste
- Si m =2,laS-procédure peut être pessimiste
Pessimisme de la S-procédure = saut de dualité [Fradkov 73]
inf
h i (x)≤0
f(x) ≥ sup
τ j ≥0
inf
x∈X
m f(x) − ∑
τ j h j (x)
j=1
Théorie de Lyapunov, commande robuste et optimisation
JNMACS
06/09/05

Preuve de la S-procédure : m =1 13
Propriétés de convexité de l’image de B⊂K n par des transformations quadratiques
[Toeplitz 1919], [Hausdorff 1919]
Théorème 1 ([Dines 41])
Pour (A, B 1 ) ∈ S n × S n alors K = {(u, v) =(x ′ Ax, x ′ B 1 x) : x ∈ R n } est un cône
convexe fermé de R 2
v
Supposons que x ′ Ax ≥ 0 ⇒ x ′ B 1 x ≥ 0.
Q
000000000000000000000
111111111111111111111
000000000000000000000
111111111111111111111
000000000000000000000
111111111111111111111
000000000000000000000
111111111111111111111
000000000000000000000
111111111111111111111
000000000000000000000
111111111111111111111
000000000000000000000
111111111111111111111
000000000000000000000
111111111111111111111
000000000000000000000
111111111111111111111
000000000000000000000
111111111111111111111
000000000000000000000
111111111111111111111
000000000000000000000
000000000000000000000
000000000000000000000
111111111111111111111
111111111111111111111
111111111111111111111
K
000000000000000000000
111111111111111111111
000000000000000000000
111111111111111111111
000000000000000000000
111111111111111111111
000000000000000000000
111111111111111111111
000000000000000000000
111111111111111111111
000000000000000000000
111111111111111111111
000000000000000000000
111111111111111111111
000000000000000000000
111111111111111111111
u
K∩Q= ∅ où Q = {v ≥ 0, u

Relaxation lagrangienne : théorèmes des alternatives 14
Soit l’application linéaire A : E → S
A adj : S → E est l’application adjointe
∀ x ∈ E, ∀ Z ∈ S, 〈A(x), Z〉 S
=
〈 〉
x, A adj (Z)
E
Théorème 2 (Alternative forte)
Une des assertions suivantes est exactement vérifiée
1- ∃ x ∈ E tel que A(x)+A 0 ≻ 0
2- ∃ Z ∈ S +∗ telle que A adj (Z) =0 et 〈A 0 , Z〉 S
≤ 0
Théorème 3 (Alternative faible)
Une des assertions suivantes au plus est vérifiée
1- ∃ x ∈ E tel que A(x)+A 0 0
2- ∃ Z ∈ S +∗ telle que A adj (Z) =0 et 〈A 0 , Z〉 S
≤ 0
De plus, si A 0 = A(x 0 ) pour x 0 ∈ E ou si ̸ ∃ x ∈ E tel que A(x) 0 alors une seule des
assertions est exactement vraie.
Théorie de Lyapunov, commande robuste et optimisation
JNMACS
06/09/05

Relaxation lagrangienne et théorie de Lyapunov (I) 15
Soit la sous-région D du plan complexe C
D = {s ∈ C : d 0 + d 1 s + d ⋆ 1s ⋆ + d 2 s ⋆ s

Relaxation lagrangienne et théorie de Lyapunov (II) 16
Formulation équivalente du problème de D-Stability :
Λ(A) ⊂ D ssi µ ⋆ > 0 avec
µ ⋆ = min
s, q≠0
sous
q ⋆ (A − s1) ⋆ (A − s1)q
s ∈ D C
p = sq
µ ⋆ = min
p, q≠0
[
] ⎡
q ⋆ p ⋆ ⎣ A′
−1
⎤
⎦ [ A
−1
] ⎡ ⎣ q p
⎤
⎦
sous
[
q
p
]
D
⎡
⎣ q⋆
p ⋆
⎤
⎦ ≽ 0
Théorie de Lyapunov, commande robuste et optimisation
JNMACS
06/09/05

Relaxation lagrangienne et théorie de Lyapunov (III) 17
Posant A =[A
− 1] et appliquant une relaxation lagrangienne
Si ∃ P ∈ S + n telle que :
⎡
[ ]
q ⋆ p ⋆ A ′ A ⎣ q p
⎤ ⎡
⎦ > trace ⎣P
[
q
p
]
D
⎡
⎣ q⋆
p ⋆
⎤⎤
⎦⎦
alors µ ∗ > 0 et D ⊗ P −A ′ A≺0
Par application du lemme de projection, une condition suffisante est
∃ P ∈ S n |
⎡
⎢
⎣
[
−
1 A ′ ]
D ⊗ P
⎡
⎣ 1 A
⎤
⎦ 0
0 P
⎤
⎥
⎦ ≻ 0
La matrice de Lyapunov P une variable duale de Lagrange ou multiplieur de Lagrange
Théorie de Lyapunov, commande robuste et optimisation
JNMACS
06/09/05

Relaxation lagrangienne et théorie de Lyapunov (IV) 18
Démonstrationdelanécessité (saut de dualité nul)
Théorème des alternatives pour Lyapunov généralisé [Balakrishnan 03]
1- ∃ P ∈ S n
A(P )=
⎡
⎢
⎣
[
−
1 A ′ ]
D ⊗ P
⎡
⎣ 1 A
⎤
⎦ 0
⎤
⎥
⎦ ≻ 0
0 P
2- ∃ (Z 1 ,Z 2 ) ∈ S + n × S + n
A adj (Z 1 , Z 2 )=Z 2 − [1 A]D ⊗ Z 1 [1 A] ′ = 0
Si la proposition 2 est vérifiée (équivalent àlaproposition1nonvérifiée) alors le
spectre de A n’est pas entièrement contenu dans D
Théorie de Lyapunov, commande robuste et optimisation
JNMACS
06/09/05

Relaxation lagrangienne et théorie de Lyapunov (V) 19
⎡ ⎤
⎤ ⎡ ⎤
Soient Q =[1 0], P =[0 1] et F (P )= ⎣ Q ⎦ ⎣ d 0P d 1 P
⎦ ⎣ Q ⎦ = D ⊗ P
P d ⋆ 1P d 2 P P
[
La forme duale trace F (P )X = trace F D (X)P avec X = xx ⋆ (x ⋆ = q ⋆ p
]) ⋆
′ ⎡
µ ⋆ = min
X≠0
sous
trace A ′ AX
F D (X) ≽ 0
X ≽ 0
rank X =1
La relaxation de rang est duale de la relaxation lagrangienne
Théorie de Lyapunov, commande robuste et optimisation
JNMACS
06/09/05

Relaxation lagrangienne : le lemme de Finsler 20
Soient H ∈ C n×m | rang(H) =r

Condition de stabilité étendue 21
Théorème 4
A est D-stable ssi ∃ P ∈ S n , F ∈ R n×n et G ∈ R n×n t.q.
⎡
⎢
⎣
D ⊗ P +
⎡
⎣ A′
−1
⎤
⎦ [ F
G
]
+
⎡
⎣ F ′
G ′
⎤
⎦ [ A
−1
0 −P
]
0
⎤
⎥
⎦ ≺ 0
Nota ⎡:
⎤
P et
⎣ F G
⎦ sont des variables issues de relaxations Lagrangiennes successives!
Théorie de Lyapunov, commande robuste et optimisation
JNMACS
06/09/05

Condition de stabilité étendue : interprétation 22
Théorème 5 ([Ebihara 05])
A est D-stable ssi A 1 (s) =s1 − A est D-stable ssi ∃ F(s) multiplieur polynômial t.q.
A ⋆ 1(s)F(s) + F ⋆ (s)A 1 (s) ≻ 0
∀ s ∈ D C
- Multiplieur polynômial d’ordre 1 : F(s) = F s + G
- Multiplieur d’ordre supérieur :
⎡
F(s) = ⎣ s1 1
⎤
⎦
⎡
⎤
⎣ H 11 F 11 G 11
⎦ ⎢
⎣
H 10 F 10 G 10
⋆ ⎡
s 2 1
s1
1
⎤
⎥
⎦
Condition LMI équivalente :
⎡
⎢
⎣
1 0 0
0 1 0
0 1 0
0 0 1
⎤
′
⎥ D ⊗ P
⎦
⎡
⎢
⎣
1 0 0
0 1 0
0 1 0
0 0 1
⎤
⎡
⎧⎪ ⎨ ⎥
⎦ + He ⎢
⎣
⎪ ⎩
⎤
−1 0
A ⋆ −1 ⎥
⎦
0 A ⋆
[
H11 F 11 G 11
H 10 F 10 G 10
] ⎫ ⎪ ⎬
⎪ ⎭
≺ 0
Théorie de Lyapunov, commande robuste et optimisation
JNMACS
06/09/05

Réduction du pessimisme des relaxations 23
Théorème 6 ([Peaucelle 00], [Ebihara 05])
A ∈ A =co{A 1 , ··· ,A N } est D-stable de manière robuste si
D ⊗ P i +
[
A
′
i
−1
] [
F G
]
+
[
F
′
G ′ ] [
A i −1
]
≺ 0
- Fonction de Lyapunov dépendant des paramètres P (δ) =
N∑
i=1
δ i P i
⎡
⎢
⎣
1 0 0
0 1 0
0 1 0
0 0 1
⎤ ′ ⎡
⎥ D ⊗ P i ⎢
⎦ ⎣
1 0 0
0 1 0
0 1 0
0 0 1
⎤
⎡
⎧⎪ ⎨ ⎥
⎦ + He ⎢
⎣
⎪ ⎩
−1 0
A ⋆ i
−1
0 A ⋆ i
⎤
⎥
⎦
[
H11 F 11 G 11
H 10 F 10 G 10
] ⎫ ⎪ ⎬
⎪ ⎭
≺ 0
- Fonction de Lyapunov dépendant des paramètres P (δ) =
[
A(δ)
1
] ⋆ ( N
∑
i=1
δ i P i
)[
A(δ)
1
]
Théorie de Lyapunov, commande robuste et optimisation
JNMACS
06/09/05

Quelques enjeux de l’optimisation en Automatique 24
Les enjeux théoriques et numériques liés à la non convexité
- Approches directes
Lagrangien augmenté (pénalité [Apkarian 02], barrière [Kočvara 02])
Optimisation non différentiable [Oustry 00], [Overton 03]
- Approches par relaxations convexes
Evaluation systématique du pessimisme des relaxations (successives) [Nesterov 97],
[Ben-Tal 00]
LMI et SDP représentabilité [Ben-Tal 01], [Helton 01]
Au delà de la dualité SDP et Lagrangienne [Ramana 97]
Les enjeux numériques liés aux LMI de grande taille
- Conditionnement numérique des problèmes SDP [Miller 97], [Yildrim 03]
- Temps de calcul, fiabilité, exploitation de la structure [Vandenberghe 02]
Démarche transversale mélant concepts et outils
Théorie de Lyapunov, commande robuste et optimisation
JNMACS
06/09/05