THÈSE DE DOCTORAT ELLOUMI Mounir Espaces duaux de ...

12
tations est celui de l’étude de la topologie du dual unitaire. Soient G un
groupe abélien localement compact, et ˆ G le groupe dual, ensemble des caractères
continus sur G, depuis Pontrjagin on munit classiquement ˆ G de la
topologie de la convergence uniforme sur tout compact de G. Cette topologie
a été généralisée par J. M. G. Fell ([Fe1], [Fe2], [Fe3]) comme suit. Soit G
un groupe localement compact quelconque et Γ l’ensemble des (classes de)
représentations unitaires continues π de G. Si π ∈ Γ et Y ⊂ Γ, on dit que π
est faiblement contenue dans Y si toute fonction de type positif associée à π
est une limite uniforme sur tout compact de G de sommes finies de fonctions
de type positif associées à des représentations appartenant à Y . Si π ∈ ˆ G,
on peut supprimer les mots “sommes finies de” dans la définition précédente.
Pour Y ⊂ ˆ G, on appelle fermeture de Y l’ensemble Y des π ∈ ˆ G qui sont
faiblement contenues dans Y . On dit que Y est fermée dans ˆ G si et seulement
si Y = Y . Cette notion d’ensemble fermé définit sur ˆ G une topologie,
appelée topologie de Fell. Il arrive souvent qu’elle ne soit pas séparée au sens
de Hausdorff. L’étude de la topologie de l’espace dual des groupes localement
compacts a été developpée à travers les travaux de L. W. Baggett qui a
donné dans [Ba] une description de la convergence dans le dual unitaire des
produits semi-directs K ⋉N, avec N nilpotent, et K abélien ou compact. On
trouve aussi les travaux de I. Schochetman qui a étudié le cas des groupes
des extensions ([Sch]).
Le problème fondamental lié à la paramétrisation géométrique de l’espace
dual ˆ G d’un groupe de Lie G et à la description de sa topologie est d’étudier
la continuité de la bijection entre ˆ G et l’espace des orbites coadjointes.
Pour un groupe de Lie connexe, simplement connexe, et nilpotent, le fait que
cette bijection soit un homéomorphisme a été conjecturé par Kirillov dans
[Kirillov] en 1962, et prouvé pour la première fois par Brown dans [Br] en
1974. Par une approche fondamentalement différente de celle de Brown, une
autre preuve, moins retentissante, fut donnée par Joy dans [Joy] en 1984. En
1994, H. Leptin et J. Ludwig ont démontré que ce résultat est aussi vrai pour
les groupes de Lie exponentiels résolubles (pour les details, voir [Lep-Lud]).
La première partie de ma thèse est une contribution à l’étude de ce type
de problèmes en analyse harmonique. J’ai essayé, en collaboration avec le
Professeur J. Ludwig, de traiter le cas des produits semi-direct G = K ⋉ N
de groupes compacts K et nilpotents N. L’espace dual de ces groupes a été
déterminé à l’aide de la théorie des petits groupes de Mackey et de la théorie
des orbites de Kirillov par R. L. Lipsmann. Le problème auquel nous nous
étions consacrés fût de comparer la topologie de Fell de l’espace dual de ces
groupes à la topologie naturelle de l’espace des orbites co-adjointes admis-