Separation of coadjoint orbits of an exponential group by their convex envelops (Q2468515)

Soit \(G\) un groupe de Lie. \textit{N. J. Wildberger} [Invent. Math. 98, No.~2, 281--292 (1989; Zbl 0684.22005)] a définit l'application moment d'une représentation unitaire \((\pi , \mathcal{H})\) de \(G\) comme suit: \(\psi: \mathcal{H}^{\infty} \backslash \{0\} \rightarrow \mathfrak g^{\ast}\) tel que \[ \psi(\xi)(X)= \frac{1}{i}\frac{\langle d \pi (X)\xi,\xi\rangle \mathcal{H}}{\langle\xi,\xi\rangle \mathcal{H}} \;, \quad X \in \mathfrak g, \] où \(\mathfrak g\) désigne l'algèbre de Lie de \(G\). Quand \(G\) est nilpotent connexe et simplement connexe et \(\pi\) est irréductible, il montre que l'ensemble moment de \(\pi\) (la fermeture de l'image de \(\psi\) dans \(\mathfrak g^{\ast}\)) coïncide avec l'adhérence de l'enveloppe convexe de \(\mathcal{O}_{\pi}\), l'orbite coadjointe associée à \(\pi\). Il se trouve alors que l'ensemble moment ne caractérise pas la représentation en question. A. Baklouti, J. Ludwig et M. Selmi ont étendu cette définition à l'algèbre enveloppante de \(\mathfrak g\), supposée nilpotente, en obtenant un nouveau ensemble géométrique dit ensemble moment généralisé et qui a l'avantage de caractériser les unitaires de \(\widehat{G}\). Cette séparation se réalise sur une filtration canonique de dimension finie de l'algèbre enveloppante. Plus tard, les auteurs du présent papier avec \textit{A. Baklouti} et \textit{J. Ludwig} [J. Lie Theory 10, No.~2, 399--410 (2000; Zbl 0962.22005)] ont étendu ce résultat au cadre des groupes de Lie résolubles exponentiels en précisant qu'une filtration canonique de dimension finie est insuffisante pour la séparation. Le but de ce papier rentre dans ce cadre. Il s'agit de séparer les représentations unitaires et irréductibles d'un groupe de Lie exponentiel \(G\) en restant dans le cadre de l'application moment usuelle. L'idée est de définir une algèbre de Lie résoluble \(\mathfrak g^{+}\) comme extension de \(\mathfrak g\) par un idéal abélien de dimension finie et une application \(\Phi\) de \(\mathfrak g^{\ast}\) dans \((\mathfrak g^{+})^{\ast}\) qui projette bijectivement toute orbite coadjointe de \(G\) en une orbite coadjointe de \(G^{+}\). Plus précisément, \(G^{+} \cdot \Phi(l)= \Phi(G \cdot l)\) pour toute \(l \in \mathfrak g^{\ast}\). Il est alors prouvé que toute représentation de \(\widehat{G}\) s'étend en une représentation de \(G^{+}\) et que les \(G^{+}\)-orbites sont séparées par la fermeture de leur enveloppe convexe. Ceci donne alors la séparation des représentations unitaires et irréductibles au niveau de \(G\).