Construction d'une paramétrixe pour des opérateurs différentiels hypoelliptiques maximaux sur un espace homogène d'un groupe de Lie nilpotent gradué de range 2. (Construction of a parametrix for maximal hypoelliptic differential operators on a homogeneous space of a graded nilpotent Lie group of rank 2) (Q1819448)

Soient \({\mathfrak G}\) une algèbre de Lie nilpotente stratifiée de rang 2, \({\mathfrak H}\) une sous algèbre de \({\mathfrak G}\), \(\pi _{(0,{\mathfrak H})}\) la représentation de \({\mathfrak G}\) dans l'espace \(L^ 2({\mathfrak H}\setminus {\mathfrak G})\) induite par le caractère trivial \({\mathfrak H}\to {\mathbb{C}}\), P un opérateur homogène appartenant à l'algèbre universelle enveloppante (complexifiée) \({\mathfrak U}({\mathfrak G})\) tel que l'opérateur \(\pi _{(0,{\mathfrak H})}(P)\) soit hypoelliptique maximal [voir \textit{B. Helffer} et \textit{J. Nourrigat}, Journées ''Equations aux dérivées partielles'', Saint-Cast 1979, Conf. No.10 (1979; Zbl 0405.35024); Hypoellipticité maximale pour des opérateurs polynômes de champs de vecteurs (1985; Zbl 0568.35003)]. Cet opérateur peut s'exprimer par une intégrale dépendant de la restriction du symbole p de P au sous ensemble \(\Omega ={\mathfrak GH}^{\perp}\) décrit par les orbites des éléments de \({\mathfrak H}^{\perp}\) dans la représentation contragrédiente de \({\mathfrak G}\) dans \({\mathfrak G}^ *\). Une algèbre de symboles définis sur \(\Omega\) est construite et permet de déterminer une paramétrixe de \(\pi _{(0,{\mathfrak H})}(P)\) [cf. \textit{A. Melin}, Ann. Global Anal. Geom. 1, No.1, 79-130 (1983; Zbl 0524.58044)]; des résultats de régularité de cet opérateur dans des espaces de Sobolev peuvent alors être obtenus.