Systèmes sous-elliptiques. II. (Subelliptic systems. II) (Q1176638)

[For part I see Semin., Equations Deriv. Partielles 1986-1987, Exp. No. 5, 14 p. (1987; Zbl 0635.35086).] L'auteur donne des applications d'une méthode de preuve d'inégalités \(L^ 2\) pour des systémes pseudo-différentiels mettant en évidence le lien qui existe entre ces systèmes et les représentations de certains groupes nilpotents [voir \textit{J. Nourrigat}, J. Funct. Anal. 74, 300-327 (1987; Zbl 0644.35026), and Commun. Partial Differ. Equations 15, No. 3, 341-405 (1990; Zbl 0723.35089)]. On considère dans un ouvert \(\Omega\) de \(\mathbb{R}^ n\), des opérateurs pseudo-différentiels \(X_ j\), \(1\leq j\leq 2p\), d'ordre 1, dont les symboles principaux (homogènes de degré 1), notés \(X_ j(x,\xi)\), sont supposés réels. Soit \(L_ j=X_ j+iX_{p+j}\), \(1\leq j\leq p\). On dit que le système \(L_ 1,\dots, L_ p\) est hyperelliptique maximal en \((x_ 0,\xi_ 0)\in\Omega\times \mathbb{R}^ n\setminus \{0\}\), s'il existe \(\varepsilon>0\), \(C>0\), un voisinage \(V\) de \(x_ 0\) et un opérateur pseudo-différentiel \(\psi(x,D)\) d'ordre 0, elliptique en \((x_ 0,\xi_ 0)\), tels que \[ \|\psi(x,D)u\|_ \varepsilon+ \sum_{j=1}^{2p} \|\psi(x,D)X_ j u\|\leq C\left( \sum_{j=1}^ p \| L_ j u\| +\| u\|\right), \qquad u\in{\mathcal C}_ 0^ \infty(V).\tag{*} \] (1) On donne une caractérisation de l'inégalité (*) lorsque les différentielles des symboles \(X_ j(x,\xi)\) sont linéairement indépendantes en \((x_ 0,\xi_ 0)\). (2) On fournit une nouvelle preuve du théorème classique sur les opérateurs sous-elliptique de \textit{Yu. V. Egorov} [Russ. Math. Surveys 30, No. 2, 59-118, No. 3, 55-105 (1975; Zbl 0318.35075; Zbl 0331.35054)] et \textit{L. Hörmander} [Ann. Math. Stud. 91, 127-208 (1979; Zbl 0446.35086)]. (3) On étudie un cas ``fortement non-commutatif'', où les crochets de Poisson itérés des \(p\) symboles complexes \(L_ j(x,\xi)\) ``dominent'' ceux des \(X_ j(x,\xi)\). L'idée essentielle est de se ramener à des opérateurs différentiels à coéfficients polynomiaux d'une fomre particulière. Ensuite on prouve qu'il suffit de montrer que les systèmes modèles sont injectifs dans un espace \({\mathcal S}(\mathbb{R}^ k)\), propriété qui résulte d'un ``principe du maximum du module''.