Hypoellipticité maximale pour des opérateurs polynômes de champs de vecteurs. (Maximal hypoellipticity for polynomial operators of vector fields) (Q1060338)

Le contenu de ce livre est formé des nombreux résultats obtenus durant la dernière décade, principalement par les deux auteurs, sur l'hypoellipticité maximale d'opérateurs différentiels qui sont polynômes de champs de vecteurs. Ces opérateurs différentiels ont leur origine dans le fameux article de \textit{L. Hörmander} [Acta Math. 119(1967), 147-171 (1968; Zbl 0156.107)] sur les sommes des carrés de champs de vecteurs, article dans lequel apparaît la condition, connue maintenant sous le nom be ''condition d'Hörmander''. L'étude de tels opérateurs a mené les spécialistes qui s'y sont intéressés à voir les choses du côté groupes et algèbres de Lie (travaux de Rothschild-Stein, Folland, Rockland, Melin, les auteurs, etc...). L'objet de ce livre est de donner sous une forme unifiée des résultats généraux liés à une conjecture qu'ils énoncent conjecture généralisant celle de Rockland. Voici une très brève analyse du contenu de ce livre. Le chapitre I est consacré à la présentation de l'objectif. Les auteurs considèrent des champs de vecteurs réels de classe \(C^{\infty}\) \(X_ i\), \(i=1,...,p\) dans un ouvert \(\Omega\), voisinage de \(x_ 0\) dans \({\mathbb{R}}^ n\), vérifiant l'hypothèse de Hörmander en \(x_ 0\) (de rang r): les champs \(X_ i\) et leurs crochets d'ordre inférieur ou égal à r engendrent tout l'espace tangent en \(x_ 0\) à \(\Omega\). Un opérateur, polynôme des champs \(X_ i\), est un opérateur différentiel sur \(\Omega\) s'écrivant sous la forme \(P=\sum_{| \alpha | \leq m}a_{\alpha}(x)X^{\alpha}\), \(x\in \Omega\), où \(\alpha =(\alpha_{i_ 1},...,\alpha_{i_ p})\in {\mathbb{N}}^ p\) et \(X^{\alpha}=X_{i_ 1}^{\alpha_{i_ 1}}...X_{i_ p}^{\alpha_{i_ p}},\quad | \alpha | =\alpha_{i_ 1}+...+\alpha_{i_ p}.\) \(a_{\alpha}\) étant des fonctions complexes sur \(\Omega\). Alors P est hypoelliptique maximal en \(x_ 0\) s'il existe un voisinage V de \(x_ 0\) tel que \[ \sum_{| \alpha | \leq m}\| X^{\alpha}u\|^ 2\leq C(\| Pu\|^ 2+\| u\|^ 2),\quad \forall u\in C_ 0^{\infty}(V). \] A ces champs \(X_ i\), on peut associer l'algèbre de Lie nilpotente libre, à p générateurs \((Y_ 1,...,Y_ p)\) de rang de nilpotence r, algèbre qui est stratifiée, \({\mathfrak G}.\) Il existe un théorème (dit conjecture de Rockland) qui est démontré par les auteurs qui donne une caractérisation de l'hypoellipticité d'un opérateur homogène, en terme d'injectivité de \(\pi\) (P) pour toute représentation irréductible non triviale de groupe G associé à \({\mathfrak G}\). On note \(\hat G\) cet ensemble de représentations. Dans le cas général, des exemples simples montrent que la condition précédente n'est pas bonne. Ceci conduit les deux auteurs à formuler une conjecture plus générale, toujours en terme d'injectivité de \(\pi\) (P), mais où \(\pi\) décrit un ensemble de représentations irréductibles qui peut être différent de \(\hat G.\) Cet ensemble, forcément lié à \(x_ 0\), est noté \({\hat \Gamma}{}_{x_ 0}\) (définition 2.4). Dans le chapitre II sont donnés des rappels très développés sur la théorie des représentations, qui sont nécessaires à la compréhension des résultats avec des exemples illustrant ces rappels. Dans le chapitre III, ils donnent donc et démontrent leur condition nécessaire pour avoir l'hypoellipticité maximale en \(x_ 0\), en terme d'injectivité de \(\pi_{\ell}(P)\), pour \(\ell \in \Gamma_{x_ 0}\) (définition 2.2), où \(\pi_{\ell}\) est une représentation irréductible associée de façon naturelle à \(\ell\) (ici \(\Gamma_{x_ 0}\subset {\mathfrak G}^*)\). Cet ensemble \(\Gamma_{x_ 0}\) est décrit de façon détaillée au chapitre IV suivant. Le chapitre V est consacré à montrer que l'inégalité, maintenant bien connue, \[ \| u\|^ 2_{1/r}\leq C(\sum^{p}_{i=1}\| X_ iu\|^ 2+\| u\|^ 2)\quad \forall u\in C_ 0^{\infty}(v) \] démontrée par Rothschild-Stein, sous l'hypothèse de Hörmander, entraîne inversement celle-ci. Un exemple de champs de vecteurs \(X_ j\) est celui des champs parties réelle et imaginaire des champs holomorphes tangents à une hypersurface de \({\mathbb{C}}^ n:\) les auteurs étudient ainsi le Laplacien \(\square_ b\) associé. Ils considèrent plus en détail l'hypoellipticité maximale de \({\bar \partial}_ b\) dans le chapitre VI où sont étudiés les liens entre différentes conditions. Le but des auteurs étant de montrer que leur condition nécessaire (du chapitre III), est aussi suffisante dans le cas le plus général possible, les chapitres suivants sont consacrés donc à la réalisation de ce but dans différents cas, contenant les cas déjà connus. Ainsi dans le chapitre VIII, ils parlent de la méthode d'addition des variables, considèrent les opérateurs quasi- homogènes, et démontrent avec une nouvelle approche un théorème de L. Rothschild. Dans le chapitre VIII sont démontrées dans certains cas des estimations maximales de type \(L^ 2\), sous la condition déjà énoncée. Les trois derniers chapitres sont consacrés à la démonstration de la suffisance de leur conjecture dans des cas où les champs de vecteurs donnés ont une certaine écriture dans un système de coordonnées, ou alors où le rang de nilpotence est égal à 2. Nous sommes d'accord avec les auteurs pour estimer que les résultats présentés sont suffisamment riches pour être réunis dans ce livre et nous ajoutons que ce dernier sera utile à tous les mathématiciens travaillant dans ce domaine.