Generalized operator-valued \(pq\)-symbols and geometric quantization (Q1910991)

Soient \(E\) et \(F\) deux fibrés vectoriels hermitiens au dessus de deux variétés \(X\) et \(Y\). On pose \(E^\Lambda= E \otimes |\Lambda^n|^{1\over 2} T^* X\) où \(|\Lambda^n|^{1\over 2} T^* X\) est le fibré des demi-densités au dessus de \(X\). \(D(E^\Lambda)\) désigne l'espace des sections \({\mathcal C}^\infty\) à support compact de \(E^\Lambda\), \(D'(E^\Lambda)\) celui des sections généralisées et \(H(E^\Lambda)\) l'espace de Hilbert des sections généralisées bornées. Soit \(U\) un isomorphisme unitaire de \(H(F^\Lambda)\) dans \(H(E^\Lambda)\). Soit \(\Omega\) l'ouvert maximal de \(X \times Y\) sur lequel le noyau de \(U\) (vue comme application de \(D(F^\Lambda)\) dans \(D'(E^\Lambda)\)) est une section \({\mathcal C}^\infty\) de \(\text{Hom}(\Pi^*_Y F, \Pi^*_X E)^\Lambda\), \(\Pi_X\) et \(\Pi_Y\) sont les projections naturelles de \(X\) et \(Y\) sur \(X \times Y\). On note \(\mathcal U\), \(\mathcal E\) et \(\mathcal F\) les restrictions du noyau de \(U\), de \(\Pi^*_X E\) et de \(\Pi^*_Y F\) à \(\Omega\). Dans cet article l'auteur suppose que \(U\) vérifie certaines conditions de régularité du type: \({\mathcal M}_x = \Pi^{-1}_X (x) \cap \Omega\) et \({\mathcal N}_y = \Pi^{-1}_Y (y) \cap \Omega\) sont non vide et simplement connexe pour tout \(x\) dans \(X\) et \(y\) dans \(Y\), la mesure du complémentaire de \(\Omega\) est nulle pour toute mesure sur \(X \times Y\) et \(\mathcal U\) est de la forme \({\mathcal U} = \Theta \otimes \sqrt {\mu}\) où \(\mu\) est une mesure \({\mathcal C}^\infty\) sur \(\Omega\). Il prouve alors qu'il existe une unique connexion sur \(\mathcal E\) telle que les pullbacks des sections de \(E\) et \(F\) en sections de \(\mathcal E\) sont constantes (pour la dérivation covariante associée à cette connexion) le long des fibres \({\mathcal M}_x\) et \({\mathcal N}_y\), et que cette correspondance est bijective. Dans une deuxième partie l'auteur considère un groupe de Lie \(G\) agissant par automorphisme sur \(E\) et \(F\) de tel sorte que \(U\) entrelace les représentations correspondentes de \(G\) sur \(H(F^\Lambda)\) et \(H(E^\Lambda)\). Il montre que \(\Omega\) et \(\mu\) sont \(G\)-invariants et que \(\Theta\) est \(G\)-équivariante. Dans une troisième partie il définit le symbole d'un opérateur continue \(A : UD(F^\Lambda) \to D'(E^\Lambda)\) comme étant l'élément \(\alpha\) de \(D'(\text{End } {\mathcal E})\) vérifiant: \(\langle \alpha, \sigma \otimes \mu \rangle = \langle \gamma, \sigma \Theta \otimes \sqrt{\mu} \rangle\), \(\forall \sigma \in D(\text{End } {\mathcal E})\) (\(\gamma\) est le noyau de AU). Il prouve que l'application qui à un opérateur associe son symbole est équivariante et que cette application établit un isomorphisme unitaire entre l'espace des opérateurs de Hilbert-Schmidt sur \(H(E^\Lambda)\) et le complété de \(D(\text{End } {\mathcal E})\) pour la norme: \(|\sigma|= \int \text{tr} (\sigma \sigma^*) \mu\). A la fin de ce papier l'auteur applique ces résultats dans le cas ou \(G\) est un groupe de Lie semisimple et \(U\) est l'opérateur d'entrelacement de Knapp-Stein entre les séries principale de \(G\). Pour \(G = \text{SO}_0 (1,2)\) il retrouve les symboles définis dans \textit{V. F. Molchanov} [Funkts. Anal. Prilozh. 14, No. 2, 73-74 (1980; Zbl 0441.53009)].