Matrix coefficients and a Weyl correspondence for nilpotent Lie groups (Q1340646)

Sei \(G\) eine zusammenhängende Lie-Gruppe, sei \({\mathfrak g}\) die Lie-Algebra von \(G\) und sei \(Z({\mathfrak g})\) das Zentrum der universellen einhüllenden Algebra \(U({\mathfrak g})\) von \({\mathfrak g}\). Ist \(\pi\) eine unitäre Darstellung von \(G\) in einem Hilbert-Raum \({\mathcal H}\) und ist \(A\) ein Spuroperator in \({\mathcal H}\), so heißt die Funktion \[ f^A_\pi (s):= \text{Spur} (\pi (s) A), \qquad s\in G, \] ein Matrix-Koeffizient von \(\pi\). Sei \({\mathcal R} (G, \pi)\) die Menge aller Matrix-Koeffizienten von \(\pi\). Ist \(G\) kompakt und \(\pi\) irreduzibel, so hat man die folgenden klassischen Aussagen: \[ \begin{aligned} &\int_G f^A_\pi (s) \overline {f^B_\pi (s)} ds= {1\over {\dim {\mathcal H}}} \text{ Spur} (AB^*); \tag{i}\\ &\int_G f^A_\pi (s^{-1}) \pi (s) ds= {1\over {\dim {\mathcal H}}} A; \tag{ii}\\ &{\mathcal R} (G, \pi)= \{f\in C^\infty (G)\mid u * f= \chi_{\overline {\pi}} (u)f \text{ für alle } u\in Z({\mathfrak g})\}. \tag{iii} \end{aligned} \] (Dabei ist \(\chi_{\overline {\pi}}: Z({\mathfrak g})\to \mathbb{C}\) der infinitesimale Charakter von \(\overline {\pi}\).) Das Hauptanliegen der vorliegenden, sehr interessanten Arbeit besteht nun darin, Analoga der Aussagen (i)--(iii) zu beweisen für den Fall, daß \(G\) eine einfach zusammenhängende nilpotente Lie-Gruppe ist. Sei also \(\pi\) eine irreduzible Darstellung einer einfach zusammenhängenden nilpotenten Lie-Gruppe \(G\) in einem Hilbert-Raum \({\mathcal H}\). Ein beschränkter Operator \(A\) in \({\mathcal H}\) heißt glatt, wenn \(d\pi (u) A\) und \(Ad\pi (u)\) beschränkte Operatoren sind für alle \(u\in U({\mathfrak g})\) [vgl. dazu \textit{R. Howe}, Pac. J. Math. 73, 329-363 (1977; Zbl 0383.22009)]. Für glatte Operatoren \(A\) heißen die Funktionen \(f^A_\pi\) glatte Matrix-Koeffizienten von \(\pi\). Sei \({\mathcal R} (G, \pi)_\infty\) die Menge aller glatten Matrix-Koeffizienten von \(\pi\). Die Aussagen (i) and (ii) gelten jetzt für glatte Matrix-Koeffizienten, wenn man das Haar-Maß \(ds\) durch ein geeignetes positives Radon-Maß \(\mu\) ersetzt und \(\dim {\mathcal H}\) durch eine geeignete Konstante \(d(\pi)\). (Ist \(\pi\) quadratisch integrierbar im Sinne von \textit{C. C. Moore} und \textit{J. A. Wolf} [Trans. Am. Math. Soc. 185, 445-462 (1973; Zbl 0274.22016)], so ist \(d(\pi)\) der formale Grad von \(\pi\).) Das Maß \(\pi\) ergibt sich als Bildmaß (unter der Exponentialabbildung) des Lebesgue-Maßes des durch die ``Sprung-Indizes'' von \(\pi\) bestimmten Unterraums \({\mathfrak g}_e\) von \({\mathfrak g}\). Als Analogon zu (iii) genügt die Betrachtung infinitesimaler Charaktere nicht, weil diese die irreduziblen Darstellungen im allgemeinen nicht trennen. Der Autor arbeitet stattdessen mit dem primitiven Ideal \(I_\pi:= \text{Kern} (d\pi)\) in \(U({\mathfrak g})\). Er charakterisiert \({\mathcal R} (G, \pi)_\infty\) als die Menge derjenigen glatten Funktionen \(f\), für die \(I_{\overline {\pi}} *f=0\) gilt und die zudem noch gewisse Wachstumsbedingungen erfüllen. -- Als Schlüsselresultat für seine Ergebnisse beweist der Autor die für Schwartz-Funktionen \(\varphi\) auf \(G\) gültige Beziehung \(\text{Spur }\pi (\varphi \mu)= {1\over {d(\pi)}} \varphi (e)\).