Symmetric subvarieties in compactifications and the Radon transform on Riemannian symmetric spaces of noncompact type. (Q1413968)

Der Autor untersucht die Injektivität und die Frage nach einem Träger-Theorem für die total-geodätische Radon-Transformation auf einem Riemannschen symmetrischen Raum vom nicht-kompakten Typ. Diese Probleme wurden bereits von \textit{S. Helgason} [Adv. Math. 38, 91--100 (1980; Zbl 0462.58007)] im Fall hyperbolischer Räume behandelt. Als Ausgangspunkt benutzt der Autor das von Helgason eingeführte Prinzip der Doppelfaserung, das eine Dualität von homogenen Räumen \(G/K\) und \(G/H\) zugrunde legt und die Radon-Transformation als Abbildung eines Raums von Funktionen auf \(G/K\) in einen Raum von Funktionen auf \(G/H\) erklärt. Die Radon-Transformierte einer Funktion \(f\) auf \(G/K\) wird durch \[ R.f(g.H):= \int_{H/K\cap H} f(g\cdot h.K)\,d\dot h \] definiert. Speziell betrachtet der Autor jetzt die folgende Situation (0): (0) Sei \(G\) eine zusammenhängende halbeinfache nicht-kompakte Lie-Gruppe, \(K\) eine maximal-kompakte Untergruppe von \(G\) und \(H\) eine echte nicht-kompakte reduktive Untergruppe von \(G\), die unter einer die Untergruppe \(K\) fixierenden Cartan-Involution \(\theta\) invariant ist. Dann ist \(H.K\) total-geodätisch in \(G/K\), und die Elemente von \(G/H\) können als \(G\)-Translationen dieser total-geodätischen Untermannigfaltigkeit verstanden werden. (Der von Helgason behandelte Fall hyperbolischer Räume ergibt sich gerade für \(G= SO_0(n,1)\), \(K= SO(n)\times \{1\}\) und \(H = S(O(n- k)\times O(k, 1))\), wobei \(k\), \(1\leq k\leq n- 1\), die Dimension der total-geodätischen Untermannigfaltigkeit ist.) Seien jetzt \({\mathfrak g}\), \({\mathfrak h}\) und \({\mathfrak k}\) die Lie-Algebren von \(G\), \(H\) bzw. \(K\) und seien \({\mathfrak p}\) und \({\mathfrak q}\) die orthogonalen Komplemente von \({\mathfrak k}\) bzw. \({\mathfrak h}\) in \({\mathfrak g}\) bzgl. der Killing-Form. Der Autor macht nun noch folgende wesentliche Annahme (I): (I) Es kann ein maximal-kommutativer Unterraum \({\mathfrak a}\) in \({\mathfrak p}\) so gewählt werden, dass \({\mathfrak a}\subseteq{\mathfrak p}\cap{\mathfrak q}\) gilt, und außerdem ist \(({\mathfrak g},{\mathfrak h})\) symmetrisch; i.e. es existiert ein mit \(\theta\) vertauschbarer involutiver Automorphismus \(\sigma\) von \({\mathfrak g}\), dessen Fixpunktmenge gerade \({\mathfrak h}\) ist. Der Autor zeigt nun, dass in der von ihm vorausgesetzten Situation (0) die Radon-Transformation \(R\) auf \(C^\infty_c(G/K)\) injektiv ist, falls die Annahme (I) erfüllt ist. (Er beweist dieses Resultat sogar für Räume schnell fallender Funktionen vom LP-Typ.) Überdies beweist er ein Träger-Theorem unter der zusätzlichen Annahme (II), dass die Weylsche Gruppe von \(G\) mit der (in kanonischer Weise definierten) Weylschen Gruppe von \(G^0:= (K\cap H)\exp({\mathfrak p}\cap{\mathfrak g})\) übereinstimmt. Zur Methode: Der Autor benutzt eine Zellenzerlegung der maximalen Satake-Kompaktifizierung des symmetrischen Raumes [cf. \textit{I. Satake}, Ann. of Math. (2) 71, 77--110 (1960; Zbl 0094.34603)] und gewinnt dadurch Abschätzungen für das Abklingverhalten der Radon-Transformierten. Als entscheidendes Hilfsmittel beweist er schließlich eine Beziehung zwischen Radon- und Fourier-Transformation vom üblichen Typ.