On Gelfand pairs associated with nilpotent Lie groups (Q1894180)

Eine kompakte Gruppe \(K\) wirke auf einer einfach zusammenhängenden nilpotenten Lie-Gruppe \(N\) durch Automorphismen. Sei \(G : = K \ltimes N\) das zugehörige semidirekte Produkt. Der Autor liefert Kriterien dafür, daß das Paar \((G,K)\) ein Gelfand-Paar ist. Eine notwendige Bedingung dafür ist nach einem Resultat von \textit{C. Benson, J. Jenkins} und \textit{G. Ratcliff} [Trans. Am. Math. Soc. 321, 85-116 (1990; Zbl 0704.22006 )], daß \(N\) höchstens 2-nilpotent ist. Als erstes Hauptergebnis reduziert der Autor nun die Frage, ob \((G,K)\) ein Gelfand-Paar ist, auf den Fall, daß \(N\) eine Heisenberg-Gruppe ist. Dazu werden Methoden der Darstellungstheorie nilpotenter Lie-Gruppen verwendet. Der Autor untersucht auch speziell den Fall, daß \(K = {\mathbf T}^n\) ein \(n\)-dimensionaler Torus ist. Die Frage, wann \((G,K)\) ein Gelfand-Paar ist, wurde für diesen Fall bereits von \textit{H. Leptin} [Pac. J. Math. 116, 45-67 (1985; Zbl 0587.43003 )] beantwortet unter der Voraussetzung, daß der Kommutator \([{\mathfrak n}, {\mathfrak n}]\) der Lie-Algebra von \(N\) mit dem Zentrum \(Z({\mathfrak n})\) übereinstimmt und daß \(K\) auf \(N\) effektiv wirkt. Der Autor beantwortet diese Frage nun ohne die genannten Voraussetzungen. An einem Beispiel zeigt er, daß für die vorliegende Frage im Fall \([{\mathfrak n}, {\mathfrak n}] \neq Z({\mathfrak n})\) eine veränderte Situation entstehen kan.