Канонические и граничные представления на сфере с действием обобщенной группы Лоренца

Канонические представления на эрмитовых симметрических пространствах С/К были введены в работах Ф. А. Березина [15] и А. М. Вершика, И. М. Гельфанда и М. И. Граева [16] -для нужд квантования и квантовой теории поля. Эти представления действуют сдвигами в функциях на С/К и являются унитарными относительно некоторого нелокального скалярного произведения, теперь называемого формой Березина. Они являются деформациями квазирегулярного представления группы (?, действующего сдвигами в пространстве на С/К (ядро скалярного произведения в Ь2 есть дельта-функция, это — локальное скалярное произведение). Разложение квазирегулярного представления на однородном пространстве на неприводимые составляющие есть основная задача абстрактного (некоммутативного) гармонического анализа. Появление нелокального скалярного произведения делает теорию (некоммутативный гармонический анализ) значительно более богатой и интересной — как для самой математики, так и для ее приложений.

Изучение канонических представлений на эрмитовых симметрических пространствах С/К стало в последнее время привлекательной и популярной задачей для математиков из многих стран: Г. ван Дейк [39−46], С. Хилле [40] (Нидерланды), А. Унтерберже [60], М. Певзнер [46], А. Паскуале [42−43] (Франция), Т. Номура [49, 55−57], Т. Кобаяси (Япония), Г. Чжанг [61] (Швеция), Б. Орстед (Дания), Я. Петре (Финляндия) [58], Дж. Арази (Израиль), Г. Упмайер [60] (Германия), М. Энглис [47−48] (Чехия), В. Ф. Молчанов [29−31, 41, 51−53], Ю. А. Неретин [32, 54] (Россия) и другие.

Новый подход к этому понятию канонического представления предлагается В. Ф. Молчановым [2931]. Основная идея состоит в расширении этого понятия и распространении его с класса эрмитовых симметрических пространств (?/К, рассматривавшегося ранее, на другие классы симметрических полупростых пространств С/Н, используя для этого понятия надгруппы.

При этом оказывается естественным отказаться от слишком стеснительного условия унитарности, нужно позволить каноническим представлениям действовать в достаточно широких пространствах функций и даже более того — в пространствах сечений линейных расслоений, в частности, в пространствах обобщенных функций. Эти пространства не обязательно гильбертовы (или банаховы). Более естественной для такой цели является структура ядерного пространства. Кроме того, естественным является расширение рамок для изучения гармонического анализа: теория должна включать действие группы С не только на ее однородных пространствах, но и на многообразиях с нетранзитивным действием группы В качестве таких многообразий мы берем флаговые пространства надгрупп С?.

Этот подход состоит в следующем. Пусть С? — полупростая группа Ли и <5 -надгруппа для <3, это означает, что (? есть подгруппа группы С? и эта подгруппасферическая, т. е. выделяется из (7 некоторой инволюцией. Пусть Р — максимальная параболическая подгруппа группы (3, пусть Я, А € С, — серия представлений группы С?, индуцированных характерами (одномерными представлениями) подгруппы Р. Представления Л могут зависеть еще от. некоторых дискретных параметров, сейчас мы их не пишем. Как правило, представления Дд неприводимы. Они действуют в функциях на некотором компактном многообразии (пространстве флагов для надгруппы (?).

Обозначим через Яд ограничения представлений Я на группу С?:

Д = Да в.

Мы называем эти представления 11 каноническими представлениями группы (2. Они действуют в функциях на П.

Вообще говоря, многообразие О, не является однородным пространством группы .

Серия представлений Лд обладает сплетающим оператором Л: он* сплетает представления со значениями параметра, А и А* = N — А, где N — некоторое число, зависящее от П. Композиция этого оператора и инволюции, выделяющей группу С в С, порождает некоторый оператор <Эд, который играет важную роль во всей теории. Мы называем этот оператор фА преобразованием Березина. Он сплетает канонические представления с параметрами, А и А*.

Наряду с указанным понятием канонического представления можно рассматривать несколько другую его версию (более раннюю): ограничение канонических представлений в первом смысле на какую-нибудь одну С-орбшу С/Н в О. Оба варианта должны быть предметом изучения. Но первый из них приводит к более естественной и прозрачной теории. Например, в первом варианте легко написать оператор, обратный к преобразованию Березина фд, это — оператор Ях-, а во втором — это трудная задача.

Граничные представления, порождаемые каноническими представлениями Д, связаны с границами О-орбит С/Нг, эти границы состоят из £?-орбит меньшей размерности. Граничные представления распадаются на два типа: представления одного типа действуют в обобщенных функциях, сосредоточенных на объединении 5 границ, представления другого типа действуют в струях, трансверсальных к Б (в коэффициентах рядов Тейлора по степеням «расстояния» до границы). Эти два типа двойственны друг другу. Появление граничных представлений связано как раз с широкой трактовкой понятия канонического представления. Граничные представления интересны как сами по себе (вообще, изучение представлений в обобщенных функциях, сосредоточенных на подмногообразиях, — одна из самых «горячих тем» и интригующих задач в некоммутативном гармоническом анализе), так и с точки зрения разложения канонических представлений, они «склеивают» представления на отдельных орбитах Є/Ні.

Квантование в духе Березина на пара-эрмитовых симметрических пространствах О/Н тесно связано с каноническими представлениями, см. [50]. Здесь роль переполненной системы играет ядро (функция) сплетающего оператора для представлений группы С? максимально вырожденных серий. С одной стороны, преобразование Березина переводит контравариантные символы в ковариантные, с другой — его ядро (функция) дает умножение в алгебре ковариантньтх символов.

Основными задачами развиваемой теории являются следующие: а) разложить канонические представления на неприводимые составляющие (тот факт, что канонические представления не обязательно унитарны, вносит особые трудности в эту задачу и предъявляет особые требования к построению теории) — б) найти дискретные составляющие канонических представлений, эквивалентные частям граничных представленийв) разложить граничные представления (решение этой задачи тесно связано с мероморфной структурой преобразований Пуассона и Фурье, ассоциированных с каноническими представлениями) — г) разложить преобразование Березина (основной объект в теории квантования) по операторам Лапласад) найти асимптотику преобразования Березина, когда комплексный парамегр, нумерующий канонические представления, стремится к бесконечности, это включает в себя отыскание принципа соответствия из теории квантования по Березину, заметим, что указанный параметр тесно связан с «постоянной Планка», таким образом, в теорию включается постоянная Планка, принимающая комплексные значения;

Однородные пространства О/Н, для которых ставятся сформулированные задачи, это — симметрические полупростые пространства. Такие пространства образуют обширный и крайне важный класс (как для математики, так и для приложений — в космологии, квантовой теории, теории относительности и т. д.) однородных пространств.

Подкласс римановых симметрических пространств (здесь инвариантная метрика положительно определена) более прост в изучении. При переходе от римановых пространств к другому подклассу — псевдоримановых симметрических пространств (здесь инвариантная метрика не является знакоопределенной) трудности в изучении гармонического анализа резко возрастают.

Среди всех симметрических полупростых пространств О/Н (как римановых, так и псевдо-римановых) выделяется подкласс симплектических симметрических пространств. Именно на пространствах этого класса должно строиться квантование в смысле Березина.

Помимо симплектических симметрических пространств чрезвычайно важный класс образуют гиперболические пространства — вещественные (гиперболоиды), комплексные, кватернионные и октавное: 80о (р, в)/80оСр, д-1), 8и (р, 9)/3(и (р, 9−1)хи (1)), йр (р, д)/3р (р, д — 1) X Зр (1), ^4,20/8рт (9).

Именно вещественные гиперболоиды служат открытыми б-орбитами на многообразии в нашей работе.

Краткое содержание диссертации.

Остановимся коротко на содержании диссертации. Мы проводим изложенную выше программу для обобщенной группы Лоренца (псевдоортогональной группы) G = SO0(l, ra — 1), действующей на единичной сфере fi в пространстве М71. Мы рассматриваем два варианта действия группы G на сфере fi. Они связаны с двумя вариантами надгруппы G.

Мы будем считать, что группы действуют в пространствах и на многообразиях справа: х хд, в соответствии с этим мы будем записывать векторы в виде строк.

Группа G — это связная группа линейных преобразований пространства Мп, сохраняющих билинейную форму х, у] = -Х1У1 + Х2У2 + ••• + ХпУп.

Ее орбиты в Ж71 — это однополостные гиперболоиды [ж, х] — с, с > 0, полы двуполостных гиперболоидов [ж, ж] — с, с < 0, две полы конуса [ж, х] — О, X Ф О, и начало координат х — 0.

Первый вариант — вариант (А) — состоит в том, что в качестве G мы берем специальную линейную группу SL (n, R). На пространстве М" она действует линейно: x хд. Это линейное действие на Ега дает действие и н-" ид/ид на единичной сфере fi: |м|=1 (транзитивное) с помощью центрального проектирования х н-" х/х. Здесь через |а-| обозначается евклидова норма.

Соответствующее действие и ид/ид группы G на fi имеет 5 орбит. Это — три открытые орбиты: северная полярная шапка fil: [и, и] < 0, ui > 1//2, южная полярная шапка fil: [и, и] < 0, щ < —1/^/2 и сферический пояс fi+: [и, и] > 0, они отвечают двум полам [ж, х] = —1, хх ^ 1, и У~: [х, х = —1, xi ^ —1, двуполостного гиперболоида [х, х] — — 1 и однополостному гиперболоиду.

X: [-х, х] = +1, соответственно. Еще имеется две орбиты размерности п—2 (сферы):: [и, и] = 0, щ = 1/л/2,^о: [и->и] = 0, «1 = —1//2, находящиеся между открытымиони отвечают двум полам конуса [ж, х] = 0. Обозначим через! Г2 и П0 объединение полярных шапок и орбит размерности п — 2, соответственно.

Таким образом, сфера О получается «склейкой» двуполостного гиперболоида и однополостного гиперболоида по их границам («бесконечностям»).

Многообразие У+ есть пространство Лобачевского размерности п — 1. Однополостный гиперболоид X иногда называют мнимым пространством Лобачевского.

Пусть у0 = (1,0, ., 0) и х° = (0, ., 0,1) — «начальные» точки многообразий и X. Стационарные подгруппы этих точек в С — это соответственно подгруппы К = 50(п — 1) и Н = 5, О0(1, п — 2). Первая из них компактна, вторая — некомпактна, стало быть — риманово пространство, а X — псевдориманово пространство.

Второй вариант — вариант (В) — состоит в том, что в качестве надгруппы С? мы берем обобщенную группу Лоренца большей размерности, а именно, группу 500(1, п). Мы расширяем пространство Еп до пространства Кп+1, добавляя координату .тп+1, и рассматриваем в Мп+1 билинейную форму х, у]] = -Х1У1 + Х2У2 +. + хпуп + хп+1уп+1.

Сфера О есть сечение конуса [[ж, ж]] = 0 плоскостью х = 1. Надгруппа действует линейно в Мп+1, она сохраняет конус [[ж, ж]] = 0 и действует транзитивно на каждой из его двух пол хг > 0 и XI < 0, на сечении она действует с помощью проектирования х ь-> х/х1, это действие транзитивно. Группа С вкладывается в надгруппу С? как подгруппа, сохраняющая координату хп+. Соответствующее действие группы (7 на сфере О, имеет 3 орбиты. Это две открытые орбиты — полусферы Хп+1 > 0 и Хп+1 < 0, и орбита меньшей размерности — экватор хп+1 = 0.

Таким образом, сфера ?2 получается «склеиванием» двух пол двуполостного гиперболоида [х, ж] = —1 по их границам («бесконечностям»).

Основной результат работы состоит в разложении канонических представлений группы С = БОо (1, п—1) на сфере О, для обоих вариантов (А) и (В) по неприводимым представлениям группы О, связанным с конусом.

Представления группы <7, связанные с конусом, см. главу I. Напомним некоторый материал, см., например, [17], [22], [25] об этих представлениях.

Возьмем сечение й1 конуса С плоскостью хі = 1. Оно состоит из точек в = (1, 52, ., Яп), Й2 + ••• + = 1> так чт0 0Н0 есть сФеРа в К" -1- Пусть Д5 — оператор Лапласа-Бельтрами на 5″ и сів — евклидова мера на Б. Представление Та, а Є С, группы Сг действует на Р (5'):

Эрмитова форма.

— Ф,.

TM^^s = (ФЛ-пМ^Ыз-Оператор Аа на T>(S), определенный формулой.

Л,<�р)00= [ (~[s, t])2-n-a.

Т2-п-М Л. = Аа Тв{д g EG.

Он мероморфно зависит от <т с (простыми) полюсами в точках, а € (2 — п)/2 + N.

Композиция операторов Аа и есть скалярный оператор:

Аа = где и (а) = 2~п2 7Гп иш (а+?)тг • (2ст+п-2) Г (-а) Г (а+тг-2) как мы увидим позже, из (а) есть «мера Планшереля»). Представление Та и оператор Аа могут быть продолжены на пространство T>'(S) обобщенных функций на 5.

Представление Та неприводимо для всех а, кроме <�тбМи (тЕ2-п-М. Если Та неприводимо, то Та эквивалентно Т^-п-а (с помощью Аа или его вычета).

Имеется три серии неприводимых унитаризуемых представлений Та и их подфакторов: (1) непрерывная серия: а € (2 —п)/2 + Ж, скалярное произведение есть {ф, (fi)s- (2) дополнительная серия: Т", 2 — п < а < 0, скалярное произведение есть const • (Асг'ф,(р)з- (3) дискретная серия: ТУ г е N, представление 1 г действует в фактор-пространстве V (S)/Er, где Ет состоит из ограничений на S многочленов степени ^ г, скалярное произведение индуцируется формой, аналогичной дополнительной серии.

Назовем расширенной дискретной серией совокупность представлений Trd г G N, дискретной серии вместе с представлениями Тг дополнительной серии с целыми г, (2 — п)/2 < г < 0.

Рассмотрим подробнее вариант (А). Он значительно более труден, чем (В). Этому варианту (А) посвящены главы IV, V, VI диссертации.

Максимально вырожденные серии представлений надгруппы, см. главу V. Мы опираемся на [41]. Пусть, А Є С, и = 0,1. Представления надгруппы С? = БЬ (п, К) получаются при индуцировании характерами (одномерными представлениями) параболических подгрупп Рт группы (?, отвечающих разбиению п = (п—1) + 1. Пусть Х>&bdquo-(£1) обозначает пространство бесконечно дифференцируемых функций /(и) на сфере О четности V. Представление 7Гд действует в Х>"(П):

Представление 7Гд и есть 7Гд и о в, где в — автоморфизм д I — диагональная матрица с диагональю {—1,., —1, +1}.

Представления 7Гд и неприводимы, за исключением случаев (а) А е М, и = А, (Ь) А € -п — М, р ее Л + п. Полуторалинейная форма Н) п = J /(и) Н (и) йи п и — евклидова мера) инвариантна относительно пар (тг^, тс^хп1/), где берутся либо верхние, либо нижние знаки «±». Это позволяет распространить представления 7Гд на пространство Т>1(П) обобщенных функций на О, четности и.

Представления этих двух серий обладают сплетающим оператором он сплетает представления тг^ и 7г^д.

Канонические представления (см. § 23).

Канонические представления R? u, А Є С, v = 0,1, группы G = SOo (1,ii — 1) получаются при ограничении на G представлений надгруппы G = SL (n, R). Представление R>v действует в пространстве VU (Q) по формуле М" А~В.

Оператор порождает оператор Q? l/} который сплетает fi.>u с он определяется формулой = с (А,ї/) J [u, vf'u f{v) dv, n где c (A, v) — множитель (23.5). Композиция Q~-n, uQ, i> есть тождественный оператор:

Q—n,"Q," = E. (o.i).

Мы называем этот оператор преобразованием Березина. Мы называем формой Березина полуторалинейную форму, порожденную этим оператором, т. е. форму так что.

ВхМ h) = с (А, р) [ [и, v]x'u f (u) Щ du dv. Jilxil.

Канонические представления Я>и могут быть распространены на пространство 2^(0) обобщенных функций на Г2 четности и.

Граничные представления (см. § 24).

Каноническое представление RtV порождает два представления L и Мх, связанные с границей Г2о многообразий f2±. Эта граница задается уравнением [и, и] = 0. Представление Lx действует в обобщенных функциях, сосредоточенных на Г2о, представление Мх действует в многочленах Тейлора (струях) от, а — [и, и].

Рассмотрим «северную» полусферу VtN сферы Q, задаваемую условием щ > 0. Введем на «полярные» координаты (а, s), где, а = [и, и] = 1 — 2uj, —1 ^ а ^ 1, 8= (l, s2, ., sn) е S: Iiа /l + а /l + а.

У — 'У—32'-']/—3″).

В этих координатах мера du есть du = 2~" /2 (1 + а)(n" 3)/2 (1 — а)~½ da ds. (0.2).

Для функции / € Х>(Г2) рассмотрим ее ряд Тейлора по степеням, а в области ClN:

Со + Сх, а +. + ст ат + ., здесь ст — функции из V (S). Пусть c[f] - столбец, составленный из коэффициентов с0- Ci, с2, — Имея в виду (0.2), рассмотрим также функцию r (u) = (l + fl) in-3)/2(l-a)-½/(tt), и ее коэффициенты Тейлора обозначим через с*т. Коэффициенты с*п выражаются через ст и обратно — с помощью треугольной матрицы с единичной диагональю.

Обозначим через пространство обобщенных функций? из «D (О), сосредоточенных на ST2q» и имеющих в полярных координатах (а, s) вид с =.

Е (П) = U (0−3) к=0.

Каноническое представление RXjV, рассматриваемое на сохраняет каждое ii) и фильтрацию (0.3). Обозначим через Lx ограничение представления RXjV на.

Сопоставим обобщенной функции С столбец (^(ьУъ—jVfcjOjOs—-) со счетным числом координат. Представление Lx есть верхняя треугольная матрица с диагональю Т2-п-а,^-и-л, ^б-п-л,.

Представление М группы G действует по формуле.

М (д) с [/] = с [R, v{g) /]¦

Представление М не зависит от и, поскольку в определении коэффициентов Тейлора ст участвуют значения функции / только в некоторой окрестности многообразия Г^о ¦ Представление М нижняя треугольная матрица с диагональю Тдп, Тдп-2, Тд&bdquo-4, — Имеется двойственность между представлениями La и Мл.

Для обобщенной функции С € ЕЛ (Г2) (напомним, что supp? С Ц}"), обозначим через обобщенную функцию из Vv (Q) такую, что ее ограничение на Q. N есть С, т. е.

См («) = С (и) + (-1),'С (-и).

Обозначим пространство обобщенных функций через и обозначим.

SM (fi) = иЕ¡-^(fi). Ясно, что изоморфно Е*(П) и Е^(^) изоморфно E (fi).

Ограничение представления RyV на эквивалентно представлению L.

Обобщенные функции из Е^(П) можно распространить естественным образом на некоторое пространство, более широкое, чем Vv{Q). А именно, пусть T^ifl) -пространство функций / класса С°° на каждой G-орбите, четности v и имеющих разложение Тейлора порядка к: f (u) = с0 + cia Ч——-Ь скак + o (aft), где ст 6 2?(S).

Преобразования Пуассона и Фурье, связанные с каноническими представлениями (см. §§ 25, 26).

Это — операторы, сплетающие канонические представления и представления, связанные с конусом. Они играют основную роль в построении теории.

Преобразования Пуассона Р^иа и преобразования Фурье FtVt (T, связанные с каноническими представлениями, определяются формулами (используемые обозначения см. в конце Введения):

V S f [иМ{±-а)'2 /(«) du.

J Г2.

Преобразование Пуассона P^V (T отображает V (S) в пространство С~(П±) функций класса С°° на il± и четности v и сплетает представления Т^-п-а и R,&bdquo—Преобразование Фурье F^ отображает Vv (u) в V (S) и сплетает представления RiV с представлениями Та.

Преобразования Пуассона и Фурье сопряжены друг другу:

Со сплетающими операторами Аа и (преобразованием Березина) на Б и ^ преобразования Пуассона и Фурье взаимодействуют следующим образом. Для первого оператора мы имеем.

А* 2-п-а,.

— некоторые множители, см. (25.5), оба они являются аналогами с-функции Хариш-Чандрымы имеем:

2 -п-а,є) = (втго^)}" 1.

Обозначим г іА + сЛ г /-Л-тг-а + 2.

Л (Л, у, а) =.

Для параметров Л, а общего положения имеют место следующие формулы, А (Л, //, а) + Л-+ (Л, I/, а) Р+Ап>1/><�г, Р&г = Л±(Л, ^ а) Р1хп1/а. + Л++(А, V, а) ,.

Р—п, и, а = Л-(Л, 1Л а) ^ + Л-+(А, I/, а) Р-х-п^а = Л±(Л, I/, а) ^ + Л++(А, I/, а) ^ где.

Л—(А,//, а) — Л (А, 1/, а).(-1)", А — <7, tu ¦ А + (7 Sin-7Г + (— 1) Sin-7Г.

Л-+(А,^, а) = Л (А, и, а)—2-^^-2.

Sin Л7Г Х+а+п-2,. A-a-n + 2.

Sin-7Г + (— 1) sm—-7Г.

Л+" (А, 1/, а) = Л (А, и, а)—2-^^-2-, sin A7T.

A + TI + V-2 COS—-7Г.

Л++(Л, г/, IT) = Л (А, г/, а)—^-.

COS—-7Г 2.

Числа Л±=ь образуют матрицу (зависящую от А, и, а).

-(а именно,. Л (А, и, сг) (cos^tt cos^ v, а) = L" Л ¦ 2.

7 Г.

A—f I ,." А+гс-у COS^4r^7T V —COS 2-п —COS ¿-п ч.

Матрица М (Х, и, сг) есть своего рода «собственное число» преобразования Березина. Отметим ее свойства:

М (-А — п, и, а) М (Х, и, о) = Е,.

М (А, и, О-)' = М (А, и, 2 — 71 — сг), штрих означает матричное транспонирование. Первое свойство отвечает (0.1), второе отражает эквивалентность представлений Та и Т2пст.

Явное вычисление матрицы М (А, и, а) оказывается трудной аналитической задачей. Мы вычисляем ее двумя способами. Первый способ состоит в прямом вычислении ядер преобразований в некоторых точках. Второй способ состоит в разложениии форм Березина на гиперболоидах и на парах гиперболоидов, см. ниже.

Важную роль играет разложение преобразования Пуассона (Pv ff.

Пусть, а? (2 — n)/2 + Z. Для К-финитной функции ip G V (S) ее преобразования Пуассона имеют следующие разложения по степеням, а — [и, и]: оо = (-1)Ч" Л-В-')/2 2-ст/2? (CW) (s)am + m=0 оо (-1 Y,(W", mV){s)am, (0.4) m=0 где и 6 ?2 имеет полярные координаты (a, s), Wa>m — некоторые дифференциальные операторы на S (многочлены от Д5), см. (5.45), и, см. (5.48),.

Со", m = -?4−2-n;

Множители a?" An~cr² и а±х+<7~'2² («ведущие множители») дают полюсы преобразования Пуассона в плоскости а, зависящие от Л, они располагаются в точках, а = X — 2к, а = 2- пХ + 21, к, 1? N. (0.5).

Преобразование Фурье F^ имеет полюсы в точках, а = -Л — п — 2к, а — X + 2 + 2l: kje N. (0.6).

Если две последовательности (0.5) или (0.6) не пересекаются, то полюсы преобразования Пуассона или Фурье — простые, если же эти последовательности пересекаются и полюс принадлежит их пересечению, то его порядок ^ 2.

Напишем вычеты PiV? fl преобразований Пуассона в простых полюсах /J. Оказывается, что эти вычеты являются операторами, действующими из V (S) в пространство E^(ii). Определим сначала следующий оператор на северном полушарии Q, N: m |.

ЬМ =? (-1Г Т^лТ ?(m-r)(«)> n V ' действующий из Т>и (3) в Для т ^ 1 он зависит от Л мероморфно — с простыми полюсами в точках Л = га+г+(2-га)/2, г = 0,1, ., т-1. В частности, ?, о (<�р) = 5(а). Затем мы определяем операторы Х>(5) -> Е^(^):

Пусть полюс, а = ¡-х принадлежит только одной из серий (0.5), тогда он — простой и.

Х-М = (Т1)* (-1)" I ¿-±-(А — 2Л,&bdquo-).

Р, и,2—п—+21 = (-1)" I.

Оператор сплетает представление Т2пл+2к с представлением.

Напишем вычеты преобразований Фурье в простых полюсах ¡-л. Для этого определим «граничные» операторы Ь, т Т>и (Г2) —> Х>(5), используя коэффициенты Тейлора с*к: т.

ЬА, т (/) = Е ^Л-«-2т, Г (4г). (0.7) г=0.

В частности, &д, о (/) = = с0. Если полюс сг = —Л — п — 2к или, а = А + 2 + 21 -простой, то.

Оператор 6л, т сплетает представления П., и И Т-Х-п-2тп.

Ь, т = Т—п-2т (9) Ь, т, 9? он мероморфен по Л с простыми полюсами в точках Л = —(га/2) — гга — г — 1, г = 0,1,., т — 1. Граничные операторы Ь и операторы? сопряжены друг другу:

ЙЦг", />п = 2<2-*)/2(-1 Г ш! 6д, т (/))5. (0.8).

Преобразования Пуассона и Фурье в полюсах друг друга (см. § 27) имеют некоторые специальные свойства. Нам потребуются следующие линейные комбинации рЫ р+ 4- С—1)тР~.

Л, 1″ — А, 1/,—Л—71—2т ~ V ^ А, 1/,—А—п—2т' где теМ. Важно то, что для Р^ один из ведущих множителей есть ат, это — многочлен. Поэтому для ИеЛ < -2к — 1 — п/2 и т = 0,1,., А: разложение преобразования Р^ есть оо (-1Г2^+2&trade-)/2 ат? (САп2т,^)(5) аг + о (а*). г—О.

Напомним, что Са>о = А2-п-<�г• Следовательно, мы можем применить к Р^ф граничные операторы Ьх, т, 0 ^ т ^ к. Мы получаем: пусть к 6 М, пусть Г1е Л < —2к — 1 — п/2, тогда для т ^ к мы имеем МГ 2(х+п+2т"2Ах+2+2т<�р, и для г, т ^ к, г ф т, имеем.

Теперь мы можем применить обобщенные функции из к образам преобразований Пуассона, указанным выше. Используя соотношение дуальности (0.8), получим: пусть к е 14, пусть ИеЛ < —2к — 1 — п/2, пусть г, т ^ к, тогда имеют место следующие «соотношения ортогональности» :

1 = (-1Г+т 2<А+" +2&trade->/2 т! <�ЛЛ+2+2т^Ь, 0, г ф т.

Это позволяет распространить преобразование Фурье Р^ на обобщенные функции.

С € т^к. Для ЫеЛ > 2к + 1 — п/2 преобразования Фурье ^^ являются обратными" отображениями к? л, т с точностью до оператора Дг, а именно, имеют место следующие соотношения (-1)1/+т т! 2(2-п-Л+2т5/2 А2-п-х+2т Ф, = 0, г, т ^ к, г Ф т.

Эти формулы показывают, что отображения определенные первоначально как отображения (?)) —Т>'(8), на самом деле являются отображениями.

Преобразования Р^ появляются также при взаимодействии оператора и преобразования Березина. Имеют место следующие формулы где К^ и — некоторые множители, см. теорему 27.4.

Разложение граничных представлений (см. § 28).

Для Л общего положения граничные представления Ь и М диагонализуются с помощью операторов и Ьх, к.

Пусть У^к ~ образ оператора Это пространство содержится в Если.

А + (п — 4)/2 ^ М, то представления Та, стоящие на диагонали в Ь, попарно неэквивалентны. Следовательно, £(Г2) разлагается в прямую сумму пространств У, к, к 6 14, инвариантных относительно Ь, и ограничение представления Ь на пространство УА)/с эквивалентно представлению Т2-п-х+2к.

Пусть —А — (п + 4)/2 ^ N. Тогда граничные операторы Ь, к определены для всех к? N. Обозначим через тд отображение, которое каждой последовательности с[/] сопоставляет последовательность ЬХ = (6д>0, бдд,.) согласно формуле (0.7) — без /. Это отображение задается нижней треугольной матрицей с единичной диагональю. Оказывается, что гл Мд тх1 есть диагональная матрица с диагональю Т^х-п, Т-х-п-2, Т-Х-п-Л, —.

Для исключительных значений, А разложение представлений Ьх и Мд значительно более сложно, там появляются жордановы клетки.

Разложение канонических представлений (см. § 29) по представлениям, связанным с конусом, состоит из двух формул разложения: первая формула (формула обращения) восстанавливает функцию / Е Т>&bdquo-(0.) по ее компонентам Фурье а/, вторая формула («формула Планшереля») разлагает форму Березина по инвариантным эрмитовым формам для представлений.

Та. Формула обращения использует преобразования Пуассона Рх>и>а.

Для прозрачности изложения мы ограничиваемся тем, что формулы разложения пишем для, А общего положения, а именно, для, А из вертикальных полос ширины 2: п — 2 2 — п.

Ь: —5—V 2к < Яе, А < ——-Ь 2к, к? Ъ. ?

Для «центральной» полосы /о формула обращения получается из объединения формул обращения для квазирегулярных представлений 11у+ и 11х группы б? на гиперболоидах X и Напомним, что представление 11у+ разлагается по непрерывной серии с кратностью 1 (это — классический результат, середина XX века, см. например, [17]). Представление 11% разлагается по непрерывной серии с кратностью 2 и расширенной дискретной серии с кратностью 1 (В. Ф. Молчанов, 1966, см. [23]).

Формула обращения для Ях, У есть с1р + а={2-п)/2+гр оо -00 где суммирование происходит по целым г > (2 — п)/2 таким, что г = и + 1 (mod2). Множители ш (а) и даются формулами (12.2) и (12.3). Преобразования Пуассона и Фурье с тильдой получаются из преобразований Пуассона и Фурье, определенных выше, делением на Г ((сг + 1 + и)/2).

Форма Березина #л,і/(/, Л) для Л Є /о раскладывается следующим образом.

В:

ОО X сг=(2—п)/2+гр dp +? ^ Л++(Л, «, 2 — п — г) (0.10) где Є {-,+}.

Таким образом, для, А Є /0 мы имеем следующую теорему (см. теорему 29.1).

Теорема 0.1 Для, А 6 /о каноническое представление разлагается в прямой интеграл представлений непрерывной серии с кратностью 2 и представлений расширенной дискретной серии с кратностью 1. А именно, сопоставим функции / е Т>и (0) совокупность ее компонент Фурье, а = (2 — п)/2 + гр;

2 — п)/2 < г < 0, г? Ъг 6 Н, г = и + 1. Это соответствие (?эквивариантно. Имеет место формула обращения (0.9) и «формула Планшереля» (0.10) для формы Березина.

Продолжим теперь формулу обращения (0.9) аналитически по, А из 10 в Ik+i, к? N. Некоторые полюсы по, а подинтегрального выражения пересекают линию интегрирования — прямую Rea = (2 — п)/2. Это — полюсы, а — А — 2то и, а = 2 — n — Х + 2 т, т = 0,1,., к, преобразований Пуассона P^v2na. Они дают дополнительные слагаемые в правой части. Пара полюсов (А — 2то, 2 — п — А + 2то) дает дополнительный член, равный умноженному на Аж вычету подинтегральной функции в точке, а = А — 2то. После продолжения получим: оо ^.

Е +Е *w/)" (°-п).

00 г т=0 где интеграл и ряд означают то же, что и в (0.9) и.

V, m (/) = 4тго-(А-2то)(-1)^^12(л+" -2-)/2х.

Образ оператора 7Гд^>т совпадает с образом оператора.

Продолжим в Ik+i формулу разложения (0.10) формы Березина. Сейчас полюсы ст = А-2ти<�х = 2- гг-А + 2 то, то = 0,1,., подинтегральной функции — это полюсы множителей а). После продолжения получим: оо fe Е + Е T (X, u, m)(A^2inF^f, F™h)s, (0.12).

Г 771=0 где интеграл и ряд означают то же, что и в (0.10), Т (А, и, т) — некоторые множители, только множителем отличающиеся от о-(Л — 2т) К^]п.

Операторы 7Гл,і/, т? пг ^ к, можно распространить с пространства Т>и{Гі) на пространство Е^(Гі), потому что преобразования Фурье, участвующие в этих операторах, уже распространены. Таким образом, операторы /кх, и, ш с т ^ к определены на пространстве.

Операторы 7Гліі/]ТО, т < к, действующие в пространстве являются проекционными операторами, проектирующими на пространства У>т, т. е. имеют место соотношения: т 7ГА, у, га = ^А,і/, Ш).

ТА,"/,&trade-^А, и, г ~ 0, тфг.

Кроме того, на этом пространстве определена форма Березина В, и, и имеют место «соотношения ортогональности» :

А,^(7ГАЛт (/).ЯА1І/)Г (Л)) = т Ф ТВ частности, для обобщенной функции / Є получаем ее разложение по ее проекциям на пространства т ^ к: к т=0.

Итак, для Л є Ік+і, к Є М, мы имеем следующую теорему (см. теорему 29.3).

Теорема 0.2 Пусть, А Є 1, к Є N. Тогда пространство Т>и (?1) иуоісно дополнить до пространства = + В этом пространстве представление.

ЯА,&bdquoраскладывается в сумму двух слагаемых: первое разлагается как в случае, А Є 10) второе разлагается в сумму к + 1 неприводимых представлений Т2-п-х+2т> т = 0,1,., к. Имеет место формула обращения, см. (0.11), и «формула Планшереля» для формы Березина, см. (0.12).

Как следует из соотношений ортогональности, формула (0.12) есть «теорема Пифагора» для (0.11).

Наконец, продолжим теперь формулу обращения (0.9) аналитически, но Л из /о в 1-к-и к Є N. Здесь полюсы 0- = А + 2 + 2тисг = -А — п — 2 т, т = 0,1,., к, подинтегралъной функции являются полюсами преобразований Фурье Они дают добавочные слагаемые в правой части: оо ^.

Е +Е (°-13) г тп—0 20 где интеграл и ряд означают то же, что и в (0.9), и.

ПЛ, т (/) = (-1)" 4тг ш (Х + 2 + 2т) ¦ 22-п~х~2тУ2 х.

Оператор Пх, и, т сплетает Т+2+2т и иОбозначим через Шит образ пространства под действием преобразования Пдіглт. Операторы Пд"т с т ^ к можно распространить на пространство (А), поскольку операторы Ьх, т с то ^ к определены на этом пространстве. В частности, можно применить Пд («)ТП, к УХ,{ г ^ к, и мы вправе рассматривать произведения Пді1/ітПд>І/іГ, где т, г ^ к. Операторы Пд,і/, ш, т^к, являются проекторами на, а именно, имеют место соотношения:

Па^тпПа^го = Пд,", т, Пл^Щ,^ - 0, г ф т.

Кроме того, имеют место «соотношения ортогональности» :

ВЛ),(ПлЛт (/), ПХ)І/іт (Л)) = N (А, V, т) (-<4А-п-2т&А, т (/), ^(Пл, т (/), Пх^(/г)) = 0, гфш, где 7У (Л, д/, то) — некоторые множители, см. (29.10).

Продолжим из /о в формулу разложения (0.10) формы Березина. Здесь полюсы, а = А + 2 + 2 т и <т = —Л — п — 2 т, т = 0,1,., к, подинтегральной функции оказываются полюсами обоих преобразований Фурье, так что каждое из четырех слагаемых (а, /З Є {+,—}) имеет полюс второго порядка. К счастью, вся сумма этих четырех слагаемых имеет полюс только первого порядка (старшие лорановские коэффициенты взаимно уничтожаются) и вычет получается в обозримом виде. Мы имеем к Е (0−14) г гп—0 где интеграл и ряд означают то же, что и в (0.10). Формула (0.14) есть «теорема Пифагора» для (0.13).

Таким образом, для, А Є 1-к-ъ к Є N мы имеем следующую теорему (см. теорему 29.6).

Теорема 0.3 Пусть, А Є І-к-ь АЄ N. Тогда представление рассматриваемое на пространстве распадается на сумму двух слагаемых. Первое действует на подпространстве функций, для которых их коэффициенты Тейлора ст равны нулю для т ^ к, и разлагается как представление Я>и в случае, А Є /о, второе разлагается в прямую сумму неприводимых представлений Тх+2+2т{~ Т-х-п-2т), т ^ к, действующих на сумме пространств т ^ к. Имеет место формула обращения, см. (0.13) — и «формула Планшереля» для формы Березина, см. (0.14).

Отметим, что одно из преимуществ изучения канонических представлений сразу на всей сфере О, а не на гиперболоидах по отдельности, состоит именно в.

ВхА1,ь)=[ том, что подинтегральная функция в разложении формы Березина имеет полюсы только первого порядка, это позволяет написать дополнительные слагаемые при аналитическом продолжении в явном и прозрачном виде.

Формы Березина на парах гиперболоидов (см. § 14).

Форма Березина на Г2 порождает 4 формы (назовем их тоже формами.

Березина) на парах (Х, Х), {Х, У+), -Ядра этих форм получаются из ядра с (А, и) [и, VIх'1' формы Березина на ?2 переходом на гиперболоиды с помощью условий однородности. А именно, мы имеем 4 ядра.

Е, й (х, У) = С (А> (- [®> 2/]). У Є У+,.

Е++(х, у) = с (А, и) [х, у}х>", х, у Є X, Е${х, у) = с (А, и) [х, у]х'", хєУ+, уЄХ, Е+~{х, у) = с (А, и) [х, у]х*, хЄХ, уЄ У+.

Две последние сводятся одна к другой, поэтому возьмем одну из них и обозначим.

А?

Е™(х, у) = с (А, и) у]*", х Є Х, у Є У+.

Обозначим через ВВ&trade-* соответствующие полуторалинейные формы.

Будем рассматривать их на функциях из Т>(У+) и Т>(Х) (на функциях класса С°° на и А' с компактным носителем).

Если мы в ядрах Е^ в качестве одного из аргументов возьмем начальные точки хй = (0, ., 0,1) Є X или у0 = (1,0, ., 0) Є то мы получим функции от одного аргумента, назовем их функциями Березина. А именно, мы имеем.

Еї~(у) = с{, и) ух, у? У+,.

ХЄХ,.

Л&х (У) = С (1')УУ, УЄУ+.

Сферические функции (см. §§ 10, 13, 15).

Задача о разложении форм Березина сводится к задаче о разложении функций Березина по сферическим функциям на Ф<�т,і/ на X и смешанным сферическим функциям Фа1/ на У+. (Сферические функции для гиперболоидов были вычислены в [26].).

В определении преобразований Пуассона перейдем от точек и сферы к точкам у, х гиперболоидов и X. Тогда зависимость от, А исчезнет. Мы получим преобразование Пуассона Ра Т>{3) —С°°(У+), определяемое формулой и преобразование Пуассона Ра<�е: Т>(в) —>¦ С™(Х) (последнее пространство обозначает подпространство в С°°(Х) функций четности е — 0,1), по формуле (мы заменили и на е):

Р^ф) (х) = ! [х, а]'* Ц>{8) ?8.

Напомним, что стационарными подгруппами начальных точек у° и ж0 из и X, соответственно, служат подгруппы К и Н. Сферические функции определяются как преобразования Пуассона К-инвариантов и //-инвариантов в V (5) относительно Та.

Инвариант для К в Т>' (??) относительно Та есть функция 0~, тождественно равная 1. Сферическая функция Фст (?/) на У+ есть [Рав~)(у).

Вот ее явное выражение — через функции Лежандра:

9.(у) = (27г)7+1 (у2, — Р^Ы, где мы для краткости обозначили п-3.

Пространство инвариантов для Н в Т> (51) относительно Та двумерно, базис в нем состоит из двух (е = 0,1) обобщенных функций.

Сферическая функция Ф^е есть обобщенная функция (Р^в^-п-ст, е){х) на X, она действует на / 6 Т2(Х) по формуле.

Ф^,/)дг= / [хй, 8]2-п-^ <18 [ [х, 8]**№<�Ь.

Б •/X.

На множестве хп ф ±1 эта функция есть классическая функция.

Х1 — 1П/2 с некоторым коэффициентом.

Определим смешанную сферическую функцию Фа, е{у) иа как преобразование Пуассона Р2ге (Т (отвечающее /{'-инварианту в~) от Я-инварианта 0а>£, а именно,.

Ф"М = (р2&bdquo-, в^){у) = [ 8^ [~У, з2-П-° ?8. Б.

Она есть классическая функция на У, выражающаяся через функции Лежандра от мнимого аргумента: ф^у) = (27Г)7+1 е1&trade-'2 + (-1)?е-г>7г/2]1х у2п + 1)~7/2{е^/2Р-+7т (гуп) + ЫТе^Р^-гуп)}, х где верхний или нижний знак «—» или «+» в показателях берется при уп > 0 или уп < 0, соответственно.

Для преобразования Пуассона от^{-финитной} функции (р е Т>(Б) справедливо разложение ее по степеням Ь = {х + I)-1, аналогичное (0.4). Для произвольной функции (р 6 Х>(5'), не обязательно ^" -финитной, такое разложение является только асимптотическим. Доказательство этого факта (доказательство теремы 5.5) оказалось достаточно трудной задачей, см. об этом также в [1, 33−35].

Разложения функций Березина (см. §§ 16−19) по сферическим функциям при условии.

ReA < ~- (0.15).

00 dp, a=(2-n)/2+ip dp + о={2-п)/2+гр даются следующими формулами: оо ш (а) А (А, v, а).

00 w (a) А++(А, и, а) Ф^ оо Y1 urd) Ач+(А,^, г).

00 ы (а)А'Л (А|1/, а) Ф" .dp, оо iт=(2-п)/2+гр где суммирование происходит по целым г > (2 — га)/2, г = и + 1, а + и.

COS ——7Г (—1)" Л+(А, г/, сг) = Л (А, v, а) -j^-.

COS—-7Г 2.

Для этих разложений функций Березина по сферическим функциям мы применяем спектральные разложения для оператора Лежандра /9 d2 «d 4а2 где, а 6 С, на следующих интервалах: интервал (1,оо), вещественная ось R и мнимая ось Ж. Для a G К. и |а| < ½ мы используем теорему Титчмарша-Кодаиры (вариант), см., например, [21]. Заметим, что для R ситуация несколько отличается от ситуации, для которой сформулирована эта теорема (у нас оператор имеет особые точки внутри интервала, на котором он определен, это точки ±1), доказательство теоремы проходит — с некоторыми естественными изменениями. Затем мы продолжаем разложение аналитически по, а в точку, а = (га — 3)/4.

Разложения форм Березина, полученные для области (0.15), можно было бы пытаться продолжить аналитически из этой области направо отдельно для каждого гиперболоида и пары гиперболоидов. Однако, более естественно делать это, как мы и сделали выше, в рамках разложения канонических представлений на сфере П, причем в более общей ситуации, а не только для функций с компактным носителем из или.

Разложение формы Березина на паре гиперболоидов позволяет построить своего рода гармонический анализ на паре гиперболоидов X, Это — разложение полуторалинейной формы Лт (1, Н), где / € Т>(Х), к е Т>(У+), ядро которой есть дельта-функция 5([ж,?/]) или ее производные ([ж, у]) от билинейной формы [х, у] (здесь 5(1) — дельта-функция Дирака, х Е X, у Е 5>+).

Асимптотика преобразования Березина (см. §§ 16, 17).

Ядро у) порождает оператор В^ в Ь2(Х, йх) с этим ядром, назовем его преобразованием Березина. При условии —п/2 ^ ЯеА < (2 — п)/2 он оказывается ограниченным оператором в Ь2(Х, йх).

Оператор Вх, получающийся из некоторой нормировкой, имеет следующую асимптотику при Л —оо: где Ад- - оператор Лапласа-Бельтрами на X. Это соотношение аналогично принципу соответствия из квантования Березина для эрмитовых симметрических пространств, роль постоянной Планка играет число — 1/(2А). Более того, мы можем написать полное асимптотическое разложение (см. теорему 16.6): пусть, А стремится к оо вдоль луча в полуплоскости (0.15), отличного от вещественной отрицательной полуоси, тогда имеет место следующее асимптотическое разложение: оо т— 1 ~ Е ^ П [Д* - *(2г + П — 2)] • -/2>(т1. (0.16) т—0 г=0 при т = 0 произведение в ряде считается равным 1, так что весь член ряда с т = 0 равен 1- разложение (0.16) понимается в том смысле, что разность между оператором В’х и всякой частичной суммой ряда стремится к нулю на всякой функции из Ь2(Х, йху.

Аналогичные формулы справедливы для.

Вариант (В) (глава VII) рассматривается вполне аналогично варианту (А). Он в значительной мере проще, поскольку обе открытые орбиты на О совпадают как однородные пространства. Поэтому, в частности, собственные числа преобразования Березина — это числа, а не матрицы.

Отметим явные формулы, связывающие различные базисы в пространстве обобщенных функций, сосредоточенных на границе, см. § 33. Это — «старый базис» и «новый базис» к¦ Аналогичные формулы можно написать и для варианта (А).

Сформулируем основные результаты работы.

Как уже было сказано выше, основной результат работы состоит в разложении канонических представлений группы Є = 8О0(1,п — 1) на сфере ?1 для обоих вариантов (А) и (В) по неприводимым представлениям, а Є С, группы Є, связанным с конусом, — результат под номером 1 в списке, следующем ниже. Этот результат получен с помощью некоторых конструкций, методов и вычислений, составляющих результаты с номерами 2−15. Многие из них представляют и самостоятельный интерес.

1. Разложение канонических представлений, А Є С, и — 0,1, обобщенной группы Лоренца (? = 80о (1,п — 1) на неприводимые составляющие — с действием группы О на единичной сфере Г2 в пространстве Кп, порожденным надгрупной С, для двух вариантов надгруппы: (А) Є = БЬ (гг, М), (В) С = 8О0(1,п).

2. Разложение граничных представлений, порожденных каноническими представлениями, группы С? для обоих вариантов (А) и (В).

3. Определение (интегральное выражение) операторов, сплетающих канонические представления и представления Тст, связанные с конусом (преобразования Пуассона р, и, а и преобразования Фурье Р}^).

4. Исследование мероморфной структуры преобразований Пуассона и Фурье как функций от параметра, а представлений, связанных с конусом, при фиксированных значениях параметров А, и канонических представлений (нахождение полюсов, вычетов и т. д.).

5. Описание операторов, сплетающих граничные представления и представления, связанные с конусом («граничных» операторов и ЬдіШ), они появляются как вычеты преобразований Пуассона и Фурье.

6. Вычисление композиций преобразований Пуассона и Фурье и преобразования Березина (оператора, сплетающего канонические представления). Это — вычисление своего рода «собственных чисел» преобразования Березина (в случае (А) — это матрица второго порядка).

7. Вычисление композиций преобразования Березина и граничных операторов.

8. Описание частей граничных представлений, входящих в разложение канонических представлений: построение операторов, сплетающих канонические представления и неприводимые составляющие граничных представлений (операторы.

7Гд,іи ПАлто), описание их свойств (соотношения проектирования, соотношения ортогональности).

9. Нахождение асимптотики преобразования Пуассона на границе. Здесь получено разложение в ряд по степеням «расстояния до границы» преобразования Пуассона от /^-финитных функций, а также асимптотическое разложение для произвольных, не обязательно /і'-финитпьіх, функций.

10. Разложение форм Березина на гиперболоидах и парах гиперболоидов. В частности, это дает другое, независимое, вычисление «собственных чисел» преобразования Березина.

11. Явная формула для полного асимптотического разложения преобразования Березина в терминах оператора Лапласа-Бельтрами на однополостном гиперболоиде при, А —^ —оо. Первые два члена асимптотики дают аналог принципа соответствия из квантования.

12. Определение и вычисление в явном виде «смешанных» сферических функций. С их помощью делается разложение формы Березина на паре гиперболоидов.

13. Построение гармонического анализа на паре гиперболоидов.

14. Разложение функции Березина для пары гиперболоидов по смешанным сферическим функциям. Это делается на основе спектрального разложения оператора Лежандра на мнимой оси и с помощью аналитического продолжения по размерности пространства.

15. Явное выражение друг через друга различных базисов в пространстве обобщенных функций, сосредоточенных на границе.

Результаты диссертации могут найти применение в других областях функционального анализа и теоретической физике.

Основные результаты диссертации опубликованы в работах: [1]-[11], [30]—[31], [33]-[38], из совместных работ в диссертации использованы только результаты автора.

Нумерация формул и теорем (лемм) в работе единая. Первый символ означает номер параграфа, второй — номер формулы или теоремы.

Благодарности.

Автор выражает глубокую благодарность профессору В. Ф. Молчанову за внимание к работе, заинтересованное и плодотворное обсуждение по существу исследования.

Приведем некоторые обозначения, используемые в работе. N = {0, 1, 2,. }, Z, К, С — множества целых, вещественных, комплексных чисел, соответственно, Ж* - мультипликативная группа вещественных чисел (М* = Е {0}). Знак сравнения = всегда обозначает сравнение по модулю 2. Мы используем следующее обозначение для характера (гомоморфизма в мультипликативную группу комплексных чисел) группы Ж*: где? ? М*, /х € С, е 6 Ъ. Этот характер зависит только от класса вычетов числа е по модулю 2, так что обычно мы берем? € {0,1}.

Для многообразия М через Т>(М) обозначается пространство комплекснозначных бесконечно дифференцируемых функций на М с компактным носителем, снабженное обычной топологией. Через &-(М) обозначается пространство обобщенных функций на М — антилинейных непрерывных функционалов на Т>(М).

Для группы Ли (? через С? е обозначается связная компонента единицы. Если группа Ли обозначается заглавной латинской буквой, то ее алгебра Ли обозначается соответствующей строчной готической буквой.

Для алгебры Ли 0 мы обозначаем через Епу (д) ее универсальную обертывающую алгебру.

Дифференцируемое представление Т группы Ли С? порождает представление алгебры Ли д (дифференциал представления Т) и, следовательно, представление алгебры Епу (д). Для этих порожденных представлений мы сохраняем тот же самый символ (в данном случае Г), который обозначает представление группы. Пусть полуторалинейная форма на Т>(М) Р (х)7Щ<1х (0.17).

Зм.

1х — некоторая (^-инвариантная мера на М) инвариантна относительно пары представлений (Т, <5) группы Ли (?, действующих в Т>(М), т. е.

Т (д)Ъ 3(д)/)м = & 1) м, или, что все равно,.

Т (<7Ж/)М Н^агЧЯм. (0.18).

Тогда мы можем распространить представление Т на пространство Т>'(М) обобщенных функций на М — с помощью формулы (0.18), в которой /)м обозначает значение функционала Г из Т>'(М) на основной функции / из Т>(М). Для полученного представления в обобщенных функциях мы сохраняем тот же символ (в данном случае Т). Это в самом деле есть расширение первоначального представления Т: пространство Т>(М) вкладывается в Т>'{М), если мы сопоставим функции Г из Т>(М) функционал / (.Р,/}м из Т)'(М) с помощью формулы (0.17), а формула (0.18) и дает требуемое расширение.

Аналогично, пусть, А — оператор в Т>(М) и А* - сопряженный ему, т. е. такой, что для всех .Р и / из Т>(М) имеет место.

Пм = (Р, А*Лм- (0−19) тогда мы можем распространить, А на Т>'(М) с помощью формулы (0.19). Мы используем следующие обозначения для «обобщенных степеней»: аН = а (о + 1). (а + тп — 1), а^ = а (а — 1). (а — ш + 1) мы предпочитаем обозначение асимволу Похгаммера (а)т).

Глава І. Представления обобщенной группы Лоренца, связанные с конусом.

1. Артемов А. А. Преобразование Пуассона для однополостного гиперболоида // Матем. сб., 2004, том 195, № 5, 33−58. (Engl, transl.: Artemov А.А. Poisson transformation for one-sheeted hyperboloids. Sbornik: Mathematics, 2004, tome 195: 5, 643−667.).

2. Артемов А. А. О некоторых многочленах, связанных с гипергеометрической функцией // Фундаментальные и прикладные исследования в системе образования: Материалы 1-ой Междунар. научно практ. конф.- Тамбов: Изд-во Тамб. гос. ун-та, 2003, 139−141.

3. Артемов А. А. Граничные представления на пара-эрмитовых пространствах ранга один // Вестник Тамбовского университета. Сер. естеств. и технич. науки, 2007, Т. 12, вып. 1, 16−22.

4. Артемов А. А. Разложение формы Березина на сфере // Вестник Тамбовского университета. Сер. естеств. и технич. науки, 2008, Т. 13, вып. 1, 7−8.

5. Артемов А. А. Канонические и граничные представления обобщенной группы Лоренца на сфере // Современная математика и математическое образование, проблемы истории и философии математики: Материалы международ, научн. конфер. Тамбов: Першина, 2008, 12−13.

6. Артемов А. А. Канонические представления на сфере с действием псевдоортогональной группы // Вестник Тамбовского унив. Сер.: Естеств. и техн. науки, 2008, том 13, вып. 6, 445−473.

7. Артемов А. А. О собственных числах преобразования Березина // Вестник Тамбовского унив. Сер.: Естеств. и техн. науки, 2009, том 14, вып. 1, 325−327.

8. Артемов А. А. Канонические представления обобщенной группы Лоренца на сфере // Вестник Тамбовского унив. Сер.: Естеств. и техн. науки, 2009, том 14, вып. 4, 656−659.

9. Артемов А. А. Разложение функции Березина на пространстве Лобачевского по смешанным сферическим функциям // Вестник Тамбовского унив. Сер.: Естеств. и техн. науки, 2010, том 15, вып. 1, 358−361.

10. Артемов А. А. Граничное поведение преобразования Пуассона для однополостного гиперболоида // Вестник Тамбовского унив. Сер.: Естеств. и техн. науки, 2010, том 15, вып. 6, 1690−1698.

11. Артемов А. А. Канонические и граничные представления на сфере с действием обобщенной группы Лоренца: монография. Тамбов: Издат. дом ТГУ им. Г. Р. Державина, 2010. 235 с.

12. Бейтмен Г., Эрдейи А. Высшие трансцендентные функции. Гипергеометрическая функция, функции Лежандра. М.: Наука, 1965.

13. Бейтмен Г., Эрдейи А. Высшие трансцендентные функции. Функции Бесселя, функции параболического цилиндра, ортогональные многочлены. М.: Наука, 1966.

14. Бейтмен Г., Эрдейи А. Таблицы интегральных преобразований. Том II, М.: Наука, 1970.

15. Березин Ф. А. Квантование в комплексных симметрических пространствах // Изв. Акад. Наук СССР, сер. матем., 1975, том 39, № 2, 363−402.

16. Вершик A.M., Гельфанд И. М., Граев M.И. Представления группы SL (2,R), где R кольцо функций // Успехи матем. наук, 1973, том 28, № 5, 83−128.

17. Виленкин Н. Я. Специальные функции и теория представлений групп. М.: Наука, 1965.

18. Гельфанд И. М., Шилов Г. Е. Обобщенные функции и действия над ними. М.: Физматгиз, 1958.

19. Градштейн И. С., Рыжик И. М. Таблицы интегралов, сумм, рядов и произведений. М.: Физматгиз, 1963, 1100 с.

20. Грошева Л. И. Канонические и граничные представления на пространстве Лобачевского // Вестник Тамбовского ун-та, 2004, том 9, вып. 3, 306−311.

21. Данфорд Н., Шварц Дж. Т. Линейные операторы. Спектральная теория. М.: Мир, 1966.

22. Желобенко Д. П. О бесконечно дифференцируемых векторах в теории представлений // Вестник МГУ. Сер. матем., мех., 1965, № 1, 3−10.

23. Молчанов В. Ф. Гармонический анализ на однополостном гиперболоиде // Докл. АН СССР, 1966, том 171, № 4, 794−797.

24. Молчанов В. Ф. Аналог формулы Планшереля для гиперболоидов // Докл. АН СССР, 1968, том 183, № 2, 288−291.

25. Молчанов В. Ф. Представления псевдоортогональной группы, связанные с конусом // Матем. сб., 1970, том 81, № 3, 358−375.

26. Молчанов В. Ф. Сферические функции на гиперболоидах // Матем. сборник, 1976, том 99, № 2, 139−161.

27. Молчанов В. Ф. Формула Планшереля для гиперболоидов // Тр. Мат. ин-та им. В. А. Стеклова, 1980, том 147, 65−85.

28. Молчанов В. Ф. Гармонический анализ на однородных пространствах // Итоги науки и техн. Сер. Совр. пробл. матем. Фундам. напр. / ВИНИТИ. 1990, том 59, 5144.

29. Молчанов В. Ф. Канонические представления на двуполостных гиперболоидах // Записки научных семинаров ПОМИ, 2006, том 331, 91−124.

30. Молчанов В. Ф., Артемов A.A., Грошева Л. И. Канонические и граничные представления // Вестник Тамбовского унив. Сер.: Естеств. и техн. науки, 2009, том 14, вып. 6, ч. 3, 1367−1425.

31. Некоммутативный гармонический анализ и квантование на многообразиях: монография / В. Ф. Молчанов, А. А. Артемов, Н. Б. Болотова и др.- под ред-В.Ф.Молчанова. Тамбов: Издат. дом ТГУ им. Г. Р. Державина, 2010. 355 с.

32. Неретин Ю. А., Ольшанский Г. И. Граничные значения голоморфных функций, особые унитарные представления групп 0(p, q) и их пределы при q —> оо // Записки научн. семин. ПОМИ РАН, С.-Петербург, 1995, том 223, 9−91.

33. Artemov A.A. Poisson transform for hyperboloids // Вестник Тамбовского университета. Сер. естеств. и технич. науки, 1998, Т. 3, вып. 1, 21−34.

34. Artemov A.A. Asymptotic behaviour of the Poisson transform for hyperboloids // Материалы III Европейского математического конгресса. Барселона, 2000.

35. Artemov А.А., Molchanov V.F. The Laplace-Beltrami operator on rank one semisimple symmetric spaces in polar coordinates // Вестник Тамбовского университета. Сер. естеств. и технич. науки, 2005, Т. 10, вып. 4, 350−356.

36. Artemov А.А. Canonical and boundary representations on rank one para-Hermitian spaces // International Congress of Mathematicians Madrid 2006: AbstractsEuropean Mathematical Society, 2006, 62.

37. Artemov A.A. Canonical and boundary representations on rank one para-Hermitian symmetric spaces // Гармонический анализ на однородных пространствах и квантование. Международная научная конференция. Тамбов: Изд-во ТГУ, 2007, 1.

38. Dijk G. van. Canonical representations // Вестник Тамбовского университета. Сер. естеств. и технич. науки, 1997, Т. 2, выи. 4, 350−366.

39. Dijk G. van, Hille S. Canonical representations related to hyperbolic spaces //J. Funct. Anal., 1997, vol. 147, 109−139.

40. Dijk G. van, Molchanov V.F. Tensor products of maximal degenerate series representations of the group SL (n, R) // J. Math. Pures Appl., 1999, tome 78, No. 1, 99−119.

41. Dijk G. van, Pasquale A. Canonical representations of Sp (l, n) accociated with representations of Sp (l) // Commun. Math. Phys., 1999, vol. 202, 651−667.

42. Dijk G. van, Pasquale A. Harmonic analysis on vector bundles over Sp (l, n)/Sp{l) x Sp (n) // L’Enseignement Math., 1999, tome 45, 219−252.

43. Dijk G. van. Canonical representations associated to hyperbolic spaces II // Indag. Mathem., N.S., 1999, vol. 10, No. 3, 357−368.

44. Dijk G. van, Sharshov Yu.A. The Plancherel formula for line bundles on complex hyperbolic spaces // J. Math. Pures Appl., 2000, vol. 79, No. 5, 451−473.

45. Dijk G. van, Pevzner M. Berezin kernels of tube domains // J. Func. Anal., 2001, vol. 181, 189−208.

46. Englis M. Berezin transform and Laplace-Beltrami operator // St. Peter. Math. J., 1996, vol. 7, 633−647.

47. Englis M. Invariant operators and the Berezin transform on Cartan domains // Math. Nachr., 1998, vol. 195, 61−75.

48. Fujita E., Nomura T. Spectral decompositions of Berezin transformations on Cn related to the natural U (n)~ action //J. Math. Kyoto Univ., 1996, vol. 36, 877−888.

49. Molchanov V.F. Quantization on para-Hermitian symmetric spaces // Amer. Math. Soc. Transl., Ser. 2, 1996, vol. 175 (Adv. in Math. Sci.-31), 81−95.

50. Molchanov V.F., Grosheva L.I. Canonical and boundary representations on the Lobachevsky plane // Acta Appl. Math., 2003, vol. 79, Nos. 1&2, 59−77.

51. Molchanov V.F. Canonical and boundary representations on a hyperboloid of one sheet // Acta Appl. Math., 2004, vol. 81, Nos. 1−3, 191−204.

52. Molchanov V.F. Canonical representations on the two-sheeted hyperboloid // Indag. Math., 2005, vol. 16, Nos. 3−4, 609−630.

53. Neretin Yu.A. Boundary values of holomorphic functions and spectra of some unitary representations // Вестник Тамбовского ун-та. Серия: Естеств. и техн. науки, 1997, том 2, вып. 4, 386−397.

54. Nomura Т. Berezin transforms and group representations //JLie Theory, 1998, vol. 8, 433−440.

55. Nomura T. Berezin transforms and Laplace-Beltrami operators on homogeneous Siegel domains // Diff. Geom. and its Appl., 2001, vol. 15, 91−106.

56. Nomura T. A symmetry characterization for homogeneous siegel domains related to Berezin transforms // Geometry and Analysis on Lie Groups, Banach Center Publ., 2002, vol. 55, 323−334.

57. Peetre J. The Berezin transform and Ha-plitz operators //J. Operator Theory, 1990, vol. 24, 165−186.

58. Tengstrand A. Distributions invariant under an orthogonal group of arbitrary signature // Math. Scand., 1960, vol. 8, 201−218.

59. Unterberger A., Upmeier H. The Berezin transform and invariant differential operators // Comm. Math. Phys., 1994, vol 164, No. 3, 563−597.

60. Zhang G. Berezin transform on line bundles over bounded symmetric domains // J. Lie Theory, 2000, vol. 10, 111−126. •.