О свойствах предельных множеств пространственных отображений

В настоящее время теория граничных свойств функций весьма обширна и разветвлена. Различные ее разделы связаны с теорией потенциала, теорией тригонометрических рядов, теорией интегрирования, теорией распределения значений аналитических и мероморфных функций, теорией однолистных и конфорных отображений, теоретико-множественной топологией, функциональным анализом и теорией меры.

Основы теории граничных свойств аналитических функций были заложены работами П. Пенлеве ([48,49]) и П. Фату [42] в конце 19-го в начале 20-го века.

Общими и внутренними свойствами функций, определенных в некоторой области являются хорошо определенные граничные свойства. Плодотворным методом исследования многих граничных задач является теория предельных множеств. Основателем теории предельных множеств является П. Пенлеве, который в 1895 г. [48] первым дал название — область неопределенности и определение новому математическому понятию множества предельных точек функции в граничной точке ее области определения. Это множество теперь называется предельным множеством функции в рассматриваемой точке. Пенлеве ввел в рассмотрение предельные множества для наглядной характеристики поведения аналитической функции вблизи ее особой точки в терминах свойств множества всех ее предельных значений в этой точке, а также для классификации особенностей функции в терминах этих предельных множеств.

Существенное развитие эта теория получила в первую треть 20-го века, прежде всего благодаря работам Данжуа [40], Каратеодори [39], Лузина и Привалова [19], Ф. и М. Риссов [54], Голубева [7], Неванлинны [22], Гросса [44], Плеснера [50].

После некоторого затишья, длившегося примерно до 1950 г., теория граничных свойств стала вновь развиваться, используя новые идеи и методы и распространилась на новые объекты. С этого времени появились сотни работ, посвященных разным аспектам теории.

Из крупных работ русских авторов, посвященных теории граничных свойств аналитических функций необходимо прежде всего упомянуть монографии И. М. Привалова «Интеграл СаисЬу» и «Граничные свойства аналитических функций» ([26], [27]).

Классические основы теории граничных свойств излагаются в книге Г. М. Голузина «Геометрическая теория функций комплексного переменного» (главы 9, 10 [8]).

Монографии К. Носиро «Предельные множества» [25] и Э. Коллингвуда и Л. Ловатера «Теория предельных множеств» [15] посвящены результатам, полученным после 1950 г. и в значительной мере дополняют друг друга.

Этой же тематике посвящена монография В. В. Голубева «Однозначные аналитические функции с совершенным множеством особых точек» [7], изданная в 1961 г. вместе с двумя другими его работами. В этой работе В. В. Голубев получил результаты, часть которых позже передоказывалась рядом автором — иногда даже в более слабой-форме. Им, в частности, было показано, что для любого континуума К комплексной плоскости и любой точки С окружности Г существует функция f (z), аналитическая и однолистная в круге D С С, множество всех предельных значений которой в точке С совпадает с К: C (D,(, f) = К. В работах Н. Н. Лузина [19] и И. И. Привалова ([27],[28]) (1918 г. и позже), посвященных граничным теоремам единственности для аналитических функций, были развиты методы, ставшие общепринятыми в теории граничных предельных множеств. С помощью этих методов в 1927 г. А. И. Плеснер [50] установил следующее замечательное утверждение: для мероморфной в D функции f (z) почти в каждой точке (Е Г или существует предел по любому углу V^, образованному хордами круга D с концами в или предельное множество функции f (z) в точке? по любому такому углу является расширенной комплексной плоскостью. Отсюда следует, что для мероморфной функции f: D—$ С множество Eyv{f) всех VV-особых точек, т. е. таких точек, для которых найдутся хотя бы два несовпадающих предельных множества по различным углам, имеет меру нуль. Для произвольных комплекснозначных функций f{z), z Е D, Э. Коллингвудом (1955 г.) [45] было показано, что множество Evv (/). имеет первую беровскую категорию на Г, т. е. представимо в виде конечной или счетной суммы множеств, нигде не плотных на Г. Граничные свойства функций на областях с углами и угловыми точками рассмотрены.

C.М.Никольским ([23],[24]). Е. П. Долженко для произвольных функций был получен существенно более сильный результат (1967 г.) ([10],[11]). Именно, для произвольного отображения / полупространства Ж в сепарабельное метрическое пространство множество Eyvif) представимо в виде счетного объединения пористых множеств типа Gs, откуда следует, что Eyvif) всегда имеет первую бэровскую категорию и (п — 1)-мерную лебегову меру нуль. С другой стороны, им доказано, что для всякого а—пористого множества Е С Г существует такая ограниченная аналитическая функция f (z), г Е.

D, что Е С Eyvif) > и что Для всякого с-пористого множества типа Fa существует ограниченная аналитическая функция f (z), z Е D, для которой Е = Eyvif) — С. В. Колесников (1980 г.) ([13],[14]) показал, что необходимым и достаточным условием для совпадения множества Е С <9С+ с УК-особым множеством некоторой комплекснозначной функции f (z), определенной в С+ (а также УК-особым множеством некоторой ограниченной аналитической в С+ функции /(я)), является условие где каждое множество Fk С <ЭС+ замкнуто, a p (Fk) — множество всех его нетривиальных точек пористости. Тем самым было дано полное дескриптивное описание УУ-особых множеств отбражений /: С+ —> С. Отметим, что методы последней работы существенно опираются на двумерность С+ и не обобщаются на n-мерный случай. Отметим также, что во всех рассмотренных работах множества максимальности подходят к границе некасательным способом.

Строение предельных множеств функций комплексного переменного,.

1) к=1 определенных в круге, по криволинейным углам и путям изучали В. И. Гаврилов [3], S. Jamashita, Ж. С. Оганесян, D.С. Rung [55] и др.

В работе Е. П. Долженко [11] его результаты для аналитических функций были распространены на случай отображений n-мерных областей с гладкой границей в произвольное сепарабельное метрическое пространство.

Множества введенные С. В. Колесниковым, определенные условием (1), получили в дальнейшем название совершенных сг-пористых ([13],[14]).

Развитие этого направления изучения особых граничных точек функции имеет, таким образом, в настоящее время, три направления, которые могут между собой пересекаться. Это, во-первых, изучение строения предельных множеств функций по криволинейным углам, т. е. при касательном подходе к границе. Во-вторых, распространение результатов, полученных для аналитических функций на случай других классов функций и пространственных отображений топологических пространств. И, в-третьих, изучение связи совершенных сг-пористых множеств с различными множествами особых точек функций.

В первом направлении уже упоминались работы ([3],[55]), а также в работах ([4],[5],[20],[29]), где рассмотрены произвольные функции подхода.

Во втором направлении Ю. А. Шевченко изучал W-особые точки произвольных отображений полупространства R™, (n ^ 2) в локально компактное хаусдорфово топологическое пространство со счетной базой ([30],[31]). Им было доказано, что в этом случае множество Evv (f) особых точек отображения является совершенным сг-пористым. В этом же направлении получены результаты в работах ([29],[55]), где рассматривались отображения R™ в сферу Римана и случай произвольной функции подхода, работа [20], где изучен случай криволинейных углов, образованных степенными функциями ta при, а ^ 1. Более общий случай рассмотрен в работах ([4],[5]). В них изучаются произвольные функции подхода и произвольные отображения пространства R" в регулярное топологическое пространство со счетной базой, при этом, в частности, доказано, что для некоторых семейств углов, задаваемых этими функциями подхода множество особых граничных точек рассматриваемых отображений является ст-пористыми и в некоторых случаях имеют тип G§ a.

К третьему направлению можно отнести работы ([36],[43]), а также работы ([30],[31]). Ю. А. Шевченко, в частности, было доказано, что для любого совершенного сг-пористого множества из Ж&tradeсуществует неотрицательная, ограниченная и непрерывная в М" функция, для которой это множество является множеством W-особых точек. Также им получен более общий результат для случая произвольного локально компактного метрического пространства со счетной базой, содержащего хотя бы одно множество, гомеоморфное отрезку.

Результаты диссертации можно отнести одновременно к трем направлениям. Автором рассматривается прооизвольпый, в том числе и касательный, подход к граничным точкам по различным семействам криволинейных углов. Изучаются также произвольные отображения R" в регулярное локально компактное пространство со счетной базой. Рассматриваются также свойства совершенных сг-пористых множеств, связанные со свойствами множества особых точек пространственных отображений.

Этим вопросам посвящена глава 1 диссертации. В первом параграфе этой главы приведены некоторые необходимые определения и вспомогательные результаты.

Во втором параграфе рассматривается случай комплекснозначпой функции /, определенной в С+. Изучается касательный подход по криволинейным углам, определяемым окружностями. Доказано, что в этом случае множество особых точек функции / является сг-пористым и является подмножеством совершенного сг-пористого множества. Тот же результат справедлив и в случае аналитической функции.

В третьем параграфе рассматриваются произвольные отображения М+ в локально компактное хаусдорфово топологическое пространство со счетной базой. Предельные множества рассматриваются по областям U, являющимися внутренностью эллипсоида и областям V, являющимися криволинейными углами, образованными двумя эллипсоидами. Показано, что множество всех UV-особых точек является совершенным ст-пористым теорема 1.3.6). Доказана также следующая.

Теорема 1.3.11. Пусть множество Е С является совершенным а—пористым. Тогда существует неотрицательная, ограниченная и непрерывная в функция д (х), для которой Euv{g) = Е.

Данную теорему можно обобщить на произвольное локально компактное метрическое пространство со счетной базой, содержащее хотя бы одно множество, гомеоморфное отрезку.

Теорема 1.3.12. Для того, чтобы множество Е С было С/У-особым множеством некоторого отображения (а также UV-осовът множеством некоторого непрерывного, ограниченного отображения) F положительного полупространства R+ в произвольное локально компактное метрическое пространство со счетной базой, содержащее хотя бы одно множество, гомеоморфное отрезку необходимо и достаточно, чтобы это множество Е являлось совершенным сг-пористым.

Полученные в этом параграфе результаты обобщают результаты Ю. А. Шевченко в пространстве М^. в том случае, когда области подхода функции касаются границы.

В четвертом параграфе диссертации изучаются произвольные функции подхода и предельные множества по различным задаваемым ими семействам.

Опишем эти семейства функций подхода. Пусть s = h (t) определена, непрерывна и строго возрастает на отрезке [0,1], причем s = h (t) < t при 0 < t < 1, а также h (0) = 0, h (l) = 1. Такая функция называется функцией подхода ([4],[5],[29],[55]). Для построения областей рассматривается обратная функция t = /i (s). Используемые в работе семейства функций получаются преобразованиями сжатия функции /i (s) относительно координатных осей. Полученные три семейства получаются с помощью трех типов сжатия. А именно, сжатие относительно оси t с параметром а, т. е. /ii (a, s) = afi (s), сжатие относительно оси s с параметром а, т. е. s) = [i (as) и сжатие относительно обеих осей с взаимнообратными параметрами, (a, s) = aji{sfa). Параметры предполагаются рациональными и положительными.

В пространстве М" рассматриваются круговые и угловые области, т. е. такие, проекции которых на лежат в соответствующем (п — 1)-мерном шаре.

В.И. Гавриловым и другими авторами ([4],[5]) рассматривались семейства функций подхода первых двух типов. Доказано, что в случае отображения / полупространства R" в локально компактное топологическое пространство со счетной базой окрестностей и предельным множеством по двум парам областей множества особых точек отображения /, соответствующие этим областям являются сг-пористыми типа Gsa.

Автором усилен этот результат для случая всех шести пар областей, образуемых тремя семействами функций подхода. А именно, доказано, что во всех шести случаях множество особых точек отображения / будет являтся не только сг-пористым типа Gsa, но и совершенным сг-пористым.

В этой же работе для случая предельных множеств для одного из видов областей, задаваемых функциями подхода второго типа множество особых точек такого же как и выше отображения / является сг-пористым типа Gsa при условии выпуклости вниз функции подхода и выполнении для нее определенного условия, не ограничивающего ее порядок малости в точке 0, а предполагающие определенную регулярность ее поведения.

В диссертации для четырех из шести возможных типов пар областей, задаваемых семействами функций подхода второго типа, доказано, что для упомянутого отображения / и выпуклой вниз функции подхода множества особых точек относительно этих четырех типов областей являются совешенными сг-пористыми.

Для случая областей, определенных семействами третьего типа получены результаты для некоторых частных случаев функций подхода.

В этом же параграфе дается полное дескриптивное описание шести классов множеств особых точек в случае отбражения М" в R. А именно, доказано, что множество Е С является совершенным сг-пористым в том и только том случае, когда существует неотрицательная, ограниченная и непрерывная в М" функция д, для которой одно из шести типов множеств особых точек функции д и функции подхода первого типа совпадает с Е.

Данный результат обобщается для случая непрерывного отображения R" в локально компактное банахово пространство.

С использованием теоремы 1.4.6 получен результат, обобщающий результат работы С. В. Колесникова о том, что множество W-особых точек функции /: С+ —Ь С является совершенным сг-пористым. Как было указано выше прямое обобщение доказательства С. В. Колесникова позволило получить лишь одностороннее включение множества особых точек в случае подхода по криволинейным углам, образованным двумя окружностями. Поскольку функция, задающая параболу, является функцией подхода, удовлетворяющей условиям теоремы 1.4.6, то множество особых точек для функции /: С+ —> С при подходе по областям, заключенным между двумя параболами, является совершенным сг-пористым. Тем самым получено полное усиление упомянутого результата С. В. Колесникова (теорема 1.4.14).

Отмстим также результат, связанный с подходом по семействам областей, порожденных гладкими кривыми (следствие 1.4.13). Доказано, что если функция подхода h{t) имеет в точке 0 первый порядок касания с осыо t, то множество особых точек отображения /: —у У, где.

Y — регулярное локально компактное топологическое пространство со счетной базой относительно подхода по семействам областей любого из рассматриваемых типов является совершенным сг-пористым.

Во второй главе диссертации рассматриваются приложения результатов первой главы к изучению предельных множеств фуксовых групп.

Фуксова группа является дискретной группой голоморфных преобразований (открытого) круга К на сфере Римана, т. е. круга или полуплоскости на комплексной плоскости. Чаще всего в качестве К берут верхнюю полуплоскость или единичный круг.

В первом случае элементы фуксовой группы являются дробно-линейными преобразованиями с действительными коэффициентами, и фуксова группа представляет собой не что иное, как дискретную подгруппу группы PSL2. Во втором случае элементы фуксовой группы являются дробно-линейными с псевдоунитарными матрицами. Понятие фуксовой группы послужило основой для теории автоморфных функций, созданной А. Пуанкаре и Ф. Клейном ([51],[52]).

Фуксова группа, сохраняющая какую-либо точку в замыкании круга К или прямую в смысле геометрии Лобачевского, называется элементарной. Если Г — неэлементарная фуксова группа, то множество А (Г) предельных точек орбиты точки х? К, лежащее на граничной окружности дК, не зависит от ж и называется предельным множеством группы Г.

Одной из центральных задач теории фуксовых групп является задача изучения предельных множеств таких групп.

При изучении эргодических свойств действия фуксовой группы на границе единичного круга выяснилось, что описание таких свойств удобно производить в терминах множеств орициклических предельных точек, точек Гарнетт и других подмножеств предельного множества рассматриваемой группы. Эти подмножества оказалось естественным выделять в соответствии с тем, каким образом Г-орбиты точек единичного круга приближаются к точкам предельного множества группы Г.

С.В. Кравцевым в работах ([16],[17]) было доказано, что множество точек Гарнетт произвольной фуксовой группы преобразований на сфере Римана является сг-пористым.

В диссертации показано, что данный результат допускает усиление, а именно множество точек Гарнетт произвольной фуксовой группы является совершенным сг-пористым. Доказательство этого результата основано на теореме 1.4.6.

В диссертации также рассмотрены фуксовы группы в пространстве Кп. В этом случае фуксову группу можно определить как группу мебиусовых преобразований, для которой существует инвариантный шар, в котором эта группа действует разрывно, т. е. неподвижные точки фуксовой группы лежат на границе инвариантного шара. Автором доказано, что в этом случае множество точек Гарнетт произвольной фуксовой группы является совершенным сг-пористым.

Основные результаты автора опубликованы и докладывались на международных конференциях ([32] - [35]).

В заключении автор пользуется случаем выразить глубокую благодарность своему научному руководителю профессору В. И. Гаврилову за постановку задачи, постоянное внимание к работе и поддержку.

1. Бердон А. Геометрия дискретных групп. М.: Наука, 1986. — 299 с.

2. Гаврилов В. И. О множестве угловых граничных значений нормальных мероморфных функций: ДАН СССР, 1961, т. 141, № 3, с. 525−526.

3. Гаврилов В. И. Пределы по непрерывным кривым и по последовательностям точек мероморфных и обобщенных мероморфных в единичном круге функций: Вестник МГУ, сер. матем. 1964, № 1, с. 14−55.

4. Гаврилов В. И., Канатников А. Н., Кравцев С. В., Симушев А. А. Теоремы о максимальности для пространственных отображений и некоторые приложения: Математички Весник, 1986, т. 38, с. 437−450.

5. Гаврилов В. И., Канатников А. Н., Кравцев С. В., Симушев А. А. Теоремы о максимальности для пространственных отображений и некоторые приложения: ДАН СССР, 1986, т. 289, № 4, с. 780−784.

6. Гарнетт До/с. Ограниченные аналитические функции. М.: Мир, 1984.

7. Голубев В. В. Однозначные аналитические функции. Автоморфные функции. Физматгиз, М., 1961.

8. Голузин Г. М. Геометрическая теория функций комплексного переменного. М.: Наука, 1966.

9. Доло/сенко Е. П. О граничных теоремах единственности и о поведениии аналитических функций вблизи границы: Докл. АН СССР, 1959, т. 129, № 1, с. 23−26.

10. Доло/сенко Е. П. Граничные свойства аналитических и гармонических функций: Дис. канд. физ.-мат. наук, М., 1964.

11. Доло/сенко Е. П. Граничные свойства произвольных функций: Известия АН СССР, сер. матем., 1967, т. 31, № 1, с. 3−14.

12. Хассан Абду Аль-Рахман О предельных множествах вдоль произвольных граничных путей: ДАН СССР, 1981, т. 260, 4, с. 777−780.

13. Шевченко Ю. А. О граничном поведении произвольных функций, определенных в полупространстве: Математические заметки, 1989, т. 46, вып. 5, с. 80−88.

14. Шевченко Ю. А. Граничные свойства многомерных отображений: Дис. канд. физ.-мат. наук, М., 1991. — 76 с.

15. Дорофеев М. А. Об особых граничных точках функций. Материалы международной конференции «Вопросы функционального анализа и математической физики», Баку, изд. «Чашыоглы», 1999, с. 260−268.

16. Дорофеев М. А. О некоторых множествах особых граничных точек функции в пространстве. Тезисы международной конференции «Математика. Компьютер. Образование», вып. 16, Пущино, 2009, с. 22.

17. Abdu Al-Rahman Hassan., Gavrilov V. I. The set lindelof points for mero-morphic functions: Математички Весник, т. 40(1988), с. 181−184.

18. Beardon A. F. Fundamental domains for Klainian groups: Ann. Math. Studies, 1974, № 79, pp. 31−41.

19. Beardon A. F., Nicholls P. J. Ford and Dirichlet regions for Fuchsian groups: Canad. J. Math., 1982, v. 34, № 4, pp. 806−815.

20. Caratheodory C. Vorlesungen liber reele Funktionen, Leipzig, 1927.