Глобальная динамика каскадов Морса-Смейла на 3-многообразиях

Предмет исследования. Настоящая диссертация лежит в русле современных проблем качественной теории динамических систем, восходящих к классическим работам А. Пуанкаре, A.M. Ляпунова, И. Бендиксона, Дж. Биркгофа и ее тематика является традиционной для Нижегородской школы теории нелинейных колебаний, основанной академиком A.A. Андроновым. Диссертация посвящена актуальным вопросам исследования структурно устойчивых динамических систем с конечным неблуждаю-шим множеством на 3-многообразиях. Среди решаемых в диссертации проблем первостепенное место занимает топологическая классификация таких каскадов и, тесно связанные с ней проблемы глобальной динамики, среди которых основное место занимает проблема существования гладкой (глобальной) функции Ляпунова, свойства которой наиболее тесно связаны с динамикой системы и проблема включения каскада в топологический поток. Содержание диссертации охватывает исследования автора, начатые в 1999 году.

Актуальность темы

Динамические системы, исследуемые в диссертации являются моделями, адекватно описывающими многочисленные процессы с регулярным поведением в естествознании и технике. Как оказалось, несмотря на отсутствие хаотического поведения траекторий, динамика блуждающих траекторий таких систем может быть весьма сложной, что связано как с возможностью существования гетеро-клинических пересечений инвариантных многообразий, так и возможностью дикого вложения последних в несущее пространство. Это приводит к необходимости введения принципиально новых типов топологических инвариантов, контролирующих тонкие свойства систем, которые различают классы топологической сопряженности. На пути построения таких инвариантов возникают актуальные проблемы глобальной динамики, тесно связанные с существованием глобальных функций Ляпунова с прогнозируемыми свойствами и условиями включения каскада в топологический поток.

Диссертация является логическим продолжением результатов выдающихся математиков Нижегородской школы динамических систем, основанной A.A. Андроновым. Отправной точкой исследований диссертации является понятие грубой системы (системы дифференциальных уравнений в ограниченной части плоскости, не меняющей своих качественных свойств при малых изменениях правых частей), введенное в 1937 году A.A. Андроновым и Л. С. Понтрягиным в работе [2], где они также указали необходимые и достаточные условия для того, чтобы система была грубой. В этом же году Е. А. Леонтович и А. Г. Майер [50] сформулировали утверждение о том, что для некоторого класса дифференциальных уравнений, по аналогии с грубыми системами, существует конечное число траекторий, полностью определяющих качественную структуру разбиения фазового пространства на траектории. В 1939 году А. Г. Майер [52] ввел понятие грубого преобразования окружности в окружность и установил возможные типы таких преобразований. В 1955 году в работе Е. А. Леонтович и А. Г. Майера [51] были найдены необходимые и достаточные условия топологической эквивалентности потоков с конечным числом особых траекторий на плоскости и двумерной сфере. Обобщением этих результатов явилась топологическая классификация грубых потоков на поверхностях, полученная М. Пейкшото [65].

Фундаментом для этого стали идеи Пуанкаре-Бендиксона, связанные с выделением тех траекторий, знание и взаимное расположение которых однозначно задает качественную структуру разбиения фазового пространства динамической системы на траектории. Тот факт, что грубые потоки имеют лишь конечное число гиперболических состояний равновесия, конечное число замкнутых гиперболических траекторий и не содержат сепаратрис, соединяющих седловые состояния равновесия, а также незамкнутых устойчивых по Пуассону траекторий позволил свести задачу топологической классификации грубых потоков на поверхностях к комбинаторной проблеме. Утверждение об отсутствии сепаратрис, соединяющих седловые состояния равновесия, было доказано в основополагающей работе Андронова и Понтрягина, отсутствие же незамкнутых устойчивых по Пуассону траекторий у грубых потоков на плоскости и сфере непосредственно следует из топологии этих многообразий, а для потоков на ориентируемых поверхностях большего рода этот нетривиальный факт был доказан вначале А. Г. Майером для грубых потоков без состояния равновесия на двумерном торе, а затем — М. Пейкшото [63], [64] для грубых потоков на ориентируемых поверхностях любого рода.

При переходе к потокам (каскадам) на многообразиях размерности большей двух (соответственно большей единицы) становится возможным существование гомоклинических пересечений инвариантных многообразий седловых периодических движений, что приводит к существованию счетного множества периодических траекторий. Первым, кто обнаружил сложную структуру множества траекторий, принадлежащих окрестности гомоклинической траектории, был А. Пуанкаре [80]. Затем Д. Бирк-гоф [9] исследовал двумерные сохраняющие площадь отображения и показал, что наличие гомоклинических пересечений влечет существование бесконечного множества периодических орбит. Первым феноменом, пролившим свет на принципиальное отличие структурно устойчивых потоков (каскадов) на многообразиях размерности большей двух (большей единицы) от структурно устойчивых потоков на поверхностях, явился пример структурно устойчивого диффеоморфизма двумерной сферы, обладающего бесконечным множеством периодических орбит. Этот пример был построен С. Смейлом [86] в 1961 году и получил название «подкова Смейла». Второе важнейшее открытие сделал Д. В. Аносов [3] в 1962 году, установив структурную устойчивость геодезического потока на римано-вом многообразии отрицательной кривизны. Затем он ввел и доказал структурную устойчивость чрезвычайно важного класса систем, названных им У-системами и получивших позднее название потоков и диффеоморфизмов Аносова. Обобщая это понятие, С. Смейл [88] ввел в рассмотрение класс систем с гиперболической структурой неблуждающего множества, являющегося замыканием множества периодических точек. Неблуждающее множество систем из этого класса допускает разложение на конечное число замкнутых инвариантных базисных множеств, на каждом из которых система действует транзитивно. Динамика на нетривиальном базисном множестве (не являющемся периодической орбитой) обладает свойствами, во многом сходными с поведением диффеоморфизма на неблуждающем множестве в примере «подкова Смейла» .

Следует отметить, что первоначально, по аналогии с двумерной ситуацией, С. Смейл [84] в 1960 году выделил в качестве претендента на множество всех структурно устойчивых потоков на многообразиях размерности большей двух класс потоков с конечным множеством гиперболических состояний равновесия, замкнутых траекторий и трансверсальным пересечением устойчивых и неустойчивых многообразий этих траекторий. Позже С. Смейлом и Ж. Палисом [60], [62] было доказано, что эти потоки действительно являются структурно устойчивыми, но уже в 1962 году сам же С. Смейл понял, что они не исчерпывают множества всех структурно устойчивых потоков (достаточно рассмотреть поток, являющийся надстройкой над диффеоморфизмом «подкова Смейла», который является структурно устойчивым потоком со счетным множеством периодических движений). Однако, в силу важности таких потоков, как с точки зрения приложений так и в силу того, что эти потоки обладают свойствами глубокой взаимосвязи динамики с топологией фазового пространства (в частности, для них имеют место неравенства Морса, установленные С. Смейлом) класс таких потоков подвергся весьма пристальному изучению, получив специальное название потоков Морса-Смейла. Чуть позже по аналогии с потоками был выделен класс дискретных динамических систем Морса-Смейла, для которых неблуждающее множество гиперболично и конечно, а устойчивые и неустойчивые многообразия различных периодических точек пересекаются трансверсально.

Основной результат диссертации состоит в нахождении полной системы топологических инвариантов для сохраняющих ориентацию диффеоморфизмов Морса-Смейла, заданных на гладких замкнутых ориентируемых 3-многообразиях. Как уже было упомянуто это направление имеет большую предысторию, которую идейно можно описать следующим образом.

Класс эквивалентности потока Морса-Смейла на окружности однозначно определяется числом его неподвижных точек. Для каскадов на окружности полный топологический инвариант содержится в работе А. Г. Майера 1939 года и состоит из числа периодических орбит и числа вращения Пуанкаре. В 1955 году Е. А. Леонтович и А. Г. Майер в качестве полного топологического инварианта ввели схему потока с конечным числом особых траекторий на двумерной сфере. В 1971 году М. Пейкшото формализовал понятие схемы Леонтович-Майера и доказал, что для потока на произвольной поверхности полным топологическим инвариантом является класс изоморфности ориентируемого графа, вершины которого находятся во взаимно однозначном соответствии с состояниями равновесия и замкнутыми траекториями, а ребра соответствуют некоторым компонентами связности инвариантных многообразий состояний равновесия и замкнутых траекторий, при этом изоморфность графов включает в себя сохранение выделенных специальным образом подграфов1.

Хотя неблуждающее множество систем Морса-Смейла состоит из конечного множества периодических траекторий, блуждающее множество потока (каскада) на многообразии размерности большей двух (большей единицы) устроено, вообще говоря, значительно сложнее, чем в соответствующих динамических системах на многообразиях меньшей размерности. Это связано с возможностью пересечения устойчивых и неустойчивых многообразий седловых периодических траекторий. Так в работе В. Афраймовича и Л. П. Шильникова [1] доказано, что ограничение потоков Морса-Смейла на замыкание множества гетероклинических траекторий.

ХВ работе [59] была замечена неточность инварианта Пейкшото, связанная с тем, что изоморфизм графов не различает неэквивалентного расслоения на траектории областей ограниченных двумя периодическими орбитами. сопряжено с надстройкой над тополгической марковской цепью. Однако, для диффеоморфизмов поверхностей с конечным числом гетерокли-нических орбит, инварианта, подобного графу Пейкшото и оснащенного некоторой дополнительной информацией, оказалось достаточно для описания полного топологического инварианта (А.Н. Безденежных, В. З. Гринес [6], [7], [8], [27]). Аналогично для потоков с конечным числом гетероклинических траекторий на 3-многообразиях в качестве полного топологического инварианта вновь использовались конструкции, подобные схеме Леонтович-Майера и фазовой диаграмме С. Смейла (С.Ю. Пилюгин, Я. Л. Уманский [66], [93]). Классификационные результаты на языке графов Пейкшото и диаграмм Смейла имеются и в размерности п > 3: для потоков на сфере §-п, в предположении, что эти потоки не имеют замкнутых траекторий и гетероклинических пересечений (С.Ю. Пилюгин [66]) — для градиентно-подобных диффеоморфизмов на Мп, все седловые точки которого имеют индекс Морса, равный единице (Гринес В.З., Гуревич Е. Я., Медведев B.C. [28], [29]).

Таким образом, для всех упомянутых выше систем Морса-Смейла основным моментом для выделения класса топологической сопряженности (эквивалентности) являлось указание асимптотического направления инвариантных многообразий неподвижных точек и периодических орбит. Благодаря работам Д. Пикстона [67], X. Бонатти и В. З. Гринеса [10] стало ясно, что каскады Морса-Смейла на 3-многообразиях не вписываются в концепцию выделения каркаса из инвариантных многообразий неподвижных точек и периодических орбит. Причиной столь неожиданного эффекта оказалась возможность «дикого» поведения сепаратрис седловых точек. А именно, замыкание сепаратрисы может отличаться от самой сепаратрисы всего одной точкой, но не являться при этом даже топологическим подмногообразием. Впервые диффеоморфизм с дикими сепаратрисами был построен Д. Пикстоном в 1977 году. Он использовал кривую Артина-Фокса для реализации инвариантных многообразий сед-ловой неподвижной точки. Как показали X. Бонатти и В. З. Гринес, в классе диффеоморфизмов Морса-Смейла трехмерной сферы с неблуждающим множеством, состоящим из четырех неподвижных точек: седла, одного источника и двух стоков, существует счетное множество топологически несопряженных. При этом полным топологическим инвариантом является тип вложения сепаратрис седловой неподвижной точки.

Эффективным инструментом, позволяющим различать тип вложения сепаратрисы является переход к пространству орбит части блуждающего множества, содержащего эту сепаратрису. При этом структура пространства блуждающих орбит является необходимой информацией в топологическом инварианте наряду с информацией об асимптотическом направлении инвариантных многообразий седловых периодических точек. Этой идеей связан цикл работ [12]-[18], [35]—[37], [40], [68]—[79] по топологической классификации диффеоморфизмов Морса-Смейла на 3-многообразиях российских и французских математиков X. Бонатти, В. З. Гринеса, B.C. Медведева, Е. Пеку, О. В. Починки. В упомянутой серии работ была решена задача топологической классификации диффеоморфизмов Морса-Смейла на 3-многообразиях, не имеющих либо гетерокли-нических точек, либо гетероклинических орбит. Основным результатом настоящей диссертации является полная топологическая классификация произвольных сохраняющих ориентацию диффеоморфизмов Морса-Смейла на замкнутых ориентируемых 3-многообразиях.

Дикое вложение сепаратрис седловых точек создает препятствие к включению диффеоморфизма Морса-Смейла / G MS (Mn) в поток, то есть к существованию топологического потока Хг на Мп такого, что / является сдвигом на единицу времени вдоль траекторий потока Хь. Из работ [60], [62], в которых доказана структурная устойчивость диффеоморфизмов Морса-Смейла, следует, что для любого многообразия Мп существует открытое в Dif fl (Mn) множество диффеоморфизмов Морса-Смейла, включающихся в топологический поток. В работе [60] также найдены следующие необходимые условия включения диффеоморфизма / Морса-Смейла в топологических поток, состоящие в том, что множество Qf совпадает с множеством Fix/ неподвижных точекограничение диффеоморфизма / на каждое инвариантное многообразие любой неподвижной точки р G Qy сохраняет его ориентациюесли для различных седловых точек p, q G? lf пересечение П W™ непусто, то каждая его компонента связности не является замкнутым множеством. Там же показано, что при п = 2 эти условия являются достаточными и поставлена задача обобщения этого результата на случай большей размерности. В настоящей диссертации разработана методика построения каскадов Морса-Смейла на 3-многообразиях, удовлетворяющих всем условиям Палиса, но не включающихся ни в какой топологический поток. Это явление сильно контрастирует с ситуацией на двумерных многообразиях и подчеркивает нетривиальность проблемы Ж. Палиса [60] о нахождении условий, гарантирующих возможность включения диффеоморфизма в топологический поток.

Эффект дикого заузливания сепаратрис был использован Д. Пиксто-ном в качестве контраргумента к утверждению о существовании энергетической функции Морса у любого каскада Морса-Смейла. Энергетическая функция динамической системы — это гладкая функция Ляпунова функция, убывающая вдоль траекторий системы вне цепно рекуррентного множества и постоянная на цепных компонентах), не имеющая критических точек, отличных от цепно рекуррентного множества. К. Конли [22] в 1978 году доказал существование непрерывной функции Ляпунова у любой динамической системы и этот результат получил название фундаментальной теоремы динамических систем. Функция Ляпунова стала мощнейшим аппаратом, позволяющим строить фильтрацию для систем удовлетворяющих аксиоме, А и условию отсутствия циклов, следствием из существования которой является^{-устойчивость} динамической системы. В основе теоремы К. Конли лежит теория глобальных аттракторов и репеллеров, последовательное выделение которых позволяет построить непрерывную функцию Ляпунова. Такой подход принципиально не годится для построения гладкой функции Ляпунова.

В настоящей диссертации для произвольных каскадов Морса-Смейла на п-многообразиях (п > 1) построена гладкая функция Ляпунова. Более того, построенная функция является функцией Морса и ее регулярные линии уровня трансверсальны инвариантным многообразиям периодической точки в некоторой ее окрестности. Функция с такими свойствами, названа функцией Морса-Ляпунова. Автором доказано, что такие функции являются типичными среди гладких функций Ляпунова для диффеоморфизма Морса-Смейла /: Мп —У Мп.

Первые результаты по построению энергетической функции принадлежат С. Смейлу [85], который в 1961 году доказал существование энергетической функции Морса у градиентно-подобного потока (потока Морса-Смейла без замкнутых траекторий). К. Мейер [54] в 1968 году обобщил этот результат и построил энергетическую функцию Морса-Ботта для потока Морса-Смейла. Работа К. Мейера индуцировала М. Шуба [90] и Ф. Такенса [91] на выдвижение гипотезы о том, что энергетической функцией Морса обладают любые диффеоморфизмы Морса-Смейла. В качестве аргумента, подтверждающего гипотезу предполагалось перейти к надстройке и применить результат К. Мейера о существовании энергетической функции потока. Построенная таким способом гладкая функция действительно не возрастает вдоль траекторий диффеоморфизма, но может иметь критические точки вне его неблуждающего множества, то есть является гладкой функцией Ляпунова. Единственный результат для диффеоморфизмов в этом направлении принадлежит Д. Пикстону, который в 1977 году построил энергетическую функцию Морса для диффеоморфизмов Морса-Смейла на поверхностях. Там же он построил, упоминавшийся выше как пример Пикстона, диффеоморфизм на 3-сфере, не обладающий энергетической функцией, и доказал, что такой эффект в этом примере связан с диким вложением сепаратрис седловых точек.

В настоящей диссертации показано, что условия существования энергетической функции у любого диффеоморфизма Морса-Смейла /: М3 —>• М3 связаны с типом вложения глобальных аттракторов и репеллеров. С этой целью автором диссертации предъявлены все возможные представления диффеоморфизма / в виде «источник-сток», где под источником-стоком понимается дуальная пара глобальный репеллер-аттрактор. Введена нумерация этих пар, индуцированная отношением порядка на множестве периодических орбит, согласующимся с частичным порядком С. Смейла и являющимся неубывающей функцией индекса Морса. Такой порядок назван динамическим, а функция Морса-Ляпунова, принимающая на периодической орбите значение, равное номеру этой орбиты названа динамически упорядоченной. Установлено, что существование динамически упорядоченной энергетической функции у каскада Морса-Смейла на 3-многообразии накладывает ограничения на тип вложения его одномерных аттракторов (репеллеров), которые легли в основу понятия «тесно вложенный аттрактор (репеллер)». При этом, тесная вложенность одномерных аттракторов (репеллеров) является критерием существования динамически упорядоченной энергетической функции у диффеоморфизмов Морса-Смейла без гетероклиниче-ских кривых на 3-сфере. На произвольных 3-многообразиях М3 такая функция построена при более сильных ограничениях: одномерные аттракторы (репеллеры) являются строго тесно вложенными.

Факт существования функции Ляпунова и отсутствия энергетической функции приводит к понятию функции Ляпунова с минимальным числом критических точек, которая в диссертации названа квазиэнергетической. Выделен содержательный класс каскадов Морса-Смейла на 3-многообразиях, не обладающих энергетической функцией, для которых построена квази-энергетическая функция.

Цель работы. Работа направлена на решение актуальных проблем, связанных с глобальным исследованием важного класса структурно устойчивых дискретных динамических систем на 3-многообразиях с конечным неблуждаюшим множеством. Приоритетной целью работы является получение полной системы топологических инвариантов, которые однозначно определяют класс топологической сопряженности и допускают реализацию, позволяющую моделировать системы с прогнозируемыми свойствами. Топологическая классификация неразрывно связана с исследованием глобальной динамики системы и вложения в объемлющее многообразие сепаратрис ее седловых периодических точек. Поэтому целью диссертации является также каноническое описание глобальной динамики произвольного каскада Морса-Смейла, нахождение критериев ручного вложения сепаратрис, а также выявление препятствий включению каскадов в поток. Одним из эффективных инструментов исследования глобальной динамики динамической системы является функция Ляпунова. Целью диссертации является построение гладкой функции Ляпунова для каскадов Морса-Смейла, свойства которой тесно связаны с динамикой системы. А именно, нахождение необходимых и достаточных условий существования и построение энергетической функции, то есть функции Ляпунова, множество критических точек которой совпадает с неблуждающим множеством диффеоморфизма, а также построение квази-энергетической функции, то есть функций Ляпунова с минимальным числом критических точек.

Методы исследования. В диссертации разработаны новые методы исследования динамических систем Морса-Смейла, основанные на применении классических методов качественной теории, алгебраической топологии и дифференциальной геометрии. Они позволяют описать топологические инварианты, появляющиеся в результате представления динамики произвольного диффеоморфизма Морса-Смейла в виде аттрактор-репеллер и исследовать характеристическое пространство блуждающих орбит, вместе с вложенными в него проекциями двумерных сепаратрис седловых периодических точек, образующими нетривиальные геометрические объекты — гетероклинические ламинации. Для решения проблемы реализации каскадов Морса-Смейла эффективно используется, разработанный в диссертации метод перестройки замкнутых 3-многообразий вдоль существенно вложенных подмногообразий. При построении гладких функций Ляпунова существенно применяется теория Морса и методы сферических перестроек.

Научная новизна. Диссертация посвящена развитию важного направления в теории динамических систем на многообразиях — нахождению и исследованию топологических инвариантов, определяющих глобальное поведение траекторий каскадов на гладких замкнутых ориентируемых 3-многообразиях. Все полученные в диссертации результаты являются новыми и коротко могут быть сформулированы следующим образом:

1. Введены и изучены новые топологические инварианты диффеоморфизмов, принадлежащих классу М5(М3) сохраняющих ориентацию диффеоморфизмов Морса-Смейла, заданных на замкнутых ориентируемых 3-многообразиях М3. Построение инвариантов основано на представлении глобальной динамики диффеоморфизма / Е М5(М3) в виде «источник — сток», где под источником и стоком понимаются дуальные репеллер и аттрактор. Предъявлены все возможные такие представления и связанные с ними пространства орбит (характеристические пространства), принадлежащих дополнению к аттрактору и репеллеру, вместе с вложенными в них образами сепаратрис седловых периодических точек в силу естественной проекции.

2. Для диффеоморфизмов класса М5(М3) получены критерии ручного вложения сепаратрис седловых точек в окрестности узловой точки. Введена операция перестройки характеристических пространств вдоль тора и бутылки Клейна, с помощью которой изучается топология трехмерных характеристических пространств, в частности доказано, что каждая компонента связности такого пространства является простым многообразием, фундаментальная группа которого допускает эпиморфизм в группу Ъ. Исследованы препятствия включению таких диффеоморфизмов в топологический поток. Разработана методика построения каскадов Морса-Смейла на 3-многообразиях, удовлетворяющих необходимым условиям Палиса включения в топологический поток, но не включающихся ни в какой топологический поток.

3. Для каскада / Е М5(М3) доказано существование согласованной системы окрестностей, являющейся одним из основных технических инструментов топологической классификации. Построение такой системы использует структуру изученных в диссертации характеристических пространств. Свойства построенной в диссертации системы принципиально отличаются в окрестности гетерокли-нических кривых от свойств трубчатых семейств Ж. Палиса и С. Смейла, используемых ими при доказательстве структурной устойчивости диффеоморфизмов Морса-Смейла.

4. Найдены необходимые и достаточные условия топологической сопряженности каскадов класса М5(М3). А именно, введено понятие схемы Sf диффеоморфизма / 6 М5'(М3), которая содержит информацию о периодических данных каскада, топологии вложения и пересечения в фазовом пространстве двумерных инвариантных многообразий седловых периодических точек. Для этого использовано характеристическое пространство, соответствующее одномерному аттрактору-репеллеру и введенное в диссертации понятие гете-роклинической ламинации, являющейся компактным объединением попарно непересекающихся торов и бутылок Клейна с конечным, пустым или счетным множеством выколотых точек. Доказано, что диффеоморфизмы /, /' е М5(М3) топологически сопряжены тогда и только тогда, когда их схемы эквивалентны.

5. Решена проблема реализации. На основе свойств схемы 5/ выделено множество ?> абстрактных схем, содержащее схемы всех диффеоморфизмов из М5(М3). По каждой абстрактной схеме 5 6 5 построен диффеоморфизм fs? М5(М3), схема которого эквивалентна данной. Решение этой проблемы позволяет моделировать структурно устойчивые динамические системы с прогнозируемыми свойствами.

6. Для произвольного диффеоморфизма из класса М5'(МП) построена гладкая функция Ляпунова, являющаяся функцией Морса, что явлется существенным усилением фундаментальной теоремы динамических систем для каскадов Морса-Смейла.

7. Доказано, что необходимые и достаточные условия существования энергетической функции (функции Ляпунова, не имеющей критических точек, отличных от периодических) у диффеоморфизма / 6 М5(М3) связаны с типом вложения одномерных аттракторов и репеллеров. Получен критерий существования динамически упорядоченной энергетической функции для диффеоморфизмов класса М5(§-3), не имеющих гетероклинических кривых. Выделен содержательный класс каскадов Морса-Смейла на 3-многообразиях, не обладающих энергетической функцией, для которых построена квази-энергетическая функция (функция Ляпунова с минимальным числом критических точек).

Теоретическая и практическая значимость. Работа носит теоретический характер. Полученные в ней результаты и методы могут быть применены в теории гладких динамических систем при исследовании конкретных трехмерных неавтономных периодических по времени систем дифференциальных уравнений, а также четырехмерных потоков, с помощью изучения отображения последования на секущей к траекториям потока. В частности, эти результаты могут найти применение в исследованиях, проводимых в Математическом Институте им. В, А. Стек-лова РАН, Петербургском отделении Математического Института РАН, Московском Государственном Университете им М. В. Ломоносова, Нижегородском Государственном Университете им. Н. И. Лобачевского, НИИ прикладной математики и кибернетики ННГУ, других высших учебных заведениях и научных центрах.

Апробация работы. По теме диссертации были сделаны следующие доклады на международных конференциях:

• на международных конференциях по дифференциальным уравнениям и динамическим системам (Суздаль 2000, 2002, 2004, 2008, 2010);

• на международной конференции, посвященной столетию А. А. Андронова (Нижний Новгород 2001);

• на международных конференциях «Дифференциальные уравнения и их приложения» (Саранск 2002 — 2010);

• на международной конференции, посвященной столетию А. Н. Колмогорова (Москва 2003);

• на объединенной международной научной конференции «Новая геометрия природы» (Казань 2003);

• на международной конференции «Динамика, бифуркация и хаос» (Н. Новгород 2005);

• на международной конференции «Тихонов-100» (Москва 2006);

• на международной конференции «Dynamics, Topology and Computations» (Bedlewo (Poland) 2006);

• на международной конференции, посвященной И. Г. Петровскому (Москва 2006, 2007, 2011);

• на интернациональном конгрессе «Nonlinear Dynamical Analysis-2007» (Санкт-Питербург 2007);

• на международной конференции «Laminations and Group Actions in Dynamics» (Москва 2007);

• на международной конференции «Differential Equations and Topology», посвященной JI.С. Понтрягину (Москва 2009).

По теме диссертации были также сделаны следующие доклады:

• на семинарах кафедры высшей математики Нижегородской Сельскохозяйственной академии (2002 — 2011 руководитель проф. В. 3. Гринес);

• на научном семинаре отдела дифференциальных уравнений МИАН (2003, 2008, 2011, руководитель акад. Д. В. Аносов и проф. Ю. С. Ильяшенко);

• на научном семинаре МГУ по теории динамических систем (2003, руководители акад. Д. В. Аносов и проф. А. М. Степин);

• на научном семинаре отдела дифференциальных уравнений НИИ прикладной математики и кибернетики при Нижегородском государственном университете (2003, 2008, руководитель проф. Л. П. Шильников);

• на научном семинаре МГУ по динамическим системам (2004, руководитель проф. Ю. С. Ильяшенко);

• на научном семинаре кафедры дифференциальных уравнений механико-математического факультета ННГУ (2009 — 2011, руководители проф. Л. М. Лерман и проф. А. Д. Морозов);

• на научном семинаре кафедры теории функций механико-математического факультета ННГУ (2008 — 2011, руководитель проф. М. О. Сумин).

Структура и объем диссертации

Основные главы диссертации предваряются введением и общей характеристикой работы и заканчиваются списком литературы. Содержание диссертации изложено в четырех главах. Первая глава диссертации посвящена детальному изучению свойств диффеоморфизмов из класса М5(МП), состоящего из сохраняющих ориентацию диффеоморфизмов Морса-Смейла /, заданных на замкнутых ориентируемых п-многообразиях Мп, п > 1. Изучается вложение и асимптотическое поведение инвариантных многообразий периодических точек и структура их пространств орбит. Описывается общая концепция изучения динамики диффеоморфизмов Морса-Смейла, которая во многих случаях позволяет решить проблему топологической классификации и реализации диффеоморфизмов Морса-Смейла. Во второй главе диссертации сформулированы и доказаны критерии ручного вложения как одномерных так и двумерных сепаратрис седловых точек диффеоморфизма / € М5(М3) в бассейн стока (источника). Введено понятие перестройки трехмерных характеристических пространств вдоль гладко вложенных в нее торов и бутылок Клейна, позволяющее изучать топологию трехмерных характеристических пространств. Разработана методика построения каскадов Морса-Смейла на 3-многообразиях, удовлетворяющих всем условиям Палиса, но не включающихся ни в какой топологический поток. В третьей главе приводится полная топологическая классификация (включая реализацию) каскадов Морса-Смейла на 3-многообразиях. Значительная часть третьей главы посвящена построению согласованной системы окрестностей, являющейся существенным техническим моментом при построении сопрягающего гомеоморфизма и реализации. В четвертой главе для диффеоморфизмов Морса-Смейла на 3-многообразиях вводится понятие функции Ляпунова, энергетической и квази-энергетической функции. Устанавливается факт существования функции Морса-Ляпунова для любого диффеоморфизма / (Е М5(МП) и типичность в пространстве функций Ляпунова для /. Доказываются необходимые и достаточные условия существования динамически упорядоченной энергетической функции для диффеоморфизмов класса М5(М3). Для содержательного класса каскадов Морса-Смейла на 3-многообразиях, не обладающих энергетической функцией, строится квази-энергетическая функция.

Объем диссертации — 235 страниц, количество рисунков — 43, наименований литературы — 94. Основные утверждения диссертации составляют теоремы 1.3, 2.2, 2.3, 3.1, 3.2, 3.5, 4.1, 4.4 и 4.7.

Публикации. Всего по теме диссертации автором опубликовано 18 работ, из них 11 — в изданиях, рекомендованных ВАК. Все основные результаты диссертации являются новыми и принадлежат автору. В работах, выполненных с В. З. Гринесом и Ф. Лауденбахом, диссертанту принадлежат формулировки и доказательства результатов, включенных в диссертацию, В. З. Гринес являлся научным консультантом, Ф. Лауден-бах осуществлял консультации по топологическим вопросам.

Финансовая поддержка. Диссертация выполнена при финансовой поддержке грантов РФФИ 05−01−501-а, 08−01−547-а, 08−01−064-д, 11−01−1205б-офи-м, гранта 9686.2006.1 Президента РФ ведущим научным школам и гранта правительства Российской Федерации 11. G34.31.0039.

Формулировка результатов.

Определение 1.1. Диффеоморфизм /: Мп —" Мп, заданный на гладком замкнутом (компактном без края) связном п-многообразии (п>1) Мп называется диффеоморфизмом Морса-Смейла, если.

1) неблуждающее множество конечно и гиперболично;

2) многообразия Ур, пересекаются трансе ер сально для любых периодических точек р, q.

В настоящей диссертации рассматривается класс М5(МП) сохраняющих ориентацию диффеоморфизмов Морса-Смейла /: Мп —> Мп, заданных на ориентируемых многообразиях Мп. В первой главе приводятся с доказательством необходимые для топологической классификации свойства диффеоморфизмов Морса-Смейла и описываются конструкции, которые будут использоваться для введения топологических инвариантов.

Пусть / е М5(МП). Согласно определению 1.1, неблуждающее множество Q, f диффеоморфизма / состоит из конечного числа периодических точек = Рег/). Гиперболическая структура множества Qf приводит к существованию у каждой периодической точки р & периода тПр инвариантных многообразий: устойчивого У/р и неустойчивого определяемых в топологических терминах следующим образом: где d — метрика на Мп. При этом dim W* = п — qp (dim = qp), где qp — число отрицательных собственных значений матрицы Якоби дем обозначать через Wp (Wp) объединение неустойчивых (устойчивых) многообразий всех точек из множества Р. Компонента связности isp (ip) множества Wpp (dim Wpp) называется сепаратрисой точки р. Число.

W* = {xeMn: lim d (fnm*(x), p) = 0}, W" = {xeMn: lim d (f-nm*(x), p) = 0} индекс Морса). Далее для любого подмножества Р С Г2/ буг/р, равное +1, если отображение /Шршри сохраняет ориентацию и равное — 1, если отображение /тр\у" меняет ориентацию, называется типом ориентации точки р. Тройка чисел (тр, ир) = (тор, Яор, Vор) называется периодическими данными точки р (орбиты Ор).

Точка р называется седлом, если 0 < < п и называется узлом в противном случае, при этом р называется стоком (источником), если Яр — 0 = п). Поскольку диффеоморфизм / сохраняет ориентацию, то для узловых точек тип ориентации всегда равен +1, тогда как для седловых точек допустимы оба типа ориентации.

Для д Е {0,., п} обозначим через множество периодических точек с индексом Морса q и через к/ — число периодических орбит диффеоморфизма / е М5(МП).

Динамические свойства и топологический тип диффеоморфизмов Морса Смейла во многом определяются свойствами вложения и взаимного расположения инвариантных многообразий периодических точек. Особую роль в этих вопросах играет исследование асимптотических свойств инвариантных многообразий седловых периодических точек. Согласно С. Смейлу имеет место следующее утверждение.

Утверждение 1.13. Пусть / Е М5(МП). Тогда.

1) мп= и реП/.

2) ]¥-р является гладким подмногообразием многообразия Мп, диффеоморфным Ж^1111^р для любой периодической точки р Е.

3) с1(?р) {£рУр) = и И7^ для любой неустойчивой (устойчивой) сепаратрисы ?^ (?*) периодической точки р Е.

Согласно пункту (2) утверждени 1.13, ¥-р является гладким qp-подмногообразием многообразия Мп для любой периодической точки р диффеоморфизма / Е М5(МП). Тогда отображение: И^ —у И^ является диффеоморфизмом. Более того, класс топологической сопряженности диффеоморфизма /Шр|ж" полностью определяется индексом Морса и типом ориентации ир точки р. Именно, согласно теореме о локальной топологической классификации гиперболических неподвижных точек диффеоморфизма отображение /Шр локально сопряжено в точке р линейному диффеоморфизму ая ": Мп —> Мп, заданному формулой 1' • • •' хп) = {ур ' 2¹, 2×2, • • •, ир —, ,.,.

В дальнейшем будем называть отображение: Мп —>• каноническим диффеоморфизмом. Кроме того, будем обозначать через а^, ограничения канонического диффеоморфизма на Ох. хд, Охч+. хп и называть диффеоморфизмы а^ а^ каноническим растяжением, каноническим сжатием, соответственно.

Предложение 1.1. Пусть f Е М5(МП). Тогда для любой периодической точки р Е Г2/ диффеоморфизм /тр|ру": Жр —>• И^ топологически сопряжен с каноническим растяжением: К9р -" М9р посредством гомеоморфизма^: Жр —)¦ который является диффеоморфизмом всюду, кроме точки р.

В случае, когда периодическая точка диффеоморфизма / Е М5(МП) является седловой, информативным становится не только вложение в оъемлющее пространство ее инвариантных многообразий, но и вложение /-инвариантной окрестности ее орбиты.

Для д Е {1,., п — 1}, ^ Е (0,1] положим Щ — {(а?!,., хп) Е Мп: {х +.. + Хц)(Хц+1 +.. + х1) < и Л/^1 = Заметим, что множество является инвариантным относительно канонического диффеоморфизма имеющего единственную неподвижную седловую точку в начале координат О с неустойчивым многообразием = Ох. хч и устойчивым многообразием ЦГд — Охя+. хп.

Определение 1.2. Пусть / Е М5(МП). Окрестность Л^ седловой точки, а Е Qf назовем линеаризующей, если существует гомеоморфизм ца: Ыа —>> сопрягающий диффеоморфизм /т<�т|лга с каноническим диффеоморфизмом аЯ (Г1 Уа [д^. та-1.

Окрестность Иоа = и /^(Л^), оснащенную отображением цоа, к=О составленным из гомеоморфизмов '¦ —> к =.

О,., та — 1, будем называть линеаризующей окрестностью орбиты.

Оа.

Предложение 1.2. Любая седловая точка (орбита) диффеоморфизма / Е М5(МП) обладает линеаризующей окрестностью.

Согласно пункту (1) утверждения 1.13, инвариантные многообразия периодических точек диффеоморфизма / Е М5(МП) являются подмногообразиями многообразия Мп. Тем не менее, замыкание инвариантного многообразия седловой точки может иметь сложную топологическую структуру. Это явление может иметь как динамическую, так и чисто топологичекую природу. Первый случай соответствует ситуации, когда сепаратриса седловой точки участвует в гетероклинических пересечениях.

Определение 1.3. Если (J, o.

• в случае dim (W* П W%2) > 0, компонента связности пересечения.

П называется гетероклиническим многообразием, а в случае dim (H/'^i П W%2) = 1, гетероклинической кривой-.

• в случае dim (VK®i П W%2) — 0- пересечение W^flW" является счетным множеством и каждая точка этого множества называется гетероклинической точкой, а орбита гетероклинической точки называется гетероклинической орбитой..

Определение 1.4. Диффеоморфизм f Е MS (Mn) называется градиентно-подобным, если из условия W® П W" 2 ф 0 для различных точек <7i,<72? П/ следует, что dim W" < dim W" ..

Геометрическая интерпретацию последнего определения состоит в том, что диффеоморфизм / (Е MS{Mn) является градиентно-подобным тогда и только тогда, когда он не имеет гетероклинических точек..

Согласно пункту (3) утверждения 1.13, замыкание сепаратрисы седловой точки, участвующей в гетероклиническом пересечении, не имеет структуры топологического многообразия. Напротив, замыкание сепаратрисы седловой точки, не имеющей гетероклинических пересечениях, является топологически вложенным многообразием. Именно, имеет место следующее утверждение..

Предложение 1.4. Пусть /? MS (Mn) и, а — седловая точка f такая, что неустойчивая сепаратриса не имеет гетероклинических пересечений. Тогда с/© К и сг) = м, где ш — стоковая периодическая точка. При этом, если qa = 1, то есть топологически вложенная дуга в Мп, если > 2, то с1(£%) есть топологически вложенная в Мп сфера Б*1″ ..

По пункту (2) утверждения 1.13, и, а — гладкое подмногообразие многообразия Мп. Однако, многообразие с1(£%) может оказаться диким в точке и>..

Определение 1.5. Сепаратрису ?^ седловой точки а, не участвующую в гетероклинических пересечениях, будем называть ручной или ручно вложенной в Мп, если замыкание с1(£%) является подмногообразием многообразия Мп, в противном случае будем называть сепаратрису 1иа дикой или дико вложенной в Мп..

Определение 1.6. Диффеоморфизм / 6 М5(МП) называется диффеоморфизмом «источник-сток» или «северный полюс-южный полюс», если его неблуждающее множество состоит из одного стока и одного источника..

Предложение 1.9. Если диффеоморфизм /? МЗ (Мп) не имеет седловых точек, то.

1) / — диффеоморфизмом «источник-сток» —.

2) пространство блуждающих орбит диффеоморфизма / гомеоморф-но §-п1 х В1-.

3) все диффеоморфизмы «источник-сток» топологически сопряжены между собой при фиксированном п и многообразие Мп гомеоморфно п-мерной сфере §-п..

Как следует из теоремы 1.9, диффеоморфизмы «источник-сток» имеют тривиальную динамику: все точки, отличные от неподвижных точек, являются блуждающими и движутся под действием диффеоморфизма от источника к стоку. Топологическая сопряженность всех таких диффеоморфизмов следует из гомеоморфности их пространств блуждающих орбит. При изучении более сложных диффеоморфизмов Морса-Смейла удается представить динамику диффеоморфизма в аналогичном виде, но под «источником» и «стоком» уже понимаются, по возможности просто устроенные (с топологической точки зрения), инвариантные замкнутые множества, одно из которых, А является притягивающим, а другое Л — отталкивающим множеством..

Если пространство орбит V = У//, где У = Мп (А и Д), поддается описанию, то это создает предпосылки для решения задачи топологической классификации в рамках данного класса диффеоморфизмов..

Поскольку диффеоморфизм f? М8{Мп) является структурно устойчивым и его базисные множества совпадают с периодическими орбитами, то на множестве периодических орбит существует отношение порядка, согласованное с отношением частичного порядка.

Определение 1.7. Нумерацию периодических орбит 0,., Ок{ диффеоморфизма /? М5(МП) назовем динамической, если она удо-влетоворяет следующим условиям:.

1) если д^ <Яо3, то1 <.

2) если д0г < qoj, то 0{ -< О у.

Предложение 1.10. Для любого диффеоморфизма /? М5(МП) существует динамическая нумерация периодических орбит..

Заметим, что существуют нумерации периодических орбит диффеоморфизма / е М5(МП), сохраняющие отношение частичного порядка -<, отличные от динамической. Везде далее мы будем предполагать, что орбиты диффеоморфизма /? М5(МП) динамически упорядочены. Для каждой периодической орбиты 0{ положим т^ = то, д^ = д^, щ = ио0.

Для I — 1, — 1 положим г.

А = Щ = и У1 = Мп (Аг и ДО..

3 =1 3=г+1.

Положим Уг = У{// и обозначим через рг: У{ —> У{ — естественную проекцию. Будем называть многообразие У{ характеристическим многообразием и его пространство орбит У{ характеристическим пространством. Заметим, что характеристическое пространство У{ не является связным в общем случае. Обозначим через У^,., У[г — компоненты связности пространства У^..

Теорема 1.3. Пусть / <Е М5(МП). Тогда.

1) множество А{ (Ri) является аттрактором (репеллером) диффеоi морфизма / и имеет захватывающую окрестность Mi С U WJ (Мг С.

3 = 1 kf.

J Wj1) такую, что Mi int f (Mi) (Mi int f l{Mi)) является фун-j=i+1 даментальной областью ограничения диффеоморфизма f на Vi-.

2) проекция рг Vi Vi является накрытием, индуцирующим структуру гладкого замкнутого п-многообразия на пространстве орбит Vi и отображение rji, состоящее из нетривиальных гомоморфизмов 7]^: ni (V/) Z, j = 1,., гц.

3) если dim А{ < (п — 2) (dim Ri < (п — 2)), то репеллер Ri (аттрактор Ai) является связным и, если dim (Ai U Ri) < (n — 2), mo многообразия Vi, Vi связны и отображение г) г: TiiiVi) —> 7L является эпиморфизмом..

Тем самым, для выбранной нумерации периодических орбит диффеоморфизма /? MS (Mn) мы предъявляем kf — 1 различных представлений диффеоморфизма / в виде «источник-сток» ..

Для q = 0,., п обозначим через kq — число всех периодических орбит с индексом Морса, меньшим или равным q. Для j = fco + 1, • • •, knположим W?{ = pt (W] П Vi) и Щ = pt (Wf П V{)..

Как будет ясно из дальнейшего, характеристические пространства играют важную роль при решении задачи топологической классификации диффеоморфизмов Морса-Смейла. В частности, они являются топологическими инвариантами в следующем смысле. Пусть диффеоморфизмы Морса-Смейла /, /': Мп —у Мп топологически сопряжены посредством гомеоморфизма h. Тогда выбранная нумерация периодических орбит диффеоморфизма / индуцирует нумерацию периодических орбит диффеоморфизма f следующим образом 0 = h (Oi) и имеет место следующий факт..

Утверждение 1.31. Индуцированная сопрягающим гомеоморфизмом h нумерация периодических орбит диффеоморфизма f является динамической и для любого г = 1, — 1 существует гомеоморфизм hi '¦ V{ —>¦ V (со следующими свойствами:.

V ^.(M) = rf{[hiic)]) для любой замкнутой кривой с Е V^-.

2) = и hiiWl= W'% для любого j = k0 + 1,., кп. ъ.

Принципиальное отличие диффеоморфизмов Морса-Смейла, заданных на трехмерных многообразиях по сравнению с аналогичными потоками или диффеоморфизмами на двумерных многообразиях обусловлено возможностью дикого вложения сепаратрис седловых точек. Во второй главе сформулированы и доказаны критерии ручного вложения как одномерных так и двумерных сепаратрис. Оказывается, что тип вложения одномерной (двумерной) сепаратрисы полностью определяется классом эквивалентности соответствующего ей узла (тора) в многообразии S2xS1. Кроме того, устанавливается, что необходимым условием включения градиентно-подобного диффеоморфизма в топологический поток на 3-многообразии является ручная вложенность пучков одномерных сепаратрис. Приводятся примеры диких пучков и конструкция градиентно-подобного каскада Морса-Смейла на сфере S3 по любому пучку одномерных дуг, инвариантному относительно канонического сжатия..

Пусть V — замкнутое гладкое ориентируемое 3-многообразие, фундаментальная группа которого допускает нетривиальный гомоморфизм Vy '¦ ^liY) Далее под обозначением (V, rj) будем понимать многообразие V, оснащенное гомоморфизмом г/ ..

Определение 2.1. Многообразия и (V7, г}^,) назовем эквивалентными, если существует гомеоморфизм ф: V —У V' такой, что.

Ф* = %.

Определение 2.2. Гладкие подмногообразия, а С (V, rjv) и а' С (V', ri) назовем эквивалентными, если существует гомеоморфизм ф: V —> V', осуществляющий эквивалентность многообразий (V", гу^) и (У',^,) и переводящий, а в а'..

Определение 2.3. Гладкое подмногообразие, а С (V", 77^) назовем гц-существенным, если 77^(^(71−1(а))) ф 0, где ih: а —>¦ V — отображение включения..

Проиллюстрируем данные определения на примере многообразия § 2 х.

S1..

Представим многообразие S2 х S1 как пространство орбит (Е3 0)/а1+1. Согласно теореме 1.1, проекция: R3 О —> S2 х S1 является накрытием и индуцирует эпиморфизм 77^ 1: 7Ti (§ 2 х S1) —> Ъ..

Положим % = (Oacf), А0 = (Oxix2)), где Ох. Тогда .