Распознавание сигналов и анализ нестационарных точечных процессов с использованием вейвлет-преобразования

К числу классических методов исследования структуры сигналов относится спектральный анализ, который находит многочисленные приложения в самых разных областях естествознания [1−5]. В отличие от вероятностных методов, описывающих свойства случайных процессов во временной области, он позволяет охарактеризовать частотный состав изучаемого сигнала. В качестве математической основы данного анализа традиционно служит преобразование Фурье, которое играет важную роль не только при вычислении спектров мощности, но и как необходимый промежуточный этап при расчете преобразования Гильберта, при проведении цифровой фильтрации экспериментальных данных, при определении передаточных и ковариационных функций и т. д.

Фурье-преобразование позволяет выявлять гармонические составляющие сигналас этой целью применяются бесконечно длинные осциллирующие функции sin и cos. Сначала происходит «наложение» такой функции на исследуемую реализацию л:(/) и вычисляется корреляция между ними. Затем частота гармонической функции меняется, и процесс выявления линейной зависимости между гармонической функцией и временным рядом повторяется.

Следует отметить, что в качестве базисных функций для представления сигнала могут использоваться не только sin и cos, но и другие функции, например полиномы Лежандра и Чебышева, функции Лагерра и Эрмита. Однако на практике такие функции не применялись как из-за трудностей в интерпретации результатов, так и из-за вычислительных сложностей. В течение длительного времени также не находили широкого применения функции «прямоугольной волны» Хаара, Радемахера, Уолша. Теоретические исследования ортогональных базисных систем привели к созданию в 70-х годах теории обобщенного спектрального анализа [6]. Данная теория позволила по новому оценить возможности Фурье-преобразования и его практического применения, к тому же создала основу для синтеза новых базисных систем, подходящих для конкретной практической задачи.

С начала 80-х годов активно развивается теория локализованных базисных функций — «вейвлетов» (от английского «wavelet» — маленькая волна). По аналогии с Фурье-преобразованием, вейвлет-преобразование состоит в вычислении корреляций между анализируемым временным рядом и базисной функцией преобразования, которая является «солитоноподобным» колебанием, обладающим рядом характерных свойств, в частности, локализацией и по временной оси, и в частотной области. В рамках теории вейвлетов вместо понятия частоты используется понятие масштаба, а чтобы была возможность перекрыть короткими функциями всю временную ось, рассматривается их сдвиг по времени. В отличие от классического спектрального анализа, вейвлет-преобразование дает двумерную развертку одномерного процесса, при этом масштаб (частота) и время рассматриваются как независимые переменные. Использование быстро спадающих солитоноподобных функций позволяет проводить локализованный анализ структуры сигналов, что особенно важно при изучении процессов с меняющимися во времени характеристиками.

Первое упоминание о вейвлетах появилось в работах Хаара [7] (правда тогда еще не существовало такого термина, он появился значительно позднее). Вейвлет Хаара — это короткое прямоугольное колебание на интервале [0,1]. Недостатком этой функции является негладкость. Тем не менее, еще в 30-х годах XX века, исследуя некоторые детали броуновского движения, Пол Левий отмечал преимущества использования разложения по базису Хаара по сравнению со стандартным Фурье-преобразованием. Само понятие «вейвлет» солитоноподобные функции обрели в работах Дж. Морле и А. Гроссмана в начале 80-х годов [8,9]. С тех пор началось активное развитие теории вейвлетов в работах Добеши, Малла, Мейера и многих других [10−13].

Первоначально вейвлет-анализ воспринимался как метод исследования структуры нестационарных процессов, которые встречаются в динамике самых разных систем. Не случайно он был предложен в работе [14] для анализа геофизических данных. Но с течением времени стало ясно, что этот новый инструмент имеет значительно более широкую область применения. Особенно отчетливо возможности вейвлетов стали осознаваться после появления теории многомасштабного (или, используя терминологию некоторых авторов, кратномасштабного) анализа, которая была разработана Мейером [13] и Малла [10] и использовала идеологию последовательного «огрубления» информации, содержащейся в исследуемом сигнале. После появления этой теории за вейвлет-анализом прочно закрепилось название метода «математического микроскопа», который позволяет проводить детальное исследования структуры сигналов на разных масштабах наблюдения. Стало понятно, что вейвлет-анализ представляет собой нечто гораздо большее чем просто альтернативный вариант спектрального анализа [15−25]. В качестве примера перечислим лишь несколько направлений, где привлечение теории вейвлетов позволило добиться значительного прогресса:

1) Исследование npoijeccoe с меняющимися во времени характеристиками. Вейвлеты позволяют идентифицировать мгновенные частоты, мгновенные амплитуды и мгновенные фазы колебательных процессов даже в условиях сильной нестационарности.

2) Сжатие данных. Вейвлеты широко используются для сжатия как графической информации (формат JPEG), так и цифрового видео (формат MPEG4).

3) Распознавание образов. На основе вейвлет-преобразования могут успешно решаться задачи автоматического распознавания различных образов при наличии помех, например, сигналов сложной формы.

4) Компьютерная графика. Вейвлеты обеспечивают возможность редактирования изображений с переменным разрешением (в частности, в случае ЗБ-графики), позволяют осуществлять поклеточное представление поверхностей по контуру и т. д.

5) Цифровая фильтрация. Если экспериментальные данные содержат локализованные особенности (например, случайные выбросы), то фильтрация с применением преобразования Фурье становится не слишком эффективной — информация о сбойных точках будет содержаться во всех коэффициентах. Вейвлеты позволяют локализовать окрестности сбойных точек и провести более гибкую процедуру очистки экспериментальных данных. На самом деле приведенный список можно продолжить, упомянув, например, что вейвлеты помогают решать некоторые дифференциальные уравнения в физике [26], определять временные задержки при распространении сигналов, исследовать корреляционные свойства случайных процессов по сигналам малой длительности [27] и т. д. Практические применения теории вейвлетов стали настолько многочисленными, что их сложно даже просто перечислить. В качестве примера отметим, что поисковые системы в Интернет (такие как Google) при формировании запроса слова «wavelet» выдают порядка 3 миллиона ссылок. За последние десятилетия появились специализированные научные журналы, целиком посвященные вейвлетам и многомасштабному анализу.

Одним из приложений теории вейвлетов является очень обширный круг задач, связанных с исследованием процессов кодирования информации в нейронных сетях. Соответствующая проблематика носит междисциплинарный характер и требует привлечения, в том числе, радиофизических подходов и методов. В частности, при изучении динамики нейронных ансамблей возникает необходимость решать задачи автоматического распознавания сигналов при наличии помех — регистрируемый в эксперименте процесс представляет собой последовательность электрических импульсов, включающих сигналы разных нейронов. Для того, чтобы проводить изучение генерируемого нейронами информационного кода, требуется вначале идентифицировать импульсы, которые генерируются каждым отдельным элементом рассматриваемого ансамбля. Наличие индивидуальных особенностей формы сигнала различных нейронов делает возможным решение этой задачи, однако присутствие сильных помех (связанных, например, с сигналами удаленных нейронов) приводит к значительным сложностям на практике и к необходимости разработки новых эффективных методов автоматического распознавания сигналов. Отмеченная проблема представляет собой необходимый предварительный этап исследования динамики нейронных ансамблей. После ее решения возникает следующая проблема — изучение структуры точечного процесса, представляющего собой последовательность времен, соответствующих моментам генерации импульсов каждым нейроном. Эта последовательность представляет собой генерируемый код, несущий информацию об особенностях воздействующего сигнала — именно с помощью точечных процессов нейронные сети кодируют информацию об окружающем мире. Сложность решения данной проблемы определяется тем обстоятельством, что регистрируемые на практике сигналы нейронной активности являются нестационарными — при неизменном воздействии отклик с течением времени сильно меняется (что связано с процессами адаптации нейронной сети). Именно это обстоятельство чрезвычайно усложняет изучение процессов кодирования информации: как соотнести отклик сети с воздействующим сигналом, если последний будет неизменным, а первый меняется? Таким образом, чтобы изучать динамику нейронных сетей, необходимо:

1) решать задачи автоматического распознавания близких по форме сигналов при наличии помех;

2) анализировать структуру нестационарных точечных процессов.

Фактически, мы имеем дело с радиофизическими задачами, которые требуют применения (и развития) специальных методов анализа структуры сигналов. Заметим, что аналогичные задачи возникают не только при изучении нейронных сетей. Первая из них встречается в радиолокации (распознавание движущейся группы объектов), при приеме слабых голосовых сообщений в условиях сильных помех (распознавание отдельных звуков и слов) и т. д. Необходимость анализировать точечные процессы возникает в статистической радиофизике (например, при изучении пуассоновских процессов), при рассмотрении сигма-дельта модуляции и т. п.

Побудительный мотив исследований, проводившихся в рамках данной диссертационной работы, был связан с изучением процессов кодирования информации нейронными сетями, однако необходимо подчеркнуть, что методы анализа структуры сигналов, предлагаемые в диссертационной работе, имеют значительно более широкую область потенциального применения. Именно по этой причине в работе в основном будет использоваться достаточно общая терминология сигналов типа одиночного импульса (вместо привычной для нейронных сетей терминологии спайков).

Отметим, что существующий в настоящее время арсенал средств численного анализа далеко не всегда позволяет эффективно решать многие практические задачи, и порой возникает необходимость модификации методов для более успешного решения возникающих проблем, с учетом специфики той или иной задачи и особенностей анализируемых сигналов. Задача автоматического распознавания является весьма показательным примером. Несмотря на обилие методик (в основном простых, основанных на расчете таких характеристик, как амплитуда сигнала, его длительность, анализ локальных экстремумов и т. п.) [28−30], выясняется, что к числу эффективных подходов можно отнести лишь крайне небольшое их число. Так, в диссертации [31] отмечается, что в настоящее время хорошо зарекомендовали себя лишь 2 метода — анализ главных компонент (АГК) и метод распознавания на основе коэффициентов вейвлет-преобразования, так называемый «вейвлетный классификатор импульсов» (ВКИ). Более того, и у этих методов существует ряд принципиальных недостатков, для устранения которых можно применять комбинированные подходы к решению задач идентификации сигналов [106].

При этом стоит отметить, что если недостатки метода АГК устранить крайне сложно (для идентификации всегда используются масштабные коэффициенты первых главных компонент [28]), то недостатки вейвлетных методов распознавания образов наоборот связаны с тем, что характеристик для идентификации существует очень много, и непонятно, по каким критериям их следует выбирать. По сути это означает, что вейвлетные методы идентификации нужно еще «доработать», сохранив их достоинства и, по возможности, устранив явные недостатки. В таком случае мы получим более эффективные инструменты решения задач распознавания образов.

Важность развития специальных методов, позволяющих эффективно решать задачи идентификации близких по форме зашумленных сигналов, а также исследовать особенности нестационарных точечных процессов определяет актуальность работы.

В настоящее время многие исследователи рассматривают вейвлет-анализ в качестве замены классических методов обработки экспериментальных данных. Однако, это не вполне справедливо, и более предпочтительным и перспективным представляется воспринимать теорию вейвлетов как дополнение и развитие имеющегося арсенала средств обработки временных рядов. Так, в работах [106, 116] было показано, что совместное применение методов АГК и ВКИ в рамках комбинированного алгоритма автоматического распознавания сигналов импульсного типа обеспечивает снижение ошибки автоматического распознавания близких по форме сигналов при наличии помех, причем, комбинированный алгоритм оказывается эффективнее, чем использование этих методов по отдельности.

Другим вариантом успешного решения задач идентификации сигналов может служить совместное применение вейвлетов и искусственных нейронных сетей. Такой вариант сочетания двух разных подходов также позволяет продвинуться по пути уменьшения их недостатков и расширения возможностей (в рамках комбинированного способа распознавания сигналов).

Целью диссертационной работы является развитие методов автоматического распознавания сигналов при наличии помех и анализ структуры нестационарных точечных процессов с использованием вейвлет-преобразования.

Для достижения указанной цели необходимо решить следующие основные задачи:

1. Провести сравнительный анализ методов автоматического распознавания импульсных сигналов, предложить новую методику идентификации одиночных импульсов на основе вейвлет-преобразования, учитывающую зависимость ошибки от частотного диапазона присутствующих флуктуаций.

2. Изучить возможность решения задачи автоматической идентификации сигналов импульсного типа на основе комбинированного алгоритма, предусматривающего совместное применение техники искусственных нейронных сетей как известного метода распознавания образов и вейвлет-анализа, позволяющего эффективно решать проблему «обучения» нейронной сети.

3. Исследовать возможности применения непрерывного вейвлет-преобразования при решении задач анализа нестационарных точечных процессов на примере генерируемого нейронами информационного кода, представляющего собой отклик на периодическое внешнее воздействие.

Научная новизна работы состоит в следующем:

1. Предложен новый параметрический метод автоматического распознавания сигналов типа последовательности одиночных импульсов (параметрический вейвлет-анализ с адаптивной фильтрацией). Показано, что предлагаемый подход способен существенно уменьшить ошибку идентификации сигналов по сравнению со стандартными алгоритмами, такими как анализ главных компонент и обычный вейвлет-анализ.

2. Предложен новый метод решения задачи автоматического распознавания формы сигналов, основанный на совместном применении вейвлет-преобразования и техники искусственных нейронных сетей. На тестовых примерах и в ходе анализа экспериментальных данных показана эффективность данного метода при наличии помех.

3. Впервые рассмотрена задача исследования фильтрационных свойств элементов нейронных ансамблей в условиях нестационарного отклика на периодическое внешнее воздействие, основанного на непрерывном вейвлет-преобразовании. Показано, что нейроны могут выполнять функции полосно-пропуекающих фильтров, демонстрируя наиболее стабильный отклик на определенной частоте воздействующего сигнала.

Научно-практическое значение результатов работы:

1. Предложенный метод, заключающийся в совместной использовании дискретного вейвлет-анализа и техники искусственных нейронных сетей может быть распространен для применения в решении задач распознавания сигналов различной формы при наличии сильных помех.

2. Разработанные методики уменьшения ошибки автоматического распознавания сигналов создают основу для создания прикладных программ предварительной обработки экспериментальных данных для специалистов, занимающихся проблемами исследования процессов кодирования информации нейронными ансамблями. 3. Результаты диссертации могут применяться в учебном процессе. Часть результатов уже используется в рамках лабораторной работы специализированного практикума «Методы анализа сложных сигналов» для студентов физического факультета Саратовского государственного университета.

Достоверность научных выводов работы базируется на согласованности с существующими теоретическими представлениями, на соответствии результатов численных экспериментов и теоретических исследований и на устойчивости применяемых методов исследования структуры сигналов к малым изменениям параметров численной схемы.

Основные положения и результаты, выносимые на защиту: Положение 1.

Совместное применение дискретного вейвлет-преобразования и метода искусственных нейронных сетей позволяет решать задачи автоматической идентификации сигналов типа последовательности одиночных импульсов при наличии помех. Использование коэффициентов вейвлет-преобразования в качестве обучающей выборки для нейронной сети и дальнейшее проведение сетью распознавания сигналов снижает зависимость ошибки идентификации от статистики фонового шума по сравнению со стандартным методом решения данной задачи на основе вейвлет-анализа. Положение 2.

Анализ флуктуаций мгновенной частоты отклика на внешнее воздействие в виде периодической последовательности импульсов при изучении фильтрационных свойств пороговых систем позволяет диагностировать наличие эффектов полосовой и низкочастотной фильтрации воздействующих сигналов в условиях коротких, нестационарных откликов. Результат 1.

Предложен метод автоматического распознавания сигналов типа последовательности одиночных импульсов, предусматривающий подстройку характеристик фильтра под индивидуальные особенности формы исследуемых сигналов в качестве составной части процедуры выбора характеристик для идентификации близких по форме импульсов. Результат 2.

Предложен метод исследования стабильности отклика пороговой системы на внешнее воздействие, основанный на непрерывном вейвлет-преобразовании и предусматривающий расчет мгновенной частоты отклика по точечному процессу.

Апробация работы и публикации. Материалы диссертации были представлены на следующих научных конференциях: «Хаотические автоколебания и образование структур» (ХАОС, Саратов, 2007), «Complex Dynamics and Fluctuations in Biomedical Photonics — III, IV, V, VI» (Сан-Хосе, США, 2006, 2007, 2008, 2009), «Forum of Federation of European Neurosciences Societies» (FENS, Швейцария, Вилларс, 2008), «Нелинейные дни для молодых» (Саратов, 2005, 2006, 2007, 2008), «Методы компьютерной диагностики в биологии и медицине- 2008» (Саратов, 2008).

Результаты неоднократно обсуждались на научных семинарах кафедры радиофизики и нелинейной динамики Саратовского государственного университета, научно-образовательного центра REC-006 «Нелинейная динамика и биофизика» (Саратовский государственный университет), центра динамики сложных систем Потсдамского университета (Германия, Потсдам), центра биофизики и сложных систем Датского технического университета (Люнгбю, Дания), лаборатории нейродинамики университета Комплютенсе (Испания, Мадрид).

По теме диссертации опубликовано 15 работ: 5 статей в журналах (из них 3 статьи в журналах, рекомендованных ВАК РФ для опубликования результатов диссертаций), 10 статей в сборниках трудов конференций.

Результаты работы использованы при выполнении грантов: CRDF и Министерства образования и науки РФ «Научно-образовательный центр „Нелинейная динамика и биофизика“ (НОЦ REC-006)» (2005;2007), Министерства образования и науки РФ «Развитие научного потенциала высшей школы» (2006;2008), госконтракта с ФЦНТП № 02.442.11.7181.

Личный вклад автора. Основные результаты диссертации получены лично автором. В совместных работах автором проводились численные исследования и подготовка пакетов прикладных программ, реализующих разрабатываемые методы анализа структуры сигналов. Результаты второй главы полностью получены автором (включая идею предложенного метода, его практическую реализацию и численные исследования). Формулировка задач, решаемых в первой и третьей главах, а также объяснение и интерпретация полученных результатов проведены совместно с научным руководителем и соавторами.

Структура и объем диссертации

.

Диссертация состоит из введения, трех глав, заключения и списка цитированной литературы. В ней содержится 106 страниц текста, 32 страницы рисунков, библиография из 120 наименований на 13 страницах. Общий объем диссертации 138 страниц.

Основные результаты диссертационной работы заключаются в следующем:

1. Показано, что уменьшение ошибки идентификации в рамках вейвлетного метода автоматического распознавания сигналов достигается путем включения процедуры предварительной фильтрации с индивидуальной подстройкой характеристик фильтра в качестве составной части методики выбора характеристик для идентификации близких по форме импульсов.

2. Предложен параметрический метод автоматического распознавания сигналов типа одиночного импульса (параметрический вейвлет-анализ с адаптивной фильтрацией), предполагающий подстройку характеристик фильтра под индивидуальные особенности формы исследуемых сигналов.

3. Предложен метод решения задачи автоматического распознавания формы импульсных сигналов, основанный на совместном применении вейвлет-преобразования и искусственных нейронных сетей. Показано, что коэффициенты вейвлет-преобразования, содержащие основную информацию об исследуемом сигнале, целесообразно применять в качестве обучающей выборки для нейронной сети с целью дальнейшего проведения сетью идентификации данных.

4. Подход, основанный на совместном применении вейвлет-анализа и нейронных сетей, может быть распространен для применения в решении задач распознавания сигналов различной формы при наличии сильных помех.

5. Метод исследования стабильности отклика пороговой системы на внешнее воздействие в виде периодической последовательности импульсов позволяет осуществлять классификацию нейронов с точки зрения их фильтрационных свойств, диагностируя наличие эффектов полосовой и низкочастотной фильтрации воздействующих сигналов в условиях коротких, нестационарных откликов на подаваемое воздействие.

Заключение

.