Алгоритмическое и программное обеспечение мультипроцессорных систем для распознавания графических образов на основе нейросетевого подхода

Актуальность работы.

В России проводится большая работа по проектированию суперкомпьютеров, средств распараллеливания вычислительных процессов и созданию прикладных программных систем на их основе. С созданием отечественных мультипроцессорных систем появилась возможность построения программных комплексов для решения различных сложных задач требующих больших временных ресурсов, таких как: расчеты обтеканий тел, моделирование процессов горения, расчет движения и столкновения многих объектов и т. д. Одна из актуальных задач алгоритмического обеспечения мультипроцессорных систем связана с обработкой потоков данных, доставляемых из космоса средствами технического зрения (СТЗ) с целью обнаружения заданных объектов (летательных аппаратов, регионов, сооружений и т. д.). Под потоком понимается последовательность снимков, преобразованных к цифровой форме. В силу высокой сложности решение задачи целесообразно разбить на ряд последовательных этапов (предварительная обработка снимка, выделение объектов, получение интегральных информативных параметров, кластеризация, распознавание, определение местоположения и ориентации), каждый из которых имеет самостоятельное значение, но может быть использован, при необходимости, как составная часть общего алгоритма. При этом существенную в вычислительном отношении долю составляют средства интеллектуальной обработки графической информации, которые целесообразно реализовать на мультипроцессорной системе. Большой вклад в развитие теории распознавания образов внесли российские ученые: Ю. И. Журавлев, Э. М. Браверман, Л. И. Розоноэр, М. А. Айзерман, В. А. Сойфер, B.JI. Матросов, В. Н. Вапник, А. Я. Червоненкис, А. Н. Горбань, М. Ю. Хачай, Н. Г Загоруйко и др. Известны различные методы распознавания образов: детерминистские, структурные, статистические. В последнее время большое распространение получили методы, основанные на математическом аппарате искусственных нейронных сетей (ИНС). Одно из направлений обработки изображений связано с ИНС, которые эффективно фильтруют данные (сеть Хопфилда), распознают графические образы (сеть Хемминга, многослойный персептрон), кластеризуют объекты (сеть Кохонена), а также выполняют другие немаловажные функции. Существенный вклад в развитие теории нейронных сетей и нейрокомпьютеров внесли А. Н. Горбань, А. И. Галушкин, Е. М. Миркес, В. Г. Редько, В. Г. Яхно и др.

Реализация программного обеспечения может осуществляться в виде пакетов прикладных программ, библиотек прикладных или системных программных средств. На данный момент существует множество программных пакетов, с помощью которых можно проектировать, настраивать и применять ИНС для решения различных задач, например, Neurooffice, Neuro Emulator, BrainMaker, Neural 10, Neural Planner, Mathlab и др. Специально для обработки данных ДЗЗ разработаны современные программные комплексы: ENVI (Environment for Visualizing Images), ER Mapper, ERDAS Imagine. Кроме этого имеются библиотеки для обработки и распознавания изображений, такие как OpenCV, LTI, VXL и др. Однако перечисленные нейропакеты и программные комплексы не рассчитаны на потоковую обработку снимков и на использование параллельных вычислителей. Решение же практических задач требует быстрого анализа последовательности изображений большого формата, доставляемых СТЗ. С появлением отечественных мультипроцессорных систем стала актуальной задача построения программных систем, ориентированных на параллельную обработку снимков с целью ускорения процессов выделения и распознавания требуемых объектов.

Как показывают проведенные экспериментальные исследования, и накопленный опыт, возможности ИНС при работе с реальными космическими снимками весьма ограничены и раскрываются только в сочетании с другими сопутствующими алгоритмами. Для успешного функционирования ИНС необходимо выполнить предварительные преобразования изображений, направленные на выделения информативных признаков. Среди таких преобразований можно отметить особые классы сегментации, выделения и нормализации локальных объектов. Для выделения объектов часто используют метод сканирующего окна, который предполагает знание размеров и ориентации объекта, что достаточно трудоемко для объектов имеющих случайное местоположение, различную размерность и масштаб. Таким образом, необходимы новые эффективные алгоритмы и программные средства обработки космических снимков, хорошо сочетающиеся с нейросетевыми методами распознавания и суперкомпьютерными технологиями параллельных вычислений.

Предлагаемое в рамках настоящей работы алгоритмическое и программное обеспечение основывается на разработке параллельных алгоритмов ИНС и предварительной обработки изображений, при этом учитываются возможности современных технологий параллельного программирования и аппаратных средств отечественного суперкомпьютера типа «СКИФ». Задача программного обеспечения заключается в предоставлении пользователю возможностей компоновки программных компонентов ИНС, средств обработки изображений и их интеграции для решения прикладных задач распознавания графических образов, как на ПЭВМ, так и на суперкомпьютере. Программный комплекс содержит удобные, понятные пользователю и одновременно с этим, мощные средства создания задач распознавания графических образов.

В настоящей диссертационной работе предлагаются новые подходы к улучшению качества работы ИНС, основанные на процедурах построения гистограмм, извлечения из них информативных параметров и нормализации объектов, способствующих решению задач кластеризации и распознавания с применением кластерных установок. Работа выполнена в рамках следующих проектов ИПС РАН:

• НИР «Перспективные алгоритмы и структуры вычислительных устройств для задач обработки изображений, распознавания образов и управления движением» .

• проект РФФИ № 06−07−89 083а «Разработка новых методов непрерывной идентификации и прогнозирования состояний динамических объектов на основе интеллектуального анализа данных».

• проект РФФИ № 07−07- 12 029;офи «Создание интеллектуальной технологии для анализа данных и распознавания образов».

• программа Союзного государства «Развитие и внедрение в государствах-участниках Союзного государства наукоёмких компьютерных технологий на базе мультипроцессорных вычислительных систем», шифр «ТРИАДА», проект ПР5 «Разработка новых алгоритмов, принципов создания систем обработки изображений и другой информации от космических средств наблюдения, ориентированных на применение многопроцессорных вычислительных кластеров повышенной вычислительной мощности». Цель работы.

Целью диссертационной работы является:

1) разработка алгоритмического и программного обеспечения как суперкомпыотерной технологии, направленной на повышение скорости и качества работы искусственных нейронных сетей при решении задач обнаружения и распознавания локальных объектов с использованием кластерных вычислительных систем;

2) создание на этой основе прикладного программного комплекса автоматического распознавания графических объектов на космических снимках.

Для достижения поставленной цели решаются следующие задачи:

1. Разработка метода автоматического выделения объектов с использованием адаптивного преобразования цветных космических снимков с последующим анализом гистограмм или выделением границ;

2. Разработка методов автоматической «сборки» и нормализации выделенных локальных объектов;

3. Исследование в составе ИНС Кохонена метрик Махаланобиса и Евклида-Махаланобиса, распараллеливание алгоритмов её функционирования;

4. Разработка программного обеспечения мультипроцессорных систем в виде программного комплекса для решения задач выделения и распознавания объектов на космических снимках на основе нейросетевого подхода.

Методы исследования.

В работе для проведения исследований были использованы математические методы обработки изображений и распознавания образов, математический аппарат искусственных нейронных сетей, методы теории алгоритмов, машинной графики, концепции и методы параллельного программирования.

Научная новизна.

1. Разработаны новые методы автоматического выделения и нормализации объектов, расширяющие возможности нейронной сети Кохонена до неокогнитрона.

2. Разработаны и исследованы методы ускорения работы нейронной сети Кохонена с учетом технологий параллельного программирования и аппаратных средств отечественного суперкомпьютера кластерного типа, позволяющие масштабировать время решения задач кластеризации и распознавания.

3. Впервые применены и исследованы в составе ИНС Кохонена метрики Махаланобиса и Евклида-Махаланобиса, которые, как показывают эксперименты, замедляют работу сети, но повышают точность кластеризации при обработке космических снимков.

4. Разработан и реализован программный комплекс автоматического распознавания графических объектов, отличающийся от известных систем наличием гибкой моделирующей среды, настраиваемой на решение задач обработки космических снимков с использованием кластерных вычислительных устройств.

Практическая значимость работы.

Практическая значимость результатов работы определяется их применимостью для решения задач обнаружения объектов на космических снимках, что отражено в научных отчетах выполненных актуальных исследований. Разработанная в настоящей работе интеллектуальная технология и программный комплекс на ее основе предоставляют пользователю возможности интеграции имеющихся модулей в определенную технологическую цепочку для решения задач распознавания графических образов с применением суперкомпьютеров семейства «СКИФ». Отдельные алгоритмы и инструментальные средства, в том числе графический интерфейс, алгоритмы нормализации и выделения объектов могут иметь самостоятельное значение и использоваться в других системах анализа изображений. Возможные области применения программного комплекса: обработка потоков космических снимков, задачи мониторинга состояния сложных технических систем, использование в качестве компоненты робототехнических систем.

Апробация работы.

Основные результаты работы докладывались и обсуждались на следующих конференциях и семинарах:

• международная научно-практическая конференция «Исследование, разработка и применение высоких технологий в промышленности» (Санкт-Петербург, 2006);

• 9-я международная конференция «Распознавание образов и анализ изображений: новые информационные технологии (РОАИ-9−2008, Нижний Новгород, 2008);

• 8-я международная конференция «Системы проектирования, технологической подготовки производства и управления этапами жизненного цикла промышленного продукта (CAD/CAM/PDM-2008, Москва, 2008);

• семинары Исследовательского центра искусственного интеллекта ИПС РАН (Переславль-Залесский, 2006;2008).

Публикации в рецензируемых журналах:

1) Виноградов А. Н., Калугин Ф. В., Недев М. Д., Погодин С. В., Талалаев А. А., Тищенко И. П., Фраленко В. П., Хачумов В. М. Выделение и распознавание локальных объектов на аэрокосмических снимках. — Авиакосмическое приборостроение, 2007, № 9, с.39−45.

2) Тищенко И. П. Параллельная кластеризация цветных изображений на основе нейронной сети Кохонена с использованием суперкомпьютера семейства «СКИФ». — Нейрокомпьютеры: разработка, применение, 2008, № 9, с.30−34.

Публикации в журналах:

1) Талалаев А. А., Тищенко И. П., Фраленко В. П., Хачумов В. М. Анализ эффективности искусственных нейронных сетей. — Искусственный интеллект и принятие решений, 2008, № 2, с.24−33.

2) Талалаев А. А., Тищенко И. П., Хачумов М. В. Выделение и кластеризация текстовых и графических элементов на полутоновых снимках. — Искусственный интеллект и принятие решений, 2008, № 3, с.72−84.

Публикации в материалах научных мероприятий:

1) Виноградов А. Н., Коданев И. В., Талалаев А. А., Тищенко И. П., Хачумов В. М., Щербаков А. В. Библиотека нейронных сетей для распознавания графических образов на кластерном вычислительном устройстве. — Сб. трудов 2-ой Международной научн.-практической конференции «Исследование, разработка и применение высоких технологий в промышленности» (07−09.02.2006, Санкт-Петербург). — СПб.: Издат.-во Политехнического университета, 2006, с.8−10.

2) Talalaev А.А., Tishchenko I.P., Fralenko V.P., Khachumov V.M. Neural methods in aerospace systems. — 9th International Conference «Pattern Recognition and image analysis: New Information Technologies» (PRIA-9−2008): Conference proceedings (Nizhni Novgorod, 14−20.09.2008). — H. Новгород: Издат.-во «Диалог Культур», т. 2, 2008, с. 193−196.

3) Тищенко И. П. Графический интерфейс ПС ИНС. — Тезисы докладов VIII международной конференции «Системы проектирования, технологической подготовки производства и управления этапами жизненного цикла промышленного продукта» (CAD/CAM/PDM-2008, Москва, ИПУ РАН, 21−23 октября 2008). — Материалы 8-й международной конференции. — М.: Институт проблем управления РАН, 2008, с.16−19.

Структура и объем работы.

Диссертационная работа состоит из введения, четырех глав, заключения, списка литературы и двух приложений. Общий объем основного текста диссертации 104 страницы, список литературы состоит из 75 наименований. В работе содержатся 49 рисунков и 12 таблиц.

Основные выводы.

1. Разработаны специальные методы кластеризации выделенных объектов на основе сети Кохонена, использующие различные метрики. В том числе впервые применены метрики Махаланобиса и Евклида Махаланобиса.

2. Исследованы вопросы применимости метрик Махаланобиса и Евклида-Махаланобиса в составе нейронной сети Кохонена. Показано, что использование данных метрик дает некоторое улучшение по точности кластеризации объектов, выделенных на космических снимках, но существенно уступает по быстродействию метрике Евклида.

3. Разработаны и исследованы две схемы оптимизации параллельного выполнения нейросетевого алгоритма Кохонена с метрикой Евклида на кластерной установке СКИФ. Проведенные экспериментальные исследования разработанных параллельных алгоритмов на суперкомпьютере показали наличие ускорения вычислений с ростом числа процессов (масштабируемость), что определяет перспективность предложенного подхода.

4. Интеграция алгоритма определения ориентации объекта с нейронной сетью позволяет фактически получать ИНС когнитронного типа без усложнения типовой структуры сети Кохонена при решении задач кластеризации и распознавания.

ГЛАВА 4. Программное обеспечение кластерной установки для распознавания графических образов.

В данной главе дано описание программного обеспечения кластерной установки в виде прикладного программного комплекса обработки космических снимков.

4.1. Требования к программному комплексу.

Построение прикладной программной системы обработки космических снимков является одной из важнейших задач обработки и распознавания космических изображений, доставляемых средствами технического зрения. Такая система должна отвечать следующим требованиям:

1) Потоковая и параллельная обработка данных.

2) Обработка снимков различного типа и качества.

3) Наличие дружественного пользовательского интерфейса.

Под потоковой обработкой данных понимается возможность системы обрабатывать большие объемы снимков космического назначения. Кроме потоковой обработки необходима параллельная обработка снимков.

4.2. Архитектура программного комплекса.

Основной особенностью архитектуры системы явилось обеспечение гибкости и расширяемости. На рис. 4.1. показана общая архитектура программного комплекса, которая в целом наследует архитектуру программной системы «ПС ИНС» (рис. 1.7, рис 1.8), разработанной силами сотрудников лаборатории интеллектуального управления Института программных систем РАН, в рамках проекта ПР5 Программы Союзного государства «Триада» [52,61].

Модуль системы 1.

Модуль системы 2.

Модуль системы q.

Графический интерфейс.

Модуль ГИ 1.

Модуль ГИ 2.

Модуль ГИ п.

Рисунок 4.1. Структура программного комплекса.

Основу программного комплекса составляют универсальная моделирующая среда (УМС), графический интерфейс, модули параллельных реализаций ИНС, фильтров и других алгоритмов. УМС обеспечивает связь модулей в процессе выполнения задачи. С помощью графического интерфейса формируется образ задачи, который записывается в виде XML-файла и может быть сохранен и/или выполнен на КВУ. Основные назначения УМС — загрузка назначенных модулей задачи, выполнение цикла распознавания и обеспечение отказоустойчивости. В том числе: чтение xml-файлов с описанием решения задачи и каждого из требуемых модулейинициализация каналов передачи данныхзапуск системы и ожидание завершения работы системы.

Гибкость системы обеспечивается использованием механизмов каналов и схем описания задачи. У каждого конкретного модуля есть набор входов и выходов (каналов), по которым он получает данные на обработку и отсылает обработанные результаты. Механизм схемы описания задачи позволяет задать произвольный набор модулей и связей между ними. Выбранная архитектура обеспечивает расширяемость системы, т.к. допускает реализацию и включение новых модулей в различные схемы задачи пользователя. Модули системы реализуются в виде подгружаемых библиотек и могут содержать как последовательную, так и параллельную реализацию алгоритма. В первом случае параллелизм обеспечивает УМС (разделяя все обрабатываемые данные между доступными узлами кластера), во втором, стратегию параллельной обработки определяет программист, реализующий модуль. Помимо параллелизма используются возможности конвейерной обработки потока данных. Пакеты данных от одного модуля передаются следующему в цепочке (возможно, на другой узел кластера) после чего, сразу же, запускается их обработка.

Шаблон модулей.

В соответствии с требованиями архитектуры все алгоритмы — модули должны быть оформлены определенным стандартным образом. У каждого модуля есть ряд характеристик, определяющих его положение в системе: параллельная или последовательная реализация алгоритма, число и тип каналов для пересылки данных, настройки модуля «по умолчанию» и специально для текущей задачи, и т. д.

Структура шаблона состоит из следующих частей:

— типа модуля и типа его реализации,.

— раздела описания параметров модуля,.

— раздела писания входных и выходных данных (каналов) модуля,.

— раздела описания модуля для интерфейса.

В типе модуля указывается, является ли данный модуль обработчиком данных или нейронной сетью, а в типе реализации — является ли его реализация параллельной или нет.

В разделе описания входных и выходных данных (каналов) описываются типы данных, которые получает и отсылает модуль, а для различия каналов модуля им присваиваются уникальные имена.

В разделе описания параметров указываются имена параметров, их типы, а также значения, присваиваемые им по умолчанию. Среди типов параметров модуля можно выделить возможность указания:

— ссылок на файлы и директории,.

— строковых типов,.

— целых и вещественных типов.

Описания модулей программного комплекса приведены в табл.4.1.

Заключение

.

Основным результатом диссертации явилось создание алгоритмического и программного обеспечения мультипроцессорных систем, реализующего новую технологию нейросетевого распознавания объектов на космических снимках. Решены следующие задачи:

1. Разработан адаптивный подход преобразования цветных изображений в полутоновые на основе метода главных компонент, который позволяет получать более контрастные изображения по сравнению со среднестатистическими формулами преобразования.

2. Предложены и реализованы два метода выделения объектов-кандидатов на распознавание: с удалением фона на основе гистограммы и с помощью выделения границ. Показано, что метод на основе гистограмм позволяет быстрее выделить объекты, однако он чувствителен к изменениям яркости.

3. Разработан алгоритм «сборки» объектов, распавшихся на отдельные части в результате предварительной обработки, который обеспечивает повышение точности и скорости распознавания.

4. Разработаны специальные методы кластеризации выделенных объектов на основе сети Кохонена, впервые использующие метрики Махаланобиса и Евклида Махаланобиса. Показано, что использование данных метрик дает некоторое улучшение по точности кластеризации объектов, выделенных на космических снимках, но приводит к снижению быстродействия по сравнению с метрикой Евклида.

5. Разработаны и исследованы схемы параллельного выполнения нейросетевого алгоритма Кохонена с метриками Евклида и Евклида-Махаланобиса, обеспечивающие ускорение обучения и распознавания с ростом числа вычислительных процессов.

6. Показано, что интеграция алгоритмов выделения и нормализации объектов с ИНС Кохонена позволяет получать сеть неокогнитронного типа.

7. Разработан программный комплекс нейросетевого распознавания объектов на космических снимках, функционирующий на мультипроцессорных системах семейства СКИФ.