Разработка параметрических моделей и программного обеспечения распознавания образов по выборке фиксированного объема с учетом погрешностей признаков

Теория принятия решений в последние годы приобретает все большее значение в различных областях знания: в технике, экономике, медицине и др. Она перешагнула свои границы в узком смысле и все шире проникает в область управления, исследования операций, сейсмологию и т. д. Число книг и статей, публикуемых в самых разных изданиях по этой проблеме, резко возросло.

Алгоритмы распознавания образов по совокупности признаков различаются этапностью принятия решенийстепенью и характером учета статистики признаков, помех, сигналов.

По этапности различают алгоритмы одноэтапного и многоэтапного [8, 41, 42, 43] принятия решений. Одноэтапное принятие решений предусматривает обязательную выдачу оценки класса / известного алфавита с приемлемой достоверностью. К многоэтапности принятия решений могут вести следующие соображения: целесообразность отказа от выдачи решения на первом этапе (первых этапах) до дополнительного набора признаков (последовательные алгоритмы типа Вальда) — целесообразность принятия загрубленного решения до дополнительного набора признаковнеобходимость обобщения предварительных решений, полученных в различные моменты времени или от различных источников.

По степени учета статистических закономерностей различают лингвистические и статистические алгоритмы. По характеру учета статистических закономерностей из статистических алгоритмов выделяют параметрические (байесовские и небайесовские), непараметрические и нейрокомпьютерные алгоритмы.

Лингвистические алгоритмы [11, 40, 54, 57] не учитывают статистики признаков. Вводимые признаки описывают качественно, часто двоичными цифрами 0, 1. Описание признаков на языке алгебры логики (языковое, кодовое, синтаксическое) служит при этом основой распознавания.

Байесовские параметрические алгоритмы, в отличие от параметрических небайесовских, учитывают не только статистику параметров помех, флуктуаций сигналов и признаков, но и определенные гипотезы об априорных вероятностях Р1 различных элементов алфавита классов [20, 53, 58]. Структура алгоритмов и работающих по ним устройств обработки сигналов определяется из математических расчетов. Статистика признаков сигналов, негауссовская в общем случае, устанавливается путем натурного эксперимента, математического или физического моделирования.

Введение

этой статистики можно трактовать как обучение распознаванию, адаптацию к конкретным условиям распознавания.

Непараметрические алгоритмы синтезируются эвристически без явного принятия предположений о конкретных статистических распределениях [20, 23, 34, 38, 40, 53, 58]. Их можно рассматривать в ряде случаев как эвристическое упрощение параметрических байесовских алгоритмов.

Нейрокомпьютерные алгоритмы отличаются своей заранее заданной универсальной структурой с большим числом неизвестных параметров, уточняемых в процессе адаптации (обучения) [70, 76]. Возрастание вычислительных затрат как издержку универсализации компенсируют ростом производительности вычислительных средств.

К решению задач распознавания привлекают также ряд математических теорий и методов, развитие которых связано с появлением экспертных систем [25, 52, 59]: теорию нечетких множеств и теорию возможностей [49, 55], теорию игр и другие математические методы [4, 5, 21].

В задачах распознавания образов и принятия решений важную роль играет то, как учтены (насколько строго) неопределенности исходных данных. Использование усредненных величин ведет к смещенным оценкам основных показателей, определяющих решение, и, как следствие, к неверным практическим выводам. Поэтому в диссертации особое внимание уделено строгому учету погрешностей измерений вектора признака объектов.

Традиционные статистические методы распознавания образов часто не учитывают погрешности в наблюдаемых значениях признаков, что приводит к следующему:

1) оценки функций условных плотностей вероятности признаков образов (если даже вид плотностей известен априори), которые получают по результатам наблюдений, будут смещенными, а их интервальные оценкиневерными;

2) в процессе идентификации образов, имеющих близкие значения координат векторов признаков, из-за влияния погрешностей на результаты наблюдений может быть принято неверное решение;

3) в традиционных методах функции условных плотностей вероятности признаков выступают в процедурах идентификации образов как детерминированные (не учитываются их интервальные оценки) и по этой причине в принятии решений не рассматриваются имеющие место зоны неопределенности (нулевые зоны).

В отличие от традиционных статистических методов распознавания образов в диссертации разработаны и используются методы, которые позволяют учесть погрешности наблюдаемых значений координат векторов признаков объектов, получить несмещенные точечные и интервальные оценки функций условных плотностей вероятности признаков, оценить «истинные» координаты вектора признаков, по которому ведется идентификация объектов, и включить эти данные в процедуру принятия решений.

Таким образом, решаемая задача представляет интерес для различных областей знаний и практических приложений и является актуальной.

Целью диссертационной работы является разработка теоретических и практических методов распознавания образов по выборке фиксированного объема с учетом погрешностей результатов наблюдений признаков, когда алгоритм распознавания включает в себя стохастические параметрические модели (априори известны вид функций условных плотностей вероятности признаков или разделяющих функций). Разрабатываемые методы предназначены для получения точечных и интервальных оценок искомых параметров моделей и оценок «истинных» значений векторов признаков и учета этих оценок в процедурах распознавания образов.

В соответствии с указанной целью в работе поставлены следующие задачи:

1) разработать метод идентификации объектов по выборке фиксированного объема, который позволяет оценивать и учитывать «истинные» значения вектора признаков объектов и точечные и интервальные оценки параметров заданных функций плотностей вероятности признаков, участвующих в процессе идентификации объектов, т. е. разработать общий подход и единый алгоритм для задачи обучения системы распознавания и задачи идентификации объектов при априори известном виде функций условных плотностей вероятности признаков;

2) разработать метод распознавания образов, позволяющий учесть погрешности результатов наблюдений векторов признаков объектов при фиксированном объеме выборки и неизвестных условных плотностях вероятности признаков, но известных с точностью до значений параметров разделяющих функциях;

3) разработать программное обеспечение, реализующее алгоритмы распознавания объектов по наблюдаемым с погрешностью признакам объектов как в случае заданных с точностью до параметров функций условных плотностей вероятности признаков, так и без учета условных плотностей вероятности признаков при известном виде разделяющих функций;

4) исследовать аналитически и в модельных экспериментах особенности предлагаемых алгоритмов и влияние погрешности в наблюдаемых значениях признаков на сходимость алгоритмов, на статистические свойства решений;

5) исследовать предлагаемые методы на реальных примерах распознавания химических взрывов и слабых землетрясений по сейсмическим наблюдениям, указать отличие в результатах, полученных традиционным и предлагаемым методами.

В качестве объекта исследования выступают классы распознаваемых образов методами, опирающимися на параметрические модели в виде обобщенных условных плотностей вероятности признаков или (и) разделяющих функций, в которых отсутствуют детерминированные исходные данные. В качестве конкретных примеров рассмотрены задачи распознавания химических взрывов и слабых землетрясений по признакам, измеренным в присутствии помех.

В основу исследования положен разработанный в диссертации метод распознавания образов, позволяющий учесть погрешность результатов наблюдений и точечные и интервальные оценки всех величин и функций, участвующих в процедуре распознавания. Метод базируется на конфлюентном анализе.

Разработанный метод основан на работах Р. Дуды, П. Харта, К. Фу, А. Л. Горелика, В. Г. Небабина и других — по теории распознавания образов, работах А. А. Грешилова, В. В. Федорова, W. Fuller, L. Gleser, D. Sehafer, M. Kendall и других — по теории вероятностей и математической статистике, работах российских и зарубежных авторов по вычислительной математике и программированию на ЭВМ. При сравнительном анализе использовались результаты других исследователей.

В первой главе диссертации дается анализ традиционных методов статистических задач решениярассматриваются как стохастический, так и детерминистский подходы, а также задачи решения с фиксированным объемом выборки и последовательная решающая модель.

Во второй главе описываются способы учета погрешностей вектора признаков в статистических задачах решения с фиксированным объемом выборки, когда вид функций обобщенных условных плотностей вероятности известен априори, но неизвестны оценки их параметров, приводятся алгоритмы 9 получения несмещенных точечной и интервальных оценок разделяющей функции, а также оценок «истинных» значений измеренного вектора признаков, по которым принимается решение. Здесь же приводятся сведения из конфлюентного анализа — совокупности алгоритмов, позволяющих учитывать одновременно погрешности, как в значениях функции, так и в значениях аргументов. Показаны отличия в решениях, принимаемых согласно традиционным и предлагаемым в диссертации методам.

В третьей главе рассмотрена задача распознавания образов, когда обобщенные условные плотности вероятности не заданы, но предполагается вид разделяющих функций, параметры которых подлежат определению с учетом погрешности наблюдаемых значений признаков. Исследуется задача распознавания взрывов по сейсмическим наблюдениям с получением линейных и квадратичных разделяющих функций в процессе обработки экспериментальных данных для химических взрывов и слабых землетрясений по пяти признакам.

ОСНОВНЫЕ РЕЗУЛЬТАТЫ ДИССЕРТАЦИИ.

1. Разработан метод распознавания образов по выборке фиксированного объема при заданных параметрических моделях условных плотностей вероятности признаков или разделяющих функций, позволяющий учитывать погрешности наблюдений значений признаков, точечные и интервальные оценки функций условных плотностей вероятности признаков или разделяющих функций, а так же точечные и интервальные оценки наблюдаемого вектора признаков, по которому ведется идентификация объектов. Метод объединяет процедуру обучения системы распознавания и процедуру идентификации образов.

Показано, что метод работоспособен как при известном виде функций условных плотностей вероятности признаков, так и в случае, когда закон распределения результатов наблюдений и вид функций условных плотностей вероятности признаков не заданы, а заданы только средние квадратические погрешности наблюдений и общий вид разделяющих функций.

2. Исследованы основные особенности предложенного алгоритма распознавания образов и форма получаемых функционалов, показана несмещенность и единственность получаемых оценок, определен выбор нулевого приближения в процедурах оценивания параметров моделей и исследованы статистические свойства полученных оценок.

3. Разработано программное обеспечение, реализующее на ПК предложений метод распознавания образов и обеспечившее проведение статистических испытаний получаемых результатов.

4. Предложенный метод исследовался на примерах распознавания химических взрывов и слабых землетрясений по сейсмическим измерениям, когда в качестве признаков выступали пять признаков. Результаты исследовались в предположении, что вид функций условных плотностей вероятности признаков неизвестен, но при известных значениях точечных оценок признаков и их средних квадратических отклонений для линейных и.

139 квадратических разделяющих функций. Показано, что результаты идентификации могут отличаться от получаемых традиционными методами.

5. Результаты, полученные в диссертации, апробировались в хоздоговорных работах по теме «Образ-8» (1995;96 гг.), в госбюджетной тематике, проводимой НИИПММ МГТУ им. Н. Э. Баумана, и в учебных курсах «Принятие решений и распознавание образов» и «Математические методы прогнозирования», читаемых студентам МГТУ им. Н. Э. Баумана и слушателям МИПК при МГТУ им. Н. Э. Баумана по экономическим и управленческим специальностямтеоретическая часть работы поддерживалась SAIC Global Technology Corporation (SAIC GT), USA, субконтракт № 29−990 026−142.