Математическое моделирование процесса анализа близости предикатов семантических отношений

Целью создания Искусственного Интеллекта (ИИ) является формализация различных форм интеллектуальной деятельности человека. Попытки перенести часть знаний человека в область работы вычислительной техники имеют целью облегчить деятельность человека, осуществляемую с применением этой техники, в том числе и интеллектуальную. Облегчение взаимодействия между человеком и машиной открывает путь для более широкого и интенсивного использования человеком базовых вычислительных возможностей ЭВМ, таких как обработка больших объемов данных, сложные математические вычисления над ними и основанный на последних анализ данных, по скорости и безошибочности выполнения которых вычислительная техника намного превосходит человека.

В настоящий момент одним из приоритетных направлений в области развития ИИ является облегчение взаимодействия между человеком и вычислительной техникой с помощью Естественного Языка (ЕЯ) [66]. Именно ЕЯ люди используют в своей повседневной деятельности, и поэтому было бы удобно использовать ЕЯ и для общения человека с различными Интеллектуальными Системами (ИС). Разработка ИС, способных понимать ЕЯ, некоторыми специалистами вообще считается основной целью исследований в области ИИ [74]. ЕЯ служит человеку для выражения собственных мыслей и понимания мыслей других людей, и, таким образом, вполне подходит для сохранения и передачи некоторых знаний при общении с машиной.

Несмотря на успехи в исследовании методов и разработке с их помощью систем по Обработке ЕЯ (Natural Language Processing) [41] и даже успешное использование таких ИС в отдельных областях применения, ряд вопросов данного направления всё ещё остаётся малоисследованным, а для полноценного функционирования ИС Обработки ЕЯ возникают технические препятствия.

Среди множества затруднений технического характера, мешающих применению в информационных системах интеллектуально-коммуникативных технологий, предполагающих взаимодействие человека и ЭВМ на ЕЯ, выделим две следующих группы.

Первая группа технических затруднений состоит в необходимости предварительного ввода в ЭВМ всей полноты Знаний о ЕЯ, которые используются для общения между носителями данного языка. Объем этих Знаний велик, и поэтому их ввод требует огромных затрат труда множества квалифицированных специалистов, в том числе для предварительной формализации и систематизации этих Знаний. При традиционном подходе не учитывается возможность неполноты и противоречивости самих Знаний о ЕЯ, относительность представления как о ЕЯ, так и ситуациях его использования, а также потребность в постоянном изменении введённых Знаний. Если для некоторых областей применения на коротком временном промежутке функционирования ИС изменениями в ЕЯ можно пренебречь, то в целом изменчивость — глубинное и универсальное свойство как естественных, так и искусственных языков [16], и его необходимо учитывать.

Причина чрезмерной трудоёмкости — отсутствие на настоящий момент методов предметно-адаптивной формализации и автоматической систематизации Знаний о ЕЯ. Как следствие этого, при использовании существующих подходов к формализации Знаний о ЕЯ для каждого языка и тематического подмножества требуется производить заново как формализацию, так и ввод Знаний, что увеличивает затраты труда на разработку ИС. Разработка математической модели процесса ввода и систематизации информации о ЕЯ с помощью автоматического выявления и применения машиной закономерностей каждого ЕЯ позволила бы решить задачу автоматического накопления и систематизации ИС Знаний об используемом ЕЯ. Здесь можно выделить задачу интеллектуализации процесса пополнения Знаний, которая заключается в автоматическом построении машиной части модели ЕЯ, и задачу интеллектуализации самого процесса ввода — человеко-машинного общения, который, чтобы избавить от рутинной деятельности человека-оператора, необходимо осуществлять на ЕЯ. В данном случае предмет общения как раз ЕЯ, и логично и удобно было бы организовать работу оператора по вводу с использованием самого ЕЯ. Подобно тому, как выполняет роль педагога на ЕЯ автоматизированная обучающая система [72], только наоборот. Оператору, которому в этом случае уже не нужно быть экспертом-лингвистом, а только носителем языка, достаточно ввести в ЭВМ обучающее ИС множество прецедентов Смысловой Эквивалентности (СЭ) высказываний на ЕЯ.

Вторая группа технических затруднений в области Обработки ЕЯ заключается в значительной вычислительной сложности анализа и необходимых для него преобразований высказываний на ЕЯ. В реализованных на практике методах Обработки ЕЯ присутствует противоречие между скоростью обработки, которая является следствием применения простых правил преобразований, и универсальностью представления ЕЯ-преобразований, которая позволяет более полно описывать ЕЯ с помощью сочетания сложных правил. В последнем случае уменьшается трудоёмкость описания ЕЯ, но увеличивается вычислительная сложность алгоритмов анализа, воспроизводящего полноту и непротиворечивость языкового описания путём согласования множества правил. Анализ и преобразования на основе сложных формализмов моделей приводят к комбинаторному взрыву, лингвистическими причинами которого являются омонимия и синонимия в ЕЯ, сочетание подчинительных и сочинительных связей, что накладывается на линейную структуру предложений и тем самым увеличивает длины связей между словами и количество возможных вариантов комбинирования связей. При автоматическом накоплении и систематизации ИС Знаний о ЕЯ неполнота и противоречивость Знаний, вводимых оператором в простой, но универсальной форме, устраняются на этапе обучения ИС, и их не требуется восполнять вычислениями на этапе анализа и преобразований, причём каждый раз делать это заново.

Настоящая диссертационная работа посвящена использованию существующих в ЕЯ закономерностей для автоматизации накопления и систематизации ИС Знаний об этом ЕЯ. Для решения данной проблемы в диссертации ставится задача разработки модели процесса ввода и систематизации Семантических Знаний о ЕЯ в ЭВМ путем машинного обучения ИС по прецедентам СЭ высказываний на ЕЯ и использования накапливаемых таким способом Семантических Знаний в задачах анализа семантической эквивалентности ЕЯ-высказываний, таких как задача распознавания Семантических Отношений (СО) Конструкций ЕЯ [35], задача количественной оценки накапливаемых Семантических Знаний, задача построения морфологической, сортовой, родовидовой классификации лексики. Таким образом, решаемая проблема ориентирована на практическую реализацию в ИС Обработки ЕЯ.

Накопление и систематизация Семантических Знаний ИС предполагает процесс обобщения Знаний. Объект настоящих исследований — Предикаты СО Конструкций ЕЯ, с помощью которых в модели ЕЯ представляются Семантические Знания. Систематизация ИС Семантических Знаний на основе присутствующих в них закономерностей является процессом обобщения Предикатов СО.

Предметом исследований является процесс анализа близости Предикатов СО. Определение меры близости Семантических Знаний с помощью сравнения Предикатов СО использует закономерности, которые выявлены в ЕЯ в процессе обобщения Предикатов. Возможности как процесса анализа близости, так и процесса обобщения Предикатов ограничены уровнем автоматического выявления закономерностей в ЕЯ алгоритмом обобщения. Поэтому, за исключением предельного случая — автоматического построения машиной полной модели ЕЯ, для процесса обобщения Предикатов возможна лишь частичная автоматизация, тогда как процесс анализа близости Предикатов СО, используя готовые результаты процесса обобщения Предикатов, допускает полностью автоматическое выполнение.

Актуальность исследований обоснована отсутствием в настоящий момент научно обоснованных методов обобщения Предикатов применительно к описанию СО в ЕЯ, а также методов анализа близости Предикатов СО в той мере, в какой возможно автоматическое обобщение Предикатов.

Сформулируем главную цель работы следующим образом: разработка методов количественной оценки близости Предикатов в прог{ессе их обобщения в ходе машинного обучения распознаванию СО Конструкций ЕЯ.

Областью непосредственного практического применения теоретических результатов настоящей работы является автоматизация обучения [72], автоматический контроль знаний с помощью тестирования на ЕЯ путем машинного анализа СЭ между ответами учащихся и эталонами, заданными педагогом, поскольку при данном применении знания учащихся, фиксируемые в Текстах ЕЯ, постоянно измеряются/оцениваются экспертом-педагогом в приложении к стабильному ситуационному контексту вопросов и предмета. В качестве прикладных областей для применения данной модели можно также назвать диалоговые и экспертные системы, автоматическое реферирование и обработку документов и информации, а также связанную с этим задачу поиска необходимой информации.

Диссертационная работа состоит из введения, четырех глав, заключения, двух приложений, списка используемых сокращений и библиографического списка.

Результаты работы имеют не только научную, но и практическую значимость. Построенный формальный аппарат математического моделирования процесса обобщения Предикатов СО в форме НПП можно применить для практической реализации механизма автоматического накопления и систематизации Семантических Знаний на основе выявляемых в ЕЯ закономерностей. Оператору-человеку, которому не нужно быть экспертом-лингвистом, а только носителем языка, достаточно ввести в ЭВМ обучающее множество прецедентов СЭ ЕЯ-высказываний, это может быть сделано с помощью диалога оператора с ИС на ЕЯ.

Такое свойство сложных систем Предикатов СО как иерархизация упрощает процесс распознавания СО и процесс обобщения Предикатов в ходе обучения ИС распознаванию СО Конструкций ЕЯ. Упорядоченность последовательности применения НПП от простого к сложному уровням синонимии в процедуре порождения вариантов перифразирования ЕЯ-высказывания приводит к тому, что вычислительная сложность данной процедуры линейно зависит только от количества уровней синонимии и даже в маловероятном для реального ЕЯ случае неоднозначности распознавания ЕЯ-высказывания на всех уровнях синонимии оказывается ограничена сверху количеством НПП в системе Предикатов СО. Разработанные алгоритмы оптимизированы для сравнения сложных, иерархизированных систем НПП с помощью механизма нестандартного логического вывода УВ, что позволяет эффективно проводить распознавание СО Конструкций ЕЯ.

Устранено присутствующее в реализованных на практике методах Обработки ЕЯ противоречие между скоростью обработки, которая является следствием применения простых правил преобразований, и универсальностью представления ЕЯ-преобразований, которая позволяет более полно описывать ЕЯ с помощью сочетания сложных правил, что уменьшает трудоёмкость описания ЕЯ, но увеличивает вычислительную сложность алгоритмов анализа, воспроизводящего полноту и непротиворечивость языкового описания путём согласования множества правил. При автоматическом накоплении и систематизации ИС Знаний о ЕЯ неполнота и противоречивость Знаний, вводимых оператором в простой, но универсальной форме, устраняются на этапе обучения ИС, и их не требуется восполнять вычислениями на этапе анализа и преобразований, причём каждый раз делать это заново.

Практическое применение модели обучения распознаванию СО Конструкций ЕЯ возможно в самых разных областях: перевод, синтез ЕЯ-высказываний, Смысловая обработка Текстов на ЕЯ. Основной областью применения является автоматизация обучения, автоматический контроль знаний с помощью тестирования на ЕЯ путем машинного анализа СЭ между ответами учащихся и эталонами, которые заданны педагогом. При данном применении знания учащихся, фиксируемые в Текстах ЕЯ, постоянно измеряются/оцениваются экспертом-педагогом в приложении к стабильному ситуационному контексту вопросов и предмета. В качестве прикладных областей для применения данной модели можно также назвать диалоговые и экспертные системы, автоматическое реферирование и обработку документов и информации, а также связанную с этим задачу поиска необходимой информации.

Материалы работы основаны на публикациях [33−34, 46−49], из них 5 опубликованы, 1 в печати. Полученные результаты апробированы в докладах на конференциях: XVIII международной научно-методической конференции «Математика в вузе» (Великий Новгород, 2005), 6-й международной научной конференции «Интеллектуализация обработки информации» (ИОИ-2006) (Крым, Алушта, 2006), в докладах на научных конференциях в рамках Дней Науки в Новгородском государственном университете имени Ярослава Мудрого (Великий Новгород, 2005), (Великий Новгород, 2006), (Великий Новгород, 2007).

Все научные и практические результаты получены автором самостоятельно. Достоверность полученных теоретических результатов подтверждается корректностью доказательств теорем об алгоритмической разрешимости и вычислительной сложности процесса распознавания СО Конструкциях ЕЯ и процесса обобщения систем Предикатов СО Конструкций ЕЯ. Также достоверность подтверждается соответствием модели Семантики Конструкций ЕЯ формальным критериям, сформулированным при постановке задачи.

Разработанные методы решения задач Обработки ЕЯ доведены до реализации. Эффективность предложенных алгоритмов распознавания СЭ ЕЯ-высказываний в сравнении с известными на сегодняшний день алгоритмами синонимического перифразирования подтверждается теоремамииллюстрацией работы алгоритмов являются примеры, приведенные в приложении А. В работе промоделировано множество синонимических преобразований, известных из лингвистики, при этом разрешены проблемы моделей Семантики Конструкций ЕЯ, которые основаны на перифразировании. С помощью системы Предикатов СО в форме Н1111 возможно учитывать различные уровни синонимий и представить проблемные и сложные виды синонимических преобразований, произвести автоматическую классификацию ЛЗ.

Разработанные в диссертации методы и алгоритмы количественной оценки близости Предикатов СО, таксономии Конструкций ЕЯ, логического вывода усложнением вариантов нашли практическое воплощение в программном комплексе, который в дальнейшем планируется использовать для решения задач автоматизации составления тезаурусов по дисциплинам специальности «Программное обеспечение вычислительной техники и автоматизированных систем» в учебном процессе Новгородского государственного университета.

Возможные направления дальнейших исследований заключаются в решении с помощью разработанных методов количественной оценки близости Предикатов СО в ходе машинного обучения распознаванию СО Конструкций ЕЯ общей задачи интеллектуализации процесса пополнения Знаний о СО Конструкций ЕЯ, которая заключается в автоматическом построении ЭВМ части или полной модели любого ЕЯ путем диалога на ЕЯ с носителем данного языка, что также подразумевает задачу построения универсальной, общеязыковой модели Концептуальных ЕЯ-Знаний. Для этого путем анализа пересечения выделенных классов ЛЗ необходимо найти базовые Семантических Значений МУ слов в каждом ЕЯ, которые затем подвергнуть сравнению и обобщению на уровне множества ЕЯ.

ЗАКЛЮЧЕНИЕ

.

В заключении приведем положения, которые определяют научные и практические результаты настоящей диссертационной работы. Главные научные результаты состоят в следующем:

Выявлены наиболее общие функциональные и структурные свойства ЕЯ, на основе чего предложена модель ЕЯ как множества ситуаций ЕЯ-употребления с механизмом проверки ЕЯ-высказываний на допустимость в речи и механизмом согласования употребления форм поверхностного выражения Смысла в разных ситуациях ЕЯ-употребления;

Разработана формальная концептуальная модель обучения распознаванию СО Конструкций ЕЯ с помощью обобщения Семантических Знаний, которые представлены Предикатами СО, механизмом Концептуального Анализа, который выявляет закономерности в ЕЯ-употреблении;

Установлено, что таксономия множества прецедентов СО механизмом Концептуального Анализа представима с помощью Предикатов в форме Н1111 над множествами структурированных значений аргументов СО, на основе чего построен формальный аппарат математического моделирования процесса обобщения Предикатов СО в форме НПП;

С использованием построенного аппарата решена задача распознавания СО Конструкций ЕЯ путем сравнения систем Предикатов СО в форме НПП, результатом которого является вычисление количественной оценки близости систем Предикатов СО;

Доказаны теоремы о алгоритмической разрешимости процесса обобщения Предикатов СО и процесса распознавания СЭ ЕЯ-высказываний.

Показано, что с помощью количественной оценки близости систем Предикатов СО может быть проведена иерархизация сложных систем Предикатов СОиерархизация позволяет реализовать алгоритм распознавания СО Конструкций ЕЯ, вычислительная сложность которого не экспоненциально, а линейно растет с увеличением числа уровней иерархии синонимии и количества Предикатов;

Доказаны: теорема о том, что вычислительная сложность процесса обобщения Предикатов СО исходной системы Hi 111 линейно зависит от количества Предикатов в конечной системе Hi 111, которая является результатом обобщения исходной, и теорема о том, что вычислительная сложность процесса распознавания СЭ ЕЯ-высказываний в заданной системе НПП линейно зависит от количества уровней синонимии в этой системе и в худшем случае от количества НПП в этой системе;

Также показано, что системой НПП может быть промоделировано множество синонимических преобразований, известных из лингвистики, включая те, которые учитывают различные уровни синонимий, и сложные виды синонимических преобразований: выходящие за пределы простого предложения и за рамки регулярной ЛФ-синонимиипри этом разрешены проблемы моделей Семантики Конструкций ЕЯ, которые основаны на перифразированиирешена задача морфологической, сортовой, родовидовой классификации лексики.

Разработаны алгоритмы нахождения количественной оценки близости Предикатов в общем виде с учетом возможных методов оценивания, оптимизированные для сравнения сложных, иерархизированных систем Предикатов СОпоказано применение этих алгоритмов для трансформации систем НПП в процессе обобщения Предикатов СО.

В настоящей диссертационной работе впервые предложен комплексный подход к решению ряда задач компьютерной Обработки ЕЯ. Так, показано, что задача распознавания СЭ ЕЯ-высказываний сводится к задаче сравнения систем Предикатов СО и нахождения количественной оценки их близости. Последняя задача решается теми же методами, что и задача обобщения систем Предикатов для предварительного машинного обучения ИС распознаванию СО Конструкций ЕЯ. Разработанная модель ЕЯ позволяет универсальным образом представить СО в ЕЯ с помощью Hi 111 и модели ситуаций ЕЯ-употребления. На основе модели можно проводить машинное обучение распознаванию произвольных СО Конструкций ЕЯ. Предложенный алгоритм распознавания СО ЕЯ-высказываний с помощью процесса обобщения систем Предикатов СО объединяет в одно целое процессы анализа Конструкций ЕЯ и сравнения Смыслов ЕЯ-высказываний.