Заключение. 
Разработка нейронной сети

В первом параграфе первой главы настоящей работы были рассмотрены теоретические основы построения нейронных сетей, их структура, основные элементы, а также возможности применения.

Во втором параграфе первой главы настоящей работы были рассмотрены основы оценки качества работы нейронных сетей на основе оптимизации взаимной информации.

Во второй главе представлена реализация принципа оптимизации взаимной информации для двух случаев:

• 1. Максимизация взаимной информации двух выходов, получающих информацию от двух смежных, не пересекающихся областей одного изображения
• 2. Минимизация взаимной информации двух выходов, получающих информацию от двух соответствующих областей разных изображений

Для реализации каждого из представленных случае разработаны программы в среде Matlab, которые имитируют один шаг машинного обучения.

Для тестирования данных программ созданы входные данные, состоящие из вырезанных смежных, но не пересекающихся частей одного изображения для первого случая и соответствующих областей разных цветовых компонент одного изображения для второго случая.

Проведено тестирование на основе данных контрольных примеров.

В результате тестирования получены:

• 1. Для первого случая максимальная взаимная информация, а также матрицы весов, соответствующие ей.
• 2. Для второго случая минимальная взаимная информация, а также матрицы весов, соответствующие ей.

Данной информации достаточно для начала циклического пошагового процесса машинного обучения.

В процессе выполнения работы были решены следующие задачи:

• 1. Изучены основные понятия, положенные в основу работы выбранной исследуемой модели, то есть нейронных сетей, рассмотрены основные компоненты, из которых состоят нейронные сети, их назначение и свойства.
• 2. Выявлены основные элементы, которые входят в состав любого нейрона, как наиболее мелкого составного элемента нейронной сети. Рассмотрены основные функции данных элементов и их взаимосвязь.
• 3. Рассмотрена классификация нейронных сетей в зависимости от их сложности и решаемых задач:
  • — однослойные (могут использоваться для решения задач, в которых требуется выявить простые линейные взаимосвязи),
  • — многослойные (могут использоваться для решения задач, в которых требуется выявить сложные нелинейные взаимосвязи).
• 4. Выявлены основные проблемы, возникающие при их создании и обучении. Одной из наиболее актуальных проблем является проблема выбора критериев оценки качества работы нейронной сети. Данная проблема подразделяется на две, каждая из которых возникает при одном из видов обучения:
  • — При обучении с учителем данная проблема состоит в подборе большого набора обучающих пар входной-выходной информации, так как критерием качества служит вероятность совпадения выходной информации из обучающего набора с выходной информацией нейронной сети.
  • — При обучении без учителя (самоорганизации) проблема состоит в выборе такого критерия, который не требовал бы априорных знаний об идеальной информации на выходе, но в то же время позволял проводить качественную оценку выходной информации нейронной сети.
• 5. Определены параметры, оптимизация которых позволит повысить качество нейронных сетей. В данной работе в качестве такого параметра была выбрана взаимная информация между двумя выходными векторами.
• 6. Изучены теоретические основы исследования нейронных сетей с целью оптимизации взаимной информации между двумя выходами.
• 7. Выбран методы исследования наиболее подходящие для описанной в работе ситуации: метод оценки качества нейронной сети по взаимной информации между двумя выходами.
• 8. Разработан алгоритм, использующий выбранные методы, для оценки качества работы нейронной сети и выбора вектора весов с наилучшими параметрами.
• 9. Написать реализацию алгоритма исследования в математической среде Matlab, которая имитирует один шаг процесса обучения нейронной сети.
• 10. Проведено тестирование разработанного алгоритма на контрольных наборах данных, которые были получены путем вырезания смежных, не пересекающихся областей одного изображения для первого рассмотренного случая и двух соответствующих областей из разных изображений для второго случая.

Таким образом, в процессе выполнения работы были решены все поставленные задачи.