Разработка математического и программного обеспечения автоматизированного прогнозирования временных рядов на основе нейрокомпьютерных технологий
Методы прогнозирования, основанные на анализе временных рядов, относятся к классу количественных методов прогнозирования. Прогнозирование временных рядов предусматривает определение прогнозного значения переменной преимущественно на основе прошлых и текущих значений этой же переменной. Если определяются значимые факторы и функциональная или стохастическая зависимость отклика от этих факторов… Читать ещё >
Содержание
- 1. МЕТОДЫ ПРОГНОЗИРОВАНИЯ ВРЕМЕННЫХ РЯДОВ
- 1. 1. Статистический анализ временных рядов
- 1. 2. Классификация методов прогнозирования временных рядов
- 1. 3. Статистические методы прогнозирования временных рядов
- 1. 3. 1. Адаптивные модели
- 1. 3. 2. Регрессионный анализ
- 1. 3. 3. Кривые роста
- 1. 3. 4. Частотный анализ
- 1. 4. Нестатистические методы прогнозирования временных рядов
- 1. 4. 1. Графические методы прогнозирования временных рядов
- 1. 4. 2. Аналитические нестатистические методы прогнозирования временных рядов
- 1. 5. Сравнительный анализ методов прогнозирования временных рядов
- 2. ПРОГНОЗИРОВАНИЕ ВРЕМЕННЫХ РЯДОВ НА ОСНОВЕ НЕЙРОКОМПЬЮТЕРНЫХ ТЕХНОЛОГИЙ
- 2. 1. Общие положения теории нейронных сетей
- 2. 2. Особенности использования искусственных нейронных сетей для прогнозирования временных рядов
- 2. 2. 1. Модель
- 2. 2. 2. Функционал ошибки прогнозирующих нейронных сетей
- 2. 3. Нейросетевое прогнозирование временного ряда в режиме скользящего окна
- 2. 4. Повышение эффективности прогнозирующей нейросетевой модели с помощью адаптивного распределения плотности вероятности выбора обучающего факта
- 2. 5. Нейросетевое прогнозирование временных рядов на основе многофакторной модели
- 2. 5. 1. Общие положения
- 2. 5. 2. Особенности выбора вектора входов нейронной сети для построения оптимальной прогнозирующей модели
- 3. 1. Общие замечания
- 3. 2. Применение генетических алгоритмов для оптимизации прогнозирующих нейронных сетей
- 3. 2. 1. Базовые понятия генетического алгоритма
- 3. 2. 2. Функционирование генетического алгоритма
- 3. 3. Использование комитетов нейронных сетей
- 3. 4. Использование параллельных и кластерных архитектур
- 3. 5. Использование комбинаций различных нейросетевых парадигм
- 4. 1. Общая характеристика и структурная схема системы
- 4. 1. 1. Общая характеристика системы
- 4. 1. 2. Структурная схема системы
- 4. 1. 3. Подсистемы программного обеспечения комплекса
- 4. 2. Программное обеспечение серверной части системы
- 4. 2. 1. Структурная схема сервера
- 4. 2. 2. Сетевой интерфейс системы
- 4. 2. 3. Обеспечение безопасности работы системы в сети
- 4. 3. Возможности построения клиентского программного обеспечения. 100 4.3.1. Клиентское программное обеспечение авторизованного доступа!
- 4. 3. 2. Са-шлюз
- 5. 1. Библиотека классов
- 5. 1. 1. Общая характеристика
- 5. 1. 2. Иерархия классов
- 5. 2. Пакет прикладных программ «ЫеигоРогесаБЪ)
- 5. 2. 1. Общая характеристика
- 5. 2. 2. Функционирование пакета прикладных программ
Разработка математического и программного обеспечения автоматизированного прогнозирования временных рядов на основе нейрокомпьютерных технологий (реферат, курсовая, диплом, контрольная)
Актуальность темы
Прогнозирование играет важную роль в различных областях народного хозяйства. Поскольку условия технологических процессов и экономические условия ведения бизнеса изменяются во времени, необходимо постоянно отслеживать и предсказывать эти изменения для успешной реализации технических решений или совершения деловых операций.
К настоящему времени разработаны многие методы прогнозирования, конечной задачей которых является предсказание будущих событий с той или иной степенью надежности с целью использования этого прогноза при принятии решений.
Формально имеется два подхода к прогнозированию — качественное и количественное. Методы качественного прогнозирования, такие как метод экспертного оценивания, особенно важны, когда статистические данные за прошедшие периоды времени недоступны и/или ненадежны. Все качественные методы крайне субъективны и подвержены высокой ошибке прогноза.
Количественные методы прогнозирования основаны на существенном использовании информации за прошедшие периоды времени. При исследовании тенденции процесса за прошедшее время удается выяснить основные взаимосвязи между величинами и дать более надежный прогноз на будущее.
Методы прогнозирования, основанные на анализе временных рядов, относятся к классу количественных методов прогнозирования. Прогнозирование временных рядов предусматривает определение прогнозного значения переменной преимущественно на основе прошлых и текущих значений этой же переменной. Если определяются значимые факторы и функциональная или стохастическая зависимость отклика от этих факторов с применением множественного регрессионного анализа, то, как правило, говорят об анализе многомерных временных рядов.
Сегодня, в связи с широким распространением программных средств принятия решений, особенную важность представляет разработка методов автоматизированного прогнозирования для использования результатов прогноза в автоматизированных системах принятия решений.
Автоматизированное прогнозирование с использованием вычислительной техники предполагает функционирование прогнозирующих моделей и алгоритмов с минимальным участием человека, автоматический выбор модели и параметров модели для прогнозирования конкретных показателей, численно выражаемых с помощью временного ряда.
В то же время, классические методы прогнозирования временных рядов, в том числе методы, основанные на аппарате математической статистики, обладают рядом недостатков, затрудняющих их использование для построения автоматизированных прогнозирующих моделей.
Одним из современных методов, используемых для прогнозирования, являются искусственные нейронные сети.
Теория искусственных нейронных сетей была создана и развита такими учеными, как Ф. Розенблатт, М. Минский, С. Гроссберг, Т.Кохонен. Сегодня вопросам теории и практического использования искусственных нейронных сетей посвящены работы таких ученых России, как А. И. Галушкин, А. Н. Горбань, В. В. Золотарев, С. Г. Короткий, А. А. Ежов, В. М. Неделько.
Применение нейронных сетей для прогнозирования включает в себя распознающие модели и модели прогнозирования временных рядов. Одним из главных преимуществ нейронных сетей является их способность к обучению и самообучению, т. е. адаптации модели к решению конкретной задачи. Вышесказанное делает искусственные нейронные сети одним из перспективных направлений в разработке методов автоматизированного прогнозирования.
Цель диссертационной работы состоит в разработке эффективных методов прогнозирования временных рядов на основе искусственных нейронных сетей, позволяющих максимально возможно устранить недостатки существующих методов, обеспечивая при этом высокую достоверность прогнозасоздании автоматизированной информационной системы, позволяющей решать задачу прогнозирования временных рядов.
Для достижения цели необходимо решить следующие задачи:
1. Провести анализ существующих методов прогнозирования временных рядов и выявить перспективные направления в области их развития.
2. Исследовать применение искусственных нейронных сетей для автоматизированного прогнозирования временных рядов.
3. Разработать методики повышения эффективности прогнозирующих нейросетевых моделей.
4. Разработать программные средства для автоматизированного прогнозирования временных рядов на основе разработанных методик.
5. Разработать архитектуру автоматизированной информационной системы прогнозирования на основе разработанных методик.
Методы исследования. Разработки и исследования проводились на основе теории вероятностей, математической статистики, системного анализа, математического и имитационного моделирования, теории искусственных нейронных сетей, технологий модульного и объектно-ориентированного программирования.
Научная новизна. В рамках диссертационной работы были получены следующие результаты:
1. Показано, что применение искусственных нейронных сетей позволяет повысить эффективность прогнозирования временных рядов, лишено ряда недостатков классических статистических методов анализа и прогнозирования временных рядов и может служить основой для автоматизированного прогнозирования (с минимальным участием человека).
2. Предложены и исследованы способы повышения эффективности прогнозирующих свойств и скорости обучения искусственной нейронной сети на основе экспоненциального и адаптивного распределения вероятности выбора обучающего факта.
3. Разработан генетический алгоритм комплексной оптимизации прогнозирующих нейросетей, позволяющий уменьшить время обучения.
4. Предложена методика распараллеливания генетического алгоритма оптимизации нейросетей на кластерных архитектурах.
5. Разработан метод уменьшения размерности входов прогнозирующей нейросети на основе сопряжения различных нейросетевых архитектур.
6. Разработана архитектура автоматизированной информационной системы прогнозирования временных рядов на основе нейросетевых технологий.
7. Разработан пакет прикладных программ (ППП) для автоматизированного прогнозирования временных рядов.
Практическая ценность работы. Разработаны способы повышения эффективности прогнозирующих свойств и скорости обучения искусственной нейронной сети на основе экспоненциального и адаптивного распределения вероятности выбора обучающего факта. Разработан генетический алгоритм комплексной оптимизации прогнозирующих нейронных сетей, применение которого может уменьшить время обучения в 2−5 раз для многофакторных прогнозирующих моделей. Предложена методика распараллеливания генетического алгоритма, позволяющая реализовывать его на параллельных и кластерных архитектурах. Разработана прогнозирующая модель на основе сопряжения архитектур «карта Кохонена» — «сеть обратного распространения», позволяющая уменьшить размерность входов и время обучения нейросети. Разработан пакет прикладных программ для автоматизированного прогнозирования временных рядов, реализующий предложенные в диссертационной работе методики. Разработана архитектура автоматизированной информационной системы прогнозирования временных рядов на основе нейросетевых технологий. Преимуществами предложенной архитектуры являются коллективный доступ пользователей на основе технологиии «клиент/сервер» и оперативное обновление статистики исходных данных из информационных ресурсов сети Internet.
Достоверность полученных в диссертационной работе результатов подтверждается:
• использованием положений теории вероятностей и математической статистики;
• использованием понятий и выводов теории нейронных сетей;
• разработкой действующих программных средств, подтвержденных свидетельствами об официальной регистрации;
• наличием актов внедрения и использования результатов диссертационной работы.
На защиту выносятся:
1. Способы повышения эффективности прогнозирующих свойств и скорости обучения искусственной нейронной сети на основе экспоненциального и адаптивного распределения вероятности выбора обучающего факта.
2. Генетический алгоритм комплексной оптимизации прогнозирующих нейронных сетей.
3. Метод уменьшения размерности входов прогнозирующей нейросети на основе сопряжения различных нейросетевых архитектур.
4. Архитектура автоматизированной информационной системы прогнозирования.
Внедрение результатов. Результаты работы использованы в ООО «Кар-центо» для решения задач прогнозирования финансово-экономических показателей и принятия на их основе обоснованных производственных решений по ценам на рынке цветных металлов и в Рязанском областном клиническом онкологическом диспансере для прогнозирования отдаленных результатов лечения больных раком молочной железы на основе использования ряда биологических и химических параметров клеток.
Результаты работы внедрены в Центре новых информационных технологий Рязанской государственной радиотехнической академии для прогнозирования трафика и нагрузки на серверы в сетях информационно-вычислительного центра, что позволило проводить прогнозирование пиковых нагрузок и повысить эффективность использования компьютерных сетей.
Апробация работы. Основные положения диссертации докладывались на следующих конференциях:
9-я научно-методическая конференция РГРТА, 1−5 февраля 1999 г., г. Рязань.
10-я международная научно-техническая конференция «Проблемы передачи и обработки информации в сетях и системах телекоммуникаций», 1416 ноября 2001 г., г. Рязань.
11 -я международная научно-техническая конференция «Проблемы передачи и обработки информации в сетях и системах телекоммуникаций», 2627 ноября 2002 г., г. Рязань.
Публикации. По теме диссертации опубликовано 11 печатных работ, из них 3 в соавторстве. В их числе 4 статьи в межвузовских сборниках, 2 депонированные статьи, 2 доклада на международных конференциях, 2 учебных пособия, свидетельство об официальной регистрации программы в РОСПАТЕНТ.
Структура и объем диссертации
Диссертационная работа состоит из введения, пяти глав и заключения. Содержит 140 страниц, 9 таблиц, 39 рисунков.
Список литературы
состоит из 74 наименований.
Основные результаты, полученные в диссертационной работе:
1. Показано, что применение искусственных нейронных сетей позволяет повысить эффективность прогнозирования временных рядов, лишено ряда недостатков классических статистических методов анализа и прогнозирования временных рядов и может служить основой для автоматизированного прогнозирования (с минимальным участием человека).
2. Предложены и исследованы способы повышения эффективности прогнозирующих свойств и скорости обучения искусственной нейронной сети на основе экспоненциального и адаптивного распределения вероятности выбора обучающего факта.
3. Разработан генетический алгоритм комплексной оптимизации прогнозирующих нейросетей, позволяющий уменьшить время обучения.
4. Предложена методика распараллеливания генетического алгоритма оптимизации нейросетей на кластерных архитектурах.
5. Разработан метод уменьшения размерности входов прогнозирующей нейросети на основе сопряжения различных нейросетевых архитектур.
6. Разработана архитектура автоматизированной информационной системы прогнозирования временных рядов на основе нейросетевых технологий.
7. Разработан пакет прикладных программ (ППП) для автоматизированного прогнозирования временных рядов.
ЗАКЛЮЧЕНИЕ
.
Список литературы
- Андерсон Т. Статистический анализ временных рядов: Пер. с англ. М.: Мир, 1976.-760 с.
- Анил К. Джейн, Жианчанг Мао, Моиуддин K.M. Введение в искусственные нейронные сети /Открытые системы. 1997, № 4. С. 16−24.
- Артемкин Д.Е. Архитектура серверной части автоматизированной информационной системы прогнозирования временных рядов. Рязань: Рязан. гос. радиотехн. акад., 2002. 8 е.: ил. — Библиогр. 7 назв. — Деп. в ВИМИ № Д8 913 от 05.06.02.
- Артемкин Д.Е. Генетический алгоритм оптимизации многослойных нейронных сетей без обратных связей. Рязань: Рязан. гос. радиотехн. акад., 2002. 10 е.: ил. — Библиогр. 4 назв. — Деп. в ВИМИ № Д8 912 от 20.05.02.
- Артемкин Д.Е. Метод реализации генетических алгоритмов обучения искусственных нейронных сетей на кластерных архитектурах /Новые информационные технологии: Межвуз. сб. науч. трудов. Рязань: РГРТА, 2002. С. 11−14.
- Артемкин Д.Е. Способы повышения эффективности объектного кода программ /Новые информационные технологии: Межвуз. сб. науч. трудов. Рязань: РГРТА, 1998. С. 8−12.
- Артемкин Д.Е., Благодаров A.B., Новиков Г. А. Методы качественного анализа и принятия решений. /Под ред. А. Н. Пылькина Рязань: РГРТА, 1998.-32 с.
- Артемкин Д.Е., Пылькин А. Н. Основы работы в системе Mathcad. Рязань: Ряз. обл. ин-т развития образования, 1999. 72 с.
- Барский А.Б. Параллельные процессы в вычислительных системах. Планирование и организация. М.: Радио и связь, 1990. — 256 е., ил.
- Богачев В.В. Метод прогнозирования одномерного временного ряда. /Применение методов вычислительной математики в экономических исследованиях. М.: МЭСИ, 1985.
- Бокс Дж., Дженкинс Г. Анализ временных рядов, прогноз и управление. -М.: Мир, 1974.
- Бриллинджер Д. Временные ряды. Обработка данных и теория. М.: Мир, 1980.-536 с.
- Буч Г. Объектно-ориентированное проектирование с примерами применения: пер. с англ. -М.: Конкорд, 1992. 519 с.
- Бэстенс Д.-Э., Ван Ден Берг В.-М., Вуд Д. Нейронные сети и финансовые рынки. Принятие решений в торговых операциях. М.: ТВП Научное издательство, 1997.
- Введение в системный анализ. /Под ред. Л. А. Петросяна. Л.: Изд-во Ленинградского университета, 1988. — 232 с.
- Вентцель Е.С. Теория вероятностей. М.: Наука, 1964. 576с.
- Вентцель Е.С., Овчаров Л. А. Прикладные задачи теории вероятностей. М.: Радио и связь, 1983. -416 с.
- Воеводин B.B. Математические модели и методы в параллельных процессах. М.: Наука, 1986.
- Галушкин А.И. Современные направления развития нейрокомпьютерных технологий в России /Открытые системы, 1997, № 5. С. 93−96.
- Галушкин А.И. Теория нейронных сетей. М.: ИПРЖР, 2000.
- Танеев P.M. Математические модели в задачах обработки сигналов. М.: Горячая линия-Телеком, 2002. 83 е.: ил.
- Горчаков A.A., Половников В. А. Одномерные методы и модели экономического прогнозирования. Ташкент: Мехмат, 1990.
- Грешилов A.A., Стакун В. А., Стакун A.A. Математические методы построения прогнозов. М.: Радио и связь, 1997. 112 с.
- Кильдишев Г. С., Френкель A.A. Анализ временных рядов и прогнозирование. М.: Статистика, 1973.
- Князевский B.C., Житников И. В. Анализ временных рядов и прогнозирование. Ростов н/Д: Рост. гос. экон. акад., 1998. 161 с.
- Коршунов Ю.М. Математические основы кибернетики. М.: Энергия, 1972.
- Лбов Г. С., Неделько В. М. Байесовский подход к решению задачи прогнозирования на основе информации экспертов и таблицы данных /Доклады РАН. Том 357. № 1, 1997. С. 29−32.
- Лукашин Ю.П. Адаптивные методы прогнозирования экономических показателей. М.: Статистика, 1979.
- Мун Ф. Хаотические колебания. М.: Мир, 1990. 312 с.
- Нейроматематика. Кн.6: Учеб. пособие для вузов /Под ред. А. И. Галушкина. М.: ИПРЖР, 2002. — 448 е., ил.
- Нейронные сети. STATISTICA Neural Networks: Пер. с англ. М.: Горячая линия — Телеком, 2001. — 182 е., ил.
- Обнаружение изменения свойств сигналов и динамических систем: Пер с англ./ М. Бассвиль, А. Вилски, А. Банвенист и др.- Под ред. М. Бассвиль, А. Банвениста. М.: Мир, 1989. — 278 е., ил.
- Розанов Ю.А. Случайные процессы. М.: Наука, 1979. 184 с.
- Рюэль Д., Такенс Ф. О природе турбулентности. 1971.
- Сарычев H.A., Сметанников А. Е., Филиппов Д. А. Принципы функционирования генетических алгоритмов /Вычислительные машины, комплексы и сети. Рязань, 1996.
- Свидетельство об официальной регистрации программы для ЭВМ № 2 002 611 873, Россия. «Система нейросетевого прогнозированиявременных рядов» (NeuroForecast) /Артемкин Д. Е. Зарегистрировано в РОСПАТЕНТ 04.11.2002, заявка № 2 002 611 652.
- Скляров В.А. Язык С++ и объектно-ориентированное программирование. Мн.: Выш. шк., 1997. — 478 с.
- СуперЭВМ. Аппаратная и программная организация/ Под ред. С. Фернбаха: Пер. с англ. М.: Радио и связь, 1991. — 320 е.: ил.
- Уоссермен Ф. Нейрокомпьютерная техника: Теория и практика: Пер. с англ. М.: Мир, 1992. — 240 е., ил.
- Феллер В. Введение в теорию вероятностей и ее приложения — М.: Мир, 1967.-498 с.
- Харман Г. Г. Современный факторный анализ. М.: Статистика, 1972.
- Хэвиленд К., Грэй Д., Салама Б. Системное программирование в UNIX. Руководство программиста по разработке ПО: Пер. с англ. — М.: ДМК Пресс, 2000.-368 е., ил.
- Четыркин Е.М. Статистические методы прогнозирования. — М.: Статистика, 1977.
- Шилдт Г. Теория и практика С++: Пер. с англ. СПб.: BHV — Санкт-Петербург, 1996. 416 е., ил.
- Шукович Г. Применение генетических алгоритмов и систем генерирующих графов для создания модулярных нейросетей /Программирование, 2002, № 1. С. 13−20.
- Шумский С.А., Яровой A.B., Лукьяница A.A. Нейросетевое предсказание финансовых временных рядов /Тезисы III рабочего семинара-совещания «Теория и приложения искусственных нейронных сетей». РФЯЦ — ВНИИТФ, Снежинск, 1−3 апреля 1998 г.
- Шустер Г. Детерминированный хаос. М.: Мир, 1988. 240 с.
- Элдер А. Основы биржевой игры. Учебное пособие для участников торгов на мировых биржах. Психология. Тактика торгов. Денежный менеджмент. М.: Издательство «Светоч», 1995. 327с.
- Эфрон Б. Нетрадиционные методы многомерного статистического анализа: Сб. статей: Пер. с англ. М.: Финансы и статистика, 1988. 263 е.: ил.
- Chorafas D.N. Chaos Theory in the Financial Markets. Probus Publishing, 1994.
- Colby R.W., Meyers T.A. The Encyclopedia of Technical Market Indicators. IRWIN Professional Publishing, 1988.
- Fogel D.B. Evolutionary Computation: Toward a New Philosophy of Machine Intelligence. Piscataway, NJ: IEEE Press, 1995.
- Grossberg S. Competitive Learning: from Interactive Activation to Adaptive Resonance. Cognitive Science, 1987, no. 11, pp.23−63.
- Hebb D. Self-organization and associative memory. Series in Information Sciences, vol.8. Berlin: Springer Verlag, 1961.
- Kohonen Т., Self-organizing Maps. Heidelberg: Springer Verlag, 1995.
- Minsky M.L., Papert S. Perceptrons. Cambridge, MA: MIT Press., 1969. (Минский M.JI., Пейперт С. Персептроны. -М.: Мир, 1971).
- Muller В., Reinhardt J. Neural networks. Springer Verlag, 1990. — 267p.
- Rosenblatt F. Principles of neurodynamics. New York: Spartan Books, 1962. (Розенблатт Ф. Принципы нейродинамики. М.: Мир, 1965).
- Rumelhart D.E., Hinton G.E., Williams R.J. Learning internal representations by error propagation. In Parallel distributed processing, vol.1, pp.318−62. Cambridge, MA: MIT Press, 1986.
- Sauer T., Yorke J.A., Casdagli M. Embedology. Journal of Statistical Physics. 1991, 65, pp.579−616.
- Stroustrup B. The C++ Programming Language. AT&T, 1994. — 691p.
- Vermuri V.R. Rogers R. D eds. Artificial Neural Networks. Forecasting Time Series. IEEE Comp.Soc.Press, 1993.
- Weigend A. Gershenfield eds. Time series prediction: Forecasting the future and understanding the past. Addison-Wesley, 1994.
- Zadeh L.A. Fuzzy Sets / Information and Control. Vol.8, 1965. № 3. P.338−353.