Разработка методов моделирования параллельно-конвейерных нейросетевых структур для высокоскоростной цифровой обработки сигналов

Во многих областях техники приходится иметь дело с обработкой сигналов. К таким областям относятся радиолокация, телевидение, радиовещание, телефония, сети и телекоммуникации, средства мультимедиа, обработка цифровых сигналов, распознавание, моделирование виртуальной реальности и др.

Прежде всего, по этой причине у специалистов сохраняется устойчивый интерес к цифровой обработке сигналов (ЦОС). Эти и другие задачи требуют колоссальных объемов математических расчетов над большими массивами данных в реальном масштабе времени, выполнение которых невозможно без использования высокопроизводительных и надежных средств вычислительной техники. Все это ставит перед исследователями проблемы, связанные, прежде всего с постоянным ужесточением требований к производительности и отказоустойчивости алгоритмических и аппаратных средств ЦОС.

Анализ литературы [1,2,5,7] показывает, что вычислительные устройства, построенные на существующей элементной базе, зачастую не отвечают современным требованиям ЦОС. К подобному выводу приходим, проводя анализ алгоритмов, используемых при ЦОС. Одним из основных алгоритмов ЦОС является цифровая фильтрация, которая может быть реализована с помощью: вычисления свертки, алгоритма дискретного преобразования Фурье (ДПФ), теоретико-числового преобразования (ТЧП) [32,33,36].

Важнейшим направлением ЦОС является создание и внедрение в практику принципиально новых по производительности, отказоустойчивости, точности и другим характеристикам алгоритмических, аппаратных вычислительных структур параллельного типа. Общей фундаментальной стратегией теоретических исследований, осуществляемых в настоящее время, как в России, так и за рубежом, является применение подходов, базирующихся на активном использовании различных форм параллелелизма на алгоритмическом, программном и аппаратном уровнях [2,12,13].

Отмеченное обстоятельство стимулирует поиск нетрадиционных подходов к организации ЦОС, которые обеспечивают оптимальное отображение базовых алгоритмических структур на перспективные вычислительные архитектуры [2,5,16].

В свете вышесказанного исключительно большое значение имеют исследования, ориентированные на применение нетрадиционных способов кодирования числовой информации и соответствующих им параллельных вариантов компьютерной арифметики. Многочисленные исследования отечественных и зарубежных ученых показали, что позиционная система счисления исчерпала свои принципиальные возможности для построения высокоскоростных параллельных вычислительных структур. Поэтому актуален переход к непозиционным системам счисления, наиболее перспективной из которых является система счисления в остаточных классах (СОК), обладающая высоким уровнем естественного параллелелизма при выполнении арифметических операций, высокой точностью, надежностью, способностью к самокоррекции. Модулярные вычислительные структуры являются идеальной основой для синтеза высокоскоростных вычислительных средств. Наиболее важным свойством СОК является возможность обменных операций между точностью, быстродействием и надежностью. Избыточное кодирование в СОК обеспечивает живучесть аппаратуры даже в катастрофических ситуациях, когда поток неисправностей велик, но система будет выдавать результаты с меньшей точностью или замедленным быстродействием, но достаточным для качественного функционирования аппаратуры.

Ввиду изложенного очевидна актуальность исследований по применению СОК для реализации алгоритмов ЦОС.

Одним из путей повышения эффективности обработки информации является использование новой информационной технологии — технологии нейронных сетей. Нейросетевые методы открывают возможности использования средств вычислительной техники в различных сферах деятельности, ранее относящихся лишь к области человеческого интеллекта. Наибольшие успехи достигнуты при решении задач обработки сигналов, распознавания образов, сжатия данных и т. п.

В связи с этим необходимо исследовать вопрос о применении нейросетевых технологий в задачах ЦОС.

Кроме этого, алгоритмы арифметики СОК легко переносятся на нейросетевую структуру и эффективно реализуются на нейрокомпьютере. Вследствие указанного возникает принципиальная возможность реализовать преимущества модулярной арифметики в нейроподобных структурах. Таким образом, предлагается соединить возможности непозиционных кодов и нейросетевых алгоритмов для построения высокопроизводительных отказоустойчивых систем.

В настоящее время специалист в области ЦОС может обладать достаточно мощным арсеналом для решения задач проектирования ЦОС в базисе ПЛИС.

ПЛИС устройства в последнее время породили интерес для систем ЦОС из-за их способности реализовать обычные решения при поддержке гибкости в программировании устройств. Данные устройства предоставляют альтернативу использованию ЦОС-процессоров, поскольку благодаря своей гибкости способны обеспечить лучшую производительность по сравнению с ЦОС-процессорами, умеренную стоимость разработки, при сохранении возможности программируемости систем.

По этой причине исключительно актуальными являются исследования, направленные на применение СОК-ПЛИС для задач ЦОС, важное значение имеют математические модели в базисе ПЛИС.

Объектом диссертационного исследования является структура, базирующаяся на совместном использовании СОК-ПЛИС для задач ЦОС.

Предметом диссертационного исследования являются методы моделирования параллельно-конвейерных вычислений в базисе ПЛИС.

В данной работе исследуются математические модели и алгоритмы СОК, представленные в базисе ПЛИС для решения задач ЦОС.

Цель диссертационной работы состоит в повышении пропускной способности (производительности) задач ЦОС при сохранении высокой надежности.

Научная задача исследований состоит в разработке методов моделирования параллельно-конвейерных нейросетевых структур и синтезе на их основе основных блоков процессора для ЦОС, функционирующего в СОК, в базисе ПЛИС.

Для решения поставленной общей научной задачи была произведена ее декомпозиция на ряд частных задач:

1. Проведение аналитического обзора вычислительных структур и инструментов в СОК, используемых при ЦОС.

2. Разработка математических методов моделирования вычислительных структур устройств, функционирующих в системе остаточных классов.

3. Разработка нейросетевых алгоритмов и структуры устройств вычисления и коррекции ошибок в системе остаточных классов.

4. Экспериментальные исследования математических методов моделирования устройств ЦОС в базисе ПЛИС с применением СОК.

Методы исследования.

Для решения поставленных в работе научных задач использованы методы теории чисел, алгебры, комбинаторики, теории вероятностей, нейронных сетей, теории надежности, математического моделирования, нейроматематики.

Достоверность и обоснованность полученных в диссертационной работе теоретических результатов и формируемых на их основе выводов обеспечивается строгостью проводимых математических доказательств. Справедливость выводов относительно эффективности предложенных моделей и методов подтверждена математическим моделированием в базисе ПЛИС.

На защиту выносятся следующие основные положения:

1. Принцип совместимости системы остаточных классов и программируемых логических интегральных схем при решении задач цифровой обработки сигналов с высокой производительностью.

2. Математические методы моделирования основных операций вычисления и преобразования данных, представленных в системе в остаточных классах.

3. Нейронная сеть прямого распространения для обработки данных в конечных кольцах.

4. Архитектура адаптивной параллельно-конвейерной нейронной сети для коррекции ошибок в модулярных нейрокомпьютерных системах.

5. Математические методы и структуры вычислительных параллельно-конвейерных устройств в базисе ПЛИС с применением СОК. Комплекс программ моделирования основных блоков высокоскоростного процессора цифровой обработки сигналов, функционирующего в СОК в базисе ПЛИС.

Научная новизна работы заключается в следующем:

1. Разработке принципа совместного использования системы остаточных классов и ПЛИС при решении задач ЦОС.

2. Разработке метода и нейронной сети прямого распространения для обработки данных в конечных кольцах, которая является базовой при реализации вычислений и преобразований информации, представленной в СОК.

3. Синтезе адаптивной параллельно-конвейерной нейронной сети для коррекции ошибок в модулярных нейрокомпьютерных системах.

4. Создании и реализации моделей параллельно-конвейерных базовых устройств суммирования и умножения для минимально-избыточных модулярных процессоров цифровой фильтрации, реализованных в базисе ПЛИС.

5. Разработке и реализации модели процессора ЦОС в базисе ПЛИС, функционирующего в СОК.

6. Создании комплекса программ для компьютерного моделирования базовых вычислительных структур, представленных в непозиционных и позиционных системах счисления.

7. Проведении сравнительной оценки результатов моделирования традиционных и предложенных моделей вычислительных структур, реализованных в базисе ПЛИС.

Практическая значимость.

Адекватность математических моделей модулярной арифметики и нейронных сетей, согласованность математических моделей нейронных сетей и алгоритмов ЦОС позволяют строить принципиально отличные по структурной организации, производительности, точности и отказоустойчивости ЦОС-процессоры. Использование базиса ПЛИС позволяет в полной мере реализовать преимущества СОК и нейросетевых технологий, обеспечивая параллельность вычислений, что позволило обеспечить более высокое быстродействие модульных операций, чем в ПСС для той же разрядности данных. Предложенные методы перевода из СОК в ОПСС и перевода из ПСС в СОК позволили реализовать устройства преобразования, функционирующие с одной тактовой частотой вместе с устройствами, реализующими модульные операции, таким образом, не являясь «узким» местом при построении процессора ЦОС, функционирующего в СОК.

Реализация результатов.

Теоретические и практические результаты диссертационной работы использованы при выполнении НИР «Исследование возможности использования перспективных классов компьютеров для обработки сигналов в системах связи военного назначения» шифр «Витязь-5», руководитель доктор технических наук, профессор Червяков Н. И., исходящий номер 60/7/151 СВИС от 11.11.2005, реализованы в ООО «Моби», а также в учебном процессе СевКавГТУ и ПГАТИ.

В первой главе на основе анализа вычислительных структур, используемых при ЦОС, обоснована целесообразность применения СОК в ЦФ.

Приведены и проанализированы основные алгоритмы, используемые при ЦОС, среди них алгоритм вычисления свертки, алгоритм дискретного преобразования Фурье. Показано, что реализация алгоритмов традиционными вычислительными структурами затруднена из-за больших временных и аппаратных затрат.

На основе проведенного анализа сделаны выводы о том, что усовершенствования программно-аппаратных комплексов не позволяют обеспечить необходимую производительность.

В качестве выхода из создавшейся ситуации для реализации устройств ЦОС предлагается использовать СОК.

В качестве базиса моделирования и разработки устройств ЦОС, функционирующих в СОК, предлагается использовать ПЛИС. Проведен обзор современных ПЛИС и показано, что в настоящее время существует возможность использовать ПЛИС в качестве базиса разработки процессора ЦОС, функционирующего в СОК, более того, приведено обоснование выбора ПЛИС как альтернативы специализированным процессорам ЦОС.

Проведен обзор систем моделирования цифровых устройств в базисе.

ПЛИС.

Результатом первой главы является постановка задачи исследования.

Вторая глава посвящена разработке математических основ непозиционного кодирования.

Принципиальная возможность применения СОК в вычислительных алгоритмах обуславливается наличием изоформизма между математическими операциями над целыми числами и соответствующими операциями над системой целых неотрицательных остатков по отдельным модулям. Причем операции сложения, вычитания, умножения обладают свойствами независимости образования разрядов результата и поэтому называются модульными. Обоснована возможность выполнения этих операций за один такт при табличном построении арифметики.

Анализу и проработке подвержены немодульные операции преобразования: преобразование из ПСС в СОК, преобразование из СОК в ОПСС, преобразование из СОК в ПСС на основе промежуточного перехода к ОПСС. Рассмотрены методы моделирования и реализации этих операций. Кроме того, проанализирована эффективность выполнения операций в СОК в зависимости от выбора оснований, рассматриваются возможности улучшения некоторых алгоритмов, влияние на диапазон представления, а также на возможность более рационального использования ресурсов базиса разработки, при специальном подборе оснований.

Результатом во второй главе являются готовые модели разработки устройств преобразования, а также математическая модель для исследования корректирующих кодов СОК.

В третьей главе обосновывается возможность создания специализированного высокопроизводительного нейропроцессора для решения задач ЦОС, функционирующего в СОК, Установлено семантическое сходство математической модели нейронной сети и математической формы записи Китайской теоремы об остатках, что позволило обнаружить наличие связей между построением НС и системой в остаточных классах. Как следствие, выявилась необходимость, с одной стороны, использования СОК в нейрокомпьютерных вычислительных средствах для повышения отказоустойчивости и ускорения нейрообработки, а с другой стороны, эффективная реализация СОК может быть достигнута за счет использования адаптивных свойств самих нейронных сетей.

Разработана модель нейронной сети конечного кольца, которая является базовой структурой для построения основных элементов нейрокомпьютера, таких как умножитель по модулю, сумматор по модулю, из которых в свою очередь, строятся другие блоки нейрокомпьютера.

Разработана модель НСКК для коррекции ошибок в нейрокомпьютерах. Показан выигрыш в быстродействии параллельно-конвейерного обнаружения, локализации и исправления ошибок, поскольку он значительно уменьшает время по сравнению с известными реализациями. Это преимущество объясняется совершенно параллельным принципом обработки данных и соответствующей организацией нейронных сетей.

Научным результатом этой главы можно считать обоснование возможности, и даже естественной необходимости, учитывая наличие разработанных алгоритмов и существующих аппаратных средств, создания специализированного высокопроизводительного нейропроцессора, функционирующего в системе в остаточных классах, для решения задач ЦОС.

Четвертая глава посвящена моделированию и реализации основных блоков нейропроцессора: устройства умножения, устройства сложения, устройства преобразования из ПСС в СОК, устройства преобразования из СОК в ОПСС, устройства преобразования из СОК в ПСС, на основе ранее разработанных моделей, в базисе ПЛИС.

Проведен сравнительный анализ производительности и аппаратных затрат на реализацию основных блоков процессора, функционирующего в СОК, по сравнению с аналогичными блоками процессора, функционирующего в ПСС. Рассмотрены различные варианты построения блоков процессора, функционирующего в СОК. Проведен их сравнительный анализ. Выявлены и показаны ограничения, накладываемые базисом разработки (ПЛИС) на структуру модели реализации блоков модулярного нейрокомпьютера.

На основе разработанных блоков построена структура простейшего нейропроцессора, функционирующего в СОК, и показана возможность его работы.

В заключении обобщены итоги и результаты проведенных исследований.

Приложения содержат графический материал проводимых разработок и моделирования.

Апробация работы.

Основные результаты работы были представлены в журнале «Инфокоммуникационные технологии» (Самара, № 4, № 5, 2004 г.), на 48 научно-методической конференции преподавателей и студентов «Университетская наука — региону» СГУ (2003 г.), на НТК СГУ, на НТК СВИС, а также на постоянно действующем межвузовском семинаре «Моделирование и нейросетевые технологии» (СГУ, Ставрополь, 2003;2004 гг.), получены 2 решения о выдаче патента на изобретение.

Основные результаты по четвертой главе:

1. Моделированы и синтезированы на базе ПЛИС устройства суммирования и умножения, как базисных операций, в СОК с использованием различных подходов к их построению с точки зрения использования аппаратных средств (на логике, с использованием блочной памяти). Проведена сравнительная оценка скорости и использования ресурсов построенных сумматоров и умножителей, в зависимости от способа их построения и величины основания СОК. Проанализированы ограничения, накладываемые используемой ПЛИС и способы их преодоления или компенсации.

2. Проанализирована возможность использования двухступенчатой СОК для построения устройств выполнения базисных операций в СОК. Показано, что использование двухступенчатой СОК, с одной стороны позволяет увеличить скорость выполнения операций по сравнению с одноступенчатой, а с другой стороны ее применение сильно ограничено, поскольку требует выполнения в определенные моменты времени операции по модулю с числами, значительно превышающими модули СОК. Поэтому ее использование в таком виде как предлагалось неэффективно.

3. Из анализа результатов моделирования и синтеза устройств для выполнения базисных операций можно сделать вывод, что традиционный подход для построения устройств на базе логических ячеек ПЛИС, функционирующих в СОК, оказывается неэффективным. Поэтому необходимо использовать исключительно табличные схемы на основе блочной памяти ПЛИС и параллельные способы обработки при построении устройств, функционирующих в СОК. Результаты моделирования вычислительных устройств в СОК показали, что они имеют более высокое быстродействие по сравнению с вычислительными устройствами в ПСС, и более гибки в возможностях реконфигурации и перепрограммирования. Так, для 16-разрядных входных двоичных чисел: скорость работы сумматора в СОК в 1.04 раза выше чем в ПСС, скорость работы умножителя в СОК в 2.27 раза выше чем в ПССдля 64-разрядных входных двоичных чисел скорость работы сумматора в СОК в 1.31 раза выше чем в ПСС, скорость работы умножителя в СОК в 3.26 раза выше чем в ПСС. С увеличением разрядности входных чисел преимущество устройств в СОК будет возрастать.

4. При моделировании и синтезе на базе ПЛИС выработан еще один подход к выбору оснований СОК с точки зрения рационализации использования имеющихся аппаратных ресурсов (в частности, способа организации блочной памяти на ПЛИС), который позволит, не учитывая прочие условия, значительно снизить затраты на аппаратные ресурсы, одновременно максимально увеличив диапазон представления системы. Такой подход необходимо учитывать наряду с другими требованиями к выбору оснований СОК, при реализации на ПЛИС.

5. Промоделировано и синтезировано устройство преобразования из ПСС в СОК, с использованием разработанных ранее устройств суммирования в СОК. Использована структура НСКК, описанная в главе 3. Показано, что устройство преобразования из ПСС в СОК состоит только из модульных операций и его быстродействие ограничено скоростью работы сумматора в СОК по соответствующему основанию. Преобразования по модулям СОК выполняются параллельно и независимо друг от друга. Показано, что количество тактов для выполнения преобразования зависит от разрядности входного числа, а при конвейерной организации вычислений преобразование выполняется за 1 такт.

6. Промоделировано и синтезировано устройство преобразования из СОК в ОПСС, с использование разработанных ранее устройств суммирования и умножения в СОК. Использована структура НСКК, описанная в главе 3. Показано, что устройство преобразования из СОК в ОПСС состоит только из модульных операций и его быстродействие ограничено скоростью работы сумматоров и умножителей в СОК по соответствующему основанию. Показано, что количество тактов для выполнения преобразования зависит как от разрядности входного числа, так и от выбора оснований СОК, а так же от их набора. Преобразование по каждому из модулей зависит от результат преобразования по предыдущим модулям, поэтому устройство преобразования из СОК в ОПСС является значительно более сложным из всех рассмотренных и требует значительного количества аппаратных ресурсов и времени на разработку для конкретной системы оснований СОК. Однако, его быстродействие определяется скоростью выполнения модульных операций, а при конвейерной организации вычислений преобразование происходит тоже за 1 такт.

7. Промоделировано и синтезировано устройство преобразования из СОК в ПСС. Показано, что быстродействие преобразователя ограничено операциями суммирования в ПСС, и оно значительно ниже устройств, реализуемых только с использованием модульных операций. Его целесообразно использовать только при выводе результатов.

8. Показано, что возможно построение всех вышеописанных устройств на базисе имеющихся ПЛИС, ресурсов которых вполне достаточно для их реализации.

9. Разработана модель нового процессора в СОК. Показано существенное преимущество в быстродействии по сравнению с известными процессорами ЦОС при сравнительно небольшой стоимости.

На основе анализа моделирования, синтеза и реализации вышеописанных устройств, предназначенных для построения процессора, функционирующего в СОК, сделан вывод о том, что применение СОК вместе с использованием нейросетевых алгоритмов, параллельное построение вычислений, реализация с использованием табличных схем, принцип конвейерной обработки — все это вместе дает возможность построить высокопроизводительный процессор, функционирующий в СОК, производительность которого в разы превышает производительность процессора, функционирующего в ПСС, при одинаковых аппаратных средствах. Кроме того, этот разрыв в производительности будет увеличиваться при увеличении разрядности обрабатываемых данных.