Исследование оптимальных планов эксперимента для нелинейных по параметрам регрессионных моделей

Одной из важнейших методологий исследования объектов и систем различной природы является построение и анализ регрессионных моделей на основе экспериментальных данных. При этом организация эксперимента играет существенную роль для повышения точности результатов при ограниченных ресурсах. Оптимальная организация эксперимента изучается теорией планирования регрессионных экспериментов, которая интенсивно развивается с середины 60-х годов 20-го века.

Эта теория была инициирована работами Дж. Элвинга, Г. Чернова, Дж. Кифера и Дж. Вольфовица, а в ее развитие значительный вклад внесли российские ученые В. В. Налимов, Г. К. Круг, В. В. Федоров, С. М. Ермаков, М. Б. Малютов, В. П. Козлов, Е. В. Седунов и многие другие. В рамках этой теории весьма полно изучены линейные по параметрам регрессионные модели. Однако во многих экспериментальных исследованиях существенную роль играют нелинейные по параметрам модели. Трудность исследования этих моделей заключается в зависимости асимптотической ковариационной матрицы оценок от истинных значений параметров. Для преодоления этой трудности используются известные в статистике подходы: локально оптимальный, минимаксный и байесовский. Возникающие в этих подходах задали построения оптимальных планов являются весьма сложными экстремальными задачами. До недавнего времени аналитическое решение таких задач оказывалось возможным лишь для простейших моделей с одним или двумя параметрами.

В работах В. Б. Меласа ([29], [5]) был предложен подход, который открывает перспективы значительно более полного исследования таких задач. Этот подход назван функциональным подходом. Его основная идея состоит в исследовании опорных точек оптимальных планов как неявно заданных функций вспомогательных величин. В работах В. Б. Меласа и А. Н. Пепелышева (см. монографию [30]) функциональный подход был развит для построения локально оптимальных и максиминно эффективных планов. Настоящая работа посвящена развитию функционального подхода для байесовских планов и сравнительному исследованию всех основных типов планов (локально оптимальных, максиминно эффективных, байесовских и планов в равноотстоящих точках).

Диссертация посвящена построению и исследованию оптимальных планов эксперимента для нелинейных по параметрам регрессионных моделей.

Планом эксперимента называется дискретная вероятностная мера которая определяется таблицей.

Носитель плана состоит из точек, принадлежащих множеству планирования X) а весовые коэффициенты удовлетворяют условиям > 3 о, Ег. ю>.-=1.

Задача, построения оптимального плана состоит в нахождении экстремума (минимума или максимума) величины ф (м®), (1) где Ф— некоторая заданная функция (критерий оптимальности), М (£) — информационная матрица плана Для нелинейной по параметрам функции регрессии г]{х)в)1 информационная матрица имеет вид то где д.

М) = —/ = 1,. 0 = (01,.30т)г, '.

О*- истинное значение вектора параметров (см. [2]).

В общем случае ?* - решение задачи (1) — зависит от которое априорно не известно. Чтобы преодолеть это противоречие существует несколько подходов: локально-оптимальный, байесовский и максиминный.

План называется локалыю-оптимальным относительно вектора параметров в', если он является решением задачи Ф (М (?, в')) —" эир (см. [3]).

Однако часто локально оптимальный подход оказывается неудовлетворительным, так как оптимальный план для в' может быть неудачным для в*. Для характеристики качества плана вводится понятие эффективности гГт оу (*№Ш Ф (М (?*(9), 0))]'.

Чтобы в результате получить план, который не зависел бы от фиксированных значений параметров и обеспечивал хорошие результаты планироЕ вания при любом в из некоторого заданного множества, исходную задачу заменяют на максиминный или байесовский аналог (см. [32], [30]).

• Максиминный: где О, — некоторый компакт в Кт, априорно задано распределение Р (40), ?*(#) — локально-оптимальный план.

Во введении приведен обзор современного состояния предметной области, сформулированы цели исследования и кратко изложены результаты.

В первой главе дается краткий обзор основных понятий и методов теории оптимального планирования регрессионных экспериментов, описываются модели, рассмотренные в диссертации, проводится обзор литературы.

В первом параграфе этой главы формулируются базовые определения и описываются основные методы построения оптимальных планов.

Во втором параграфе формулируются теоремы эквивалентности для байесовских и максиминных планов, которые являются основным аппаратом проверки оптимальности планов.

В третьем параграфе описываются модели, которые рассмотрены в диссертации:

• Модель Михаэлиса — Ментена:

• Байесовский:

3).

0, х ф, в) =, ^ е [0,с/2], 02 > 0.

На практике такая модель используется, в частности, для описания скорости протекания реакции: в — максимальная скорость протекания реакции, х — концентрация вещества.

• Модель кинетики второго порядка.

Более сложная модель, применяемая в экспериментальной химиимодель кинотики второго порядка:

Ф^) = «Т ^ М2]> > 0.

2 + и%Х + Хл.

• Модель в виде алгебраической суммы двух экспонент: ф, 0) = 0хе-в*х + 02е~в*х, х е [0, оо), вА > вг > 0.

• Модель экспоненциального роста. ф, 0) = Ох + в2е~взХ, х е [0, оо), в3> 0.

Вторая глава посвящена описанию методологии фукнкционального подхода и его обоснованию для I)-критерия.

В первом параграфе даются основные определения и предположения метода.

Во втором параграфе описывается функциональный подход. Основной идеей является изучение вектора опорных точек и весов г оптимального плана £г как неявной функции некоторого вспомогательного параметра г, которая задается уравнением д (т, г) = 0, где д (т, ?) — вектор функция состоящая из частных производных <�р (т, г)^, </?(т, г) — критерий оптимальности. Это уравнение называется основным уравнением.

Для произвольной (скалярной, векторной или матричной) вещественно аналитической функции обозначим.

Ф (о) = Ф (*ь), = п= 1,2,. п к.

Следующая теорема является инструментом обоснования функционального подхода:

Теорема 1 Пусть Н открытое множество Мт1, т? Н, г Е [2:1,22], ?1 < 22 произвольные вещественные числа, а <�р (т, 2) вещественная аналитическая функция на множестве Н х [21,22]. Введем обозначения: д 4 то" 1 1 ъ= д2 го1.

При этих условиях если для некоторой точки (т (о), 2о)? Н х [21,22] выполняется равенство д (ц 0),*)) = О и det К (г (о), 2о) ф 0- то:

I В окрестности существует единственная непрерывная функция т (г) такая, что т (го) = То и д (т (г), 2) = 0. Эта функция является вещественной аналитической в окрестности 2о.

II Имеют место следующие рекуррентные формулы:

Т (п+1) = -[У~1](д{т<�п>^), г)){п+1), 71 = 0,1,., (4) 7 где V = К (т (0), 2ь).

Первая часть этой теоремы есть известная в функциональном анализе теорема о неявном отображении, вторая часть доказана в работе ([30]). Формулы (4) называются основными рекуррентными формулами, они лежат в основе вычисления коэффициентов разложения опорных точек и весов оптимальных планов в ряд Тейлора.

Методология построения оптимальных планов включает в себя выбор класса планов, в котором ищется оптимальный план, выбор семейства априорных вероятностных мер и применение теоремы 1.

Обоснование использования этой теоремы проводится для наиболее важных Ии Ь-критериев оптимальности. Первым рассмотрен И-критерий, который требует максимизации величины.

Решение задач оптимизации (2) и (3) ищется в классе планов с т опорными точками, одна из которых совпадает с границей множества х? а весовые коэффициенты равны между собой где с1 — граничная точка Такие планы называются насыщенными планами. Они представляют интерес, поскольку для многих моделей локально 1)-оптимальные планы имеют такой вид (см. [30]).

Одна из трудностей байесовского подхода состоит в выборе априорной меры. Мы исходим из того, что этот выбор можно рассматривать как эвристический прием, позволяющий построить планы, эффективные для оце.

П •¦¦ тт-1 1 /т. 1 /т 1 /т нивания векторов в, истинное значение которых принадлежит некоторому множеству.

Рассмотрим множество Г2 следующего вида:

П = = Пг© = {& = (&!. ., 9т) т: (1-г)а <вг< а/(1-г), г = 1,., ш}.

Здесь точка с= (с,., стп) т может рассматриваться как приближение вектора 0*, а г как относительная погрешность. В качестве априорного распределения рассмотрим равномерное распределение на Так как Г2(0) = {с}, в качестве начального приближения то при построении разложения используется локально оптимальный план, который находится численно.

В третьем параграфе изучается невырожденность матрицы Якоби основной системы и приводятся условия выполнения теоремы 2.1.1:

• Функция ?/(.т, в) является аналитической на [с/1, .

• В окрестности точки с существует локально оптимальный план вида / П. Тт-1 1 /т. 1 /т 1/гп.

• Функции /г-(ж, 9), г = 1,., т при любом фиксированном 9? О, образуют обобщенную систему Чебышева второго порядка на интервале Х.

В главе 3 исследуются оптимальные планы эксперимента для 1)-критерия.

В первом параграфе рассматривается модель Михаэлиса — Ментена. Доказано, что эта модель удовлетворяет условиям теоремы 2.1.1. Локально оптимальные и максиминные планы для данной модели найдены в явном виде. Поэтому разложения в ряд Тейлора опорных точек строятся для байесовского плана. Далее изучается эффективность построенных планов с помощью численных расчетов.

Во втором параграфе исследуются 1)-оптимальиые планы для модели кинетики второго порядка. Доказывается, что опорные точки байесовских оптимальных планов являются аналитическими функциями параметра и строятся разложения этих функций в ряд Тейлора.

В третьем и четвертом параграфах исследуются аналитические свойства байесовских оптимальных планов для моделей экспоненциального вида. Эффектиновсть методологии демонстрируется сравнением найденных планов с планами в равноостоящих узлах и планами, численно найденными в литературе. Оказывается, что байесовские планы требуют приблизительно в два раза меньше наблюдений для достижения заданной точности, чем планы в равноотстоящих узлах.

В главе 4 на основе функционального подхода исследуются оптимальные планы для ¿—критерия, требующего минимизации величины ЬлЬМ¹^, в) и для ¿-/-критерия, требующего максимизации минимального собственного числа информационной матрицы. Эти критерии часто более предпочтительны на практике, чем /^-критерий. Планы, построенные на основе различных критериев, сравниваются по величине дисперсии оценок индивидуальных параметров.

В первом параграфе формулируется теорема эквивалентности, изучается невырожденность матрицы Якоби основного уравнения, формулируются достаточные условия для применения теоремы 1 к изучению ¿-/-оптимальных планов.

Во втором и третьем параграфах рассматриваются модель Михаэлиса — Ментена и модель экспоненциального роста. Проверяются условия выполнения теоремы 1. Обосновывается выбор весовой матрицы Ь. Строятся разложения опорных точек и весов локально-оптимальных, байесовских и максиминных планов в ряд Тейлора. Показывается, что байесовские планы менее чувствительны к изменению г и более эффективны, чем планы в равноотстоящих узлах. Численно оценивается максимальное значение г, при котором насыщенный план, построенный на основе разложения, является оптимальным в классе планов с произвольным числом точек.

В четвертом параграфе изучены Е'-оптимальиые планы для модели Михаэлиса Ментена. Доказана аналитичность опорных точек и весов оптимальных планов как функций величины г и построено их разложение в ряд Тейлора.

В заключении перечислены основные результаты диссертации.

Заключение

.

Сформулируем основные результаты диссертации.

1. Разработана методология построения и исследования байесовских оптимальных планов для нелинейных по параметрам регрессионных экспериментов на основе функционального подхода.

2. Для случаев Пи Ькритериев оптимальности дано строгое математическое обоснование применения методологии для ряда нелинейных по параметрам моделей дробно-рационального и экспоненциального вида. Для этих моделей впервые построены разложения опорных точек и весов байесовских оптимальных планов в ряд Тейлора по величине относительной ошибки в задании параметров.

3. Для модели экспоненциального роста и модели кинетики второго порядка впервые изучены аналитические свойства опорных точек и весов максиминно эффективных планов.

4. Впервые проведено сравнительное исследование эффективности всех основных типов планов для нелинейных по параметрам моделей. Показано, что байесовские планы являются менее чувствительными к изменению параметров и позволяют значительно уменьшить количество экспериментов, необходимое для достижения заданной точности, по сравнению с планами в равноотстоящих точках.