Метод крутого восхождения

Метод крутого восхождения предполагает, что функция отклика =f (х1,х2,…, хk) непрерывна, имеет непрерывные частные производные первого порядка на множестве GR — k-мерному евклидову пространству и унимодальна, т. е. в области G имеет единственный экстремум.

Основу метода отыскания экстремума функции =f (х1,х2,…, хk) составляет метод подъема (или спуска) по поверхности функции. При этом находится последовательность точек Х0, Х1,…, Хm в области G, таких, что f (Х0)>f (Х1)>…>f (Хm)>… (или f (Х0)<…<…).

Градиентным называется метод, согласно которому точка Хm+1 выбирается из условия [13] Хm+1=Хm+gradf (Хm), где.

— вектор-градиент функции f (х1,х2,…, хk) в точке;

— некоторая скалярная величина, > 0.

Различие градиентных методов состоит в разных методиках выбора величин. Рассмотрим суть крутого восхождения (спуска), иллюстрация которого приведена на рис. 6.4. На этом рисунке при К=2, задавая различные значения С из уравнения f (х1,х2)=С, получены совокупности линий уровня.

Пусть Х0 — начальная точка при поиске максимума функции отклика =f (х1,х2,…, хk). Вектор-градиент в точке Х0 определится.

.

где .

При условии, что все частные производные не равны нулю (точка Х не является стационарной), направление вектор-градиента в этой точке будет направлением наибыстрейшего возрастания функции.

Затем делается шаг в направлении градиента с целью поиска точки Х1, в которой значение функции будет наибольшим.

Рис. 6.4.

Новая точка Х1 определяется из решения уравнения при предположении, что функция унимодальна в направлении градиента.

.

В точке Х1 функция f (Х1) будет максимальна в направлении градиента из точки Х0, т. е.

.

Затем вычисляется grad f (Х1) и делается шаг в его направлении по поверхности f (Х) с целью поиска точки Х2 и т. д.

В общем случае при наискорейшем подъеме координаты очередной точки Хm+1 находят при решении уравнений.

причем, .

В векторной форме Хm+1=Хm+mgradf (Хm).

Так как f (Хm+1)>f (Хm), то последовательность {Хm} сходится к точке максимума функции отклика.

Параметр m (m=1,2,…) находится из решения одномерной задачи максимизации [15].

.