Метод покоординатного спуска

Выбирается начальная точка , желательно поближе к искомой точке минимума. Затем функцияограничивается на прямую, проходящую через точкуи параллельную оси первого переменного

, ,.

Ограничение функции на прямуюявляется функцией одного переменного. Находим минимум функции. Пусть этот минимум достигается в точке. Тогда полагаем,. Получаем следующее приближение.

Затем функция ограничивается на прямую, параллельную оси:. Находится точка минимума функции. Обозначим ее. Получаем новое приближение:

, ,, …,.

Процесс повторяется, пока не будет произведен сдвиг вдоль всех осей ,, …,. После этого сдвиг производится вновь вдоль первой оси, затем вдоль второй и т.д.

Вычисления обычно останавливают, если приближения, полученные после сдвига по всем осям, отличаются меньше, чем на заданную точность ε, т.е. если . Нужно учесть: гарантии, чтохорошо приближает точку минимума, мы при этом не получаем. Можно попробовать повторить процесс для другой начальной точки. Если результаты будут отличаться мало, то, скорее всего, мы действительно получили ответ.