3.2. Методы решения нелинейных систем уравнений
Для уточнения корней систем нелинейных уравнений наиболее часто используют методы итерации (метод простой итерации и метод Зейделя) и метод Ньютона. Как и в случае уточнения корней одного нелинейного уравнения, для систем нелинейных уравнений требуется определение хорошего начального приближения (отделение корня), гарантирующего сходимость метода и высокую скорость ходимости. Для системы двух уравнений это может быть сделано графически, но для систем высоких порядков удовлетворительных методов отделения корней не существует.
Метод простой итерации
Систему нелинейных уравнений запишем в векторной форме
f(x) = 0 (3.10)
где - вектор-столбец неизвестных,- вектор-столбец функций. В методе простой итерации система (3.10) приводится к эквивалентной системе видагдеили
(3.11)
Полагая известным начальное приближение для корня построим итерационный процессили
(3.12)
Рассмотрим поведение вектора погрешности
полагая, что погрешность – величина малая. Для компонент вектора x можем записать
Полагая наличие у функций непрерывных частных производных и используя соотношениеможем (см.(3.4)), используя разложение в ряд, получить
, (3.13)
Из (3.13) следует, что в методе простой итерации вектор погрешности испытывает линейное преобразование, или, иначе, метод имеет первый порядок сходимости.
Если обозначить матрицу производных системы функций для(МАТРИЦУ ЯКОБИ) ЧЕРЕЗ
то систему (3.13) можно переписать в виде
(3.14)
Достаточное условие сходимости итерационного процесса (3.12) формулируется следующим образом: если какая-либо норма матрицы согласованная с рассматриваемой нормой вектораx, меньше единицы, то метод итераций сходится, Условие сходимости есть обобщение на случай нелинейной системы условия (3.5) для одного уравнения.
Метод итераций Зейделя
Нередко сходимость метода простой итерации можно улучшить, если вновь вычисленные значения компонент вектора неизвестных немедленно включить в расчет. В этом случае итерационный процесс имеет вид
Сходимость этого процесса также линейная. Как и при решении систем линейных уравнений, может быть поставлена задача об отыскании на каждой итерации оптимальной последовательности уточнения компонент вектора решения. Удовлетворительных методов построения оптимальной последовательности нет. На практике иногда используется упорядочение неизвестных по убыванию разности их значений на двух последовательных итерациях.
Метод Ньютона
Основная идея метода Ньютона – решение системы нелинейных уравнений f(x) = 0 - сводится к решению последовательности линейных задач, дающих в пределе решение исходной задачи. Линейная задача получается путем выделения из нелинейных уравнений главной линейной части.
Рассмотрим погрешность вычисления корня на k-й итерации гдеПолагая, что функциинепрерывны и дифференцируемы в окрестности корня и) – малые величины, разложимв ряд Тейлора, сохранив лишь линейную часть разложения. Получим систему уравнений
(3.15)
линейную относительно компонент вектора погрешностей. Если использовать эту систему для отыскания компонент вектора погрешностей, то в силу приближенности системы (3.15) – оставлена лишь линейная часть – найденное значение вектора погрешности будет лишь приближенным, Тогда при подстановке полученного решения в соотношение будет иметь вместо приближенное уточненное значение корня, которое обозначим через Используя запись системы (3.15) в виде
где - матрица производных системы функций(матрица Якоби), можем записать итерационный процесс для нахождения вектораx:
где - матрица, обратная матрице Якоби. Представленная формула является обобщением формулы (3.7) на случай систем нелинейных уравнений. Уточненное значение вектора может быть вновь использовано для получения следующего приближения к корню, что приводит к итерационному процессу. Заметим, что в большинстве случаев предпочтительным является не вычисление обратной матрицыа получение каким-либо методом решениялинейной системы (3.15) и вычисление нового приближенного значения по соотношению
Итерационный процесс (3.15) сходится, если определитель матрицы отличен от нуля, т. е.Требуется, однако, хорошее отделение корня, но достаточное условие сходимости метода слишком громоздко, чтобы им можно было воспользоваться на практике.
На каждой итерации метода Ньютона требуется вычислять матрицу производных и решать систему линейных уравнений (3.15). Можно попытаться уменьшить объем вычислений за счет отказа от вычисления матрицына каждой итерации и использования на всех итерациях постоянного значениявычисленного по начальному приближению. Напомним, что при этом может быть дополнительно существенно уменьшен объем вычислений, если для решения последовательности линейных систем использовать алгоритм, позволяющий выполнить преобразование матрицык верхней треугольной только один раз. Следует иметь в виду, однако, что, во-первых, указанная модификация метода Ньютона гарантирует лишь линейную сходимость итераций (против квадратичной в окрестности корня в методе Ньютона) и, во-вторых, константа в линейной зависимости погрешности при неудачном выборе начального приближения может оказаться весьма большой и сходимость будет медленней. Таким образом, увеличивается число итераций, необходимое для достижения заданной точности, и уменьшение общего объема вычислений не гарантировано.
Ускорение сходимости по Эйткену
Предположим, что отношение есть величина постоянная и неизменная в процессе итераций. Тогда
Из этого соотношения следует, что
Полученный таким образом корень можно принять за следующее приближенное значение Предложенный способ пригоден как для одного нелинейного уравнения, так и для систем нелинейных уравнений. Это предложение означает, что метод применим к процессам с линейной сходимостью (простые итерации), но неприменим к методам Ньютона, секущих, парабол и т. п.
Лекция № 9
4. МЕТОДЫ ПРИБЛИЖЕНИЯ И АППРОКСИМАЦИИ ФУНКЦИЙ
- Министерство образования и науки Российской Федерации
- Оглавление
- Лекция № 1
- 1. Особенности математических вычислений, реализуемых на эвм: теоретические основы численных методов: погрешности вычислений
- 1.1. Дискретизация
- 1.3. Погрешность
- 1.4. Устойчивость и сложность алгоритма (по памяти, по времени)
- 2.1. Основные понятия линейной алгебры. Классификация методов решения
- 2.2. Метод исключения Гаусса. Вычисление определителя и обратной матрицы методом исключения
- 2.3. Численные методы решения линейных уравнений
- 2.3.1. Метод прогонки
- 2.3.2. Итерационные методы
- 3.1. Решение нелинейных уравнений
- 3.1.1. Метод половинного деления
- 3.1.2. Метод простой итерации
- 3.1.3. Метод Ньютона
- 3.1.4. Метод секущих
- 3.1.5. Метод парабол
- 3.2. Методы решения нелинейных систем уравнений
- 4.1.Функция и способы ее задания
- 4.2 Основные понятия теории приближения функций
- 4.3 Интерполяция функций
- 4.3.1 Интерполирование с помощью многочленов
- 4.3.2 Погрешность интерполяционных методов
- 4.3.3 Интерполяционный многочлен Лагранжа
- 4.3.4 Конечные разности
- 4.3.5 Интерполяционные многочлены Стирлинга и Бесселя
- 4.3.6 Интерполяционные многочлены Ньютона
- 4.3.7 Разделенные разности
- 4.3.8 Интерполяционный многочлен Ньютона для произвольной сетки узлов
- 4.3.9 Итерационно-интерполяционный метод Эйткина
- 4.3.10 Интерполирование с кратными узлами
- 4.4 Равномерное приближение функций. Приближение методом наименьших квадратов
- 5.1. Численное дифференцирование
- 5.2. Формулы численного интегрирования
- 5.3. Решение обыкновенных дифференциальных уравнений. Метод конечных разностей для численного решения дифференциальных уравнений
- Интегрирование дифференциальных уравнений с помощью степенных рядов
- 5.4. Преобразование Фурье
- 5.4.1 Применения преобразования Фурье
- 5.4.2 Разновидности преобразования Фурье Непрерывное преобразование Фурье
- Ряды Фурье
- Дискретное преобразование Фурье
- Оконное преобразование Фурье
- Другие варианты
- 5.4.3 Интерпретация в терминах времени и частоты
- 5.4.4 Таблица важных преобразований Фурье
- Библиографический список