Часовой пояс: UTC + 3 часа [ Летнее время ]

Методы решения систем нелинейных уравнений
Онлайн-сервисы Нахождение НОД и НОК Разложение числа на простые множители Сравнения по модулю Операции над множествами Операции над векторами Разложение вектора по базису. Доказательство, что векторы образуют базис Чертёж треугольника по координатам вершин Решение треугольника Решение Пирамиды Построение Пирамиды по координатам вершин Чертёж многоугольника по координатам вершин Решение систем методом Крамера и Матричным Онлайн построение графика кривой 2-го порядка Определение вида кривой или поверхности 2-го порядка по инвариантам МНК и регрессионный анализ Онлайн + графики Онлайн число, сумма и дата прописью Алгоритмы JavaScript Алгоритмы поиска Алгоритмы сортировки Уникальные элементы массива Объединение, пересечение и разность массивов НОД и НОК Операции над матрицами Дата прописью Введение в анализ Функции: понятие, определение, графики Непрерывность функции Исследование функции и построение графика Теория множеств Множества: понятие, определение, примеры Точечные множества Замкнутые и открытые множества Мера множества Группы, кольца, поля в математике Поле комплексных чисел Кольцо многочленов Основная теорема алгебры и ее следствия Математическая логика Алгебра высказываний Аксиоматика и логические рассуждения Методы доказательств теорем Алгебра высказываний и операции над ними Формулы алгебры высказываний Тавтологии алгебры высказываний Логическая равносильность формул Нормальные формы для формул высказываний Логическое следование формул Приложение алгебры высказываний для теорем Дедуктивные и индуктивные умозаключения Решение логических задач Принцип полной дизъюнкции Булевы функции Множества, отношения и функции в логике Булевы функции от одного и двух аргументов Булевы функции от n аргументов Системы булевых функций Применение булевых функций к релейно-контактным схемам Релейно-контактные схемы в ЭВМ Практическое применение булевых функций Теория формального Формализованное исчисление высказываний Полнота и другие свойства формализованного исчисления высказываний Независимость системы аксиом формализованного исчисления высказываний Логика предикатов Логика предикатов Логические операции над предикатами Кванторные операции над предикатами Формулы логики предикатов Тавтологии логики предикатов Преобразования формул и следование их предикатов Проблемы разрешения для общезначимости и выполнимости формул Применение логики предикатов в математике Строение математических теорем Аристотелева силлогистика и методы рассуждений Принцип полной дизъюнкции в предикатной форме Метод полной математической индукции Необходимые и достаточные условия Логика предикатов и алгебра множеств Формализованное исчисление предикатов Неформальные и формаль- ные аксиоматические теории Неформальные аксиоматические теории Свойства аксиоматических теорий Формальные аксиоматические теории Формализация теории аристотелевых силлогизмов Свойства формализованного исчисления предикатов Формальные теории первого порядка Формализация математической теории Теория алгоритмов Интуитивное представление об алгоритмах Машины Тьюринга и тезис Рекурсивные функции Нормальные алгоритмы Маркова Разрешимость и перечислимость множеств Неразрешимые алгоритмические проблемы Теорема Гёделя о неполноте формальной арифметики Математическая логика и компьютеры Математическая логика и языки программирования Применение компьютеров для доказательства теорем математической логики Математическая логика и логическое программирование Математическая логика и информатика Математическая логика и искусственный интеллект Дискретная математика Множества и отношения Теория множеств: понятия и определения Операции над множествами Кортеж и декартово произведение множеств Соответствия и бинарные отношения на множествах Операции над соответствиями на множествах Семейства множеств Специальные свойства бинарных отношений Отношения эквивалентности на множестве Упорядоченные множества Теорема о неподвижной точке Мощность множества Парадокс Рассела Метод характеристических функций Группы и кольца Алгебраические структуры и операции Группоиды, полугруппы, группы Кольца, тела, поля Области целостности в теории колец Модули и линейные пространства Подгруппы и подкольца Теорема Лагранжа о порядке конечной группы Гомоморфизмы групп и нормальные делители Гомоморфизмы и изоморфизмы колец Алгебра кватернионов Полукольца и булевы алгебры Полукольца: определение, аксиомы, примеры Замкнутые полукольца Полукольца и системы линейных уравнений Булевы алгебры и полукольца Решетки и полурешетки Алгебраические системы Алгебраические системы: модели и алгебры Подсистемы алгебраических систем Конгруэнции и фактор-системы Гомоморфизмы алгебраических систем Прямые произведения алгебраических систем Конечные булевы алгебры Многосортные алгебры Теория графов Теория графов: основные понятия и определения Способы представления графов Неориентированные и ориентированные деревья Остовное дерево и алгоритм Краскала Методы систематического обхода вершин графа Алгоритмы поиска в глубину и ширину в графах Задача о путях во взвешенных ориентированных графах Изоморфизм, гомоморфизм и автоморфизм графов Топологическая сортировка вершин графа Элементы цикломатики в теории графов Булева алгебра и функции Булевы функции и булев куб Таблицы булевых функций и булев оператор Равенство булевых функций. Фиктивные переменные Формулы и суперпозиции булевых функций Дизъюнктивные и конъюнктивные нормальные формы Построение минимальных ДНФ Теорема Поста и классы Критерий Поста Схемы из функциональных элементов Конечные автоматы и регулярные языки Конечные автоматы и регулярные языки Алфавит, слово, язык в программировании Порождающие грамматики (грамматики Хомского) Классификация грамматик и языков Регулярные языки и регулярные выражения Конечные автоматы Допустимость языка конечным автоматом Теорема Клини Детерминизация конечных автоматов Минимизация конечных автоматов Лемма о разрастании для регулярных языков Обоснование алгоритма детерминизации автоматов Конечные автоматы с выходом Морфизмы и конечные подстановки Машины Тьюринга Контекстно-свободные языки Контекстно-свободные языки и грамматики Приведенная форма КС-грамматики Лемма о разрастании для КС-языков Магазинные автоматы (автомат с магазинной памятью) Алгоритм построения МП-автомата по КС-грамматике Алгоритм построения КС-грамматики по МП-автомату Алгебраические свойства КС-языков Основное свойство суперпозиции КС-языков Пересечение контекстно-свободных языков Методы синтаксического анализа КС-языков Восходящий синтаксический анализ и LR(k)-грамматики Семантика формальных языков Принцип индукции по неподвижной точке Графовое представление МП-автоматов Интегральное исчисление Неопределённый и определённый Неопределенный и определенный интегралы Свойства интегралов Интегрирование по частям Интегрирование методом замены переменной Интегрирование различных рациональных функций Интегрирование различных иррациональных функций Интегрирование различных тригонометрических функций Определенный интеграл и его основные свойства Необходимое и достаточное условие интегрируемости Теоремы существования первообразной Свойства определенных интегралов Несобственные интегралы Интегральное определение логарифмической функции Приложения интегралов Вычисление площадей плоских фигур Площади фигур в различных координатах Вычисление объемов тел с помощью интегралов Объём тела вращения Вычисление длин дуг кривых Формулы длины дуги регулярной кривой Кривизна плоской кривой Площадь поверхности вращения тела Интегралы в физике Статические моменты и координаты центра тяжести Теоремы Гульдина–Паппа Вычисление моментов инерции Другие приложения интегралов в физике Основные интегралы Интеграл Ньютона-Лейбница Интеграл Римана Интеграл Лебега Вариационное исчисление Примеры вариационных задач Дифференциальное уравнение Эйлера Функционалы, зависящие от нескольких функций Задача о минимуме кратного интеграла Финансовый анализ Анализ эффективности Критерии и показатели эффективности предприятия Методы анализа эффективности деятельности Факторный анализ прибыли от операционной деятельности Анализ безубыточности предприятия Операционный рычаг и эффект финансового рычага Анализ и оценка состава, структуры и динамики доходов и расходов Анализ рентабельности и резервов устойчивого роста капитала Анализ распределения прибыли предприятия Анализ и оценка чувствительности показателей эффективности Анализ устойчивости Финансовая устойчивость и долгосрочная платежеспособность Характеристика типов финансовой устойчивости Рыночная активность Финансовый анализ рыночной активности Методика анализа рыночной активности Анализ и оценка дивидендного дохода на одну акцию Инвестиционная деятельность Инвестиции: экономическая сущность и классификация Государственное регулирование инвестиционной деятельности Источники финансовых ресурсов на капитальные вложения Инвестиции в основные фонды Оценка состояния основных фондов Амортизация основных фондов Капитальное строительство в инвестиционном процессе Планирование инвестиций в форме капитальных вложений Экономическая эффективность инвестиций Финансирование капитальных вложений Кредитование капитальных вложений Кредитоспособность Финансирование и кредитование затрат Финансирование и кредитование инвестиционной деятельности потребительской кооперации Финансирование и кредитование капитальных вложений потребительской кооперации Инвестиционное строительное проектирование Анализ инвестиций Инвестиции и инвестиционная деятельность предприятия Задачи финансового анализа инвестиций предприятия Учет фактора времени в инвестиционной деятельности Аннуитет и финансовая рента в инвестициях Учет фактора инфляции при инвестировании Оценка фактора риска инвестиционного проекта Методы оценки эффективности инвестиций Показатели эффективности инвестиционного проекта Стоимость компании Концепция построения международных стандартов финансовой отчетности (МСФО) Экономическое содержание международных стандартов финансовой отчётности Цели и принципы оценки стоимости акций и активов компании Оценка акций и активов предприятия по справедливой стоимости Методы оценки справедливой стоимости акций предприятия Затратный подход к оценки стоимости компаний и акций Сравнительный подход к оценки стоимости предприятий и акций Доходный подход к оценке стоимости компании и акций Выбор ставки дисконтирования при инвестировании в акции Метод капитализации прибыли Сравнение подходов к оценке стоимости компаний и пакетов акций Форвардные контракты Форвардный контракт и цена Форвардная цена акции на бирже Цена форвардного контракта инвестора Форвардная цена акции с учетом величины дивиденда Форвардная цена акции с учетом ставки дивиденда Форвардная цена валюты на рынке форекс Форвардный валютный курс и инфляция на рынке Форвардная цена товара и спотовый рынок Форвардная цена при различии ставок по кредитам и депозитам Синтетический форвардный контракт на акции и валюту Теория вероятностей Основные понятия теории вероятностей Зависимые и независимые случайные события Повторные независимые испытания Формула Бернулли Одномерные случайные величины Многомерные случайные величины Функции случайных величин Законы распределения целочисленных случайных величин Законы распределения непрерывных случайных величин Предельные теоремы теории вероятностей Закон больших чисел и предельные теоремы Вероятностные закономерности Математическая статистика Элементы математической статистики Выборочный метод Оценки параметров генеральной совокупности Статистические гипотезы Критерии согласия Теоретические и эмпирические частоты Теория очередей (СМО) Определение системы массового обслуживания Уравнения Колмогорова Предельные вероятности состояний Определение СМО с отказами Определение СМО с ожиданием (очередью) Аналитическая геометрия Векторная алгебра Метрические понятия и аксиомы геометрии Равенство и подобие геометрических фигур Бинарные отношения Вектор, его направление и длина Линейные операции над векторами Линейная зависимость и независимость векторов Отношение коллинеарных векторов Проекции векторов на прямую и на плоскость Угол между векторами Ортогональные проекции векторов Координата вектора на прямой и базис Координаты вектора на плоскости и базис Координаты вектора в пространстве и базис Операции над векторами в координатной форме Ортогональный и ортонормированный базисы Cкалярное произведение векторов и его свойства Выражение скалярного произведения через координаты векторов Векторное произведение векторов и его свойства Смешанное произведение векторов и его свойства Ориентированные площади и объемы Двойное векторное произведение и его свойства Применение векторов в задачах на аффинные свойства фигур Применение произведений векторов при решении геометрических задач Применение векторной алгебры в механике Системы координат Прямоугольные координаты Преобразования прямоугольных координат Полярная система координат Цилиндрическая система координат Сферические координаты Аффинные координаты Аффинные преобразования координат Аффинные преобразования плоскости Примеры аффинных преобразований плоскости Аффинные преобразования пространства Многомерное координатное пространство Линейные и аффинные подпространства Скалярное произведение n-мерных векторов Преобразования систем координат Геометрия на плоскости Алгебраические линии на плоскости Общие уравнения геометрических мест точек Алгебраические уравнения линий на плоскости Уравнения прямой, проходящей через точку перпендикулярно вектору Уравнения прямой, проходящей через точку коллинеарно вектору Уравнения прямой, проходящей через две точки Уравнения прямой с угловым коэффициентом Взаимное расположение прямых Примеры задач с прямыми на плоскости Системы неравенств с двумя неизвестными Системы линейных уравнений с двумя неизвестными Линии 2-го порядка Канонические уравнения линий второго порядка Порядок приведения уравнения линии к каноническому виду Эллипс Гипербола Парабола Квадратичные неравенства с двумя неизвестными Применение линий 1-го и 2-го порядков в задачах на экстремум функций Инварианты линий Классификация линий 2-го порядка по инвариантам Приведение уравнения линии к каноническому виду по инвариантам Геометрия в пространстве Способы задания ГМТ в пространстве Алгебраические уравнения поверхностей Уравнения плоскости, проходящей через точку перпендикулярно вектору Уравнения плоскости, компланарной двум неколлинеарным векторам Уравнения плоскости, проходящей через три точки Взаимное расположение плоскостей Типовые задачи с плоскостями Уравнения прямых в пространстве Взаимное расположение прямых в пространстве Типовые задачи с прямыми в пространстве Поверхности 2-го порядка Канонические уравнения поверхностей Порядок приведения уравнения поверхности к каноническому виду Поверхности второго порядка Эллипсоиды Гиперболоиды Конусы Параболоиды Применение поверхностей 1-го и 2-го порядков в задачах на экстремум функций Инварианты поверхностей Классификация поверхностей 2-го порядка по инвариантам Квадратичные неравенства с тремя неизвестными Приведение уравнения поверхности к канониче-скому виду по инвариантам Линейная алгебра Матрицы и операции Линейные операции над матрицами Умножение матриц Возведение матриц в степень Многочлены от матриц Транспонирование и сопряжение матриц Блочные матрицы Произведение и сумма матриц Кронекера Метод Гаусса приведения матрицы к ступенчатому виду Элементарные преобразования матриц Определители Определители матриц и их основные свойства Формула полного разложения определителя Формула Лапласа полного разложения определителя Определитель произведения матриц Методы вычисления определителей Ранг матрицы Линейная зависимость и линейная независимость строк (столбцов) матрицы Ранг матрицы и базисный минор матрицы Методы вычисления ранга матрицы Ранг системы столбцов (строк) Обратная матрица Обратные матрицы и их свойства Ортогональные и унитарные матрицы Способы нахождения обратной матрицы Матричные уравнения Односторонние обратные матрицы Скелетное разложение матрицы Полуобратная матрица Псевдообратная матрица Системы уравнений Системы линейных алгебраических уравнений Метод Гаусса решения систем линейных уравнений Структура общего решения системы уравнений Решение систем с помощью полуобратных матриц Псевдорешения системы линейных уравнений Функциональные матрицы Функциональные матрицы скалярного аргумента Производные матриц по векторному аргументу Линейные и квадратичные формы и их преобразования Приведение форм к каноническому виду Закон инерции вещественных квадратичных форм Знакоопределенность форм вещественных квадратичных Формы и исследование функций на экстремум Многочленные матрицы Многочленные матрицы (лямбда-матрицы) Операции над лямбда-матрицами Простые преобразования многочленных матриц Инвариантные множители многочленной матрицы Функции от матриц Собственные векторы и значения матрицы Подобие числовых матриц Характеристический многочлен матрицы Минимальный многочлен матрицы Теорема Гамильтона-Кэли Жорданова форма матрицы Приведение матрицы к жордановой форме Многочлены от матриц Применение многочленов от матриц Функции от матриц Линейные пространства Линейные пространства: определение и примеры Линейная зависимость и независимость n-мерных векторов Размерность и базис линейного пространства Преобразования координат в линейном пространстве Изоморфизм линейных пространств Подпространства Подпространства линейного пространства Пересечение и сумма подпространств Способы описания подпространств Нахождение дополнения и суммы подпространств Нахождение пересечения подпространств Линейные отображения Линейные многообразия Линейные отображения Матрица линейного отображения Ядро и образ линейного отображения Линейные операторы Линейные операторы (преобразования) Инвариантные подпространства Собственные векторы и значения оператора Свойства собственных векторов операторов Канонический вид линейного оператора Методика приведения линейного преобразования к каноническому виду Евклидовы пространства Евклидовы пространства Ортогональные векторы евклидова пространства Ортогональный базис евклидова пространства Ортонормированный базис евклидова пространства Ортогональные дополнения в евклидовом пространстве Задача о перпендикуляре Матрица и определитель Грама и его свойства Линейные преобразования евклидовых пространств Канонический вид ортогонального оператора евклидова пространства Сопряженные операторы евклидова пространства Самосопряженные операторы евклидова пространства Приведение квадратичной формы к главным осям Унитарные пространства и их линейные преобразования Комплексный анализ Комплексные числа Комплексные числа в алгебраической форме Комплексные числа в тригонометрической и показательной формах Множества на комплексной плоскости Последовательности и ряды комплексных чисел Комплексные функции Функции комплексного переменного. Предел, непрерывность и производная Элементарные функции комплексного переменного Дифференцирование функций комплексного переменного Аналитические функции и их свойства Конформные отображения и их свойства Интегрирование функций комплексного переменного Функциональные ряды в комплексной области Функциональные ряды и последовательности Степенные ряды и их свойства Разложение функций в степенные ряды Нули аналитических функций Ряд Лорана и разложение функций по целым степеням Особые точки, Вычеты Изолированные особые точки функций и полюсы Вычеты и их применение Вычисление интегралов с помощью вычетов Вычеты и расположение нулей многочлена Операционное исчисление Преобразование Лапласа и его свойства Решение ДУ операционным методом Анализ выходных процессов линейных стационарных систем Z-преобразование и его свойства Дифференциальные уравнения ДУ первого порядка Основные понятия и определения ДУ Метод изоклин для ДУ 1-го порядка Метод последовательных приближений ДУ с разделяющимися переменными Однородные ДУ Линейные ДУ 1-го порядка Дифференциальное уравнение Бернулли ДУ в полных дифференциалах Интегрирующий множитель ДУ, не разрешенные относительно производной Дифференциальное уравнение Риккати Составление ДУ семейств линий Задачи на траектории Особые решения ДУ ДУ высших порядков Понятия и определения ДУ высших порядков ДУ, допускающие понижение порядка Линейная независимость функций Определители Вронского и Грама Однородные и неоднородные дифференциальные уравнения Задача Коши и Уравнение Эйлера Линейные ДУ с переменными коэффициентами Метод Лагранжа решения ДУ Краевые задачи для ДУ высших порядков Разложение решения ДУ в степенной ряд Разложение решения ДУ в обобщенный степенной ряд Нахождение периодических решений ДУ Асимптотическое интегрирование ДУ Системы ДУ Системы ДУ: понятия и определения Сведение системы ДУ к одному уравнению Нахождение интегрируемых комбинаций Интегрирование однородных линейных систем ДУ Методы интегрирования неоднородных систем ДУ Преобразование Лапласа и решение ДУ и систем Теория устойчивости Устойчивость решений ДУ по Ляпунову Простейшие типы точек покоя Метод функций Ляпунова Устойчивость решений ДУ по первому приближению Критерии устойчивости Рауса–Гурвица и Михайлова ДУ с малым параметром при производной Численные методы Методы алгебры Численные методы линейной алгебры Численные методы решения СЛАУ Итерационный метод Шульца обратной матрицы Методы решения задач о собственных значениях и векторах матрицы Методы решения нелинейных уравнений Методы решения систем нелинейных уравнений Методы теории приближений Методы приближения сеточных функций Методы функциональной интерполяции Методы интегрально-дифференциальной интерполяции Методы интегрального сглаживания Методы интерполяции и сглаживания сплайнами Методы численного дифференцирования и интегрирования Методы численного дифференцирования Методы численного интегрирования Методы решения обыкновенных ДУ Численные методы решения задачи Коши Разностные схемы для решения задачи Коши Составные схемы для решения задачи Коши Экстраполяционные методы решения задачи Коши Непрерывно-дискретные методы решения задачи Коши Численные методы решения краевых задач Методы решения ДУ в частных производных Численные методы решения уравнений математической физики с двумя переменными Принципы построения разностных схем для уравнений в частных производных Разностные схемы решения уравнений в частных производных 1-го порядка Разностные схемы решения уравнений в частных производных 2-го порядка Численные методы решения уравнений в частных производных Численные методы решения уравнений математической физики с тремя переменными	Методы решения систем нелинейных уравнений Содержание 1. Постановка задачи 2. Метод простых итераций для решения нелинейных систем 3. Алгоритм метода простых итераций для систем 4. Метод Зейделя для решения нелинейных систем уравнений 5. Алгоритм метода Зейделя для решения нелинейных систем 6. Метод Ньютона для решения нелинейных систем уравнений 7. Алгоритм метода Ньютона для решения систем 8. Достаточные условия сходимости метода Ньютона для систем 9. Упрощенный метод Ньютона для нелинейных систем 10. Метод секущих для решения нелинейных систем уравнений Постановка задачи Дана система $n$ нелинейных уравнений с $n$ неизвестными: $\begin{cases}f_1(x_1,\ldots,x_n)=0,\\ f_2(x_1,\ldots,x_n)=0,\\ \quad\vdots\\ f_n(x_1,\ldots,x_n)=0, \end{cases}\qquad \mathsf{(3.22)}$ где $f_i(x_1,\ldots,x_n)\colon \mathbb{R}^n\to \mathbb{R},~ i=1,\ldots,n$ , — нелинейные функции, определенные и непрерывные в некоторой области $G\subset\mathbb{R}^n$ , или в векторном виде (где $x=\bigl(x_1,\ldots,x_n\bigr)^T,~ F(x)=\bigl[f_1(x),\ldots,f_n(x)\bigr]^T$ ) $F(x)=0.\qquad \mathsf{(3.23)}$ Требуется найти такой вектор $x_{\ast}=\bigl(x_{\ast1},\ldots,x_{\ast n}\bigr)^T$ , который при подстановке в систему (3.22) превращает каждое уравнение в верное числовое равенство. Замечания 1. Проблема решения системы (3.22) возникает при решении многих прикладных задач, например, поиска безусловного экстремума функций многих переменных с помощью необходимых условий, при применении неявных методов интегрирования обыкновенных дифференциальных уравнений и т.д. 2. Задача нахождения комплексных корней $f(z)=0$ может быть сведена к проблеме решения двух уравнений с двумя неизвестными. Для этого следует положить $z=x+iy$ и выделить действительную и мнимую части функции: $f(z)=u(x,y)+i\,v(x,y)=0.$ Отсюда получаем систему $\begin{cases}u(x,y)=0,\\ v(x,y)=0,\end{cases}$ которая может быть решена одним из рассматриваемых в данном разделе методов: 3. Для всех рассматриваемых далее методов требуется находить начальное приближение $x^{(0)}$ . В случае $n=2$ это можно сделать графически, определив координаты точки пересечения кривых, описываемых уравнениями $f_1(x_1,x_2)=0$ и $f_2(x_1,x_2)=0$ . 4. Задача решения системы (3.22) может быть сведена к задаче поиска минимума функции $\textstyle{\Psi(x)= \sum\limits_{i=1}^{n} f_i^2(x_1,\ldots, x_n)}$ . Так как функция $\Psi(x)$ неотрицательная, ее минимальное значение, равное нулю, достигается в точке $x_{\ast}$ , являющейся решением системы (3.22). Для поиска минимума функции $\Psi(x)$ можно применить различные методы поиска безусловного экстремума функций многих переменных (первого, второго, нулевого порядков). Далее рассмотрим основные методы решения задачи (3.22). Метод простых итераций для решения нелинейных систем Для применения метода требуется привести систему (3.22) к равносильному виду: $\begin{cases}x_1=\varphi_1(x_1,\ldots,x_n),\\ x_2=\varphi_1(x_2,\ldots,x_n),\\ \quad\vdots\\ x_n=\varphi_n(x_1,\ldots,x_n), \end{cases}$ (3.24) или в векторной форме $x=\Phi(x),$ (3.25) где $x=\bigl(x_1,\ldots,x_n\bigr)^T,~ \Phi(x)= \bigl[\varphi_1(x_1),\ldots, \varphi_n(x_n) \bigr]^T$ , функции $\varphi_i(x)$ определены и непрерывны в окрестности изолированного решения $x_{\ast}$ системы (3.24). Алгоритм метода простых итераций для систем 1. Задать начальное приближение $x^{(0)}= \bigl(x_{10},x_{20},\ldots, x_{n0}\bigr)^T$ и малое положительное число $\varepsilon$ (точность). Положить $k=0$ . 2. Вычислить $x^{(k+1)}$ по формуле $x^{(k+1)}=\Phi(x^{(k)})$ (3.26) или $x^{(k+1)}_1= \varphi_1 \bigl(x^{(k)}_1,x^{(k)}_2,\ldots, x^{(k)}_n\bigr),$ (3.27) 3. Если $\Delta^{(k+1)}= \max\limits_{i} \bigl\|x^{(k+1)}_i-x^{(k)}_i\bigr\|\leqslant \varepsilon$ , процесс завершен и $x_{\ast}\cong x^{(k+1)}$ . Если $\Delta^{(k+1)}> \varepsilon$ , то положить $k=k+1$ и перейти к п.2. Замечания 1. Итерационный процесс, реализуемый согласно (3.27), соответствует параллельному итерированию, так как для вычисления (k+1)-го приближения всех неизвестных учитываются вычисленные ранее их k-е приближения. 2. Система (3.22) может быть преобразована к виду (3.24) различными способами, например, с помощью выражения переменных $x_i,~i=1,\ldots,n$ , таким образом, чтобы выполнялось условие сходимости. Другой способ заключается в замене системы $F(x)=0$ системой $x=\underbrace{x+ \Lambda F(x)}_{\Phi(x)}$ , где $\Lambda$ — неособенная матрица. В качестве матрицы $\Lambda$ можно использовать, например, $\Lambda=-W^{-1}(x^{(0)})$ , если $\det W(x^{(0)})\ne0$ , где $W(x)= \begin{pmatrix}\dfrac{\partial f_1(x)}{\partial x_1}& \cdots& \dfrac{\partial f_1(x)}{\partial x_n}\\ \vdots& \ddots& \vdots\\ \dfrac{\partial f_n(x)}{\partial x_1}& \cdots& \dfrac{\partial f_n(x)}{\partial x_n} \end{pmatrix}$ — матрица Якоби. В случае, если $\det W(x^{(0)})=0$ , следует выбрать другое начальное приближение. Заметим, что при таком выборе $\Lambda$ метод простых итераций совпадает с упрощенным методом Ньютона. 3. В качестве $\Delta^{(k+1)}$ можно использовать различные нормы векторов. Теорема 3.13 (о достаточном условии сходимости метода простых итераций). Пусть функции $\varphi_i(x)$ и $\varphi'_i(x),~ i=1,\ldots,n$ , непрерывны в области $G$ , причем выполнено неравенство (где $q$ — некоторая постоянная) $\max\limits_{x\in G}\max\limits_{i} \sum\limits_{j=1}^{n} \left\|\frac{\partial \varphi_i(x)}{\partial x_j}\right\| \leqslant q<1,$ (3.28) Если последовательные приближения $x^{(k+1)}= \Phi(x^{(k)}),~ k=0,1,2,\ldots$ не выходят из области $G$ , то процесс последовательных приближений сходится: $x_{\ast}= \lim\limits_{k\to\infty} x^{(k)}$ и вектор $x_{\ast}$ является в области $G$ единственным решением системы (3.25). Замечания 1. Вместо условия (3.28) можно также использовать $\max\limits_{x\in G}\max\limits_{j} \sum\limits_{i=1}^{n} \left\|\frac{\partial \varphi_i(x)}{\partial x_j}\right\| \leqslant q<1,$ (3.29) 2. Условия (3.28), (3.29) выполняются, если для любого $x\in G$ справедливы неравенства $\left\\|\frac{\partial\Phi}{\partial x}\right\\|_1<1,~ \left\\|\frac{\partial\Phi}{\partial x}\right\\|_2<1$ соответственно, где $\frac{\partial\Phi}{\partial x}=\begin{pmatrix}\dfrac{\partial f_1(x)}{\partial x_1}& \cdots& \dfrac{\partial f_1(x)}{\partial x_n}\\ \vdots& \ddots& \vdots\\ \dfrac{\partial f_n(x)}{\partial x_1}& \cdots& \dfrac{\partial f_n(x)}{\partial x_n} \end{pmatrix}\!.$ Пример 3.17. Найти корни нелинейной системы уравнений $\begin{cases}2x_1^2-x_1x_2-5x_1+1=0,\\ x_1+3\lg x_1-x_2^2=0.\end{cases}$ расположенные в первом квадранте, методом простых итераций с точностью $\varepsilon=0,\!001$ Решение Преобразуем систему к виду (3.24) так, чтобы выполнялось условие сходимости: $x_1=\sqrt{\frac{x_1(x_2+5)-1}{2}}=\varphi_1(x),\qquad x_2=\sqrt{x_1+3\lg x_1}= \varphi_2(x).$ Найдем частные производные: $\begin{gathered}\frac{\partial \varphi_1}{\partial x_1}= \frac{x_2+5}{4 \sqrt{\dfrac{x_1(x_2+5)-1}{2}}},\qquad \frac{\partial \varphi_1}{\partial x_2}= \frac{x_1}{4 \sqrt{\dfrac{x_1(x_2+5)-1}{2}}}\,;\\ \frac{\partial \varphi_2}{\partial x_1}= \frac{1+\dfrac{3\cdot 0,\!43429}{x_1}}{2 \sqrt{x_1+3\lg x_1}},\qquad \frac{\partial \varphi_2}{\partial x_2}=0. \end{gathered}$ Здесь принято $\lg e\cong 0,\!43429$ . Далее воспользуемся методикой решения задачи. 1. Для выбора начального приближения найдем координаты точек пересечения кривых, соответствующих первому и второму уравнениям (рис. 3.17). Находим приближенные значения координат решения (по условию задачи нас интересуют только корни с положительными координатами): $x^{(0)}= \begin{pmatrix}3,\!5& 2,\!2\end{pmatrix}^T$ . Проверим выполнение условий сходимости. Будем рассматривать окрестность найденной точки $x^{(0)}\colon$ $G= \bigl\{\|x_1-3,\!5\| \leqslant 0,\!1;~ \|x_2-2,\!2\| \leqslant 0,\!1\bigr\}.$ Тогда $\begin{gathered}\left\|\frac{\partial \varphi_1}{\partial x_1}\right\| \leqslant \frac{2,\!3+5}{4 \sqrt{\dfrac{3,\!4\cdot (2,\!1+5)-1}{2}}}=0,\!536<0,\!54;\qquad \left\|\frac{\partial \varphi_1}{\partial x_2}\right\| \leqslant \frac{3,\!6}{4 \sqrt{\dfrac{3,\!4\cdot (2,\!1+5)-1}{2}}}=0,\!265<0,\!27;\\ \left\|\frac{\partial \varphi_2}{\partial x_1}\right\| \leqslant \frac{1+\dfrac{3\cdot 0,\!43429}{3,\!4}}{2 \sqrt{3,\!4+ 3\lg3,\!4}}=0,\!309<0,\!31;\qquad \left\|\frac{\partial \varphi_2}{\partial x_2}\right\|=0. \end{gathered}$ Следовательно, можно получить оценки: $\begin{aligned}& \left\|\frac{\partial \varphi_1(x)}{\partial x_1}\right\|+\left\|\frac{\partial \varphi_2(x)}{\partial x_1}\right\|< 0,\!54+ 0,\!31=0,\!85<1,\\ & \left\|\frac{\partial \varphi_1(x)}{\partial x_2}\right\|+\left\|\frac{\partial \varphi_2(x)}{\partial x_2}\right\|< 0,\!27+ 0=0,\!27<1. \end{aligned}$ Очевидно, условие (3.28) выполняется. Если последовательные приближения не будут выходить из области $G$ , то согласно теореме 3.13 итерационный процесс будет сходящимся. В поставленной задаче $\varepsilon=0,\!001$ . 2,3. Выполним расчеты по формулам (3.27): $x_1^{(k+1)}= \sqrt{\frac{x_1^{(k)}\cdot[x_2^{(k)}+5]-1}{2}},\qquad x_2^{(k+1)}= \sqrt{x_1^{(k)}+3\cdot\lg x_1^{(k)}},\quad k=0,1,2,\ldots$ а результаты поместим в табл. 3.17. $\begin{aligned}\mathit{Table~3.17}~&\\ \begin{array}{\|c\|c\|c\|c\|c\|c\|} \hline k & 0& 1& 2& 3& 4\\\hline x_1^{(k)}& 3,\!5000& 3,\!4785& 3,\!4837& 3,\!4848& 3,\!4957\\\hline x_2^{(k)}& 2,\!2000& 2,\!2654& 2,\!2589& 2,\!26049&2,\!26082 \\\hline \Delta^{(k+1)}&-& 0,\!0654& 0,\!0065& 0,\!00159&0,\!0009 \\\hline \end{array}&\end{aligned}$ Заметим, что величина $\Delta^{(k+1)}$ при увеличении номера итерации уменьшается, что характерно для любого сходящегося процесса. Найдено приближенное решение: $x_{\ast}\cong \begin{pmatrix}3,\!4857& 2,\!2608\end{pmatrix}^T$ . При этом $f_1(x_{\ast})=-0,\!0083;~ f_2(x_{\ast})= 0,\!00126$ . Метод Зейделя для решения нелинейных систем уравнений Метод Зейделя предназначен для решения систем, записанных в форме (3.24). Этот метод является модификацией метода простых итераций, где после задания начального приближения $x^{(0)}$ вместо параллельного итерирования производится последовательное итерирование, причем на каждой итерации в каждое последующее уравнение подставляются значения неизвестных, полученных из предыдущих уравнений. Алгоритм метода Зейделя для решения нелинейных систем 1. Задать начальное приближение $x^{(0)}$ и малое положительное число (точность). Положить $k=0$ . 2. Вычислить $x^{(k+1)}$ по формулам где прямоугольниками отмечены значения, которые берутся из предшествующих уравнений на текущей итерации. 3. Если $\Delta^{(k+1)}= \max_{i} \bigl\|x_i^{(k+1)}-x_i^{(k)}\bigr\|\leqslant \varepsilon$ , процесс завершить и положить $x_{\ast}\cong x^{(k+1)}$ . Если $\Delta^{(k+1)}> \varepsilon$ , то положить $k=k+1$ и перейти к п.2. Пример 3.18. Найти корни системы расположенные в первом квадранте, методом Зейделя с точностью $\varepsilon=0,\!001$ $\left\{\!\begin{aligned}& f_1(x_1,x_2)= 2x_1^2-x_1x_2-5x_1+1=0,\\ & f_2(x_1,x_2)= x_1+3\cdot \lg x_1-x_2^2=0. \end{aligned}\right.$ Решение Преобразование системы к виду (3.24) и поиск начального приближения описаны в примере 3.17. 1. Зададим начальное приближение $x^{(0)}= (3,\!5;\, 2,\!2)^T$ . В поставленной задаче $\varepsilon=0,\!001$ . 2, 3. Выполним расчеты по формулам (3.30): $x_1^{(k+1)}= \sqrt{\frac{x_1^{(k)}[x_2^{(k)}+5]-1}{2}},\qquad x_2^{(k+1)}= \sqrt{x_1^{(k+1)}+ 3\cdot \lg x_1^{(k+1)}},\quad k=0,1,2,\ldots$ а результаты поместим в табл. 3.18. $\begin{aligned}\mathit{Table~3.18}~&\\ \begin{array}{\|c\|c\|c\|c\|c\|c\|c\|} \hline k& 0& 1& 2& 3& 4& 5\\\hline \begin{matrix}{}\\[-6pt]{}\end{matrix} x_1^{(k)}& 3,\!5000& 3,\!4785& 3,\!4821& 3,\!484250& 3,\!485537& 3,\!486305 \\\hline \begin{matrix}{}\\[-6pt]{}\end{matrix} x_2^{(k)}& 2,\!2000& 2,\!2588& 2,\!2600& 2,\!260658& 2,\!261049& 2,\!26128 \\\hline \begin{matrix}{}\\[-8pt]{}\end{matrix} \Delta&-& 0,\!0588& 0,\!0036& 0,\!00215& 0,\!00128& 0,\!0007 \\\hline \end{array}& \end{aligned}$ Найдено приближенное решение $x_{\ast}\cong (3,\!4863;\, 2,\!2613)^T$ . При этом $f_1(x_{\ast})=-0,\!006425,~ f_2(x_{\ast})= 0,\!000007$ . Метод Ньютона для решения нелинейных систем уравнений Метод используется для решения систем вида (3.22) или (3.23). Формула для нахождения решения является естественным обобщением формулы (3.14): $x^{(k+1)}= x^{(k)}-W^{-1}(x^{(k)})\cdot F(^{(k)}),\quad k=0,1,2,\ldots$ (3.31) где $W(x)= \begin{pmatrix}\dfrac{\partial f_1(x)}{\partial x_1}& \cdots& \dfrac{\partial f_1(x)}{\partial x_n}\\ \vdots& \ddots& \vdots\\ \dfrac{\partial f_n(x)}{\partial x_1}& \cdots& \dfrac{\partial f_n(x)}{\partial x_n}\end{pmatrix}$ — матрица Якоби. Так как процесс вычисления обратной матрицы является трудоемким, преобразуем (3.31) следующим образом: $\Delta x^{(k)}=-W^{-1}(x^{(k)})\cdot F(x^{(k)}).\quad k=0,1,2,\ldots$ где $\Delta x^{(k)}= x^{(k+1)}-x^{(k)}$ — поправка к текущему приближению $x^{(k)}$ . Умножим последнее выражение слева на матрицу Якоби $W(x^{(k)})\colon$ $W(x^{(k)})\cdot \Delta x^{(k)}=-W(x^{(k)})W^{-1}(x^{(k)}) F(x^{(k)})=-F(x^{(k)}),\quad k=0,1,2,\ldots$ В результате получена система линейных алгебраических уравнений относительно поправки $\Delta x^{(k)}$ . После ее определения вычисляется следующее приближение $x^{(k+1)}= x^{(k)}+\Delta x^{(k)}$ . Алгоритм метода Ньютона для решения нелинейных систем 1. Задать начальное приближение $x^{(0)}$ и малое положительное число $\varepsilon$ (точность). Положить $k=0$ . 2. Решить систему линейных алгебраических уравнений относительно поправки $\Delta x^{(k)}\colon$ $W(x^{(k)})\cdot \Delta x^{(k)}=-F(x^{(k)}).$ (3.32) 3. Вычислить следующее приближение: $x^{(k+1)}= x^{(k)}+ \Delta x^{(k)}$ . 4. Если $\Delta^{(k+1)}= \max_{i} \bigl\|x_i^{(k+1)}-x_i^{(k)}\bigr\|\leqslant \varepsilon$ , процесс закончить и положить $x_{\ast}\cong x^{(k+1)}$ . Если $\Delta^{(k+1)}>\varepsilon$ , то положить $k=k+1$ и перейти к пункту 2. Достаточные условия сходимости метода Ньютона для систем Теорем а 3.14 (о достаточных условиях сходимости метода Ньютона). Пусть функция $F(x)$ непрерывно дифференцируема в открытом выпуклом множестве $G\subset \mathbb{R}^n$ . Предположим, что существуют $x_{\ast}\in \mathbb{R}^n$ и $r,\beta>0$ , такие, что $N(x_{\ast},r)\subset G,~ F(x_{\ast})=0$ , и существует $W^{-1}(x_{\ast})$ , причем $\\|W^{-1}(x_{\ast})\\|\leqslant \beta$ и $W(x)\in \operatorname{Lip}_{\gamma} (N(x_{\ast},r))$ . Тогда существует $\varepsilon>0$ такое, что для всех $x^{(0)}\in N(x_{\ast}, \varepsilon)$ последовательность $x^{(1)}, x^{(2)},\ldots$ , порождаемая соотношением (3.31), сходится к $x_{\ast}$ и удовлетворяет неравенству $\bigl\\|x^{(k+1)}-x_{\ast}\bigr\\| \leqslant \beta \cdot \gamma \cdot \bigl\\|x^{(k)}-x_{\ast} \bigr\\|^2,\quad k=0,1,2,\ldots$ Здесь использованы следующие обозначения: $N(x,r)$ — открытая окрестность радиуса $r$ с центром в точке $x\colon\, N(x,r)= \bigl\{\overline{x}\in \mathbb{R}^n\colon\, \|\overline{x}-x\|<r\bigr\}$ ; запись $W(x)\in \operatorname{Lip}_{\gamma} (N(x_{\ast},r))$ означает, что $W(x)$ непрерывна по Липшицу, где $\gamma$ — константа Липшица, то есть $\bigl\\|W(y)-W(x)\bigr\\|\leqslant \gamma\cdot \bigl\\|y-x\bigr\\|\quad \forall x,y\in N(x_{\ast},r).$ Замечания 1. Теорема 3.14 свидетельствует о локальной квадратичной сходимости метода Ньютона. 2. К недостаткам метода Ньютона следует отнести: – необходимость задавать достаточно хорошее начальное приближение; – отсутствие глобальной сходимости для многих задач; – необходимость вычисления матрицы Якоби на каждой итерации; – необходимость решения на каждой итерации системы линейных уравнений, которая может быть плохо обусловленной. Достоинством метода является квадратичная сходимость из хорошего начального приближения при условии невырожденности матрицы Якоби. ▼ Примеры 3.19-3.21 Пример 3.19. Решить систему $\begin{cases}x_1+x_2-3=0,\\ x_1^2+x_2^2-9=0.\end{cases}$ методом Ньютона с точностью $\varepsilon= 0,\!001$ Решение Очевидно, корнями системы являются $x_{\ast1}=(3;\,0)^T,~ x_{\ast2}=(0;\,3)^T$ . Найдем приближенно второй корень $x_{\ast2}$ . 1. Зададим начальное приближение $x^{(0)}= (1;\,5)^T$ . В поставленной задаче $\varepsilon= 0,\!001$ . Положим $k=0$ . 2°. Составим систему (3.32). Так как $W(x)= \begin{pmatrix}1&1\\ 2x_1& 2x_2 \end{pmatrix}$ , то система $W(x^{(0)})\cdot \Delta x^{(0)}=-F(x^{(0)})$ имеет вид $\begin{pmatrix}1&1\\ 2&10\end{pmatrix}\!\cdot\! \begin{pmatrix}\Delta x_1^{(0)}\\ \Delta x_2^{(0)}\end{pmatrix}=-\!\begin{pmatrix}3\\17\end{pmatrix}$ . Отсюда $\Delta x^{(0)}= \begin{pmatrix}\Delta x_1^{(0)}\\ \Delta x_2^{(0)}\end{pmatrix}= \begin{pmatrix}-13\!\!\not{\phantom{\|}}\,8\\ -11\!\!\not{\phantom{\|}}\,8\end{pmatrix}$ . Для вычисления $\Delta x^{(k)},~ k=0,1,\ldots$ , здесь и далее используется метод Гаусса единственного деления. 3°. Вычислим $x^{(1)}= x^{(0)}+ \Delta x^{(0)}= \begin{pmatrix}1\\5\end{pmatrix}+ \begin{pmatrix}-13\!\!\not{\phantom{\|}}\,8\\ -11\!\!\not{\phantom{\|}}\,8\end{pmatrix}= \begin{pmatrix}-5\!\!\not{\phantom{\|}}\,8\\ 29\!\!\not{\phantom{\|}}\,8\end{pmatrix}= \begin{pmatrix}-0,\!625\\ 3,\!625 \end{pmatrix}$ . 4° .Так как $\Delta^{(1)}= \max\! \left\{\left\|-\frac{13}{8}\right\|, \left\|-\frac{11}{8}\right\|\right\}= \frac{13}{8}> \varepsilon$ , то положим $k=1$ и перейдем к п.2. 2(1). Составим систему $W(x^{(1)})\cdot \Delta x^{(1)}=-F(x^{(1)})\colon$ $\begin{pmatrix}1&1\\-\dfrac{5}{4}& \dfrac{29}{4}\end{pmatrix}\!\cdot \Delta x^{(1)}=-\!\begin{pmatrix}0\\ \dfrac{145}{32}\end{pmatrix}$ . Отсюда $\Delta x^{(1)}= \begin{pmatrix}\dfrac{145}{272}\\[8pt]-\dfrac{145}{272}\end{pmatrix}= \begin{pmatrix} 0,\!5333\\-0,\!5333\end{pmatrix}$ . 3(1). Вычислим $x^{(2)}= x^{(1)}+ \Delta x^{(1)}= \begin{pmatrix}-0,\!625\\ 3,\!625 \end{pmatrix}+ \begin{pmatrix}0,\!5333\\-0,\!5333\end{pmatrix}= \begin{pmatrix}-0,\!0919\\ 3,\!0919 \end{pmatrix}$ . 4(1). Так как $\Delta^{(2)}= 0,\!5333>\varepsilon$ , то положим $k=2$ и перейдем к п.2. Результаты дальнейших вычислений приведены в табл. 3.19. $\begin{aligned} \mathit{Table~3.19}~&\\ \begin{array}{\|c\|c\|c\|c\|c\|c\|c\|} \hline k& 0& 1& 2& 3& 4&5 \\\hline \begin{matrix}{}\\[-6pt]{}\end{matrix} x_1^{(k)} & 1& -0,\!625& -0,\!091911& -0,\!002653& -0,\!0000023&0,\!0000 \\\hline \begin{matrix}{}\\[-6pt]{}\end{matrix} x_2^{(k)} & 5& 3,\!625& 3,\!091911& 3,\!002653& 3,\!0000023&3,\!0000 \\\hline \begin{matrix}{}\\[-6pt]{}\end{matrix} \Delta^{(k+1)}&-& 1,\!625& 0,\!5333& 0,\!089258& 0,\!0026507&0,\!0000023 \\\hline \end{array}& \end{aligned}$ Найденное приближенное решение $x_{\ast}\cong (0;\, 3,\!0000)^T$ . Из анализа решения, приведенного в табл. 3.19, следует, что количество верных знаков на каждой итерации удваивается, что соответствует квадратичной сходимости. Пример 3.20. Найти решение системы расположенное в первом квадранте с точностью $\varepsilon= 10^{-5}$ $\begin{aligned}& f_1(x)= x_1+3\cdot \lg x_1-x_2^2=0,\\ & f_2(x)= 2x_1^2-x_1x_2-5x_1+1=0. \end{aligned}$ Решение 1. Выберем начальное приближение $x^{(0)}= (3,\!5;\, 2,\!2)^T$ . В поставленной задаче $\varepsilon= 10^{-5}$ . Положим $k=0$ . 2°. Составим систему (3.32). Так как $W(x)= \begin{pmatrix}\dfrac{\partial f_1(x)}{\partial x_1}& \cdots& \dfrac{\partial f_1(x)}{\partial x_n}\\ \vdots& \ddots& \vdots\\ \dfrac{\partial f_n(x)}{\partial x_1}& \cdots& \dfrac{\partial f_n(x)}{\partial x_n}\end{pmatrix}= \begin{pmatrix}1+\dfrac{3\cdot 0,\!43429}{x_1}&-2x_2\\ 4x_1-x_2-5&-x_1\end{pmatrix}\!,$ то $\begin{gathered}W(x^{(0)})= \begin{pmatrix}1+\dfrac{3\cdot 0,\!43429}{3,\!5}&-2\cdot 2,\!2\\ 4\cdot 3,\!5-2,\!2-5&-x_1\end{pmatrix}= \begin{pmatrix}1,\!372248571&-4,\!4\\ 6,\!8&-3,\!5 \end{pmatrix}\!, \\[2pt] \begin{pmatrix}1,\!372248571&-4,\!4\\ 6,\!8&-3,\!5 \end{pmatrix}\! \Delta x^{(0)}=-F(x^{(0)})=-\begin{pmatrix}3,\!5+3\cdot \lg3,\!5-2,\!2^2\\ 2\cdot 3,\!5-3,\!5\cdot 2,\!2-5\cdot 3,\!5+1\end{pmatrix}= \begin{pmatrix}-0,\!29220413\\-0,\!3\end{pmatrix}\!. \end{gathered}$ Отсюда с помощью метода Гаусса единственного деления находим $\Delta x^{(0)}= \begin{pmatrix}-0,\!011835967\\ 0,\!062718692\end{pmatrix}$ . 3°. Вычислим $x^{(1)}= x^{(0)}+ \Delta x^{(0)}= \begin{pmatrix}3,\!5\\ 2,\!2\end{pmatrix}+ \begin{pmatrix}-0,\!011835967\\ 0,\!062718692\end{pmatrix}= \begin{pmatrix}3,\!488164032\\ 2,\!262718691\end{pmatrix}$ . Этот же результат может быть непосредственно получен по формуле (3.31): $x^{(1)}= \begin{pmatrix}3,\!5\\ 2,\!2\end{pmatrix}-\frac{1}{25,\!11713}\cdot\! \begin{pmatrix}-3,\!5&4,\!4\\-6,\!8&1,\!37248571\end{pmatrix}\!\cdot\! \begin{pmatrix}-0,\!29220413\\-0,\!3\end{pmatrix}= \begin{pmatrix}3,\!488164032\\ 2,\!262718691\end{pmatrix}\!.$ 4°. Так как $\Delta^{(1)}= \max \bigl\{0,\!011835967; 0,\!062718692\bigr\}= 0,\!062718692> \varepsilon$ , то положим $k=1$ и перейдем к пункту 2. 2(1). Составим систему (3.32): $\begin{pmatrix}1,\!373511678&-4,\!525437382\\ 6,\!689937437&-3,\!488164032\end{pmatrix}\!\cdot \Delta x^{(1)}= \begin{pmatrix}0,\!00394114&-0,\!00102252 \end{pmatrix}$ . Применяя метод Гаусса единственного деления, получаем $\Delta x^{(1)}= \begin{pmatrix}-7,\!21032383\cdot 10^4\\[2pt]-0,\!001089727 \end{pmatrix}\!.$ 3.1. Вычислим $x^{(2)}= x^{(2)}+ \Delta x^{(2)}= \begin{pmatrix}3,\!487443\\ 2,\!261628964 \end{pmatrix}$ . 4(1). Так как $\Delta^{(2)}= \max\! \left\{\|-7,\!21032383\cdot 10^4\|,\, \|-0,\!001089727\|\right\}= 0,\!001089727> \varepsilon$ , то положим $k=2$ и продолжим решение по алгоритму. Результаты дальнейших расчетов приведены в табл. 3.20. $\begin{aligned}\mathit{Table~3.20}~&\\ \begin{array}{\|c\|c\|c\|c\|c\|} \hline k& 0& 1& 2& 3\\\hline\begin{matrix}{}\\[-6pt]{}\end{matrix} x_1^{(k)}& 3,\!500000& 3,\!488164032& 3,\!487443000& 3,\!487442788 \\\hline \begin{matrix}{}\\[-6pt]{}\end{matrix} x_2^{(k)}& 2,\!200000& 2,\!262718691& 2,\!261628964&2,\!261628631 \\\hline \begin{matrix}{}\\[-8pt]{}\end{matrix} \Delta &-& 0,\!062718692& 0,\!001089727&3,\!33446159\cdot 10^{-7} \\\hline \end{array}& \end{aligned}$ Из сопоставления полученных результатов с табл. 3.17 следует, что по методу простых итераций точность $\varepsilon= 0,\!001$ достигается за четыре итерации, а методом Ньютона точность $\varepsilon=10^{-5}$ достигнута всего за три приближения. Пример 3.21. Найти решение системы методом Ньютона с точностью $\varepsilon= 0,\!005$ $\begin{cases}x_1^2+x_2^2+x_3^2=1,\\ 2x_1^2+x_2^2-4x_3=0,\\ 3x_1^2-4x_2+x_3^2=0.\end{cases}$ Решение 1. Выберем в качестве начального приближения $x^{(0)}= (0,\!5;\, 0,\!5;\, 0,\!5)^T$ . В поставленной задаче $\varepsilon= 0,\!005$ . Положим $k=0$ . 2(0), 3(0). Воспользуемся формулой (3.31). Матрица Якоби имеет вид $W(x)= \begin{pmatrix}2x_1& 2x_2& 2x_3\\ 4x_1&4x_2&-4\\ 6x_1&-4&2x_3 \end{pmatrix}\!.$ В точке $x^{(0)}$ справедливо $\begin{gathered}W(x^{(0)})= \begin{pmatrix}1&1&1\\ 2&1&-4\\ 3&-4&1 \end{pmatrix}\!,\qquad F(x^{(0)})= \begin{pmatrix}0,\!25+0,\!25+0,\!25-1\\ 0,\!5+0,\!25-2\\ 0,\!75-2+0,\!25 \end{pmatrix}= \begin{pmatrix}-0,\!25\\-1,\!25\\-1\end{pmatrix}\!,\\ \det W(x^{(0)})=-40,\qquad W^{-1}(x^{(0)})=-\frac{1}{40}\! \begin{pmatrix}3\!\!\not{\phantom{\|}}\,8& 1\!\!\not{\phantom{\|}}\,8& 1\!\!\not{\phantom{\|}}\,8\\ 7\!\!\not{\phantom{\|}}\,20& 1\!\!\not{\phantom{\|}}\,20&-3\!\!\not{\phantom{\|}}\,20\\ 11\!\!\not{\phantom{\|}}\,40&-7\!\!\not{\phantom{\|}}\,40& 1\!\!\not{\phantom{\|}}\,40\end{pmatrix}\!. \end{gathered}$ В результате $\begin{aligned}x^{(1)}&= x^{(0)}-W^{-1}(x^{(0)})\cdot F(x^{(0)})=\\ &=\begin{pmatrix}0,\!5\\ 0,\!5\\ 0,\!5\end{pmatrix}-\begin{pmatrix}3\!\!\not{\phantom{\|}}\,8& 1\!\!\not{\phantom{\|}}\,8& 1\!\!\not{\phantom{\|}}\,8\\ 7\!\!\not{\phantom{\|}}\,20& 1\!\!\not{\phantom{\|}}\,20&-3\!\!\not{\phantom{\|}}\,20\\ 11\!\!\not{\phantom{\|}}\,40&-7\!\!\not{\phantom{\|}}\,40& 1\!\!\not{\phantom{\|}}\,40\end{pmatrix}\!\cdot\! \begin{pmatrix}-0,\!25\\-1,\!25\\-1\end{pmatrix}=\\ &= \begin{pmatrix}0,\!5\\ 0,\!5\\ 0,\!5\end{pmatrix}+ \begin{pmatrix}0,\!375\\ 0\\-0,\!125\end{pmatrix}= \begin{pmatrix}0,\!875\\ 0,\!5\\ 0,\!375\end{pmatrix}\!. \end{aligned}$ 4(0). Так как $\Delta^{(1)}= \max \bigl\{0,\!375; 0; \|-0,\!125\|\bigr\}= 0,\!375> \varepsilon$ , то положим $k=1$ и перейдем к пункту 2. 2(1). В точке $x^{(1)}$ справедливо $\begin{aligned}W(x^{(1)})&= \begin{pmatrix}2\cdot 0,\!875& 2\cdot 0,\!5& 2\cdot 0,\!375\\ 4\cdot 0,\!875& 2\cdot0,\!5&-4\\ 6\cdot0,\!875&-4&2\cdot0,\!375\end{pmatrix}= \begin{pmatrix}1,\!75& 1& 0,\!75\\ 3,\!5& 1&-4\\ 5,\!25&-4& 0,\!75 \end{pmatrix}\!,\\[4pt] F(x^{(1)})&= \begin{pmatrix}0,\!875^2+0,\!5^2+0,\!375^2-1\\ 2\cdot0,\!875^2+0,\!5^2-4\cdot 0,\!375\\ 3\cdot0,\!875^2-4\cdot0,\!5+ 0,\!375^2\end{pmatrix}= \begin{pmatrix}0,\!15625\\ 0,\!28125\\ 0,\!4375 \end{pmatrix}\!. \end{aligned}$ Составим и решим систему $\begin{pmatrix}1,\!75&1& 0,\!75\\ 3,\!5&1&-4\\ 5,\!25&-4&0,\!75\end{pmatrix}\cdot \Delta x^{(1)}=-\begin{pmatrix}0,\!15625\\ 0,\!28125\\ 0,\!4375\end{pmatrix}\!.$ С помощью метода Гаусса единственного деления получаем $\Delta x^{(1)}= \begin{pmatrix}-0,\!084995\\ -0,\!0032467\\ -0,\!0056818 \end{pmatrix}\!.$ 3(1). Вычислим $x^{(2)}= x^{(1)}+ \Delta x^{(1)}= \begin{pmatrix}0,\!790005\\ 0,\!496753\\ 0,\!369318 \end{pmatrix}\!.$ 4(1). Так как $\Delta^{(2)}= \max_{i} \bigl\|\Delta x_i^{(1)}\bigr\|= 0,\!084995> \varepsilon= 0,\!005$ , то положим $k=2$ и перейдем к пункту 2. 2(2). Составим и решим систему $\begin{pmatrix}1,\!58001& 0,\!993506& 0,\!738636\\ 3,\!16002\!& 1,\!987012\!&-4\\ 4,\!74003&-4&0,\!738636 \end{pmatrix}\!\cdot \Delta x^{(2)}=-\begin{pmatrix}0,\!007267\\ 0,\!017707\\ 0,\!021707 \end{pmatrix}\!.$ Применяя метод Гаусса, находим $\Delta x^{(2)}=-\begin{pmatrix}-0,\!004785\\-0,\!000136\\0,\!000579 \end{pmatrix}\!.$ 3(2). Вычислим $x^{(3)}= x^{(2)}+ \Delta x^{(2)}= \begin{pmatrix}0,\!785220\\ 0,\!496617\\ 0,\!369897\end{pmatrix}\!.$ 4(2).Так как $\Delta x^{(3)}= \max_{i} \bigl\|\Delta x_i^{(2)}\bigr\|= 0,\!004785< 0,\!005$ , то процесс завершен и $x_{\ast}\cong x^{(3)}$ . Упрощенный метод Ньютона для нелинейных систем В этом методе в отличие от метода Ньютона (3.31) обратная матрица ищется только один раз в начальной точке $x^{(0)}\colon$ $x^{(k+1)}= x^{(k)}-W^{-1}(x^{(0)})\cdot F(x^{(k)}),\quad k=0,1,2,\ldots$ (3.33) Заметим, что при решении одного уравнения $f(x)=0$ упрощенным методом Ньютона производная функции вычисляется также один раз в начальной точке. Методика решения задачи аналогична изложенной в предыдущем разделе, где вместо (3.32) используется система $W(x^{(0)})\cdot \Delta x^{(k)}=-F(x^{(k)}),\quad k=0,1,2,\ldots$ матрица которой $W(x^{(0)})$ не изменяется от итерации к итерации. Очевидно, сходимость упрощенного метода Ньютона в общем случае хуже по сравнению со сходимостью процесса (3.31). Пример 3.22. Найти положительное решение системы $\left\{\!\begin{aligned}& f_1(x)= x_1^2+x_2^2-1,\\ & f_2(x)= x_1^3-x_2=0 \end{aligned}\right.$ упрощенным методом Ньютона с точностью $\varepsilon=10^{-4}$ Решение 1. Выберем начальное приближение. Из рис. 3.18 следует, что для нахождения положительного решения системы можно принять $x^{(0)}= (0,\!9;\, 0,\!5)^T$ . В поставленной задаче $\varepsilon=10^{-4}$ . Положим $k=0$ . 2(0), 3(0). Так как $W(x)= \begin{pmatrix}2x_1& 2x_2\\ 3x_1^2&-1\end{pmatrix}\!,~ F(x)= \begin{pmatrix}x_1^2+x_2^2-1\\ x_1^3-x_2\end{pmatrix}$ , то для выполнения вычислений по формуле (3.33) найдем обратную матрицу $W^{-1}(x^{(0)})\colon$ $\begin{gathered}W(x^{(0)})= \begin{pmatrix}1,\!8&1\\ 2,\!43&-1\end{pmatrix}\!,\qquad \det W(x^{(0)})=-1,\!8-2,\!43=-4,\!23\,;\\[2pt] W^{-1}(x^{(0)})=-\frac{1}{4,\!23}\! \begin{pmatrix}-1&-1\\-2,\!43&1,\!8 \end{pmatrix}= \begin{pmatrix}0,\!2364& 0,\!2364\\ 0,\!5745&-0,\!4255 \end{pmatrix}\!. \end{gathered}$ Поэтому $\begin{aligned}x^{(1)}&= x^{(0)}-W^{-1}(x^{(0)})\cdot F(x^{(0)})=\\ &=\begin{pmatrix} 0,\!9\\ 0,\!5\end{pmatrix}-\begin{pmatrix}0,\!2364& 0,\!2364\\ 0,\!5745&-0,\!4255\end{pmatrix}\!\cdot\! \begin{pmatrix}0,\!060\\ 0,\!229\end{pmatrix}=\\ &=\begin{pmatrix}0,\!9\\ 0,\!5\end{pmatrix}-\begin{pmatrix} 0,\!06832\\-0,\!06297\end{pmatrix}= \begin{pmatrix}0,\!83167\\ 0,\!56298\end{pmatrix}\!. \end{aligned}$ 4(0). Так как $\Delta x^{(1)}= \max \bigl\{\|-0,\!06832\|,\|0,\!06297\|\bigr\}= 0,\!06832> \varepsilon$ , то положим $k=1$ и перейдем к п.2. 2(1), 3(1). По формуле (3.33) получаем $\begin{aligned}x^{(2)}&= x^{(1)}-W^{-1}(x^{(0)})\cdot F(x^{(1)})= \\ &=\begin{pmatrix}0,\!83167\\ 0,\!56298\end{pmatrix}-\begin{pmatrix}0,\!2364& 0,\!2364\\ 0,\!5745&-0,\!4255\end{pmatrix}\!\cdot\! \begin{pmatrix}0,\!008619\\ 0,\!012267\end{pmatrix}=\\ &=\begin{pmatrix} 0,\!83167\\ 0,\!56298\end{pmatrix}-\begin{pmatrix}0,\!004937\\-0,\!000268\end{pmatrix}= \begin{pmatrix}0,\!826732\\ 0,\!563246\end{pmatrix}\!.\end{aligned}$ 4(1). Так как $\Delta^{(2)}= 0,\!004937>\varepsilon$ , то положим $k=2$ и перейдем к пункту 2. 2(2), 3(2). По формуле (3.33) получаем $\begin{aligned}x^{(3)}&= x^{(2)}-W^{-1}(x^{(0)})\cdot F(x^{(2)})= \\ &=\begin{pmatrix}0,\!826732\\ 0,\!563246\end{pmatrix}-\begin{pmatrix}0,\!2364& 0,\!2364\\ 0,\!5745&-0,\!4255\end{pmatrix}\!\cdot\! \begin{pmatrix}0,\!000732\\ 0,\!001814\end{pmatrix}=\\ &=\begin{pmatrix} 0,\!826732\\ 0,\!563246\end{pmatrix}-\begin{pmatrix}0,\!000602\\-0,\!00035l\end{pmatrix}= \begin{pmatrix}0,\!82613\\ 0,\!56359\end{pmatrix}\!.\end{aligned}$ 4(2). Поскольку $\Delta^{(3)}=0,\!000602> \varepsilon$ , то положим $k=3$ и перейдем к пункту 2. 2(3), 3(3). По формуле (3.33) имеем $\begin{aligned}x^{(4)}&= x^{(3)}-W^{-1}(x^{(0)})\cdot F(x^{(3)})= \\ &=\begin{pmatrix}0,\!82613\\ 0,\!56359\end{pmatrix}-\begin{pmatrix}0,\!2364& 0,\!2364\\ 0,\!5745&-0,\!4255\end{pmatrix}\!\cdot\! \begin{pmatrix}0,\!000124\\ 0,\!000236\end{pmatrix}=\\ &=\begin{pmatrix} 0,\!82613\\ 0,\!56359\end{pmatrix}-\begin{pmatrix}8,\!524\cdot 10^{-5}\\-2,\!89692\cdot 10^{-5} \end{pmatrix}= \begin{pmatrix}0,\!8260447\\ 0,\!5636189 \end{pmatrix}\!. \end{aligned}$ 4(3).Поскольку $\Delta^{(4)}= 8\!524\cdot 10^{-5}< \varepsilon= 0,\!0001$ , то процесс завершен и $x_{\ast}\cong x^{(4)}$ . Метод секущих для решения нелинейных систем уравнений Идея метода секущих (метода Бройдена) заключается в аппроксимации матрицы Якоби с использованием уже вычисленных значений функций, образующих систему (сравните с методом секущих для уравнения $f(x)=0$ , изложенным ранее). Алгоритм метода секущих для нелинейных систем 1. Задать начальное приближение $x^{(0)}$ и малое положительное число е. 2. Положить $k=0$ и $A_0=W(x^{(0)})$ , где $W(x)$ — матрица Якоби. 3. Решить систему линейных алгебраических уравнений $A_ks_k=-F(x^{(k)})$ относительно $s_k$ — поправки к текущему приближению. 4. Вычислить $x^{(k+1)}= x^{(k)}+s_k$ . 5. Если $\\|s_k\\|\leqslant \varepsilon$ , процесс завершить и положить $x_{\ast}= x^{(k+1)}$ . Если $\\|s_k\\|>\varepsilon$ , вычислить $y_k= F(x^{(k+1)})-F(x^{(k)}),\qquad A_{k+1}= A_k+\frac{(y_k-A_ks_k)\cdot s_k^T}{s_k^Ts_k}\,,$ положить $k=k+1$ и перейти к п.3. Замечания 1. Можно доказать, что если $x^{(0)}$ достаточно близко к корню $x_{\ast}$ , где матрица Якоби $W(x_{\ast})$ не вырождена, и если $A_0$ достаточно близка к $W(x^{(0)})$ , то последовательность итераций $\{x^{(k)}\}$ сходится к $x_{\ast}$ сверхлинейно. 2. Когда метод секущих сходится к $x_{\ast}$ сверхлинейно, нельзя предполагать, что последняя из аппроксимаций якобиана $A_k$ будет приблизительно равняться $W(x_{\ast})$ , хотя часто это именно так. ▼ Примеры 3.23-3.24 Пример 3.23. Решить систему нелинейных уравнений методом секущих $\left\{\!\begin{aligned}& f_1(x)=x_1+x_2-3=0,\\ & f_2(x)=x_1^2+x_2^2-9=0. \end{aligned}\right.$ Решение 1. Как следует из примера 3.18, для нахождения корня $x_{\ast}= (0;\,3)^T$ можно выбрать начальное приближение $x^{(0)}=(1;\,5)^T$ и $\varepsilon=0,\!001$ . 2. Положим $k=0$ и $A_0= W(x^{(0)})= \begin{pmatrix}1&1\\ 2&10 \end{pmatrix}$ , так как $W(x)= \begin{pmatrix}1&1\\ 2x_2&2x_2\end{pmatrix}$ . 3(0). Решим систему $A_0\cdot s_0=-F(x^{(0)})$ . Так как $F(x^{(0)})= \begin{pmatrix} 3\\17\end{pmatrix}$ , то $s_0=-A_0^{-1}F(x^{(0)})= \begin{pmatrix}-1,\!625\\-1,\!375 \end{pmatrix}$ . 4(0). Вычислим $x^{(1)}=x^{(0)}+s_0= \begin{pmatrix}1\\5\end{pmatrix}+ \begin{pmatrix}-1,\!625\\-1,\!375\end{pmatrix}= \begin{pmatrix}-0,\!625\\3,\!625\end{pmatrix}$ . 5(0). Поскольку $\\|s_0\\|_1=1,\!625>\varepsilon$ , то вычислим $\begin{aligned}y_0&=F(x^{(1)})-F(x^{(0)})= \begin{pmatrix}0\\4,\!53125\end{pmatrix}-\begin{pmatrix}3\\17 \end{pmatrix}= \begin{pmatrix}-3\\-12,\!46875\end{pmatrix}\!,\\[4pt] s_0^Ts_0&= \begin{pmatrix}-1,\!625&-1,\!375\end{pmatrix}\!\cdot\! \begin{pmatrix}-1,\!625\\-1,\!375\end{pmatrix}= 4,\!53125,\\[4pt] y_0-A_0s_0&= \begin{pmatrix}-3\\-12,\!46875\end{pmatrix}-\begin{pmatrix}1&1\\2&10 \end{pmatrix}\!\cdot\! \begin{pmatrix}-1,\!625\\-1,\!375\end{pmatrix}= \begin{pmatrix}-3\\-12,\!46875\end{pmatrix}-\begin{pmatrix}-3\\-17\end{pmatrix}= \begin{pmatrix}0\\4,\!53125 \end{pmatrix}\!,\\[4pt] (y_0-A_0s_0)\cdot s_0^T&= \begin{pmatrix}0\\4,\!53125 \end{pmatrix}\!\cdot\! \begin{pmatrix}-1,\!625&-1,\!375\end{pmatrix}\!;\\[4pt] A_1&=A_0+\frac{(y_0-A_0s_0)\cdot s_0^T}{s_0^Ts_0}= \begin{pmatrix}1&1\\2&10 \end{pmatrix}+ \begin{pmatrix}0&0\\-1,\!625&-1,\!375\end{pmatrix}= \begin{pmatrix}1&1\\0,\!375&8,\!625\end{pmatrix}\!. \end{aligned}$ Положим $k=1$ и перейдем к пункту 3. 3(1). Решим систему $A_1\cdot s_1=-F(x^{(1)})$ , то есть $\begin{pmatrix}1&1\\ 0,\!375&8,\!625\end{pmatrix}\!s_1=-\begin{pmatrix}0\\4,\!53125\end{pmatrix}$ . Применяя метод Гаусса, получаем $s_1=-A_1^{-1}\cdot F(x^{(1)})= \begin{pmatrix}0,\!549\\-0,\!549 \end{pmatrix}$ . 4(1). Вычислим $(x^{(2)}= (x^{(1)}+s_1= \begin{pmatrix}-0,\!625\\ 3,\!625\end{pmatrix}+ \begin{pmatrix}0,\!549\\-0,\!549 \end{pmatrix}= \begin{pmatrix}-0,\!076\\3,\!076 \end{pmatrix}$ . 5(1). Поскольку $\\|s_1\\|_1=01,\!549>\varepsilon$ , то вычислим $A_2= \begin{pmatrix} 1&1\\-0,\!799& 8,\!201\end{pmatrix}$ , положим $k=2$ и перейдем к пункту 3. Результаты вычислений приведены в табл. 3.21. $\begin{aligned} \mathit{Table~3.21}~&\\ \begin{array}{\|c\|c\|c\|c\|c\|c\|c\|} \hline k& 0& 1& 2& 3& 4&5 \\\hline \begin{matrix}{}\\[-6pt]{}\end{matrix} x_1^{(k)}&1 &-0,\!625 &-0,\!0757575 &-0,\!0127942 &-0,\!0003138 &0,\!0000013 \\\hline \begin{matrix}{}\\[-6pt]{}\end{matrix} x_2^{(k)}&5 &3,\!625 &3,\!0757575 &3,\!0127942 &3,\!0003138 &3,\!0000013 \\\hline \begin{matrix}{}\\[-8pt]{}\end{matrix} \Delta&-&1,\!625 &0,\!549 &0,\!0629 &0,\!01248 &0,\!00031 \\\hline \end{array}& \end{aligned}$ Полученное приближенное решение $x_{\ast}\cong (0,\!0000013;\, 3,\!0000013)^T$ . Пример 3.24. Решить систему $\begin{cases}x_1^2+x_2^2-2=0,\\ e^{x_1-1}+x_2^3-2=0\end{cases}$ методом секущих с точностью $\varepsilon= 0,\!01$ . Решение Очевидно, точное решение системы $x_{\ast}= (1;\,1)^T$ . Выберем начальное приближение $x^{(0)}= (1,\!5;\,2)^T$ . В поставленной задаче $\varepsilon= 0,\!01$ . Так как $W(x)= \begin{pmatrix}2x_1& 2x_2\\ e^{x_1-1}& 3x_2^2\end{pmatrix}$ , то положим $A_0= W(x^{(0)})= \begin{pmatrix}3&4\\ 1,\!6487&12\end{pmatrix}$ . Результаты расчетов приведены в табл. 3.22. $\begin{aligned} \mathit{Table~3.22}~&\\ \begin{array}{\|c\|c\|c\|c\|c\|c\|c\|c\|} \hline k& 0& 1& 2& 3& 4& 5&6 \\\hline \begin{matrix}{}\\[-6pt]{}\end{matrix} x_1^{(k)}& 1,\!5& 0,\!8060692& 0,\!7410741& 0,\!8022786& 0,\!9294701& 1,\!004003&1,\!003084 \\\hline \begin{matrix}{}\\[-6pt]{}\end{matrix} x_2^{(k)}& 2& 1,\!457948& 1,\!277067& 1,\!159900& 1,\!070406& 1,\!003084&0,\!9992213 \\\hline \begin{matrix}{}\\[-8pt]{}\end{matrix} \Delta&-& 0,\!69393& 0,\!18088& 0,\!11717& 0,\!12719& 0,\!07453&0,\!0038 \\\hline \end{array}& \end{aligned}$ Найдено приближенное решение: $x_{\ast}\cong (1,\!003084;\, 0,\!9992213)^T$ . Математический форум (помощь с решением задач, обсуждение вопросов по математике). Если заметили ошибку, опечатку или есть предложения, напишите в комментариях.

Методы решения систем нелинейных уравнений

Онлайн-сервисы

Нахождение НОД и НОК Разложение числа на простые множители Сравнения по модулю Операции над множествами Операции над векторами Разложение вектора по базису. Доказательство, что векторы образуют базис Чертёж треугольника по координатам вершин Решение треугольника Решение Пирамиды Построение Пирамиды по координатам вершин Чертёж многоугольника по координатам вершин Решение систем методом Крамера и Матричным Онлайн построение графика кривой 2-го порядка Определение вида кривой или поверхности 2-го порядка по инвариантам МНК и регрессионный анализ Онлайн + графики Онлайн число, сумма и дата прописью

Алгоритмы JavaScript

Алгоритмы поиска Алгоритмы сортировки Уникальные элементы массива Объединение, пересечение и разность массивов НОД и НОК Операции над матрицами Дата прописью

Введение в анализ

Функции: понятие, определение, графики Непрерывность функции Исследование функции и построение графика

Теория множеств

Множества: понятие, определение, примеры Точечные множества Замкнутые и открытые множества Мера множества Группы, кольца, поля в математике Поле комплексных чисел Кольцо многочленов Основная теорема алгебры и ее следствия

Математическая логика

Алгебра высказываний

Аксиоматика и логические рассуждения Методы доказательств теорем Алгебра высказываний и операции над ними Формулы алгебры высказываний Тавтологии алгебры высказываний Логическая равносильность формул Нормальные формы для формул высказываний Логическое следование формул Приложение алгебры высказываний для теорем Дедуктивные и индуктивные умозаключения Решение логических задач Принцип полной дизъюнкции

Булевы функции

Множества, отношения и функции в логике Булевы функции от одного и двух аргументов Булевы функции от n аргументов Системы булевых функций Применение булевых функций к релейно-контактным схемам Релейно-контактные схемы в ЭВМ Практическое применение булевых функций

Теория формального

Формализованное исчисление высказываний Полнота и другие свойства формализованного исчисления высказываний Независимость системы аксиом формализованного исчисления высказываний

Логика предикатов

Логика предикатов Логические операции над предикатами Кванторные операции над предикатами Формулы логики предикатов Тавтологии логики предикатов Преобразования формул и следование их предикатов Проблемы разрешения для общезначимости и выполнимости формул Применение логики предикатов в математике Строение математических теорем Аристотелева силлогистика и методы рассуждений Принцип полной дизъюнкции в предикатной форме Метод полной математической индукции Необходимые и достаточные условия Логика предикатов и алгебра множеств Формализованное исчисление предикатов

Неформальные и формаль-
ные аксиоматические теории

Неформальные аксиоматические теории Свойства аксиоматических теорий Формальные аксиоматические теории Формализация теории аристотелевых силлогизмов Свойства формализованного исчисления предикатов Формальные теории первого порядка Формализация математической теории

Теория алгоритмов

Интуитивное представление об алгоритмах Машины Тьюринга и тезис Рекурсивные функции Нормальные алгоритмы Маркова Разрешимость и перечислимость множеств Неразрешимые алгоритмические проблемы Теорема Гёделя о неполноте формальной арифметики

Математическая логика и компьютеры

Математическая логика и языки программирования Применение компьютеров для доказательства теорем математической логики Математическая логика и логическое программирование Математическая логика и информатика Математическая логика и искусственный интеллект

Дискретная математика

Множества и отношения

Теория множеств: понятия и определения Операции над множествами Кортеж и декартово произведение множеств Соответствия и бинарные отношения на множествах Операции над соответствиями на множествах Семейства множеств Специальные свойства бинарных отношений Отношения эквивалентности на множестве Упорядоченные множества Теорема о неподвижной точке Мощность множества Парадокс Рассела Метод характеристических функций

Группы и кольца

Алгебраические структуры и операции Группоиды, полугруппы, группы Кольца, тела, поля Области целостности в теории колец Модули и линейные пространства Подгруппы и подкольца Теорема Лагранжа о порядке конечной группы Гомоморфизмы групп и нормальные делители Гомоморфизмы и изоморфизмы колец Алгебра кватернионов

Полукольца и булевы алгебры

Полукольца: определение, аксиомы, примеры Замкнутые полукольца Полукольца и системы линейных уравнений Булевы алгебры и полукольца Решетки и полурешетки

Алгебраические системы

Алгебраические системы: модели и алгебры Подсистемы алгебраических систем Конгруэнции и фактор-системы Гомоморфизмы алгебраических систем Прямые произведения алгебраических систем Конечные булевы алгебры Многосортные алгебры

Теория графов

Теория графов: основные понятия и определения Способы представления графов Неориентированные и ориентированные деревья Остовное дерево и алгоритм Краскала Методы систематического обхода вершин графа Алгоритмы поиска в глубину и ширину в графах Задача о путях во взвешенных ориентированных графах Изоморфизм, гомоморфизм и автоморфизм графов Топологическая сортировка вершин графа Элементы цикломатики в теории графов

Булева алгебра и функции

Булевы функции и булев куб Таблицы булевых функций и булев оператор Равенство булевых функций. Фиктивные переменные Формулы и суперпозиции булевых функций Дизъюнктивные и конъюнктивные нормальные формы Построение минимальных ДНФ Теорема Поста и классы Критерий Поста Схемы из функциональных элементов

Конечные автоматы и регулярные языки

Конечные автоматы и регулярные языки Алфавит, слово, язык в программировании Порождающие грамматики (грамматики Хомского) Классификация грамматик и языков Регулярные языки и регулярные выражения Конечные автоматы Допустимость языка конечным автоматом Теорема Клини Детерминизация конечных автоматов Минимизация конечных автоматов Лемма о разрастании для регулярных языков Обоснование алгоритма детерминизации автоматов Конечные автоматы с выходом Морфизмы и конечные подстановки Машины Тьюринга

Контекстно-свободные языки

Контекстно-свободные языки и грамматики Приведенная форма КС-грамматики Лемма о разрастании для КС-языков Магазинные автоматы (автомат с магазинной памятью) Алгоритм построения МП-автомата по КС-грамматике Алгоритм построения КС-грамматики по МП-автомату Алгебраические свойства КС-языков Основное свойство суперпозиции КС-языков Пересечение контекстно-свободных языков Методы синтаксического анализа КС-языков Восходящий синтаксический анализ и LR(k)-грамматики Семантика формальных языков Принцип индукции по неподвижной точке Графовое представление МП-автоматов

Интегральное исчисление

Неопределённый и определённый

Неопределенный и определенный интегралы Свойства интегралов Интегрирование по частям Интегрирование методом замены переменной Интегрирование различных рациональных функций Интегрирование различных иррациональных функций Интегрирование различных тригонометрических функций Определенный интеграл и его основные свойства Необходимое и достаточное условие интегрируемости Теоремы существования первообразной Свойства определенных интегралов Несобственные интегралы Интегральное определение логарифмической функции

Приложения интегралов

Вычисление площадей плоских фигур Площади фигур в различных координатах Вычисление объемов тел с помощью интегралов Объём тела вращения Вычисление длин дуг кривых Формулы длины дуги регулярной кривой Кривизна плоской кривой Площадь поверхности вращения тела

Интегралы в физике

Статические моменты и координаты центра тяжести Теоремы Гульдина–Паппа Вычисление моментов инерции Другие приложения интегралов в физике

Основные интегралы

Интеграл Ньютона-Лейбница Интеграл Римана Интеграл Лебега

Вариационное исчисление

Примеры вариационных задач Дифференциальное уравнение Эйлера Функционалы, зависящие от нескольких функций Задача о минимуме кратного интеграла

Финансовый анализ

Анализ эффективности

Критерии и показатели эффективности предприятия Методы анализа эффективности деятельности Факторный анализ прибыли от операционной деятельности Анализ безубыточности предприятия Операционный рычаг и эффект финансового рычага Анализ и оценка состава, структуры и динамики доходов и расходов Анализ рентабельности и резервов устойчивого роста капитала Анализ распределения прибыли предприятия Анализ и оценка чувствительности показателей эффективности

Анализ устойчивости

Финансовая устойчивость и долгосрочная платежеспособность Характеристика типов финансовой устойчивости

Рыночная активность

Финансовый анализ рыночной активности Методика анализа рыночной активности Анализ и оценка дивидендного дохода на одну акцию

Инвестиционная деятельность

Инвестиции: экономическая сущность и классификация Государственное регулирование инвестиционной деятельности Источники финансовых ресурсов на капитальные вложения Инвестиции в основные фонды Оценка состояния основных фондов Амортизация основных фондов Капитальное строительство в инвестиционном процессе Планирование инвестиций в форме капитальных вложений Экономическая эффективность инвестиций Финансирование капитальных вложений Кредитование капитальных вложений Кредитоспособность Финансирование и кредитование затрат Финансирование и кредитование инвестиционной деятельности потребительской кооперации Финансирование и кредитование капитальных вложений потребительской кооперации Инвестиционное строительное проектирование

Анализ инвестиций

Инвестиции и инвестиционная деятельность предприятия Задачи финансового анализа инвестиций предприятия Учет фактора времени в инвестиционной деятельности Аннуитет и финансовая рента в инвестициях Учет фактора инфляции при инвестировании Оценка фактора риска инвестиционного проекта Методы оценки эффективности инвестиций Показатели эффективности инвестиционного проекта

Стоимость компании

Концепция построения международных стандартов финансовой отчетности (МСФО) Экономическое содержание международных стандартов финансовой отчётности Цели и принципы оценки стоимости акций и активов компании Оценка акций и активов предприятия по справедливой стоимости Методы оценки справедливой стоимости акций предприятия Затратный подход к оценки стоимости компаний и акций Сравнительный подход к оценки стоимости предприятий и акций Доходный подход к оценке стоимости компании и акций Выбор ставки дисконтирования при инвестировании в акции Метод капитализации прибыли Сравнение подходов к оценке стоимости компаний и пакетов акций

Форвардные контракты

Форвардный контракт и цена Форвардная цена акции на бирже Цена форвардного контракта инвестора Форвардная цена акции с учетом величины дивиденда Форвардная цена акции с учетом ставки дивиденда Форвардная цена валюты на рынке форекс Форвардный валютный курс и инфляция на рынке Форвардная цена товара и спотовый рынок Форвардная цена при различии ставок по кредитам и депозитам Синтетический форвардный контракт на акции и валюту

Теория вероятностей

Основные понятия теории вероятностей Зависимые и независимые случайные события Повторные независимые испытания Формула Бернулли Одномерные случайные величины Многомерные случайные величины Функции случайных величин Законы распределения целочисленных случайных величин Законы распределения непрерывных случайных величин Предельные теоремы теории вероятностей Закон больших чисел и предельные теоремы Вероятностные закономерности

Математическая статистика

Элементы математической статистики Выборочный метод Оценки параметров генеральной совокупности Статистические гипотезы Критерии согласия Теоретические и эмпирические частоты

Теория очередей (СМО)

Определение системы массового обслуживания Уравнения Колмогорова Предельные вероятности состояний Определение СМО с отказами Определение СМО с ожиданием (очередью)

Аналитическая геометрия

Векторная алгебра

Метрические понятия и аксиомы геометрии Равенство и подобие геометрических фигур Бинарные отношения Вектор, его направление и длина Линейные операции над векторами Линейная зависимость и независимость векторов Отношение коллинеарных векторов Проекции векторов на прямую и на плоскость Угол между векторами Ортогональные проекции векторов Координата вектора на прямой и базис Координаты вектора на плоскости и базис Координаты вектора в пространстве и базис Операции над векторами в координатной форме Ортогональный и ортонормированный базисы Cкалярное произведение векторов и его свойства Выражение скалярного произведения через координаты векторов Векторное произведение векторов и его свойства Смешанное произведение векторов и его свойства Ориентированные площади и объемы Двойное векторное произведение и его свойства Применение векторов в задачах на аффинные свойства фигур Применение произведений векторов при решении геометрических задач Применение векторной алгебры в механике

Системы координат

Прямоугольные координаты Преобразования прямоугольных координат Полярная система координат Цилиндрическая система координат Сферические координаты Аффинные координаты Аффинные преобразования координат Аффинные преобразования плоскости Примеры аффинных преобразований плоскости Аффинные преобразования пространства Многомерное координатное пространство Линейные и аффинные подпространства Скалярное произведение n-мерных векторов Преобразования систем координат

Геометрия на плоскости

Алгебраические линии на плоскости Общие уравнения геометрических мест точек Алгебраические уравнения линий на плоскости Уравнения прямой, проходящей через точку перпендикулярно вектору Уравнения прямой, проходящей через точку коллинеарно вектору Уравнения прямой, проходящей через две точки Уравнения прямой с угловым коэффициентом Взаимное расположение прямых Примеры задач с прямыми на плоскости Системы неравенств с двумя неизвестными Системы линейных уравнений с двумя неизвестными

Линии 2-го порядка

Канонические уравнения линий второго порядка Порядок приведения уравнения линии к каноническому виду Эллипс Гипербола Парабола Квадратичные неравенства с двумя неизвестными Применение линий 1-го и 2-го порядков в задачах на экстремум функций

Инварианты линий

Классификация линий 2-го порядка по инвариантам Приведение уравнения линии к каноническому виду по инвариантам

Геометрия в пространстве

Способы задания ГМТ в пространстве Алгебраические уравнения поверхностей Уравнения плоскости, проходящей через точку перпендикулярно вектору Уравнения плоскости, компланарной двум неколлинеарным векторам Уравнения плоскости, проходящей через три точки Взаимное расположение плоскостей Типовые задачи с плоскостями Уравнения прямых в пространстве Взаимное расположение прямых в пространстве Типовые задачи с прямыми в пространстве

Поверхности 2-го порядка

Канонические уравнения поверхностей Порядок приведения уравнения поверхности к каноническому виду Поверхности второго порядка Эллипсоиды Гиперболоиды Конусы Параболоиды Применение поверхностей 1-го и 2-го порядков в задачах на экстремум функций

Инварианты поверхностей

Классификация поверхностей 2-го порядка по инвариантам Квадратичные неравенства с тремя неизвестными Приведение уравнения поверхности к канониче-скому виду по инвариантам

Линейная алгебра

Матрицы и операции

Линейные операции над матрицами Умножение матриц Возведение матриц в степень Многочлены от матриц Транспонирование и сопряжение матриц Блочные матрицы Произведение и сумма матриц Кронекера Метод Гаусса приведения матрицы к ступенчатому виду Элементарные преобразования матриц

Определители

Определители матриц и их основные свойства Формула полного разложения определителя Формула Лапласа полного разложения определителя Определитель произведения матриц Методы вычисления определителей

Ранг матрицы

Линейная зависимость и линейная независимость строк (столбцов) матрицы Ранг матрицы и базисный минор матрицы Методы вычисления ранга матрицы Ранг системы столбцов (строк)

Обратная матрица

Обратные матрицы и их свойства Ортогональные и унитарные матрицы Способы нахождения обратной матрицы Матричные уравнения Односторонние обратные матрицы Скелетное разложение матрицы Полуобратная матрица Псевдообратная матрица

Системы уравнений

Системы линейных алгебраических уравнений Метод Гаусса решения систем линейных уравнений Структура общего решения системы уравнений Решение систем с помощью полуобратных матриц Псевдорешения системы линейных уравнений

Функциональные матрицы

Функциональные матрицы скалярного аргумента Производные матриц по векторному аргументу Линейные и квадратичные формы и их преобразования Приведение форм к каноническому виду Закон инерции вещественных квадратичных форм Знакоопределенность форм вещественных квадратичных Формы и исследование функций на экстремум

Многочленные матрицы

Многочленные матрицы (лямбда-матрицы) Операции над лямбда-матрицами Простые преобразования многочленных матриц Инвариантные множители многочленной матрицы

Функции от матриц

Собственные векторы и значения матрицы Подобие числовых матриц Характеристический многочлен матрицы Минимальный многочлен матрицы Теорема Гамильтона-Кэли Жорданова форма матрицы Приведение матрицы к жордановой форме Многочлены от матриц Применение многочленов от матриц Функции от матриц

Линейные пространства

Линейные пространства: определение и примеры Линейная зависимость и независимость n-мерных векторов Размерность и базис линейного пространства Преобразования координат в линейном пространстве Изоморфизм линейных пространств

Подпространства

Подпространства линейного пространства Пересечение и сумма подпространств Способы описания подпространств Нахождение дополнения и суммы подпространств Нахождение пересечения подпространств

Линейные отображения

Линейные многообразия Линейные отображения Матрица линейного отображения Ядро и образ линейного отображения

Линейные операторы

Линейные операторы (преобразования) Инвариантные подпространства Собственные векторы и значения оператора Свойства собственных векторов операторов Канонический вид линейного оператора Методика приведения линейного преобразования к каноническому виду

Евклидовы пространства

Комплексный анализ

Комплексные числа

Комплексные числа в алгебраической форме Комплексные числа в тригонометрической и показательной формах Множества на комплексной плоскости Последовательности и ряды комплексных чисел

Комплексные функции

Функции комплексного переменного. Предел, непрерывность и производная Элементарные функции комплексного переменного Дифференцирование функций комплексного переменного Аналитические функции и их свойства Конформные отображения
и их свойства Интегрирование функций комплексного переменного

Функциональные ряды в комплексной области

Функциональные ряды и последовательности Степенные ряды и их свойства Разложение функций в степенные ряды Нули аналитических функций Ряд Лорана и разложение функций по целым степеням

Особые точки, Вычеты

Изолированные особые точки функций и полюсы Вычеты и их применение Вычисление интегралов с помощью вычетов Вычеты и расположение нулей многочлена

Операционное исчисление

Преобразование Лапласа и его свойства Решение ДУ операционным методом Анализ выходных процессов линейных стационарных систем Z-преобразование и его свойства

Дифференциальные уравнения

ДУ первого порядка

Основные понятия и определения ДУ Метод изоклин для ДУ 1-го порядка Метод последовательных приближений ДУ с разделяющимися переменными Однородные ДУ Линейные ДУ 1-го порядка Дифференциальное уравнение Бернулли ДУ в полных дифференциалах Интегрирующий множитель ДУ, не разрешенные относительно производной Дифференциальное уравнение Риккати Составление ДУ семейств линий Задачи на траектории Особые решения ДУ

ДУ высших порядков

Понятия и определения ДУ высших порядков ДУ, допускающие понижение порядка Линейная независимость функций Определители Вронского и Грама Однородные и неоднородные дифференциальные уравнения Задача Коши и Уравнение Эйлера Линейные ДУ с переменными коэффициентами Метод Лагранжа решения ДУ Краевые задачи для ДУ высших порядков Разложение решения ДУ в степенной ряд Разложение решения ДУ в обобщенный степенной ряд Нахождение периодических решений ДУ Асимптотическое интегрирование ДУ

Системы ДУ

Системы ДУ: понятия и определения Сведение системы ДУ к одному уравнению Нахождение интегрируемых комбинаций Интегрирование однородных линейных систем ДУ Методы интегрирования неоднородных систем ДУ Преобразование Лапласа и решение ДУ и систем

Теория устойчивости

Устойчивость решений ДУ по Ляпунову Простейшие типы точек покоя Метод функций Ляпунова Устойчивость решений ДУ по первому приближению Критерии устойчивости Рауса–Гурвица и Михайлова ДУ с малым параметром при производной

Численные методы

Методы алгебры

Численные методы линейной алгебры Численные методы решения СЛАУ Итерационный метод Шульца обратной матрицы Методы решения задач о собственных значениях и векторах матрицы Методы решения нелинейных уравнений Методы решения систем нелинейных уравнений

Методы теории приближений

Методы приближения сеточных функций Методы функциональной интерполяции Методы интегрально-дифференциальной интерполяции Методы интегрального сглаживания Методы интерполяции и сглаживания сплайнами Методы численного дифференцирования и интегрирования Методы численного дифференцирования Методы численного интегрирования

Методы решения обыкновенных ДУ

Численные методы решения задачи Коши Разностные схемы для решения задачи Коши Составные схемы для решения задачи Коши Экстраполяционные методы решения задачи Коши Непрерывно-дискретные методы решения задачи Коши Численные методы решения краевых задач

Методы решения ДУ в частных производных

Численные методы решения уравнений математической физики с двумя переменными Принципы построения разностных схем для уравнений в частных производных Разностные схемы решения уравнений в частных производных 1-го порядка Разностные схемы решения уравнений в частных производных 2-го порядка Численные методы решения уравнений в частных производных Численные методы решения уравнений математической физики с тремя переменными

Методы решения систем нелинейных уравнений

Постановка задачи

Дана система $n$ нелинейных уравнений с $n$ неизвестными:

$\begin{cases}f_1(x_1,\ldots,x_n)=0,\\ f_2(x_1,\ldots,x_n)=0,\\ \quad\vdots\\ f_n(x_1,\ldots,x_n)=0, \end{cases}\qquad \mathsf{(3.22)}$

где $f_i(x_1,\ldots,x_n)\colon \mathbb{R}^n\to \mathbb{R},~ i=1,\ldots,n$ , — нелинейные функции, определенные и непрерывные в некоторой области $G\subset\mathbb{R}^n$ , или в векторном виде (где $x=\bigl(x_1,\ldots,x_n\bigr)^T,~ F(x)=\bigl[f_1(x),\ldots,f_n(x)\bigr]^T$ )

$F(x)=0.\qquad \mathsf{(3.23)}$

Требуется найти такой вектор $x_{\ast}=\bigl(x_{\ast1},\ldots,x_{\ast n}\bigr)^T$ , который при подстановке в систему (3.22) превращает каждое уравнение в верное числовое равенство.

Замечания

1. Проблема решения системы (3.22) возникает при решении многих прикладных задач, например, поиска безусловного экстремума функций многих переменных с помощью необходимых условий, при применении неявных методов интегрирования обыкновенных дифференциальных уравнений и т.д.

2. Задача нахождения комплексных корней $f(z)=0$ может быть сведена к проблеме решения двух уравнений с двумя неизвестными. Для этого следует положить $z=x+iy$ и выделить действительную и мнимую части функции:

$f(z)=u(x,y)+i\,v(x,y)=0.$

Отсюда получаем систему $\begin{cases}u(x,y)=0,\\ v(x,y)=0,\end{cases}$ которая может быть решена одним из рассматриваемых в данном разделе методов:

3. Для всех рассматриваемых далее методов требуется находить начальное приближение $x^{(0)}$ . В случае $n=2$ это можно сделать графически, определив координаты точки пересечения кривых, описываемых уравнениями $f_1(x_1,x_2)=0$ и $f_2(x_1,x_2)=0$ .

4. Задача решения системы (3.22) может быть сведена к задаче поиска минимума функции $\textstyle{\Psi(x)= \sum\limits_{i=1}^{n} f_i^2(x_1,\ldots, x_n)}$ . Так как функция $\Psi(x)$ неотрицательная, ее минимальное значение, равное нулю, достигается в точке $x_{\ast}$ , являющейся решением системы (3.22). Для поиска минимума функции $\Psi(x)$ можно применить различные методы поиска безусловного экстремума функций многих переменных (первого, второго, нулевого порядков).

Далее рассмотрим основные методы решения задачи (3.22).

Метод простых итераций для решения нелинейных систем

Для применения метода требуется привести систему (3.22) к равносильному виду:

$\begin{cases}x_1=\varphi_1(x_1,\ldots,x_n),\\ x_2=\varphi_1(x_2,\ldots,x_n),\\ \quad\vdots\\ x_n=\varphi_n(x_1,\ldots,x_n), \end{cases}$

(3.24)

или в векторной форме

$x=\Phi(x),$

(3.25)

где $x=\bigl(x_1,\ldots,x_n\bigr)^T,~ \Phi(x)= \bigl[\varphi_1(x_1),\ldots, \varphi_n(x_n) \bigr]^T$ , функции $\varphi_i(x)$ определены и непрерывны в окрестности изолированного решения $x_{\ast}$ системы (3.24).

Алгоритм метода простых итераций для систем

1. Задать начальное приближение $x^{(0)}= \bigl(x_{10},x_{20},\ldots, x_{n0}\bigr)^T$ и малое положительное число $\varepsilon$ (точность). Положить $k=0$ .

2. Вычислить $x^{(k+1)}$ по формуле

$x^{(k+1)}=\Phi(x^{(k)})$

(3.26)

или

$x^{(k+1)}_1= \varphi_1 \bigl(x^{(k)}_1,x^{(k)}_2,\ldots, x^{(k)}_n\bigr),$

(3.27)

3. Если $\Delta^{(k+1)}= \max\limits_{i} \bigl|x^{(k+1)}_i-x^{(k)}_i\bigr|\leqslant \varepsilon$ , процесс завершен и $x_{\ast}\cong x^{(k+1)}$ . Если $\Delta^{(k+1)}> \varepsilon$ , то положить $k=k+1$ и перейти к п.2.

Замечания

1. Итерационный процесс, реализуемый согласно (3.27), соответствует параллельному итерированию, так как для вычисления (k+1)-го приближения всех неизвестных учитываются вычисленные ранее их k-е приближения.

2. Система (3.22) может быть преобразована к виду (3.24) различными способами, например, с помощью выражения переменных $x_i,~i=1,\ldots,n$ , таким образом, чтобы выполнялось условие сходимости.

Другой способ заключается в замене системы $F(x)=0$ системой $x=\underbrace{x+ \Lambda F(x)}_{\Phi(x)}$ , где $\Lambda$ — неособенная матрица. В качестве матрицы $\Lambda$ можно использовать, например, $\Lambda=-W^{-1}(x^{(0)})$ , если $\det W(x^{(0)})\ne0$ , где

$W(x)= \begin{pmatrix}\dfrac{\partial f_1(x)}{\partial x_1}& \cdots& \dfrac{\partial f_1(x)}{\partial x_n}\\ \vdots& \ddots& \vdots\\ \dfrac{\partial f_n(x)}{\partial x_1}& \cdots& \dfrac{\partial f_n(x)}{\partial x_n} \end{pmatrix}$ — матрица Якоби.

В случае, если $\det W(x^{(0)})=0$ , следует выбрать другое начальное приближение. Заметим, что при таком выборе $\Lambda$ метод простых итераций совпадает с упрощенным методом Ньютона.

3. В качестве $\Delta^{(k+1)}$ можно использовать различные нормы векторов.

Теорема 3.13 (о достаточном условии сходимости метода простых итераций). Пусть функции $\varphi_i(x)$ и $\varphi'_i(x),~ i=1,\ldots,n$ , непрерывны в области $G$ , причем выполнено неравенство (где $q$ — некоторая постоянная)

$\max\limits_{x\in G}\max\limits_{i} \sum\limits_{j=1}^{n} \left|\frac{\partial \varphi_i(x)}{\partial x_j}\right| \leqslant q<1,$

(3.28)

Если последовательные приближения $x^{(k+1)}= \Phi(x^{(k)}),~ k=0,1,2,\ldots$ не выходят из области $G$ , то процесс последовательных приближений сходится: $x_{\ast}= \lim\limits_{k\to\infty} x^{(k)}$ и вектор $x_{\ast}$ является в области $G$ единственным решением системы (3.25).

Замечания

1. Вместо условия (3.28) можно также использовать

$\max\limits_{x\in G}\max\limits_{j} \sum\limits_{i=1}^{n} \left|\frac{\partial \varphi_i(x)}{\partial x_j}\right| \leqslant q<1,$

(3.29)

2. Условия (3.28), (3.29) выполняются, если для любого $x\in G$ справедливы неравенства $\left\|\frac{\partial\Phi}{\partial x}\right\|_1<1,~ \left\|\frac{\partial\Phi}{\partial x}\right\|_2<1$ соответственно, где

$\frac{\partial\Phi}{\partial x}=\begin{pmatrix}\dfrac{\partial f_1(x)}{\partial x_1}& \cdots& \dfrac{\partial f_1(x)}{\partial x_n}\\ \vdots& \ddots& \vdots\\ \dfrac{\partial f_n(x)}{\partial x_1}& \cdots& \dfrac{\partial f_n(x)}{\partial x_n} \end{pmatrix}\!.$

Пример 3.17. Найти корни нелинейной системы уравнений $\begin{cases}2x_1^2-x_1x_2-5x_1+1=0,\\ x_1+3\lg x_1-x_2^2=0.\end{cases}$ расположенные в первом квадранте, методом простых итераций с точностью $\varepsilon=0,\!001$

Решение

Преобразуем систему к виду (3.24) так, чтобы выполнялось условие сходимости:

$x_1=\sqrt{\frac{x_1(x_2+5)-1}{2}}=\varphi_1(x),\qquad x_2=\sqrt{x_1+3\lg x_1}= \varphi_2(x).$

Найдем частные производные:

$\begin{gathered}\frac{\partial \varphi_1}{\partial x_1}= \frac{x_2+5}{4 \sqrt{\dfrac{x_1(x_2+5)-1}{2}}},\qquad \frac{\partial \varphi_1}{\partial x_2}= \frac{x_1}{4 \sqrt{\dfrac{x_1(x_2+5)-1}{2}}}\,;\\ \frac{\partial \varphi_2}{\partial x_1}= \frac{1+\dfrac{3\cdot 0,\!43429}{x_1}}{2 \sqrt{x_1+3\lg x_1}},\qquad \frac{\partial \varphi_2}{\partial x_2}=0. \end{gathered}$

Здесь принято $\lg e\cong 0,\!43429$ . Далее воспользуемся методикой решения задачи.

1. Для выбора начального приближения найдем координаты точек пересечения кривых, соответствующих первому и второму уравнениям (рис. 3.17).

Находим приближенные значения координат решения (по условию задачи нас интересуют только корни с положительными координатами): $x^{(0)}= \begin{pmatrix}3,\!5& 2,\!2\end{pmatrix}^T$ .

Проверим выполнение условий сходимости. Будем рассматривать окрестность найденной точки $x^{(0)}\colon$

$G= \bigl\{|x_1-3,\!5| \leqslant 0,\!1;~ |x_2-2,\!2| \leqslant 0,\!1\bigr\}.$

Тогда

$\begin{gathered}\left|\frac{\partial \varphi_1}{\partial x_1}\right| \leqslant \frac{2,\!3+5}{4 \sqrt{\dfrac{3,\!4\cdot (2,\!1+5)-1}{2}}}=0,\!536<0,\!54;\qquad \left|\frac{\partial \varphi_1}{\partial x_2}\right| \leqslant \frac{3,\!6}{4 \sqrt{\dfrac{3,\!4\cdot (2,\!1+5)-1}{2}}}=0,\!265<0,\!27;\\ \left|\frac{\partial \varphi_2}{\partial x_1}\right| \leqslant \frac{1+\dfrac{3\cdot 0,\!43429}{3,\!4}}{2 \sqrt{3,\!4+ 3\lg3,\!4}}=0,\!309<0,\!31;\qquad \left|\frac{\partial \varphi_2}{\partial x_2}\right|=0. \end{gathered}$

Следовательно, можно получить оценки:

$\begin{aligned}& \left|\frac{\partial \varphi_1(x)}{\partial x_1}\right|+\left|\frac{\partial \varphi_2(x)}{\partial x_1}\right|< 0,\!54+ 0,\!31=0,\!85<1,\\ & \left|\frac{\partial \varphi_1(x)}{\partial x_2}\right|+\left|\frac{\partial \varphi_2(x)}{\partial x_2}\right|< 0,\!27+ 0=0,\!27<1. \end{aligned}$

Очевидно, условие (3.28) выполняется. Если последовательные приближения не будут выходить из области $G$ , то согласно теореме 3.13 итерационный процесс будет сходящимся. В поставленной задаче $\varepsilon=0,\!001$ .

2,3. Выполним расчеты по формулам (3.27):

$x_1^{(k+1)}= \sqrt{\frac{x_1^{(k)}\cdot[x_2^{(k)}+5]-1}{2}},\qquad x_2^{(k+1)}= \sqrt{x_1^{(k)}+3\cdot\lg x_1^{(k)}},\quad k=0,1,2,\ldots$

а результаты поместим в табл. 3.17.

$\begin{aligned}\mathit{Table~3.17}~&\\ \begin{array}{|c|c|c|c|c|c|} \hline k & 0& 1& 2& 3& 4\\\hline x_1^{(k)}& 3,\!5000& 3,\!4785& 3,\!4837& 3,\!4848& 3,\!4957\\\hline x_2^{(k)}& 2,\!2000& 2,\!2654& 2,\!2589& 2,\!26049&2,\!26082 \\\hline \Delta^{(k+1)}&-& 0,\!0654& 0,\!0065& 0,\!00159&0,\!0009 \\\hline \end{array}&\end{aligned}$

Заметим, что величина $\Delta^{(k+1)}$ при увеличении номера итерации уменьшается, что характерно для любого сходящегося процесса. Найдено приближенное решение: $x_{\ast}\cong \begin{pmatrix}3,\!4857& 2,\!2608\end{pmatrix}^T$ . При этом $f_1(x_{\ast})=-0,\!0083;~ f_2(x_{\ast})= 0,\!00126$ .

Метод Зейделя для решения нелинейных систем уравнений

Метод Зейделя предназначен для решения систем, записанных в форме (3.24). Этот метод является модификацией метода простых итераций, где после задания начального приближения $x^{(0)}$ вместо параллельного итерирования производится последовательное итерирование, причем на каждой итерации в каждое последующее уравнение подставляются значения неизвестных, полученных из предыдущих уравнений.

Алгоритм метода Зейделя для решения нелинейных систем

1. Задать начальное приближение $x^{(0)}$ и малое положительное число (точность). Положить $k=0$ .

2. Вычислить $x^{(k+1)}$ по формулам

где прямоугольниками отмечены значения, которые берутся из предшествующих уравнений на текущей итерации.

3. Если $\Delta^{(k+1)}= \max_{i} \bigl|x_i^{(k+1)}-x_i^{(k)}\bigr|\leqslant \varepsilon$ , процесс завершить и положить $x_{\ast}\cong x^{(k+1)}$ . Если $\Delta^{(k+1)}> \varepsilon$ , то положить $k=k+1$ и перейти к п.2.

Пример 3.18. Найти корни системы расположенные в первом квадранте, методом Зейделя с точностью $\varepsilon=0,\!001$

$\left\{\!\begin{aligned}& f_1(x_1,x_2)= 2x_1^2-x_1x_2-5x_1+1=0,\\ & f_2(x_1,x_2)= x_1+3\cdot \lg x_1-x_2^2=0. \end{aligned}\right.$

Решение

Преобразование системы к виду (3.24) и поиск начального приближения описаны в примере 3.17.

1. Зададим начальное приближение $x^{(0)}= (3,\!5;\, 2,\!2)^T$ . В поставленной задаче $\varepsilon=0,\!001$ .

2, 3. Выполним расчеты по формулам (3.30):

$x_1^{(k+1)}= \sqrt{\frac{x_1^{(k)}[x_2^{(k)}+5]-1}{2}},\qquad x_2^{(k+1)}= \sqrt{x_1^{(k+1)}+ 3\cdot \lg x_1^{(k+1)}},\quad k=0,1,2,\ldots$

а результаты поместим в табл. 3.18.

$\begin{aligned}\mathit{Table~3.18}~&\\ \begin{array}{|c|c|c|c|c|c|c|} \hline k& 0& 1& 2& 3& 4& 5\\\hline \begin{matrix}{}\\[-6pt]{}\end{matrix} x_1^{(k)}& 3,\!5000& 3,\!4785& 3,\!4821& 3,\!484250& 3,\!485537& 3,\!486305 \\\hline \begin{matrix}{}\\[-6pt]{}\end{matrix} x_2^{(k)}& 2,\!2000& 2,\!2588& 2,\!2600& 2,\!260658& 2,\!261049& 2,\!26128 \\\hline \begin{matrix}{}\\[-8pt]{}\end{matrix} \Delta&-& 0,\!0588& 0,\!0036& 0,\!00215& 0,\!00128& 0,\!0007 \\\hline \end{array}& \end{aligned}$

Найдено приближенное решение $x_{\ast}\cong (3,\!4863;\, 2,\!2613)^T$ . При этом $f_1(x_{\ast})=-0,\!006425,~ f_2(x_{\ast})= 0,\!000007$ .

Метод Ньютона для решения нелинейных систем уравнений

Метод используется для решения систем вида (3.22) или (3.23). Формула для нахождения решения является естественным обобщением формулы (3.14):

$x^{(k+1)}= x^{(k)}-W^{-1}(x^{(k)})\cdot F(^{(k)}),\quad k=0,1,2,\ldots$

(3.31)

где $W(x)= \begin{pmatrix}\dfrac{\partial f_1(x)}{\partial x_1}& \cdots& \dfrac{\partial f_1(x)}{\partial x_n}\\ \vdots& \ddots& \vdots\\ \dfrac{\partial f_n(x)}{\partial x_1}& \cdots& \dfrac{\partial f_n(x)}{\partial x_n}\end{pmatrix}$ — матрица Якоби.

Так как процесс вычисления обратной матрицы является трудоемким, преобразуем (3.31) следующим образом:

$\Delta x^{(k)}=-W^{-1}(x^{(k)})\cdot F(x^{(k)}).\quad k=0,1,2,\ldots$

где $\Delta x^{(k)}= x^{(k+1)}-x^{(k)}$ — поправка к текущему приближению $x^{(k)}$ .

Умножим последнее выражение слева на матрицу Якоби $W(x^{(k)})\colon$

$W(x^{(k)})\cdot \Delta x^{(k)}=-W(x^{(k)})W^{-1}(x^{(k)}) F(x^{(k)})=-F(x^{(k)}),\quad k=0,1,2,\ldots$

В результате получена система линейных алгебраических уравнений относительно поправки $\Delta x^{(k)}$ . После ее определения вычисляется следующее приближение $x^{(k+1)}= x^{(k)}+\Delta x^{(k)}$ .

Алгоритм метода Ньютона для решения нелинейных систем

1. Задать начальное приближение $x^{(0)}$ и малое положительное число $\varepsilon$ (точность). Положить $k=0$ .

2. Решить систему линейных алгебраических уравнений относительно поправки $\Delta x^{(k)}\colon$

$W(x^{(k)})\cdot \Delta x^{(k)}=-F(x^{(k)}).$

(3.32)

3. Вычислить следующее приближение: $x^{(k+1)}= x^{(k)}+ \Delta x^{(k)}$ .

4. Если $\Delta^{(k+1)}= \max_{i} \bigl|x_i^{(k+1)}-x_i^{(k)}\bigr|\leqslant \varepsilon$ , процесс закончить и положить $x_{\ast}\cong x^{(k+1)}$ . Если $\Delta^{(k+1)}>\varepsilon$ , то положить $k=k+1$ и перейти к пункту 2.

Достаточные условия сходимости метода Ньютона для систем

Теорем а 3.14 (о достаточных условиях сходимости метода Ньютона). Пусть функция $F(x)$ непрерывно дифференцируема в открытом выпуклом множестве $G\subset \mathbb{R}^n$ . Предположим, что существуют $x_{\ast}\in \mathbb{R}^n$ и $r,\beta>0$ , такие, что $N(x_{\ast},r)\subset G,~ F(x_{\ast})=0$ , и существует $W^{-1}(x_{\ast})$ , причем $\|W^{-1}(x_{\ast})\|\leqslant \beta$ и $W(x)\in \operatorname{Lip}_{\gamma} (N(x_{\ast},r))$ . Тогда существует $\varepsilon>0$ такое, что для всех $x^{(0)}\in N(x_{\ast}, \varepsilon)$ последовательность $x^{(1)}, x^{(2)},\ldots$ , порождаемая соотношением (3.31), сходится к $x_{\ast}$ и удовлетворяет неравенству

$\bigl\|x^{(k+1)}-x_{\ast}\bigr\| \leqslant \beta \cdot \gamma \cdot \bigl\|x^{(k)}-x_{\ast} \bigr\|^2,\quad k=0,1,2,\ldots$

Здесь использованы следующие обозначения: $N(x,r)$ — открытая окрестность радиуса $r$ с центром в точке $x\colon\, N(x,r)= \bigl\{\overline{x}\in \mathbb{R}^n\colon\, |\overline{x}-x|<r\bigr\}$ ; запись $W(x)\in \operatorname{Lip}_{\gamma} (N(x_{\ast},r))$ означает, что $W(x)$ непрерывна по Липшицу, где $\gamma$ — константа Липшица, то есть

$\bigl\|W(y)-W(x)\bigr\|\leqslant \gamma\cdot \bigl\|y-x\bigr\|\quad \forall x,y\in N(x_{\ast},r).$

Замечания

1. Теорема 3.14 свидетельствует о локальной квадратичной сходимости метода Ньютона.

2. К недостаткам метода Ньютона следует отнести:

– необходимость задавать достаточно хорошее начальное приближение;

– отсутствие глобальной сходимости для многих задач;

– необходимость вычисления матрицы Якоби на каждой итерации;

– необходимость решения на каждой итерации системы линейных уравнений, которая может быть плохо обусловленной.

Достоинством метода является квадратичная сходимость из хорошего начального приближения при условии невырожденности матрицы Якоби.

▼ Примеры 3.19-3.21

Пример 3.19. Решить систему $\begin{cases}x_1+x_2-3=0,\\ x_1^2+x_2^2-9=0.\end{cases}$ методом Ньютона с точностью $\varepsilon= 0,\!001$

Решение

Очевидно, корнями системы являются $x_{\ast1}=(3;\,0)^T,~ x_{\ast2}=(0;\,3)^T$ . Найдем приближенно второй корень $x_{\ast2}$ .

1. Зададим начальное приближение $x^{(0)}= (1;\,5)^T$ . В поставленной задаче $\varepsilon= 0,\!001$ . Положим $k=0$ .

2°. Составим систему (3.32). Так как $W(x)= \begin{pmatrix}1&1\\ 2x_1& 2x_2 \end{pmatrix}$ , то система $W(x^{(0)})\cdot \Delta x^{(0)}=-F(x^{(0)})$ имеет вид $\begin{pmatrix}1&1\\ 2&10\end{pmatrix}\!\cdot\! \begin{pmatrix}\Delta x_1^{(0)}\\ \Delta x_2^{(0)}\end{pmatrix}=-\!\begin{pmatrix}3\\17\end{pmatrix}$ . Отсюда $\Delta x^{(0)}= \begin{pmatrix}\Delta x_1^{(0)}\\ \Delta x_2^{(0)}\end{pmatrix}= \begin{pmatrix}-13\!\!\not{\phantom{|}}\,8\\ -11\!\!\not{\phantom{|}}\,8\end{pmatrix}$ . Для вычисления $\Delta x^{(k)},~ k=0,1,\ldots$ , здесь и далее используется метод Гаусса единственного деления.

3°. Вычислим $x^{(1)}= x^{(0)}+ \Delta x^{(0)}= \begin{pmatrix}1\\5\end{pmatrix}+ \begin{pmatrix}-13\!\!\not{\phantom{|}}\,8\\ -11\!\!\not{\phantom{|}}\,8\end{pmatrix}= \begin{pmatrix}-5\!\!\not{\phantom{|}}\,8\\ 29\!\!\not{\phantom{|}}\,8\end{pmatrix}= \begin{pmatrix}-0,\!625\\ 3,\!625 \end{pmatrix}$ .

4° .Так как $\Delta^{(1)}= \max\! \left\{\left|-\frac{13}{8}\right|, \left|-\frac{11}{8}\right|\right\}= \frac{13}{8}> \varepsilon$ , то положим $k=1$ и перейдем к п.2.

2(1). Составим систему $W(x^{(1)})\cdot \Delta x^{(1)}=-F(x^{(1)})\colon$

$\begin{pmatrix}1&1\\-\dfrac{5}{4}& \dfrac{29}{4}\end{pmatrix}\!\cdot \Delta x^{(1)}=-\!\begin{pmatrix}0\\ \dfrac{145}{32}\end{pmatrix}$ . Отсюда $\Delta x^{(1)}= \begin{pmatrix}\dfrac{145}{272}\\[8pt]-\dfrac{145}{272}\end{pmatrix}= \begin{pmatrix} 0,\!5333\\-0,\!5333\end{pmatrix}$ .

3(1). Вычислим $x^{(2)}= x^{(1)}+ \Delta x^{(1)}= \begin{pmatrix}-0,\!625\\ 3,\!625 \end{pmatrix}+ \begin{pmatrix}0,\!5333\\-0,\!5333\end{pmatrix}= \begin{pmatrix}-0,\!0919\\ 3,\!0919 \end{pmatrix}$ .

4(1). Так как $\Delta^{(2)}= 0,\!5333>\varepsilon$ , то положим $k=2$ и перейдем к п.2. Результаты дальнейших вычислений приведены в табл. 3.19.

$\begin{aligned} \mathit{Table~3.19}~&\\ \begin{array}{|c|c|c|c|c|c|c|} \hline k& 0& 1& 2& 3& 4&5 \\\hline \begin{matrix}{}\\[-6pt]{}\end{matrix} x_1^{(k)} & 1& -0,\!625& -0,\!091911& -0,\!002653& -0,\!0000023&0,\!0000 \\\hline \begin{matrix}{}\\[-6pt]{}\end{matrix} x_2^{(k)} & 5& 3,\!625& 3,\!091911& 3,\!002653& 3,\!0000023&3,\!0000 \\\hline \begin{matrix}{}\\[-6pt]{}\end{matrix} \Delta^{(k+1)}&-& 1,\!625& 0,\!5333& 0,\!089258& 0,\!0026507&0,\!0000023 \\\hline \end{array}& \end{aligned}$

Найденное приближенное решение $x_{\ast}\cong (0;\, 3,\!0000)^T$ . Из анализа решения, приведенного в табл. 3.19, следует, что количество верных знаков на каждой итерации удваивается, что соответствует квадратичной сходимости.

Пример 3.20. Найти решение системы расположенное в первом квадранте с точностью $\varepsilon= 10^{-5}$

$\begin{aligned}& f_1(x)= x_1+3\cdot \lg x_1-x_2^2=0,\\ & f_2(x)= 2x_1^2-x_1x_2-5x_1+1=0. \end{aligned}$

Решение

1. Выберем начальное приближение $x^{(0)}= (3,\!5;\, 2,\!2)^T$ . В поставленной задаче $\varepsilon= 10^{-5}$ . Положим $k=0$ .

2°. Составим систему (3.32). Так как

$\begin{gathered}W(x^{(0)})= \begin{pmatrix}1+\dfrac{3\cdot 0,\!43429}{3,\!5}&-2\cdot 2,\!2\\ 4\cdot 3,\!5-2,\!2-5&-x_1\end{pmatrix}= \begin{pmatrix}1,\!372248571&-4,\!4\\ 6,\!8&-3,\!5 \end{pmatrix}\!, \\[2pt] \begin{pmatrix}1,\!372248571&-4,\!4\\ 6,\!8&-3,\!5 \end{pmatrix}\! \Delta x^{(0)}=-F(x^{(0)})=-\begin{pmatrix}3,\!5+3\cdot \lg3,\!5-2,\!2^2\\ 2\cdot 3,\!5-3,\!5\cdot 2,\!2-5\cdot 3,\!5+1\end{pmatrix}= \begin{pmatrix}-0,\!29220413\\-0,\!3\end{pmatrix}\!. \end{gathered}$

Отсюда с помощью метода Гаусса единственного деления находим $\Delta x^{(0)}= \begin{pmatrix}-0,\!011835967\\ 0,\!062718692\end{pmatrix}$ .

3°. Вычислим $x^{(1)}= x^{(0)}+ \Delta x^{(0)}= \begin{pmatrix}3,\!5\\ 2,\!2\end{pmatrix}+ \begin{pmatrix}-0,\!011835967\\ 0,\!062718692\end{pmatrix}= \begin{pmatrix}3,\!488164032\\ 2,\!262718691\end{pmatrix}$ .

Этот же результат может быть непосредственно получен по формуле (3.31):

$x^{(1)}= \begin{pmatrix}3,\!5\\ 2,\!2\end{pmatrix}-\frac{1}{25,\!11713}\cdot\! \begin{pmatrix}-3,\!5&4,\!4\\-6,\!8&1,\!37248571\end{pmatrix}\!\cdot\! \begin{pmatrix}-0,\!29220413\\-0,\!3\end{pmatrix}= \begin{pmatrix}3,\!488164032\\ 2,\!262718691\end{pmatrix}\!.$

4°. Так как $\Delta^{(1)}= \max \bigl\{0,\!011835967; 0,\!062718692\bigr\}= 0,\!062718692> \varepsilon$ , то положим $k=1$ и перейдем к пункту 2.

2(1). Составим систему (3.32): $\begin{pmatrix}1,\!373511678&-4,\!525437382\\ 6,\!689937437&-3,\!488164032\end{pmatrix}\!\cdot \Delta x^{(1)}= \begin{pmatrix}0,\!00394114&-0,\!00102252 \end{pmatrix}$ .

Применяя метод Гаусса единственного деления, получаем

$\Delta x^{(1)}= \begin{pmatrix}-7,\!21032383\cdot 10^4\\[2pt]-0,\!001089727 \end{pmatrix}\!.$

3.1. Вычислим $x^{(2)}= x^{(2)}+ \Delta x^{(2)}= \begin{pmatrix}3,\!487443\\ 2,\!261628964 \end{pmatrix}$ .

4(1). Так как $\Delta^{(2)}= \max\! \left\{|-7,\!21032383\cdot 10^4|,\, |-0,\!001089727|\right\}= 0,\!001089727> \varepsilon$ , то положим $k=2$ и продолжим решение по алгоритму. Результаты дальнейших расчетов приведены в табл. 3.20.

$\begin{aligned}\mathit{Table~3.20}~&\\ \begin{array}{|c|c|c|c|c|} \hline k& 0& 1& 2& 3\\\hline\begin{matrix}{}\\[-6pt]{}\end{matrix} x_1^{(k)}& 3,\!500000& 3,\!488164032& 3,\!487443000& 3,\!487442788 \\\hline \begin{matrix}{}\\[-6pt]{}\end{matrix} x_2^{(k)}& 2,\!200000& 2,\!262718691& 2,\!261628964&2,\!261628631 \\\hline \begin{matrix}{}\\[-8pt]{}\end{matrix} \Delta &-& 0,\!062718692& 0,\!001089727&3,\!33446159\cdot 10^{-7} \\\hline \end{array}& \end{aligned}$

Из сопоставления полученных результатов с табл. 3.17 следует, что по методу простых итераций точность $\varepsilon= 0,\!001$ достигается за четыре итерации, а методом Ньютона точность $\varepsilon=10^{-5}$ достигнута всего за три приближения.

Пример 3.21. Найти решение системы методом Ньютона с точностью $\varepsilon= 0,\!005$

$\begin{cases}x_1^2+x_2^2+x_3^2=1,\\ 2x_1^2+x_2^2-4x_3=0,\\ 3x_1^2-4x_2+x_3^2=0.\end{cases}$

Решение

1. Выберем в качестве начального приближения $x^{(0)}= (0,\!5;\, 0,\!5;\, 0,\!5)^T$ . В поставленной задаче $\varepsilon= 0,\!005$ . Положим $k=0$ .

2(0), 3(0). Воспользуемся формулой (3.31). Матрица Якоби имеет вид

$W(x)= \begin{pmatrix}2x_1& 2x_2& 2x_3\\ 4x_1&4x_2&-4\\ 6x_1&-4&2x_3 \end{pmatrix}\!.$

В точке $x^{(0)}$ справедливо

$\begin{gathered}W(x^{(0)})= \begin{pmatrix}1&1&1\\ 2&1&-4\\ 3&-4&1 \end{pmatrix}\!,\qquad F(x^{(0)})= \begin{pmatrix}0,\!25+0,\!25+0,\!25-1\\ 0,\!5+0,\!25-2\\ 0,\!75-2+0,\!25 \end{pmatrix}= \begin{pmatrix}-0,\!25\\-1,\!25\\-1\end{pmatrix}\!,\\ \det W(x^{(0)})=-40,\qquad W^{-1}(x^{(0)})=-\frac{1}{40}\! \begin{pmatrix}3\!\!\not{\phantom{|}}\,8& 1\!\!\not{\phantom{|}}\,8& 1\!\!\not{\phantom{|}}\,8\\ 7\!\!\not{\phantom{|}}\,20& 1\!\!\not{\phantom{|}}\,20&-3\!\!\not{\phantom{|}}\,20\\ 11\!\!\not{\phantom{|}}\,40&-7\!\!\not{\phantom{|}}\,40& 1\!\!\not{\phantom{|}}\,40\end{pmatrix}\!. \end{gathered}$

В результате

$\begin{aligned}x^{(1)}&= x^{(0)}-W^{-1}(x^{(0)})\cdot F(x^{(0)})=\\ &=\begin{pmatrix}0,\!5\\ 0,\!5\\ 0,\!5\end{pmatrix}-\begin{pmatrix}3\!\!\not{\phantom{|}}\,8& 1\!\!\not{\phantom{|}}\,8& 1\!\!\not{\phantom{|}}\,8\\ 7\!\!\not{\phantom{|}}\,20& 1\!\!\not{\phantom{|}}\,20&-3\!\!\not{\phantom{|}}\,20\\ 11\!\!\not{\phantom{|}}\,40&-7\!\!\not{\phantom{|}}\,40& 1\!\!\not{\phantom{|}}\,40\end{pmatrix}\!\cdot\! \begin{pmatrix}-0,\!25\\-1,\!25\\-1\end{pmatrix}=\\ &= \begin{pmatrix}0,\!5\\ 0,\!5\\ 0,\!5\end{pmatrix}+ \begin{pmatrix}0,\!375\\ 0\\-0,\!125\end{pmatrix}= \begin{pmatrix}0,\!875\\ 0,\!5\\ 0,\!375\end{pmatrix}\!. \end{aligned}$

4(0). Так как $\Delta^{(1)}= \max \bigl\{0,\!375; 0; |-0,\!125|\bigr\}= 0,\!375> \varepsilon$ , то положим $k=1$ и перейдем к пункту 2.

2(1). В точке $x^{(1)}$ справедливо

$\begin{aligned}W(x^{(1)})&= \begin{pmatrix}2\cdot 0,\!875& 2\cdot 0,\!5& 2\cdot 0,\!375\\ 4\cdot 0,\!875& 2\cdot0,\!5&-4\\ 6\cdot0,\!875&-4&2\cdot0,\!375\end{pmatrix}= \begin{pmatrix}1,\!75& 1& 0,\!75\\ 3,\!5& 1&-4\\ 5,\!25&-4& 0,\!75 \end{pmatrix}\!,\\[4pt] F(x^{(1)})&= \begin{pmatrix}0,\!875^2+0,\!5^2+0,\!375^2-1\\ 2\cdot0,\!875^2+0,\!5^2-4\cdot 0,\!375\\ 3\cdot0,\!875^2-4\cdot0,\!5+ 0,\!375^2\end{pmatrix}= \begin{pmatrix}0,\!15625\\ 0,\!28125\\ 0,\!4375 \end{pmatrix}\!. \end{aligned}$

Составим и решим систему

$\begin{pmatrix}1,\!75&1& 0,\!75\\ 3,\!5&1&-4\\ 5,\!25&-4&0,\!75\end{pmatrix}\cdot \Delta x^{(1)}=-\begin{pmatrix}0,\!15625\\ 0,\!28125\\ 0,\!4375\end{pmatrix}\!.$

С помощью метода Гаусса единственного деления получаем

$\Delta x^{(1)}= \begin{pmatrix}-0,\!084995\\ -0,\!0032467\\ -0,\!0056818 \end{pmatrix}\!.$

3(1). Вычислим

$x^{(2)}= x^{(1)}+ \Delta x^{(1)}= \begin{pmatrix}0,\!790005\\ 0,\!496753\\ 0,\!369318 \end{pmatrix}\!.$

4(1). Так как $\Delta^{(2)}= \max_{i} \bigl|\Delta x_i^{(1)}\bigr|= 0,\!084995> \varepsilon= 0,\!005$ , то положим $k=2$ и перейдем к пункту 2.

2(2). Составим и решим систему

$\begin{pmatrix}1,\!58001& 0,\!993506& 0,\!738636\\ 3,\!16002\!& 1,\!987012\!&-4\\ 4,\!74003&-4&0,\!738636 \end{pmatrix}\!\cdot \Delta x^{(2)}=-\begin{pmatrix}0,\!007267\\ 0,\!017707\\ 0,\!021707 \end{pmatrix}\!.$

Применяя метод Гаусса, находим

$\Delta x^{(2)}=-\begin{pmatrix}-0,\!004785\\-0,\!000136\\0,\!000579 \end{pmatrix}\!.$

3(2). Вычислим

$x^{(3)}= x^{(2)}+ \Delta x^{(2)}= \begin{pmatrix}0,\!785220\\ 0,\!496617\\ 0,\!369897\end{pmatrix}\!.$

4(2).Так как $\Delta x^{(3)}= \max_{i} \bigl|\Delta x_i^{(2)}\bigr|= 0,\!004785< 0,\!005$ , то процесс завершен и $x_{\ast}\cong x^{(3)}$ .

Упрощенный метод Ньютона для нелинейных систем

В этом методе в отличие от метода Ньютона (3.31) обратная матрица ищется только один раз в начальной точке $x^{(0)}\colon$

$x^{(k+1)}= x^{(k)}-W^{-1}(x^{(0)})\cdot F(x^{(k)}),\quad k=0,1,2,\ldots$

(3.33)

Заметим, что при решении одного уравнения $f(x)=0$ упрощенным методом Ньютона производная функции вычисляется также один раз в начальной точке.

Методика решения задачи аналогична изложенной в предыдущем разделе, где вместо (3.32) используется система

$W(x^{(0)})\cdot \Delta x^{(k)}=-F(x^{(k)}),\quad k=0,1,2,\ldots$

матрица которой $W(x^{(0)})$ не изменяется от итерации к итерации.

Очевидно, сходимость упрощенного метода Ньютона в общем случае хуже по сравнению со сходимостью процесса (3.31).

Пример 3.22. Найти положительное решение системы $\left\{\!\begin{aligned}& f_1(x)= x_1^2+x_2^2-1,\\ & f_2(x)= x_1^3-x_2=0 \end{aligned}\right.$ упрощенным методом Ньютона с точностью $\varepsilon=10^{-4}$

Решение

1. Выберем начальное приближение. Из рис. 3.18 следует, что для нахождения положительного решения системы можно принять $x^{(0)}= (0,\!9;\, 0,\!5)^T$ .

В поставленной задаче $\varepsilon=10^{-4}$ . Положим $k=0$ .

2(0), 3(0). Так как $W(x)= \begin{pmatrix}2x_1& 2x_2\\ 3x_1^2&-1\end{pmatrix}\!,~ F(x)= \begin{pmatrix}x_1^2+x_2^2-1\\ x_1^3-x_2\end{pmatrix}$ , то для выполнения вычислений по формуле (3.33) найдем обратную матрицу $W^{-1}(x^{(0)})\colon$

$\begin{gathered}W(x^{(0)})= \begin{pmatrix}1,\!8&1\\ 2,\!43&-1\end{pmatrix}\!,\qquad \det W(x^{(0)})=-1,\!8-2,\!43=-4,\!23\,;\\[2pt] W^{-1}(x^{(0)})=-\frac{1}{4,\!23}\! \begin{pmatrix}-1&-1\\-2,\!43&1,\!8 \end{pmatrix}= \begin{pmatrix}0,\!2364& 0,\!2364\\ 0,\!5745&-0,\!4255 \end{pmatrix}\!. \end{gathered}$

Поэтому

$\begin{aligned}x^{(1)}&= x^{(0)}-W^{-1}(x^{(0)})\cdot F(x^{(0)})=\\ &=\begin{pmatrix} 0,\!9\\ 0,\!5\end{pmatrix}-\begin{pmatrix}0,\!2364& 0,\!2364\\ 0,\!5745&-0,\!4255\end{pmatrix}\!\cdot\! \begin{pmatrix}0,\!060\\ 0,\!229\end{pmatrix}=\\ &=\begin{pmatrix}0,\!9\\ 0,\!5\end{pmatrix}-\begin{pmatrix} 0,\!06832\\-0,\!06297\end{pmatrix}= \begin{pmatrix}0,\!83167\\ 0,\!56298\end{pmatrix}\!. \end{aligned}$

4(0). Так как $\Delta x^{(1)}= \max \bigl\{|-0,\!06832|,|0,\!06297|\bigr\}= 0,\!06832> \varepsilon$ , то положим $k=1$ и перейдем к п.2.

2(1), 3(1). По формуле (3.33) получаем

$\begin{aligned}x^{(2)}&= x^{(1)}-W^{-1}(x^{(0)})\cdot F(x^{(1)})= \\ &=\begin{pmatrix}0,\!83167\\ 0,\!56298\end{pmatrix}-\begin{pmatrix}0,\!2364& 0,\!2364\\ 0,\!5745&-0,\!4255\end{pmatrix}\!\cdot\! \begin{pmatrix}0,\!008619\\ 0,\!012267\end{pmatrix}=\\ &=\begin{pmatrix} 0,\!83167\\ 0,\!56298\end{pmatrix}-\begin{pmatrix}0,\!004937\\-0,\!000268\end{pmatrix}= \begin{pmatrix}0,\!826732\\ 0,\!563246\end{pmatrix}\!.\end{aligned}$

4(1). Так как $\Delta^{(2)}= 0,\!004937>\varepsilon$ , то положим $k=2$ и перейдем к пункту 2.

2(2), 3(2). По формуле (3.33) получаем

$\begin{aligned}x^{(3)}&= x^{(2)}-W^{-1}(x^{(0)})\cdot F(x^{(2)})= \\ &=\begin{pmatrix}0,\!826732\\ 0,\!563246\end{pmatrix}-\begin{pmatrix}0,\!2364& 0,\!2364\\ 0,\!5745&-0,\!4255\end{pmatrix}\!\cdot\! \begin{pmatrix}0,\!000732\\ 0,\!001814\end{pmatrix}=\\ &=\begin{pmatrix} 0,\!826732\\ 0,\!563246\end{pmatrix}-\begin{pmatrix}0,\!000602\\-0,\!00035l\end{pmatrix}= \begin{pmatrix}0,\!82613\\ 0,\!56359\end{pmatrix}\!.\end{aligned}$

4(2). Поскольку $\Delta^{(3)}=0,\!000602> \varepsilon$ , то положим $k=3$ и перейдем к пункту 2.

2(3), 3(3). По формуле (3.33) имеем

$\begin{aligned}x^{(4)}&= x^{(3)}-W^{-1}(x^{(0)})\cdot F(x^{(3)})= \\ &=\begin{pmatrix}0,\!82613\\ 0,\!56359\end{pmatrix}-\begin{pmatrix}0,\!2364& 0,\!2364\\ 0,\!5745&-0,\!4255\end{pmatrix}\!\cdot\! \begin{pmatrix}0,\!000124\\ 0,\!000236\end{pmatrix}=\\ &=\begin{pmatrix} 0,\!82613\\ 0,\!56359\end{pmatrix}-\begin{pmatrix}8,\!524\cdot 10^{-5}\\-2,\!89692\cdot 10^{-5} \end{pmatrix}= \begin{pmatrix}0,\!8260447\\ 0,\!5636189 \end{pmatrix}\!. \end{aligned}$

4(3).Поскольку $\Delta^{(4)}= 8\!524\cdot 10^{-5}< \varepsilon= 0,\!0001$ , то процесс завершен и $x_{\ast}\cong x^{(4)}$ .

Метод секущих для решения нелинейных систем уравнений

Идея метода секущих (метода Бройдена) заключается в аппроксимации матрицы Якоби с использованием уже вычисленных значений функций, образующих систему (сравните с методом секущих для уравнения $f(x)=0$ , изложенным ранее).

Алгоритм метода секущих для нелинейных систем
1. Задать начальное приближение $x^{(0)}$ и малое положительное число е.
2. Положить $k=0$ и $A_0=W(x^{(0)})$ , где $W(x)$ — матрица Якоби.
3. Решить систему линейных алгебраических уравнений $A_ks_k=-F(x^{(k)})$ относительно $s_k$ — поправки к текущему приближению.
4. Вычислить $x^{(k+1)}= x^{(k)}+s_k$ .
5. Если $\|s_k\|\leqslant \varepsilon$ , процесс завершить и положить $x_{\ast}= x^{(k+1)}$ . Если $\|s_k\|>\varepsilon$ , вычислить

$y_k= F(x^{(k+1)})-F(x^{(k)}),\qquad A_{k+1}= A_k+\frac{(y_k-A_ks_k)\cdot s_k^T}{s_k^Ts_k}\,,$

положить $k=k+1$ и перейти к п.3.

Замечания

1. Можно доказать, что если $x^{(0)}$ достаточно близко к корню $x_{\ast}$ , где матрица Якоби $W(x_{\ast})$ не вырождена, и если $A_0$ достаточно близка к $W(x^{(0)})$ , то последовательность итераций $\{x^{(k)}\}$ сходится к $x_{\ast}$ сверхлинейно.

2. Когда метод секущих сходится к $x_{\ast}$ сверхлинейно, нельзя предполагать, что последняя из аппроксимаций якобиана $A_k$ будет приблизительно равняться $W(x_{\ast})$ , хотя часто это именно так.

▼ Примеры 3.23-3.24

Пример 3.23. Решить систему нелинейных уравнений методом секущих $\left\{\!\begin{aligned}& f_1(x)=x_1+x_2-3=0,\\ & f_2(x)=x_1^2+x_2^2-9=0. \end{aligned}\right.$

Решение

1. Как следует из примера 3.18, для нахождения корня $x_{\ast}= (0;\,3)^T$ можно выбрать начальное приближение $x^{(0)}=(1;\,5)^T$ и $\varepsilon=0,\!001$ .

2. Положим $k=0$ и $A_0= W(x^{(0)})= \begin{pmatrix}1&1\\ 2&10 \end{pmatrix}$ , так как $W(x)= \begin{pmatrix}1&1\\ 2x_2&2x_2\end{pmatrix}$ .

3(0). Решим систему $A_0\cdot s_0=-F(x^{(0)})$ . Так как $F(x^{(0)})= \begin{pmatrix} 3\\17\end{pmatrix}$ , то $s_0=-A_0^{-1}F(x^{(0)})= \begin{pmatrix}-1,\!625\\-1,\!375 \end{pmatrix}$ .

4(0). Вычислим $x^{(1)}=x^{(0)}+s_0= \begin{pmatrix}1\\5\end{pmatrix}+ \begin{pmatrix}-1,\!625\\-1,\!375\end{pmatrix}= \begin{pmatrix}-0,\!625\\3,\!625\end{pmatrix}$ .

5(0). Поскольку $\|s_0\|_1=1,\!625>\varepsilon$ , то вычислим

$\begin{aligned}y_0&=F(x^{(1)})-F(x^{(0)})= \begin{pmatrix}0\\4,\!53125\end{pmatrix}-\begin{pmatrix}3\\17 \end{pmatrix}= \begin{pmatrix}-3\\-12,\!46875\end{pmatrix}\!,\\[4pt] s_0^Ts_0&= \begin{pmatrix}-1,\!625&-1,\!375\end{pmatrix}\!\cdot\! \begin{pmatrix}-1,\!625\\-1,\!375\end{pmatrix}= 4,\!53125,\\[4pt] y_0-A_0s_0&= \begin{pmatrix}-3\\-12,\!46875\end{pmatrix}-\begin{pmatrix}1&1\\2&10 \end{pmatrix}\!\cdot\! \begin{pmatrix}-1,\!625\\-1,\!375\end{pmatrix}= \begin{pmatrix}-3\\-12,\!46875\end{pmatrix}-\begin{pmatrix}-3\\-17\end{pmatrix}= \begin{pmatrix}0\\4,\!53125 \end{pmatrix}\!,\\[4pt] (y_0-A_0s_0)\cdot s_0^T&= \begin{pmatrix}0\\4,\!53125 \end{pmatrix}\!\cdot\! \begin{pmatrix}-1,\!625&-1,\!375\end{pmatrix}\!;\\[4pt] A_1&=A_0+\frac{(y_0-A_0s_0)\cdot s_0^T}{s_0^Ts_0}= \begin{pmatrix}1&1\\2&10 \end{pmatrix}+ \begin{pmatrix}0&0\\-1,\!625&-1,\!375\end{pmatrix}= \begin{pmatrix}1&1\\0,\!375&8,\!625\end{pmatrix}\!. \end{aligned}$

Положим $k=1$ и перейдем к пункту 3.

3(1). Решим систему $A_1\cdot s_1=-F(x^{(1)})$ , то есть $\begin{pmatrix}1&1\\ 0,\!375&8,\!625\end{pmatrix}\!s_1=-\begin{pmatrix}0\\4,\!53125\end{pmatrix}$ .

Применяя метод Гаусса, получаем $s_1=-A_1^{-1}\cdot F(x^{(1)})= \begin{pmatrix}0,\!549\\-0,\!549 \end{pmatrix}$ .

4(1). Вычислим $(x^{(2)}= (x^{(1)}+s_1= \begin{pmatrix}-0,\!625\\ 3,\!625\end{pmatrix}+ \begin{pmatrix}0,\!549\\-0,\!549 \end{pmatrix}= \begin{pmatrix}-0,\!076\\3,\!076 \end{pmatrix}$ .

5(1). Поскольку $\|s_1\|_1=01,\!549>\varepsilon$ , то вычислим $A_2= \begin{pmatrix} 1&1\\-0,\!799& 8,\!201\end{pmatrix}$ , положим $k=2$ и перейдем к пункту 3. Результаты вычислений приведены в табл. 3.21.

$\begin{aligned} \mathit{Table~3.21}~&\\ \begin{array}{|c|c|c|c|c|c|c|} \hline k& 0& 1& 2& 3& 4&5 \\\hline \begin{matrix}{}\\[-6pt]{}\end{matrix} x_1^{(k)}&1 &-0,\!625 &-0,\!0757575 &-0,\!0127942 &-0,\!0003138 &0,\!0000013 \\\hline \begin{matrix}{}\\[-6pt]{}\end{matrix} x_2^{(k)}&5 &3,\!625 &3,\!0757575 &3,\!0127942 &3,\!0003138 &3,\!0000013 \\\hline \begin{matrix}{}\\[-8pt]{}\end{matrix} \Delta&-&1,\!625 &0,\!549 &0,\!0629 &0,\!01248 &0,\!00031 \\\hline \end{array}& \end{aligned}$

Полученное приближенное решение $x_{\ast}\cong (0,\!0000013;\, 3,\!0000013)^T$ .

Пример 3.24. Решить систему $\begin{cases}x_1^2+x_2^2-2=0,\\ e^{x_1-1}+x_2^3-2=0\end{cases}$ методом секущих с точностью $\varepsilon= 0,\!01$ .

Решение

Очевидно, точное решение системы $x_{\ast}= (1;\,1)^T$ . Выберем начальное приближение $x^{(0)}= (1,\!5;\,2)^T$ . В поставленной задаче $\varepsilon= 0,\!01$ .

Так как $W(x)= \begin{pmatrix}2x_1& 2x_2\\ e^{x_1-1}& 3x_2^2\end{pmatrix}$ , то положим $A_0= W(x^{(0)})= \begin{pmatrix}3&4\\ 1,\!6487&12\end{pmatrix}$ .

Результаты расчетов приведены в табл. 3.22.

$\begin{aligned} \mathit{Table~3.22}~&\\ \begin{array}{|c|c|c|c|c|c|c|c|} \hline k& 0& 1& 2& 3& 4& 5&6 \\\hline \begin{matrix}{}\\[-6pt]{}\end{matrix} x_1^{(k)}& 1,\!5& 0,\!8060692& 0,\!7410741& 0,\!8022786& 0,\!9294701& 1,\!004003&1,\!003084 \\\hline \begin{matrix}{}\\[-6pt]{}\end{matrix} x_2^{(k)}& 2& 1,\!457948& 1,\!277067& 1,\!159900& 1,\!070406& 1,\!003084&0,\!9992213 \\\hline \begin{matrix}{}\\[-8pt]{}\end{matrix} \Delta&-& 0,\!69393& 0,\!18088& 0,\!11717& 0,\!12719& 0,\!07453&0,\!0038 \\\hline \end{array}& \end{aligned}$

Найдено приближенное решение: $x_{\ast}\cong (1,\!003084;\, 0,\!9992213)^T$ .

Математический форум (помощь с решением задач, обсуждение вопросов по математике).

Если заметили ошибку, опечатку или есть предложения, напишите в комментариях.

Список статей » Список форумов

Часовой пояс: UTC + 3 часа [ Летнее время ]