Дискуссионный математический форумМатематический форум
Математический форум Math Help Planet

Обсуждение и решение задач по математике, физике, химии, экономике

Теоретический раздел
Часовой пояс: UTC + 3 часа [ Летнее время ]
новый онлайн-сервис
число, сумма и дата прописью

Часовой пояс: UTC + 3 часа [ Летнее время ]




Начать новую тему Ответить на тему  [ Сообщений: 3 ] 
Автор Сообщение
 Заголовок сообщения: Оптимизация методом градиентного спуска с дроблением шага
СообщениеДобавлено: 26 окт 2020, 01:12 
Не в сети
Начинающий
Аватара пользователя
Зарегистрирован:
26 окт 2020, 01:03
Сообщений: 8
Cпасибо сказано: 6
Спасибо получено:
0 раз в 0 сообщении
Очков репутации: 1

Добавить очки репутацииУменьшить очки репутации
Господа, подскажите пожалуйста. Необходимо минимизировать функцию от 3-ёх переменных, но при её оптимизации возникает проблема гигантских частных производных по всем переменным. Шаг достигает до -10 степени. Пробовал переходить к безразмерным параметрам - это не сильно помогло. Подскажите может есть какие-нибудь способы работы со столь чувствительной функцией или может лучше использовать другой метод. Заранее спасибо).

Вернуться к началу
 Профиль  
Cпасибо сказано 
 Заголовок сообщения: Re: Оптимизация методом градиентного спуска с дроблением шага
СообщениеДобавлено: 26 окт 2020, 08:16 
Не в сети
Последняя инстанция
Аватара пользователя
Зарегистрирован:
15 мар 2016, 15:08
Сообщений: 9390
Cпасибо сказано: 122
Спасибо получено:
1726 раз в 1634 сообщениях
Очков репутации: 235

Добавить очки репутацииУменьшить очки репутации
Dikoe_MAI писал(а):
но при её оптимизации возникает проблема гигантских частных производных по всем переменным.

Мне кажется проблема в другом. Компьютеру без разницы какую функцию минимизировать [math]x^2+y^2[/math] или [math]10^{10}(x^2+y^2)[/math] . А вот функцию [math]x^2+10^{10}y^2[/math] компьютер методом градиентного спуска решить не сможет. Значит надо менять метод. Возьмите метод сопряжённых градиентов, например. Может и функцию надо по-другому записать.

Вернуться к началу
 Профиль  
Cпасибо сказано 
За это сообщение пользователю searcher "Спасибо" сказали:
Dikoe_MAI
 Заголовок сообщения: Re: Оптимизация методом градиентного спуска с дроблением шага
СообщениеДобавлено: 26 окт 2020, 08:31 
Не в сети
Последняя инстанция
Зарегистрирован:
08 апр 2015, 12:21
Сообщений: 7567
Cпасибо сказано: 229
Спасибо получено:
2750 раз в 2538 сообщениях
Очков репутации: 473

Добавить очки репутацииУменьшить очки репутации
Dikoe_MAI писал(а):
возникает проблема гигантских частных производных по всем переменным
, если целевая функция имеет обычный порядок.
Это означает, что текущая точка является неудачным приближением к точке оптимума и градиентные методы первого порядка в данной ситуации не могут работать правильно. Они применимы только при условии положительной определённости матрицы Гессе (которую нетрудно вычислять для Вашей трехмерной функции). В этом случае надо использовать методы нулевого порядка: простой одномерный поиск, методы Хука-Дживса и Розенброка, симплексные методы и даже методы случайного поиска. Погуглите просто по теме: Методы оптимизации нулевого порядка.
Примечание. Методы нулевого порядка могут работать долго, поэтому в случае приближения к точке оптимума надо переключаться уже на методы первого (градиентные) и даже второго (методы Ньютона-Рафсона) порядков.

Вернуться к началу
 Профиль  
Cпасибо сказано 
За это сообщение пользователю michel "Спасибо" сказали:
Dikoe_MAI
Показать сообщения за:  Поле сортировки  
Начать новую тему Ответить на тему      Страница 1 из 1 [ Сообщений: 3 ]

 Похожие темы   Автор   Ответы   Просмотры   Последнее сообщение 
Нахлждение минимума методом градиентного спуска

в форуме Maple

Arlikini

1

1084

13 май 2014, 17:42

Метод высокого градиентного спуска

в форуме Дифференциальное исчисление

Ciber15

0

143

02 дек 2018, 19:42

Обсуждение. Функция стоимости, функция градиентного спуска

в форуме Дифференциальное исчисление

someoneelse

0

152

06 май 2021, 15:24

Рост погрешности с уменьшением шага

в форуме Численные методы

armez

0

188

30 сен 2018, 19:59

Метод Рунге-Кутта 4-ого порядка с выбором шага

в форуме Численные методы

Dikoe_MAI

4

521

15 фев 2021, 11:42

Оптимальное управление ДУЧП градиентного типа

в форуме Исследование операций и Задачи оптимизации

dtn888

1

203

17 янв 2021, 09:58

Метод скорейшего спуска (Как найти альфа)?

в форуме Исследование операций и Задачи оптимизации

Evgenii123456

7

309

30 ноя 2021, 02:35

Оптимизация

в форуме Исследование операций и Задачи оптимизации

Frankilou007

0

337

08 дек 2016, 21:57

Оптимизация/задачa

в форуме Алгебра

Sanna

20

436

29 май 2020, 12:57

Условная оптимизация

в форуме Исследование операций и Задачи оптимизации

maqueee

13

745

18 май 2017, 10:38


Часовой пояс: UTC + 3 часа [ Летнее время ]



Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 10


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Найти:
Перейти:  

Яндекс.Метрика

Copyright © 2010-2023 MathHelpPlanet.com. All rights reserved