Математический форум Math Help Planet
Обсуждение и решение задач по математике, физике, химии, экономике Теоретический раздел |
Часовой пояс: UTC + 3 часа [ Летнее время ] |
новый онлайн-сервис число, сумма и дата прописью |
|
Часовой пояс: UTC + 3 часа [ Летнее время ] |
Страница 1 из 1 |
[ Сообщений: 5 ] |
|
Автор | Сообщение | |
---|---|---|
aggravator |
|
|
[math]x=argmin\, J(x)=argmin\,\left \|Ax-b \right \|_{2}^{2}+\lambda \left \|x \right \|_{2}^{2}=argmin\, x^TA^TAx-2b^TAx+b^Tb+\lambda x^Tx[/math] где [math]A[/math] - это матрица, [math]b,x[/math] - это вектора, а [math]\lambda[/math] - это скаляр Её решение, как известно: [math]x=(A^TA+\lambda I)^{-1}A^Tb[/math] Я не могу понять, как найти лучшее [math]\boldsymbol{\lambda}[/math], если нам уже известно точное значение x, которое равное вектору c. По сути я не могу решить вот эту задачу минимизации: [math]\lambda =argmin \left \| c-x(\lambda) \right \|_{2}^{2}=argmin \left \| c-(A^TA+\lambda I)^{-1}A^Tb \right \|_{2}^{2}[/math] Пробовал брать производную приравнивать нулю, но не смог решить уравнение. |
||
Вернуться к началу | ||
searcher |
|
|
aggravator писал(а): Я не могу понять, как найти лучшее [math]\boldsymbol{\lambda}[/math], если нам уже известно точное значение x, которое равное вектору c. Если вам известно [math]x[/math], то нет необходимости вводить регуляризацию. [math]x[/math] в виде формулы известно всегда, если матрица [math]A[/math] не вырождена. А на компьютере вычислить его в виде числа не всегда возможно из-за плохой обусловленности получаемых матриц. Но может и матрица [math]A[/math] быть вырождена. Уменьшая [math]\lambda[/math] мы уменьшаем теоретическую точность решения задачи и увеличиваем её практическую точность в виду уменьшения обусловленности решаемых уравнений. aggravator писал(а): По сути я не могу решить вот эту задачу минимизации: [math]\lambda =argmin \left \| c-x(\lambda) \right \|_{2}^{2}=argmin \left \| c-(A^TA+\lambda I)^{-1}A^Tb \right \|_{2}^{2}[/math] Пробовал брать производную приравнивать нулю, но не смог решить уравнение. Это задача имеет решение при [math]\lambda = 0[/math] . |
||
Вернуться к началу | ||
aggravator |
|
|
Я так понимаю, что это задача имеет решение, при [math]\lambda=0[/math], только в том случае, если [math]Ac=b[/math], но в моём случае [math]Ac=b+n[/math], где [math]n[/math] шум. Решая эту задачу [math]\lambda =argmin \left \| c-x(\lambda) \right \|_{2}^{2}=argmin \left \| c-(A^TA+\lambda I)^{-1}A^Tb \right \|_{2}^{2}[/math], я хочу подобрать подходящую [math]\lambda[/math] для других x, точное значение которых мне не известно.
|
||
Вернуться к началу | ||
searcher |
|
|
aggravator писал(а): Я так понимаю, что это задача имеет решение, при [math]\lambda=0[/math], только в том случае, если [math]Ac=b[/math] А также в случае [math]c=(A^TA)^{-1}A^Tb[/math], то есть в вашем случае с шумом. |
||
Вернуться к началу | ||
aggravator |
|
|
Эмм, нет тогда бы не было смысла в регуляризации. [math]c\neq(A^TA)^{-1}A^Tb[/math], [math]c=(A^TA)^{-1}A^T(b+n)[/math]
|
||
Вернуться к началу | ||
[ Сообщений: 5 ] |
Похожие темы | Автор | Ответы | Просмотры | Последнее сообщение |
---|---|---|---|---|
Коэффициенты линейной регрессии | 4 |
250 |
23 дек 2019, 02:30 |
|
Прогнозирование с помощью линейной регрессии
в форуме Объявления участников Форума |
42 |
390 |
03 июл 2023, 20:14 |
|
Построение модели линейной регрессии | 3 |
347 |
29 июл 2021, 15:47 |
|
Вопрос по задаче на уравнение линейной регрессии
в форуме Теория вероятностей |
6 |
457 |
19 окт 2015, 20:00 |
|
Оценка линейной регрессии проходящей через 0;0 | 3 |
288 |
21 апр 2018, 22:01 |
|
Быстрый алгоритм регуляризации | 1 |
264 |
19 дек 2016, 17:36 |
|
Лучший учебник для начинающих | 11 |
1250 |
09 май 2017, 09:35 |
|
Пример матрицы подходящей для метода регуляризации Тихонова
в форуме Численные методы |
0 |
437 |
13 дек 2016, 21:12 |
|
Кто показал лучший результат на выборах (задача) | 5 |
250 |
22 ноя 2020, 19:15 |
|
Лучший университет России, в изучении математики
в форуме Размышления по поводу и без |
25 |
915 |
27 апр 2019, 16:48 |
Часовой пояс: UTC + 3 часа [ Летнее время ] |
Кто сейчас на конференции |
Сейчас этот форум просматривают: нет зарегистрированных пользователей и гости: 9 |
Вы не можете начинать темы Вы не можете отвечать на сообщения Вы не можете редактировать свои сообщения Вы не можете удалять свои сообщения Вы не можете добавлять вложения |