СИНГУЛЯРНОЕ РАЗЛОЖЕНИЕ В ЛИНЕЙНОЙ ЗАДАЧЕ МЕТОДА НАИМЕНЬШИХ КВАДРАТОВ

| Категория реферата: Рефераты по математике
| Теги реферата: сочинение рассуждение, российская федерация реферат
| Добавил(а) на сайт: Femistokl.

Ситуация будет совершенно иной, если нам известны количества веществ C и D и нужно отыскать коэффициенты ( и (. Это нелинейная задача наименьших квадратов, и решить ее существенно труднее. Мы по–прежнему будем минимизировать сумму квадратов ошибок, но сейчас она уже не будет многочленом второй степени относительно ( и (, так что приравнивание нулю производной не будет давать линейных уравнений для отыскания оптимальных решений.

Глава 1. Метод наименьших квадратов

1.1. Задача наименьших квадратов

Задача наименьших квадратов заключается в минимизация евклидовой длины вектора невязок (( Ax-b ((.

Теорема 1. Пусть А – m(n–матрица ранга k, представленная в виде

A=HRKT (2) где H ортогональная m(m матрица; R – m(n–матрица вида

[pic], (3) где: R11 – kxk–матрица ранга k; K – ортогональная kxk–матрица.
Определим вектор

[pic] (4) и введем новую переменную

[pic]. (5)

Определим [pic] как единственное решение системы R11y1=g1. Тогда:
1. Все решения задачи о минимизации ((Ax-b(( имеют вид [pic], где y2 произвольно.

2. Любой такой вектор [pic] приводит к одному и тому же вектору невязки

[pic]. (6)
3. Для нормы r справедливо [pic]
4. Единственным решением минимальной длины является вектор [pic]

Доказательство. В выражении для квадрата нормы невязки заменим A на
HRKT в соответствии с (2) и умножая на ортогональную матрицу HT (умножение на ортогональную матрицу не меняет евклидову норму вектора) получим

[pic] (7)

Далее из (3) и (5) следует, что

[pic].

Из (4) следует

[pic]

Подставляя оба последних выражения в (7) получим

[pic]

Последнее выражение имеет минимальное значение [pic] при R11y1=g1, а в этом уравнении единственным решением является [pic], так как ранг матрицы
R11 равен к. Общее решение y выражается формулой [pic], где y2 произвольно.
Для вектора [pic] имеем

[pic], что устанавливает равенство (3). Среди векторов [pic] наименьшую длину имеет тот, для которого y2=0. Отсюда следует, что решением наименьшей длины будет вектор [pic]. Теорема доказана.

Всякое разложение матрицы А типа (2) мы будем называть ортогональным разложением А. Заметим, что решение минимальной длины, множество всех решений и минимальное значение для задачи минимизации ((Ax-b(( определяются единственным образом. Они не зависят от конкретного ортогонального разложения.

При проведении разложения необходимо приводить матрицы к диагональному виду. Для этого обычно используются два преобразования: Гивенса и
Хаусхолдера, оставляющие нормы столбцов и строк матриц неизменными.

1.2. Ортогональное вращение Гивенса