Метод наименьших квадратов.

Все расчеты 2. Для отделения корней уравнения составим таблицу знаков функции
Таблица 5

2 1 0 -7 -8 -9

+ + - - + +

На отрезках и функция меняет знаки, т.е. существует, по крайней мере, по одному корню. Убедимся, что эти корни единственны на каждом из отрезков.
Возьмем производную:


,
следовательно, производная монотонно возрастающая функция. Составим таблицу знаков функции на выбранных отрезках:
Таблица 6

1 0 -7 -8

0.746677 0.581178 -0.57732 -0.74281

При функция монотонно возрастает, так как , т.е. отрезок содержит единственный корень, причем сохраняет знак.
При функция монотонно убывает, так как , т.е. отрезок содержит единственный корень, причем сохраняет знак.
На отрезке уточним корень методом Ньютона.
Достаточные условия сходимости метода Ньютона определены теоремой:
непрерывна на и
и отличны от нуля и сохраняют знаки при
Требования теоремы выполняются, выбираем начальное приближение , удовлетворяющее условию:
, и , следовательно
Рекуррентная формула:
,
Из оценки погрешности:

Следует условие окончания уточнения корня при заданной точности

где и модули наибольшего и наименьшего значений соответственно и . , ,
Таблица 7.





0 0 -0.480217 0.5811777
1 0.826282564 0.056496925 0.717926638
2 0.747587998 0.000512401 0.704902766
3 0.746861088 4.32575E-08 0.704782463
4 0.746861027 -3.91631E-14 0.704782453
5 0.746861027 6.93889E-17 0.704782453

- уточненный корень на отрезке погрешность равна 9.84544E-17
На отрезке уточним корень методом итерации.
- дифференцируема и имеет одинаковые знаки на отрезке


Итерирующая функция обеспечивает выполнения условия сходимости .
Правило выбора параметра :

где


тогда , следовательно . Пусть . Тогда последовательные приближения к коню вычисляются по формуле:
,
Полагаем .
Условием окончания поиска корня будет:

Оценка погрешности:
, ,
Все расчеты заносим в таблицу 8.
Таблица 8.





0 17 0,20764304 -
1 -7.3 -0.31307044 -
2 -7.61307044 -0.108673689 0.204396751
3 -7.721744129 -0.033930411 0.074743278
4 -7.75567454 -0.010193455 0.023736956
5 -7.765867995 -0.003025123 0.007168332
6 -7.768893119 -0.00089446 0.002130663
7 -7.769787579 -0.000264181 0.000630279
8 -7.77005176 -7.80015E-05 0.00018618
9 -7.770129762 -2.30283E-05 5.49732E-05
10 -7.77015279 -6.79842E-06 1.62299E-05
11 -7.770159588 -2.00701E-06 4.7914E-06
12 -7.770161596 -5.92505E-07 1.41451E-06
13 -7.770162188 -1.74918E-07 4.17588E-07
14 -7.770162363 -5.16386E-08 1.23279E-07
15 -7.770162415 -1.52446E-08 3.6394E-08
16 -7.77016243 -4.50046E-09 1.07441E-08
17 -7.770162434 -1.32861E-09 3.17185E-09
18 -7.770162436 -3.92229E-10 9.36383E-10
-7.770162436

уточненный корень на отрезке
Оценка погрешности:
,
где ,

Погрешность равна 9.36383E-10
3. Интеграл , вычислить, полагая и методом трапеций.
По методам трапеций и средних прямоугольников соответственно интеграл равен сумме площадей прямоугольных трапеций, где основание трапеции какая-либо малая величина (точность), и сумма площадей прямоугольников, где основание прямоугольника какая-либо малая величина (точность), а высота определяется по точке пересечения верхнего основания прямоугольника, которое график функции должен пересекать в середине. Соответственно получаем формулы площадей
для метода трапеций:

СОДЕРЖАНИЕ

І . Теоретическая часть 3
1.1. Метод наименьших квадратов 3
1.2. Метод итераций 5
1.3. Метод Ньютона (касательных) 6
1.4. Метод трапеций и средних прямоугольников 8
1.5. Метод дихотомии 9
1.6. Метод золотого сечения 10
ІІ. Практическая часть 12
Листинг программы 23
Список литературы 30




І. ТЕОРЕТИЧЕСКАЯ ЧАСТЬ.
1.1. Метод наименьших квадратов
Линейная регрессия (теоретическое линейное уравнение регрессии) представляет собой линейную функцию между условным математическим ожиданием зависимой переменной Y и одной объ¬ясняющей переменной X ( значения независимой перемен¬ной в i-ом наблюдении, ).
. (1.1)
Для отражения того факта, что каждое индивидуальное значение отклоняется от соответствующего условного мате¬матического ожидания, необходимо ввести в последнее соотношение случайное слагаемое .
(1.1)
Это соотношение называется теоретической линейной регрессионной моделью, и теоретическими парамет¬рами (теоретическими коэффициентами) регрессии, слу¬чайным отклонением.
Следовательно, индивидуальные значения представляют¬ся в виде суммы двух компонент систематической и случайной , причина появления которой достаточно под¬робно рассмотрена ранее. В общем виде теоретическую линейную регрессионную модель будем представлять в виде:
. (1.2)
Для определения значений теоретических коэффициентов регрессии необходимо знать и использовать все значения пере¬менных X и Y генеральной совокупности, что практически не¬возможно.
Таким образом, задачи линейного регрессионного анализа состоят в том, чтобы по имеющимся статистическим данным для переменных X и Y:
а) получить наилучшие оценки неизвестных параметров и ;
б) проверить статистические гипотезы о параметрах модели;
в) проверить, достаточно ли хорошо модель согласуется со статистическими данными (адекватность модели данным на¬блюдений).
Следовательно, по выборке ограниченного объема мы смо¬жем построить так называемое эмпирическое уравнение рег¬рессии
(1.3)
где оценка условного математического ожидания ; и оценки неизвестных параметров и , называе¬мые эмпирическими коэффициентами регрессии. Следователь¬но, в конкретном случае:
(1.4)
где отклонение оценка теоретического случайного откло¬нения .

Параметры уравнения и находят методом наименьших квадратов (метод решения систем уравнений, при котором в качестве решения принимается точка минимума суммы квадратов отклонений), то есть в основу этого метода положено требование минимальности сумм квадратов отклонений эмпирических данных от выравненных :
. (1.5)
Эта функция является квадратичной функцией двух параметров и . Условием существования минимума функции двух переменных является равенство нулю ее частных производных:

Разделив оба уравнения системы на n, получим:
,
где (1.6)
1.2. Метод итерации.
Дана непрерывная функция f(x), которая содержит единственный корень на отрезке [a,b], где b>a. Определить корень с точностью ε.
Суть метода
Дано f(x)=0 (1)
Заменим уравнение (1) равносильным уравнением
x=φ(x) (2)
Выберем грубое, приближенное значение x0 , принадлежащее[a,b], подставим его в правую часть уравнения (2), получим:
x1= φ(x0) (3)
далее подставим х1 в правую часть уравнения (3) получим:
x2= φ(x1) (4)
x3= φ(x2) (5)
Проделаем данный процесс n раз получим xn=φ(xn-1)
Если эта последовательность является сходящейся т.е. существует предел
x* =lim xn , то данный алгоритм позволяет определить искомый корень.
Выражение (5) запишем как
x*= φ(x*) (6)
Выражение (6) является решением выражения (2), теперь необходимо рассмотреть в каких случаях последовательность х1хn является сходящейся.
Условием сходимости является если во всех токах x принадлежит [a,b] выполняется условие:

Приведем блок схему алгоритма метода итерации:



1.3. Метод Ньютона (касательных).
В рамках метода Ньютона предполагается, что функция дифференцируема. Согласно этому методу строится линейная аппроксимация функции в начальной точке, а точка, в которой аппроксимирующая линейная функция обращается в нуль, принимается в качестве следующего приближения.

Итерационый процесс схождения к корню реализуется формулой:

Вычисления продолжаются пока соблюдается условие

В зависимости от выбора начальной точки и вида функции алгоритм по методу Ньютона может как сходиться к корню уравнения, так и расходиться.

Блок схема алгоритма метода Ньютона:



1.4. Метод трапеций и средних прямоугольников.
Известно, что определенный интеграл функции типа численно представляет собой площадь криволинейной трапеции ограниченной кривыми x=0, y=a, y=b и y= (Рис. 1). Есть два метода вычисления этой площади или определенного интеграла метод трапеций (Рис. 2) и метод средних прямоугольников (Рис. 3).

Рис. 1. Криволинейная трапеция.

Рис. 2. Метод трапеций.

Рис. 3. Метод средних прямоугольников.

По методам трапеций и средних прямоугольников соответственно интеграл равен сумме площадей прямоугольных трапеций, где основание трапеции какая-либо малая величина (точность), и сумма площадей прямоугольников, где основание прямоугольника какая-либо малая величина (точность), а высота определяется по точке пересечения верхнего основания прямоугольника, которое график функции должен пересекать в середине. Соответственно получаем формулы площадей
для метода трапеций:
,
для метода средних прямоугольников:
.

1. Мельникова О.И., Бонюшкина А.Ю. Начала программирования на языке Qbasic: Учебное пособие = М.: Издательство ЭКОМ, 2000 304 с., ил.
2. Бирюков С.И. Оптимизация. Элементы теории. Численные методы: Учеб. пособие. М. : МЗ-Пресс, 2003. 248с. : рис. (Серия "Естественные науки). Библиогр.: с. 245-246.
3. Волков Е.А. Численные методы: Учеб. пособие. 3.изд., испр. СПб. ; М. ; Краснодар : Лань, 2004. 248с. : рис., табл. (Учебники для вузов). Библиогр.: с. 244.
4. Аттетков А.В., Галкин С.В., Зарубин В.С. Методы оптимизации: Учебник для студ. высших техн. учеб. заведений / В. С. Зарубин (ред.), А.П. Крищенко (ред.). М. : Издательство МГТУ им. Н.Э.Баумана, 2001. 439с. : рис., табл. (Серия "Математика в техническом университете"; Вып.14). Библиогр.: с. 428-432.
5. Лебедев В.И. Функциональный анализ и вычислительная математика. 4. изд., испр. и доп. М. : Физматлит, 2000. 295с. : рис. Бібліогр.: с.285-287.