Приближение моделей методом наименьших квадратов

Рассмотрим вначале случай линейной зависимости.

Пусть приближенное теоретическое уравнение связи двух параметров желательно найти в виде

,

тогда для идентификации этой модели необходимо подобрать коэффициенты и , которые обеспечили бы приближение прямой к имеющимся статистическим данным пар значений и , полученных в результате наблюдений за объектом.

Наилучшее приближение может быть получено методом наименьших квадратов, согласно которому минимизируется функционал

Для искомой модели в виде прямой этот функционал примет вид

/

Как известно минимум функции достигается в точке, где ее производная обращается в нуль.

Приравняем частные производные по искомым переменным и . Получим

Раскрыв суммы, получим систему нормальных уравнений регрессии для одномерной линейной модели:

=

+ =

Общее решение этой системы имеет вид

=( – )/ ;

= =( – )/[( )² – .

Как видим, для построения модели необходимо накопить согласно исходной корреляционной таблицы соответствующие суммы:

; ;; .

Если приближенное теоретическое уравнение связи двух параметров желательно найти в виде нелинейной модели, например, параболы общего вида

,

тогда для идентификации модели необходимо подобрать коэффициенты , и , которые обеспечили бы приближение статистическим данным пар значений и к параболе. Подставив уравнение параболы в приведенный выше функционал для метода наименьших квадратов, получим систему из трех нормальных уравнений регрессии

+( ) +( ) =

( ) +( ) +( ) =

( ) +( ) +( ) =

Очевидно, что для построения этой системы уравнений необходимо накопить следующие суммы: ; ; ; ; ; ; . Решать полученную систему удобно табличным методом Гаусса или на ЭВМ.