Нахождение приближающей функции в виде линейной функции

Постановка задачи

Метод наименьших квадратов

Пусть данные некоторого эксперимента представлены в виде таблицы:

Поставим задачу об отыскании аналитической зависимости между x и y, т.е. некоторой формулы y=f(x). При этом потребуем, чтобы график искомой функции изменялся плавно и не слишком уклонялся от экспериментальных данных. Поиск такой зависимости называют «сглаживанием» экспериментальных данных. Формулу y=F(x) – эмпирической формулой или уравнением регрессии y на x.

Предположим, что приближающая функция y=F(x) имеет значения.

xi	x1	x2	…	xn
			…		(2)

Рассматривая совокупности (1) и (2) как координаты двух точек
n-мерного пространства, найдем расстояние между ними по евклидовой метрике

Потребуем, чтобы эта величина была наименьшей. Это равносильно тому, что сумма квадратов должна быть наименьшей:

или

Тогда задача приближения функции f формулируется следующим образом: для функции f, заданной таблицей, найти функцию F определенного вида так, чтобы сумма квадратов была наименьшей.

Рассмотрим приближающую функцию в виде F(x,a,b) = ax+b.

Наша задача – отыскать значения параметров a и b.

Рассмотрим функцию или

Задача сводится к отысканию минимума функции Ф(a,b). Используем необходимое условие экстремума: ; .

Учитывая, что , , получим систему вида:

Далее, или

Выразим значения a и b из системы уравнений:

Существует показатель, характеризующий тесноту линейной связи между X и Y. Это (выборочный) коэффициент корреляции. Он вычисляется по формуле:

Значение коэффициента корреляции всегда удовлетворяет соотношению: -1£r£1. Чем меньше отличается абсолютная величина r от единицы, тем ближе к линии регрессии располагаются экспериментальные точки.

Если коэффициент корреляции равен нулю, то говорят, что переменные X и Y некоррелированы.