Метод наименьших квадратов

Процесс выражения опытных данных функциональной зависимостью с помощью метода наименьших квадратов состоит из 2-х этапов: на первом выбирают вид искомой формулы (строится теоретическая линия регрессии), а на втором – для данной формулы подбирают параметры. На рисунке 8.2 (левая часть) приведены опытные данные, для которых в качестве эмпирической формулы (полученной на основании опытных данных) можно принять линейную зависимость .

Для данных, приведённых на правой части рис. 8.2, эмпирическую зависимость целесообразно принять в виде . В соответствии с идеей метода наименьших квадратов необходимо минимизировать сумму

где – значения опытных данных, – значение функции, взятое на эмпирической зависимости в точке , – число опытов.

В случае линейной эмпирической формулы сумма (8.4) принимает вид

а в случае квадратической зависимости – следующий вид:

Минимум функции (8.5) и (8.6) имеют в тех точках, в которых частные производные от S по параметрам a, b, c обращаются в нуль. В результате дифференцирования и элементарных преобразований для определения параметров получают нормальную систему линейных уравнений. В случае линейной эмпирической зависимости составляют нормальную систему двух уравнений с двумя неизвестными a и b:

В случае квадратической зависимости нормальная система состоит из 3-х уравнений с 3-я неизвестными:

Для гиперболической зависимости :

Пример 8.1. Опытные данные о значениях x и y представлены в следующей таблице:

Таблица 8.1 – Исходные данные

Анализ опытных данных показывает, что в качестве эмпирической зависимости можно использовать линейную зависимость . Найти методом наименьших квадратов значение a и b.

Подставляя полученные в таблице 8.2 данные в систему уравнений (8.7), получаем: ; .

Эмпирическая формула принимает вид: .

Не существует общего правила для выбора подходящего вида эмпирической формулы; можно лишь догадываться о подходящей формуле уравнений по форме кривой, изображающей данные. Однако существуют способы, с помощью которых можно проверить, является ли догадка удачной или нет.

Таблица 8.2 – Расчёт вспомогательных данных для получения уравнения регрессии в примере 8.1

Для наиболее часто встречающихся зависимостей с двумя параметрами, а именно: I) , II) , III) , IV) ,

V) , VI) , VII) , эмпирическую формулу можно выбирать с помощью таблице 8.3.

Таблица 8.3 – Расчёт вспомогательных величин и для получения уравнений регрессий различных видов