Метод наименьших квадратов

Постановка задачи

ТЕМА 2. ПЛАНИРОВАНИЕ ЭКСПЕРИМЕНТА

Пусть некоторое свойство, фактор или признак, представленный одним из столбцов матрицы наблюдений, зависит от всех остальных факторов. Характер этой зависимости необходимо выяснить:

Задавая различные совокупности значений факторов можно получить как угодно много информации о функции Y. Модель исследуемого объекта в виде семейств кривых при числе независимых переменных > 3 непрактична и неудобна.

Если априори предположить определенный вид функции не представляется возможным, то используют ее разложение в степенной ряд вида:

Обычно ограничиваются конечным числом членов разложения, аппроксимируя функцию Y полиномом некоторой степени. Задача состоит в нахождении коэффициентов разложения на различных сочетаниях независимых переменных. Если полученный таким образом полином согласуется с новыми (дополнительными) данными, то цель достигнута. Такая формализация Y не противоречит техническому содержанию задачи и значение Y – всегда измеримо т.е. является числом. Принято называть Y - функция отклика (цели), а - факторами. Факторы обладают тем свойством, что исследователь может менять их значения, т.е. работая с объектом задавать различные сочетания факторов.

Действия над объектом – активный эксперимент. Если действие невозможно, то эксперимент пассивный. Если каждому фактору соотнести координатную ось, то образованное таким образом пространство называют факторным.

Чтобы освободится от размерностей, производится кодирование факторов.

Операция кодирования сводится к переносу факторного пространства в точку с координатами:

И выбору для каждого фактора нового масштаба, такого, чтобы , .

Факторы в новой системе координат будут связаны с исходными:

Основное уравнение отклика в новых координатах:

Функция отклика – уравнение некоторой поверхности в факторном пространстве. Её называют поверхностью отклика. Аппроксимирующая поверхность должна проходить как можно ближе к экспериментальной поверхности.

Трудность применения МНК – громоздкость записи расчётных соотношений и сложность их анализа. Для упрощения записей и облегчения использования инструментов матричной алгебры производят следующие преобразования:

1. Вводится фиктивный фактор ;

2. Все тройные, двойные и т.д. взаимодействия факторов и коэффициенты факторов обозначаются и коэффициентом , , m+ 1-число членов степенного ряда i - не только номер фактора, но и номер взаимодействия.

Пример. Для двух факторов

в новых обозначениях

будет иметь вид

Если произведено N опытов, в каждом из которых задавалось определенное сочетание факторов то:

Эти матрицы используют для записи системы нормальных уравнений в матричной форме: ,

где С – квадратная матрица размера (m+1)´(m+1).

Для того чтобы получить матрицу коэффициентов надо слева умножить на

Любой элемент матрицы С , расположенный на диагонале, имеет вид:

;

Элементы симметрично расположенные относительно главной диагонали равны и имеют следующий вид:

т.е. С - симметрична

Чтобы существовала , необходимо, чтобы . Это условие выполняется, если ранг матрицы . Это выполняется, если все столбцы линейно независимы и кроме того N > 1+m.

В пассивном эксперименте добавление или удаление одного члена полинома (изменение m) предполагает полный пересчет всех коэффициентов b, т.к. они зависимы друг от друга.