Исключение дублирующих и неэффективных аргументов. Доли вклада.
Нелинейные уравнения множественной регрессии.
Нелинейные формы зависимости приводятся к линейным путем ленеарезации. Виды уравнений нелинейной множественной регрессии: степенная, показательнаяпараболическая, гиперболическая .
Доли вклада это доля вклада в уравнение регрессии каждого из участвующих в уравнении аргументов(предикторов) если хотя бы один коэффициент отрицательный то берется сумма по абсолютной величине исключение дублирующих элементов проводится по правилу что если коэффициент корреляции между аргументами близок к единице (близость определяется значением r±2σr): l1-2σ2rl≤r
Исключение неэффективных аргументов: для этого используются доли вклада, вычисляются доли вклада и если доля вклада меньше относительной
ошибки R2, то такой аргумент исключается. После исключения аргументов все расчеты выполняются заново.
Yx=a0+a1x+a2x2
Значение величин ХУ представлены двумя рядами данных, если бы все значения полученные по данным наблюдения лежали бы строго на кривой, описываемой уравнением параболы то не существовало бы ни каких проблем однако на практике имеем разность между данными наблюдения и данными полученными по уравнению связи эта разность как раз и появляется в силу наличия ошибок упрощения, поэтому возникает проблема нахождения таких коэффициентов регрессии, при которых ошибка была бы минимальной. Оптимальным является оценка ошибки по методу наименьших квадратов.
S=∑(y-a0-a1x-a2x2)2→min
Для нахождения значений неизвестных коэффициентов при которых функция была бы минимальной необходимо приравнять частное производное по этим величинам к нулю.
Проделав простейшие преобразования получим систему нормальных уравнений.
Решив систему найдем значения неизвестных коэффициентов а0, а1, а2 и получим уравнение регрессии.
9. Что такое оптимизация и её математическая формулировка.
Это целенаправленная деятельность заключающаяся в получении наилучших результатов при заранее заданных условиях. При оптимизации модель должна обладать степенями свободы то есть параметры модели могут меняться (ресурсы оптимизации). У модели должен быть предусмотрен отклик на упряждающее воздействие, то есть изменение средне-квадратической ошибки на изменение параметра.
Математическая постановка, задачи оптимизации: предположим, что у нас есть функция К(х1…хL) и есть ограничения φ1 (х1…хL)=0 типа равенств и ограничения типа не равенств φ2 (х1…хL)≤0. «К» может иметь довольно сложную функцию вычислений. Заданна функция (1) в некоторой области изменения параметров и заданны ограничения (2,3) и необходимо найти в зависимости от постановки задачи минимум либо максимум функции К в заданной области. В общем случае существует два подхода: 1 уравнение (1,2,3) могут быть заданны уравнениями. Можем получить систему уравнений и не известные параметры решить путем системы уравнений. Пример – множественная корреляция. 2 либо уравнение (1) либо (2,3) не могут быть представлены в аналитическом виде (в виде уравнения), то есть не возможно составить систему уравнений. В этом случае нужны спец методы, которые получили название – методы оптимизации.