Необходимые и достаточные условия экстремума

В классическом методе используется безусловная оптимизация, когда известно аналитическое выражение целевой функции F(X) и она не менее чем дважды дифференцируема по управляемым параметрам.

Разложим F(X) в ряд Тейлора в окрестности экстремальной точки Х`.

F(X) = F(X`) + ∂F/∂x₁∆x₁ + ∂F/∂x₂ ∆x₂ + … + ∂F/∂x_n ∆x_n + ½! (∂²F/∂x₁²∆x²₁ +

+∂²F/∂x₁∂x₂ ∆x₁∆x₂+ … + ∂²F/∂x_n² ∆x_n²) +... ,

где ∆x_i = x_i -x_i`

∂F/∂x_k – первая производнаяпо x_k.

X₁ – X₁`

∆Х = Х – Х` = X<sub>2</sub> – X<sub>2</sub>` - вектор столбец.

X₃ – X₃`

∆X^t – матрица строка (X₁ – X₁`; X<sub>2</sub> – X<sub>2</sub>`;…; X_n – X_n`)

∂²F/∂x₁²; ∂²F/∂x₁∂x₂; ….∂²F/∂x₁∂x_n

∂²F/∂x₁∂x₂; ∂²F/∂x₂²;……. ∂²F/∂x₂∂x_n

∂²F/∂X²=Ю= …………………………………………. – матрица Гессе.

∂²F/∂x₁∂x_n; ∂²F/∂x₂∂x_n;… ∂²F/∂x_n²

F(X) = F(X`) + ∂F/∂X*∆X + 1/2 ∆X^t * ∂²F/∂X² *∆X + …

F(X) – F(X`) < 0 – условие максимума.

Может выполняться только при ∂F/∂X = grad F = 0 – необходимое условие экстремума.

Точки, в которых выполняется необходимое условие экстремума называются стационарными.

∆X^t * ∂²F/∂X² *∆X < 0

Матрица Гессе Ю, удовлетворяющую данному условию при любых ∆Х называют отрицательно определенной матрицей.

Следовательно, отрицательная определённость матрицы Гессе является достаточным условием максимума.

∆X^t * ∂²F/∂X² *∆X > 0

Соответственно матрицу Гессе, удовлетворяющую данному условию, называют положительно определённой.

Положительно определённая матрица Гессе достаточное условие min.

Седловая точка – это точка, в которой достаточные условия не выполняются, т.е. нет не максимума, не минимума.

Метод неопределённых множителей Лагранжа

Применяется для нахождения условного максимума при известных аналитических выражениях целевой функции и ограничений.

Рассмотрим случай ограничений типа равенств.

Запишем функцию Лагранжа:

Ф(Х; Λ) = F(X) + Λ * Ψ(Х) = F(X) + ∑λ_kψ_k(X), где Λ – Вектор неопределённых множителей Лагранжа.

Если Х€ ХД

то выполняются ограничения и

Ψ(Х) = 0

^{Х € ХД}

Ф(Х; Λ) =F(X)

Х€ ХД

Найдем максимум Ф(Х; Λ):

_p

∂Ф(Х; Λ)/∂Х = ∂F(X)/∂X + ∑ λ_k ^∂Ψ^k(X)

^{k=1 ∂X}

∂Ф(Х; Λ)/∂Λ = Ψ(Х) = 0.

Метод неопределённых множителей Лагранжа может быть распространён и на задачи с ограничениями типа неравенств.