Если f – непрерывная функция на ограниченном и замкнутом множестве Х, то задача (1.1) имеет глобальное решение.
Необходимые условия оптимальности – условия, которым должна удовлетворять точка, являющаяся решением задачи.
Достаточные условия оптимальности – условия, из которых следует, что данная точка является решением задачи.
Эти условия позволяют:
1)найти аналитическое (точное) решение задачи для простых задач
2)с их применением строятся численные решения
3)с их помощью можно найти локальные решения.
Замечание: для глобальных необходимых и достаточных условий нет, они существуют только для локальных.
В общем виде задача оптимизации:
(1.6)
Если функция одной переменной, то
(1.7)
Необходимые условия локальной оптимальности.
Пусть функция f(x) дифференцируема в точке . Если точка локального минимума (локальное решение задачи (1.7)), то
(1.8)
→ стационарные точки (корни уравнения)
Стационарные точки могут быть и точками локального минимума, и точками локального максимума, и точками перегиба. Для определения характера стационарных точек используют достаточное условие
Достаточные условия локальной оптимальности.
Пусть функция f(x) k-раз (k>1) дифференцируема в точке , причем
Тогда если k – четное число, то – точка локального максимума при и – точка локального минимума при .
Тогда если k – нечетное число, то – точка перегиба.
Матрица Гессе:
Необходимое условие локальной оптимальности.
Пусть f(x) дифференцируема в точке . Если точка локального минимума (локальное решение задачи (1.6)), то
(1.9)
Соотношение (1.9) (вектор из n-нулей) рассматривается как система из n-уравнений относительно n-неизвестных. Решением являются стационарные точки.
Полученные точки могут быть точками минимума, максимума и седловыми точками.
Для установления характера стационарных точек используется достаточное условие локальной оптимальности:
Пусть функция f(x) дважды дифференцируема в точке . Если , а матрица положительно (отрицательно) определена, то есть при всех ненулевых , то – точка локального минимума (максимума) f(x) на .
Если , а матрица не определена, то есть для некоторых и для остальных , то – седловая точка.
Если квадратичная форма обращается в нуль при ненулевых , то для определения характера стационарной точки требуется исследование производных более высокого порядка.
Для проверки знака определенности матрицы Гессе используется критерий Сильвестра:симметричная матрица А положительно определена, если все ее угловые миноры положительны.
Угловым минором матрицы А называется определитель матрицы, построенный из элементов матрицы А, стоящих на пересечении строк и столбцов с одинаковыми, причем первыми номерами.
Если все угловые миноры положительны, то стационарные точки являются локальным минимумом. Если хотя бы один минор отрицательный, то матрица не является положительно определенной.
В этом случае необходимо определить не является ли матрица А отрицательно определенной. Чтобы проверить матрицу А на отрицательную определенность, нужно проверить матрицу (-A) на положительную определенность:
1)Если в матрице (-А) M1>0,а M2<0, то матрица (-А) не является положительно определенной и следовательно матрица А не является отрицательно определенной, а точка – седловая точка
2)Если в матрице (-А) все миноры M>0, то матрица А положительно определена и следовательно матрица А не является отрицательно определена, а точка – локальный максимум.
Задача оптимизации (минимизации)
(1.10)
называется задачей условной оптимизации, если .
Задача оптимизации с допустимым множеством Х, заданным системой конечного числа уравнений
Здесь предполагается, что m<n/
Тогда задача (1.10) записывается в явном виде
(1.11)
Для решения задачи (1.11) используется метод множителей Лагранжа.
Переход от задач условной минимизации заданной функции f(x) к задачам безусловной оптимизации функции Лагранжа