Рассмотрим общую задачу оптимизации, содержащую несколько ограничений в виде равенств:
минимизировать f(x) при ограничениях (x)=0, j=1,…, к.
Эта задача может быть решена как задача безусловной оптимизации, полученная путем исключения из целевой функции k независимых переменных с помощью заданных равенств. Наличие ограничений в виде равенств фактически позволяет уменьшить размерность исходной задачи с n до n-k. В качестве иллюстрации рассмотрим следующий пример.
Минимизировать f(x)= при ограничении g(x)=
Исключив переменную x3 с помощью уравнения g(x)=0, получим оптимизационную задачу с двумя переменными без ограничений
f( .
Метод исключения переменных применим лишь в тех случаях, когда уравнения, представляющие ограничения, можно разрешить относительно некоторого конкретного набора независимых переменных. При наличии большого числа ограничений в виде равенств процесс исключения переменных становится весьма трудоемкой процедурой. Кроме того, возможны ситуации, когда уравнения не удается разрешать относительно переменной. В частности, если в приведенном примере ограничения g(x)=0 задать в виде g(x)= + + , то получить аналитическое выражение какой-либо из переменных через другие не представляется возможным. Таким образом, при решении оптимизационных задач, содержащих сложные ограничения в виде равенств, целесообразно использовать метод множителей Лагранжа.
С помощью этого метода находят необходимые условия, позволяющие идентифицировать точки оптимума в задачах оптимизации с ограничением в виде равенств. При этом задача с ограничением в виде равенств преобразуется в эквивалентную задачу безусловной оптимизации.
Рассмотрим задачу, имеющую несколько ограничений в виде равенств:
минимизировать f(x) при ограничениях (x)=0, при j=1,2,…., k.
В соответствии с методом множителей эта задача преобразуется в следующую задачу безусловной оптимизации:
минимизировать L(x, )=f (x)- ,
где L(x, ) - функция Лагранжа, - множители Лагранжа.
На знак никаких требований не накладывается.
Приравниваем частные производные L(x, ) по x к нулю, получаем следующую систему n уравнений с n неизвестными:
…,
Если найти решение приведенной выше системы в виде функций вектора оказывается затруднительным, то можно расширить систему путем включения в нее ограничений в виде равенств:
(x)=0,
(x)=0,
……...
(x)=0.
Решение расширенной системы, состоящей из n+k неизвестных, определяет стационарную точку функции L.
Пример. Минимизировать
при ограничении .
Соответствующая задача безусловной оптимизации записывается в следующем виде.
Минимизировать .
Приравняв две компоненты градиента L к нулю, получим:
Поставив полученные значения в уравнение , получим т.е. . Следовательно,