Одномерная задача оптимизации в общем случае формулируется следующим образом. Найти наименьшее (или наибольшее) значение целевой функции , заданной на множестве , и определить значение проектного параметра , при котором целевая функция принимает экстремальное значение. Существование решения поставленной задачи вытекает из следующей теоремы.
Теорема Вейерштрасса. Всякая функция , непрерывная на отрезке , принимает на этом отрезке наименьшее и наибольшее значения, т. е. на отрезке существуют такие точки и , что для любого имеют место неравенства
.
Эта теорема не доказывает единственности решения.
Будем рассматривать методы оптимизации для разных классов целевых функций. Простейшим из них является случай дифференцируемой функции на отрезке , причем функция задана в виде аналитической зависимости , и может быть найдено явное выражение для ее производной .
Функция может достигать своего наименьшего и наибольшего значений либо в граничных точках отрезка , либо в точках минимума и максимума. Последние точки обязательно должны быть критическими, т.е. производная в этих точках обращается в нуль, - это необходимое условие экстремума.
В случае, когда целевая функция задана таблицей ( или может быть вычислена при некоторых дискретных значениях аргумента ), используются различные методы поиска.
2.Методы поиска. Численные методы поиска экстремальных значений функции рассмотрим на примере нахождения минимума функции на отрезке . Будем предполагать, что целевая функция унимодальна, т.е. она имеет на данном отрезке только одни минимум.
Процесс решения задачи методом поиска состоит в последовательном сужении интервала изменения проектного параметра, называемого интервалом неопределенности, В начале процесса оптимизации его длина равна , а к концу она должна стать менее заданного допустимого значения , т.е. оптимальное значение проектного параметра должно находиться в интервале неопределенности – отрезке , причем .
Наиболее простым способом сужения интервала неопределенности является деление его на некоторое число равных частей с последующим вычислением значений целевой функции в точках разбиения. Пусть - число элементарных отрезков, - шаг разбиения.
Вычислим значения целевой функции в узлах . Сравнивая полученные значения , найдем среди них наименьшее .
Число можно приближенно принять за наименьшее значение целевой функции на отрезке . Очевидно, что близость к минимуму зависит от числа точек, и для непрерывной функции
,
т.е. с увеличением числа точек разбиения погрешность в определении минимума стремится к нулю.
В данном методе, который можно назвать методом перебора, основная трудность состоит в выборе и оценке погрешности. Можно провести оптимизацию с разными шагами и исследовать сходимость такого итерационного процесса. Но это трудоемкий путь.
Более экономичным способом уточнения оптимального параметра является использование свойства унимодальности целевой функции, которое позволяет построить процесс сужения интервала неопределенности. Пусть, как и ранее, среди всех значений унимодальной функции , вычисленных в узлах , наименьшим оказалось . Это означает, что оптимальное значение проектного параметра находится на отрезке ,т.е. интервал неопределенности сузился до длины двух шагов. Если размер интервала недостаточен для удовлетворения заданной погрешности, т.е. , то его снова можно уменьшить путем нового разбиения. Получится интервал, равный двум длинам нового шага разбиения, и т. д. Процесс оптимизации продолжается до достижения заданного размера интервала неопределенности.