Эта группа методов относится к поисковым методам первого порядка, поскольку для нахождения очередной толчки траектории оптимизации используют первую производную целевой функции.
Основная идея методов – движение к минимуму в направлении наискорейшего убывания целевой функции 
, которое задается антиградиентом 
(в литературе градиент может быть обозначен 
или 
). Поиск начинается из начальной точки 
. Следующая точка траектории поиска 
находится по формуле
или 
, k=0,1,2,....
Здесь 
– множитель, определяющий длину шага;
– градиент в точке 
;
– направление поиска.
В координатах : 
, 
.
Поиск минимума для градиентных методов выполняется по следующему общему для них алгоритму.
определить 
|
 , 
|
 ,
|
Критерием завершения поиска точки минимума может быть один из следующих критериев или их комбинация
, 
, 
,
где 
- соответственно допустимая погрешность по модулю градиента, расстоянию между соседними точками и значению целевой функции в соседних точках траектории оптимизации.
Различие градиентных методов определяется способом выбора длины шага на каждой 
- той итерации. Шаг может быть выбран одним из следующих способов:
1. Значение постоянно для всех итераций;
2. Значение выбирается дроблением для каждой итерации;
3. Выполняется оптимизация значения для каждой итерации.
