Как мы уже видели из примера, различные по своему типу стационарные точки характеризуются различным расположением фазовых траекторий в достаточно малой окрестности этих точек. Вместе с тем существует еще одна характеристика - устойчивость точки равновесия, которая позволяет получить дополнительную информацию о поведении фазовых траекторий в окрестности неподвижных точек.
Состояние равновесия физической системы соответствует стационарной точке на фазовой плоскости. Малые возмущения неустойчивой точки равновесия приводят к большим отклонениям от этой точки; в случае же устойчивой точки равновесия малые возмущения приводят к малым отклонениям. Отправляясь от таких наглядных интуитивных соображений, рассмотрим неподвижную точку системы . Можно показать, что локальный фазовый портрет в окрестностях произвольной неподвижной точки принадлежит одному из трех типов: асимптотически устойчивому, нейтрально устойчивому или неустойчивому.
Будем говорить, что особая точка устойчива, если для любой ее окрестности N радиусом существует окрестность n меньшего радиуса ( ) такая, что любая фазовая траектория, выходящая в начальный момент времени из точки , лежащей в окрестности n, при всех , не выйдет за пределы окрестности N. Не придерживаясь строгой формулировки, можно сказать, что точка покоя является устойчивой, если все фазовые траектории, которые в начальный момент времени находятся вблизи особой точки, с течением времени также остаются вблизи этой точки.
Далее, особая точка называется асимптотически устойчивой, если она устойчива и если существует окрестность N этой точки такая, что каждая траектория, которая в момент времени находится в этой окрестности, при стремится к точке покоя.
Наконец, если особая точка не является устойчивой, то ее называют неустойчивой.
Пример асимптотически устойчивой и неустойчивой стационарных точек дает рис.3.4,a, где показано поведение фазовых траекторий в случае колебаний маятника в среде с трением, стационарные точки имеющие координаты (±2pm,0), где m=0,1,2..., являются асимптотически устойчивыми, а стационарные точки с координатами (±pn,0), где n=0,1,2..., - неустойчивыми.
Неподвижная точка x* системы , которая устойчива, но не асимптотически устойчива, называется нейтрально устойчивой.
Из рассмотренных примеров, таким свойством обладают стационарные точки (±2pm,0), где m=0,1,2,.., консервативной механической системы, фазовый портрет которой приведен на рис.3.3.
Введенное понятие устойчивости точки равновесия является понятием чисто качественным, так как ни о каких свойствах, касающихся характера поведения фазовых траекторий, здесь не говорится. Что же касается понятия асимптотической устойчивости, то по сравнению с понятием простой устойчивости здесь дополнительно требуется, чтобы любая фазовая траектория с течением времени стремилась к точке покоя. Однако и в этом случае никаких условий на характер приближения к этой точке также не накладывается.