Основная статья: Достаточная статистика
Статистика 
назвается достаточной для параметра 
, если условное распределение выборки 
при условии того, что 
, не зависит от параметра для всех 
.
Важность понятия достаточной статистики обуславливается следующим утверждением. Если 
- достаточная статистика, а 
- несмещенная оценка параметра , тогда условное математическое ожидание 
является также несмещенной оценкой параметра , причем ее дисперсия меньше или равна дисперсии исходной оценки .
Напомним, что условное математическое ожидание есть случайная величина, являющаяся функцией от . Таким образом, в классе несмещенных оценок достаточно рассматривать только такие, которые являются функциями от достаточной статистики (при условии, что такая существует для данной задачи).
(Несмещенная) эффективная оценка параметра всегда является достаточной статистикой.
Можно сказать, что достаточная статистика содержит в себе всю информацию об оцениваемом параметре, которая содержится в выборке 
.
