Свойства выборочного среднего и выборочной дисперсии

Пусть наблюдаемая случайная величина имеет математическое ожидание и дисперсию .

I. Свойства выборочного среднего , как точечной оценки неизвестного математического ожидания.

1. Выборочное среднее является несмещенной оценкой неизвестного математического ожидания .

.

2. Выборочное среднее является состоятельной оценкой неизвестного математического ожидания .

Рассмотрим два способа доказательства этого свойства.

а) Последовательность независимых одинаково распределенных случайных величин , имеющих конечные математическое ожидание и дисперсию подчиняется закону больших чисел, в соответствии с которым

.

б) Поскольку выборочное среднее является несмещенной оценкой неизвестного математического ожидания , то для доказательства состоятельности достаточно показать, что . А это следует из свойства аддитивности дисперсии для независимых случайных величин имеем:

.

3. Если закон распределения наблюдаемой случайной величины является нормальным с параметрами (то есть с неизвестным математическим ожиданием и известной дисперсией ), то выборочное среднее является эффективной оценкой параметра .

Покажем, что выборочное среднее обращает неравенство Рао-Крамера в равенство.

Для этого вычислим информацию Фишера о параметре , содержащуюся в одном наблюдении над случайной величиной :

.

Плотность вероятностей наблюдаемой случайной величины имеет вид:

,

а ее логарифм . Дифференцируя по , получаем:

.

Подставляя вместо аргумента случайную величину , для информации Фишера получаем выражение:

.

Следовательно,

.

Свойство 3 остается справедливым и в общей нормальной модели , когда неизвестны и математическое ожидание, и дисперсия.

II. Свойства выборочной дисперсии , как точечной оценки неизвестной дисперсии.

1. Выборочная дисперсия не является несмещенной оценкой неизвестной дисперсии . Она является асимптотически несмещенной оценкой .

Найдем математическое ожидание :

(поскольку при в силу независимости случайных величин )

.

Таким образом, выборочная дисперсия не является несмещенной оценкой дисперсии . Ее смещение . Поскольку , то выборочная дисперсия является асимптотически несмещенной оценкой дисперсии .

Несмещенную оценку дисперсии можно получить, умножив на коэффициент , компенсирующий ее смещение.

Несмещенная оценка дисперсии

называется исправленной выборочной дисперсией.

На практике исправленную выборочную дисперсию , как точечную оценку неизвестной дисперсии , используют чаще, чем просто выборочную дисперсию . Однако при больших оценки и отличаются крайне незначительно.

2. Выборочная дисперсия и исправленная выборочная дисперсия являются состоятельными оценками неизвестной дисперсии .

Как отмечалось ранее

.

В силу закона больших чисел , а . Поэтому

.

Поскольку при больших , то состоятельной оценкой дисперсии является и исправленная выборочная дисперсия .

3. Если закон распределения наблюдаемой случайной величины является нормальным с неизвестными параметрами , то исправленная выборочная дисперсия является асимптотически эффективной оценкой неизвестной дисперсии , то есть

,

где - эффективная оценка неизвестной дисперсии (без доказательства).

Поскольку при больших , то асимптотически эффективной оценкой дисперсии является и выборочная дисперсия .