Формула Байеса (теорема гипотез)

В соответствии с теоремой умножения вероятностей

Р(АН_i) = Р(H_i)·Р(А/H_i) = Р(A)·Р(H_i/А).

В это равенство подставим значение Р(А), вычисленное по формуле полной вероятности и найдем Р(H_i/А).

Р(Н_i/A) =

Это следствие из теоремы умножения и формулы полной вероятности называется формулой Байеса или теоремой гипотез.

Вероятности гипотез Р(Н_i), входящие в формулу полной вероятности, называют априорными, т.е. «до опытными». Пусть опыт произведен и его результат известен, т.е. мы знаем, произошло или не произошло событие А. Получившийся результат мог произойти при осуществлении какой-то одной гипотезы Н_i. Дополнительная информация об исходе опыта перераспределяет вероятности гипотез. Эти перераспределенные вероятности гипотез Р(Н_i/A) называют апостериорными , т.е. «после опытными».

Пример В одной из корзин 1 камешек и 4 кусочка хлеба, во второй – 4 камешка и 1 кусочек хлеба. Мышка наугад выбирает корзину, бежит к ней и вытаскивает кусочек хлеба - событие А (предполагается, что он затем вновь возвращается в корзину). Какова вероятность события А? Каковы вероятности того, что второй раз мышка побежит к первой корзине, ко второй корзине? Какова вероятность того, что она второй раз вытащит кусочек хлеба?

Рассмотрим гипотезы

Н₁ – мышка бежит к первой корзине,

Н₂ – мышка бежит ко второй корзине.

Р(Н₁) =1/2 = Р(Н₂) (априорные вероятности)

.

Р(Н₁/A)

Р(Н₂/A) (апостериорные вероятности).

При втором подходе

Мышка обучилась, второй раз она выберет первую корзину с большей вероятностью и добьется большего успеха.

Заметим, что это – один из основных принципов обучения кибернетических систем.

Лекция 3.