Вычисление частной информации

; (13)

; ; (14)

; , (15)

где — количество информации в сложной системе при совместном появлении событий и ;

— условная вероятность появления события относительно события в сложной системе;

— вероятности появления события ;

— частная информация.

Частная информация о событии получается в результате сообщения о другом событии и равна логарифму отношения вероятности первого события после сообщения к вероятности его же до сообщения.

— полная взаимная информация.

Зная канальную матрицу и матрицу , вычислим частную информацию по формуле (13):

I(a1,b1) = log₂ (0.64/0.19) = log₂ 3.368 = 1,7519 (бит);

I(a1,b2) = log₂ (0.037/0.19) = log₂ 0.195 = -2.3585 (бит);

I(a1,b3) = log₂ (0.042/0.19) = log₂ 0.221 = -2.1779 (бит);

I(a2,b1) = log₂ (0.16/0.39) = log₂ 0.410 = -1.2863 (бит);

I(a2,b2) = log₂ (0.963/0.39) = log₂ 2.469 = 1.3039 (бит);

I(a2,b3) = log₂ (0.188/0.39) = log₂ 0.482 = -1.0529 (бит);

I(a3,b1) = log₂ (0.2/0.42) = log₂ 0.476 = -1.0710 (бит);

I(a3,b2) = log₂ (0) = log₂ 0 = 0 (бит);

I(a3,b3) = log₂ (0.771/0.42) = log₂ 1.836= 0.8766 (бит).

Получили следующую матрицу :

1,7519 -2.3585 -2.1779

= -1.2863 -1.3039 -1.0529

-1.0710 0.0000 0.8766

Зная I(a_i,b_j) и формулу (14), вычислим I(A,b_j):

I(A,b1) = 0.64 *1.7519 + 0.16*(-1.2863) + 0.2*(-1.0710) =

= 1.1212 – 0.2058 – 0.2142= 0.7012 (бит);

I(A,b2) = 0.037 *(-2.3585) + 0.963 *1.3039 +0.0000*0.0000 =

= -0.0873 + 1.2557 = 1.1684 (бит);

I(A,b3) = 0.042*(-2.1779)+ 0.188*(-1.0529) + 0.771*0.8766 =

= - 0.0915 - 0.1979 + 0.6757= 0.3863 (бит).

Вычислимполную взаимную информацию по формуле (15):

=0.25*0.7012+0.27*1.1684+0.48*0.3863= 0.1753+0.3155+0.1854=

= 0.6762 (бит).