Вычисление полной условной энтропии

; (11)

, (12)

где H(A|B) — полная условная энтропия систем A и B;

P( b_j) — вероятности появления события b_j;

H(A| b_j) — условная частная энтропия системы A относительно события b_j;

H(B|A) — полная условная энтропия систем B и A;

P(a_i) — вероятности появления события a_i;

Н(B|a_i) — условная частная энтропия системы B относительно события a_i.

Зная матрицу p(b_j) и частную условную энтропию H(A/bj), вычислим полную условную энтропию систем A и B H(A/B) по формуле (11):

H(A/B) = (0.25*1.2995) + (0.27*0.2284) + (0.48*0.9347) =

=0.3249+0.0617+0.4487=0.8353 (бит/символ).

Зная матрицу p(a_i) и частную условную энтропию H(B/a_i), вычислим полную условную энтропию систем A и B H(B/A) по формуле (12):

H(B/A) = (0.19*0.7749) + (0.39*1.2158) + (0.42*0.5264 ) =

=0.1472+0.4742+0.2211=0.8425 (бит/символ).