Связи с шумами

Потери информации в каналах связи с шумами обычно описывают при помощи

условной энтропии и энтропии объединения.

Если помех нет или их уровень настолько низок, что они не в состоянии уничтожить

сигнал или имитировать полезный сигнал в отсутствие передачи, то при передаче

мы будем твердо уверены, что получим - сигнал, соответствующий переданному a

_i-му сигналу. События А и В статистически жестко связаны, условная

вероятность максимальна , а условная энтропия

!!!!1

так как !!!!. В этом случаи количество информации, содержащейся в принятом

ансамбле сообщений В, равно энтропии передаваемых сообщений ансамбля А, т.е.

I(В, А) = Н (А).

При высоком уровне помех любой из принятых сигналов b_j может

соответствовать любому принятому сигналу a_i, статистическая связь

между переданными и принятыми сигналами отсутствует. В этом случае

вероятности!!!!!! Есть вероятности независимых событий и !!!!!!

!!!!1

так как !!11, т.е. условная энтропия равна безусловной, а количество

информации, содержащейся в В, относительно А равно нулю:

!!!!

Информационные характеристики реальных каналов связи лежат между этими двумя

предельными случаями. При этом потери информации при передаче !! символов по

данному каналу связи

!!!!!

Несмотря на то, что часть информации поражается помехами, между принятыми и

переданными сообщениями существует статистическая зависимость. Это позволяет

описывать информационные характеристики реальных каналов связи при помощи

энтропии объединения статистически зависимых событий. Так как

!!!!1

то потери в канале связи могут быть учтены при помощи энтропии объединения

следующим образом:

!!1!

а с использованием условной энтропии

!!!

Для вычисления среднего количества информации, содержащегося в принятом

ансамбле сообщений В относительно передаваемого ансамбля сообщений А в

условиях действия помех, пользуются следующими выражениями, выведенными

непосредственно из выражения (25):

!!!!!!!!

Для вычисления часто удобно применять выражения (26-28) в виде

!!!!!!!

Для полного и всестороннего описания канала связи необходимо задать:

канальную матрицу вида !!!!!! и безусловные вероятности вида !!!! или

канальную матрицу вида !!!!!! и безусловные вероятности вида !!!!!. В

последнем случае сумма значений матрицы по столбцам дает безусловные

вероятности вида !!!!!!!!!!, а сумма по строкам дает безусловные вероятности

вида !!!!!!. Условные вероятности могут быть найденными из выражений:

!!!!!!!

Зная условные и безусловные вероятности, можно найти Н (А), Н(В), Н(А/В) и

Н(В/А).

Если уровень помех настолько высок, что с равной вероятностью можно ожидать

переход любого символа источника сообщения в произвольный символ первичного

алфавита,. то энтропия канала связи будет равна !!!!!, а количество

информации !!!!!!!, при этом значение I может быть отрицательной величиной,

что означает, что канал связи вносит дезинформацию.