Вопрос 4.2. Процесс передачи информации. Информационные шумы
Общая схема движения информации в системе такова (рис. 3.2):
1) в системе происходит одно из возможных событий, которое фиксируется наблюдателем;
2) наблюдатель формулирует сведения о происшедшем событии, определяет язык, т. е. осуществляет отображение события в понятие;
3) в соответствии с правилами понятие кодируется, т. е. заменяется определенным знаком;
4) отправитель информации передает закодированное сообщение по каналу связи получателю;
5) получатель расшифровывает полученное сообщение, т. е. восстанавливает его содержание путем формулировки понятия;
6) получатель информации оценивает и отбирает необходимые сведения для использования.
Событие
(m),(a)
Знак
(z)
Понятие
s
1 2 3 3. 4
Фиксирование Отображение Кодирование Передача
Использование cообщения m1
Понятие
s1
Знак
z1
4 5 6 6
сообщения Расшифровка Оценка
На этой схеме отчетливо видны три типа проблем, возникающих при передаче сообщений в человеко-машинных системах, в соответствии с которыми выделяются три аспекта исследования информации:
· проблема точности передачи символов (знаков), применяемых для передачи сообщений – техническая проблема;
· проблема точности выражения содержания символами – проблема смысла;
· проблема влияния принятого сообщения на выбор поведения получателя – проблема ценности сообщения.
В процессе передачи или восприятия сообщения часть информации может быть потеряна в силу различных причин. Наглядно этот процесс проиллюстрирован на рис. 3.3.
Физический Семантический Прагматический
шум шум шум
Получатель
Использова-
ние
информации
Физический Семантический Прагматический
фильтр фильтр фильтр
Рис. 3.3. Процесс восприятия информации в системе
Физический фильтр – пропускная способность канала связи.
Вначале сообщение, представленное определенной последовательностью знаков, переданное по физическому каналу связи принимается получателем. Качество приема зависит от физического шума в канале и приемнике (электрические помехи, описки, оговорки и тому подобные технические ошибки), от пропускной способности последнего. В этом смысле можно говорить, что при восприятии сообщение проходит физический фильтр. То, что прошло через него, можно считать синтаксической информацией.
Далее сообщение должно быть понято, усвоено получателем. Для этого оно должно пройти тезаурус. Тезаурус (лат. – сокровище) – словарь понятий, в котором фиксируются сами понятия и постоянные, независимые от контекста отношения между ними (правила, классификации и т.д.). Тезаурус играет роль семантического фильтра, отсеивающего семантический шум: отсутствие однозначного соответствия между знаком и объектом, между знаком и понятием, что не позволяет точно истолковать полученное сообщение; отсутствие в сообщении сведений, не содержащихся в тезаурусе получателя; отсутствие в тезаурусе получателя кода для расшифровки полученного сообщения и т. п. Сообщение, прошедшее семантический фильтр, т. е. принятое и включенное в тезаурус получателя – есть семантическая информация.
Содержание сообщения может быть принято, понято, но если он не настроен на его использование, то оно не доставит ему информации. Следовательно, содержание сообщения должно быть еще и оценено. Механизм оценки сообщений играет роль прагматического фильтра. Сведения, бесполезные для решения актуальных задач, отсеиваются как прагматический шум. Сообщение, прошедшее прагматический фильтр, т.е. сообщение, содержащее полезные сведения, – прагматическая информация.
Итак, под информацией следует понимать новые знания, принятые, понятые, и оцененные как полезные для решения тех или иных задач. Информация – это то, что доведено до получателя через тройной механизм восприятия.
Пример. Сигналы светофора для человека, не знакомого с правилами дорожного движения, несут синтаксическую информацию: он видит желтый, зеленый или красный цвет и только. Для знающего эти правила светофор несет семантическую информацию: он знает, что означает каждый сигнал. Для человека, собирающегося перейти улицу, светофор несет прагматическую информацию: человек строит свое поведение в зависимости от полученного сообщения (цвета сигнала).
Информацию можно измерить. Три аспекта рассмотрения информации – синтаксический, семантический, прагматический, – предопределяют три направления количественных исследований информации.
Получатель сообщения имеет определённое представление о возможных наступлениях некоторых событий. Эти представления в общем случае недостоверны и выражаются вероятностями, с которыми он ожидает то или иное событие.
Общая мера неопределённостей называется энтропией.
Поступающее сообщение полностью или частично снимает неопределённость, следовательно, количество информации в сообщении можно измерять тем, насколько понизилась энтропия системы, после получения сообщения. Поэтому за меру количества информации принимается та же энтропия, но с обратным знаком ‑ негэнтропия.
К. Шеннон предложил измерять количество информации, содержащейся в данном сообщении, как логарифм его вероятности, взятый с обратным знаком:
I (ai) = - logp(ai), (2)
где I(ai) – количество информации в событии (сообщении) ai;
р(ai) – вероятность получения сообщения ai.
Пример: многолетние наблюдения за погодой (А) показывают, что вероятность дождя 15 мая равна 0,4 (соответственно, вероятность его отсутствия = 0,6). Количество собственной информации, содержащейся в сообщении о том, что 15 мая идет дождь, I(a1) = - log 0,4 =1,32. В сообщении о том, что дождя нет - I(a2) = - log 0,6 =0,74. Чем более неожиданным (менее вероятным) является сообщение, тем больше информации оно содержит.
Понятие энтропии (от греч entropia — поворот, превращение) ввел немецкий физик-теоретик Р. Клаузиус в 1865 г. Энтропия обозначает меру деградации какой-либо системы.
Чтобы система не деградировала, необходимо внести в нее дополнительную информацию (негэнтропию).
Отсюда энтропия системы есть мера дезорганизации, а информация есть мера организованности. Всякий раз, когда в результате наблюдения система получает какую-либо информацию, энтропия этой системы уменьшается.
В приведенной выше формуле абсолютной негэнтропии Шеннона информация рассматривается как снятая, устраняемая неопределенность. Появление информации устраняет, уменьшает любую неопределенность. Однако информацию можно рассматривать не только как снятую неопределенность, а несколько шире. Например, в биологии информация – это, прежде всего совокупность реальных сигналов, отображающих качественное или количественное различие между какими-либо явлениями, предметами, процессами, структурами, свойствами. При таком подходе считают, что понятие информации неотделимо от понятия разнообразия. Природа информации заключается в разнообразии, а количество информации выражает количество разнообразия. Любой процесс, объект, явление при разных обстоятельствах может содержать различное количество информации. Это зависит от разнообразия, которое наблюдается в системе.
Множество, у которого все элементы различны, имеет максимальное количество разнообразия. Чем больше в системе разнообразия, тем больше неопределенность в поведении такой системы. Уменьшение разнообразия уменьшает неопределенность системы. Вероятность выбрать наугад данный элемент из множества с максимальным разнообразием равна единице, деленной на количество всех элементов множества 1/N. Количество информации в этом случае имеет максимальное значение.
Множество, у которого все элементы одинаковы, содержит минимальное количество разнообразия – всего один элемент. Количество информации в такой совокупности равно нулю. В множестве информация появляется только тогда, когда один элемент отличается от другого. Между минимальным и максимальным количеством разнообразия в множестве существует ряд промежуточных состояний, которые появляются в результате ограничения разнообразия.
Сообщение, уменьшающее неопределенность, содержит информацию, количество которой связывается с изменением возможных состояний (исходов):
I = log m – log n,
где I – количество информации в сообщении;
m - количество возможных событий (исходов испытания) до получения сообщения;
n - количество возможных событий (исходов испытания) после получения сообщения.
Пример: следствие располагает данными о 9 подозреваемых, среди которых 3 женщины и 6 мужчин. Проведение экспертизы позволило заключить, что подозреваемый – мужчина. Количество информации, доставленной экспертизой:
p(ai), (2)