Подходы к измерению информации

ТЕМА 2. ИЗМЕРЕНИЕ ИНФОРМАЦИИ

Вопросы для самоконтроля

1. Как вы понимаете термин "информация"? Что общего и чем отличаются бытовое понятие этого термина и его научные трактовки?
2. Приведите примеры, подтверждающие наличие и общность информационных процессов в живой природе, обществе, технике.
3. В чем проявляется информационная деятельность человека?
4. Почему компьютер называют универсальным инструментом информационной деятельности?
5. В какой форме можно передать информацию от человека к человеку, от чего зависит выбор этой формы?
6. От чего зависит, будет ли информативным принимаемое вами сообщение? Перечислите основные свойства информации.
7. Что такое носитель информации, и какие требования к нему предъявляются?

При всем многообразии подходов к определению понятия информации, с позиций измерения информации нас интересуют два из них: определение К. Шеннона, применяемое в математической теории информации, и определение А. Н. Колмогорова, применяемое в отраслях информатики, связанных с использованием компьютеров (computer science).

В содержательном подходе возможна качественная оценка информации:

· новая,

· срочная,

· важная и т.д.

Согласно Шеннону, информативность сообщения характеризуется содержащейся в нем полезной информацией ― той частью сообщения, которая снимает полностью или уменьшает неопределенность какой-либо ситуации.

Неопределенность некоторого события ― это количество возможных исходов данного события. Так, например, неопределенность погоды на завтра обычно заключается в диапазоне температуры воздуха и возможности выпадения осадков.

Содержательный подход часто называют субъективным, так как разные люди (субъекты) информацию об одном и том же предмете оценивают по-разному. Но если число исходов не зависит от суждений людей (случай бросания кубика или монеты), то информация о наступлении одного из возможных исходов является объективной.

Алфавитный подход основан на том, что всякое сообщение можно закодировать с помощью конечной последовательности символов некоторого алфавита. С позиций computer science носителями информации являются любые последовательности символов, которые хранятся, передаются и обрабатываются с помощью компьютера. Согласно Колмогорову, информативность последовательности символов не зависит от содержания сообщения, а определяется минимально необходимым количеством символов для ее кодирования. Алфавитный подход является объективным, т.е. он не зависит от субъекта, воспринимающего сообщение. Смысл сообщения учитывается на этапе выбора алфавита кодирования либо не учитывается вообще. На первый взгляд определения Шеннона и Колмогорова кажутся разными, тем не менее, они хорошо согласуются при выборе единиц измерения.