ИЗМЕРЕНИЕ ИНФОРМАЦИИ. СОДЕРЖАТЕЛЬНЫЙ ПОДХОД ИНФОРМАЦИЯ

Неопределённость знания и количество информации Другой подход к измерению информации, который называют содержательным подходом. В этом случае количество инфор­мации связывается с содержанием (смыслом) полученного человеком со­ общения. В теории информации для бита дается следующее определение: Более строгое определение равновероятности: если увеличивать количество броса­ний монеты (100, 1000, и т. д.), то число выпадений орла и число выпадений решки будут все ближе к половине количества бросаний монеты. Неопределенность знания о результате некоторого события (броса­ ние монеты или игрального кубика, вытаскивание жребия и др.) это количество возможных результатов. Сообщение об одном из двух равновероятных результатов некоторо­го события несет 1 бит информации. Сообщение, уменьшающее неопределенность знания в два раза, не­сет 1 бит информации.

Главная формула информатики Буквой i будем обо­значать количество информации в сообщении об одном из N результатов. В примере с монетой:N = 2, i = 1 бит. В примере с оценками:N = 4, i = 2 бита. В примере со стеллажом: N = 8, i = 3 бита. Нетрудно заметить, что связь между этими величинами выражается следующей формулой: 2' = N. Действительно: 2 1 = 2; 2 2 = 4; 2 3 = 8. С полученной формулой вы уже знакомы из базового курса информати­ки, и еще не однажды мы с ней встретимся. Значение этой формулы столь велико, что мы назвали ее главной формулой информатики. Количество информации (i), содержащееся в сообщении об одном из N равновероятных результатов некоторого событий, определяется из решения показательного уравнения: 2' = N.

Система основных понятий Измерение информации – содержательный подход Измеряется количество информации в сообщении о результате некоторого события Равновероятные результаты: никакой результат не имеет преимущества перед другими Неопределенность знания число возможных результатов (вариантов сообщения) N Количество информации в сообщении об одном результате события i битов Главная формула информатики: 2' = N Частный случай: два равновероятных результата события N=2i = 1 бит 1 бит количество информации в сообщении об одном из двух равновероятных результатов некоторого события

Вопросы и задания 1. Что такое неопределенность знания о результате какого-либо события? Приве­дите примеры, когда неопределенность знания можно выразить количественно. 2. Как определяется единица измерения количества информации? 3. В каких случаях и по какой формуле можно вычислить количество информа­ции, содержащейся в сообщении, используя содержательный подход? 4. Сколько битов информации несет сообщение о том, что из колоды в 32 карты достали «даму пик»? 5. Проводятся две лотереи: «4 из 32» и «5 из 64». Сообщение о результатах какой из лотерей несет больше информации и во сколько раз?