Содержательный способ определения количества информации

Подбрасывают монетку. Она может упасть орлом или решкой. Задание Какое количество информации в сообщении о том, что выпал «орел»?

Перед броском существует неопределенность нашего знания, и как упадет монета – предсказать невозможно: с равной вероятностью произойдет одно из двух возможных событий – монета окажется в одном из двух положений: «орел» или «решка». После броска наступает полная определенность, так как мы видим (получаем зрительное сообщение), что монета в данный момент находится в определенном положении (например, «орел»). Это сообщение приводит к уменьшению неопределенности нашего знания в 2 раза, т.к. из двух возможных равновероятных событий реализовалось одно.

Сообщение, уменьшающее неопределенность знаний в два раза, несет 1 бит информации.

Одинаковое количество информации содержится и в зрительном сообщении, и в коротком звуковом сообщении, и в длинной фразе. Одинаковое количество информации содержится в сообщении, что выпал «орел» и в сообщении, что выпала «решка».

Определение количества информации с точки зрения содержания сообщения

Способ определения количества информации в сообщении, в котором количество информации зависит от содержания сообщения называется содержательным

2 i = N Определение количества информации содержательным способом N - количество возможных событий (или неопределенность знаний) i - количество информации в сообщении о том, что произошло одно из N событий.

Загадали число в диапазоне от 1 до 8. Какое количество информации в сообщении о том, какое число загадано? Задание 2 Сколько информации i несет сообщение о том, что загадано одно любое число от 1 до 8? Решение: N - количество возможных исходов (числа от 1 до 8, всего 8) 2 i = N 2 i = 8 i = 3 бит

Сколько информации i несет сообщение о том, что загадано одно любое число от 1 до 8? Решение: N - количество возможных исходов (числа от 1 до 8, всего 8) 2 i = N 2 i = 8 i = 3 бит

Дано:Формула:Решение: Оформление решения: Ответ: 3 бит N = 8 2 i = N2 i = 8 2 i = 2 3 i = 3 бит i - ?i - ?

1. § Решить письменно задачи: Домашнее задание 5 1)«Вы выходите на следующей остановке?» - спросили человека в автобусе. «Нет», - ответил он. Сколько информации содержит ответ. 2)В корзине лежат 8 разноцветных шаров. Сколько информации несет сообщение о том, что из корзины достали красный шар? 3)Была получена телефонограмма: «Встречайте, вагон 7». Известно, что в составе поезда 16 вагонов. Какое количество информации было получено? 4)При угадывании целого числа в некотором диапазоне было получено 6 бит информации. Сколько чисел содержит диапазон? 5)Для записи информационного сообщения используется 25- символьный алфавит. Сколько бит информации несет 1 символ этого алфавита?