Содержательный подход к измерению количества информации

Единица измерения информации называется бит. Определение. Сообщение, уменьшающее неопределенность знаний в два раза, несет 1 бит информации. Что такое «неопределенность знаний»? 1) Подбрасывание монеты: что выпадет: орел или решка? Неопределенность знаний о результате подбрасывания монеты равна двум. 2) Игральный кубик с шестью гранями может с равной вероятностью упасть на любую из них. Значит, неопределенность знаний о результате бросания кубика равна шести.

ВЫВОД Неопределенность знаний о некотором событии - это количество возможных результатов события (бросания монеты, кубика; вытаскивания жребия). Сообщение о том, что произошло одно событие из двух равновероятных, несет 1 бит информации.

А теперь такая задача: студент на экзамене может получить одну из четырех оценок: 5 - отлично, 4 - хорошо, 3 - удовлетворительно, 2 - неудовлетворительно. Неопределенность знаний в данном случае равна четырем. Сколько бит информации содержится в его ответе? - 2 бит.

Итак, сообщение о том, что произошло одно из четырех равновероятных событий несет 2 бита информации. Метод поиска, на каждом шаге которого отбрасывается половина вариантов, называется методом половинного деления.

Игра «Угадай число» Задумано целое число от 1 до 8. Сколько бит информации вы получите, угадав это число? = 3 бита

NI 21 бит 42 бита 83 бита

В общем случае, для определения количества информации можно доказать, что: Количество информации I, содержащееся в сообщении о том, что произошло одно из N равновероятных событий, определяется уравнением: 2 I = N.

1.На экзамене вы берете билет, и учитель сообщает, что информационное сообщение о его номере несет 5 битов информации. Сколько всего билетов? Решение задач

2. Вы управляете движением робота и можете задать направление его движения с помощью информационных сообщений: «север», «северо-восток», «восток», «юго- восток», «юг», «юго-запад», «запад» и «северо-запад». Какое количество информации будет получать робот после каждого сообщения? Решение задач

3. «Вы выходите на следующей остановке?» - спросили человека в автобусе. «Нет», - ответил он. Сколько информации содержит ответ? Ответ: 1 бит. Решение задач

4. Вы подошли к светофору, когда горел желтый свет. После этого загорелся зеленый. Какое количество информации вы при этом получили? Ответ: 1 бит. Решение задач

5. Вы подошли к светофору, когда горел красный свет. После этого загорелся желтый свет. Сколько информации вы при этом получили? Ответ: 0 бит. Решение задач

6. Была получена телеграмма: «Встречайте, вагон 7». Известно, что в составе поезда 16 вагонов. Какое количество информации было получено? Ответ: 4 бита. Решение задач

7. При угадывании целого числа в некотором диапазоне было получено 6 бит информации. Сколько чисел содержит этот диапазон? Ответ: 64 числа. Решение задач

8. Сообщение о том, что ваш друг живет на 10 этаже, несет 4 бита информации. Сколько этажей в доме? Ответ: 16 этажей. Решение задач Д/з. И. Семакин. Информатика и ИКТ 8, §1,1, стр.148