СОДЕРЖАТЕЛЬНЫЙ ПОДХОД К ИЗМЕРЕНИЮ ИНФОРМАЦИИ Сообщение о том, что произошло одно событие из двух равновероятных (неопределенность знания уменьшилась в два раза), несет 1 бит информации. СОДЕРЖАТЕЛЬНЫЙ ПОДХОД к измерению информации заключается в том, что количество информации связывается с содержанием (смыслом) полученного человеком сообщения. Количество информации, заключенное в сообщении, тем больше, чем более оно пополняет наши знания (уменьшает неопределенность наших знаний). 8 цветных шаров в корзине – 8 равновероятных событий Неопределенность знания о том, что из корзины может быть извлечен шар красного цвета, равна 8.

МЕТОД БИНАРНОГО ПОИСКА Игра, использующая метод бинарного поиска Правила игры: Требуется угадать задуманное число из данного диапазона целых чисел. Игрок, отгадывающий число, задает вопросы, на которые можно ответить только «да» или «нет». Если каждый ответ отсекает половину вариантов (уменьшает выбор в 2 раза), то он несет 1 бит информации. Тогда общее количество информации (в битах), полученной при угадывании числа, равно количеству заданных вопросов. Требуется угадать задуманное число из диапазона чисел от 1 до 8 вопросаВопросыданет 1Число меньше 5 ? 2Число меньше 7 ? 3Это число равно 5 ? 8 вариантов возможных событий 3 вопроса 3 бита информации

КОЛИЧЕСТВО ИНФОРМАЦИИ В СООБЩЕНИИ Задача 1. При угадывании целого числа в диапазоне от 1 до N было получено 6 бит информации. Чему равно N ? Решение задачи 1. Значение N определяется из формулы N = 2 i. После подстановки значения i = 6 получаем: N = 2 6 = 64. Задача 2. В корзине лежат 16 шаров разного цвета. Сколько информации несет сообщение о том, что из корзины достали красный шар ? Решение задачи 2: Вытаскивание из корзины любого из 16 шаров – события равновероятные. Поэтому для решения задачи применима формула 2 i = N. Здесь N = 16 – число шаров. Решая уравнение 2 I =16 получаем ответ: i = 4 бита 2 i = N N i Количество равновероятных возможных событий Количество информации в сообщении о том, что произошло одно из N равновероятных событий.

ПОКАЗАТЕЛЬНОЕ УРАВНЕНИЕ NiNiNiNi N i Определение количества информации, содержащейся в сообщении о том, что произошло одно из N равновероятных событий N i Определение количества равновероятных событий N, если известно, сколько информации человек получил в сообщении о том, что произошло одно из этих событий. 2 i = N