Информация. Способы измерения информации

Подходы к измерению количества информации Содержательный подход Алфавитный подход

СОДЕРЖАТЕЛЬНЫЙ ПОДХОД к измерению информации заключается в том, что количество информации связывается с содержанием (смыслом) полученного человеком сообщения. Чем больше сообщение пополняет наши знания, тем больше в нем информации. Содержательный подход

Процесс познания окружающего мира приводит к накоплению информации в форме знаний. Получение новой информации приводит к расширению знаний или, как иногда говорят, к уменьшению неопределённости знания. Если некоторое сообщение приводит к уменьшению неопределённости нашего знания, то можно говорить, что такое сообщение содержит информацию. Например, после сдачи зачётной работы вы мучаетесь неопределённостью – зачёт или незачёт. Наконец, учитель объявляет результаты, и вы получаете одно из двух информационных сообщений: «зачёт» или «незачёт», которое приводит к уменьшению неопределённости вашего знания в два раза. А после контрольной работы одно из 4 информационных сообщений: «2», «3», «4», «5».

Количество информации – это мера уменьшения неопределённости знания при получении информационного сообщения. Данный подход к информации позволяет количественно измерять информацию.

Формула Хартли: N=2 I N - количество возможных информационных сообщений. I - количество информации, которое несёт полученное сообщение

Информация как мера неопределенности Количество информации = Начальная неопределенность знаний = Неопределенность уменьшилась в 2 1 бит 2 раза 1 бит – это количество информации, уменьшающее неопределенность знаний о чем-либо в два раза. Конечная неопределенность знаний = 1

Производные единицы: 1 байт = 8 бит =2 3 бит 1 килобайт= 1Кб =2 10 байт =1024 байта; 1 мегабайт=1Мб=2 20 байт =2 10 Кб =1024 Кб; 1 гигабайт =1Гб =2 30 байт =2 10 Мб =1024 Мб. 1 терабайт=1Тб= 2 40 байт =2 10 Гб =1024 Гб. 1 эксобайт=…

Наименование Обозна чение Значение в байтах килобайт 1 Кб 2 10 б б мегабайт 1 Мб 2 10 Kб = 2 20 б б гигабайт 1 Гб 2 10 Mб = 2 30 б б терабайт 1 Тб 2 10 Гб = 2 40 б б

Задача: Представьте себе, что вы управляете движением робота и можете задавать направление его движения с помощью информационных сообщений: «север», «северо-восток», «восток», «юго-восток», «юг», «юго-запад», «запад», «северо- запад». Какое количество информации будет получать робот после каждого сообщения? Решение: Всего возможных информационных сообщений N=8, поэтому, применяя формулу N=2 I получаем уравнение относительно I: 8 = 2 I. Зная, что 8=2 3, получаем 2 3 =2 I. Равенства левой и правой частей уравнения справедливо, если равны показатели степени числа 2. таким образом, I = 3 бита, т.е. количество информации, которое несёт роботу каждое информационное сообщение, равно 3 битам.

Для решения задач будем использовать таблицу значений степени n с основанием 2. n n2n

Задачи На светофоре горит желтый свет. После этого загорелся зелёный. Какое количество информации Вы получили? Вам пришла телеграмма «Встречайте завтра. Поезд 32. Вагон 7». Какое количество информации Вы получили, если в этот город приходят 4 поезда, а в каждом поезде по 16 вагонов. Подсказка: N = 2 I N = 2 I = 1 бит N 2 = 16 I 2 = 4 бит N 1 = 4 I 1 = 2 бит I = I 1 +I 2 = 6 бит

Задачи 1. «Вы выходите на следующей остановке?» – спросили человека в автобусе. «Нет», – ответил он. Сколько информации содержит ответ? (1 бит). 2. В корзине лежит 8 шаров. Все шары разного цвета. Сколько информации несёт сообщение о том, что из корзины достали красный шар? (3 бита). 3. Была получена телеграмма: «Встречайте, вагон 11». Известно, что в составе поезда 16 вагонов. Какое количество информации было получено? (4 бита). 4. В школьной библиотеке 16 стеллажей с книгами. На каждом стеллаже 8 полок. Библиотекарь сообщил Пете, что нужная ему книга находится на пятом стеллаже на третьей сверху полке. Какое количество информации библиотекарь передал Пете? (7 битов).

Игра «Угадай число?» Ваш друг загадал число от 1 до 32. Задайте ему минимальное число вопросов, чтобы отгадать это число N 1 = 32 I 1 = 5 бит

Поход в гости Однажды Вася решил пойти к своему другу Коле в гости. Но забыл номер квартиры. В подъезде 8 этажей по 4 квартиры на этаже. На вопросы друзьям он получил следующие ответы: 1. Коля живет выше 4 этажа. 2. Номер его квартиры нечетный. 3. Номер квартиры заканчивается на 1. Какое количество информации получил Вася в каждом случае? Достаточно ли этой информации для определения номера квартиры? I 1 =1 бит I 2 =1 бит I 3 =3 бит

Домашнее задание: В колоде 32 карты. Определите количество информации, содержащейся в сообщениях: a) «Из колоды вытащили карту красной масти» b) «Из колоды вытащили карту масти пики» c) «Из колоды вытащили туза» d) «Из колоды вытащили червового короля»

Век живи – век учись. Век живи – век учись.