Как измерить информацию

Содержательный подход (субъективный) Сообщение информативно (содержит ненулевую информацию), если оно пополняет знания человека. Если сообщение для человека неинформативно, то количество информации в нем с точки зрения этого человека равно нулю. Количество информации в информативном сообщении больше нуля.

Алфавитный подход (объективный) Под алфавитом понимают упорядоченный конечный набор знаков, расположенных в строго определенной последовательности Полное число символов в алфавите принято называть мощностью алфавита (N) Например: Мощность алфавита из русских букв и дополнительных символов равна 54: 33 буквы + 10 цифр + 11 знаков препинания, скобки, пробел

Алфавитный подход (объективный) Если сообщение содержит символы, то оно информативно. Количество информации зависит от количества символов и от алфавита, из которого взяты эти символы Алфавит, используемый на компьютере имеет всего 2 символа: 0 и 1

Информационный вес каждого символа или количество информации ( i ) и мощность алфавита ( N ) связаны формулой: 2 = N Удобнее всего измерять информацию, когда размер алфавита N равен целой степени двойки, например, 2*2*2*2=16 i

Минимальная единица измерения информации 1 бит (binari digit) (0 или 1) Поскольку 256=2*2*2*2*2*2*2*2, т.е. N=256, i = 8, то один символ этого алфавита «весит» 8 бит. Это настолько характерная величина, что ей присвоили свое название байт. Т. о. 1 символ несет 1 байт информации, значит, посчитав количество символов в тексте, мы получим информационный объем текста, выраженный в байтах.

Единица измерения 1 байт - информационный вес символа из алфавита мощностью 2 = 256 символов 1 байт = 8 бит 8

Единицы измерения информации 1 байт = 8 бит 1 Кбайт (килобайт) = 1024 байта = 2 10 байт 1 Мбайт (мегабайт) = 1024 Кбайта = 2 20 байт 1 Гбайт (гигабайт) = 1024 Мбайта = 2 30 байт Каждая следующая единица больше предыдущей в 2 раз. 10

Новые единицы 1 терабайт (Тб) = 1024 Гбайт 1 эксабайт (Эб) = 10 Гбайта 9

Примеры: Страница книги 2,5 Кбайт Учебник 0,5 Мбайт Черно-белый телевизионный кадр 300 Кбайт Цветной кадр из 3 цветов – 1 Мбайт

Задача. Переведите: 16 бит = …байт 4 байта = …бит 2,5 байта = …бит 20 Кбайт = …байт 100 Кбайт = …байт 2 Мбайта = …Кбайт