С позиции содержательного подхода к измерению информации решается вопрос о количестве информации в сообщении, получаемом человеком. Рассматривается следующая ситуация:

Формула, используемая для вычисления количества информации, зависит от ситуаций, которых может быть две: 1. Все возможные варианты события равновероятны. Их число конечно и равно N. 2. Вероятности (p) возможных вариантов события разные и они заранее известны: {p i }, i = 1..N. Здесь по- прежнему N число возможных вариантов события.

2 i = N 1 бит это количество информации в сообщении об одном из двух равновероятных событий.

Рассмотрим несколько примеров: Пример 1. Сколько информации содержит сообщение о том, что из колоды карт достали даму пик? Решение: В колоде 32 карты. В перемешанной колоде выпадение любой карты равновероятные события. Если i количество информации в сообщении о том, что выпала конкретная карта (например, дама пик), то из уравнения Хартли: 2 i = 32 = 2 5 Отсюда: i = 5 бит.

Алфавитный подход

В технике под информацией понимают сообщения, передаваемые в форме знаков или сигналов. Сигналы могут быть записаны с помощью определенного алфавита. В этом случае не обращают внимания на смысл сообщения, а рассматривают алфавит, используемый для записи сообщений. 01

Алфавит это набор используемых в языке символов. Алфавит, содержащий всего два символа, называется двоичным алфавитом или двоичным кодом. Примеры двоичных алфавитов: + – 0 1 Да Нет 1 бит информационный вес символа двоичного алфавита (bit binary digit).

, где N мощность алфавита количество символов в алфавите. i информационный вес символа количество информации, которое несет один символ. Минимальная мощность алфавита, пригодного для передачи информации, равна двум. Докажите это. N = 2 i

Таблица зависимости мощности алфавита от информационного веса символа i (бит), Информа- ционный вес символа Символы алфавита N, Мощность алфавита = = = …… … … = 2 8

С увеличением мощности алфавита увеличивается информационный вес символа. При записи чисел с помощью двоичного алфавита, информационный вес символа равен количеству разрядов, используемых для записи одного символа. Для представления текстов в компьютере используется 256 символов, т.е. информационный вес одного символа равен восьми битам или одному байту.

Количество информации, которое содержит сообщение, закодированное с помощью знаковой системы, можно определить по формуле:, где I количество информации в сообщении, к количество знаков, i информационный вес знака (символа). I = к i

Скорость передачи информации – количество переданной информации в единицу времени., где V скорость передачи информации, I количество информации в сообщении, t время, затраченное на передачу сообщения. Единицей измерения скорости передачи информации является бит в секунду. v = I t

Задачи Задача 7 В каком алфавите, русском или английском, одна буква несет больше информации? Задача 8 Алфавит племени Мульти состоит из 8 букв. Какое количество информации несет одна буква этого алфавита?

Задача 9 (записать в тетрадь) Текст, набранный на компьютере, занимает пять страниц. На каждой странице размещается 30 строк по 70 символов в строке. Какой объем оперативной памяти занимает этот текст? Поместится ли текст на дискету? Задача 10 (записать в тетрадь) Скорость модема 1200 бит/с. Сколько времени будет передаваться картинка размером 300 байт?

Задача 11 Какое количество информации получит при игре в шахматы играющий черными после первого хода белых (при условии, что ходить конями запрещено), а все остальные ходы равновероятны? Задача 12 Какое количество информации получит играющий черными шахматист после первого хода белых (при условии, что ходить пешками запрещено)? Задача 13 Происходит выбор одной карты из колоды в 32 карты. Какое количество информации мы получаем в зрительном сообщении о выборе дамы червей?

Домашнее задание Задача 14 В коробке 16 черных, 16 белых, 16 желтых и 16 зеленых носков. Какое количество информации содержится в сообщении о выборе одного из них? Задача 15 Книга, набранная на компьютере, содержит 150 страниц по 40 строк, на строке по 60 символов. Каков информационный объем книги? Сколько книг такого объема можно записать на дискету и на CD диск емкостью 640 Мбайт?