Раздел 2. Информация и информационные процессы Глава 1. Информация, ее представление и измерение

§ 1. Подходы к понятиям информация и измерению информации 1.Определение информации. 2.Свойства информации и классификация информации. 3.Алфавитный подход к измерению информации. 4.Содержательный подход к измерению информации. План

3. Алфавитный подход к измерению информации

Компьютер работает от электрической сети в которой может быть реализована система, основанная на 2-х состояниях: Есть ток – нет тока Есть напряжение – нет напряжения На этом и базируется работа ЦП 0 – нет тока, «ложь» 1 – есть ток, «истина»

0 или 1 = 1 бит информации Вопрос: Хватит ли 0 и 1, чтобы закодировать все символы, которые мы вводим в компьютер с клавиатуры?

Для кодировки текстовой информации одним из первых стандартов был код КОИ-8 (код обмена информацией 8-битный) Эта кодировка применяется в современных компьютерах с операционной системой UNIX

Одному символу присваивается код из 8 двоичных разрядов М русская большая – М латинская большая –

Для 8 бит существует 256 комбинаций (2 8 ) от до

Для каждой цифры, буквы, символа, а так же пробела существует своя комбинация из 8 бит

Единицы измерения количества информации 8 бит = 1 байт 1 Кбайт = 2 10 байт = 1024 байт 1 Мбайт = 2 10 Кбайт = байт = байт 1 Гбайт = 2 10 Мбайт = байт 1 млрд. байт 1 Tбайт = 2 10 Гбайт = байт

Физический объем информации - это число символов в сообщении, содержащем информацию, умноженное на информационную емкость одного символа

Физический объем информации определяет объем памяти компьютера или дискового пространства, необходимый для ее хранения

Задание: Посчитайте количество бит и байт в следующих выражениях: Мир Миру мир! Vile, vide, vice 3 байта = 24 бит 9 байт = 72 бит 16 байт =128 бит

Алфавитный подход позволяет определить количество информации в тексте, отвлекаясь от содержания информации, воспринимая ее как последовательность знаков. Алфавит – множество символов, используемых для записи текста. Мощность алфавита – полное количество символов в алфавите. Если допустить, что все символы алфавита встречаются в тексте с одинаковой частотой (равновероятно), то для определения количества информации можно воспользоваться формулой: N = 2 I Вывод

Для русского алфавита (без буквы ё): Мощность алфавита (количество равновероятных событий N) = 32, тогда количество информации I, которое несет каждый символ, вычисляется по формуле: 32 = 2 I и равно 5 бит. Какое количество информации несет один символ алфавита мощностью 2, 4, 8, 16, 256 символов?

Алфавит из 256 символов используется для представления текстов в компьютере. Пусть К – количество символов в тексте, i – информационный «вес» одного символа. Тогда при алфавитном подходе размер информации, содержащейся в тексте I, вычисляется по формуле: I = К · i

1. Книга, набранная с помощью компьютера, содержит 150 страниц. На каждой странице – 40 строк, в каждой строке – 60 символов. Какой объем информации в книге? 2. Алфавит племени Мульти состоит из 8 букв. Какое количество информации несет одна буква этого алфавита? 3. Сообщение, записанное буквами из 64-х символьного алфавита, содержит 20 символов. Какой объем информации оно несет? 4. Информационное сообщение объемом 1,5 Кбайта содержит 3072 символа. Сколько символов содержит алфавит, при помощи которого записано это сообщение? РЕШЕНИЕ ЗАДАЧ

5. Объем сообщения, содержащего 2048 символов, составил 1/512 часть Мбайта. Каков размер алфавита, с помощью которого записано сообщение? 6. Сколько символов составляет сообщение, записанное с помощью 16-ти символьного алфавита, если объем его составил 1/16 часть Мбайта? 7. Сколько килобайтов составит сообщение из 384 символов 16- ти символьного алфавита? 8. Сообщение занимает 3 страницы по 25 строк. В каждой строке записано по 60 символов. Сколько символов в этом алфавите, если все сообщение содержит 1125 байт?

9. Для записи сообщения использовался 64-х символьный алфавит. Каждая страница содержит 30 строк. Все сообщение содержит 8775 байт информации и занимает 6 страниц. Сколько символов в строке? 10. Сообщение занимает 2 страницы и содержит 1/16 Кбайт информации. На каждой странице записано 256 символов. Какова мощность алфавита? 11. Пользователь компьютера, хорошо владеющий навыками ввода информации с клавиатуры, может вводить в минуту 100 знаков. Мощность алфавита, используемого в компьютере, равна 256. Какое количество информации в байтах может ввести пользователь за 1 минуту. 12. Скорость чтения ученика 10 класса составляет приблизительно 250 символов в минуту. Приняв мощность используемого алфавита за 64, определите, какой объем информации в килобайтах получит ученик, если он будет непрерывно читать в течение 40 минут.

4. Содержательный подход к измерению информации

Неопределенность знаний о некотором событии – это количество возможных результатов события. Сообщение, уменьшающее неопределенность в 2 раза, несет 1 бит информации.

Пример Информация, которую получает человек, приводит к уменьшению неопределенности знаний Сообщение о результате приводит в уменьшению неопределенности наших знаний в 2 раза. Возможные события. Они равновероятны Произошедшее событие

Количество информации i, содержащейся в сообщении о том, что произошло одно из равновероятных событий, определяется из решения показательного уравнения: Формула Р.Хартли 2 i =N или I=log 2 N где N – количество возможных событий, I – количество информации

Для событий с различными вероятностями (формула Шеннона): где N – количество возможных событий, I – количество информации, p i – вероятность i-го события

РЕШЕНИЕ ЗАДАЧ Какое количество информации несет в себе сообщение о том, что нужная вам программа находится на одной из восьми дискет? N = 2 I 8 = 2 I Ответ: 3 бита

РЕШЕНИЕ ЗАДАЧ Какое количество информации получит второй игрок при игре в крестики-нолики на поле 8х8 после первого хода первого игрока, играющего крестиками? N = 2 I 64 = 2 I Ответ: 6 бит

Сообщение о том, что ваш друг живет на десятом этаже несет в себе 4 бита информации. Сколько этажей в доме? N = 2 I N = 2 4 Ответ: 16 РЕШЕНИЕ ЗАДАЧ

1. В рулетке общее количество лунок равно 128. Какое количество информации мы получим при остановке шарика в одной из лунок? 2. Происходит выбор одной карты из колоды в 32 карты. Какое количество информации мы получим при выборе одной карты? 3. Сообщение о том, что Пети живет во втором подъезде, несет 3 бита информации. Сколько подъездов в доме? 4. В школьной библиотеке 16 стеллажей с книгами. На каждом стеллаже 8 полок. Библиотекарь сообщил Пете, что нужная ему книга находится на пятом стеллаже на третьей сверху полке. Какое количество информации передал библиотекарь Пете?

РЕШЕНИЕ ЗАДАЧ 5. При угадывании целого числа в диапазоне от 1 до N было получено 7 бит информации. Чему равно N? 6. При угадывании целого числа в некотором диапазоне было получено 6 бит информации. Сколько чисел содержит этот диапазон?