Подходы к определению количества информации СОДЕРЖАТЕЛЬНЫЙ АЛФАВИТНЫЙ Количество символов в сообщении + вес одного символа Смысл сообщения
Тема: Содержательный подход.
Информация - это сообщение, которое приводит к уменьшению неопределённости знаний. Информация - это сообщение, которое приводит к уменьшению неопределённости знаний С точки зрения теории информации:
1 бит Сообщение, уменьшающее неопределенность знаний в два раза, несет 1 бит информации.
Поиграем: Загадайте целое число в диапазоне от 1 до 8. Я отгадаю его с трёх попыток. Загадайте целое число в диапазоне от 1 до 16. Я отгадаю его с четырёх попыток. Каждый раз я задавал вопрос, который уменьшал неопределённость в 2 раза.
Формула вычисления количества информации N=2 I N - возможное количество равновероятных событий I - количество информации в сообщении о том, что произошло одно из N событий Сообщение о загаданном числе в диапазоне от 1 до 8 несёт в себе 3 бита информации, т.к. 8=2 3. Сообщение о загаданном числе в диапазоне от 1 до 16 несёт в себе 4 бита информации, т.к. 16=2 4.
Домашнее задание § § Задание 1.6 Задание 1.6
Сообщение, уменьшающее неопределенность знаний в два раза, несет 1 бит информации. Формула вычисления количества информации: Формула вычисления количества информации: 2 I = N N - возможное количество равновероятных событий I - количество информации в сообщении о том, что произошло одно из N событий Самое главное!