СОДЕРЖАТЕЛЬНЫЙ ПОДХОД К ИЗМЕРЕНИЮ ИНФОРМАЦИИ

Человек получает информацию из окружающего мира, анализирует её и выявляет существенные закономерности с помощью мышления, хранит информацию в памяти – это приводит к накоплению информации в форме знаний.

Процесс познания можно наглядно изобразить в виде расширяющегося круга знаний. ЗНАНИЯ Граница незнания Длина окружности является мерой незнания.

Я ЗНАЮ, ЧТО НИЧЕГО НЕ ЗНАЮ Сократ Чем большим объёмом знаний обладает человек, тем больше он ощущает недостаток знаний. ПАРАДОКС: Границы незнания

Для количественного выражения любой величины необходимо определить единицу измерения. Минимальной единицей измерения количества информации является бит. 1 байт = 8 бит 1 Кб = 1024 байта 1 Мб = 1024 Кбайта 1 Гб = 1024 Мбайта

Существует два подхода к измерению информации ПОДХОД СОДЕРЖАТЕЛЬНЫЙАЛФАВИТНЫЙ (количество информации, заключенное в сообщении, связано с тем, насколько это сообщение уменьшает неопределённость знаний принимающего его человека) (количество информации зависит от объёма текста, то есть от числа знаков в тексте, и от мощности алфавита)

Сообщение несёт информацию для человека, если содержащиеся в нём сведения являются для него новыми и понятными. Неопределённость знания о результате некоторого события – это число возможных вариантов результата. Например: подбрасывание монеты (неопределённость знания равно 2, т.к. две стороны у монеты) события, которые могут произойти равновероятны.

События равновероятны, если ни одно из них не изменяет преимущества перед другим. Сообщение, уменьшающее неопределенность знания в два раза, несёт 1 бит информации. N = 2 i N – число вариантов равновероятных событий; i – количество информации в сообщении о том, что произошло одно событие из числа равновероятных. Формула Хартли