Измерение информации

Алфавитный подход к измерению информации позволяет определить количество информации, заключенной в тексте. Множество символов, используемых при записи текста, называется алфавитом. Полное количество символов в алфавите называется мощностью (размером) алфавита. (обознач.: N)

Примеры: В 2-х символьном алфавите каждый символ весит 1 бит. В 4-х символьном алфавите каждый символ весит 2 бита. В 256-ти символьном алфавите каждый символ весит 8 бит. Это записывается следующим образом:

Пусть в некотором сообщении содержатся сведения о том, что произошло одно из N равновероятных событий (ни одно из событий не имеет преимуществ перед другим). Тогда количество информации, заключенное в этом сообщении, - i бит и число N связаны формулой:

Пример: При бросании монеты сообщение о результате жребия (например, выпал орел) несет 1 бит информации. Кол-во возможных вариантов – 2 (орел или решка)

Понятия N – мощность алфавита (число знаков в алфавите – русский (33)) N=204 мощность алфавита который можно использовать на стандартной клавиатуре ЭВМ. i – информационный вес одного символа – количество бит в коде одного символа. Если i=8 бит – количество информации подсчитывается в битах. i=1 байту – количество информации подсчитывается в байтах.

Единицы измерения информации: 1байт=8бит 1 Кбайт=1024 байта 1 Мбайт= 1024Кбайта 1Гбайт=1024Мбайта