Содержательный подход. 10 класс Вельдяева О. С., МОУ ЛСОШ 1

Можно ли измерить количество вещества ? Можно ли определить количество энергии ? Можно ли измерить количество информации ? Вельдяева О. С., МОУ ЛСОШ 1

Количество информации о системе, полученное в сообщении, измеряется уменьшением неопределенности о состоянии системы. Меру неопределенности в теории информации называют энтропия. Неопределенность не отделима от понятия вероятности. Вельдяева О. С., МОУ ЛСОШ 1

Чем меньше вероятность события, тем больше информации несет сообщение о его появлении. Если вероятность события равна 1 ( достоверное событие ), количество информации в сообщении о его появлении равно 0. Вельдяева О. С., МОУ ЛСОШ 1

Клод Шеннон Вельдяева О. С., МОУ ЛСОШ 1

Чему равно количество событий, которые могут произойти при вытягивании билета ? Эти события равновероятны ? Чему равна неопределенность знаний ученика перед тем, как он вытянет билет ? Во сколько раз уменьшится неопределенность знания после того, как он вытянул билет ? Зависит ли этот показатель от номера вытянутого билета ? Вельдяева О. С., МОУ ЛСОШ 1

- это априорная информация о системе, утверждающая, что система может находиться в одном из 2 х состояний. После получения любого сообщения из : конкурс выиграл B V д =17 символов B стал победителем V д =18 символов A проиграл V д = 10 символов неопределенность снизилась до 1 варианта из 2- х изначально возможных. Чему равно количество информации, которое несет это сообщение ? Для синтаксической оценки количества информации не важно в каком именно состоянии находится система, важно только возможное количество состояний системы и их априорные вероятности. Вельдяева О. С., МОУ ЛСОШ 1

где I – количество информации ( бит ); N – число возможных состояний системы ; p(i) – априорная вероятность каждого состояния системы. Вельдяева О. С., МОУ ЛСОШ 1

Частный случай формулы Шеннона для равновероятных событий где I – количество информации, бит N – число возможных состояний системы Вельдяева О. С., МОУ ЛСОШ 1

Размер текстового файла (V д ) 640 Kb. Файл содержит книгу, которая набрана в среднем по 32 строки на странице и по 64 символа в строке. Сколько страниц в книге : 160, 320, 540, 640, 1280 ?I= N= Символов на 1 стр. = 32*64 = 2 5 *2 6 = Всего = 640Kb = 10*64*2 10 b = 10*2 6 *2 10 b = 10*2 16 b 4. Кол-во стр. = 10*2 16 b / 2 11 b = 10*2 5 = страница страница страница страница страница 1 символ = 1b 2. Памяти на 1 стр. = 2 11 b Вельдяева О. С., МОУ ЛСОШ 1

Когда сообщают прогноз погоды, то сведения о том, что будет дождь, более вероятно летом, а сообщение о снеге – зимой. Если вы – лучший ученик в классе, то вероятность сообщения о том, что за контрольную вы получили 5, больше, чем вероятность получения двойки. Если на озере живет 500 уток и 100 гусей, то вероятность подстрелить на охоте утку больше, чем вероятность подстрелить гуся. Вельдяева О. С., МОУ ЛСОШ 1

Общая сумма информации, собранной во всех библиотеках мира, оценивается как Самая высокая известная нам плотность информации в молекулах ДНК Самая высокая известная нам плотность информации в молекулах ДНК Если бы вся эта информация была записана в молекуле ДНК, для нее хватило бы одного процента объема булавочной головки. Как носитель информации, молекула ДНК эффективней современных кварцевых мегачипов в 45 миллионов миллионов раз. Если бы вся эта информация была записана в молекуле ДНК, для нее хватило бы одного процента объема булавочной головки. Как носитель информации, молекула ДНК эффективней современных кварцевых мегачипов в 45 миллионов миллионов раз. Вельдяева О. С., МОУ ЛСОШ 1