Формула ШЕННОНА Мясникова О.К.. Формула Шеннона где I количество информации; N –– количество возможных событий; р i вероятность i-го события. - презентация

1 Формула ШЕННОНА Мясникова О.К.

2 Формула Шеннона где I количество информации; N –– количество возможных событий; р i вероятность i-го события.

3 Например, пусть при бросании несимметричной четырехгранной пирамидки вероятности отдельных событий будут равны: P1 =1/2, P2 =1/4, P3 =1/8, P4 =1/8. Тогда количество информации, которое мы получим после реализации одного из них, можно рассчитать по формуле: I= - (1/2·1оg 2 1/2 +1/4·1оg 2 1/4 +1/8·1оg 2 1/8 +1/8·1оg 2 1/8 = (1/2 + 2/4 + 3/8 + 3/8) битов = 14/8 б = 1,75 бита.

4 Этот подход к определению количества информации называется вероятностным. Для частного, но широко распространенного случая, когда события равновероятны (рi =1/N), величину количества информации I можно рассчитать по формуле: По формуле можно определить, например, количество информации, которое мы получим при бросании симметричной и однородной четырехгранной пирамидки: I= 1оg 2 4 = 2 бита.

5 ВЫВОД: Количество информации, которое мы получаем, достигает максимального значения, если события равновероятны. Количество информации, которое мы получаем, достигает максимального значения, если события равновероятны.

6 Информационная модель игры «Угадай число» Вопрос 2 участника Ответ 1 участника Неопределенн ость знаний Полученное количество информации 16 Число больше 8? Нет8 1 бит Число больше 4? Нет4 1 бит Число больше 2? Да2 1 бит Число 3? Да1 1 бит

7 ЗАДАНИЯ 2.3. Вычислить с помощью электронного калькулятора количество информации, которое будет получено: при бросании симметричного шестигранного кубика; при игре в рулетку с 72 секторами; при игре в шахматы игроком за черных после первого хода белых, если считать все ходы равновероятными; «.при игре в шашки Вероятность первого события составляет 0,5, а второго и третьего 0,25. Какое количество информации мы получим после реализации одного из них? 2.5. Какое количество информации получит второй игрок в игре «Угадай число» при оптимальной стратегии, если первый игрок загадал число: от 1 до 64? От 1 до 128?