Вероятностный подход к определению количества информации Учитель информатики МОУ СОШ 34 г.Комсомольск-на-Амуре Шаповалова Г.Г г.

СОБЫТИЯ имеют различные вероятности реализации равновероятны Формула Шеннона Расчет количества информации по Хартли p – вероятность события i – количество информации в сообщении о данном событии

Формула Шеннона где I – количество информации (бит); N – количество возможных событий; p –вероятность i -го события. p i –вероятность i -го события.

Задача 1. В классе 30 человек. За контрольную работу по математике получено 6 пятерок, 15 четверок, 8 троек и 1 двойка. Какое количество информации в сообщении о том, что Андреев получил пятерку? «5» «4» «5» «4»

Дано: N=30, K 5 =6, K 4 =15, K 3 =8, K 2 =1 Найти: i 5 -? Решение: р 5 =6/30=0,2 Найдем количество информации i= log 2 (1/0,2)= Ответ: 2,321 вероятность получения оценки «5»

Задача 2. (самостоятельно) В корзине лежат 20 шаров. Из них 10 черных, 5 белых, 4 желтых и 1 красный. Сколько информации несет сообщение о том, что достали красный шар?

Решение 1) Найдем вероятность вытягивания шара красного цвета р к =1/20=0,05 2) Найдем количество информации i = log 2 (1/0,05)= log 2 (20)= Ответ: 4,321 4,4

Задача 3. В озере обитает: окуней, пескарей, 6250 карасей, 6250 щук. Сколько информации мы получим, когда поймаем какую-нибудь рыбу?

Решение 1) Найдем общее количество рыб в озере К= = ) Найдем вероятность попадания на удочку каждого вида рыб р о =12500/50000=0,25 р к =25000/50000=0,5 р п =6250/50000=0,125 р щ =6250/50000=0,125 3) Найдем количество информации I= - (0,25 · log 2 0,25+0,5 · log 2 0,5+ 0,125 · log 2 0, ,125 · log 2 0,125) = - (0,25·(-2)+0,5 ·(-1)+2 · 0,125 ·(-3)) = = - (-0,5-0,5-0,75) = - (-1,75) = 1,75

Задача 4. (самостоятельно) В непрозрачном мешочке 10 белых, 20 красных, 30 синих и 40 зеленых шариков. Какое количество информации будет содержать зрительное сообщение о цвете вынутого шарика?

Решение 1) Найдем общее количество шаров в мешочке К= =100 2) Найдем вероятность вытягивания шара каждого цвета р б =0,1 р к =0,2 р с =0,3 р з =0,4 3) Найдем количество информации I=-(0,1 · log 2 0,1+0,2 · log 2 0,2+ 0,3 · log 2 0,3+ 0,4 · log 2 0,4)= Ответ: 1,846 1,85

Используемые источники О.А. Соколова Универсальные поурочные разработки по информатике 10 класс М.: «ВАКО», 2006 г.(В помощь школьному учителю) Н.Д.Угринович Информатика и информационные технологии. Учебник для классов М.: БИНОМ. Лаборатория знаний, 2010 г.