СОБЫТИЯ имеют различные вероятности реализации равновероятные Формула Шеннона m – число благоприятствующих событию исходов n - общее число исходов p – вероятность события i – количество информации в сообщении о данном событии

В корзине лежат 20 шаров. Из них 10 черных, 5 белых, 4 желтых и 1 красный. Сколько информации несет сообщение о том, что достали красный шар?

1) Найдем вероятность вытягивания шара красного цветарк=1/20=0,052) Найдем количество информацииi = log2 (1/0,05)= log2 (20)=4,321Ответ: 4,321 4,4

В озере обитает: окуней, пескарей, 6250 карасей, 6250 щук. Сколько информации мы получим, когда поймаем какую-нибудь рыбу?

1) Найдем общее количество рыб в озереК= =500002) Найдем вероятность попадания на удочку каждого вида ребро=12500/50000=0,25 рк=25000/50000=0,5 рп=6250/50000=0,125 рщ=6250/50000=0,1253) Найдем количество информации I= - (0,25 · log20,25+0,5 · log20,5+ 0,125 · log 2 0,125 +0,125 · log 2 0,125) = - (0,25·(-2)+0,5 ·(-1)+2 · 0,125 ·(-3)) = - (-0,5-0,5-0,75) = - (-1,75) = 1,75