Слайд 2Сначала разберемся с понятием «вероятность». Введем следующие понятия:
испытание - любой эксперимент;
единичное
испытание - испытание, в котором совершается одно действие с одним предметом
(например, подбрасывается монетка, или из корзины извлекается шар);
исходы испытаний - результаты испытания (например, при подбрасывании монеты выпал «орел», или из корзины извлекли белый шар);
множество исходов испытания - множество всех возможных исходов испытания;
случайное событие - событие, которое может произойти или не произойти (например, выигрыш билета в лотерее, извлечение карты определенной масти из колоды карт).
Слайд 3Вероятностью случайного события (p) называется отношение числа благоприятствующих событию исходов
(m) к общему числу исходов (n):
p=m/n
Заметим, что вероятность случайного события может изменяться от 0 до 1.
Слайд 4Пример:
В беспроигрышной лотерее разыгрывается 3 книги, 2 альбома, 10 наборов
маркеров, 10 блокнотов.
Какова вероятность выиграть книгу?
Решение.
Общее число исходов 2+3+10+10=25;
число благоприятствующих исходу событий равно 3. Вероятность выигрыша книги вычисляется по формуле: p=3/25=0,12.
Заметим, что во многих случаях события происходят с разной вероятностью, а значит формула N=2i не всегда применима.
Слайд 5Вероятностный подход предполагает, что возможные события имеют различные вероятности реализации.
В
этом случае, зная вероятность (p) событий, можно определить количество информации
(i) в сообщении о каждом из них из формулы:
2i=1/p
Слайд 6 Количество информации будет определяться по формуле Шеннона, предложенной им
в 1948 г. для различных вероятностных событий:
или
I=−(p1log2p1+p2log2p2+...+pNlog2pN),
где
I – количество
информации (бит);
N – количество возможных событий;
pi –вероятность i-го события.
Слайд 7
Качественная связь между вероятностью события и количеством
информации в сообщении состоит в следующем: чем меньше вероятность некоторого
события, тем больше информации содержит сообщение об этом событии.
Слайд 8
Пример:
В корзине лежат 8 черных шаров и 24 белых.
Сколько бит информации несет сообщение о том, что достали черный
шар?
Решение. Общее число исходов: 8+24=32, число благоприятствующих исходу событий равно 8.
Вероятность выбора черного шара определяется как p=8/32=1/4=0,25
Количество информации вычисляем из соотношения 2i=1/0,25=4,
значит, i=2 бита.
Слайд 9Задача .
В корзине лежат 20 шаров. Из них
10 черных, 5 белых, 4 желтых и 1 красный. Сколько
информации несет сообщение о том, что достали красный шар?
Слайд 10Решение
1) Найдем вероятность вытягивания шара красного цвета
рк=1/20=0,05
2) Найдем количество информации
i
= log2 (1/0,05)= log2 (20)=
Ответ: 4,321 ≈4,4
Слайд 11Задача 4.
В непрозрачном мешочке 10 белых,
20 красных, 30 синих и 40 зеленых шариков.
Какое количество информации будет содержать зрительное сообщение о цвете вынутого шарика?
Слайд 12Решение
1) Найдем общее количество шаров в мешочке
К=10+20+30+40=100
2) Найдем вероятность вытягивания шара
каждого цвета
рб=0,1
рк=0,2
рс=0,3
рз=0,4
3) Найдем количество информации
I=-(0,1 ·
log20,1+0,2 · log20,2+ 0,3 · log20,3+ 0,4 · log20,4)=
Ответ: 1,846 ≈1,85
Слайд 131.В ящике лежат 36 красных и несколько зеленых яблок. Сообщение
“Из ящика достали зеленое яблоко” несет 2 бита информации. Сколько
яблок в ящике?
2. В концертном зале 270 девушек и несколько юношей. Сообщение “Первым из зала выйдет юноша” содержит 4 бита информации. Сколько юношей в зале.
3. В корзине 15 яблок, 15 груш и 30 слив. Сколько бит информации несет сообщение о том, что из корзины извлечена груша?
4. В коробке лежат 16 разноцветных фломастеров. Какое количество информации содержит сообщение, что из коробки достали фиолетовый фломастер?
