N = 2i
64 = 2i, i = 6 бит.
Дано:
N=64
I-?
К=100
I=25*22*3*21
=75*23 бит
=75 байт
N = 2i
16 = 2i, i = 4 бит.
Дано:
N=16
К-?
I=1/16 Mбайт
=131072
=217
Задача 10
Решение:
I=K*i
Ответ: Мощность используемого алфавита 2 символа.
Дано:
I=1/16 Кбайт
N-?
К=2*256
=1,
=20
N=21
=2
Урок 7
Тема 3 «Измерение информации»
2) в результате получения сообщения неопределенность знания снимается: из некоторого возможного количества вариантов оказался выбранным один;
3) по формуле вычисляется количество информации в полученном сообщении, выраженное в битах.
2. Вероятности (p) возможных вариантов события разные и они заранее известны:
{pi}, i = 1..N.
Здесь по-прежнему N — число возможных вариантов события.
Равновероятные события
1 бит — это количество информации в сообщении об одном из двух равновероятных событий.
Формула Хартли — это показательное уравнение. Если i — неизвестная величина, то решением данного уравнения будет:
i = log2N
Данные формулы тождественны друг другу.
1. В колоде 32 карты.
2. В перемешанной колоде выпадение любой карты — равновероятные события.
3. Если i — количество информации в сообщении о том, что выпала конкретная карта (например, дама пик), то из уравнения Хартли:
32 = 25
i = 5 бит.
Дано:
N=32
i-?
Решение:
2i = 6,
Ответ: Сообщение содержит
2,58 бита информации.
1. У кубика 6 граней.
2. Выпадение любой грани событие равновероятное
3. Из уравнения Хартли:
Дано:
N=6
i-?
2i = 1/p
Решая данное показательное уравнение относительно i, получаем:
i = log2(1/p)
формула Шеннона
Качественный подход
Сообщение
Информативные сообщение, которое пополняет знания человека, т.е. несет для него информацию.
Неинформативные сведения “старые”, т.е. человек это уже знает, или содержание сообщения непонятно человеку
Вероятность некоторого события определяется путем многократных наблюдений (измерений, испытаний). Такие измерения называют статистическими. И чем большее количество измерений выполнено, тем точнее определяется вероятность события.
Рассмотрим несколько примеров:
Решение:
p5 = 25/100 = 1/4,
p7 = 75/100 = 3/4.
Отсюда, количество информации в сообщении об автобусе № 5 равно:
i = log2(1/p)
i5 = log24 = 2 бита.
Количество информации в сообщении об автобусе № 7 равно:
i7 = log2(4/3) = log24 – log23 = 2 – 1,58496
= 0,41504 бита.
Отсюда: p = 2–i
Дано:
i5 = 4 бита,
p5 = 2 · p7
i7-?
5
7
2-4 = 22-i =21-i ,
5
7
7
Ответ: Сообщение о появлении автобуса № 7 несет 5 бит информации.
Пример 4. Рассмотрим другой вариант задачи об автобусах. На остановке останавливаются автобусы № 5 и № 7. Сообщение о том, что к остановке подошел автобус № 5, несет 4 бита информации. Вероятность появления на остановке автобуса с № 7 в два раза меньше, чем вероятность появления автобуса № 5. Сколько бит информации несет сообщение о появлении на остановке автобуса № 7?
Запишем условие задачи в следующем виде:
Пример 4. Рассмотрим другой вариант задачи об автобусах. На остановке останавливаются автобусы № 5 и № 7. Сообщение о том, что к остановке подошел автобус № 5, несет 4 бита информации. Вероятность появления на остановке автобуса с № 7 в два раза меньше, чем вероятность появления автобуса № 5. Сколько бит информации несет сообщение о появлении на остановке автобуса № 7?
Вывод:
Токмакова Людмила Викторовна, учитель информатики МБОУ «СОШ №32» ЭМР саратовской области
Если не удалось найти и скачать доклад-презентацию, Вы можете заказать его на нашем сайте. Мы постараемся найти нужный Вам материал и отправим по электронной почте. Не стесняйтесь обращаться к нам, если у вас возникли вопросы или пожелания:
Email: Нажмите что бы посмотреть