Измерение количества информации. Решение задач

1.

Измерение количества
информации.
Решение задач.

2.

Неопределенность знаний – сообщение, которое содержит сведения о том, что
произошло одно из конечного множества (N) возможных событий.
События равновероятны, если ни одно из них не имеет
преимущества перед другими.
С этой точки зрения выпадения «герба» или «решки» равновероятны.
Будем бросать монету.
Сколько вариантов выпадения может быть?
-2
Вероятность выпадения «герба» или «решки»
- ½
Количество информации – 1 бит

3.

Определение информации
Будем бросать 2 монеты. Бросание
2 монет должно принести 2 бита
информации, так количество
монет увеличилось в 2 раза.
Количество различных вариантов
выпадения по две монеты
-4
Вероятность появления 1 варианта
–¼

4.

Равновероятные события
Если обозначить за