Определение количества информации

1. Определение количества информации

Веденькина Н.В.

2.

Для определения количества
информации существует два подхода:
• вероятностный (количественный)
• алфавитный

3. Вероятностный (количественный) подход

Процесс познания окружающего мира
приводит к накоплению информации в
форме знаний (фактов, научных теорий и
т. д.). Получение новой информации
приводит к расширению знаний или, как
иногда говорят, к уменьшению
неопределенности знания. Если некоторое
сообщение приводит к уменьшению
неопределенности нашего знания, то
можно говорить, что такое сообщение
содержит информацию.

4.

Количество информации можно
рассматривать как меру уменьшения
неопределенности знания при
получении информационных
сообщений.

5.

N – количество возможных вариантов
I – количество информации (бит)

6.

Бит – это такое количество
информации, которое уменьшает
неопределенность знания в два
раза.
1 байт = 8 битов = 23 битов.
1 килобайт (Кб) = 210 байт = 1024 байт;
1 мегабайт (Мб) = 210 Кб = 1024 Кб;
1 гигабайт (Гб) = 210 Мб = 1024 Мб;
1 терабайт (Тб) = 210 Гб = 1024 Гб.

7.

8.

Формула
используется для
равновероятностных событий

9.

Для неравновероятностных событий
используется формула:
I – количество информации,
P – вероятность события
К – количество благоприятных ситуаций,
N – общее количество ситуаций

10.

Количество информации в случае различных
вероятностей событий определяется
по формуле Шеннона:
где Pi – вероятность i-го события,
N – количество возможных событий
Формула была предложена в 1948 г.