Подходы к понятию и измерению информации. Универсальность дискретного представления информации

1. Подходы к понятию и измерению информации. Универсальность дискретного представления информации

2. Информация - сведения об окружающем нас мире, об окружающих нас объектах.

Чтобы понять, сколько времени длится какое-то явление или
процесс, необходимо измерять время.
Чтобы узнать, как далеко находится один объект от другого,
необходимо измерять расстояние.
Чтобы понять, сколько информации к нам приходит при
поступлении некоторых сведений, представленных в некоторой
форме, необходимо научиться измерять информацию.

3. Двоичное кодирование информации

4.

Представление информации с помощью
ДВОИЧНОГО АЛФАВИТА называют ДВОИЧНЫМ
КОДИРОВАНИЕМ ИНФОРМАЦИИ.
В исходном алфавите 4 символа:
Номер
символа
Двоичный
код
1
2
3
4
00
01
10
11

5.

В исходном алфавите 8 символов:
Номер
символа
Двоичный
код
1
2
3
4
5
6
7
8
000
001
010
011
100
101
110
111
В исходном алфавите 16 символов:
Номер
символа
1
2
3
Двоичный
0000 0001 0010
код
4
5
6
7
8
9
10
11
12
13
14
15
16
0011
0100
0101
0110
0111
1000
1001
1010
1011
1100
1101
1110
1111
Обратите внимание:
4 = 22 (с помощью 2 двоичных символов закодировали 4 произвольных символа),
8 = 23 (с помощью 3 двоичных символов закодировали 8 произвольных символов),
16 = 24 (с помощью 4 двоичных символов закодировали 16 произвольных символов).

6.

7. Получается формула:

8. Подходы к измерению количества информации:

Алфавитный подход (объемный) - используется
тогда, когда информацию рассматривают как
последовательность знаков определенной знаковой
системы (алфавита).
Содержательный подход - в этом случае к измерению
информации подходят с точки зрения её содержания, т.е.
в какой мере пришедшая информация (знания)
уменьшает незнание.
Вероятностный подход - полностью разработан в
середине XX века, применяется для измерения количества
информации при наступлении событий, имеющих разную
вероятность.

9. АЛФАВИТНЫЙ ПОДХОД к измерению информации

АЛФАВИТНЫЙ ПОДХОД к измерению
информации
Самые известные знаковые системы - это языки.
Языки делятся на естественные (русский, китайский и т.д.) и
формальные (азбука Морзе, языки программирования, язык
математики, язык записи музыки- ноты).
При алфавитном подходе информацию рассматривают как
последовательность знаков (символов) некоторого алфавита.
Количество символов в алфавите (N) - это мощность алфавита.
Каждый символ алфавита несёт некоторое количество информации, т.е.
имеет некоторый информационный вес (i).
Информационный вес одного символа двоичного алфавита, имеющего
всего два символа, принят за минимальную единицу информации - 1 бит.

10. Так как алфавит любого естественного языка можно заменить двоичным алфавитом, то информационный вес одного символа

произвольного алфавита и мощность этого
алфавита связывает формула:

11. Если сообщение, записанное с помощью знаков некоторого алфавита, содержит К знаков, то количество информации в этом сообщении

Если сообщение, записанное с помощью
знаков некоторого алфавита, содержит
К знаков, то количество информации в этом
сообщении можно вычислить по формуле:

12. Задача.

Сообщение из 20 знаков записано с
помощью алфавита, содержащего 64
символa. Найдите информационный
объём этого сообщения.

13.

14.

15. Содержательный подход к измерению информации.

При содержательном подходе информацию
рассматривают как знания, которыми обладает человек.
До поступления некоторой информации существовала
неопределённость знания.
После поступления некоторой информации
неопределённость знания уменьшилась.
Таким образом, информацию рассматривают как меру
уменьшения неопределённости знания.

16.

Единица информации - это количество
информации, уменьшающее
неопределённость знания в два раза.
Эта единица носит название 1 бит (от binary digit
- двоичная цифра, здесь отражено уменьшение
неопределённости знания в 2 раза).

17. Так как неопределённость знания уменьшается в 2 раза при наступлении каждого события, то количество этих событий подчиняется

формуле:

18. Задача.

Группа учащихся сдаёт экзамен и результатом
экзамена может быть одна из отметок - отлично,
хорошо, удовлетворительно или неудовлетворительно.
Какое количество информации придёт к учащимся
этой группы при известии, что один из сдававших
получил отметку "хорошо"?

19.

20. Единицы измерения информации.

Наименьшая единица информации - 1 бит (1 бит
может принимать значение 0 или 1).
Информационный объем текста в памяти компьютера
измеряется в байтах. Он равен количеству знаков в
записи текста.
1 байт =8 битов

21. Для измерения информации используются и более крупные единицы:

Название единицы
измерения
Численная величина в
байтах
Точное количество байтов
Килобайт (Кбайт)
210
1024 байт
Мегабайт (Мбайт)
220
1024 килобайт
1 048 576 байт
Гигабайт (Гбайт)
230
1024 мегабайт
1 073 741 824 байт
Терабайт (Тбайт)
240
1024 гигабайт
1 099 511 627 776 байт
Петабайт (Пбайт)
250
1024 терабайт
1 125 899 906 842 624 байт
Эксабайт (Эбайт)
260
1024 петабайт
1 152 921 504 606 846 976 байт
Зеттабайт (Збайт)
270
1024 эксабайт
1 180 591 620 717 411 303 424 байт
Йоттабайт (Йбайт)
280
1024 зеттабайт
1 208 925 819 614 629 174 706 176 байт

22. Последовательность действий при переводе одних единиц измерения информации в другие приведена на следующей схеме:

23. Задачи

1. Поле для игры в крестики-нолики содержит 64 клетки. Первый
игрок ставит крестик в любую клетку. Какое количество
информации получит второй игрок при первом ходе первого
игрока?
2. Какое количество информации получит пользователь при
сообщении, что нужная ему программа находится на одном из
128 дисков?
3. В некоторой стране алфавит содержит 8 символов. Найдите
информационный вес каждого символа этого алфавита.
4. В алфавите 32 символа. Записали сообщение, которое
содержит 140 символов. Какое количество информации несёт
данное сообщение?
5. Объём информационного сообщения 720 бит. В сообщении
180 символов. Какова мощность алфавита, с помощью
которого записано это сообщение?

24.

6. Информационное сообщение объёмом 4 Кбайт состоит из 4096
символов. Каков информационный вес символа используемого
алфавита? Сколько символов содержит алфавит, с помощью
которого записано это сообщение?
7. В велокроссе участвуют 128 спортсменов. Специальное устройство
регистрирует прохождение каждым из участников промежуточного
финиша, записывая его номер цепочкой из нулей и единиц
минимальной длины, одинаковой для каждого спортсмена. Каков
будет информационный объём сообщения, записанного
устройством после того, как промежуточный финиш пройдут 80
велосипедистов?
8. Сообщение, состоящее из 1024 символов, было закодировано при
помощи 8-битной кодировки КОИ-8. Как изменится
информационный объем сообщения в килобайтах после перевода
его в кодировку UTF-32, использующую для представления одного
символа 32 бита?

25. Сколько информации в букве? Объект исследования - буква Ж

Сколько информации содержит буква Ж, если это одна из букв русского
алфавита без Ё?_____________
А если в том же алфавите мы будем различать строчные и прописные буквы
(наша - прописная)?____________
А если буква Ж написана на двери небольшого сооружения в парке, на другой
двери которого написана буква М?____________
А если эта буква – обозначение столбика в классической игре в морской бой?
________
А если это не совсем буква Ж, а похожий на нее японский иероглиф? Для
справки: в Японии сейчас используют около 7000 иероглифов._____

26.

В читальном зале – 64 места, расположены они так, как
показано на рисунке. Их можно было просто
пронумеровать – но не сразу сообразишь, где находится
место № 43 или 56. Поэтому используется такая система
обозначения мест: каждое место обозначается шестью
цифрами 0 или 1. Первая цифра показывает, что место
находится в северной (0) или южной (1) половине зала.
Вторая указывает, что место находится в западной (0)
или восточной (1) половине. Третья – в северной или
южной половине той половины, в которой находится
число. Четвертая – то же про западную и восточную
половины от половины и так далее.
Обозначьте на схеме место с кодом 101101
(предполагается, что схема сориентирована по
сторонам света).
Определите код того места, которое на схеме залито
черным.

27.

9. При регистрации в компьютерной системе каждому пользователю выдаётся
пароль, состоящий из 11 символов и содержащий только символы А, Б, В, Г,
Д, Е. Каждый такой пароль в компьютерной программе записывается
минимально возможным и одинаковым целым количеством байт, при этом
используют посимвольное кодирование и все символы кодируются
одинаковым и минимально возможным количеством бит. Определите,
сколько байт необходимо для хранения 20 паролей.
10.Для регистрации на сайте некоторой страны пользователю требуется
придумать пароль. Длина пароля — ровно 11 символов. В качестве символов
могут быть использованы десятичные цифры и 32 различные буквы
местного алфавита, причём все буквы используются в двух начертаниях: как
строчные, так и прописные (регистр буквы имеет значение!). Под хранение
каждого такого пароля на компьютере отводится одинаковое и минимально
возможное целое количество байтов. При этом используется посимвольное
кодирование, и все символы кодируются одинаковым и минимально
возможным количеством битов. Определите объём памяти, который
используется для хранения 50 паролей. (Ответ дайте в байтах.)

28.

11.При регистрации в компьютерной системе каждому пользователю выдаётся пароль,
состоящий из 15 символов и содержащий только символы из 8-символьного набора: А, В,
C, D, Е, F, G, H. В базе данных для хранения сведений о каждом пользователе отведено
одинаковое минимально возможное целое число байт. При этом используют посимвольное
кодирование паролей, все символы кодируют одинаковым минимально возможным
количеством бит. Кроме собственно пароля для каждого пользователя в системе хранятся
дополнительные сведения, для чего выделено целое число байт, одно и то же для всех
пользователей.
Для хранения сведений о 20 пользователях потребовалось 320 байт. Сколько байт
выделено для хранения дополнительных сведений об одном пользователе? В ответе
запишите только целое число — количество байт.

29.

12.При регистрации в компьютерной системе каждому пользователю выдаётся пароль,
состоящий из 15 символов и содержащий только символы из 8-символьного набора: А, В,
C, D, Е, F, G, H. В базе данных для хранения сведений о каждом пользователе отведено
одинаковое и минимально возможное целое число байт. При этом используют
посимвольное кодирование паролей, все символы кодируют одинаковым и минимально
возможным количеством бит. Кроме собственно пароля, для каждого пользователя в
системе хранятся дополнительные сведения, для чего отведено 24 байт на одного
пользователя.
Определите объём памяти (в байтах), необходимый для хранения сведений о 20
пользователях. В ответе запишите только целое число — количество байт.

30.

13.При регистрации в компьютерной системе каждому пользователю выдаётся
пароль, состоящий из 15 символов и содержащий только символы из 12символьного набора: А, В, C, D, Е, F, G, H, K, L, M, N. В базе данных для
хранения сведений о каждом пользователе отведено одинаковое и минимально
возможное целое число байт. При этом используют посимвольное кодирование
паролей, все символы кодируют одинаковым и минимально возможным
количеством бит. Кроме собственно пароля, для каждого пользователя в системе
хранятся дополнительные сведения, для чего выделено целое число байт; это
число одно и то же для всех пользователей.
Для хранения сведений о 20 пользователях потребовалось 400 байт. Сколько байт
выделено для хранения дополнительных сведений об одном пользователе? В
ответе запишите только целое число – количество байт.

31.

14. Метеорологическая станция ведет наблюдение за влажностью
воздуха. Результатом одного наблюдения является целое число от 0
до 100%, записываемое при помощи минимально возможного
количества бит. Станция сделала 800 измерений. Определите
информационный объем результатов наблюдений. (Ответ дайте в
байтах.)
15.Для передачи секретного сообщения используется код, состоящий
из прописных латинских букв (всего используется 20 различных
символов). При этом все символы кодируются одним и тем же
(минимально возможным) количеством битов. Определите
информационный объём сообщения длиной в 200 символов. (Ответ
дайте в байтах.)

32. Домашнее задание

1. Считая, что каждый символ кодируется одним байтом, оцените
информационный объем следующего предложения: Белеет Парус
Одинокий В Тумане Моря Голубом!
2. Объем сообщения равен 11 Кбайт. Сообщение
содержит 11264 символа. Какова мощность алфавита?
3. Информационное сообщение объёмом 1,5 Кбайта содержит 3072
символа. Сколько символов содержит алфавит, при помощи которого
было записано это сообщение?
4. Сообщение занимает 2 страницы и содержит 1/16 Кбайта информации.
На каждой странице записано 256 символов. Какова мощность
используемого алфавита?
5. Сколько килобайтов составляет сообщение, содержащее 12288 битов?

33.

Белеет Парус Одинокий В Тумане Моря голубом!