Модели каналов передачи информации при наличии помех. Математическое описание канала передачи информации

1.

Модели каналов передачи
информации при наличии помех
Математическое описание канала
передачи информации

2.

Модели каналов передачи
информации при наличии помех
• Учебные вопросы
• Математическое описание канала связи.
• Взаимная информация.
• Пропускная способность канала.
• Теоремы кодирования для канала

3.

Литература
• 1.Вернер М. Основы кодирования − М.:
Техносфера, 2004. – 288 с.
• 2.

4.

Цели передачи по каналу с шумом
• 1. Быстрое кодирование информации.
• 2. Простой способ передачи
закодированного сообщения.
• 3. Быстрое декодирование полученной
информации.
• 4. Надежная очистка от шума и помехи.
• 5. Передача максимального объема
информации в единицу времени

5.

Статистические (стохастические)
каналы
• Переходная вероятность
• p(y(t) x(t)),
• показывает, с какой вероятностью
фиксированный входной сигнал x(t)
преобразуется каналом в выходное
наблюдение y(t).
• Статистическое описание канала является
исчерпывающим, когда известны переходные
вероятности для всех возможных сочетаний
входа x(t) и выхода y(t).

6.

Математическая модель
• В математическую модель канала можно
включать любые компоненты реальных
систем передачи информации с
единственной оговоркой:
в нее обязательно должна войти
физическая среда распространения.

7.

Классификация каналов:
• Дискретные и непрерывные как по времени,
так и по состоянию.
• Непрерывные по времени:
• - входные и выходные колебания трактуются
как непрерывные процессы.
• Дискретные по времени
• - вход и выход описываются
последовательностями отсчетов в
фиксированные дискретные моменты
времени.

8.

Классификация каналов:
• Канал называется дискретным по
состоянию, если входное и выходное
колебания принадлежат дискретному
(конечному или счетному) множеству
(ансамблю).
• Если же оба эти ансамбля несчетны, канал
непрерывен по состоянию.

9.

Канал без памяти
• Отклик на входное воздействие не зависит
от значения воздействия в предыдущий
момент времени.

10.

Дискретный канал без памяти (ДКБП)
• Пусть x(i), y(i) – входные и выходные
символы векторов
• x=(x(1), x(2), … , x(n)) и
• y = (y(1), y(2), … , y(n)),
• Переходная вероятность p(y|x)
преобразования каналом входного nмерного вектора в выходной равна
n
p ( y | x) p ( y
i 1
(i )
|x
(i )
).

11.

ДКБП
• ДКБП полностью описывается своей
символьной или мгновенной переходной
вероятностью p(y(i)|x(i)), которая для
стационарного канала инвариантна к
времени
p( y | x ) p( y | x), x X , y Y .
(i )
(i )

12.

Пример. Двоичный симметричный
канал (ДСК):
X={0,1}
ДСК
Y={0,1}
p( y 0 | x 1) p, p( y 1 | x 1) 1 p.
1–p
0
p( y 0 | x 0) 1 p, p( y 1 | x 0) p,
0
p
p
1
1–p
1
p – вероятность ошибки
на символ.

13.

Симметричный q-ичный канал:
• Канал по которому передается q-ичное
слово с независимыми ошибками, с
вероятность ошибки p и неправильный
символ встречается с той же вероятностью
p/(q – 1). Символ передается правильно с
вероятностью 1 – p

14.

Канал со стираниями
(стирающий)
Переходная
матрица

15.

Z-канал (оптический)
0-light on, 1-light off

16.

Троичный симметричный канал

17.

Двоичные каналы связи
Модели
Гильберта,
Эллиота-Гильберта,
Смита-Боуэна-Джойса и
Фричмана-Свободы.
Первые три модели используют конечные
цепи Маркова с двумя состояниями,
последняя – использует конечные цепи
Маркова с произвольным числом
состояний

18.

А. А. Марков
Математик,
академик,
внёсший большой
вклад в
теорию вероятностей
математический анализ
теорию чисел

19.

A. Марков (1856-1922)
Цепи Маркова
• Цепи Маркова характеризуются таким
видом стохастической зависимости между
состояниями изучаемой системы в
различные моменты времени