Помехоустойчивое кодирование

1.

Помехоустойчивое
кодирование
Модели каналов

2.

Постановка задачи
Код:
Скорость кода:
Пропускная способность:
R C Pe 0
R C Pe 0

3.

Модели каналов
Входной алфавит Х={x}, выходной алфавит Y={y}
n
n
p
(
y
|
x
)
y
Y
,
x
X
Модель:
Стационарный канал:
не зависят от положения во времени (от j)
Канал без памяти:
3

4.

Примеры
Диаграммы
переходов и
матрицы
переходных
вероятностей

5.

Взаимная информация
Средняя взаимная информация:

6.

Информационная емкость канала
C0 C
?

7.

Симметричные каналы

8.

Примеры

9.

Канал со стираниями
Пропускная способность такая же как если бы
декодер заранее знал, какие позиции будут
стерты
9

10.

Формулировка прямой теоремы
кодирования
Для доказательства теоремы нужно

11.

Непрерывные каналы дискретного
времени
Канал без памяти
Канал с аддитивным шумом
Аддитивный канал без памяти
11

12.

Ограничения
12

13.

Информационная емкость

14.

Гауссовский канал с аддитивным
шумом
Следствие: для произвольного распределения
шума

15.

Шеннон Shannon