Корреляционная функция, коэффициент корреляции. Спектры

1. Корреляционная функция

Зависимость между случайными процессами требует
введения многомерных распределений. По аналогии
с одномерным случаем вводят понятие двумерной
плотности распределения вероятности,
f ( x1; x2 ; t1; t2 )
описывающей связь двух значений X(t1) и X (t2) в
произвольные моменты времени t1 и t2. С помощью
двумерной плотности распределения вероятности
можно определить корреляционную функцию,
которая является вторым смешанным центральным
моментом:
R t1 ; t2 M t1 ; t2
X (t1 ) X (t2 ) X (t1 ) X (t2 ) X (t1 ) X (t2 )

2. Коэффициент корреляции

Для количественной характеристики зависимости случайных
функций вводится нормированная корреляционная
функция, которая называется коэффициентом
корреляции:
R t1 ; t2
R0 t1 ; t2
(t1 ) (t2 )
Если коэффициент корреляции равен 1, это означает линейную
зависимость случайных величин. Если они независимы, он
равен нулю.
Время затухания или время корреляции определяется как
0 (t1 ) R0 (t1; t2 )dt2
0

3. Основные свойства: .

1.
2.
Основные свойства:
.
Равенство нулю для статистически независимых
случайных величин.
Симметричность относительно своих аргументов
R t1; t2 R t2 ; t1
3. Ограниченность коэффициента корреляции
R0 (t1; t2 ) 1
Условие, при котором коэффициент корреляции равен
нулю:
xy x y
Это означает равенство
-
-
xyf (x; y)dxdy xf1 ( x)dx yf 2 (y)dy

4. Основные свойства-2

Это возможно при условии
f ( x; y) f1 ( x) f 2 ( y)
Т.е.x и y- независимые величины, так как при этом
вероятность их совместного существления равна
произведению вероятностей каждого из них.
Итак, если x и y и независимы, их коэффициент
корреляции равен 0. Обратное утверждение неверно:
равенство коэффициента корреляции нулю еще не
означает
независимости
событий,
поскольку
зависимость может проявиться в моментах более
высоких
порядков.
Равенство
коэффициента
корреляции нулю означает некоррелированность
случайных величин x и y.

5. Основные свойства -4

• Равенство коэффициента корреляции
единице означает линейную
зависимость случайных величин.
• При нелинейной зависимости R
отличается от единицы и в указанных
пределах (-1,1) может принимать любые
значения. Для коэффициента
x 0
корреляции при
R0
xx
2

6. Основные свойства-5

• При
0
R0 ( 0)
x
2
2
1
• С увеличением временного сдвига коэффициент
корреляции спадает от 1 до нуля.
• Время корреляции определяется по уровню и
дает ориентировочное представление о том, на
каком временном интервале в среднем имеет
место коррелированность случайного процесса.
При меньшем значении радиуса корреляции
считают, что корреляция между случайными
величинами пренебрежимо мала.

7. Основные свойства-6

• Время корреляции (радиус) определяется
по уровню
R0 (t1; t2 ) 0,5
и дает ориентировочное представление о
том, на каком временном интервале в
среднем имеет место коррелированность
случайного процесса. При меньшем
значении радиуса корреляции считают, что
корреляция между случайными величинами
пренебрежимо мала.

8. Основные свойства -7

В случае одной реализации количественной
мерой статистической зависимости
последующего значения статистической
величины от ее предыдущего значения
является коэффициент автокорреляции.
Можно рассматривать величины x(t) и x(t’)
как два различных, но связанных между
собой процесса. Коэффициент корреляции
определяет значение
const
x(t ) x x(t ) x
R0 ( )
2

9. Структурные функции

• Структурная функция представляет величину
D ( x1 x2 )
2
то есть средний квадрат разности значений в двух токах.
Это выражение дает связь между
корреляционной и структурной функциями
и показывает, что для стационарного
процесса возможно использование как
той, так и другой.
D ( x x ) x 2 xx x 2Rxx
2
2( Rxx )
2
2
2
2
2

10. Структурная функция-2

• Корреляционная функция в максимуме равна квадрату
дисперсии. Следовательно,
D(0) 0
D( ) 2
2
• Следовательно, для стационарного процесса получаем еще
одну
формулу,
связывающую
корреляционную
и
структурную функции:.
Rxx
1
D( ) Dxx
2

11. Стационарные и эргодические случайные процессы-1

Случайный процесс называется стационарным, если одномерная
плотность распределения вероятности и, следовательно, среднее
значение и дисперсия случайного процесса не зависят от времени, а
двумерная плотность распределения вероятности и корреляционная
функция зависят только от разности временных аргументов.
В узком смысле под стационарным понимается процесс, ни одна
статистическая характеристика которого не зависит от времени. В
широком смысле условие стационарности требует независимости от
времени первого и второго моментов. Все строго стационарные
процессы – стационарны и в широком смысле, но не все процессы,
стационарные в широком смысле, строго стационарны.
Процессы, для которых среднее по совокупности реализаций
совпадает со средним по времени при интервале усреднения
T
, называются эргодическими.
Для эргодического процесса усреднение по ансамблю может быть
заменено усреднением во времени.

12. Эргодические и стационарные процессы-2

Необходимое и достаточное условие эргодичности. После
усреднения случайной величины х по времени усредним ее
по совокупности:
T
T
1
x(t )
x(t ) x(t )dt
dt x(t )
T 0
T 0
Рассмотрим различие между средним по времени и средним
по совокупности. Мерой этого различия является дисперсия
( xT xT ) (T )
Если при
мы имеем дело с эргодическим
2
процессом. (T ) 0
2
2

13. Стационарные и эргодические процессы-3

lim R ( ) 0
Итак, выполнение равенства
T
• служит необходимым и достаточным условием
эргодичности процесса.
• Эргодические
процессы
составляют
подкласс
стационарных процессов. Так что не все стационарные
процессы эргодичны.
• Стационарный процесс будет эргодическим, если
временное среднее и корреляционная функция будут
одинаковыми для всех реализаций процесса.
• Для эргодичности гауссовского случайного процесса
достаточно, чтобы он был
стационарным, а его
корреляционная функция удовлетворяла требованиям:
1
lim
T 2T
T
T
R0 ( ) d ,
R0 ( ) RX ( ) M
2
X

14. Взаимные корреляционные функции

• По
определению,
взаимные
корреляционные
функции
представляют собой
математическое
ожидание произведения значений двух процессов,
взятых в разные моменты времени:
RXY (t1; t2 ) M X (t1 )Y (t2 ) M Y (t1 ) X (t2 ) RYX (t1; t2 )
Вычисляются они по
формулам:
x y f ( x , t ; y , t )dx dy
(t ; t ) y x f ( y , t ; x , t )dy dx
RXY (t1 ; t2 )
1 2
1
1
2
2
1
2
2
2
1
2
RYX
1
2
1 2
1
1

15. Основные свойства взаимных корреляционных функций

1.В общем случае взаимные корреляционные функции
не являются четными относительно сдвига по
времени.
2. Взаимная корреляционная функция не обязательно
должна иметь максимум при
=0.
3. Если два процесса статистически независимы,
RXY ( ) RYX ( )
Для комплексных случайных процессов особенность
состоит в том, что при усреднении произведения
значений процессов
один из сомножителей
берется комплексно сопряженным:
RX (t1 ; t2 )
x1 x 2 f ( x1 , x2 ; t1 , t2 )dx1dx2

16. Спектральная плотность мощности и автокорреляция

• Спектральная плотность мощности случайного процесса
определяется выражением:
2
S X ( ) lim
M X T ( )
T
2T
Спектральная плотность мощности и корреляционная
функция случайного процесса связаны между собой
парой преобразований Фурье:
• ,
S X ( )
R
X
( ) exp( i ) d
1
RX ( )
2
S
X
( ) exp(i ) d

17. Свойства спектральной плотности мощности

• 1. Спектральная плотность мощности – четная функция.
• 2. Спектральная плотность мощности – вещественная
функция частоты.
• 3.
• 2. Спектральная плотность мощности – вещественная
функция частоты.
• 3. Неотрицательная функция частоты.
• Взаимная спектральная плотность для стационарных
случайных процессов определяется
в виде:
S XY ( )
R
XY
( ) exp( i ) d
YX
( ) exp( i ) d
SYX ( )
R

18. Свойства взаимной спектральной плотности

1.Взаимные спектральные плотности являются
комплексно сопряженными функциями
2.Действительные части – четные функции
частоты.
3. Мнимые части – нечетные функции частоты.
Спектральная
плотность
суммы
двух
некоррелированных процессов равна сумме
спектральных
плотностей
процессов,
образующих сумму.

19. Белый шум

Белый шум – случайный процесс, имеющий постоянную
спектральную плотность на всех частотах, бесконечную
дисперсию и равный нулю интервал корреляции для всех
значений частоты
X
0
Корреляционная функция белого шума имеет вид:
S ( ) S
Rбш ( ) S0
Белый шум является моделью абсолютно случайного
процесса, когда значения случайного процесса в любые два
несовпадающих, но сколь угодно близких момента времени
статистически независимы, а интегральная ширина
энергетического спектра бесконечно велика. Это физически
нереализуемая математическая абстракция. Многие
процессы в рассматриваемом на практике интервале
частот имеют спектр, очень близкий к равномерному. В этом
случае их можно аппроксимировать белым шумом.

20. Основные способы повышения надёжности передачи информации по атмосферному каналу

• Для повышения надёжности передачи информации
используются различные методы. Наиболее часто
применяются методы разнесенного приёма. При этом
возможны
разные
способы
разнесения.
Под
пространственно-разнесенным приемом обычно понимают
приём одной и той же информации по разным каналам
связи, что достигается передачей с помощью антенн,
разнесённых в пространстве. Применяется передача
сигнала на нескольких частотах, разнесение по
поляризации, времени и так далее, а также различные
модификации указанных схем.

21. Разнесенный прием

• Выигрыш системы связи при пространственном разнесении
по сравнению со случаем одинарного приёма определяется
числом k некоррелированных значений уровня помехи на
пространственной базе с размещенными на ней приемными
элементами. В случае, когда приёмные элементы
разнесены
на
расстояние,
превышающее
радиус
пространственной
корреляции
флуктуаций
сигнала,
помехоустойчивость системы увеличивается в k раз по
сравнению со случаем одинарного приёма. Если
разнесение приемных элементов оказывается меньше, чем
радиус пространственной корреляции, помехоустойчивость
системы возрастёт только в k /(1+ b) раз, где величина b
определяется уровнем корреляции в соответствующих
пространственно-разнесенных точках.

22. Временное разнесение

• При временном разнесении выигрыш
приема определяется отношением интервала
регистрации к временному радиусу корреляции
флуктуирующей составляющей сигнала.
• Такой сравнительно простой анализ указывает на
важность
определения
временных
и
пространственных радиусов корреляции, а в
более общих случаях – и соответствующих
коэффициентов корреляции флуктуаций для
обеспечения надёжности связи.

23. Связь функции корреляции функции передачи канала и функции корреляции сигнала

Практически важным результатом любой задачи о
распространении сигнала по произвольному каналу связи
является установление функциональной зависимости между
сигналами на входе и выходе канала. Случай прохождения
сигнала через среду со случайными неоднородностями можно
считать частным вопросом этой общей проблемы. Поэтому
возникает задача определения функции передачи такой
системы. Только знание этой величины позволит приступить к
рассмотрению проблемы оптимизации передачи информации
по каналу. Экспериментальные исследования дают сведения
о статистических свойствах принимаемого сигнала. Полагая
свойства излученного поля известными, нужно поставить
задачу определения свойств функции передачи среды.
Знание статистических характеристик этой функции сделает
реализуемой проблему расчета оптимального способа
передачи сообщений.

24. Связь функции корреляции функции передачи канала и функции корреляции сигнала-2

• Концепцию
функции
передачи
целесообразно положить в основу
предварительных
расчетов,
направленных на обоснование методов
трактовки
экспериментальных
результатов,
полученных
при
регистрации распространяющихся на
различных приземных трассах сигналов
• ультракоротковолнового и оптического
диапазонов.

25. Связь функции корреляции функции передачи канала и функции корреляции сигнала

Пусть на входе атмосферного канала имеется сигнал E1 (t ) ,
а на выходе – сигнал E (t ).
2
Комплексную функцию передачи канала запишем в виде:
Пусть
H i , t E2 (t ) E1 (t )
E1 t e
Будем считать E1 (t ) и H(iω,t) стационарными
i t
случайными функциями.

26. Связь функции корреляции функции передачи канала и функции корреляции сигнала-2

• Тогда, согласно общей теории передачи сигнала через
канал связи, сигнал на выходе такого канала запишется
в виде следующего
аналитического выражения:
1
E2 t
2
E1F (i )
на входе канала
H (i , t ) E
1F
(i )exp(i t )d
- фурье-трансформация сигнала
E1F (i )
E (t ) exp( i t )dt
1

27. Связь функции корреляции функции передачи канала и функции корреляции сигнала-3

• Аналогично для сигнала
,
1
E2 t '
2
E1 (t )
H (i ', t ') E1F (i ')exp(i ' t ')d '
E1F (i ')
E1 (t ') exp( i ' t ') dt '
t ' t
• Проведем усреднение по случайным отклонениям
входного сигнала.

28. Cвязь функции корреляции функции передачи канала и функции корреляции сигнала-3

Тогда
E2 t E2 t
1
2
H (i , t ) H (i ', t ')
i t i ' t '
E1F (i ) E1F (i ') e e
d d '

29. Cвязь функции корреляции функции передачи канала и функции корреляции сигнала-4

Учитывая выражения для фурье-трансформаций получим:
E1F (i ) E1F (i ')
E1 (t ) E1 (t ') exp( i t ) exp( i ' t ')dtdt '
Тогда
E1 (t ) E1 (t ') R1 ( )
- корреляционная функция на входе канала.

30. Cвязь функции корреляции функции передачи канала и функции корреляции сигнала-5

• Согласно теореме Винера-Хинчина,
R ( )exp( i )d S ( )
1
• Учитывая это выражение, записываем:
E1F (i ) E1F (i ') S ( ) ( ').

31. Связь функции корреляции функции передачи канала и функции корреляции сигнала-6

Следовательно
E2 t E2 t
1
i t i ' t '
H (i , t ) H (i ', t ') S ( ) ( ')e e d d '
2
(2 )
( ') 1 '
( ') 0 '

32. Связь функции корреляции функции передачи канала и функции корреляции сигнала-7

Получаем:
E2 t E2 t
1
2
H (i , t ) H (i ', t ') exp( i ) S ( )d
Усредним теперь выведенное соотношение по
временным изменениям функции передачи системы:
E2 t E2 t
1
2
H (i , t ) H (i ', t ') exp( i ) S ( )d

33. Связь функции корреляции функции передачи канала и функции корреляции сигнала-8

Пользуясь определением
функции корреляции, находим:
1
R2 ( )
2
R
H
( , ) exp( i ) S ( )d
Для узкополосных сигналов, когда можно полагать
независимость функции передачи от частоты (это
соответствует анализу гладких замираний), получим:
1
R2 ( ) RH ( )
2
S ( ) exp( i )d
Интеграл в этом выражении, согласно теореме ВинераХинчина, представляет функцию корреляции излученного
сигнала.

34. Связь функции корреляции функции передачи канала и функции корреляции сигнала-9

Отсюда следует, что
R2 ( ) RH ( ) R1 ( )
Если учесть, что для анализа используются постоянные (в
пределах стабильности генераторов) сигналы, излучаемые в
атмосферу,
R2 ( ) RH ( )
Таким образом, в рамках принятых предположений функция
корреляции сигнала в точке приема определяет функцию
корреляции функции передачи системы и экспериментально
полученные корреляционные или структурные функции
сигнала,
прошедшего
трассу
со
случайными
неоднородностями,
могут
служить
статистическими
характеристиками данной трассы.