Автокорреляция

1. Автокорреляция

Лекция

2. Цели лекции

Природа проблемы автокорреляции
остатков.
Последствия автокорреляции.
Средства обнаружения
автокорреляции.
Средства для решения проблемы
автокорреляции.
2

3. Определение автокорреляции

Автокорреляция (последовательная корреляция) – это
корреляция между наблюдаемыми показателями во
времени (временные ряды) или в пространстве
(перекрестные данные).
Автокорреляция остатков характеризуется тем, что
не выполняется предпосылка 30 использования МНК:
3 . i j
0
i j
0,
Cov( i , j ) 2
, i j
3

4. Виды автокорреляции

4

5. Причины чистой автокорреляции

1. Инерция.
Трансформация, изменение многих экономических
показателей обладает инерционностью.
2. Эффект паутины.
Многие экономические показатели реагируют на
изменение экономических условий с запаздыванием
(временным лагом)
3. Сглаживание данных.
Усреднение данных по некоторому продолжительному
интервалу времени.
5

6. Автокорреляция первого порядка

t t 1 t
случайный член рассматриваемого уравнения регрессии,
коэффициент автокорреляции первого порядка,
случайный член, не подверженный автокорреляции
1 1
6

7. Сезонная автокорреляция

t t 4 t
случайный член рассматриваемого уравнения регрессии,
коэффициент сезонной автокорреляции,
случайный член, не подверженный автокорреляции
1 1
7

8. Автокорреляция второго порядка

t 1 t 1 2 t 2 t
случайный член рассматриваемого уравнения регрессии,
1, 2 коэффициенты автокорреляции первого порядка,
случайный член, не подверженный автокорреляции
8

9. Классический случайный член  (автокорреляция отсутствует)

Классический случайный член
(автокорреляция отсутствует)
9

10. Положительная автокорреляция

t t 1 t
0
Положительная автокорреляция – наиболее важный для
экономики случай
10

11. Отрицательная автокорреляция

t t 1 t
0
11

12. Пример влияния автокорреляции на случайную выборку

Рассмотрим выборку из 50 независимых
нормально распределенных с нулевым
средним значений i.
С целью ознакомления с влиянием
автокорреляции будем вводить в нее
положительную, а затем отрицательную
автокорреляцию.
12

13. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.0ut 1 t
13

14. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.1ut 1 t
14

15. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.2ut 1 t
15

16. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.3ut 1 t
16

17. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.4ut 1 t
17

18. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.5ut 1 t
18

19. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.6ut 1 t
19

20. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.7ut 1 t
20

21. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.8ut 1 t
21

22. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.9ut 1 t
22

23. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.95ut 1 t
23

24. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.0ut 1 t
24

25. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.3ut 1 t
25

26. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.6ut 1 t
26

27. Пример влияния автокорреляции на случайную выборку

3
2
1
0
1
-1
-2
-3
ut 0.9ut 1 t
27

28. Ложная автокорреляция (автокорреляция, вызванная ошибочной спецификацией)

Yt 0 1 X t1 2 X t 2 t
Yt 0 1 X t1
t
f ( 2 X t 2 t )
t
X2 сама является автокоррелированной переменной,
Значение мало по сравнению с величиной 2 X 2
28

29. Пример. Автокорреляция, вызванная отсутствием значимой переменной

29

30. Пример. Автокорреляция, вызванная отсутствием значимой переменной

ln YDt d (ln YDt 1 ) t
30

31. Ложная автокорреляция как результат неправильного выбора функциональной формы

ln Yt 0 1 ln X t1 t Yt 0 1 X t1
31
t

32. Последствия автокорреляции

1. Истинная автокорреляция не приводит к смещению оценок
регрессии, но оценки перестают быть эффективными.
2. Автокорреляция (особенно положительная) часто приводит
к уменьшению стандартных ошибок коэффициентов, что
влечет за собой увеличение t-статистик.
3. Оценка дисперсии остатков Se2 является смещенной оценкой
истинного значения e2 , во многих случаях занижая его.
4. В силу вышесказанного выводы по оценке качества
коэффициентов и модели в целом, возможно, будут
неверными. Это приводит к ухудшению прогнозных качеств
модели.
32

33. Обнаружение автокорреляции

1. Графический метод.
2. Метод рядов.
3. Специальные тесты.
33

34. Обнаружение автокорреляции. Тест Дарбина-Уотсона

Критерий Дарбина-Уотсона предназначен для
обнаружения автокорреляции первого порядка.
Он основан на анализе остатков уравнения
регрессии.
34

35. Тест Дарбина-Уотсона. Ограничения

Ограничения:
1. Тест не предназначен для обнаружения других видов
автокорреляции (более чем первого) и не обнаруживает ее.
2. В модели должен присутствовать свободный член.
3. Данные должны иметь одинаковую периодичность (не
должно быть пропусков в наблюдениях).
4. Тест не применим к авторегрессионным моделям,
содержащих в качестве объясняющей переменной
зависимую переменную с единичным лагом:
m
Yt 0 1 X tj Yt 1 t
j 1
35

36. Статистика Дарбина-Уотсона

Статистика Дарбина-Уотсона имеет вид:
T
DW
( et et 1 )
2
t 2
T
2
et
t 1
T число наблюдений (обычно временных периодов)
et остатки уравнения регрессии
36

37. Границы для статистики Дарбина-Уотсона

Границы для статистики ДарбинаУотсона
Можно показать, что:
Отсюда следует:
DW 2(1 ret et 1 )
0 DW 4
При положительной корреляции:
При отрицательной корреляции:
При отсутствии корреляции:
ret et 1 1
DW 0
ret et 1 1
DW 4
ret et 1 0
DW 2
37

38. Критические точки распределения Дарбина-Уотсона

Для более точного определения, какое значение DW
свидетельствует об отсутствии автокорреляции, а какое
– о ее наличии, построена таблица критических точек
распределения Дарбина-Уотсона.
По этой таблице для заданного уровня значимости ,
числа наблюдений n и количества объясняющих
переменных m определяются два значения:
dl – нижняя граница, du – верхняя граница
38

39. Критические точки распределения Дарбина-Уотсона

39

40. Расположение критических точек распределения Дарбина-Уотсона

Положительная
автокорреляция
0
Отсутствие
автокорреляции
dL dcrit dU
2
Отрицательная
автокорреляция
4-dU dcrit 4-dL
При положительной корреляции:
При отрицательной корреляции:
При отсутствии корреляции:
4
d 0
d 4
d 2
40

41. Практическое использование теста Дарбина-Уотсона

41

42. Интерпретация результата теста Дарбина-Уотсона при некотором уровне значимости

Интерпретация результата теста ДарбинаУотсона при некотором уровне значимости
42

43. Случай, когда значение DWстатистики попало в область неопределенности

Случай, когда значение DW статистики
попало в область неопределенности
В данном случае можно использовать t-критерий для
проверки значимости коэффициента корреляции re e
t t 1
t расч
ret et 1 n 2
2
1 ret et 1
tкрит t
2
; n 2
43

44. Устранение автокорреляции первого порядка (на примере парной линейной регрессии)

Пусть имеем:
( известно)
Yt 0 1 X t t t t 1 t
Процедура устранения автокорреляции остатков:
Yt Yt Yt 1 ,
Отсюда:
X t X t X t 1 , 0 0 (1 )
Yt 1 X t
0
t
Проблема потери первого наблюдения преодолевается с
помощью поправки Прайса-Винстена:
Y1 1 2 Y1 ,
X t 1 2 X 1
44

45. Устранение автокорреляции первого порядка. Обобщения

Рассмотренное авторегрессионное преобразование может быть
обобщено на:
1) Произвольное число объясняющих переменных
2) Преобразования более высоких порядков AR(2), AR(3) и т.д.:
t 1 t 1 2 t 2 t
t 1 t 1 2 t 2 3 t 3 t
Однако на практике значения коэффициента автокорреляции
обычно неизвестны и его необходимо оценить. Существует
несколько методов оценивания.
45

46. Способы оценивания коэффициента автокорреляции 

Способы оценивания коэффициента
автокорреляции
1. На основе статистики Дарбина-Уотсона.
2. Метод Кохрана-Оркатта.
3. Метод Хилдрета-Лу.
4. Метод первых разностей.
46

47. Определение коэффициента  на основе статистики Дарбина-Уотсона

Определение коэффициента на
основе статистики Дарбина-Уотсона
DW 2(1 ret et 1 )
re e
DW
1
2
t t 1
Этот метод дает удовлетворительные результаты при
большом числе наблюдений.
47

48. Итеративная процедура Кохрана-Оркатта (на примере парной регрессии)

Итеративная процедура КохранаОркатта (на примере парной регрессии)
1. Определение уравнения регрессии и вектора остатков:
( )
Y t b0 b1 X t
b0 , b1, ei , i 1, n
2. В качестве приближенного значения берется его МНК-оценка:
et et 1 t
3. Для найденного * оцениваются коэффициенты 0 1:
(Yt Yt 1 ) 0 (1 ) 1 ( X t X t 1 ) (et et 1 ) t
b
(
1
), b1 1 в (*) и вычисляем ei , i 1, n
4. Подставляем 0
0
Возвращаемся к этапу 2.
Критерий остановки: разность между текущей и предыдущей
оценками * стала меньще заданной точности.
48

49. Итеративная процедура Хилдрета-Лу (на примере парной регрессии)

1. Определение уравнения регрессии и вектора остатков:
Y t b0 b1 X t
b0 , b1, ei , i 1, n
2. Оцениваем регрессию
(Yt Yt 1 ) 0 (1 ) 1 ( X t X t 1 ) (et et 1 ) t
для каждого возможного значения [ 1,1] с некоторым
достаточно малым шагом, например 0,001; 0,01 и т.д.
3. Величина *, обеспечивающая минимум стандартной
ошибки регрессии принимается в качестве оценки
автокорреляции остатков.
49

50. Итеративные процедуры оценивания коэффициента . Выводы

Итеративные процедуры оценивания
коэффициента . Выводы
1. Сходимость процедур достаточно хорошая.
2. Метод Кохрана-Оркатта может «попасть» в
локальный (а не глобальный) минимум.
3. Время работы процедуры Хилдрета-Лу
значительно сокращается при наличии
априорной информации об области возможных
значений .
50

51. Обобщенный метод наименьших квадратов (на примере парной регрессии)

Пусть имеет место автокорреляция остатков:
Yt 0 1 X t t
t t 1 t
Yt 0 1 X t t 1 t
Yt 1 0 1 X t 1 t 1 Yt 1 0 1 X t 1 t 1
Yt Yt 1 0 (1 ) 1 ( X t X t 1 ) t
Yt 0 (1 ) 1 X t 1 X t 1 Yt 1 t
51

52. Обобщенный метод наименьших квадратов (на примере парной регрессии)

Обобщенный МНК представляет собой традиционный МНК с
нелинейными ограничениями типа равенств:
Yt 0 1 X t 2 X t 1 Yt 1 t
0 (1 );
0
2
1
Способы решения:
1. Решать задачу нелинейного программирования.
2. Двухшаговый МНК Дарбина.
3. Итеративная процедура расчета.
52

53. Итеративная процедура обобщенного метода наименьших квадратов

1. Считается регрессия и находятся остатки.
2. По остаткам находят оценку коэффициента
автокорреляции остатков.
3. Оценка коэффициента автокорреляции
используется для пересчета данных и цикл
повторяется.
Процесс останавливается, как только
обеспечивается достаточная точность (результаты
перестают существенно улучшаться).
53

54. Обобщенный метод наименьших квадратов. Замечания

Не следует применять обобщенный МНК автоматически
1. Значимый коэффициент DW может указывать
просто на ошибочную спецификацию.
2. Последствия автокорреляции остатков иногда
бывают незначительными.
3. Качество оценок может снизиться из-за
уменьшения числа степеней свободы (нужно
оценивать дополнительный параметр).
4. Значительно возрастает трудоемкость расчетов.
54

55.

Конец лекции
55