Необходимые сведения из теории вероятности. (Лекция 4 по эконометрике)

1.

Лекция 4
Необходимые сведения из
теории вероятности
1

2.

Математическое ожидание (среднее значение)
Дисперсия и среднее квадратическое отклонение
Ковариация и коэффициент корреляции
2

3.

Определение. Математическим ожиданием дискретной
случайной переменной называется величина:
M x Pi xi
n
i 1
(4.1)
где: M(x) – математическое ожидание СДП х,
Pi
- вероятность появления в опытах значения xi,
xi
- значение дискретной случайной переменной,
n
- количество допустимых значений дискретной
случайной величины
Математическое ожидание – средневзвешенное значение
ДСП, где в качестве веса используется значение
вероятности
3

4.

Определение. Дисперсией дискретной случайной
переменной называется величина:
σ x xi M x P xi
n
2
i 1
2
(4.2)
где: σ2(x) – дисперсия случайной переменной х
Дисперсия случайной величины выступает в качестве
характеристики разброса возможных ее значений
Положительный корень из дисперсии называют средним
квадратическим отклонением или стандартным
отклонением, или стандартной ошибкой
4

5.

Пример 1. Пусть Xi – результат бросания кубика.
Ax={1,2,3,4,5,6}
Pi={1/6,1/6,1/6,1/6,1/6,1/6}
Тогда:
M(x) = 1/6(1+2+3+4+5+6) = 3.5
σ2(x) =1/6[(1-3.5)2+(2-3.5)2+(3-3.5)2+(4-3.5)2+(5-3.5)2+ (63.5)2]=2.92
σ(x) = 1.71
5

6.

Пример 2. Индикатор случайного события
1 если событие произошло
I
0 если событие не произошло
если t 1
p
PI ( t )
(1 p) если t 0
Математическое ожидание
M I p j Ij p 1 (1 p) 0 p
n
j 1
Дисперсия
2
I Ij M I p j 1 p p (0 p) (1 p) p(1 p)
2
2
2
6

7.

Определение. Математическим ожиданием
непрерывной случайной величины Х с законом
распределения рx(t) называется величина:
M x
tp t dt
(4.3)
x
Выражение (4.3) называется первым начальным
моментом функции рх(t)
Через результаты наблюдений математическое ожидание
вычисляется как:
7

8.

Определение. Дисперсией непрерывной случайной
переменной Х с функцией плотности вероятности рx(t)
называется выражение:
x t M x p t dt
2
2
(4.4)
x
Выражение (4.4) называют вторым центральным моментом
функции px(t)
В общем случае дисперсия случайной переменной
определяется как:
x M( x M( x))
2
2
(4.5)
8

9.

Часто применяется другая формула для вычисления
дисперсии
x M x M( x)
2
2
M( x 2 2xM( x ) M2 ( x )) M( x 2 ) M2 ( x )
Экспериментальное значение дисперсии может быть
вычислено по формуле
2
2
1 n
x
xi M(x)
n 1 i 1
9

10.

Пример 1. Пусть Х НСП с равномерным законом
распределения.
2
b
1
1 t
M x t
dt
b a b a 2
a
2
1 a b
a b 1
x t
dt
t
2 b a
3 b a
2
a
b
2
b a
2
3
b a
2
12
Самостоятельно вычислить математическое ожидание
и дисперсию НСП с нормальным законом
распределения
10

11.

По определению ковариацией двух случайных
переменных X и Yесть:
COV x, y M x M( x) y M(y)
(4.6)
Значение ковариации отражает наличие связи между
двумя случайными переменными
Если COV(x,y)>0, связь между X и Y положительная
Если COV(x,y)<0, связь между X и Y отрицательная
Если COV(x,y)=0, X и Y независимые переменные
Область возможных значений ковариации – вся числовая
ось
11

12.

Недостатки ковариации в том, что ее значения зависят от
масштаба измерения переменных и наличии размерности
Недостатки устраняется путем деления значения
ковариации на значения стандартных отклонений
переменных:
COV x, y
x, y
( x ) ( y )
(4.7)
Выражение (4.7) называют коэффициентом корреляции
двух случайных переменных
Коэффициент корреляции изменяется в пределах [-1;1] и
является безразмерной величиной
12

13.

Свойства математического ожидания
M c c
M c1 x c 2 y c1M( x ) c 2 M( y )
Пример
y f ( x) u
M u x 0
u x
2
2
u
M( y ) M( f ( x )) M(u) f ( x )
13

14.

2. Свойства дисперсий
с 0
сx c x
с x c y c x c y 2c c COV( x, y)
2
2
2
2
2
1
2
1
2
2
2
2
2
1 2
В общем случае
2
где
T
n
T
c i xi C COV X X C
i 1
T
C c 1, c 2 ,..., c n
T
X x1, x 2 ,..., x n
14

15.

Свойства ковариаций
Cov(x,y) = Cov(y,x)
Cov(c1x1 + c2x2)=c1c2Cov(x1,x2)
Cov(cx) = 0
Cov(x+c,y) = Cov(x,y)
Cov(x+y,z) = Cov(x,z) + Cov(y,z)
Cov(x,x) = σ2(x)
Доказательства этих свойств проведите самостоятельно!
15

16.

Случайный вектор и его характеристики
Пусть опыт – инвестирование средств на некоторый
период времени в рисковые активы А={a1, a2,…,an)
Рисковый характер актива означает, что значения
доходности на них являются случайными величинами r(a1),
r(a2),…,r(an)
Определение. Вектор, компонентами которого являются
случайные величины, называется случайным вектором
Пример 1. Вектор доходностей по рисковым активам
R (r1, r 2 ,..., r n )T
(4.8)
Пример 2. Опыт – бросание игральной кости.
Пусть X – количество очков на верхней грани кости, а Y –
количество очков на его нижней грани
Тогда вектор Z={X, Y}T –пример случайного вектора
16

17.

Случайный вектор и его характеристики
Пусть mi = M(r(ai)) – ожидаемое значение доходности
актива ai,
σi2 = M(r(ai) - mi )2 –дисперсия доходности актива ai,
σij =Cov(r(ai),r(aj)) - ковариация между активами ai, aj.
Тогда вектор
M m1, m2 ,..., mn M R
(4.9)
является первой основной характеристикой случайного
вектора (4.8)
Замечание. Вектор М является константой
Ковариационная матрица
12
r r ...21
n1
12
2
2
...
n 2
...
...
...
...
12
2 n
...
2
n
является второй основной характеристикой случайного вектора R
17

18.

Случайный вектор и его характеристики
По предложению Марковца компоненты вектора R
рассматривается как характеристики привлекательности
каждого рискового актива, а диагональные элементы
ковариационной матрицы – как характеристики риска
инвестирования в эти активы
Параметрической моделью Марковца называется
следующая тройка:
{A, M, σrr}
(4.10)
Для формирования индивидуального пакета акций из
списка А ничего больше не требуется
Эта модель является инструментом брокерской
деятельности
18

19.

Основные понятия математической
статистики
Задачи математической статистики
1.Оценивание (приближенное определение) параметров
законов распределения и самих законов
2. Проверка различных гипотез относительно законов
распределения или значений их параметров
Далее будем рассматривать случайные величины с
законом распределения R(t,a1,a2,…,an), где A={a1,a2,…,an}T
вектор столбец параметров распределения
19

20.

Выборка и ее свойства
Определение. Выборка – это случайный вектор,
составленный из результатов наблюдений, каждое из
которых суть независимая случайная величина
Пусть y1, y2,…,yn результаты наблюдения за поведением
случайной величины Y c законом распределения Py(t,A)
Тогда выборка есть вектор, собранный из результатов
наблюдений Y=(y1, y2,…,yn)T
Каждый элемент выборки есть случайная величина и,
следовательно, имеет свой закон распределения
Py(y1, a1,a2,…,ak)
Py(y2, a1,a2,…, ak)
…………………..
Py(yn, a1,a2,…,ak);
20

21.

Выборка и ее свойства
Свойства случайной выборки
1. Каждый элемент выборки есть случайная величина с
тем же законом распределения, что и случайная
величина Y
2. Все значения, входящие в выборку независимые
величины
Тогда для них справедлива теорема умножения
вероятностей:
Py(y1,y2,…,ynA)=Py(t1, A) Py(t2, A)… Py(tn, A)
Это выражение – закон распределения выборки
Задача заключается в том, чтобы найти процедуры, с
помощью которых можно найти значения параметров
распределения.
A = F(y1,y2,…,yn)
21

22.

Оценка представляет собой частный случай случайной
величины
Например. Рассмотрим оценку математического
ожидания в виде среднего значения:
~ 1 n
X xi
n i 1
(4.11)
Замечание
Любую случайную величину можно представить в виде:
Xi = μ + Ui
где: Ui – случайная величина
μ – константа равная математическому ожиданию Xi
~ 1 n
X ui u
n i 1
22

23.

1. Несмещенность оценки
M ~
a M a
(4.12)
Процедуры, которые дают такие оценки будим называть
несмещенными
Замечание. Несмещенных процедур может быть много
Пример. Рассмотрим процедуру оценки математического
ожидания
~
1 n
X xi
n i 1
Эта процедура несмещенная т.к
~
M X M ui M(u)
23

24.

Вопрос. Можно ли найти иную несмещенную процедуру?
Пусть имеем выборку наблюдений за случайной
величиной Х с законом распределения Px(t) из двух
значений x1 и x2, следовательно для нее справедливо:
M x1 M x 2
x x s
2
2
1
2
2
Пусть такой процедурой будет: Z=λ1x1+λ2x2
Тогда
~
M Z M 1 x1 2 x2 1M x1 2 M x2 1 2
Вывод. Все процедуры, для которых λ1+λ2=1 дают
несмещенные оценки среднего значения.
24

25.

2. Эффективность оценки
Определение. Оценка называется эффективной среди
всех оценок параметра, если она имеет минимальную
дисперсию среди всех возможных оценок: σ2(ã) =min
Задача. При каких значениях λ1 и λ2 оценка среднего
значения будет эффективной?
Найдем при каких значениях λ1 и λ2 достигается минимум
дисперсии оценки Z
2
2
~
Z 1 x1 2 x2 12 22 s2
Учитывая, что (λ1+λ2)=1 или λ2= (1-λ1), получим:
2
2
~
2
Z 1 1 1 s2
(4.13)
25

26.

Тогда для нахождения минимума выражения (4.13)
составляем уравнение
~
2 Z
2 1 2 1 1 s 0
1
Откуда следует, что λ1= 1/2
Вторая производная положительна, следовательно, это
минимум
Вывод. Оценка (4.11) является несмещенной и
эффективной
Аналогичным образом можно показать, что известная
оценка дисперсии также не смещена и эффективна
26

27.

Определение. Оценка, достигающая выполнения условий
несмещенности и эффективности вне зависимости от
объема выборки называется несмещенной и эффективной
Определение. Оценка, достигающая выполнения условий
несмещенности и эффективности при неограниченном
увеличении объема выборки называется ассимптотически
несмещенной и эффективной
Определение. Оценка, достигающая выполнения условий
несмещенности при неограниченном увеличении объема
выборки называется состоятельной
27

28.

Выводы:
1. Методами математической статистики удается
получить оценки параметров законов распределения
(моделей)
2. Наилучшими считаются оценки, обладающие
свойствами несмещенности и эффективности
3. На практике принимаются оценки,
удовлетворяющие свойству состоятельности
28