Элементы теории вероятностей

1. Элементы теории вероятностей

По материалам учебника
Гнеденко Б.В. «Курс теории вероятностей»,
7-е издание, 2001

2. На чем основана теория информации?

Теория
информации
Теория
вероятностей
Теория
множеств

3.

Все эти операции над множествами описываются тремя операциями:
•Операцией объединения
•Операцией пересечения
•Операцией отрицания.

4. Аксиоматическое построение теории вероятности предложено Андреем Николаевичем Колмогоровым (25 апреля 1903 – 20 октября 1987)

5. Аксиоматическое построение теории вероятности предложено Андреем Николаевичем Колмогоровым

Предположим, есть некоторое полное
множество всех возможных элементарных
событий - E. Это множество состоит из ряда
несовместимых событий: A1, A2, A3, …, An, …

6. Аксиоматическое построение теории вероятности предложено Андреем Николаевичем Колмогоровым:

Аксиома 1. Каждому случайному событию A
поставлено в соответствие неотрицательное
число P(A), называемое его вероятностью.
Аксиома 2. P(E) = 1.
Аксиома 3. (аксиома сложения). Если события
A1, A2, A3, …, An попарно несовместимы, то
P(A1+A2+A3+…+An) =
P(A1) + P(A2) + P(A3) + …+ P(An).

7. Элементарные следствия аксиом:

1. Вероятность невозможного события
равна нулю.
Из очевидного равенства
E E
и аксиомы 3 следует, что
P( E ) P( ) P( E )

8. Элементарные следствия аксиом:

2. Для любого события А
P( A) 1 P( A)

9. Элементарные следствия аксиом:

3. Каково бы ни было случайное событие А,
0 P( A) 1

10. Элементарные следствия аксиом:

4. Если событие А влечет за собой событие В, то
P ( A) P ( B )

11. Элементарные следствия аксиом:

5. Пусть А и В – это два произвольных события. Поскольку в
суммах
A B A ( B AB)
=
+
=
+
и
B AB ( B AB)
слагаемые являются несовместимыми событиями, то по аксиоме
3 имеем: P( A B) P( A) P( B AB)
P( B) P( AB) P( B AB)
Отсюда следует теорема сложения для произвольных событий А
и В:
P( A B) P( A) P( B) P( AB)

12. Условная вероятность и простейшие основные формулы

P( AB)
P( A | B)
P( B)
Если
P( A) P( B) 0,
P( AB)
P( B | A)
P( A)
то справедлива теорема умножения:
вероятность произведения двух случайных событий равна
произведению вероятности одного из этих событий на условную
вероятность другого, при условии, что первое произошло:
P( AB) P( A) P( B | A) P( B) P( A | B)

13. Независимость случайных событий

Говорят, что событие А независимо от события
В, если имеет место равенство:
P( A | B) P( A),
то есть, если наступление события В не
изменяет вероятности события А.
Из предыдущей теоремы умножения:
P( AB) P( A) P( B | A) P( B) P( A | B)
следует, что
P( AB) P( A) P( B)

14. Для независимых событий теорема умножения

P( AB) P( A) P( B | A) P( B) P( A | B)
принимает особенно простой вид, а именно,
если события А и В независимы, то
P( AB) P( A) P( B)

15. Формула полной вероятности

Предположим, что событие В может осуществиться с одним и
только с одним и n несовместимых событий A1, A2, A3, …, An.
Иными словами положим, что
n
B B Ai
i 1
События ВАi и ВАj с разными индексами i и j несовместимы.
По теореме сложения вероятностей имеем:
n
P( B) P( B Ai )
i 1
Использовав теорему умножения, находим, что
n
P( B) P( Ai ) P( B | Ai )
i 1

16. Пример. Имеется 5 урн:

2 урны состава А1 – 2 белых и 1 черный шар;
1 урна состава А2 – 10 черных шаров;
2 урны состава А3 – 3 белых и 1 черный шар.
Наудачу выбирается урна и из неё наудачу вынимается шар.
Чему равна вероятность, что вынутый шар белый (событие В)?
Решение:
B A1B A2 B A3 B
По формуле полной вероятности находим, что
P( B) P( A1 ) P( B | A1 ) P( A2 ) P( B | A2 ) P( A3 ) P( B | A3 )
2 2 1 0 2 3 17
P( B)
5 3 5 10 5 4 30

17. Формула Байеса

n
Пусть по-прежнему B B Ai .
Найти
P( Ai | B).
i 1
По теореме умножения имеем:
P( Ai B) P( Ai ) P( B | Ai ) P( B) P( Ai | B)
P( Ai ) P( B | Ai )
P( Ai | B)
P( B)
Используя формулу полной вероятности, находим, что
P( Ai | B)
P( Ai ) P( B | Ai )
n
P( A ) P( B | A )
k 1
k
k
.

18. Пример. Имеется 5 урн следующего состава:

2 урны состава А1 – 2 белых и 3 черных шара;
2 урна состава А2 – 1 белый и 4 черных шара;
1 урны состава А3 – 4 белых и 1 черный шар.
Из одной наудачу выбранной урны взят шар. Он оказался
белым (событие В). Чему равна апостериорная вероятность
того, что шар вынут из урны состава А3?
Решение: По формуле Байеса имеем
P( A3 ) P( B | A3 )
P( A3 | B)
P( A1 ) P( B | A1 ) P( A2 ) P( B | A2 ) P( A3 ) P( B | A3 )
1 4
4 2
5
5
P( A3 | B)
2 2 1 2 1 4 10 5
5 5 5 5 5 5