Теория вероятности и математическая статистика
Лекция 1. Теория вероятности: основные понятия, комбинаторика.
1
Ресурсы
1. MITx’s Statistics and Data Science MicroMasters Program
®
https://www.edx.org/micromasters/mitx-statistics-and-data-science
2. MIT OpenCourseWare. Courses: 6.86x, 18.6501x, 6.431x,
6.876x, 18.06x, 18.01x…. https://ocw.mit.edu/
3. Bertsekas D.P., Tsitsiklis J.N. Introduction to Probability, 2nd
Edition / Athena Scienti c, Belmont, Massachusetts, 2011. 539 c.
4. DeGroot, Morris H., and Mark J. Schervish. Probability
and statistics. Pearson Education, 2012.
5. Wasserman, L. (2013). All of statistics: a concise course in
statistical inference. Springer Science & Business Media.
fi
2
Теория вероятности, статистика и данные
Прогнозы
МИР
Принятия решений
Данные
Вероятностный
анализ
Модели
Статистика и
вывод
3
Множества
4
Пространство элементарных событий
Описывает:
-
возможные исходы
предположения о вероятности этих исходов
Множество всех возможных исходов - Ω (sample space)
Элемент множества ω
∈ Ω - элементарное событие
Элементы множества должны быть:
- взаимоисключающими
- взаимно исчерпывающими
- “корректной степени детализации”
5
Пространство элементарных событий
Какое пространство событий задано корректно?
1.
Ω = {Орел и идёт дождь, Орел и нет дождя, Решка}
2.
Ω = {Орел и идёт дождь, Решка и нет дождя, Решка}
6
Пространство элементарных событий
Дискретное пространство
Непрерывное пространство
Y
Y - второй бросок
X - первый бросок
1
2
1
1,1
2,1
2
1,2
3
3
4
1
4
4,3
3,4
0
Может быть представлено в
виде таблицы, дерева исходов
1
0 ≤ X, Y ≤ 1
7
X
Аксиомы вероятности
Событие/исход (event) - это подмножество пространства
элементарных событий.
Вероятность (probability) всегда сопоставлена с событием.
Аксиомы:
- вероятность всегда положительна P(A)
- нормализация P(Ω)
≥0
=1
- конечная аддитивность: если A ∩ B
P(A ∪ B) = P(A) + P(B)
8
= Ø, тогда
Следствия из аксиом
Аксиома:
Следствие:
P(A) ≥ 0
P(A) ≤ 1
P(Ω) = 1
P(∅) = 0
Для не пересекающихся событий:
c
P(A ∪ B) = P(A) + P(B)
P(A) + P(A ) = 1
P(A ∪ B ∪ C) = P(A) + P(B) + P(C)
P({s1}, {s2}, . . . , {sk}) = P({s1}) + P({s2}) + . . . + P({sk})
Если A
⊂ B, тогда P(B) ≥ P(A)
9
Следствия из аксиом
c
1 = P(Ω) = P(A ∪ A ) = P(A) + P(A )
c
P(A) = 1 − P(A c) ≤ 1
A∩A =∅
A∪A =Ω
c
c
c
1 = P(Ω) + P(Ω )
1 = 1 + P(∅) ⇒ P(∅) = 0
Для пересекающихся событий:
P(A ∪ B) = P(A) + P(B) − P(A ∩ B)
c
c
c
P(A ∪ B ∪ C) = A ∪ (B ∩ A ) ∪ (C ∩ A ∩ B )
c
c
c
P(A ∪ B ∪ C) = P(A) + P(B ∩ A ) + P(C ∩ A ∩ B )
10
Следствия из аксиом
Пусть A, B, C непересекающиеся события.
Верны ли утверждения:
c
c
P(A) + P(A ) + P(B) = P(A ∪ A ∪ B) ?
P(A) + P(B) ≤ 1 ?
c
P(A ) + P(B) ≤ 1 ?
P(A ∪ B ∪ C) ≥ P(A ∪ B) ?
Пусть A, B ∈ Ω и P(A) = 0.4, P(B)
Пересекаются ли эти события?
11
= 0.7
Задача
В группе студентов есть 60% гениев, 70% любителей
шоколада и 40% тех, кто находится в двух категориях.
Определите вероятность того, что случайно выбранный
студент не находится ни в одной из категорий.
12
Вычисление вероятностей
Дискретный случай
Кол-во возможных исходов = 4*4 = 16
Пусть вероятность 1 исхода = 1/16
X - первый бросок
Y - второй бросок
1
1
2
3
P(X = 1) = 4/16 = 1/4
4
Пусть Z
2
= min(X, Y )
P(Z = 4) = 1/16
3
P(Z = 2) = 5/16
4
13
Дискретное равномерное распределение
Пусть Ω содержит n конечных равновероятных элементов
Пусть A содержит k элементов
Ω
Тогда:
A
k
P(A) =
n
Discrete uniform law
14
Непрерывное равномерное распределение
Вероятность = Площадь
Непрерывное пространство
Y
Вероятность в точке, например,
P({1,1}) = 0!
1
x + y = 1/2
P({x, y} | x + y ≤ 1/2) =
1/2 ⋅ 1/2 ⋅ 1/2 = 1/8
Ω
1/2
0
1/2
0 ≤ X, Y ≤ 1
Uniform probability law
15
1
X
Задача
Ромео и Джульетта встречаются в определённый день.
Каждый из них прибывает к месту со случайной
задержкой в течение 1 часа, все опоздания
равновероятны (равномерное распределение на
единичном квадрате). Первый прибывший будет ждать
15 минут и затем уйдет, если другой не появится в
течение этого времени. Какова вероятность того, что
они встретятся??
16
Вычисление вероятностей
1. Определить пространство элементарных исходов
2. Определить распределение вероятностей
3. Определить событие
4. Рассчитать вероятность
17
Вычисление вероятностей
Дискретное, но бесконечно распределение
p
Ω = {1,2,3,...}
1/2
1
P(n) = n
2
∞
1/4
1/8
∞
1
1
1
1
1
=
=
⋅
∑ 2n 2 ∑ 2n 2 1 −
n=1
n=0
1/16
1
2
0
18
1
2
3
4
……….
Аксиома счётной аддитивности
Countable additivity axiom
Если A1, A2, A3, . . . , бесконечная последовательность не
пересекающихся событий, тогда:
P(A1 ∪ A2 ∪ A3 ∪ . . . ) = P(A1) + P(A2) + P(A3) + . . .
Аддитивность применима только к счётным событиям
Единичный квадрат, прямая и т.д. несчётно, так как элементы
этих множеств не могут быть последовательностью
19
Комбинаторика
https://youtu.be/nEEpOu5CMKI
20
Комбинаторика
Пусть Ω содержит n конечных равновероятных элементов
Пусть A содержит k элементов
Тогда:
Anumber
k
P(A) =
=
Ωnumber n
Discrete uniform law
21
Ω
A
Счётный принцип
У вас в шкафу:
- 4 пары брюк;
- 5 рубашек/блузок
- 3 пиджака
Сколько всего вариантов одеться??
22
Перестановки
Permutations
Перестановки - это количество способов выстроить n элементов
n элементов
n ⋅ (n − 1) ⋅ (n − 2) ⋅ (n − 3) ⋅ . . . ⋅ 1 = n!
n!
k-перестановок для n элементов:
(n − k)!
23
Количество под-множеств
Subsets
Это количество под-множеств, которые можно сделать из n
элементов
Одно множество
n элементов
Включаем/не включаем
2 ⋅ 2 ⋅ 2 ⋅ . . . . ⋅ 2 = 2n
24
Пример 1
Какова вероятность того, что за 6 бросков шестистороннего кубика 6 раз выпадет разный номер?
(все исходы равновероятны)
Вероятность всех исходов нашего эксперимента:
1
P(1,2,3,4,5,6) = 6
6
Кол-во перестановок в A:
P(1,2,3,4,5,6) = 6!
Вероятность искомого события:
numbers in A
6!
P(A) =
= 6
possible outcomes
6
25
Задача
8 ладей стоят на шахматной доске. Все возможные
варианты расстановки ладей - равновероятны.
Найдите вероятность такой расстановки, что ни
одна не угрожает другой следующим ходом.
26
Комбинации
n
n!
Определение:
количество «способов»
=
( k ) k!(n − k)!
выбрать k элементов из множества n.
n
n!
=
=1
( n ) n!0!
n
n!
=
=1
( 0 ) 0!n!
0! = 1 - это соглашение
n
n
n
n
n
=
+
+ ... +
=2
∑ ( k ) (0) (1)
(k)
k=0
n
- все подмножества
27
Биномиальный коэффициент и вероятности
Пусть n
≥ 1 раз независимо подбросили монету, и пусть P(H) = p, тогда
n
p k(1 − p)n−k
вероятность P(k = number of heads) =
(k)
P(HTTHHH) = p(1 − p)(1 − p)ppp = p 4(1 − p)2 - вероятность
конкретной последовательности орлов/решек, то есть:
P(particular number of k heads) = p k(1 − p)n−k
P(k = number of heads) = p k(1 − p)n−k × кол-во
последовательностей с k-решками
28
Полиномиальный коэффициент
Пусть есть n
≥ 1 предметов и r ≥ 1 людей
Мы раздаём ni предметов человеку i
При этом n1, n2, . . . , nr неотрицательные целые числа и
n1 + n2 + . . . + nr = n
n!
«Кол-во разбиений на людей» =
n1 !n2 ! . . . nr !
В общем случае, полиномиальный коэффициент это количество
способов распределить n элементов на r групп
При r
= 2 это биномиальный коэффициент (частный случай):
n1 = k, n2 = n − k
29
Пример 2
Допустим 20 работников компании необходимо назначить
в три комитета. Так, работник может быть назначен
только в один комитет. Пусть в каждом из трех комитетов
есть 8, 8 и 4 свободных кресел. Сколько вариантов
назначить 20 сотрудников в три комитета?
n!
20!
=
= 62355150
n1 !n2 ! . . . nr ! 8!8!4!
30
Пример 3
Есть 52 карты, которые раздаются честно на 4 игроков. Найдите
вероятность того, что у каждого игрока будет туз.
Модель: исходы равновероятны.
52!
Всего исходов:
13!13!13!13!
Распределяем 4 туза: 4 ⋅ 3 ⋅ 2 ⋅ 1
48!
Распределяем оставшиеся 48 карт:
12!12!12!12!
Ответ:
4⋅3
48!
⋅ 2 ⋅ 1 12!12!12!12!
52!
13!13!13!13!
31