Karta z wzorami na II test Metod probabilistycznych
1. Prawdopodobieństwo
klasyczne
• Wariacje z powtórzeniami: nk
n!
• Wariacje bez powtórzeń: (n−k)!
• Permutacje: n!
• Kombinacje: nk
2. Aksjomatyczna def. prawd.
• Definicja σ-ciała zbiorów F ⊆ 2Ω:
1. Ω ∈ F
2. Jeśli A ∈ F to A0 ∈ F
3. Jeśli A1, A2, . . . ∈ F to
A1 ∪ A2 ∪ . . . ∈ F
• Układ zupełny A1, . . . , An:
Ai ∩ Aj = ∅ dla i 6= j, oraz
A1 ∪ . . . ∪ An = Ω
• Prawd. całkowite: jeśli A1, . . . , An –
układ zupełny:
P
P (B) = ni=1 P (Ai)P (B|Ai)
• Wzór Bayesa: jeśli A1, . . . , An – ukł.
zupełny:
i )P (Ai )
=
P (Ai|B) = P (B|A
P (B)
P (B|Ai )P (Ai )
Pn
j=1 P (B|Aj )P (Aj )
4. Niezależność
• Definicja P (A ∩ B) = P (A)P (B).
• Własności σ-ciała: ∅ ∈ F; jeśli
Ogólniej: A1, . . . , An niezależne gdy
A, B ∈ F, to A ∩ B ∈ F, A \ B ∈ F dla każdego S ⊆ {1, 2, . . . , n}:
T
Q
• Własności prawdopodobieństwa:
P i∈S Ai = i∈S P (Ai)
– P (∅) = 0, P (A0) = 1 − P (A)
• Jeśli A ⊥ B to A ⊥ B 0, A0 ⊥ B,
A0 ⊥ B 0
– Jeśli A ⊆ B to
P (B \ A) = P (B) − P (A)
• Jeśli A1, . . . , An – niezależne to
– P (A∪B) = P (A)+P (B)−P (A∩B) P (A1 ∪ . . . ∪ An) =
– P (A1 ∪ . . . ∪ An) ¬
1 − P (A01) · . . . · P (A0n)
P (A1) + . . . + P (An), równość tylko
• Warunkowa niezależność (pod
dla parami rozłącznych zdarzeń
warunkiem C):
(Ai ∩ Aj = ∅ dla i 6= j)
P (A ∩ B|C) = P (A|C)P (B|C)
3. Prawdopodobieństwo
• Spacer losowy:
warunkowe
1−p
p
B
P (A∩B)
P (B)
dla
• Definicja: P (A|B) =
P (B) > 0
• P (A ∩ B) = P (A|B)P (B) =
P (B|A)P (A)
• Reguła łańcuchowa:
P (A1 ∩ . . . ∩ An) = P (A1)P (A2|A1) ·
. . . · P (An|A1 ∩ . . . ∩ An−1)
−b
A
0
a
– Prawdopodobieństwo
osiągnięcia A:

b


(p = 12 )


a+b


p a
p a+b
P (A) = 
(
1−p ) −( 1−p )


(p 6= 21 )


p a+b

1−( 1−p )
– Prawd. osiągnięcia B:
P (B) = 1 − P (A)
5. Zmienne losowe
• Definicja: dowolna mierzalna funkcja
X: Ω → R
• B(n, p) → Pois(λ) dla n → ∞ i
λ = np
6. Momenty zmiennych losowych
• Rozkład zm. losowej: miara PX na R z
• Dla X ∈ {0, 1, . . .}:
P∞
σ-ciałem borelowskim taka, że
EX
=
k=1 P (X ­ k)
−1
PX (A) = P (X ∈ A) = P (X (A))
• Dla Y = f (X):
P
• Dystrybuanta: FX (x) = P (X ¬ x)
EY = x f (x)P (X = x)
• Własności FX : niemalejąca;
• Liniowość: E(aX + b) = aEX + b
F (∞) = 1, F (−∞) = 0;
2
2
• D (X) = E (X − EX) =
P (a < X ¬ b) = F (b) − F (a)
E(X 2) − (EX)2
• Rozkład jednopunktowy:
• D2(aX + b) = a2D2(X)
P (X = c) = 1
• D2(X) ­ 0 oraz D2(X) = 0 ⇐⇒ X
• Rozkład jednostajny:
ma r. jednopunktowy
X ∈ {x1, . . . , xn}, P (X = xi) = n1
• Wartości oczekiwane i wariancje
• Rozkład dwupunktowy B(p):
rozkładów:
X ∈ {0, 1}, P (X = 1) = p,
rozkład X EX D2(X)
P (X = 0) = 1 − p
B(p)
p
p(1 − p)
• Rozkład dwumianowy B(n, p):
B(n, p)
np np(1 − p)
1−p
1
X ∈ {0, 1, . . . , n},
G1(p)
p
p2
n k
n−k
rp
rp
P (X = k) = k p (1 − p)
N B(r, p) 1−p (1−p)
2
• Rozkład geometryczny G1(p):
Pois(λ)
λ
λ
X ∈ {1, 2, . . .},
• Moment rzędu k: mk = E(X k )
k−1
P (X = k) = (1 − p) p
• Mom. centralny
rzędu k:
• Rozkład geometryczny G0(p):
µk = E (X − EX)k
X ∈ {0, 1, . . .},
• Nierówność Markowa: dla nieujemnej
P (X = k) = (1 − p)k p
X i a > 0: P (X ­ a) ¬ EX
a
k
• Dla X ∼ G1(p): P (X > k) = (1 − p)
• Nierówność Czebyszewa:
2
• Brak pamięci X ∼ G1(p):
P (|X − EX| ­ ) ¬ D (X)
2
P (X > k + `|X > k) = P (X > `)
• Dla X ∼ B(n, p) najbardziej
• Rozkład ujemny dwumianowy
prawdopodobna wartość to: (a)
N B(r, p):
b(n + 1)pc jeśli (n + 1)p jest
r+k−1
r k
P (X = k) = r−1 (1 − p) p
niecałkowite; (b) (n + 1)p i
• Rozkład Poissona Pois(λ):
(n + 1)p − 1 (dwie wartości) jeśli
λk −λ
X ∈ {0, 1, . . .}, P (X = k) = k! e
(n + 1)p jest całkowite
7. Wielowymiarowe zmienne
losowe
• Jeśli Y = g(x) to
R∞
EY = −∞
g(x)f (x) dx
• Rozkład jednostajny Unif[a, b]:
1
f (x) = b−a
dla x ∈ [a, b] E(X) =
• Rozkład brzegowy:
a+b
P
P (X = x) = y P (X = x, Y = y)
2 ,
2
D2(X) = (b−a)
• Rozkład warunkowy:
12
P (X=x,Y=y)
• Rozkład wykładniczy Exp(λ):
P (X = x|Y = y) = P (Y=y)
P
f (x) = λe−λx dla x ­ 0,
• P (X ∈ A) = y P (X ∈ A|Y =
F (x) = 1 − e−λx, EX = λ1 ,
y)P (Y = y) (pr. całkowite)
1
2
D
(X)
=
λ2
• Warunkowa wartość oczekiwana:
P
E(X|Y = y) = x x P (X = x|Y = y) • Brak pamięci: jeśli X ∼ Exp(λ) to
P (X ­ b|X ­ a) = P (X ­ b − a)
• E E(X|Y ) = EX
• Rozkład normalny N (µ, σ 2): 8. Wielowymiarowe zm. losowe II f (x) = √ 1 exp − (x−µ)2 ,
2σ 2
2πσ 2
• E(X1 + . . . + Xn) = EX1 + . . . + EXn EX = µ, D2(X) = σ 2
• C(X, Y ) = E (X −EX)(Y −EY ) = • Jeśli X ∼ N (µ, σ 2) to
E(XY ) − (EX)(EY )
aX + b ∼ N (µa + b, a2σ 2)
• D2(X ± Y ) =
• Jeśli X ∼ N (µ, σ 2) to
D2(X) ± 2C(X, Y ) + D2(Y )
Z = X−µ
σ ∼ N (0, 1)
• Jeśli Z ∼ N (0, 1) to
• |C(X, Y )| ¬ D(X)D(Y )
C(X,Y )
X = σZ + µ ∼ N (µ, σ 2)
∈
[−1,
1]
• ρ(X, Y ) = D(X)D(Y
)
• Niezależność: P (X1 ∈ A1, . . . , Xn ∈ • Dystrybuanta Z ∼ N (0, 1):
An) = P (X1 ∈ A1) · . . . · P (Xn ∈ An) Φ(z) = P (Z ¬ z), Φ(−z) = 1 − Φ(z)
• Dla niezależnych X1, . . . , Xn:
10. Ciągłe zmienne losowe II
E(X1 · . . . · Xn) = EX1 · . . . · EXn
R∞ R∞
• −∞
−∞ f (x, y) dx dy = 1
• Dla niezależnych X, Y : C(X, Y ) = 0
• Gęstość brzegowa:
R∞
• Dla niezależnych X1, . . . , Xn:
f
(x)
=
X
−∞ f (x, y) dy
D2(X1 ± . . . ± Xn) =
• Gęstość warunkowa: fY |X (y|x) = ff(x,y)
2
2
(x)
D (X1) + . . . + D (Xn)
R∞
• fY (y) = −∞ fY |X (y|x)fX (x) dx
• Jeśli X1, . . . , Xn ∼ B(p) niezależne to
P
• Zmienne niezależne:
Y = ni=1 Xi ∼ B(n, p)
f (x1, . . . , xn) = fX1 (x1) · . . . · fXn (xn)
9. Ciągłe zmienne losowe
• X1, . . . , Xn – niezależne o tej samej
dystryb. FX , Y = maxi{Xi},
• Dla Y = g(X) g różniczkowalna
i
odwracalna: fY (y) = fX h(y) |h0(y)|, Z = mini{Xi} to FY (y) = FX (y)n,
gdzie h = g −1
FZ (z) = 1 − (1 − FX (z))n
D
• Jeśli X, Y niezależne i Z = X + Y to: • Xn →
X: limn→∞ FXn (x) = FX (x) w
R∞
fZ (z) = −∞ fX (x)fY (z − x) dx
każdym punkcie ciągłości FX
(splot)
• Tw. Moivre’a-Laplace’a: jeśli
2
• Jeśli X ∼ N (µX , σX ),
X1, . . . , Xn ∼ B(p) niezależnie, to
√
2
Y ∼ N (µY , σY ), oraz X, Y –
Un = √Sn−np = √X n−p n zbiega
np(1−p)
p(1−p)
niezależne to:
do Z ∼ N (0, 1) w sensie:
2
Z = X + Y ∼ N (µX + µY , σX
+ σY2 )
∀x, limn→∞ FUn (x) → Φ(x)
2
• Xi ∼ N (µi, σi ) – niezależne,
• Tw. Lindeberga-Levy’ego: jeśli
P
Z = ni=1
a
X
,
to:
i i
X1, . . . , Xn niezależne o tym samym
Pn
Pn
2 2
Z ∼ N i=1 aiµi, i=1 ai σi
rozkładzie, EX = µ, D2(X) = σ 2 to
P
• Z ma rozkład χ2(k) jeśli Z = ki=1 Xi2 Un = X n−µ √n zbiega do Z ∼ N (0, 1)
σ
gdzie Xi ∼ N (0, 1), niezależne.
w sensie: ∀x, limn→∞ FUn (x) → Φ(x)
EZ = k
• Wniosek: jeśli S ∼ B(n, p) to S
n
• T ma rozkład
t-Studenta, t(k), jeśli
√
T = √XZ k, gdzie X ∼ N (0, 1),
Z ∼ χ2(k), X i Z niezależne
11. Twierdzenia graniczne
• Jeśli X1, . . . , Xn niezależne o tym
samym rozkł. z EXi = µ i
D2(Xi) = σ 2 to EX n = µ oraz
2
D2(X n) = σn
P
• Xn →
X:
∀ > 0, limn→∞ P (|Xn −X| > ) = 0
z pr. 1
P
D
• Xn → X ⇒ Xn →
X ⇒ Xn →
X
• PWL Bernoulliego: jeśli
X1, . . . , Xn ∼ B(p) niezależne, to
∀ > 0, limn→∞ P (|X n −p| ¬ ) = 1
• PWL Chińczyna: jeśli X1, . . . , Xn
niezależne o tym samym rozkładzie,
EX = µ, D2(X) < ∞ to to
∀ > 0, limn→∞ P (|X n −µ| ¬ ) = 1
• Dla U = X−EX
D(X) mamy EU = 0,
D2(U ) = 1
n
można przybliżyć zmienną
X ∼ N (np, np(1 − p)) (warunek:
np ­ 5 i n(1 − p) ­ 5)