Funkcja tworząca prawdopodobieństwa

Funkcja tworząca prawdopodobieństwa dyskretnej zmiennej losowej – przedstawienie szeregu potęgowego (funkcji tworzącej) funkcji masy prawdopodobieństwa zmiennej losowej. Funkcje tworzące prawdopodobieństwa są często wykorzystywane ze względu na ich zwięzły opis ciągu prawdopodobieństw $\mathbb {P} (X=k)$ w funkcji rozkładu prawdopodobieństwa zmiennej losowej $X$ oraz do połączenia z dobrze rozwiniętą teorią szeregów potęgowych z nieujemnymi współczynnikami.

Definicja formalna

Przypadek jednowymiarowy

Jeżeli $X$ jest dyskretną zmienną losową o wartościach ze zbioru nieujemnych liczb całkowitych $\{0,1,\dots \},$ to funkcja tworząca prawdopodobieństwo X jest definiowana jako

$G_{X}(z)=\mathbb {E} (z^{X})=\sum _{k=0}^{\infty }\mathbb {P} (X=k)z^{k}.$

Indeksy w oznaczeniach $G_{X}$ i $P_{X}$ są często używane do podkreślenia, że te oznaczenia odnoszą się do konkretnej zmiennej losowej $X$ i do jej rozkładu. Szereg potęgowy jest zbieżny bezwzględnie co najmniej dla wszystkich liczb zespolonych $z,$ takich że $|z|\leqslant 1.$ W wielu przykładach promień zbieżności jest większy.

Przypadek wielowymiarowy

Jeśli $X=(X_{1},\dots ,X_{d})$ jest dyskretną zmienną losową o wartościach w $d$-wymiarowej kracie nieujemnych liczb całkowitych $\{0,1,\dots \}^{d},$ wtedy funkcję tworząca prawdopodobieństwa X jest zdefiniowana jako

$G(z)=G(z_{1},\dots ,z_{d})=\mathbb {E} {\big (}z_{1}^{X_{1}}\ldots z_{d}^{X_{d}}{\big )}=\sum _{x_{1},\dots ,x_{d}=0}^{\infty }p(x_{1},\dots ,x_{d})z_{1}^{x_{1}}\ldots z_{d}^{x_{d}},$

gdzie $p$ jest funkcją masy prawdopodobieństwa $X.$ Szereg potęgowy jest zbieżny bezwzględnie co najmniej na wszystkich złożonych wektorach $z=(z_{1},\dots ,z_{d})\in C_{d}$ z $\max\{|z_{1}|,\dots ,|z_{d}|\}\leqslant 1.$

Właściwości

Szeregi potęgowe

Funkcje tworzące prawdopodobieństwo spełniają wszystkie warunki szeregów potęgowych o współczynnikach nieujemnych. W szczególności, $G(1^{-})=1,$ gdzie $G(1^{-})=\lim _{z\to 1^{-}}G(z)$ od dołu, ponieważ prawdopodobieństwa muszą sumować się do jedynki. Wynika z tego, że promień zbieżności każdej funkcji tworzącej prawdopodobieństwa musi być równy co najmniej 1 na mocy twierdzenia Abela dla szeregów potęgowych o nieujemnych współczynnikach.

Prawdopodobieństwa i wartości oczekiwane

Następujące własności pozwalają na wyprowadzenie różnych podstawowych wielkości związanych z $X{:}$

1. Funkcja gęstości prawdopodobieństwa $X$ można wyznaczyć za pomocą pochodnej $G$

$p(k)=\mathbb {P} (X=k)={\frac {G^{(k)}(0)}{k!}}.$

2. Z Własności 1 wynika, że jeśli zmienne losowe $X$ i $Y$ mają równe funkcje tworzące prawdopodobieństwa, $G_{X}=G_{Y},$ to $P_{X}=P_{Y}.$ To znaczy, że jeśli $X$ i $Y$ mają funkcje tworzące prawdopodobieństwa, to mają identyczne rozkłady.

3. Normalizacja funkcji gęstości prawdopodobieństwa może być wyrażona poprzez funkcje tworzące wzorem:

$\mathbb {E} (1)=G(1^{-})=\sum _{i=0}^{\infty }f(i)=1.$

Wartość oczekiwana $X$ jest wyrażona jako

$\mathbb {E} (X)=G'(1^{-}).$

Bardziej ogólnie, $k$-ty moment silni $\mathbb {E} (X)_{n}=\mathbb {E} (X(X-1)\dots (X-k+1)),$ $X$ jest dany przez

${\textrm {E}}\left({\frac {X!}{(X-k)!}}\right)=G^{(k)}(1^{-}),\quad k\geqslant 0.$

Więc wariancja $X$ jest wyrażona przez

$\operatorname {Var} (X)=G''(1^{-})+G'(1^{-})-[G'(1^{-})]^{2}.$

4. $G_{x}(e^{t})=M_{X}(t),$ gdzie $X$ jest zmienną losową, $G(t)$ funkcją tworzącą prawdopodobieństwa, a $M(t)$ jest funkcją tworzącą momenty.

Funkcje niezależnych zmiennych losowych

Funkcje tworzące prawdopodobieństwo są szczególnie przydatne przy zajmowaniu się funkcjami niezależnych zmiennych losowych. Na przykład:

• Jeśli $X_{1},X_{2},\dots ,X_{n}$ jest ciągiem niezależnych (i niekoniecznie o identycznym rozkładzie) zmiennych losowych i

$S_{n}=\sum _{i=1}^{n}a_{i}X_{i},$

gdzie a_i są stałymi, wtedy funkcja tworząca prawdopodobieństwa jest dana przez

$G_{S_{n}}(z)=\mathbb {E} (z^{S_{n}})=\mathbb {E} (z^{\sum _{i=1}^{n}a_{i}X_{i}})=G_{X_{1}}(z^{a_{1}})G_{X_{2}}(z^{a_{2}})\ldots G_{X_{n}}(z^{a_{n}}).$

Na przykład jeśli

$S_{n}=\sum _{i=1}^{n}X_{i},$

to funkcja tworząca prawdopodobieństwa $G\ Sn\ (z),$ jest dana przez

$G_{S_{n}}(z)=G_{X_{1}}(z)G_{X_{2}}(z)\ldots G_{X_{n}}(z).$

Z powyższego wynika również, że funkcja tworząca prawdopodobieństwa różnicy dwóch niezależnych zmiennych losowych $S=X_{1}-X_{2}$ jest

$G_{S}(z)=G_{X_{1}}(z)G_{X_{2}}(1/z).$

• Przypuśćmy, że $N$ jest także niezależną dyskretną zmienną losową przyjmującą wartości nieujemnych liczb całkowitych, z funkcją tworzącą prawdopodobieństwa $G_{N}.$ Jeśli $x_{1},x_{2},\dots ,X_{n}$ są niezależnymi $i$ i o identycznych rozkładach ze wspólną funkcją tworzącą prawdopodobieństwa $G_{X},$ wtedy

$G_{S_{N}}(z)=G_{N}(G_{X}(z)).$

Można to zobaczyć, stosując twierdzenie o całkowitej wartości oczekiwanej, jak następuje:

$G_{S_{N}}(z)=\mathbb {E} (z^{S_{N}})=\mathbb {E} (z^{\sum _{i=1}^{N}X_{i}})=\mathbb {E} {\big (}\mathbb {E} (z^{\sum _{i=1}^{N}X_{i}}|N){\big )}=\mathbb {E} {\big (}(G_{X}(z))^{N}{\big )}=G_{N}(G_{X}(z)).$

Ten ostatni fakt jest przydatny w badaniach procesu Galtona-Watsona.

• Przypuśćmy znowu że $N$ jest także niezależną, dyskretna zmienną losową o wartości ze zbioru nieujemnych liczb całkowitych, z funkcją tworzącą prawdopodobieństwa $G_{N}.$ Jeżeli $x_{1},x_{2},\dots ,X_{n}$ są niezależnymi zmiennymi losowymi, ale nie o identycznych rozkładach, gdzie $G_{X_{i}}$ oznacza funkcję tworzącą prawdopodobieństwa $X_{i},$ wtedy

$G_{S_{N}}(z)=\sum _{i\geqslant 1}f_{i}\prod _{k=1}^{i}G_{X_{i}}(z).$

Dla $X_{i}$ o identycznych rozkładach $X_{i},$ to upraszcza się do tożsamości powyżej. Ogólny przypadek jest czasami przydatny do uzyskania dekompozycji $S_{N}$ poprzez funkcje tworzące.

Przykłady

• Funkcja tworząca prawdopodobieństwa zmiennej losowej stałej równej $c,$ to znaczy $\mathbb {P} (X=c)=1,$ jest

$G(z)=z^{c}.$

• Funkcja tworząca prawdopodobieństwa dwumianowej zmiennej losowej, liczba sukcesów w $n,$ próbach z prawdopodobieństwem $p$ sukcesu w każdej próbie, jest

$G(z)=\left((1-p)+pz\right)^{n}.$

Należy pamiętać, że jest to $n$-krotny funkcji tworzącej prawdopodobieństwa losowej zmiennej Bernoulliego z parametrem $p.$

• Funkcja tworząca prawdopodobieństwa zmiennej losowej dwumianowej ujemnej, liczba niepowodzeń które nastąpiły przed $r$-tym sukcesem z prawdopodobieństwem sukcesu $p$ w każdej próbie, jest

$G(z)=\left({\frac {p}{1-(1-p)z}}\right)^{r}.$

Pamiętajmy że jest to $r$-krotny produkt funkcji tworzącej prawdopodobieństwa geometrycznej zmiennej losowej.

• Funkcja tworząca prawdopodobieństwa zmiennej losowej Poissona z parametrem skali $\lambda$ jest

$G(z)={\textrm {e}}^{\lambda (z-1)}.$

Pojęcia pokrewne

Funkcja tworząca prawdopodobieństwa jest przykładem funkcji tworzącej ciąg: zobacz także formalne szeregi potęgowe. Jest to czasem nazywane transformatą Z funkcji masy prawdopodobieństwa.

Inne funkcje tworzące zmiennych losowych obejmują funkcję generowania momentów, funkcję charakterystyczną i funkcję tworzącą kumulanty.