Funkcja generująca prawdopodobieństwo - Probability-generating function

W teorii prawdopodobieństwa The funkcja prawdopodobieństwa generowania z dyskretną zmienną losową jest szereg potęgowy reprezentacji (The funkcję generowania ) z funkcją masy prawdopodobieństwa o zmiennej losowej . Funkcje generujące prawdopodobieństwa są często wykorzystywane do ich zwięzłego opisu ciągu prawdopodobieństw Pr( X = i ) w funkcji masy prawdopodobieństwa dla zmiennej losowej X , a także do udostępnienia dobrze rozwiniętej teorii szeregów potęgowych o nieujemnych współczynnikach.

Definicja

Przypadek jednowymiarowy

Jeżeli X jest dyskretną zmienną losową o wartościach w nieujemnych liczb całkowitych {0,1, ...}, wtedy funkcja tworząca prawdopodobieństwa z X jest zdefiniowany jako

${\ Displaystyle G (z) = \ operatorname {E} (z ^ {X}) = \ suma _ {x = 0} ^ {\ infty} p (x) z ^ {x}}$

gdzie P jest funkcją masy prawdopodobieństwa z X . Zauważ, że notacje z indeksami dolnymi G _X i p _X są często używane do podkreślenia, że ​​odnoszą się one do konkretnej zmiennej losowej X i jej rozkładu . Szereg potęgowy jest zbieżny bezwzględnie przynajmniej dla wszystkich liczb zespolonych z z | z | ≤ 1; w wielu przykładach promień zbieżności jest większy.

Przypadek wielowymiarowy

Jeśli X = ( X ₁ , ..., X _d  ) jest dyskretną zmienną losową o wartościach w d wymiarową nieujemną liczbę całkowitą siatkę {0,1, ...} ^d , wówczas funkcja prawdopodobieństwa generowania z X jest zdefiniowana jako

${\ Displaystyle G (z) = G (z_ {1}, \ ldots, z_ {d}) = \ operatorname {E} {\ bigl (} z_ {1} ^ {X_ {1}} \ cdots z_ {d }^{X_{d}}{\bigr )}=\sum _{x_{1},\ldots ,x_{d}=0}^{\infty }p(x_{1},\ldots ,x_{ d})z_{1}^{x_{1}}\cdots z_{d}^{x_{d}},}$

gdzie p jest funkcją masy prawdopodobieństwa X . Szereg potęgowy jest zbieżny absolutnie przynajmniej dla wszystkich wektorów zespolonych z = ( z ₁ ,..., z _d  ) ∈ ℂ ^d z max{| z ₁ |,...,| z _d  |} ≤ 1 .

Nieruchomości

Seria mocy

Funkcje generujące prawdopodobieństwa spełniają wszystkie reguły szeregów potęgowych o nieujemnych współczynnikach. W szczególności, G (1 ^- ) = 1, w którym G (1 ^- ) = lim _{Z → 1} G ( z ) od dołu , ponieważ prawdopodobieństwo muszą sumować się do nich. Zatem promień zbieżności dowolnej funkcji generującej prawdopodobieństwa musi wynosić co najmniej 1, zgodnie z twierdzeniem Abela dla szeregów potęgowych o nieujemnych współczynnikach.

Prawdopodobieństwo i oczekiwania

Następujące właściwości pozwalają na wyprowadzenie różnych podstawowych wielkości związanych z X :

1. Funkcją masy prawdopodobieństwa X wyodrębnia się robienie pochodnych o G

   ${\ Displaystyle p (k) = \ operatorname {Pr} (X = k) = {\ Frac {G ^ {(k)} (0)} {k!}}.}$

2. Z Własności 1 wynika, że ​​jeśli zmienne losowe X i Y mają równe funkcje tworzące prawdopodobieństwa , to . Oznacza to, że jeśli X i Y mają identyczne funkcje generujące prawdopodobieństwa, to mają identyczne rozkłady.${\ Displaystyle G_ {X} = G_ {Y}}$${\ Displaystyle p_ {X} = p_ {Y}}$
3. Normalizację funkcji gęstości prawdopodobieństwa można wyrazić w postaci funkcji tworzącej przez

   ${\ Displaystyle \ Operatorname {E} [1] = G (1 ^ {-}) = \ suma _ {i = 0} ^ {\ infty} p (i) = 1.}$

   Oczekiwanie od oblicza się według ${\ Displaystyle X}$

   ${\ Displaystyle \ Operatorname {E} [X] = G '(1 ^ {-}).}$

   Bardziej ogólnie, k ^ty moment silni , od X jest dana przez ${\ Displaystyle \ Operatorname {E} (X (X-1) \ cdots (X-k+1))}$

   ${\ Displaystyle \ Operatorname {E} \ lewo [{\ Frac {X!} {(Xk)!}} \ prawo] = G ^ {(k)} (1 ^ {-}), \ quad k \ geq 0 .}$

   Tak więc odchylenie od X jest dana przez

   ${\ Displaystyle \ Operatorname {Var} (X) = G ''(1 ^ {-}) + G '(1 ^ {-}) - \ lewo [G '(1 ^ {-}) \ prawej] ^ { 2}.}$

   Ostatecznie k- ^ty surowy moment X jest dany przez

   ${\ Displaystyle \ Operatorname {E} [X ^ {k}] = \ lewo (z {\ Frac {\ częściowy} {\ częściowy z}} \ prawej) ^ {k} G (z) {\ Big |} _ {z=1^{-}}}$

4. ${\ Displaystyle G_ {X} (e ^ {t}) = M_ {X} (t)}$gdzie X jest zmienną losową, jest funkcją generującą prawdopodobieństwo (z X ) i jest funkcją tworzącą moment (z X ) .${\ Displaystyle G_ {X} (t)}$${\ Displaystyle M_ {X} (t)}$

Funkcje niezależnych zmiennych losowych

Funkcje generujące prawdopodobieństwa są szczególnie przydatne w przypadku funkcji niezależnych zmiennych losowych. Na przykład:

• Jeśli X ₁ , X ₂ , ..., X _N jest ciągiem niezależnych (i niekoniecznie identycznie rozłożonych) zmiennych losowych, oraz

${\ Displaystyle S_ {N} = \ suma _ {i = 1} ^ {N} a_ {i} X_ {i}}$

gdzie a _i są stałymi, to funkcja generująca prawdopodobieństwo jest dana wzorem

${\ Displaystyle G_ {S_ {N}} (z) = \ operatorname {E} (z ^ {S_ {N}}) = \ operatorname {E} \ lewo (z ^ {\ suma _ {i = 1} ^ {N}a_{i}X_{i},}\right)=G_{X_{1}}(z^{a_{1}})G_{X_{2}}(z^{a_{2}} )\cdots G_{X_{N}}(z^{a_{N}}).}$

Na przykład, jeśli

${\ Displaystyle S_ {N} = \ suma _ {i = 1} ^ {N} X_ {i}}$

wtedy funkcja generująca prawdopodobieństwo, G _{S N} ( z ), jest dana wzorem

${\ Displaystyle G_ {S_ {N}} (z) = G_ {X_ {1}} (z) G_ {X_ {2}} (z) \ cdots G_ {X_ {N}} (z).}$

Wynika z tego również, że funkcja tworząca prawdopodobieństwa różnicy dwóch niezależnych zmiennych losowych S = X ₁ − X ₂ wynosi

${\ Displaystyle G_ {S} (z) = G_ {X_ {1}} (z) G_ {X_ {2}} (1/z).}$

• Załóżmy, że N jest również niezależną, dyskretną zmienną losową przyjmującą wartości na nieujemnych liczbach całkowitych, z funkcją generującą prawdopodobieństwo G _N . Jeśli X ₁ , X ₂ , ..., X _N są niezależne i identycznie rozłożone ze wspólną funkcją generującą prawdopodobieństwa G _X , to

${\ Displaystyle G_ {S_ {N}} (z) = G_ {N} (G_ {X} (z)).}$

Można to zobaczyć, używając prawa całkowitego oczekiwania , w następujący sposób:

${\ Displaystyle {\ zacząć {wyrównany} G_ {S_ {N}} (z) i = \ nazwa operatora {E} (z ^ {S_ {N}}) = \ nazwa operatora {E} (z ^ {\ suma _ { i=1}^{N}X_{i}})\\[4pt]&=\nazwa operatora {E} {\big (}\nazwa operatora {E} (z^{\sum _{i=1}^{ N}X_{i}}\mid N){\big )}=\operatorname {E} {\big (}(G_{X}(z))^{N}{\big )}=G_{N} (G_{X}(z)).\end{wyrównany}}}$

Ten ostatni fakt jest przydatny w badaniu procesów Galtona-Watsona i złożonych procesów Poissona .

• Załóżmy ponownie, że N jest również niezależną, dyskretną zmienną losową przyjmującą wartości na nieujemnych liczbach całkowitych, z funkcją generującą prawdopodobieństwo G _N i gęstością prawdopodobieństwa . Jeżeli X ₁ , X ₂ , ..., X _N są niezależnymi, ale nie identycznie rozłożonymi zmiennymi losowymi, gdzie oznacza funkcję tworzącą prawdopodobieństwo , to${\ Displaystyle f_ {i} = \ Pr \ {N = i \}}$${\ Displaystyle G_ {X_ {i}}}$${\ Displaystyle X_ {i}}$

${\ Displaystyle G_ {S_ {N}} (z) = \ suma _ {i \ geq 1} f_ {i} \ prod _ {k = 1} ^ {i} G_ {X_ {i}} (z). }$

Dla identycznie rozłożonego X _i upraszcza to do podanej wcześniej tożsamości. Przypadek ogólny czasami użyteczne do uzyskania rozkładu S _N za pomocą generowania funkcji.

Przykłady

• Funkcja generująca prawdopodobieństwa prawie na pewno stałej zmiennej losowej , tj. takiej, w której Pr( X = c ) = 1, jest

${\ Displaystyle G (z) = z ^ {c}.}$

• Funkcja generująca prawdopodobieństwo dwumianowej zmiennej losowej , liczba sukcesów w n próbach, z prawdopodobieństwem p sukcesu w każdej próbie, jest

${\ Displaystyle G (z) = \ lewo [(1-p) + pz \ prawo] ^ {n}.}$

Zauważ, że jest to n- krotny iloczyn funkcji generującej prawdopodobieństwo zmiennej losowej Bernoulliego z parametrem p .

Zatem funkcja generująca prawdopodobieństwo uczciwej monety , wynosi

${\ Displaystyle G (z) = 1/2 + z / 2.}$

• Funkcja generująca prawdopodobieństwo ujemnej dwumianowej zmiennej losowej na {0,1,2 ...}, liczbie niepowodzeń do r- tego sukcesu z prawdopodobieństwem powodzenia w każdej próbie p , wynosi

${\ Displaystyle G (z) = \ lewo ({\ Frac {p} {1-(1-p) z}} \ prawej) ^ {r}.}$

(Zbieżność dla ).${\displaystyle |z|<{\frac{1}{1-p}}}$

Zauważ, że jest to r- krotny iloczyn funkcji generującej prawdopodobieństwa geometrycznej zmiennej losowej o parametrze 1 −  p na {0,1,2,...}.

• Funkcja generująca prawdopodobieństwa zmiennej losowej Poissona z parametrem współczynnika λ wynosi

${\ Displaystyle G (z) = e ^ {\ lambda (z-1)}.}$

Pojęcia pokrewne

Funkcja generująca prawdopodobieństwa jest przykładem funkcji generującej ciągu: patrz także formalny szereg potęgowy . Jest to równoważne i czasami nazywane transformacją z funkcji masy prawdopodobieństwa.

Inne funkcje generujące zmiennych losowych obejmują funkcję tworzącą momenty , funkcję charakterystyczną i funkcję generującą kumulanty . Funkcja generująca prawdopodobieństwa jest również równoważna funkcji generującej moment czynnikowy , którą można również uwzględnić dla zmiennych ciągłych i innych zmiennych losowych. ${\ Displaystyle \ operatorname {E} \ lewo [z ^ {X} \ prawo]}$

Uwagi

Bibliografia

• Johnsona, Holandia; Kotz, S.; Kemp, AW (1993) Jednowymiarowe rozkłady dyskretne (wydanie drugie). Wileya. ISBN  0-471-54897-9 (sekcja 1.B9)