Funkcja charakterystyczna (teoria prawdopodobieństwa)

Definicja intuicyjna

Odpowiednik transformaty Fouriera dla miar probabilistycznych, rozkładów prawdopodobieństwa i zmiennych losowych.

Funkcją charakterystyczną rozkładu prawdopodobieństwa $\mu$ nazywa się funkcję $\varphi \colon \mathbb {R} \to \mathbb {C}$ zadaną wzorem

$\varphi (t)=\int \limits _{\mathbb {R} }e^{its}\mu (\mathrm {d} s).$

Jeżeli $X\colon \Omega \to \mathbb {R}$ jest zmienną losową, a $\mu _{X}$ jest jej rozkładem, to jej funkcja charakterystyczna może być zapisana jako

$\varphi _{X}(t)=\int \limits _{\mathbb {R} }e^{its}\mu _{X}(\mathrm {d} s)=\mathbb {E} e^{itX},$

gdzie $\mathbb {E}$ to wartość oczekiwana.

Funkcja charakterystyczna, podobnie jak dystrybuanta, koduje pełną informację o rozkładzie. Jest ona dobrze określona (istnieje dla każdego rozkładu). Dla rozkładów ciągłych jest to transformata Fouriera funkcji gęstości prawdopodobieństwa:

$\varphi _{X}(t)=\int \limits _{-\infty }^{\infty }e^{itx}f(x)dx,$

stąd można ją uznać za uogólnienie transformaty Fouriera na dowolne rozkłady.

Dla rozkładów dyskretnych o masie prawdopodobieństwa skupionej w punktach $x_{1},x_{2},\dots ,x_{n}{:}$

$\varphi _{X}(t)=\sum \limits _{j=1}^{n}\operatorname {pmf} (x_{j})e^{itx_{j}}.$

Własności

• $\varphi _{X}(0)=1,$
• $|\varphi _{X}(t)|\leqslant 1,$
• $\varphi _{X}(t)={\overline {\varphi _{X}(-t)}},$
• $\varphi _{X}$ jest dodatnio określona,
• $\varphi _{X}(t)$ jest jednostajnie ciągła,
• $\varphi _{X}$ jest funkcją rzeczywistą wtedy i tylko wtedy, gdy rozkład jest symetryczny,
• $\lim \limits _{|t|\to \infty }\varphi _{X}(t)\to 0$ dla rozkładów ciągłych (twierdzenie Riemanna-Lebesgue’a).

Funkcja charakterystyczna funkcji liniowej $aX+b$ zmiennej losowej $X$ wyraża się za pomocą funkcji charakterystycznej zmiennej losowej $X$ według następującego wzoru:

$\varphi _{aX+b}(t)=\varphi _{X}(at)e^{itb}.$

Przykłady

Niżej podano funkcje charakterystyczne $\varphi _{X}(t)$ znanych rozkładów $\mu _{X}.$ Zawsze $n,k\in \mathbb {N} ,$ $a,b,m,p,t,x,\lambda ,\sigma \in \mathbb {R} ,$ przy czym $p,\lambda >0$ oraz $A\subseteq \mathbb {R} .$ Symbol $\mathbf {1} _{A}(x)$ oznacza indykator zbioru $A.$

Nazwa	Oznaczenie	Rozkład	Funkcja charakterystyczna
jednopunktowy	$\delta _{a}$	$\operatorname {pmf} (a)=1$	$e^{ait}$
dwupunktowy		$\operatorname {pmf} (a)=p=1-\operatorname {pmf} (b)$	$pe^{ait}+(1-p)e^{bit}$
Poissona	$\mathrm {Pois} (\lambda )$	$\operatorname {pmf} (k)={\tfrac {\lambda ^{k}}{k!}}e^{-\lambda }$	$e^{\lambda (e^{it}-1)}$
dwumianowy	$\mathrm {Binom} (n,p)$	$\operatorname {pmf} (k)={\tbinom {n}{k}}p^{k}(1-p)^{n-k}$	$(1-p+pe^{it})^{n}$
geometryczny	$\mathrm {Geom} (p)$	$\operatorname {pmf} (k)=p(1-p)^{k-1}$	${\tfrac {pe^{it}}{1-(1-p)e^{it}}}$
jednostajny (na odcinku)	$\mathrm {U} (a,b)$	$f(x)={\tfrac {1}{b-a}}\mathbf {1} _{[a,b]}(x)$	${\tfrac {e^{itb}-e^{ita}}{it(b-a)}}$
wykładniczy	$\mathrm {Exp} (\lambda )$	$f(x)=\lambda e^{-\lambda x}$	${\tfrac {\lambda }{\lambda -it}}$
normalny	$\mathrm {N} (m,\sigma ^{2})$	$f_{X}(x)={\tfrac {1}{\sigma {\sqrt {2\pi }}}}e^{-{\tfrac {(x-m)^{2}}{2\sigma ^{2}}}}$	$e^{mit-{\tfrac {(\sigma t)^{2}}{2}}}$
normalny standardowy	$\mathrm {N} (0,1)$	$f(x)={\tfrac {1}{\sqrt {2\pi }}}e^{-{\tfrac {x^{2}}{2}}}$	$e^{-{\tfrac {t^{2}}{2}}}$

Momenty

Z funkcji charakterystycznej $\varphi _{X}$ da się wyznaczyć momenty zmiennej losowej $X.$ Istnieje też częściowe odwrócenie tego twierdzenia dla momentów parzystych.

Twierdzenie

Jeżeli istnieje $n$-ty moment zmiennej losowej $X,$ tzn. $\mathbb {E} |X|^{n}<\infty ,$ to istnieje również $n$-ta pochodna funkcji charakterystycznej $\varphi _{X},$ co więcej jest ona jednostajnie ciągła, oraz zachodzi

$i^{n}\mathbb {E} X^{n}=\varphi _{X}^{(n)}(0).$

Dzięki temu wzór Taylora funkcji charakterystycznej wygląda następująco: jeżeli $\mathbb {E} |X|^{n}<\infty ,$ to

$\varphi _{X}(t)=\sum _{k=0}^{n}{\tfrac {(it)^{k}}{k!}}\mathbb {E} X^{k}+\mathrm {o} (t^{n}).$

Twierdzenie

Jeżeli istnieje $n$-ta pochodna funkcji charakterystycznej zmiennej losowej, gdzie $n=2k$ oraz $k\in \mathbb {Z} ,$ to istnieje $n$-ty moment tej zmiennej losowej.

Rozkłady

Kryterium określającego kiedy funkcja $\varphi \colon \mathbb {R} \to \mathbb {C}$ jest funkcją charakterystyczną pewnego rozkładu prawdopodobieństwa dostarcza twierdzenie Bochnera. Innym jest kryterium Pólya.

Funkcja charakterystyczna determinuje rozkład, tzn. jeśli $\mu ,\nu$ są rozkładami prawdopodobieństwa na $\mathbb {R} ,$ to jeśli mają one równe funkcje charakterystyczne, czyli $\varphi _{\mu }(t)=\varphi _{\nu }(t)\quad \forall _{t\in \mathbb {R} },$ to $\mu =\nu .$

Ponieważ ciąg $(X_{n})_{n\in \mathbb {N} }$ jest zbieżny według rozkładu, jeżeli

$\mathbb {E} f(X_{n})\to \mathbb {E} f(X),$ dla dowolnej funkcji $f$ ciągłej i ograniczonej,

w szczególności dla $f(x)=e^{itx}$ (ciągłej i ograniczonej co do modułu przez 1), to

$\mathbb {E} e^{itX_{n}}\to \mathbb {E} e^{itX}\iff \varphi _{X_{n}}(t)\to \varphi _{X}(t)\quad \forall _{t\in \mathbb {R} },$

a więc zbieżność według rozkładu zmiennych losowych pociąga zbieżność punktową ich funkcji charakterystycznych. Twierdzenie Lévy’ego-Craméra jest nietrywialnym odwróceniem tego wyniku.

Dystrybuanta i gęstość

Z tożsamości Parsevala wynika wzór na dystrybuantę $F$ rozkładu o funkcji charakterystycznej $\varphi .$ Jeżeli punkt $u$ jest punktem ciągłości, to

$F(u)=\lim _{a\to \infty }\int \limits _{-\infty }^{u}\left({\frac {1}{2\pi }}\int \limits _{-\infty }^{\infty }e^{-ist}\varphi (s)e^{-s^{2}/2a^{2}}ds\right)dt.$

Odwrotna transformacja Fouriera umożliwia wyznaczenie gęstości: jeżeli $\varphi$ jest całkowalna, to rozkład ten ma ograniczoną i ciągłą gęstość $f$ daną wzorem

$f(x)={\frac {1}{2\pi }}\int \limits _{-\infty }^{\infty }e^{-isx}\varphi (s)ds.$

Twierdzenie Plancherela mówi, iż jeżeli rozkład ma gęstość $f$ i funkcję charakterystyczną $\varphi ,$ to $|\varphi |^{2}$ jest całkowalna wtedy i tylko wtedy, gdy $f^{2}$ jest całkowalna. Wtedy też

${}\,\int \limits _{-\infty }^{\infty }|f(x)|^{2}dx={\frac {1}{2\pi }}\int \limits _{-\infty }^{\infty }|\varphi (t)|^{2}dt.$

Niezależne zmienne losowe

Funkcje charakterystyczne są szczególnie użyteczne do badania zmiennych będących funkcjami niezależnych zmiennych losowych. Jeżeli $X_{1},\dots ,X_{n}$ jest ciągiem niezależnych zmiennych losowych, a

$S_{n}=a_{1}X_{1}+\dots +a_{n}X_{n},$

gdzie $a_{i}\in \mathbb {C} ,$ to funkcja charakterystyczna $S_{n}$ dana jest wzorem

$\varphi _{S_{n}}(t)=\varphi _{X_{1}}(a_{1}t)\dots \varphi _{X_{n}}(a_{n}t).$

W szczególności $\varphi _{X+Y}(t)=\varphi _{X}(t)\varphi _{Y}(t),$ co wynika wprost z definicji funkcji charakterystycznych (pierwsza i czwarta równość), własności funkcji wykładniczej (druga równość) i niezależności zmiennych losowych (trzecia równość):

$\varphi _{X+Y}(t)=\mathbb {E} e^{it(X+Y)}=\mathbb {E} \left(e^{itX}e^{itY}\right)=\mathbb {E} e^{itX}\mathbb {E} e^{itY}=\varphi _{X}(t)\varphi _{Y}(t).$

Rozkłady wielowymiarowe

Jeżeli $\mathbf {t} =(t_{1},t_{2},\dots ,t_{n})^{\top }\in \mathbb {R} ^{n},$ zaś $\mathbf {X} =(X_{1},X_{2},\dots ,X_{n})^{\top }\in \mathbb {R} ^{n}$ jest wektorem losowym, a przez $\mathbf {tX}$ rozumie się ich iloczyn skalarny, to funkcję charakterystyczną wektora $\mathbf {X}$ definiuje się analogicznie wzorem

$\varphi _{\mathbf {X} }(\mathbf {t} )=\mathbb {E} e^{i\mathbf {tX} }.$

lub w zapisie macierzowym

$\varphi _{\mathbf {X} }(\mathbf {t} )=\mathbb {E} e^{i\mathbf {t} ^{\top }\mathbf {X} },$

gdzie ${}^{\top }$ oznacza transpozycję (oba wektory są kolumnowe).

Funkcja charakterystyczna przekształcenia afinicznego $\mathbf {AX} +\mathbf {b}$ wyraża się przez $\varphi _{\mathbf {X} }$ wzorem postaci:

$\varphi _{\mathbf {AX} +\mathbf {b} }(\mathbf {t} )=\varphi _{X}(\mathbf {A^{\top }t} )e^{i\mathbf {t^{\top }b} },$

gdzie $\mathbf {A}$ jest przekształceniem liniowym (macierzą), zaś $\mathbf {b} \in \mathbb {R} ^{n}.$

Zmienne losowe $X_{1},\dots ,X_{n}$ są niezależne wtedy i tylko wtedy, gdy

$\varphi _{\mathbf {X} }(\mathbf {t} )=\varphi _{X_{1}}(t_{1})\dots \varphi _{X_{n}}(t_{n}).$

Zgodnie z twierdzeniem Craméra-Wolda ciąg wektorów losowych $\mathbf {X} _{1},\mathbf {X} _{2},\dots$ zbiega według rozkładu do wektora $\mathbf {X}$ wtedy i tylko wtedy, gdy $\mathbf {tX} _{n}$ zbiega według rozkładu do $\mathbf {tX}$ dla każdego $\mathbf {t} \in \mathbb {R} ^{n}.$

Zobacz też

• funkcja charakterystyczna (transformata Fouriera)
• funkcja tworząca momenty (transformata Laplace’a)
• funkcja tworząca prawdopodobieństwa (transformata Laurenta lub Z-transformata)
• kumulanta

Bibliografia

• J. Jakubowski, R. Sztencel: Wstęp do teorii prawdopodobieństwa. Wyd. III. s. 190–210. ISBN 83-89716-01-1.