Keskeinen raja-arvolause

Keskeinen raja-arvolause on toden­näköisyys­laskennan tulos, jonka mukaan keskiarvo riittävän suuresta määrästä toisistaan riippumattomia satunnais­muuttujia, joista kullakin on hyvin määritelty odotusarvo ja varianssi, on tietyin edellytyksin likipitäen normaalisti jakautunut riippumatta kunkin satunnaismuuttujan omasta jakaumasta.

Lausetta voi havainnollistaa muodostamalla suuren määrän havaintoja käsittävä otos, jossa kukin havainto on generoitu satunnaisesti muista havaintokerroista riippumatta. Tämän jälkeen lasketaan otoksen eli havaintojen keskiarvo. Jos tämä toistetaan monta kertaa, keskeisen raja-arvo­lauseen mukaan niiden keskiarvo jakautuu toden­näköisesti sitä tarkemmin normaali­jakauman eli niin sanotun kellokäyrän mukaisesti. Esimerkiksi jos kolikkoa heitetään erittäin monta kertaa, toden­näköisyys saada kruuna tietyllä määrällä kertoja noudattaa normaali­jakaumaa, jonka odotusarvo on puolet heittojen lukumäärästä.

Keskeisestä raja-arvo­lauseesta on monia muunnelmia. Sen kauimmin tunnettu muoto edellyttää, että satunnais­muuttujat, joiden keskiarvoa tarkastellaan, ovat samoin jakautuneet. Satunnais­muuttujien keskiarvo kuitenkin suppenee kohti normaali­jakaumaa tietyin edellytyksin useissa sellaisissakin tapauksissa, joissa ne eivät ole samoin jakautuneet eivätkä edes toisistaan riippumattomat.

Yleisimmässä mielessä keskeiset raja-arvolauseet ovat koko joukko toden­näköisyys­laskennan raja-arvo­lauseita. Ne kaikki ilmaisevat eri tavoin, että monen riippumattoman ja identtisesti jakautuneen tai tietyin edellytyksin myös tavalla tai toisella toisistaan riippuvankin satunnais­muuttujan summalla on taipumus noudattaa jakaumaa, joka kuuluu pieneen joukkoon attraktorijakaumaa. Kun riippumattomien ja identtisten jakautuneiden satunnais­muuttujien varianssi on äärellinen, tämä attraktori­jakauma on normaali­jakauma. Sitä vastoin jos muodostetaan sellaisten satunnais­muuttujien summa, joilla on potenssi­lain mukainen, funktion |x|^-α-1 mukaisesti (0 < α < 2) pienenevä "häntä" ja joiden varianssi näin ollen on ääretön, se suppenee kohti alfa-vakaata jakaumaa, jonka vakausparametri muuttujien lukumäärän kasvaessa on α

Tilastotieteessä keskeisellä raja-arvolauseella on perustava merkitys käsiteltäessä suuria otoksia jostakin aineistosta. Sen sijaan pieniä otoksia käsiteltäessä se ei ole yhtä käyttö­kelpoinen.

Keskeisiä raja-arvolauseita riippumattomille jonoille

Klassinen keskeinen raja-arvolause

Olkoon {X₁, ..., X_n} n alkion satunnais­otos, toisin sanoen jono riippumattomia ja identtisesti jakautuneita satunnais­muuttujia, joilla kaikilla on sama odotusarvo on μ ja sama äärellinen varianssi σ². Tarkastellaan näiden satunnaismuuttujien otoskeskiarvoa

$S_{n}:={\frac {X_{1}+\cdots +X_{n}}{n}}$.

suurten lukujen lain mukaan otoskeskiarvo suppenee stokastisesti ja melkein varmasti kohti odotusarvoa μ, kun n kasvaa rajatta. Klassinen keskeinen raja-arvolause kuvaa stokastisten fluktuaatioiden suuruutta ja niiden jakauman muotoa tämä raja-arvon μ molemmin puolin suppenemisen aikana. Tarkemmin sanottuna se sanoo, että kun n kasvaa, otoskeskiarvon S_n ja sen raja-arvon μ erotuksen jakauma, kun se kerrotaan tekijällä ${\sqrt {n}}$, toisin sanoen tulon ${\sqrt {n}}(S_{n}-\mu )$ jakauma) lähestyy normaalijakaumaa, jonka keskiarvo on 0 ja varianssi σ². Tarpeeksi suurella n:n arvolla S_n:n jakauma on lähellä normaali­jakaumaa, jonka keskiarvo on μ ja varianssi σ²/n. Tuloksen merkitys perustuu siihen, että lausekkeen ${\sqrt {n}}(S_{n}-\mu )$ jakauma lähestyy normaali­jakaumaa riippumatta siitä, millainen jakauma alku­peräisillä satunnais­muuttujilla X_i itsellään on. Täsmällisessä muodossa lause voidaan esittää seuraavasti:

Lindebergin–Lévyn keskeinen raja-arvolause. Olkoon {X₁, X₂, ...}

jono riippumattomia ja identtisesti jakautuneita satunnais­muuttujia, joiden odotusarvo on E[X_i] = µ ja varianssi Var[X_i] = σ² < ∞. Tällöin kun n kasvaa rajatta, satunnais­muuttujat ${\sqrt {n}}(S_{n}-\mu )$ konvergoivat jakaumaltaan kohti normaalijakaumaa N(0, σ²):

${\sqrt {n}}{\bigg (}{\bigg (}{\frac {1}{n}}\sum _{i=1}^{n}X_{i}{\bigg )}-\mu {\bigg )}\ {\xrightarrow {d}}\ N(0,\;\sigma ^{2}).$

Tapauksessa s > 0, jakauma­konvergenssi merkitsee, että lausekkeen ${\sqrt {n}}(S_{n}-\mu )$ jakauman kertymäfunktio suppenee pisteittäisesti kohti normaali­jakauman N (0, σ² kertymä­funktiota jokaisella reaali­luvulla z,

$\lim _{n\to \infty }\Pr[{\sqrt {n}}(S_{n}-\mu )\leq z]=\Phi (z/\sigma ),$

missä F(x) on normaali­jakauman kertymä­funktion arvo pisteessä x. Suppeneminen on myös tasaista pisteessä z siinä mielessä, että

$\lim _{n\to \infty }\sup _{z\in {\mathbf {R} }}{\bigl |}\Pr[{\sqrt {n}}(S_{n}-\mu )\leq z]-\Phi (z/\sigma ){\bigr |}=0,$

missä sup tarkoittaa joukon pienintä ylärajaa eli supremumia.

Ljapunovin keskeinen raja-arvolause

Tämä lause on saanut nimensä venäläisen matemaatikko Aleksandr Ljapunovin mukaan. Tämä keskeisen raja-arvo­lauseen muunnelma edellyttää, että satunnais­muuttujien X_i on oltava riippumattomat, mutta ei välttämättä identtisesti jakautuneet. Lause edellyttää myös, että satunnais­muuttujilla |X_i| on oltava asteiden (2 + δ) momentit ja että näiden momenttien kasvu on rajoitettu jäljempänä selitetyllä Ljapunovin ehdon mukaisella tavalla.

Ljapunovin keskeinen raja-arvolause.

Olkoon {X₁, X₂, ...} jono riippumattomia satunnais­muuttujia, joista jokaisen odotusarvo on µ_i ja varianssi σ_i². Määritellään

$s_{n}^{2}=\sum _{i=1}^{n}\sigma _{i}^{2}$

Jos jollakin arvolla δ > 0, pätee Ljapunovin ehto

$\lim _{n\to \infty }{\frac {1}{s_{n}^{2+\delta }}}\sum _{i=1}^{n}\operatorname {E} {\big [}\,|X_{i}-\mu _{i}|^{2+\delta }\,{\big ]}=0$

niin summa (X_i - µ_i)/s_n konvergoi jakaumaltaan kohti standardia normaalijakaumaa, kun n kasvaa rajatta:

${\frac {1}{s_{n}}}\sum _{i=1}^{n}(X_{i}-\mu _{i})\ {\xrightarrow {d}}\ {\mathcal {N}}(0,\;1).$

Käytännössä on tavallisesti helpointa tarkistaa, päteekö Ljapunovin ehto arvolla δ = 1. Jos satunnais­muuttujien jono toteuttaa Ljapunovin ehdon, se toteuttaa myös Lindebergin ehdon. Kääntäen ei kuitenkaan Lindebergin ehdosta seuraa Ljapunovin ehto.

Lindebergin–Fellerin lause

Suomalainen matemaatikko Jarl Waldemar Lindeberg osoitti vuonna 1920, että keskeisen raja-arvolauseen edellytyksenä ollut Ljapunovin ehto voidaan korvata heikommalla Lindebergin ehdolla. Myöhemmin William Feller osoitti, että Lindebergin ehto on myös välttämätön ehto sille, että summa konvergoi jakaumaltaan kohti normaalijakaumaa. Täten kysymyksen siitä, millä ehdoilla keskeinen raja-arvolause pätee, voidaan katsoa saaneen tyhjentävän ratkaisun.

Olkoon {X₁, X₂, ...} jono riippumattomia satunnais­muuttujia, joista jokaisen odotusarvo on µ_i ja varianssi σ_i². Oletetaan lisäksi, että

$\lim _{n\to \infty }\max _{1\leq i\leq n}{\frac {\sigma _{1}}{s_{n}}}=0$, missä $s_{n}={\sqrt {\sum _{i=1}^{n}\sigma _{i}^{2}}}$.

Tällöin summa (X_i - µ_i)/s_n konvergoi jakaumaltaan kohti standardia normaalijakaumaa, kun n kasvaa rajatta, jos ja vain jos seuraava Lindebergin ehto pätee:

$\lim _{n\to \infty }{\frac {1}{s_{n}^{2}}}\sum _{i=1}^{n}\int _{|x-\mu _{i}|>\epsilon s_{n}}(x-\mu _{i})^{2}dF_{X_{i}}(x)=0$ kaikilla ε > 0.

Moniulotteinen keskeinen raja-arvolause

Todistukset, joissa käytetään karakteristisia funktioita, voidaan yleistää tapauksiin, joissa kukin muuttuja X_i on satunnaisvektori avaruudessa $\mathbb {R} ^{k}$, jonka vektori­arvoinen odotus­arvo on µ = E(X_i) ja vektorin komponenteista muodostettu kovarianssimatriisi S, ja nämä satunnaisvektorit ovat riippumattomat ja identtisesti jakautuneet. Näiden vektorien summaus on suoritettava komponenteittain. Moniulotteinen keskeinen raja-arvolause sanoo, että skaalattuina nämä summat suppenevat kohti moniulotteista normaalijakaumaa.

Olkoon

$\mathbf {X_{i}} ={\begin{bmatrix}X_{i(1)}\\\vdots \\X_{i(k)}\end{bmatrix}}$

k-vektori. Lihavointi merkinnässä X_i osoittaa, että kyseessä on satunnaisvektori, ei yksiulotteinen satunnaismuuttuja. Tällöin satunnaisvektorien summa on

${\begin{bmatrix}X_{1(1)}\\\vdots \\X_{1(k)}\end{bmatrix}}+{\begin{bmatrix}X_{2(1)}\\\vdots \\X_{2(k)}\end{bmatrix}}+\cdots +{\begin{bmatrix}X_{n(1)}\\\vdots \\X_{n(k)}\end{bmatrix}}={\begin{bmatrix}\sum _{i=1}^{n}\left[X_{i(1)}\right]\\\vdots \\\sum _{i=1}^{n}\left[X_{i(k)}\right]\end{bmatrix}}=\sum _{i=1}^{n}\mathbf {X_{i}}$

ja keskiarvo

${\frac {1}{n}}\sum _{i=1}^{n}\mathbf {X_{i}} ={\frac {1}{n}}{\begin{bmatrix}\sum _{i=1}^{n}X_{i(1)}\\\vdots \\\sum _{i=1}^{n}X_{i(k)}\end{bmatrix}}={\begin{bmatrix}{\bar {X}}_{i(1)}\\\vdots \\{\bar {X}}_{i(k)}\end{bmatrix}}=\mathbf {{\bar {X}}_{n}}$

ja sen vuoksi

${\frac {1}{\sqrt {n}}}\sum _{i=1}^{n}\left[\mathbf {X_{i}} -E\left(X_{i}\right)\right]={\frac {1}{\sqrt {n}}}\sum _{i=1}^{n}(\mathbf {X_{i}} -\mu )={\sqrt {n}}\left(\mathbf {\overline {X}} _{n}-\mu \right)$.

Moniulotteinen keskeinen raja-arvolause osoittaa, että

${\sqrt {n}}\left(\mathbf {\overline {X}} _{n}-\mu \right)\ {\stackrel {D}{\rightarrow }}\ {\mathcal {N}}_{k}(0,\Sigma )$

missä kovarianssimatriisi S on

$\Sigma ={\begin{bmatrix}{\operatorname {Var} \left(X_{1(1)}\right)}&\operatorname {Cov} \left(X_{1(1)},X_{1(2)}\right)&\operatorname {Cov} \left(X_{1(1)},X_{1(3)}\right)&\cdots &\operatorname {Cov} \left(X_{1(1)},X_{1(k)}\right)\\\operatorname {Cov} \left(X_{1(2)},X_{1(1)}\right)&\operatorname {Var} \left(X_{1(2)}\right)&\operatorname {Cov} \left(X_{1(2)},X_{1(3)}\right)&\cdots &\operatorname {Cov} \left(X_{1(2)},X_{1(k)}\right)\\\operatorname {Cov} \left(X_{1(3)},X_{1(1)}\right)&\operatorname {Cov} \left(X_{1(3)},X_{1(2)}\right)&\operatorname {Var} \left(X_{1(3)}\right)&\cdots &\operatorname {Cov} \left(X_{1(3)},X_{1(k)}\right)\\\vdots &\vdots &\vdots &\ddots &\vdots \\\operatorname {Cov} \left(X_{1(k)},X_{1(1)}\right)&\operatorname {Cov} \left(X_{1(k)},X_{1(2)}\right)&\operatorname {Cov} \left(X_{1(k)},X_{1(3)}\right)&\cdots &\operatorname {Var} \left(X_{1(k)}\right)\\\end{bmatrix}}.$

Yleistetty lause

Keskeinen raja-arvolause sanoo, että riippumattoman ja identtisesti jakautuneiden satunnaismuuttujien summa, kun niillä on äärellinen varianssi, lähestyy suurella todennäköisyydellä normaalijakaumaa, kun muuttujien lukumäärä kasvaa. Gnedenko ja Kolmogorov keksivät lauseelle yleistyksen, joka koskee sellaisiakin satunnaismuuttujia, joiden jakaumat ääripäissään pienenevät potenssilain mukaan kuten |x|^-a-1, missä 0 < a < 2, ja joiden varianssi tämän vuoksi on ääretön; tällainen on esimerkiksi Pareton jakauma. Tällaisissakin tapauksissa satunnaismuuttujien summa suppenee kohti jotakin vakaata jakaumaa $f(x;\alpha ,0,c,0)$, kun yhteenlaskettavien lukumäärä kasvaa. Jos a > 2, tämä summa suppenee kohti vakaata jakaumaa, jonka vakausparametri on arvoltaan 2, toisin sanoen Gaussin jakaumaa.

Huomautuksia

Klassisen keskeisen raja-arvolauseen todistus

Keskeisen raja-arvolauseen klassinen voidaan todistaa melko helposti karakterististen funktioiden avulla. Todistus on samantapainen kuin heikon suurten lukujen lain. Taylorin lauseen mukaan jokaisen sellaisen satunnaismuuttujan Y karakteristinen funktio, jonka odotusarvo on nolla ja varianssi var(Y) = 1), on

$\varphi _{Y}(t)=1-{t^{2} \over 2}+o(t^{2}),\quad t\rightarrow 0$

missä o on jokin t:n funktio, joka suppenee kohti nollaa nopeammin kuin t².

Olettamalla, että Y_i on (X_i - µ)/s eli X_i:n standardoitu arvo on helppo huomata, että havaintojen X₁, X₂, ..., X_n standardoitu keskiarvo on

$Z_{n}={\frac {n{\overline {X}}_{n}-n\mu }{\sigma {\sqrt {n}}}}=\sum _{i=1}^{n}{Y_{i} \over {\sqrt {n}}}$

Karakterististen funktioiden perusominaisuuksien nojalla summan karakteristinen funktio on:

${\begin{aligned}\varphi _{Z_{n}}&=\varphi _{\sum _{i=1}^{n}{Y_{i} \over {\sqrt {n}}}}\left(t\right)=\varphi _{Y_{1}}\left(t/{\sqrt {n}}\right)\cdot \varphi _{Y_{2}}\left(t/{\sqrt {n}}\right)\cdots \varphi _{Y_{n}}\left(t/{\sqrt {n}}\right)\\[8pt]&=\left[\varphi _{Y}\left({t \over {\sqrt {n}}}\right)\right]^{n}\end{aligned}}$

niin että kun eksponenttifunktio voidaan esittää raja-arvona

$e^{x}=\lim(1+{\frac {x}{n}})^{n}$,

Z_n:n karakteristinen funktio on

$\left[\varphi _{Y}\left({t \over {\sqrt {n}}}\right)\right]^{n}=\left[1-{t^{2} \over 2n}+o\left({t^{2} \over n}\right)\right]^{n}\,\rightarrow \,e^{-t^{2}/2},\quad n\rightarrow \infty .$

Mutta tämä on sama kuin standardin normaalijakauman N(0, 1), karakteristinen funktio, ja keskeinen raja-arvolause seuraa Lévyn jatkuvuuslauseesta, joka takaa, että karakterististen funktioiden suppenemisesta seuraa jakaumien konvergenssi.

Suppeneminen kohti raja-arvoa

Keskeinen raja-arvolause antaa vain asymptoottisen jakauman. Äärelliselle äärelliselle määrälle havaintoja se antaa järkevän likiarvon vain lähellä normaalijakauman huippua; tarvitaan erittäin suuri määrä havaintoja, jotta tulos pätisi myös jakauman kummassakin ääripäässä.

Jos kolmas keskeinen momentti E((X₁ - μ)³) on olemassa ja se on äärellinen, mainittu suppeneminen on tasaista ja suppenemisvauhti on vähintään luokkaa 1/n^1/2 (katso Berryn-Esseenin lause). Steinin metodia voidaan käyttää, paitsi keskeisen raja-arvolauseen todistamiseen, myös suppenemisvauhdin arvioimiseen valitulla mitta-asteikolla.

Suppeneminen normaali­jakaumaa kohti on mono­tonista siinä mielessä, että Z_n:n entropia kasvaa mono­tonisesti kohti normaali­jakauman entropiaa.

Keskeinen raja-arvolause pätee erityisesti myös riippumattomien ja identtisesti jakautuneiden diskreettien satunnais­muuttujien keskiarvolle. Diskreettien satunnais­muuttujien summa on yhä diskreetti satunnais­muuttuja, joten tässä on kysymyksessä jono diskreettejä satunnais­muuttujia, joiden kertymäfunktio suppenee kohti jatkuvan jakauman, nimittäin normaalijakauman kertymäfunktiota. Tämä merkitsee, että jos n riippumattoman identtisen satunnais­muuttujan toteutuneista summista laaditaan histogrammi ja piirretään käyrä, joka yhdistää histo­grammin muodostavien suorakulmioiden ylä­reunojen kesk­ipisteet, tämä käyrä muistuttaa muodoltaan Gaussin käyrää sitä tarkemmin, mitä suurempi luku n on. Tätä tulosta sanotaan de Moivren–Laplacen lauseeksi. Esimerkiksi jos lasketaan sellaisten satunnais­muuttujien summa, joista kullakin on vain kaksi mahdollista arvoa, tämä summa noudattaa binomijakaumaa, joka lähestyy muodoltaan normaali­jakaumaa sitä enemmän, mitä enemmän näitä yhteen­laskettuja satunnais­muuttujia on.

Keskeinen raja-arvolause ja suurten lukujen laki

Keskeisen raja-arvolauseen tavoin myös suurten lukujen laki on osittainen ratkaisu yleiseen ongelmaan: Mitä riippumattomien ja identtisesti jakautuneiden satunnais­muuttujien summalle S_n tai niiden keskiarvolle lopulta tapahtuu kun satunnais­muuttujien lukumäärä n kasvaa rajatta?

Matemaattisessa analyysissä asymptoottiset sarjat kuuluvat käytetyimpiin työkaluihin senlaatuisten kysymysten käsittelyssä. Oletetaan, että f(n):llä on asymptoottinen kehitelmä:

$f(n)=a_{1}\varphi _{1}(n)+a_{2}\varphi _{2}(n)+O(\varphi _{3}(n))\qquad (n\rightarrow \infty ).$

Jakamalla molemmat puolet f₁(n):llä ja ottamalla raja-arvo saadaan a₁, kehitelmän korkeimman asteen termin kerroin, joka osoittaa, kuinka nopeasti f(n):n johtava termi muuttuu.

$\lim _{n\to \infty }{\frac {f(n)}{\varphi _{1}(n)}}=a_{1}.$

Epämuodollisesti voidaan sanoa, että "f(n) kasvaa likiptäen samassa tahdissa kuin a₁ f₁(n)". Jos f(n):n ja sen likiarvon erotus jaetaan kehitelmän seuraavalla termillä saadaan f(n):lle tarkempi arvio:

$\lim _{n\to \infty }{\frac {f(n)-a_{1}\varphi _{1}(n)}{\varphi _{2}(n)}}=a_{2}.$

Tässä voidaan sanoa, että funktion ja sen likiarvon erotus kasvaa likipitäen saman verran kuin a₂ f₂(n). Ajatuksena on, että kun funktio jaetaan sopivilla normalisointi­funktioilla ja tutkitaan, miten näin saadulle funktiolle käy n:n kasvaessa voidaan päätellä paljon myös siitä, miten alkuperäiselle funktiolle silloin tapahtuu

Kutakuinkin samaan tapaan voidaan tarkastella myös riippumattomien ja identtisesti jakautuneiden satunnais­muuttujien X₁, ..., X_n summaa S_n. Jos jokaisella X_i on äärellinen odotusarvo μ suurten lukujen lain mukaan niiden keskiarvo lähestyy tätä odotusarvoa eli S_n/n → µ. Jos lisäksi jokaisella X_i on äärellinen varianssi σ², niin keskeisen raja-arvolauseen mukaan

${\frac {S_{n}-n\mu }{\sqrt {n}}}\rightarrow \xi ,$

missä ξ noudattaa normaali­jakaumaa N(0, σ²). Tästä saadaan kahden ensimmäisen vakion arvot epämuodollisessa kehitelmässä

$S_{n}\approx \mu n+\xi {\sqrt {n}}.\,$

Tapauksessa, jossa satunnais­muuttujilla X_i ei ole äärellistä keskiarvoa tai varianssia, niiden summalle voidaan silti sopivasti muuntamalla ja uudelleen skaalaamalla saada suppeneva lauseke:

${\frac {S_{n}-a_{n}}{b_{n}}}\rightarrow \Xi ,$

tai vähemmän muodollisesti

$S_{n}\approx a_{n}+\Xi b_{n}.\,$

Tällä tavoin saatuja jakaumia Ξ sanotaan vakaiksi jakaumiksi. Normaali­jakauma selvästikin on vakaa, mutta on olemassa muitakin vakaita jakaumia, esimerkiksi Cauchyn jakauma, jolla ei ole odotusarvoa eikä varianssia ja jota sen vuoksi ei sen enempää keskeinen raja-arvolause enempää kuin suurten lukujen lakikaan koske.

Skaalaus­tekijä b_n saattaa olla verrannollinen lausekkeeseen n^c, missä usein c = 1/2, mutta se voidaan myös kertoa jollakin n:n hitaasti vaihtelevalla funktiolla.

Toistettujen logaritmien laki tarkentaa, mitä tapahtuu suurten lukujen lain ja keskeisen raja-arvolauseen "välissä". Erityisesti se osoittaa, että normalisointi­funktion ${\sqrt {n\log \log n}}$ avulla, joka suuruudeltaan on suurten lukujen laissa esiintyvän lukumäärän n ja keskeisessä raja-arvolauseessa esiintyvän neliöjuuren ${\sqrt {n}}$ välissä, saadaan n:n kasvaessa ei-triviaaleja tuloksia.

Vaihtoehtoisia muotoiluja

Tiheysfunktiot

Kahden tai useamman riippumattoman muuttujan summan tiheysfunktio on näiden muuttujien tiheyksien konvoluutio, jos niillä on tiheys­funktiot. Niinä keskeinen raja-arvolauseen voidaan tulkita koskevan näiden tiheysfunktioiden ominaisuuksia konvoluutiossa: tiheys­funktio­joukon konvoluutio lähestyy normaalijakaumaa, kun tiheys­funktioiden lukumäärä kasvaa rajatta. Tällaiset tiheys­funktioiden suppenemista koskevat, niin sanotut lokaalit keskeiset raja-arvolauseet kuitenkin pätevät vain tietyin edellytyksin, jotka ovat ankarammat kuin keskeisen raja-arvolauseen edellä esitetyissä versiossa.

Karakteristiset funktiot

Koska konvoluution karakteristinen funktio on siinä mukana olevien tiheysfunktioiden karakterististen funktioiden tulo, keskeisestä raja-arvolauseesta on olemassa myös niitä koskeva muoto: tiheysfunktiojoukon karakterististen funktioiden tulo lähestyy normaalijakauman karakteristista funktiota, kun tiheysfunktioiden lukumäärä kasvaa rajatta, edellä mainituilla edellytyksillä. Tämän tarkentamiseksi on karakterististen funktioiden argumentteja on kuitenkin muunnettava sopivalla skaalaustekijällä.

Vastaava tulos voidaan esittää myös Fourier-muunnoksille, sillä karakteristinen funktio on oleellisesti Fourier-muunnos.

Lauseen laajennuksia

Positiivisten satunnaismuuttujien tulo

Lukujen tulon logaritmi on tulon tekijöiden logaritmien summa. Sen vuoksi sellaisten satunnais­muuttujien tulo, joista kukin lähestyy normaalijakaumaa mutta voi saada vain positiivisia arvoja, lähestyy log-normaalijakaumaa. Monet fysikaaliset suureet (erityisesti massa tai pituus, jotka eivät voi olla negatiivisia), ovat monien satunnaisten tekijöiden tuloja, jolloin nämä suureet monissa tilanteissa noudattavat log-normaalijakaumaa.

Sen sijaan että satunnaismuuttujien summaa koskeva keskeinen raja-arvolause edellyttää äärellistä varianssia, vastaava lause niiden tulolle edellyttää, että tiheysfunktioiden neliöt ovat integroituvia.

Klassisen viitekehyksen ulkopuolella

Asymptoottinen normaalisuus, toisin sanoen suppeneminen sopivien muunnosten ja uudelleenskaalausten jälkeen kohti normaalijakaumaa, on ilmiö, joka esiintyy monessa muussakin kuin edellä käsitellyissä tilanteissa, toisin sanoen satunnaismuuttujien tai -vektoreiden summan tapauksessa. Tilanteita, joissa vastaava ilmiö esiintyy, on aikaa myöten paljastunut jatkuvasti lisää, eikä niitä kaikkia toistaiseksi voida käsitellä yhtenäiseltä pohjalta.

Lakunaariset trigonometriset sarjat

Salemin–Zygmundin lause. Olkoon U satunnaismuuttuja

joka on jakautunut tasaisesti välille (0, 2p), ja X_k = r_k cos(n_kU + a_k), missä

• n_k toteuttaa lakunaarisuusehdon: on olemassa sellainen luku q > 1, että n_k+1 = qn_k kaikilla k:n arvoilla,
• r_k ovat sellaisia, että

$r_{1}^{2}+r_{2}^{2}+\cdots =\infty {\text{ and }}{\frac {r_{k}^{2}}{r_{1}^{2}+\cdots +r_{k}^{2}}}\to 0,$

• 0 = a_k < 2p.

Silloin

${\frac {X_{1}+\cdots +X_{k}}{\sqrt {r_{1}^{2}+\cdots +r_{k}^{2}}}}$

konvergoi jakaumaltaan kohti normaalijaumaa N(0, 1/2).

Gaussin polytoopit

Teoreema: Olkoot A₁, ..., A_n riippumattomia satunnaisesti valittuja pisteitä tasossa $\mathbb {R} ^{2}$, joista jokainen noudattaa kaksi­ulotteista standardi­normaali­jakaumaa. Olkoon K_n näiden pisteiden kupera peite ja ''X_n alueen K_n pinta-ala. Silloin

${\frac {X_{n}-\mathrm {E} (X_{n})}{\sqrt {\operatorname {Var} (X_{n})}}}$

suppenee jakaumana kohti normaali­jakaumaa N(0, 1), kun n kasvaa rajatta.

Sama pätee kaikissa ulottuvuuksissa (2, 3, ...).

Kuperaa polytooppia K_n sanotaan Gaussin satunnais­polytoopiksi.

Vastaava tulos pätee Gaussin polytooppien kärkien, särmien ja sivutahkojenkin lukumäärälle.

Alijonot

Lause. Olkoot satunnaismuuttujat X₁, X₂, … ∈ L₂(O) sellaisia, että X_n → 0 heikosti joukossa L₂(O) ja X_n² → 1 heikosti joukossa L₁(O). Silloin on olemassa sellaiset kokonaisluvut n₁ < n₂ < …, että $(X_{n_{1}}+\cdots +X_{n_{k}})/{\sqrt {k}}$ suppenee kohti jakaumaa N(0, 1), kun k kasvaa rajatta.

Satunnaiskulku kidehilassa

Keskeisestä raja-arvolauseesta on olemassa myös versio, joka koskee yksinkertaista satunnaiskulkua kidehilassa. Kidehilan oletetaan olevan ääretön Abelin verkko, joka peittää äärellisen verkon. Tätä tulosta on käytetty kiteiden rakenteiden kuvaamiseen.

Sovelluksia ja esimerkkejä

Yksinkertainen esimerkki

Todennäköisyystiheysfunktioita silmälukujen summalle heitettäessä noppaa 1...5 kertaa. Heittokertojen lukumäärän n kasvaessa jakauma lähestyy keskeisen raja-arvolauseen mukaisesti muodoltaan normaali­jakaumaa. Oikeassa alakulmassa tiheysfunktioiden kuvaajat on skaalattu uudelleen ja sijoitettu päällekkäin, jolloin niitä voidaan helposti verrata normaalijakaumaan (musta käyrä).

Binomijakaumaan perustuva simulaatio. Valitaan useita kertoja satunnaisesti luku 0 tai 1, ja tulosten keskiarvo lasketaan, kun näin on tehty 1...512 kertaa. Voidaan nähdä, että kun otoskoko kasvaa, keskiarvojen jakauma kapenee ja tulee molemmissa ääripäissään matalaksi.

Yksinkertainen esimerkki keskeisestä raja-arvolauseesta saadaan heittämällä suurta määrää samanlaisia, "painottamattomia" noppia. Saatujen silmälukujen summa tai vaihtoehtoisesti keskiarvo noudattaa tällöin likimain normaali­jakaumaa. Koska reaalimaailman suureet ovat usein monien havaitsematta jääneiden satunnais­ilmiöiden painotettuja keskiarvoja, keskeinen raja-arvolause osaltaan myös selittää, miksi normaalijakauma esiintyy mitä erilaisimmissa ilmiöissä. Siihen perustuu myös normaali­jakauman käyttö likiarvona suuria otoksia koskevia kontrolloiduissa tilastollisissa kontrolloiduissa kokeissa.

Sovellettavuudesta yleisesti

Julkaistussa kirjallisuudessa on suuri joukko käyttökelpoisia ja mielen­kiintoisia esimerkkejä keskeisen raja-arvolauseen sovelluksista. Esimerkkeinä voidaan mainita seuraavat:

• Sen etäisyyden todennäköisyys­jakauma, johon satunnaiskulussa päädytään, lähestyy normaalijakaumaa.
• Heitettäessä suurta määrää kolikkoja kruunien tai vastaavasti klaavojen lukumäärän todennäköisyys­jakauma lähestyy normaalijakaumaa.

Keskeistä raja-arvolauseesta seuraa, että mielivaltaisten riippumattomien satunnai­smuuttujien summa noudattaa likimain normaalijakaumaa, mikäli niitä yhteenlaskettavia muuttujia on hyvin paljon ja mikäli jokaisen yksityisen muuttujan vaihtelu on pieni verrattuna summan vaihteluun.

Täten keskeinen raja-arvolause myös selittää "kellokäyrän" (Gaussin käyrän) yleisen esiintymisen reaali­maailman aineistoon sovelletuissa tietynlaisen tapauksen esiintyvyyden arvioinneissa. Sen kaltaisissa tapauksissa kuin esimerkiksi elektronisessa hälyssä, tutkintojen arvosanoissa ja monissa muissa voidaan yksittäistä mitattua arvoa usein pitää painotettuna keskiarvona suuresta määrästä pieniä ilmiöitä. Keskeisen raja-arvolauseen yleistysten avulla todetaan, että tämä usein, joskaan ei kaikissa tapauksissa, tuottaa lopullisen jakauman, joka on likipitäen normaali.

Regressioanalyysi

Regressioanalyysi ja varsinkin tavallinen pienimpien neliösummien menetelmä osoittavat, että jos jokin muuttuja ei ole riippumaton, se yleensä riippuu jonkin funktion mukaisesti yhdestä tai useammasta riippu­mattomasta muuttujasta, joihin lisäksi liittyy korjaustermi. Useat regressioon perustuvat tilastolliset päätelmät edellyttävät, että korjaustermi on normaalisti jakautunut. Tämä oletus voidaan perustella olettamalla, että korjaustermi itse asiassa on hyvin monien riippumattomien korjaustermien summa; vaikka yksittäiset korjaustermit sinänsä eivät olisikaan normaalisti jakauteet, keskeisen raja-arvolauseen perusteella niiden summaa voidaan kuitenkin approksimoida normaalijakaumalla.

Historia

Käsityksen normaalijakauman luonteesta eräänlaisena monen tekijän yhteisvaikutusta kuvaavana rajajakaumana esitti eräissä erikoistapauksissa jo Abraham de Moivre vuonna 1733. Keksintö oli tuolloin pitkälti aikaansa edellä, ja se lähes unohdettiin, kunnes kuuluisa ranskalainen matemaatikko Pierre-Simon Laplace palasi asiaan vuonna 1812 julkaistussa teoksessa Théorie analytique des probabilités. Laplace kuitenkin onnistui todistamaan lauseen vain binomijakauman tapauksessa. Mutta myöskään Laplacen keksintö ei hänen omana aikanaan saanut paljonkaan huomiota. Vasta 1800-luvun lopulla keskeisen raja-arvolauseen merkitys alettiin yleisesti ymmärtää, ja vuonna 1901 venäläinen matemaatikko Aleksandr Ljapunov määritteli sen yleisin käsittein ja todisti täsmällisesti, miten se matemaattisesti toimii. Nykyisin keskeinen raja-arvolause yhdessä suurten lukujen lain kanssa muodostaa perustan koko matemaattiselle tilastotieteelle.

Francis Galton kuvaili keskeisen raja-arvolauseen merkitystä seuraavasti:

»Tunnen tuskin mitään, mikä siinä määrin olisi omiaan kiehtomaan mielikuvitusta kuin se ihmeellinen kosminen järjestys, jonka "virheen frekvenssin laki" ilmaisee. Kreikkalaiset olisivat personifioineet lain ja pitäneet sitä jumalana, jos olisivat tunteneet sen. Se hallitsee tyynesti ja itse täysin syrjässä pysytellen keskellä villeintä sekaannusta. Mitä runsaampi väkijoukko ja mitä suurempi näennäinen sekasorto, sitä täydellisemmin se vallitsee. Se on Järjettömyyden ylin laki. Missä tahansa onkin käsillä suuri joukko kaoottisia alkeisvoimia, jotka ohjautuvat niiden suuruusluokkien mukaisessa järjestyksessä, odottamaton ja mitä kaunein säännöllisyyden muoto osoittautuu olleen piilevänä koko ajan.»

Termin "keskeinen raja-arvolause" (saks. zenrtaler Grenzwertsatz) otti ensimmäisenä käyttöön George Pólya vuonna 1920 erään tutkielmansa nimessä. Pólya nimitti lausetta "keskeiseksi" sen suuren merkityksen vuoksi, joka sillä todennäköisyysteoriassa on. Le Camin mukaan todennäköisyyslaskennan ranskalainen koulukunta kuitenkin tulkitsee sanan "keskeinen" viittaavan siihen, että lause kuvaa jakauman keskikohdan, ei sen ääripäiden käyttäytymistä. Pólyan vuonna 1920 julkaiseman tutkielman yhteenvedossa sanotaan:

Gaussin todennäköisyystiheyden 1 = e^-x² esiintyminen toistokokeissa ja mittausvirheissä, jotka saadaan yhteistuloksena hyvin monista ja hyvin pienistä virhelähteistä, sekä diffuusioprosesseissa ja niin edelleen voidaan tunnetusti selittää samalla raja-arvolauseella, jolla on keskeinen osa toden­näköisyys­laskennassa. Tämän raja-arvolauseen keksijäksi pitää nimetä Laplace; luultavaa on, että sen täsmällisen todistuksen esitti ensimmäisenä Tšebyšov, ja terävin löydettävissä oleva muoto, jonka tunnen, on eräässä Ljapunovin artikkelissa. [...]

Yleisimmässä muodossaan lauseen todisti suomalainen matemaatikko Lindeberg vuonna 1922. Saman tuloksen todisti myöhemmin Lindebergin todistuksesta tietämättä myös Alan Turing vuonna 1934. Vasta lähetettyään tutkielmansa Cambridgen yliopistoon tarkastettavaksi hän sai tietää, että se oli jo aiemmin todistettu, minkä vuoksi Turingin tutkielmaa ei koskaan julkaistu.

Eräs Andreas Haldin laatima artikkeli matemaattisen tilasto­tieteen historiasta sisältää myös perusteellisen esityksen keskeisen raja-arvolauseen historiasta. Siinä kerrotaan yksityiskohtaisesti Laplacen sekä myös Cauchyn, Besselin ja Poissonin keksinnöistä. Hans Fischer on laatinut asiasta kaksi historiallista esityistä, joista ensimmäinen kuvaa kehitystä Laplacesta Cauchyyn, jälkimmäinen von Misesin, Pólyan, Lindebergin, Lévyn ja Cramérin tutkimuksia 1920-luvulla. Le Cam on kuvaillut kehitystä vuoden 1935 aikoihin. Bernstein on myös laatinut lauseen historiasta esityksen, joka keskittyy Pafnuty Tšebyšovin ja hänen oppilaidensa Andrei Markovin ja Aleksandr Ljapunovin töihin, jotka johtivat keskeisen raja-arvolauseen ensimmäiseen yleisillä ehdoilla päteviin todistuksiin.

Katso myös

• Suurten lukujen laki
• Normaalijakauma
• Benfordin laki

Lähteet

• Bradley, Richard: Introduction to Strong Mixing Conditions, 1. painos. Heber City, Utah: Kendrick Press, 2007. ISBN 0-9740427-9-X
• Bradley, Richard: Basic Properties of Strong Mixing Conditions. A Survey and Some Open Questions. Probability Surveys, 2005, 2. vsk, s. 107–144. doi:10.1214/154957805100000104 arXiv:math/0511078v1 Artikkelin verkkoversio.

Aiheesta muualla

• Central limit theorem Encyclopedia of Mathematics. Viitattu 9.1.2016.
• Central Limit Theorem, Example: Uniform Distribution statisticalengineering.com.
• Learning by Simulations: Central Limit Theorem vias.org.
• CLT in NetLogo CM ProbLab.
• SOCR EduMaterials Activities GeneralCentralLimitTheorem wiki.stat.ucla.edu.
• About Pages for SOCR Experiments wiki.stat.ucla.edu.
• Generate Samplers for Excel John K. Kruschke. Arkistoitu 17.5.2008. Viitattu 9.1.2016.
• The Central Limit Theorem Wolfram Demonstrations Project. Chris Boucher.
• Central Limit Theorem Wolfram MathWorld. Eric W. Weisstein.
• Keskeinen raja-arvolause yleistajuisesti Jarno Elonen.