Johdonmukainen arvio - Consistent estimator

{ T ₁ , T ₂ , T ₃ , ...} on parametrin θ ₀ estimaattoreiden sarja , jonka todellinen arvo on 4. Tämä jakso on johdonmukainen: estimaattorit keskittyvät yhä enemmän lähellä todellista arvoa θ ₀ ; samaan aikaan nämä estimaattorit ovat puolueellisia. Rajoittava jakautuminen sekvenssi on degeneroitunut satunnainen muuttuja, joka on yhtä suuri kuin θ ₀ todennäköisyydellä 1.

In tilastojen , joka on johdonmukainen estimaattori tai asymptoottisesti johdonmukainen estimaattori on estimaattori -a sääntö laskemiseksi arvioita parametrin ie ₀ -having sellainen ominaisuus, että kun määrä käytettyjen tietopisteiden kasvaa loputtomiin, Muodostuva arvioiden suppenee todennäköisyys on ie ₀ . Tämä tarkoittaa, että jakaumat arvioiden tulee enemmän ja enemmän konsentroitiin lähellä todellista arvoa parametrin ollessa arvioitu, niin että todennäköisyys estimaattorin mielivaltaisesti lähellä ie ₀ suppenee yhteen.

Käytännössä muodostetaan estimaattori käytettävissä olevan näytteen, jonka koko on n , funktiona ja sitten kuvitellaan pystyvänsä jatkamaan tietojen keräämistä ja näytteen laajentamista loputtomasti . Tällä tavoin saataisiin sekvenssi arvioista, jotka on indeksoitu n: llä , ja johdonmukaisuus on ominaisuus sille, mitä tapahtuu otoksen koon "kasvaessa äärettömyyteen". Jos estimaattisekvenssin voidaan matemaattisesti osoittaa lähestyvän todennäköisyyttä todelliseen arvoon θ ₀ , sitä kutsutaan johdonmukaiseksi estimaattoriksi; muuten estimaattorin sanotaan olevan epäjohdonmukainen .

Tässä määriteltyyn johdonmukaisuuteen viitataan joskus heikkona yhtenäisyytenä . Kun korvataan todennäköisyyksien lähentyminen melkein varmalla lähentymisellä , estimaattorin sanotaan olevan erittäin johdonmukainen . Johdonmukaisuus liittyy puolueellisuuteen ; katso puolueellisuus vs. johdonmukaisuus .

Määritelmä

Muodollisesti parametrin θ estimaattorin T _n sanotaan olevan johdonmukainen , jos se lähentyy todennäköisyydellä parametrin todelliseen arvoon:

${\ displaystyle {\ underderset {n \ to \ infty} {\ operaattorin nimi {plim}}} \; T_ {n} = \ theta.}$

ts. jos kaikille ε > 0

${\ displaystyle \ lim _ {n \ to \ infty} \ Pr {\ big (} | T_ {n} - \ theta |> \ varepsilon {\ big)} = 0.}$

Tarkempi määritelmä ottaa huomioon tosiasian, että θ on tosiasiallisesti tuntematon, joten todennäköisyyksien lähentymisen on tapahduttava tämän parametrin jokaisen mahdollisen arvon kohdalla. Oletetaan, että { p _θ : θ  ∈ Θ } on jakaumaperhe ( parametrinen malli ), ja X ^θ = { X ₁ , X ₂ ,…: X _i ~ p _θ } on ääretön näyte jakaumasta p _θ . Olkoon {  T _n ( X ^θ )} estimaattorijono joillekin parametrille g ( θ ). Yleensä T _n perustuu näytteen ensimmäisiin n havaintoon. Sitten tämän sekvenssin { T _n } sanotaan olevan (heikosti) johdonmukainen, jos

${\ displaystyle {\ underderset {n \ to \ infty} {\ operaattorin nimi {plim}}} \; T_ {n} (X ^ {\ theta}) = g (\ theta), \ \ {\ text {kaikille }} \ \ theta \ sisään \ Theta.}$

Tässä määritelmässä käytetään g ( θ ) yksinkertaisen θ: n sijasta , koska usein on kiinnostunut estimoimaan tietty funktio tai taustaparametrin alivektori. Seuraavassa esimerkissä arvioimme mallin sijaintiparametrin, mutta ei mittakaavaa:

Esimerkkejä

Normaalin satunnaismuuttujan näytekeskiarvo

Oletetaan, että yhdellä on tarkkailusarja { X ₁ , X ₂ , ...} normaalista N ( μ ,  σ ² ) -jakaumasta. Arvioimaan μ ensimmäisten n havaintojen perusteella voidaan käyttää otoskeskiarvoa : T _n  = ( X ₁ + ... + X _n ) / n . Tämä määrittelee estimaattoreiden sarjan, joka on indeksoitu otoskokoon n .

Alkaen ominaisuuksia normaalijakauman, tiedämme näytteenotto jakelu tämän tilaston: T _n on itse normaalisti jakautunut, jonka keskiarvo on μ ja varianssi σ ² / n . Vastaavasti sillä on normaali normaalijakauma: ${\ displaystyle \ scriptstyle (T_ {n} - \ mu) / (\ sigma / {\ sqrt {n}})}$

${\ displaystyle \ Pr \! \ left [\, | T_ {n} - \ mu | \ geq \ varepsilon \, \ right] = \ Pr \! \ left [{\ frac {{\ sqrt {n}} \ , {\ iso |} T_ {n} - \ mu {\ iso |}} {\ sigma}} \ geq {\ sqrt {n}} \ varepsilon / \ sigma \ oikea] = 2 \ vasen (1- \ Phi \ left ({\ frac {{\ sqrt {n}} \, \ varepsilon} {\ sigma}} \ right) \ right) \ to 0}$

koska n pyrkii äärettömään, kaikilla kiinteillä ε > 0 . Näin ollen, sekvenssi T _n näytteen avulla on yhdenmukainen väestön keskimääräinen  μ (muistutetaan, että on kumulatiivinen jakauma normaalijakauman). ${\ displaystyle \ Phi}$

Johdonmukaisuuden luominen

Asymptoottisen johdonmukaisuuden käsite on hyvin lähellä, melkein synonyymi todennäköisyyden lähentymisen käsitteelle. Sellaisena mitä tahansa teemaa, lemmaa tai ominaisuutta, joka muodostaa todennäköisyyden lähentymisen, voidaan käyttää johdonmukaisuuden osoittamiseen. Tällaisia ​​työkaluja on monia:

• Yhdenmukaisuuden osoittamiseksi suoraan määritelmästä voidaan käyttää epätasa-arvoa

${\ displaystyle \ Pr \! {\ iso [} h (T_ {n} - \ theta) \ geq \ varepsilon {\ iso]} \ leq {\ frac {\ operaattorin nimi {E} {\ iso [} h (T_ {n} - \ theta) {\ iso]}} {h (\ varepsilon)}},}$

funktion h yleisin valinta on joko absoluuttinen arvo (jolloin se tunnetaan nimellä Markovin epätasa-arvo ) tai asteen funktio (vastaavasti Tšebyshevin eriarvoisuus ).

• Toinen hyödyllinen tulos on jatkuva kartoituslause : jos T _n on johdonmukainen θ: lle ja g (·) on reaaliarvoinen funktio, jatkuva pisteessä θ , niin g ( T _n ) on johdonmukainen g: lle ( θ ):

${\ displaystyle T_ {n} \ {\ xrightarrow {p}} \ \ theta \ \ quad \ Rightarrow \ quad g (T_ {n}) \ {\ xrightarrow {p}} \ g (\ theta)}$

• Slutskyn lauseen avulla voidaan yhdistää useita eri estimaattoreita tai estimaattoria ei-satunnaisen konvergentin sekvenssin kanssa. Jos T _n  → ^d α ja S _n  → ^p β , niin

${\ displaystyle {\ begin {aligned} & T_ {n} + S_ {n} \ {\ xrightarrow {d}} \ \ alpha + \ beta, \\ & T_ {n} S_ {n} \ {\ xrightarrow {d} } \ \ alpha \ beta, \\ & T_ {n} / S_ {n} \ {\ xrightarrow {d}} \ \ alpha / \ beta, {\ text {edellyttäen, että}} \ beta \ neq 0 \ end {tasattu }}}$

• Jos estimaattori T _n annetaan nimenomaisella kaavalla, kaavassa todennäköisesti käytetään satunnaismuuttujien summia, ja sitten voidaan käyttää suurten lukujen lakia : satunnaismuuttujien jaksolle { X _n } ja sopivissa olosuhteissa,

${\ displaystyle {\ frac {1} {n}} \ summa _ {i = 1} ^ {n} g (X_ {i}) \ {\ xrightarrow {p}} \ \ operaattorin nimi {E} [\, g (X) \,]}$

• Jos estimaattori T _n määritetään implisiittisesti, esimerkiksi arvona, joka maksimoi tietyn tavoitefunktion (ks. Ääripääestimaatti ), on käytettävä monimutkaisempaa argumenttia, johon liittyy stokastinen tasa-arvo .

Bias vs. johdonmukaisuus

Puolueeton, mutta ei johdonmukainen

Estimaattori voi olla puolueeton, mutta ei johdonmukainen. Esimerkiksi iid- näytteelle { x
₁, ..., x
_n} voidaan käyttää T.
_n( X ) = x
_nkeskiarvon E [ x ] estimaattorina . Huomaa, että tässä T: n näytteenottojakauma
_non sama kuin taustajakauma (minkä tahansa n: n kohdalla, koska se jättää huomiotta kaikki pisteet paitsi viimeisen), joten E [ T
_n( X )] = E [ x ] ja se on puolueeton, mutta se ei lähene mihinkään arvoon.

Jos estimaattorisarja on puolueeton ja lähentyy arvoon, se on johdonmukainen, koska sen on lähennettävä oikeaan arvoon.

Puolueellinen, mutta johdonmukainen

Vaihtoehtoisesti estimaattori voi olla puolueellinen, mutta johdonmukainen. Esimerkiksi, jos keskiarvo on arvioitu sen perusteella, se on puolueellinen, mutta kun se lähestyy oikeaa arvoa, joten se on johdonmukainen. ${\ displaystyle {1 \ yli n} \ summa x_ {i} + {1 \ yli n}}$${\ displaystyle n \ rightarrow \ infty}$

Tärkeitä esimerkkejä ovat otosvarianssi ja näytteen keskihajonta . Ilman Besselin korjausta (ts. Kun käytetään otoskokoa vapausasteiden sijasta ), nämä ovat molemmat negatiivisesti puolueellisia, mutta johdonmukaisia ​​arvioita. Korjauksen avulla korjattu näytevaihtelu on puolueeton, kun taas korjattu näytteen keskihajonta on edelleen puolueellinen, mutta vähemmän, ja molemmat ovat edelleen yhdenmukaisia: korjauskerroin lähenee arvoon 1 näytteen koon kasvaessa. ${\ displaystyle n}$ ${\ displaystyle n-1}$

Tässä on toinen esimerkki. Antaa olla sarja estimaattoreita . ${\ displaystyle T_ {n}}$${\ displaystyle \ theta}$

${\ displaystyle \ Pr (T_ {n}) = {\ aloita {tapaukset} 1-1 / n ja {\ mbox {if}} \, T_ {n} = \ theta \\ 1 / n ja {\ mbox {if}} \, T_ {n} = n \ delta + \ theta \ end {tapauksissa}}}$

Voimme nähdä, että , ja puolueellisuus ei lähene nollaksi. ${\ displaystyle T_ {n} {\ xrightarrow {p}} \ theta}$${\ displaystyle \ operaattorin nimi {E} [T_ {n}] = \ theta + \ delta}$

Katso myös

• Tehokas arvio
• Fisherin johdonmukaisuus - vaihtoehtoinen, vaikkakin harvoin käytetty estimaattoreiden johdonmukaisuuden käsite
• Regressiolaimennus
• Tilastollinen hypoteesitestaus

Huomautuksia

Viitteet

• Amemiya, Takeshi (1985). Edistynyt ekonometria . Harvard University Press . ISBN 0-674-00560-0.
• Lehmann, EL ; Casella, G. (1998). Pistearvioinnin teoria (2. painos). Springer. ISBN 0-387-98502-6.
• Newey, WK; McFadden, D. (1994). "Luku 36: Suuri otoksen arviointi ja hypoteesien testaus". Teoksessa Robert F. Engle; Daniel L.McFadden (toim.). Ekonometrian käsikirja . 4 . Elsevier Science. ISBN 0-444-88766-0. S2CID  29436457 .
• Nikulin, MS (2001) [1994], "Johdonmukainen arvioija" , Matematiikan tietosanakirja , EMS Press
• Sober, E. (1988), "Todennäköisyys ja lähentyminen", Philosophy of Science , 55 (2): 228–237, doi : 10.1086 / 289429.

Ulkoiset linkit

• Ekonometrian luento (aihe: puolueeton vs. johdonmukainen) päälle YouTubessa by Mark Thoma