Identificerbarhed - Identifiability

I statistik er identificerbarhed en egenskab, som en model skal opfylde, for at præcis slutning er mulig. En model kan identificeres, hvis det er teoretisk muligt at lære de sande værdier for denne models underliggende parametre efter at have opnået et uendeligt antal observationer fra den. Matematisk svarer dette til at sige, at forskellige værdier af parametrene skal generere forskellige sandsynlighedsfordelinger af de observerbare variabler. Normalt kan modellen kun identificeres under visse tekniske begrænsninger, i hvilket tilfælde sæt af disse krav kaldes identifikationsbetingelserne .

En model, der ikke kan identificeres, siges at være ikke-identificerbar eller uidentificerbar : to eller flere parametreringer er observationsmæssigt ækvivalente . I nogle tilfælde, selvom en model ikke kan identificeres, er det stadig muligt at lære de sande værdier for en bestemt delmængde af modelparametrene. I dette tilfælde siger vi, at modellen er delvist identificerbar . I andre tilfælde kan det være muligt at lære placeringen af ​​den sande parameter op til et bestemt begrænset område af parameterrummet, i hvilket tilfælde modellen er angivet identificerbar .

Bortset fra strengt teoretisk udforskning af modelegenskaberne kan der henvises til identificerbarhed i et større omfang, når en model testes med eksperimentelle datasæt ved hjælp af identificerbarhedsanalyse .

Definition

Lad være en statistisk model, hvor parameterrummet enten er endeligt eller uendeligt dimensionelt. Vi siger, at det kan identificeres, hvis kortlægningen er en-til-en : ${\ displaystyle {\ mathcal {P}} = \ {P _ {\ theta}: \ theta \ in \ Theta \}}$${\ displaystyle \ Theta}$${\ displaystyle {\ mathcal {P}}}$${\ displaystyle \ theta \ mapsto P _ {\ theta}}$

${\ displaystyle P _ {\ theta _ {1}} = P _ {\ theta _ {2}} \ quad \ Rightarrow \ quad \ theta _ {1} = \ theta _ {2} \ quad \ {\ text {for alle }} \ theta _ {1}, \ theta _ {2} \ in \ Theta.}$

Denne definition betyder, at forskellige værdier af θ skal svare til forskellige sandsynlighedsfordelinger: hvis θ ₁ ≠ θ ₂ , så også P _{θ 1} ≠ P _{θ 2} . Hvis fordelingen er defineret i form af sandsynlighedstæthedsfunktionerne (pdfs), bør to pdfs kun betragtes som adskilte, hvis de adskiller sig fra et sæt målinger uden nul (f.eks. To funktioner ƒ ₁ ( x ) =  1 _{0 ≤  x  <1} og ƒ ₂ ( x ) =  1 _{0 ≤  x  ≤ 1} adskiller sig kun ved et enkelt punkt x  = 1 - et sæt mål nul - og kan derfor ikke betragtes som adskilte PDF'er).

Identificerbarheden af ​​modellen i følelsen af ​​inverterbarhed af kortet svarer til at kunne lære modellens sande parameter, hvis modellen kan observeres på ubestemt tid. Faktisk, hvis { X _t } ⊆  S er observationssekvensen fra modellen, så ved den stærke lov om store tal , ${\ displaystyle \ theta \ mapsto P _ {\ theta}}$

${\ displaystyle {\ frac {1} {T}} \ sum _ {t = 1}^{T} \ mathbf {1} _ {\ {X_ {t} \ i A \}} \ {\ xrightarrow {\ tekst {as}}} \ \ Pr [X_ {t} \ i A],}$

for hver målbar sæt A  ⊆  S (her 1 _{...} er den indikator funktion ). Med et uendeligt antal observationer vil vi således kunne finde den sande sandsynlighedsfordeling P ₀ i modellen, og da identificerbarhedstilstanden ovenfor kræver, at kortet er inverterbart, vil vi også kunne finde parameterens sande værdi som genererede en given distribution  P ₀ . ${\ displaystyle \ theta \ mapsto P _ {\ theta}}$

Eksempler

Eksempel 1

Lad være den normale stedskala-familie : ${\ displaystyle {\ mathcal {P}}}$

${\ displaystyle {\ mathcal {P}} = {\ Big \ {} \ f _ {\ theta} (x) = {\ tfrac {1} {{\ sqrt {2 \ pi}} \ sigma}} e^{ -{\ frac {1} {2 \ sigma ^{2}}} (x- \ mu) ^{2}} \ {\ Big |} \ \ theta = (\ mu, \ sigma): \ mu \ in \ mathbb {R}, \, \ sigma \!> 0 \ {\ Big \}}.}$

Derefter

${\ displaystyle {\ begin {align} & f _ {\ theta _ {1}} = f _ {\ theta _ {2}} \\ [6pt] \ Longleftrightarrow {} & {\ frac {1} {{\ sqrt {2 \ pi}} \ sigma _ {1}}} \ exp \ venstre (-{\ frac {1} {2 \ sigma _ {1}^{2}}} (x- \ mu _ {1})^{ 2} \ højre) = {\ frac {1} {{\ sqrt {2 \ pi}} \ sigma _ {2}}} \ exp \ venstre (-{\ frac {1} {2 \ sigma _ {2} ^{2}}} (x- \ mu _ {2})^{2} \ right) \\ [6pt] \ Longleftrightarrow {} & {\ frac {1} {\ sigma _ {1}^{2} }} (x- \ mu _ {1})^{2}+\ ln \ sigma _ {1} = {\ frac {1} {\ sigma _ {2}^{2}}} (x- \ mu _ {2})^{2}+\ ln \ sigma _ {2} \\ [6pt] \ Long Leftrightarrow {} & x^{2} \ venstre ({\ frac {1} {\ sigma _ {1}^{ 2}}}-{\ frac {1} {\ sigma _ {2}^{2}}} \ højre) -2x \ venstre ({\ frac {\ mu _ {1}} {\ sigma _ {1} ^{2}}}-{\ frac {\ mu _ {2}} {\ sigma _ {2}^{2}}} \ højre)+\ venstre ({\ frac {\ mu _ {1}^{ 2}} {\ sigma _ {1}^{2}}}-{\ frac {\ mu _ {2}^{2}} {\ sigma _ {2}^{2}}}+\ ln \ sigma _ {1}-\ ln \ sigma _ {2} \ right) = 0 \ end {align}}}$

Dette udtryk er lig med nul for næsten alle x , når alle dets koefficienter er lig med nul, hvilket kun er muligt, når | σ ₁ | = | σ ₂ | og μ ₁ = μ ₂ . Da parameteren σ er begrænset til at være større end nul, konkluderer vi, at modellen kan identificeres: ƒ _{θ 1}  = ƒ _{θ 2} ⇔ θ ₁  =  θ ₂ .

Eksempel 2

Lad være standard lineær regressionsmodel : ${\ displaystyle {\ mathcal {P}}}$

${\ displaystyle y = \ beta 'x+\ varepsilon, \ quad \ mathrm {E} [\, \ varepsilon \ mid x \,] = 0}$

(hvor ′ betegner matrix -transponering ). Så er parameteren β identificerbar, hvis og kun hvis matrixen er inverterbar. Dette er således identifikationstilstanden i modellen. ${\ displaystyle \ mathrm {E} [xx ']}$

Eksempel 3

Antag , at den klassiske lineære model med fejl i variabler er : ${\ displaystyle {\ mathcal {P}}}$

${\ displaystyle {\ begin {cases} y = \ beta x^{*}+\ varepsilon, \\ x = x^{*}+\ eta, \ end {cases}}}$

hvor ( ε , η , x* ) i fællesskab er normale uafhængige tilfældige variabler med nul forventet værdi og ukendte afvigelser, og kun variablerne ( x , y ) observeres. Så er denne model ikke identificerbar, kun produktet βσ² _∗ er (hvor σ² _∗ er variansen for den latente regressor x* ). Dette er også et eksempel på en sæt identificerbar model: selvom den nøjagtige værdi af β ikke kan læres, kan vi garantere, at den skal ligge et sted i intervallet ( β _yx , 1 ÷ β _xy ), hvor β _yx er koefficienten i OLS regression af y på x , og β _xy er koefficienten i OLS -regression af x på y .

Hvis vi opgiver normalitetsantagelsen og kræver, at x* ikke blev normalfordelt, idet vi kun beholder uafhængighedsbetingelsen ε  ⊥  η  ⊥  x* , bliver modellen identificerbar.

Software

I tilfælde af parameterestimering i delvist observerede dynamiske systemer kan profil sandsynligheden også bruges til strukturel og praktisk identificerbarhedsanalyse. En implementering af [1] er tilgængelig i MATLAB Toolbox PottersWheel .

Se også

• Observerbarhed
• Systemidentifikation
• Simultan ligningsmodel

Referencer

Citater

Kilder

Yderligere læsning

• Walter, É. ; Pronzato, L. (1997), Identifikation af parametriske modeller fra eksperimentelle data , Springer

Økonometri

• Lewbel, Arthur (2019-12-01). "Identifikations Zoo: Betydninger af identifikation i økonometri" . Journal of Economic Literature . American Economic Association. 57 (4): 835–903. doi : 10.1257/jel.20181361 . ISSN  0022-0515 .
• Matzkin, Rosa L. (2013). "Ikke -parametrisk identifikation i strukturelle økonomiske modeller". Årlig gennemgang af økonomi . 5 (1): 457–486. doi : 10.1146/annurev-economics-082912-110231 .
• Rothenberg, Thomas J. (1971). "Identifikation i parametriske modeller". Econometrica . 39 (3): 577–591. doi : 10.2307/1913267 . ISSN  0012-9682 . JSTOR  1913267 .