Statistisk model specifikation - Statistical model specification

I statistik er modelspecifikation en del af processen med at opbygge en statistisk model : specifikation består i at vælge en passende funktionel form til modellen og vælge hvilke variabler, der skal inkluderes. For eksempel, givet personlig indkomst sammen med mange års skolegang og erfaring på arbejdspladsen , kan vi specificere et funktionelt forhold som følger:

hvor er det uforklarlige fejludtryk , der formodes at omfatte uafhængige og identisk fordelte Gaussiske variabler .

Statistikeren Sir David Cox har sagt: "Hvordan [oversættelsen fra emneproblemet til den statistiske model udføres er ofte den mest kritiske del af en analyse".

Specifikationsfejl og bias

Specifikationsfejl opstår, når den funktionelle form eller valget af uafhængige variabler dårligt repræsenterer relevante aspekter af den ægte datagenereringsproces. Især forekommer bias (den forventede værdi af forskellen i en estimeret parameter og den sande underliggende værdi), hvis en uafhængig variabel er korreleret med de fejl, der er forbundet med den underliggende proces. Der er flere forskellige mulige årsager til specifikationsfejl; nogle er anført nedenfor.

  • En upassende funktionel form kunne anvendes.
  • En variabel, der er udeladt fra modellen, kan have et forhold til både den afhængige variabel og en eller flere af de uafhængige variabler (forårsager udeladt-variabel bias ).
  • En irrelevant variabel kan være inkluderet i modellen (selvom dette ikke skaber forspænding, involverer det overfitting og kan derfor føre til dårlig prædiktiv præstation).
  • Den afhængige variabel kan være en del af et system af samtidige ligninger (hvilket giver samtidig bias).

Derudover kan målefejl påvirke de uafhængige variabler: Selvom dette ikke er en specifikationsfejl, kan det skabe statistisk bias.

Bemærk, at alle modeller har en specifikationsfejl. Faktisk er der i statistikker en almindelig aforisme om, at " alle modeller er forkerte ". Med Burnham & Anderson's ord er "Modellering både en kunst og en videnskab og er rettet mod at finde en god tilnærmelsesmodel ... som grundlaget for statistisk slutning".

Påvisning af forkert specificering

Den Ramsey RESET test kan hjælpe med at test for specifikation fejl i regressionsanalyse .

I ovenstående eksempel vedrørende personlig indkomst til skolegang og joberfaring, hvis forudsætningerne for modellen er korrekte, estimeres de mindste kvadrater af parametrene og vil være effektive og upartiske . Derfor inkluderer specifikationsdiagnostik normalt testning af det første til fjerde øjeblik af restprodukterne .

Modelbygning

Opbygning af en model indebærer at finde et sæt forhold til at repræsentere den proces, der genererer dataene. Dette kræver at man undgår alle de kilder til fejlspecifikation, der er nævnt ovenfor.

En tilgang er at starte med en model i generel form, der er afhængig af en teoretisk forståelse af data-genereringsprocessen. Derefter kan modellen tilpasses dataene og kontrolleres for forskellige kilder til fejlspecifikation, i en opgave kaldet statistisk modelvalidering . Teoretisk forståelse kan derefter styre modifikationen af ​​modellen på en sådan måde, at den bevarer teoretisk gyldighed, mens kilderne til forkert specificering fjernes. Men hvis det viser sig umuligt at finde en teoretisk acceptabel specifikation, der passer til dataene, skal den teoretiske model muligvis afvises og erstattes med en anden.

Et citat fra Karl Popper er apposite her: "Når en teori ser ud for dig som den eneste mulige, skal du tage dette som et tegn på, at du hverken har forstået teorien eller det problem, den var beregnet til at løse".

En anden tilgang til modelbygning er at specificere flere forskellige modeller som kandidater og derefter sammenligne disse kandidatmodeller med hinanden. Formålet med sammenligningen er at bestemme, hvilken kandidatmodel der er bedst egnet til statistisk slutning. Fælles kriterier for sammenligning af modeller omfatter følgende: R 2 , Bayes faktor , og sandsynligheden-kvotientkriteriet sammen med sin generalisering relative sandsynlighed . For mere om dette emne, se valg af statistisk model .

Se også

Bemærkninger

Yderligere læsning