Autoregressiv model - Autoregressive model

I statistik, økonometri og signalbehandling er en autoregressiv ( AR ) model en repræsentation af en type tilfældig proces; som sådan bruges den til at beskrive bestemte tidsvarierende processer inden for natur, økonomi osv. Den autoregressive model specificerer, at outputvariablen afhænger lineært af sine egne tidligere værdier og af et stokastisk udtryk (et ufuldkommen forudsigeligt udtryk); modellen er således i form af en stokastisk forskelsligning (eller gentagelsesrelation, som ikke skal forveksles med differentialligning). Sammen med den bevægelige gennemsnitlige (MA) model er den en særlig sag og nøglekomponent i de mere generelle autoregressive – glidende gennemsnit (ARMA) og autoregressive integrerede glidende gennemsnit (ARIMA) modeller af tidsserier, som har en mere kompliceret stokastisk struktur; det er også et specielt tilfælde af vektorautoregressiv model (VAR), som består af et system med mere end en sammenlåsende stokastisk forskelsligning i mere end en udviklende tilfældig variabel.

I modsætning til den bevægelige gennemsnitlige (MA) model er den autoregressive model ikke altid stationær, da den kan indeholde en enhedsrod.

Definition

Notationen angiver en autoregressiv ordensmodel s . AR ( p ) -modellen er defineret som ${\ displaystyle AR (p)}$

${\ displaystyle X_ {t} = c+\ sum _ {i = 1}^{p} \ varphi _ {i} X_ {ti}+\ varepsilon _ {t} \,}$

hvor er parametrene for modellen, er en konstant og er hvid støj . Dette kan skrives tilsvarende ved hjælp af backshift -operatoren B som ${\ displaystyle \ varphi _ {1}, \ ldots, \ varphi _ {p}}$${\ displaystyle c}$${\ displaystyle \ varepsilon _ {t}}$

${\ displaystyle X_ {t} = c+\ sum _ {i = 1}^{p} \ varphi _ {i} B^{i} X_ {t}+\ varepsilon _ {t}}$

således at flytte summation sigt til venstre side og bruge polynomium notation , har vi

${\ displaystyle \ phi [B] X_ {t} = c+\ varepsilon _ {t} \ ,.}$

En autoregressiv model kan således ses som udgangen af en all- pole IIR filter, hvis input er hvid støj.

Nogle parameterbegrænsninger er nødvendige for, at modellen forbliver vidfarts-stationær . For eksempel er processer i AR (1) -modellen med ikke stationære. Mere generelt for at en AR ( p ) -model skal være stationær med vid forstand, skal polynomiets rødder ligge uden for enhedscirklen , dvs. hver (kompleks) rod skal tilfredsstille (se side 88,90). ${\ displaystyle | \ varphi _ {1} | \ geq 1}$${\ displaystyle \ Phi (z): = \ textstyle 1- \ sum _ {i = 1}^{p} \ varphi _ {i} z^{pi}}$${\ displaystyle z_ {i}}$${\ displaystyle | z_ {i} |> 1}$

Intertemporal effekt af stød

I en AR-proces påvirker et engangsstød værdierne for den udviklende variabel uendeligt langt ind i fremtiden. Overvej f.eks. AR (1) -modellen . En værdi uden nul for på tidspunktet t = 1 påvirker mængden . Derefter ved AR -ligningen for i forhold til , påvirker dette med mængden . Derefter ved AR -ligningen for i forhold til , påvirker dette med mængden . Fortsættelse af denne proces viser, at effekten af aldrig ender, selvom hvis processen er stationær , falder effekten mod nul i grænsen. ${\ displaystyle X_ {t} = c+\ varphi _ {1} X_ {t-1}+\ varepsilon _ {t}}$${\ displaystyle \ varepsilon _ {t}}$${\ displaystyle X_ {1}}$${\ displaystyle \ varepsilon _ {1}}$${\ displaystyle X_ {2}}$${\ displaystyle X_ {1}}$${\ displaystyle X_ {2}}$${\ displaystyle \ varphi _ {1} \ varepsilon _ {1}}$${\ displaystyle X_ {3}}$${\ displaystyle X_ {2}}$${\ displaystyle X_ {3}}$${\ displaystyle \ varphi _ {1}^{2} \ varepsilon _ {1}}$${\ displaystyle \ varepsilon _ {1}}$

Fordi hvert stød påvirker X -værdier uendeligt langt ind i fremtiden, fra de opstår, påvirkes enhver given værdi X _t af stød, der forekommer uendeligt langt ind i fortiden. Dette kan også ses ved at omskrive autoregressionen

${\ displaystyle \ phi (B) X_ {t} = \ varepsilon _ {t} \,}$

(hvor det konstante udtryk er blevet undertrykt ved at antage, at variablen er blevet målt som afvigelser fra middelværdien) som

${\ displaystyle X_ {t} = {\ frac {1} {\ phi (B)}} \ varepsilon _ {t} \ ,.}$

Når polynominddelingen i højre side udføres, har polynomet i backshift -operatøren, der søges om, en uendelig rækkefølge - det vil sige et uendeligt antal forsinkede værdier af vises på højre side af ligningen. ${\ displaystyle \ varepsilon _ {t}}$${\ displaystyle \ varepsilon _ {t}}$

Karakteristisk polynom

Den autokorrelationsfunktion af en AR ( p ) proces kan udtrykkes som

${\ displaystyle \ rho (\ tau) = \ sum _ {k = 1}^{p} a_ {k} y_ {k}^{-| \ tau |},}$

hvor er polynomiets rødder ${\ displaystyle y_ {k}}$

${\ displaystyle \ phi (B) = 1- \ sum _ {k = 1}^{p} \ varphi _ {k} B^{k}}$

hvor B er backshift -operatoren , hvor er funktionen, der definerer autoregressionen, og hvor er koefficienterne i autoregressionen. ${\ displaystyle \ phi (\ cdot)}$${\ displaystyle \ varphi _ {k}}$

Autokorrelationsfunktionen i en AR ( p ) -proces er en sum af henfaldende eksponentialer.

• Hver rigtig rod bidrager med en komponent til autokorrelationsfunktionen, der henfalder eksponentielt.
• Tilsvarende bidrager hvert par komplekse konjugerede rødder med en eksponentielt dæmpet svingning.

Grafer over AR ( p ) processer

Den enkleste AR -proces er AR (0), som ikke er afhængig af vilkårene. Kun termen fejl/innovation/støj bidrager til procesens output, så i figuren svarer AR (0) til hvid støj.

For en AR (1) -proces med en positiv bidrager kun det foregående udtryk i processen og støjudtrykket til output. Hvis er tæt på 0, ligner processen stadig hvid støj, men når det nærmer sig 1, får output et større bidrag fra det foregående udtryk i forhold til støj. Dette resulterer i en "udjævning" eller integration af output, svarende til et lavpasfilter. ${\ displaystyle \ varphi}$${\ displaystyle \ varphi}$${\ displaystyle \ varphi}$

For en AR (2) -proces bidrager de to foregående udtryk og støjbegrebet til output. Hvis begge og er positive, ligner output et lavpasfilter, hvor højfrekvensdelen af ​​støjen reduceres. Hvis det er positivt, mens det er negativt, favoriserer processen ændringer i tegn mellem procesens vilkår. Outputtet svinger. Dette kan sammenlignes med kantdetektering eller detektion af ændring i retning. ${\ displaystyle \ varphi _ {1}}$${\ displaystyle \ varphi _ {2}}$${\ displaystyle \ varphi _ {1}}$${\ displaystyle \ varphi _ {2}}$

Eksempel: En AR (1) proces

En AR (1) -proces er givet ved:

${\ displaystyle X_ {t} = c+\ varphi X_ {t-1}+\ varepsilon _ {t} \,}$

hvor er en hvid støjproces med nul middelværdi og konstant varians . (Bemærk: Abonnementet på er droppet.) Processen er vidfornemmet stationær, hvis den siden er opnået som output fra et stabilt filter, hvis input er hvid støj. (Hvis så variansen af afhænger af tidsforsinkelse t, så seriens varians divergerer til uendeligt, når t går til uendeligt, og derfor ikke er vid forstand stationær.) Forudsat er middelværdien identisk for alle værdier af t ved hjælp af meget definition af vid forstand stationaritet. Hvis middelværdien betegnes med , følger det af ${\ displaystyle \ varepsilon _ {t}}$${\ displaystyle \ sigma _ {\ varepsilon}^{2}}$${\ displaystyle \ varphi _ {1}}$${\ displaystyle | \ varphi | <1}$${\ displaystyle \ varphi = 1}$${\ displaystyle X_ {t}}$${\ displaystyle | \ varphi | <1}$${\ displaystyle \ operatorname {E} (X_ {t})}$${\ displaystyle \ mu}$

${\ displaystyle \ operatorname {E} (X_ {t}) = \ operatorname {E} (c)+\ varphi \ operatorname {E} (X_ {t-1})+\ operatorname {E} (\ varepsilon _ { t}),}$

at

${\ displaystyle \ mu = c +\ varphi \ mu +0,}$

og dermed

${\ displaystyle \ mu = {\ frac {c} {1- \ varphi}}.}$

Især hvis middelværdien er 0. ${\ displaystyle c = 0}$

Den varians er

${\ displaystyle {\ textrm {var}} (X_ {t}) = \ operatorname {E} (X_ {t} ^{2})-\ mu ^{2} = {\ frac {\ sigma _ {\ varepsilon } ^{2}} {1- \ varphi ^{2}}},}$

hvor er standardafvigelsen for . Dette kan vises ved at bemærke det ${\ displaystyle \ sigma _ {\ varepsilon}}$${\ displaystyle \ varepsilon _ {t}}$

${\ displaystyle {\ textrm {var}} (X_ {t}) = \ varphi ^{2} {\ textrm {var}} (X_ {t-1})+\ sigma _ {\ varepsilon} ^{2} ,}$

og derefter ved at bemærke, at mængden ovenfor er et stabilt fast punkt i denne relation.

Den autocovariance er givet ved

${\ displaystyle B_ {n} = \ operatorname {E} (X_ {t+n} X_ {t})-\ mu ^{2} = {\ frac {\ sigma _ {\ varepsilon} ^{2}} { 1- \ varphi ^{2}}} \, \, \ varphi ^{| n |}.}$

Det kan ses, at autocovariance -funktionen henfalder med en henfaldstid (også kaldet tidskonstant ) på [for at se dette, skriv hvor er uafhængigt af . Bemærk det derefter, og match dette med loven om eksponentiel henfald ]. ${\ displaystyle \ tau = -1/\ ln (\ varphi)}$${\ displaystyle B_ {n} = K \ varphi ^{| n |}}$${\ displaystyle K}$${\ displaystyle n}$${\ displaystyle \ varphi ^{| n |} = e ^{| n | \ ln \ varphi}}$${\ displaystyle e^{-n/\ tau}}$

Den spektral tæthed funktion er den Fourier transformation af autocovariance funktion. I diskrete termer vil dette være Fourier-transformen i diskret tid:

${\ displaystyle \ Phi (\ omega) = {\ frac {1} {\ sqrt {2 \ pi}}} \, \ sum _ {n =-\ infty}^{\ infty} B_ {n} e^{ -i \ omega n} = {\ frac {1} {\ sqrt {2 \ pi}}} \, \ venstre ({\ frac {\ sigma _ {\ varepsilon} ^{2}} {1+ \ varphi ^ {2} -2 \ varphi \ cos (\ omega)}} \ højre).}$

Dette udtryk er periodisk på grund af den diskrete natur , som manifesteres som cosinusbetegnelsen i nævneren. Hvis vi antager, at prøveudtagningstiden ( ) er meget mindre end henfaldstiden ( ), kan vi bruge en kontinuertilnærmelse til : ${\ displaystyle X_ {j}}$${\ displaystyle \ Delta t = 1}$${\ displaystyle \ tau}$${\ displaystyle B_ {n}}$

${\ displaystyle B (t) \ approx {\ frac {\ sigma _ {\ varepsilon} ^{2}} {1- \ varphi ^{2}}} \, \, \ varphi ^{| t |}}$

som giver en Lorentzian profil for spektraltætheden:

${\ displaystyle \ Phi (\ omega) = {\ frac {1} {\ sqrt {2 \ pi}}} \, {\ frac {\ sigma _ {\ varepsilon} ^{2}} {1- \ varphi ^ {2}}} \, {\ frac {\ gamma} {\ pi (\ gamma ^{2}+\ omega ^{2})}}}}$

hvor er vinkelfrekvensen forbundet med henfaldstiden . ${\ displaystyle \ gamma = 1/\ tau}$${\ displaystyle \ tau}$

En alternativ udtryk for kan afledes ved først substituerende for i afgrænser ligning. Fortsætter denne proces N gange giver ${\ displaystyle X_ {t}}$${\ displaystyle c+\ varphi X_ {t-2}+\ varepsilon _ {t-1}}$${\ displaystyle X_ {t-1}}$

${\ displaystyle X_ {t} = c \ sum _ {k = 0} ^{N-1} \ varphi ^{k}+\ varphi ^{N} X_ {tN}+\ sum _ {k = 0} ^ {N-1} \ varphi ^{k} \ varepsilon _ {tk}.}$

For N nærmer sig uendeligt, vil nærme sig nul og: ${\ displaystyle \ varphi ^{N}}$

${\ displaystyle X_ {t} = {\ frac {c} {1- \ varphi}}+\ sum _ {k = 0} ^{\ infty} \ varphi ^{k} \ varepsilon _ {tk}.}$

Det ses, at det er hvid støj, der er forbundet med kernen plus det konstante middel. Hvis den hvide støj er en Gaussisk proces derefter er også en Gaussisk proces. I andre tilfælde angiver den centrale grænsesætning , at den vil være cirka normalfordelt, når den er tæt på en. ${\ displaystyle X_ {t}}$${\ displaystyle \ varphi ^{k}}$${\ displaystyle \ varepsilon _ {t}}$${\ displaystyle X_ {t}}$${\ displaystyle X_ {t}}$${\ displaystyle \ varphi}$

Eksplicit middel/forskel form for AR (1) proces

AR (1) -modellen er den diskrete tidsanalogi for den kontinuerlige Ornstein-Uhlenbeck-proces . Det er derfor nogle gange nyttigt at forstå egenskaberne ved AR (1) modellen støbt i en tilsvarende form. I denne form er AR (1) modellen med procesparameter givet ved: ${\ displaystyle \ theta}$

${\ displaystyle X_ {t+1} = X_ {t}+(1- \ theta) (\ mu -X_ {t})+\ epsilon _ {t+1}}$, hvor og er modellen middelværdi.${\ displaystyle | \ theta | <1 \,}$${\ displaystyle \ mu}$

Ved at sætte dette i formularen og derefter udvide serien til , kan man vise, at: ${\ displaystyle X_ {t+1} = c+\ phi X_ {t} \+\ epsilon _ {t+1}}$${\ displaystyle X_ {t+n}}$

${\ displaystyle \ operatorname {E} (X_ {t+n} | X_ {t}) = \ mu \ venstre [1- \ theta ^{n} \ højre]+X_ {t} \ theta ^{n}}$, og

${\ displaystyle \ operatorname {Var} (X_ {t+n} | X_ {t}) = \ sigma ^{2} {\ frac {1- \ theta ^{2n}} {1- \ theta ^{2} }}}$.

Valg af den maksimale forsinkelse

Den partielle autokorrelation af en AR (p) -proces er lig med nul ved forsinkelse, som ikke er større end rækkefølgen af ​​p og giver en god model for korrelationen mellem og , så den passende maksimale forsinkelse er den, over hvilken de delvise autokorrelationer alle er nul. ${\ displaystyle X_ {1}}$${\ displaystyle X_ {p+1}}$

Beregning af AR -parametrene

Der er mange måder at estimere koefficienterne på, f.eks. Den almindelige mindstekvadratprocedure eller momentmetode (gennem Yule -Walker -ligninger).

AR ( p ) -modellen er givet ved ligningen

${\ displaystyle X_ {t} = \ sum _ {i = 1}^{p} \ varphi _ {i} X_ {ti}+\ varepsilon _ {t}. \,}$

Det er baseret på parametre, hvor i = 1, ..., s . Der er en direkte korrespondance mellem disse parametre og procesens kovariansfunktion, og denne korrespondance kan vendes for at bestemme parametrene fra autokorrelationsfunktionen (som selv hentes fra kovarianserne). Dette gøres ved hjælp af Yule -Walker -ligningerne. ${\ displaystyle \ varphi _ {i}}$

Yule -Walker -ligninger

Yule -Walker -ligningerne, opkaldt efter Udny Yule og Gilbert Walker , er følgende sæt ligninger.

${\ displaystyle \ gamma _ {m} = \ sum _ {k = 1}^{p} \ varphi _ {k} \ gamma _ {mk}+\ sigma _ {\ varepsilon}^{2} \ delta _ { m, 0},}$

hvor m  = 0,…,  p , hvilket giver p  + 1 ligninger. Her er autokovariansfunktionen for X _t , er standardafvigelsen for inputstøjprocessen og er Kronecker delta -funktionen . ${\ displaystyle \ gamma _ {m}}$${\ displaystyle \ sigma _ {\ varepsilon}}$${\ displaystyle \ delta _ {m, 0}}$

Fordi den sidste del af en individuel ligning kun er nul, hvis m  = 0 , kan ligningssættet løses ved at repræsentere ligningerne for m  > 0 i matrixform og dermed få ligningen

${\ displaystyle {\ begin {bmatrix} \ gamma _ {1} \\\ gamma _ {2} \\\ gamma _ {3} \\\ vdots \\\ gamma _ {p} \\\ end {bmatrix} } = {\ begin {bmatrix} \ gamma _ {0} & \ gamma _ {-1} & \ gamma _ {-2} & \ cdots \\\ gamma _ {1} & \ gamma _ {0} & \ gamma _ {-1} & \ cdots \\\ gamma _ {2} & \ gamma _ {1} & \ gamma _ {0} & \ cdots \\\ vdots & \ vdots & \ vdots & \ ddots \\\ gamma _ {p-1} & \ gamma _ {p-2} & \ gamma _ {p-3} & \ cdots \\\ end {bmatrix}} {\ begin {bmatrix} \ varphi _ {1} \\ \ varphi _ {2} \\\ varphi _ {3} \\\ vdots \\\ varphi _ {p} \\\ end {bmatrix}}}$

som kan løses for alle Den resterende ligning for m = 0 er ${\ displaystyle \ {\ varphi _ {m}; m = 1,2, \ prikker, p \}.}$

${\ displaystyle \ gamma _ {0} = \ sum _ {k = 1}^{p} \ varphi _ {k} \ gamma _ {-k}+\ sigma _ {\ varepsilon}^{2},}$

som, når de er kendt, kan løses for${\ displaystyle \ {\ varphi _ {m}; m = 1,2, \ prikker, p \}}$${\ displaystyle \ sigma _ {\ varepsilon}^{2}.}$

En alternativ formulering er med hensyn til autokorrelationsfunktionen . AR -parametrene bestemmes af de første p +1 -elementer i autokorrelationsfunktionen. Den fulde autokorrelationsfunktion kan derefter udledes ved rekursivt beregning ${\ displaystyle \ rho (\ tau)}$

${\ displaystyle \ rho (\ tau) = \ sum _ {k = 1}^{p} \ varphi _ {k} \ rho (k- \ tau)}$

Eksempler på nogle lavordens AR ( p ) -processer

• p = 1
  • ${\ displaystyle \ gamma _ {1} = \ varphi _ {1} \ gamma _ {0}}$
  • Derfor ${\ displaystyle \ rho _ {1} = \ gamma _ {1}/\ gamma _ {0} = \ varphi _ {1}}$
• p = 2
  • Yule -Walker -ligningerne for en AR (2) -proces er

    ${\ displaystyle \ gamma _ {1} = \ varphi _ {1} \ gamma _ {0}+\ varphi _ {2} \ gamma _ {-1}}$

    ${\ displaystyle \ gamma _ {2} = \ varphi _ {1} \ gamma _ {1}+\ varphi _ {2} \ gamma _ {0}}$

    • Huske på, at ${\ displaystyle \ gamma _ {-k} = \ gamma _ {k}}$
    • Brug af den første ligningsudbytte ${\ displaystyle \ rho _ {1} = \ gamma _ {1}/\ gamma _ {0} = {\ frac {\ varphi _ {1}} {1- \ varphi _ {2}}}}$
    • Brug af rekursionsformel giver ${\ displaystyle \ rho _ {2} = \ gamma _ {2}/\ gamma _ {0} = {\ frac {\ varphi _ {1}^{2}-\ varphi _ {2}^{2}+ \ varphi _ {2}} {1- \ varphi _ {2}}}}$

Estimering af AR -parametre

Ovenstående ligninger (Yule -Walker -ligningerne) giver flere ruter til at estimere parametrene for en AR ( p ) -model ved at erstatte de teoretiske kovarianser med estimerede værdier. Nogle af disse varianter kan beskrives som følger:

• Estimering af autocovariances eller autocorrelations. Her estimeres hvert af disse udtryk separat ved hjælp af konventionelle estimater. Der er forskellige måder at gøre dette på, og valget mellem disse påvirker estimeringsskemaets egenskaber. For eksempel kan negative estimater af variansen frembringes ved nogle valg.
• Formulering som et mindste kvadraters regressionsproblem , hvor et almindeligt mindst kvadraters forudsigelsesproblem er konstrueret, der bygger forudsigelse af værdier af X _t på de p tidligere værdier i samme serie. Dette kan betragtes som en fremadrettet forudsigelsesplan. De normale ligninger for dette problem kan ses at svare til en tilnærmelse af matrixformen for Yule -Walker -ligningerne, hvor hvert udseende af en autokovarians med samme lag er erstattet af et lidt anderledes estimat.
• Formulering som en udvidet form for almindeligt mindste kvadraters forudsigelsesproblem. Her kombineres to sæt forudsigelsesligninger til et enkelt estimationsskema og et enkelt sæt normale ligninger. Det ene sæt er sættet med fremadrettet forudsigelsesligninger og det andet er et tilsvarende sæt bagudgående forudsigelsesligninger, der vedrører baglæns repræsentation af AR-modellen:

${\ displaystyle X_ {t} = c+\ sum _ {i = 1}^{p} \ varphi _ {i} X_ {ti}+\ varepsilon _ {t}^{*} \ ,.}$

Her ville forudsagte værdier af X _t være baseret på p fremtidige værdier i samme serie. Denne måde at estimere AR -parametrene skyldes Burg, og kaldes Burg -metoden: Burg og senere forfattere kaldte disse særlige estimater for "maksimale entropiestimater", men begrundelsen bag dette gælder for brugen af ​​ethvert sæt af estimerede AR -parametre. Sammenlignet med estimeringsskemaet, der kun anvender de fremadrettede forudsigelsesligninger, produceres forskellige estimater af autocovariances, og estimaterne har forskellige stabilitetsegenskaber. Burgestimater er især forbundet med maksimal entropispektralestimering .

Andre mulige metoder til estimering omfatter estimering af maksimal sandsynlighed . To forskellige varianter af maksimal sandsynlighed er tilgængelige: i en (stort set ækvivalent med den fremadrettede forudsigelse med mindst kvadrater) er sandsynlighedsfunktionen, der betragtes som den, der svarer til den betingede fordeling af senere værdier i serien givet de indledende p -værdier i serien; i det andet er sandsynlighedsfunktionen, der overvejes, den, der svarer til den ubetingede fælles fordeling af alle værdierne i de observerede serier. Væsentlige forskelle i resultaterne af disse fremgangsmåder kan forekomme, hvis den observerede serie er kort, eller hvis processen er tæt på ikke-stationær.

Spektrum

Den power spectral density (PSD) af en AR ( p ) proces med støjvarians er ${\ displaystyle \ mathrm {Var} (Z_ {t}) = \ sigma _ {Z}^{2}}$

${\ displaystyle S (f) = {\ frac {\ sigma _ {Z}^{2}} {| 1- \ sum _ {k = 1}^{p} \ varphi _ {k} e^{-i2 \ pi fk} |^{2}}}.}$

AR (0)

Til hvid støj (AR (0))

${\ displaystyle S (f) = \ sigma _ {Z}^{2}.}$

AR (1)

Til AR (1)

${\ displaystyle S (f) = {\ frac {\ sigma _ {Z}^{2}} {| 1- \ varphi _ {1} e^{-2 \ pi if} |^{2}}} = {\ frac {\ sigma _ {Z}^{2}} {1+ \ varphi _ {1}^{2} -2 \ varphi _ {1} \ cos 2 \ pi f}}}$

• Hvis der er en enkelt spektral spids ved f = 0, ofte omtalt som rød støj . Når det bliver tættere på 1, er der stærkere effekt ved lave frekvenser, dvs. større tidsforsinkelser. Dette er derefter et lavpasfilter, når det anvendes på fuldspektret lys, filtreres alt undtagen det røde lys.${\ displaystyle \ varphi _ {1}> 0}$${\ displaystyle \ varphi _ {1}}$
• Hvis der er et minimum på f = 0, ofte omtalt som blå støj . Dette fungerer på samme måde som et højpasfilter, alt undtagen blåt lys filtreres.${\ displaystyle \ varphi _ {1} <0}$

AR (2)

AR (2) processer kan opdeles i tre grupper afhængigt af egenskaberne ved deres rødder:

${\ displaystyle z_ {1}, z_ {2} = {\ frac {1} {2}} \ venstre (\ varphi _ {1} \ pm {\ sqrt {\ varphi _ {1}^{2} +4 \ varphi _ {2}}} \ højre)}$

• Når processen har et par kompleks-konjugerede rødder, hvilket skaber en mellemfrekvent top ved:${\ displaystyle \ varphi _ {1}^{2} +4 \ varphi _ {2} <0}$

${\ displaystyle f ^{*} = {\ frac {1} {2 \ pi}} \ cos ^{-1} \ venstre ({\ frac {\ varphi _ {1} (\ varphi _ {2} -1 )} {4 \ varphi _ {2}}} \ højre)}$

Ellers har processen reelle rødder, og:

• Når det fungerer som et lavpasfilter på den hvide støj med en spektral spids ved${\ displaystyle \ varphi _ {1}> 0}$${\ displaystyle f = 0}$
• Når det fungerer som et højpasfilter på den hvide støj med en spektral spids ved .${\ displaystyle \ varphi _ {1} <0}$${\ displaystyle f = 1/2}$

Processen er ikke-stationær, når rødderne er uden for enhedscirklen. Processen er stabil, når rødderne er inden for enhedscirklen, eller tilsvarende når koefficienterne er i trekanten . ${\ displaystyle -1 \ leq \ varphi _ {2} \ leq 1- | \ varphi _ {1} |}$

Den fulde PSD -funktion kan udtrykkes i reel form som:

${\ displaystyle S (f) = {\ frac {\ sigma _ {Z}^{2}} {1+ \ varphi _ {1}^{2}+\ varphi _ {2}^{2} -2 \ varphi _ {1} (1- \ varphi _ {2}) \ cos (2 \ pi f) -2 \ varphi _ {2} \ cos (4 \ pi f)}}}}$

Implementeringer i statistikpakker

• R , statistikpakken indeholder en ar -funktion.
• MATLABs Econometrics Toolbox og System Identification Toolbox indeholder autoregressive modeller
• Matlab og Octave : TSA-værktøjskassen indeholder flere estimeringsfunktioner for uni-variate, multivariate og adaptive autoregressive modeller.
• PyMC3 : Bayesiansk statistik og probabilistisk programmeringsramme understøtter autoregressive tilstande med p lags.
• bayesloop understøtter parameterinferens og modelvalg til AR-1-processen med tidsvarierende parametre.
• Python : implementering i statsmodeller.

Impulsrespons

Den impulssvar af et system er ændringen i en udviklende variabel som reaktion på en ændring i værdien af en chok sigt k perioder tidligere, som en funktion af k . Da AR -modellen er et specielt tilfælde af vektorautoregressiv model, gælder beregningen af ​​impulsresponset i vektorautoregression#impulsrespons her.

n -skridt fremad

Når parametrene for autoregression

${\ displaystyle X_ {t} = c+\ sum _ {i = 1}^{p} \ varphi _ {i} X_ {ti}+\ varepsilon _ {t} \,}$

er blevet estimeret, kan autoregressionen bruges til at forudsige et vilkårligt antal perioder ud i fremtiden. Brug først t til at referere til den første periode, for hvilken der endnu ikke er data tilgængelige; erstat de kendte foregående værdier X _t-i med i = 1, ..., p i den autoregressive ligning, mens fejlsættet indstilles til nul (fordi vi forudsiger, at X _t svarer til dens forventede værdi og den forventede værdi af det ikke-observerede fejlterm er nul). Outputtet af den autoregressive ligning er prognosen for den første ikke -observerede periode. Brug derefter t til at referere til den næste periode, hvor data endnu ikke er tilgængelige; igen bruges den autoregressive ligning til at lave prognosen med en forskel: værdien af X en periode før den, der nu forudsiges, kendes ikke, så dens forventede værdi - den forudsagte værdi, der stammer fra det foregående prognosetrin - bruges i stedet . Derefter bruges den samme procedure for fremtidige perioder, hver gang der bruges endnu en prognoseværdi på højre side af den forudsigende ligning, indtil alle p højre side-værdier efter p- forudsigelser er forudsagte værdier fra foregående trin. ${\ displaystyle \ varepsilon _ {t}}$

Der er fire usikkerhedskilder vedrørende forudsigelser opnået på denne måde: (1) usikkerhed om, hvorvidt den autoregressive model er den korrekte model; (2) usikkerhed om nøjagtigheden af ​​de forudsagte værdier, der bruges som forsinkede værdier i højre side af den autoregressive ligning (3) usikkerhed om de autoregressive koefficienters sande værdier; og (4) usikkerhed om værdien af ​​fejlperioden for den periode, der forudsiges. Hver af de tre sidste kan kvantificeres og kombineres til at give et konfidensinterval for n -skridt -forudsigelser; konfidensintervallet bliver bredere, når n stiger på grund af brugen af ​​et stigende antal estimerede værdier for variablerne i højre side. ${\ displaystyle \ varepsilon _ {t} \,}$

Evaluering af prognosernes kvalitet

Den autoregressive model forudsigende ydeevne kan vurderes, så snart estimering er foretaget, hvis krydsvalidering anvendes. I denne tilgang blev nogle af de oprindeligt tilgængelige data brugt til parameterestimering, og nogle (fra tilgængelige observationer senere i datasættet) blev holdt tilbage til test uden for prøven. Alternativt, efter at der er gået et stykke tid efter parameterestimeringen blev udført, vil flere data være blevet tilgængelige, og forudsigelig ydeevne kan evalueres derefter ved hjælp af de nye data.

I begge tilfælde er der to aspekter af prædiktiv ydeevne, der kan evalueres: et-skridt-foran og n -trin-frem -præstation. For ydeevne et skridt foran bruges de estimerede parametre i den autoregressive ligning sammen med observerede værdier af X for alle perioder forud for den, der forudsiges, og output fra ligningen er prognosen et skridt foran; denne procedure bruges til at indhente prognoser for hver af observationer uden for stikprøven. For at evaluere kvaliteten af n -skridt -frem -prognoser, bruges prognoseproceduren i det foregående afsnit til at opnå forudsigelserne.

I betragtning af et sæt forudsagte værdier og et tilsvarende sæt af faktiske værdier for X i forskellige tidsperioder er en almindelig evalueringsteknik at bruge middelværdien i kvadratisk forudsigelsesfejl ; andre foranstaltninger er også tilgængelige (se prognose#forudsigelsesnøjagtighed ).

Spørgsmålet om, hvordan den målte forudsigelsesnøjagtighed skal fortolkes, opstår - f.eks. Hvad er en "høj" (dårlig) eller "lav" (god) værdi for den gennemsnitlige kvadratiske forudsigelsesfejl? Der er to mulige sammenligningspunkter. For det første kan prognosens nøjagtighed for en alternativ model, estimeret under forskellige modelleringsforudsætninger eller forskellige estimeringsteknikker, bruges til sammenligningsformål. For det andet kan måling af nøjagtigheden uden for prøven sammenlignes med det samme mål beregnet for datapunkterne i prøven (der blev brugt til parameterestimering), som der er tilstrækkelige tidligere dataværdier til rådighed (det vil sige at slippe de første p- data punkter, for hvilke p tidligere datapunkter ikke er tilgængelige). Da modellen blev anslået specifikt til at passe så godt som muligt i in-sample-punkterne, vil det normalt være sådan, at den forudsigelige ydeevne uden for prøven vil være dårligere end den prædiktive ydeevne i prøven. Men hvis den forudsigelige kvalitet forringes uden for prøven med "ikke særlig meget" (hvilket ikke er præcist definerbart), så kan forudsigeren være tilfreds med præstationen.

Se også

• Glidende gennemsnitsmodel
• Lineær forskelsligning
• Prediktiv analyse
• Lineær forudsigende kodning
• Resonans
• Levinson recursion
• Ornstein – Uhlenbeck -proces

Noter

Referencer

• Mills, Terence C. (1990). Time Series Techniques for Economists . Cambridge University Press.
• Percival, Donald B .; Walden, Andrew T. (1993). Spektralanalyse til fysiske applikationer . Cambridge University Press.
• Pandit, Sudhakar M .; Wu, Shien-Ming (1983). Tidsserier og systemanalyse med applikationer . John Wiley & Sons.

eksterne links

• AutoRegression Analysis (AR) af Paul Bourke
• Econometrics -foredrag (emne: Autoregressive modeller) på YouTube af Mark Thoma