Iterativ metode - Iterative method

I beregningsmatematik er en iterativ metode en matematisk procedure, der bruger en indledende værdi til at generere en sekvens med forbedring af omtrentlige løsninger til en klasse af problemer, hvor den n- tilnærmelse er afledt af de foregående. En specifik implementering af en iterativ metode, herunder opsigelseskriterierne , er en algoritme for den iterative metode. En iterativ metode kaldes konvergent, hvis den tilsvarende sekvens konvergerer for givne indledende tilnærmelser. En matematisk streng konvergensanalyse af en iterativ metode udføres normalt; dog er heuristiske baserede iterative metoder også almindelige.

I modsætning hertil forsøger direkte metoder at løse problemet med en begrænset rækkefølge af operationer. I mangel af afrundingsfejl ville direkte metoder levere en nøjagtig løsning (som at løse et lineært ligningssystem ved Gaussisk eliminering ). Iterative metoder er ofte det eneste valg for ikke-lineære ligninger . Imidlertid er iterative metoder ofte nyttige, selv for lineære problemer, der involverer mange variabler (nogle gange i størrelsesordenen millioner), hvor direkte metoder ville være uoverkommeligt dyre (og i nogle tilfælde umulige) selv med den bedst tilgængelige computerkraft. ${\ displaystyle A \ mathbf {x} = \ mathbf {b}}$

Attraktive faste punkter

Hvis en ligning kan sættes i formen f ( x ) = x , og en løsning x er et attraktivt fast punkt for funktionen f , kan man begynde med et punkt x ₁ i tiltrækningsbassinet på x og lade x _{n +1} = f ( x _n ) for n ≥ 1, og sekvensen { x _n } _{n ≥ 1} konvergerer til løsningen x . Her er x _n den n -tilnærmelse eller iteration af x og x _{n +1} er den næste eller n + 1 iteration af x . Alternativt bruges overskrifter i parentes ofte i numeriske metoder for ikke at forstyrre abonnementer med andre betydninger. (For eksempel x ^{( n +1)} = f ( x ^{( n )} ).) Hvis funktionen f er kontinuerligt differentierbar , er en tilstrækkelig betingelse for konvergens, at derivatens spektrale radius strengt afgrænses af en i et kvarter af det faste punkt. Hvis denne tilstand holder på det faste punkt, skal der være et tilstrækkeligt lille kvarter (tiltrækningsbassin).

Lineære systemer

I tilfælde af et system med lineære ligninger er de to hovedklasser af iterative metoder de stationære iterative metoder og de mere generelle Krylov-underrumsmetoder .

Stationære iterative metoder

Introduktion

Stationære iterative metoder løser et lineært system med en operatør, der tilnærmer sig det oprindelige; og baseret på en måling af fejlen i resultatet ( det resterende ), dann en "korrektionsligning", som denne proces gentages for. Mens disse metoder er enkle at udlede, implementere og analysere, er konvergens kun garanteret for en begrænset klasse af matricer.

Definition

En iterativ metode er defineret af

{\ displaystyle \ mathbf {x} ^ {k + 1}: = \ Psi (\ mathbf {x} ^ {k}) \ ,, \ quad k \ geq 0}

og for en given lineært system med nøjagtige opløsning af fejl ved ${\ displaystyle A \ mathbf {x} = \ mathbf {b}}$ ${\ displaystyle \ mathbf {x} ^ {*}}$

{\ displaystyle \ mathbf {e} ^ {k}: = \ mathbf {x} ^ {k} - \ mathbf {x} ^ {*} \ ,, \ quad k \ geq 0 \ ,.}

En iterativ metode kaldes lineær, hvis der findes en matrix sådan, at ${\ displaystyle C \ in \ mathbb {R} ^ {n \ times n}}$

{\ displaystyle \ mathbf {e} ^ {k + 1} = C \ mathbf {e} ^ {k} \ quad \ forall \, k \ geq 0}

og denne matrix kaldes iterationsmatrix . En iterativ metode med en given iterationsmatrix kaldes konvergent, hvis følgende gælder ${\ displaystyle C}$

{\ displaystyle \ lim _ {k \ rightarrow \ infty} C ^ {k} = 0 \ ,.}

En vigtig sætning siger, at den for en given iterativ metode og dens iterationsmatrix er konvergent, hvis og kun hvis dens spektrale radius er mindre end enhed, dvs. ${\ displaystyle C}$ ${\ displaystyle \ rho (C)}$

{\ displaystyle \ rho (C) <1 \ ,.}

De grundlæggende iterative metoder fungerer ved at opdele matrixen i ${\ displaystyle A}$

{\ displaystyle A = MN}

og her skal matrixen være let inverterbar . De iterative metoder er nu defineret som ${\ displaystyle M}$

{\ displaystyle M \ mathbf {x} ^ {k + 1} = N \ mathbf {x} ^ {k} + b \ ,, \ quad k \ geq 0 \ ,.}

Heraf følger, at iterationsmatricen er givet af

{\ displaystyle C = IM ^ {- 1} A = M ^ {- 1} N \ ,.}

Eksempler

Grundlæggende eksempler på stationære iterative metoder bruger en opdeling af matrixen såsom ${\ displaystyle A}$

{\ displaystyle A = D + L + U \ ,, \ quad D: = {\ text {diag}} ((a_ {ii}) _ {i})}

hvor er kun den diagonale del af , og er den strenge nedre trekantede del af . Respektivt er den strenge øvre trekantede del af . ${\ displaystyle D}$ ${\ displaystyle A}$ ${\ displaystyle L}$ ${\ displaystyle A}$ ${\ displaystyle U}$ ${\ displaystyle A}$

Richardson metode : ${\ displaystyle M: = {\ frac {1} {\ omega}} I \ quad (\ omega \ neq 0)}$
Jacobi metode : ${\ displaystyle M: = D}$
Dæmpet Jacobi-metode : ${\ displaystyle M: = {\ frac {1} {\ omega}} D \ quad (\ omega \ neq 0)}$
Gauss – Seidel metode : ${\ displaystyle M: = D + L}$
Successiv over-afslapningsmetode (SOR): ${\ displaystyle M: = {\ frac {1} {\ omega}} D + L \ quad (\ omega \ neq 0)}$
Symmetrisk successiv over-afslapning (SSOR): ${\ displaystyle M: = {\ frac {1} {\ omega (2- \ omega)}} (D + \ omega L) D ^ {- 1} (D + \ omega U) \ quad (\ omega \ neq \ { 0,2 \})}$

Lineære stationære iterative metoder kaldes også afslapningsmetoder .

Krylov underrumsmetoder

Krylov-underrumsmetoder fungerer ved at danne en basis for sekvensen af successive matrixeffekter gange den oprindelige rest ( Krylov-sekvensen ). Tilnærmelserne til opløsningen dannes derefter ved at minimere den resterende del over det dannede underrum. Den prototypiske metode i denne klasse er konjugatgradientmetoden (CG), der antager, at systemmatricen er symmetrisk positiv-bestemt . For symmetrisk (og muligvis ubestemt tid) arbejder man med den minimale restmetode (MINRES). I tilfælde af ikke-symmetriske matricer er der afledt metoder såsom den generaliserede minimale restmetode (GMRES) og biconjugatgradientmetoden (BiCG). ${\ displaystyle A}$ ${\ displaystyle A}$

Konvergens af Krylov-underrumsmetoder

Da disse metoder danner et grundlag, er det tydeligt, at metoden konvergerer i N- iterationer, hvor N er systemstørrelsen. Imidlertid gælder denne erklæring ikke i tilstedeværelse af afrundingsfejl; desuden kan N i praksis være meget stor, og den iterative proces når tilstrækkelig nøjagtighed allerede langt tidligere. Analysen af disse metoder er vanskelig afhængig af en kompliceret funktion af operatørens spektrum .

Forbehandlere

Den tilnærmelse operatør, der vises i stationære iterative metoder også kan inkorporeres i Krylov underrum metoder såsom GMRES (alternativt prækonditioneret kan betragtes Krylov metoder som accelerationer stationære iterative metoder), hvor de bliver transformationer af den oprindelige operatør til en formodentlig bedre konditioneret en. Opførelsen af forkonditioneringsanlæg er et stort forskningsområde.

Historie

Sandsynligvis den første iterative metode til løsning af et lineært system dukkede op i et brev fra Gauss til en af hans studerende. Han foreslog at løse et 4-for-4-ligningssystem ved gentagne gange at løse den komponent, hvori den resterende var den største.

Teorien om stationære iterative metoder blev solidt etableret med DM Youngs arbejde startende i 1950'erne. Konjugatgradientmetoden blev også opfundet i 1950'erne med uafhængig udvikling af Cornelius Lanczos , Magnus Hestenes og Eduard Stiefel , men dens karakter og anvendelighed blev misforstået på det tidspunkt. Først i 1970'erne blev det klar over, at konjugationsbaserede metoder fungerer meget godt for delvise differentialligninger , især den elliptiske type.

Languages

In other projects