Corelație parțială - Partial correlation

În teoria probabilității și statisticile , corelația parțială măsoară gradul de asociere între două variabile aleatorii , eliminând efectul unui set de variabile aleatoare de control. Dacă suntem interesați să aflăm în ce măsură există o relație numerică între două variabile de interes, utilizarea coeficientului lor de corelație va da rezultate înșelătoare dacă există o altă variabilă confuză , care este legată numeric de ambele variabile de interes. Aceste informații înșelătoare pot fi evitate prin controlul variabilei de confuzie, care se realizează prin calcularea coeficientului de corelație parțială. Aceasta este tocmai motivația pentru includerea altor variabile din partea dreaptă într-o regresie multiplă ; dar, deși regresia multiplă oferă rezultate imparțiale pentru dimensiunea efectului , nu oferă o valoare numerică a unei măsuri a puterii relației dintre cele două variabile de interes.

De exemplu, dacă avem date economice privind consumul, venitul și bogăția diferiților indivizi și dorim să vedem dacă există o relație între consum și venit, eșecul de a controla bogăția atunci când se calculează un coeficient de corelație între consum și venit ar da un rezultat înșelător, deoarece venitul ar putea fi legat numeric de bogăție care, la rândul său, ar putea fi legat numeric de consum; o corelație măsurată între consum și venit ar putea fi de fapt contaminată de aceste alte corelații. Utilizarea unei corelații parțiale evită această problemă.

La fel ca coeficientul de corelație, coeficientul de corelație parțială ia o valoare în intervalul de la –1 la 1. Valoarea –1 transmite o corelație negativă perfectă controlând unele variabile (adică o relație liniară exactă în care valori mai mari ale unei variabile sunt asociate cu valori mai mici ale celeilalte); valoarea 1 transmite o relație liniară pozitivă perfectă, iar valoarea 0 transmite că nu există o relație liniară.

Corelarea parțială coincide cu o corelație condiționată în cazul în care variabilele aleatoare sunt distribuite în comun ca multivariată normală alta, eliptice , hipergeometrica multivariată , hipergeometrica negativ multivariată , multinomială sau distribuția Dirichlet , dar nu și în general , în caz contrar.

Definiție formală

În mod formal, corelația parțială dintre X și Y dată unui set de n variabile de control Z = { Z ₁ , Z ₂ , ..., Z _n }, scris ρ _{XY · Z} , este corelația dintre reziduurile e _X și e _Y care rezultă din regresia liniară a X cu Z și Y cu Z , respectiv. Corelația parțială de ordinul întâi (adică, când n = 1) este diferența dintre o corelație și produsul corelațiilor amovibile împărțit la produsul coeficienților de alienare a corelațiilor amovibile. Coeficientul de înstrăinare , și relația sa cu varianță comună prin corelare sunt disponibile în Guilford (1973, pp. 344-345).

Calcul

Folosind regresia liniară

O modalitate simplă de a calcula corelația parțială a eșantionului pentru unele date este rezolvarea celor două probleme de regresie liniară asociate , obținerea reziduurilor și calcularea corelației dintre reziduuri. Fie X și Y să fie, ca mai sus, variabile aleatorii care iau valori reale și să fie Z variabila aleatorie cu valoare vectorială n . Scriem x _i , y _i și z _i pentru a desemna i - lea de N i.id observații de la unele distribuție în comun de probabilitate peste variabile aleatoare reale X , Y și Z , cu z _i fiind mărită cu un 1 pentru a permite o constantă termen în regresie. Rezolvarea problemei de regresie liniară echivalează cu găsirea vectorilor coeficientului de regresie ( n +1) -dimensional și astfel încât ${\ displaystyle \ mathbf {w} _ {X} ^ {*}}$${\ displaystyle \ mathbf {w} _ {Y} ^ {*}}$

${\ displaystyle \ mathbf {w} _ {X} ^ {*} = \ arg \ min _ {\ mathbf {w}} \ left \ {\ sum _ {i = 1} ^ {N} (x_ {i} - \ langle \ mathbf {w}, \ mathbf {z} _ {i} \ rangle) ^ {2} \ right \}}$

${\ displaystyle \ mathbf {w} _ {Y} ^ {*} = \ arg \ min _ {\ mathbf {w}} \ left \ {\ sum _ {i = 1} ^ {N} (y_ {i} - \ langle \ mathbf {w}, \ mathbf {z} _ {i} \ rangle) ^ {2} \ right \}}$

cu N fiind numărul de observații și produsul scalar dintre vectorii w și v . ${\ displaystyle \ langle \ mathbf {w}, \ mathbf {v} \ rangle}$

Reziduurile sunt atunci

${\ displaystyle e_ {X, i} = x_ {i} - \ langle \ mathbf {w} _ {X} ^ {*}, \ mathbf {z} _ {i} \ rangle}$

${\ displaystyle e_ {Y, i} = y_ {i} - \ langle \ mathbf {w} _ {Y} ^ {*}, \ mathbf {z} _ {i} \ rangle}$

iar corelația parțială a eșantionului este apoi dată de formula obișnuită pentru corelarea eșantionului , dar între aceste noi valori derivate :

${\ displaystyle {\ hat {\ rho}} _ {XY \ cdot \ mathbf {Z}} = {\ frac {N \ sum _ {i = 1} ^ {N} e_ {X, i} e_ {Y, i} - \ sum _ {i = 1} ^ {N} e_ {X, i} \ sum _ {i = 1} ^ {N} e_ {Y, i}} {{\ sqrt {N \ sum _ { i = 1} ^ {N} e_ {X, i} ^ {2} - \ left (\ sum _ {i = 1} ^ {N} e_ {X, i} \ right) ^ {2}}} ~ {\ sqrt {N \ sum _ {i = 1} ^ {N} e_ {Y, i} ^ {2} - \ left (\ sum _ {i = 1} ^ {N} e_ {Y, i} \ dreapta) ^ {2}}}}}}$

${\ displaystyle = {\ frac {N \ sum _ {i = 1} ^ {N} e_ {X, i} e_ {Y, i}} {{\ sqrt {N \ sum _ {i = 1} ^ { N} e_ {X, i} ^ {2}}} ~ {\ sqrt {N \ sum _ {i = 1} ^ {N} e_ {Y, i} ^ {2}}}}}.}$

În prima expresie, cei trei termeni după semnele minus sunt egali cu 0, deoarece fiecare conține suma reziduurilor dintr-o regresie obișnuită a celor mai mici pătrate .

Exemplu

Să presupunem că avem următoarele date despre trei variabile, X , Y și Z :

Dacă calculăm coeficientul de corelație Pearson între variabilele X și Y , rezultatul este de aproximativ 0,970, în timp ce dacă calculăm corelația parțială între X și Y , folosind formula dată mai sus, găsim o corelație parțială de 0,919. Calculele s-au făcut folosind R cu următorul cod.

> X = c(2,4,15,20)
> Y = c(1,2,3,4)
> Z = c(0,0,1,1)
> mm1 = lm(X~Z)
> res1 = mm1$residuals
> mm2 = lm(Y~Z)
> res2 = mm2$residuals
> cor(res1,res2)
[1] 0.919145
> cor(X,Y)
[1] 0.9695016
> generalCorr::parcorMany(cbind(X,Y,Z))
                 
     nami namj partij   partji rijMrji  
[1,] "X"  "Y"  "0.8844" "1"    "-0.1156"
[2,] "X"  "Z"  "0.1581" "1"    "-0.8419"

Partea inferioară a codului de mai sus raportează coeficientul de corelație parțială neliniară generalizată între X și Y după îndepărtarea efectului neliniar al Z la 0,88844. De asemenea, coeficientul de corelație parțială generalizată între X și Z după eliminarea efectului neliniar al lui Y să fie 0,1581. Pentru detalii, consultați pachetul R „generalCorr” și vinietele acestuia. Simularea și alte detalii sunt în Vinod (2017) „Corelația generalizată și cauzalitatea kernelului cu aplicații în economia dezvoltării”, Communications in Statistics - Simulation and Computation, vol. 46, [4513, 4534], disponibil online: 29 dec 2015, URL https://doi.org/10.1080/03610918.2015.1122048 .

Folosind formula recursivă

Rezolvarea problemelor de regresie liniară poate fi costisitoare din punct de vedere al calculului. De fapt, n corelația parțială th-comandă ( de exemplu, cu | Z | = n ) poate fi ușor calculată din trei ( n - 1) th-comandă corelații parțiale. Corelația parțială de ordin zero ρ _{XY · Ø} este definită ca fiind coeficientul de corelație regulat ρ _XY .

Acesta deține, pentru orice că ${\ displaystyle Z_ {0} \ in \ mathbf {Z},}$

${\ displaystyle \ rho _ {XY \ cdot \ mathbf {Z}} = {\ frac {\ rho _ {XY \ cdot \ mathbf {Z} \ setminus \ {Z_ {0} \}} - \ rho _ {XZ_ {0} \ cdot \ mathbf {Z} \ setminus \ {Z_ {0} \}} \ rho _ {Z_ {0} Y \ cdot \ mathbf {Z} \ setminus \ {Z_ {0} \}}} { {\ sqrt {1- \ rho _ {XZ_ {0} \ cdot \ mathbf {Z} \ setminus \ {Z_ {0} \}} ^ {2}}} {\ sqrt {1- \ rho _ {Z_ { 0} Y \ cdot \ mathbf {Z} \ setminus \ {Z_ {0} \}} ^ {2}}}}}.}$

Implementarea naivă a acestui calcul ca algoritm recursiv produce o complexitate exponențială a timpului . Cu toate acestea, acest calcul are proprietatea subproblemelor suprapuse , astfel încât utilizarea programării dinamice sau pur și simplu memorarea în cache a rezultatelor apelurilor recursive produce o complexitate de . ${\ displaystyle {\ mathcal {O}} (n ^ {3})}$

Rețineți în cazul în care Z este o singură variabilă, aceasta se reduce la:

${\ displaystyle \ rho _ {XY \ cdot Z} = {\ frac {\ rho _ {XY} - \ rho _ {XZ} \ rho _ {ZY}} {{\ sqrt {1- \ rho _ {XZ} ^ {2}}} {\ sqrt {1- \ rho _ {ZY} ^ {2}}}}}}$

Folosind inversiunea matricei

În timp, o altă abordare permite calcularea tuturor corelațiilor parțiale între oricare două variabile X _i și X _j ale unui set V de cardinalitate n , având în vedere toate celelalte, adică , dacă matricea de covarianță Ω = ( ρ _{X i X j} ), este pozitiv definit și, prin urmare, inversabil . Dacă definim matricea de precizie P = (p _ij ) = Ω ⁻¹ , avem: ${\ displaystyle {\ mathcal {O}} (n ^ {3})}$${\ displaystyle \ mathbf {V} \ setminus \ {X_ {i}, X_ {j} \}}$

${\ displaystyle \ rho _ {X_ {i} X_ {j} \ cdot \ mathbf {V} \ setminus \ {X_ {i}, X_ {j} \}} = - {\ frac {p_ {ij}} { \ sqrt {p_ {ii} p_ {jj}}}}.}$

Interpretare

Interpretarea geometrică a corelației parțiale pentru cazul observațiilor N = 3 și deci a unui hiperplan 2-dimensional

Geometric

Să trei variabile X , Y , Z (unde Z este „control“ sau „variabila extra“) să fie ales dintr - o distribuție de probabilitate comun asupra n variabile V . Mai departe lasa v _i , 1 ≤ i ≤ N , fie N n -dimensionale iid observații luate din distribuția în comun de probabilitate peste V . Luăm în considerare apoi vectorii N- dimensionali x (formați de valorile succesive ale lui X peste observații), y (format din valorile lui Y ) și z (format din valorile lui Z ).

Se poate arăta că reziduurile e _{X, i} provenind din regresia liniară a lui X pe Z , dacă sunt considerate și ca un vector N- dimensional e _X (notat r _X în graficul însoțitor), au un produs scalar zero cu vectorul z generat de Z . Acest lucru înseamnă că vectorul de reziduuri se află pe un hiperplan ( N –1) -dimensional S _z care este perpendicular pe z .

Același lucru este valabil și pentru reziduurile e _{Y, i} generarea unui vector e _Y . Corelarea parțială dorită este apoi cosinusul unghiului cp între proeminențele e _X și e _Y de x și y , respectiv, pe hiperplan perpendicular pe z .

Ca test condițional de independență

Cu presupunerea că toate variabilele implicate sunt multivariate Gauss , corelația parțială ρ _{XY · Z} este zero dacă și numai dacă X este condiționat independent de Y dată Z . Această proprietate nu este valabilă în cazul general.

Pentru a testa dacă o corelație parțială a eșantionului implică faptul că corelația parțială a populației adevărate diferă de 0, se poate utiliza transformata z a Fisher a corelației parțiale : ${\ displaystyle {\ hat {\ rho}} _ {XY \ cdot \ mathbf {Z}}}$

${\ displaystyle z ({\ hat {\ rho}} _ {XY \ cdot \ mathbf {Z}}) = {\ frac {1} {2}} \ ln \ left ({\ frac {1 + {\ hat {\ rho}} _ {XY \ cdot \ mathbf {Z}}} {1 - {\ hat {\ rho}} _ {XY \ cdot \ mathbf {Z}}}} \ right).}$

Ipoteza nulă este , pentru a fi testate împotriva alternativa două coadă . Respingem H ₀ cu nivel de semnificație α dacă: ${\ displaystyle H_ {0}: \ rho _ {XY \ cdot \ mathbf {Z}} = 0}$${\ displaystyle H_ {A}: \ rho _ {XY \ cdot \ mathbf {Z}} \ neq 0}$

${\ displaystyle {\ sqrt {N- | \ mathbf {Z} | -3}} \ cdot | z ({\ hat {\ rho}} _ {XY \ cdot \ mathbf {Z}}) |> \ Phi ^ {-1} (1- \ alpha / 2),}$

unde Φ (·) este funcția de distribuție cumulativă a unei distribuții gaussiene cu medie zero și deviație standard unitară , iar N este dimensiunea eșantionului . Această transformare z este aproximativă și că distribuția efectivă a coeficientului de corelație eșantion (parțial) nu este simplă. Cu toate acestea, este disponibil un test t exact bazat pe o combinație a coeficientului de regresie parțială, a coeficientului de corelație parțială și a varianțelor parțiale.

Distribuția corelației parțiale a eșantionului a fost descrisă de Fisher.

Corelație semipartială (corelație parțială)

Statistica de corelație semipartială (sau parțială) este similară cu statistica de corelație parțială. Ambele compară variațiile a două variabile după ce se controlează anumiți factori, dar pentru a calcula corelația semiparțială se păstrează a treia variabilă constantă pentru X sau Y, dar nu pentru ambele, în timp ce pentru corelația parțială se păstrează a treia variabilă constantă pentru ambele. Corelația semipartială compară variația unică a unei variabile (eliminând variația asociată variabilei Z ), cu variația nefiltrată a celeilalte, în timp ce corelația parțială compară variația unică a unei variabile cu variația unică a celeilalte. .

Corelația semipartială (sau parțială) poate fi văzută ca fiind mai practic relevantă "deoarece este scalată la (adică, relativă la) variabilitatea totală a variabilei dependente (de răspuns)". În schimb, este mai puțin teoretic util, deoarece este mai puțin precis despre rolul contribuției unice a variabilei independente.

Valoarea absolută a corelării semipartial a X cu Y este întotdeauna mai mică sau egală cu cea a corelației parțială a X cu Y . Motivul este următorul: Să presupunem că corelația X cu Z a fost eliminată din X , dând vectorul rezidual e _x . La calcularea corelației semipartial, Y conține încă atât de varianță unică și varianța datorită asocierii sale cu Z . Dar e _x , fiind necorelate cu Z , se poate explica doar o parte din partea unică a varianța Y și nu partea legată de Z . În contrast, cu corelația parțială, doar e _y (partea varianței lui Y care nu are legătură cu Z ) trebuie explicată, deci există o varianță mai mică de tipul pe care e _x nu o poate explica.

Utilizare în analiza seriilor de timp

În analiza seriilor de timp , funcția de autocorelație parțială (uneori „funcția de corelație parțială”) a unei serii de timp este definită, pentru lag h , ca

${\ displaystyle \ varphi (h) = \ rho _ {X_ {0} X_ {h} \, \ cdot \, \ {X_ {1}, \, \ dots \ ,, X_ {h-1} \}} .}$

Această funcție este utilizată pentru a determina lungimea de întârziere adecvată pentru o auto-agresiune .

Vezi si

• Regresie liniara
• Independența condiționată
• Corelație multiplă

Referințe

linkuri externe

• Prokhorov, AV (2001) [1994], "Coeficient de corelație parțială" , Enciclopedia Matematicii , EMS Press
• Formule matematice în secțiunea „Descriere” a rutinei IMSL Numerical Library PCORR
• Un exemplu cu trei variabile