Souhrnná odchylka - Pooled variance

Ve statistikách je sdružený rozptyl (také známý jako kombinovaný rozptyl , složený rozptyl nebo celkový rozptyl a psaný ) metodou pro odhad rozptylu několika různých populací, kdy průměr každé populace může být odlišný, ale lze předpokládat, že rozptyl každá populace je stejná. Numerický odhad vyplývající z použití této metody se také nazývá sdružená rozptyl. ${\ displaystyle \ sigma ^{2}}$

Za předpokladu stejných odchylek populace poskytuje rozptyl sdruženého vzorku vyšší přesnost odhadu rozptylu než rozptyly jednotlivých vzorků. Tato vyšší přesnost může vést ke zvýšení statistického výkonu při použití ve statistických testech, které porovnávají populace, jako je t -test .

Druhá odmocnina sloučeného odhadce rozptylu je známý jako směsné standardní odchylka (také známý jako kombinovanou standardní odchylka , kompozitního standardní odchylky , nebo celková směrodatná odchylka ).

Motivace

V statistik , mnohokrát, údaje jsou shromažďovány pro závislou proměnnou , y , v rozmezí hodnot pro nezávislé proměnné , x . Sledování spotřeby paliva může být například studováno jako funkce otáček motoru, zatímco je zatížení motoru udržováno konstantní. Pokud je za účelem dosažení malé odchylky v y vyžadováno mnoho opakovaných testů při každé hodnotě x , náklady na testování se mohou stát neúnosnými. Rozumné odhady rozptylu lze určit pomocí principu sdružené odchylky po opakování každého testu v určitém x pouze několikrát.

Definice a výpočet

Definice

Sdružená rozptyl je odhad pevné společné odchylky u různých populací, které mají různé prostředky. ${\ displaystyle \ sigma ^{2}}$

Výpočet

Pokud jsou populace indexovány , pak lze sdružené rozptyly vypočítat váženým průměrem${\ Displaystyle i = 1, \ ldots, k}$${\ displaystyle s_ {p}^{2}}$

${\ Displaystyle s_ {p}^{2} = {\ frac {\ sum _ {i = 1}^{k} (n_ {i} -1) s_ {i}^{2}} {\ sum _ { i = 1}^{k} (n_ {i} -1)}} = {\ frac {(n_ {1} -1) s_ {1}^{2}+(n_ {2} -1) s_ { 2}^{2}+\ cdots+(n_ {k} -1) s_ {k}^{2}} {n_ {1}+n_ {2}+\ cdots+n_ {k} -k}}, }$

kde je velikost vzorku populace a jaké jsou odchylky vzorku${\ displaystyle n_ {i}}$${\ displaystyle i}$

${\ displaystyle s_ {i}^{2}}$= .${\ Displaystyle {\ frac {1} {n_ {i} -1}} \ sum _ {j = 1}^{n_ {i}} \ left (y_ {j}-{\ overline {y_ {i}} } \ right)^{2}}$

Použití váhových faktorů místo toho pochází z Besselovy korekce . ${\ displaystyle (n_ {i} -1)}$${\ displaystyle n_ {i}}$

Varianty

Objektivní odhad nejmenších čtverců (jak je uvedeno výše), ${\ displaystyle \ sigma ^{2}}$

${\ Displaystyle s_ {p}^{2} = {\ frac {\ sum _ {i = 1}^{k} (n_ {i} -1) s_ {i}^{2}} {\ sum _ { i = 1}^{k} (n_ {i} -1)}},}$

a odhad zkreslené maximální pravděpodobnosti

${\ Displaystyle s_ {p}^{2} = {\ frac {\ sum _ {i = 1}^{k} (n_ {i} -1) s_ {i}^{2}} {\ sum _ { i = 1}^{k} n_ {i}}},}$

se používají v různých kontextech. První může poskytnout nezaujatý odhad, když obě skupiny sdílejí stejný populační rozptyl. Ten druhý může poskytnout efektivnější odhad , i když podléhá zkreslení. Všimněte si, že množství na pravé straně obou rovnic jsou nezaujaté odhady. ${\ displaystyle s_ {p}^{2}}$${\ displaystyle \ sigma ^{2}}$ ${\ displaystyle s_ {p}^{2}}$${\ displaystyle \ sigma ^{2}}$${\ displaystyle s_ {i}^{2}}$

Příklad

Zvažte následující sadu dat pro y získanou na různých úrovních nezávislé proměnné  x .

X	y
1	31, 30, 29
2	42, 41, 40, 39
3	31, 28
4	23, 22, 21, 19, 18
5	21, 20, 19, 18,17

Počet pokusů, průměr, rozptyl a standardní odchylka jsou uvedeny v následující tabulce.

X	n	y myslíš	s i 2	s i
1	3	30.0	1,0	1,0
2	4	40,5	1,67	1.29
3	2	29.5	4.5	2.12
4	5	20.6	4.3	2,07
5	5	19.0	2.5	1,58

Tyto statistiky představují rozptyl a standardní odchylku pro každou podmnožinu dat na různých úrovních x . Pokud můžeme předpokládat, že stejné jevy generují náhodné chyby na každé úrovni x , výše uvedená data lze „shromáždit“ pro vyjádření jediného odhadu rozptylu a standardní odchylky. V jistém smyslu to naznačuje nalezení střední odchylky nebo standardní odchylky mezi pěti výše uvedenými výsledky. Tato průměrná odchylka se vypočítá vážením jednotlivých hodnot s velikostí podmnožiny pro každou úroveň x . Sdružená odchylka je tedy definována pomocí

${\ Displaystyle s_ {P}^{2} = {\ frac {(n_ {1} -1) s_ {1}^{2}+(n_ {2} -1) s_ {2}^{2}+ \ cdots +(n_ {k} -1) s_ {k}^{2}} {(n_ {1} -1) +(n_ {2} -1) +\ cdots +(n_ {k} -1) }}}$

kde n ₁ , n ₂ ,. . ., n _k jsou velikosti datových podskupin na každé úrovni proměnné x , a s ₁ ² , s ₂ ² ,. . ., s _k ² jsou jejich příslušné odchylky.

Souhrnná rozptyl výše uvedených údajů je tedy:

${\ displaystyle s_ {p}^{2} = 2,764 \,}$

Vliv na přesnost

Souhrnná rozptyl je odhad, pokud existuje korelace mezi sdruženými datovými sadami nebo průměr datových sad není identický. Souhrnná variace je méně přesná, čím více nenulová je korelace nebo vzdálené průměry mezi soubory dat.

Variace dat pro nepřekrývající se datové sady je:

${\ Displaystyle {\ begin {aligned} \ sigma _ {X}^{2} & = {\ frac {\ left (\ sum _ {i} {\ left [(N_ {X_ {i}}-1) \ sigma _ {X_ {i}}^{2}+N_ {X_ {i}} \ mu _ {X_ {i}}^{2} \ right]}-\ left [\ sum _ {i} {N_ { X_ {i}}} \ right] \ mu _ {X} ^ {2} \ right)} {\ sum _ {i} {N_ {X_ {i}} - 1}}} \ end {zarovnáno}}}$

Kde je průměr definován jako:

${\ displaystyle {\ begin {aligned} \ mu _ {X} & = {\ frac {\ left (\ sum _ {i} {N_ {X_ {i}} \ mu _ {X_ {i}}} \ right )} {\ sum _ {i} {N_ {X_ {i}}}}} \ end {aligned}}}$

Vzhledem k předpojaté maximální pravděpodobnosti definované jako:

${\ Displaystyle s_ {p}^{2} = {\ frac {\ sum _ {i = 1}^{k} (n_ {i} -1) s_ {i}^{2}} {\ sum _ { i = 1}^{k} n_ {i}}},}$

Pak chyba v předpojatém odhadu maximální pravděpodobnosti je:

${\ displaystyle {\ begin {aligned} Chyba = s_ {p} ^ {2} - \ sigma _ {X} ^ {2} \\ [3pt] = {\ frac {\ sum _ {i} (N_ {X_ {i}}-1) s_ {i}^{2}} {\ sum _ {i} N_ {X_ {i}}}}-{\ frac {1} {\ sum _ {i} {N_ {X_ {i}}-1}}} \ left (\ sum _ {i} {\ left [(N_ {X_ {i}}-1) \ sigma _ {X_ {i}}^{2}+N_ {X_ {i}} \ mu _ {X_ {i}}^{2} \ right]}-\ left [\ sum _ {i} {N_ {X_ {i}}} \ right] \ mu _ {X}^ {2} \ right) \ end {aligned}}}$

Za předpokladu, že N je velký tak, že:

${\ displaystyle {\ begin {aligned} \ sum _ {i} N_ {X_ {i}} \ zhruba \ sum _ {i} {N_ {X_ {i}}-1} \ end {aligned}}}$

Poté se chyba v odhadu sníží na:

${\ Displaystyle {\ begin {aligned} E =-{\ frac {\ left (\ sum _ {i} {\ left [N_ {X_ {i}} \ mu _ {X_ {i}}^{2} \ vpravo]}-\ vlevo [\ sum _ {i} {N_ {X_ {i}}} \ vpravo] \ mu _ {X}^{2} \ vpravo)} {\ sum _ {i} N_ {X_ { i}}}} \\ [3pt] = \ mu _ {X} ^ {2} - {\ frac {\ sum _ {i} {\ left [N_ {X_ {i}} \ mu _ {X_ {i }}^{2} \ right]}} {\ sum _ {i} N_ {X_ {i}}}} \\ [3pt] \ end {aligned}}}$

Nebo alternativně:

${\ displaystyle {\ begin {aligned} E = \ left [{\ frac {\ sum _ {i} {N_ {X_ {i}} \ mu _ {X_ {i}}}} {\ sum _ {i} {N_ {X_ {i}}}}} \ right]^{2}-{\ frac {\ sum _ {i} {\ left [N_ {X_ {i}} \ mu _ {X_ {i}}^ {2} \ right]}} {\ sum _ {i} N_ {X_ {i}}}} \ \ [3pt] = {\ frac {\ left [\ sum _ {i} {N_ {X_ {i} } \ mu _ {X_ {i}}} \ right]^{2}-\ sum _ {i} N_ {X_ {i}} \ sum _ {i} {\ left [N_ {X_ {i}} \ mu _ {X_ {i}}^{2} \ right]}} {\ left [\ sum _ {i} N_ {X_ {i}} \ right]^{2}}} \ end {aligned}}}$

Agregace údajů o standardní odchylce

Spíše než odhadovat sdruženou směrodatnou odchylku, je následující způsob, jak přesně agregovat směrodatnou odchylku, když je k dispozici více statistických informací.

Statistiky založené na populaci

Populace množin, které se mohou překrývat, lze vypočítat jednoduše takto:

${\ displaystyle {\ begin {aligned} && N_ {X \ cup Y} & = N_ {X}+N_ {Y} -N_ {X \ cap Y} \\\ end {aligned}}}$

Populace množin, které se nepřekrývají, lze vypočítat jednoduše takto:

${\ displaystyle {\ begin {aligned} X \ cap Y = \ varnothing & \ Rightarrow & N_ {X \ cap Y} & = 0 \\ & \ Rightarrow & N_ {X \ cup Y} & = N_ {X}+N_ { Y} \ end {aligned}}}$

Standardní odchylky nepřekrývajících se ( X ∩ Y = ∅ ) dílčích populací lze agregovat následujícím způsobem, pokud je známa velikost (skutečná nebo relativní vůči sobě navzájem) a prostředky každé z nich:

${\ Displaystyle {\ begin {aligned} \ mu _ {X \ cup Y} & = {\ frac {N_ {X} \ mu _ {X}+N_ {Y} \ mu _ {Y}} {N_ {X }+N_ {Y}}} \\ [3pt] \ sigma _ {X \ cup Y} & = {\ sqrt {{\ frac {N_ {X} \ sigma _ {X}^{2}+N_ {Y } \ sigma _ {Y}^{2}} {N_ {X}+N_ {Y}}}+{\ frac {N_ {X} N_ {Y}} {(N_ {X}+N_ {Y}) ^{2}}} (\ mu _ {X}-\ mu _ {Y})^{2}}} \ end {zarovnáno}}}$

Předpokládejme například, že je známo, že průměrný Američan má průměrnou výšku 70 palců se směrodatnou odchylkou tři palce a že průměrná Američanka má průměrnou výšku 65 palců se směrodatnou odchylkou dva palce. Předpokládejme také, že počet mužů, N , se rovná počtu žen. Potom průměr a standardní odchylka výšek dospělých Američanů lze vypočítat jako

${\ displaystyle {\ begin {aligned} \ mu & = {\ frac {N \ cdot 70+N \ cdot 65} {N+N}} = {\ frac {70+65} {2}} = 67,5 \\ [3pt] \ sigma & = {\ sqrt {{\ frac {3^{2}+2^{2}} {2}}+{\ frac {(70-65)^{2}} {2^{ 2}}}}} = {\ sqrt {12,75}} \ cca 3,57 \ end {zarovnáno}}}$

V obecnějším případě M nepřekrývajících se skupin obyvatelstva, X ₁ až X _M , a celkovým počtem obyvatel , ${\ displaystyle \ scriptstyle X \, = \, \ bigcup _ {i} X_ {i}}$

${\ Displaystyle {\ begin {aligned} \ mu _ {X} & = {\ frac {\ sum _ {i} N_ {X_ {i}} \ mu _ {X_ {i}}} {\ sum _ {i } N_ {X_ {i}}}} \\ [3pt] \ sigma _ {X} & = {\ sqrt {{\ frac {\ sum _ {i} N_ {X_ {i}} \ sigma _ {X_ { i}}^{2}} {\ sum _ {i} N_ {X_ {i}}}}+{\ frac {\ sum _ {i <j} N_ {X_ {i}} N_ {X_ {j} } (\ mu _ {X_ {i}}-\ mu _ {X_ {j}})^{2}} {{\ big (} \ sum _ {i} N_ {X_ {i}} {\ velký) }^{2}}}}} \ end {zarovnáno}}}$,

kde

${\ Displaystyle X_ {i} \ cap X_ {j} = \ varnothing, \ quad \ forall \ i <j.}$

Pokud je velikost (skutečná nebo relativní vůči sobě), průměrná a standardní odchylka dvou překrývajících se populací známá pro populace stejně jako jejich průsečík, pak standardní odchylku celkové populace lze stále vypočítat následovně:

${\ Displaystyle {\ begin {aligned} \ mu _ {X \ cup Y} & = {\ frac {1} {N_ {X \ cup Y}}} \ left (N_ {X} \ mu _ {X}+ N_ {Y} \ mu _ {Y} -N_ {X \ cap Y} \ mu _ {X \ cap Y} \ right) \\ [3pt] \ sigma _ {X \ cup Y} & = {\ sqrt { {\ frac {1} {N_ {X \ cup Y}}} \ vlevo (N_ {X} [\ sigma _ {X} ^ {2} + \ mu _ {X} ^ {2}] + N_ {Y } [\ sigma _ {Y}^{2}+\ mu _ {Y}^{2}]-N_ {X \ cap Y} [\ sigma _ {X \ cap Y}^{2}+\ mu _ {X \ cap Y}^{2}] \ right)-\ mu _ {X \ cup Y}^{2}}} \ end {aligned}}}$

Pokud jsou dva nebo více souborů dat sčítány dohromady datový bod datovým bodem, lze standardní odchylku výsledku vypočítat, pokud je známa standardní odchylka každé datové sady a kovariance mezi každou dvojicí datových sad:

${\ Displaystyle \ sigma _ {X} = {\ sqrt {\ sum _ {i} {\ sigma _ {X_ {i}}^{2}}+2 \ sum _ {i, j} \ operatorname {cov} (X_ {i}, X_ {j})}}}}$

Ve zvláštním případě, kdy neexistuje žádná korelace mezi jakoukoli dvojicí datových sad, pak se vztah sníží na kořenový součet čtverců:

${\ displaystyle {\ begin {aligned} & \ operatorname {cov} (X_ {i}, X_ {j}) = 0, \ quad \ forall i <j \\\ Rightarrow & \; \ sigma _ {X} = {\ sqrt {\ sum _ {i} {\ sigma _ {X_ {i}}^{2}}}}. \ end {aligned}}}$

Statistiky založené na vzorcích

Standardní odchylky nepřekrývajících se ( X ∩ Y = ∅ ) dílčích vzorků lze agregovat následujícím způsobem, pokud je známa skutečná velikost a průměr každého z nich:

${\ Displaystyle {\ begin {aligned} \ mu _ {X \ cup Y} & = {\ frac {1} {N_ {X \ cup Y}}} \ left (N_ {X} \ mu _ {X}+ N_ {Y} \ mu _ {Y} \ right) \\ [3pt] \ sigma _ {X \ cup Y} & = {\ sqrt {{\ frac {1} {N_ {X \ cup Y} -1} } \ left ([N_ {X} -1] \ sigma _ {X}^{2}+N_ {X} \ mu _ {X}^{2}+[N_ {Y} -1] \ sigma _ { Y}^{2}+N_ {Y} \ mu _ {Y}^{2}-[N_ {X}+N_ {Y}] \ mu _ {X \ cup Y}^{2} \ right)} } \ end {aligned}}}$

Pro obecnější případ M nepřekrývajících se datových sad, X ₁ až X _M , a agregované datové sady , ${\ displaystyle \ scriptstyle X \, = \, \ bigcup _ {i} X_ {i}}$

${\ displaystyle {\ begin {aligned} \ mu _ {X} & = {\ frac {1} {\ sum _ {i} {N_ {X_ {i}}}}} \ left (\ sum _ {i} {N_ {X_ {i}} \ mu _ {X_ {i}}} \ right) \\ [3pt] \ sigma _ {X} & = {\ sqrt {{\ frac {1} {\ sum _ {i } {N_ {X_ {i}} - 1}}} \ left (\ sum _ {i} {\ left [(N_ {X_ {i}} - 1) \ sigma _ {X_ {i}} ^ {2 }+N_ {X_ {i}} \ mu _ {X_ {i}}^{2} \ right]}-\ left [\ sum _ {i} {N_ {X_ {i}}} \ right] \ mu _ {X}^{2} \ right)}} \ end {aligned}}}$

kde

${\ Displaystyle X_ {i} \ cap X_ {j} = \ varnothing, \ quad \ forall i <j.}$

Pokud je pro vzorky známa velikost, průměr a standardní odchylka dvou překrývajících se vzorků a také jejich průsečík, pak lze standardní odchylku agregovaného vzorku ještě vypočítat. Obecně,

${\ Displaystyle {\ begin {aligned} \ mu _ {X \ cup Y} & = {\ frac {1} {N_ {X \ cup Y}}} \ left (N_ {X} \ mu _ {X}+ N_ {Y} \ mu _ {Y} -N_ {X \ cap Y} \ mu _ {X \ cap Y} \ right) \\ [3pt] \ sigma _ {X \ cup Y} & = {\ sqrt { \ frac {[N_ {X} -1] \ sigma _ {X}^{2}+N_ {X} \ mu _ {X}^{2}+[N_ {Y} -1] \ sigma _ {Y }^{2}+N_ {Y} \ mu _ {Y}^{2}-[N_ {X \ cap Y} -1] \ sigma _ {X \ cap Y}^{2} -N_ {X \ cap Y} \ mu _ {X \ cap Y}^{2}-[N_ {X}+N_ {Y} -N_ {X \ cap Y}] \ mu _ {X \ cup Y}^{2}} {N_ {X \ cup Y} -1}}} \ end {zarovnáno}}}$

Viz také

• Používá se pro výpočet Cohenova d (velikost efektu)
• Souhrnná kovarianční matice
• Souhrnný stupeň volnosti
• Sloučený průměr

Reference

• Killeen PR (květen 2005). „Alternativa k testům významnosti nulových hypotéz“ . Psychol Sci . 16 (5): 345–53. doi : 10.1111/j.0956-7976.2005.01538.x . PMC  1473027 . PMID  15869691 .

externí odkazy

• Zlatá kniha IUPAC - standardní směrodatná odchylka
• [1]
• - také s odkazem na Cohenovo d (na straně 6)