Варијанса

Дисперзија или варијанса је појам из теорије вероватноће и статистике. Она представља математичко очекивање одступања случајне променљиве од њене средње вредности. Варијанса је мера дисперзије, што значи да изражава колико је скуп бројева раширен од њихове просечне вредности. Варијанса има централну улогу у статистици, где неке идеје које је користе укључују дескриптивну статистику, статистичко закључивање, тестирање хипотезе, адекватност уклапања и Монте Карло узорковање. Варијанца је важан алат у науци, где је уобичајена примена статистичке анализе података. Варијанца је квадрат стандардне девијације, други централни моменат дистрибуције и коваријанса случајне променљиве са самом собом, а често се представља са $\sigma ^{2}$, $s^{2}$, $\operatorname {Var} (X)$, $V(X)$, или $\mathbb {V} (X)$.

Пример узорака из две популације са истом средњом вредношћу, али различитим варијацијама. Црвена популација има средњу вредност 100 и варијансу 100 (SD=10), док плава популација има средњу вредност 100 и варијансу 2500 (SD=50).

На пример, савршена коцка за игру може да да један од 6 исхода. Очекивана вредност броја којег ће коцка да покаже је (1 + 2 + 3 + 4 + 5 + 6)/6 = 3,5, очекивана стандардна девијација је σ ≈ 1.71 (квадратни корен аритметичке средине једнаковероватних квадрата апсолутних одступања: 3,5 − 1, 3,5 − 2, 3,5 − 3, 4 − 3,5, 5 − 3,5, 6 − 3,5, што даје 2,5, 1,5, 0,5, 0,5, 1,5, 2,5), очекивано квадратно одступање или варијанса је  17,5/6 ≈ 2,9 (средња вредност једнаковероватних квадрата одступања: 2,5², 1,5², 0,5², 0,5², 1,5², 2,5²).

Дефиниција

Нека је $\mu =\operatorname {E} (X)$ математичко очекивање реалног случајног вектора $X$ за који постоји интеграл квадрата његових вредности. Тада је варијанса случајне променљиве:

$\operatorname {Var} (X):=\operatorname {V} (X):=\operatorname {E} {\bigl (}(X-\mu )(X-\mu )^{T}{\bigr )}.$

Ако је вектор $X$ једнодимензионалан, услови за $X$ могу да се упросте. Ако је $E(X)<\infty$, онда важи:

$\operatorname {Var} (X)=\operatorname {E} {\bigl (}(X-\mu )^{2}{\bigr )}.$

Ова дефиниција обухвата случајне варијабле које су генерисане процесима који су дискретни, континуирани, ни једно ни друго или мешовити. Варијанса се такође може сматрати коваријансом случајне променљиве са самом собом:

$\operatorname {Var} (X)=\operatorname {Cov} (X,X).$

Варијанса је такође еквивалентна другом кумуланту дистрибуције вероватноће која генерише $X$. Варијанса се обично означава као $\operatorname {Var} (X)$, или понекад као $V(X)$ или $\mathbb {V} (X)$, или симболично као $\sigma _{X}^{2}$ или једноставно $\sigma ^{2}$ (изговара се „сигма на квадрат”). Израз за варијансу се може проширити на следећи начин:

${\begin{aligned}\operatorname {Var} (X)&=\operatorname {E} \left[(X-\operatorname {E} [X])^{2}\right]\\[4pt]&=\operatorname {E} \left[X^{2}-2X\operatorname {E} [X]+\operatorname {E} [X]^{2}\right]\\[4pt]&=\operatorname {E} \left[X^{2}\right]-2\operatorname {E} [X]\operatorname {E} [X]+\operatorname {E} [X]^{2}\\[4pt]&=\operatorname {E} \left[X^{2}\right]-\operatorname {E} [X]^{2}\end{aligned}}$

Другим речима, варијанса X је једнака средњој вредности квадрата X минус квадрат средње вредности X. Ова једначина не би требало да се користи за прорачуне коришћењем аритметике са плутајућим зарезом, јер пати од катастрофалног поништавања ако су две компоненте једначине сличне по величини. За друге нумерички стабилне алтернативе погледајте алгоритме за израчунавање варијансе.

Дискретна случајна променљива

Ако је генератор случајне променљиве $X$ дискретан са функцијом вероватноће $x_{1}\mapsto p_{1},x_{2}\mapsto p_{2},\ldots ,x_{n}\mapsto p_{n}$, онда је

$\operatorname {Var} (X)=\sum _{i=1}^{n}p_{i}\cdot (x_{i}-\mu )^{2},$

где је $\mu$ очекивана вредност. То је,

$\mu =\sum _{i=1}^{n}p_{i}x_{i}.$

(Када је таква дискретна пондерисана варијанса одређена пондерима чији збир није 1, тада се дели збиром пондера.)

Варијанца колекције од $n$ једнако вероватних вредности може се написати као

$\operatorname {Var} (X)={\frac {1}{n}}\sum _{i=1}^{n}(x_{i}-\mu )^{2}$

где је $\mu$ просечна вредност. То је,

$\mu ={\frac {1}{n}}\sum _{i=1}^{n}x_{i}.$

Варијанца скупа од $n$ једнако вероватних вредности може бити еквивалентно изражена, без директног позивања на средњу вредност, у смислу квадрата одступања свих тачака једне од друге:

$\operatorname {Var} (X)={\frac {1}{n^{2}}}\sum _{i=1}^{n}\sum _{j=1}^{n}{\frac {1}{2}}(x_{i}-x_{j})^{2}={\frac {1}{n^{2}}}\sum _{i}\sum _{j>i}(x_{i}-x_{j})^{2}.$

Апсолутно континуирана случајна променљива

Ако рандомна променљива $X$ има функцију густине вероватноће $f(x)$, и $F(x)$ је кореспондирајућа кумулативна функција расподеле, онда је

${\begin{aligned}\operatorname {Var} (X)=\sigma ^{2}&=\int _{\mathbb {R} }(x-\mu )^{2}f(x)\,dx\\[4pt]&=\int _{\mathbb {R} }x^{2}f(x)\,dx-2\mu \int _{\mathbb {R} }xf(x)\,dx+\mu ^{2}\int _{\mathbb {R} }f(x)\,dx\\[4pt]&=\int _{\mathbb {R} }x^{2}\,dF(x)-2\mu \int _{\mathbb {R} }x\,dF(x)+\mu ^{2}\int _{\mathbb {R} }\,dF(x)\\[4pt]&=\int _{\mathbb {R} }x^{2}\,dF(x)-2\mu \cdot \mu +\mu ^{2}\cdot 1\\[4pt]&=\int _{\mathbb {R} }x^{2}\,dF(x)-\mu ^{2},\end{aligned}}$

или еквивалентно,

$\operatorname {Var} (X)=\int _{\mathbb {R} }x^{2}f(x)\,dx-\mu ^{2},$

где је $\mu$ очекивана вредност од $X$ дата са

$\mu =\int _{\mathbb {R} }xf(x)\,dx=\int _{\mathbb {R} }x\,dF(x).$

У овим формулама, интеграли у односу на $dx$ и $dF(x)$ су Лебесгов и Лебесг–Стилтјеов интеграл, респетивно.

Ако је функција $x^{2}f(x)$ интеграбилна по Риману на сваком коначном интервалу $[a,b]\subset \mathbb {R} ,$ онда је

$\operatorname {Var} (X)=\int _{-\infty }^{+\infty }x^{2}f(x)\,dx-\mu ^{2},$

при чему је овај интеграл неправилан Риманов интеграл.

Примери

Експоненцијална дистрибуција

Експоненцијална расподела са параметром λ је континуирана расподела чија је функција густине вероватноће дата са

$f(x)=\lambda e^{-\lambda x}$

на интервалу [0, ∞). Може се показати да је његова средња вредност

$\operatorname {E} [X]=\int _{0}^{\infty }\lambda xe^{-\lambda x}\,dx={\frac {1}{\lambda }}.$

Користећи интеграцију по деловима и употребљавајући очекивану вредност која је већ израчуната, добија се:

${\begin{aligned}\operatorname {E} \left[X^{2}\right]&=\int _{0}^{\infty }\lambda x^{2}e^{-\lambda x}\,dx\\&=\left[-x^{2}e^{-\lambda x}\right]_{0}^{\infty }+\int _{0}^{\infty }2xe^{-\lambda x}\,dx\\&=0+{\frac {2}{\lambda }}\operatorname {E} [X]\\&={\frac {2}{\lambda ^{2}}}.\end{aligned}}$

Стога је варијанса од X дата изразом

$\operatorname {Var} (X)=\operatorname {E} \left[X^{2}\right]-\operatorname {E} [X]^{2}={\frac {2}{\lambda ^{2}}}-\left({\frac {1}{\lambda }}\right)^{2}={\frac {1}{\lambda ^{2}}}.$

Бацање коцке

Шестострана коца се може моделовати као дискретна рандомна променљива, X, са исходима од 1 до 6, сваки са једнаком вероватноћом 1/6. Очекивана вредност X је $(1+2+3+4+5+6)/6=7/2.$ Дакле, варијанса X је

${\begin{aligned}\operatorname {Var} (X)&=\sum _{i=1}^{6}{\frac {1}{6}}\left(i-{\frac {7}{2}}\right)^{2}\\[5pt]&={\frac {1}{6}}\left((-5/2)^{2}+(-3/2)^{2}+(-1/2)^{2}+(1/2)^{2}+(3/2)^{2}+(5/2)^{2}\right)\\[5pt]&={\frac {35}{12}}\approx 2.92.\end{aligned}}$

Општа формула за варијансу исхода, X, n-стране коцке је

${\begin{aligned}\operatorname {Var} (X)&=\operatorname {E} \left(X^{2}\right)-(\operatorname {E} (X))^{2}\\[5pt]&={\frac {1}{n}}\sum _{i=1}^{n}i^{2}-\left({\frac {1}{n}}\sum _{i=1}^{n}i\right)^{2}\\[5pt]&={\frac {(n+1)(2n+1)}{6}}-\left({\frac {n+1}{2}}\right)^{2}\\[4pt]&={\frac {n^{2}-1}{12}}.\end{aligned}}$

Често коришћене дистрибуције вероватноће

Следећа табела наводи варијансу за неке често коришћене дистрибуције вероватноће.

Назив расподеле вероватноће	Функција расподеле вероватноће	Аритметичка средина	Варијанса
Биномна расподела	$\Pr \,(X=k)={\binom {n}{k}}p^{k}(1-p)^{n-k}$	$np$	$np(1-p)$
Геометријска расподела	$\Pr \,(X=k)=(1-p)^{k-1}p$	${\frac {1}{p}}$	${\frac {(1-p)}{p^{2}}}$
Нормална расподела	$f\left(x\mid \mu ,\sigma ^{2}\right)={\frac {1}{\sqrt {2\pi \sigma ^{2}}}}e^{-{\frac {(x-\mu )^{2}}{2\sigma ^{2}}}}$	$\mu$	$\sigma ^{2}$
Униформна расподела (континуирана)	$f(x\mid a,b)={\begin{cases}{\frac {1}{b-a}}&{\text{for }}a\leq x\leq b,\\[3pt]0&{\text{for }}x<a{\text{ or }}x>b\end{cases}}$	${\frac {a+b}{2}}$	${\frac {(b-a)^{2}}{12}}$
Експоненцијална расподела	$f(x\mid \lambda )=\lambda e^{-\lambda x}$	${\frac {1}{\lambda }}$	${\frac {1}{\lambda ^{2}}}$
Поасонова расподела	$f(k\mid \lambda )={\frac {e^{-\lambda }\lambda ^{k}}{k!}}$	$\lambda$	$\lambda$

Литература

• Klenke, Achim (2013). Wahrscheinlichkeitstheorie. стр. 106. doi:10.1007/978-3-642-36018-3. 
• Loève, Michel (1977). Probability Theory I. Springer. стр. 246. ISBN 3-540-90210-4. 
• Itô, Kiyosi (1984). Introduction to Probability Theory. Cambridge University Press. стр. 37. ISBN 0 521 26960 1. 
• Lemons, Don S. (2002), An Introduction to Stochastic Processes in Physics, The Johns Hopkins University Press, ISBN 0-8018-6866-1 
• Bevington, Philip R (1969). Data Reduction and Error Analysis for the Physical Sciences. New York, N.Y.: McGraw-Hill. OCLC 300283069. 
• Strutz, T. (2010). Data Fitting and Uncertainty (A practical introduction to weighted least squares and beyond). Vieweg+Teubner. ISBN 978-3-8348-1022-9. 
• Anscombe, F. J. (1948). „The Validity of Comparative Experiments”. Journal of the Royal Statistical Society. Series A (General). 111 (3): 181—211. JSTOR 2984159. MR 30181. doi:10.2307/2984159. 
• Bailey, R. A. (2008). Design of Comparative Experiments. Cambridge University Press. ISBN 978-0-521-68357-9.  Pre-publication chapters are available on-line.
• Belle, Gerald van (2008). Statistical rules of thumb (2nd изд.). Hoboken, N.J: Wiley. ISBN 978-0-470-14448-0. 
• Cochran, William G.; Cox, Gertrude M. (1992). Experimental designs (2nd изд.). New York: Wiley. ISBN 978-0-471-54567-5. 
• Cohen, Jacob (1988). Statistical power analysis for the behavior sciences (2nd ed.). Routledge ISBN 978-0-8058-0283-2
• Cohen, Jacob (1992). „Statistics a power primer”. Psychological Bulletin. 112 (1): 155—159. PMID 19565683. doi:10.1037/0033-2909.112.1.155. 
• Cox, David R. (1958). Planning of experiments. Reprinted as ISBN 978-0-471-57429-3
• Cox, David R. (2006). Principles of statistical inference. Cambridge New York: Cambridge University Press. ISBN 978-0-521-68567-2. 
• Freedman, David A.(2005). Statistical Models: Theory and Practice, Cambridge University Press. ISBN 978-0-521-67105-7
• Gelman, Andrew (2005). „Analysis of variance? Why it is more important than ever”. The Annals of Statistics. 33: 1—53. S2CID 13529149. arXiv:math/0504499 . doi:10.1214/009053604000001048. 
• Gelman, Andrew (2008). „Variance, analysis of”. The new Palgrave dictionary of economics (2nd изд.). Basingstoke, Hampshire New York: Palgrave Macmillan. ISBN 978-0-333-78676-5. 
• Hinkelmann, Klaus; Kempthorne, Oscar (2008). Design and Analysis of Experiments. I and II (Second изд.). Wiley. ISBN 978-0-470-38551-7. 
• Howell, David C. (2002). Statistical methods for psychology (5th изд.). Pacific Grove, CA: Duxbury/Thomson Learning. ISBN 978-0-534-37770-0. 
• Kempthorne, Oscar (1979). The Design and Analysis of Experiments (Corrected reprint of (1952) Wiley изд.). Robert E. Krieger. ISBN 978-0-88275-105-4. 
• Lehmann, E.L. (1959) Testing Statistical Hypotheses. John Wiley & Sons.
• Montgomery, Douglas C. (2001). Design and Analysis of Experiments (5th изд.). New York: Wiley. ISBN 978-0-471-31649-7. 
• Moore, David S. & McCabe, George P. (2003). Introduction to the Practice of Statistics (4e). W H Freeman & Co. ISBN 0-7167-9657-0
• Rosenbaum, Paul R. (2002). Observational Studies (2nd ed.). New York: Springer-Verlag. ISBN 978-0-387-98967-9
• Scheffé, Henry (1959). The Analysis of Variance. New York: Wiley. 
• Stigler, Stephen M. (1986). The history of statistics : the measurement of uncertainty before 1900. Cambridge, Mass: Belknap Press of Harvard University Press. ISBN 978-0-674-40340-6. 
• Wilkinson, Leland (1999). „Statistical Methods in Psychology Journals; Guidelines and Explanations”. American Psychologist. 5 (8): 594—604. CiteSeerX 10.1.1.120.4818 . doi:10.1037/0003-066X.54.8.594. 

Спољашње везе

• Analysis of variance: Introduction