Varianca

Shembull i zgjedhjeve nga dy popullata me të njëjtën mesatare por varianca të ndryshme. Popullata e kuqe e ka mesataren 100 dhe variancën 100 (D.S=10) ndërsa popullata blu ka mesataren 100 dhe variancën 2500 (D.S=50).

Në teorinë dhe statistikat e probabilitetit, varianca ose dispersioni është shamngia në katror nga mesatarja e një ndryshoreje rasti . Varianca shpesh përkufizohet gjithashtu si katrori i devijimit standard . Varianca është një matëse e shpërndarjes, që do të thotë se është një matëse se sa larg është shpërndarë një grup numrash nga vlera e tyre mesatare. Është momenti i dytë qendror i një shpërndarjeje, dhe kovarianca e ndryshores së rastësishme me vetveten, dhe shpesh përfaqësohet nga ${\sigma }^2$, $s^2$, $\mathrm{Var}(X)$, $D(X)$, ose $V(X)$ .

Një avantazh i dispersionit si masë e shpërndarjes është se është më i përshtatshëm për manipulimin algjebrik sesa masat e tjera të shpërndarjes, siç është devijimi absolut i pritur ; për shembull, varianca e një shume ndryshoresh rasti të pakorreluara është e barabartë me shumën e variancave të tyre. Një disavantazh i dispersionit në zbatime praktike është se, ndryshe nga devijimi standard, njësitë e tij ndryshojnë nga ajo e n.r, kjo është arsyeja pse devijimi standard raportohet më shpesh si një masë e shpërndarjes pasi përfundon llogaritja.

Ka dy koncepte të ndryshme që emërtohen të dyja "variancë". Njëra, siç u diskutua më lart, është pjesë e një shpërndarjeje teorike probabiliteti dhe përcaktohet nga një ekuacion. Varianca tjetër është një karakteristikë e një grupi vëzhgimesh. Kur varianca llogaritet nga vëzhgimet, ato vëzhgime zakonisht maten nga një sistem i botës reale. Nëse të gjitha rezultatet e mundshme të sistemit janë të pranishme, atëherë varianca e llogaritur quhet variancë e popullsisë. Normalisht, megjithatë, vetëm një nëngrup është i gatshëm dhe varianca e llogaritur nga kjo mënyrë quhet variancë e mostrës. Varianca e llogaritur nga një kampion konsiderohet si një vlerësim i variancës së plotë të popullsisë. Ka shumë mënyra për të llogaritur një vlerësim të variancës së popullsisë, siç diskutohet në seksionin më poshtë.

Përkufizimi

Varianca e një ndryshoreje rasti $X$ është vlera e pritur e devijimit nga mesatarja në katror e $X$, $\mu =\mathrm{E}[X]$ :

$\mathrm{Var}(X)=\mathrm{E}[(X-\mu {)}^2].$

Ky përkufizim përfshin ndryshore rasti që krijohen nga procese që janë diskrete, të vazhdueshme, as ose të përziera. Varianca mund të konsiderohet gjithashtu si kovarianca e një ndryshoreje të rastësishme me vetveten:

$\mathrm{Var}(X)=\mathrm{Cov}(X,X).$

Një tjetër formulë për dispersionin merret si më poshtë:

$\begin{array}{cc}\mathrm{Var}(X)& =\mathrm{E}[(X-\mathrm{E}[X]{)}^2]\\ & =\mathrm{E}[X^2-2X\mathrm{E}[X]+\mathrm{E}[X{]}^2]\\ & =\mathrm{E}\left[X^2\right]-2\mathrm{E}[X]\mathrm{E}[X]+\mathrm{E}[X{]}^2\\ & =\mathrm{E}\left[X^2\right]-\mathrm{E}[X{]}^2\end{array}$

Me fjalë të tjera, varianca e X është e barabartë me mesataren e n.r $X$ të ngritur në katror minus katrorin e mesatares së $X$. Ky ekuacion nuk duhet të përdoret për llogaritjet duke përdorur aritmetikën me pikë lundruese, sepse vuan nga anulimi katastrofik nëse dy komponentët e ekuacionit janë të ngjashëm në madhësi. Për alternativa të tjera numerikisht të qëndrueshme, shihni Algoritmet për llogaritjen e variancës .

Ndryshore e rastit diskrete

Nëse ndryshorja e rastit $X$ është diskrete me funksion mase probabiliteti $x_1\mapsto p_1,x_2\mapsto p_2,\dots ,x_n\mapsto p_n$, atëherë

$\mathrm{Var}(X)=\sum _{i=1}^n{p}_i\cdot (x_i-\mu {)}^2,$

ku $\mu$ është vlera e pritur. Kjo është,

$\mu =\sum _{i=1}^n{p}_i{x}_i.$

Varianca e një bashkësie të $n$ vlerash njëlloj të mundshme shkruhet edhe si:

$\mathrm{Var}(X)=\frac{1}{n}\sum _{i=1}^n(x_i-\mu {)}^2$

ku $\mu$ është vlera mesatare. Kjo është,

$\mu =\frac{1}{n}\sum _{i=1}^n{x}_i.$

Ndryshoret e rastit absolutisht të vazhdueshme

Nëse ndryshorja e rastit $X$ ka një funksion të densitetit të probabilitetit $f(x)$, dhe $F(x)$ është funksioni përkatës i shpërndarjes mbledhëse, atëherë

$\begin{array}{cc}\mathrm{Var}(X)={\sigma }^2& =\underset{ℝ}{\int }(x-\mu {)}^{2}f(x)dx\\ & =\underset{ℝ}{\int }{x}^{2}f(x)dx-2\mu \underset{ℝ}{\int }xf(x)dx+{\mu }^2\underset{ℝ}{\int }f(x)dx\\ & =\underset{ℝ}{\int }{x}^{2}dF(x)-2\mu \underset{ℝ}{\int }xdF(x)+{\mu }^2\underset{ℝ}{\int }dF(x)\\ & =\underset{ℝ}{\int }{x}^{2}dF(x)-2\mu \cdot \mu +{\mu }^2\cdot 1\\ & =\underset{ℝ}{\int }{x}^{2}dF(x)-{\mu }^2,\end{array}$

ose në mënyrë të njëvlershme,

$\mathrm{Var}(X)=\underset{ℝ}{\int }{x}^{2}f(x)dx-{\mu }^2,$

Shembuj

Shpërndarja eksponenciale

Shpërndarja eksponenciale me parametërrin $\lambda$ është një shpërndarje e vazhdueshme, funksioni i densitetit të probabilitetit të së cilës është dhënë nga

$f(x)=\lambda e^{-\lambda x}$

në intervalin [0, ∞ ) . Mesatarja e kësaj shpërndarje mund të tregohet se është

$\mathrm{E}[X]=\underset{0}{\overset{\mathrm{\infty }}{\int }}\lambda x{e}^{-\lambda x}dx=\frac{1}{\lambda }.$

Duke përdorur integrimin me pjesë dhe duke përdorur pritje matematike tashmë të llogaritur, ne kemi:

$\begin{array}{cc}\mathrm{E}\left[X^2\right]& =\underset{0}{\overset{\mathrm{\infty }}{\int }}\lambda x^2{e}^{-\lambda x}dx\\ & ={[-x^2{e}^{-\lambda x}]}_0^{\mathrm{\infty }}+\underset{0}{\overset{\mathrm{\infty }}{\int }}2x{e}^{-\lambda x}dx\\ & =0+\frac{2}{\lambda }\mathrm{E}[X]\\ & =\frac{2}{{\lambda }^2}.\end{array}$

Kështu, varianca e $X$ jepet nga

$\mathrm{Var}(X)=\mathrm{E}\left[X^2\right]-\mathrm{E}[X{]}^2=\frac{2}{{\lambda }^2}-{\left(\frac{1}{\lambda }\right)}^2=\frac{1}{{\lambda }^2}.$

Zari i drejtë

Hedhja e një zari të drejtë mund të modelohet si n.r diskrete, $X$, me rezultate nga 1 deri tek 6, secila me probabilitet të njëjtë 1/6. Pritja matematike e $X$ është$(1+2+3+4+5+6)/6=7/2.$ Kështu që, varianca e $X$ është

$\begin{array}{cc}\mathrm{Var}(X)& =\sum _{i=1}^6\frac{1}{6}{(i-\frac{7}{2})}^2\\ & =\frac{1}{6}((-5/2{)}^2+(-3/2{)}^2+(-1/2{)}^2+(1/2{)}^2+(3/2{)}^2+(5/2{)}^2)\\ & =\frac{35}{12}\approx 2.92.\end{array}$

Shpërndarjet e probabilitetit të përdorura zakonisht

Emri i shpërndarjes së probabilitetit	Funksioni i shpërndarjes së probabilitetit	Mesatarja	Varianca
Shpërndarja binomiale	$\mathrm{Pr}(X=k)=(\genfrac{}{}{0ex}{}{n}{k})p^k(1-p{)}^{n-k}$	$np$	$np(1-p)$
Shpërndarja gjeometrike	$\mathrm{Pr}(X=k)=(1-p{)}^{k-1}p$	$\frac{1}{p}$	$\frac{(1-p)}{p^2}$
Shpërndarja normale	$f(x\mid \mu ,{\sigma }^2)=\frac{1}{\sqrt{2\pi {\sigma }^2}}{e}^{-\frac{(x-\mu {)}^2}{2{\sigma }^2}}$	$\mu$	${\sigma }^2$
Shpërndarja uniforme (e vazhdueshme)	$f(x\mid a,b)=\{\begin{array}{cc}\frac{1}{b-a}& \text{for }a\le x\le b,\\ 0& \text{for }x<a\text{ or }x>b\end{array}$	$\frac{a+b}{2}$	$\frac{(b-a{)}^2}{12}$
Shpërndarja eksponenciale	$f(x\mid \lambda )=\lambda e^{-\lambda x}$	$\frac{1}{\lambda }$	$\frac{1}{{\lambda }^2}$
Shpërndarja Poisson	$f(k\mid \lambda )=\frac{e^{-\lambda }{\lambda }^k}{k!}$	$\lambda$	$\lambda$

Vetitë

Vetitë themelore

Varianca është jo negative sepse madhësitë e ngritura në katror janë gjithmonë pozitive ose zero:

$\mathrm{Var}(X)\ge 0.$

Varianca e një konstante është zero.

$\mathrm{Var}(a)=0.$

Çështja e pafundësisë

Nëse një shpërndarje nuk ka pritje matematike të fundme, siç është rasti për shpërndarjen Cauchy, atëherë edhe varianca nuk mund të jetë e fundme. Megjithatë, disa shpërndarje mund të mos kenë një variancë të fundme, pavarësisht se pritja matematike është e fundme. Një shembull i tillë është një shpërndarje Pareto, indeksi i së cilës $k$ plotëson kushtin $1<k\le 2.$

Njësitë matëse

Ndryshe nga devijimi absolut i pritur, varianca e një ndryshore ka njësi që janë katrori i njësive të vetë ndryshores. Për shembull, një ndryshore e matur në metra do të ketë një variancë të matur në metra katrorë. Për këtë arsye, përshkrimi i grupeve të të dhënave nëpërmjet devijimit të tyre standard ose devijimit mesatar katror nën rrënjë shpesh preferohet ndaj përdorimit të variancës. Në shembullin e zareve, devijimi standard është $\sqrt{2,9}\approx 1,7$, pak më i madh se devijimi absolut i pritur, 1.5.

Përhapja

Mbledhja dhe shumëzimi me një konstante

Varianca është e pandjeshme ndaj ndryshimeve në një parametër vendndodhjeje . Kjo do të thotë se nëse një konstante u shtohet të gjitha vlerave të ndryshores, varianca mbetet e pandryshuar:

$\mathrm{Var}(X+a)=\mathrm{Var}(X).$

Nëse të gjitha vlerat shkallëzohen me një konstante, varianca shkallëzohet me katrorin e asaj konstante:

$\mathrm{Var}(aX)=a^2\mathrm{Var}(X).$

Varianca e shumës së dy ndryshoreve të rastit jepet nga barazimi

$\mathrm{Var}(aX+bY)=a^2\mathrm{Var}(X)+b^2\mathrm{Var}(Y)+2ab\mathrm{Cov}(X,Y)=(a{\sigma }_X+b{\sigma }_Y{)}^2$

$\mathrm{Var}(aX-bY)=a^2\mathrm{Var}(X)+b^2\mathrm{Var}(Y)-2ab\mathrm{Cov}(X,Y)=(a{\sigma }_X-b{\sigma }_Y{)}^2$

ku $\mathrm{Cov}(X,Y)$ është kovarianca dhe ${\sigma }_X$ është devijimi standard i $X$.

Kombinimet lineare

Në përgjithësi, për shumën e $N$ ndryshoreve të rastit $\{X_1,\dots ,X_N\}$, varianca gjendet si:

$\mathrm{Var}\left(\sum _{i=1}^N{X}_i\right)=\sum _{i,j=1}^N\mathrm{Cov}(X_i,X_j)=\sum _{i=1}^N\mathrm{Var}(X_i)+\sum _{i\ne j}\mathrm{Cov}(X_i,X_j),$

Këto rezultate çojnë në variancën e një kombinimi linear të gjetur si:

$\begin{array}{cc}\mathrm{Var}\left(\sum _{i=1}^N{a}_i{X}_i\right)& =\sum _{i,j=1}^N{a}_i{a}_j\mathrm{Cov}(X_i,X_j)\\ & =\sum _{i=1}^N{a}_i^2\mathrm{Var}(X_i)+\sum _{i=j}{a}_i{a}_j\mathrm{Cov}(X_i,X_j)\\ & =\sum _{i=1}^N{a}_i^2\mathrm{Var}(X_i)+2\sum _{1\le i<j\le N}{a}_i{a}_j\mathrm{Cov}(X_i,X_j).\end{array}$

Nëse ndryshoret e rastit $X_1,\dots ,X_N$ janë të tilla që

$\mathrm{Cov}(X_i,X_j)=0,\mathrm{\forall }(i\ne j),$

atëherë thuhet se janë të pakorreluara . Kështu që për to mund të shkruhet:

$\mathrm{Var}\left(\sum _{i=1}^N{X}_i\right)=\sum _{i=1}^N\mathrm{Var}(X_i).$

Prodhimi ndryshoreve

Prodhimi i ndryshoreve të pavarura

Nëse dy ndryshore $X$ dhe $Y$ janë të pavarura, varianca e prodhimit të tyre jepet nga

$\mathrm{Var}(XY)=[\mathrm{E}(X){]}^2\mathrm{Var}(Y)+[\mathrm{E}(Y){]}^2\mathrm{Var}(X)+\mathrm{Var}(X)\mathrm{Var}(Y).$

Në mënyrë të njëvlerëshme, duke përdorur vetitë themelore të pritjes matematike, ajo jepet nga

$\mathrm{Var}(XY)=\mathrm{E}\left(X^2\right)\mathrm{E}\left(Y^2\right)-[\mathrm{E}(X){]}^2[\mathrm{E}(Y){]}^2.$

Produkt i ndryshoreve statistikisht të varura

$\begin{array}{cc}\mathrm{Var}(XY)=& \mathrm{E}\left[X^2{Y}^2\right]-[\mathrm{E}(XY){]}^2\\ =& \mathrm{Cov}(X^2,Y^2)+\mathrm{E}(X^2)\mathrm{E}\left(Y^2\right)-[\mathrm{E}(XY){]}^2\\ =& \mathrm{Cov}(X^2,Y^2)+(\mathrm{Var}(X)+[\mathrm{E}(X){]}^2)(\mathrm{Var}(Y)+[\mathrm{E}(Y){]}^2)\\ & -[\mathrm{Cov}(X,Y)+\mathrm{E}(X)\mathrm{E}(Y){]}^2\end{array}$

Varianca e popullatës dhe varianca e zgjedhjes/kampionimit

Vëzhgimet e botës reale të tilla si matjet e shiut të djeshëm gjatë gjithë ditës zakonisht nuk mund të jenë grupe të plota të të gjitha vëzhgimeve të mundshme. Si e tillë, varianca e llogaritur nga bashkësia e fundme në përgjithësi nuk do të përputhet me variancën që do të ishte llogaritur nga popullata e plotë e vëzhgimeve të mundshme. Kjo do të thotë që vlerësohet mesatarja dhe varianca nga një bashkësi e kufizuar vëzhgimesh duke përdorur një ekuacion vlerësues . Vlerësuesi është një funksion i zgjedhjes së $n$ vëzhgimeve të nxjerra pa paragjykime vëzhguese nga e gjithë popullata e vëzhgimeve të mundshme. Në këtë shembull ajo zgjedhje do të ishte grupi i matjeve të reshjeve të djeshme nga matësat në gatishmëri.

Vlerësuesit më të thjeshtë për mesataren e popullsisë dhe variancën e popullsisë janë thjesht mesatarja dhe varianca e zgjedhjes/kampionit, mesatarja e zgjedhjes dhe varianca (e pakorrigjuar) e zgjedhjes- këta janë vlerësues të qëndrueshëm (ata konvergjojnë në vlerën e saktë teksa numri i zgjedhjeve rritet), por mund të të përmirësohet. Vlerësimi i variancës së popullatës duke marrë variancën e zgjedhjes është afër optimales në përgjithësi, por mund të përmirësohet në dy mënyra. Më thjeshtë, varianca e kampionit llogaritet si një mesatare e devijimeve në katror rreth mesatares (së kampionit), duke e pjesëtuar me $n$. Megjithatë, përdorimi i vlerave të tjera përveç $n$ përmirëson vlerësuesin në mënyra të ndryshme. Katër vlera për emëruesin janë $n$, $n-1$, $n+1$, dhe $n-1,5$: $n$ është më e thjeshta (varianca e popullsisë së kampionit), $n-1$ eliminon paragjykimet, $n+1$ minimizon gabimin mesatar në katror për shpërndarjen normale, dhe $n-1,5$ më së shumti eliminon zjvendosjet/anësinë në vlerësimin e paanshëm të devijimit standard për shpërndarjen normale.

Varianca e popullsisë

Në përgjithësi, varianca e popullsisë së një popullate të fundme me madhësi $N$ me vlera $x_i$ jepet nga

$$\begin{array}{cc}{\sigma }^2& =\frac{1}{N}\sum _{i=1}^N{(x_i-\mu )}^2=\frac{1}{N}\sum _{i=1}^N(x_i^2-2\mu x_i+{\mu }^2)\\ & =\left(\frac{1}{N}\sum _{i=1}^N{x}_i^2\right)-2\mu \left(\frac{1}{N}\sum _{i=1}^N{x}_i\right)+{\mu }^2\\ & =\left(\frac{1}{N}\sum _{i=1}^N{x}_i^2\right)-{\mu }^2\end{array}$$

ku mesatarja e popullësisë është

$\mu =\frac{1}{N}\sum _{i=1}^N{x}_i.$

Varianca e popullsisë gjithashtu mund të llogaritet duke përdorur

${\sigma }^2=\frac{1}{N^2}\sum _{i<j}{(x_i-x_j)}^2=\frac{1}{2N^2}\sum _{i,j=1}^N{(x_i-x_j)}^2.$

Varianca e kampionit

Varianca e pazhvendosur e kampionit

Në shumë situata praktike, varianca e vërtetë e një popullate nuk dihet apriori dhe duhet të llogaritet sipas ndonjë mënyre. Kur kemi të bëjmë me popullata jashtëzakonisht të mëdha, nuk është e mundur të numërohet çdo objekt i popullatës, kështu që llogaritja duhet të kryhet në një zgjedhje të popullsisë. Kjo zakonisht quhet variancë e zgjedhjes ose variancë empirike . Varianca e zgjedhjes mund të zbatohet gjithashtu për vlerësimin e variancës së një shpërndarjeje të vazhdueshme nga një kampion i asaj shpërndarjeje.

Marrim një kampion me zëvendësim të $n$ vlerave $Y_1,...,Y_n$ nga popullsia, ku $n<N$, dhe vlerësojmë variancën në bazë të këtij kampioni. Marrja e drejtpërdrejtë e variancës së të dhënave të mostrës jep mesataren e devijimeve në katror :

${\tilde{S}}_Y^2=\frac{1}{n}\sum _{i=1}^n{(Y_i-\bar{Y})}^2=\left(\frac{1}{n}\sum _{i=1}^n{Y}_i^2\right)-\stackrel{2}{\stackrel{‾}{Y}}=\frac{1}{n^2}\sum _{i,j:i<j}{(Y_i-Y_j)}^2.$

Këtu, $\bar{Y}$ tregon mesataren e mostrës :

$\bar{Y}=\frac{1}{n}\sum _{i=1}^n{Y}_i.$

Meqenëse Y _i zgjidhen rastësisht, të dyja $\bar{Y}$ dhe ${\tilde{S}}_Y^2$ janë ndryshore të rastit. Pritjet matematike të tyre mund të vlerësohen duke marrë një mesatare mbi grupin e të gjitha kampioneve të mundshme $\{Y_i\}$ me madhësi n nga popullata. Për ${\tilde{S}}_Y^2$ kjo jep:

$\begin{array}{cc}\mathrm{E}[{\tilde{S}}_Y^2]& =\mathrm{E}\left[\frac{1}{n}\sum _{i=1}^n{(Y_i-\frac{1}{n}\sum _{j=1}^n{Y}_j)}^2\right]\\ & =\frac{1}{n}\sum _{i=1}^n\mathrm{E}[Y_i^2-\frac{2}{n}{Y}_i\sum _{j=1}^n{Y}_j+\frac{1}{n^2}\sum _{j=1}^n{Y}_j\sum _{k=1}^n{Y}_k]\\ & =\frac{1}{n}\sum _{i=1}^n(\frac{n-2}{n}\mathrm{E}\left[Y_i^2\right]-\frac{2}{n}\sum _{j\ne i}\mathrm{E}\left[Y_i{Y}_j\right]+\frac{1}{n^2}\sum _{j=1}^n\sum _{k\ne j}^n\mathrm{E}\left[Y_j{Y}_k\right]+\frac{1}{n^2}\sum _{j=1}^n\mathrm{E}\left[Y_j^2\right])\\ & =\frac{1}{n}\sum _{i=1}^n[\frac{n-2}{n}({\sigma }^2+{\mu }^2)-\frac{2}{n}(n-1){\mu }^2+\frac{1}{n^2}n(n-1){\mu }^2+\frac{1}{n}({\sigma }^2+{\mu }^2)]\\ & =\frac{n-1}{n}{\sigma }^2.\end{array}$

Prandaj ${\tilde{S}}_Y^2$ jep një vlerësim të variancës së popullatës që është e njëanshme/ e zhvendosur me një faktor prej $\frac{n-1}{n}$ . Per kete arsye, ${\tilde{S}}_Y^2$ referohet si varianca e mostrës së njëanshme .

Varianca e pazhvendosur e zgjedhjes

Korrigjimi për këtë anësi jep variancën e pazhvendosur të mostrës, të shënuar $S^2$ :

$S^2=\frac{n}{n-1}{\tilde{S}}_Y^2=\frac{n}{n-1}\left[\frac{1}{n}\sum _{i=1}^n{(Y_i-\bar{Y})}^2\right]=\frac{1}{n-1}\sum _{i=1}^n{(Y_i-\bar{Y})}^2$

Secili vlerësues mund të referohet thjesht si varianca e kampionit kur versioni mund të përcaktohet nga konteksti.