Algoritmi i pikëzimit

Algoritmi i pikëzimit, i njohur gjithashtu si pikëzimi i Fisherit, është një formë e metodës së Njutonit që përdoret në statistikë për të zgjidhur ekuacionet e përgjasisë maksimale në mënyrë numerike, e quajtur sipas Ronald Fisherit .

Skica e derivimit

Le të jenë $Y_1,\dots ,Y_n$ ndryshore rasti, të pavarura dhe të shpërndara identikisht me pdf dy herë të diferencueshme $f(y;\theta )$, dhe ne dëshirojmë të llogarisim vlerësuesin e përgjasisë maksimale (MLE) ${\theta }^{*}$ e $\theta$ . Së pari, supozoni se kemi një pikënisje për algoritmin tonë ${\theta }_0$ dhe konsideroni një zgjerim të Tejlorit të funksionit të rezultatit, $V(\theta )$, rreth ${\theta }_0$ :

$V(\theta )\approx V({\theta }_0)-𝒥({\theta }_0)(\theta -{\theta }_0),$

ku

$𝒥({\theta }_0)=-\sum _{i=1}^n{\mathrm{\nabla }{\mathrm{\nabla }}^{\mathrm{\top }}|}_{\theta ={\theta }_0}\log f(Y_i;\theta )$

është matrica e informacionit të vëzhguar në ${\theta }_0$. Tani, vendosja $\theta ={\theta }^{*}$, duke përdorur atë $V({\theta }^{*})=0$ dhe riorganizimi na jep:

${\theta }^{*}\approx {\theta }_0+{𝒥}^{-1}({\theta }_0)V({\theta }_0).$

Prandaj ne përdorim algoritmin

${\theta }_{m+1}={\theta }_m+{𝒥}^{-1}({\theta }_m)V({\theta }_m),$

dhe në kushte të caktuara rregullsie mund të tregohet se ${\theta }_m\to {\theta }^{*}$ .

Pikëzimi i Fisherit

Në praktikë, $𝒥(\theta )$ zakonisht zëvendësohet nga $ℐ(\theta )=\mathrm{E}[𝒥(\theta )]$, informacioni i Fisherit, duke na dhënë kështu Algoritmin e Pikëzimit të Fisherit :

${\theta }_{m+1}={\theta }_m+{ℐ}^{-1}({\theta }_m)V({\theta }_m)$ ..

Në disa kushte rregullsie, nëse ${\theta }_m$ është një vlerësues i qëndrueshëm, pra ${\theta }_{m+1}$ (korrigjimi pas një hapi të vetëm) është 'optimal' në kuptimin që shpërndarja e gabimit të tij është asimptotikisht identike me atë të vlerësimit të vërtetë të përgjasisë maksimale.

Shiko gjithashtu

• Rezultati (statistikë)
• Pikëzimi i rezultateve
• Informacione për Fisher