Mosbarazimi i Jensenit

Pabarazia e Jensenit përgjithëson pohimin se një vijë sekante e një funksioni të lugët shtrihet mbi grafikun e tij.

Skeda:Convex 01.ogv Në matematikë, mosbarazimi i Jensenit, e quajtur sipas matematikanit danez Johan Jensen, lidh vlerën e një funksioni të lugët të një integrali me integralin e funksionit të lugët. Ajo u vërtetua nga Jenseni në vitin 1906, duke u mbështetur në një provë të mëparshme të së njëjtës pabarazi për funksionet e dyfishta të diferencueshme nga Otto Hölder në 1889. Duke pasur parasysh përgjithësinë e saj, pabarazia shfaqet në shumë forma në varësi të kontekstit, disa prej të cilave janë paraqitur më poshtë. Në formën e tij më të thjeshtë, pabarazia thotë se transformimi i lugët i një mesatareje është më i vogël ose i barabartë me mesataren e zbatuar pas transformimit të lugët; është një përfundim i thjeshtë se e kundërta është e vërtetë për shndërrimet e mysëta.

Pabarazia e Jensenit përgjithëson pohimin se vija sekante e një funksioni të lugët qëndron mbi grafikun e funksionit, që është pabarazia e Jensenit për dy pika: vija sekante përbëhet nga mesataret e peshuara të funksionit të lugët (për t ∈ [0,1]),

$tf(x_1)+(1-t)f(x_2),$

ndërsa grafiku i funksionit është funksioni i lugët i mesatares së peshuar,

$f(t{x}_1+(1-t)x_2).$

Kështu, pabarazia e Jensenit është

$f(t{x}_1+(1-t)x_2)\le tf(x_1)+(1-t)f(x_2).$

Në kontekstin e teorisë së probabilitetit, përgjithësisht shprehet në formën e mëposhtme: nëse X është një ndryshore e rastit dhe φ është një funksion i lugët, atëherë

Nuk e kuptoj (Conversion error. Server ("https://wikimedia.org/api/rest_") reported: "Class "Wikibase\Client\WikibaseClient" not found"): {\displaystyle \varphi (\operatorname {E} [X])\leq \operatorname {E} \left[\varphi (X)\right].}

Zbatime dhe raste të veçanta

Trajta që përfshin një funksion të dendësisë së probabilitetit

Supozoni se Ω është një nëngrup i matshëm i vijës reale dhe $f(x)$ është një funksion jo negativ i tillë që

$\underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}f(x)dx=1.$

Në gjuhën probabiliste, $f$ është një funksion i dendësisë së probabilitetit .

Atëherë pabarazia e Jensen bëhet pohimi i mëposhtëm në lidhje me integralet e lugëta:

Nëse g është ndonjë funksion i matshëm me vlerë reale dhe $\phi$ është i lugët mbi shtrirjen e g, atëherë

$\phi (\underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}g(x)f(x)dx)\le \underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}\phi (g(x))f(x)dx.$

Nëse $g(x)=x$, atëherë kjo formë e pabarazisë reduktohet në një rast të veçantë të përdorur zakonisht:

$\phi (\underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}xf(x)dx)\le \underset{-\mathrm{\infty }}{\overset{\mathrm{\infty }}{\int }}\phi (x)f(x)dx.$

Kjo aplikohet në metodat variacionale Bejesiane .

Shembull: momentet çift të një ndryshoreje të rastit

Nëse $g(x)=x^{2n}$, dhe X është një ndryshore e rastit, atëherë g është i lugët si

$\frac{d^{2}g}{d{x}^2}(x)=2n(2n-1)x^{2n-2}\ge 0\mathrm{\forall }x\in ℝ$

dhe kështu

$g(\mathrm{E}[X])=(\mathrm{E}[X]{)}^{2n}\le \mathrm{E}[X^{2n}].$

Fizika statistikore

Pabarazia e Jensenit ka një rëndësi të veçantë në fizikën statistikore kur funksioni i lugët është një eksponencial, duke dhënë:

$e^{\mathrm{E}[X]}\le \mathrm{E}\left[e^X\right],$

ku pritjet matematike janë në lidhje me disa shpërndarje probabiliteti në ndryshoren e rastit X

Teoria e informacionit

Nëse $p(x)$ është dendësia e vërtetë e probabilitetit për $X$, dhe $q(x)$ është një dendësi tjetër, atëherë duke zbatuar pabarazinë e Jensenit për ndryshoren e rastit $Y(x)=\frac{q(x)}{p(x)}$ dhe funksionin e lugët $\varphi (y)=-\log (y)$ jep

$\mathrm{E}[\phi (Y)]\ge \phi (\mathrm{E}[Y])$

Prandaj:

$-D(p(x)\Vert q(x))=\int p(x)\log \left(\frac{q(x)}{p(x)}\right)dx\le \log (\int p(x)\frac{q(x)}{p(x)}dx)=\log (\int q(x)dx)=0$

një rezultat i quajtur pabarazia e Gibbs-it .

Teorema Rao–Blackwell

Nëse L është një funksion i lugët dhe $𝔊$ një nën-sigma-algjebër, atëherë, nga versioni i kushtëzuar i pabarazisë së Jensenit, marrim

$L(\mathrm{E}[\delta (X)\mid 𝔊])\le \mathrm{E}[L(\delta (X))\mid 𝔊]⟹\mathrm{E}[L(\mathrm{E}[\delta (X)\mid 𝔊])]\le \mathrm{E}[L(\delta (X))].$

Pra, nëse $\delta (x)$ është një vlerësues i një parametri të pavëzhguar $\theta$ dhënë një vektor të vëzhguesve $X$ ; dhe nëse $T(X)$ është një statistikë e mjaftueshme për $\theta$ atëherë një vlerësues i përmirësuar, në kuptimin e të paturit një humbje më të vogël të pritshme L, mund të merret duke llogaritur

${\delta }_1(X)={\mathrm{E}}_{\theta }[\delta (X^{\prime })\mid T(X^{\prime })=T(X)],$

pritja matematike e $\delta$ në lidhje me $\theta$, marrë mbi të gjithë vektorët e mundshëm të vëzhgimeve $X$ të përputhshëm me të njëjtën vlerë të $T(X)$ si ajo e vëzhguar. Më tej, për shkak se T është një statistikë e mjaftueshme, ${\delta }_1(X)$ nuk varet nga $\theta$, prandaj bëhet statistikë.