上一節目錄下一節

不等式 

        在數學裡, 不等式的角色很重要。機率及統計裡, 也有一些不等式常出現。本節我們介紹一些。
　

  引理 1.設$u,v,p,q>0$, 且

$\displaystyle \frac{1}{p}+\frac{1}{q}=1\raisebox{-1.2mm}{。}$

(8.1)

則

$\displaystyle \frac{u^p}{p}+\frac{v^q}{q}\geq uv,$

(8.2)

且等號只有在$u=v^{1/(p-1)}$才成立。　　　　　　　　　　　　　　證明


利用上述引理即得下述不等式:

　

赫德爾不等式(Hölder's inequality). 設$X,Y$為二隨機變數, $p,q$滿足(8.1)式, 且設$E(\vert X\vert^p)$及$E(\vert X\vert^q)$皆存在。 則

(8.3)證明

　
　　Hölder(1859-1937)為德國數學家。 赫德爾不等式之最著名的特例, 很可能是$p=q=2$的情況。 此即在定理5.4中我們證過的史瓦茲不等式。
　

史瓦茲不等式. 對任二隨機變數$X,Y$, 只要 $E(X^2), E(Y^2)<\infty$, 則　　

(8.4)

　　赫德爾不等式尚有一些特例也常出現。例如, 在(8.3)式中令$Y\equiv 1$, 得

(8.5)

在此對一隨機變數$Y$, 及常數$c$, $Y\equiv c$, 讀做“$Y$恆等於$c$ ”, 其意義為$P(Y=c)=1$, 即$Y$為一退化隨機變數, 取值在$c$。

　　對$1<r<p$, 若以$\vert X\vert^r$取代(8.5)式中之$\vert X\vert$, 得

次令$s=rp$(注意因$p>1$, 故$s>r$), 再將兩側開$r$次方, 得

$\displaystyle {E(\vert X\vert^r)}^{1/r}\leq (E(\vert X\vert^s))^{1/s},1<r<s<\infty,$

(8.6)

此即黎波諾夫不等式。 由黎波諾夫不等式知, 若一隨機變數之高次動差存在, 則較低次的動差亦存在。例如, 若知 $E(\vert X\vert^4)=E(X^4)$存在, 則知
及也皆存在, 因此$E(X), E(X^2)$及$E(X^3)$也皆存在。

　　底下的不等式精神上與赫德爾不等式類似, 也可藉助赫德爾不等式得到。
　

  明考夫斯基不等式(Minkowski's inequality). 設$X,Y$為二隨機變數, 且1$\leq$$p<\infty$。則　　　　　　　　　　　　　　　　　　　　　　　　　　　證明

(8.7)

　　Minkowski(1864-1909)亦為著名的俄國數學家。 上述這些不等式, 也有對應之數值的版本, 即將期望值改為和。例如, 對任意實數 $a_i,b_i,i=1,\cdots,n$,

$\displaystyle \sum_{i=1}^n\vert a_ib_i\vert\leq (\sum_{i=1}^n\vert a_i\vert^p)^{1/p}(\sum_{i=1}^n\vert b_i\vert^q)^{1/q}, \frac{1}{p}+\frac{1}{q}=1, p,q>0,$

(8.8)

便對應赫德爾不等式。這只要在赫德爾不等式中, 定義隨機變數$X,Y$, 分別以$1/n$的機率取值在 $(a_1,b_1),\cdots,(a_n,b_n)$, 便導致(8.8)式。明考夫斯基之數值的版本則為: 對任意實數$a_i, b_i$, $i=1,\cdots,n$, 及$p\geq 1$,

(8.9)

　　(8.8)式一重要的特例是$p=q=2$的情況:

(8.10)

這是在數學中常見的關於數值之柯西-史瓦茲不等式。 (8.10)式中若取 $b_i=1,i=1,\cdots,n$, 則得

$\displaystyle \frac{1}{n}(\sum_{i=1}^n a_i)^2\leq \frac{1}{n}(\sum_{i=1}^n\vert a_i\vert)^2\leq \sum_{i=1}^n{a_i}^2\raisebox{-1.2mm}{。}$

(8.11)

　　有些不等式主要是利用實值函數的性質, 而不是仰賴機率的性質。其中一個很有用的是間森不等式, 適用於凸函數。

　

  定義 1.函數$g$若滿足對 $\forall x,y \in R$, 及$0<\lambda<1$,

$\displaystyle g(\lambda x+(1-\lambda)y)\leq \lambda g(x)+(1-\lambda)g(y),$

(8.12)

便稱為凸函數。而若(8.12)式中之不等式反過來, $g$便稱為凹函數。 可看出$g$為凹函數若且唯若$-g$為凸函數。　　　　　　　　　　　　　　　　　　

　　(8.12)式成立, 表$g(x)$之圖形由$u$至$v$, 在 $(u,g(u)),(v,g(v))$連線的下方。 至於凹函數則是函數圖形在前述連線段上方。例如, $g(x)=x^2$為凸函數,$g(x)=\log x$為凹函數。見圖8.1。

圖8.1 凸函數及凹函數之圖示　

間森不等式. 設$g(x)$為一凸函數, 且隨機變數$X$之$E(X)$及$E(g(X))$皆存在。則                                                                                                                           證明

(8.13)

　　底下為間森不等式之一立即的應用(取$g(x)=x^2$):

\begin{eqnarray*} E(X^2)\geq (E(X))^2, \end{eqnarray*}

我們在1.6節便提過了。另外, 對$x>0$, 利用$g(x)=1/x$為凸函數, 則得

(8.14)

由微積分裡的知識得, 對一個二次可微的函數$g$, 若 $g''(x)\geq 0, \forall x \in R$, 則$g(x)$為凸函數; 而若 $g''(x)<0, \forall x \in R$, $g(x)$便為凹函數。又對於凹函數$g$, 因$-g$為凸函數, 故

(8.15)

例 1. 設 $a_1,\cdots,a_n$皆大於0, 令

\begin{eqnarray*} &&M_{A}=\frac{1}{n}(a_{1}+\cdots +a_{n})=\frac{1}{n}\sum\limit... ...1}{a_{n}})}=(\frac{1}{n}\sum\limits_{i=1}^{n}{a_{i}}^{-1})^{-1}, \end{eqnarray*}

分別表其算術平均、幾何平均, 及調和平均。此三不等式之關係為

(8.16)

試證上述不等式成立。　　提示


　　柴比雪夫不等式可以說是機率裡一極重要且有用的不等式。 此不等式的重要, 是因其適用性廣泛, 而非其精確性。 Chebyshev(1821-1894, 有時寫成Chebychev, Shebychev, Tschebishev等), 為十九世紀俄國極重要的一位機率學家。

柴比雪夫不等式. 設$X$為一隨機變數, $g(x)$為一非負函數, 且滿足$E(g(X))$
存在。 則對任意$c>0$,                                                                                     證明

(8.17)

　
　　在柴比雪夫不等式中, 取 $g(x)=\vert x-\mu\vert^r$, 且以$c^r$取代$c$, 其中$\mu=E(X),r>0$, 則只要$E(\vert X-\mu\vert^r)$存在, 便有

\begin{eqnarray*} P(\vert X-\mu\vert^r\geq c^r)\leq \frac{E(\vert X-\mu\vert^r)}{c^r}, \end{eqnarray*}

但 $P(\vert X-\mu\vert^r\geq c^r)=P(\vert X-\mu\vert\geq c)$。故得

(8.18)

　　由(8.18)式, 又得(取$c=k\sigma$, $r=2$, 其中 $\sigma=(\mbox{Var}(X))^{1/2}$)

(8.19)

這是柴比雪夫不等式一極常出現的型式。可驗證(8.19)式與下式等價

$\displaystyle P(\vert X-\mu\vert\geq \varepsilon)\leq \frac{\sigma^2}{\varepsilon^2}, \varepsilon>0\raisebox{-1.2mm}{。}$

(8.20)

當然(8.19)及(8.20)式成立的先決條件是$X$的變異數要存在。 (8.17)式是最一般的柴比雪夫不等式, 不過(8.18)、(8.19)及(8.20)三式也常被稱做柴比雪夫不等式。


例1.2 設$X$有${\cal P}(1)$分佈, 則 $E(X)=\mbox{Var}(X)=1$。 柴比雪夫不等式給出(利用(8.20)式)

另外, 經由實際計算, 可得

\begin{eqnarray*} P(\vert X-1\vert\geq 2)&=&P(X\geq 3)=1-\sum_{i=0}^{2}P(X=i)\\ ... ...ac{1}{1}+\frac{1}{1}+\frac{1}{2})\\ &=&1-2.5e^{-1}\doteq 0.080, \end{eqnarray*}

的確是小於$1/4=0.25$, 但顯然誤差不小。換句話說, 雖然 $\sigma^2/\varepsilon^2$為$P(\vert X-\mu\vert\geq \varepsilon)$之一上界, 卻不一定很精確。但這還不是最差的情況。 事實上(8.19)及(8.20)式之左側皆為機率值, 不能超過1, 但右側卻有可能大於1。此時不等式便未提供任何資訊。不過如前所述, 柴比雪夫不等式並非因精確性而重要, 而是因其普遍性。 關於(8.19)及(8.20)二式, 對只要是變異數存在的隨機變數便皆成立。 對一隨機變數$X$, (8.19)及(8.20)式, 分別提供$X$會偏離期望值$k$個標準差及一固定距離$\mu$之機率的一個上界。 在1.6節我們說過, 期望值像是隨機變數分佈的一個核心, 隨機變數的可能值則散佈在期望值的左右。對不同的隨機變數, 其可能值有時偏離期望值較遠, 有時較近, 但都會滿足(8.19)及(8.20)式。

　　(8.19)與(8.20)式分別等價於

$\displaystyle P(\vert X-\mu\vert<k\sigma)\geq 1-\frac{1}{k^2}, k>0,$

(8.21)

$\displaystyle P(\vert X-\mu\vert<\varepsilon)\geq 1-\frac{\sigma^2}{\varepsilon^2}, \varepsilon>0\raisebox{-1.2mm}{。}$

(8.22)

　　我們再以常態分佈來檢驗柴比雪夫不等式之精確性。

例1.3 設 $X\sim \mathcal{N}(\mu,\sigma^2)$, $Z\sim \mathcal{N}(0,1)$。我們比較實際的機率及(8.21)式所給之機率下界。

\begin{eqnarray*} && P(\vert X-\mu\vert<\sigma)=P(\vert Z\vert<1)\doteq 0.682,\q... ...q 0.997,\quad 1-\frac {1}{3^2}\doteq 0.889\raisebox{-1.2mm}{。} \end{eqnarray*}

進一步閱讀資料：黃文璋 (2003) . 不等式。數理統計講義第三章。國立高雄大學應用數學系。

上一節目錄下一節