期望值

對一隨機變數, 我們常想粗略地知道其值究竟多大, 期望值(expeca-
tion, 或稱expected value, mean), 就是常被拿來扮演這種以一單一的值, 來代表一隨機現象中之變數大小的角色.

設隨機變數$X$之p.d.f.為$f$, 則其期望值以$E(X)$表示, 定義為

$$E(X)=\left\{ \begin{array}{ll} \int_{-\infty}^{\infty} xf(x)dx & ,\mbox{連續型}, \cr \sum_{x}xf(x) & ,\mbox{離散型}, \end{array}\right.$$ (6.1)

只要上述積分或和存在.此處$\sum_x xf(x)$表對所有可能的$x$(即$f(x)\neq 0$)相加. 通常以(或只以$\mu$)表$E(X)$.

假設有10個數: 1,1,2,2,2,3,3,3,4,4, 則其平均為

$$\begin{eqnarray*} \frac {1}{10} (1+1+2+2+2+3+3+3+4+4)=2.5\raisebox{-1.2mm}{.} \end{eqnarray*}$$

由於數字中有重複: 有2個1, 3個2, 3個3, 2個4, 所以平均亦可表為

$$\begin{eqnarray*} \frac {1}{10}(1\cdot 2+2\cdot 3+3\cdot 3+4\cdot 2)=2.5, \end{eqnarray*}$$

所得相同.第二種作法是我們常採用的, 特別是在數字較大時. 又上式左側可改寫為

$$\begin{eqnarray*} 1\cdot \frac {2}{10}+2\cdot \frac {3}{10}+3\cdot \frac {3}{10}+4\cdot \frac {2}{10}, \end{eqnarray*}$$

其中$2/10$, $3/10$, $3/10$, $2/10$, 可分別視為10個數字中, 1,2,3,4所佔的份量.所以第二種作法便是一種加權平均. 隨機變數期望值的定義, 便是基於加權平均的想法. 這點由離散型隨機變數期望值的定義, 特別可以看出來.

至於$X$之一函數$g(X)$的期望值, 則定義為     

$$E(g(X))=\left\{ \begin{array}{ll} \int_{-\infty}^{\infty} g(x)f(x... ...}, \cr \sum_{x}g(x)f(x) & ,\mbox{離散型}\raisebox{-1.2mm}{.} \end{array}\right.$$ (6.2)

亦可經由變數代換, 先求出$Y=g(X)$之p.d.f., 再利用(6.1)式而求得$E(Y)$.

底下給幾個例子.

例6.1 設離散型隨機變數$X$之p.d.f.為

$$\begin{eqnarray*} && f(0)=\frac {1}{16},\quad f(1)=\frac {2}{16},\quad f(2)=\fra... ... f(5)=\frac {1}{16},\quad f(6)=\frac {1}{16}\raisebox{-1.2mm}{.} \end{eqnarray*}$$

則

$$\begin{eqnarray*} E(X) &=& \sum_{x=0}^6 xf(x)\\ &=& 0\cdot \frac {1}{16}+1\cdot... ...}+6\cdot \frac {1}{16}\\ &=& \frac {47}{16}\raisebox{-1.2mm}{.} \end{eqnarray*}$$

又

$$\begin{eqnarray*} E((X-3)^2) &=& \sum_{x=0}^6 (x-3)^2f(x)\\ &=& 9\cdot \frac {1... ...}+9\cdot \frac {1}{16}\\ &=& \frac {37}{16}\raisebox{-1.2mm}{.} \end{eqnarray*}$$

在求$E((X-3)^2)$時, 也可利用變數代換.令$Y=(X-3)^2$. 則$Y$取值0,1,4,9, 且

$$\begin{eqnarray*} && f_Y(0)=P(X=3)=\frac {4}{16}, \\ && f_Y(1)=P(X=2)+P(X=4)=\f... ...6},\\ && f_Y(9)=P(X=0)+P(X=6)=\frac {2}{16}\raisebox{-1.2mm}{.} \end{eqnarray*}$$

故

$$\begin{eqnarray*} E((X-3)^2) &=& E(Y) = \sum_y y f_Y(y)\\ &=& 0\cdot \frac {4}{... ...}+9\cdot \frac {2}{16}\\ &=& \frac {37}{16}\raisebox{-1.2mm}{.} \end{eqnarray*}$$

其中$\sum$是對所有的$y$相加, 即0,1,4,9.

例6.2 設隨機變數$X$之p.d.f.為

$$\begin{eqnarray*} f(x)=2x, x\in [0,1]\raisebox{-1.2mm}{.} \end{eqnarray*}$$

則

$$\begin{eqnarray*} && E(X)=\int_{0}^{1} x\cdot 2x dx=\int_{0}^{1} 2x^2 dx=\frac 2... ...^2\cdot 2x dx=\int_{0}^{1} 2x^3 dx=\frac 12\raisebox{-1.2mm}{.} \end{eqnarray*}$$

另外, 亦可利用變數代換.令$Y=X^2$, 先求出$Y$之p.d.f.為

$$\begin{eqnarray*} g(y)=2\sqrt{y}\cdot \frac {1}{2\sqrt{y}}=1, y\in [0,1]\raisebox{-1.2mm}{.} \end{eqnarray*}$$

如此

$$\begin{eqnarray*} E(X^2)=E(Y)=\int_{0}^{1} y\cdot 1 dy=\frac 12, \end{eqnarray*}$$

仍得到相同的結果.

例6.3 在微積分裡有下述結果:

$$\begin{eqnarray*} \sum_{i=1}^{\infty} \frac {1}{i^2}=\frac {\pi^2}{6}\raisebox{-1.2mm}{.} \end{eqnarray*}$$

故

$$f(i)=\frac {6}{\pi^2} \frac {1}{i^2}, i=1,2,\cdots,$$ (6.3)

為一p.d.f..但因

$$\begin{eqnarray*} \sum_{i=1}^{\infty} \frac 1i=\infty, \end{eqnarray*}$$

故若隨機變數$X$之p.d.f.如(6.3)式, 則$X$之期望值不存在.

另外, 因

$$\begin{eqnarray*} \sum_{i=1}^{\infty} \frac {1}{i^4}=\frac {\pi^4}{90}, \end{eqnarray*}$$

故

$$g(i)=\frac {90}{\pi^4} \frac {1}{i^4}, i=1,2,\cdots,$$ (6.4)

為一p.d.f..又設隨機變數$Y$之p.d.f.如(6.4)式所給.則

$$\begin{eqnarray*} && E(Y)=\frac {90}{\pi^4} \sum_{i=1}^{\infty} \frac {1}{i^3}<\... ...4} \frac {\pi^2}{6}=\frac {15}{\pi^2}<\infty\raisebox{-1.2mm}{.} \end{eqnarray*}$$

即$E(Y)$及$E(Y^2)$皆存在.當然$E(Y^3)$便不存在了.

例6.4 設隨機變數$X$有 $\mathcal{C}(0,1)$分佈, 即其p.d.f.為

$$\begin{eqnarray*} f(x)=\frac {1}{\pi(1+x^2)}, x\in R, \end{eqnarray*}$$

則$X$之期望值不存在.此因

$$\begin{eqnarray*} E(X)=\int_{-\infty}^{\infty} x\cdot \frac {1}{\pi(1+x^2)} dx, \end{eqnarray*}$$

為一瑕積分(improper integral).而依定義, 此瑕積分存在, 若且唯若

$$\begin{eqnarray*} \int_{0}^{\infty} \frac {x}{\pi(1+x^2)} dx,\quad \int_{-\infty}^{0} \frac {x}{\pi(1+x^2)} dx \end{eqnarray*}$$

皆要存在.但此二積分皆不存在:

$$\begin{eqnarray*} \int_{0}^{\infty} \frac {x}{\pi(1+x^2)}dx=\lim_{x\rightarrow \infty} \frac {1}{2\pi} \log (1+x^2)=\infty, \end{eqnarray*}$$

故$E(X)$不存在.

要注意的是, 不可以為因 $x/(\pi(1+x^2))$為一奇函數, 所以在$(0,\infty)$的積分與在$(-\infty,0)$的積分, 剛好正負消掉, 而得積分為0.要知道並沒有 $\infty-\infty=0$的運算. $\infty$並非一實數, 實數裡的一些運算對它並不一定適用. 不過當一隨機變數$X$之p.d.f.為偶函數, 則$E(X)$若存在必為0, 證明留在習題中. 因此由於標準的羅吉斯分佈之p.d.f.$f_{X}$為偶函數(見例4.10), 且

$$\begin{eqnarray*} \int_{0}^{\infty} xf_{X}(x)dx &=& \int_{0}^{\infty} x\cdot \fr... ...\right\vert _{0}^{\infty} +\int_{0}^{\infty} e^{-x} dx=1<\infty, \end{eqnarray*}$$

故標準羅吉斯分佈之期望值存在且為0.

附帶一提, 由上述瑕積分存在的定義, 可看出$E(X)$存在, 若且唯若$E(\vert X\vert)$存在(見習題第29題), 有些書便以$E(\vert X\vert)$存在, 當做期望值存在的定義.

期望值有不少性質.例如, 一有界的隨機變數, 期望值必存在. 在此對一隨機變數$X$, 若存在一常數$M>0$, 使得 $P(\vert X\vert\leq M)=1$, 便稱該隨機變數為有界的.若$X$有 $\mathcal{U}(0,1)$分佈, 便為有界, 有 $\mathcal{C}(0,1)$分佈, 則非有界.我們再列出一些性質如下.

定理6.1 設$X$為一隨機變數, $a,b,c$為常數, $g_1,g_2$為二函數, 使得$E(g_1(X))$, $E(g_2(X))$皆存在.則

(i) $E(a g_1(X)+b g_2(X)+c)=a E(g_1(X))+b E(g_2(X))+c$;

(ii) 若$g_1(x)\geq 0$, $\forall x\in R$, 則 $E(g_1(X))\geq 0$;

(iii) 若 $g_1(x)\geq g_2(x)$, $\forall x\in R$, 則 $E(g_1(X))\geq E(g_2(X))$;

(iv) 若 $a\leq g_1(x)\leq b$, $\forall x\in R$, 則 $a\leq E(g_1(X))\leq b$.

由上定理之(i), 特別地, 只要$E(X)$存在, 則

$$E(aX+b)=aE(X)+b,$$ (6.5)

$$E(b)=b\raisebox{-1.2mm}{.}$$ (6.6)

即一常數之期望值等於該常數.由於$E(X)$為一常數(已非隨機了), 故其期望值仍為本身.即

$$\begin{eqnarray*} E(E(X))=E(X)\raisebox{-1.2mm}{.} \end{eqnarray*}$$

期望值這個名詞也許會令有些人感到困擾.投擲一公正的骰子一次, 令$X$表所得之點數.則$X$之p.d.f.為

$$\begin{eqnarray*} f(x)=\frac 16, x=1,2,\cdots,6\raisebox{-1.2mm}{.} \end{eqnarray*}$$

因此

$$\begin{eqnarray*} E(X)=\sum_{i=1}^{6} i\cdot \frac 16=\frac {21}{6}=3.5\raisebox{-1.2mm}{.} \end{eqnarray*}$$

投擲一骰子, 點數之期望值為3.5.點數為整數, 無論怎麼投擲都得不到3.5.那怎會期望得到3.5呢? 唐詩三百首裡, 元稹遣悲懷:

同穴窅冥何所望, 他生緣會更難期.

3.5的期望值, 可說較他生緣更難期了.

所以暫時不要去想期望值字面上的含義, 是不易想通的. 不過期望值是一隨機變數之`` 最佳'' 常數的代表值. 所謂最佳, 指的是誤差平方的期望值最小.見下定理.

定理6.2 設隨機變數$X$滿足$E(X^2)<\infty$.則對所有$a\in R$, $E((X-a)^2)$之極小值發生在$a=E(X)$.
證明.由

$$\begin{eqnarray*} E((X-a)^2)=E(X^2)-2aE(X)+a^2, \end{eqnarray*}$$

將 $E(X^2)-2aE(X)+a^2$視為一$a$的二次式, 經由微分可得極小值發生在$a=E(X)$.得證.

在3.8節我們會看到若$E(X^2)$存在, 則導致$E(X)$存在.

想以一常數$a$來代表一隨機變數$X$, 很難說那一個$a$最好. 誤差$X-a$仍是隨機的.但在誤差的平方$(X-a)^2$之期望值最小下, 上定理指出期望值$E(X)$便是最好的選擇.

其次我們定義動差(moment).設$n$為一整數, 則若$E(X^n)$存在, 便稱此為隨機變數$X$之 $\mbox{\mathversion{bold}{$n$}}$次動差. 而$E((X-\mu)^n)$稱為$X$的 $\mbox{\mathversion{bold}{$n$}}$次中心動差($n$th central moment), 其中$\mu=E(X)$.特別地, 二次中心動差稱為$X$的變異數(variance), 以$\sigma_X^2$, $\mbox{Var}(X)$或簡單地以$\sigma^2$表之, 即

$$\mbox{Var}(X)=E((X-E(X))^2)\raisebox{-1.2mm}{.}$$ (6.7)

$\mbox{Var}(X)$之正的平方根, 以$\sigma_X$或$\sigma$表之, 稱為$X$之標準離差(standard deviation), 或標準差、 均方差.另外, 如同期望值, 對於$n$次動差仍有$E(X^n)$存在, 若且唯若$E(\vert X\vert^n)$存在, 其證明留在習題中.

如同期望值, 標準離差此一名詞可能令人感到迷惑. 這並不表示隨機變數$X$有較大的機率與期望值之差距不超過一個標準離差. 常有人會有這樣的誤解. 如見目前通行的某版本高中數學甲(上)(即自然組高三上學期). 我們給一例子如下, 讀者不難造出更多的例子.

設$P(X=0)=0.1$, $P(X=2)=P(X=-2)=0.45$.則

$$\begin{eqnarray*} && \mu=E(X)=0,\\ && \sigma^2=\mbox{Var}(X)=E(X^2)=0.1\cdot 0^2+0.45\cdot 2^2+0.45\cdot (-2)^2=3.6\raisebox{-1.2mm}{.} \end{eqnarray*}$$

因此$X$之標準離差 $\sigma=\sqrt{3.6}\doteq 1.8972<2$. 但有0.9之機率, $X$取值與$\mu=0$之差距超過$\sigma$.

在機率論裡我們引進了隨機變數的概念.例如, 學生不再如小學的練習裡, 每位體重40公斤, 求25位學生的總體重, 而是讓每位學生的體重有一機率分佈. 但因覺得無法掌握隨機的量之大小, 我們才想要有一代表值. 由於有很多好的性質, 期望值遂常被拿來當做隨機變數之代表值. 期望值像是隨機變數分佈之一個核心, 隨機變數的可能值, 散佈在期望值的左右.其他亦常被拿來當做隨機變數之代表值的尚有中位數(median)及眾數(mode)等.眾數早期稱為密集數. 在此一實數$m$若滿足

$$P(X\leq m)\geq \frac 12,\quad \mbox{且} P(X\geq m)\geq \frac 12,$$ (6.8)

便稱為隨機變數$X$(或其分佈)之一中位數. 依此定義中位數不一定唯一.當然如果$X$之分佈函數為連續且嚴格漸增, 則中位數便唯一.此時中位數為滿足$F(x)=0.5$之$x$, 即$X$之第$0.5$分位數. 有些書便將中位數定義為$X$之第$0.5$分位數. 依其定義中位數便唯一存在了.若$X$之分佈對稱於$m$, 則$X$之中位數為$m$(習題第16題).另外, 若$f(a)$為$X$之機率密度函數的一絕對極大值, 便稱$a$為$X$(或其分佈)之一眾數.對$X$為離散型的隨機變數, 其眾數表$X$最可能取的值.眾數也不一定唯一.中位數及眾數有時雖存在但卻不易求出(見習題第16題).

例6.5 設$X$為一離散型的隨機變數, 且$P(X=0)=1/4$, $P(X=1)=1/2$, $P(X=2)=1/4$.則$X$有唯一的中位數1:

$$\begin{eqnarray*} && P(X\leq 1)=P(X=0)+P(X=1)=\frac {3}{4}\geq \frac 12,\\ && P(X\geq 1)=P(X=1)+P(X=2)=\frac 34\geq \frac 12\raisebox{-1.2mm}{.} \end{eqnarray*}$$

故1為一中位數.又任一$a<1$,

$$\begin{eqnarray*} P(X\leq a)\leq P(X=0)=\frac 14<\frac 12, \end{eqnarray*}$$

任一$a>1$,

$$\begin{eqnarray*} P(X\geq a)\leq P(X=2)=\frac 14<\frac 12, \end{eqnarray*}$$

皆非中位數.

至於$X$之眾數亦為1.

例6.6 設$X$為一離散型的隨機變數, 且$P(X=0)=0.1$, $P(X=1)=0.4$, $P(X=2)=0.4$, $P(X=3)=0.1$.則任一$a\in [1,2]$皆為中位數, 而1,2皆為眾數.

例6.7 設隨機變數$X$之分佈函數為

$$\begin{eqnarray*} F(x)=\left\{ \begin{array}{ll} 0 & ,x<0,\cr x^2 & ,0\leq x<1, \cr 1 & ,x\geq 1\raisebox{-1.2mm}{.} \end{array}\right. \end{eqnarray*}$$

令$x^2=1/2$, 解出 $x=\sqrt{2}/2\doteq 0.707$. 即$X$之中位數為$\sqrt{2}/2$. 也可以說$F$之中位數為$\sqrt{2}/2$.若取$X$之p.d.f.為$f(x)=2x$, $0\leq x\leq 1$, 則$X$之眾數為1.若取$X$之p.d.f.為$f(x)=2x$, $0\leq x<1$, 則眾數不存在.

我們常要藉助統計做各種決策.投資某項事業, 可能成功而獲利若干, 可能失敗而損失若干.那到底要不要投資呢? 不能只看到成功機率很大(說不定獲利很小), 也不能只看到獲利很大(說不定成功機率很低), 算一算所得(若損失所得便為負)之期望值, 是一簡單的決策依據. 我們平常在判斷出門要不要帶雨傘, 也是先盤算一下期望損失(先估計下雨的機率, 下雨不帶傘的損失等). 期望值在做決策時, 常扮演重要的角色.

例6.8 某賭局的賭法如下: 投擲一公正的銅板, 若第$n$次投擲才首度出現正面, 則賭徒可獲得$1.95^{n}$元. 試依期望所得, 決定賭徒每次賭之前, 該付多少元, 此賭局才是公平.
解.不難看出第$n$次投擲才首度出現正面之機率為$2^{-n}$, $n\geq 1$.令$X$表賭徒賭一次之所得, 則

$$\begin{eqnarray*} E(X) &=& \sum_{n=1}^{\infty} 1.95^{n}\cdot 2^{-n}=\sum_{n=1}^{... ...95}{2})^n\\ &=& \frac {1.95/2}{1-1.95/2}=39\raisebox{-1.2mm}{.} \end{eqnarray*}$$

故每次該付39元.

不論期望值是多好的一個隨機變數之代表值, 難免會偏離該隨機變數, 如何量測偏差究竟有多大呢? 這就是變異數與標準差的功能.

設有一隨機變數$X$, 且設期望值$E(X)$存在.則$X$與$E(X)$之離差為$X-E(X)$.此值有正有負, 但期望值

$$\begin{eqnarray*} E(X-E(X))=E(X)-E(X)=0\raisebox{-1.2mm}{.} \end{eqnarray*}$$

離差之期望值為0, 此亦為期望值之一性質. 但我們往往是對離差之絕對值較感興趣.此正如射飛鏢時, 有時上偏有時下偏, 總不能得意地說平均命中紅心.

以$\vert X-E(X)\vert$表離差之絕對值, 此量仍為一隨機變數, 如何衡量其大小呢? 取期望值為一辦法.也就是求量測離差之絕對值的`` 平均 ''.但如果你微積分學得還不錯的話, 應知道有關絕對值函數之求和或積分, 往往有些麻煩(想想求 $\int_{-3}^3 \vert\sin x-0.3x\vert dx$的例子). 對於$E(\vert X-E(X)\vert)$, 要討論何時$X\geq E(X)$, 何時$X<E(X)$. 因此通常的作法, 是考慮離差平方之期望值, 而這就是變異數. 由於是平方的期望值, 像是距離的平方.因此若將變異數開平方, 就像使其回到距離, 標準差便產生了.

在統計裡是允許誤差的存在.我們不要求百分之百的精準, 我們只希望誤差在可接受的範圍, 而這誤差其實也是隨機的. 因此我們才考慮``平均式'' (取期望值)的誤差.大家常說, 雖不中亦不遠矣.但不遠到底是多遠? 標準差的功能, 就是對誤差之大小, 提供一參考值. 如果說期望值是描述一隨機變數之分佈的`` 集中處'', 標準差便是描述分佈對該集中處之偏離程度. 標準差愈小(或等價地說變異數愈小), 表隨機變數之分佈較集中在期望值附近; 標準差愈大, 表隨機變數之分佈, 散佈的較開.人們常說命運, 命就有點像是期望值, 運則像是變異數. 命也許不太好(期望值不大), 但由於有變異的關係, 使得有時好運會發生.

假設兩組學生參加測驗, 每組各有三人.平均成績皆為60分, 但第一組之成績為$61,60,59$; 第二組之成績為$90,60,30$. 第一組學生的程度很接近, 而第二組學生的程度則有很大差異. 光由平均成績, 並無法了解兩組學生程度差異之情況. 這也是對隨機變數, 為何除了期望值, 我們尚須給出其標準差. 給了此二值, 對其`` 中心 '' 及 `` 散佈範圍'', 才有一較清晰的概念.

例6.9 假設有$A,B$二項投資.投資$A$於一年後, 有1/2的機率賺一倍的錢, 有1/4的機率賠一半的錢, 有1/4的機率不賺不賠.投資$B$一年後, 有3/4的機率賺一半的錢, 有1/4的機率不賺不賠.若放$10,\!000$元於投資$A$, 則一年後之獲利$X$, 為一離散型的隨機變數, p.d.f.為(略去`` 元 '', 底下同)     

$$\begin{eqnarray*} f_X(x)=\left\{ \begin{array}{ll} 1/2 & ,x=10,\!000,\cr 1/4 & ,x=-5,\!000,\cr 1/4 & ,x=0\raisebox{-1.2mm}{.} \end{array}\right. \end{eqnarray*}$$

若放$10,\!000$於投資$B$, 則一年後之獲利$Y$, 亦為一離散型的隨機變數, p.d.f.為

依上述條件, 可得

$$\begin{eqnarray*} && E(X)=\sum_x xf_X(x)=\frac 12\cdot 10,\!000+\frac 14\cdot (-... ...rac 34\cdot 5,\!0000+\frac 14\cdot 0=3,\!750\raisebox{-1.2mm}{.} \end{eqnarray*}$$

即投資$A$與投資$B$獲利之期望值相同.雖然有相同的期望值, 但$X$之分佈較$Y$之分佈, 散佈的較開, 所以我們猜測$X$之變異數較大.底下來驗證此猜測.

$$\begin{eqnarray*} && \mbox{Var}(X) = \sum_x (x-3,\!750)^2 f_X(x)\\ && \hspace*{... ...50)^2\\ && \hspace*{1.35cm} = 4,\!687,\!500\raisebox{-1.2mm}{.} \end{eqnarray*}$$

由於 $\mbox{Var}(X)>\mbox{Var}(Y)$, 表示投資$A$之變異較大. 若喜愛冒險者, 說不定會採投資$A$, 有時會有較高獲利.個性保守者, 可能會採投資$B$, 穩紮穩打.

例6.10 某項食品是以機械填裝, 每包標示16公斤.若容量不足, 顧客可能會抱怨, 若容量過多, 公司也有損失.令$X$表每包之容量, 假設$X$有p.d.f.

$$\begin{eqnarray*} f(x)=2.5, \ 15.8\leq x\leq 16.2, \end{eqnarray*}$$

即$X$有 $\mathcal{U}[15.8,16.2]$分佈.則

$$\begin{eqnarray*} E(X)=\left.\int_{-\infty}^{\infty} xf(x)dx=\int_{15.8}^{16.2} 2.5x dx=1.25x^2\right\vert _{15.8}^{16.2}=16.0\raisebox{-1.2mm}{.} \end{eqnarray*}$$

所以平均而言, 機器填裝的容量是正確的.但

$$\begin{eqnarray*} P(X<16)=P(X>16)=\frac 12, \end{eqnarray*}$$

即各有一半的機率容量不足及容量超過.我們來求其變異數.

$$\begin{eqnarray*} \mbox{Var}(X) &=& \int_{-\infty}^{\infty} (x-16)^2 f(x) dx \\ ... ...{3}(x-16)^3\right\vert _{15.8}^{16.2}=0.0133\raisebox{-1.2mm}{.} \end{eqnarray*}$$

標準差為 $\sqrt{\mbox{Var}(X)}\doteq 0.115$.

為了降低變異, 公司引進新機器, 新的容量$Y$之p.d.f.為

$$\begin{eqnarray*} g(y)=\left\{ \begin{array}{ll} 25(x-16)+5 & ,15.8\leq x< 16, \... ...(16-x)+5 & ,16\leq x<16.2\raisebox{-1.2mm}{.} \end{array}\right. \end{eqnarray*}$$

則仍有(習題第1題), $E(Y)=16$, 但 $\mbox{Var}(Y)=1/150\doteq 0.00\overline{6}$, 標準差 $\doteq\linebreak0.0816$. 變異數下降一半以上, 標準差則下降約$29\%$.

圖6.1給出$X$及$Y$p.d.f.之圖形. 由圖形亦可看出$Y$之變異數較$X$之變異數小: 較多的機率配置在$Y$之期望值的近傍. 但在可能取的值為區間$[15.8,16.2]$, 且期望值為16之隨機變數中, 上述$X$倒並非變異數最大的隨機變數, 此點做了習題第33題便可了解.

我們先給變異數之一些性質.

定理6.3 設$X$為一隨機變數, 則下述二式成立, 其中$a,b$為常數.

    

圖6.1 例6.10中$X$及$Y$p.d.f.之圖形

$$\mbox{Var}(aX+b)=a^2\mbox{Var}(X),$$ (6.9)

$$\mbox{Var}(X)=E(X^2)-(E(X))^2\raisebox{-1.2mm}{.}$$ (6.10)

證明.首先因 $E(aX+b)=aE(X)+b$, 由定義得

$$\begin{eqnarray*} \mbox{Var}(aX+b) &=& E((aX+b-(aE(X)+b))^2)\\ &=& E((aX-aE(X))^2)\\ &=& a^2 E((X-E(X))^2)\\ &=& a^2 \mbox{Var}(X), \end{eqnarray*}$$

其中第三個等號成立, 仍藉助(6.5)式.得證(6.9)式.

其次

$$\begin{eqnarray*} \mbox{Var}(X) &=& E((X-E(X))^2)\\ &=& E(X^2-2XE(X)+(E(X))^2)\\ &=& E(X^2)-2(E(X))^2+(E(X))^2\\ &=& E(X^2)-(E(X))^2, \end{eqnarray*}$$

此處用到(6.6)式($E(X)$及$(E(X))^2$皆為常數).得證(6.10)式.

由於變異數一定不是負的(非負隨機變數$(X-E(X))^2$之期望值必為非負, 見定理6.1之(ii)), 故由(6.10)式得

$$E(X^2)\geq (E(X))^2\raisebox{-1.2mm}{.}$$ (6.11)

又由(6.9)式可看出(取$a=0$)常數的變異數為0. 當然這點由(6.10)式亦可看出.即若存在一常數$b$, 使得$P(X=b)=1$, 則因$E(X^2)=b^2$, $E(X)=b$, 故 $\mbox{Var}(X)=0$. 這當然是合理的.既然是常數(可視為一退化的隨機變數), 就沒有變異, 每次觀測皆得到該常數.反之, 若 $\mbox{Var}(X)=0$, 則存在常數$b$, 使得$P(X=b)=1$.此部分的證明我們留在習題中.

例6.11 投擲一公正的骰子, 令$X$表所得之點數. 試求$X$之變異數及標準差.
解.前面已求出$E(X)=3.5=7/2$.又

$$\begin{eqnarray*} E(X^2)=\sum_{i=1}^{6}\frac 16 \cdot i^2=\frac {91}{6}\raisebox{-1.2mm}{.} \end{eqnarray*}$$

故

$$\begin{eqnarray*} \mbox{Var}(X)&=&E(X^2)-(E(X))^2\\ &=& \frac {91}{6}-\frac {49}{4}=\frac {35}{12}, \end{eqnarray*}$$

且$X$之標準差為 $\sqrt{35/12}\doteq 1.7078$.

例6.12 對一事件$A$, 如例3.5, 令$I_A$表$A$之指示函數, $I_A$為一只取0,1兩個值之隨機變數.且$I_A=1$, 若$A$發生, $I_A=0$, 若$A$不發生.故

$$\begin{eqnarray*} && E(I_A)=1\cdot P(I_A=1)+0\cdot P(I_A=0)=P(A)\raisebox{-1.2mm... ...(I_A))^2\\ && \hspace*{1.4cm}=P(A)-(P(A))^2\raisebox{-1.2mm}{.} \end{eqnarray*}$$

    

例6.13 承例6.2.由於$E(X)=2/3$, 依定義得

$$\begin{eqnarray*} \mbox{Var}(X) &=& E((X-E(X))^2)\\ &=& \int_{0}^{1} (x-\frac 2... ...x^3-\frac 83 x^2+\frac 89 x)dx=\frac {1}{18}\raisebox{-1.2mm}{.} \end{eqnarray*}$$

另外, 因已求出$E(X^2)=1/2$, 利用(6.10)式得

$$\begin{eqnarray*} \mbox{Var}(X)=E(X^2)-(E(X))^2=\frac 12-\frac 49=\frac {1}{18}, \end{eqnarray*}$$

所得相同.

例6.9及6.10中之變異數, 亦皆可以(6.10)式求之, 所得必相同. 我們再給一例.

例6.14 設隨機變數$X$之p.d.f.為

$$\begin{eqnarray*} f(x)=\frac {1}{x\log 2}, 1\leq x\leq 2\raisebox{-1.2mm}{.} \end{eqnarray*}$$

則

$$\begin{eqnarray*} && E(X)=\int_1^2 x\cdot \frac {1}{x\log 2}dx=\frac {1}{\log 2}... ...c {1}{\log 2}\int_1^2 xdx=\frac {3}{2\log 2}\raisebox{-1.2mm}{.} \end{eqnarray*}$$

故

$$\begin{eqnarray*} \mbox{Var}(X) &=& E(X^2)-(E(X))^2\\ &=& \frac {3}{2\log 2}-\frac {1}{(\log 2)^2}\doteq 0.08267\raisebox{-1.2mm}{.} \end{eqnarray*}$$

標準差為 $\sqrt{\mbox{Var}(X)}\doteq 0.2875$.

附帶一提, 因$X$之分佈函數

解$F(x)=1/2$, 得中位數為$\sqrt{2}$.至於眾數則為1.

對一隨機變數, 於給出一次及二次動差(變異數是基於二次動差)後, 對其分佈有了基本的了解.至於若繼續知道更多次的動差, 對其分佈就愈了解.所謂分佈, 顧名思義, 就是一隨機變數的值之散佈情況.由於散佈著, 我們才又想以一些基本的量來描述散佈的情況.這就是動差的功能.

另外, 亦可以一些轉換, 來描述隨機變數的分佈. 我們介紹幾個常見且可以唯一決定隨機變數之分佈的轉換. 設$X$為一隨機變數.

若$X$只取非負整數值, 且$P(X=k)=a_k$, $k=0,1,\cdots$, 我們常考慮其母函數(generating function, 或稱生成函數)

$$g(s)=E(s^{X})=\sum_{k=0}^{\infty} a_k s^k, \vert s\vert\leq 1\raisebox{-1.2mm}{.}$$ (6.12)

可看出$g(1)=1$.又

$$a_k=\frac {1}{k!} \frac {d^k g(s)}{d s^k}, k=0,1,\cdots\raisebox{-1.2mm}{.}$$ (6.13)

若$X$取值在一可數的集合 $\{\lambda_0,\lambda_1,\cdots\}$. 亦可類似地定義其母函數.

若$X$為非負, 則往往考慮其拉普拉斯轉換(Laplace transform)

$$\phi(s)=E(e^{-sX}), s\geq 0\raisebox{-1.2mm}{.}$$ (6.14)

顯然$\phi(0)=1$.若$X$為連續型, 有p.d.f.$f$, 則

$$\phi(s)=\int_{0}^{\infty} e^{-sx} f(x)dx, s\geq 0\raisebox{-1.2mm}{.}$$ (6.15)

若$X$為離散型, 取值在 $\{\lambda_0,\lambda_1,\cdots\}$, 且 $P(X=\lambda_k)=p_k$, 則

$$\phi(s)=\sum_{k=0}^{\infty} p_ke^{-s\lambda_k}, s\geq 0\raisebox{-1.2mm}{.}$$ (6.16)

特徵函數(characteristic function)則是對所有隨機變數均適用, 且必存在:

$$\psi(t)=E(e^{itX}), t\in R, i=\sqrt{-1}\raisebox{-1.2mm}{.}$$ (6.17)

仍有$\psi(0)=1$.

上述這些轉換都具有一以貫之的功能, 能以一扼要的方式, 來包含關於隨機變數$X$分佈之所有資訊.由這些轉換, 也可得到$X$之各次動差.例如, 設$\phi(s)$為$X$之拉普拉斯轉換. 則只要$X$的次動差存在,

$$E(X^n)=(-1)^{n} \left.\frac {d^n \phi(s) }{ds^n}\right\vert _{s=0}=(-1)^{n}\phi^{(n)}(0)\raisebox{-1.2mm}{.}$$ (6.18)

又這些轉換只要存在, 彼此便有一簡單的關係.例如,

$$\phi(s)=g(e^{-s}), s\geq 0,$$ (6.19)

$$g(s)=\phi(-\log s), 0<s<1\raisebox{-1.2mm}{.}$$ (6.20)

最後

$$M(t)=E(e^{tX})$$ (6.21)

稱為$X$之動差母函數(moment generating function). 不過動差母函數不一定存在, 有時只在$t$屬於某一範圍才存在, 但必存在.

動差母函數若存在, 亦可經由微分得到動差:

$$E(X^n)=\left.\frac {d^n M(t)}{dt^n}\right\vert _{t=0}=M^{(n)}(0)\raisebox{-1.2mm}{.}$$ (6.22)

    

例6.15 設隨機變數$X$有 $\mathcal{E}(\lambda)$分佈, $\lambda>0$. $X$之p.d.f.為 $f(x)=\lambda e^{-\lambda x}$, $x>0$. 則$X$之拉普拉斯轉換及動差母函數分別為

$$\begin{eqnarray*} \phi(s)&=& E(e^{-sX})=\int_{0}^{\infty} e^{-sx}f(x)dx=\int_{0}... ...}\\ &=& \frac {\lambda}{\lambda+s}, s\geq 0\raisebox{-1.2mm}{.} \end{eqnarray*}$$

即$s\geq 0$時, $\phi(s)$皆存在, 但$M(t)$在$t\geq \lambda$時則不存在.

因

$$\begin{eqnarray*} && \phi^{'}(s)=-\frac {\lambda}{(\lambda+s)^2},\\ && \phi^{''}(s)=\frac {2\lambda}{(\lambda+s)^3}\raisebox{-1.2mm}{.} \end{eqnarray*}$$

故

$$\begin{eqnarray*} && E(X)=-\phi^{'}(0)=\frac {1}{\lambda},\\ && E(X^2)=\phi^{''}(0)=\frac {2}{\lambda^2}\raisebox{-1.2mm}{.} \end{eqnarray*}$$

由此又得

$$\begin{eqnarray*} \mbox{Var}(X)=E(X^2)-(E(X))^2=\frac {2}{\lambda^2}-(\frac {1}{\lambda})^2=\frac {1}{\lambda^2}\raisebox{-1.2mm}{.} \end{eqnarray*}$$

另外, 若利用$M(t)$亦可得到$E(X)$及$E(X^2)$:

$$\begin{eqnarray*} M^{'}(t)=\frac {\lambda}{(\lambda-t)^2},\quad M^{''}(t)=\frac {2\lambda}{(\lambda-t)^3}\raisebox{-1.2mm}{.} \end{eqnarray*}$$

故

$$\begin{eqnarray*} && E(X)=M^{'}(0)=\frac {1}{\lambda},\\ && E(X^2)=M^{''}(0)=\frac {2}{\lambda^2}\raisebox{-1.2mm}{.} \end{eqnarray*}$$

結果相同.