4.3常態分佈之隨機樣本

常態分佈之隨機樣本

　　由於常態分佈的重要性, 本節我們專門討論關於常態分佈之隨機樣本的一些性質。仍以 $\overline{X}_n, S^2_n$ 分別表樣本平均及樣本變異數。
　　

定理 1.設 $X_1, \cdots , X_n$ 為一組由 $\mathcal{N}(\mu, \sigma^2)$ 分佈所產生之隨機樣本。則 $\overline{X}_n$
與獨立, 且 $\overline{X}_n$ 有 $\mathcal{N}(\mu, \sigma^2/n)$ 分佈, 有 $\chi^2_{n-1}$ 分佈。

　　在上述證明中, 我們主要用到常態分佈的幾個特性: 其一為若隨機變數有 $\mathcal{N}(\mu, \sigma^2)$ 分佈, 則 $(X-\mu)^2/\sigma^2$ 有 $\chi_1^2$ 分佈 (見2.3.6節)。其二為設為二獨立的隨機變數, 且皆有常態分佈,令 , , $a_1b_2-a_2b_1\neq 0$ , 則有二變數常態分佈 (見3.6節之性質(vii))。其三為若有二變數常態分佈, 則與獨立, 若且唯若 $\mbox{Cov}(U,V)=0$ (見3.6節之性質(iv))。

　　關於 $\overline{X}_{n}$ 與獨立之證法仍有不少, 不同的作者提供他們認為易於為初學者所接受的證法。在稍後4.4節我們將介紹另一藉由多變量常態隨機變數的證法。

註 1 附帶一提, 對gamma分佈, $\overline{X}_n$ 與間亦有一特殊關係。即設 $n\geq 3$ , 且 $X_1, \cdots , X_n$ 為一組由非負且非退化的分佈所產生之隨機樣本。則樣本變異係數 $S_n/\overline{X}_n$ 與 $\overline{X}_n$ 獨立, 若且唯若 $X_1, \cdots , X_n$ 之共同分佈為gamma分佈。即 $S_n/\overline{X}_n$ 與 $\overline{X}_n$ 獨立, 為gamma分佈之一特性。

　　常態分佈與卡方分佈關係密切。利用獨立的卡方分佈之和, 仍為卡方分佈, 只是自由度要相加, 可得下述結果。
　　

定理 2.設 $X_1, \cdots , X_n$ 為一組由 $\mathcal{N}(\mu, \sigma^2)$ 分佈所產生之隨機樣本。則

(3.3)

下例為一大樣本下的結果。

例 1. 設有一組由 $\mathcal{N}(\mu, \sigma^2)$ 分佈所產生之樣本數為之隨機樣本, 其樣本變異數以表之。則當較大時, 的分佈近似於 $\mathcal{N}(\sigma, \sigma^2/(2(n-1)))$ 。

　　底下我們介紹在統計分析裡兩個很重要的分佈。首先是英國統計學家高賽特(Gosset, 1876-1937)在二十世紀初期, 以筆名Student最先引進的 $\mbox{\mathversion{bold}{$t$}}$ 分佈。此分佈又稱Student distribution, 或Student's distribution。關於高賽特的一些事蹟, 可參考葉偉文譯(2001)第三章。
　　

定義 1.設為二獨立的隨機變數, 分別有 $\mathcal{N}(0,1)$ 及 $\chi_n^2$ 分佈。令

$\displaystyle T=X/ \sqrt {Y/n},$

(3.8)

則稱有自由度 $\mbox{\mathversion{bold}{$n$}}$ 之 $\mbox{\mathversion{bold}{$t$}}$ 分佈( distribution with degrees of freedom), 以 $\mathcal{T}_n$ 表之。

　　我們求上述之p.d.f.如下。首先之聯合p.d.f.為

$\begin{displaymath}\frac 1{\sqrt {2 \pi}} e^{-x^2/2} \frac 1{\Gamma (n/2) 2^{n/2}} \, y^{n/2 -1} \, e^{-y/2}, x\in R, y >0\raisebox{-1.2mm}{。} \end{displaymath}$

若令, 由

$\begin{displaymath}t=x / \sqrt {y/n}, \quad s=y, \end{displaymath}$

得

$\begin{displaymath}x=t \sqrt s/ \sqrt n, \quad y=s, \end{displaymath}$

且

$\begin{displaymath}J=\left\vert \begin{array}{cc} \sqrt s/ \sqrt n, & t/ (2\sqr... ...y} \right\vert =\frac {\sqrt s}{\sqrt n} \raisebox{-1.2mm}{。}\end{displaymath}$

故得

$\begin{displaymath}f_{T,S} (t,s)=\frac {\sqrt s}{\sqrt n \sqrt {2 \pi}} \, e^{-t... ...} \, s^{n/2 -1} \, e^{-s/2}, t\in R, s >0\raisebox{-1.2mm}{。} \end{displaymath}$

由上式便可求出之邊際p.d.f.:

$\displaystyle f(t)$	$\textstyle =$	$\displaystyle \int^{\infty}_0 f_{T,S} (t,s) ds$	(3.9)
	$\textstyle =$	$\displaystyle \frac 1{\sqrt {n \pi} \Gamma (n/2) 2^{(n+1)/2}} \int^{\infty}_0 s^{(n-1)/2} \, e^{-((1+t^2/n)/2)s} ds$
	$\textstyle =$	$\displaystyle \frac {\Gamma((n+1)/2)}{\sqrt {n \pi} \Gamma (n/2)} (1+t^2/n)^{-(n+1)/2}, t \in R\raisebox{-1.2mm}{。}$

此處用到

$\displaystyle \int^{\infty}_0 s^{(n-1)/2} \, e^{-((1+t^2/n)/2)s} ds$	(3.10)
$\displaystyle = \Gamma((n+1)/2)2^{(n+1)/2} (1+t^2/n)^{-(n+1)/2}\raisebox{-1.2mm}{。}$

這只要藉助gamma分佈之p.d.f.的積分為1便可得證。

　　讀者是否注意到, 在分佈裡, 若自由度, 則得到柯西分佈 $\mathcal{C}(0,1)$ 。
即 $\mathcal{C}(0,1)$ 分佈為分佈之一特例。

　　所有分佈之p.d.f.皆為偶函數, 但分佈之動差母函數並不存在, 它的動差也並非都存在。設有 $\mathcal{T}_n$ 分佈, 則利用瑕積分收斂發散之判別法, 可驗證對整數, 存在, 若且唯若, (即 $0\leq l\leq n-1$ )。注意因可取負值, 故我們不考慮不為整數時的。這是為了避免混淆, 我們不考慮諸如 $(-16)^{1/2}$ , 以及且不為整數時的 $t^{l}$ 。故得的次動差存在。但 $\mathcal{T}_1$ 分佈的期望值及 $\mathcal{T}_2$ 分佈的變異數皆不存在。又

$\displaystyle E(T)=0, n \geq 2,$	(3.11)
$\displaystyle \mbox{Var} (T) = \frac n{n-2}, n \geq 3\raisebox{-1.2mm}{。}$	(3.12)

　　上二式可經由之p.d.f.直接求得。事實上之所有動差(只要存在)皆可如下得到。

　　對奇數 $1\leq 2r-1\leq n-1$ , 因之p.d.f.為偶函數, 故

$\displaystyle E(T^{2r-1})=0\raisebox{-1.2mm}{。}$

(3.13)

對偶數 $2\leq 2r\leq n-1$ , 首先利用(3.4)式, 及與獨立, 得

$\displaystyle E(T^{2r})=E(X^{2r})E(Y^{-r})n^r\raisebox{-1.2mm}{。}$

(3.14)

又由第二章(3.27)式及(3.14)式, 得

將上二式代入(3.14)式, 得

$\displaystyle E(T^{2r})=\frac {\prod_{i=1}^r (2i-1)\cdot (n/2)^r\cdot \Gamma(n/2-r)}{\Gamma(n/2)}\raisebox{-1.2mm}{。}$

(3.15)

上式又可改寫為

$\displaystyle E(T^{2r})=\frac {\Gamma(r+1/2)\Gamma(n/2-r)n^r}{\Gamma(1/2)\Gamma(n/2)}\raisebox{-1.2mm}{。}$

(3.16)

例 2. 設 $X_1, \cdots , X_n$ 為一組由 $\mathcal{N}(\mu, \sigma^2)$ 分佈所產生之隨機樣本。則
$(\overline{X}_n-\mu)/(S_n / \sqrt n)$ 有 $\mathcal{T}_{n-1}$ 分佈。

　　當 $X_1, \cdots , X_n$ 為一組由 $\mathcal{N}(\mu, \sigma^2)$ 分佈所產生之隨機樣本, 我們知道

$\begin{displaymath}\frac {\overline{X}_n - \mu}{\sigma / \sqrt n} \end{displaymath}$

有 $\mathcal{N}(0,1)$ 分佈。若 $\sigma$ 已知, $\mu$ 未知, 則若觀測到 $X_1, \cdots , X_n$ , 便有 $\overline{X}_n$ 之值,
如此可對 $\mu$ 做一些推論。但若 $\sigma$ 也未知 (這是很可能的), 例 2告訴我們, 由於

的分佈知道, 因此可以此為基礎 (注意: 若 $X_1, \cdots , X_n$ 知道, 則也就可求出), 對 $\mu$ 做一些推論。也就是以取代 $\sigma$ ( 在例2.14我們曾指出 ), 而分佈也由 $\mathcal{N}(0,1)$ 換成 $\mathcal{T}_{n-1}$ 。此結果在第八章及第九章等會屢屢用到。

　　靈敏的讀者是否已猜出, 當很大時, $\mathcal{T}_{n-1}$ 分佈( $\mathcal{T}_n$ 分佈也一樣)應接近 $\mathcal{N}(0,1)$ 分佈。這是對的。即

(3.17)

例2.14已指出這點。事實上由(3.8)式, 因 (見(2.15)式), 因此 , 最後利用定理2.3(iv), 即得

　　利用上述結果, 當較大時, 可以 $\mathcal{N}(0,1)$ 分佈當做 $\mathcal{T}_n$ 分佈之近似。對
$\forall 0<p<1$ , 令及 $t_{p,n}$ 分別表 $\mathcal{N}(0,1)$ 分佈及 $\mathcal{T}_n$ 分佈之分位數( $P(\mathcal{T}_n\leq t_{p,n})=p$ )。即很大時

$\displaystyle t_{p,n}\doteq z_p\raisebox{-1.2mm}{。}$

(3.18)

以為例。由附表4及6得 $t_{0.60,30}\doteq 0.256$ , $t_{0.70,30}\doteq 0.530$ , $t_{0.80,30}\doteq 0.854$ , $t_{0.85,30}\doteq 1.055$ , $t_{0.90,30}\doteq 1.310$ , $t_{0.95,30}\doteq 1.697$ , 而 $z_{0.60}\doteq 0.2533$ , $z_{0.70}\doteq 0.5244$ , $z_{0.80}\doteq 0.8418$ , $z_{0.85}\doteq 1.0365$ , $z_{0.90}\doteq 1.2814$ , $z_{0.95}\doteq 1.645$ 。上述數據顯示 $t_{p,30}$ 與算是很接近。圖3.1給出 $\mathcal{T}_{1}$ , $\mathcal{T}_2$ , $\mathcal{T}_5$ 及 $\mathcal{N}(0,1)$ 分佈p.d.f.之圖形。

圖3.1 1,2,3,4分別對應 $\mathcal{T}_{1}$ , $\mathcal{T}_2$ , $\mathcal{T}_5$ 及 $\mathcal{N}(0,1)$ 分佈p.d.f.之圖形

　　其次我們介紹分佈。分佈是為了紀念著名的統計學家費雪 (R.A. Fisher, 1890-1962, 現代統計學的創始者之一)而得名 (F為Fisher的第一個字母)。是為了求二變異數的比值產生。

定義 2.設為二獨立的隨機變數, 分別有 $\chi^2_n$ 及 $\chi^2_m$ 分佈。令

$\displaystyle F=\frac {U/n}{V/m},$

(3.19)

則稱有自由度 $\mbox{\mathversion{bold}{$n$}}$ 及 $\mbox{\mathversion{bold}{$m$}}$ 之 $\mbox{\mathversion{bold}{$F$}}$ 分佈( distribution with and degrees of freedom), 此分佈以 $\mathcal{F}_{n,m}$ 表之。

　　利用變數代換, 可得之 p.d.f.為

$\displaystyle g(x)=\frac {(n/m)^{n/2} x^{(n-2)/2}}{B(n/2, m/2)(1+(n/m)x)^{(n+m)/2}}, x>0,$

(3.20)

其中 $B(\cdot, \cdot)$ 為beta函數(定義見第二章(3.33)式)。又

(3.21)

其中並不須為整數。由此即得

$\displaystyle E(F)$	$\textstyle =$	$\displaystyle \frac m{m-2}, m \geq 3,$	(3.22)
$\displaystyle \mbox{Var}(F)$	$\textstyle =$		(3.23)

(3.21)式之獲得, 只要注意在定義 2中, 與獨立, 因此

$\begin{displaymath}E(F^r)=(\frac mn)^r E(U^r)E(V^{-r}), \end{displaymath}$

便可得證。當有 $\mathcal{F}_{n,m}$ 分佈, 亦有分佈, 只是二參數交換。又經過簡單的變換, 分佈可轉換為beta分佈。

　　底下給幾個分佈p.d.f.之圖形。

圖3.2 　1,2,3,4,5,6分別對應 $\mathcal{F}_{1,6}$ , $\mathcal{F}_{2,4}$ , $\mathcal{F}_{4,4}$ , $\mathcal{F}_{6,10}$ , $\mathcal{F}_{16,24}$ , $\mathcal{F}_{30,32}$ 分佈p.d.f.之圖形

例 3. 設 $X_1, \cdots , X_n$ 為一組由 $\mathcal{N}(\mu, \sigma^2)$ 分佈所產生之隨機樣本。由定理 1,

$\begin{eqnarray*} (\frac {\overline{X}_n-\mu}{\sigma/\sqrt{n}})^2\sim \chi_{1}^2,\quad \frac {(n-1)S_n^2}{\sigma^2}\sim \chi_{n-1}^2, \end{eqnarray*}$

且二者獨立, 故由定義 2,

與例 2比較, 即得 $\mathcal{T}_n^2=\mathcal{F}_{1,n}$ , $n\geq 1$ 。故 $\mathcal{T}_n^2$ 分佈為一特別的分佈。

例 4. 設 $X_1, \cdots , X_n$ 為一組由 $\mathcal{N}(\mu_X,\sigma_X^2)$ 分佈所產生之隨機樣本, $Y_1, \cdots \linebreak ,Y_m$ 為一組由 $\mathcal{N}(\mu_Y,\sigma_Y^2)$ 分佈所產生之隨機樣本。兩組樣本假設相互獨立。設以分別表 $\{X_i \}$ 及 $\{Y_i\}$ 之樣本變異數。則

　　另外, 若 $m \rightarrow \infty$ , 則仍由例 2.5,

故由定理 2.3,

此亦顯示

(3.24)

　　上述結果由分佈之定義亦可看出: 由

$\begin{eqnarray*} F=\frac {U/n}{V/m}, \end{eqnarray*}$

$U\sim \chi_n^2$ , $V\sim \chi_{m}^2$ , 得(見(2.15)式)

再由定理2.3(iv), 即得(3.24)式。同理可得

(3.25)

現令 $f_{p,n,m}$ 滿足 $P(\mathcal{F}_{n,m}\leq f_{p,n,m})=p$ , $f_{p,n,m}$ 即為 $\mathcal{F}_{n,m}$ 分佈之第分位數。則(3.24)及(3.25)式分別導致對,

	(3.26)
	(3.27)

其中如前 $\chi_{p,n}^2$ 為 $\chi_{n}^2$ 分佈之第分位數。例如, 由附表7, 得對 $n=1,\cdots,5$ , $f_{0.9,n,60}$ 分別約為。又由附表5, 得對 $n=1,\cdots,5$ ,
$\chi^2_{0.9, n}$ 分別約為 , 因此 $\chi_{0.9,n}^2/n$ 分別約為 $2.71, 2.305,\linebreak 2.083, 1.945, 1.848$ 。與對應的 $f_{0.9,n,60}$ 相比, 誤差並不太大。

　　要注意的是, 附表7並非如表面上看起來那麼不完整, 雖然只對一些較小的 $\alpha$ , 給出右端機率, 但利用若有 $\mathcal{F}_{n,m}$ 分佈, 則有 $\mathcal{F}_{m,n}$ 分佈, 有些左端機率亦可得到。例如, 因

$\begin{eqnarray*} P(\mathcal{F}_{4,6}\geq 4.53)\doteq 0.05, \end{eqnarray*}$

又 $1/4.53\doteq 0.220$ , 故

$\begin{eqnarray*} P(\mathcal{F}_{6,4}\leq 0.220)\doteq 0.05\raisebox{-1.2mm}{。} \end{eqnarray*}$

讀者必須熟悉利用附表來求與卡方分佈、分佈及分佈之機率有關的值。底下給一例。

例 5. 利用附表5-7可求出下述各值。

(i) 設 $X\sim \chi_{15}^2$ , 求之值。

(ii) 設 $X\sim \chi_{23}^2$ , 且 $P(X\leq b)=0.90$ , 求之值。

(iii) 設 $X\sim \chi_{6}^2$ , 求之值。

(iv) 設 $X\sim \mathcal{T}_{13}$ , 求之值。

(v) 設 $X\sim \mathcal{T}_{26}$ , 且 $P(X\leq b)=0.60$ , 求之值。

(vi) 設 $X\sim \mathcal{T}_{23}$ , 且 $P(\vert X\vert\geq b)=0.02$ , 求之值。

(vii) 設 $X\sim \mathcal{F}_{7,12}$ , 求之值。

(viii) 設 $X\sim \mathcal{F}_{20,8}$ ,求之值。

(xi) 設 $X\sim \mathcal{F}_{12,20}$ ,求之值。

　　本節最後給兩個應用的例子。

例 6. 某校學生要求圖書館晚上10時至12時亦開放。圖書館表示若該時段到館人數的平均值, 真的超過30人便開放。經測試開放一個月, 其中有一天是國定假日晚上不開放, 得到29筆該時段到館人數:

$\begin{eqnarray*} && 30, 32, 29, 9, 25, 25, 32, 41, 49, 44, 37, 12, 13, 44, 31,\... ..., 16, 26, 39, 40, 46, 58, 38, 9, 15, 39, 46\raisebox{-1.2mm}{。} \end{eqnarray*}$

如何決定呢?　

例 7. 假設各學生之成績相互獨立, 且在每班中學生之成績有相同的常態分佈, 但在不同班之參數可能不同。則兩班學生(分別有31及36位學生)成績之變異是否相同。　

進一步閱讀資料：黃文璋 (2003) . 常態分佈之隨機樣本。數理統計講義第四章。國立高雄大學應用數學系。