1.1機率空間

機率空間

一隨機試驗(random experiment), 其所有可能的結果(outcome)之集合, 稱為樣本空間(sample space), 通常以希臘字母 $\Omega$ 表之。機率空間中的一個元素, 便稱為一個樣本, 通常以 $\Omega$ 的小寫 $\omega$ 表之。

依照樣本空間元素的個數, 可將其分為可數的(countable)及不可數的(uncountable)兩類。樣本空間為一集合, 任一非空的集合, 皆可視為一樣本空間。樣本空間中的每一元素稱為一樣本點(sample point)。

樣本空間決定了, 便可以考慮事件(event)。所謂事件就是試驗之一些可能的結果之集合。亦即樣本空間 $\Omega$ 的任一子集合皆為事件。空集合 $\emptyset$ 以及 $\Omega$ 本身, 皆為事件。

　

對二集合, $A\subset B$ 讀做包含於, 即若 $x\in A$ , 則 $x\in B$ 。即

$\begin{eqnarray*} \mbox{\lq\lq}A\subset B\mbox{\rq\rq} \Leftrightarrow \mbox{\lq\lq}x\in A\Rightarrow x\in B\mbox{\rq\rq}\raisebox{-1.2mm}{.} \end{eqnarray*}$

再定義聯集(union)、交集(intersection)、餘集(complement)及差集
(difference)如下:

$\begin{eqnarray*} && A\cup B=\{ x\vert x\in A \mbox{或} x\in B \}, \\ && A\cap ... ... \},\\ && A\setminus B=\{x\vert x\in A \mbox{且} x\not\in B \}, \end{eqnarray*}$

其中`` $\not\in$ '' 表不屬於。可看出

$\begin{eqnarray*} A^c=\Omega\setminus A,\quad A\setminus B=A\cap B^c\raisebox{-1.2mm}{.} \end{eqnarray*}$

例 1. 投擲一骰子一次, 則 $\Omega=\{1,2,3,4,5,6\}$ 。令事件表得到偶數之事件, 表得到點數不超過3之事件, 表得到奇數之事件。則，，的樣本空間為何？與和的聯集與交集各為何？

　

   定理 1. 設為定義於某樣本空間的三事件。則下述各性質成立:
(i) 交換律     $A\cup B=B\cup A$ ,
$A\cap B=B\cap A$ ;
(ii) 結合律     $A\cup (B\cup C)=(A\cup B)\cup C$ ,
$A\cap (B\cap C)=(A\cap B)\cap C$ ;
(iii) 分配律     $A\cup (B\cap C)=(A\cup B)\cap (A\cup C)$ ,
$A\cap (B\cup C)=(A\cap B)\cup (A\cap C)$ ;
(iv) 棣莫根法則     $(A\cup B)^c=A^c\cap B^c$ ,
$(A\cap B)^c=A^c\cup B^c$ .

再給可數個事件的聯集及交集之運算。設 $A_1,A_2,\cdots$ 為定義於某樣本空間 $\Omega$ 的事件。則

對事件 $A_1,A_2,\linebreak\cdots$ ,

$\begin{eqnarray*} && (\bigcup_{i=1}^{\infty} A_i)^c=\bigcap_{i=1}^{\infty} A_i^c... ...{\infty} A_i)^c=\bigcup_{i=1}^{\infty} A_i^c\raisebox{-1.2mm}{.} \end{eqnarray*}$

例 2. 設 $\Omega=(0,1]$ , 。則

$\begin{eqnarray*} && \bigcup_{i=1}^{\infty} A_i=\bigcup_{i=1}^{\infty}[\frac 1i... ...i=\bigcap_{i=1}^{\infty} [\frac 1i,1]=\{ 1\}\raisebox{-1.2mm}{.} \end{eqnarray*}$

　

       兩個事件, 若滿足 $A\cap B=\emptyset$ , 便稱為互斥(disjoint, 又稱mutually exclusive);
      事件 $A_1,A_2,\cdots$ (有限個亦可), 若滿足 $A_i\cap A_j=\emptyset$ , $\forall i\neq j$ , 便稱為每對互斥(pairwise disjoint)。
      若 $A_1,A_2,\cdots$ (有限個亦可)為每對互斥, 且 $\bigcup_{i=1}^{\infty} A_i=\Omega$ , 則 $A_1,A_2,\cdots$ 便形成 $\Omega$ 之一分割(partition)。

例 3.取 $\Omega=(0,1]$ , , $i\geq 1$ . 則可看出, $i\geq 1$ , 為每對互斥, 且 $\bigcup_{i=1}^{\infty} A_i=\Omega$ .故, $i\geq 1$ , 形成 $\Omega$ 之一分割。

假設有一樣本空間 $\Omega$ , 對每一事件, 稱做之機率, 並以表之。

定義 1. $\Omega$ 之一些(至少一個)子集合, 所形成的集合 $\mathcal{F}$ , 若滿足下述條件, 便稱為一 $\sigma$ -體( $\sigma$ -field, 又稱 $\sigma$ -algebra, 或 Borel field):
(i) 若 $A\in \mathcal{F}$ , 則 $A^c\in \mathcal{F}$ ;
(ii) 若 $A_i\in \mathcal{F}$ , $i=1,2,\cdots$ , 則 $\bigcup_{i=1}^{\infty} A_i\in \mathcal{F}$ .

由定義 1立即得到 $\emptyset$ 及 $\Omega$ 皆屬於 $\mathcal{F}$ 。又若條件(i)及(ii)成立, 由棣莫根法則知, 若 $A_i\in \mathcal{F}$ , $i=1,2,\cdots$ , 導致 $\bigcap_{i=1}^{\infty} A_i\in \mathcal{F}$ 。另外, 若 $A_1,\cdots,A_n\in \mathcal{F}$ , 則有 $\bigcup_{i=1}^n A_i\in \mathcal{F}$ , 此因只要將 $A_{n+1}, A_{n+2}, \cdots$ 皆取為 $\Omega$ 即可。對可數個事件成立的結果, 導致對有限個事件亦成立, 只要適當地選取 $A_{n+1}$ , $A_{n+2}, \cdots$ 。 $\sigma$ -體中的每一元素亦皆為集合。

例 4. 設 $\Omega=\{1,2,3\}$ , 則可產生那些 $\sigma$ -體?

例 5. 設 $\Omega=\{1,2,3,4,5,6\}$ 。

(i)已知一 $\sigma$ -體中有一元素 $\{1,2\}$ , 試寫出最小的這種 $\sigma$ -體。

(ii)試求一包含 $\{1,2\}$ 及 $\{3\}$ 之最小的 $\sigma$ -體。

對一有限集合, 其所形成之任一 $\sigma$ -體, 其元素個數皆為2的次方。

例 6.設 $\Omega=R=(-\infty,\infty)$ , 令 $\mathcal{B}^{1}$ 表包含實數上所有開區間之最小的 $\sigma$ -體。此最小的 $\sigma$ -體 $\mathcal{B}^{1}$ 是如何產生? 只要取所有這種 $\sigma$ -體之交集, 此交集仍為一 $\sigma$ -體, 而當然就是最小的。任一集合 $A\in \mathcal{B}^{1}$ , 稱為一波瑞爾集合(Borel set)。 $\mathcal{B}^{1}$ 亦包含諸如, 及, , 等區間。

　

定義 2. 設 $\Omega$ 為一樣本空間, $\mathcal{F}$ 為 $\Omega$ 之一些子集合所形成之一 $\sigma$ -體。則以 $\mathcal{F}$ 為定義域, 且滿足下述條件的函數, 便稱為一機率函數(probability function):
(i) $\forall A\in \mathcal{F}$ , $P(A)\geq 0$ ;
(ii) $P(\Omega)=1$ ;
(iii) 若 $A_1,A_2,\cdots\in \mathcal{F}$ , 且為每對互斥, 則

$\displaystyle P(\bigcup_{i=1}^{\infty} A_i)=\sum_{i=1}^{\infty} P(A_i)\raisebox{-1.2mm}{.}$

(1.1)

$(\Omega,\mathcal{F},P)$ 便構成一機率空間(probability space)。

若樣本空間 $\Omega$ 為可數的, 且未特別聲明, 則 $\sigma$ -體就是取成 $\Omega$ 之所有子集合所形成之集合。對於不可數的集合, 如實數集合, $\sigma$ -體則取成包含所有開區間(open interval)之最小的 $\sigma$ -體。

例 7. 令 $\Omega=\{ \omega_1,\omega_2,\cdots \}$ 為一可數的集合, 為一定義在 $\Omega$ 上的實函數, 滿足

‧

令 $\mathcal{F}$ 為 $\Omega$ 之所有子集合所形成之集合。再令

$\begin{eqnarray*} P(A)=\sum_{\omega\in A} f(\omega), A\in \mathcal{F}, \end{eqnarray*}$

則 $(\Omega,\mathcal{F},P)$ 即構成一離散型的機率空間。

例 8. 設 $\Omega$ 為實數上之一區間, 為 $\Omega$ 上之一實函數, 滿足

‧

令 $\mathcal{F}$ 為包含 $\Omega$ 上所有開區間之最小的 $\sigma$ -體。再令

‧

則 $(\Omega,\mathcal{F},P)$ 即構成一連續型的機率空間。

定理 2. 設 $(\Omega,\mathcal{F},P)$ 為一機率空間。則

(i) $P(\emptyset)=0$ ;

(ii) $P(A)\leq 1$ , $A\in \mathcal{F}$ ;

(iii) , $A\in \mathcal{F}$ .

　

定理 3. 為一機率函數, 為二事件。則
(i) $P(B\setminus A)=P(B\cap A^c)=P(B)-P(A\cap B)$ ;
(ii) $P(A\cup B)=P(A)+P(B)-P(A\cap B)$ ;
(iii) 若 $A\subset B$ , 則 $P(B\setminus A)=P(B)-P(A)$ , 且 $P(A)\leq P(B)$ .

因 $P(A\cup B)\leq 1$ , 故由上述定理, 即得一關於交集的不等式, 稱做邦弗朗尼不等式(Bonferroni's inequality):

$\displaystyle P(A\cap B)\geq P(A)+P(B)-1\raisebox{-1.2mm}{.}$

(1.2)

當二事件之交集的機率不易求時, 可藉此不等式給出該機率之一下限。

定理 3. 為一機率函數, 為二事件。則

(i) $P(B\setminus A)=P(B\cap A^c)=P(B)-P(A\cap B)$ ;

(ii) $P(A\cup B)=P(A)+P(B)-P(A\cap B)$ ;

(iii) 若 $A\subset B$ , 則 $P(B\setminus A)=P(B)-P(A)$ , 且 $P(A)\leq P(B)$ .

定理 4. 設有一機率空間 $(\Omega,\mathcal{F},P)$ 。

(i) 設事件 $C_1,C_2,\cdots$ 構成 $\Omega$ 之一分割, 則

$\displaystyle P(A)=\sum_{i=1}^{\infty} P(A\cap C_i), A\in \mathcal{F};$

(1.3)

(ii) 對任意事件 $A_1,A_2,\cdots$ ,

$\displaystyle P(\bigcup_{i=1}^{\infty} A_i)\leq \sum_{i=1}^{\infty} P(A_i)\raisebox{-1.2mm}{.}$

(1.4)

(1.4)式即為波爾不等式。

例 9. 在一副52張的撲克牌(poker)之梭哈遊戲中, 在所分到的5張牌, 試分別求拿到四條, 一對與三條, 兩對, 三條, 一對, 同花, 順, 同花順之機率。在此所謂一對, 指拿到兩張一樣點數的牌, 外加三張不同點數的牌, 餘類推。

自一集合中取 $k$ 個相異元素, 所形成的一有序列 $(z_1,z_2,\cdots,z_k)$ , 稱為之一 $k$ 個元素的排列。而之一 $k$ 個相異元素的子集 , 則稱為之一 $k$ 個元素的組合。

若中有個元素, 且 $k\leq n$ , 則之 $k$ 個元素的排列有 $n(n-1)\cdots (n-k+1)$ 種, 之 $k$ 個元素的組合有 $n(n-1)\cdots (n-k+1)/k!$ 種, 其中

$\begin{eqnarray*} && k!=k(k-1)\cdots 3\cdot 2\cdot 1, k\geq 1, \\ && 0!=1\raisebox{-1.2mm}{.} \end{eqnarray*}$

通常採用記號

$\begin{eqnarray*} {n\choose k}=\frac {n!}{k!(n-k)!}=\frac {n(n-1)\cdots (n-k+1)}{k!},n\geq 1, n\geq k\geq 0, \end{eqnarray*}$

稱為二項係數(binomial coefficient)。又對非負整數 $n_1,n_2,\cdots,n_k$ , $k\geq 1$ , 且滿足 $\sum_{j=1}^{k} n_j=n$ ,

$\displaystyle {n\choose {n_1,n_2,\cdots,n_k}}=\frac {n!}{n_1!n_2!\cdots n_k!},$

(1.5)

稱為多項係數(multinomial coefficient)。由(1.5)式得

$\begin{eqnarray*} {n\choose n_1}={n\choose {n_1,n_2}}, n_1+n_2=n, \ n_1,n_2\geq 0\raisebox{-1.2mm}{.} \end{eqnarray*}$

進一步閱讀資料：黃文璋 (2003) . 基本概念。數理統計講義第一章。國立高雄大學應用數學系。