機率

觀念摘要

基礎

以下的例子假設我們作如下的實驗: 同時擲兩顆大小不同的六面骰子, 記錄大小骰子出現的點數.

  1. outcome: 作實驗所得到的 一種 結果. 例: 大骰子得 3, 小骰子得 2.
  2. sample space (樣本空間): 所有 可能產生的結果所成的集合. 例: 上述實驗的 sample space 有 36 個元素.
  3. event (事件): 樣本空間的一個子集合. 例: 「兩骰子和為偶數」是一個事件, 裡面包含 18 種 outcomes; 「兩骰子和為 2」也是一個事件, 裡面包含 1 種 outcomes
  4. mutual exclusive/disjoint/互斥: 不可能同時發生的兩件事件, 亦即兩個 events 沒有交集. 例: 事件「兩骰子和為奇數」與事件「兩骰子的值相同」就是一對互斥事件.
  5. The principle of inclusion-exclusion (排容原理): P(A 聯 B) = P(A) + P(B) - P(A 交 B) 當然如果 A 與 B 互斥, P(A 交 B) = 0 公式就簡化了.

分析要領

如何分析排列組合問題? 不要背公式, 不要試圖將問題歸類。 畫 tree diagram 才是重點! 如何畫 tree diagram? 以下步驟非常有用:

  1. 被問到 "... 有多少種方式 ...", 先試著 舉一兩個符合條件的例子
  2. 分解動作: 你在寫這個例子的過程當中, 有好幾步是 "隨便亂做的決定"。 請將你一路上所做的決定, 變成一個個的問題, 按順序寫下來。
  3. 分解動作的每一步, 對應到 tree diagram 的每一層。
  4. 畫 tree diagram, 數 leaves 數。

例一: 一付撲克牌, 取出五張, 請問取得 full house (三張同數字; 另兩張同數字) 的狀況有多少種?

請自問: 如何產生一個例子? 可以分解動作如下

  1. 三張相同的牌, 數字是多少?
  2. 三張相同的牌, 取的是那幾個花色?
  3. 兩張相同的牌, 數字是多少?
  4. 兩張相同的牌, 取的是那幾個花色?

以上每步, 分別各自產生 13,4,12,6 個分支...

條件機率

  1. 已知事件 B 發生, 問 A 發生的機率有多大? P(A|B) = P(A 交 B)/P(B) 稱為 conditional probability of A given B 例: 令 A 表示「大骰子的值小於小骰子的值」, 令 B 表示「兩骰子和為偶數」 則 P(A|B) = (6/36) / (18/36)
  2. P(A 交 B) = P(A|B) P(B) = P(B|A) P(A)
  3. 若 A1, A2, ... An 為樣本空間的一個分割 (partition), 則 P(B) = P(B|A1)P(A1) + P(B|A2)P(A2) + ... P(B|An)P(An)
  4. 若 P(A|B) = P(A) 則稱 A 與 B 為 independent events (獨立事件). 意思就是: 即使知道 B 已發生, 我們還是無法因而斷定 A 發生的可能性變大或變小. (A 發生的機率根本不因為知道 B 已發生而有所改變)
  5. 可推導出: 獨立事件 A 與 B 皆發生的機率為 P(A 交 B) = P(A) * P(B)

(離散的) 隨機變數

  1. 在一個機率實驗中, 若為每個 outcome 貼上一個數字標籤, 就定義出一個 random variable (隨機變數) 通常用我們替一個隨機變數所取的名字為大寫字母; 而用小寫字母來表示 X 出現某個特定數字. 又, 為方便起見, 將 P(X=x) 記為 p(x) 其意義為: 「名字叫做 X 的這個隨機變數, 它出現 x 這個值的機率」
  2. probability mass function: 「x」對應到「隨機變數出現 x 這個值的機率」的函數.
  3. cumulative distribution function: 「x」對應到「隨機變數出現的值不超過 x 這個值的機率」的函數.
  4. 隨機變數 X 的 expected value 期望值: E(X) = sigma x*p(x)
  5. 公式: E(aX+b) = a E(X) + b

練習題

題組 A: 基本觀念

  1. 擲一顆骰子, 將它的點數記為隨機變數 X1。 並定義以下事件:
    • E1: X1 是偶數
    • E2: X1 小於 3
    • E3: X1 是 3 的倍數
  2. 擲骰子三顆, 顏色分別為紅錄藍; 分別記錄其點數為隨機變數 X1,X2,X3 定義以下隨機變數: X4=X1+X2+X3; X5=max(X1,X2,X3); X6=X1+X2; X7=X2-X3; X8=有幾顆骰子出現奇數。 並定義以下事件:
    • E1: X1 是奇數
    • E2: X2 大於 3
    • E3: X4 小於 8
    • E4: X5 大於 4
    • E5: X6 是 3 的倍數
    • E6: X7 是負數
    • E7: X7 是偶數
  3. 從一付撲克牌 (不含鬼牌) 當中抽出一張, 將它的點數記為隨機變數 X1 (A 視為 1, J 11, Q 12, K 13); 它的花色記為隨機變數 X2。 並定義以下事件:
    • E1: X1 小於 5
    • E2: X1 是 4 的倍數
    • E3: X2 是黑桃或紅心
  4. 從一付撲克牌 (不含鬼牌) 當中抽出五張, 其中 「A 或人頭牌」 的張數記為隨機變數 X1; 紅色牌的張數記為隨機變數 X2; 最小點數記為隨機變數 X3; 黑色牌總張數減紅色牌總張數 (有正有負) 記為隨機變數 X4; 黑色牌總點數與紅色牌總點數之差 (取正值) 記為隨機變數 X5。 並定義以下事件:
    • E1: X1 小於 5
    • E2: X2 是奇數
    • E3: X3 大於 4
    • E4: X4 大於 2
    • E5: X5 大於 20

請針對以上每一實驗, 分別回答下列問題:

  1. 請描述每個隨機變數的 sample space。 各包含多少個 outcomes?
  2. 請用 「列舉元素」 的方式描述每個 event。 (如果太多, 就舉幾個例子) 各包含多少個 outcomes?
  3. 請用 「列舉元素」 的方式描述以下 events: E1 交集 E2, E3 的補集, E2 的補集聯集 E3。 各包含多少個 outcomes?
  4. 請描述每個隨機變數的 p.m.f.
  5. 請計算每個事件的機率。
  6. 已知 E1 確實發生, 請問 E2 發生的機率是多少? 反過來呢?
  7. E1 與 E2 是獨立事件或相依事件? 請舉一對獨立事件, 又舉一對相依事件, 並分別說明為何是獨立, 或為何是相依。
  8. 求 E(X1), E(X2), ...
  9. 求 V(X1), V(X2), ...
  10. 求 sigma(X1), sigma(X2), ...