機率與統計的關係 樣本空間及事件 機率基本概念及性質 計數技巧 條件機率、獨立事件及貝氏定理

Presentation on theme: "機率與統計的關係 樣本空間及事件 機率基本概念及性質 計數技巧 條件機率、獨立事件及貝氏定理"— Presentation transcript:

1 機率與統計的關係 樣本空間及事件 機率基本概念及性質 計數技巧 條件機率、獨立事件及貝氏定理
機率 (Probability) 機率與統計的關係 樣本空間及事件 機率基本概念及性質 計數技巧 條件機率、獨立事件及貝氏定理

2 機率與統計的關係 機率是推論統計的理論基礎。使用民意調查做簡單的說明 隨機抽樣的結果背後會有一個架構。
想知道全台灣成年民眾對承認大陸學歷的看法。 訊息可以如何取得？ 藉由抽樣做民意調查，因為母體太大了，不可能問得到每一個人的意見。 一般民調要訪問多少人？ 可以把一千多個人的意見，當作一千多萬人意見的估計，又如何知道估計得好不好呢?關鍵在於抽樣方式。 使用正確的方式抽樣，不僅能得到相當可靠的結果，還能評估誤差大小。所謂正確的抽樣方式，就是指隨機抽樣。 隨機抽樣的結果背後會有一個架構。 如果用相同的隨機抽樣方式重複不斷地抽樣(樣本大小固定)，雖然每次抽樣的結果會有所變化，且事前無法預測，但若把所有可能的結果放在一起考慮，必定會符合某種機率模型；這個模型描述了樣本結果和母體之間的關係，我們就可以據以評估樣本結果的好壞，而且還可以利用機率式子把誤差大小表示出來。 推論統計的根本就是隨機抽樣，其理論基礎就是機率。如果胡亂抽樣，因為不可能找得出樣本和母體之間的關聯，也就無法評估誤差，所做出的結果則和瞎猜沒兩樣。

3 隨機實驗 任何一個不能事先確定結果的過程，我們把它統稱為「試驗」。
隨機實驗(random experiment) 是一種過程(process)，是一種不能確定預知會發生何種結果的實驗方式。在實驗前已知所有可能出現的結果，而實驗後的結果為所有可能的結果之一，但實驗前並未能正確的、肯定的預知它是何種結果。隨機實驗可重複進行，而經過長期重複實驗，出現的結果會遵循某一些統計規則。 一個實驗若具有下列四種特性，就被稱為隨機實驗(random experiment) 。 此實驗之全部可能結果，均可事先預知。 正在執行此實驗時，無法預測將會出現何種結果。 此實驗在相同條件下，可重複執行。 若此實驗重複執行許多次，則會出現一些可預測之統計規則。

4 樣本空間 定義(樣本空間，sample space)
例：擲一顆骰子，骰子丟擲之後出現的點數，必定是1、2、3、4、5、6的其中之一，這些可能點數所構成的集合 S={1,2,3,4,5,6} 例：想知道某企業生產LED燈管的壽命，則 S={t|t0}

5 S1 = {HHH, HHT, HTH, THH, HTT, THT, TTH, TTT}
例3.2-1 連續丟擲一枚硬幣三次，觀察哪一面朝上，寫出樣本空間。 解： 每一次的結果都可能是正面(head)或反面(tail)，如果用H代表正面， T代表反面，則樣本空間為 S1 = {HHH, HHT, HTH, THH, HTT, THT, TTH, TTT} 例3.2-2 連續擲一枚硬幣三次，觀察正面出現的次數，試寫出樣本空間。 解： 將一枚硬幣連擲三次的正面總數，可能是0、1、2或3，所以樣本空間為 S2= {0,1,2,3} 註：如果所擲的是平衡的硬幣，即正、反面機率完全一樣，例3.2-1樣本空間中八個樣本點的發生機率都會相同。

6 事件 定義(事件，event) 樣本空間的任一子集均稱為事件，當試驗結果為該事件當中任一樣本點時，我們稱該事件發生了。
連續擲一枚硬幣三次之後，我們想知道，正面是否至少出現兩次。 A= { HHH,HHT,HTH,THH } ，則明顯可見A是例3.2-1樣本空間S1的子集(也稱部份集合)，這叫做一個事件(event)。

7 事件表達方法 假設我們連續擲一枚硬幣三次，並關心正面是否至少出現兩次這件事，可以用兩種方式表達： 一、描述方式
令A代表「正面至少出現兩次的事件」 二、用集合表示 A = { HHH, HHT, HTH, THH} 試驗結果是HHH, HHT, HTH, THH當中的任意一個，我們就說「事件A發生了」。 若試驗結果落在A集合外面時(例如擲出TTH的結果)，則我們說A沒有發生；但是結果若落在A的外面，就必定落在A的補集裡，所以我們可以做出結論： 『若A沒發生，則A的補集Ac必有發生』

8 補集 定義(補集，complement) A的補集Ac代表「A沒發生」的事件。 註：補集的符號有Ac、A或 。 例3.2-3
擲一顆骰子，觀察朝上一面的點數，則樣本空間 S= {1, 2, 3, 4, 5,6} 令A = {1,2}，即擲出點數小於3的事件。 如果A沒有發生，表示擲出的點數大於或等於3，也就是 Ac= {3, 4, 5, 6}發生了。

9 A∪B代表「A和B至少有一件發生」的事件。
集合表示 「A和B都發生了」代表試驗結果既落在A集合、也落在B集合，所以必定落在A和B的交集(intersection)裡。 A∩B代表「A和B都發生」的事件。 「A和B事件中至少有一件發生」代表試驗結果不是在A就是在B(或同時在A和B)裡，所以必在A和B的聯集(union)裡。 A∪B代表「A和B至少有一件發生」的事件。 當A和B事件中沒有共同元素，即A∩∪B =時，我們稱A和B為互斥(mutually exclusive)事件，此時A和B不可能同時發生。 A∩B =時，稱A和B為互斥事件。 註：互斥的條件不需要透過機率來定義。

10 文氏圖(Vann Diagram)是說明事件關係很有用的工具，矩 形代表全部事件的集合、矩形中的圓圈代表某一事 件的集合(也就是一個子集合)。以下三個圖中深色 部份分別代表交集、聯集、及補集。 兩事件的文氏圖

11 A∪B ={HHH, HHT, HTH, THH, TTT}
例3.2-4 連續擲一枚硬幣三次，令A代表「正面至少出現兩次」的事件，B代表「三次結果都相同」的事件，試寫出「A和B都發生」的事件和「A和B至少有一件發生」的事件。 解： 令H代表正面、T代表反面，則 A = {HHH, HHT, HTH, THH} B = {HHH, TTT} A和B都發生的事件即 A∩B= {HHH} A和B至少有一件發生的事件即 A∪B ={HHH, HHT, HTH, THH, TTT}

12 機率基本概念及性質

13 機率的定義方式 古典機率(classical probability，也稱傳統機率)
相對次數機率(relative frequency probability) 主觀機率(subjective probability，也稱個人機率)

14 古典機率 (classical probability，傳統機率)
假設某一試驗的可能結果有n種，其中每一種發生的機率都相同，若事件A中包含了n種結果中的k個，則事件A的機率等於k除以n，記為 其中符號n(．)中的n代表總數(number)，n(A)就代表事件A中的結果總數。 各種撲克牌和擲骰子遊戲都適用這種機率。 例如，擲一顆骰子時，通常都可假設骰子很均勻，因此出現每種點數的機率都相同，都等於六分之一。

15 例3.3-1 便利商店因週年慶而提供折扣優惠，只要消費滿88元就可參加抽獎，即從紙盒中抽號碼球來決定折扣比例。假設號碼球共有12顆，其中6折和7折的各有1顆、8折2顆、9折3顆、95折5顆，小胖買了100元的東西，試求他頂多只需要付80元的機率。 解： 小胖抽中12顆球當中任一顆的機率都相同，而頂多需要付80元代表必須抽中6折、7折或8折的球，總共有4顆，所以機率等於

16 相對次數機率 (relative frequency probability)
假設在n次試驗當中，事件A發生了k次，則事件A的相對次數機率為 用這種方式定義機率時，應該要試驗很多次才恰當。 例如，上述不夠平衡的骰子，若想要知道各點數出現的機率，應該要將它擲非常多次，所得到的機率才比較準確。當然，所謂「非常多次」也沒有一定的標準，在可能的情況下盡量多擲幾次就對了。

17 主觀機率 (subjective probability，個人機率)
個人主觀認定的機率，就叫做主觀機率。 阿佑根據考試成績、上課出席率，和統計學老師以往的當人比例判斷：經過老師調整分數之後，自己應有一半機率會通過；這完全是主觀認定。 如果去間他的統計學老師，說不定老師認為他八成會當；也就是說，依據老師的主觀機率判斷，他會通過的機率只有兩成。 根據主觀機率的定義，明顯可知這種機率很不可靠；但有時我們需要做判斷，面對的狀況又不適合用第一種或第二種機率描述時，還是會用到主觀機率，這時應盡量多蒐集資訊之後才來決定機率。

18 P(A1∪A2∪…∪Ak) =P(A1)+P(A2)+…+P(Ak)
機率性質 設S為一試驗之樣本空間，則以下性質必成立 1. P(S)=1。 2. 對任一事件A，必有0P(A) l。 3. 若事件A1，A2，…，Ak兩兩之間都互斥，則 P(A1∪A2∪…∪Ak) =P(A1)+P(A2)+…+P(Ak) 有了上述的三項基礎性質，很容易可以導出其他常用性質。 4. P(Ac)=1- P(A)

19 例3.3-2 同時擲兩顆均勻骰子，試求出現點數的和10之機率。 解： 擲兩顆均勻骰子，每一顆都可能出現1到6點，所以樣本空間包括36個可能結果，機率都相同。 令A代表點數和10的事件， 則Ac代表點數和>10的事件。因此Ac ={(5,6),(6,5),(6,6)}，可得

20 5. 對任兩事件A及B，P(A∪B)=P(A)+P(B)-P(A∩B)。
例3.3-4 若箱子中有七個材質及大小相同的球，分別標以1、2、3、4、5、6、7等號碼。今自箱子中取出一球，試求其號碼為偶數或大於4的機率。 解： 令A代表號碼為偶數之事件，B代表號碼大於4之事件，則

21 乘法原理、排列和組合 計數技巧

22 乘法原理(multiplication principle)
假設一事件要分k個階段完成，第一階段有n1種做法，第二階段有n2種做法，…，第k階段有nk種做法，則整件事共有n1．n2．…．nk種方法可以完成。 設有三名男生(甲、乙、丙)及四名女生(A、B、C、D)參加聯誼活動, 某遊戲需男女配對一同進行,  試問共有幾種不同的配對方式? 解： 第一個步驟：先從3名男生中選一名, 共有3種選法， 第二個步驟：由4名女生中選一名, 也有4種選法。 因第一個步驟中每選一名男生，都有4名女生可供選擇, 故共有3×4=12種選法。

23 加法原理 如果完成某件事的方法可區分成k個類別, 而第j(j=1,2, …,k)個類別有mj種方法, 且每個 類別互不相干, 那麼完成這件事的方法共有m1+m2+…+mk 種。 從甲地到乙地有飛機、火車與巴士等三種交通工具可到達，其中飛機每天有3班，火車每天有15班，巴士每天25班，若A先生欲從甲地至乙地，很明顯地，可看出此問題的A先生只能選擇一種交通工具的某個班次，故共有 =43個交通班次可選擇。 

24 階乘(factorial) 一個正整數的階乘是所有小於或等於該數的正整數的積，並且有0的階乘為1。自然數n的階乘寫作n!。1808年，基斯頓·卡曼(Christian Kramp)引進這個表示法。亦即 n!=1×2×3×...×n 0!=1 2!=1×2=2 3!=1×2×3=6 4!=1×2×3×4=24 5!=1×2×3×4×5=120 階乘亦可以遞迴方式定義： 1!=1 n!=(n-1)!×n 1751年，歐拉以大寫字母M表示m階乘 M=1．2．3．...．m 　 1799年，魯非尼在他出版的方程論著 述中，則以小寫字母π表示m階乘，而在 1813年，高斯則以Π(n)來表示n階乘。而 用來表示n階乘的方法起源於英國，但仍未能確定始創人是誰。直至1827年，由於 雅萊特的建議而得到流行，現在有時也會 以這個符號作為階乘符號。 而最先提出階乘符號n!的人是克拉姆 （1808），後來經過歐姆等人的提倡而流 行，直至現在仍然通用。

25 直線排列(permutation) 從n件不同的物品中抽出k件(kn)排成一列，其排列數等於 。 當k=n時，

26 組合(combination) 從n件不同的物品中抽出k件(0kn)的組合數是 組合數符號用 或 皆可。

27 例3.4-1 老師有兩張別人送的偶像團體演唱會門票想轉送給同學，一張在最貴的A區，一張在最便宜的C區。為公平起見，採用抽籤方式決定。若全班共有45位同學，則總共有多少種可能結果？ 解： 假設老師先抽出一人給1區門票，再抽一人給C區門票(或者順序顛倒)，當然掉換順序會使得結果不同，所以是排列問題。可能結果有 如果題目改成兩張票都在同一區，且位置差別不大，這時只要從45人中抽出2人，不需再排列，就變成組合問題了。

28 條件機率 在考慮機率的時候，有時會有相關資訊可供參考。像這樣把已知資訊納入考慮後計算的機率，就叫做條件機率(conditional probability)。 定義(條件機率) 假設A、B為雨事件，P(B)>0，已知事件B發生條件下、事件A發生的機率等於

29 例3.5-1 同時擲兩顆平衡骰子，觀察所出現的點數。試求以下條件機率： (a)已知兩顆骰子點數相同，求點數和小於4的機率。 (b)已知點數和小於4，求兩顆骰子點數相同的機率。 解： 令A代表點數和小於4的事件，B代表兩顆骰子點數相同的事件，則 A ={(1,1),(1,2),(2,1)} B ={(1,1),(2,2),(3,3),(4,4),(5,5),(6,6)} A∩B= {(1,1)} (a) 所求機率為 (b) 所求機率為

30 獨立事件 定義(獨立事件,independent) 當事件A和B符合以下機率條件時，稱A和B為獨立事件 P(A∩B)=P(A)P(B)
如果改寫上面的等式，可得 即P(B|A)= P(B) 兩種方式的差別在於：若要使用P(B|A)= P(B)的定義，因為P(A)出現在P(B|A)的分母，所以必須限制P(A)> 0，而使用P(A∩B)=P(A)P(B)當作定義則不必加任何限制。

31 獨立事件的定義 以下任一條件成立時事件A和B為互相獨立 1. P(A∩B)=P(A)P(B)
2. P(B|A)=P(B),P(A)>0 3. P(A|B)=P(A),P(B)>0

32 例3.5-4 擲一顆均勻骰子兩次，令A代表點數和為偶數的事件、B代表兩個點數相等的事件，試判斷事件A和B是否獨立。 解： 方法一： 若同為奇數，表示第一次擲出1、3或5點，第二次也是，共有3×3=9種可能；同為偶數也是有9種可能，因此 兩個點數相等共有6種可能，所以 A B代表點數和為偶數且兩個點數相等的事件，所以 事件A和B並不獨立。

33 乘法規則 P(A∩B)= P(A)P(B|A)，P(A)>0 P(A∩B)= P(B)P(A|B)，P(B)>0

34 例3.5-5 假設一容器中裝著3白球、2紅球。現在從容器中依序取出2球(第一球取出後不放回)，試求取出的第一球為白球、第二球為紅球的機率。 解： 令A代表第一次取出白球的事件，B代表第二次取出紅球的事件，則所求機率為

35 P(A∩B∩C)=P(A)P(B|A)P(C| A∩B)，P(A∩B)>0

36 例3.5-6 考慮例3.5-5的相同問題。容器中裝著3白球、2紅球，只是現在要依序取出3球，每一階段取出的球都不放回，求取出的第一球為白球、第二球及第三球均為紅球的機率。 解： 令A代表第一次取出白球的事件，B代表第二次取出紅球的事件，C代表第三次取出紅球的事件，則所求機率為

37 分割 定義(樣本空間S的分割,partition)
如果事件A1、A2、…、Ak雨兩均互斥，且A1∪A2∪…∪Ak=S，則稱{A1、A2、…、Ak}為樣本空間S的一組分割。

38 全機率法則(total probability rule)
某事件的邊際機率若無法直接獲得，經常可透過全機率法則(運用條件機率與另一特質的所有事件的機率)來獲得。首先我們必須要有一組完全且互斥的事件，以 表示這組事件，註:完全指的是在A1,A2, …,Ak完全切割母群體，即構成所有可能發生情況，P(A1)+P(A2)+…+P(Ak)=1；互斥則指其間兩兩事件的交集為0，即P(Ai∩Aj)=0 。則根據全機率法則 P(B)=P(B∩A1)+P(B∩A2)+…+P(B∩Ak) =P(B|A1)P(A1)+P(B|A2)P(A2)+…+P(B|Ak)P(Ak)

39 貝氏定理 定理(貝氏定理(Bayes’ Theorem))
假設{A1、A2、…、Ak}為樣本空間S的一組分割，P(Ai)>0，i=1,2, …,k，且B為任一事件，P(B)>0，則在已知事件B發生的條件下，事件A發生的機率為