1、,統計學: 應用與進階 第2 章: 機率模型,導論: 可能性的評估 集合理論 機率模型 條件機率 獨立事件 貝氏定理 Monty Hall 悖論,可能性的評估,Linda 今年31 歲, 單身, 個性率直且聰穎。她在大學時主修哲學。當她在學時, 她十分熱衷於性別歧視與社會正義等議題。此外, 她也參與了反核四的示威運動。根據以上的資料, 請對以下八種對於Linda 的描述, 根據其可能性大小(機率大小) 排列。“1” 代表可能性最大, “2” 則為其次, 依此類推, “8” 代表最不可能。,A. Linda 是一個小學老師B. Linda 在書店工作且在下班後參與瑜珈的課程C. Linda 熱衷
2、於參與女性主義運動D. Linda 是一個為人精神治療的社工E. Linda 是一個銀行行員F. Linda 是哲學學會的會員G. Linda 是一個保險業務代表H. Linda 是一個熱衷於女性主義運動的銀行行員,你的答案是.,你是否讓H 選項的可能性高於E 選項?答案若為否, 恭喜你, 你的機率概念還算不錯答案若為是, 代表你的機率概念有待加強不必太沮喪, 根據心理學家Daniel Kahneman與Amos Tversky 的研究, 在88 個受試者中,有78 個給了錯誤的答案我們等一下再來分析本測驗,集合理論,集合: 一堆元素的組合舉例來說, 集合A = 黃,綠,紅子集合: 如果集合B
3、 中所有元素也存在於集合A 中, 集合B 為集合A 的一個子集合ex: B = 黃,綠Notation: B A or A BA = B if A B and B A,集合論vs. 機率模型,在機率模型中, 集合理論用來描繪可能的隨機出象狀態空間 就是一個包含所有可能出象的集合所有可能出象就是狀態空間的元素狀態空間的子集合就稱作一個事件,例子: 擲一個六面的骰子,狀態空間 = 1, 2, 3, 4, 5, 6狀態空間也稱樣本空間狀態空間的子集合, 譬如說:F = 1, 2, 3 就是一個點數小於等於三的事件, E = 2, 4, 6 就是一個出現偶數點數的事件,O = 1, 3, 5 就是一個
4、出現奇數點數的事件,概念整理,表: 機率模型中的集合理論概念,集合基本運算,擲一個六面的骰子 = 1, 2, 3, 4, 5, 6, F = 1, 2, 3, E = 2, 4, 6, O = 1, 3, 5.,Complementary Events,Complement of Event AThe event that A does not occurAll events not in A: ACP(A) + P(AC) = 1,其他重要的概念,范氏圖(Venn Diagram)空集合: 不含任何元素的集合 (Not )互斥/不相交: A B = 集合分割: 若Ai Aj = for i
5、j (互斥)A1 A2 An = 則A1, A2, . . . , An 稱為 的分割,例子,給定狀態空間 = 1, 2, 3, 4, 5, 6, 並考慮以下不同的子集合A1, A2 與A3.檢查A1, A2 與A3 是否形成的分割A1 = 1, 2, A2 = 5, A3 = 4, 6A1 = 1, 2, A2 = 3, 4, A3 = 2, 5, 6A1 = 1, 2, A2 = 3, 6, A3 = 4, 5,其他重要集合運算,互補性質(A)c = A, c = S, Sc = 交換律A B = B A, A B = B A結合律 (A B) C = A (B C), (A B) C =
6、 A (B C),其他重要集合運算,De Morgan 法則:分配律:,其他重要性質,1 2 3,機率模型,機率測度P 稱為狀態空間 的一個機率測度, 如果對於中的任一事件A, 機率測度P 滿足以下條件: (a) P() = 1, (b) P(A) 0 A , (c) P(A B) = P(A) + P(B), 其中A, B 為 互斥事件, 我們將以上的( , P) 稱之為一個機率模型,其他性質,根據以上機率模型的三個公理, 我們可以推導出以下的性質:P(A) + P( ) = 1,若A B 則P(A) P(B),P(A B) = P(A) + P(B) P(A B).,例子: 擲一個六面的骰
7、子 = 1, 2, 3, 4, 5, 6,假設每一個點數出現的機率均相等: P(1) = P(2) = = P(6) = 1/6,我們可以計算諸如出現1 點或2 點的機率: P(1 2) = P(1) + P(2) = 1/6 + 1/6 = 1/3。出現點數小於等於2 點或是大於等於4 點的機率: P( 2 4) = P( 2) + P( 4) = P(1 2) + P(4 5 6) = P(1) + P(2) + P(4) + P(5) + P(6) = 1/6 + 1/6 + 1/6 + 1/6 + 1/6 = 5/6,可能性的評估,讓我們回到導論中的小測驗, 現在的你知道自己錯在哪裡了
8、嗎? 令C =Linda 熱衷於參與女性主義運 動, E =Linda 是一個銀行行員, 顯而易見地, H = C E。由於H = C E E, 根據機率模型的 性質, P(H) P(E), 亦即Linda 是一個銀行行員的機率, 一定大於 Linda 是一個熱衷於女性主義運動的銀行行員之機率。,條件機率,對於機率的衡量可能會因新資訊的出現而改變已知事件B 發生的狀況下, 事件A 發生的條件 機率, 我們以P(A|B) 表示之例: 已知骰子出現的點數為奇數點, 則出現點數為5 的機率將因該資訊(條件) 而改變 P(1|Odd) = P(1|1, 3, 5) = 1/3,條件機率之定義,已知事件
9、B 發生的狀況下, 事件A 發生的條件機率 P(|) 定義為 亦可寫作,條件機率符合以下性質,P(B|B) = 1若C,D B 且P(D) 0, 則,Multiplicative Rule,1.Used to get compound probabilities for intersection of events Called joint events2.P(A and B) = P(AB)= P(A)*P(B|A) = P(B)*P(A|B)3. For Independent Events:P(A and B) = P(AB) = P(A)*P(B),Multiplicative Rul
10、e Example,Experiment: Draw 1 Card. Note Kind, Color & Suit.,Color,Type,Red,Black,Total,Ace,2,2,4,Non-Ace,24,24,48,Total,26,26,52,P(Ace Black) = P(Ace)P(Black | Ace),Thinking Challenge,P(C B) =P(B D) =P(A B) =,Using the multiplicative rule, whats the probability?,Solution*,Using the multiplicative ru
11、le, the probabilities are:,P(C,B),=,P(C),P(B|,C) = 5/10 * 1/5 = 1/10,P(B,D),=,P(B),P(D|,B) = 4/10 * 3/4 = 3/10,P(A,B),=,P(A),P(B|,A),0,=,獨立事件,給定A, B , 我們稱事件A 與事件B 相互獨立, 如果以下條件成立 因此, 若事件A 與事件B 相互獨立, 則,更多有關獨立的性質,假設A, B 相互獨立, P(A|B) = P(A)假設A, B 相互獨立, 則A 與 相互獨立,獨立與互斥,互斥: A B = P(A B) = 0獨立: P(A B) = P(
12、A)P(B)當P(A) 0 且P(B) 0,當兩事件互斥時, 兩事件必不獨立兩事件獨立時, 兩事件必不互斥舉例來說, 令A =Yankee 贏球; B =Red Sox 贏球Yankee 對上Red Sox A, B 互斥, 但A, B 不獨立Yankee 對上White Sox 而Red Sox 對上Giant A, B 獨立, 但A, B不互斥,一般化的獨立概念,事件A1, A2, . . . , An 為獨立, 如果對於所有 I 1, 2, . . . , n 而言, 亦即, 對於所有1, 2, . . . , n 的子集合, 以上條件都 要成立。,兩兩獨立,事件A1, A2, . .
13、. , An 為兩兩獨立, 如果對於任一對Ai 與 Aj , i j 而言, P(Ai Aj ) = P(Ai )P(Aj ).,例子,三事件A1, A2 與A3 為獨立, 須符合以下條件 P(A1 A2) = P(A1)P(A2) P(A1 A3) = P(A1)P(A3) P(A2 A3) = P(A2)P(A3)P(A1 A2 A3) = P(A1)P(A2)P(A3)如果只有條件1 到3 符合, 但是條件4 不符合, 則稱 三事件A1, A2 與A3 為兩兩獨立,貝氏定理,由條件機率定義可以衍伸出的兩個重要概念:總機率法則貝氏定理,令A1, A2, . . . , An 為狀態空間 的
14、一個集合分割(partition), 且存在事件T 為一機率不為零 之事件: P(T) 0。假設我們已知P(A1), P(A2), . . . , P(An) (事前機率)P(T|A1), P(T|A2), . . . , P(T|An) (樣本機率),總機率法則,P(Aj ): 事前機率P(T|Aj ): 樣本機率,總機率法則,貝氏法則,其中, P(Ai |T) 稱作事後機率統計,例子,考試並非學生用功程度的完美衡量。假設統計期中考具有以下性質: 如果學生用功念書, 有90% 的機率能夠得到高分。然而, 如果學生很混, 有95% 的機率會不及格。此外, 我們知道實際上只有0.1% 的學生是不
15、用功的。請問, 如果吳阿帥在這次考試中不及格,請問他實際上不用功的機率為何?,Bayess Rule Example,A company manufactures mp3 players at two factories. Factory I produces 60% of the mp3 players and Factory II produces 40%. Two percent of the mp3 players produced at Factory I are defective, while 1% of Factory IIs are defective. An mp3 pla
16、yer is selected at random and found to be defective. What is the probability it came from Factory I?,Bayess Rule Example,Factory II,Factory I,P(I) = .6,P(D|I) = .02,P(G|I) = .98,P(II) = .4,P(D|II) = .01,P(G|II) = .99,Defective,Defective,Good,Good,Bayess Rule Ex,Bowl B1 contains two red and four whit
17、e chips; bowl B2 contains one red and two white chips; and bowl B3 contains five red and four white chips. The probabilities for selecting the bowls are P(B1)=1/3, P(B2)=1/6, P(B3)=1/2. What is the probability of event R, drawing a red chip?,Bayess Rule Example,Bayess Rule Ex,A Pap smear is a screen
18、ing procedure used to detect cervical cancer. For women with this cancer, there are about 16% false negatives; for women without cancer, there are about 19% false positives. In the United States, there are about 8 women in 100,000 who have this cancer. What is the number of cases of true cervical ca
19、ncers for every million positive Pap smears?,Bayess Rule Example,Monty Halls Paradox,Introduction to the Monty Halls ParadoxBayesian viewSimulation results promote the “switch” strategy.but why? (a paradox)A solution to the paradox,Monty Halls Paradox,假設有三個門讓你選，其中一個後面是汽車，另外兩個為山羊。首先你選擇A號門，主持人打開B號門，門後
20、面有山羊。此時，主持人問你：要不要改選擇B號門？,Monty Halls Paradox,遊戲規則：如果參賽者挑了一扇有山羊的門，主持人必須挑另一扇有山羊的門打開。如果參賽者挑了一扇有汽車的門，主持人隨機在另外兩扇門中挑一扇有山羊的門打開。問題：換另一扇門是否會增加贏得汽車的機會？,Monty Halls Paradox,Monty Halls Paradox,問題分析這樣對嗎？不對為什麼不對問題出在使用了錯誤的資料集合,Monty Halls Paradox,重新檢視問題參賽者在三扇門中挑選一扇。他並不知道門後有什麼。主持人知道每扇門後面有什麼。主持人不能開啟參賽者所挑選的門。主持人必須開啟
21、剩下兩扇門中的一扇門，並且提供換門的機會。,Monty Halls Paradox,重新檢視問題主持人必須挑一扇有山羊的門：如果參賽者挑了一扇有山羊的門，主持人必須挑另一扇有山羊的門。如果參賽者挑了一扇有汽車的門，主持人隨機在另外兩扇有山羊的門中，挑選一扇門開啟。參賽者會被問是否保持它的原來選擇，還是轉而選擇剩下的那一到門。轉換選擇可以增加參賽者的機會嗎？,Monty Halls Paradox,重新檢視問題得到的資訊並不只是單純的B號門後是山羊，而是主持人翻開了B號門。真正所擁有的資訊是：B號門後是山羊，排除了以下的可能性：A號門後有汽車而除人翻開了C號門,Monty Halls Parad
22、ox,正確的解釋假設參賽者所選的A號門後有汽車時，主持人翻開了B號門或C號門的機率相等(都是1/2)令SB=主持 人翻開了B號門，則A號門後有汽車而主持人翻開B號門的機率為 P(SBA)=1/2B門後有汽車而主持人翻開B號門的機率為 P(SBB)=0C號門後有汽車而主持人翻開B號門的機率為 P(SBC)=1,Monty Halls Paradox,正確的解釋根據全機率法則，主持人打開B號門的機率為 P(SB)=P(A)P(SBA)+P(B)P(SBB)+P(C)P(SBC) =1/6+0+1/3=1/2,Monty Halls Paradox,Monty Halls Paradox,正確的解釋若不換門，贏得汽車的機率是1/3若換門，贏得汽車的機率是2/3轉換選擇可以增加贏得汽車的機會!,
