5.pds23.egloos.com/pds/201205/10/28/chapter5.pdf사상과표본공간 확률 조건부...

사상과표본공간

확률

조건부확률과독립

확률의법칙

베이즈정리

5.확률

5. 확률


확률


확률의법칙

베이즈정리

차례

1 사상과표본공간

2 확률

3 조건부확률과독립

4 확률의법칙

5 베이즈정리

5. 확률


확률


확률의법칙

베이즈정리

확률(probability)

귀납적방법 -표본정보에근거하여우리가모르는모집단의특성에관해추론

연역적방법 -알고있는모집단에서추출된표본의특성을추론

-확률은불확실한정도를나타내며,불확실성하에서결정을할때,확률에관한이론은필수적이며통계적추론의근간이된다.본장에서는이러한확률이론에대한사상과표본공간,확률이론,Bayes정리등에관하여설명

5. 확률


확률


확률의법칙

베이즈정리

차례


2 확률


4 확률의법칙

5 베이즈정리

5. 확률


확률


확률의법칙

베이즈정리


무작위실험또는확률실험(random experiment):시행하기전에는확실히예측할수없는결과를유발하는행위또는과정

확률실험 -한번의실험에서나타나는결과는우연에의해나타나게되며,동일한조건하에서반복이가능한실험

표본점(sample point)-무작위실험의근원이되는결과를의미하며,근원사상(elementary event)또는단일사상(simpleevent)이라함

예) Tossing a coin or a die1 동전(coin):앞(H),뒤(T)2 주사위(die): 1, 2, 3, 4, 5, 6

5. 확률


확률


확률의법칙

베이즈정리


공사상(null event) -근원사상을하나도갖고있지않는공집합(φ )

표본공간(sample space):어떤실험에서발생가능한모든단일사상들의집합 -보통 S로표기하며공사상역시표본공간에포함

예) Tossing a coin or a die1 Coin: S = {앞면,뒷면}2 Die: S = {1, 2, 3, 4, 5, 6}

사상(event):하나또는둘이상의단일사상의집합복합사상(compound event) -단일사상의집합보통사상이라함은단일사상과복합사상두가지모두를말함

여사상(complement) -사상 A의여사상은사상 A가발생하지않는사상.즉,사상 A에포함되지않는표본점으로이루어진사상을말함.사상 A의여사상을 A또는 Ac로나타내며, A

⋃A = S

이성립함

5. 확률


확률


확률의법칙

베이즈정리


예)동전을두번던져서나오는결과를관찰하는실험을생각해보자

a) 이실험의표본공간을나타내시오b) a)의표본공간을벤다이어그램으로표시하고,첫번째동전을던질때앞면이나오는사상을 A라할때이사상을벤다이어그램에부분집합으로표시하라

(풀이)a) 동전의앞면이나오는사상을 H라하고,뒷면이나오는사상을 T라하면, S = {(H,H),(H,T),(T,H),(T,T)}

b)

5. 확률


확률


확률의법칙

베이즈정리

차례


2 확률


4 확률의법칙

5 베이즈정리

5. 확률


확률


확률의법칙

베이즈정리

확률(probability)

-어떤사상의발생가능성

1. 고전적개념어떤실험에서발생가능한모든단일사상들이 n개존재하고,각단일사상들이발생할가능성이모두같다고생각하자.이때사상 A가 k개의단일사상들로구성되어있다면,사상 A의확률이 k/n라고정의하는것이고전적방법이다.즉고전적방법에서는실험의각결과에 1/n의확률을부여임의의사상 A에대하여

P(A) =사상 A에속하는단일사상수표본공간전체단일사상수

=N(A)N(S)

주사위를던져서홀수눈이나오는사상의확률

S = {1,2,3,4,5,6}, A = {1,3,5}홀수눈이나올확률: 3/6 = 1/2

5. 확률


확률


확률의법칙

베이즈정리

확률(probability)

2. 상대도수적개념실험을무한히반복할경우얻어지는사상의상대도수의극한값을

확률로정의

임의의사상 A에대하여

P(A) = limN→∞

nN,

N:실험의총시행횟수, n:사상 A가발생한횟수주사위각눈금이나올확률

5. 확률


확률


확률의법칙

베이즈정리

확률(probability)

문제점:상대도수적개념은실험을충분히많이시행해야한다는전제조건을만족해야하는데얼마만큼시행해야충분히많은

횟수를반복했는지가명확하지않음

3. 주관적개념어떤사상에대해자신의지식,경험,정보에의해자기스스로그사상이일어날가능성을판단하여확률을부여하는방법

문제점:고전적개념과상대도수적개념은어떤사상에대해누구든지똑같은확률을갖게된다는점에서객관적이라고할수

있다.그러나주관적개념은하나의사상에대해사람마다제각기다른확률을가질수있으므로객관성이결여됨

5. 확률


확률


확률의법칙

베이즈정리

확률의공리(Axiom of probability)

임의의사상 A에대하여(i) 0 ≤ P(A)≤ 1(ii) P(S) = 1(iii) 서로배반인사상열 Ai, i = 1,2, . . .에대하여,

P(A1⋃

A2⋃

A3⋃· · ·) = P(A1)+P(A2)+P(A3)+ · · ·

확률의공리에의해임의의사상이가지는확률은 0과 1사이이며,실험의결과는확률 1로표본공간 S에속한다.그리고서로배반인사상들중적어도한사상이발생할확률은그들각각의

확률의합과같음

5. 확률


확률


확률의법칙

베이즈정리

상호배반(mutually exclusive, disjoint)

동시에발생할수없는사상

만약사상 A와사상 B가상호배반사상이면두사상은서로공통요소를갖고있지않으며 A

⋂B = φ

예)주사위한개를던지는실험A:짝수눈이발생하는사상B:홀수눈이발생하는사상C: 4이하의눈이발생하는사상A와 B는상호배반인가? A와 C는상호배반인가?

5. 확률


확률


확률의법칙

베이즈정리

상호배반(mutually exclusive, disjoint)

(풀이)A = {2,4,6}B = {1,3,5}C = {1,2,3,4}A⋂

B = φ , A⋂

C = {2,4}

따라서 A와 B는상호배반이며, A와 C는상호배반이아니다.

A1,A2,A3, . . .를표본공간 S의부분집합이라할때,이부분집합의어떠한임의의두개의사상도공통원소를가지지않는다면즉,Ai

⋂Aj = φ (i = j)라면,사상 A1,A2,A3, . . .는상호배반

5. 확률


확률


확률의법칙

베이즈정리

차례


2 확률


4 확률의법칙

5 베이즈정리

5. 확률


확률


확률의법칙

베이즈정리

조건부확률(conditional probability)

한사상의발생이다른사상의발생확률에영향을미치게되면두

사상은통계적으로서로종속되어있다고함

조건부확률 -종속관계에있는두사상을 A와 B라고할경우,첫번째사상 A가이미일어났다는전제하에서두번째사상 B가발생할확률을조건부확률이라고하며 P(B|A)로표기

조건부확률 P(B|A) - ”사상 A가일어났을때사상 B가발생할확률”:표본공간을실험결과들의모임이아닌사상 A로한정한다는의미를가짐

5. 확률


확률


확률의법칙

베이즈정리


예) Tossing a die사상 A: 4이상이나오는사상사상 B:짝수가나오는사상주사위를한번던져서 4이상(사상 A)이나올것이라는사실을알고있다는전제하에서짝수(사상 B)가나올확률즉, P(B|A)은얼마인가?

(풀이)표본공간 S는 S = {1,2,3,4,5,6}이된다.이때, 4이상의수가나온다는것을알고있다는사실을전제로하고있기때문에 S대신 A = {4,5,6}만을고려하면된다.따라서조건부확률은사상A를전체표본공간인것으로생각함으로써표본공간이축소된다.이를축소된표본공간(reduced sample space)이라한다.축소된표본공간 A의원소중짝수는 4와 6이므로 P(B|A) = 2/3가된다.

5. 확률


확률


확률의법칙

베이즈정리


사상 A가주어져있을때사상 B가일어날조건부확률은 P(B|A)로표시하며 P(A)> 0라면,

P(B|A) = P(A⋂

B)P(A)

예) Tossing a die -계속

P(A) = 36 = 1

2 , P(B) = 36 = 1

2 , p(A⋂

B) = 26 = 1

3

P(B|A) = P(A⋂

B)P(A) = 2/6

3/6 = 23

⋆사상 B의확률이사상 A의발생에영향을받음

5. 확률


확률


확률의법칙

베이즈정리


예)다음과같은상황에서조건부확률P(A|B),P(A|B),P(A|B),P(A|B)를구하시오P(AB) = 0.15, P(AB) = 0.25, P(AB) = 0.10, P(AB) = 0.50

(풀이)P(B) = P(AB)+P(AB) = 0.15+0.10 = 0.25P(B) = P(AB)+P(AB) = 0.25+0.50 = 0.75 = 1−P(B)

P(A|B) = P(AB)P(B) = 0.15

0.25 = 0.6

P(A|B) = P(AB)P(B) = 0.10

0.25 = 0.4 = 1−P(A|B)

P(A|B) = P(AB)P(B) = 0.25

0.75 = 0.33

P(A|B) = P(AB)P(B) = 0.5

0.75 = 0.67 = 1−P(A|B)

5. 확률


확률


확률의법칙

베이즈정리

사상의독립

사상 A의발생이사상 B의발생확률에영향을주지않는다면두사상 A와 B는독립(independent)이라고함

두사상 A와 B가독립이기위한필요충분조건1 P(A|B) = P(A), P(B)> 02 P(B|A) = P(B), P(A)> 03 P(AB) = P(A)P(B)

P(A|B) = P(A)의의미는사상 B의발생이사상 A의확률을변화시키지않음을의미한다.이때 P(A|B) = P(A)이면P(B|A) = P(B)가성립

5. 확률


확률


확률의법칙

베이즈정리

사상의독립

예)두개의동전을던지는실험을고려하자.첫번째동전이앞면이나올사상을 A라하고두번째동전이뒷면이나올사상을B라하자.사상 A와사상 B는독립인가?

(풀이)독립!!!

S = {HH,HT,TH,TT}, A = {HH,HT}, B = {HT,TT}, AB = {HT}

P(A) =12, P(B) =

12, P(AB) =

14

P(AB) =14=

12× 1

2= P(A)×P(B)

P(A|B) = P(AB)P(B)

=1/41/2

=12= P(A)

P(B|A) = P(AB)P(A)

=1/41/2

=12= P(B)

5. 확률


확률


확률의법칙

베이즈정리

차례


2 확률


4 확률의법칙

5 베이즈정리

5. 확률


확률


확률의법칙

베이즈정리

확률의합법칙

임의의사상 A와 B에대하여

P(A⋃

B) = P(A)+P(B)−P(A⋂

B)

예)어떤회사의사장이그회사고용자들의음주와흡연실태에대해서알고자한다.조사결과전체고용자 200명중흡연자가 70명,음주자가 120명이었고음주와흡연모두를즐기는사람이 60명으로조사되었다.이경우이회사의고용자중한명을무작위추출했을때그사람이흡연자또는음주자일확률은얼마인가?

(풀이)흡연자일사상을 A,음주자일사상을 B라하면,흡연과음주모두를하는사상은 A

⋂B가되고,흡연자또는음주자인

사상은 A⋃

B가된다.따라서,

P(A⋃

B) = P(A)+P(B)−P(AB) =70

200+

120200

− 60200

=130200

=1320

5. 확률


확률


확률의법칙

베이즈정리

확률의합법칙

상호배반사상 A와 B에대하여

P(A⋃

B) = P(A)+P(B), A⋂

B = φ

예)주사위를두번던질때나타난두눈의합이 7이나 11이될확률은얼마인가?

(풀이)주사위를두번던지는경우표본공간내의모든발생가능한결과는 36가지두눈의합이 7: A = {(1,6),(2,5),(3,4),(4,3),(5,2),(6,1)}: 6가지두눈의합이 11: B = {(5,6),(6,5)}: 2가지사상 A와사상 B는배반사상이므로,

P(A⋃

B) = P(A)+P(B) =6

36+

236

=8

36=

29

5. 확률


확률


확률의법칙

베이즈정리

확률의곱법칙

두사상 A와 B의교집합의확률은

P(A⋂

B) = P(A)P(B|A), P(A⋂

B) = P(B)P(A|B)

예)상자안에전구가 4개들어있다고하자.그중 2개는불량품이고 2개는양품이다.무작위로 2개의전구를골랐을때모두양품일확률은?

(풀이)첫번째추출시양품일사상을 A,두번째추출시양품일사상을 B라고할자.그러면둘다양품일확률은 P(A

⋂B)로

표시할수있다.조건부확률의정의를이용하면,P(A

⋂B) = P(A)P(B|A)이된다.

첫번째양품일확률은 P(A) = 1/2이고,첫번째가양품이었을때두번째도양품일확률 P(B|A) = 1/3이므로 P(A

⋂B) = 1/6이된다.

5. 확률


확률


확률의법칙

베이즈정리

확률의곱법칙

n개의사상 E1,E2, · · · ,En에대하여 P(E1 · · ·En)> 0이면다음의확률의곱법칙이성립한다.

P(E1 · · ·En) = P(E1)P(E2|E1) · · ·P(En|E1 · · ·En−1)

독립사상인경우확률의곱법칙:독립사상 A, B의교집합의확률은 P(AB) = P(A) ·P(B)가된다.

예)동전 4개를던지는실험에서 4개중최소한한개가앞면이나올확률은?

(풀이)사상 A를동전 4개중에서최소한한개가앞면이나오는사상이라하면 P(A) = 1−P(A).여기서 P(A)는 4개의동전이모두뒷면(T)이나올확률이며,동전의뒷면이나올사상은모두독립이므로

P(A) = 1−P(A) = 1−P(TTTT) = 1−P(T)4 = 1− (1/2)4 = 15/16

5. 확률


확률


확률의법칙

베이즈정리

확률의곱법칙

n개의사상 A1,A2, · · ·An이상호독립(mutually independence)이기위한필요충분조건

P(Ai⋂

Aj) = P(Ai)P(Aj), i = j

P(Ai⋂

Aj⋂

Ak) = P(Ai)P(Aj)P(Ak), i = j, j = k, i = k

...

P(A1⋂

· · ·⋂

An) = P(A1) · · ·P(An)

여기서 P(Ai⋂

Aj) = P(Ai)P(Aj), i, j = 1, · · · ,n, i = j이성립하면이를쌍으로독립(pairwise independence)이라고한다.쌍으로독립이성립한다고해서상호독립이성립하지는않음

5. 확률


확률


확률의법칙

베이즈정리

상호배반과상호독립

두사상이상호독립적(mutually independent)이라는것과상호배반(mutually exclusive)은서로다른개념

’두사상이상호배반적이다’라고하면두사상이동시에발생할수없다는것을의미하며,두사상이독립이라는것은한사상의발생이다른사상의발생확률을변화시키지않는다는것을의미

즉,상호배반은사상자체에대한개념이며,상호독립은사상이발생할확률에대한개념

5. 확률


확률


확률의법칙

베이즈정리

차례


2 확률


4 확률의법칙

5 베이즈정리

5. 확률


확률


확률의법칙

베이즈정리

베이즈정리(Bayes’ theorem)

특정사상에대해처음주어진확률을사전확률(prior probability)이라하고,특정사상과관련된추가적인정보를이용하여사전확률을수정한확률을사후확률(posterior probability)이라함

사전확률은분석자의직관이나과거의경험에의해얻어지며,표본조사나실험들의추가적인정보에의해사전확률은

사후확률로수정될수있음

베이즈정리(Bayes’s theorem)는사전확률과추가정보를이용하여사후확률을계산가능하게해줌

5. 확률


확률


확률의법칙

베이즈정리

분할(partition)

사상 B1,B2, · · · ,Bn들이표본공간 S에대하여다음의조건을만족한다면, S에대한분할(partition)이라함

1 Bi⋂

Bj = φ , (모든 i, j에대해 i = j)2

⋃ni=1 Bi = S

5. 확률


확률


확률의법칙

베이즈정리

전확률의정리

상호배반인사상 B1, · · · ,Bn이표본공간 S를분할한다고했을때,S에속하는임의의사상 A에대해다음이성립

P(A) =n

∑i=1

P(Bi)P(A|Bi)

이를전확률의정리(theorem of total probabilities)라고함

(증명)A = AS = A(

⋃ni= Bi) =

⋃ni=1 ABi가되고, ABi들은상호배반이므로,

P(A) = P(⋃n

i=1 ABi) = ∑ni=1 P(ABi) = ∑

ni=1 P(Bi)P(A|Bi)가성립

5. 확률


확률


확률의법칙

베이즈정리

전확률의정리

예) 3대의기계 A, B, C가각각어떤공장의생산품전체의 50%,20%, 30%를생산한다고하자.그리고이들기계가불량품을생산할비율이각각 3%, 5%, 4%라고하자.이때생산품중에서임의로한개를선택했을경우그제품이불량품일확률을

구하시오.(풀이)D를제품이불량품일사상이라고했을때 P(A) = 0.5, P(B) = 0.2,P(C) = 0.3이고 P(D|A) = 0.03, P(D|B) = 0.05, P(D|C) = 0.04이므로전확률정리에의해 P(D)는다음과같이된다.

P(D) = P(A⋂

D)+P(B⋂

D)+P(C⋂

D)

= P(A)P(D|A)+P(B)P(D|B)+P(C)P(D|C)

= 0.5×0.03+0.2×0.05+0.3×0.04 = 0.037

5. 확률


확률


확률의법칙

베이즈정리


예)통계학과목이 A, B, C 3개반으로나누어져수업이개설된다.A, B, C반의학생비율이각각 1/2, 3/10, 1/5이다.학기가끝난후학점을조사한결과, F를받은학생의비율이각각 1/5, 1/3, 1/2이었다.한학생에게학점을물었을때,이학생이 F를받았다면,그학생이 A반에서수강한학생이었을확률을구하시오.(풀이)P(A) = 1/2, P(B) = 3/10, P(C) = 1/5P(F|A) = 1/5, P(F|B) = 1/3, P(F|C) = 1/2

P(A|F) = P(A⋂

F)P(F)

=P(A)P(F|A)

P(A)P(F|A)+P(B)P(F|B)+P(C)P(F|C)

=1/2 ·1/5

1/2 ·1/5+3/10 ·1/3+1/5 ·1/2=

13

5. 확률


확률


확률의법칙

베이즈정리

5. 확률

5.pds23.egloos.com/pds/201205/10/28/chapter5.pdf사상과표본공간 확률 조건부...

Documents