Betinget sannsynlighet

Når vi får informasjon om at en hendelse $B$ har inntruffet, krymper utfallsrommet til $B$, og sannsynligheten for $A$ må regnes om. For $P(B)>0$ definerer vi den betingede sannsynligheten

$$P(A\mid B)=\frac{P(A\cap B)}{P(B)}.$$

Geometrisk: vi spør hvor stor andel av $B$ som også ligger i $A$. For fast $B$ er $P(\cdot\mid B)$ et fullverdig sannsynlighetsmål, så alle vanlige regneregler (komplement, addisjon) gjelder også betinget.

Grunnregel — multiplikasjonsregelen:

$$P(A\cap B)=P(B)\,P(A\mid B)=P(A)\,P(B\mid A).$$

Generalisert (kjederegel): $P(A\cap B\cap C)=P(A)\,P(B\mid A)\,P(C\mid A\cap B)$. Dette er kjernen i å regne sannsynligheter for sekvenser, f.eks. trekk uten tilbakelegging.

Uavhengighet

$A$ og $B$ er uavhengige dersom $P(A\cap B)=P(A)P(B)$, ekvivalent $P(A\mid B)=P(A)$: kunnskap om $B$ endrer ikke sannsynligheten for $A$. Merk at uavhengighet ikke er det samme som disjunkthet — to disjunkte hendelser med positiv sannsynlighet kan aldri være uavhengige. Hvis $A,B$ er uavhengige, er også $A,B^c$ uavhengige. For tre hendelser kreves både alle parvise faktoriseringer og tripel-faktoriseringen for full (gjensidig) uavhengighet.

Lov om total sannsynlighet

La $B_1,\dots,B_k$ partisjonere utfallsrommet (disjunkte, dekkende, $P(B_i)>0$). Da kan $P(A)$ regnes ut «via mellomledd»:

$$P(A)=\sum_{i=1}^k P(A\mid B_i)\,P(B_i).$$

Et trediagram hjelper: første nivå er årsakene $B_i$, andre nivå er $A/A^c$. Multipliser langs grener, summer over grenene som ender i $A$.

Bayes' teorem

Bayes snur om på betingelsen — vi kjenner $P(A\mid B_i)$ men ønsker $P(B_j\mid A)$:

$$P(B_j\mid A)=\frac{P(A\mid B_j)\,P(B_j)}{\sum_{i=1}^k P(A\mid B_i)\,P(B_i)}.$$

Teller er multiplikasjonsregelen, nevner er lov om total sannsynlighet. $P(B_j)$ er prior (før data), $P(B_j\mid A)$ er posterior (etter at $A$ er observert). På odds-form: posterior odds = likelihood-ratio $\times$ prior odds.

Eksempel 1 — medisinsk test (base rate):

Prevalens $P(D)=0{,}001$, sensitivitet $P(+\mid D)=0{,}99$, spesifisitet $P(-\mid D^c)=0{,}95$ (så $P(+\mid D^c)=0{,}05$). Total sannsynlighet for positiv test:

$$P(+)=0{,}99\cdot0{,}001+0{,}05\cdot0{,}999=0{,}05094.$$

Bayes:

$$P(D\mid+)=\frac{0{,}99\cdot0{,}001}{0{,}05094}\approx0{,}0194.$$

Selv med svært høy sensitivitet er sannsynligheten for sykdom gitt positiv test bare ca. $1{,}9\%$, fordi prevalensen er lav. Dette er «base rate fallacy».

Eksempel 2 — to fabrikker:

Fabrikk A produserer $60\%$ av enhetene med $2\%$ defekt, fabrikk B produserer $40\%$ med $5\%$ defekt. Total andel defekte:

$$P(\text{def})=0{,}6\cdot0{,}02+0{,}4\cdot0{,}05=0{,}012+0{,}020=0{,}032.$$

En tilfeldig valgt enhet er defekt — hvilken fabrikk kom den mest sannsynlig fra?

$$P(A\mid\text{def})=\frac{0{,}012}{0{,}032}=0{,}375,\qquad P(B\mid\text{def})=\frac{0{,}020}{0{,}032}=0{,}625.$$

Selv om A lager flest enheter, er en defekt enhet mest sannsynlig fra B pga. høyere defektrate.

Studieguide: Betinget sannsynlighet og Bayes

Studieguide: Betinget sannsynlighet og Bayes