הסתברות/מבוא/נוסחת בייס

חוק בייס הוא תוצאה בתורת ההסתברות המאפשרת לחשב הסתברות מותנית של מאורע כאשר יודעים דווקא את ההסתברויות המותנות ההפוכות.

הגדרה

נוסחת בייס (Bayes) נובעת משימוש כפול בנוסחת ההסתברות המותנה:

משפט: בייס עבור שני מאורעות $A,B$ , כך ש- $\mathbb {P} (B)\neq 0$ , $\mathbb {P} (A|B)=\mathbb {P} (B|A)\cdot {\frac {\mathbb {P} (A)}{\mathbb {P} (B)}}$

נשים לב שלפי הגדרת ההסתברות המותנית,

$\mathbb {P} (B|A)\cdot \mathbb {P} (A)=\mathbb {P} (A|B)\cdot \mathbb {P} (B)=\mathbb {P} (A\cap B)$

חוק בייס נובע מחלוקת כל האגפים ב- $\mathbb {P} (B)$ .

כעת נניח שיש לנו מאורעות זרים $A_{1},\dots ,A_{n}$ , אשר איחודם הוא מרחב המדגם, דהיינו $\bigcup _{k}A_{k}=\Omega$ . נשים לב שבמקרה זה, $\mathbb {P} (A)=\bigcup _{k}\mathbb {P} (A_{k})$ , ולפי נוסחת ההסתברות השלמה נוכל לכתוב

$\mathbb {P} (B)=\sum _{k}\mathbb {P} (B|A_{k})P(A_{k})$

הדבר מוביל למשפט בייס בניסוח אחר.

משפט: בייס (בניסוח של הסתברות שלמה) $\mathbb {P} (A_{k}|B)={\frac {\mathbb {P} (B|A_{k})\cdot \mathbb {P} (A_{k})}{\displaystyle \sum _{j=1}\mathbb {P} (B|A_{j})\mathbb {P} (A_{j})}}$ כאשר: המאורעות $A_{k}$ הם זרים, ו- $\Omega =\bigcup _{k}A_{k}$ .

דוגמאות

דוגמא א'

נניח שלפנינו שני כדים.

1. בכד א' 3 כדורים אדומים ו-2 כחולים.
2. בכד ב' 2 כדורים אדומים ו-3 כחולים. מטילים מטבע הוגן (הסתברות 0.5 לכל צד).

אם יצא עץ שולפים באקראי כדור מכד א' ואם יצא פלי שולפים באקראי כדור מכד ב'. השאלה: בהינתן ששלפנו כדור אדום, מה הסיכוי שיצא עץ?

פתרון: ברור כי בכד א' יותר כדורים אדומים מאשר בכד ב'. לכן סיכוי גדול יותר שהוצאנו כדור מכד א' (עץ) מאשר מכד ב'. נראה זאת בצורה מדויקת.

נסמן מאורע H: יצא עץ בהטלת המטבע = נבחר כד א'. נסמן מאורע R: שלפנו כדור אדום. נחשב את ההסתברויות הבאות:

$\mathbb {P} (H)=\mathbb {P} (H^{c})={\frac {1}{2}}$ כי הסיכוי לעץ ופלי שווה.
$\mathbb {P} (R|H)={\frac {3}{5}}$ כי אם יצא עץ, סיכוי של 3 מתוך 5 לאדום.
$\mathbb {P} (R|H^{c})={\frac {2}{5}}$ כי אם יצא פלי סיכוי של 2 מתוך 5 לאדום.
ועכשיו ע"פ נוסחת בייס להסתברות שלמה:
$\mathbb {P} (H|R)={\frac {\mathbb {P} (R|H)\cdot \mathbb {P} (H)}{\mathbb {P} (R|H)\cdot \mathbb {P} (H)+\mathbb {P} (R|H^{c})\cdot \mathbb {P} (H^{c})}}={\frac {{\frac {3}{5}}\cdot {\frac {1}{2}}}{{\frac {3}{5}}\cdot {\frac {1}{2}}+{\frac {2}{5}}\cdot {\frac {1}{2}}}}={\frac {3}{5}}$

דוגמא ב'

נמלה צועדת על ציר המספרים, כך שבכל צעד היא מתקדמת יחידה אחת ימינה בהסתברות p, ויחידה אחד שמאלה בהסתברות q, הכל באופן בלתי-תלוי. מהי ההסתברות שהנמלה תחזור לראשית בפעם הראשונה כעבור 6 צעדים?

פתרון: אחרי שבחרנו כיוון הליכה (לכיוון החיובי או השלילי), אין אנו יכולים לחזור לראשית לפני הצעד השישי, ולכן נבחן רק מקרה אחד. אם כן, נניח שהצעד הראשון הוא בכיוון החיובי. לכן גם הצעד השני חייב להיות בכיוון החיובי, אחרת חזרנו לראשית. כלומר כבר יש לנו בוודאות את הצירוף "pp". הצעדים היחידים שיביאו אותנו לראשונה לראשית כעבור 6 מהלכים הם שני הצירופים "pqqq", "qpqq". ולכן:

$p_{1}=pp(pqqq+qpqq)=2(pq)^{3}$

כעת, עבור הכיוון השלילי עלינו פשוט להחליף בצירופים הקודמים את p,q, כך שנקבל:

$p_{2}=qq(qppp+pqpp)=2(pq)^{3}$

שימו לב כי קיבלנו תוצאה זהה מאחר ומספר הצעדים הוא זוגי, ונדרשים מספר צעדים זהה בכל כיוון. יתרה מזאת: עקרונית, מותר להכפיל במקרה כזה את אחת ההסתברויות p₁,p₂ פי 2 כדי לקבל את ההסתברות המלאה רק כאשר p=q=0.5 כי אחרת מרחב המדגם אינו סימטרי. כאן, יצא במקרה שהכפלה פי 2 נותנת את התשובה הנכונה.

לבסוף: $p=p_{1}+p_{2}=4(pq)^{3}$ .

מהי ההסתברות שהנמלה תהיה בנקודה 1 אחרי הצעד החמישי, אם אחרי הצעד השמיני היא היתה בראשית?

פתרון: על-פי נוסחת בייס:

$\mathbb {P} (M_{5}=1|M_{8}=0)={\frac {\mathbb {P} (M_{8}=0|M_{5}=1)\cdot \mathbb {P} (M_{5}=1)}{\mathbb {P} (M_{8}=0)}}$

האפשרויות להגיע בצעד החמישי ל-1 הן כל הסידורים האפשריים של {pppqq}. יש כאן 5 עצמים מ-2 סוגים שונים (2 מסוג q ו-3 מסוג p), ולכן סך כל הצירופים האפשריים הוא: ${\frac {5!}{3!2!}}=10$ ולכן:

$\mathbb {P} (M_{5}=1)=10p^{3}q^{2}$

האפשרויות להגיע בצעד השמיני ל-0 הן כל הסידורים האפשריים של {ppppqqqq}. יש כאן 8 עצמים מ-2 סוגים שונים (4 מסוג p ו-4 מסוג q), ולכן סך כל הצירופים האפשריים הוא: ${\frac {8!}{4!4!}}=70$ ולכן:

$\mathbb {P} (M_{8}=0)=70p^{4}q^{4}$

האפשרויות להגיע ל-0 בצעד השמיני אם בצעד החמישי אנו ב-1 הן כל הסידורים האפשריים של {pqq}. יש כאן 3 עצמים מ-2 סוגים שונים (1 מסוג p ו-2 מסוג q) ולכן סך כל הצירופים האפשריים הוא: ${\frac {3!}{1!2!}}=3$ ולכן:

$\mathbb {P} (M_{8}=0|M_{5}=1)=3pq^{2}$

לסיכום:

$\mathbb {P} (M_{5}=1|M_{8}=0)={\frac {\mathbb {P} (M_{8}=0|M_{5}=1)\cdot \mathbb {P} (M_{5}=1)}{\mathbb {P} (M_{8}=0)}}={\frac {3pq^{2}\cdot 10p^{3}q^{2}}{70p^{4}q^{4}}}={\frac {3}{7}}$

שימו לב כי ההסתברות אינה תלויה בערכי p,q!!

קישורים חיצוניים

ערך בוויקיפדיה: חוק בייס

הפרק הקודם: נוסחת ההסתברות השלמה

נוסחת בייס תרגילים

הפרק הבא: דוגמה מסכמת - ניסויי ברנולי