Yoni Nazarathy CV

חוברת עזר להרצאה 

מבוא לתהליכים סטוכסטיים 

207.2250 

החוג לסטטיסטיקה,‏ 

אוניברסיטת חיפה 

חובר ע"י יוני נצרתי 

תוקן ושופר ע"י 

אולגה פרידליאנד,‏ דרור קלודה ומרק שוחט 

אוקטובר 

2006

207.2250 


חוברת זו מכילה את מרבית החומר המוצג בהרצאות בקורס מבוא לתהליכים סטוכסטיים.‏ 

קורסי קדם לקורס זה הינם מבוא להסתברות,‏ תורת ההתפלגויות וחדו"א ב'.‏ 

אין לשכפל ו/או להפיץ חומר מחוברת זו למטרות רווח או לכל מטרה אחרת פרט ללימוד אישי.‏ 

מחבר החוברת אינו מתחייב לנכונות תוכן החוברת,‏ היא נועדה כעזר להרצאה בלבד 

ועלולה להכיל שגיאות.‏ 

הקורס מורכב משישה חלקים ‏(א'‏ 

להלן תוכן הקורס.‏ 

– ו'),‏ 

בכל חלק מספר פרקים.‏ משך ההרצה של כל פרק בכיתה הוא כשעה.‏ 

הערה:‏ פרקים אשר מסומנים ב-*‏ הינם אופציונאליים,‏ רק חלק מפרקים אלו יועברו בהרצאה ויכללו בתוכן 

הקורס.‏ רצף החומר אינו מסתמך על פרקים אלו.‏ 

חלק א:‏ מבוא 

פרק א-‏‎1‎‏:‏ הגדרת תהליך סטוכסטי,‏ זמן בדיד/רציף,‏ מרחב מצבים,‏ דוגמאות,‏ שימושים וסקירת הקורס.‏ 

פרק א-‏‎2‎‏:‏ חזרה על הסתברות,‏ ותוצאות מתמטיות נוספות שימושיות.‏ 

פרק א-‏‎3‎‏:‏ הסתברות מותנית,‏ התפלגות מותנית,‏ תוחלת מותנית.‏ 

פרק א-‏‎4‎‏*:‏ דוגמאות לשימוש בהתניה.‏ 

פרק א-‏‎5‎‏:‏ תהליכי ברנולי 


.I – 

.II – 

חלק ב:‏ שרשראות מרקוב ‏(זמן בדיד)‏ 

פרק ב-‏‎1‎‏:‏ הגדרת שרשרת מרקוב ‏(זמן בדיד).‏ 

פרק ב-‏‎2‎‏:‏ דוגמאות.‏ 

פרק ב-‏‎3‎‏:‏ נוסחאות צ'פמן קולמוגורוב.‏ 

פרק ב-‏‎4‎‏:‏ מיון מצבים,‏ מצבים חולפים ומצבים מתמידים,‏ מצב מתמיד אפס,‏ מחזוריות.‏ 

פרק ב-‏‎5‎‏*:‏ חישובים הקשורים למיון מצבים – דוגמת מודל המהמר.‏ 

פרק ב-‏‎6‎‏:‏ ארוגודיות וסטציונריות.‏ 

פרק ב-‏‎7‎‏:‏ הסתברויות גבוליות/סטציונרית.‏ 

פרק ב-‏‎8‎‏:‏ הסתברויות גבוליות המשך 

– דוגמאות.‏ 

חלק ג:‏ תהליכי פואסון 

פרק ג-‏‎1‎‏:‏ תכונות של ההתפלגות האקספוננציאלית והתפלגות ארלנג.‏ 

פרק ג-‏‎2‎‏*:‏ קצב 

פרק ג-‏‎3‎‏:‏ מבוא לתהליך פואסון.‏ 

פרק ג-‏‎4‎‏:‏ תהליך פואסון ‏–ארבע הגדרות שקולות.‏ 

פרק ג-‏‎5‎‏:‏ חישובים נלווים לתהליך פואסון.‏ 

פרק ג-‏‎6‎‏*:‏ השוואה בין תהליכי פואסון ותהליכי ברנולי.‏ 

פרק ג-‏‎7‎‏:‏ פיצול ומיזוג של תהליכי פואסון.‏ 

פרק ג-‏‎8‎‏*:‏ תהליך פואסון מורכב.‏ 

פרק ג-‏‎9‎‏*:‏ תהליך פואסון לא הומוגני בזמן.‏ 

Hazard ‏(סיכון).‏ 

- 2 -

207.2250 


חלק ד:‏ תהליכי קפיצה מרקובים ‏(זמן רציף)‏ 

פרק ד-‏‎1‎‏:‏ תהליך קפיצה מרקובים – הגדרה ותכונות בסיסיות.‏ 

פרק ד-‏‎2‎‏:‏ תהליכי קפיצה מרקובים 

פרק ד-‏‎3‎‏:‏ משוואות קולמוגורוב.‏ 

פרק ד-‏‎4‎‏:‏ תהליכי קפיצה מרקובים – הסתברויות גבוליות.‏ 

– דוגמאות.‏ 

חלק ה:‏ תהליכי לידה-מוות ומערכות תורים 

פרק ה-‏‎1‎‏:‏ תהליכי לידה-מוות.‏ 

פרק ה-‏‎2‎‏:‏ מבוא למערכות תורים.‏ תור התפלגות מספר הנמצאים במערכת.‏ 

פרק ה-‏‎3‎‏*:‏ חשבונאות של מערכות תורים ונוסחת ליטל.‏ 

נוסחאות ארלנג.‏ 

פרק ה-‏‎4‎‏:‏ מערכות תורים נוספות 

חלק ו:‏ סיכום 

פרק ו-‏‎1‎‏:‏ מה לא נלמד בקורס זה.‏ 

פרק ו-‏‎2‎‏:‏ השלמות.‏ 

פרק ו-‏‎3‎‏:‏ ספרות מומלצת 

,M/M/1 

,M/M/∞ ,M/M/c/K ,M/M/c 

- 3 -

207.2250 


תיאור חלק א:‏ 

חלק זה מהווה מבוא לקורס.‏ מטרתו היא להציג ולהגדיר תהליכים סטוכסטיים כמודלים מתמטים יישומיים 

המאפשרים לנתח בעיות יישומיות ותיאורטיות שונות.‏ בנוסף מטרתו היא לחזור על מושגים מהסתברות אשר 

נלמדו בקורס מבוא להסתברות א'‏ ותורת ההתפלגויות בכדי לחזק את ההבנה בנושאים אלו ולהכיר מספר 

דוגמאות מורכבות יותר אשר ניתוחם דומה לניתוח של בעיות אשר יופיעו בהמשך הקורס.‏ החלק מסתיים עם 

הנושא של תהליכי ברנולי.‏ לימוד של תהליכים אלו יעזור לפתח הבנה של מושגי יסוד אשר יופיעו בפרקים 

בהמשך.‏ 

- 4 -

207.2250 


פרק א-‏‎1‎‏:‏ הגדרת תהליך סטוכסטי,‏ זמן בדיד/רציף,‏ מרחב מצבים,‏ 

דוגמאות,‏ שימושים וסקירת הקורס.‏ 

הגדרת תהליך סטוכטסטי:‏ 

בקורס מבוא להסתברות ותורת ההתפלגויות הגדרנו מרחבי הסברות ע"י השלשה (P ( ,Ω ,Σ . 

כאשר מרחב המדגם,‏ הוא אוסף התוצאות האפשריות.‏ 

אוסף המאורעות,‏ הוא אוסף של תתי קבוצות של 

ו P היא פונקציה:‏ 

.( Σ ⊆ 2 Ω ) . Ω 

. P : Σ → [0,1] 

, Ω 

, Σ 

n 

R 

לאחר מכן הגדרנו משתנים מקרים,‏ אלו הם פונקציות הממפות תוצאות ב 

הממשיים,‏ או המספרים השלמים או הוקטורים הממשיים וכו').‏ 

ז"א 

כאשר ז"א משתנה מקרי X הוא בעצם וכו'.‏ 

Ω 

- 

X : Ω → D 

.ω ∈Ω 

X ( ω) 

למרחב אחר ‏(המספרים 

כאשר D הוא 

או R או Z 

בקורס זה נדון במרחבי הסתברות ובמשתנים מקריים יותר מעניינים:‏ תהליכים סטוכסטיים.‏ 

תהליך סטוכסטי הוא משתנה מקרי כפי שמוגדר לעיל אבל D הוא מרחב של פונקציות.‏ ז"א תהליך סטוכסטי 

הוא פונקציה אקראית.‏ 

במקום שעבור כל 

פו'‏ זו כ 

ימופה לערך מספרי,‏ מתקיים כי 

X ( ω) 

ממופה לפונקציה.‏ ניתן לרשום 

X ( ω) 

,ω ∈Ω 

. t ∈T 

, 

X ( ω, t) 

כאשר 

. N 

דרך אחרת לחשוב על תהליך סטוכסטי היא כעל אוסף של משתנים מקריים אשר מאופיינים ע"י הפרמטר 

. t T∋ כאשר לרוב קיימת תלות סטטיסטית מסוימת בין המשתנים המקריים הללו.‏ 

את T נכנה מרחב הפרמטר של הפונקציה האקראית.‏ לרוב T מסמל זמן ‏(ומכאן השם תהליך סטוכסטי).‏ 

או כאשר T הוא נאמר כי התהליך הוא תהליך בזמן רציף,‏ 

בקורס זה T יהיה לרוב 

וכאשר T הוא נאמר כי התהליך הוא תהליך בזמן בדיד.‏ 

R 

+ 

R + = [0, ∞) 

, N 

הערה:‏ בחלק מהמקומות בקורס נתייחס לטבעיים כמכילים את 0, ובחלק לא,‏ זאת בהתאם לנוחות.‏ 

קבוצת הערכים אשר מקבלת ‏(הטווח של הפונקציה האקראית)‏ נקראים מרחב המצבים של 

התהליך.‏ לפעמים נסמל את מרחב המצבים ב S. מרחב מצבים אפשרי ונוח לשימוש בהרבה מקרים הוא 

ניתן גם לבחור את מרחב המצבים להיות רציף אבל כמעט ולא 

מרחב מצבים אחר הוא 

נפגוש תהליכים סטוכסטיים כאלו בקורס.‏ 

. N 

,( R ) 

X ( ω, t) 

.{0,1,….,N} 

כאשר D הוא אוסף הפונקציות המקבלות ערכים ב 

לסיכום:‏ תהליך סטוכסטי הוא משתנה מקרי 

T ‏(מרחב הפרמטר)‏ וממופות לS ‏(מרחב המצבים).‏ או לחלופין תהליך סטוכסטי הוא אוסף של משתנים 

מקריים אשר מאופיינים ע"י פרמטר 

X : Ω → D 

. t ∈T 

- 5 -

207.2250 


X ( ω , t) 

0 

ω0, נקראה לפונקציה 

∈Ω 

עבור תוצאה נתונה מתוך מרחב המדגם , Ω 

ריאליזציה של התהליך הסטוכסטי.‏ 

המתקבלת t) ‏(של 

תהליכים סטוכסטיים כמודלים מתמטים:‏ 

את רוב התהליכים אשר נפגוש בקורס זה ניתן ליישם לבניית מודלים מתמטים עבור תופעות שכיחות.‏ תופעות 

כגון גודלי אוכלוסיה,‏ הכנסות/הוצאות של בתי עסק,‏ מלאי של בנק דם,‏ שיחות טלפון אשר מגיעות למרכזייה 

ועוד.‏ בכל הדוגמאות לעיל קיים המרכיב התהליכי והמרכיב הסטוכסטי ‏(אקראי).‏ 

המרכיב התהליכי:‏ שינוי מצב מערכת על פני זמן.‏ 

המרכיב הסטוכסטי:‏ אקראיות בשינוי המערכת.‏ 

דוגמא א-‏‎1‎‏:‏ 

נתחיל בתיאור של תהליך דטרמיניסטי 

‏(ללא אקראיות)‏ 

ולאחר מכן ‏"נשדרג"‏ אותו לתהליך סטוכסטי.‏ 

הסיפור:‏ חשבון הבנק שלנו.‏ 

נבנה תהליך אשר מתאר את כמות הכסף אשר יש לנו בחשבון הבנק.‏ נניח כי אנחנו חיים בזמן בדיד 

.…,1,2=n ‏(כאשר 1=n הוא יום פתיחת חשבון הבנק שלנו).‏ מרחב המצבים של התהליך יהיה רציף ‏(נמדל 

אותו כרציף)‏ שקלים ‏(ייתכן גם חיובי וגם שלילי).‏ 

המודל הדטרמיניסטי:‏ 

– ערך חשבון הבנק שלנו בזמן n. 

– הערך ההתחלתי של חשבון הבנק 

נניח כי כל שלושים ימים ‏(בדיוק)‏ אנחנו מקבלים משכורת,‏ ערך המשכורת הוא במשכורת 

הראשונה ובכל משכורת ישנה עלייה של 1% בשכר.‏ נסמן ב P(n) את המשכורת אשר אנו מקבלים 

אחרת 

עבור 

ביום ה ז"א 

נניח בנוסף כי בכל יום יש לנו הוצאה של 70 שקלים באופן קבוע לאורך החיים.‏ 

נסמן הוצאה זו ב 

כעת ניתן לרשום את המשוואה עבור תהליך הערך של חשבון הבנק שלנו:‏ 

2000 

.P(n)=0 

.(Excel 

, k ∈ N 

n=30k 

– נניח .200 

P( n ) = 2000(1.01) n /30 

.n לכל 70=E(n) .E(n) 

n 

∑ 

.n – 

S(n) 

S(1) 

S( n) = S(0) + P( k) − E( n) 

n 

∑ 

k = 1 k = 1 

• 

• 

• 

• 

את התפתחות התהליך הדטרמיניסטי S(n) ניתן בקלות לחשב ‏(לדוגמא ב ערך התהליך עבור כל 

מוצג באיור בהמשך.‏ ברור כי ‏"שיני המסור"‏ אשר מופיעים באיור הינם 

תוצאה של ההוצאה היומית האחידה וקפיצות בהכנסה בכל 30 יום עקב קבלת משכורת.‏ רואים כי 

בחודשים הראשונים,‏ בערך עד חצי התקופה ‏(שנה וחצי בערך)‏ ערך חשבון הבנק לעיתים שלילי ולאחר 

מכן הוא רק חיובי ‏(המשכורת עולה כל חודש).‏ 

{1095,...,1}∋ n ‏(שלוש שנים)‏ 

n 

∑ 

שדרוג למודל הסטוכסטי:‏ 

כעת נוסיף מימד אקראי למודל שלנו.‏ את המודל נרשום באופן הבא:‏ 

S ( n) = S(0) + P ( k) − E 

( n) 

n 

∑ 

k = 1 k = 1 

טילדה(~)‏ מעליהם).‏ 

‏(בדיוק כמו המודל הדטרמיניסטי אבל גדלים אקראיים נסמן עם 

- 6 -

207.2250 


להלן הפרטים:‏ 

(0)S נשאר ללא שינוי ‏(מהמודל הדטרמיניסטי).‏ 

למשכורת נכניס מימד של גידול אקראי.‏ נאמר שאם המשכורת בחודש n היא P אזי המשכורת 

מידול זה משקף כי בכל חודש 

כאשר 

בחודש 

הגידול במשכורת הוא בממוצע כמו במודל הדטרמיניסטי אבל בעל השתנות.‏ כעת ניתן לרשום את 

ההכנסה היומית כתוצאה ממשכורת כך:‏ 

. U ∼ Uniform(0,0.02) 

( P 

( n)) 

P(1 + U ) היא n+1 

P ( n ) = 0 , k ∈ N n=30k 

n /30 

P( n) = 2000 ∏(1 + U 

j 

) 

k = 1 

{ U 

j 

כאשר N} , j ∈ 

• 

• 

עבור 

אחרת 

היא סדרה של משתנים מקריים אחידים 

i.i.d. על הקטע 

.[0,0.02] 

• 

נכניס גם מימד של אקראיות להוצאה היומית:‏ 

E ( n) 

~ Uniform(50,90) 

נשים לב כי בנינו את המודל הסטוכסטי כך שכל הרכיבים האקראיים שלו הינם בעלי תוחלת הזהה לרכיבים 

המקבילים במודל הדטרמיניסטי.‏ 

להלן הריאליזציה של המודל הדטרמיניסטי בExcel‏.‏ 

מודל דטרמיניסטי 

S(n) 

14000 

12000 

10000 

8000 

6000 

4000 

2000 

0 

-2000 

-4000 

n 

להלן 3 ריאליזציות של המודל הסטוכסטי ‏(גם Excel ע"י שימוש בפו'‏ 

.(random() 

- 7 -

207.2250 


מודל סטוכסטי - 3 ריאליזציות 

14000 

12000 

10000 

8000 

6000 

4000 

2000 

0 

-2000 

-4000 

.1 

.2 

.3 

.4 

.5 

.6 

.7 

.8 

.9 

שאלות מעניינות לגבי תכונות של תהליכים סטוכסטיים:‏ 

בהינתן מודל של תהליך סטוכסטי מה ניתן לעשות איתו?‏ לרוב שאלה זו תלויה במודל.‏ למרות זאת ישנם 

מספר מאפיינים של תהליכים סטוכסטיים אשר מעניינים אותנו ביותר:‏ 

. t ∈T 

. t ∈T 

חוק ההסתברות ‏(התפלגות)‏ של ערכי התהליך בזמן מסוים 

התוחלת,‏ שונות,‏ מומנטים של ערכי התהליך בזמן מסוים 

הקשר הסטוכסטי בין ערך התהליך בשני זמנים מסוימים.‏ 

ההסתברות כי התהליך יכנס למצב מסוים או אוסף מצבים ולעולם לא יצא ממצב זה.‏ 

התפלגות הזמן עד הגעה למצב מסוים או אוסף מצבים.‏ 

התוחלת,‏ שונות,‏ מומנטים של הסעיף הקודם.‏ 

חוק ההסתברות ‏(התפלגות)‏ מס'‏ החזרות למצב מסוים ביחידת זמן.‏ 

קיום התפלגות גבולית.‏ 

ארוגודיות.‏ 

10. תכונות נוספות.‏ 

דוגמאות/משפחות של תהליכים סטוכסטיים:‏ 

להלן רשימה של משפחות של תהליכים סטוכסטיים 

. 

סדרה של משתנים מקריים בלתי תלויים.‏ 

סדרת משתני ברנולי.‏ 

מהלך מקרי פשוט 

.1 

.2 

.3 

- 8 -

ה-‏ 

207.2250 


.4 

.5 

.6 

.7 

.8 

.9 

מהלך מקרי כללי 

תהליכים גאוסים.‏ 

תהליכי ספירה.‏ 

תהליכי חידוש.‏ 

תהליכי פואסון.‏ 

שרשראות מרקוב.‏ 

10. תהליכי קפיצה מרקובים.‏ 

11. תהליכי לידה 

תהליכי הסתעפות.‏ 

תנועת בראון.‏ 

– מוות.‏ 

.12 

.13 

יישומים:‏ 

מידול אותות בתקשורת רדיו.‏ 

מידול עומס ברשתות תקשורת חוטיות.‏ 

מידול מצב תעסוקתי במודלים של פנסיה.‏ 

מידול טביעות לחברת ביטוח.‏ 

מידול תהליכי יצור.‏ 

מידול עומסים על מערכת מחשב מרובת משאבים.‏ 

מידול של גדלי אוכלוסיות.‏ 

יישומים רבים נוספים.‏ 

.1 

.2 

.3 

.4 

.5 

.6 

.7 

.8 

סימולציה 

ע"י מחשב:‏ 

בקורס זה,‏ נכיר מספר מודלים בסיסיים של תהליכים סטוכסטיים ונלמד כיצד לענות על שאלות לגבי 

התהליכים:‏ התפלגות התהליך בזמן מסוים וכו'.‏ הדרך ובה נעבוד היא הדרך האנליטית:‏ נגדיר בכל פעם את 

התהליך,‏ נגדיר את ההנחות ההסתברותיות ולאחר מכן נשתמש בתכונות מיוחדות של התהליך לצורך חישוב 

הגדלים אשר מעניינים אותנו.‏ 

דרך חלופית להתמודדות עם בעיות מסוג זה היא באמצעות סימולציה ע"י מחשב.‏ כאשר חוקרים תכונות של 

תהליכים סטוכסטיים ע"י סימולציה ממוחשבת פשוט נותנים למחשב להריץ ריאליזציה אחת ארוכה,‏ או אוסף 

רב של ריאליזציות ובוחנים את ההתנהגות התהליך המתואר ע"י המחשב.‏ 

סקירת חלקי הקורס:‏ 

35 פרקים),‏ 

הקורס מחולק לחמישה חלקים ‏(א'‏ ') ובכל חלק בין חמישה לעשרה פרקים ‏(סה"כ כ-‏ משך 

ההרצה של כל פרק הוא בערך כשעה.‏ בתחילת הקורס נבצע חזרה מקיפה על הסתברות,‏ זהו חלק ‏(א').‏ 

לאחר מכן נעבור לחלק ‏(ב')‏ ובו נשתעשע בשרשראות מרקוב,‏ מודל שימושי זה נפוץ כמעט בכל תחומי המדע 

ובפרקטיקה.‏ המושג המרכזי אשר נפגוש בפרק של שרשראות מרקוב הוא מושג הארוגודיות.‏ 

בחלק הבא ‏(ג')‏ נרחיב את תחום העניין שלנו לתהליכים בעלי מרחב מצבים רציף מהסוג הפשוט והפופולארי 

ביותר,‏ אלו הם תהליכים פואסון.‏ תהליך פואסון הינו מושג בסיסי וחשוב בתורת ההסתברות ובאמצעותו ניתן 

- 9 -

207.2250 


למדל תופעות רבות בטבע.‏ בחלק לאחר מכן ‏(ד')‏ נפגוש בתהליכי קפיצה מרקובים.‏ תהליכים אלו הינם הרחבה 

של תהליכי פואסון לשרשראות מרקוב בזמן רציף.‏ 

בחלק הבא ‏(ה')‏ ננתח תהליכי קפיצה מרקובים בעלי מבנה מסוים,‏ פשוט אך שימושי,‏ אלו הם תהליכי לידה-‏ 

מוות.‏ ניישם תהליכי לידה ומוות שונים למודלים של תורת התורים.‏ בנוסף נדון בתורת התורים באופן כללי.‏ 

ניתן להתייחס לפרק זה כמבוא לתורת התורים.‏ 

לבסוף בחלק ו'‏ נסכם בקצרה ונציין נושאים אלמנטאריים נוספים בתהליכים סטוכסטיים אשר לא נלמדו 

בקורס זה.‏ 

- 10 -

207.2250 


פרק א-‏‎2‎‏:‏ חזרה על הסתברות,‏ 

שימושיות.‏ 

ותוצאות מתמטיות נוספות 

תוצאות מתמטיות שימושיות:‏ 

הבינום של ניוטון.‏ 

n 

⎛ n ⎞ 

( a + b) 

= ∑⎜ ⎟ a b 

k = 0 ⎝ k ⎠ 

.1 

n k n−k 

a 

.2 

n 

n+ 

1 

k a −1 

∑ a = 

k = 0 a −1 

∞ 

k 1 

< 1, ∑ a = 

1 − a 

טור גיאומטרי.‏ 

k= 

0 

N 

∑ 

k = 0 

טור טלסקופי.‏ 

( A − A ) = A − A 

.3 

k k + 1 0 N + 1 

ייצוג exp(x) ע"י טור טילור.‏ 

e 

x 

.4 

∞ k 

x 

= ∑ 

k 

k = 0 ! 

.5 

⎛ n ⎞ ⎛ n −1⎞ ⎛ n −1⎞ 

⎜ ⎟ = ⎜ ⎟ + ⎜ ⎟ 

⎝ k ⎠ ⎝ k −1⎠ ⎝ k ⎠ 

נוסחת פסקל:‏ 

⎛ k + n −1⎞ 

⎜ ⎟ 

⎝ k ⎠ 

n תאים.‏ 

4 מקרים קומבינאטורים פשוטים 

– פיזור k כדורים ל 

k 

n 

⎛ n ⎞ 

n( n −1)...( n − k + 1) = ⎜ ⎟ k! 

⎝ k ⎠ 

⎛ n ⎞ 

⎜ ⎟ 

⎝ k ⎠ 

המקרה היותר קשה הוא כדורים זהים ללא הגבלה של מקום בכל תא:‏ 

.a 

.b 

.c 

.d 

.6 

- 11 -

207.2250 


דוגמא א-‏‎2‎‏:‏ 

כמה פתרונות במספרים שלמים אי-שליליים יש למשוואה 

שאלת ספירה זו זהה לשאלה בכמה דרכים ניתן לפזר k כדורים לn תאים כאשר אין הגבלה על מספר 

הכדורים אשר ניתן להכניס לתא והכדורים זהים.‏ ‏(שזו גם בדיוק השאלה,‏ בכמה דרכים ניתן לדגום 

מאוכלוסיה בעלת פריטים אם החזרות ‏(יותר מכדור אחד בתא)‏ וסדר הדגימה לא משנה ‏(הכדורים זהים).‏ 

k פריטים 

? a1 + a2 + ... + an 

= k 

fn 

. lim = 1 

n→∞ 

g 

n 

∞ 

∫ 

,n 

נוסחת המשולש 

המקרה הבדיד:‏ 

N 

∑ 

k = 0 k= 

1 

k = 1 j= 

k 

.7 

kf ( k) = kf ( k) 

= 

f (1) + 

f (2) + f (2) + 

f (3) + f (3) + f (3) + 

.... 

= 

N 

0 0 0 

N 

∑∑ 

∞ x 

∫∫ 

N 

∑ 

f ( j) 

x= 0 t= 0 t= 0 x= 

t 

המקרה הרציף:‏ 

xf ( x) dx = 1 dt f ( x) 

dx = 

∞ x 

∞ ∞ 

∫ ∫ 

∫ ∫ 

f ( x) dtdx = f ( x) 

dxdt 

.n! – 

f 

n 

8. קירוב Stirling ל 

1 

n 

2 n 

π + − 

n! ∼ 2 n e 

∼ g 

n 

הערה:‏ הסימון 

מסמל כי 

חזרה כללית על הסתברות:‏ 

כנאמר בפרק הקודם,‏ משתנה מקרי הוא פונקציה ממרחב המדגם אל מרחב של מספרים כלשהו.‏ לרוב נקטלג 

את המשתנים המקריים אשר אנחנו מכירים למשתנים מקריים רציפים ולמשתנים מקריים בדידים אבל 

לפעמים ישנם גם משתנים מקריים מעורבים.‏ 

אנו מתעניינים בחוק ההסתברות של משתנים מקריים.‏ ניתן לתאר את חוק ההסתברות במספר דרכים.‏ הדרך 

המקובלת ביותר היא פונקציות ההתפלגות המצטברת וזאת בגלל שתיאור זה מתאים גם למשתנים מקריים 

בדידים וגם לרציפים ‏(וגם למעורבים).‏ 

F ( x) = P( X ≤ x) = P({ w : X ( w) ≤ x}) 

X 

כזכור זוהי פונקציה לא יורדת ומתקיים כי 

- 12 -

207.2250 


lim F ( x) = 0 

x→−∞ 

X 

lim F ( x) = 1 

x→∞ 

לפעמים נוח יותר לעבוד אם המשלים של פונקצית ההתפלגות המצטברת,‏ זוהי פונקצית השרידות:‏ 

F X ( x) = P( X > x) = 1 − F ( x) 

עבור משתנים מקריים בדידים קיימת פונקצית מסת הסתברות:‏ 

. P ( x) = P( X = x) 

X 

X 

X 

. 

f 

X 

( x) 

. 

ואז מתקיים:‏ 

x 

FX 

( x) = ∑ PX 

( k) 

k=−∞ 

עבור משתנים מקריים רציפים קיימת פונקצית צפיפות 

בשל עצמו אבל מתקיים:‏ 

לערך פונקציה זו אין משמעות הסתברותית 

∆xf ( x) ≅ P( x ≤ X < x + ∆x) 

X 

. 

ואז מתקיים:‏ 

x 

FX 

( x) = ∫ f 

X 

( t) 

dt 

−∞ 

התוחלת של משתנה מקרי היא:‏ 

∞ 

∫ 

EX = xf ( x) 

dx 

−∞ 

∞ 

∑ 

X 

EX = xP ( x) 

x=−∞ 

עבור המקרה הרציף והבדיד בהתאמה.‏ 

(.)g היא פונקציה כלשהי.‏ 

עבור משתנה מקרי X ניתן להגדיר משתנה מקרי חדש 

את חוק ההסתברות של המתנה המקרי החדש ניתן לחשב בדרכים אשר נלמדו בקורס תורת ההתפלגויות 

אז 

‏(לדוגמה אם 

Y=g(X) כאשר 

(Y) 

2 2 

.( Y = Z ∼ Gamma(1/ 2,1/ 2) ≡ χ (1) 

Z ∼ N (0,1) 

את התוחלת של Y ניתן לחשב עלפי הנוסחאות לעיל ‏(ע"י שימוש בצפיפות או פונקצית מסת ההסתברות אשר 

חושבה עבור Y). דרך אלטרנטיבית ‏(ולרוב יותר קלה)‏ היא להשתמש בתכונה הבא של התוחלת:‏ 

EY = Eg( X ) = ∫ g( x) f 

X 

( x) 

dx 

∞ 

−∞ 

ובאופן דומה עבור המקרה הבדיד.‏ 

X 

המומנט ה 

k 

– k (…,1,2,3=k) של משתנה מקרי X הוא . EX ‏(ניתן לחשב עפ"י הנוסחה לעיל כאשר 

.( g( x) 

= x 

k 

- 13 -

207.2250 


{ } { } 

. Var( X ) = E ( X − EX ) = E X − ( EX ) 

2 2 2 

השונות של משתנה מקרי היא 

מה יודעים על תוחלות/שונויות של סכומים/מכפלות?‏ 

תוחלת של סכום היא סכום התוחלות ‏(לא משנה אם תלויים או לא).‏ 

תוחלת של מכפלה היא מכפלת התוחלת כאשר המשתנים המקריים בלתי תלויים.‏ 

שונות של סכום של משתנים מקריים בלתי מתואמים ‏(יותר חלש מבלתי תלויים)‏ הוא סכום 

השונויות.‏ 

• 

• 

• 

עבור משתנה מקרי חיובי מתקיים השוויון הבא:‏ 

∞ 

EX = X 

∫ F ( x) 

dx 

0 

∞ 

EX = ∑ F X ( k) 

k = 0 

עבור המקרה הרציף והבדיד בהתאמה.‏ 

הוכחה עבור המקרה הבדיד:‏ 

נשתמש בנוסחת המשולש ‏(הוצגה בסעיף הקודם):‏ 

∞ ∞ ∞ 

EX = kP ( k) = P ( j) 

= 

∞ 

∑ 

X 

k = 0 k = 1 j= 

k 

P( X ≥ k) = P( X ≥ k ' + 1) = 

k = 1 k ' = 0 

∞ 

∑ 

∑ 

P( X > k ') = F X ( k ') 

∞ 

∑ 

∞ 

∑ 

k ' = 0 k ' = 0 

∑∑ 

הוכחה עבור המקרה הרציף:‏ 

∞ 

∫ 

EX = xf ( x) 

dx = 

0 

f ( x) dxdt = F X ( t) 

dt 

t= 0 x= t t= 

0 

X 

∞ ∞ ∞ 

∫ ∫ 

∫ 

X 

פונקציה יוצרת מומנטים של משתנה מקרי X היא 

זוהי פונקציה של היא מעניינת בגלל מספר סיבות.‏ 

א)‏ פונקצית יוצרת מומנטים מגדירה באופן חד ערכי את חוק ההסתברות של המשתנה המקרי.‏ 

זאת אומרת שבמידה וזיהינו את הפונקציה יוצרת מומנטים של משתנה מקרי אז גילינו את 

התפלגותו!!!‏ 

הערה במקרים חריגים בהם הפו'‏ אינה מוגדרת בסביבה של 0=t אז זה לא מתקיים אבל 

לא נתעסק במקרים כאלו בקורס זה.‏ 

הערה המעבר מצפיפות/מסת הסתברות לפו'‏ יוצרת מומנטים הוא לרוב קל ‏(חישוב 

תוחלת),‏ המעבר בחזרה הוא קשה ‏(דורש אינטגרציה במישור מרוכב לכן הדרך 

הנוחה לעשות זאת היא בעזרת טבלה.‏ 

– ‏"קשה")‏ 

. M ( t) 

= Ee 

X 

tX 

:1 

:2 

.t 

- 14 -

207.2250 


.k 

ב)‏ 

ג)‏ 

ע"י גזירה k פעמים והצבה 0=t ניתן לקבל את המומנט ה 

הפונקציה של סכום של שתי מ"מ בלתי תלויים.‏ היא מכפלת הפונקציות.‏ נראה בהמשך.‏ 

, Φ X 

( t ) = Ee 

itX 

L ( s) 

‏(וריאציות אחרות הן התמרת לפלס − Ee = 

נשתמש לרוב יוצרת מומנטים בקורס זה).‏ 

ופונקציה אופיינית 

אבל אנו 

בפו 

X 

sX 

' 

עבור משתנים מקריים בדידים אי-שליליים מוגדרת פונקציה יוצרת הסתברות ‏(לפעמים נקראת פשוט 

פונקציה יוצרת):‏ 

. G ( t) 

= Et 

X 

X 

קיים קשר פשוט בין פונקציה יוצרת הסתברות לפונקציה יוצרת מומנטים.‏ 

הערה:‏ פו'‏ יוצרת קיימת גם לסדרות באופן כללי ‏(הסדרה לא חייבת להיות פו'‏ מסת הסתברות).‏ 

משתנים מקריים ממשפחות מוכרות:‏ 

.1 

.2 

.3 

.4 

.5 

.6 

.7 

.8 

.9 

.10 

.11 

.12 

.13 

.14 

בקורס מבוא להסתברות ותורת ההתפלגויות הכרנו משפחות רבות של משתנים מקריים,‏ בדידים ורציפים.‏ 

לכל משפחה יש פרמטר אחד או יותר ולפעמים גם ישנו ‏"סיפור"‏ ‏(בעיקר עבור הבדידים).‏ לא נחזור כאן על 

הפירוט של המשתנים המקריים ‏(ניתן לראות אותם בטבלת התפלגויות)‏ אבל נציין את החשובים והרלוונטיים 

לקורס זה:‏ 

ברנולי.‏ 

בינומי.‏ 

היפר-גיאומטרי.‏ 

גיאומטרי – סופר כישלונות.‏ 

גיאומטרי – סופר ניסיונות.‏ 

בינומי שלילי – סופר כישלונות.‏ 

בינומי שלילי – סופר ניסיונות.‏ 

פואסון.‏ 

אחיד בדיד.‏ 

אקספוננציאלי.‏ 

גאמא.‏ 

ארלנג ‏(מקרה פרטי של גאמא).‏ 

נורמאלי.‏ 

אחיד ‏(רציף).‏ 

משתנים מקריים החיים יחדיו במרחבי הסתברות:‏ 

עבור שני משתנים מקריים ,X,Y כך מוגדרת פונקצית ההתפלגות המשותפת:‏ 

FX , Y ‏(כאשר פסיק בין ‏"מאורעות"‏ מסמל חיתוך מאורעות).‏ 

( x, y) = P( X ≤ x, Y ≤ y) 

מכאן:‏ y) F ( x) = P( X ≤ x, Y ≤ ∞ ) = lim F ( x, 

X 

y→∞ 

X , Y 

‏(וכנ"ל עבור Y). 

עבור שני משתנים מקריים בדידים,‏ פונקצית מסת ההסתברות המשותפת מוגדרת כך:‏ 

. PX , Y 

( x, y) = P( X = x, Y = y) 

- 15 -

207.2250 


כאשר 2 משתנים מקריים 

אזי 

( X 

1, 

X ) 2 

הינם 

(Independent and identically distributed) i.i.d. 

 

i.i.d. באורך 

X 

. F ( x , x ) = F ( x ) F ( x ) 

X1, X 2 1 2 X1 1 X 2 2 

n ‏(בעל 

n משתנים מקריים)‏ מתקיים 

או באופן כללי עבור וקטור 

. 

n 

F 

( x1,..., x ) = F ( x ) 

X ∏ 

n X i 

i= 

1 

הסתברות משותפת של אוסף i.i.d. ועבור הצפיפות המשותפת של אוסף 

של משתנים מקריים 

אותה תוצאה נכונה עבור פו'‏ מסת 

.i.i.d. 

סכומים של משתנים מקריים:‏ 

S n 

סכימה של משתנים מקריים הינה תופעה שכיכה ביותר במודלים הסתברותיים ובתהליכים סטוכסטיים.‏ 

בעקרון כל תהליך סטוכסטי בזמן בדיד ניתן להגדיר כסכום של משתנים מקריים ‏(לא בהכרח בלתי 

תלויים).‏ נגדיר:‏ 

X 

0 

= S0 

. 

X = S − S − 

n n n 1 

ואז:‏ 

. S 

n 

n 

= ∑ X 

k = 0 

k 

במידה והמשתנים המקריים 

X n 

הינם בלתי תלויים אזי 

{ S , n ≥ 0} 

n 

נקרא מהלך מקרי.‏ 

ניתן לחשב את חוק ההסתברות המשותף של סכום של משתנים מקריים בלתי תלויים במספר דרכים.‏ 

הדרך ה"ישירה"‏ היא באמצעות פעולת הקונבולוציה,‏ דרך אחרת ‏(ולרוב יותר פשוטה)‏ היא ע"י הכפלה של 

פונקציות יוצרות מומנטים או פונקציות יוצרות הסתברות,‏ לבסוף כאשר הסכום הוא של אוסף רב של 

משתנים מקריים אז ניתן להשתמש במשפטי גבול.‏ 

קונבולוציה:‏ 

עבור המקרה הבדיד,‏ קונבולוציה היא פעולה הפועלת על שתי סדרות של מספרים ופולטת סדרה שלישית.‏ 

עבור המקרה הרציף,‏ קונבולוציה היא פעולה אשר פעולת על שתי פונקציות ופולטת פונקציה שלישית.‏ 

בהינתן סדרה של מספרים 

ו b כך:‏ 

a = { a , n ≥ 0} 

n 

וסדרה נוספת 

, b = { b , n ≥ 0} 

n 

נגדיר את הקונבולוציה של 

a 

. c = ( a ⊗ b) 

= ∑ a b 

n n i n−i 

i= 

0 

∞ 

נוצרה כאן סדרה חדשה של מספרים 

, c n כאשר הערך של הסדרה ב 

n = n 0 

כלשהו הוא:‏ 

. 

∞ 

∑ 

i= 

0 

a b 

i n0 

−i 

לפעולת הקונבולוציה שימושים רבים בניתוח מערכות ליניאריות ובעיבוד אותות,‏ אבל השימושים אשר 

מעניינים אותנו הם בהסתברות:‏ 

נראה כי עבור שתי משתנים מקריים בדידים,חיוביים בלתי תלויים X,Y מתקיים כי פונקצית מסת ההסתברות 

של Z=X+Y היא הקונבולוציה של פונקציות המסה של X ושל Y. 

- 16 -

207.2250 


נסתכל על המאורע:‏ n] ,[ X + Y = 

הערכים הספציפיים אשר X ו 

מאורע זה ניתן לכתיבה כאיחוד זר של מאורעות אשר מתארים את 

Yמקבלים:‏ 

∞ 

∪ 

.[ X + Y = n] = [ X = i, Y = n − i] 

i= 

0 

i= 

0 

i= 

0 

i= 

0 

i= 

0 

ולכן:‏ 

P ( n) = P ( n) = P( X + Y = n) 

= 

Z X + Y 

∞ 

P( [ X = i, Y = n − i]) 

= 

∞ 

∑ 

∞ 

∑ 

∞ 

∑ 

∪ 

P( X = i, Y = n − i) 

= 

P( X = i) P( Y = n − i) 

= 

P ( i) P ( n − i) = ( P ⊗ P )( n) 

X Y X Y 

ניתן להגדיר קונבולוציה באופן דומה עבור פונקציות ‏(פו'‏ צפיפות של משתנים מקריים רציפים)‏ ואין הכרחי 

כי הפונקציות/סדרות יהיו בעלי תומך חיובי בלבד – לא נעשה זאת כאן.‏ 

1 2 

דוגמא א-‏‎3‎‏:‏ 

בלתי תלויים.‏ 

2 

X , X ∼ Bernulli( p) 

. N = X + X 

2 1 2 

. P( N = k) = ( P ⊗ P )( k) 

X1 X 2 

X1 X 2 X1 X 2 

i= 

0 

נגדיר 

אזי 

( P ⊗ P )( k) = P ( i) P ( k − i) 

k>2 

.k=0,1,2 

∞ 

∑ 

ראשית נבחין כי עבור 

נותר עם כך לחשב עבור 

ועבור 0>k הסכום לעיל אינו מכיל איברים חיוביים.‏ 

. 2 pq 

2 

. q :(i=0 

.pq :(i=1 ‏(כאשר qp :(i=0 

עבור 0=k הסכום מכיל איבר חיובי יחיד ‏(כאשר 

עבור 1=k הסכום מכיל 2 איברים חיוביים ‏(כאשר 

עבור 2=k הסכום מכיל איבר חיובי יחיד ‏(כאשר 

ולכן סה"כ:‏ 

2 

p 

:(i=1 

N ~ Bin( p, 

2) 

2 

דוגמא . 

קבלנו אם כך כמצופה כי 

X 

X 

א-‏‎4‎‏:‏ 

והם בלתי תלויים.‏ 

∼ Poisson( λ ) 

1 1 


2 2 

? Z = X + X 

1 2 

כיצד מתפלג 

- 17 -

207.2250 


P( Z = k) = ( P ⊗ P )( k) 

= 

i= 

0 

k 

i= 

0 

e 

e 

e 

e 

∞ 

∑ 

∑ 

X1 X 2 

X1 X 2 

X1 X 2 

P ( i) P ( k − i) 

= 

P ( i) P ( k − i) 

= 

k i k−i 

− ( λ1 + λ2 

) 1 2 

k i k −i 

− ( λ1 + λ2 

) 1 2 

k 

− ( λ1 + λ2 

) 

i k −i 

∑⎜ 

⎟λ1 λ2 

k! 

i= 

0 i 

− ( λ1 + λ2 

) 

∑ 

i= 

0 

λ λ 

= 

i!( k − i)! 

1 λ λ 

∑ k! 

= 

k! i!( k − i)! 

1 

i= 

0 

⎛ k ⎞ 

⎝ 

⎠ 

1 ( λ1 + λ2 

) 

k! 

קבלנו שסכום של שתי מ"מ פואסונים מתפלג פואסונית עם סכום העוצמות ‏(הפרמטרים).‏ 

k 

= 

– 

שימוש בפונקציה יוצרת מומנטים:‏ 

פעולת הקונבולוציה היא לפעמים מסובכת ‏(הן אנליטית והן נומרית).‏ מדוע אנליטית?‏ כי ככה יוצא.‏ ומדוע 

נומרית?‏ נניח כי ברצונו לבצע קונבולוציה של שתי פונקציות מסת הסתברות,‏ כל אחת בעלת תומך המכיל כ 

1000 ערכים,‏ אז מספר ההכפלות אשר עלינו לבצע הוא מסדר גודל של כמיליון.‏ 

ייצוג חוק ההסתברות ע"י פונקציה יוצרת מומנטים ‏(או גם פונקציה יוצרת הסתברות)‏ יכול להקל על המלאכה 

‏(לזכור כי X ו Y בלתי תלויים):‏ 

M t Ee Ee e Ee Ee M t M t 

( X + Y ) t Xt Yt Xt Yt 

X + Y 

( ) = = = = 

X 

( ) 

Y 

( ) 

החישוב דומה עבור פונקציה יוצרת הסתברות.‏ 

זאת אומרת שלאחר המרה של חוקי ההסתברות למרחב הפעולה המסובכת של סכום משתנים מקריים ‏(ולכן 

קונבולוציה פו'‏ מסת הסתברות)‏ מתפשטת לפעולה של מכפלה של פונקציות יוצרות מומנטים/הסתברות.‏ 

,t 

X 

דוגמא א-‏‎5‎‏:‏ 


∼ N( µ , σ ) 

2 

1 1 1 

2 

X 

2 

∼ N( µ 

2, σ 

2 

) 

? Z = X + X 

1 2 


M ( t) 

= e 

Xi 

σ 

µ + 

it 

2 2 

i t 

2 

ידוע כי 

‏(לא קשה לחשב זאת על פי הגדרה).‏ 

- 18 -

207.2250 


Z X1 X 2 

2 2 

N µ 

1 

+ µ 

2 

σ1 + σ 

2 

2 2 2 2 2 2 2 

σ1 t σ 2 t ( σ1 + σ 2 ) t 

1t + 2t+ ( 1+ 2 ) t+ 

2 2 2 

µ µ µ µ 

M ( t) = M ( t) M ( t) 

= e e = e 

. 

וזוהי פו'‏ יוצרת מומנטים של משתנה מקרי ) , ( 

(n ( X n גדול).‏ והמחוברים הינם .i.i.d. בעלי תוחלת 

) 

משפטי גבול:‏ 

כאשר הסכום המקרי הוא בעל הרבה מחוברים 

ושונות סופית אזי ניתן ליישם משפטי גבול.‏ 

S n 

החוק החלש של המספרים הגדולים:‏ 

.ε > 0 

משפט:‏ 

לכל 

Sn 

lim P(| − EX | > ε ) = 0 

n→∞ 

n 

הערה:‏ קל להוכיח משפט זה באמצעות אי שוויון צבישב/מרקוב.‏ 

החוק החזק של המספרים הגדולים:‏ 

S 

lim 

n 

n→∞ 

n 

.ε > 0 

= EX 

משפט:‏ 

לכל 

Sn 

P(lim | − EX | > ε ) = 0 

n→∞ 

n 

ניתן גם לומר זאת כך:‏ 

לכל 

ω Ω∋ בעלת הסתברות חיוביות 

S n 

הערה:‏ לזכור כי 

הוא 

פונקציה של ω. 

הערה:‏ החוק החזק והחוק החלש נראים דומים.‏ למרות זאת החוק החזק אומר הרבה יותר ‏(ולכן נקרא חזק).‏ 

הוא אומר שעבור כל ריאליזציה אפשרית של אוסף משתנים הממוצע שואף לתוחלת ‏(אין ריאליזציות 

בעלות הסתברות חיוביות אשר עבורן הממוצע אינו שואף לתוחלת).‏ החוק החלש,‏ בסך הכול טוען כי ככל 

שמגדילים את n ‏(את המדגם)‏ אז ההסתברות כי הממוצע יהיה שונה מהתוחלת הולכת וקטנה.‏ 

במילים אחרות,‏ החוק החזק מסתכל על כל התהליך לעומת החוק החלש אשר מסתכל על הפילוג השולי עבור 

,i.i.d. 

nVar( X ) 

n נתון.‏ 

משפט הגבול המרכזי:‏ 

משפט:‏ 

( ) 

lim F x = F ( x) 

n→∞ 

S −nEX Z 

n 

כאשר Z משתנה מקרי נורמאלי סטנדרטי.‏ 

- 19 -

207.2250 


1 

n 

2 n 

π + − 

דוגמא:‏ 

ניתן להוכיח במדויק ע"י קירוב של אינטגרל של .log 

את נוסחת סטירלינג 

כאן נראה הסבר אלטרנטיבי לנכונותה של הנוסחה.‏ 

.Poisson(1) המתפלגים i.i.d. 

.( n! ∼ 2 n e 

) 

{ X , n ≥1} 

n 

יהיו 

ז"א 

וגם 

אוסף משתנים מקריים 

.Var( X 

i 

) = 1 

. S 

n 

. Var( Sn) 

.Poisson(n) 

n 

= ∑ X 

Sn 

k= 

1 

= n 

i 

EX = 1 

i 

נסכל על הסכום 

. ES 

n 

אזי = n 

בנוסף ידוע כי 

וגם 

מתפלג 

− n 

n 

S n 

עכשיו עבור n גדול 

ולכן ניתן לכתוב:‏ 

מתפלג בקירוב נורמאלית סטנדרטית 

P( S = n) = P( n − 1 < S ≤ n) = P( − 1 < S − n ≤ 0) = 

n n n 

1 S 

2 

n 

− n 

1/ 2 x / 2 

P( − < ≤ 0) ≈ ∫ (2 π ) 

− e − dx 

n n 

0 

−1/ 

n 

1 

2π 

n 

ערך זה שווה בקירוב ל 

אבל בנוסף מתקיים 

‏(קירוב של האינטגרל באזור הנקודה 0). 

−n 

e n 

. P( Sn 

= n) 

= 

n! 

n 

ולכן 

−n 

n 

e n 1 

. ≈ 

n! 2π 

n 

ומכאן מייד נובעת נוסחת סטרלינג.‏ 

סטטיסטי סדר:‏ 

X ,...., 1 

X 

n 

ניקח אוסף משתנים מקריים i.i.d. 

‏(לפעמים נקרא לאוסף שכזה מדגם מקרי).‏ 

נניח כאן לצורך הדיון כי כל ערכי המדגם שונים זה מזה ‏(זה קורה בהסתברות 1 במידה ו X מ"מ רציפים).‏ 

1-k מהמשתנים 

– 1 הוא המינימום 

סטטיסטי הסדר ה - k של המדגם המקרי הוא הערך של המשתנה המקרי מתוך המדגם כך ש 

במדגם קטנים ממנו ו n-k משתנים במדגם גדולים ממנו.‏ ‏(כך שסטטיסטי הסדר ה 

וסטטיסטי הסדר ה n הוא המקסימום).‏ 

ניתן להגדיר זאת במדויק כך:‏ 

- 20 -

207.2250 


X 

(1) 

= min X 

1≤i≤ 

n 

1 = arg min X 

1≤i≤n 

i 

i 

X 

(2) 

( k ) 

= min X 

1≤i≤n 

i≠ 

1 

2 = arg min X 

.... 

.... 

X 

k 

... 

... 

1≤i≤ 

n 

i≠ 

1 

min 

1≤i≤n 

i≠ 

1 ,..., k−1 

= arg min X 

1≤i≤n 

i≠ 

1 ,..., k−1 

X = min X = max X 

n 

= 

( n) 

1≤i≤n 

i 

1≤i≤n 

i 

i≠ 

1 ,..., n−1 

= arg min X = arg max 

X 

1≤i≤ 

n 

i≠ 

1 ,..., n−1 

i 

i 

X 

i 

i 

i 

1≤i≤ 

n 

i 

k ו k – 

X 

( k ) 

אזי 

הk‏.‏ ‏(ז"א מתקיים 

הוא סטטיסטי הסדר ה 

הוא האינדקס של המשתנה המקרי אשר הוא סטטיסטי הסדר 

.( X 

( k ) 

= X 

k 

. ( X ,..., X ) 

(1) ( n) 

נשאל מספר שאלות לגבי חוק ההסתברות של סטטיסטי הסדר ה 

נתחיל לצורך חימום עם מציאת חוק ההסתברות של המינימום:‏ 

k ושל כל הוקטור 

F ( x) = P( X > x) = P( X > x,..., X > x) = P( X > x)... P( X > x) 

X(1) (1) 1 n 1 

n 

n 

= ( P( X > x)) = ( F X ( x)) 

n 

באופן דומה,‏ חוק ההסתברות של המקסימום:‏ 

. F ( x) = P( X ≤ x) = P( X ≤ x,..., X ≤ x) = ( F ( x)) 

X ( n) ( n) 1 

n X 

n 

( ( X ,..., X ) 

(1) ( n) 

X 

,..., X 

n 

(1) ( ) 

הצפיפות המשותפת של 

‏(של הוקטור 

היא:‏ 

n 

( x1 

,..., xn 

) 

( X (1) ,..., X( ) )( 1,..., ) ! ( ) 

n 

n 

= ∏ X i C 

j= 

1 

f x x n f x I 

- 21 -

207.2250 


כאשר הקבוצה C ‏(התומך של הצפיפות המשותפת)‏ מוגדרת כך:‏ 

. C = {( x ,..., x ) ∈ R : x < x < ... < x } 

n 

1 n 

1 2 

n 


עבור 1,2=i והם בלתי תלויים.‏ 

( X , X ) 

(1) (2) 

X ~ Uniform(0, t) 

i 

אזי ההתפלגות המשותפת של 

היא ‏"אחידה"‏ על התומך:‏ 

X 

(2) 

t 

התומך 

t 

X 

(1) 

2 

2 

t 

2 

t 

2 

שטח התומך הוא 

וגובה הצפיפות או 

‏(על פי הנוסחה לעיל).‏ 

< 1 > , < 2 > ,..., < n > 

הוכחה של נוסחת הצפיפות המשותפת של סטטיסטי הסדר:‏ 

תהי A תת קבוצה של המרחב:‏ 

‏(תמורה)‏ על 

תהי 

!n הפרמוטציות על 

קבוצת כל תהי . A ⊆ R 

.{1,..., n} 

.{1,..., n} 

n 

( X ,..., X ) 

(1) ( n) 

σ פרמוטציה 

Σ 

' 

יהי X 

יהי 

אז:‏ 

הוקטור הסדור 

כאשר 

נתונים ע"י σ. 

0∈Σ 

. C = {( x ,..., x ) ∈ R : x < x < ... < x } 

n 

1 n 

1 2 

P( X ' ∈ A) = P( X ' ∈ A∩ C) = P( X ∈ A∩ C) 

= 

σ 

∑ 

( X ∈ A ∩ C, σ = σ ) 

σ 

σ 

0 

0 

= σ X ∈ σ 

A ∩ C 

0 

P( X A C) P( X A C) 

σ 

n 

נשים לב שאם 

אזי 

ואז 

∈ ∩ = ∈ ∩ σ 0 

ולכן 

P ( X ' ∈ A ) = ( X ∈ A ∩ C ) = n ! P ( X ∈ A ∩ C ) = n ! f ( x ) dx = n ! f ( x ) I dx 

σ 

∑ ∫ ∫ 

0∈Σ 

( x) 

A∩C X 

A 

X C 

מ.ש.ל.‏ 

- 22 -

207.2250 


פרק א-‏‎3‎‏:‏ הסתברות מותנית,‏ התפלגות מותנית,‏ תוחלת מותנית.‏ 

הסתברות מותנית מהווה מרכיב מרכזי בניתוחים של הרבה מהתהליכים הסטוכסטיים אשר נלמד בקורס זה.‏ 

כנלמד במבוא להסתברות ההגדרה של ההסתברות המותנית של מאורע A בהינתן מאורע B ‏(אשר 

הסתברותו חיובית ממש)‏ היא:‏ 

2 ‏(או 

P( AB) 

. P( A | B) 

= 

P( B) 

הגדרה זו משקפת את השינוי של חלוקת ההסתברויות של התוצאות לאור האינפורמציה אשר קיבלנו.‏ 

שני מאורעות הינם בלתי תלויים אם .P(AB)=P(A)P(B) 

יותר)‏ מרחבי הסתברות.‏ 

במידה ו A ו B בלתי תלויים אז 

מושג האי-תלות מאפשר לנו לקבץ יחדיו 

.P(A|B)=P(A) 


האם ייתכנו שתי מאורעות זרים A,B בעלי הסתברות חיוביות ממש בלתי תלויים?‏ 

אבל אם A ו B זרים אז 

לא,‏ נניח בשלילה כי A ו B בלתי תלויים אז 

ולכן סתירה.‏ 

. P( AB) = P( A) P( B) > 0 

.P(AB)=0 

AB = ∅ 

{ B γ 

, γ ∈Γ} 

P( A) = ∑ P( A | Bγ 

) P( Bγ 

) 

בהינתן אוסף מאורעות 

זרים בזוגות,‏ מתקיימת נוסחת ההסתברות השלמה:‏ 

כאשר ניתן להתייחס לסכום כאינטגרל במידה והקבוצה של המאורעות 

γ ∈Γ 

P( Bγ 

) > 0 

Γ אינה בת-מנייה.‏ 

.'1' 

.(γ עבור כל P( B γ 

) 

P( A | B γ 

) 

P( B | A) 

γ 

נוסחת בייס היא דרך לחשב את 

‏(כאשר ידוע לנו 

ו 

P( B | A) 

γ 

P( B A) P( A | B ) P( B ) 

γ γ γ 

= = 

P( A) P( A | Bγ 

) P( Bγ 

) 

γ∈Γ 

∑ 

P( Bγ 

) > 0 

דוגמא א-‏‎15‎‏:‏ 

מערכת תקשורת מכילה משדר המשדר אחד משתי האותות או ומקלט הנמצא במרחק רב מהמשדר 

משודרים 

ומנסה לפענח את האות אשר המשדר שידר.‏ אותות משודרים בהסתברות 

בהסברות בגלל המרחק הרב בין המשדר למקלט,‏ מתווסף רעש משמעותי לאות הנקלט וישנה הסתברות 

של α כי המקלט החליט כי קלט למרות שבעצם שודר או החליט כי קלט למרות שבעצם שודר 

נתון כי המקלט קלט מה ההסתברות שמהשדר באמת שידר 

1-p ואותות '1' 

'0' 

P( T | R ) 

1 1 

'1' 

?'1' 

'0' 

'0' 

'0' 

'1' 

1 1 1 

= = 

1 1 1 1 0 0 

, '1' 

.i 

.p 

T i 

נסמן 

נסמן 

אז לפי בייס:‏ 

- שידור של 

.i קליטה של - R i 

P( R | T ) P( T ) (1 −α) 

p 

P( R | T ) P( T ) + P( R | T ) P( T ) (1 − α) p + α(1 − p) 

- 23 -

207.2250 



במשחק טלוויזיה משתתף צריך לבחור 1 מ-‏‎3‎ דלתות ‏(מאחורי 2 דלתות אין כלום ומאחורי דלת אחת יש 

מיליון דולר).‏ המשתתף בחר את דלת מס'‏ 1 ולאחר מכן המארח של המשחק פתח את דלת מס'‏ 

למשתתף שאין כלום מאחורי דלת זו.‏ 

בשלב זה המשתתף נשאל האם ברצונו לדבוק בדלת מס'‏ 1 או לשנות את בחירתו לדלת מס'‏ 3. 

2 והראה 

.3 

א)‏ 

ב)‏ 

מהי ההסתברות לזכייה במידה ויישאר עם דלת מס'‏ 

מהי ההסתברות לזכייה במידה וישנה את בחירתו לדלת מס'‏ 

.1 

.1 

נסמן ב את המאורע שהמיליון נמצא מאחורי דלת 

נסמן ב – E את המאורע שהמנחה פתח את דלת מס'‏ 2 לאחר שהמשתתף בחר את דלת מס'‏ 

.i 

2 

. P( A 

i 

) = 

3 

A i 

1 

P( A 

i 

) = 

3 

ידוע ש 

בנוסף:‏ 

ולכן גם 

1 

P( E | A1 

) = 

2 

P( E | A ) = 0 

2 

P( E | A ) = 1 

3 


1 1 1 1 1 

P( E) = P( E | A1 ) P( A1 ) + P( E | A2 ) P( A2 ) + P( E | A3 ) P( A3 

) = * + 0* + 1* = 

2 3 3 3 2 

ולכן:‏ 

P( A | E) 

1 

P( A | E) 

3 

P( E | A ) P( A ) 

1 1 

* 

2 3 1 

P( E) 1 3 

2 

1 1 

= = = 

P( E | A ) P( A ) 

1 

1* 

3 2 

P( E) 1 3 

2 

3 3 

= = = 

א)‏ 

ב)‏ 

העובדה כי חיתוך של מאורעות ניתן לביטוי כמפלה של הסתברות בהסתברות מותניית 

) B) ( P( AB) = P( A | B) P( באה לידי ביטוי גם בנוסחת השרשרת:‏ 

- 24 -

207.2250 


P( B ... B ) = 

1 

P( B | B ... B ) P( B ... B ) = 

n 1 n−1 1 n−1 

P( B | B ... B ) P( B | B ... B ) P( B ... B ) = 

... = 

n 

n 1 n−1 n−1 1 n−2 1 n−2 

P( B | B ... B ) P( B | B ... B )... P( B | B ) P( B ) 

n 1 n−1 n−1 1 n−2 2 1 1 

חוק ההסתברות המותנה של משתנים מקריים:‏ 

להלן פונקצית מסת ההסתברות המותניית עבור משתנים מקריים בדידים:‏ 

. PX , Y 

( x, y) = PX ( x) PY 

( y) 

PX , Y 

( x, y) 

. PX | Y 

( x | y) = P( X = x | Y = y) 

= 

P ( y) 

עבור משתנים מקריים בלתי תלויים מתקיים:‏ 

PX | Y 

( x | y) = PX 

( x) 

Y 

ולכן במקרה זה 

להלן פונקצית הצפיפות המותניית עבור משתנים מקריים רציפים:‏ 

f 

X | Y 

f 

( x | y) 

= 

X , Y 

Y 

( x, y) 

f ( y) 

∆x∆y 

∆x 

∆y 

f 

X , Y 

( x, y) 

∆x∆y 

f 

X | Y 

( x | y) 

∆ x = 

fY 

( y) 

∆y 

P( x < X ≤ x + ∆ x, y < Y ≤ y + ∆y) 

P( x < X ≤ x + ∆ x | y < Y ≤ y + ∆y) 

≅ 

P( x < Y ≤ x + ∆x) 

כאשר נכפיל את צד שמאל ב 

ואת צד ימין ב 

נקבל.‏ 

ולשוויון זה יש משמעות הסתברותית:‏ 

כמו במקרה הבדיד,‏ במקרה הרציף מתקיים כי עבור משתנים מקריים בלתי תלויים:‏ 

. 

f 

X | Y 

( x | y) = f 

X 

( x) 

X 

X 

דוגמא א-‏‎8‎‏:‏ 


X 1 


1 1 


2 2 

, X + X = n 

1 2 

ידוע כי 


צריך למצוא את ההתפלגות המותניית של בהינתן 

‏(ההסתברות היא אפס עבור ערכים שונים מאלו).‏ 

ברור שיש לדון בערכים 

. X1 + X 

2 

= n 

X 1 

k = 0,..., n 

- 25 -

207.2250 


P( X = k | X + X = n) 

= 

1 1 2 

P( X1 = k, X1 + X 

2 

= n) 

= 

P( X + X = n) 

1 2 

P( X1 = k, X 

2 

= n − k) 

= 

P( X + X = n) 

1 2 

P( X1 = k) P( X 

2 

= n − k) 

= 

P( X + X = n) 

1 2 

k 

n−k 

−λ 

λ 

1 1 −λ 

λ 

2 2 

e e 

k 

k! ( n − k)! 

⎛ n ⎞⎛ λ ⎞ ⎛ λ ⎞ 

− λ1 + λ2 

e ( λ λ ) ⎝ ⎠⎝ λ λ ⎠ ⎝ λ λ ⎠ 

n! 

λ1 

X1 | X1 + X 

2 

= n ∼ Bin( n, ) 

λ + λ 

1 1 

= 

n ⎜ ⎟⎜ ⎟ ⎜ ⎟ 

1 

+ 

2 

k 

1 

+ 

2 1 

+ 

2 

1 2 

n−k 

קבלנו אם כך כי 

1 1 

2 2 



X ∼ Bin( n , p) 

X ∼ Bin( n , p) 

i הוא:‏ 

. X 1 

, X1 + X כיצד מתפלג 

2 

= r 

P( X = k | X + X = r) 

= 

1 1 2 

P( X1 = k, X1 + X 

2 

= r) 

= 

P( X + X = r) 

1 2 

P( X1 = k, X 

2 

= r − k) 

= 

P( X + X = r) 

1 2 

P( X1 = k) P( X 

2 

= r − k) 

= 

P( X + X = r) 

1 2 

⎛ n ⎞⎛ n ⎞ 

⎜ ⎟⎜ ⎟ p (1 − p) p (1 − p) 

⎝ k ⎠⎝ r − k ⎠ 

⎛ n1 + n2 

⎞ 

r n1 + n2 

−r 

⎜ ⎟ p (1 − p) 

⎝ r ⎠ 

⎛ n1 ⎞⎛ n2 

⎞ 

⎜ ⎟⎜ ⎟ 

⎝ k ⎠⎝ r − k ⎠ 

⎛ n1 + n2 

⎞ 

⎜ 

r 

ידוע כי 

1 2 k n1 −k r −k 

n2 

−( r−k 

) 

קבלנו אם כך כי ⎟ ⎠ ⎝ 

X | X + X = r ∼ Hyperg( n + n , n , r) 

1 1 2 1 2 1 

– n ניסויים ישנם 

= 

מקרה פרטי:‏ אם ב 

r הצלחות אז הסיכוי כי ההצלחה בניסוי ה 

- 26 -

207.2250 


.( ו k=1 n = 1, n = n −1 

1 2 

. ‏(זאת ע"י התוצאה הקודמת כאשר 

n 

r 

P( X 

i 

= 1| ∑ X 

j 

) = 

n 

j= 

1 

Λ 


יהיו שני משתנים מקריים.‏ 

נניח כי פונקצית הצפיפות המשותפת שלהם היא:‏ 

X , Λ 

1 − xλ 

f 

X , Λ 

( x, λ) = λe I{[0, ∞)} ( x) I{[0,2]} 

( λ) 

2 

זהו ‏"מודל תערובת"‏ ובו X מתפלג אקספוננציאלית עם פרמטר 

[0,2] במקרה זה).‏ בו נראה:‏ 

נחשב 

עבור 

שהוא בעצמו משתנה מקרי ‏(יוניפורמי 

. λ ∈[0,2] 

f 

X | Λ 

f 

( x | λ) 

= 

f 

X , Λ 

Λ 

( x, λ) 

( λ) 

∞ 

−xλ 

{[0,2]} ∫ 

{[0,2]} 

0 

ראשית:‏ 

1 1 

fΛ ( λ) = I ( λ) λe dx = I ( λ) 

2 2 

אז אכן 2) Uniform(0, λ ∼ 

ולכן אכן:‏ 

f ( x, λ) 

f ( x | λ) = = λe I ( x) 

X , Λ 

− xλ 

X | Λ 

{[0, ∞)} 

fΛ 

( λ) 

תוחלת ושונות מותניית:‏ 

נגדיר את התוחלת המותניית להיות התוחלת המחושבת באמצעות חוק ההתפלגות המותנה:‏ 

E[ X | Y = y] = ∑ xPX | Y במקרה הבדיד.‏ 

( x | y) 

∞ 

x=−∞ 

או 

E[ X | Y = y] = ∫ xf במקרה הרציף.‏ 

X | Y 

( x | y) 

dx 

חשוב לשים לב ש E[X|Y] היא פו'‏ של המשתנה המקרי Y. ולכן E[X|Y] הוא משתנה מקרי בעצמו.‏ 

∞ 

−∞ 

X ,..., 1 

X 

n 

0 ≤ k ≤ n ) k 


נתונה סדרה 

בסדרה הוא 

i.i.d. של משתנים ברנולי ‏(בעלי הסתברות הצלחה נתון כי מספר ההצלחות 

מה תוחלת מספר ההצלחות ב m הניסיונות הראשונים 

?( m ≤ n ) 

.(p 

,( 

. 

m n 

E[ X | X = k] 

∑ 

∑ 

i 

i= 1 j= 

1 

j 

ברצוננו לחשב את 

מתקיים:‏ 

- 27 -

207.2250 


m n m n 

E[ X | X = k] = E[ X | X = k] 

∑ ∑ ∑ ∑ 

i j i j 

i= 1 j= 1 i= 1 j= 

1 

n i−1 

n 

k 

E[ X | ∑ X = k] = P( X = 1| ∑ X + X + ∑ X = k) 

= 

n 

i j i j i j 

j= 1 j= 1 j= i+ 

1 

i 

i= 1 j= 

1 

ובנוסף מתקיים 

m n 

k 

E[ ∑ X | ∑ X 

j 

= k] 

= m n 

ולכן 

משפט התוחלת המותניית:‏ ] X . E[ E[ X | Y ]] = E[ 

כנאמר קודם,‏ E[X|Y] הוא משתנה מקרי ולכן המשמעות של התוחלת החיצונית במשפט היא תוחלת על 

המשתנה המקרי הנ"ל ‏(זאתי תוחלת המחשבים לפי חוק ההסברות של Y). 

הוכחה ‏(למקרה הרציף):‏ 

f ( x, y) 

E E X Y = E xf x y dx = E x dx = 

∞ 

∞ 

X , Y 

[ [ | ]] [ ∫ X | Y 

( | ) ] [ ∫ 

] 

fY 

( y) 

−∞ 

−∞ 

f 

( x, y) 

∞ ∞ ∞ ∞ ∞ 

X , Y 

∫ ∫ x dxfY ( y) dy = xf 

X , Y 

( x, y) dxdy xf 

X 

( x) 

dx EX 

fY 

( y) 

∫ ∫ = ∫ = 

−∞ −∞ −∞ −∞ −∞ 

ההוכחה למקרה הבדיד דומה.‏ 


Var( X ) = E[ X ] − ( E[ X ]) = EE[[ X | Y ]] − ( E[ E[ X | Y ]]) 

2 2 2 2 

- 28 -

207.2250 


פרק א-‏‎4‎‏:‏ 

דוגמאות לשימוש בהתניה.‏ 

חישובי תוחלת של משתנים מקריים בעזרת תוחלת מותניית:‏ 

1 

p 

כזכור משתנה מקרי גיאומטרי – סופר ניסיונות הוא בעל תוחלת 

להלן החישוב הישיר:‏ 

∞ ∞ ∞ 

k −1 j−1 

∑ 

k(1 − p) p = p (1 − p) 

k = 1 k= 1 j= 

k 

= p (1 − p) 

k = 1 j ' = 0 

j ' + k−1 

k = 1 j ' = 0 

∞ 

k −1 j ' 

= p (1 − p) (1 − p) 

∞ 

∞ 

p 

k 

= ∑(1 − p) ∑ (1 − p) 

1− 

p 

k= 1 j ' = 0 

p 1− 

p 1 

= 

1 − p 1 − (1 − p) 1 − (1 − p) 

1 

= 

p 

∞ 

∞ 

∞ 

∑∑ 

∑ 

∑ 

∑∑ 

חישוב זה אינו ארוך מדי,‏ אבל למרות זאת נראה כיצד ניתן להגיע לתוצאה בצורה אלגנטית באמצעות תוחלת 

מותניית:‏ 

יהיה T המשתנה המקרי הגיאומטרי סופר הניסיונות.‏ נגדיר משתנה מקרי חדש Y כך ש Y מקבל 1 אם 

בניסיון הראשון מצליחים,‏ 

אחרת Y הוא 0. 

j ' 

על פי משפט התוחלת המותניית:‏ 

. ET = E[ E[ T | Y ]] = E[ T | Y = 0] P( Y = 0) + E[ T | Y = 1] P( Y = 1) = ( E[ T ] + 1) q + 1p 

כעת נפתור עבור :ET 

ET − qET = q + p 

ET (1 − q) 

= q + p 

1 

ET = 

p 

סכום אקראי:‏ 

יהיו סדרה של משתנים מקריים 

כבר דנו בפילוג של סכום של n משתנים מקריים כאלו,‏ אבל מה אם מספר המשתנים המקריים אשר אנו 

מחברים הוא אקראי,‏ 

זהו מודל מתאים לתביעות אשר מגיעות לחברת ביטוח בפרק זמן נתון ‏(ידוע מה ההתפלגות של גודל כל 

תביעה,‏ וידועה ההתפלגות של מספר התביעות).‏ מעוניינים בחוק ההסתברות ‏(או לפעמים רק בתוחלת)‏ של 

סכום התביעות:‏ 

.i.i.d. 

נסמנו N. 

X , X ,.... 

1 2 

- 29 -

207.2250 


N 

∑ 

k 

k = 1 k = 1 

N 

. S = ∑ X 

:E[S] 

n= 

1 

n 

נחשב את 

E[ S] = E[ X ] = E[ E[ X | N = n]] 

N 

∑ 

k 

N n n 

E[ X | N = n] = E[ X ] = EX = nEX 

∑ ∑ ∑ 

k k k 

k = 1 k = 1 k= 

1 

אבל 

ולכן 

ז"א כמצופה,‏ התוחלת של סכום אקראי היא תוחלת מספר האיברים בסכום כפול תוחלת גודל האיברים.‏ 

E[ X ] E[ X ] 

i 

j 

E[ S] = E[ N( EX )] = ( EX )( EN) 

נחשב את :Var(S) 

כמובן שמתקיים 

Var( S) = E[ S ] − E[ S] = E[ S ] − E[ N] E[ X ] 

:( E S 

2 

[ ] 

2 2 2 2 2 

אם כך ראשית נחשב את המומנט השני של ) S 

N 

N 

2 2 2 

[ ] = [( ∑ k 

) ] = [ [( ∑ k 

) | = ]] 

k= 1 k = 1 

E S E X E E X N n 

N 

n 

2 2 

[( ∑ k 

) | ] [( ∑ k 

) ] [( 

1 

... 

n)( 1 

... 

n)] 

k = 1 k= 

1 

E X N = n = E X = E X + + X X + + X = 

E[ X + X X + X X + ... + X X + 

2 

1 1 2 1 3 1 

X X + X + X X + ... + X X + 

+ 

... 

+ 

2 

2 1 2 2 3 2 

2 

n 1 

+ 

n 2 

+ ... + 

n 

] 

X X X X X 

i ≠ j 

E[ X X ] 

i 

j 

n 

n 

X , X ,.... 

1 2 

אבל 

בגלל האי-תלות של הסדרה 

ולכן סכום זה שווה ל 

אז גורמים מהסוג 

כאשר 

הם 

– 

2 2 

E[ X1 

] + ... + E[ X 

n 

] +∑ E[ X 

i 

] E[ X 

j 

] 

i≠ 

j 

n המחוברים הראשונים בביטוי לעיל כולם שווים ל 

2 

] X . ]E שאר המחוברים גם הם שווים וכולם שווים ל 

N 

∑ 

k = 1 

⎛ n⎞ 

. ⎜ ⎟ 2 = n( n −1) 

⎝ 2⎠ 

2 

] X . E[ כמה כאלו יש?‏ 

אם כך קיבלנו:‏ 

E[( X ) | N = n] = nE[ X ] + n( n − 1) E[ X ] = nE[ X ] + n E[ X ] − nE[ X ] 

k 

2 2 2 2 2 2 2 

ולכן 

- 30 -

207.2250 


[ 

2 

] 

N 

2 

[ [( ∑ k 

) | ]] [ [ 

2 

] 

2 

[ 

2 

] [ 

2 

] ] 

k= 

1 

E S = E E X N = n = E NE X + N E X − NE X = 

E[ N] E[ X ] + E[ N ] E[ X ] − E[ N] E[ X ] = E[ N] Var( X ) + E[ N ] E[ X ] 

2 2 2 2 2 2 

Var( S) E[ S ] E[ N] E[ X ] E[ N] Var( X ) E[ N ] E[ X ] E[ N] E[ X ] 

2 2 2 2 2 2 2 

= − = + − = 

E[ N] Var( X ) + Var( N) E[ X ] 

2 

ולכן 

נחשב את חוק ההתפלגות של סכום אקראי:‏ 

כאשר פונקציות יוצרות המומנטים של X ושל N נתונות:‏ 

נניח שוב כי 

S = X1 + ... + X 

N 

. M (.), M (.) 

נחשב את הפונקציה יוצרת מומנטים של S: 

N 

N 

t∑ 

X k 

t∑ 

X k 

k= 1 k= 

1 

S 

( ) = = [ [ | = ]] 

M t Ee E E e N n 

X 

N 

N 

n 

t∑ 

X k 

t∑ 

X k n 

k= 1 k= 

1 

tX k 

n 

[ | = ] = = ∏ = ( 

X 

( )) 

k = 1 

E e N n Ee Ee M t 

M t E M t E e M M t 

N 

log( ( )) 

( ) [( ( )) ] [ N M X t 

S 

= 

X 

= ] = 

N 

(log( 

X 

( )) 

אבל 

ולכן 

. x 

,..., x 

n 

(1) ( ) 

:quick sort 

x ,..., 1 

xn 

. 

ניתוח זמן הריצה הממוצע של אלגוריתם 

אלגוריתם מיון הוא אלגוריתם אשר מקבל מדגם מקרי 

ופולט את סטטיסטי הסדר 

במילים אחרות האלגוריתם ממין את הסדרה 

ישנם אלגוריתמים רבים אשר יכולים לבצע פעולה זאת ‏(ייתכן ובקורס שפת C או מבוא למדעי המחשב 

פגשתם מספר אלגוריתמים כאלו).‏ אחד האלגוריתמים הפופולאריים והשימושיים ביותר הוא 

האלגוריתם מוגדר באופן הבא ‏(נניח כאן כי ערכי המדגם הינם שונים זה מזה):‏ 

כאשר 1=n אין מה למיין.‏ 

כאשר 2=n האלגוריתם ממין את שתי הערכים באופן טריוויאלי ‏(ממקם את הקטן לפני הגדול).‏ 

כאשר 2

207.2250 


. S i 

S i 

S = (2,1) 

S 

i 

i 

= (10,5,8,7) 

כעת יש לחזור על האלגוריתם על 

על 

על 

ועל 

: S i בגלל ש 2=n המיון הוא פשוט ומקבלים (1,2). 

נבחר באקראי ערך,‏ נאמר כי נבחר 7, 

אזי מקבלים 

. S 'i 

S ' i 

: S i 

S ' = (5) 

i 

S ' i = (8,10) 

כעת יש לחזור על האלגוריתם על 

על 

אין מה למיין.‏ 

ועל 

(n=2) 

S ' i 

על המיון הוא שוב טריוויאלי 

סך הכול קבלנו:‏ 

וגם כאן הערכים כבר ממוינים.‏ 

S 'i 

( S , 4,( S ' ,7, S 

 

' )) = 

i i i 

((1, 2), 4,((5),7,(8,10))) 

‏(כאשר הסימון ~ מתאר קבוצה בגודל 1 אשר מוינה באופן טריוויאלי).‏ 

הסוגריים מתארים את הקריאות הרקורסיביות אשר האלגוריתם ביצע.‏ וכאשר מורידים את הסוגריים אז 

מקבלים את הסדרה הממוינת.‏ 

כאשר דנים ביעילות של אלגוריתמי מיון אז נהוג לדון במספר ההשוואות אשר האלגוריתם נדרש לבצע.‏ לרוב 

נהוג לתאר מספר זה כפונקציה של גודל המדגם (n) ‏(ומחפשים אלגוריתמים אשר בהם מספר ההשוואות לא 

גדל יותר מדי מהר כאשר 

j 

. M n 

quick sort מבצע.‏ 

2 או 

n גדל).‏ 

כאן ננתח את תוחלת מספר ההשוואות אשר 

נגדיר את 

נסמן את ערך זה ב 

M n | j להיות תוחלת מספר ההשוואות על קלט בגודל n כאשר נתון כי הערך אשר נבחר הוא ה 

הכי קטן.‏ .(j=1,…,n) 

ברור כי 

‏(כאשר 

( M וזאת כי יש לבצע 1-n השוואת בין הערך 

0 

= 0 

S i 

M = ( n − 1 + M + M ) 

n| j j−1 

n− 

j 

ובה 

ובה 1-j ערכים ועל הקבוצה הנבחר לשאר הערכים ולאחר מכן לחזור על הפעולה על הקבוצה n-j ערכים.‏ 

עכשיו,‏ בגלל שהערכים נבחרים על פי התפלגות אחידה בדידה אזי בהנחה שהקלט הוא אקראי לחלוטין,‏ קל 

S i 

1 

. 

n 

n 

n 

1 1 

M 

n 

= ∑ M 

n| j 

= ∑( n − 1 + M 

j−1 

+ M 

n− 

j 

) = 

n 

n 

לראות כי ההסתברות שהערך הנבחר הוא ה j הכי קטן היא 

מכאן:‏ 

j= 1 j= 

1 

1 

n − 1 + (( M 

0 

+ M 

n−1) + ( M1 + M 

n−2) + ... + ( M 

n−2 + M1) + ( M 

n−1 + M 

0)) 

= 

n 

n−1 

1 

n − 1+ 

2∑ 

M 

k 

n 

k = 1 

מכאן:‏ 

- 32 -

207.2250 


n−1 

nM 

n 

= n( n − 1) + 2∑ 

M 

:n+1 

k = 1 

n 

+ 

n+ 

1 

= + + ∑ 

k= 

1 

k 

או עבור 

( n 1) M ( n 1) n 2 M 

נחסיר את שתי המשוואות לקבל:‏ 

( n + 1) M − nM = 2n + 2M 

n+ 

1 n n 

k 

או:‏ 

( n + 1) M = 2 n + (2 + n) 

M 

n+ 

1 

n 

ולכן:‏ 

M 

n+ 1 

2n 

M 

n 

= + 

n + 2 ( n + 2)( n + 1) n + 1 

M n + 1 

n + 2 

עכשיו קבלנו ביטוי עבור 

הצבות חוזרות:‏ 

אשר מורכב מאותו ערך עבור n יותר קטן ב-‏‎1‎ ותוספת ולכן ניתן לבצע 

.( nlog 

n 

M 

n+ 

1 

2n 

M 

n 

= + = 

n + 2 ( n + 2)( n + 1) n + 1 

2n 

2( n −1) 

M 

( n + 2)( n + 1) ( n − 1+ 2)( n − 1+ 1) n − 1+ 

1 

... 

k = 0 

n−1 

+ + = 

n−1 

2( n − k) 

M 

= ∑ 

+ 

( n + 2 − k)( n + 1 − k) 1 

:( M 

1 

= 0 

M 

1 

ולכן ‏(ע"י ארגון מחדש והעובדה ש 

n+ 

1 

= 2( n + 2) 

n 

∑ 

i= 

1 

i 

( i + 1)( i + 2) 

ניתן להראות כי גודל זה שווה בקירוב ל 

‏(ולכן אומרים כי מספר ההשוואות של quick sort על קלט בגודל n הוא בממוצע מסדר גודל של 

. 2( n + 2)log ( n + 2) 

2 

- 33 -

207.2250 



.I – 

ω ω ω1 ω2 

ω i 

. Ω = { : = ( , ,.....), = 1,0} 

i 

i 

i 

ז"א מרחב המדגם הוא אוסף כל הסדרות 

נחשוב על ניסוי ובו 

הבינאריות האינסופיות ‏(ניתן גם לחשוב על 1 כהצלחה ו על 0 ככישלון ואז מרחב המדגם שקול לאוסף כל 

סדרות התלות המטבע האינסופיות).‏ נאמר שמידת ההסתברות P, היא כזאת הנותנת הסתברות 

וq=1-p עבור המאורע המשלים.‏ 

לכל מאורע מהסוג 

A = { ω = 1} 

A ∈Σ 

p ∈[0,1] 

. P( X = 1) = EX = p 

i 

i 

. X ( ω) = I ( ω) 

i A i 

נגדיר משתנים מקריים 

משתנים מקריים ברנולי 

כך ש 

ז"א 

אלו הם כמובן 

X , X ,.... 

1 2 

.i.i.d. 

ב 

משלב זה והלאה כבר לא נדון ב 

,Ω אלה רק נדון בתהליך ברנולי i.i.d. ובתהליכים אשר יגזרו ממנו.‏ 

Σ 

הגדרה:‏ 

תהליך ברנולי :i.i.d. הוא אוסף משתנים מקריים i.i.d. ברנולי אם פרמטר p. 

{ X 

נסמן ב{...,‏‎2‎ = 1, n n, 

(bits) 

.{ X , n ≥ 1} 

כי:‏ ברור 

n 

EX 

n 

באמצעות תהליך זה ניתן למדל תופעות רבות לדוגמא סיביות אשר מגיעות ממקור לא ידוע ‏(דיסק,‏ 

אינטרנט,‏ תקשורת סלולארית)‏ וזאת במידה וערך כל סיבית אינו תלוי בסיבית הקודמת או ההבאה.‏ 

= p 

קל לראות גם כי:‏ 

Var( X 

n 

) 

= pq 

בנוסף קל לראות כי השונות של 

X n היא מקסימאלית עבור פרמטר 

1 

p = 

2 

d 

d 

p p p p p 

dp dp 

p 

* 

d 

dp 

= 

2 

(1 − ) = ( − ) = 1− 2 = 0 

1 

2 

d 

dp 

2 

2 

( p − p ) = (1 − 2 p) = − 2 < 0 

2 

או 

תהליך זה אינו כל כך מעניין בשל עצמו,‏ הרי הוא בסך הכול סדרת 

נוספים בעלי מבנה וקשרים בין הערכים של התהליך קצת יותר מורכב.‏ 

i.i.d. אבל כעת נבנה ממנו תהליכים 

תהליך ספירה ברנולי ‏(תהליך בינומי):‏ 

נבנה כעת את התהליך הבא:‏ 

- 34 -

207.2250 


N 

n 

⎧0 n = 0 

= ⎨ 

⎩X1 

+ ... + X 

n 

n = 1,2,.. 

.n 

N 

0 

= 0 

−1 

או:‏ 

Nn = N , 1 

n 

+ X 

n 

n ≥ 

מהו 

זהו תהליך ספירה ברנולי ‏(נקרא גם תהליך בינומי).‏ הוא סופר את מספר ההצלחות אשר אירעו עד הזמן 

. 

? EN n 

. EN = E[ X + ... + X ] = EX + ... + EX = np 

n 1 n 1 

n 

?Var( N n 

) 

Var( N ) = Var( X + ... + X ) = Var( X ) + ... + Var( X ) = npq 

n 1 n 1 

n 

מהו 

הערה:‏ עבור כל קיימת ריאליזציה של X ולכן קיימת ריאליזציה של N. התוחלת והשונות של 

תהליכים אלו ‏(ושל כל תהליך סטוכסטי)‏ הם כבר פונקציות דטרמיניסטיות של רואים כי שתיהן עולות 

ליניארית ב-‏n‏.‏ 

.n 

ω ∈Ω 

.n 

N n 

אז עכשיו כשידוע לנו התוחלת והשונות של 

. N n נעבור לחישוב ההתפלגות של 

עבור כל 

n ניסויים 

ממבוא להסתברות אנו בעצם יודעים כי זוהי התפלגות בינומית עם פרמטרים n ו p: 

‏(עבור .(k=0,1,…,n 

⎛ n ⎞ k 

PN 

( k) 

= p q 

n ⎜ ⎟ 

⎝ k ⎠ 

ההסבר הפשוט ביותר לנוסחה זו הוא:‏ עבור המאורע אשר מתאר כי היו k הצלחות מתוך 

A i 

⎛ n ⎞ 

⎜ ⎟ 

⎝ k ⎠ 

דרוש איחוד של 

מאורעות זרים,‏ 

‏(כל אחד מהם מתאר בחירה שונה של המאורעות 

k n k 

p q − הינה ( A i 

) 

n−k 

,{ N = k} 

המצליחים).‏ וההסתברות של כל אחד מהמאורעות הזרים הללו 

המאורעות הבסיסיים יותר ‏(הברנוליים 

או 

וזה בגלל אי תלות של 

}) X המרכיבים כל מאורע כזה.‏ 

j 

= 0} 

{ X 

j 

= 1} 

נתון.‏ לעיתים התפלגות זאת נקראת 

הערה:‏ קיבלנו כאן את ההתפלגות של ערך התהליך עבור כל בהמשך הקורס,‏ זה יהיה הגודל אשר לרוב יעניין אותנו עבר רוב 

ההתפלגות השולית של התהליך בזמן התהליכים הסטוכסטיים אשר ננתח.‏ ז"א,‏ נציג תהליך סטוכסטי כלשהו וננסה להגיע להתפלגות השולית שלו 

אבל לא כך המצב עם תהליך 

נתון.‏ לפעמים גם נתעניין בהתפלגות זו כאשר עבור כל זמן כאשר 

ולכן אין משמעות להתפלגות של ספירה ברנולי כי כאן 

n הוא ∞ . 

N n 

, n → ∞ 

n∈ N 

.n 

(t או n) 

P(lim N = ∞ ) = 1 

n→∞ 

כעת נגיע לתוצאה זו ‏(התפלגות הבינומית)‏ בדרך קצת שונה מהרגיל.‏ ראשית נבחין כי:‏ 

כי הרי:‏ 

n 

P ( ) ( 1) ( ) N 

א)‏ k = pP 

n 1 N 

k − + qP 

n N 

k 

+ 

n 

n 

- 35 -

207.2250 


P ( k) = P( N = k) 

= 

Nn+ 1 n+ 

1 

P( N = k | X = 0) = P( N = k) = P ( k) 

n+ 1 n+ 

1 

n Nn 

P( N = k | X = 1) = P( N = k − 1) = P ( k −1) 

n+ 1 n+ 

1 

n Nn 

n+ 1 n+ 1 n+ 1 n+ 1 n+ 1 n+ 

1 

ולכן:‏ 

P( N = k | X = 1) P( X = 1) + P( N = k | X = 0) P( X = 0) = 

P ( k − 1) p + P ( k) 

q 

Nn 

Nn 

P (0) 1 

N 0 

ב)‏ = 

- על פי הגדרה.‏ 

: P 

N n 

א'‏ ו ב'‏ מהווים יוצרים נוסחה רקורסיבית לחישוב (k ( 

P (0) = pP ( − 1) + qP (0) = q 

N1 N0 N0 

P (1) = pP (0) + qP (1) = p 

N1 N0 N0 

⎛ 1 ⎞ k 

PN 

( k) 

= p q 

1 ⎜ ⎟ 

⎝ k ⎠ 

1−k 

ז"א 

ובהמשך לזאת:‏ 

P (0) = pP ( − 1) + qP (0) = q 

N2 N1 N1 

P (1) = pP (0) + qP (1) = 2 pq 

N2 N1 N1 

P (2) = pP (1) + qP (2) = p 

N2 N1 N1 

2 

2 

⎛ 2⎞ 

k 

PN 

( k) 

= p q 

2 ⎜ ⎟ 

⎝ k ⎠ 

2−k 

ז"א 

ובהמשך לזאת:‏ 

P (0) = pP ( − 1) + qP (0) = q 

N3 N2 N2 

P (1) = pP (0) + qP (1) = 3pq 

N3 N2 N2 

P (2) = pP (1) + qP (2) = 3pq 

N3 N2 N2 

P (3) = pP (2) + qP (3) = p 

N3 N2 N2 

⎛ 3⎞ 

PN 

( k) 

= p q 

3 ⎜ ⎟ 

⎝ k ⎠ 

3 3−k 

3 

3 

2 

2 

ז"א 

מסתמן כאן חישוב הדומה לחישוב משולש פסקל רק שחישוב זה לא רק מכיל את המקדמים הבינומיים ‏(כמו 

במשולש פסקל)‏ אלה בנוסף גורר איתו את ההסתברויות 

.p,q 

הסבר:‏ 

- 36 -

207.2250 


נזכר במשולש פסקל:‏ 

k = 0 k = 1 k = 2 k = 3 k = 4 

n = 0 1 0 0 0 0 

n = 1 1 1 0 0 0 

n = 2 1 2 1 0 0 

n = 3 1 3 3 1 0 

n = 4 1 4 6 4 1 

⋮ ⋮ ⋮ ⋮ ⋮ ⋮ ⋱ 

⎛ n⎞ 

. ⎜ ⎟ 

⎝ k ⎠ 

⎛0⎞ ⎜ ⎟ = 1 

⎝0⎠ 

⎛ 0 ⎞ 

⎜ ⎟ = 0, k ≠ 0 

⎝ k ⎠ 

⎛ n ⎞ ⎛ n −1⎞ ⎛ n −1⎞ 

⎜ ⎟ = ⎜ ⎟ + ⎜ ⎟ 

⎝ k ⎠ ⎝ k −1⎠ ⎝ k ⎠ 

.( k = −1 

⋯ 

⋯ 

⋯ 

⋯ 

⋯ 

⋯ 

האיברים בטבלה הם 

הטבלה מאותחלת עם 

לאחר מכן הערכים מחושבים באופן רקורסיבי ע"י 

האיבר שמעליו והאיבר שמעליו ומשמאלו ‏(מניחים עוד עמודת אפסים עבור 

באופן דומה הנוסחה הרקורסיבית אשר כתבנו עבור 

נותנת את הטבלה הבאה:‏ 

וכך כל איבר הוא הסכום של 

PN n 

( k) 

k = 0 k = 1 k = 2 k = 3 k = 4 

n = 0 1 0 0 0 0 

n = 1 1q 1p 

0 0 0 

n = q pq p 

2 2 

2 1 2 1 0 0 

n = q pq p q p 

3 2 2 3 

3 1 3 3 1 0 

n = 4 1q 4 pq 6 p q 4 p q 1p 

3 3 2 2 3 4 

⋯ 

⋯ 

⋯ 

⋯ 

⋯ 

⋯ 

⋮ ⋮ ⋮ ⋮ ⋮ ⋮ ⋱ 

כאן,‏ כל איבר הוא q כפול האיבר שמעליו וp כפול האיבר שמעליו ומשמאל.‏ 

. P 

N n 

קל כך להוכיח באינדוקציה את הנוסחה עבור (k ( 

אינקרימנטים סטציונרים ובלתי תלויים:‏ 

N 

n+ m 

− 

N 

n 

נסתכל עכשיו על ההפרש 

מקרי זה הוא למעשה הסכום 

נכנה משתנה מקרי זה האינקרימנט ‏(תוספת)‏ של התהליך.‏ משתנה 

X ברור כי הסכום הנ"ל זהה בהתפלגותו לסכום 

1 

+ X 

2 

+ ... + X 

. N N ~ Bin( m, p) 

. 

n+ m 

− 

n 

n+ n+ n+ 

m 

N m 

שזהו בעצם 

ולכן 

X1 + X 

2 

+ ... + X 

m 

- 37 -

207.2250 


N 

n+ m 

− 

N 

n 

אם כך,‏ אנו רואים כי התפלגות האינקרימנט 

אינה תלויה ב n, ‏(היא זהה לדוגמא להתפלגות 

עבור ). תכונה זו של התפלגות האינקרימנטים של התהליך נקראת אינקרימנטים 

סטציונרים.‏ פילוג האינקרימנט הוא סטציונרי ‏(אינו משתנה)‏ בזמן ‏(ב להלן ההגדרה המדויקת.‏ 

.(n – 

l ≠ n 

N 

l+ m 

− 

{ Z , n ≥ 0} 

n 

N 

m 


תהליך 

הוא בעל אינקרימנטים סטציונרים אם:‏ 

. k, l, 

m∈N לכל Z − Z ∼ Z − Z 

k+ m k l+ 

m l 

נסתכל עכשיו על תכונה נוספת של תהליך ספירה ברנולי:‏ 

המשתנים המקריים ‏(האינקרימנטים):‏ 

עבור כל סדרה של זמנים,‏ 

n0 = 0 < n1 < n2 

< ... < n 

j 

N 

N 

... 

N 

n 

n 

n 

1 0 

2 1 

j 

− N 

n 

− N 

− 

n 

, 

, 

Nn 

j − 1 

הינם בלתי תלויים.‏ הרי כל אינקרימנט הוא על פרק זמן זר ולכן כל אינקרימנט הוא סכום של משתנים 

מקריים ברנוליים שונים ובלתי תלויים זה בזה.‏ תכונה זו של התהליך נקראת תכונת אינקרימנטים בלתי 

תלויים.‏ להלן ההגדרה המפורטת:‏ 

Z 

n j 

− 

Zn 

j − 1 

Z 

ni 

{ Z , n ≥ 0} 

n 


תהליך 

עבור כל סדרת זמנים 

הוא בעל אינקרימנטים בלתי תלויים אם:‏ 

− 

Zn 

i − 1 

מתקיים 

בלתי תלוי ב 

עבור כל 

n = 0 < n < n < ... 

0 1 2 

. i, j ∈ N, 

i ≠ j 

קבלנו אם כך כי האינקרימנטים של תהליך ספירה ברנולי הינם אינקרימנטים סטציונרים בלתי תלויים.‏ 

תכונה זו היא חשובה ביותר והיא תופיע במספר תהליכים נוספים אשר נחקור,‏ בעיקר בתהליכי פואסון.‏ 

באמצעות תכונת האינקרימנטים הבלתי תלויים ניתן לחשב 

חישוב הסתברות משותפת של 

: N 

, N ,..... 

n1 n2 

? P( N = 3, N = 6, N = 7) 

5 9 13 

5 9 13 5 9 5 13 9 


מהי 

P( N = 3, N = 6, N = 7) = P( N = 3, N − N = 3, N − N = 1) 

ולפי אינקרימנטים בלתי תלויים:‏ 

= P( N = 3) P( N − N = 3) P( N − N = 1) = 

5 9 5 13 9 

ולפי אינקרימנטים סטציונרים:‏ 

- 38 -

207.2250 


= P( N = 3) P( N − N = 3) P( N − N = 1) 

5 4+ 5 5 9+ 

4 9 

= P( N = 3) P( N − N = 3) P( N − N = 1) 

5 4 0 4 0 

= P( N = 3) P( N = 3) P( N = 1) 

5 4 4 

⎛5⎞ ⎛ 4⎞ ⎛ 4⎞ 

= ⎜ ⎟ p q ⎜ ⎟ p q ⎜ ⎟ p q 

⎝3⎠ ⎝ 3⎠ ⎝1⎠ 

3 2 3 1 1 3 

ניתן להשתמש גם בתכונות של אינקרימנטים סטציונרים בלתי תלויים לחישוב תוחלות של מכפלות ‏(כזכור 

תוחלת של מכפלה של שתי משתנים מקריים אינה תמיד שווה מכפלת התוחלות,‏ ‏(תנאי מספיק לכך הוא אי-‏ 

תלות בין המשתנים המקריים).‏ 


אינו בלתי תלוי ב ולכן 

נרצה לחשב את 

N 5 לא ניתן להסיק כי:‏ 

N 3 

N3N5] , E[ לצערנו 

!!! E[ N N ] = EN EN = 3p5 p = 15 p 

3 5 3 5 

N 3 

N 5 

אבל ע"י ייצוג של 

כסכום של 

והאינקרימנט,‏ נצליח לחשב את תוחלת המכפלה:‏ 

E[ N N ] = E[ N ( N − N + N )] = E[( N ( N − N ) + N ] = EN ( N − N ) + EN 

2 2 

3 5 3 5 3 3 3 5 3 3 3 5 3 3 

עכשיו נשתמש באינקרימנטים בלתי תלויים:‏ 

= EN E( N − N ) + EN 

2 

3 5 3 3 

ועכשיו נשתמש באינקרימנטים סטציונרים:‏ 

= EN EN + EN 

2 

2 

3 2 3 

מכאן הכול קל,‏ רק צריך להיזכר כי המומנט השני הוא השונות בתוספת המומנט הראשון בריבוע:‏ 

2 2 

= 3p2 p + (3 pq + (3 p) ) = 15 p + 3pq 

10 

P( N 8 | 6) 

תכונות נוספות של תהליך ספירה ברנולי:‏ 

נסתכל על הסתברויות מותנות בין ערכים של התהליך בזמנים שונים.‏ נתחיל מדוגמא.‏ נניח כי ידוע כי בזמן 

ערך התהליך היה מעניין מהי ההסתברות שערך התהליך בזמן ננסח בעיה זו באמצעות 

הסתברות מותנית ונשתמש בתכונת אינקרימנטים סטציונרים בלתי תלויים:‏ 

15 יהיה .8 

15 10 10 15 10 10 15 10 

15 

= N10 

= = = = = 

P( N10 = 6) P( N10 = 6) P( N10 

= 6) 

P( N − N = 2) = P( N = 2) 

15 10 5 

P( N = 8, N = 6) P( N = 6, N − N = 2) P( N = 6) P( N − N = 2) 

,6 

. n ≤ m 

באופן כללי חזרה על אותו חישוב תיתן:‏ 

עבור 

⎧Pm −n( l − k) 

k ≤ l 

P( Nm 

= l | Nn 

= k) 

= ⎨ 

⎩ 0 l < k 

.n 

X ,..., X 

כעת נהפוך את היחס בין m ל 

המשתנים המקריים 

נניח כי ידוע כי שבזמן 15 ערך התהליך הוא 8. ז"א ידוע ששמונה מתוך 

לאור ידיעה זו נתעניין בהסתברות שבזמן 

הם 

10 ערך 

X ,..., X 

1 10 

-8 הצלחות,‏ 

1 ‏(והשאר .(0 

1 15 

התהליך הוא 6. 

ושתיים נפלו במשתנים 

זו בעצם השאלה:‏ מה ההסתברות שמתוך ה 

6 נפלו במשתנים 

: X 

,..., X 

11 15 

- 39 -

207.2250 


P( N 6 | N 8) 

P( N = 8, N = 6) P( N = 6, N − N = 2) P( N = 6) P( N − N = 2) 

15 10 10 15 10 10 15 10 

10 

= 

15 

= = = = = 

P( N15 = 8) P( N15 = 8) P( N15 

= 8) 

⎛10⎞ 6 10−6 ⎛ 5⎞ 2 5−2 

⎛10⎞⎛ 5⎞ 

⎜ ⎟ p q ⎜ ⎟ p q ⎜ ⎟⎜ ⎟ 

P( N 

6 2 6 2 

10 

= 6) P( N5 

= 2) 

= 

⎝ ⎠ ⎝ ⎠ 

= 

⎝ ⎠⎝ ⎠ 

P( N 

15 

15 

= 8) 

⎛ ⎞ 8 15−8 

⎛15⎞ 

⎜ ⎟ p q 

⎜ ⎟ 

⎝ 8 ⎠ ⎝ 8 ⎠ 

נראה מוכר?‏ אכן כן,‏ זהו ערך מתוך ההתפלגות ההיפר-גיאומטרית:‏ דגימה של 8 דגמים ללא החזרה מתוך 

כאשר 10 מתוך ה – 15 הם מסוג מסוים ‏(ו 5 הם מהסוג השני)‏ ומחושבת ההסתברות 

אוכלוסיה בגודל הדגימות יהיו מהסוג המסוים.‏ 

שבדיוק ,15 

6 ‏(מתוך (8 

m < n 

P( N = l | N = k) 

m 

ניתן באופן כללי לרשום את 

גיאומטרית אבל לא נעשה זאת כאן.‏ 

עבור 

כהסתברות מתוך התפלגות היפר-‏ 

n 

- 40 -

207.2250 


.II – 

{ X , n ≥ 1} 

n 


בפרק הקודם הכרנו את התהליך 

, תהליך הברנולי i.i.d. ואת התהליך הנבנה ממנו 

{ X , n ≥ 1} 

n 

, תהליך הספירה הבינומי.‏ בפרק זה נגדיר תהליך נוסף הנבנה מ 

והוא תהליך זמני ההצלחה ‏(יקרא גם תהליך בינומי שלילי).‏ 

והוא 

{ N , n ≥ 0} 

n 

{ Tk 

, k ≥ 0} 

.i.i.d. 

.{ X , X , X , X , X , X , X , X , X ,...} = {1,0,0,1,1,0,1,0,1,....} 

נניח כי נתונה ריאליזציה של תהליך ברנולי 

להלן דוגמא לתחילת סדרה כזאת:‏ 

1 2 3 4 5 6 7 8 9 

נסמן ב 

T k את זמן ההצלחה ה-‏ k. אם כך:‏ 

T = 1, 

T 

1 

2 

3 

4 

5 

= 4, 

T = 5, 

T 

= 7, 

T = 9,... 

.T 

0 

בנוסף,‏ ולמען הנוחות בהמשך נסמן = 0 

הערה:‏ זוהי סדרת משתנים מקריים עולה ממש.‏ 

.{ Tk 

לתהליך זה נקרה תהליך זמני ההצלחה ברנולי,‏ נסמנו {0 ≥ k , 

הערה:‏ עבור רוב התהליכים הסטוכסטיים אשר נפגוש בקורס זה,‏ מרחב הפרמטר הוא בעל משמעות של זמן.‏ 

לעומת זאת,‏ בתהליך זה מרחב הפרמטר אינו מסמל זמן במובן הישיר אלה מסמן את האינדקס של ההצלחה.‏ 

.{ X , n ≥ 1} 

n 

ראינו בדוגמא כיצד 

נבנה מ 

כעת נכתוב זאת במפורש:‏ 

k נתון 

.T 

0 

= 0 

k הצלחות.‏ 

{ Tk 

, k ≥ 0} 

T = min{ n∈ N | k ≤ X + ... + X } 

עבור ו 

ערך התהליך הוא מספר הניסיונות הדרוש לצורך קבלת 

ז"א עבור 

‏(מספר הצלחה נתון),‏ 

n∈ N ≤ X1 

+ + X n 

{ | 3 ... } 

:T 3 

1 ≤ k 

k 

לדוגמא,‏ עבור הריאליזציה אשר צוינה לעיל נסתכל על 

עכשיו,‏ הקבוצה 

היא תת קבוצה של 

n בקבוצה.‏ 

X 

X 

3 ≤ 

1 

+ ... + 

n 

. 

T3 = n∈ N ≤ X1 

+ + X n 

min{ | 3 ... } 

המספרים הטבעיים המקיימת את התנאי:‏ 

הזאת עבור הריאליזציה הנתונה לעיל?‏ 

עבור כל איבר 

מהי אם כך הקבוצה 

n N X1 והערך המינימאלי של קבוצה זו הוא 5 

X n 

{ ∈ | 3 ≤ + ... + } = {5,6,7,8,9,10,11,12,13,....} 

ולכן 

.T 

3 

= 5 

מהו חוק ההסתברות של בהמשך נפתח חוק זה בדרך אלטרנטיבית אבל ראשית ניזכר בסיפורים אשר 

הובילו לבניית ההתפלגות הבינומית השלילית ‏(בקורס מבוא להסתברות):‏ 

?T k 

1 

n 

- 41 -

207.2250 


נתונה סדרה של ניסויי ברנולי כמה ניסיונות דרושים לצורך קבלת ערך זה הוא הרי בדיוק 

ניזכר כעת בפונקצית מסת ההסתברות של משתנים מקריים בינומיים שליליים.‏ 

ז"א 

k 

k הצלחות?‏ 

,i.i.d. 

. T 

k 

,{ T = n} 

∼ NB( k, p) 

.T k 

נסתכל על המאורע ברור שעבור 

הצלחות ע"י פחות מ-‏k ניסיונות.‏ אזי נניח כי 

המקיימת והערכים של 

ההסתברות של מאורע זה היא הרי לא ניתן לקבל 

מאחורי מאורע זה,‏ מסתתרת סדרת ברנולי 

הינם או 1 כך ש 1-n מהערכים הינם אחדים.‏ כי הרי 

i.i.d. 

,0 

{ T = n} 

k 

0 או 

n < k 

. k ≤ n 

X ,..., 

n 

1 

X − 1 

k 

. X = 1 

הניסוי האחרון ‏(הניסוי ה-‏n‏)‏ חייב להיות הצלחה בשביל שהמאורע 

יכולים להיות או הצלחה או כשלון כל עוד ישנם 1-k הצלחות ביניהם.‏ אם כך ישנן 

יתקיים והניסויים שקדמו לו 

אפשרויות 

⎛ n −1⎞ 

⎜ ⎟ 

⎝ k −1⎠ 

לבחירת הניסויים המצליחים והנכשלים.‏ עבור כל אפשרות כזאת,‏ הסיכוי שבאמת יהיו הצלחות וכישלונות 

ואת כל זה עלינו להכפיל בסיכוי שהניסוי האחרון 

בהתאמה הוא 

הוא הצלחה ולכן מקבלים:‏ 

p) Geom( p) = NB(1, ואם כך אנו 

k−1 n−1 −( k −1) k−1 

n−k 

. p (1 − p) = p (1 − p) 

(p) 

⎛ n −1⎞ 1 

⎛ n −1⎞ 

. P( Tk 

= n) = p( ⎜ ⎟ p (1 − p) ) = ⎜ ⎟ p (1 − p) 

⎝ k −1⎠ ⎝ k −1⎠ 

k− n−k k n−k 

כזכור,‏ משתנה מקרי גיאומטרי הוא מקרה פרטי של בינומי שלילי 

יודעים כי 

.T ~ ( ) 

1 

Geom p 

הקשר בין תהליך ברנולי ,i.i.d. ספירה ברנולי ותהליך זמני ההצלחה ברנולי:‏ 

,{ X , n ≥ 1} 

n 

{ X , n ≥ 1} 

n 

עד כה פגשנו שלושה תהליכים סטוכסטיים אשר מתבססים על אותו מרחב הסתברות:‏ 

בהינתן 

וראינו 

({ X , n ≥ 1}) i.i.d. 

n 

{ N , n ≥ 0} 

n 

}. Tk ראינו בפרק הקודם כיצד לבנות את 

, k ≥ 0} 

.{ X 

n, n ≥ 1} { Tk 

, k ≥ 0} 

n 

,{ N , n ≥ 0} 

בפרק זה כיצד לבנות את 

בהינתן 

קל לראות כי הבניות הנ"ל הינן דו-כיווניות,‏ ז"א ניתן לשחזר את תהליך הברנולי 

או מתוך 

מתוך 

n∈{ T , k ≥ 0} 

k 

.{ Tk 

, k ≥ 0} 

. X 

n 

= Nn − Nn 

− 1 

:{ Nn, n ≥ 0} 

. X 

n 

= 1 

{ T , k≥1} 

( n) 

:{ Tk 

, k ≥ 0} 

k 

n 

{ N , n ≥ 0} 

n 

{ X , n ≥ 1} 

n 

שחזור 

שחזור 

מתוך 

מתוך 

כי הרי אם 

אזי בזמן n ישנה 

n∉{ T , k ≥ 0} 

k 

{ X , n ≥ 1} 

הצלחה ברנולית ולכן n משתייכת לתהליך זמני ההצלחה ופו'‏ האינדיקאטור תיתן ואם 

בזמן n אין אף הצלחה ‏(לא הראשונה,‏ ולא השנייה ולא השלישית,....)‏ ופו'‏ האינדיקאטור תיתן 0. 

אז 

.1 

אם כך בהינתן כל אחת משלושת הסדרות,‏ ניתן לקבל את השתיים האחרות.‏ 

N 

ניתן גם לקשר ישירות בין מאורעות המתוארים על פי התהליך {0 , { למאורעות המתוארים על פי 

n 

n ≥ 

}, Tk להלן הקשר:‏ 

התהליך{‏‎0‎ ≥ k , 

, k ≤ N n 

.( k ≤ n 

n 

נניח כי מתקיים 

ורק אם 

ז"א עד זמן n היו לפחות k הצלחות ברנולי ‏(מאורע זה כמובן יכול להתקיים אך 

. T 

k 

≤ n 

:n 

הגרירה הבאה,‏ בין מאורעות:‏ 

אם כך יתקיים כי ההצלחה ה-‏k הייתה לכל היותר בזמן 

קבלנו אם כך את יחס 

n היו 

,n 

.{ k ≤ N } ⇒ { T ≤ n} 

n 

k 

, T 

k 

באופן דומה אם מתקיים ≤ n 

לפחות 

ז"א ההצלחה ה-‏k הייתה לכל היותר בזמן 

אזי יתקיים כי בזמן 

.{ 

T ≤ n} ⇔ { k ≤ N } 

k 

אם כך קבלנו:{‏ .{ T ≤ n} ⇒ { k ≤ N 

k 

n 

n 

. k ≤ N n 

k הצלחות:‏ 

יש כאן אם כך גרירה דו-כיוונית ולכן שקילות בין המאורעות:‏ 

- 42 -

207.2250 


קשר זה בין מאורעות מקנה להתפלגות הבינומית השלילית את שמה:‏ 

n 

n 

⎛ n⎞ 

i n−i 

FT ( n) = P( T ) ( ) ( ) Nn 

( 1) 

k 

k 

≤ n = P k ≤ Nn = ∑ P Nn 

= i = ∑⎜ ⎟ p q = F k + 

i= k 

i= 

k ⎝ i ⎠ 

p,k בנקודה 

n,p בנקודה 

אם כך פו'‏ ההתפלגות המצטברת של משתנה מקרי בינומי שלילי עם פרמטרים 

השרידות של משתנה מקרי בינומי עם פרמטרים 1+k ומכאן ה"שליליות".‏ 

n היא פו'‏ 

.{ T = n} = { N = k − 1, X = 1} 

הרי במידה וזמן ההצלחה ה 

קשר נוסף בין מאורעות הוא הקשר הבא:‏ 

k היה בדיוק n אזי עד זמן 1-k הצלחות ובזמן n הייתה הצלחה וכנ"ל בכוון ההפוך.‏ 

ברור כי בלתי תלוי ב ולכן:‏ 

k n−1 

n 

1-n היו 

Nn 

− 1 

P( T = n) = P( N = k − 1, X = 1) = P( N = k − 1) P( X = 1) = 

k n−1 n n−1 

n 

⎛ n −1⎞ ⎛ n −1⎞ 

= ⎜ ⎟ p q p = ⎜ ⎟ p q 

⎝ k −1⎠ ⎝ k −1⎠ 

k−1 n−1 −( k−1) 

k n−k 

X n 

כפי שקבלנו קודם בדרך הישירה.‏ 

– 

אינקרימנטים סטציונרים ובלתי תלויים של תהליך זמני ההצלחה ברנולי:‏ 

{ Tk 

, k ≥ 0} 

כעת נרצה לראות שגם התהליך הוא בעל אינקרימנטים סטציונרים ובלתי תלויים.‏ במקום 

להוכיח זאת באופן פרטני נראה תוצאה קצת יותר כללית:‏ 

{ N ,0 ≤ n} 

n 

{ Z ,0 ≤ ו-{‏n i.i.d. 

n 

{ Y ,0 ≤ n} 

n 

טענה:‏ 

תהי 

סדרת משתנים מקריים 

תהליך סטוכסטי כך ש:‏ 

Z 

n 

⎧0 n = 0 

= ⎨ 

⎩Y1 

+ ... + Yn 

n = 1, 2,.. 

{ Z ,0 ≤ n} 

n 

אזי 

הוא בעל אינקרימנטים סטציונרים ובלתי תלויים.‏ 

הוכחת הטענה פשוטה וזהה להוכחת אינקרימנטים סטציונרים ובלתי תלויים של התהליך 

שהוכחנו בפרק הקודם.‏ 

כפי 

אם כך,‏ כל תהליך סטוכסטי אשר ניתן לרישום כסכום של משתנים i.i.d.. ‏(תהליך כזה נקרא הילוך אקראי 

כללי)‏ הוא בעל אינקרימנטים סטציונרים ובלתי תלויים.‏ בנוסף דרוש כי ולכן פילוג אינקרימנט על 

Z 

= Y 

1 1 

.( Z 1 

Y) i צריך להיות שווה לערך התהליך בזמן ) 1 

צעד בגודל ) 1 

T k 

{ T ,0 ≤ k} 

בכדי להראות כי התהליך הוא בעל אינקרימנטים סטציונרים בלתי תלויים,‏ עלינו להראות כי 

ניתן לכתיבה כסכום של k משתנים מקריים קל לראות כי פילוג כל משתנה כזה יהיה 

.Geom(p) 

.i.i.d. 

k 

.NB(k,p) מתפלג Geom(p) 

. NB( k + k , p) 

NB( k , p) 

ברור גם כי סכום של k משתנים מקריים בעלי התפלגות 

משתנים מקריים בעלי התפלגות והתפלגות 

מתפלגים 

בנוסף סכום של שתי 

1 2 

2 

NB( k , p) 

אז כעת אנו יודעים כי ועכשיו קל לחשב את התוחלת והשונות של התהליך 

} 0, }. ‏(שוב הכוונה לתוחלת או שונות של תהליך היא הפו'‏ הדטרמיניסטית המראה את התוחלת 

והשונות של ההתפלגויות השוליות של התהליך).‏ 

1 

T − k + 1 

Tk 

~ Geom( p) 

T 

k 

≤ k 

- 43 -

207.2250 


ETk = E[ T0 + ( T1 − T0 ) + ... + ( Tk − Tk −1)] = ET0 + E[ T1 − T0 ] + ... + E[ Tk − Tk 

−1] 

= 

1 k 

= 0 + kE[ T ] = 0 + k = p p 

1 

q 

Var( Tk 

) = k p 

2 

q 

p 

2 

לאחר שניזכר כי השונות של משתנה מקרי גיאומטרי היא 

באופן דומה נקבל כי 

דוגמא א-‏‎22‎‏:‏ 

נניח כי עבור סדרת ניסויי ברנולי אנו משלמים מחיר c עבור כל הצלחה.‏ ‏(לדוגמא:‏ אנו רוכבים על אופניים 

כל יום ובכל פעם שיש פנצ'ר החלפת פנימית עולה כ ואנו קוראים לפנצ'ר הצלחה).‏ אם כך,‏ אנו יודעים 

כי לאחר n ניסיונות תוחלת העלות היא 

מדד מעניין יותר לעלות היא העלות הערך הנוכחי של העלויות אשר נגררות מהצלחותינו.‏ כלל ידוע בכלכלה 

הוא ששקל שיש לנו היום שווה מחר קצת יותר ‏(צריך להכפיל ב 1 ועוד הריבית שאנו יכולים להרוויח על 

השקל).‏ באופן דומה ניתן לומר כי שקלים אשר בידינו היום שווים לשקל ‏(כאשר 

1 מחר 

₪ 20 

. EcN = cEN = cnp 

n 

n 

0 < α < 1 

(r ). α = 1 1) + אם כך α הוא מקדם ההיוון.‏ ולכן מחיר של c אשר נידרש לשלם מחר הוא בעצם אינו כל 

כך גרוע היום הוא בסך הכול ואם נידרש לשלם 150 ימים אזי במונחי היום המחיר הוא 

כי אם היום יש לנו α 150 c שקלים ואנו שומרים את אלו בבנק ומכפילים את הוננו בכל יום ב 

(1+r) 

cE 

∞ 

∑ 

k = 1 

α 

T k 

c בעוד 

αc היום.‏ 

1 

. (1 + ) = (1 + ) ( ) = 

1+ 

r 

E 

∞ 

∑ 

k = 1 

150 150 150 150 

r α c r c c 

cα 

T k 

.α 150 c 

אזי כעבור 150 ימים בידינו:‏ 

אם כך,‏ תוחלת הערך הנוכחי מהעלויות הנגררות מהצלחותינו היא 

או 

או 

.α בנקודה , NB( k, p) 

. c 

Eα T k 

∞ 

∑ 

k = 1 

Eα 

T k 

נבחין כי 

אם כך נחשב את 

היא הפו'‏ יוצרת ההסתברות של משתנה מקרי 

. G 

Tk 

( α) = Eα 

Tk 

Tk T0 + ( T1 − T0 ) + ( T2 − T1 ) + ... + ( Tk −Tk −1 ) T0 T1 −T0 Tk −Tk 

−1 

G ( α) = Eα = Eα = Eα α ⋅... 

⋅ α = 

Tk 

= Eα Eα ⋅... ⋅ Eα = E1 

Eα Eα ⋅... ⋅ Eα = ( Eα 

) 

T0 T1 −T0 Tk 

−Tk 

−1 T1 T1 T1 T1 

k 

.T ~ ( ) 

1 

Geom p 

1 

G α = Eα = α q p = pα αq = pα αq = pα 

1−αq 

k 

עכשיו ידוע לנו כי 

ואם כך:‏ 

∞ ∞ ∞ 

T1 

i i−1 i−1 

i 

T 

( ) ( ) ( ) 

1 

∑ ∑ ∑ 

i= 1 i= 1 i= 

0 

1 

.α < 

1 − p 

: c 

∞ 

∑ 

k = 1 

G 

Tk 

Eα 

< 1 q α או 

pα 

( α) = ( ) 

1−αq 

T k 

וזאת עבור 

k 

ולכן 

נותר כעת לחשב את 

- 44 -

207.2250 


pα 

∞ ∞ ∞ 

T 

pα 1 

1 

k 

k −αq 

pα pα α 

c∑ Eα 

= c∑GT 

( α) = c ( ) c c c cp 

k 

∑ = = = = 

1 

k 1 k 1 k 1 1 αq pα 1 

1 αq αq pα 

= = = − − − 

− 

− 1 − α( p + q) 1−α 

1− 

αq 

1− 

αq 

1 

r 

α = 1 (1 + r) 

אז = 

נבחין כי כאשר 

− 

ואז תוחלת העלות המהוונת היא:‏ 

1 

α 

α 

1 

. cp r 

- 45 -

207.2250 


תיאור חלק ב:‏ 

חלק זה מציג שרשראות מרקוב בזמן בדיד.‏ תחילה משפחה זו של תהליכים סטוכסטיים מוצגת ע"י הגדרה 

ולאחר מכן ע"י אוסף דוגמאות יישומיות.‏ לאחר מכן מתבצעת אנליזה של תהליכים אלו,‏ תחילה עבור 

ההתנהגות לטווח הזמן הקצר ע"י משוואות צ'פמן קולמוגורוב ומיון מצבים וחישובים נלווים,‏ ולאחר מכן ע"י 

חישובים של הסתברויות גבוליות עבור שרשראות ארוגודיות.‏ בחלק זה המונח של ארוגודיות של תהליך 

סטוכסטי מוגדר עבור שרשראות מרקוב ובנוסף משמש כמבוא למונח ארוגודיות עבור תהליכים סטוכסטיים 

כללים.‏ לאחר מכן מוצג אופן החישוב של הסתברויות גבולות ומוצג המשמעות של ההתפלגות הגבולית ע"י 

מספר דוגמאות.‏ 

- 46 -

207.2250 


פרק ב-‏‎1‎‏:‏ הגדרת שרשרת מרקוב 

‏(זמן בדיד).‏ 

הגדרות עזר כלליות ודוגמא:‏ 

.1 

לפני שנגדיר במפורש מהי שרשרת מרקוב,‏ נזכיר ונגדיר מספר מונחים חשובים לפרק זה:‏ 

קבוצה היא סופית אם קיים מספר כך שקיימת התאמה חד-חד ערכית בין הקבוצה לבין 

, 

N ∈ N 

.{1,2,…,N} 

.2 

קבוצה היא בת-מנייה אם קיימת התאמה חד-חד ערכית בין הקבוצה לבין המספרים הטבעיים 

להלן דוגמאות של מספר קבוצות בנות מנייה:‏ 

. N 

N 

Z 

Q 

.a 

.b 

.c 

.d 

.3 

הזוגיים.‏ 

הערה:‏ בהקשרים רבים נהוג להגדיר קבוצה בת-מנייה קבוצה שהיא או סופית או בת-מנייה כמוגדר 

לעיל.‏ 

גרף מכוון ממושקל הוא אוסף צמתים V ‏(סופי או בן-מניה),‏ אוסף קשתות E שהם זוגות סדורים 

מעל V ‏(קבוצה חלקית ל (VxV ופונקצית משקל 

הערה:‏ ביישומים שלנו ניתן להסתפק בטווח של הפונקציה להיות ולכן כאן נגדיר גרף מכוון 

ממושקל להיות כזה שבו פונקצית המשקל היא מהסוג 

. P : E → R 

.(0,1] 

P : E → (0,1] 

דוגמא ב-‏‎0‎‏:‏ 

נסתכל על הגרף:‏ 

V={1,2,3} 

E={(1,1),(1,2),(2,3),(2,2),(3,2)} 

P((1,1))=1/2 

P((1,2))=1/2 

P((2,3))=1/2 

P((2,2))=1/2 

P((3,2))=1 

.a 

ניתן לייצג גרפים מכוונים ממושקלים מהסוג המעניין אותנו בשלושה דרכים:‏ 

ע"י איור של הצמתים והקשתות כולל המשקלות.‏ 

עבור הדוגמא לעיל זה הייצוג:‏ 

1/2 

2 

1/2 

1/2 

1 

1/2 

1 

3 

- 47 -

207.2250 


ע"י מטריצה P סופית בעלת מימד 

| V | × | V | 

או אינסופית כאשר האיבר 

המטריצה ‏(בשורה ה i ובעמודה ה הוא P((i,j)) ‏(המשקל של הקשת 

או 0 אחרת ‏(במידה והקשת אינה קיימת ב E). 

עבור הדוגמא לעיל זה הייצוג:‏ 

P i , j 

((i,j) 

(j 

( i, j) 

∈ E 

⎛1/ 2 1/ 2 0 ⎞ 

⎜ 

⎟ 

P = 0 1/ 2 1/ 2 

⎜ 0 1 0 ⎟ 

⎝ 

⎠ 

פשוט ע"י פירוט של הפונקציה 

(0,1] → E , P : כפי שמתבצע בדוגמא לעיל.‏ 

של 

במידה ו 

.b 

.c 

נקרא למטריצה 

,NxN ממימד P 

בעלת איברים 

סטוכסטית אם סכום כל שורה הוא 1 ‏(ז.א 

P i , j 

‏(בשורה ה i ובעמודה ה 

j) מטריצה 

N 

.(∑ 

k = 1 

P 

i, 

k 

= 1 

מטריצה זו למעשה מגדירה N התפלגויות בדידות ‏(התפלגות עבור כל שורה).‏ 

באותו אופן כאשר המטריצה P היא אינסופית ‏(אינסוף שורות ואינסוף עמודות),‏ נאמר כי היא 

מטריצה סטוכסטית אם הטור של כל שורה הוא 1: ‏(ז.א 

∞ 

.(∑ P 

k = 1 

i, 

k 

= 1 

.4 

.5 

תיאור לא פורמאלי ומוטיבציה:‏ 

מהי שרשרת מרקוב?‏ 

נסתכל על הגרף בדוגמא לעיל,‏ שרשרת מרקוב הוא תהליך סטוכסטי בזמן בדיד בעל מרחב מצבים V. ז"א 

בכל 

שבכל נקודת זמן …0,1,2=n, התהליך נמצא בצומת מסוים בגרף.‏ נסמן את התהליך ב 

.{ X , n ≥ 0} 

n 

נקודת זמן,‏ n, ערך התהליך בזמן 1+n מוגרל מתוך קבוצת הצמתים שמהם ניתן לעבור מצומת על פי 

פונקצית המשקל [0,1) → E . P : נשים לב שהפו'‏ אשר הגדרנו בדוגמא היא פונקצית מסת הסתברות.‏ 

X n 

ז"א,‏ כאשר נמצאים בצומת 1, אז יש סיכוי של ½ להישאר בצומת זו גם בנקודת הזמן הבאה וסיכוי של ½ 

לעבור לצומת 2 ‏(במקרה זה כבר לעולם לא נחזור לצומת 1). כאשר נמצאים בצומת 2, אז יש סיכוי של ½ 

להישאר בצומת 2 וסיכוי של ½ לעבור לצומת 3. וכאשר נמצאים בצומת 3 אז תמיד נעבור לצומת 2. 

בנוסף דרוש גם להגדיר מהו ערך התהליך בזמן 

התפלגות התחלתית כפי שנראה בהמשך.‏ 

0 ‏(על איזה צומת נמצאים בזמן 0). ניתן להגדיר זאת גם ע"י 

הערה:‏ לא כל גרף מגדיר שרשרת מרקוב,‏ רק כזה אשר מקיים את התנאי הנ"ל עבור כל צומת:‏ 

סכום כל המשקלות של הקשתות היוצאות מהצומת הוא 1. ז"א רק גרף אשר ייצוגו כמטריצה הוא מטריצה 

סטוכסטית.‏ מעכשיו והלאה נהייה מעוניינים רק בגרפים כאלו.‏ 

קבלנו אם כך כי ריאליזציה של התהליך שקולה לטיול אקראי בגרף על פי פונקצית המשקל P. 

מודל מהסוג שמוצג בדוגמא ב-‏‎0‎ יכול לדוגמא להתאים לסיפור הבא:‏ 

שלושה בחורים,‏ נמספרם (1,2,3), משחקים את המשחק הבא עם כדורסל וסל:‏ 

כל אחד זורק כדורים לסל כל עוד לא החטיא,‏ לאחר החטאה מוותר על תורו.‏ 

- 48 -

207.2250 


בחור מס'‏ – 1 מקבל הזדמנות יחידה,‏ ז"א לאחר שהחטיא נותן את הכדור לבחור 2 ולא משחק יותר.‏ סיכוי 

הקליעה שלו הוא ½. 

בחור מס'‏ – 2 מעביר את הכדור לבחור מס'‏ 3 לאחר שהחטיא,‏ גם סיכויי הקליעה שלו הם ½. 

בחור מס'‏ – 3 מעביר את הכדור לבחור מס'‏ 2 לאחר שהחטיא,‏ אבל סיכויי הקליעה שלו הם ז"א הוא תמיד 

זורק ומייד מעביר את הכדור.‏ 

,0 

במידה ובחור מס'‏ 1 הוא זה אשר מתחיל לזרוק,‏ אז הוא יזרוק מספר של זריקות המתפלג Geom(1/2) 

לאחר מכן הכדור יהיה או אצל מס'‏ 2 או אצל מס'‏ 3 כך שכל פעם שהכדור מגיע למס'‏ 2 אז הוא 

מבצע מספר Geom(1/2) של קליעות וכל פעם שהכדור אצל מס'‏ 3 אז הוא מבצע קליטה בודדת.‏ 

‏(בממוצע 2). 

בחלק זה של הקורס ננתח מודלים מסוג זה ונלמד כיצד ניתן לענות על שאלות מעניינות לגבי מודלים מהסוג 

שהוצג לעיל ‏(גם כאלו בעלי מרחב מצבים ‏(צמתים)‏ רב יותר וסבוך יותר).‏ 

הגדרה מדויקת והמשך דיון:‏ 


התהליך 

{ X , n ≥ 0} 

n 

‏(סופית או אינסופית)‏ אם מתקיים:‏ 

הוא שרשרת מרקוב בעל התפלגות התחלתית 

P X 0 

ומטריצת מעבר סטוכסטית 

P 

P ( i) = P( X = i) 

X 

0 0 

P = P( X = i | X = i ,..., X = i ) = P( X = i | X = i ) 

in 

, in+ 1 

n+ 1 n+ 1 0 0 n n 1 n+ 

1 0 n 

.1 

.2 

ראשית כפי שאמרנו מדובר בתהליך בזמן בדיד ובעל מרחב מצבים שהוא או סופי או בן-מניה.‏ את מרחב 

המצבים הספציפי ניתן להגדיר לכל מקרה פרטי ‏(התפלגות התחלתית ומטריצת מעבר)‏ אבל חשוב להבין כי 

ולכל מרחב 

קיימת התאמה בין כל מרחב מצבים סופי שנגדיר לבין קבוצה סופית מהצורה 

מצבים בן-מנייה שנגדיר קיימת התאמה ל ולכן מעכשיו הלאה נדון רק ב-‏‎2‎ מרחבי המצבים הללו.‏ זאת 

אומרת שאם ברצוננו לדוגמה לעבוד עם מרחב המצבים שהוא כל המספרים השלמים עדיין נסתפק 

בלדון בשרשראות אשר מרחב מצבם הוא 

,{1,2,…,N} 

( Z ) 

. N 

. N 

שנית ההגדרה אומרת כי קיימת התפלגות התחלתית אשר קובעת את חוק ההסתברות של המשתנה 

בהרבה מהדוגמאות והתכונות של שרשראות מרקוב אשר נדון בהם אין משמעות רבה להתפלגות ההתחלתית 

ולכן לא נדון בה.‏ הרבה פעמים נניח כי התפלגות ההתחלתית היא מנוונת ע"י כך שנותנת מסת הסתברות 1 

לערך כלשהו.‏ 

. 

X 0 

ועכשיו למהות ההגדרה ‏(הדרישה השנייה):‏ דרישה זו דורשת מההתפלגות של המשתנה של התהליך בזמן 

להיות תלויה אך ורק במצב התהליך בזמן n. היא:‏ 

זוהי התכונה המרקובית.‏ בכך המשמעות היא שעתיד 

לא תלויה בערכי התהליך פרט לערך בזמן א)‏ התהליך אינו תלוי בעבר אלה רק בהווה.‏ 

חוק ההסתברות אינו משתנה לאורך הזמן ‏(הומוגניות בזמן).‏ 

ב)‏ – n 

(n+1) 

ההגדרה של שרשרת מרקוב מסבירה מייד כיצד ניתן לסמל שרשרת מרקוב ‏(ליצור ריאליזציה של שרשרת 

מרקוב).‏ בשביל זה דרושה בסך הכול היכולת להגריל משתנים מקריים מההתפלגות ומההתפלגויות 

המוגדרות בכל שורה במטריצת השרשרת.‏ 

P X 0 

- 49 -

207.2250 


פרק ב-‏‎2‎‏:‏ דוגמאות.‏ 

1 

2 

3 

פרק זה מכיל אוסף דוגמאות רב של שרשראות מרקוב.‏ עבור כל דוגמא הסיפור של הדוגמא תחילה מתואר 

בקצרה,‏ ולאחר מכן מרחב המצבים והסתברות המעבר מפורטות.‏ בנוסף עבור כל דוגמא,‏ שאלות הסתברותיות 

מוצגות.‏ הרבה מדוגמאות אלה יהיו בשימוש בפרקים בהמשך.‏ 

ניתן לראות שמטריצה המעבר היא סטוכסטית ‏(סכום/טור כל שורה הוא 1) עבור כל דוגמא.‏ 

דוגמא ב-‏‎1‎ – מזג אוויר:‏ 

סיפור:‏ נניח כי באביב בישראל מזג האוויר מתנהג בצורה מרקובות וישנם שלושה מצבים:‏ 

– מעונן כבד.‏ 

– מעונן חלקי.‏ 

– שמיים נקיים.‏ 

כמובן שבהיבט של מזג האוויר על פי מרחב המצבים הדל אשר תואר לעיל,‏ ההנחה המרקובית כנראה ואינה 

תואמת את המציאות.‏ הרי סביר להניח כי מזג האוויר מחר אינו רק תלוי במזג האוויר היום אלה תלוי גם 

בימים הקודמים ‏(תלות יחסית חזקה לפחות בשבוע האחרון).‏ 

מרחב המצבים:‏ 

הסתברות מעבר:‏ 

,{1,2,3} 

⎛.4 .6 0 ⎞ 

⎜ ⎟ 

P = ( p ij ) = .2 .5 .3 

⎜.1 .7 .2⎟ 

⎝ ⎠ 

מתאר את מצב מזג האוויר.‏ 

שאלה הסתברותית 1: בהינתן שנמצאים במצב 1, מה ההסברות להיות במצב 3 בעוד 5 ימים?‏ 

שאלה הסתברותית 2: לאחר הרבה ימים,‏ מה ההסתברות שהמצב היה 3? 

הערה:‏ ניתן ליצור מודל יותר מציאותי באופן הבא:‏ נגדיר את מרחב המצבים להיות:‏ 

{(1,1),(1, 2),(1,3), 

(2,1),(2, 2),(2,3), 

(3,1),(3,2),(3,3)} 

לקחנו את מרחב המצבים המקורי V ויצרנו מרחב מצבים חדש שהוא ‏(במידה ולא ברור כעת אז נדון 

בהמשך במשמעות המכפלה הקרטזית עכשיו נגיד שכל מצב מהסוג (a,b) אומר כי היום מזג האוויר הוא 

b ואתמול היה a. מטריצת המעבר תהייה כמובן ממימד 

נבחין כי בכל שורה,‏ לכל היותר שלושה ערכים מתוך התשעה יהיו חיוביים ממש.‏ זאת בגלל שמעבר ממצב 

(a,b) חייב להיות למעבר כאשר 

עקרונית באופן שכזה ניתן להכניס ‏"יותר היסטוריה"‏ לתוך המודל ע"י הוספת יותר ויותר ימים אחורה.‏ 

V × V 

. 

2 

3 = 9 

.(× 

. c ∈{1,2,3} 

(b,c) 

- 50 -

207.2250 


דוגמא ב-‏‎2‎‏–‏ אוסף משתנים בדידים 

.i.i.d. 

:i.i.d. 

{ X , n ≥ 0} 

n 

הינם משתנים מקריים בדידים 

סיפור:‏ נניח כי 

ברור כי אוסף המשתנים המקריים הוא שרשרת מרקוב.‏ 

התומך של המשתנה המקרי).‏ 



){ z ∈ Z : P ( z) > 0} 

X 

p = P ( j) 

ij 

X 

‏(זהה כמובן לכל 

.(i 

הערה:‏ תהליך ברנולי i.i.d. הוא מקרה פרטי כמובן.‏ 

דוגמא ב-‏‎3‎‏–‏ שרשרת דו-מצבית:‏ 

סיפור:‏ מערכת מסוימת יכולה להימצא באחד משני מצבים,‏ 

היא וההסתברות לעזוב את מצב 1 ‏(למצב 

הערה:‏ זהו לא תהליך ברנולי 



מצב 0 ומצב 1. 

(0 היא .b 

.i.i.d. 

.a 

{0,1} 

0 ‏(למצב (1 

⎛1− 

a a ⎞ 

P = ⎜ ⎟ 

⎝ b 1− 

b⎠ 

שאלה הסתברותית:‏ בהינתן שהשרשת במצב 1, מה תוחלת הזמן עד שתעבור למצב 0? 

דוגמא ב-‏‎4‎‏–‏ שרשרת מרקוב דטרמיניסטית מחזורית:‏ 

כאשר ההסתברות לעזוב את מצב 

סיפור:‏ גם תהליכים דטרמיניסטים ניתן לתאר כשרשראות מרקוב.‏ נניח שקיימת מערכת דטרמיניסטית בעלת 

מרחב מצבים סופי אשר מדלגת בין מצב למצב באופן דטרמיניסטי.‏ לדוגמא:‏ תוכנית מחשב אשר מריצה 

לולאה והתנהגות הלולאה אינה תלויה בקלט.‏ 



.{0,..., N −1} 

⎛ 0 1 0 0 0⎞ 

⎜ 

⎟ 

⎜ 

0 0 1 0 0 

⎟ 

P = ⎜ ⋮ ⋱ ⎟ 

⎜ ⎟ 

0 0 0 0 1 

⎜1 0 0 0 0⎟ 

⎝ 

⎠ 

הערה:‏ ניתן תמיד לבצע סידור המצבים מחדש בסדר שנוח לנו.‏ 

דוגמא ב-‏‎5‎‏–‏ תהליך ספירה ברנולי:‏ 

סיפור:‏ כפי שנלמד בפרק של תהליכי ספירה ברנולי,‏ מס,‏ ההצלחות עד זמן 

כולל את 0). 

. מתאר כמה הצלחות היו עד כה ‏(כאן מרחב המצבים:‏ הסתברות מעבר:‏ 

.n 

N 

N 

- 51 -

207.2250 


⎛ q p 0 0 … ⎞ 

⎜ 

⎟ 

⎜ 

0 q p 0 … 

⎟ 

P = ⎜ 0 0 q p … ⎟ 

⎜ ⎟ 

⋮ ⋮ ⋮ ⋱ ⋱ 

⎜ 

⎟ 

⎝ ⋮ ⋮ ⋮ ⋮ ⋱⎠ 

דוגמא ב-‏‎6‎‏–‏ מהלך מקרי פשוט:‏ 

סיפור:‏ אדם יושב על ספסל מול כביש דו-כווני ומסתכל על המכוניות החולפות.‏ האדם שומר מונה ‏(בראש או 

על דף נייר).‏ כאשר מכונית חולפת לכיוון אחד הוא מעלה את ערך המונה באחד,‏ כאשר מכונית חולפת לכוון 

השני הוא מוריד את ערך המונה באחד.‏ כך לדוגמא,‏ עם ערך המונה היה 0, וחלפו 20 מכוניות עוקבות לכוון 

אחד אז ערך המונה יהיה 20. ההסתברות שמכונית תעבור לכוון אחד היא p ‏(וההסתברות שתעבור לכוון 

השני היא סדרת הכוונים של המכוניות הינה 



.i.i.d. 

.( q = 1− 

p 

. Z 

⎛⋱ p ⋮ ⋮ … ⎞ 

⎜ 

⎟ 

⎜ 

q 0 p 0 … 

⎟ 

P = ⎜ 0 q 0 p … ⎟ 

⎜ ⎟ 

⋮ ⋮ q 0 p 

⎜ 

⎟ 

⎝ ⋮ ⋮ ⋮ ⋮ ⋱⎠ 

שאלה הסתברותית:‏ בהינתן שערך המונה הוא 0. מה תוחלת פילוג הזמן עד שערך המונה יהיה 0 שוב?‏ 

דוגמא ב-‏‎7‎‏–‏ מודל המהמר:‏ 

סיפור:‏ מהמר משחק את המשחק הבא:‏ בכל שלב הוא יכול להרוויח שקל בהסתברות p ולהפסיד בהסתברות 

הוא מפסיק לשחק באחד משני מקרים:‏ כספו נגמר ‏(מסיים בהפסד)‏ או שיש ברשותו N שקלים 

‏(מסיים ברווח).‏ המצבים בשרשרת מרקוב זו יתארו את הכסף שברשות המהמר.‏ 

מרחב המצבים:‏ , מתאר את כמות הכסף ברשות המהמר.‏ 

הסתברות מעבר בצורה אלגברית:‏ 

{0,..., N} 

עבור −1} N , j ∈{1,..., 

עבור 

אחרת אפס.‏ 

. j ∈{0, N} 

P 

P 

.q=1-p 

j−1, 

j 

j+ 

1, j 

= p 

= q 

P ( ) 

ij 

= I{ i} j 

הסתברות מעבר בצורה מטריציונית:‏ 

⎛ 1 0 0 ⋯ 0 ⎞ 

⎜ 

⎟ 

⎜ 

q 0 p ⋯ 0 

⎟ 

P = ⎜ ⋮ ⋱ ⋱ ⋱ ⋮ ⎟ 

⎜ ⎟ 

0 ⋯ q 0 p 

⎜ 0 0 0 1 ⎟ 

⎝ ⋯ 

⎠ 

שאלה הסתברותית:‏ בהינתן ערך התחלתי כלשהו ‏(של התהליך)‏ מה הסיכוי שהמהמר יסיים ברווח,‏ מה הסיכוי 

שיסיים בהפסד.‏ 

- 52 -

207.2250 


דוגמא ב-‏‎8‎‏–‏ שרשרת :Ehrenfest 

סיפור:‏ ברשותנו שתי מיכלים ‏(ימני ושמאלי)‏ ו N כדורים ממוספרים {N,…,1} אשר נמצאים במיכלים 

‏(חלקם במיכל אחד וחלקם במיכל השני).‏ בכל רגע אנו בוחרים מספר באקראי ‏(על פי התפלגות אחידה בדידה 

על את הכדור ועליו המספר אשר בחרנו אנו מעבירים למיכל השני ‏(במידה ונמצא בימני אז 

מעבירים לשמאלי ובמידה ונמצא בשמאלי אז מעבירים לימני).‏ מצב התהליך מתאר את מספר הכדורים בתא 

הימיני.‏ 



{0,..., N} 

.({1,…,N} 

: P ij 

P 

01 

= 1 

P − 

= 

N , N 1 

1 

להלן ערכי 

עבור 0=i: 

עבור :i=N 

עבור −1} N i ∈{1,..., 

⎧ i 

j = i −1 

⎪ N 

Pij 

= ⎨ 

⎪ N − i 

j = i + 1 

⎪⎩ N 

5=N נקבל:‏ 

⎛ 0 1 0 0 0 0 ⎞ 

⎜ 

⎟ 

⎜ 

1 4 

0 0 0 0 ⎟ 

⎜ 5 5 ⎟ 

⎜ 2 3 ⎟ 

⎜ 0 0 0 0 ⎟ 

5 5 

P = ⎜ 

⎟ 

⎜ 3 2 ⎟ 

⎜ 0 0 0 0 ⎟ 

⎜ 5 5 ⎟ 

⎜ 4 1 ⎟ 

⎜ 0 0 0 0 

5 5 

⎟ 

⎜ 

0 0 0 0 1 0 ⎟ 

⎝ 

⎠ 

כך לדוגמא עבור 

שאלה הסתברותית:‏ לאחר שהתהליך הזה רץ להרבה זמן,‏ מה פילוג הכדורים במיכל הראשון?‏ 

דוגמא ב-‏‎9‎‏–‏ שרשרת מלאי:‏ 

סיפור:‏ מלאי מנוהל בשיטת ה"מסור בזמן בדיד.‏ יהי Y כמות הפריטים במלאי לאחר הביקוש באותה 

יחידה זמן.‏ 

חוק המסור–‏ 

א)‏ במידה ו אז מובאים פריטים מבחוץ עד לרמה של S. 

ב)‏ אחרת לא מובאים פרטים.‏ 

נקרא לתחום {s+1,…,S} ה"תחום הסביר".‏ 

"(s,S) – 

(s,S) אומר:‏ 

Y ≤ s 

- 53 -

207.2250 


.{ D , n ≥1} 

n 

נאמר שהביקוש הוא אוסף משתנים מקריים בדידים אי-שלילים i.i.d. 

נתאר את שרשרת המרקוב X, המתארת את רמת המלאי.‏ 


נגדיר את הסתברות מעבר:‏ 

{0,1,..., s,..., S} 

. ( a) + = max( a,0) 

ראשית נגדיר את הסימון/פעולה : 

אחרת היא פולטת אפס.‏ 

פעולה זאת על a פולטת את a במידה ו a אינו שלילי,‏ 

X 

n + 1 

, 

X n 

אז מה קורה כאן?‏ 

• במידה ורמת המלאי בזמן n, 

אלה רק ביקוש ולכן 

היא ב"תחום הסביר"‏ אזי בזמן 

עבור תחום זה.‏ 

לא יתקיים חידוש מלאי 

X 

n + 1 

X = ( X − D ) 

+ 

n+ 1 n n+ 

1 

אבל במידה ורמת המלאי בזמן n, 

מכן ביקוש ולכן 

אינה ב"תחום הסביר"‏ אזי בזמן 

עבור תחום זה.‏ 

יתקיים חידוש מלאי ולאחר 

X = ( S − D ) 

+ 

n+ 1 n+ 

1 

X 

• 

אם כך מקבלים:‏ 

⎧( X − D ) s < X ≤ S 

+ 

n n+ 

1 

n 

n+ 1 

= ⎨ 

+ 

( − 

n+ 

1) 

n 

⎩ 

S D X ≤ s 

P ( k) 

= p 

Dn 

k 

אז לדוגמא עבור = 5 S s = 1, 

ופילוג של D: 

מתקבלת מטריצת המעבר הבאה:‏ 

P 

⎛ 

⎜ 

⎜ 

⎜ 

⎜ 

⎜ 

⎜ 

⎜ 

∞ 

k = 5 

∞ 

k = 5 

∞ 

k 1 0 

k = 2 

= ⎜ 

⎟ 

⎜ 

∞ 

⎟ 

⎜ 

⎜ 

⎜ 

⎜ 

⎜ 

⎜ 

⎜ 

⎝ 

∑ 

∑ 

∑ 

∑ 

k= 

3 

∞ 

∑ 

k = 4 

∞ 

∑ 

k = 5 

⎞ 

pk 

p4 p3 p2 p1 p0 

⎟ 

⎟ 

⎟ 

pk 

p4 p3 p2 p1 p0 

⎟ 

⎟ 

⎟ 

p p p 0 0 0 ⎟ 

pk 

p2 p1 p0 

0 0 ⎟ 

⎟ 

⎟ 

pk 

p3 p2 p1 p0 

0 ⎟ 

⎟ 

⎟ 

pk 

p4 p3 p2 p1 p0 

⎟ 

⎠ 

הערה:‏ דוגמא זו ‏(ועוד מספר דוגמאות נוספות)‏ מתוארת ע"י סדרת משתנים מקריים ה"מזינה"‏ את 

אשר מתארת את ערך התהליך המרקובי בזמן 1+n 

התהליך ויוצרת משוואה מהסוג 

כפונקציה של ערך התהליך בזמן n והערך האקראי Z. ‏(בדוגמא זו Z הוא הביקוש D). 

(Z) i.i.d. 

X = f ( X , Z ) 

n+ 1 n n+ 

1 

- 54 -

207.2250 


דוגמא ב-‏‎10‎‏–‏ תהליכי הסתעפות :(Branching) 

סיפור:‏ נדמיין אוכלוסיה של פריטים אשר בה כל פריט מהדור ה n מוליד מספר אקראי של פריטים לדור ה 

כאשר המספר האקראי הזה הוא מפילוג i.i.d. כלשהו.‏ מצב התהליך מתאר כמה פריטים חיים בדור 

ברור כי כאשר המצב מגיע ל 0 אז האוכלוסייה נכחדת.‏ נניח כי פילוג מספר הפריטים אשר כל פריט 

מוליד הוא 



> 0 i עבור 

. PZ 

( k) 

= p 

{0,1,2,3,...} 

1 

k 

1+n ומת.‏ 

ה n. 

P = P( Z + ... + Z = j) 

ij 

.(i=0 ‏(עבור P ( ) 

0 j 

= I{0} j 

לדוגמא:‏ נניח כי p) Z ~ Bin(2, 

i.i.d. ‏(ז"א כל פריט מוליד 0 או 1 או 2 פריטים נוספים).‏ אזי ידוע כי 

⎛ n ⎞ 

: bk 

= ⎜ ⎟ p (1 − p) 

⎝ k ⎠ 

n k n−k 

ואז מטריצת המעבר נראית כך ‏(כאשר נסמן 

?(0 

4} {0,1, 2,3, ופו'‏ 

Z1 + ... + Zi 

~ Bin(2 i, p) 

⎛ 1 0 0 0 0 0 ⋯⎞ 

⎜ 2 2 2 

⎟ 

b0 b1 b2 

0 0 0 

P ⎜ 

⋯ 

= ⎟ 

⎜ 

4 4 4 4 4 

b0 b1 b2 b3 b4 

0 ⋯ ⎟ 

⎜ 

⎟ 

⎝ ⋮ ⋮ ⋮ ⋮ ⋮ ⋮ ⋱⎠ 

שאלה הסתברותית:‏ מה הסיכוי להיכחד ‏(להגיע למצב 

דוגמא ב-‏‎11‎ - סכום מצטבר מודולו:‏ 

יהיו משתנים מקריים בעלי תומך 

מסת הסתברות 

P ( i) 

= 

Y 

{ Yn 

, n ≥1} 

p 

i 

נסמן 

X = 

0 

0 

i 

. PY 

( i) 

נגדיר 

X ‏(כאשר הפעולה mod היא שארית החלוקה בחמש).‏ 

n+ 1 

= ( X 

n 

+ Yn 

+ 1)(mod5) 

מרחב המצבים:‏ 4} {0,1, 2,3, 


⎛ p0 p1 p2 p3 p4 

⎞ 

⎜ 

⎟ 

⎜ 

p4 p0 p1 p2 p3 

⎟ 

P ⎜ p p p p p ⎟ 

= 

3 4 0 1 2 

⎜ ⎟ 

p2 p3 p4 p0 p1 

⎜ 

⎟ 

⎜ p1 p2 p3 p4 p ⎟ 

⎝ 

0 ⎠ 

- 55 -

207.2250 


דוגמא:‏ ב-‏‎12‎ Cinlar 

– שארית אורך החיים:‏ 

סיפור:‏ נדמיין רכיב כלשהו אשר בשימוש תמידי.‏ כאשר הרכיב מתקלקל הוא מוחלף מיידית ע"י רכיב זהה.‏ 

אורך החיים של הרכיב ‏(הזמן מתחילת השימוש עד הקלקול)‏ הוא משתנה מקרי בדיד מהתפלגות 

התהליך X, מתאר את אורך החיים שנותר לרכיב הנוכחי לחיות.‏ ‏(נניח כי 

מרחב המצבים:‏ התומך של 


. 

P Z 

(.) 

( 

1 ≤ Z 

. 

P Z 

(.) 

ניתן לתאר את התהליך X באופן הבא:‏ 

X 

n+ 

1 

⎧ X 

n 

−1 X 

n 

≥1 

= ⎨ 

⎩Zn+ 

1 

− 1 X 

n 

= 0 

{ Z , n ≥1} 

‏(כאשר היא סדרת אורכי החיים של הרכיבים אשר בשימוש.)‏ 

ומכן מתקבלת מטריצת מעבר:‏ 

P 

⎛ p 

1 

p 

2 

p 

3 

p 

4 

p 

5 

p 

6 

⋯ ⎞ 

⎜ 

⎟ 

⎜ 

1 0 0 0 0 0 ⋯ 

⎟ 

⎜ 0 1 0 0 0 0 ⋯ ⎟ 

⎜ 

⎟ 

= ⎜ 0 0 1 0 0 0 ⋯ ⎟ 

⎜ 0 0 0 1 0 0 ⋯ ⎟ 

⎜ 

⎟ 

⎜ 0 0 0 0 1 0 ⋯ ⎟ 

⎜ 

⎟ 

⎝ ⋮ ⋮ ⋮ ⋮ ⋮ ⋱ ⋱ ⎠ 

n 

דוגמא:‏ ב-‏‎13‎ 

סיפור:‏ אין כאן סיפור,‏ נתון פשוט המודל.‏ 



P 

{1,2,3, 4,5} 

⎛ 1 1 

⎞ 

⎜ 0 0 0 

2 2 

⎟ 

⎜ 

⎟ 

⎜ 1 1 

0 0 0 ⎟ 

⎜ 2 2 

⎟ 

⎜ 

⎟ 

1 1 

= ⎜ 0 0 0 ⎟ 

⎜ 2 2 ⎟ 

⎜ 1 1 ⎟ 

⎜ 0 0 0 ⎟ 

⎜ 2 2 ⎟ 

⎜ 1 1 1 ⎟ 

⎜ 0 0 ⎟ 

⎝ 4 4 2 ⎠ 

שאלה הסתברותית 1: בהינתן שהשרשרת במצב 2, באיזה מצבים היא יכולה להימצא בעתיד?‏ 

שאלה הסתברותית 1: בהינתן שהשרשרת מה תוחלת הזמן שהיא תישאר במצב זה עד אשר תגיע 

במצב 5, 

למצב 1? 

- 56 -

207.2250 


דוגמא:‏ ב-‏‎14‎ 

P 

סיפור:‏ אין כאן סיפור,‏ נתון פשוט המודל.‏ 



{1,2,3, 4,5,6,7} 

⎛ .3 0 0 0 .7 0 0 ⎞ 

⎜ 

⎟ 

⎜ 

.1 .2 .3 .4 0 0 0 

⎟ 

⎜ 0 0 .5 .5 0 0 0 ⎟ 

⎜ 

⎟ 

= ⎜ 0 0 0 .5 0 .5 0 ⎟ 

⎜ .6 0 0 0 .4 0 0 ⎟ 

⎜ 

⎟ 

⎜ 0 0 0 0 0 .2 .8 ⎟ 

⎜ 0 0 0 1 0 0 0 ⎟ 

⎝ 

⎠ 

דוגמא:‏ ב-‏‎15‎ הילוך אקראי מוחזר 

סיפור:‏ נדמיין רכיב אשר נא על מרחב המצבים ‏{....,‏‎0,1,2,3‎‏}על פי החוק הבא:‏ הרכיב לוקח צעד לימין 

בהסתברות p ומנסה לקחת צעד שמאלה בהסתברות במידה והרכיב במצב 0 אז כאשר מנסה לקחת צעד 

שמאלה הוא נשאר במקום ‏(לא ניתן לזוז שמאלה לערך 



עבור 

:(Reflecting Random Walk) 

.1-p 

.(-1 

{0,1, 2,3,....} 

i ≥ 0 P = i, i+ 1 

p 

i ≥ 1 P = i, i− 

1 

1 − p 

P0,0 = 1− 

p 

או:‏ 

עבור 

⎛1− 

p p 0 0 0 ⋯⎞ 

⎜ 

⎟ 

⎜ 

1− 

p 0 p 0 0 ⋯ 

⎟ 

⎜ 0 1− 

p 0 p 0 ⋯⎟ 

P = ⎜ ⎟ 

⎜ 0 0 1− 

p 0 p ⋯⎟ 

⎜ 0 0 0 1− 

p 0 ⋯⎟ 

⎜ 

⎟ 

⎝ ⋮ ⋮ ⋮ ⋮ ⋮ ⋱⎠ 

דוגמא:‏ ב-‏‎16‎ שרשרת דטרמיניסטית למחצה:‏ 

סיפור:‏ לפעמים השרשרת ‏"יוצאת לטיול דטרמיניסטי"‏ מהאפס לשליליים ולפעמים לחיובים.‏ 



{ −2, −1,0,1, 2,3} 

⎛0 0 1 0 0 0⎞ 

⎜ 

⎟ 

⎜ 

1 0 0 0 0 0 

⎟ 

⎜0 1/ 2 0 1/ 2 0 0⎟ 

P = ⎜ ⎟ 

⎜0 0 0 0 1 0⎟ 

⎜0 0 0 0 0 1⎟ 

⎜ 

0 0 1 0 0 0⎟ 

⎝ 

⎠ 

- 57 -

207.2250 


פרק ב-‏‎3‎‏:‏ נוסחאות צ'פמן קולמוגורוב.‏ 

אז עד כה הגדרנו מהי שרשרת מרקוב וראינו אוסף דוגמאות עשיר של שרשראות מרקוב.‏ אבל עדיין לא 

חקרנו את התכונות של תהליכים אלו.‏ אם כן נתחיל בחקר משעשע זה בפרק הזה.‏ 

ההסתברות של מסלול סופי של התהליך:‏ 

למה:‏ 

P( X = i , X = i ,...., X = i , X = i ) = P( X = i ) P P ... P 

− 

n n n−1 n−1 1 1 0 0 0 0 i , i i , i i , i 

P( X = i , X = i ,...., X = i , X = i ) = 

n n n−1 n−1 1 1 0 0 

0 1 1 2 n 1 n 

הוכחה:‏ 

נשתמש בנוסחת השרשת ובתכונה המרקובית:‏ 

P( X = i | X = i ,...., X = i , X = i ) P( X = i ,...., X = i , X = i ) = 

n n n−1 n−1 1 1 0 0 n−1 n−1 1 1 0 0 

P( X = i | X = i ) P( X = i ,...., X = i , X = i ) = 

... = 

n n n−1 n−1 n−1 n−1 1 1 0 0 

P( X 

n 

= in | X 

n−1 = in− 1) P( X 

n−1 = in− 1 

| X 

n−2 = in−2 )... P( 

X1 

= i1 | X 

0 

= i0 ) P( X 

0 

= i0 

) = 

P( X 

0 

= i0 ) Pi 0 , i 

P 

1 i1 , i 

... P 

2 in 

− 1, 

in 

מ.ש.ל.‏ 

נוסחה זו מגדירה את ההתפלגות המשותפת של 

לדוגמא עבור השרשרת הדו-מצבית ‏(דוגמא ב-‏‎3‎‏)‏ מתקבלת ההתפלגות המשותפת הבא ‏(עבור שלושת הערכים 

הראשונים של התהליך):‏ 

x 0 

0 

0 

0 

0 

1 

1 

1 

1 

. X 

0, X1,..., X 

n 

x 1 

0 

0 

1 

1 

0 

0 

1 

1 

x 2 

0 

1 

0 

1 

0 

1 

0 

1 

P( X = x , X = x , X = x ) 

0 0 1 1 2 2 

PX 

0 

(0)(1 − a) 

2 

P (0)(1 ) 

X 0 

− a a 

P (0) X 0 

ab 

P (0) a(1 − a) 

X 0 

P (1) b(1 − a) 

X 0 

P (1) X 0 

ba 

P (1)(1 ) 

X 0 

− b b 

PX 

0 

(1)(1 − b) 

2 

נניח והיינו יודעים מהי 

P X m ‏(ההתפלגות השולית של התהליך בזמן m) אז ניתן היה לחשב את ההתפלגות 

(.) 

X 

m, X 

m+ 1,..., 

X 

m+ 

n 

P( X = i , X = i ,...., X = i , X = i ) = 

השולית של 

באותו אופן:‏ 

m+ n n m+ ( n−1) n− 1 m+ 

1 1 m 0 

P X i P P P 

− 

( 

m 

= 

0 

) 

i0 , i1 i1 , i 

... 

2 in 1, 

in 

- 58 -

207.2250 


( n) 

. P 


הסתברות מעבר ב n צעדים עבור 

נסמן את מטריצת המעבר של הסתברויות אלו ב 

: n ≥ 0 

n 

. P = P( X = j | X = i) 

ij 

n 

0 

(0) 

P 

= I 

P = I ( ) { } 

i 

0 

ij 

j 

הערה:‏ נשים לב כי על פי ההגדרה 

ולכן 

‏(מטריצת היחידה).‏ 

(2) 

( P 

2 

P ij 

כעת נחשב את 

‏(אלו איברי המטריצה 

2 

ij 

0 

0 

. P = P( X = j | X = i) 

2 

ij 

2 0 

P = P( X = j, X = k | X = i) 

= 

∑ 

k∈S 

∑ 

k∈S 

∑ 

k∈S 

k∈S 

2 1 0 

P( X 

2 

= j, X1 = k, X 

0 

= i) 

= 

P( X = i) 

0 

P( X = i) 

P P 

P P 

ik 

∑ 

ik 

P( X = i) 

תזכורת:‏ עבור מטריצות A,B שתיהן בעלות מימד .NxN האיבר ה i,j של מטריצת המכפלה AB הוא:‏ 

kj 

kj 

= 

. 

N 

∑ 

k = 1 

a b 

ik 

kj 

. P = PP = P 

(2) 2 

קבלנו אם כך כי 

המטריצה).‏ 

ז"א הכפלה של מטריצה סטוכסטית בעצמה ‏(או העלאה בריבוע של 

: P 

= P 

( n+ 1) n+ 

1 

P 

( n) 

: P 

= P 

n 

כעת נוכיח באמצעות אינדוקציה כי 

טענה:‏ 

הוכחה:‏ ברור שמתקיים ‏.נניח ש-‏ 

ונוכיח שמתקיים 

( n) 

= P 

n 

P 

= P 

(1) 1 

. P 

( n) 

= P 

n 

∑ 

∑ 

P = P P = P P = P P = P( X = k | X = i) P( X = j | X = k) 

= 

( n+ 

1) n ( n) ( n) 

ik kj n 

k∈S 

k∈S 

∑ 

= P( X = k | X = i) P( X = j | X = k) = * 

n 0 n+ 

1 

n 

k∈S 

n+ 

1 

P P X 

n+ 1 

j X 

0 

i ∑ P X 

n+ 

1 

j X 

n 

k X 

0 

i 

k∈S 

∑ 

0 1 0 

= ( = | = ) = ( = , = | = ) = 

P( X 

n+ 1 

= j, X 

n 

= k, X 

0 

= i) P( X 

n+ 

1 

= j | X 

n 

= k) P( X 

n 

= k | X 

0 

= i) P( X 

0 

= i) 

k∈S 

k∈S 

= = = 

P( X = i) P( X = i) 

∑ 

0 0 

= P( X = j | X = k) P( X = k | X = i) = ** 

k∈S 

∑ 

n+ 

1 n n 

0 

. P 

( n) 

= P 

n 

P 

= P 

( n+ 1) n+ 

1 

קל לראות כי *=** 

וכך הראנו כי 

ולכן לפי אינדוקציה מתקיים כי 

- 59 -

207.2250 


. 

:(Chapman-Kolmogorov 

( n+ 

m) ( n) ( m) 

. P = P P 

נראה תוצאה קצת יותר כללית:‏ 

משפט 

‏(נוסחאות צ'פמן קולמוגורוב 

P = ∑ p p או בכתיבה מטריציונית 

n+ 

m n m 

ij ik kj 

k∈S 

נוכיח באינדוקציה.‏ 

ראשית,‏ נשאל מדוע נוסחאות צ'פמן קולמוגורוב מוכיחות כי 

אזי לפי הנוסחאות 

עבור 1=n הטענה מתקיימת.‏ נניח כי מתקיימת עבור מ.ש.ל.‏ 

אבל לפי הנחת האינדוקציה זה שווה ל 

( n+ 

1) ( n) (1) ( n) 

P = P P = P P 

n ‏(ההתפלגות 

P X 0 

? P 

( n) 

= P 

n 

.n>1 

n n 

. P P = P + 

1 

∑ 

הוכחת צ'פמן קולמוגורוב:‏ 

P( X = j | X = i) = P( X = j, X = k | X = i) 

n+ m 0 n+ 

m m 

0 

k∈S 

P( X j, X k | X i) 


n+ 

m m 0 

n+ 

m 

= 

m 

= 

0 

= = = 

P( X 

0 

= i) 

0 m 0 

0 0 

n+ 

m m 0 m 

0 

P( X = j, X = k, X = i) 

P( X 

n+ 

m 

= j, X 

m 

= k, X 

0 

= i) P( X 

m 

= k, X 

0 

= i) 

= 

P( X = i) P( X = k, X = i) 

P( X 

n+ 

m 

= j, X 

m 

= k, X 

0 

= i) P( X 

m 

= k, X 

0 

= i) 

= 

P( X = k, X = i) P( X = i) 

m 

P( X = j | X = k, X = i) P( X = k | X = i) 

= 

n 

P( X = j | X = k) P( 

X = k | X 

0 

= i) 

= Pkj 

P 

n+ 

m m m 

P( X = j | X = i) = P( X = j, X = k | X = i) 

= P P = P P 

n m m n 

n+ m 0 n+ 

m m 0 

kj ik ik kj 

k∈S k∈S k∈S 

m 

ik 

∑ ∑ ∑ 

ולכן 

מ.ש.ל 

P( X 

n 

= j) 

.(n 

n 

P( X = j) = P( X = j | X = k) P( X = k) = P P ( k) 

קבלנו אם כך דרך לחשב את 

השולית של התהליך בזמן 

של התהליך.‏ זוהי התפלגות ערכי התהליך בזמן 

∑ 

∑ 

n n 0 0 

kj X0 

k∈S 

k∈S 

ניתן לכתוב זאת גם כך:‏ 

כך שאם נתייחס אל ההתפלגות ההתחלתית כאל וקטור שורה 

ואל 

. P( X = j) = ∑ P ( i) 

P 

n 

n X 0 ij 

i∈S 

P( X = l) = 1 

0 

l 

P X n 

X n 

התפלגות 

גם כאל וקטור שורה 

אז קבלנו:‏ 

. 

P 

X 

n 

= P P 

ועבור המקרה בו ההתפלגות ההתחלתית הינה מנוונת,‏ ז"א עבור ערך 

מסוים 

X 

0 

n 

n 

. P 

l 

P X n 

אז 

הוא השורה ה 

ב 

- 60 -

207.2250 



בדוגמא ב-‏‎3‎ הוצגה השרשרת הדו-מצבית,‏ בעלת מטריצת מעבר:‏ 

⎛1− 

a a ⎞ 

P = ⎜ ⎟ 

⎝ b 1− 

b⎠ 

n 

עבור דוגמא זו ניתן לקבל ביטוי פשוט עבור P 

‏(עבור הרבה דוגמאות אחרות אין דרך ‏"נקייה"‏ לייצג את 

.( P 

n 

P X 0 (0) 

.n 

P X n 

(.) 

P (0) = P( X = 0) = P( X = 0, X = 0) + P( X = 1, X = 0) 

כמקובל נסמן ב 

את הפילוג השולי של התהליך בזמן 

אם כך:‏ 

X n+ 1 n+ 1 n n+ 1 n n+ 

1 

= P( X = 0) P( X = 0 | X = 0) + P( X = 1) P( X 0 | X = 1) 

n n+ 1 n n n+ 

1 n 

= P (0)(1 − a) + P (1) b = 

X n 

X n 

= P (0)(1 − a) + (1 − P (0)) b = 

X n 

= b + (1 − a − b) P (0) 

X n 

X n 

. P X n 

n+ P (0) X במונחי (0) 

1 

. P (0) = b + (1 − a − b) P (0) 

קיבלנו נוסחה עבור 

אם כך בהינתן תנאי ההתחלה 

ניתן לחשב:‏ 

X1 X 0 

2 

X 

= + − − 

2 X 

= + − − + − − 

1 X 

= + − − + − − 

0 X 0 

P (0) b (1 a b) P (0) b (1 a b)( b (1 a b) P ) b (1 a b) b (1 a b) P (0) 

n−1 

j= 

0 

כך עבור n כלשהו נקבל:‏ 

j 

n 

P (0) = b (1 − a − b) + (1 − a − b) P (0) 

X n 

∑ 

X0 

ולכן:‏ 

n− 1+ 

1 

1 − (1 − a − b) 

n 

PX 

(0) = b + (1 − a − b) P (0) 

n 

X 

= 

0 

1 − (1 − a − b) 

b 

n 

n 

(1 − (1 − a − b) ) + (1 − a − b) PX 

(0) = 

0 

a + b 

n b b 

(1 − a − b) ( PX 

(0) − ) + 

0 

a + b a + b 

אם כך:‏ 

n b b 

PX (1) = 1 − P (0) 1 ((1 ) ( (0) ) ) 

n 

X 

= − − a − b P 

n 

X 

− + 

0 

a + b a + b 

a 

n b 

= + (1 − a − b) ( − PX 

(0)) = 

0 

a + b a + b 

a 

n b 

+ (1 − a − b) ( − 1 + PX 

(1)) = 

0 

a + b a + b 

a 

n a 

+ (1 − a − b) ( PX 

(1) − ) 

0 

a + b a + b 

- 61 -

207.2250 


קבלנו אם כך את ההתפלגות הגבולית בזמן n כפונקציה של ההתפלגות ההתחלתית ‏(הגבולית בזמן 0). 

ואז כאשר n שואף לאינסוף מקבלים:‏ 

אז 

לראות כי במידה ו 

מעניין 

|1 − a − b | < 1 

בפרקים הבאים נראה כי זאת נקראת ההתפלגות הגבולית של התהליך.‏ בנוסף 

P 

X n 

b a 

= ( , ) 

a + b a + b 

a ו b אינם 0 או ,1 

b a 

. lim PX n 

= ( , ) 

n→∞ 

a + b a + b 

P X0 

קל לראות כי אם בוחרים את 

להיות ההתפלגות הגבולית של התהליך אזי 

לכל 

!!!n 

(0) 1 P , ז"א התהליך 

X 0 

0 למצב 0 לאחר n צעדים).‏ = 

נחשב כעת את . P 

נתחיל ב ‏(ההסתברות לעבור ממצב 

נניח כי 

n 

P 

n 

00 

0 בוודאות.‏ 

P 

n 

(0) = P P (0) = P 

מתחיל במצב 

אם כך:‏ 

X n 

n 

00 X0 

00 

ולפי החישוב לעיל:‏ 

n n b b n a b 

P00 = (1 − a − b) (1 − ) + = (1 − a − b) 

+ 

a + b a + b a + b a + b 

נמשיך ל 

n 

: P01 

n n n a b a n a 

P01 = 1− P00 

= 1 − ((1 − a − b) + ) = − (1 − a − b) 

a + b a + b a + b a + b 

באופן סימטרי ניתן לקבל כי:‏ 

n n b a 

P11 = (1 − a − b) 

+ 

a + b a + b 

n b 

n b 

P10 = − (1 − a − b) 

a + b a + b 

n 

קבלנו אם כך את כל איברי P 

וניתן לסכם זאת באופן הבא:‏ 

1 ⎛ 

n ⎛b a ⎞ n ⎛ a −a 

⎞⎞ 

P = ⎜⎜ ⎟ + ( 1− a − b) 

⎜ ⎟⎟ 

a + b ⎝⎝b a ⎠ ⎝ −b b ⎠⎠ 

- 62 -

207.2250 


פרק ב-‏‎4‎‏:‏ מיון מצבים,‏ מצבים חולפים ומצבים מתמידים,‏ מצב 

מתמיד אפס,‏ מחזוריות.‏ 

הגדרות עזר כלליות-יחסי שקילות:‏ 

נתחיל בחזרה על מספר מושגים בסיסיים מתורת הקבוצות.‏ 

בהינתן קבוצה נסמן ב את המכפלה הקרטזית של הקבוצה עם עצמה.‏ זהו אוסף כל 

הזוגות הסדורים מהסוג 

דוגמא 

V × V ,V 

. ( a, b), a ∈V , b ∈V 

:1 V={1,2,3} אז 

V × V = {(1,1),(1, 2),(1,3), 

(2,1),(2, 2),(2,3), 

(3,1),(3,2),(3,3)} 

זהו אוסף הוקטורים במישור.‏ 

דוגמא 

בהינתן V צמתים של גרף,‏ אז אם ניקח את קשתות הגרף E להיות 

דוגמא אז נאמר כי הגרף מלא ‏(ישנה קשת בין כל צומת לכל צומת).‏ 

ז"א זהו אוסף של זוגות 

רלציה/יחס R על קבוצה V היא קבוצה חלקית של 

סדורים מהסוג 

‏(קטן שווה),‏ הוא אוסף הזוגות הסדורים מהסוג 

אם 

דוגמא E = V × V 

. R ⊆ V × V . V × V 

R ≤ 

. R× R = R 

2 

:2 

:3 

. ( a, b), a ∈V , b ∈V 

:1 N V = אזי היחס 

אבל 

כך למשל 

כך ש בגרף מכוון ממושקל ‏(כפי שהוצג בפרק הקודם,‏ E קבוצת הקשתות היא רלציה 

דוגמא קבוצת הצמתים.‏ 

רלציה/יחס שקילות,‏ היא רלציה E על V אשר מקיימת את שלושת התנאים הבאים:‏ 

מתקיים כי 

רפלקסיביות 

אז 

אם סימטריות אז 

וגם טרנזטיביות 

יחס השוויון בין מספרים הוא יחס שקילות.‏ 

דוגמא תהייה אוסף כל הזוגות הסדורים של 

תהי V קבוצת הסטודנטים בכיתה.‏ דוגמא הסטודנטים בעלי אותו שם:‏ 

בין מספרים אינו רלצית שקילות ‏(אינו מקיים סימטריות).‏ 

יחס גדול/שווה דוגמא היא אוסף כל 

בהינתן רלצית שקילות E מעל V, מחלקת שקילות של איבר 

ז"א 

כך ש האיברים ב V, . (5,4) ∉ R ≤ 

. 

( a, b) 

(2,14) ∈ R ≤ 

( a, a) 

∈ E 

. ( b, a) 

∈ E 

∈ E ( k, b) 

∈ E 

. a 

≤ b 

– לכל a ∈V 

( a, b) 

∈ E - 

( a, k) 

– אם ∈ E 

E 

. E = {( a, b) : a, b ∈ V , Name( a) = Name( b)} 

( ≤ ) 

.([ a] ‏(נסמן V ב a 

.[ a] = { b ∈V : ( a, b) ∈ E} 

. ( a, b) 

∈ E 

, ( a, b), a ∈V , b ∈V 

:2 

מעל V, 

.i 

.ii 

.iii 

:1 

:2 

משפט:‏ יחס שקילות E על V מתאר חלוקה של ערכי V. ‏(כזכור חלוקה של קבוצה היא אוסף תת קבוצות,‏ 

זרות,‏ לא ריקות שאיחודן הוא הקבוצה V). 

לדוגמא עבור הרלציה בדוגמא יחס השקילות של השמות מהווה חלוקה של קבוצת הסטודנטים על 

פי שמותם.‏ 

2 ‏(לעיל)‏ 

:3 

,b 

.a 

.b 

.c 

.a 

.b 

.a 

.b 

.c 

.1 

.2 

.3 

.4 

- 63 -

207.2250 


יחס הקשירות הוא יחס שקילות ולכן יוצר מחלקות שקילות:‏ 

. i → 

j 

n 

. P נסמן ב 

ij 

> 

0 

n ≥ 0 


נאמר כי מצב j נגיש ממצב i אם קיים 

כך ש 

. P = P( X = i | X = i) = 1 

0 

i, i 

0 0 

הערה:‏ כל מצבי נגיש לעצמו כי 

. i ↔ 

j 

. (j 

i ← 

j 

,(i 

i → 

j 


נאמר כי מצבים i ו j מתקשרים אם 

(j נגיש מ 

וגם 

(i נגיש מ 

נסמן ב 

הערה:‏ לפעמים ‏(בעברית)‏ מחליפים את הביטויים ‏(נגיש ומתקשר)‏ בביטויים ‏(מתקשר ומתקשר ההדדית).‏ 

j מתקשר עם i אז המצבים 

ואם i מתקשר עם i מתקשר עם ז"א אומרים שאם j נגיש ממצב מתקשרים הדדית.‏ 

j וגם 

.j אז i 

. i ↔ 

j 

( i, j) 

∈ R 


יחס הקשירות על מרחב המצבים של שרשרת מרקוב הוא היחס 

אמ"מ 

משפט:‏ 

יחס הקשירות על מרחב המצבים הוא יחס שקילות.‏ 

.i 

.ii 

.iii 


כל מצב נגיש לעצמו.‏ 

רפלקסיביות מיידי מההגדרה של מצבים מתקשרים ‏(כי ההגדרה סימטרית).‏ 

סימטריות אזי 

וגם טרנזטיביות – צריך להוכיח כי אם . j ↔ i 

j ↔ l 

P > 

n 

i, l 

0 

l ↔ i 

n ≥ 0 

l 

← i 

- 

- 

ולכן 

ולכן 

אזי קיים 

אזי קיים 

כך ש 

m 

P 

l, j 

> 0 m ≥ 0 

P 

+ 

= ∑ P P 

כך ש 

n m n m 

i, j i, k k, 

j 

k∈S 

j 

← l 

l ↔ i 

j 

↔ l 

לפי צ'פמן-קולמוגורוב 

סכום זה גדול שווה לכל מחובריו ‏(כי איברי הסכום חיוביים)‏ ולכן:‏ 

j 

∑ 

P P P P P 

n+ 

m n m n m 

i, j 

= 

i, k k, j 

≥ 

i, l l, j 

> 0 

k∈S 

→ i 

ולכן קבלנו כי . j ← i 

באופן זהה לחלוטין ניתן להראות כי 

ומכאן נובע כי 

. j ↔ i 

מ.ש.ל 

תוצאה מהמשפט והגדרה:‏ יחס הקשירות על מרחב המצבים מגדיר מחלקות שקילות על מרחב המצבים.‏ 

i ↔ 

j 

i, 

j ∈ A 

. A ⊆ S 


נסמן את מרחב המצבים של שרשרת מרקוב ב S. 

מחלקת קשירות או פשוט מחלקה של מצבים היא הקבוצה A, 

ואין מצב ומצב כך ש 

כך שלכל 

מתקיים 

. i ↔ k 

i ∈ A 

k ∈ S \ A 

- 64 -

207.2250 



שרשרת מרקוב היא אי-פריקה במידה ויש בה מחלקה בודדת.‏ 

דוגמאות:‏ 

בדוגמה ב-‏‎0‎ יש שתי מחלקות קשירות.‏ 

בדוגמה ב-‏‎1‎ יש מחלקת קשירות בודדת ולכן השרשרת היא אי-פריקה.‏ 

בדוגמא ב-‏‎3‎ אם אז השרשרת אי-פריקה.‏ אם אז השרשרת לא אי-פריקה 

‏(השרשרת פריקה)‏ ויש בה שתי מחלקות קשירות.‏ אם עדיין ישנם שתי מחלקות 

קשירות.‏ 

בדוגמא ב-‏‎5‎ יש אינסוף מחלקות קשירות.‏ כל מחלקה היא מצב בודד.‏ 

בדוגמא ב-‏‎13‎‏,‏ מחלקות הקשירות הן:‏ 

a = b = 0 

a = 1, b = 0 

{1,2},{3, 4},{5} 

0 < a, b < 1 

• 

• 

• 

• 

• 

אלגוריתמים למציאת מחלקות הקשירות:‏ 

לא נעסוק בקורס זה באלגוריתמים למציאת מחלקות הקשירות.‏ רוב הדוגמאות אשר נעסוק יהיה מבנה סדור 

ביותר או שהדוגמאות יהיו די קטנות כך שניתן לחפש ידנית את כל מחלקות הקשירות.‏ 

למרות זאת,‏ כל המעוניין,‏ מוזמן לחפש את האלגוריתם למציאת רכיבים קשירים היטב בגרף בספר:‏ 

“Introduction to Algorithms", by T. H. Corman, C. E. Leiserson, and R. L. Rivest (MIT 

Press and McGraw-Hill 1994) 

רכיב קשיר היטב בגרף מכוון הוא רכיב אשר בו קיים מסלול בין כל זוג צמתים.‏ כאשר מיישמים אלגוריתם 

שכזה על מרחב המצבים של שרשרת מרקוב,‏ דרוש לבנות גרף מכוון ובו יש קשת מכל מצב למצבים הנגישים 

ממנו.‏ וזה אומר גם קשת מכל מצב לעצמו ‏(גם אם הסתברות המעבר ממצב לעצמו היא 

0 לכל .(n 

להלן איור הנלקח מהספר המראה את פעולת האלגוריתם למציאת רכיבים קשירים היטב בגרף מכוון.‏ 

- 65 -

207.2250 


אלגוריתם נוסף למציאת יחס קשירות בין מצבים הוא האלגוריתם הבא:‏ 

בהינתן מטריצת מעבר P, סמן 1 בתאים בהם יש ערך חיובי.‏ 

א)‏ סמן 

ב)‏ בצע את החישוב הבא:‏ 

ג)‏ 1 באלכסון.‏ 

| S| 

P 

= ∑ P 

k= 

1 

k 

כאשר המשמעות של כפל היא And והמשמעות של חיבור היא 

Or 

.(1+1=1,1+0=1,0+1=1,0+0=0) 

( P ) 

ד)‏ 

ה)‏ 

המטריצה אשר התקבלה מכילה 1 במקום ה i,j במידה וניתן להגיע ממצב 

למצב j ‏(אחרת היא מכילה 0 במקום זה).‏ 

בדוק במטריצה מהם צמדי המצבים אשר עבורם וגם 

הצמדים הללו הינם קשירים.‏ 

i 

, P כל 

ji = 1 

P 

ij = 1 

P 

f i , i 

חלוקת מרחב המצבים בשרשרת למצבים חולפים ומתמידים:‏ 


נגדיר את הסתברות החזרה למצב i להיות:‏ 

. fi, i 

= P( ∃ m > n, X 

m 

= i | X 

n 

= i) 

זו ההסתברות כי בהינתן כי התהליך במצב i אז הוא יחזור למצב i אי פעם בעתיד.‏ 

נסתכל על דוגמא ב-‏‎1‎ ‏(מזג אוויר),‏ נראה כי בדוגמה זו הסתברות החזרה למצב היא 1 עבור כל מצב.‏ אבל 

בדוגמא ב-‏‎0‎‏,‏ רואים כי עבור מצבים 2,3 הסתברות החזרה למצב היא 1 בעוד שבמצב מס'‏ ההסברות היא 

אבחנות אינטואיטיביות אלו גוררות את ההגדרות הבאות.‏ 

,1 

רק ½. 


נאמר כי מצב i הוא מתמיד אם 

f 

i, i 

= 1 

f 

i, i 

< 1 


נאמר כי מצב i הוא חולף אם 

f i 

הערה:‏ לפעמים מסמנים 

. f i , i במקום 

אליו:‏ 

ז"א כל מצב הוא או מתמיד או חולף,‏ במידה ומתמיד אז אם השרשרת נמצאת במצב זה היא תחזור אליו שוב 

ושוב.‏ ובמידה וחולף אז אם נמצאת במצב זה,‏ אז ישנה סבירות שתחזור אליו וישנה סבירות שלא תחזור 

, 

f i , i 

,i 

. 

f i , i 

. 

1− 

fi, 

i 

נבחין כי במידה והשרשרת חזרה למצב אז עקב תכונת המרקוביות ‏"הכול מתחיל מהתחלה"‏ והסבירות 

שתחזור שוב למצב i היא שוב כך ניתן להסתכל על הטיול אשר שרשרת מטיילת במצביה לאחר ביקור 

במצב i כטיול אשר בסופו נותן תוצאה של משתנה מקרי ברנולי,‏ כאשר הצלחה ‏(במונחי ניסויי הברנולי)‏ 

מיוחסת לאי-חזרה אי פעם למצב i וכשלון מיוחס לחזרה – ואז מתחיל הניסוי הבא.‏ מכן מספר הביקורים 

‏-סופר כישלונות ‏(כולל הביקור 

במצב i במידה והשרשרת נמצאת בזמן 

הראשון בזמן 

Geometric(1 − f i , i 

i מתפלג ) 

.(0 

- 66 -

207.2250 


fi, 

i 

. 

1− 

f 

i, 

i 

(i 

מכאן תוחלת מספר הביקורים במצב i 

נבחין אם כך כי עבור מצב מתמיד 

‏(בהינתן שמתחילים במצב 

היא 

ולכן תוחלת מספר הביקורים היא אינסוף.‏ בעוד שעבור מצב 

n צעדים.‏ 

1− = 0 

f i , i 

חולף תוחלת מספר הביקורים היא סופית.‏ 

כעת נתאר משפט המסווג מצבים חולפים ומתמידים על פי סדרת הסתברויות המעבר ב 

משפט:‏ 

התכנסות או התבדרות הטור 

אם הטור מתבדר 

קובעת אם מצב i הוא מתמיד או חולף:‏ 

אז מצב i הוא מתמיד.‏ 

∞ 

n 

∑ Pii 

n= 

1 

∞ 

(∑ 

n= 

1 

∞ 

(∑ 

n= 

1 

P 

n 

ii 

P 

n 

ii 

= ∞ ) 

אם הטור מתכנס ) ∞ < 

אז מצב i הוא חולף.‏ 


עבור מצב חולף,‏ תוחלת מספר הביקורים במצב היא סופית.‏ 

עבור מצב מתמיד,‏ תוחלת מספר הביקורים במצב היא אינסופית.‏ 

נגדיר אם כך את המשתנה מקרי הבא:‏ 

.i 

N 

i 

∞ 

( X ) 

I n 

{ i} 

n= 

0 

= ∑ 

משנה מקרי זה סופר את מספר הביקורים של השרשרת במצב 

אם כך:‏ 

∞ ∞ ∞ ∞ 

( X n ) ( X n ) 

n 

i 0 

= = ∑ { i} 0 

= = ∑ { i} 0 

= = ∑ n 

= 

0 

= = ∑ ii 

n= 0 n= 0 n= 0 n= 

0 

E[ N | X i] E[ I | X i] E[ I | X i] P( X i | X i) 

P 

m+n+k ב j ל j 

m ב i ל j 

מ.ש.ל.‏ 

משפט:‏ 

עבור כל מחלקת שקילות,‏ או שכל המצבים במחלקה מתמידים או שכל המצבים חולפים.‏ 

j מתמיד.‏ 

i ↔ j 


ראשית נראה שאם i מתמיד וגם 

קיימים 

כך ש 

וגם 

אז 

. P > 0 

m 

ji 

P ≥ P P P 

m+ n+ 

k m n k 

jj ji ii ij 

k 

P 

ij 

> 

0 

n∈ N 

k, 

m ∈ N 

אם כך עבור כל 

מתקיים 

וזאת בגלל שמאורע המעבר מ 

צעדים מכיל את המאורה אשר עבורו מחושבת ההסתברות בצד ימין של אי השוויון ‏(מעבר מ 

צעדים,‏ לאחר מכן מעבר מ i לעצמו ב n צעדים ולבסוף מעבר מ 

אם כך אז ניתן לסכום על כל 

i ל j ב k צעדים).‏ 

n ולקבל:‏ 

∞ ∞ ∞ 

m+ n+ 

k m n k m k n 

∑ Pjj ∑ Pji Pii Pij Pji Pij ∑ Pii 

n= 1 n= 1 n= 

1 

≥ = =∞ 

כאן עשינו שימוש בעובדה ש i מתמיד ולכן הטור עבורו מתבדר.‏ 

∞ 

∑ 

n= 

1 

P 

n 

jj 

ולכן הטור 

מתבדר גם הוא ולכן j מצב מתמיד.‏ 

- 67 -

ס(‏ 

207.2250 


( i ↔ j 

אם כך הראנו כי אם מצב הוא מתמיד אז כל המצבים במחלקה שלו ‏(כל ה j כך ש הם גם מתמידים.‏ 

מכאן נובע גם כי אם מצב i הוא חולף אז כל ה j כך ש הם גם חולפים כי אם היה j כזה שהוא מתמיד 

אז גם i היה צריך להיות מתמיד.‏ 

מ.ש.ל.‏ 

i ↔ j 

הערה:‏ כתוצאה ממשפט זה ניתן לומר כי מחלקה היא מתמידה או מחלקה היא חולפת בהתאם 

להתמדה/חליפות של המצבים במחלקה ‏(המשפט מבטיח כי כל המצבים במחלקה יהיו מאותו סוג).‏ 

משפט:‏ 

בשרשרת מרקוב עם מרחב מצבים סופי לא כל המצבים יכולים להיות חולפים.‏ 


נניח כי המצבים מסומנים {N ,...,0,1} ונניח בשלילה כי כל המצבים חולפים.‏ אז לאחר זמן 

השרשרת כבר לא תהייה במצב 

לאחר זמן 

במצב כלשהו וכאן הסתירה.‏ 

מ.ש.ל.‏ 

T 0 

,0 

T = T0 T1 

T N 

max{ , ,..., } 

ופי)‏ 

T 1 השרשרת כבר לא תהייה במצב 1 וכן הלאה.‏ אם כך 

ולאחר זמן סופי 

השרשרת לא תמצה באף מצב.‏ אבל בזמן זה השרשרת חייבת להיות 

הערה:‏ בניגוד לכך,‏ נראה דוגמאות בהן השרשרת היא אינסופית וכל המצבים חולפים.‏ 

משפט:‏ 

בשרשרת מרקוב אי פריקה עם מרחב מצבים סופי,‏ כל המצבים הם מתמידים.‏ 


על פי המשפט הקודם חייב להיות מצב מתמיד אחד ועל פי המשפט שלפניו כל המצבים במחלקת השקליות 

הבודדה ‏(השרשרת היא אי-פריקה)‏ צריכים להיות מאותו סוג.‏ ולכן כולם מתמידים.‏ 

הערה:‏ הרבה מהדוגמאות בהמשך יהיו על שרשראות מרקוב אי-פריקות בעלות מרחב מצבים סופי.‏ נראה 

שבמידה ואין בעיות של מחזוריות אז שרשראות אלו הינן בעלות התפלגות סטציונרית ‏(תוגדר בפרקים 

הבאים).‏ 


נסתכל על דוגמא ב-‏ 14 ובה מטריצת המעבר היא:‏ 

P 

⎛ .3 0 0 0 .7 0 0 ⎞ 

⎜ 

⎟ 

⎜ 

.1 .2 .3 .4 0 0 0 

⎟ 

⎜ 0 0 .5 .5 0 0 0 ⎟ 

⎜ 

⎟ 

= ⎜ 0 0 0 .5 0 .5 0 ⎟ 

⎜ .6 0 0 0 .4 0 0 ⎟ 

⎜ 

⎟ 

⎜ 0 0 0 0 0 .2 .8 ⎟ 

⎜ 0 0 0 1 0 0 0 ⎟ 

⎝ 

⎠ 

קל לצייר את הגרף המתאים למרחב המצבים {1,2,3,4,5,6,7} ולחלק למחלקות מתמידות וחולפות:‏ 

מחלקות מתמידות:{‏‎1,5‎‏},‏ 

מחלקות חולפות:‏ 

.{4,7,6} 

.{2},{3} 

- 68 -

207.2250 



נסתכל על דוגמא ב-‏‎7‎‏,‏ מודל המהמר על מרחב מצבים 

{N},{0} והמחלקה החולפת היא 

{0,..., N} 

.{1,…,N-1} 


במחלקה מתמידה אשר מורכבת ממצב יחיד,‏ המצב היחיד נקראה מצב סופג.‏ 

לדוגמא,‏ בדוגמא לעיל המצבים N,0 הם סופגים.‏ 

הערה:‏ מצב i הוא סופג אמ"מ מתקיים 

. P = 1 

ii 

j ) 

קל לראות כי המחלקות המתמידות הן:‏ 


נסתכל על דוגמא ב-‏ 6 ‏(הילוך אקראי).‏ 

,i) ולכן על פי המשפט לעיל או שכל המצבים מתמידים 

ברור כי כל המצבים מתקשרים לכל j Z∋ 

או שכולם חולפים.‏ 

אם כך נסתכל על המצב וננסה לראות אם מצב זה הוא חולף או מתמיד ‏(וזה יקבע התמדה/חליפה של כל 

המצבים).‏ 

נסתכל על התור 

מתמיד בהתאמה.‏ 

i ↔ 

,0 

, 

∞ 

∑ 

n= 

1 

P 

n 

00 

על פי המשפט לעיל התכנסות,‏ התבדרות התור תקבע האם המצב 0 חולף או 

ראשית נבחין כי לאחר מספר אי-זוגי של צעדים לא ניתן לחזור למצב 0 ‏(זאת כי מספר הצעדים ימינה דרוש 

להשתוות למספר הצעדים שמאלה ולכן חייב להיות זוגי):‏ 

עבור 

מצד שני,‏ לאחר מספר זוגי של צעדים דרוש כי מספר הצעדים לצד אחד ישתווה למספר הצעדים לצד 

השני בשביל שתתבצע חזרה למצב ולכן:‏ 

n = 1, 2,3,... P + = 

,(2n) 

,0 

2 ⎛ 2 n⎞ 

(2 n)! 

P00 

= ⎜ ⎟ p (1 − p) = p (1 − p) 

⎝ n ⎠ 

n! n! 

2n 

1 

00 

0 

n n n n n 

ניתן לקרב ערך זה ע"י נוסחת סטירלינג 

1 

n 

2 n 

π + − 

:( n! ∼ 2 n e 

2n+ 1/ 2 −2n n 

2n (2 n)! n (2 n) e 2 π 

n (4 p(1 − p)) 

00 

= ( (1 − )) ∼ 

( (1 − )) = 

n+ 1/ 2 − n n+ 1/ 2 −n 

P p p p p 

n! n! (( n) e 2 π )(( n) e 2 π ) 

nπ 

אם כך הטור 

) 

∞ 

∑ 

n= 

1 

P 

n 

00 

הערה:‏ נשים לב ש 

מתכנס אמ"מ הטור 

∞ 

∑ 

n= 

1 

(4 p(1 − p)) n 

nπ 

(4 p(1 − p)) n 

nπ 

הוא קרוב של 

n 

P00 

יתכנס.‏ 

הנובע מהקרוב של נוסחת סטירלינג.‏ אם כך,‏ דרושה 

הוכחה לכך שהתכנסות הטור האחד מתקיימת אמ"מ הטור השני מתכנס.‏ לא נציג הוכחה זאת כאן.‏ 

אם כך האם הטור מתכנס?‏ התשובה תלויה בפרמטר 

ומתקיים שוויון אמ"מ 


.p 

. p =1/ 2 

4 p(1 − p) ≤ 1 

הם p − p 

הפתרונות.‏ 

0 ו – .1 

2 

קל לראות זאת כי פתרונות המשוואה הריבועית 

וזוהי פרבולה בעלת מקסימום ‏(נפתחת כלפי מטה)‏ ולכן נקודת המקסימום היא בין 

- 69 -

207.2250 


. α = 4 p(1 − p) ∈[0,1/ 2) 

. 

אז עבור 

ועבור 

p =1/ 2 

מדובר בטור:‏ 

1 

π 

∞ 

∑ 

n 

−1/ 2 

p ≠ 1/ 2 

מדובר בטור:‏ 

‏(כאשר 

n= 

1 

∞ 

1 n 

π 

∑ 

n= 

1 

α n 

−1/ 2 

0 

0 

אם כך עבור 1/2=p התור מתבדר ולכן מצב הוא מתמיד ולכן כל המצבים מתמידים.‏ 

ועבור התור מתכנס ולכן מצב הוא חולף ולכן כל המצבים חולפים.‏ 

p ≠ 1/ 2 

התמדה חיובית והתמדה אפס:‏ 

את הדיון הקודם לגבי מצבים מתמידים ומצבים חולפים היינו יכולים לנסח בעזרת המשתנים המקריים הבאים:‏ 

. T = min{ n ≥ 1: X = i} 

i 

n 

זהו הזמן הראשון ובו מצב השרשרת הוא 

ערך המשתנה המקרי הזה יכול להיות גם 

.i 

(hitting time) ונקרא זמן הפגיעה i 

∞ 

למצב 

ובכך מסומן המצב בו התהליך אינו חוזר למצב 

.i 

הערה:‏ הסימון קונסיסטנטי עם הסימון של תהליך בינומי שלילי ‏(זמן הפגיעה במצב k ביחס לתהליך בינומי).‏ 

באמצעות משתנה מקרי זה,‏ ניתן לייצג את הגודל 

f i , i 

. f = P( T < ∞ | X = i) 

i, i i 

0 

כך:‏ 

אם כך,‏ עבור כל דוגמה בה מצאנו מצבים להיות מתמידים התקיים כי ערך המשתנה המקרי הוא סופי 

1: בהסתברות 

f = P( T < ∞ | X = i) = 1 

i, i i 

0 

עבור מצבים מתמידים,‏ לפילוג משתנה מקרי זה ישנה חשיבות רבה,‏ הוא מתאר כמה זמן עובר בין כניסות 

חוזרות למצב ‏(בעצם קיימת סדרת משתנים מקריים – נובע מהתכונה המרקובית,‏ עבור כל מצב).‏ 

גם עבור מצבים חולפים יש למשתנה זה משמעות,‏ אבל עבור מצבים כאלו הפילוג הוא כזה אשר מאפשר 

למשתנה לקבל את הערך 

כאשר אנו דנים בערכים אקראיים פעמים רבות אנו מעוניינים לדעת את תוחלת הערכים האקראיים הללו.‏ כך 

גם נרצה לעשות עבור המשתנה המקרי 

i.i.d. 

.T i 

T i היא 

. ∞ 

אם כך,‏ עבור מצבים חולפים תוחלת ∞ ‏(זהו ערך התוחלת עבור כל משתנה מקרי אשר יכול לקבל 

כערך).‏ 

מה לגבי מצבים מתמידים?‏ 

Tסופית i ולפעמים יתקיים כי היא אינסופית.‏ ‏(אנו הרי יודעים כי 

עבור מצבים אלו לפעמים יתקיים כי תוחלת 

תוחלתם של משתנים מקריים מסוימים יכולה להיות וזאת כי טור התוחלת אינו מתכנס).‏ 


יהי i מצב מתמיד בשרשרת מרקוב 

אם 

∞ 

∞ 

{ X , n ≥ 0} 

n 

ויהי 

. T = min{ n ≥ 1: X = i} 

i 

n 

E[ T | X = i] 

< ∞ 

i 

0 

אזי מצב i נקרא מתמיד חיובי 

אזי מצב i נקרא מתמיד אפס 

אם 

הערה:‏ אם כך אנו למדים כי ניתן לסווג מצבים ל-‏‎3‎ קטגוריות:‏ 

חולף.‏ 

א)‏ מתמיד אפס.‏ 

ב)‏ .(positive recurrent) 

.(positive recurrent) 

E[ T | X = i] 

= ∞ 

i 

0 

- 70 -

207.2250 


ג)‏ מתמיד חיובי.‏ 

המשפט הבא מראה כי סיווג המצבים המתמידים ‏(כמתמידים אפס או מתמידים חיובית)‏ אינו רלוונטי 

לשרשראות מרקוב בעלי מרחב מצבים סופי.‏ 

משפט ‏(ללא הוכחה):‏ 

בשרשרת מרקוב עם מרחב מצבים סופי,‏ אף מצב אינו מתמיד אפס ‏(כל המצבים מתמידים חיובית או חולפים).‏ 

מכאן,‏ אנו רואים שההבחנה בין מצבים מתמידים אפס למתמידים חיוביות הינה רלוונטית אך ורק בשרשראות 

מרקוב בעלות מרחב מצבים אינסופי.‏ 

כעט נגדיר את משוואות שיווי המשקל.‏ את משוואות אלו נפגוש בהרחבת יתר בהמשך הקורס.‏ 


עבור שרשרת מרקוב בעלת מטריצת מעבר P ומרחב מצבים S. משוואות שווי המשקל הינם:‏ 

π = π P ∀j ∈ S 

j i ij 

i∈S 

∑ 

j∈S 

∑ 

π = 1 

j 

פתרון למשוואות הנ"ל 

שמות אלו בהמשך).‏ 

) π) נקראה התפלגות סטציונרית ולפעמים גם התפלגות גבולית ‏(נבין משמעות 

וקטור הנעלמים במשוואות אלו הוא הווקטור π ‏(בעל 

| S | 

משוואות ‏(במידה ו S סופי)‏ או משוואה עבור כל איבר ב S ועוד משוואה 

הערה:‏ ניתן לרשום את |S| המשוואות הראשונות בצורה מטריציונית:‏ 

איברים,‏ יכול להיות אינסופי).‏ יש כאן 

| S | + 1 

. 

∑ 

j∈S 

π = 1 

j 

, π P 

= π 

כאן π הוא וקטור שורה.‏ 

אז מה עושים עם משוואות שווי המשקל?‏ בפרקים הבאים נראה שעושים המון,‏ כעת נשתמש במשוואות אלו 

והמשפט הבא:‏ 


עבור שרשרת מרקוב אי-פריקה ומשוואות שווי משקל.‏ כל מצבי השרשרת הינם מתמידים חיובית אמ"מ 

למשוואות שווי המשקל קיים פתרון.‏ 

מעבר לכך,‏ במידה וקיים פתרון אז הוא יחיד ובו 

.j לכל מצב π > 0 

j 

על פי משפטים קודמים אנו יודעים כי בשרשרת מרקוב אי-פריקה סופית,‏ כל המצבים הינם מתמידים חיובית.‏ 

המשפט הנוכחי מתאר את התנאי הדרוש לכך שבשרשרת מרקוב אי-פריקה אין סופית,‏ כל המצבים יהיו 

מתמידים:‏ קיום פתרון למשוואות שווי המשקל.‏ 

לפני שנמשיך ונראה דוגמא,‏ נציין משפט נוסף אשר ייתן משמעות לפתרון משוואות שווי המשקל ‏(ההתפלגות 

הסטציונרית).‏ בפרקים הבאים נראה משמעויות רבות נוספות.‏ 


עבור שרשרת מרקוב אי פריקה בעלת התפלגות סטציונרית מתקיים:‏ 

- 71 -

207.2250 


1 

. E[ Tj 

| X 

0 

= j] 

= 

π 


נסתכל על דוגמא ב-‏‎15‎ ‏(הילוך אקראי מוחזר),‏ זוהי דוגמא קלאסית לצורך סווג מצבים כחולפים,‏ מתמידים 

אפס או מתמידים חיובית.‏ 

ניזכר בהסתברויות המעבר של שרשרת זו:‏ 

עבור 

π 

0 

+ π1 + π 

2 

+ ... = 1 

π = π (1 − p) + π (1 − p) + ( π + π + ...) ⋅0 

:j=0 

0 0 1 2 3 

π = π p + π ⋅ 0 + π (1 − p) + ( π + π + ...) ⋅0 

1 0 1 2 3 4 

π = π ⋅ 0 + π p + π ⋅ 0 + π (1 − p) + ( π + π + ...) ⋅0 

2 0 1 2 3 4 5 

π (1 ) 

k 

= π 

k − 1 

p + π 

k + 1 

− p 

:(j=0) 

i ≥ 0 P = i, i+ 1 

p 

i ≥ 1 P = i, i− 

1 

1 − p 

P0,0 = 1− 

p 

עבור 

כיצד נראות משוואות שווי המשקל?‏ 

‏"משוואת הסכום לאחד":‏ 

:j=1 

:j=2 

> 0 k כללי:‏ 

המשוואה עבור מצב 



... 


ולהלן הפתרון של המשוואות:‏ 

נניח כי אזי על פי המשוואה הראשונה 

j 

... 

πידוע,‏ 0 

p 

π1 = π 

0 

1 − p 

(j=1) 

p 

0 

p (1 ) 

0 2 

p 

1− 

p π − π = π − 

הצבה במשוואה השנייה 

או 

תיתן:‏ 

p p 

π 

2 

= π 

0( − ) 

2 

(1 − p) 1− 

p 

או 

( p 

π ) 

2 

= π 

0 

1− 

p 

וכך אם נמשיך נקבל באופן כללי:‏ 

( p 

π ) 

k 

= π 

0 

1− 

p 

כעת בשביל לקבל את 

π 0 נשתמש ב"משוואת הסכום לאחד".‏ 

∞ 

p 

1 = π + ∑π 

( ) 

1− 

p 

0 0 

k = 1 

2 

k 

k 

- 72 -

207.2250 


או:‏ 

π = 

0 

∞ 

∑ 

k = 0 

1 

p 

( ) 

1− 

p 

k 

נשים לב שהטור הגיאומטרי במשוואה של 

p 

π 0 מתכנס אמ"מ 1 

1− 

p < 

π k מתכנסות על פי אותו תנאי.‏ 

בנוסף נבחין כי המשוואות עבור 

אם כך,‏ המערכת הינה מתמידה חיוביות עבור עבור 

< 1/ 2 p . או 

1/ 2 ≤ p 

. p < 1/ 2 

המערכת אינה מתמידה חיובית.‏ 

לא נראה זאת כאן אבל ניתן להראות כי עבור 

אפס.‏ 

המערכת חולפת ועבור 1/2=p המערכת מתמידה 

מחזוריות:‏ 

, n =1,2,3,... 

P + = 

ז"א אם 

כאשר ניתחנו את דוגמא ב-‏‎6‎ ‏(הילוך אקראי)‏ נוכחנו לעובדה כי עבור 

מתחילים את השרשרת במצב אז ניתן להגיע למצב 0 רק בזמנים זוגיים.‏ תופעה כזו היא מקרה של 

מחזוריות ‏(השרשרת מאפשרת לבקר במצבים מסוימים רק בזמנים מסוימים).‏ 

כעת נגדיר מחזוריות באופן מדויק.‏ 

2n 

1 

00 

0 

,0 


המחזור של מצב i הוא המספר שהגדול ביותר אשר מחלק את כל ה n עבורם 

המחלק המשותף הגדול ביותר 

שרשרת היא מחזורית עם קיים מצב אשר המחזור שלו גדול מ 

‏(המחזור של כל המצבים הוא 

n 

. P ז"א המחזור הוא 

ii 

> 0 

n 

. I = { n ≥ 1: P > 0} 

i 

ii 

Divisor) (Greatest Common של הקבוצה 

,1 – 

.(1 

אחרת השרשרת היא אי-מחזורית 

הערה:‏ באופן כללי,‏ כאשר שרשרת היא מחזורית,‏ לא נוכל ליישם את רוב המשפטים של הפרקים הבאים לגבי 

השרשרת.‏ נשאף לרוב ‏"להתעסק"‏ עם שרשראות אי-מחזוריות.‏ 

I 

0 

= {2,4,6,....} 

0 

ולכן המחלק המשותף הגדול ביותר של הקבוצה הוא 2 ולכן מצב 

נחזור לדוגמא ב-‏‎6‎‏:‏ כאן 

הוא מחזורי ולכן השרשרת היא מחזורית.‏ המשמעות היא שניתן להיות במצב 0 רק בזמנים מסוימים ‏(לא 

בכל הזמנים).‏ 


נסתכל על דוגמא ב-‏‎8‎‏,‏ מודל Ehrenfest עם 5=N. 

- 73 -

207.2250 


⎛ 0 1 0 0 0 0 ⎞ 

⎜ 

⎟ 

⎜ 

1 4 

0 0 0 0 ⎟ 

⎜ 5 5 ⎟ 

⎜ 2 3 ⎟ 

⎜ 0 0 0 0 ⎟ 

5 5 

P = ⎜ 

⎟ 

⎜ 3 2 ⎟ 

⎜ 0 0 0 0 ⎟ 

⎜ 5 5 ⎟ 

⎜ 4 1 ⎟ 

⎜ 0 0 0 0 

5 5 

⎟ 

⎜ 

0 0 0 0 1 0 ⎟ 

⎝ 

⎠ 

ניתן לראות כי אם במצב התחלתי יש מספר אי-זוגי של כדורים בתא הימני ‏(מצב המערכת),‏ אז לאחר צעד 

ולכן השרשרת מחזורית.‏ 

תמיד יהיה מספר זוגי.‏ אם כך לכל מצב 

I = {2,4,6,...} ,i 

i 

תנאי מספיק לכך שמצב לא יהיה מחזורי ושהשרשרת תהיה אי-מחזורית ניתן בטענה הבאה:‏ 

> 0 P אז מצב 

ii 

> 0 P אזי 

ii 

טענה:‏ 

אם 


אם 

מ.ש.ל.‏ 

זהו תנאי מספיק אבל אינו הכרחי:‏ 

i אינו מחזורי.‏ כך אם תנאי זה מתקיים לכל המצבים אז השרשרת היא אי-מחזורית.‏ 

∋1 Ii . אם כך המחלק המשותף הגדול ביותר של 

I i 

הוא 1 והמצב אינו מחזורי.‏ 


נסתכל על דוגמא ב-‏‎16‎ ‏(שרשרת דטרמיניסטית למחצה).‏ בשרשרת זו לכל i ואולי באמת תחילה 

נראה כאילו ויש לה התנהגות מחזורית,‏ אבל נבחין כי השרשרת אינה מחזורית:על מנת להוכיח כי השרשרת 

אינה מחזורית מספיק להראות שקיים לפחות מצב אחד לא מחזורי.נתבונן במצב 

‏-המחלק המשותף הגדול ביותר ולכן הוא מצב לא מחזורי 

: "0" 

"0" 

P = 0 

ii 

{ } 

GCD( I 0 

I ‏,לכן ה-‏‎1‎‏=(‏ 

0 

= 3,4,6,8,... 

ומכאן שגם השרשרת אינה מחזורית.‏ 

המשפט הבא,‏ מבסס את המשמעות של מצב לא מחזורי ‏(וכך של שרשרת אי-מחזורית):‏ 

. n ∈ I i 

, n ≥ n 0 

n 0 


אם למצב i יש מחזור בגודל 1 אזי קיים מספר 

כך שלכל 

המשמעות היא שמצבים אי-מחזוריים ‏(או שרשראות אי-מחזוריות),‏ מאבדים את ההתנהגות המובנית ‏(כפי 

שהוצגה בדוגמא לעיל)‏ לאחר מספר סופי של מצבים.‏ 

- 74 -

207.2250 


. 

j 


אם אזי המחזור של מצב 

i שווה למחזור של מצב 

i ↔ j 

כך בשרשרת אי-פריקה,‏ כל המצבים מחזוריים או כולם לא מחזוריים והשרשרת אי-מחזורית.‏ 

נסיים אם משפט אשר מתאר כיצד נראית ריאליזציה של שרשרת מחזורית בשרשרת מרקוב אי-פריקה.‏ 

C C 

0, 1,..., Cd 

− 1 

S לקבוצות 


עבור שרשרת מרקוב אי-פריקה,‏ ניתן למצוא חלוקה של מרחב המצבים 

שעבור כל קבוצה 

כך 

,k 

ועבור כל מצב 

i ∈C k 

∑ 

j∈C 

k+ 

1 

P = 1 

ij 

וזאת כאשר אנו מסמנים 

C 

= C 

0 d 

יתקיים:‏ 

‏(סימון עבור הקבוצה האחרונה).‏ 

המשפט מראה כי בשרשרת מחזורית אי-פריקה,‏ נעבור מקבוצת מצבים אחת להבאה וכן הלאה והאקראיות 

יכולה לקבוע רק לאיזה מצב בתוך הקבוצה הבאה נעבור ‏(אבל לא לאיזה קבוצה נעבור כי כאן הסדר מוכתב 

מראש).‏ 

הערה:‏ דוגמא נחמדה אשר ממחישה שרשראות מהסוג הזה היא דוגמת המשמרות:‏ 

‏(בכל משמרת ישנו שומר אחד שעובד).‏ שומרים 

קיימים 6 שומרים אשר עובדים ב 

עובדים רק בראשונה,‏ שומרים 3,4 רק בשנייה ושומרים 5,6 רק בשלישית.‏ עם סיום כל משמרת,‏ השומר 

שמסיים מזמן באקראי ‏(משקים)‏ את השומר הבא מתוך 2 השומרים אשר יכולים לשמור במשמרת הבאה.‏ 

1,2 

– 3 משמרות ביום 

- 75 -

207.2250 


פרק ב-‏‎5‎‏:‏ חישובים הקשורים למיון מצבים 

– דוגמת מודל המהמר.‏ 

לאחר שחכרנו בפרק הקודם את נושא מיון המצבים לעומק,‏ נרחיב בפרק זה ונציג ונחשב מספר גדלים 

להלן מספר גדלים מעניים הקשורים למשתנה מקרי 

הקשורים לנושא זה.‏ כזכור 

זה:‏ 

זהו הסיכוי להגיע ממצב j בפעם הראשונה לאחר 

n צעדים 

i למצב 

. T = min{ n ≥ 1: X = i} 

i 

n 

f = P( T = n | X = i) 

( n) 

i, j 

j 

0 

• 

• 

בדיוק.‏ 

∞ 

( n) 

i, j ∑ i, j j 

0 

n= 

1 

f i , i 

f = f = P( T < ∞ | X = i) 

הערה:‏ סימון זה תואם את הסימון 

שווה לאחד אז מצב i הוא מתמיד).‏ 

הוא הסיכוי אי פעם להגיע ממצב 

.j למצב i 

µ 

∞ 

( n) 

i, j 

= E[ Tj | X 

0 

= i] 

= ∑ nfi, 

j 

n= 

1 

- 

• 

חישוב 

אשר הוצג בפרק הקודם ‏(כאשר קטן מאחד אז מצב i הוא חולף,‏ כאשר 

‏-תוחלת מספר הצעדים הדרושים להגיע ממצב i מצב 

.j 

f i , i 

ראינו כי עבור מצב מתמיד 

ראינו גם את חשיבות 

עבור מצבים חולפים:‏ 

f 

i, i 

= 1 

f i , i 

כישלונות)‏ ולכן תוחלת מספר הביקורים היא 

אם כך לפעמים יהיה ברצוננו לחשב את 

ועבור מצב חולף גודל זה קטן ממש מאחד ‏(אלו היו ההגדרות).‏ 

בתיאור פילוג מספר הביקורים במצב חולף 

Geometric(1 − f i , i 

) ) ,i 

fi, 

i 

. 

1− 

f 

i, 

i 

f i , i 

f i , j 

עבור מצבים חולפים.‏ 

סופר 

חישוב זה הוא פשוט עבור מקרים כמו המקרה המתואר בדוגמא ב-‏ 0. אבל לפעמים הוא קצת יותר סבוך.‏ 

באופן כללי דרוש להיעזר בערכי לצורך חישוב 

להלן נוסחת צעד הראשון עבור 

: 

f i , i 

: f i , j 

f = P + ∑ P f 

i, j ij ik k , j 

k∈S 

\{ j} 

הנוסחה אומרת שהסיכוי להגיע אי פעם ממצב 

ועוד הסיכוי לעבור דרך כל מצב אחר 

נוספים.‏ 

לא נרחיב נושא זה.‏ 

( 

f i , j 

) j למצב I 

הוא הסיכוי לעבור מ 

i ל 

j בצעד אחד 

( P ij 

) 

(k) 

ואז להגיעה למצב 

.j 

מודל המהמר – הסתברות הפגיעה במצב N: 

כעת נסתכל על דוגמא ספציפית ובה נחשב את 

נסתכל על דוגמא ב-‏‎7‎‏.‏ 

מרחב המצבים הוא 

כך ניתן לחשב את 

f i , i 

ובדרך לחשב 

f i , j 

f i , j 

עבור 

j ספציפי.‏ 

{0,..., N} 

ומטריצת המעבר היא:‏ 

- 76 -

207.2250 


⎛ 1 0 0 ⋯ 0 ⎞ 

⎜ 

⎟ 

⎜ 

q 0 p ⋯ 0 

⎟ 

P = ⎜ ⋮ ⋱ ⋱ ⋱ ⋮ ⎟ 

⎜ ⎟ 

0 ⋯ q 0 p 

⎜ 0 0 0 1 ⎟ 

⎝ ⋯ 

⎠ 

ראשית אנו רואים כי מצבים – N הינם סופגים ולכן הן מחלקות קשירות מתמידות.‏ שאר המצבים:‏ 

הינם חולפים ומהווים מחלקה חולפת.‏ 

.i 

0 ו 

{1,..., N −1} 

f iN 

נסמן ב 

את ההסתברות שהמהמר מסיים ברווח ‏(נספג במצב N) במידה והוא מתחיל/נמצא במצב 

בגלל שמצב N הוא סופג ובגלל ההומוגניות בזמן של השרשרת 

.T N 

. f = P( ∃n ∈ N, ∀n ≥ n X = N | X = i) 

iN 

0 0 n 

0 

. f = P( ∃ m > n, X = N | X = i) 

iN m n 

ניתן לכתוב זאת גם כך:‏ 

וכמובן ניתן גם לציין זאת כפי שצוין בתחילת הפרק באמצעות המשתנה המקרי 

. f 

NN 

= 1 f 

0N 

= 0 

? i ∉{0, N} 


עבור מהו 

ו 

מדוע?‏ ראשית קל לראות שזה מה שמקבלים כאשר מציבים בנוסחה הכללית עבור 

i למצב – N נסמן 

.( 

A 

i + 1 

Ai 

− 1 

.( 

f i , N 

f iN 

. f = pf + qf 

i, N i+ 1, N i−1, 

N 

f i , j 

אשר הוצגה קודם.‏ שנית ניתן לראות שהמאורה אשר מתואר ע"י 

‏(מעבר ממצב 

ניתן לחלוקה לשני המאורעות הבאים:‏ 

הצעד הראשון היה למצב 1+i ולאחר מכן עוברים ממצב 1+i למצב N ‏(נסמן ב 

הצעד הראשון היה למצב 1-i ולאחר מכן עוברים ממצב 1-i למצב N ‏(נסמן ב 

. f = P( A) = P( A ) + P( A ) = pf + qf 

i, N i+ 1 i− 1 i+ 1, N i−1, 

N 

ב A) 

• 

• 

ולכן 

אם כך,‏ 

0 עבור i=1 ו 1 עבור .i=N 

i = 1,..., N 

( p + q) f i , N 

= pf i + 1, N 

+ qf i −1, 

N 

pf + qf = pf + qf 

או 

i, N i, N i+ 1, N i−1, 

N 

i, N i− 1, N i+ 

1, N i, 

N 

או 

q( f − f ) = p( f − f ) 

או 

q 

( f 

i, N 

− f 

i− 1, N 

) = ( f 

i+ 

1, N 

− f 

i, 

N 

) 

p 

היא פונקציה של i עבור הערכים 

ומקבלת 

כיצד היא מתנהגת 

בערכי הביניים?‏ ראשית נטפל במקרה הפשוט יותר ובו אם כך המשוואה היא 

וזה אומר שהשינוי בערך הפונקציה הוא קבוע לכל הקטע ולכן הפונקציה 

.p=q=1/2 

0) ו – (1 

f − f = f − f 

f i , N 

i, N i− 1, N i+ 

1, N i, 

N 

חייבת להיות ליניארית ובגלל שבקצבות ערכיה נתונים 

אזי הפונקציה היא:‏ 

. f 

i, 

N 

i 

= 

N 

- 77 -

207.2250 


המשמעות היא כמובן שבמקרה בו p=q=1/2 ‏(המשחק הוגן לחלוטין)‏ אז הסיכוי לסיים ברווח עולה ליניארית 

ככל שמתחילים עם יותר כסף.‏ 

f − f = c 

i, N i−1, 

N 

f − f = f − f 

i, N i− 1, N i+ 

1, N i, 

N 

ניתן לראות תוצאה זו גם באופן אלגברי:‏ אם 

לכל 

אזי 

‏(קבוע 

.(i 

N 

1 = f − f = ( f − f ) = Nc 

∑ 

עכשיו:‏ 

N , N 0, N i, N i−1, 

N 

i= 

1 

‏(כאשר השוויון השמאלי הוא בגלל ערכי הפונקציה בקצוות,‏ השוויון הבא הוא טור טלסקופי)‏ והשוויון לאחר 

מכן נובע מכך ש 

. f − f = c 

i, N i−1, 

N 

1 

fi, N 

− fi− 

1, N 

= 

N 

f = f − f 

i 

i 

= ∑( f − f ) = 

N 

אז אם כך 

אז אם כך:‏ 

i, N i, N 0, N j, N j−1, 

N 

j= 

1 

דוגמא ‏(עבור התאמת מטבעות:‏ 

לאיציק יש 15 מטבעות ולמוחמד יש 10 מטבעות והם משחקים משחק:‏ כל אחד מטיל מטבע,‏ במידה 

והמטבעות זהים ‏(אותו צד)‏ אז איציק מקבל את שתי המטבעות,‏ במידה והמטבעות שונים אז מוחמד מקבל את 

שתי המטבעות.‏ הם מפסיקים את המשחק ברגע שאחד מהם קיבל את כל המטבעות.‏ מה ההסתברות שמוחמד 

יצא מרווח?‏ 

f = 

10,25 

10 

25 

,(p=q=1/2 

תשובה:‏ נמדל כמודל המהמר כאשר ערך התהליך מציין את הונו של מוחמד,‏ ו‎25=N‏.‏ אם כך 

.( p ∈(0,1) ) 

הוא הסיכוי שמוחמד יצא בעל הרווח.‏ 

f i , N 

נמשיך ונחשב כעת את 

ראינו כי מתקיים:‏ 

עבור המקרה הכללי 

q 

( f 

i, N 

− f 

i− 1, N 

) = ( f 

i+ 

1, N 

− f 

i, 

N 

) 

p 

d( i) = fi, N 

− fi − 1, N 

q q q q q 

p p p p p 

נגדיר 

אז 

q d ( i ) = d ( i + 1) 

p 

? d(1) 

d = f − f = f 

מהו 

(1) 

1, N 0, N 1, N 

i−1 i−1 

d( i) = d( i − 1) = d( i − 2) = ... = ( ) d(1) = ( ) f1, 

N 

אם כך 

אם כך,‏ 

f − f = ( q ) i f 

p 

−1 

i, N i−1, N 1, N 

ולכן 

- 78 -

207.2250 


q 

1 − ( ) 

N N N N −1 

q i−1 q i−1 

q i p 

1 = fN , N 

− f0, N 

= ∑ fi, N 

− fi− 

1, N 

= ∑( ) f1, N 

= f1, N ∑( ) = f1, N ∑( ) = f1, 

N 

q 

i= 1 i= 1 p i= 1 p i= 

0 p 

1− 

p 

q 

1− 

p 

q 

1 − ( ) 

p 

q 

1− 

p 

N 

= 

N 

ולכן 

f 

1, N 

עכשיו,‏ 

i 

i 

j−1 

i, N 

= 

i, N 

− 

0, N 

= ∑( i, N 

− 

i−1, 

N 

) = ∑( )( ) = 

q 

j= 1 j= 

1 

N p 

f f f f f 

1 − ( ) 

p 

q q q i q 

1− 1− 1 − ( ) 1 − ( ) 

i−1 

p q j p p p 

( ) 

q 

∑ = = 

p q q q 

p p p p 

N j= 

0 

N N 

1 − ( ) 1 − ( ) 1− 1 − ( ) 

i 

q 

$50 

18 

. p = ≈ 0.47 

38 


ברולטה,‏ סיכוי הזכייה הוא 

בהימורים של 

מה סיכוי ההצלחה שלו?‏ 

אדם מגיע עם 

לקזינו ומעוניין להכפיל את הונו ‏(להגיע ל 

f 

.$1 

50,100 2 

100 

ולכן 

($100 

q 20 20 

q = 

p = 18 38 

, 

20 50 

1 − ( ) 

18 1−194 1 

= ≈ = ≈ 0.005 

20 

1 − ( ) 

1− 194 1+ 

194 

18 

אם כך 

רואים שהסיכוי להכפיל את הכסף בהימורים קטנים הוא אפסי ‏(לעומת זאת בהימור חד פעמי הסיכוי כמעט 

חצי).‏ 

0 

מודל המהמר – תוחלת מספר הצעדים עד הפגיעה במצב 

כעת נתעניין בשאלה אחרת הקשורה למודל המהמר – תוחלת מספר הצעדים עד לספיגה ‏(פגיעה במצב 

או 

0 או :N 

.(N 

τ = min{ n∈ N | X ∈{0, N} 

n 

נגדיר 

להיות זמן הפגיעה באחד משני המצבים הסופגים.‏ נרצה לחשב את 

. µ 

i 

= E[ τ | X = i] 

0 

- 79 -

207.2250 


1+i או 

µ i 

. µ 

0 

= µ N 

= 0 

i ∈{1,..., N −1} 

ברור כי 

עבור 

נחשב את 

ע"י הסתכלות על כל מה שיכול להתרחש בצעד הראשון:‏ 

נוסחה זאת נובעת מהעובדה שדרוש צעד אחד לנוע לאחד משני המצבים 

לאחר מעבר למצבים אלו,‏ תוחלת 

1-i וההסתברויות לנוע לכל אחד מהמצבים הללו הינן 

מספר הצעדים עד לספיגה תלויה במצב החדש או 

p או q בהתאמה.‏ 

. 

µ 

i − 1 

µ 

i + 1 

.(*) 

1 

. p = q = 

2 

. µ = 1+ pµ + qµ 

i i+ 1 i−1 

µ i 

נחשב את 


אך למקרה בו 

µ + µ 

= 1+ 

2 

i+ 1 i−1 

µ 

i 

µ − µ = − 2 + µ − µ 

או 

נסמן משוואה זו ב 

i+ 1 i i i−1 

נסכם כעת משוואה זו עבור 

−1 N i = 1,..., ונקבל 

µ − µ = −2( N − 1) + µ − µ 

N 

1 N −1 0 

µ = µ − 

1 N 1 

3 2 2 1 

- 

µ 

0 

= µ N 

נבחין כי מתקיים = 0 

בנוסף על פי סימטריה צריך להתקיים ש 

ולכן:‏ 

0 − µ = −2( N − 1) + µ − 0 

1 1 

ולכן:‏ 

1 

= 

N 1 

= N −1 

µ µ − 

(*) 

µ − µ = − 2 + µ − µ = − 2 + ( N −1) 

2 1 1 0 

על פי 


באותו אופן מתקיים:‏ 

µ − µ = − 2 + µ − µ = −2 − 2 + ( N − 1) = − 4 + ( N −1) 

i ∈{0,..., j −1} 

או באופן כללי:‏ 

µ − i 1 

µ = − + i 

2 i + ( N − 1) 

כאשר נסכם משוואה זו על הערכים:‏ 

נקבל:‏ 

j−1 j−1 

∑ 

∑ 

( µ − µ ) = ( − 2 i + ( N −1)) 

i+ 

1 i 

i= 0 i= 

0 

j−1 

i= 

0 

ולכן:‏ 

µ = − 2 i + j( N −1) 

j 

∑ 

ולכן:‏ 

( j −1)( j − 1+ 

1) 

µ 

j 

= − 2 + j( N − 1) = j( N −1) − j( j − 1) = j( N − j) 

2 

- 80 -

207.2250 


25=N והערך 

( µ 

j 

= j( N − j) ) 


נפעיל משוואה זו 

ההתחלתי היה 

על דוגמת התאמת המטבעות מהסעיף.‏ שם התקיים כי 

15=j. אם כך תוחלת מספר השלבים במשחק הוא = 150 (15 25)15 − . 

לא נרחיב כאן על המקרה הכללי יותר בו (0,1)∋ p 

אלה רק נציין את התוצאה:‏ 

⎛ q ⎞ 

1− ⎜ 

i N p ⎟ 

µ 

i 

= − ⋅ 

⎝ ⎠ 

q − p q − p ⎛ q ⎞ 

1− ⎜ 

p ⎟ 

⎝ ⎠ 

i 

N 

- 81 -

207.2250 


פרק ב-‏‎6‎‏:‏ ארוגודיות וסטציונריות 

הסבר אינטואיטיבי לארוגודיות:‏ 

X = { X , t ∈T} 

ואנחנו מממשים סימולציה של התהליך 

נניח ונתון לנו מודל של תהליך סטוכסטי כלשהו 

‏(הכוונה היא לסימולציה במחשב ובה המחשב מגריל את המשתנים המקריים הדרושים ויכול לייצר 

ריאליזציות של התהליך).‏ מטרת הסימולציה היא להריץ את התהליך ולאסוף סטטיסטיקות לגבי התפתחות 

התהליך.‏ לדוגמא:‏ אם התהליך הוא מודל של מלאי,‏ אז היינו רוצים לראות מהו אחוז הזמן ובו במערכת יש 

חוסר מלאי ‏(נסמן מדד זה ב 

t 

.(θ - 

.1 

.2 

כאשר אנו מריצים את הסימולציה אז עומדות בפניו שתי אפשרויות:‏ 

להריץ את הסימולציה על ריאליזציה אחת לפרק זמן מאוד ארוך,‏ וכך לאמוד את 

לבצע הרבה הרצות,‏ ובכל הרצה לאמוד את ולשכלל את תוצאות כל ההרצות לאמד אחד.‏ 

.θ 

,θ 

0 

בכלליות,‏ תהליך סטוכסטי הוא ארוגודי אם ניתן להסתפק בשיטה מס'‏ 1 ‏(סימלוץ ריאליזציה בודדת).‏ ז"א 

הסתכלות על ריאליזציה בודדת ‏(אך ערוכה)‏ תספק לנו את כל המידע הדרוש לגבי חוק ההסתברות של 

התהליך.‏ 

הגדרה זו אינה פורמאלית,‏ הגדרה פורמאלית של מונח הארוגודית עבור תהליכים סטוכסטיים כללים דורשת 

תחכום מתמטי רב.‏ 

+ 

{ X , t ∈ R } 

t 

להלן דוגמא של המונח ארוגודיות:‏ 

תהליך סטוכסטי ‏(מרחב הפרמטר הוא החיוביים).‏ אם כך אז אפשר להסתכל על 

יהיה 

+ 

{ X , t ∈ R } 

t 

גם כעל אוסף של משתנים מקריים וגם כפונקציה של 

ω. Ω∋ נניח ואנו מריצים ריאליזציה 

בודדת.‏ בכך בעצם בחרנו ω Ω∋ והסתכלנו על הריאליזציה אשר נוצרת מ במידה ואנו מסתכלים על 

הריאליזציה אשר נוצרה רק ב T יחידות הזמן הראשונות.‏ אזי הדרך הכי טובה לשערך את תוחלת התהליך על 

פי ההרצה שהרצנו היא:‏ 

.ω 0 

T 

1 

EX ( ω0) = X 

t 

( ω0) 

dt 

T 

∫ 

T 

0 

נניח ואנו לוקחים T מאוד גדול 

. ‏(זהו כמובן ממוצע התהליך על פני פרק הזמן 

.([0, T ] 

.(T → ∞ ) 

האם האמד שלנו 

EX 

T 

( ω ) → EX 

0 

T →∞ 

T 

1? בהסתברות 

במידה וכן אז התהליך הוא ארוגודי ביחס לתוחלת.‏ ז"א,‏ הייתה לנו ריאליזציה בודדת וכאשר הסתכלנו עלייה 

מספיק זמן ‏(הרצנו אותה עד ל T גדול),‏ הערך אשר קבלנו שאף לתוחלת בזמן T מאוד גדול:‏ 

במידה והתהליך לא היה ארוגודי,‏ אז לצורך אמידה נכונה של 

. lim EX 

T →∞ 

T 

lim EX 

T →∞ 

T 

.(ω0, ω1, ω2,..., ωN 

− 1 

∈Ω ) 

N − 

1 

1 

. lim EX 

T 

= ∑ XT ( ωi 

) 

T →∞ N 

ועבור כל 

ω i להריץ עד לזמן T ולקבל 

T 

דרוש לקחת מספר ריאליזציות 

X 

( ω ) 

i 

i= 

0 

ואז לאמוד את התוחלת כך:‏ 

הערה:‏ ייתכן ותהליך סטוכסטי הוא ארוגודי ביחס לערך מסוים אשר קשור לחוק ההסתברות ‏(לדוגמא:‏ 

התוחלת)‏ אבל אינו ארוגודי לגבי ערך אחר ‏(לדוגמא:‏ כל חוק ההסתברות).‏ לא נדון בדוגמאות כאלו כאן.‏ 

- 82 -

207.2250 


ארוגודיות של שרשראות מרקוב:‏ 

לאחר הדיון המופשט לגבי ארוגודיות נחזור לתהליכים הסטוכסטיים אשר אנו מכירים,‏ שרשראות מרקוב.‏ 

עבור שרשראות מרקוב,‏ ארוגודיות הוא מונח המוגדר היטב וזה יהיה הנושא של המשך החלק הזה של 

שרשראות מרקוב.‏ 

לפני שנדגים את המשמעות של ארוגודיות של שרשראות מרקוב בדוגמא,‏ נגדיר מושג פשוט ושימושי,‏ 

פונקציות רווח.‏ 

1 

. 

n 

n−1 

∑ 

k = 0 

r( x ) 

k 


פונקציה 

r : S → R 

‏(ממרחב המצבים S לממשיים)‏ היא פונקצית רווח.‏ 

בנוסף,‏ הרווח הממוצע על פני n יחידות הזמן הראשונות של ריאליזציה 

{ x , x ,...} 

0 1 

הוא:‏ 


כאשר פונקצית הרווח היא 

למצב 

r( i) 

= I 

( i) 

{ j} 

‏(עבור 

.( i ∈ S 

אזי הרווח לכל מצב ששונה מ 

j הוא .0 

j הוא .1 

כך אם מתקבלת התחלה של ריאליזציה:‏ 

x0, x1,..., xn 

− 1 

אזי 

n−1 

∑ 

k = 0 

r( x ) 

k 

j 

.i 

.1 

,0 

והרווח 

הוא מספר הפעמים 

אשר הריאליזציה ביקרה במצב במהלך התחלה זו.‏ ולכן הרווח הממוצע הוא פרופורציית הזמן שבו 

הריאליזציה הייתה במצב 

לדוגמא,‏ עבור דוגמא ב-‏‎3‎ ‏(השרשרת הדו-מצבית).‏ נניח כי הדוגמא משקפת את מצב מכונה,‏ יכול להיות תקין 

הרווח הממוצע משקף את פרופורציית הזמן שהמכונה תקינה ‏(ולא 

או תקול אזי עבור 

תקולה).‏ 

, r( i) 

= I 

( i) 

{0} 

.n 


נסתכל על שרשרת המלאי ‏(דוגמא ב-‏‎9‎‏).‏ בדוגמא זו המצב של התהליך מסמל את מספר הפריטים אשר במלאי 

בזמן נגדיר כאן את פונקצית הרווח להיות ‏(כאשר c קבוע חיובי).‏ כל בעל מכולת,‏ מפעל או 

רשת חנויות יודע כי מלאי גורר עלויות ולכן כדאי למזער ‏(ככל שניתן)‏ את כמות המלאי.‏ פונקצית הרווח אשר 

קבענו מציינת את העלות הנגרמת עקב המלאי כאשר העלות ליחידה אחת היא אם כך לאחר הרצה של 

הרווח הממוצע מציין את העלות הממוצעת הנגרמת מהחזקת מלאי.‏ 

התהליך למשך 

.c 

r( i) 

= ci 

n צעדים (n ימים).‏ 

כעת לאחר שהכרנו את המונח של פונקצית רווח,‏ נסתכל על דוגמא אשר תמחיש את המשמעות של ארוגודית 

של שרשראות מרקוב.‏ 


נסתכל על השרשרת בדוגמא ב ראינו כי בדוגמה זו המחלקות החולפות הן 

המתמידות הן 

בנוסף אנו רואים כי במידה ומתחילים לרוץ במצב 2 אזי יש סיכוי שהריאליזציה ‏"תיספג"‏ במחלקה 

וסיכוי שהריאליזציה תיספג במחלקה 

את הסיכוי להיספג בכל אחת מהמחלקות לא קשה לחשב ‏(אבל גם לא טריוויאלי).‏ בכל מקרה הסיכויים 

קיימים ונסמנם:‏ 

{1,5} 

{3},{2} והמחלקות 

.{4,7,6} 

,14 – 

.{4,7,6} ,{1,5} 

- 83 -

207.2250 


f 2,{1,5} 

ו 


f 

{4,7,6},2 f ‏(לא נתעסק בלחשב אותם כעת).‏ 

2,{4,7,6} 

+ f2,{1,5} = 1 

כעת נניח כי פונקצית הרווח היא פונקצית הזהות 

בנוסף נניח כי 

‏(התהליך בהכרח נספג באחת מהמחלקות הללו).‏ 

r( i) 

= i 

, P ( i) 

= I 

X0 

( i) 

{2} 

התהליך מתחיל במצב 

(3 ,2 

2 ‏(בהסתברות .(1 

.(m – 

. y ∈{1,5} 

i 

. z ∈{4,7,6} 

i 

.{1,5} 

.{4,7,6} 

x , x ,..., x , y , y ,... 

0 1 m m+ 1 m+ 

2 

x , x ,..., x , z , z ,... 

0 1 m m+ 1 m+ 

2 

,(m) 

בגלל שהתהליך ייספג באחת משתי המחלקות הסופגות ברור כי כל ריאליזציה תהייה מהצורה:‏ 

כאשר 

או 

כאשר 

‏(עבור m כלשהו).‏ 

ז"א לאחר זמן מספיק ארוך התהליך ייספג באחת משתי המחלקות הסופגות ‏(ולאחר מכן יישאר 

במחלקות אלו).‏ אם כך עבור n מספיק גדול ‏(גדול בהרבה מ יתקיים כי הרווח הממוצע יהיה:‏ 

מבוסס על הרווח הממוצע במחלקה 

או 

מבוסס על הרווח הממוצע במחלקה 

ז"א עבור n מספיק גדול,‏ הרווח המקבל מהמצבים החולפים בהם התהליך שהה בהתחלה ‏(מצבים לא 

תורם באופן משמעותי לרווח הממוצע.‏ 

המצבים בכל אחת משתי המחלקות {1,5}, {4,7,6} הינם מתמידים ונראה בהמשך כי עבור שרשרת מרקוב 

π i הוא 

. π 

1 

+ π 

5 

π1, כך ש = 1 

π 

5 

• 

• 

• 

• 

ו 

המורכבת אך ורק מהמחלקה האי-פריקה {1,5} קיימות פרופורציות 

ההסתברות שהתהליך נמצא במצב i לאחר שרץ הרבה מאוד זמן.‏ 

כנ"ל עבור שרשרת מרקוב אשר מורכבת רק מהמחלקה {4,7,6} קיימות פרופורציות 

סכומם 1 וגם להן את אותה משמעות.‏ 

אם כך:‏ 

במידה ונספגנו במחלקה {1,5} אז הרווח הוא הממוצע הוא בקרוב 

או 

במידה ונספגנו במחלקה {4,7,6} אז הרווח הוא הממוצע הוא בקרוב 

אם כך לסיכום,‏ לא די בריאליזציה אחת בשביל לאמוד את הרווח הממוצע ‏(זהו הערך הממוצע של התהליך)‏ 

ולכן השרשרת המרקוב הנ"ל אינה ארוגודית.‏ כי הרי בשביל לשערך מהו הרווח הממוצע דרוש להריץ הרבה 

ריאליזציות ולמצע על פני הריאליזציות הללו.‏ 

π אשר 

4, π 

7, 

π 

6 

1⋅ π + 5⋅π 

1 5 

4⋅ π + 7 ⋅ π + 6⋅π 

4 7 6 

• 

• 

מה אם כך הוא התנאי המתאים לארוגודיות של שרשראות מרקוב?‏ 


מצב בשרשרת מרקוב נקרא ארוגודי אם הוא אינו מחזורי ומתמיד חיובי.‏ 

שרשרת מרקוב היא ארוגודית אם כל מצבייה הינם ארוגודים.‏ 

הערה:‏ היה ניתן להגדיר כאן ללא הדרישה של חוסר מחזוריות ועדיין חלק מתכונות הארוגודיות היו קיימות.‏ 

למרות זאת,‏ אנו מעדיפים בקורס זה ‏"לא להסתבך"‏ עם סוגיות הנובעות ממחזוריות.‏ 

אם כך שרשרת מרקוב אשר כל מצביה מתמידים חיובית והשרשרת אינה מחזורית היא ארוגודית ובהתאם 

נראה בפרק הבא כי לשרשראות כאלו תכונות נפלאות ‏(קיום התפלגות סטציונרית בפרט ידוע כי עבור 

שרשרת בעלת מרחב מצבים סופי אי-פריקה,‏ כל המצבים מתמידים ולכן כל עוד שלא קיימות ‏"בעיות של 

מחזוריות בשרשראות כאלו"‏ הן יהיו ארוגודיות.‏ 

.(π - 

- 84 -

207.2250 


סטציונריות:‏ 

פגשנו כבר מונח הקרוב וסטציונריות בחלק א'‏ של הקורס:‏ אינקרימנטים סטציונרים.‏ המשמעות שם הייתה 

שחוק ההסתברות של האינקרימנטים של התהליך קבוע לאורך הזמן.‏ כעת נתאר מהו תהליך סטציונרי.‏ זהו 

מושג חזק יותר מתהליך בעל אינקרימנטים סטציונרים.‏ תהליך סטציונרי הוא תהליך אשר חוק ההסתברות 

שלו עצמו ‏(לא רק של האינקרימנטים)‏ אינו משתנה לאורך זמן.‏ 


תהליך סטוכסטי 

{ X , n ≥ 0} 

n 

הוא סטציונרי עם עבור כל 

‏(לכל אורך של סדרה)‏ מתקיים כי ההתפלגות המשותפת של 

m ∈ N 

ועבור כל 

n ,..., 1 

nk 

∈ N 

k ∈ N לכל 

X ,..., n 

X 

1 nk 

. X 

,..., X 

n1 

+ m nk 

+ m 

הערה:‏ קל לראות כי סטציונרית גוררת אינקרימנטים סטציונרים.‏ 

הערה:‏ ההגדרה דורשת שההתפלגות השולית של התהליך בכל נקודת זמן תהייה זהה.‏ 


אוסף משתנים מקריים i.i.d. הוא תהליך סטציונרי.‏ 


תהליך ספירה ברנולי אינו סטציונרי.‏ 

,2 

סטציונריות של שרשראות מרקוב:‏ 

מה לגבי שרשראות מרקוב?‏ 

בפרק ראינו שבהינתן התפלגות התחלתית 

במטריצה 

קבלנו:‏ 

P X0 

ניתן לקבל את 

P X n 

זהה להתפלגות המשותפת של 

ע"י הכפלת וקטור השורה 

P X0 

P 

X 

n 

P 

n 

= P P 

X 

0 

n 

‏(המינוחים כאן הם עבור המקרה של מרחב מצבים סופי אבל התוצאות הינן כלליות)‏ ז"א 

P X0 

P X n לרוב 

יהיה שונה מ 

אבל מה עם נבחר את 

ולכן שרשראות מרקוב לרוב יהיו לא סטציונריות.‏ 

כך שיקיים:‏ 

- 

P X0 

P 

X 

= P P 

X 

0 0 

n 

אם ניזכר במשוואות שווי המשקל:‏ 

π = π P ∀j ∈ S 

j i ij 

i∈S 

∑ 

j∈S 

∑ 

π = 1 

j 

אז הן בדיוק פותרות עבור ה 

P X0 

הזה אשר מקיים את התנאי.‏ 

בפרקים הבאים נראה שכאלו קיימות רק כאשר השרשרת היא אי-פריקה ומתמידה חיובית,‏ אבל במידה וזה 

המצב,‏ אז מקבלים שאם משתמשים בפתרון המשואות ‏(קראנו לו ההתפלגות הסטציונרית)‏ לצורך ההתפלגות 

ההתחלתית אז מקבלים שרשרת מרקוב אשר מהווה תהליך סטוכסטי סטציונרי.‏ 

הערה:‏ לא קל להוכיח זאת.‏ 

- 85 -

207.2250 


פרק ב-‏‎7‎‏:‏ הסתברויות גבוליות/סטציונריות.‏ 

מכאן והלאה נתמקד בשרשראות מרקוב ארוגודיות ‏(שרשראות אי-פריקות,‏ אי-מחזוריות אשר כל מצביהם 

מתמידים חיובית).‏ 

משוואות שווי משקל ומשמעות הפתרון שלהן:‏ 

| S | + 1 סופי.‏ S 

שוב נזכר במשוואות שווי המשקל:‏ 

π = π P ∀j ∈ S 

j i ij 

i∈S 

∑ 

j∈S 

∑ 

π = 1 

לצורך המחשה נסתכל על קבוצת המשוואות כאשר 

יש כאן 

משוואות:‏ 

π = π P + π P + ... + π P 

1 1 11 2 21 N N1 

π = π P + π P + ... + π P 

... 

2 1 12 2 22 N N 2 

π = π P + π P + ... + π P 

N 1 1N 2 2N N NN 

π + π + ... π = 1 

1 2 

N 

j 

π ולכן .(n 

PX n 

מה המשמעות של פתרון המשואות 

משמעות 1: ההתפלגות הסטציונרית 

ראינו בפרק הקודם שבמידה ונבחר 

‏(הוקטור π)? יש לווקטור זה מספר משמעויות:‏ 

אז התהליך יהיה סטציונרי.‏ ‏(ז"א = π 

לכל 

n אינסוף)‏ 

PX 0 

= π 

נקרא וקטור ההסתברות הסטציונרית או ההתפלגות הסטציונרית.‏ 

P 

X n 

≈ π גדול n 

2 

≠ π 

משמעות 

גם אם 

ה:‏ 

התפלגות הגבולית 

אז עדין נקבל כי עבור 

באופן שקול מתקיים 

לכל 

ובגבול ‏(כאשר 

נקבל שוויון:‏ 

,i . ולכן π נקרא וקטור ההסתברויות 

j ∈ S 

lim P 

n→∞ 

n 

ij 

= π 

j 

P 

X 0 

. lim P 

הגבוליות או ההתפלגות הגבולית.‏ את עובדה זו נוכיח בהמשך פרק זה ‏(ההוכחה אינה טריוויאלית בכלל).‏ 

. T = min{ n ≥ 1: X = i} 

i 

n 

n→∞ 

X n 

= π 

משמעות 3: ההופכי של תוחלת זמן החזרה למצב 

כזכור זמן הפגיעה במצב i הוא המשתנה המקרי 

חיובית ומתמידים אפס ציינו כי 

כאשר דנו במצבים מתמידים 

עבור שרשרת אי-פריקה אשר כל מצביה מתמידים 

{ x , x ,...} 

0 1 

1 

E[ Ti 

| X 

0 

= i] 

= 

π 

חיוביות.‏ גם את עובדה זו נוכיח בהמשך פרק זה ‏(גם כאן ההוכחה אינה טריוויאלית).‏ 

משמעות 4: ההתפלגות המשמשת לחוק החזק עבור שרשראות מרקוב 

כזכור מהפרק הקודם הרווח הממוצע עבור פונקצית רווח כאשר הריאליזציה היא 

r : S → R 

i 

1 

n 

n−1 

k= 

0 

r( x ) 

k 

הוא:‏ 

. החוק החזק עבור שרשראות מרקוב הוא:‏ 

∑ 

- 86 -

207.2250 


.π j 

.π 

בהסתברות 1. 

n 

1 

lim ∑ r( X ) = ∑ r( i) 

π 

i 

n→∞ 

n 

k 

k = 1 

i∈S 

ז"א הרווח הממוצע שואף לתוחלת הרווח המתקבלת תחת ההתפלגות 

במקרה זה החוק טוען:‏ 

מקרה פרטי של חוק זה מתקבל ע"י פונקצית הרווח 

. r( i) 

= I 

( i) 

{ j} 

בהסתברות 1. 

ז"א פרופורציית הזמן בו התהליך נמצע במצב j שואפת ל 

1 

lim 

n→∞ 

n 

n 

∑ 

k= 

1 

I 

( X k ) 

{ j} 

= π 

j 


נזכר בדוגמא ב מזג אוויר.‏ 

להלן המצבים בדוגמא:‏ 

– מעונן כבד.‏ 

– מעונן חלקי.‏ 

– שמיים נקיים.‏ 

להלן מטריצת המעבר:‏ 

,1 – 

1 

2 

3 

⎛.4 .6 0 ⎞ 

⎜ ⎟ 

P = .2 .5 .3 

⎜.1 .7 .2⎟ 

⎝ ⎠ 

נרשום את משוואות שווי המשקל:‏ 

בצורה מטריציונית המשוואות הן 

π P = π 

πe 

= 1 

‏(כאשר π הוא וקטור שורה ו e הוא וקטור עמודה של אחדים).‏ 

אם כך,‏ 

( π π π ) .2 .5 .3 ( π π π ) 

1 2 3 1 2 3 

( π π π ) 

1 2 3 

πידוע:‏ 3 

⎛.4 .6 0 ⎞ 

⎜ ⎟ = 

⎜.1 .7 .2⎟ 

⎝ ⎠ 

⎛1⎞ 

⎜ ⎟ 1 = 1 

⎜1⎟ 

⎝ ⎠ 

וכאשר משוואות אלו נרשמות באופן מפורש:‏ 

π .4 + π .2 + π .1 = π 

1 2 3 1 

π .6 + π .5 + π .7 = π 

1 2 3 2 

π 0 + π .3 + π .2 = π 

1 2 3 3 

π + π + π = 1 

1 2 3 

נחפש את פתרון המשוואות:‏ 

נתחיל בפתרון המשוואה השלישית,‏ נניח כי 

.8 8 

π 

2 

= π 

3 

= π 

3 

.3 3 

נציב במשוואה השנייה:‏ 

- 87 -

207.2250 


4 8 

π1.6 + ( + .7) π 

3 

= π 

3 

3 3 

4 

π1.6 = ( − .7) π 

3 

= .6333π 

3 

3 

או 

או 

π = 1.0556π 

1 3 

נשתמש עכשיו במשוואה האחרונה ‏(משוואת הסכום לאחד):‏ 

1 3 

1.0556π + 2.6667π + π = 1 

3 3 3 

3 

או 

4.7223π = 1 

π 

3 

= .2118 

ולכן 

π = 1.0556π 

= 1.0556 ⋅ .2118 = .2235 

(.2235 .5647 .2118) 

ולכן 

8 8 

π 

2 

= π 

3 

= .2118 = .5647 

3 3 

אם כך קבלנו שהוקטור π הוא 

נתחיל להתבונן בארבעת המשמעויות של 

התפלגות סטציונרית:‏ אם מתחילים את תהליך מזג האוויר על פי ההתפלגות π אזי פילוג התהליך בכל נקודת 

זמן יהיה 

התפלגות גבולית:‏ נראה מה קורה כאשר המטריצה P מועלה בחזקות:‏ 

:π 

.π 

להלן דוגמא שנלקחה מתוכנת :MATLAB 

>> P =[.4 .6 0 

.2 .5 .3 

.1 .7 .2] 

P = 

0.4000 0.6000 0 

0.2000 0.5000 0.3000 

0.1000 0.7000 0.2000 

>> P^2 

ans = 

0.2800 0.5400 0.1800 

0.2100 0.5800 0.2100 

0.2000 0.5500 0.2500 

>> P^3 

ans = 

0.2380 0.5640 0.1980 

0.2210 0.5630 0.2160 

0.2150 0.5700 0.2150 

>> P^4 

ans = 

0.2278 0.5634 0.2088 

0.2226 0.5653 0.2121 

0.2215 0.5645 0.2140 

>> P^5 

ans = 

0.2247 0.5645 0.2108 

0.2233 0.5647 0.2120 

0.2229 0.5649 0.2121 

>> P^6 

ans = 

- 88 -

207.2250 


0.2239 0.5646 0.2115 

0.2235 0.5647 0.2118 

0.2234 0.5647 0.2119 

>> P^7 

ans = 

0.2236 0.5647 0.2117 

0.2235 0.5647 0.2118 

0.2235 0.5647 0.2118 

>> P^8 

ans = 

0.2236 0.5647 0.2117 

0.2235 0.5647 0.2118 

0.2235 0.5647 0.2118 

>> P^9 

ans = 

0.2235 0.5647 0.2118 

0.2235 0.5647 0.2118 

0.2235 0.5647 0.2118 

רואים כמובן ששורות מתכנסות ל כבר לאחר תשעה צעדים השורות זהות כאשר בוחנים אותן בדיוק 

של 4 ספרות משמעותיות.‏ המשמעות היא שבכל תנאי התחלה פילוג התהליך לאחר תשעה צעדים יהיה 

( 

P X0 

) 

.π 

P 

n 

זהה ‏(עד לדיוק של 4 ספרות).‏ 

ז"א תנאי ההתחלה אינם משמעותיים בשרשראות ארוגודיות.‏ 

lim P 

n→∞ 

n 

ij 

= π 

j 

הערה:‏ לא נמשיך נדון ב"קצב ההתכנסות"‏ 

‏"מהיר".‏ 

אבל הדוגמא המספרית לעיל מעידה שהוא 

תוחלת זמן החזרה למצב:‏ 

נסתכל על 

( 4.47 1.77 4.72) 

ז"א שבמידה והיום מעונן כבד ‏(מצב 1) אז תוחלת מספר הימים עד ששוב יהיה מעונן כבד היא 4.47 וכו'.‏ 

:π − 

החוק החזק:‏ 

ראשית כאשר משתמשים בפונקצית רווח שהיא אינדיקאטור עבור מצב מסוים לדוגמא ‏(מצב 

אזי לפי החוק החזק פרופורציית הזמן בו התהליך הוא במצב 2 ‏(מעונן חלקי)‏ היא 

:(2 

1 

i 

r( i) 

= I 

( i) 

{2} 

.π 

2 

= .5647 

שנית נניח ופונקצית הרווח מציינת את הטמפרטורה במעלות צלסיוס בכל מצב:‏ 

:j=3 

⎧13 i = 1 

⎪ 

r( i) = ⎨17 i = 2 

⎪ 

⎩25 i = 3 

אזי הטמפרטורה הממוצעת שואפת לטמפרטורה:‏ 

13π + 17π + 25π 

= 17.8 

1 2 3 

אינטואיציה של משוואות שווי המשקל:‏ 

נניח שמרחב המצבים הוא {1,2,3,4} נסתכל על המשוואה עבור 

π = π P + π P + π P + π P 

3 1 13 2 23 3 33 4 43 

מה המשמעות של משוואה זו?‏ 

- 89 -

207.2250 


צד שמאל הוא 

.(n 

π, 3 ההסתברות שהתהליך הסטציונרי ‏(או התהליך הגבולי)‏ יהיה במצב 3 בזמן מסוים ‏(נניח 

צד ימין מתאר את כל הדרכים להגיע למצב 3 מהזמן הקודם (1-n). 

ניתן בזמן הקודם להיות בכל אחד מהמצבים:‏ וההסתברות להיות בכל אחד מהמצבים הללו ניתנת 

על פי π וההסתברות לעבור למצב 3 על פי העמודה השלישית ב P. 

אם כך המשוואות מתארות עבור כל מצב,‏ את כל הדרכים אשר ניתן להגיע להיות במצב הזה.‏ 

{1,2,3,4} 

משוואות שווי משקל מפורטות:‏ 

לפעמים ניתן לנסח ולפתור משוואות קצת שונות עבור π: 


משואות תנאי שווי משקל מפורט 

לכל 

condition) (detailed balance הן:‏ 

. i, 

j ∈ S 

π P 

= π P 

i ij j ji 

∑ 

i∈S 

π = 1 

i 

כאן ישנה משוואה עבור כל צמד מצבים ב S ועוד משוואת הסכום לאחד.‏ 

טענה:‏ 

במידה וקיים פתרון למשוואות תנאי שווי המשקל המפורט אז קיים פתרון למשוואות שווי המשקל.‏ 


עבור j קבוע כלשהו ונסכם על כל ה 

ניקח את המשוואות 

:i 

π P 

= π P 

i ij j ji 

. 

∑ 

i∈S 

π P = 

∑ 

π P 

i ij j ji 

i∈S 

בצד ימין 

π j קבוע ביחס לסכום ו‎1‎ 

∑ 

i∈S 

P 

ji 

= 

. 

∑ 

i∈S 

π P 

= π 

i ij j 

ולכן 

אם כך הפתרון π של משוואות תנאי שווי המשקל המפורטות מקיים גם את משוואות שווי המשקל.‏ 

מ.ש.ל.‏ 


נסתכל על השרשרת הבאה:‏ 

ומתאפשרת תנועה בין מצבים עוקבים בלבד ‏(כולל בין מצבים 

הנ"ל:‏ 

4 ו-‏ (1 

S = {1, 2,3, 4} 

⎛.5 .1 0 .4⎞ 

⎜ 

⎟ 

.3 .5 .2 0 

P = ⎜ 

⎟ 

⎜ 0 .2 .5 .3 ⎟ 

⎜ 

⎟ 

⎝.4 0 .1 .5⎠ 

משוואות תנאי שווי משקל המפורטות:‏ 

בין מצבים 

π .1 = π .3 

1 2 

:1,2 

על פי המטריצה 

- 90 -

207.2250 


π .2 = π .2 

2 3 

:2,3 

π .3 = π .1 :3,4 

3 4 

π .4 = π .4 

4 1 

ij 

1 

+ 

2 

+ 

3 

+ 

4 

= 1 

P = 0 

:4,1 




בין שאר המצבים 

משוואת הסכום לאחד:‏ 

ולכן אין משוואות.‏ 

π π π π 

π = π 

1 4 

π = π 

2 3 

אם כך:‏ 

: π = π 3 1 2 

π1.1 = π 

2.3 

- 

3π 2 

+ π 

2 

+ π 

2 

+ 3π 

2 

= 1 

ובגלל ש 

ולכן 

ו 

אז 

וכשנציב במשוואת הסכום לאחד 

1 

π 

2 

= 

8 

ולכן 

⎛ 3 1 1 3 ⎞ 

π = ⎜ ⎟ 

⎝ 8 8 8 8 ⎠ 

על פי הטענה הקודמת פתרון זה צריך להיות גם הפתרון של משוואות שווי המשקל.‏ נוודא זאת:‏ 

צריך להתקיים:‏ 

⎛.5 .1 0 .4⎞ 

⎜ 

⎟ 

.3 .5 .2 0 

⎜ 0 .2 .5 .3⎟ 

⎜ 

⎟ 

⎝.4 0 .1 .5⎠ 

( π π π π ) ⎜ ⎟ = ( π π π π ) 

1 2 3 4 1 2 3 4 

ובאמת כפי שרואים ב : MATLAB 

P = 

0.5000 0.1000 0 0.4000 

0.3000 0.5000 0.2000 0 

0 0.2000 0.5000 0.3000 

0.4000 0 0.1000 0.5000 

ppp = 

0.3750 0.1250 0.1250 0.3750 

>> ppp*P 

ans = 

0.3750 0.1250 0.1250 0.3750 

>> sum(ppp) 

ans = 

1 

- 91 -

207.2250 


הערה:‏ לא תמיד ניתן להשתמש במשוואות תנאי שווי משקל המפורט למציאת ההתפלגות הסטציונרית.‏ אבל 

הראנו שכאשר קיים פתרון למשוואות תנאי שווי המשקל המפורט אז הוא גם הפתרון של משוואות שווי 

המשקל.‏ 

דוגמא:‏ ‏(לתהליך אשר אין לו פתרון למשוואות תנאי שווי המשקל המפורט)‏ אבל הוא כן ארוגודי.‏ 

0) ( 0 0 = π אבל אז המשוואה 

⎛ 1 1 1 ⎞ 

⎜ 

3 3 3 

⎟ 

⎜ ⎟ 

1 1 

P = 

⎜ 

0 

⎟ 

⎜ 2 2 ⎟ 

⎜ ⎟ 

1 0 0 

⎜ 

⎟ 

⎝ ⎠ 

להלן משוואות תנאי שווי משקל המפורטות:‏ 

1 

π1 = π 

20 

3 

1 

π1 = π 

31 

3 

1 

π 

2 

= π 

30 

2 

π + π + π = 

1 2 3 

1 

הפתרון היחיד אשר מקיים את שלושת המשוואות הראשונות הוא 

הרביעית אינה מתקיימת.‏ 

1 1 

π 

2 

= π1 + π 

2 

3 2 

π 

מאידך קיים פתרון למשואות שווי המשקל:‏ 

π = π 

2 3 

1 1 

π 

2 

= π1 + π 

2 

3 2 

1 1 

π 

3 

= π1 + π 

2 

3 2 

π + π + π = 

1 2 3 

1 

על פי שתי המשוואות הראשונות 

ואז ע"י הצבה של שוויון זה במשואה השנייה מקבלים:‏ 

2 

= π = 

7 

2 3 

2 

π 

2 

= π1 

3 

ולכן 

ואז ע"י הצבה במשוואה השלישית מקבלים:‏ 

= π ולכן 

1 

3 

7 

ולכן 

2 2 

π1 + π1 + π1 

= 1 

3 3 

- 92 -

207.2250 


משפטים והוכחות:‏ 

משפט:‏ 

בשרשרת מרקוב ארוגודית,‏ 

PX 0 אם 

= π 


πהוא וקטור השורה ‏(אולי אינסופי)‏ 

הכפלה מימין ב 

מימין ב 

מ.ש.ל.‏ 

P אזי 

X n 

לכל = π 

המקיים את המשוואות:‏ 

.n 

. π P = π 

P X n ראינו כי 

P X0 מתקבל מ 

n 

. P אבל PX 0 

= π 

ולכן כאשר נכפיל מימין ב 

P 

P 

n פעמים עדיין נקבל 

.π 

עיי 

נקבל שוב π, ולכן גם לאחר הכפלה 

. i, 

j ∈ S 

משפט ההתכנסות ‏(ללא הוכחה):‏ 

בשרשרת מרקוב ארוגודית 

lim P לכל 

n→∞ 

n 

ij 

= π 

j 

משפט החוק החזק עבור שרשראות מרקוב ‏(ללא הוכחה):‏ 

בשרשרת מרקוב ארוגודית בעלת פונקצית רווח אם 

∑ אז 

i∈S 

| r( i) | π 

i 

< ∞ 

.r 

n 

1 

lim ∑ r( X ) = ∑ r( i) 

π 

i 

n→∞ 

n 

k 

k = 1 

i∈S 

1. בהסתברות 

המשפט הבא הוצג בפרק ב-‏‎4‎‏.‏ 

0 


עבור שרשרת מרקוב אי-פריקה ומשוואות שווי משקל.‏ כל מצבי השרשרת הינם מתמידים חיובית אמ"מ 

למשוואות שווי המשקל קיים פתרון.‏ 

מעבר לכך,‏ במידה וקיים פתרון אז הוא יחיד ובו 

j. לכל מצב π 

j 

> 


עבור שרשרת מרקוב אי פריקה בעלת התפלגות סטציונרית מתקיים:‏ 

1 

. E[ Tj 

| X 

0 

= j] 

= 

π 

j 

- 93 -

207.2250 


פרק ב-‏‎8‎‏:‏ הסתברויות גבוליות המשך – דוגמאות.‏ 

בפרקים הקודמים בחלק זה של הקורס למדנו וחקרנו תכונות רבות של שרשראות מרקוב.‏ המעניינת מבין 

התכונות היא תכונת ההפלגות הגבולית עבור שרשראות מרקוב ארוגודיות והחוק החזק של שרשראות מרקוב 

העושה שימוש בהתפלגות זו.‏ כעת נפנה לחקר מספר דוגמאות יישומיות ובהן מציאת ההתפלגות הגבולית 

ושימוש בה לצורך חישובים נלווים הינה פעולה יישומית ומעניינת.‏ 

שרשרת דו-מצבית:‏ 

ניזכר בדוגמא ב-‏‎3‎‏,‏ שרשרת דו מצבית.‏ המצבים הינם 0 ו 

– 1 ומטריצת המעבר היא:‏ 

.(1) 

.b 

⎛1− 

a a ⎞ 

P = ⎜ ⎟ 

⎝ b 1− 

b⎠ 

למודל זה יישומים רבים.‏ לדוגמא:‏ 

מכונה יכולה להיות במצב תקין או תקול 

והסיכוי לעבור ממצב תקול למצב תקין הוא 

בכל יום הסיכוי להתקלקל הוא a ‏(במידה ובמצב תקין)‏ 

בפרק ב-‏‎3‎ הצלחנו לבצע עבור מודל זה,‏ מה שלרוב לא ניתן לעשות,‏ לחשב באופן מפורש את מטריצת 

המעבר ב 

(0) 

– n צעדים:‏ 

1 ⎛ 

n ⎛b a ⎞ n ⎛ a −a 

⎞⎞ 

P = ⎜⎜ ⎟ + ( 1− a − b) 

⎜ ⎟⎟ 

a + b ⎝⎝b a ⎠ ⎝ −b b ⎠⎠ 

? n → ∞ 

0 או 

< 1 | b a |1 − a − ו 

מה קורה כאן כאשר 


‏(כאשר 

b שניהם אינם 

1 וכך השרשרת ארוגודית)‏ ולכן 

1 ⎛ 

n ⎛b a ⎞ ⎛ a −a ⎞⎞ 

1 ⎛b a ⎞ 

lim P = ⎜⎜ ⎟ + 0⎜ ⎟⎟ 

= ⎜ ⎟ 

n→∞ 

a + b ⎝⎝b a ⎠ ⎝ −b b ⎠⎠ 

a + b ⎝b a ⎠ 

וכך מצאנו את ההתפלגות הגבולית:‏ 

⎛ b a ⎞ 

π = ⎜ ⎟ 

⎝ a + b a + b ⎠ 

לרוב כמובן לא נצליח למצוא כך את ההפלגות הגבולית ‏(ע"י לקיחת גבול באופן מפורש)‏ ונצטרך לפתור את 

המשוואות באופן מפורש:‏ 

π = π P + π P 

0 0 00 1 10 

π = π P + π P 

π 

1 0 01 1 11 

0 

+ π1 = 1 

0 0 1 

1 0 1 

0 1 

או 

π = π (1 − a) 

+ π b 

π = π a + π (1 − b) 

π + π = 1 

- 94 -

207.2250 


( π 

0 

= 1−π 

) 1 

נציב את המשוואה השלישית 

במשוואה הראשונה ונקבל:‏ 

1 − π = (1 −π )(1 − a) 

+ π b 

1 1 1 

1 

או 

1 − (1 − a) = π (1 − (1 − a) + b) 

או 

a 

= π1 

a + b 

ולכן 

b 

. π 

0 

= 1− π1 

= 

a + b 

0.9=a ו 

0 ואז 

⎛ 1 3 ⎞ 

π = ⎜ ⎟ 

⎝ 4 4 ⎠ 

כך לדוגמא עם 

למצב 

ובאמת רואים שרוב הזמן 

0.3=b אז ממצב 0 יש סיכוי רב לעבור למצב 1 אבל ממצב 1 יש פחות סיכוי לעבור 

(75% מהזמן)‏ נמצא במצב 1. 

תיקון חלקים במכונה:‏ 

למכונה יש שלושה חלקים (1,2,3) קריטיים אשר עלולים להתקלקל.‏ לצורך תפקוד תקין של המכונה דרושה 

תקינות של שתיים מתוך שלושת החלקים ‏(ז"א שכאשר המכונה מתפקדת,‏ לכל היותר חלק אחד יכול להיות 

מקולקל).‏ מדיניות החלפת החלקים המקולקלים היא כזאת:‏ ברגע ששני חלקים נמצאים במצב מקולקל,‏ הם 

מוחלפים והמכונה חוזרת לעבוד ביום הבא.‏ 

אבל שני חלקים לא יכולים 

ההסתברות לקלקול חלקים 

להתקלקל באותו יום.‏ 

23 

3 ,2 ,1 יוחלפו?‏ 

2 ,1 ו – 3 הן 0.02 ,0.01 ו 0.04 בהתאמה,‏ 

5 שנים)‏ 

מהו המודל המרקובי אשר מתאים לסיפור זה?‏ 

אם נפעיל את המכונה למשך ‏(בערך 

כמה חלקים מסוג,‏ 

1800 ימים 

כאשר כל מצב מתאר מהם החלקים 

המודל:‏ נתאר את מרחב המצבים כך:‏ 

המקולקלים.‏ לדוגמא מצב 0 מתאר כי אין חלקים מקולקלים,‏ מצב 3 מתאר כי חלק מס'‏ 3 מקולקל ומצב 

מתאר כי חלקים 

אם כך אז זוהי מטריצת המעבר:‏ 

2 ,1 ו 

13 ,12 או :23 

S = {0,1, 2,3,12,13,23} 

2 ו 3 מקולקלים.‏ 

0 ⎛.93 .01 .02 .04 0 0 0 ⎞ 

⎜ 

⎟ 

1 

⎜ 

0 .94 0 0 .02 .04 0 

⎟ 

2 ⎜ 0 0 .95 0 .01 0 .04⎟ 

⎜ 

⎟ 

P = 3 ⎜ 0 0 0 .97 0 .01 .02⎟ 

12 ⎜ 1 0 0 0 0 0 0 ⎟ 

⎜ 

⎟ 

13 ⎜ 1 0 0 0 0 0 0 ⎟ 

23 ⎜ 1 0 0 0 0 0 0 ⎟ 

⎝ 

⎠ 

כעת נתעניין בקרוב ‏(הגבולי)‏ של תוחלת מס'‏ החלקים מסוג 

אנו יודעים כי חלקים מוחלפים בכל פעם שהשרשת במצב 

– 3 אשר יוחלפו לאחר 1800 ימי פעולה.‏ 

- 95 -

207.2250 


חלק 1 מוחלף כאשר אנו במצבים 



רואים בקלות שהשרשת היא אי-פריקה ולכן בגלל שמרחב המצבים שלה סופי אז קיימת עבורה התפלגות 

גבולית π. 

12 או .13 

12 או .23 

13 או .23 

אם כך הקרוב הגבולי לתוחלת מס'‏ החלקים המוחלפים מכל סוג הוא:‏ 

חלק 

( π + π )1800 

12 13 

:1 

( π + π )1800 :2 

12 23 

( π + π )1800 

13 23 

:3 

חלק 

חלק 

נותר כעת רק לחשב את π: 

נרשום את משוואות שווי המשקל עבור כל העמודות פרט לעמודה הראשונה ‏(ניתן תמיד לדלג על 

עמודה/משוואה אחת).‏ 

.01 π + .94π = π 

0 1 1 

.02 π + .95π = π 

0 2 2 

.04 π + .97π = π 

0 3 3 

.02 π + .01π = π 

1 2 12 

.04 π + .01π = π 

1 3 13 

.04 π + .02π = π 

2 3 23 

0 

+ 

1 

+ 

2 

+ 

3 

+ 

12 

+ 

13 

+ 

23 

= 1 

π π π π π π π 

נניח כי 

אז לפי המשוואה הראשונה,‏ השנייה והשלישית בהתאמה מתקיים:‏ 

π 0 ידוע:‏ 

1 

π1 = π 

0 

6 

2 

π 

2 

= π 

0 

5 

4 

π 

3 

= π 

0 

3 

או לאחר מכנה משותף:‏ 

5 

π1 = π 

0 

30 

12 

π 

2 

= π 

0 

30 

40 

π 

3 

= π 

0 

30 

נציב כעת במשוואות הרבעית,‏ החמישית והשישית:‏ 

- 96 -

207.2250 


10 + 12 

π12 = π 

0 

3000 

20 + 40 

π13 = π 

0 

3000 

48 + 80 

π 

23 

= π 

0 

3000 

כעת נשתמש במשוואת הסכום:‏ 

3000 + 500 + 1200 + 4000 + 22 + 60 + 128 

π 

0 

= 1 

3000 

3000 

π 

0 

= 

8910 

ולכן 

ומכאן:‏ 

π 

π 

π 

π 

π 

π 

1 

2 

3 

12 

13 

23 

500 

= 

8910 

1200 

= 

8910 

4000 

= 

8910 

22 

= 

8910 

60 

= 

8910 

128 

= 

8910 

ומכאן לאחר 1800 ימים משתמשים בממוצע ב 16.56 פריטים מסוג 

פריטים מסוג 

,1 

30.30 פריטים מסוג 

37.98 ו ,2 

.3 

מודל אמינות:‏ 

מערכת יצור נמצאת באחד מאוסף מצבים 

. S = {1,..., N} 

המצבים התקינים בה המערכת מייצרת.‏ הקבוצה המשלימה 

בהם המערכת אינה מייצרת.‏ 

קיימת קבוצה מצבים A, 

A ⊆ S 

c 

A = S \ A 

.1 

.2 

.3 

.4 

.5 

שהיא קבוצת 

היא קבוצת המצבים התקולים 

נניח כי מצב מערכת הייצור מתנהג על פי שרשרת מרקוב בעלת מטריצת מעבר P והשרשרת היא אי-פריקה 

ואינה מחזורית.‏ 

נתעניין במספר מדדים לגבי מערכת היצור:‏ 

פרופורציית הזמן בה המערכת במצב תקין.‏ 

פרופורציית הזמן בה המערכת במצב תקול.‏ 

הקצב אשר בו מערכת היצור עוברת ממצב תקין למצב תקול,‏ ז"א קצב הקלקולים.‏ 

הקצב אשר בו מערכת היצור עוברת ממצב תקול למצב תקין,‏ ז"א קצב התיקונים.‏ 

הזמן הממוצע בו המערכת נשארת במצב תקין לאחר תיקון ‏(זהו הזמן הממוצע בין קלקולים 

– נקרא 

.(ׂMean Time Between Failures – MTBF 

- 97 -

207.2250 


הזמן הממוצע בו המערכת נשארת במצב תקול לאחר התקלקלות ‏(זהו הזמן הממוצע להתאוששות 

מקלקול).‏ 

.6 

פתרון:‏ 

ראשית בגלל שהשרשרת היא ארוגודית אז קיימת התפלגות סטציונרית אם בנוסף נניח כי השרשרת 

במצב שווי משקל ‏(המערכת כבר עבדה מספר ימים רב)‏ אז ההסתברות שהמערכת במצב 

אם כך,‏ ההסתברות להיות במצב תקין היא 

וההסתברות להיות במצב תקול היא 

.π i 

i היא 

0 

,π 

. ‏(שאלה .(1 

∑ 

i∈A 

π 

. ‏(שאלה .(2 

i 

∑ 

c 

i∈A 

π 

i 

– המצב התקין 

שנית נגדיר שרשרת מרקוב דו מצבית ‏(כפי שהוצגה בתחילת הפרק הזה).‏ נקרא למצב – המצב התקול.‏ נבנה את הסתברויות המעבר של השרשרת הדו-מצבית ‏(מבוססים על הפרמטרים 

ולמצב כך שיתאימו לשרשרת שלנו ‏(השרשרת ה N מצבית):‏ 

ו a 

1 

(b – 

עבור כל ריאליזציה של השרשרת שלנו ‏(המטיילת בין N מצבים).‏ נגדיר ריאליזציה של השרשרת הדו-מצבית 

כך:‏ 

נסמן את השרשרת שלנו ‏(ה-‏ N מצבית)‏ ב 

- 

Y n ואת השרשרת הדו-מצבית ב 

. 

X n 

X = I ( Y ) 

n 

c 

A 

n 

ז"א כאשר השרשרת שלנו במצב תקול אז השרשרת הדו-מצבית במצב 

תקין אז השרשרת הדו-‏ מצבית במצב 0. 

1 – 

במצב יציב ‏(כאשר הפילוג השולי לכל זמן n של השרשרת שלנו הוא π) נחשב את 

המעבר בשרשרת הדו-מצבית).‏ אנו יודעים כי קצב המעבר ממצב 

למצב ב 

אז:‏ 

וכאשר השרשרת שלנו במצב 

a ו-‏ b ‏(הסתברויות 

.π P 

i 

ij 

i למצב j הוא 

c 

A 

בשרשרת שלנו 

(N מצבים)‏ 

גורר מעבר ממצב 

0 למצב 

כל מעבר ממצב ב A 

1 בשרשרת הדו ‏–מצבית.‏ ולכן:‏ 

וזהו הקצב בו המכונה עוברת ממצב תקין למצב תקול ‏(שאלה 

.(3 

a 

= ∑ ∑ 

c 

j∈A 

i∈A 

π P 

i 

ij 

b 

= ∑ ∑ 

j∈A c 

i∈A 

π P 

i 

ij 

ובאופן דומה,‏ 

וזהו הקצב בו המכונה עוברת ממצב תקול למצב תקין.‏ ‏(שאלה 

.(4 

מהם התשובות לשאלות 5,6 ‏(הזמן הממוצע בו השרשרת במצב תקול והזמן הממוצע בו השרשרת במצב 

תקין).‏ 

וכן בכל שרשרת מרקוב הזמן הממוצע בו נשארים במצב לא סופג 

גיאומטרי של פעמים עם הסתברות הצלחה = יציאה ממצב 

‏(כי נשארים במצב מספר 

1 

i הוא 

1− Pii 

.( 1− 

Pii = ∑ Pij 

j≠i 

- 98 -

207.2250 


1 

b 

1 בממוצע 

1 

a 

בפרט בשרשרת הדו מצבית נשאר במצב 0 בממוצע 

שלנו ‏(ה-‏N מצבית)‏ נישאר במצב תקין בממוצע למשך 

צעדים ובמצב 

צעדים ‏(שאלה 

צעדים.‏ ולכן בשרשרת 

5) ומצב תקול בממוצע 

1 

∑ ∑ 

c 

j∈A 

i∈A 

π P 

i 

ij 

∑∑ 

j∈A c 

i∈A 

1 

π P 

i 

ij 

למשך 

צעדים.‏ 

c 

A = {3, 4} 

A = {1, 2} 

c 

S = A∪ 

A 

לדוגמא:‏ 

עבור מרחב מצבים 

כאשר 

ו 

נניח כי מטריצת המעבר היא 

⎛ 1 1 1 ⎞ 

⎜ 0 

4 4 2 

⎟ 

⎜ 

⎟ 

⎜ 1 1 1 

0 ⎟ 

⎜ 4 2 4 ⎟ 

. P = ⎜ ⎟ 

⎜ 

1 1 1 1 

⎟ 

⎜ 4 4 4 4 ⎟ 

⎜ 1 1 1 ⎟ 

⎜ 0 ⎟ 

⎝ 4 4 2 ⎠ 

התפלגות שווי המשקל מתקבלת ע"י המשוואות הבאות:‏ 

21 

48 

27 

48 

1 1 1 

π1 = π1 + π 

3 

+ π 

4 

4 4 4 

1 1 1 1 

π 

2 

= π1 + π 

2 

+ π 

3 

+ π 

4 

4 4 4 4 

1 1 1 

π 

3 

= π1 + π 

2 

+ π 

3 

2 2 4 

1 = π + π + π + π 

1 2 3 4 

פתרון המשוואות הוא:‏ 

⎛ 9 12 14 13 ⎞ 

π = ⎜ ⎟ 

⎝ 48 48 48 48 ⎠ 

פרופורציית הזמן בו המערכת במצב תקין:‏ 

פרופורציית הזמן בו המערכת במצב תקול:‏ 

∑ ∑ 

c 

j∈A 

j∈A 

9 ⎛ 1 ⎞ 12 ⎛ 1 1 ⎞ 9 

π 

iPij 

= π1( P13 + P14 ) + π 

2( P23 + P24 

) = ⎜ + 0⎟ + ⎜ + ⎟ = 

48 ⎝ 2 ⎠ 48 ⎝ 2 4 ⎠ 32 

קצב הקלקולים הוא:‏ 

- 99 -

207.2250 


וקצב התיקונים היא:‏ 

∑ ∑ 

c 

j∈A 

j∈A 

14 ⎛ 1 1 ⎞ 13 ⎛ 1 1 ⎞ 9 

π 

iPij 

= π 

3( P31 + P32 ) + π 

4( P41 + P42 

) = ⎜ + ⎟ + ⎜ + ⎟ = 

48 ⎝ 4 4 ⎠ 48 ⎝ 4 4 ⎠ 32 

1− 

21 9 

∑π 

i 

1− 

i∈A 

− π + π 

= = = = 

π 9 9 

iPij 

π1( P13 + P14 ) + π 

2( P23 + P24 

) 

c 

j∈A 

32 32 

∑ ∑ 

j∈A 

∑ 

i∈A 

∑ ∑ 

c 

j∈A 

j∈A 

1 ( 

1 2) 48 16 2 

π 

21 

i 

( π1 + π 

2) 14 

= = 48 = 

π 9 

iPij 

π1( P13 + P14 ) + π 

2( P23 + P24 

) 9 

32 

ומשך הזמן הממוצע בו המערכת מקולקלת הוא:‏ 

ומשך הזמן הממוצע בו המערכת תקינה הוא:‏ 

סכום מצטבר מודולו:‏ 

נזכר בדוגמא ב-‏‎11‎‏.‏ מטריצת המעבר אשר התקבלה עבור מרחב המצבים {4 ,0,1} ,2,3 היא:‏ 

⎛ p0 p1 p2 p3 p4 

⎞ 

⎜ 

⎟ 

⎜ 

p4 p0 p1 p2 p3 

⎟ 

P ⎜ p p p p p ⎟ 

= 

3 4 0 1 2 

⎜ ⎟ 

p2 p3 p4 p0 p1 

⎜ 

⎟ 

⎜ p1 p2 p3 p4 p ⎟ 

⎝ 

0 ⎠ 

ניתן לראות כי במטריצת המעבר P לא רק שסכום כל שורה הוא אחד ‏(המטריצה היא סטוכסטית כמובן)‏ אלה 

גם הסכום של כל העמודה הוא אחד P היא סטוכסטית גם כן).‏ ז"א לכל מתקיים ‏(וזאת 

∑ 

i∈S 

P = 1 

ij 

j ∈ S 

.(∑ Pij 

= 1 

j∈S 

i ∈ S 

T 

) 

מעבר לתנאי הרגיל של מטריצה סטוכסטית:‏ לכל 

מטריצה סטוכסטית כפולה.‏ 

מתקיים 

למטריצה כזאת נקראה 

קל לראות שעבור שרשראות מרקוב אי-פריקות,‏ סופיות,‏ בעלות מטריצות סטוכסטיות כפולות ‏(כמו דוגמת 

i 

1 

| S | 

הסכום מצטבר מודולו)‏ מתקיים כי ההתפלגות הסטציונרית היא 

המצבים).‏ 

הרי משואת שווי המשקל עבור מצב 

ואם נציב 

= π ‏(אחידה בדידה על מרחב 

1 

π אז נקבל:‏ 

i 

= 

| S | 

1 

π הוא הפתרון.‏ 

i 

= 

| S | 

. π = ∑π 

P 

j i ij 

i∈S 

j היא:‏ 

ובנוסף משוואת הסכום לאחד מתקיימת ולכן 

1 1 1 

. = ∑ Pij 

= 1 

| S | | S | | S | 

i∈S 

- 100 -

207.2250 


ולכן במקרה הפרטי של דוגמת סכום מצטבר מודולו 5, 

רצה לפרק זמן ארוך היא 

ההסתברות להיות בכל מצב מסוים לאחר שהשרשרת 

:(Reflecting Random Walk) 

1 

. 

5 

הילוך אקראי מוחזר 

ניזכר בדוגמא ב-‏‎15‎‏.‏ מטריצת המעבר היא:‏ 

⎛1− 

p p 0 0 0 ⋯⎞ 

⎜ 

⎟ 

⎜ 

1− 

p 0 p 0 0 ⋯ 

⎟ 

⎜ 0 1− 

p 0 p 0 ⋯⎟ 

P = ⎜ ⎟ 

⎜ 0 0 1− 

p 0 p ⋯⎟ 

⎜ 0 0 0 1− 

p 0 ⋯⎟ 

⎜ 

⎟ 

⎝ ⋮ ⋮ ⋮ ⋮ ⋮ ⋱⎠ 

בפרק ב-‏‎4‎‏,‏ חקרנו דוגמא זו בהקשר של מצבים מתמידים חיוביות ומתמידים אפס.‏ שם ראינו כי תנאי הכרחי 

ומספיק להתמדה חיובית של מצבי השרשרת הוא קיום פתרון למשוואות שווי המשקל.‏ פתרנו את מערכת 

משוואות שווי המשקל עבור שרשרת זו וקבלנו עבור את הפתרון:‏ 

p < 0.5 

1 

π 

0 

= 

∞ 

p k 

∑( ) 

k= 

0 1− 

p 

( p 

π ) 

k 

= π 

0 

1− 

p 

k 

1 

p = 

4 

1 1 1 2 

π 

0 

= = = = 

∞ 

1 k 

1 3/ 2 3 

∑( 3 ) 

1 

k = 0 1 − 3 

כך לדוגמא עבור 

מקבלים:‏ 

2 

. 

3 

2 1 

π 

k 

= ( ) 

3 3 

ז"א π הוא וקטור מסת ההסתברות של משתנה מקרי גיאומטרי סופר כישלונות עם פרמטר להצלחה 

הערה:‏ קל לקבל פתרון זה באמצאות משוואות תנאי שווי משקל המפורט:‏ 

π p = π (1 − p) 

0 1 π p = π (1 − p) 

1 2 

k 

- 101 -

207.2250 


2 

.... 

π (1 ) 

k 

p = π 

k + 1 

− p 

אם כך:‏ 

p ⎛ p ⎞ ⎛ 

k k 1 k 2 

.... 

p ⎞ 

π = π 

− 

= π 

− ⎜ ⎟ = = π 

0 ⎜ ⎟ 

1− p ⎝1− p ⎠ ⎝1− 

p ⎠ 

π 0 מתקבל ממשוואת הסכום לאחד.‏ 

ואז 

k 

בהמשך הקורס ‏(בעיקר בחלק ה')‏ נמשיך ונדון בפתרונות מסוג זה ‏(עבור תהליכי לידה ומוות).‏ 

P 

שארית אורך החיים:‏ 

ניזכר בדוגמא ב-‏‎12‎‏.‏ מטריצת המעבר היא:‏ 

⎛ p 

1 

p 

2 

p 

3 

p 

4 

p 

5 

p 

6 

⋯ ⎞ 

⎜ 

⎟ 

⎜ 

1 0 0 0 0 0 ⋯ 

⎟ 

⎜ 0 1 0 0 0 0 ⋯ ⎟ 

⎜ 

⎟ 

= ⎜ 0 0 1 0 0 0 ⋯ ⎟ 

⎜ 0 0 0 1 0 0 ⋯ ⎟ 

⎜ 

⎟ 

⎜ 0 0 0 0 1 0 ⋯ ⎟ 

⎜ 

⎟ 

⎝ ⋮ ⋮ ⋮ ⋮ ⋮ ⋱ ⋱ ⎠ 

להלן משוואות שווי המשקל:‏ 

π = π p + π 

.... 

0 0 1 1 

π = π p + π 

1 0 2 2 

π = π p + π 

2 0 3 3 

π = π p + π 

k 0 k + 1 k + 1 

.... 

π 0 ידוע אז:‏ 

נניח כי 

π = π (1 − p ) = π ( p + p + ...) = π P( Z > 1) = π F Z (1) 

1 0 1 0 2 3 0 0 

π = π − π p = π (1 − p − p ) = π ( p + p + ...) = π P( Z > 2) = π F Z (2) 

2 1 0 2 0 1 2 0 3 4 0 0 

π = π − π p = π (1 − p − p − p ) = π ( p + p + ...) = π P( Z > 3) = π F Z (3) 

.... 

3 2 0 3 0 1 2 3 0 4 5 0 0 

π = π (1 − p −... − p ) = π ( p + p + ...) = π F Z ( k) 

k 0 1 k 0 k + 1 k+ 

2 0 

- 102 -

207.2250 


F Z היא פונקצית השרידות של המשתנה המקרי Z המציין את שארית אורך החיים)‏ 

( k) 

) 

משוואת הסכום לאחד תיתן:‏ 

1 

π 

∞ 

∑ 

1 = π = π F Z ( k) 

0 

∞ 

∑ 

k 

k = 0 k= 

0 

∞ 

∑ 

= F Z ( k) 

= EZ 

k= 

0 

0 

1 

.π 

0 

= 

EZ 

מכאן 

ולכן 

אם כך,‏ במידה ותוחלת אורך החיים סופית אז קיימת התפלגות סטציונרית והיא 

1 

π 

k 

= F Z ( k) 

EZ 

.π 0 

F Z (0) = 1 

p 

0 

= 0 

נשים לב שבגלל ש ≤ Z 1 

אז 

ולכן 

ולכן הנוסחה לעיל נכונה גם עבור 

1 

EZ = 

p 

לדוגמא עבור p) F Z ( k) = (1 − p) k , Z ~ Geom( 

ו 

ואז:‏ 

π 1) ) k ‏(מתפלג כמו גיאומטרי סופר כישלונות).‏ 

k 

= p − p 

לעומת זאת עבור Z המתפלג כך:‏ 

התוחלת היא אינסופית ולכן לא קיימת התפלגות סטציונרית לשרשרת המרקוב ‏(כל 

1 

PZ 

( k) 

= 

k( k + 1) 

המצבים מתמידים אפס).‏ 

∞ 

∑ 

Z 

k = 1 k = 1 

הערות לגבי משתנה מקרי זה:‏ 

1 1 1 

= − 

k( k + 1) k k + 1 

∞ 

1 1 1 1 1 1 1 

P ( k) = ∑( − ) = (1 − ) + ( − ) + ( − ) + .... = 1 

k k + 1 2 2 3 3 4 

ולכן 

∞ ∞ ∞ 

1 1 

EZ = ∑ kP ( k) 

= ∑ = ∑ 

k 

Z 

k = 1 k = 1 ( k + 1) k= 

2 

בנוסף 

- 103 -

207.2250 


וזהו הטור ההרמוני וידוע כי הוא מתבדר.‏ 

- 104 -

207.2250 


תיאור חלק ג:‏ 

בחלק זה מוגדר ונחקר תהליך הפואסון ותהליכים דומים הנגזרים מתהליך זה.‏ עבור תהליך פואסון מוצגות 4 הגדרות 

שקולות ומתבצעים חישובים נלווים לתהליך וגם פיצול ומיזוג של תהליכים.‏ בנוסף מוצגים ואריאנטים של התהליך:‏ תהליך 

פואסון מורכב ותהליך אשר אינו הומוגני בזמן.‏ החלק נפתח ע"י חזרה על התפלגות אקספוננציאלית וארלנג והצגת המושג 

של קצב 

.Hazard 

- 105 -

207.2250 


פרק ג-‏‎1‎‏:‏ תכונות של ההתפלגות האקספוננציאלית 

והתפלגות ארלנג.‏ 

: X 

∼ 

להלן התכונות הבסיסיות עבור משתנה מקרי:‏ ) exp( 

λ 

x 

- 106 - 

פונקצית צפיפות,‏ התפלגות ושרידות.‏ 

[0, ∞) [0, ∞) 

λx 

f 

X 

( x) = λe − I 

∞ 

( x) 

[0, ) 

λx 

λx 

P( X ≤ x) = F ( x) = e I ( x) dx = I ( x)(1 − e 

− ) 

X 

∫ 

−∞ 

λ − 

−λx 

P( X > x) = 1 − F ( x) = F ( x) = e I ( x) + I ( x) 

− λ( s+ 

t) 

X 

X 

[0, ∞) ( −∞,0) 

צפיפות:‏ 

התפלגות:‏ 

שרידות:‏ 

תכונת חוסר זיכרון.‏ עבור t s, חיוביים.‏ 

P( X > s + t, X > t) P( X > s + t) 

P( X > s + t | X > t) 

= = = 

P( X > t) P( X > t) 

e 

e 

−λt 

−λs 

= e = P( X > s) 

פירוש:‏ נניח שמשתנה מקרי X מודד זמן המתנה בשניות ‏(או אורך חיים – זמן המתנה למוות),‏ אז בהינתן שזמן 

ההמתנה גדול מ ‏(ידוע כי המתנו לפחות אז ההסברות שנמתין עוד לפחות s שניות שווה להסתברות שנמתין 

לפחות s שניות מתחילת ההמתנה.‏ ז"א ההמתנה לא מתקצרת/מתארכת עקב העובדה שידוע שכבר המתנו.‏ 

(t 

t שניות 

זהו גם המשנה המקרי הרציף היחיד בעל תכונת חוסר הזיכרון:‏ 

יהי Y מ"מ רציף כך ש(‏s P( Y > s + t | Y > t) = P( Y > אז:‏ 

P( Y > s + t) 

= P( Y > s) 

P( Y > t) 

או:‏ 

, F Y ( s + t) = F Y ( s) F Y ( t) 

ניתן להוכיח כי הפתרון היחיד של המשווה הפונקציונאלית ‏(משוואה אשר הנעלמים בה הם פונקציות)‏ הנ"ל הוא 

מהסוג:‏ 

ההוכחה מתבססת על תוצאה יחסית כבדה האומרת כי הפתרון היחיד למשוואה מהסוג 

הוא קבוע כלשהו).‏ 

במרחב הפו'‏ הרציפות הוא 

g( s + t) = g( s) + g( t) 

,C ‏(כאשר g( y) 

= Cy 

F Y (.) 

. F Y ( x) 

= e 

ניקח ln על המשוואה הפונקציונאלית של 

ונקבל 

ln F Y ( y) 

= Cy 

. ln F Y ( s + t) = ln F Y ( s) + ln F Y ( t) 

Cx 

ואז לפי התוצאה ‏"הכבדה"‏ נקבל כי 

בשביל ש תהיה פו'‏ שרידות אז דרוש ש C יהיה שלילי ולכן ניקח 

ולכן 

הערה:‏ עבור משתנים מקריים בדידים המשפחה הגיאומטרית הינה המשפחה היחידה בעלת תכונת חוסר זיכרון.‏ 

. C = −λ 

F Y 

(.) 

. F Y ( x) 

= e 

הערה:‏ תכונת חוסר הזיכרון נכונה גם עבור הזזות של משתנים מקריים אקספוננציאלים ‏/גיאומטריים.‏ 

הערה:‏ ניתן לייחס את תכונת חוסר הזיכרון לעובדה שאם מסתכלים על העקומה היורדת של הצפיפות 

האקספוננציאלית או של מסת ההסתברות הגיאומטרית,‏ אז העקומה הינה בעלת אותה צורה ככל שמסתכלים הלאה אל 

הזנב.‏ 

Cx

207.2250 


קשר למשתנה מקרי גיאומטרי.‏ 

כידוע,‏ גם משתנה מקרי גיאומטרי הוא חסר זיכרון.‏ קשר זה בין האקספוננציאלי לגיאומטרי אינו סתמי:‏ 

נגדיר ‏(הערך השלם העליון).‏ אז עבור …,1,2=k 

יהי 

G = ⎡⎢ 

X ⎤⎥ 

, X ~ exp( λ) 

P( G = k) = P( ⎡⎢ 

X ⎤⎥ 

= k) = P( X ∈( k − 1, k]) 

= 

x= 

k 

k 

−λx 

⎡ 

−λx e 

−λk −λ 

( k−1) 

∫ λe dx = λ ⎢ = −( e − e ) = 

λ 

k − 

⎣ − 

1 x= k−1 

(1 ) ( ) (1 ) 

−λ( k−1) −λ −λ k −1 

−λ 

e − e = e − e 

q = 1− p = e −λ 

1 

P( G k) (1 p) k − 

= = − p 

נגדיר 

אזי 

פונקציה יוצרת מומנטים.‏ 

וזו התפלגות גיאומטרית ‏(סופרת ניסיונות).‏ 

∞ 

∞ 

Xt xt −λx x( t−λ 

) 

M 

X 

( t) 

Ee ∫ e λe dx λ∫ 

e dt 

0 0 

e 

λ 

= = = = 

x( t−λ) 

x=∞ 

x( t−λ 

) 

( lim e 1) 

λ 

= − = 

t − λ t − λ x→∞ 

λ − t 

x= 

0 

. t 

< λ 

t 

− λ < 

0 

λ 

עבור 

או 

תוחלת,‏ מומנטים,‏ שונות.‏ 

נחשב את EX במספר דרכים.‏ 

דרך א:‏ 

. X ~ exp( λ) 

∞ 

∞ ∞ −λx 

−λx −λx x=∞ 

−λx 

x ⎡e 

∫ λ ( ) 1( ) (0 lim ) 

x= 0 ∫ 

x λx 

⎢ 

→∞ e λ 

0 0 ⎣ − 

0 

EX = x e dx = x −e − − e dx = − + = 

1 1 

0 + 0 − = 

−λ 

λ 

∞ 

∞ 

0 0 

דרך ב:‏ 

−λx 

1 1 

EX = F X 

∫ ( x) dx = ∫ e dx = 0 − = 

−λ 

λ 

X 

−1 −2 

= = ( λ( λ − ) )' = λ( −1)( −1)( λ − ) = = 

t 0 t 0 

2 

dt 

= = 

t= 

0 

( λ − 0) 

דרך ג:‏ 

dM ( t) λ 1 

EX t t 

λ 

נחשב את השונות:‏ 

ראשית נחשב את המומנט השני ע"י גזירה פעמיים של פו'‏ יוצרת מומנטים והצבה באפס.‏ 

d M ( t) 

EX = = − t = − − − t = 

2 

2 X 

−1 −2 

( λ( λ ) )'' ( λ( 1)( 1)( λ ) )' 

2 

dt 

t= 0 t= 

0 

t= 

0 

λ( 2)( 1)( t) 

−3 

− − λ − = 

t= 

0 

2 

2 

λ 

- 107 -

207.2250 


2 2 2 1 2 1 

. Var( X ) = EX − ( EX ) = − ( ) = 

2 2 

λ λ λ 

כעת:‏ 

הערה:‏ אם כך סטיית התקן של מ"מ אקספוננציאלי שווה לתוחלתו ולכן מקדם ההשתנות (CV) של משתנה מקרי זה הוא 

.( CV ( X ) = 

Var( X ) 

התפלגות מינימום.‏ 

בתחילת הקורס נזכרנו כי פו'‏ השרידות של המינימום של n משתנים מקריים בלתי תלויים הינה מכפלת פו'‏ השרידות 

‏(נרענן זאת כאן):‏ 

F ( x) = P( Min( X ,..., X ) > x) = P( X > x)... P( X > x) = ∏ F ( x) 

Min( X1,..., X n ) 1 n 

1 

n 

Xi 

k = 1 

‏(במידה והמשתנים המקריים הינם שווי התפלגות אז המכפלה הופחת לחזקה בגובה 

אזי מקבלים:‏ 

כאשר נתונים n משתנים מקריים אקספוננציאלים,‏ כאשר 

.(n 

X 

i 

~ exp( λ ) 

i 

Min( X1,..., X n ) 

X i 

k= 1 k= 

1 

n 

∏ 

EX 

i n 

. F ( x) = F ( x) = e λ = e 

λ λ 

n 

∏ 

n 

).1 

− x − ( 1+ ... + ) x 

ז"א המינימום הוא גם אקספוננציאלי בעל סכום העוצמות.‏ 

הערה:‏ לתוצאה זו משמעות מרחיקת לכת בחישובי אמינות.‏ נהוג הרבה פעמים למדל את אורך חייהם של רכיבים ע"י 

משתנה מקרי אקספוננציאלי ‏(זאת בגלל תכונת חוסר הזיכרון וקצב סיכון קבוע – נראה בהמשך).‏ נניח כי קיימת מערכת 

המורכת מ n רכיבים וכולם הכרחיים לפעולת המערכת.‏ אזי אורך החיים של המערכת הוא אקספוננציאלי בעל סכום 

העוצמות ‏(סכום ההופכי של אורך החיים הממוצע של כל רכיב).‏ 

הערה:‏ תוצאה זו תהייה מרכזית בהבנתנו של תהליכי קפיצה מרקובים,‏ בפרק הבא.‏ 

תחרות בין משתנים מקריים אקספוננציאלים.‏ 

נדון כעת במצב בו ישנם שני משתנים מקריים אקספוננציאלים בלתי תלויים:‏ 

X ~ exp( λ X 

) 

Y ~ exp( λ Y 

) 

נחשוב על X ועל Y כמסמלים את הזמן מתחילת החיים עד אשר שתי תאומות מתחתנות.‏ ‏(התאומות הן X ו Y). ‏(ייתכן 

והנחת האי-תלות במקרה זה היא קצת לא מציאותית).‏ 

בסעיף הקודם ראינו כי הזמן עד החתונה הראשונה (Min(X,Y)) מתפלג 

. exp( λ + λ ) 

X 

Y 

P = P( X < Y ) = P( X = Min( X , Y )) = 1− 

P 

X 

Y 

כעת נדון בהסתברות 

אינטואיטיבית רואים שאם 

אזי הסתברות זאת צריכה להיות חצי.‏ בנוסף נצפה כי 

‏(ההסתברות שהתאומה X תתחתן ראשונה).‏ 

. λ X 

P X תהיה פו'‏ עולה ב 

λ 

X 

= λ 

Y 

. 

f ( x, y) = λ e I ( x) λ e I ( y) 

−λX 

x 

−λY 

y 

X , Y X [0, ∞) Y [0, ∞) 

דרך חישוב א':‏ 

הצפיפות המשותפת של X ו Y היא:‏ 

עכשיו,‏ נבצע אינטגרציה על כל הזוגות 

אשר עבורם .x

207.2250 


∞ ∞ ∞ ∞ 

∫ ∫ 

−λX 

x −λY 

y 

P = f ( x, y) 

dydx = λ λ e e dydx = 

X X , Y X Y 

x= 0 y= x x= 0 y= 

x 

∞ ∞ ∞ 

−λX x −λY y −λX 

x 

∫ λX ∫ λY ∫ λX 

x= 0 y= x x= 

0 

e e dydx = e F Y ( x) 

dx = 

∞ 

∞ 

−λX x −λY x λ 

X 

− ( λX + λY 

) x 

X ∫ 

( 

X Y 

) 

λ 

x 0 X 

+ λ ∫ 

= Y x= 

0 

λ e e dx = λ + λ e dx = 

λX 

λX 

1 = 

λ + λ λ + λ 

X Y X Y 

∫ ∫ 

דרך חישוב ב':‏ 

על פי נוסחת ההסתברות השלמה:‏ 

P = P( X < Y ) = P( X < Y | X = x) f ( x) 

dx 

X 

∞ 

∫ 

x= 

0 

– 

X 

ולכן זה שווה ל 

∞ ∞ ∞ 

− Y x X x X 

( X Y ) x 

X 

F Y ( x) f 

X 

( x) dx e λ − λ 

X 

e λ − 

dx ( 

X Y 

) e λ + λ 

∫ = ∫ λ = λ + λ 

λ dx = 

λ 

x 0 x 0 X 

+ λ ∫ 

Y 

λ 

x 0 

X 

+ λ 

= = = 

Y 

- 109 - 

X 

i 

~ exp( λ ) 

i 

כעת נרחיב תוצאה זו לn משתנים מקריים 

נראה כי 


λ = λ + ... + λ + λ + ... + λ 

U 

1 i− 1 i+ 

1 

n 

P = P( X = Min( X ,..., X )) = 

i i 1 n 

λ1 

λ + ... + λ 

U = Min( X ,..., X , X ,..., X ) 

1 

1 i− 1 i+ 

1 n 

n 

נגדיר 

ואז 

אזי נסמן 

.U ~ exp( λ U 

) 

λi 

λ1 

. Pi 

= P( X 

i 



λ + λ λ + ... + λ 

i U 1 

n 

ועכשיו 

סכום של משתנים מקריים בעלי קצב זהה מתפלג ארלנג.‏ 

בסעיף זה ניזכר בהתפלגות גאמא ובפרט במקרה פרטי שלה,‏ התפלגות ארלנג.‏ ניזכר בכך שסכום של גאמות בלתי תלויות 

‏(כאשר פרמטר הקצב זהה)‏ מתפלגות גאמא וניישם למקרה הפרטי הארלנגי אשר יהיה שימושי ביותר בהמשך הפרק.‏ 

X מתפלג גאמא עם פרמטר צורה α ופרמטר קצב אם צפיפות X מכילה את הגרעין 

‏(תזכורת הגרעין של פו'‏ צפיפות הוא החלק ‏"עם הבשר",‏ החלק אשר משתנה על פי הערך בניגוד לקבוע).‏ 

וכך מכפלת הגרעין בגורם המנרמל 

‏(המשך תזכורת,‏ במידה והגרעין הוא K(x) אזי,‏ הגורם המנרמל הוא 

. x 

e 

,x 

α −1 −λx 

, ( ∫ K ( x ) dx ) 

− 

1 

Γ(.) 

.(1 

λ 

נותן פו'‏ צפיפות תקנית,‏ ז"א האינטגרל מעל התומך הוא 

α 

λ 

. 

Γ( α) 

במקרה של התפלגות גאמא,‏ הגורם המנרמל הוא 

כאשר 

היא פו'‏ גאמא:‏ 

.( n ∈ N 

Γ ( n) = ( n −1)! 

. Γ ( α) 

= ∫ t 

∞ 

α −1 

−t 

e dt 

לפו'‏ גאמא מס'‏ תכונות,‏ לא נדון בהן כאן פרט לכך ש 

בחלקים.‏ 

אם כך:‏ 

‏(עבור 

קל להראות זאת ע"י אינטגרציה 

0

207.2250 


. X + X ~ gamma( α + α , λ) 

1 2 1 2 

X 

X 

λ 

. f x = x e I x 

Γ ( α) 

~ gamma( α , λ) 

α 

α −1 

−λx 

X 

( ) 

[0, ∞) 

( ) 

1 1 

~ gamma( α , λ) 

2 2 

כעת נראה כי אם 

בלתי תלויים,‏ אזי 

.(u=s/x 

Γ ( α + β ) 

f x x x I x 

Γ( α) Γ( β ) 

- 110 - 

דרך א':‏ קונבולוציה.‏ 

לצורך חישוב זה ניזכר בהתפלגות בטא המייגעת:‏ 

α −1 β −1 

X 

( ) = (1 − ) 

[0,1] 

) β X ~ Betta( α, אם ) ( 

נבצע כעת את הקונבולוציה ו"נשלים"‏ להתפלגות בטא במהלך החישוב ‏(ע"י הצבה 

f ( x) = f ( x) ⊗ f ( x) = f ( s) f ( x − s) ds = f ( s) f ( x − s) 

ds = 

X1+ 

X 2 X1 X 2 X1 X 2 X1 X 2 

s= 0 s= 

0 

x 

α1 α2 

λ α1−1 λs 

λ 

α2 

−1 λ ( x s) 

= ∫ s e − ( x − s) 

e − − ds = 

Γ( α ) Γ( α ) 

s= 

0 

1 2 

∞ 

∫ 

1+ x 

2 1+ 

x 

2 

α1 −1 α2 −1 −λx 

λ 

−λx 

α1 −1 α2 

−1 

α α α α 

λ 

= s ( x − s) e ds = e s ( x − s) 

ds 

Γ( α ) Γ( α ) 

∫ 

= 

Γ( α ) Γ( α ) 

∫ 

1 2 s= 0 

1 2 s= 

0 

1 

−λx 

Γ ( α1 + α2) 

α1 −1 α2 

−1 

e ( ux) ( x ux) 

xdu 

α1+ 

α2 

λ 

= − = 

Γ ( α + α ) Γ( α ) Γ( α ) 

∫ 

1 2 1 2 u= 

0 

1 

1−1 2 −1 − x Γ ( α1 + α2) 

λ 

1−1 2 −1 

α1+ 

α2 

λ 

α α α α 

= x x xe u (1 − u) 

du = 

Γ ( α + α ) 

∫ 

Γ( α ) Γ( α ) 

1 2 u= 

0 1 2 

α1 + α2 −1 − x 

x e 1 

∫ 

Γ ( α1 + α2) 

α1−1 u (1 

α2 

−1 

u) 

du 

α1+ 

α2 

λ 

= Γ + 

α1 + α2 

−1 

−λx 

x e 

1 2 u= 

0 1 2 

α1+ 

α2 

λ 

= − 

Γ ( α + α ) Γ( α ) Γ( α ) 

( α α ) 

1 2 

x 

∫ 

= 

דרך ב':‏ פו'‏ יוצרת מומנטים.‏ 

נתון 

X ~ gamma( α, λ) 

∞ α α ∞ 

α 

st α −1 −λs ( t) 

α −1 −( λ−t ) s 

M 

X 

( t) 

∫ e s e ds s e ds 

α 

( ) ( t) ∫ 

( ) 

s= 0 s= 

0 

λ λ λ − ⎛ λ ⎞ 

= = = ⎜ ⎟ 

Γ α λ − Γ α ⎝ λ − t ⎠ 

. t < λ , λ − t > 0 

.( Γ (1) = 1 

. T = X1 + ... + X 

n 

~ gamma( n, λ) 

α 

עבור 

כעת 

ז"א 

⎛ λ ⎞ 

. M 

X 

( ) ( ) ( ) 

1+ 

X 

t = M 

2 X 

t M 

1 X 

t = 

2 ⎜ ⎟ 

⎝ λ − t ⎠ 

. gamma( λ, α + α ) 

1 2 

1+ 

α2 

וזו אכן הפו'‏ יוצרת מומנטים של 

הרחבת תוצאה זו ל n משתנים מקריים היא מיידית.‏ 

gamma(1, λ) ≡ exp( λ) 

α 

חדי העין הבחינו כי 

ולכן אם 

‏(כן,‏ יוצא ש 

X1 ,..., X בלתי תלויים אזי 

n 

~ exp( λ)

207.2250 


n 

להתפלגות gamma כאשר פרמטר הצורה הוא שלם קוראים ארלנג (Erlang) 

וצפיפותו:‏ 

אקספוננציאלים 

– ולכן סכום של n משתנים מקריים 

erlang( n, λ) מתפלג i.i.d. 

n 

λ n−1 

−λx 

T 

( ) = 

[0, ∞) 

( ) 

. f x x e I x 

( n −1)! 

אין טעם לחשב באופן ישיר את התוחלת והשונות,‏ יותר קל לעשות זאת ע"י העובדה כי משתנה מקרי זה הוא סכום של 

אקספוננציאלים ולכן:‏ 

1 1 n 

ET = ( + ... + ) = 

λ λ λ 

. Var( T ) = 

n 

2 

λ 

n 

ובאותו אופן 

- 111 -

207.2250 


פרק ג-‏‎2‎‏:‏ קצב Hazard 

‏(סיכון).‏ 

אנו יודעים כי ניתן לייצג את ההתפלגות של משתנים מקריים במספר דרכים:‏ 

F ( x), F X ( x), f ( x), P ( x), M ( t), G ( t) 

X X X X X 

וזאת כאשר מוגדרת רק עבור מ"מ רציפים ו ו הן פונקציות רק עבור מ"מ בדידים.‏ 

ז"א כל האפשרויות הנ"ל עומדות לרשותנו לייצג את חוק ההסתברות ‏(ההתפלגות)‏ של משתנים מקריים.‏ 

P ( x) 

X 

G 

בפרק זה,‏ נכיר דרך נוספת אשר באמצעותה ניתן לתאר את חוק ההתפלגות של משתנים מקריים אי שליליים רציפים,‏ זוהי 

פונקצית קצב ה Hazard או קצב הסיכון.‏ 

X 

( t) 

f 

X 

Hazard כך:‏ 

. h 

( x) 

X 

נגדיר את קצב ה 

f 

( x) 

= 

F 

לפני שנתעמק במשמעות של ערך זה,‏ נחשב את קצב ה Hazard של משתנה מקרי אקספוננציאלי כדוגמא.‏ 

X ∼ exp( λ) 

h 

X 

X 

X 

( x) 

( x) 

−λx 

λe 

( x) 

= = λ 

−λx 

e 

לצורך הסבר של המשמעות של קצב ה נתייחס למשתנה מקרי X כמשתנה מקרי אי-שלילי אשר מייצג אורך 

חיים של רכיב כלשהו ‏(יכול להיות גם בן-אדם ביישומים אקטואריים).‏ נשתמש במינוחים של כשלון ושרידות,‏ ז"א אם 

X>x אז שרדנו יותר מ x יחידות זמן וכו'.‏ 

,Hazard 

כדי להבין את המשמעות של קצב הסיכון נסתכל על הגודל הבא:‏ x) , P( x < X ≤ x + ∆ x | X > 

עד זמן x ולאחר מכן בפרק זמן בגודל נכשלנו.‏ 

זוהי ההסברות ששרדנו 

∆x 

- 112 - 

ניתן לראות כי:‏ 

P( x < X ≤ x + ∆ x | X > x) 

= 

P( x < X ≤ x + ∆ x, X > x) 

= 

P( X > x) 

P( x < X ≤ x + ∆ x) 

= 

P( X > x) 

P( x < X ≤ x + ∆x) 

F 

X 

( x) 

אם כך,‏ 

עבור x∆ קטן מתקיים:‏ 

f 

X 

( x) 

∆x 

P( x < X ≤ x + ∆ x | X > x) = = hx 

( x) 

∆x 

F X ( x) 

∆x 

ז"א,‏ קצב הסיכון בזמן x מוכפל ב הוא ההסתברות להיכשל בזמן זה בהינתן שעדיין לא נכשלנו עד זמן זה.‏ ‏(ביישומיים 

אקטוארים,‏ ערך זה נקרא עוצמת התמותה).‏

207.2250 


(1 

חשוב לשים לב כי קצב הסיכון בשל עצמו אינו מההווה הסתברות ‏(הוא יכול להיות גדול מ וזאת בדיוק כפי שפונקצית 

הצפיפות אינה מההווה הסתברות.‏ אבל כאשר מכפילים בערך קטן אז קצב הסיכון ‏(כמו כן גם פונקצית צפיפות)‏ 

מקרבים גודל הסתברותי.‏ 

∆x 

. λ 

נחזור למקרה האקספוננציאלי ובו ראינו כי קצב הסיכון הוא קבוע תוצאה זו מראה שבמידה ואורך החיים הוא בעל 

התפלגות אקספוננציאלית אז ההסתברות להיכשל בכל רגע נתון ‏(בהנחה שעדיין לא נכשלנו)‏ היא קבועה.‏ זאת אם כך 

הסתכלות נוספת על תכונת חוסר הזיכרון של משתנים מקריים אקספוננציאלים.‏ 


מהו קצב הסיכון?‏ 

יהי 

נצפה כאן שקצב הסיכון יעלה ככל שמתרחקים מ -0 ומתקרבים ל 

:1- 

h 

X 

X ~ Uniform(0,1) 

f 

X 

( x) 1 

( x) 

= = 

1 − F ( x) 1− 

x 

X 

מעבר מקצב סיכון לפונקצית שרידות 

ראינו כיצד ניתן למצוא את קצב הסיכון בהינתן פונקצית שרידות ‏(זאת על פי הגדרה):‏ 

h ‏(הרי הצפיפות היא הנגזרת השלילית של פונקצית השרידות).‏ 

X 

−FX 

'( x) 

( x) 

= 

F ( x) 

X 

נראה כעת כיצד פונקצית השרידות ניתנת לחישוב על פי קצב הסיכון.‏ 

כזכור 

ולכן 

1 

log( g)' 

= g ' 

g 

− h ( x) = log( F ( x))' 

X 

X 

ניקח אינטגרל על שני צדדי המשוואה ונקבל:‏ 

x 

∫ 

− h ( s) ds = log( F ( x)) 

ולכן 

0 

X 

F ( x) 

= e 

X 

X 

x 

− 

∫ 

hX 

( s) 

ds 

0 

אם כך יש בידינו נוסחה המאפשרת לקבל את פונקצית השרידות ‏(ובכך כמובן גם את פונקצית ההתפלגות המצטברת)‏ 

מפונקצית קצב הסיכון.‏ 

כמו כן ניתן שוב לראות שעבור המקרה האקספוננציאלי 

−λx כצפוי.‏ 

‏(קצב סיכון קבוע ), λ הערך של האינטגרל באקספוננט הוא 

הערה:‏ כאשר נדון במערכות תורים ‏(בהמשך הקורס)‏ נתייחס אל משתנים מקריים אי-שלילים רציפים כזמנים בין הגעות 

של לקוחות במערכת וכזמני שרות לקוחות בדוגמאות אלו,‏ קצב הסיכון ישמש כקצב הגעה או קצב שרות.‏ ז"א לקצב הסיכון 

יכולה להיות גם משמעות של קצב שרות/הגעה מעבר לקצב התמותה/כשלון אשר הוצג בפרק זה.‏ 

- 113 -

207.2250 


דוגמא,‏ התפלגות 

פונ'‏ הצפיפות היא:‏ 

. 

hX 

( x) 

= αλx α − 

, 

f =αλx − e 

− 

( x ) α 1 

X 

:Weibull 

α 

λx 

ההתפלגות מוגדרת באופן טבעי ע"י קצב הסיכון 

ש לדוגמא עבור = 1 αקצב הסיכון הוא קבוע ‏(ואז ההתפלגות היא אקספוננציאלית),‏ עבור 

עולה ועבור 1> α קצב הסיכון יורד.‏ 

קל לקבל את הצפיפות,‏ השרידות והתוחלת של ההתפלגות מקצב הסיכון.‏ 

1 

x גדל.‏ 

כך הפרמטר α קובע האם הסיכון עולה או יורד ככל 

1< α קצב הסיכון 

התפלגות זו משמשת פעמים רבות למידול אמינות של רכיבים וזאת בגלל שלפעמים יותר נוח להתאים סטטיסטית קצב 

סיכון מאשר צפיפות או שרידות וקצב הסיכון של התפלגות זו הוא הגיוני למידול ‏(עולה קבוע או יורד ובקצבים שונים).‏ 

- 114 -

207.2250 


פרק ג-‏‎3‎‏:‏ מבוא לתהליך פואסון.‏ 

הגדרת תהליך ספירה:‏ 

הוא 

לפני שנתאר ונגדיר במפורט מהו תהליך פואסון,‏ נגדיר את המונח של תהליך ספירה.‏ תהליך סטוכסטי 

תהליך ספירה בזמן רציף אם N(t) מסמל את סך המאורעות אשר הגיעו/אירעו/נספרו/נולדו עד זמן ריאליזציה של 

תהליך ספירה נראית כמו פונקצית מדרגה לא יורדת,‏ רציפה מימין ובעלת גבול משמאל.‏ באמצעות תהליך ספירה ניתן 

לתאר:‏ 

{ N( t), t ≥ 0} 

.t 

א)‏ 

ב)‏ 

ג)‏ 

ד)‏ 

מרכזיית טלפון אשר מקבלת שיחות טלפון.‏ 

מונה גייגר אשר סופג חלקיקים.‏ 

תביעות לחברת ביטוח.‏ 

שאילתות http לאתר אינטרנט.‏ 

הגדרה ‏(מפורטת):‏ 

התהליך 

{ N( t), t ≥ 0} 

N( t) ≥ 0 (1 

N 

(2 

N( s) ≤ N( t) אזי s

207.2250 


- זהו הזמן המינימאלי מבין כל הזמנים אשר בו תהליך הספירה 

הוא לפחות 

- זהו ערך הספירה המקסימאלי מבין 

באופן דומה,‏ ניתן להגדיר את תהליך הספירה כך:‏ 

כל ערכי הספירה אשר ההגעה שלו הייתה לכל היותר בזמן 

N( t) = sup{ n ∈ N | T ( n) ≤ t} 

.t 

T ( n) = inf{ t ∈ R | n ≤ N( t)} 

.n 

קשר בסיסי בין תהליך ספריה לתהליך זמני ההגעות המתאים הוא השקילות בין שתי המאורעות הבאים:‏ 

. ‏(זאת כמובן עבור 

הוכחה לכוון ⇐ אם זמן ההגעה ה n הוא לאחר או שווה לזמן t אזי בזמן t היו לכל היותר 

אם בזמן t היו לכל היותר n ספירות אזי הספירה ה n חייבת להיות לפחות בזמן 

n ספירות.‏ 

.t 

ω ∈Ω נתונה).‏ 

{ N( t) ≤ n} ⇔ { T ( n) ≥ t} 

: 

הוכחה לכוון ⇒ : 

קשר דומה נוסף הוא:‏ t} .{ N( t) < n} ⇔ { T ( n) > 

קשר הכלה בין מאורעות הבנויים על 

בנוסף מתקיים 

.{ N( t) ≥ n} ⊇ { N( t) ≥ n + 1} הוא:‏ N(t) 

{ N( t) = n} ∪{ N( t) ≥ n + 1} = { N ( t) ≥ n} 

{ N( t) = n} = { N( t) ≥ n}\{ N( t) ≥ n + 1} 

ואז לפי הקשר הבסיסי לעיל:‏ t} .{ N( t) = n} = { T ( n) ≤ t}\{ T ( n + 1) ≤ 

,t 

‏(והאיחוד הוא איחוד זר)‏ ולכן 

תיאור אינטואיטיבי של תהליך פואסון כקרוב של תהליך בינומי:‏ 

נשים לב שהגדרתנו לתהליך ספירה לא ייחסה חוק הסתברות כלשהו לתהליך ‏(לאוסף הריאליזציות האפשריות של 

התהליך)‏ אלה בסך הכול תיארה תכונות כלליות של כל ריאליזציה של התהליך.‏ כעת נתאר את חוק הסתברות עבור המקרה 

הפרטי המעניין:‏ תהליך פואסון.‏ 

בפרק הבא נגדיר במדויק את תהליך פואסון,‏ כאן נקבל תחושה בלבד.‏ נניח כי אנו מבצעים את התרגיל הבא,‏ מתבוננים 

בעיניים של חברנו ורושמים את הזמנים של המצמוצים בעיניים.‏ ‏"הגעות"‏ המצמוצים יכולים להוות תהליך ספירה ‏(כאשר 

בזמן ערך התהליך מספר כמה מצמוצים היו בפרק הזמן נניח כי הופעת מצמוץ ברגע מסוים אינה תלויה 

בהופעות המצמוצים אשר אירעו ברגעים הקודמים,‏ במילים אחרות,‏ נניח כי ציר הזמן מחולק ל"רגעים"‏ שהם יחסית קטנים 

‏(נאמר עשירית שנייה),‏ והופעת מצמוץ ברגע מסוים היא בעצם כמו הצלחה בניסוי ברנולי ברגע זה ‏(אי-הופעת מצמוץ היא 

כמו כשלון בניסוי הברנולי).‏ בנוסף נניח כי כל ניסויי הברנולי הינם בלתי תלויים.‏ כאשר מניחים כי ההסתברות ליותר 

ממצמוץ אחד ב"רגע"‏ היא אפס,‏ ומשאיפים את גודל הרגעים ל 0 בצורה מתאימה,‏ אז מקבלים תהליך פואסון.‏ 

.([0, t] 

אופן השאיפה צריך להיות כזה:‏ ברור כי כאשר גודל ‏"רגע"‏ שואף לאפס אז גם ההסתברות להצלחה צריכה לשאוף לאפס.‏ 

אבל אם משמרים את המנה של הסתברות ההצלחה וגודל הרגע קבוע אז מקבלים תהליך פואסון.‏ 

נראה בהמשך שתהליך פואסון קשור ישירות להתפלגות הפואסון – ערך התהליך בזמן t מתפלג פואסונית עם פרמטר , λt 

כאשר λ הוא תוחלת מספר המופעים ליחידת זמן.‏ 

כאן ניזכר ביחס בין התפלגות פואסון וההתפלגות הבינומית:‏ 

יהי 

היחס 

X n 

משתנה מקרי המתפלג בינומית עם פרמטרים 

. 

p n 

n ו 

אם נשאיף את n לאינסוף ואת 

p n 

npn 

= λ או p n 

λ 

= 

n 

אזי נקבל שהתפלגות 

ל 0 כך שנשמר את 

X n שואפת להתפלגות פואסונית עם פרמטר . λ קל להוכיח תוצאה זו:‏ 

- 116 -

207.2250 


.(1 

⎛ n ⎞ k n−k n! 

λ k λ n−k 

P( X 

n 

= k) = ⎜ ⎟ pn (1 − pn 

) = ( ) (1 − ) = 

⎝ k ⎠ 

( n − k)! k! 

n n 

k 

n( n −1)( n − 2)...( n − k + 1) 1 λ n λ 

(1 − ) 

n 

.... n λ k 

(1 − ) 

n k! 

k 

n 

k 

−λ 

λ 

lim P( X 

n 

= k) = 1⋅1⋅e 

n→∞ 

k! 

מה אנו לומדים מקשר זה בין ההתפלגויות?‏ נניח כי ציר הזמן שלנו הוא סופי ‏(נניח ויש לנו תהליך ספירה או תהליך 

הגעות על ציר זמן זה.‏ נניח בנוסף כי ההסתברות הרגעית להגעה היא קבועה ‏(קצב הסיכון)‏ והיא כעת נניח כי אנו 

מקרבים את תהליך ההגעות ע"י חלוקה של ציר הזמן הרציף ל n יחידות זמן,‏ ובכל יחידת זמן יתכן אחד משני מקרים.‏ א)‏ 

אין הגעות.‏ ב)‏ יש הגעה אחת.‏ ההסתברות להגעה היא 

. λ 

. 

p n 

λ 

= 

n 

. 

X n 

אז במקרה זה מס'‏ ההגעות מתפלגת בינומית כמו המשתנה 

המקרי אך כאשר נשאיף את n לאינסוף נקבל כפי שצוין לעיל כי ההתפלגות הגבולית הינה פואסונית וזה בצירוף עם 

התוצאה אשר תיארנו לעיל כי ההתפלגות של תהליך פואסון בזמן t היא פואסונית עם פרמטר 

. λt 

הגדרת אינקרימנטים בלתי תלויים:‏ 

הערה:‏ הגדרה זו גם הוצגה בפרק א-‏‎5‎‏.‏ 


תהליך ספירה הוא בעל אינקרימנטים בלתי תלויים אם מספר המאורעות אשר מופעים בקטעי זמן זרים הם בלתי תלויים.‏ 

הערה:‏ תהליך עם אינקרימנטים בלתי תלויים מקיים כי N(t) בלתי תלוי ב .N(t+s)-N(t) ‏(כי האינטרוולים 

הינם זרים).‏ 

בפרק הבא נראה כי תהליך פואסון הוא בעל אינקרימנטים בלתי תלויים.‏ 

(t,t+s) ו (0,t) 

הגדרת אינקרימנטים סטציונרים:‏ 

הערה:‏ הגדרה זו גם הוצגה בפרק א-‏‎5‎‏.‏ 


תהליך ספירה הוא בעל אינקרימנטים סטציונרים אם עבור כל אינטרוול 

) t N( t ) − N( מתפלג כמו 

2 1 

t2] ( t1, מתקיים כי 

N( t + s) − N( t + s) 

2 1 

עבור כל 

s חיובי.‏ 

משמעות ההגדרה היא שהתפלגות מספר אינקרימנטים/הגעות/מאורעות באינטרוול תלויה רק באורך האינטרוול.‏ 

הערה:‏ בחלק הקודם של הקורס ‏(שרשראות מרקוב)‏ למדנו מהו תהליך סטציונרי.‏ על נא נבלבל בין המושגים.‏ תהליך בעל 

אינקרימנטים סטציונרים אינו בהכרח תהליך סטציונרי.‏ אבל תהליך סטציונרי הוא בעל אינקרימנטים בלתי תלויים.‏ 

- 117 -

207.2250 


הגדרה טכנית :o(h) 

f ( h) 

. lim = 0 

h→0 

h 

f 

: R → R 


נאמר שפונקציה 

היא o(h) אם מתקיים:‏ 

הערה:‏ באופן מדויק,‏ o(h) היא קבוצת כל הפונקציות אשר מקיימות את התנאי שצוין לעיל.‏ למרות זאת,‏ נוח פשוט לומר כי 

פונקציה ‏"היא ובכך הכוונה היא ששאיפת הפונקציה ל 0 היא בקצב גבוהה מליניארי וגבולה ב 

– 0 הוא .0 

.o(h) 

2 

f ( h) 

h 

. lim = lim = lim h כי = 0 o(h) 

h → 0 h h → 0 h h → 0 

f ( h) 

h 

lim = lim = lim1 = 1 כי ≠ 0 o(h) 

h → 0 h h → 0 h h → 0 

.α אם > 1 o(h) 

.o(h) 

,o(h) 

" o(h) 

f ( x) 

= x 

2 


הפונקציה 

הפונקציה 

היא 

אינה 

f ( x) 

f ( x) 

= 

= x 

באופן כללי x α 

היא 

טענה:‏ כל קומבינציה ליניארית סופית של פונקציות שהן 


צריך להוכיח כי אם הן o(h) אזי גם 

מתקיים כי:‏ 

גם היא 

x) g( x) = c f ( x) + ... + c f ( היא גם 

1 1 

n 

n 

f ,..., 1 

fn 

ci fi ( h) fi 

( h) 

lim = ci 

lim = ci 

⋅ 0 = 0 

h→0 h 

h→0 

h 

.o(h) c f 

f ( h) + g( h) f ( h) g( h) 

lim = lim + lim = 0 + 0 = 0 

h→0 h h→0 h h→0 

h 

.o(h) 

o(h) הוא 

i 

i 

היא ולכן 

בנוסף מתקיים כי 

ולכן כל סכום של שתי פו'‏ שהן 

o(h) ולכן גם כל סכום סופי הוא 

- 118 -

207.2250 


פרק ג-‏‎4‎‏:‏ תהליך פואסון ‏–ארבע הגדרות שקולות.‏ 

לאחר המבוא האינטואיטיבי מהפרק הקודם,‏ נגדיר בפרק זה את תהליך פואסון במדויק.‏ למעשה נציג 4 הגדרות שונות 

לתהליך,‏ ונוכיח שההגדרות שקולות.‏ ע"י הצגה זו,‏ נלמד על מספר תכונות חשובות של התהליך.‏ 

ארבע הגדרות ומשפט מסכם:‏ 

הגדרה 1 ‏(ההגדרה הטהורה):‏ 

הוא תהליך פואסון עם פרמטר λ ‏,אם:‏ 

תהליך ספירה 

כל קפיצה היא בגודל 

לתהליך אינקרימנטים סטציונרים ובלתי תלויים.‏ 

- 119 - 

N = { Nt 

, t ∈[0, ∞)} 

.1 

.1 

.2 

הגדרה 2 ‏(ההגדרה המיקרו ברנולית):‏ 

הוא תהליך פואסון עם פרמטר 


λ ‏,אם:‏ 

N = { N , t ∈[0, ∞)} 

t 

. P( N = 1) = λh + o( h) 

. 

h 

P( N ≥ 2) = o( h) 

h 

.1 

.2 

.1 

לתהליך אינקרימנטים סטציונרים בלתי תלויים.‏ 

הגדרה 3 ‏(הגדרת פילוג פואסון):‏ 


N = { N , t ∈[0, ∞)} 

t 

N − N ∼ Poisson( λ( t − s)) 

t 

s 

.2 

.3 

‏(עבור 

לתהליך אינקרימנטים סטציונרים בלתי תלויים.‏ 

הגדרה 4 ‏(הגדרת תהליך החידוש):‏ 

יהיו משתנים מקריים 

הוא תהליך פואסון עם פרמטר , λ אם:‏ 

.( t > s 

i.i.d. מהתפלגות 

X , X ,... 

1 2 

, Tn 

= X1 + ... + X 

n 

וגם 


(λ , exp( נקרא לערכי משתנים אלו זמנים בין מופעיים.‏ נגדיר 

T נקרה למשתנים אלו,‏ זמני המופע ה n. נגדיר 

0 

= 0 

, N = sup{ n ∈ N | T ≤ t} 

t 

n 

N t אזי 

,1 

,0 

. λ 

λh 

ההגדרה הטהורה הינה הגדרה כללית ביותר,‏ היא אומרת שכל תהליך קפיצה בעל קפיצות בגודל יחידה בעל אינקרימנטים 

סטציונרים בלתי תלויים הוא תהליך פואסון.‏ זאתי אכן,‏ הגדרה כללית ביותר.‏ היא טהורה במובן שאינה מחייבת שהתהליך 

יהיה מורכב מהתפלגות כלשהי מפורשת.‏ ההגדרה המיקרו ברנולית טוענת שבזמן קטן ‏(אינפיניטסימאלי),‏ ישנה הסתברות 

של שתהייה הגעה.‏ זאתי בעצם הגדרה הטוענת שקצב הסיכון של ההגעות הוא קבוע.‏ גם הגדרה זו דורשת 

אינקרימנטים סטציונרים בלתי תלויים.‏ הגדרת פילוג פואסון גם היא דורשת אינקרימנטים סטציונרים בלתי תלויים אבל 

אינה מחייבת שגודל כל קפיצה יהיה מאידך היא מחייבת שבפרק זמן באורך נתון,‏ מס'‏ ההגעות ‏(הספירות)‏ יהיה פואסוני 

עם ממוצע פרופורציונאלי לאורך הקטע.‏ הגדרת תהליך החידוש,‏ היא הגדרה קונסטרוקטיבית,‏ היא אומרת שבכדי ליצור 

תהליך פואסון דרוש להתחיל בזמן להגריל משתנה מקרי אקספוננציאלי,‏ לחכות את הזמן עד הערך המקרי ואז לספור 

אולי נראה קצת מסובך בראשית,‏ 

להגריל עוד משתנה,‏ לחקות ושוב לספור וכן הלאה.‏ הביטוי 

,1 

N = sup{ n ∈ N | T ≤ t} 

t 

n 

N t 

אבל בעצם הוא בסך הכול אומר שערך התהליך הוא מספר המשתנים המקריים האקספוננציאלים אשר נספרו עד זמן 

‏(וערך זה גדל ב 1 רק בנקודות זמן בהם התווסף עוד משתנה מקרי לתהליך).‏ 

לפני שנוכיח כי כל אחת מההגדרות שקולות,‏ ננסח את כל אשר אנו יודעים על תהליך פואסון על פי ההגדרות במשפט:‏ 

משפט ‏(מסכם של תכונות בסיסיות של תהליך פואסון):‏ 

תהליך פואסון עם פרמטר 

יהי 

t 

λ 

N = { N , t ∈[0, ∞)} 

t 

אזי:‏

207.2250 


- 120 - 

N הוא תהליך ספירה.‏ 

קפיצות N הן בגודל 

N הוא בעל אינקרימנטים סטציונרים בלתי תלויים.‏ 

.( t > s ‏(עבור 

.1 

N − N ∼ Poisson( λ( t − s)) 

t 

. λt 

s 

N ~ Poison( λt) 

t 

) 

t 

תוחלת התהליך ( EN 

עבור 

היא 

. Cov( N , N ) = λs 

t 

s 

s

207.2250 


P( N( t) = 0) P( N( h) = 0) 

P ( t + h) = P ( t) P ( h) 

וזה שווה ל 

אם כך קבלנו:‏ 

‏(על פי אינקרימנטים סטציונרים).‏ 

0 0 0 

. P0 ( t + h) = P0 ( t) P0 

( h) 

■ 

פיתוח עזר 

נפתור את המשוואה הדיפרנציאלית הפשוטה הנ"ל:‏ 

עבור t אי-שלילי.‏ 

:2 

f (0) = 1 

f '( t) = af ( t) 

at c 

f ( t) 

= e e ⇐ f ( t) 

= Ce 

. f ( t) 

= e 

at 

at 

log f ( t) 

= at + c ⇐ 

. 

⇐ 

(log 

f ( t)) ' 

a0 

f (0) = 1 = Ce = C 

= a 

⇐ 

f '( t) 

= a 

f ( t) 

תנאי ההתחלה גורר כי 

ולכן הפתרון הוא 

■ 

פיתוח עזר 

נפתור את המשוואה הדיפרנציאלית הנ"ל:‏ 

עבור 

t אי-שלילי.‏ 

:3 

f '( t) = af ( t) + g( t) 

: e −at 

−at −at −at 

e f '( t) − ae f ( t) = e g( t) 

נכפיל את המשוואה ב 

צד שמאל הוא נגזרת של מכפלה:‏ 

− 

( at 

−at 

e f ( t))' = e g( t) 

כך ‏(ע"י אינטגרציה והעברת אגפים)‏ נקבל את הפתרון הכללי:‏ 

∫ 

−as 

e g( s) 

ds 

f ( t) 

= −at 

e 

■ 

הוכחת:‏ ‏(ההגדרה הטהורה)‏ ⇐ 

לא נציג הוכחה זאת כאן.‏ 

‏(ההגדרה המיקרו ברנולית).‏ 

הוכחת:‏ ‏(ההגדרה המיקרו ברנולית)‏ ⇐ ‏(הגדרת פילוג פואסון):‏ 

לפי פיתוח עזר 

1 מקבלים.‏ 

. P ( t + h) = P ( t) P ( h) = P ( t)(1 − λh + o( h)) 

0 0 0 0 

0 0 0 0 

מכאן:‏ 

P ( t + h) − P ( t) = − λhP ( t) + P ( t) o( h) 

נחלק את שני צדדי המשוואה ב h וניקח גבול של h ל אפס:‏ 

. 

P ( t + h) − P ( t) o( h) 

λ 

h 

h 

0 0 

lim = − P0 ( t) + P0 

( t) 

h→0 

נתבונן במשוואה ונזכר בהגדרת הנגזרת ובהגדרת o(h) וקבלנו את המשוואה הדיפרנציאלית הפשוטה:‏ 

תנאי ההתחלה הוא . 

את משוואה זו פתרנו בפיתוח עזר ולכן 

P ( t = 0) = P ( N (0) = 0) = 1 

0 

( ) t 

2 לעיל.‏ . P0 t = e −λ 

. P '( t) = −λP ( t) 

0 0 

- 121 -

207.2250 


P( N = 0) = 

t 

t 

קבלנו אם כך כי e λ− 

כצפוי.‏ 

3 ולכן:‏ 

.[t,t+h) 

.[0,t) 

- 122 - 

. n ≥ 1 

{ N n} 

t+ h 

= 

P ( ) n 

t 

.t+h 

באופן דומה נחשב כעת את 

נסתכל על התהליך בזמן 

עבור 

המאורע 

n ההגעות היו בקטע 

מתחלק לשלושת המאורעות הבאים:‏ 

(t,0], ובקטע [t,t+h) לא היו הגעות.‏ 

- כל ההגעות פרט לאחת היו בקטע (t,0] וההגעה אחת הייתה בקטע 

- הייתה יותר מהגעה אחת בקטע ,[t,t+h) 

ושאר ההגעות היו בקטע 

. P '( t) = − λP ( t) + λP − 

( t) 

n n n 1 

0} = N { N = n, N − - כל 

t t+ 

h t 

{ N = n −1, N − N = 1} 

t t+ 

h t 

{ N = n, N − N ≥ 2} 

t+ h t+ 

h t 

P ( ) n 

מכאן = h t + 

כך ניתן להגיעה למשוואה:‏ 

משוואה זו תואמת את המשוואה בפיתוח עזר 

T, אם כך 

0 

= 0 , Tn 

= X1 + ... + X 

. λ 

∫ 

λs 

e λP ( ) n − 1 

s ds 

. Pn 

( t) 

= 

λt 

e 

ראשית נחשב עבור 1=n ולאחר מכן נמשיך באינדוקציה.‏ 

λ − − 

( ) t + c λt λt 

( ) s 

. P P0 s = e −λ 

1 

t = = te + ce 

λt 

e 

λ 0 λ 0 

. c = 0 ⇐ 0 = 0λe − + ce 

− P (0) = P( N = 1) = 0 

n 

P ( ) n 

t 

ידוע כבר כי 

תנאי ההתחלה הוא 

ולכן 

ולכן 

. P ( t) 

= e 

n 

1 0 

( t) 

n! 

n 

−λt 

λ 

P t e 

n− 1( ) = 

( ) t 

אם כך:‏ P1 t = λte −λ 

נוכיח באינדוקציה כי לכל 

‏(כצפוי).‏ 

n ≥ 1 

( t) 

( n −1)! 

n 1 

−λt 

λ − 

הנחת האינדוקציה היא 

אם כך על פי הפתרון של המשוואה הדיפרנציאלית עבור 

נקבל:‏ 

( λs) 

n−1 

λs 

−λs 

∫ e ( λe ) ds 

n 

n 

( n −1)! 

−λt λ n−1 

−λt λ n 

n( ) = = = ( + ) 

λt 

P t e s ds e t c 

e ( n −1)! n! 

. 0 = 0 + c ונקבל P (0) ( ) 0 

n 

= P N0 

= n = 

Nt 

~ Poison( λt) 

■ 

∫ 

נשתמש בתנאי ההתחלה 

אם כך הוכחנו את הרצוי:‏ 

הערה:‏ הוכחה חלופית מקובלת הינה באמצעות פונקציות יוצרות.‏ 

הוכחת:‏ ‏(הגדרת פילוג פואסון)‏ ⇐ ‏(הגדרת תהליך החידוש):‏ 

X , X ,... 

1 2 

נגדיר את 

להיות סדרת הזמנים הבין מופעיים של התהליך.‏ בנוסף נסמן 

X , X ,... 

1 2 

T n הוא תהליך זמני ההגעות.‏ עלינו להראות כי 

ידוע כי 

ראשית נבחין כי 

היא סדרה i.i.d. אקספוננציאלית עם פרמטר 

λt) N ~ poiison( ולכן:‏ 

t 

. 

.{ N = 0} ⇔ { X > t} 

t 

X1 1 

1 

t 

F ( t) = P( X > t) = P( N = 0) = e −λ 

2 

t 

. X ~ exp( λ) 

1 

ולכן 

נקבל כעת את התפלגות 

עX 

X 1 

‏"י התניה ב 

P( X > t | X = s) = P( A | X = s) 

2 1 1

207.2250 


.(s,s+t] 

P( A | X = s) = P( A) 

. 

X 1 

1 

כאשר A הוא המאורע המתאר כי לא היו ספירות בזמן 

בגלל אינקרימנטים בלתי תלויים נקבל כי 

ובגלל אינקרימנטים סטציונרים נקבל כי 

אם כך קיבלנו כי גם הוא והוא בלתי תלוי ב 

. P( A) 

= e −λt 

exp( λ) 

X 2 

הוכחת:‏ ‏(הגדרת תהליך החידוש)‏ ⇐ ‏(ההגדרה הטהורה):‏ 

תהליך אשר מוגדר כפי שמוגדר בהגדרת תהליך החידוש הוא בהכרח בעל קפיצות בגודל 1 ‏(זאת כי ההסתברות כי 

משתנה מקרי אקספוננציאלי הוא בדיוק בנוסף הגדרת תהליך החידוש גוררת באופן מיידי אינקרימנטים 

סטציונרים בלתי תלויים.‏ 

■ 

0 היא .(0 

פיתוח צפיפות ארלנג באמצעות הקשר בין תהליך הספירה לתהליך זמני ההגעות:‏ 

בפרק הקודם ראינו כי סכום של משתנים מקריים אקספוננציאלים מתפלג ארלנג,‏ הוכחנו זאת עבור המקרה הכללי 

יותר של סכום של גאמות עם פרמטר קצב זהה.‏ כאן נראה פיתוח חלופי לתוצאה זו:‏ 

.n 

i.i.d. 

N t 

N t 

.T ~ erlang( n, λ) 

n 

■ 

יהי 

אזי קיים תהליך פואסון 

אשר עבורו 

T n מסמל את זמן ההגעה ה 

אם כך:‏ 

) ( ) T . FT ( (t = )P זהו בסך הכול שימוש בקשר בין תהליך ספירה לתהליך זמני 

n 

n 

≤ t = P Nt 

≥ n = ∑e 

∞ 

k= 

n 

−λt 

( λt) 

k! 

ההגעות.‏ אם כך,‏ 

d ( λt) 1 d 

1 

f t = e = e t = − e t + e k t = 

∞ k ∞ ∞ 

−λt −λt k −λt k −λt k −1 

T 

( ) ( ( ) ) ( ( ) ( ) ) 

n 

∑ ∑ λ ∑ λ λ λ λ 

dt k = n k! k= n k! dt k = n k! 

∞ k ∞ k−1 ∞ k ∞ 

k ' 

−λt ( λt) −λt ( λt) −λt ( λt) −λt 

( λt) 

= − ∑λe + ∑λe = − ∑λe + ∑ λe 

= 

k! ( k −1)! k! k '! 

= λe 

k= n k= n k = n k ' = n−1 

−λt 

n−1 

( λt) 

( n −1)! 

k 

- 123 -

207.2250 


פרק ג-‏‎5‎‏:‏ חישובים נלווים לתהליך פואסון.‏ 

T ,..., 1 

Tn 

. N 

t 

= n 

התפלגות מותניית של זמני ההגעה:‏ 

נניח כי ידוע ערך תהליך פואסון בזמן t. 

בהינתן מאורע זה.‏ 

ז"א ידוע כי 

בסעיף זה נראה כיצד מתפלגים זמני ההגעה 

.T 1 

. N 

t 

= 1 

0 ≤ s ≤ t : 

P( T1 

≤ s, Nt = 1) P( Ns = 1, Nt − Ns 

= 0) 

P( T1 

≤ s | Nt 

= 1) = = = 

P( N = 1) P( N = 1) 

לצורך חימום נניח כי ידוע כי 

עבור 

אזי יש לדון בהתפלגות של 

t 

1 0 

−λs 

( λs) −λ 

( t−s) 

( λ( t − s)) 

( e )( e 

) 

P( Ns = 1) P( Nt − Ns 

= 0) 1! 0! s 

= = = 

1 

P( Nt 

= 1) 

−λt 

( λt) 

t 

e 

1! 

t 

עבור ts מתקיים 

P T1 

s N t 

. T | 1 ~ (0, ) 

1 

Nt 

= Uniform t 

( ≤ | = 1) = 0 

מכאן ראינו כי 

הערה:‏ תוצאה זו ‏(והתוצאה היותר הכללית הבאה)‏ ממחישה את ‏"האקראיות"‏ של תהליך הגעה פואסוני.‏ 

. T ,..., | 

1 

Tn 

Nt 

כעת נחזור על התרגיל הנ"ל עבור התפלגות של = n 

כאן נחפש את ההתפלגות המשותפת המותנית.‏ ברור 

יהיה כי התומך של ההתפלגות הנ"ל ‏(האזור בו פו'‏ הצפיפות חיובית ממש בתוך צריך להיות כזה אשר רק מכיל 

וקטורים n מימדים סדורים.‏ את הניתוח נבצע כאן לפי פו'‏ הצפיפות ולא לפי פו'‏ ההתפלגות המצטברת.‏ נסתכל על הצפיפות 

. ‏(בכל נקודה אחרת הצפיפות תהיה 0). 

בנקודה כאשר מתקיים 

( R 

n 

s ,..., 1 

< s2 < ... < sn 

s1 sn 

P( T1 = s1 

,..., Tn = sn, Nt 

= n) 

f 

1,..., | 

( s1,..., s | n) ∆1... ∆ = ∆1... 

∆ 

n t 

P( N = n) 

T T N n n n 

t 

ברור כי הכתוב למעלה אינו נכון,‏ כי הרי ההסתברות שמשתנה מקרי רציף יקבל ערך מסוים ספציפי הינה 0. למרות זאת,‏ 

נשתמש בכתיבה זו לקצר את המשוואה הבא:‏ 

lim f ( s ,..., s | n) ∆ ... ∆ = lim 

T1 

,..., T | 1 1 

sup 0 n Nt 

n n 

∆i 

→ 

sup ∆i 

→0 

i= 1,..., n i= 

1,..., n 

P( T1 ∈ [ s1, s1 + ∆1),..., Tn ∈ [ sn, sn + ∆ 

n), Nt 

= n) 

P( N = n) 

t 

אם כך נמשיך את הפיתוח בעזרת הכתיבה ה"שגויה":‏ 

P( T1 = s ( 1,..., 1, ) 

1,..., Tn = sn, Nt 

= n) 

P Ns 1+∆ − N 

1 s 

= N 

1 

s 

N 

n +∆ 

− 

n s 

= A 

n 

= 

P( N = n) P( N = n) 

." s ,..., 1 

sn 

t 

כאשר המאורע A מסמל – ‏"לא היו הגעות בכל פרק הזמן פרט לזמנים סביב 

ומכאן ‏(אינקרימנטים סטציונרים בלתי תלויים)‏ זה שווה:‏ 

t 

- 124 -

207.2250 


n! 

n 

t 

s < s < < s 

, 

1 2 

... 

n 

P( N − N = 1),..., P( N − N = 1), P( A) 

s1 +∆ 1 s1 

sn +∆n sn 

P( N = n) 

t 

1 

1 

−λ∆ 

( λ∆ 

1 1) 

−λ∆ ( λ∆ 

) 

n n −λ 

( t −( ∆ 1+ ... +∆n 

)) 

( e )...( e )( e ) 

1! 1! 

n! 

= = 

n 

n 

−λt 

( λt) 

t 

e 

n! 

n 

R ב s = s1 

s n 

אם כך עבור נקודות ) ,..., ( 

המקיימות 

בערך הנקודה).‏ ועבור נקודות אשר אינן מקיימות 

מתקיים כי הצפיפות היא 

נקבל כמובן כי 

‏(אינה תלויה 

s1 < s2 < ... < sn 

. ניזכר בצפיפות המשותפת של סטטיסטי הסדר של מדגם i.i.d. ואם כך קבלנו כי 

. 

Uniform(0, t) 

i.i.d. מהתפלגות 

P( T = s ,..., T = s | N = n) = 0 

1 1 

n n t 

T ,..., | 

1 

Tn 

Nt 

= n 

מתפלגים במשותף כמו סטטיסטי הסדר ממדגם 


שרת e-mail מחובר למחשבי קצה ‏(בעלי תוכנות בצד אחד,‏ ולרשת העולמית בצד שני.‏ תפקוד השרת בהיבט של 

שליחת דואר ממחשבי הקצה מתבצע כך:‏ כאשר משתמש במחשב קצה שולח חבילת דואר בתוכנות ה e-mail שלו אז 

הדואר מועבר מיידית לשרת.‏ השרת אוגר את הדואר היוצא,‏ ואחת ל τשניות הוא מעביר את הדואר היוצא הלאה לרשת 

העולמית.‏ 

‏(נניח כי אין כיתובי דואר בין clients אשר מחבורים לאותו שרת).‏ 

שליחת הדואר ממחשבי הקצה מתנהג כמו תהליך פואסון בעל פרמטר ‏(יחידות דואר לשנייה).‏ 

λ 

(e-mail 

ברור שככל ש τ גדול יותר אז חבילות דואר נאלצות להמתין יותר זמן בשרת.‏ נרצה לחשב את תוחלת סכום זמני ההמתנה 

של חבילות דואר בין פעולות השרת ‏(בפרק זמן – ערך זהה מהווה את מחיר ההמתנה הכולל.‏ 

(τ 

Nτ 

⎡ ⎤ 

. C = E ⎢∑( τ −Tk 

) ⎥ 

⎣ k = 1 ⎦ 

נרצה אם כך לחשב את 

נשתמש בתכונת ההתפלגות המותנית של זמני הגעה ונתנה את התוחלת ב 

n 

∑ 

k = 1 

T | N = n 

k 

τ 

. N τ 

Nτ 

n n n 

⎡ ⎤ ⎡ ⎤ 

E ⎢∑( τ − Tk ) | Nτ = n⎥ = E ⎢∑( τ − Tk ) | Nτ = n⎥ 

= E∑τ 

− E[ ∑Tk 

| Nτ 

= n] 

⎣ k= 1 ⎦ ⎣ k= 1 ⎦ k = 1 k = 1 

| ,..., T מתפלג כמו סטטיסטי הסדר היוניפורמי המשותף ולכן 

1 

Tn 

N = τ 

עכשיו ידוע כי n 

סכום של 

ולכן הביטוי לעיל שווה ל:‏ 

מתפלג כמו 

. N τ קבלנו אם כך:‏ 

.(U ,..., 1 

U 

n 

) t Uniform(0, ‏(נסמנם ב 

i.i.d. משתנים מקריים n 

n 

n 

n 

. nτ − E∑Uk 

= nτ − ∑ EUk 

= nτ 

− n τ = 

τ 

k= 1 k = 1 2 2 

כעת נוריד את ההתניה ע"י משפט התוחלת המותנית ניקח תוחלת חיצונית לפי התפלגות 

2 

Nττ τ λτ 

. C = E = ENτ 

= 

2 2 2 

דוגמא ‏(מערכת שרות :(M/G/∞ 

- 125 -

207.2250 


הערה:‏ משמעות הסימון M/G/∞ תתבהר במלואה בחלק ה'‏ של הקורס.‏ 

במידול מערכות טלפוניה,‏ ניתן להניח כקירוב ראשוני כי מספר קווי הטלפון היוצאים ממרכזיה הוא אינסופי.‏ ז"א כל אדם 

אשר מרים את השפופרת ומחייג הוא ‏"מבקש"‏ קו טלפון מהמרכזייה ומקבל קו ‏(לעולם אין מחסור בקווים).‏ 

ניתן להניח כי דרישות לקויי טלפון מגיעות למרכזיה על פי תהליך פואסון עם פרמטר . λ ‏(נסמן 

.( N t 

X 

בנוסף,‏ נניח כי משך כל שיחת טלפון ‏(הזמן מחיוג המספר ועד ניתוק השיחה)‏ מתנהג כמו משתנה מקרי X אי-שלילי בעל 

פו'‏ התפלגות מצטברת משכי השיחות הינם .i.i.d בנוסף נניח כי 

נניח כי המערכת התחילה 

. EX = µ 

. F ( x) 

‏(בזמן 0) 

ללא כל קווי טלפון תפוסים.‏ 

t − s < X 

ההסתברות ששיחה אשר התחילה בזמן s עדיין מתנהלת בזמן ( s < t 

וזה 

t ‏(כאשר היא ההסתברות ש 

. 

F ( t − s) 

X 

אם כך אז בהינתן ש 

מימדים על הקטע 

Nt 

= n 

.[0, t] 

מתקיים כי זמני תחילת n השיחות מתפלגים כמו סטטיסטי הסדר של התפלגות אחידה n 

* 

0 

( t−s) 

X 

N ( t) ~ poisson( λ F ds) 

t 

∫ 

t → ∞ 

לכן אם נגדיר את 

מה הקשר ל ? µ 

(t N ( ‏=מס'‏ השיחות שעדיין מתנהלות בזמן t אזי:‏ 

* 

. 

t 

t 

( t−s) ( s) 

lim X lim X 

t→∞ 

∫ 

t→∞ 

∫ 

0 0 

F ds = F ds = EX = µ 

ולכן כאשר 

מספר השיחות במערכת מתפלג 

. Poiison( µ t) 

t 

התפלגות מותנית של מספר המגיעים:‏ 

. s < t 

N 

s 

, N 

= n 

נניח כי ידוע כי מעניין כיצד מתפלג עבור כבר ראינו כי תהליך פואסון מתאר הגעות אקראיות 

יוניפורמיות על פני הזמן.‏ אם כך אפשר לשאר כי חלוקת ציר הזמן לשתי הקטעים:‏ הראשון באורך 

באורך t-s מייצרת אוסף של n ניסויים בלתי תלויים כך שתוצאת ניסוי מהווה את הזמן בו הייתה הגעה,‏ והסיכוי שהגעה 

תהיה בקטע היא פרופורציונאלית לאורך הקטע.‏ אם כך היינו מצפים כי:‏ 

s והשני 

.(s,t] ו [0,s] 

s 

. Ns 

| Nt 

~ Bin( n, ) t 

נוכיח זאת:‏ 

- 126 -

207.2250 


P( Ns = k, Nt = n) P( Nt − Ns = n − k, Ns = k) P( Nt − Ns = n − k) P( Ns 

= k) 

P( Ns 

= k | Nt 

= n) 

= = = = 

P( N = n) P( N = n) P( N = n) 

t t t 

n−k 

k 

−λ 

( t−s) 

( λ( t − s)) −λs 

( λs) 

e 

e 

n−k k n−k k 

( n − k)! k! 

n! ( λ( t − s)) ( λs) ⎛ n ⎞ ( t − s) 

s ⎛ n ⎞ s k s 

= = = ( 

n n ⎜ ⎟ = 

n−k k ⎜ ⎟ ) (1 − ) 

−λt 

( λt) ( n − k)! k! ( λt) 

k t t k 

e 

⎝ ⎠ ⎝ ⎠ t t 

n! 

n−k 

- 127 -

207.2250 


פרק ג-‏‎6‎‏:‏ השוואה בין תהליכי פואסון ותהליכי ברנולי 

הטבלה הבאה מציגה מספר משתנים מקריים שונים אשר קיימים בתהליכי פואסון ובתהליכי ברנולי.‏ ניתן לראות כי קיים 

קשר בין הפילוג של כל משתנה מקרי בתהליכי הברנולי,‏ למשתנה המקרי המתאים בתהליכי פואסון.‏ 

המשתנה המקרי בתהליכי פילוג בתהליך ספירה 

פילוג בתהליך פואסון 

ברנולי 

ברנולי ובתהליך פואסון 

או 

Poisson( λ) 

Exp( λ) 

Erlang( k, λ) 

Bin 

Uniform 

Bin( n, p) 

Geom( p) 

NB( k, p) 

HG 

DiscreteUniform 

N 

s 

N t 

T k 

| N 

t 

T 1 

N 

n 

( k ∈ N) 

N או 

T | N 

m 

| N 

n 

Nn 

= x1 + ....... + xn 

( xi 

∼ Bernoulli( p)) 

⇒ Nn 

∼ Bin( n, p) 

λ 

λ = np ⇒ p = ( n → ∞, p → 0) ⇒ Nn 

= Nt 

→ poisson( λ) 

n 

T = ( 

1 

T = 

k 

‏(מס ניסיונות עד ‏"הצלחה ראשונה"‏ בתהליך ברנולי או זמן עד הגעת מופע ראשון בתהליך פואסון 

‏(מס'‏ ניסיונות עד הצלחה מס'‏ k בתהליך ברנולי או זמן עד הגעת המופע ה-‏k בתהליך פואסון)‏ 

T ∼ Geom( p) ⇒ T = T + ( T − T ) + ..... + ( T −T ) ⇒ T ∼ NB( k, p) 

1 k 0 1 0 k k −1 

k 

T ∼ exp( λ) ⇒ T = T + ( T − T ) + ( T − T ) + ..... + ( T + T ) ⇒ T ∼ Erlang( k, λ) 

1 k 1 2 1 3 2 k k −1 

k 

N | N ( n > m) 

m 

n 

(m-n) 

→ p( N = x | N = y) ∼ HG( n, m, y) 

= 

m n−m 

( x )( y−x 

) 

( y ) 

m n n 

' 

בתהליך ברנולי : 

התפלגות היפר-גיאומטרית:‏ נתונה אוכלוסיה בגודל , n כאשר m אלמנטים מתוכה הם מסוג א'‏ והשאר 

ניקח מדגם בגודל 

מהאוכלוסייה ונחשב את ההסתברות ש-‏x מתוכם יהיו מסוג א'.‏ 

במקרה שלנו:‏ n ניסויי ברנולי,‏ נלקח מדגם של y הצלחות ונחשב את ההסתברות ש-‏x מתוכם נפלו בחלק א'‏ 

הם מסוג ב',‏ 

(m הניסויים 

n m 

( )( ) ( ) 

N | N ( s < t) → p( N = m | N = n) ~ Bin( n, ) = 1− 

s s s 

s t s t t m t t 

n−m 

y 

הראשונים).‏ 

בתהליך פואסון:‏ 

X ~ Bin( y, ) X ~ HG( n, m, y) 

m ⇒ 

n n →∞ 

הקשר בין ההתפלגויות:‏ 

‏(כאשר 

y‏=מדגם מקרי,‏ n‏=אוכלוסיה,‏ m= פריטים 

n−1 

(1 − p) p 1 

n−1 

n(1 p) 

p n 

( 1 ) 

n 

מסוג א '). ‏(זאת כאשר m → p 

קבוע).‏ 

p( T = k, N = 1) p( x ,...., x = 0, x = 1, x ,..... x = 0) 

T | N → p( T = k | N = 1) = = = 

− 

1 n 1 k − 1 k k + 1 n 

1 n n n−1 

p( Nn 

= 1) p(1 − p) 

= ⇒∼ DiscreteUniform(1, n) 

( 

) 

( T|N) 

בתהליך ברנולי 

בתהליך פואסון מתואר בפרק ג-‏‎5‎ 

- 128 -

207.2250 


- 

פרק ג-‏‎7‎‏:‏ פיצול ומיזוג של תהליכי פואסון.‏ 

• 

• 

בפרק זה נכיר שתי תכונות חשובות של תהליכי פואסון:‏ 

פיצול כאשר מפצלים את זרם ההגעות של תהליך פואסון למספר זרמים ע"י הגרלה שוות התפלגות ובלתי 

תלויה עבור כל הגעה האומרת לאיזה זרם ההגעה משתייכת אז הזרמים הנוצרים הינם תהליכי פואסון עם פרמטר 

קצב שהוא קצב התהליך המקורי מוכפל בהסתברות לפיצול לאותו זרם.‏ 

- סכום מיזוג ‏(מיזוג)‏ של תהליכי פואסון הוא תהליך פואסון בעל סכום הקצבים.‏ 

לתכונות אלו יישומים מרחיקי לכת.‏ 

תכונת פיצול פואסון 

2 

N t 

- 129 - 

משפט:‏ 

N t 

יהי 

1 

N t ו 

תהליך פואסון עם פרמטר . λ נניח כי נוצרים שני תהליכים נוספים,‏ 

N t מבצעים את ההגרלה הבאה ‏(באופן בלתי תלוי):‏ בסיכוי p קובעים כי ההגעה היא של 

ההגעה היא של 

באופן הבא.‏ עבור כל הגעה של 

1 

N t 

2 

. N t אז:‏ 

התהליך • 

1 

N t 


. λ p 

התהליך • 

2 

N t 


. λ(1 − p) 

• 

ובסיכוי p-1 קובעים כי 

שני התהליכים הינם בלתי תלויים ‏(ז"א כל אוסף של משתנים מקריים אשר נוצרים בין התהליכים הנ"ל הינו 

ב"ת).‏ 

הערה:‏ המשפט מציין כי התהליכים אשר מתפצלים מתהליך פואסון גם הם תהליכי פואסון והם בלתי תלויים.‏ הפיצול 

המצוין במשפט הוא בינארי אבל ההרחבה לפיצול ל תהליכים היא מיידית.‏ 

2 ≤ n 

2 

N t 

- 

1 

N t 

- 

הינם תהליכי ספירה בעלי אינקרימנטים סטציונרים בלתי תלויים והתפלגות של 

ו הוכחה:‏ 

נראה שהתהליכים 

אינקרימנט פואסונית עם הפרמטרים המתאימים,‏ ולכן הם תהליכי פואסון עם הפרמטרים המתאימים.‏ 

זה שהם תהליכי ספירה זה ברור.‏ 

משתנה מקרי בינומי עם פרמטרים 

נסמן ב נסתכל על הפילוג המשותף של שני אינקרימנטים של שני התהליכים באותו נקודת זמן:‏ 

.p,n 

B( n, p) 

P N − N = j N − N = k = 

1 1 2 2 

( 

t+ s s 

, 

t+ 

s s 

) 

P( N − N = j + k, B( j + k, p) = j) 

= 

t+ 

s 

( λt) 

⎛ j + k ⎞ 

⋅ ⎜ ⎟ − = 

( j + k)! 

⎝ j ⎠ 

j+ 

k 

− λt j ( j+ k ) − j 

( e ) ( p (1 p) ) 

j+ 

k 

− λ ( p+ (1 − p)) 

t ( λt) ( j + k)! 

j k 

e p (1 − p) 

= 

( j + k)! j! k! 

e 

( λ pt) ( λ(1 − p) t) 

⋅e 

j! k! 

j 

−λ 

pt 

−λ 

(1 − p) 

t 

s 

k 

קבלנו אם כך כי הפילוגים הם פואסונים עם הפרמטרים הדרושים והם בלתי תלויים.‏ 

מ.ש.ל.‏

207.2250 


הערה:‏ תכונה זו מפתיעה:‏ נניח כי מדובר בתהליך פואסון של הגעות אנשים לבנק.‏ כאשר בן-אנוש המגיע הוא גבר 

מידע זה אינו מספר לנו כלום ‏(אי-‏ 

בהסתברות p ואישה בהסברות נניח שידוע שבין השעות 

תלות)‏ לגבי כמות הנשים אשר הגיעה בפרק הזמן הזה.‏ 

8 ל 10 הגיעו 70 גברים,‏ 

.1-p 

תכונת מיזוג פואסון 

הערה:‏ למיזוג של תהליכי פואסון לפעמים קוראים סכום או סופר-פוזיציה.‏ 

N = N + N 

1 2 

t t t 

λ 2 

λ 1 

2 

N t 

1 

N t 

משפט:‏ 

ו יהיו 

פואסון בעל קצב 

תהליכי פואסון בלתי תלויים בעלי קצבים 

ו 

בהתאמה.‏ אזי התהליך 

הוא תהליך 

. λ = λ + λ 

1 2 



נראה כי 

נראה שהוא תהליך ספירה בעל אינקרימנטים סטציונרים בלתי תלויים ופילוג אינקרימנט פואסוני עם הפרמטר המתאים.‏ 

. 

. λ = λ + λ 

1 1 2 2 

( Nt+ s 

− Ns ) + ( Nt+ 

s 

− Ns 

) 

1 2 

N = N + N 

1 2 

t t t 

בזמן 

אינקרימנט של התהליך 

האינקרימנטים בכל אחת מההתפלגויות מתפלגים כך:‏ 

t) [ s, s + הוא:‏ 

N = N + N 

1 2 

t t t 

λ 

1 1 

( Nt+ s 

− Ns 

) ~ Poisson( 1t) 

2 2 

Nt+ s 

− Ns 

Poisson λ2t 

( ) ~ ( ) 

והם בלתי תלויים.‏ בדוגמא א-‏‎4‎ הראנו כי קונבולוציה של שתי פו'‏ מסת התפלגות פואסון היא פו'‏ מסת התפלגות בעלת 

סכום העוצמות ולכן:‏ 

1 1 2 2 

( 

t+ s 

− 

s 

) + ( 

t+ 

s 

− 

s 

) ~ ( 

1 

+ 

2) 

N N N N Poisson λ λ 

אי-תלות של האינקרימנטים נובעת מאי-תלות של האינקרימנטים של תהליכי המקור.‏ 

מ.ש.ל.‏ 

דוגמאות ויישומים 


אנשים הולכים על המדרכה ליד חנות ספרים.‏ המספר הממוצע של האנשים ההולכים בדקה לכוון המספר 

הממוצע של האנשים ההולכים בדקה לכוון בממוצע,‏ אחד מכל 10 אנשים מחליט להיכנס לחנות הספרים.‏ בהנחת 

תהליכי פואסון והסתברויות בלתי תלויות מה הסיכוי שבחמש הדקות הראשונות בה החנות פתוחה אף אחד לא ייכנס?‏ 

1 הוא .13 

2 הוא .7 

(t )N ‏=מס'‏ העוברים ליד 

לזמן 

t, העוברים לכיוון 2 עד לזמן ‏=מס'‏ N ( (t 

2 

N ( ) ,t ne ‏=מס'‏ הלא נכנסים....‏ 

t 

, t העוברים לכיוון 1 עד לזמן ‏=מס'‏ N ( t) 

1 

e ( ) 

, t 

נגדיר:‏ 

החנות עד 

N t ‏=מס'‏ הנכנסים לחנות עד לזמן 

N1( t) ~ poisson(13 t) 

⎫ ր N 

1 

e( t) ∼ poisson( 10 ⋅ 20 t) 

⎬ ⇒ N( t) ~ poisson(20 t) 

N2( t) ~ poisson(7 t) 

9 

⎭ 

ց N ( t) ∼ poisson( 10 ⋅20 t) 

ne 

דרך א:‏ 

נסכם את שתי התהליכים ואז נבצע דילול:‏ 

- 130 -

207.2250 


N 

1 

1 e( t) ~ poisson(13 ⋅ 10 t) 

⎫ 

( ) ~ ( 

1 

⎬ N 10 20 ) 

1 

e 

t poisson ⋅ t 

N 2 e( t) ~ poisson(7 ⋅ 10 t) 

⎭ 

דרך ב:‏ 

נבצע דילול ולאחר מכן נסכם את שני התהליכים:‏ 

N 

9 

1 ne( t) ~ poisson(13 ⋅ 10 t) 

⎫ 

( ) ~ ( 

9 

⎬ N 10 20 ) 

9 

ne 

t poisson ⋅ t 

N 2 ne( t) ~ poisson(7 ⋅ 10 t) 

⎭ 

p( N 

בשני הדרכים:‏ נחשב את (0 = (5)e 

, ( N ( t)) 

p 


אנשים מגיעים לתחנת אוטובוס על פי תהליך פואסון עם קצב של 20 אנשים בשעה 

שכאשר הוא מגיע הוא אוסף אותם.‏ 

גם האוטובוסים מגיעים לפי תהליך פואסון עם קצב של 

מהי התפלגות מספר האנשים אשר אוסף כל אוטובוס?‏ 

האנשים מחכים לאוטובוס 

. ( N ( t)) 

b 

1 בשעה 

N 

p 

( t) ~ poisson(20 t) 

⎫⎪ ր p( people) 

= 

⎬ ⇒ N 

p+ 

b( t) ~ poisson(21 t) 

Nb( t) ~ poisson(1 t) 

1 

⎪⎭ 

ց p( bus) 

= 21 

האנשים אשר אוסף כל אוטובוס ⇒ 

1 21 

כישלונו ‏(סופר ת ( ) Geometric( ∼ מס ' 

20 21 

- 131 -

207.2250 


פרק ג-‏‎8‎‏:‏ תהליך פואסון מורכב.‏ 

אז הכרנו את תהליך הפואסון.‏ כעת נדון בתהליך פואסון מורכב.‏ זהו וריאנט של תהליך פואסון ובו גודל הקפיצות עם כל 

הגעה הוא משתנה מקרי ולכל הקפיצות יש את אותה התפלגות.‏ להלן ההגדרה המדויקת:‏ 


תהליך סטוכסטי 

{ X 

t 

, t ≥ 0} 

X 

t 

N t 

= ∑Y 

k = 1 

k 

כאשר 

{ Nt 

, t ≥ 0} 

הוא תהליך פואסון מורכב אם הוא ניתן לרישום כך:‏ 

הוא תהליך פואסון ו 

{ Yn 

, n = 1,2...} 

הם אוסף משתנים מקריים 

i.i.d. חיוביים.‏ 

{ Yn 

הערה:‏ כאשר ההתפלגות של 2...} = 1, n , 

הוא פשוט תהליך פואסון.‏ 

נותנת ל משתנים המקריים את הערך 

1 בהסתברות 

1 אזי התהליך הנ"ל 


קבצן יושב ברחוב ואוסף תרומות מהעוברים לידו.‏ תרומות מגיעות אל הקבצן בקצב של על פי תהליך פואסון.‏ הקבצן 

חצי שקל,‏ שקל,‏ חמישה שקלים ועשרה שקלים על פי הפילוג הבא:‏ 

מקבל תרומות בהיקף של 

λ 

i בשקלים.‏ 

5 אגורות,‏ 10 אגורות,‏ 

PY i 

⎧ 2 

⎪15 

⎪ 

⎪ 5 

⎪15 

⎪ 

⎪ 

4 

15 

⎪ 

( y) = ⎨ 2 

⎪⎪⎪⎪⎪⎪⎪⎪⎩ 15 

1 

15 

1 

15 

0 

.05 

.1 

.5 

1 

5 

10 

other 

Y i מציין את גודל התרומה ה 

כאשר המשתנה המקרי 

Y הינה בלתי תלויה אז הונו של הקבצן מתנהג כמו תהליך פואסון מורכב.‏ 

i 

במידה ונניח שסדרת המשתנים המקריים 

הפילוג השולי של תהליך פואסון מורכב בזמן 

בחלקו הראשון של הקורס פגשנו את הסכום האקראי:‏ 

כאן N הוא משתנה מקרי בדיד ו 

חישבנו את הגדלים הבאים:‏ 

תוחלת הסכום האקראי,‏ 

t 

N 

. S = ∑Y 

n= 

1 

n 

{ Yn 

, n = 1,2,...} 

היא סדרה 

.i.i.d 

E[ S] = E[ Y] E[ N] 

שונות הסכום האקראי,‏ 

פו'‏ יוצרת מומנטים של הסכום האקראי 

Var( S) = E[ N] Var( Y ) + Var( N) E[ Y] 

M ( s) = M (log( M ( s)) 

S N Y 

2 

והיא גם בלתי תלויה ב N. 

. N ~ Poiison( λt) 

t 

אנו כמובן יודעים כי 

ולכן:‏ 

- 132 -

207.2250 


X 

t 

N t 

= ∑Y 

k = 1 

k 

ENt 

( ) t 

Var N 

= λt 

= λt 

s 

t( e 1) 

M ( s) 

= e λ − 

Nt 

ולכן עבור תהליך הפואסון המורכב 


EX 

t 

= λtEY 

Var X λtVar Y λtE Y λt E Y E Y E Y λtE Y 

2 2 2 2 2 

( 

t 

) = ( ) + [ ] = ( [ ] − [ ] + [ ] ) = [ ] 

log( M ( s )) 

t( e X − 1) 

M ( s) 

= e λ = e λ 

Xt 

t( M X ( s) − 1) 


ניקח תהליך פואסון מורכב שהוא בעצם תהליך פואסון:‏ 

‏(פילוג אשר נותן לערך 

1 הסתברות .(1 

P ( y) 

= I 

Y 

( y) 

{1} 

אם כך:‏ 

E[ Y ] = 1⋅ 1 = 1 

2 2 

E[ Y ] = 1 ⋅ 1 = 1 

M s Ee e e 

sY s1 

s 

Y 

( ) = = ⋅ 1 = 

הצבה בתוחלת,‏ שונות ופו'‏ יוצרת מומנטים של תהליך הפואסון המורכב נותנת ערכים המזדהים עם ערכי תהליך הפואסון.‏ 

הגדרה חלופית לתהליך פואסון מורכב 

הערה:‏ ניתן להגדיר תהליך פואסון מורכב על פי תכונות האינקרימנטים סטציונרים ובלתי תלויים.‏ 

- 133 -

207.2250 


λ 

λ 

פרק ג-‏‎9‎‏:‏ תהליך פואסון לא הומוגני בזמן.‏ 

עבור כל התהליכים הסטוכסטיים אשר פגשנו עד כה,‏ המרכיבים ההסתברותיים הבסיסים אשר מרכיבים את התהליך היו 

קבועים ‏(הומוגניים)‏ לאורך הזמן:‏ בתהליך הברנולי,‏ המשתנים המקרים אשר יצרו את ההצלחות/הפסדים היו שווי 

התפלגות.‏ בשרשראות המרקוב,‏ מטריצות המעבר לא היו תלויות בכמה זמן התהליך התקדם עד כה ובתהליך הפואסון קצב 

התהליך היה קבוע לאורך הזמן.‏ 

כעת נדון ‏(בקצרה)‏ בתהליך אשר אינו מקיים את התכונה הנ"ל ‏(של הומוגניות הפרמטרים לאורך הזמן).‏ זהו תהליך פואסון 

ובו קצב התהליך הוא פו'‏ של הזמן,‏ 

. λ( t) 

t) λ( אם:‏ 



{ Nt 

, t ≥ 0} 

. P( N − t h 

N = t 

1) = λ( t) h + 

+ 

o( h) 

.1 

P( N N 2) o( h) 

. 2 

. − ≥ = 

t+ h t 

. 3 

לתהליך אינקרימנטים בלתי תלויים.‏ 

הוא תהליך פואסון לא הומוגני בזמן בעל פונקצית קצב 

0 

הערה:‏ ניזכר בהגדרה המיקרו ברנולית של תהליך פואסון,‏ להלן ההבדלים בינה ובין ההגדרה החדשה:‏ 

א)‏ בהגדרה של תהליך פואסון הקצב הוא קבוע,‏ כאן הוא פונקציה של הזמן.‏ 

ב)‏ בהגדרה של תהליך פואסון,‏ האינקרימנטים הם סטציונרים,‏ כאן לא.‏ 

ג)‏ הניסוחים בעזרת o(h) בהגדרת תהליך פואסון,‏ דנו בחוק ההסתברות של התהליך בזמן h. כאן לעומת 

זאת,‏ ההגדרה דנה בחוק ההסתברות של הפרש זמנים t+h ו h. 


נגדיר את פונקצית ערך התוחלת של תהליך פואסון לא הומוגני,‏ כך:‏ 

. m( t) = ∫ λ ( s) 

ds 

t 

. N 

t 


− ( m( t+ s) −m( t)) ( m( t + s) − m( t)) 

. P( Nt+ 

s 

− Nt 

= n) 

= e 

n! 

. N − t s 

Nt 

~ poisson( m( t + s) − 

+ 

m( t)) 

n 

ז"א 

וכמקרה פרטי,‏ 

~ poisson ( m ( t )) 

הערה:‏ נשים לב שתהליך פואסון רגיל הוא מקרה פרטי של תהליך לא הומוגני בזמן ועבורו 

. m( t) 

= λt 

- 

λ b 


להלן מודל לקצב רכישות מוצר מסוים לאור פרסום.‏ נניח כי מוצר נרכש על פי תהליך פואסון לא הומוגני בזמן בעל 

פונקצית קצב המורכב מהפרמטרים הבאים:‏ 

- קצב רכישה בסיסי.‏ 

{( ti, pi , di 

), i ≥1} 

p i 

ובעל דעיכה ועלייה המאופיינת ע"י 

סדרת מאמצי פרסום.‏ כאשר המאמץ הפרסומי ה i מתחיל בזמן 

. d i 

מאמץ פרסום מעלה את קצב הרכישה,‏ למעל הבסיסי החל מזמן התחלתו,‏ ותוספתו המכסימלית הינה 

התוספת דועכת.‏ נוח למדל תוספת שכזו על ידי פו'‏ מהסוג 

פרמטר צורה 2 ‏(ארלנג 2). להלן איור של צפיפות זו כאשר 1=d: 

, 

, t i הינו בעל השפעה מקסימאלית 

p i 

. f ( x) 

= xe − 

(1/ d ) x 

כאשר לאחר מכן 

זהו הרי הגרעין של צפיפות גאמא עם 

- 134 -

207.2250 


0.4 

0.35 

0.3 

0.25 

0.2 

0.15 

0.1 

0.05 

0 

0 1 2 3 4 5 6 7 8 9 10 

את הפונקציה צריך לנרמל בהינתן פרמטר p ‏(הערך המקסימאלי).‏ 

נגזור ונשווה לאפס לצורך מציאת נקודת המקסימום:‏ 

d xe 

( −1/ d ) x e 

( −1/ d ) x ( 1/ ) 

( 1/ d 

d x 

) xe 

− 

= + − = 0 

dx 

1 + ( − 1/ d) x = 0 

x = d 

כעת נמצא את גורם הנרמול A כך שבנקודה d ערך הפונקציה יהיה p: 

p = Ade = Ade 

ep 

A = 

d 

( −1/ d ) d −1 

מכאן,‏ תוספת מאמץ פרסום לקצב נראית כך:‏ 

ep 

f ( x) 

= xe 

d 

( −1/ d ) x 

t i אזי התוספת היא:‏ 

ואם כך,‏ לאור העובדה שהתוספת ה i מתחילה בזמן 

. λ 

ep 

f t t t e I t 

d 

( −1/ d )( t−t ) 

( ) ( ) i 

i 

= − 

i ( t) 

( 

i, ∞) 

ואם כך פונקציות קצב הרכישה היא:‏ 

ep 

∞ 

( −1/ d )( t−ti 

) 

( t) = λb + ∑ ( t − ti ) e I[ t , )( t) 

i ∞ 

i= 

1 d 

כך לדוגמא נראית הפונקציה עבור:‏ 

λ = 3 

b 

( t , p , d ) = (5,7, 2) 

1 1 1 

( t , p , d ) = (15,8,3) 

2 2 2 

( t , p , d ) = (19,3,1/ 2) 

3 3 3 

- 135 -

207.2250 


15 

10 

5 

0 

0 5 10 15 20 25 30 35 40 

אפשר להמשיך ולחשב את פונקצית ערך התוחלת ומכאן לקבל את התפלגויות מספר הרכישות בנקודות זמן שונות.‏ 

- 136 -

207.2250 


תיאור חלק ד:‏ 

בחלק זה מוצגים תהליכי קפיצה מרקובים שהם שרשראות מרקוב בזמן רציף.‏ מוצגות משוואות קולמוגורוב האחוריות 

והקדמיות ולבסוף מוצג אופן חישוב ההסתברויות הגבוליות.‏ 

- 137 -

207.2250 


פרק ד-‏‎1‎‏:‏ תהליך קפיצה מרקובים – הגדרה ותכונות בסיסיות.‏ 

תהליך קפיצה מרקובי הוא תהליך מרקובי בעל מרחב מצבים בן מנייה ומרחב פרמטר רציף אשר מקיים את התכונה 

המרקובית והומוגניות בזמן.‏ כבר פגשנו תהליכים כאלו בחלק הקודם של הקורס ‏(תהליכי פואסון).‏ נראה בהמשך הפרק כי 

תהליך פואסון הוא מקרה פרטי של תהליך קפיצה מרקובי.‏ 

הגדרה באמצעות מרקוביות והומוגניות בזמן 

זאת הדרך הראשונה להגדיר תהליך קפיצה מרקובי:‏ 


יהי 

א)‏ 

תהליך סטוכסטי בעל מרחב פרמטר רציף 

אשר מקיים את התנאים הבאים לכל , 0 

+ 

) R ( ומרחב מצבים בן מנייה ‏(לרוב 

N או קבוצה חלקית של 

{ X 

t 

, t ≥ 0} 

: t s ≥ 

.S ( N 

s) - P( X = j | X = i, X :0 ≤ u < s) = P( X = j | X = i) = P ( s, t + מרקוביות.‏ 

. P ( s , t + s ) = P ( t ) 

ij 

{ X j } 

= s+ t 

ij 

s+ t s u s+ 

t s ij 

P( X = s t 

j | X = s 

i) = P( X = t 

j | X = + 0 

i) = Pij 

( t) 

{ X 

t 

, t ≥ 0} 

ב)‏ 

אזי נאמר כי 

הערה:‏ הביטוי 

- הומוגניות בזמן.‏ ז"א 

הוא תהליך קפיצה מרקובי ‏(או שרשרת מרקוב בזמן רציף).‏ 

הוא ההסתברות המותנית של המאורע 

בהינתן כל 

ע 

P( X = s t 

j | X = s 

i, X 

u 

:0 ≤ + 

u < s) 

{ X ,0 

והמאורע ז"א מטרת ביטוי זה היא תיאור 

מאורע אשר מוגדר ‏"י רצף המשתנים המקריים 

של הפילוג השולי של התהליך בזמן s+t בהינתן ערך התהליך בזמן s וידיעת כל ערכי התהליך שקדמו לזמן 

.s 

.{ X = i} 

s 

u 

.{0,1} 


נניח כי מרחב המצבים הוא 

הפונקציות:‏ 

בשביל לייצר תהליך קפיצה מרקובי מעל מרחב מצבים זה עלינו להגדיר את 

. P ( ) X 0 ‏(הערה:‏ 

k 

. P ( t) 

, P ( t) 

, P ( t) 

, P ( t) 

11 10 01 00 

בנוסף עלינו להגדיר את פילוג הערך ההתחלתי:‏ 

שנחקור – רובם יהיו ארוגודים).‏ 

צריך להתקיים:‏ 

לא נייחס משמעות רבה לערך ההתחלתי של התהליכים 

:( λ , µ > 0 ) 

P ( t) + P ( t) = 1 

00 01 

10 11 

וגם 

. P ( t) + P ( t) = 1 

מסתבר ‏(לא נראה כרגע)‏ שהפונקציות היחידות אשר יקיימו תכונה זו הינם הפונקציות 

( ) µ λ − ( ) t 

P00 t e λ + 

= + 

µ 

λ + µ λ + µ 

λ λ − ( ) t 

P01 ( t) 1 P00 

( t) 

e λ + 

= − = − 

µ 

λ + µ λ + µ 

ו-‏ 

( ) µ µ − ( ) t 

P10 t e λ + 

= − 

µ 

λ + µ λ + µ 

- 138 -

207.2250 


λ µ 

P11 ( t) = 1 − P10 

( t) 

= + e λ µ 

λ + µ λ + µ 

− ( + ) t 

בצורה מטריציונית ניתן לכתוב זאת כך:‏ 

P ( t) P ( t) 1 µ λ λ λ 

⎜ ⎟ 

P10 ( t) P11 

( t) 

⎜ ⎟ ⎜ ⎟ 

⎝ 

⎠ λ + µ ⎝ µ λ ⎠ ⎝ −µ µ ⎠ 

⎛ 00 01 ⎞ ⎛ ⎞ − ( λ + µ ) t ⎛ − ⎞ 

( ) = = ( + e 

) 

P t 

הפרמטרים של תהליך קפיצה מרקובי 

הגדרה של תהליך קפיצה מרקובי אמנם מספרת לנו מה נדרש מתהליך זה אבל אינה מאפשרת בקלות לאפיין תהליכי 

קפיצה מרקובים כי הרי עבור תהליך מסוים אנו נדרשים להגדיר את ערכי P t עבור כל צמד מצבים ועבור כל 

i, 

j 

( ) 

ij 

- 139 - 

. t ≥ 0 

כזכור,‏ שרשראות מרקוב אופיינו ע"י מטריצת המעבר בצעד אחד,‏ ובאמצעות נוסחת צ'פמן קולמוגורוב היה ניתן 

‏(זה בעצם היה העלה של המטריצה P בחזקת כעת נפגוש אפיון דומה 

לחשב את הסתברות המעבר ב 

עבור תהליכי קפיצה מרקובים.‏ נראה כי ניתן לאפיין תהליך קפיצה מרקובי באמצעות מטריצה בודדת ‏(נסמנה בהמשך Q) 

ונראה בקצרה כיצד ניתן לחשב את עבור כל ע"י פעולות מסוימות על Q. 

.(n 

P 

(1) 

t ≥ 0 

P 

( n) 

n צעדים:‏ 

Pij 

( t) 


עבור תהליך קפיצה מרקובי בעל מרחב 

מטריצת הגנראטור ‏(לפעמים מכונה מטריצת היוצר)‏ 

מצבים S היא מטריצה בעלת מימד סופית או אינסופית אשר כל איבריה הינם אי-שליליים ומתקיים לכל 

q ij 

,Q (Generator Matrix) 

, | S | × | S | 

. q 

ii 

: i ∈ S 

= − ∑ qik 

k∈S 

\{ i} 

ז"א האלכסון הוא מינוס סכום שאר האיברים בכל שורה ולכן סכום כל שורה הוא אפס.‏ 

המטריצה Q מתארת תהליכי קפיצה מרקובים וזאת כמו שהמטריצה P מתארת שרשראות מרקוב בזמן בדיד.‏ כמובן שערכי 

האלכסון אינם מכילים מידע נוסף,‏ למרות זאת הם הוגדרו כך במטריצה וזאת לצורך תכונות מתמטיות אשר נפגוש בהמשך.‏ 

בשרשראות מרקוב בזמן בדיד היה לנו ברור מהו הערך 

ממצב 

P ij 

במטריצה.‏ מהו אבל הערך 

? q ij 

.j למצב i 

הערה:‏ בניגוד להסתברות,‏ קצב מעבר אינו חייב להיות קטן שווה לאחד.‏ 

משמעות קצב המעבר היא זאת:‏ 

נסתכל על h קטן ועל נניח:‏ 

, i ≠ j 

P ( h) = q h + o( h) 

ij 

ij 

הנחה זו אומרת שההסתברות לעבור ממצב 

עבור 0=h ההסתברות היא אבל עבור 

i למצב 

h קצת גדול מ – 0, 

,0 

. 

q ij 

השגיאה 

ולכן 

.( o( h) 

Pij 

( h) o( h) 

= qij 

+ 

h h 

ערכים אלו הם קצבי המעבר 

j בפרק זמן קטן היא ליניארית באורך פרק הזמן בעלת שיפוע ‏(קצב)‏ 

ההסתברות היא פרופורציונאלית לאורך הקטע ‏(עד כדי

207.2250 


או 

P ( h) 

lim ij 

= q 

h→0 

h 

ij 

בנוסף נשים לב שעבור 

P 

ij 

(0) = 0 

, i ≠ j 

P (0 + h) − P (0) 

lim ij ij = qij 

h→0 

h 

זאת אומרת,‏ הנגזרת של 

עבור 

נקבל:‏ 

Pij 

( h) 

בזמן 0 היא הקצב 

‏(כי לא ניתן לעבור באפס זמן בין מצבים)‏ ולכן:‏ 

. q ij 

i = j 

1 − Pii 

( h) = ∑ Pik 

( h) 

ולכן 

∑ 

P ( h) 

ik 

1 − Pii 

( h) k∈S 

\{ i} 

Pik 

( h) 

lim lim ∑ lim ∑ 

h→0 h h→0 h h→0 

k∈S \{ i} h k∈S \{ i} 

k∈S 

\{ i} 

= = = q = −q 

ik 

ii 

קבלנו:‏ 

, 

ij 

q i ≠ j 

הוא קצב המעבר ממצב 

.j למצב i 

−q ii 

הוא קצב היציאה ממצב i ‏(לאיזשהו מצב).‏ 

זמן השהייה במצב הוא אקספוננציאלי 

נניח כי תהליך קפיצה מרקובי נמצא במצב 

.i 

? P( H > s + t | H > s) 

.i 

{ H > s + t} 

של H? 

נסמן ב H את הזמן אשר התהליך יישאר במצב i. מה נצפה מחוק ההסתברות 

נסתכל על ההסתברות 

אם כך אז ידוע שבזמן s התהליך במצב 

בנוסף נניח כי ידוע ש נניח שהתהליך התחיל לרוץ בזמן 0 במצב היא שהתהליך נשאר במצב i למשך עוד t יחידות זמן.‏ 

ולכן משמעות המאורע 

עם כך עקב תכונת המרקוביות וההומוגניות בזמן מתקיים:‏ 

.i 

.{ H > s} 

P( H > s + t | H > s) = P( H > t) . 

ולכן H 

הוא חסר זיכרון ולכן אקספוננציאלי.‏ 

אם כך אנו רואים כי תהליך קפיצה מרקובי מטייל בין המצבים במרחב המצבים ונשאר זמן אקספוננציאלי בכל מצב.‏ 

הגדרה באמצעות משתנים מקריים אקספוננציאלים ושרשרת מרקוב משוכנת 

בסעיף זה נסתכל על תהליכי קפיצה מרקובים בצורה קצת יותר קונסטרוקטיבית.‏ 

כיצד ‏"פועל"‏ תהליך קפיצה מרקובי?‏ 

בפרק הקודם ראינו כי הזמן שבו התהליך נמצא בכל מצב הוא זמן אקספוננציאלי.‏ ניתן לראות שברגע שבו הזמן אשר 

הוגרל ע"י משתנה מקרי אקספוננציאלי נגמר,‏ התהליך עובר למצב אחר על פי שרשרת מרקוב בזמן בדיד.‏ כל נקודת זמן 

באותה שרשרת מציינת נקודת קפיצה של תהליך הקפיצה המרקובי,‏ כך שהמעבר ה n בשרשרת המרקוב ממופה לקפיצה 

ה-‏n בתהליך הקפיצה המרקובי.‏ 

- 140 -

207.2250 


אם כך להלן הגדרה חלופית של תהליך קפיצה מרקובי:‏ 

או קבוצה חלקית של 

+ 

תהליך סטוכסטי בעל מרחב פרמטר רציף ) R ( ומרחב מצבים בן מנייה ‏(לרוב 


יהי 

אשר מתנהג על פי ההתנהגות הבא:‏ 

א)‏ קיים אוסף משתנים מקריים אקספוננציאלים עבור כל מצב.‏ כך שלכל מצב המשתנים המקריים מתפלגים על פי פרמטר 

נסמן ערך 

הוא יהיה מינוס הערך אשר באלכסון מטריצת הגנראטור ייחודי.‏ ‏(נסמן את הפרמטר של המצב ה .(Q 

N 

. 

−q ii 

i – 

{ X 

t 

, t ≥ 0} 

. 

λ i 

.S ( N 

זה גם ב 

ב)‏ קיימת שרשרת מרקוב ‏(בזמן בדיד)‏ בעלת מטריצת מעבר P כך שבשרשרת לא ניתן לעבור בצעד אחד ממצב לעצמו 

‏(אלכסון המטריצה הוא אפסים).‏ זאתי נקראת השרשרת המשוכנת.‏ 

ג)‏ התהליך מתנהג באופן הבא:‏ במידה ונכנס למצב t), מוגרל משתנה מקרי אקספוננציאלי H בעל פרמטר 

‏(או והתהליך נשאר במצב i עד לזמן 

תהליך כזה הוא תהליך קפיצה מרקובי.‏ 

−q ii 

i ‏(בזמן 

t + H 

( λ i 

‏(לא כולל)‏ ואז קופץ למצב אחר 

j ≠ i 

היופי בהגדרה לעיל הוא שהיא מתארת כיצד לסמלץ תהליך קפיצה מרקובי:‏ להיכנס למצב 

בעל פרמטר 

על פי מטריצת המעבר P. 

,i 

λ = −q 

i 

ii 

טענה ‏(ללא הוכחה):‏ 

שתי ההגדרות זהות – ז"א תהליך אשר מוגדר על פי כל אחד מההגדרות מקיים גם את ההגדרה השנייה.‏ 

ניתן להרגיש את פעולת תהליך הקפיצה המרקובי באופן באחד משני ההסתכלויות החלופיות הבאות:‏ 

פעולת תהליך קפיצה מרקובי – הסתכלות א':‏ 

הגרלת משתנים מקריים אקספוננציאלים תחרות ביניהם.‏ 

– הסתכלות 

בחירה לאיזה מצב לעבור ואז מעבר . 

להגריל מ"מ אקספוננציאלי 

פעולת תהליך קפיצה מרקובי ב':‏ 

אוסף תהליכי פואסון,‏ אחד עבור כל מצב.‏ כל אחד עם פרמטר כאשר נמצאים במצב , i מחקים להגעה הבא 

בתהליך הפואסון ה 

כאשר הגעה זו מגיעה אז מתקיים פיצול פואסון על פי המטריצה המשוכנת ועוברים מצב.‏ 

. λ = −q 

i 

ii 

.i– 

תרגום בין שתי סוגי ההצגות 

תהליך קפיצה מרקובי אשר ניתן ע"י ההגדרה הראשונה שניתנה ‏(מרקוביות והומוגניות בזמן)‏ מתואר ע"י מטריצת 

הגנראטור Q וההתפלגות ההתחלתית . מאידך,‏ תהליך קפיצה מרקובי אשר ניתן ע"י ההגדרה השנייה ‏(משתנים 

- 141 - 

P X0 

אקספוננציאלים ושרשרת משוכנת)‏ מוגדר ע"י מינוס האלכסון של המטריצה Q ‏(האיברים 

שרשרת מרקוב בדידה P והתפלגות התחלתית 

. P X 0 כיצד ניתן לתרגם בין כל אחת מהתצוגות הנ"ל?‏ 

q− ii ), מטריצת מעבר של 

מעבר מייצוג מטריצת גנראטור לייצוג שרשרת משוכנת ומשכי זמן אקספוננציאלים:‏ 

א)‏ האיברים באלכסון מטריצת הגנראטור הינם מינוס הסכום של האיברים בכל השורה.‏ מינוס האיברים 

הללו הינם קצבי המעבר האקספוננציאלים עבור כל מצב 

הוא הסיכוי שמבין כל המשתנים המקריים האקספוננציאלים,‏ 

ב)‏ הסיכוי לעבור ממצב 

.( λ = −q 

i 

ii 

) 

( j 

≠ i 

) j למצב i 

המשתנה j יהיה מינימאלי.‏ הסיכוי לכך הוא 

P 

q 

q 

ij 

ij 

ij 

= = 

∑ qik 

− qii 

k∈S 

\{ i} 

‏(על פי תחרות בין משתנים מקריים

207.2250 


ij 

אקספוננציאלים ופעולת תהליך קפיצה מרקובי – הסתכלות א'‏ אשר הוסברה קודם.‏ כך ניתנים ערכי 

המטריצה 

. P j ≠ i 

ג)‏ 

ערכי המטריצה P באלכסון הם 0. 

i 

ii 

) 

מעבר מייצוג שרשרת משוכנת ומשכי זמן אקספוננציאלים לייצוג מטריצת גנראטור:‏ 

א)‏ ערכי מטריצת הגנראטור באלכסון הינם מינוס ערכי משכי הזמן אקספוננציאלים בהם נשארים בכל מצב 

.( λ = −q 

ב)‏ ערך מטריצת הגנראטור לא באלכסון:‏ 

. j ≠ i , 

q ij 

. λ P הוא 

i 

ij 

אם כך,‏ זאת הדרך המאפשרת לעבור בקלות בין שני סוגי התצוגות.‏ לרוב יותר נוח דווקא לתאר מודלים על פי ייצוג 

מטריצת הגנראטור כי הוא מתאר קצבי מעבר.‏ 

סווג מצבים וכו'‏ 

ניתן ליישם את התיאוריה של סווג מצבים ‏(מתמיד חיובי/מתמיד אפס/חולף)‏ וחלוקה למחלקות קשירות כפי שנלמדה עבור 

שרשראות מרקוב בזמן בדיד עבור תהליכי קפיצה מרקובים.‏ דרוש להסתכל על השרשרת המשוכנת ולסווג את המצבים על 

פי שרשרת זו.‏ 

נציין שאין בעיית מחזוריות בתהליכי קפיצה מרקובים.‏ אמנם ייתכן שהשרשרת המשוכנת היא מחזורית,‏ אבל תהליך 

הקפיצה המרקובי לא יהיה מחזורי בגלל האקראיות של זמן ההשארות במצב.‏ 

רוב הדוגמאות ‏(אבל לא כולם)‏ אשר יענינו אותנו יהיו תהליכי קפיצה מרקובים אי-פריקים.‏ 


תהליך קפיצה מרקובי הוא אי-פריק אם שרשרת המרקוב המשוכנת שלו הינה אי-פריקה.‏ או עבור כל שני מצבים 

כך ש 

קיימת סדרה:‏ 

i, 

j ∈ S 

. k = 1,..., n עבור q 

− 

> 

i 

0 

k 1 , ik 

i0 = i, i1 , i2,..., i n 

= j 

למרות זאת,‏ לפעמים נתעניין גם בתהליכים פריקים ‏(לא אי-פריקים)‏ ועבור אלו נוכל להתייחס למצבים חולפים,‏ מתמידים 

אפס ומתמידים חיובית כפי שעשינו עבור שרשראות מרקוב.‏ את זה נעשה באמצעות השרשרת המשוכנת.‏ בנוסף נוכל 

להתייחס למחלקות קשירות באותו אופן שהכרנו עבור שרשראות מרקוב.‏ 

מושג נוסף,‏ אשר פגשנו בעבר הוא זמן-הפגיעה במצב 

למשתנה מקרי זה,‏ תוחלתו וכו'.‏ 

+ 

. T = inf{ t ∈ R | X = i}:i 

i 

t 

בדוגמאות מסוימות ננסה נתייחס 

- 142 -

207.2250 


פרק ד-‏‎2‎‏:‏ תהליכי קפיצה מרקובים – דוגמאות.‏ 

להלן מספר דוגמאות.‏ 

לקוח אשר מגיע מתיישב על כסא מס'‏ 1 ובו נעליו 

כסא מס'‏ 1 וכסא מס'‏ דוגמא:‏ ד-‏‎1‎ : חנות לצחצוח נעליים 

בחנות לצחצוח נעליים ישנם 

מוברשות.‏ לאחר מכן,‏ הוא עובר לכסא מס'‏ 2 ובו הצחצוח מושלם ע"י ניגוב מהיר.‏ זמני ביצוע כל אחת מהפעולות הינן 

בהתאמה.‏ לקוחות מגיעים לחנות על פי תהליך פואסון עם פרמטר 

ו אקספוננציאלים בלתי תלויים עם פרמטרים . λ עם הגעת לקוח,‏ הוא יכנס לחנות רק עם שני הכיסאות ריקים.‏ 

.2 

µ 2 

µ 1 

2 כסאות:‏ 

את המודל הנ"ל ניתן לתאר ע"י תהליך קפיצה מרקובי באופן הבא:‏ 

נגדיר את מרחב המצבים להיות:‏ 

– המערכת ריקה.‏ 

– ישנו לקוח בכסא מס'‏ 1. 

– ישנו לקוח בכסא מס'‏ 2. 

מצב 0 

מצב 1 

מצב 2 

קצבי המעבר במטריצת הגנראטור יהיו:‏ 

Q 

⎛ 

⎜ 

0 

⎜ 

⎝ µ 

2 

λ 

0 ⎞ 

⎟ 

µ 

⎟ 

⎠ 

= ⎜ 1 ⎟ 

0 

‏(אלכסון הגנראטור הוא כמובן:‏ 

התצוגה בצורה משוכנת היא:‏ 

⎛ −λ 

⎜ 

.( 

⎜ 

⎝ 

−µ 

1 

⎞ 

⎟ 

−µ 

⎟ 

2 ⎠ 

⎛0 1 0⎞ 

⎜ ⎟ 

P = 0 0 1 

⎜1 0 0⎟ 

⎝ ⎠ 

λ = λ 

0 

λ = µ 

1 1 

λ = µ 

2 2 

דוגמא:‏ ד-‏‎2‎ : תהליך פואסון.‏ 

תהליך פואסון הוא מקרה פרטי של תהליך קפיצה מרקובי.‏ 

ומטריצת הגנראטור היא:‏ 


S = {0,1,2,...} 

⎛ −λ 

λ 0 0 ⋯⎞ 

⎜ 

⎟ 

0 λ λ 0 

Q ⎜ 

− 

⋯ 

= ⎟ 

⎜ 0 0 −λ 

λ ⋯ ⎟ 

⎜ 

⎟ 

⎝ ⋮ ⋮ ⋮ ⋮ ⋱⎠ 


- 143 -

207.2250 


exp( λ = 5) 

λ = λ 

⎛ 0 1 0 0 0 ⋯⎞ 

⎜ 

⎟ 

⎜ 

0 0 1 0 0 ⋯ 

⎟ 

P = ⎜ 0 0 0 1 0 ⋯⎟ 

⎜ ⎟ 

0 0 0 0 1 ⋯ 

⎜ 

⎟ 

⎝ ⋮ ⋮ ⋮ ⋮ ⋮ ⋱⎠ 

דוגמא:‏ ד-‏‎3‎‏:‏ במפעל ישנן שתי מכונות העובדות למשך זמן 

זמן עד סיום התיקון.‏ 

עד קלקול ואז הן ממתינות למשך 

exp( µ = 3) 

i 

- 144 - 

מרחב המצבים הוא 0,1,2} { = S 


⎛ −10 10 0 ⎞ 

⎜ 

⎟ 

Q = 3 −8 5 

⎜ 0 3 −3⎟ 

⎝ 

⎠ 


λ = 10 

0 

λ = 8 

1 

λ = 3 

⎛ 0 1 0 ⎞ 

⎜ ⎟ 

3 5 

P = ⎜ 0 ⎟ 

⎜ 8 8 ⎟ 

⎜ 0 1 0 ⎟ 

⎝ ⎠ 

דוגמא:‏ ד-‏‎4‎ : תהליכי לידה ומוות 

החלק הבא של הקורס ‏(חלק ה')‏ מוקדש לחקר מודלים העושים שימוש בדוגמא זו.‏ 

בעצם כל תהליך ובו ניתן לנוע ממצב i לכל היותר למצבים 

בחלק ה'‏ ישנם מספר סוגי תהליכי לידה מוות – ראה חלק ה'.‏ 

1+i, 1-i ‏(וממצב 0 אך ורק למצב 1) הוא תהליך לידה ומוות.‏ 

דוגמא:‏ ד-‏‎5‎ : מודל אקטוארי בריא-חולה-מת 

מודל זה מוצג בחוברת של סיכוני חיים ב'‏ ‏(לימודי אקטואריה).‏ 

מבוטח של ביטוח לאומי נמצא באחד משלוש מצבים:‏ 

2 

– 1 בריא.‏ 

– 2 חולה.‏ 

– 3 מת.‏ 

קצבי/עוצמות המעבר הינם כדלקמן:‏ 

12 

- µ עוצמת המעבר ממצב בריא למצב מחלה ‏(עוצמת המחלה).‏ 

13 

- µ עוצמת המעבר ממצב בריא למצב מוות ‏(עוצמת המוות הפתאומי).‏ 

23 

- µ עוצמת המעבר ממצב חולה למצב מוות ‏(עוצמת המוות ממחלה).‏ 

21 

- µ עוצמת המעבר ממצב חולה למצב בריא ‏(עוצמת ההחלמה).‏

207.2250 


כמובן שעוצמות המעבר ממצב 3 למצבים האחרים היא 0 ‏(לא ניתן לחזור מהמוות).‏ 

S = {1, 2,3,...} 

דוגמא:‏ ד-‏‎6‎ : שרשרת מתפוצצת 

נניח שרשרת על מרחב המצבים 

ונניח כי 

. q ונניח ששאר העוצמות הן 0. ז"א:‏ 

, 1 

2 i 

i i + 

= 

⎛ 2 0 0 0 ⋯⎞ 

⎜ 

⎟ 

⎜ 

0 4 0 0 ⋯ 

⎟ 

⎜0 0 8 0 ⋯⎟ 

Q = ⎜ ⎟ 

⎜0 0 0 16 ⋯⎟ 

⎜0 0 0 0 ⋱⎟ 

⎜ 

⎟ 

⎝ ⋮ ⋮ ⋮ ⋮ ⋮ ⎠ 

n 

∑ 

1 

. 

2 i 

שרשרת זו תישאר במצב i למשך זמן 

כזכור 

) i . exp(2 ז"א תוחלת זמן ההישארות של השרשרת במצב i הוא 

n. הוא זמן הפגיעה במצב T) n 

) 

. lim E[ T | X = 1] < ∞ 

n→∞ 

n 

0 

נראה כי 

נשים לב ש:‏ 

ז"א בזמן סופי השרשרת מבקרת בכל המצבים!‏ 

∞ 

∑ 

∞ 

−i 

1/ 2 

E[ T − T | X = 1] = ∑ 2 = = 1 

1−1/ 2 

i+ 

1 i 0 

i= 1 i= 

1 

E[ T − T | X = 1] = ( E[ T | X = 1] − E[ T | X = 1]) = E[ T | X = 1] − E[ T | X = 1] = 

i+ 1 i 0 i+ 1 0 i 0 n+ 

1 0 1 0 

i= 1 i= 

1 

E[ T | X = 1] − 0 

n+ 

1 0 

∞ 

∑ 

n 

∑ 

n 

∑ 

1 = E[ T − T | X = 1] = lim E[ T − T | X = 1] = lim E[ T | X = 1] 

i+ 1 i 0 i+ 1 i 0 n+ 

1 0 

n→∞ 

n→∞ 

i= 1 i= 

1 

lim E[ T | X = 1] < ∞ 

n→∞ 

n 

0 

ולכן:‏ 

אם כך 

וכך הראנו כי 

ולכן השרשרת מתפוצצת.‏ 

הערה:‏ ברוב המודלים היישומיים לא הגיוני שהתהליך יבצע כמות אינסופית של קפיצות בזמן סופי ‏(כמו דוגמא זו)‏ 

דוגמא:‏ במפעל ישנם שלוש מכונות ושני טכנאים.‏ המכונות עובדות למשך זמן (1 = λ exp( 

ממתינות למשך זמן עד סיום התיקון.‏ 

עד קלקול ואז הן 

exp( µ = 3) 

S = { 0,1,2,3} 

ד-‏‎7‎ : 



⎛ −3 3 0 0 ⎞ 

⎜ 

⎟ 

3 −5 2 0 

Q = ⎜ 

⎟ 

⎜ 0 6 −7 1 ⎟ 

⎜ 

⎟ 

⎝ 0 0 6 −6⎠ 


- 145 -

207.2250 


λ = 3 

0 

λ = 5 

1 

λ = 7 

2 

λ = 6 

⎛ 0 1 0 0 ⎞ 

⎜ 

⎟ 

⎜ 

3 2 

0 0 ⎟ 

⎜ 5 5 ⎟ 

P = ⎜ 6 1 ⎟ 

⎜ 0 0 ⎟ 

7 7 

⎜ 0 0 1 0 ⎟ 

⎝ 

⎠ 

3 

- 146 -

207.2250 


פרק ד-‏‎3‎‏:‏ משוואות קולמוגורוב.‏ 

נניח כי נתון תהליך קפיצה מרקובי בעל מטריצת בפרק זה נראה כיצד ניתן לחשב את 

על פי Q. 

ראשית ניזכר במשוואות צ'פמן קולמוגורוב ולאחר מכן נפתח קבוצות משוואות הנקראות המשוואות האחוריות של 

קולמוגורוב וקבוצות משואות אחרות הנקראות המשוואות הקדמיות של קולמוגורוב ונראה כיצד ניתן להשתמש במשוואות 

אלו לפתרון 

למעשה בהרבה מקרים לא יהיה ניתן להשתמש במשוואות לצורך חישוב P(t) באופן סגור,‏ למרות זאת נסתכל על מספר 

דוגמאות ובהן ניתן לבצע זאת.‏ 

גנראטור Q. 

. P( t) 

P( t) 

P ( s + t) = P( X = j | X = i) = P( X = j, X = k | X = i) 

= 

ij s+ t 0 s+ 

t s 

0 

k∈S 

∑ 

k∈S 

∑ 

k∈S 

∑ 

k∈S 

0 s 0 

משוואות צפמ'ן קולמוגורוב 

משוואות צפמ'ן קולמוגורוב אשר הכרנו בזמן הבדיד רלוונטיות גם בזמן הרציף.‏ 

s+ 

t s s 0 t 0 s 

0 

k∈S 

∑ 

k∈S 

משפט:‏ 

P ( s) P ( t) = P ( t + s) 

ik kj ij 


P( X 

s+ 

t 

= j, X 

s 

= k, X 

0 

= i) P( X 

s 

= k, X 

0 

= i) 

= ∑ P( X 

s+ 

t 

= j | X 

s 

= k, X 

0 

= i) P( X 

s 

= k | X 

0 

= i) 

P( X = i) P( X = k, X = i) 

P( X = j | X = k) P( X = k | X = i) = P( X = j | X = k) P( X = k | X = i) 

= 

P 

ik 

( s) P ( t) 

kj 

∑ 

∑ 

k∈S 

השתמשנו בדרך בהגדרת הסתברות מותנה,‏ בתכונה המרקובית ובהומוגניות בזמן.‏ 

מ.ש.ל.‏ 

משוואות קולמוגורוב האחורית 

נתחיל במשוואות צ'פמן קולמוגורוב:‏ 

Pij ( t + h) = ∑ Pik ( h) Pkj 

( t) 

∑ 

k∈S 

מכאן:‏ 

P ( t + h) − P ( t) = P ( h) P ( t) − P ( t) 

ij ij ik kj ij 

k∈S 

∑ 

ij ij ik kj ii ij ij 

k∈S 

\{ i} 

מכאן:‏ 

P ( t + h) − P ( t) = P ( h) P ( t) + P ( h) P ( t) − P ( t) 

- 147 -

207.2250 


∑ 

ij ij ik kj ii ij 

k∈S 

\{ i} 

מכאן:‏ 

P ( t + h) − P ( t) = P ( h) P ( t) + ( P ( h) −1) P ( t) 

P ( t + h) − P ( t) 

lim 

= lim 

h→0 h 

h→0 

נחלק את שני צדדי המשוואה ב h ונשאיף את h לאפס:‏ 

∑ 

ij ij k∈S \{ i} 

i ≠ j 

q 

ij 

P ( h) P ( t) + ( P ( h) −1) P ( t) 

ik kj ii ij 

Pij 

'( t) 

P ( h) 

= lim ij 

h→0 

h 

h 

צד שמאל הוא הנגזרת:‏ 

עבור צד ימין נזכר כי 

ולכן הסכום בצד ימין הוא:‏ 

עבור 

∑ 

P ( h) P ( t) 

ik kj 

k∈S 

\{ i} 

lim = ∑ qik 

Pkj 

( t) 

h→0 

h 

k∈S 

\{ i} 

∑ 

בנוסף ראינו:‏ 

1 − Pii 

( h) 

lim = −q 

h→0 

h 

' 

ij ik kj ii ij 

k∈S 

\{ i} 

ii 

ולכן:‏ 

P ( t) = q P ( t) − −q P ( t) 

או:‏ 

Pij '( t) = ∑ qik Pkj 

( t) 

k∈S 

או בצורת מטריצות:‏ 

. P '( t) = QP( t) 

זוהי משוואת קולמוגורוב האחורית.‏ 


משוואות קולמוגורוב האחוריות הן:‏ 

,i לכל 

j ∈ S 


( t) 

k∈S 

או 

t) P '( t) = QP( בצורה מטריציונית.‏ 

משוואות קולמוגורוב הקדמיות 

נתחיל במשוואות צ'פמן קולמוגורוב:‏ 

.t ואז h 

Pij ( t + h) = ∑ Pik ( t) Pkj 

( h) 

הערה:‏ במשוואות האחוריות התחלנו עם משוואות צ'פמן קולמוגורוב כאשר הסתכלנו על מעבר עד זמן 

הפוך,‏ 

מכאן:‏ 

כעת הסדר 

k∈S 

.h ואז t 

- 148 -

207.2250 


P ( t + h) − P ( t) = P ( t) P ( h) − P ( t) = P ( t) P ( h) + P ( t) P ( h) − P ( t) 

= 

ij ij ik kj ij ik kj ij jj ij 

k∈S k∈S \{ j} 

∑ 

k∈S 

\{ j} 

∑ 

P ( t) P ( h) + P ( t)( P ( h) −1) 

ik kj ij jj 

∑ 

ולכן ע"י חלוקה ב h ולקיחת גבול 

→ 0 h מקבלים:‏ 

P '( t) = P ( t) q + P ( t) 

q 

∑ 

ij ik kj ij jj 

k∈S 

\{ j} 

ולכן:‏ 

P '( t) = ∑ P ( t) 

q 

ij ik kj 

k∈S 

או בצורת מטריצות:‏ 

. P '( t) = P( t) 

Q 

זוהי משוואת קולמוגורוב הקדמית.‏ 


משוואות קולמוגורוב הקדמיות הן:‏ 

,i לכל 

j ∈ S 

P '( t) = ∑ P ( t) 

q 

ij ik kj 

k∈S 

או 

t) P '( t) = P( בצורה מטריציונית.‏ 

Q 

עד סיום התיקון.‏ 

עד קלקול ואז היא ממתינה למשך דוגמאות 

שרשרת דו-מצבית:‏ 

נניח כי מכונה עובדת למשך 

נניח כי ישנו סיכוי של 20% שהמכונה התחילה את היום במצב תקין (80% שהתחילה מקולקלת),‏ מה הסיכוי שלאחר 5.5 

שעות המכונה במצב תקין?‏ 

exp( µ ) 

exp( λ) 

P = (.2 .8) 

X 0 

נמדל כתהליך קפיצה מרקובי בעל שתי מצבים ‎0‎‏-תקין,‏ 1- תקול ומטריצת גנראטור:‏ 

. P P(5.5) 

= P 

X 0 X 5.5 

. P( X מתקיים:‏ 

5.5 

= 0) 

⎛ −λ 

λ ⎞ 

. Q = ⎜ ⎟ 

⎝ µ −µ 

⎠ 

אנו מתעניינים בחישוב 

מוכפל במטריצת המעבר של 5.5 יחידות זמן הוא פילוג המצב ב 5.5 יחידות זמן.‏ 

ז"א וקטור השורה ההתחלתי 

- 149 - 

לשם כך נחשב את 

נשתמש במשוואות האחוריות,‏ 

) t )P באופן כללי-‏ מטריצת המעבר ב – t יחידות זמן.‏ 

: Pij '( t) = ∑ qik Pkj 

( t) 

k∈S 

שתיים מהמשוואות הן:‏ 

(*) P '( t) = − λP ( t) + λP ( t) 

µ 

00 00 10 

P '( t) = µ P ( t) − µ P ( t) 

10 00 10 

נכפיל את המשוואה הראשונה ב 

ואת השנייה ב λ ונסכם את המשוואות לקבל:‏ 

µ P '( t) + λP '( t) = 0 

00 10 

00 10 

או 

µ P '( s) + λP '( s) = 0

207.2250 


:(* - 

:t 

µ P ( t) + λP ( t) 

= c 

ניקח אינטגרל מ-‏‎0‎ עד 

00 10 

: c = µ P (0) = 0 - P (0) = 1 

10 00 

(**) µ P00 ( t) + λ P10 

( t) 

= µ 


ו 

ולכן 

נציב משוואה זו במשוואה הדיפרנציאלית הראשונה ‏(מסומנת ב 

P '( t) = − λ P ( t) + µ (1 − P ( t)) 

00 00 00 

00 00 

או 

(***) P '( t) = µ − ( µ + λ) P ( t) 

יש לנו אם כך משוואה דיפרנציאלית עבור 

.( P (0) = 1 

P ( t) 

00 00 

נפתור : 

נסמן:‏ 

. ‏(תנאי ההתחלה הם 

h( t) P ( t) 

µ 

= 

00 

− 

λ + µ 

'( ) = 

00 

אזי ) '( 

h t P t 

וכשנציב ב *** נקבל:‏ 

h'( t) = − ( λ + µ ) h( t) 

זו כבר משוואה אשר קל לפתור:‏ 

h '( t) 

= − ( λ + µ ) 

h( t) 

שזה:‏ 

log'( h( t)) = − ( λ + µ ) 

או 

log'( h( s)) = − ( λ + µ ) 

[t,0] ונקבל:‏ 

log( h( t)) = − ( λ + µ ) t + c 

נבצע אינטגרציה על הקטע 

h( t) 

= Ke λ µ 

או 

− ( + ) t 

ולכן 

( ) − ( ) t µ 

P00 t Ke λ + µ λ µ 

ו ?K מה + + = 

P (0) = 1 

00 

ולכן : 

λ 

K = 

λ + µ 

ידוע כי 

ולכן סוף כל סוף:‏ 

( ) λ − ( ) t µ 

P00 t e λ + 

= µ + 

λ + µ λ + µ 

ולכן על פי ** נקבל:‏ 

- 150 -

207.2250 


2 

P ( t ) = µ µ µ µ t µ µ µ 

10 

P10 ( t) = − P00 

( t) 

= − e − = − e 

λ λ λ λ + µ λ( λ + µ ) λ + µ λ + µ 

P ( t) = 1 − P ( t) 

P ( t) = 1 − P ( t) 

11 10 

− ( λ + µ ) − ( λ + µ ) t 

01 00 

ניתן לקבל עכשיו גם בקלות את 

מכאן התוצאה הרצויה הסופית 

מיידית.‏ 

ואת 

‏(המשלימים).‏ 

( P( X = 0) ) 

5.5 

תהליך פואסון:‏ 

אנו יודעים כי עבור תהליך פואסון 

i ≤ j עבור P ( t) 

= e 

ij 

. j < i 

j i 

t ( t) 

( j − i)! 

– 

Pij 

( t ) = 0 

−λ λ − 

ו 

עבור 

נראה שהסתברות המעבר הנ"ל מקיימת את המשוואות הקדמיות.‏ 

P '( t) = ∑ P ( t) 

q 

ij ik kj 

k∈S 

עבור תהליך פואסון 

P '( t) = P ( t) q − P ( t) 

q 

ij i, j−1 j−1, j i, 

j jj 

ij i, j−1 i, 

j 

או 

P '( t) = λ( P ( t) − P ( t)) 

נציב את ה 

עבור 

Pij הידוע ונראה שהמשוואה מתקיימת:‏ 

( t) 

- 

: i ≤ j 

j−i j−1−i j−i 

−λt j−i −λt ( t) −λt 

( t) 

λ λ λ 

( e t )' = λ( e − e ) 

( j − i)! ( j −1 − i)! ( j − i)! 

( e t )' = e ( j − i) 

t − e t 

− λ t j−i − λ t j−1− i − λ t λ j−i 

t היא:‏ 

− λe t + e ( j − i) t = e ( j − i) 

t − e λt 

−λt j−i −λt j−i−1 −λt j−1− i −λt j−i 

וקבלנו שוויון.‏ 

עבור נקבל שוויון מיידית.‏ 

ובכך הראנו שפילוג פואסון ‏(הפילוג השולי של תהליך פואסון)‏ מקיים את משוואות קולמוגורוב הקדמיות.‏ 

באופן דומה ניתן להראות כי מתקיימות גם המשוואות האחוריות.‏ 

(j j פריטים באוכלוסיה)‏ 

j < i 

תהליך לידה בעל קצב לידה ליניארי 

= + 

את תהליך ‏(או פגשנו)‏ בפרק ה-‏‎1‎‏.‏ כאן 

נראה כי התפלגות המעבר של תהליך זה ממצב 1 ‏(פריט אחד מאוכלוסיה)‏ למצב 

עבור 

בזמן 

q 

i, i 1 

– תהליך :Yule 

λi 

(*) . 1 ≤ j 

Yule נפגוש 

P1, j 

( t) = e (1 − e ) 

−λt −λt j−1 

ז"א כאשר מתחילים עם פריט אחד באוכלוסיה בזמן 0, אז בזמן t מספר הלידות ב t יחידות הזמן הראשונות הוא מ"מ 

גיאומטרי עם פרמטר 

. 

e −λt 

נשתמש במשוואה הקדמית:‏ 

- 151 -

207.2250 


i שרשראות 

∑ 

P '( t) = P ( t) q = P ( t) q + P ( t) 

q 

1 j 1k kj 1, j−1 j−1, j 1 j jj 

k∈S 

שאר המחוברים הינם אפס.‏ 

ז"א קיבלנו:‏ 

P '( t) = P ( t)( λ( j − 1)) + P ( t)( −λ 

j) 

1 j 1, j−1 1 j 

(*) 

−λt −λt j−2 −λt −λt j−1 

e (1 − e ) λ( j −1) − e (1 − e ) λ j 

(&&&) 

נציב את הפתרון המוצא 

שזה:‏ 

בצד ימין:‏ 

t t j 2 

t 

λe −λ (1 − e −λ ) − (( j −1) − (1 − e −λ 

) j) 

נציב את * בצד שמאל ‏(נגזור):‏ 

−λe (1 − e ) + ( j −1) e ( −λ)(1 − e ) 

(&&&&) 

− λ t − λ t j−1 − λ t − λ t j−2 

שזה:‏ 

t t j 2 

t 

λe −λ (1 − e −λ ) − ( − 1 + ( j −1)(1 − e 

−λ 

)) 

מתקיים &&& = &&&& ולכן זהו הפתרון.‏ 

Pij 

בשביל לחשב את (t ( 

אשר התחילו עם פריט אחד!!!‏ 

נשתמש בעובדה שמצב השרשרת אשר התחילה עם i פריטים הוא כמו הסכום של 

P ( ) 1 j עם עצמו הוא 

t 

אנו יודעים שסכום של i 

גיאומטריים הוא בינומי שלילי עם הפרמטר הנ"ל.‏ ‏(ז"א הקונבולוציה של 

.( Pij ולכן:‏ 

( t) 

⎛ j −1⎞ 

−λt i −λt j−i 

Pij 

( t) = ⎜ ⎟( e ) (1 − e ) 

⎝ i −1 

⎠ 

- 152 -

207.2250 


פרק ד-‏‎4‎‏:‏ תהליכי קפיצה מרקובים 

– הסתברויות גבוליות.‏ 

משמעות ההתפלגות הסטציונרית 

נתחיל בהגדרה של ההתפלגות הסטציונרית.‏ מההכרות שלנו עם התפלגות כזאת משרשראות מרקוב בזמן בדיד,‏ 

היא תישמר בכל נקודת זמן.‏ דרישה זאת מסוכמת בהגדרה הבאה:‏ 

נצפה כי 


התפלגות סטציונרית של תהליך קפיצה מרקובי היא ההתפלגות π ‏(וקטור שורה)‏ המקיימת.‏ 

π P( t) 

= π 

לכל 

πe 

= 1 

+ 

t ∈ R 

משפט ‏(ללא הוכחה כאן):‏ 

יהי תהליך קפיצה מרקובי אי-פריק ובעל התפלגות סטציונרית 

.π 

{ X 

t 

, t ≥ 0} 

אז:‏ 

. lim P ( t) 

= π 

t→∞ 

ij 

j 

משפט ‏(ללא הוכחה כאן):‏ 

יהי תהליך קפיצה מרקובי אי-פריק ובעל התפלגות סטציונרית 

π. ותהי r פונקצית רווח,‏ אז:‏ 

t 

0 

{ X 

t 

, t ≥ 0} 

1 

. lim r( X 

s) ds = ∑π 

kr( k) 

t→∞ 

t 

∫ 

k∈S 

משוואות שווי משקל באמצעות מטריצת הגנראטור 

אז ראינו את החוזק של ההתפלגות הסטציונרית אבל כיצד ניתן לפתור את מערכת המשוואות 

π P( t) 

= π 

πe 

= 1 

?t 

עבור כל לרוב זה די קשה לבצע באופן ישיר ‏(כמעט בלתי אפשרי).‏ כעת נכניס את מטריצת הגנראטור למשחק ונראה 

כיצד ניתן לפתור עבור ההתפלגות הסטציונרית בקלות:‏ 


משוואות שווי משקל עבור תהליך קפיצה מרקובי עם מטריצת גנראטור Q הן:‏ 

πQ 

= 0 

. 

πe 

= 1 

נשים לב,‏ המשוואה עבור השורה ה 

או,‏ 

– j היא:‏ 

. 

∑ 

k∈S 

\{ j} 

,j 

∑ 

k∈S 

π q 

π q 

k 

kj 

= 0 

= π λ 

k kj j j 

כך עבור כל מצב המשוואה ה-‏j מראה כי מספר הכניסות לתוך המצב ‏(צד שמאל)‏ שווה למספר היציאות מהמצב ‏(צד 

ימין)‏ – זהו שווי משקל.‏ 

- 153 -

207.2250 


כעת נראה כי לצורך מציאת התפלגות סטציונרית,‏ ניתן להשתמש במשוואות שווי המשקל.‏ 

משפט:‏ 

π היא התפלגות סטציונרית אמ"מ היא מקיימת את משוואת שווי המשקל.‏ 

.t 

∑ 

i∈S 

π P ( t) 

= π 

i ij j 


כוון ראשון:‏ 

נניח כי πהתפלגות סטציונרית ונראה כי היא מקיימת את משוואת שווי המשקל.‏ 

ידוע כי המשוואות הקדמיות מקיימות:‏ 

. t 

π 

∑ 

. P '( t) = P( t) 

Q 

. Pij '( t) = ∑ Pik ( t) 

qkj 

:i 

k∈S 

או 

נכפיל ב 

π i ונסכם על כל 

∑ ∑ 

π P '( t) = π P ( t) 

q 

i ij i ik kj 

i∈S i∈S k∈S 

i∈S 

צד שמאל הוא:‏ 

∑ 

d 

dt 

d 

π 

i P 

ij 

( t ) 

dt 

∑ 

i∈S 

שזה:‏ 

‏(בהנחה שניתן להחליף נגזרת וסכום ללא בעיות)‏ 

P( t) 

= π 

π P ( t) 

עכשיו על פי הגדרת ההתפלגות הסטציונרית מתקיים כי 

ולכן צד ימין הוא . 

אם כך המשוואה היא 

ז"א לכל 

לכל 

d j 

dt π 

: 

0 π P ( t) 

q 

= ∑ ∑ 

i∈S 

i 

ij 

i ik kj 

k∈S 

בצד שמאל נחליף את סדר הסכימה ונקבל:‏ 

0 q π P ( t) 

∑ 

i∈S 

= ∑ ∑ 

k∈S 

kj i ik 

i∈S 

π P ( t) 

= π 

i ik k 

ושוב 

‏(כי π התפלגות סטציונרית)‏ ולכן 

שזו בדיוק המשוואה ה – 

j במשוואות שווי המשקל.‏ 

0 

kj k 

k∈S 

= ∑ q π 

אם הראנו כי אם π התפלגות סטציונרית אז היא מקיימת את משוואות שווי המשקל.‏ 

כוון שני:‏ 

נניח כי π מקיימת את משוואות שווי המשקל,‏ נראה כי היא התפלגות סטציונרית.‏ 

, 

∑ 

i∈S 

π P '( t) 

i 

ij 

נסכל על 

עיי הוצאת הנגזרת מהסכום מקבלים:‏ 

d 

( ∑π 

iPij ( t)) = ∑π 

iPij 

'( t) 

dt 

i∈S 

i∈S 

נזכר במשוואות האחריות:‏ 

- 154 -

207.2250 


. t = 0 

∑ 

i∈S 

π q 

i 

ik 

= 0 

או 

ונציב במשוואה לעיל:‏ 

P '( t) = QP( t) 


( t) 

k∈S 

d 

( ∑π 

iPij ( t)) = ∑π 

i∑ 

qik Pkj 

( t) 

dt 

i∈S i∈S k∈S 

d 

( ∑π 

P ( t)) = ∑ P ( t) 

∑π 

q 

dt 

או:‏ 

i ij kj i ik 

i∈S k∈S i∈S 

אבל πמקיים את משוואות שווי המשקל ולכן 

ולכן:‏ 

d 

( ∑π 

iPij 

( t)) = 0 

dt 

i∈S 

∑ 

i∈S 

π P ( t) 

i 

ij 

אם כך 

מתקיים כמובן 

קבוע לכל t וחייב להיות שווה לערכו גם בזמן 

. P 

ij 

(0) = 0 

אמ"מ i = j 

אחרת 

.t 

P 

ij 

(0) = 1 

∑ 

i∈S 

∑ 

i∈S 

π P (0) = π 

i ij j 

π P ( t) 

= π 

i ij j 

ולכן 

ולכן 

ז"א 

מ.ש.ל.‏ 

לכל 

לכל 

t ולכן πהתפלגות סטציונריות.‏ 

π P( t) 

= π 


ניקח את השרשרת הדו-מצבית.‏ משוואות שווי המשקל הן:‏ 

⎛ −λ 

λ ⎞ 

0 1 ⎜ ⎟ = 0 0 

⎝ µ −µ 

⎠ 

( π π ) ( ) 

המשוואה הראשונה היא:‏ 

. − λπ + µπ = 

0 1 

0 

משוואה הסכום לאחד היא:‏ 

π 

π 

0 

+ 

1 

= 1 

נציב במשוואה הראשונה לקבל:‏ 

או,‏ 

µ 

. π 

0 

= 

λ + µ 

−λ(1 − π ) + µπ = 0 

ולכן 

1 1 

λ 

π1 

= 

λ + µ 

- 155 - 


נניח {1,2,3}=S. 

⎛ −1/ 3 1/ 3 0 ⎞ 

⎜ 

⎟ 

Q = 0 −1/ 4 1/ 4 

⎜ 1 0 −1 

⎟ 

⎝ 

⎠ 

אז:‏

207.2250 


( π π π ) 0 − 1/ 4 1/ 4 = ( 0 0 0) 

1 2 3 

⎛ −1/ 3 1/ 3 0 ⎞ 

⎜ 

⎟ 

⎜ 1 0 −1 

⎟ 

⎝ 

⎠ 

. π + π + π = 

π = 

וגם 

הפתרון הוא:‏ 

1 2 3 

1 

( 3/ 8 4 / 8 1/ 8) 

כפי שניתן לבדוק בקלות.‏ 

משוואות תנאי שווי משקל מפורט 

כפי שראינו עבור המקרה הבדיד,‏ פעמים רבות נוח יותר להשתמש במשוואות תנאי שווי משקל מפורט ‏(בפעמים בהם מבנה 

השרשרת אינו משתמש ברוב המעברים הקיימים – לדוגמא,‏ תהליכי לידה ומוות).‏ 


עבור תהליך קפיצה מרקובי עם מטריצת המשוואות.‏ 

לכל הינם משוואות תנאי שווי משקל מפורט.‏ 

גנראטור Q, 

i למצב j וממצב j למצב i שווים.‏ 

i, 

j ∈ S 

π q 

= π q 

i ij j ji 

הערה:‏ המשמעות היא שמספר המעברים ממצב 

משפט:‏ 

אם מתקיימים משוואות תנאי שווי משקל מפורט אזי מתקיימות גם משוואות שווי המשקל הרגילות.‏ 

π 

∑ 

, π q 

= π q 

i ij j ji 

q 

: i ∈ S \{ j} 

∑ 

π q 


נניח כי מתקיים:‏ 

= 

נסכום על כל 

∑ 

π q 

i ij j ji 

i∈S \{ j} i∈S \{ j} 

= π ( −q 

) 

j ji j jj 

i∈S 

\{ j} 

צד ימין הוא 

ולכן:‏ 

∑ 

i∈S 

\{ j} 

π q 

+ π q = 0 

i ij j jj 

∑ 

i∈S 

π q 

i 

ij 

או 

= 0 

ז"א 

π Q = 0 

מ.ש.ל.‏ 

הערה:‏ הכוון ההפוך אינו תמיד נכון ‏(כמו במקרה הבדיד)‏ אבל למרות זאת,‏ עבור רוב הדוגמאות השימושיות קל להשתמש 

במשוואות תנאי שווי משקל מפורט ולכן ננסה להשתמש בהן.‏ 

- 156 -

207.2250 


בתחילת החלק הבא ‏(פרק ה-‏‎1‎‏)‏ נפתור את משוואות שווי משקל המפורטות עבור הדוגמא הפופולארית והיישומיות ביותר:‏ 

תהליך לידה ומוות.‏ 

- 157 -

207.2250 


תיאור חלק ה:‏ 

בחלק זה נגדיר וננתח בקצרה תהליכי לידה-מוות.‏ באמצאות תהליכים אלו נגדיר וננתח מערכות טורים אלמנטאריות 

‏(מרקוביות).‏ בנוסף נדון באופן כללי במערכות טורים,‏ חשבונאות של מערכות תורים,‏ נוסחת ליטל.‏ 

- 158 -

207.2250 


פרק ה-‏‎1‎‏:‏ תהליכי לידה-מוות.‏ 

תהליכי לידה ומוות הינם אחת הדוגמאות הנפוצות והשימושיות ביותר של תהליכי קפיצה מרקובים.‏ 


תהליך לידה-מוות הוא תהליך קפיצה מרקובי בעל מרחב מצבים {...,0,1,2} המאפשר לעבור ממצב n אך ורק למצב 

1+n או למצב n חיובי ממש)‏ ומאפשר לעבור ממצב 0 אך ורק למצב 1. 

קצבים אלו נקראים קצבי הלידה.‏ 

קצב המעבר ממצב 

.( n = 0,1,2,...) 

.( n = 1, 2,...) 

λ n 

µ n 

1-n ‏(עבור 

n למצב 1+n הוא 

קצב המעבר ממצב n למצב 1-n הוא 

קצבים אלו נקראים קצבי המוות.‏ 

הערה:‏ לפעמים מרחב המצבים הוא סופי {N ,...,0,1}, ז"א אין מעברים ממצב N הלאה למצב 1+N. 

ו 

הערה:‏ תהליך לידה מוות בעצם מאופיין ע"י הסדרות:‏ 

שימו לב שסדרת קצבי המוות מתחילה ב באינדקס 1 בעוד שסדרת קצבי הלידה באינדקס 0. 

{ µ , µ ,...} - 

1 2 

{ λ , λ , λ ,...} 

0 1 2 

λ = λ 

0 0 

λ = λ + µ 

k k k 

Q 

מטריצת הגנראטור של התהליך היא:‏ 

⎛ −λ0 λ0 

0 0 

⎜ 

⎜ 

µ − ( λ + µ ) λ 0 

⋯⎞ 

⎟ 

⋯ 

⎟ 

1 1 1 1 

= ⎜ 0 µ 

2 

− ( λ 

2 

+ µ 

2) 

λ2 

⋯ ⎟ 

⎜ 

⎝ 

⎟ 

⋮ ⋮ ⋮ ⋮ ⋱⎠ 

מכאן הייצוג בצורה המשוכנת הוא:‏ 

⎛ 0 1 0 0 0 ⋯⎞ 

⎜ 

⎟ 

⎜ 

µ 

1 

λ1 

0 0 0 ⋯⎟ 

⎜ λ 

1 

+ µ 

1 

λ 

1 

+ µ 

1 

⎟ 

⎜ 

⎟ 

µ 

2 

λ2 

P = ⎜ 0 0 0 ⋯⎟ 

⎜ λ 

2 + µ 

2 

λ 

2 + µ 

2 

⎟ 

⎜ 

⎟ 

⎜ 

µ 

3 

λ3 

0 0 0 

⋯⎟ 

⎜ 

λ 

3 

+ µ 

3 

λ 

3 

+ µ ⎟ 

3 

⎜ 

⎟ 

⎝ ⋮ ⋮ ⋮ ⋱ ⋱ ⋱⎠ 

כאן אנו מסמנים את קצבי היציאה ממצב ע"י λ k 

בגלל שהסימון λ כבר תפוס.‏ 

בפרק זה נראה כיצד ניתן ליישם את המודל של תהליכי לידה ומוות למודלים רבים בתורת התורים.‏ אבל ראשית נראה 

דוגמאות הקשורות למידול של גודל אוכלוסיה.‏ 

דוגמא:‏ תהליך פואסון 

תהליך פואסון הוא תהליך לידה מוות בו 

- 159 -

207.2250 


λ = λ 

k 

µ = 0 

k 

ז"א הוא בעצם תהליך לידה טהור ‏(קצבי המוות הינם 0). 

תכונות תהליך פואסון נחקרו לעומק בחלק ג'‏ של הקורס.‏ 

דוגמא:‏ תהליך לידה בעל קצב לידה ליניארי – תהליך :Yule 

נחשוב על אוכלוסיה בה פריטים יכולים ללדת פריטים אחרים אבל אינם יכולים למות.‏ אם כל פריט מתנהג באופן בלתי 

תלוי בפריטים האחרים ולוקח זמן בעל פילוג ללדת אז ניתן לייצג את מספר הפריטים במערכת כתהליך לידה 

טהור בעל פרמטר:‏ זה בגלל שאם באוכלוסיה יש וכל אחד מוליד בקצב λ אז סך קצב הילודה במצב 

זה הוא 

התהליך הוצע ע"י החוקר .G Yule בתורתו המתמטית של האבולוציה.‏ 

k פריטים,‏ 

exp( λ) 

. λ = kλ 

k 

. kλ 

תכונות מסוימות של תהליך זה נחקרו לעומק בחלק ד'‏ של הקורס.‏ 

k 

דוגמא:‏ מודל אוכלוסיה ליניארי 

נסתכל על אוכלוסיה בה כל פריט מוליד פריט אחר על פי קצב 

את מספר הפריטים באוכלוסיה.‏ 

אז קצבי התהליך הם:‏ 

µ = kµ ‏(כי במידה ויש k פריטים עוצמת המעבר ממצב 

אקספוננציאלי λ ומת על פי קצב אקספוננציאלי . µ נמדל 

k למצב 

λ = kλ 

k 

‏(על פי אותו שיקול).‏ 

נראה כעת כי עבור תהליך זה:‏ 

. E[ X | X = i] 

= ie λ µ 

t 

0 

( − ) t 

ז"א תוחלת ערך התהליך שואפת על פני הזמן ל 

1-k היא כסכום עוצמות התמותה).‏ 

– 0 במידה ו µ > λ או שואפת על פני הזמן לאינסוף במידה ו 

. λ > µ 

. M ( t) = E[ X | X = i] 

i 

t 

0 

1 

לצורך הנוחות,‏ נסמן 

נבחין:‏ בגלל שכל פריט מוליד,‏ ומת ללא קשר למה שקורה לפריטים אחרים,‏ ניתן לחשוב על האוכלוסייה הכללית אשר 

התחילה עם i פריטים כמורכבת מ i אוכלוסיות בלתי תלויות אשר כל אחת מתחילה עם פריט בודד.‏ ולכן 

. M ( t) = iM ( t) 

i 

לצורך הנוחות נסמן 

נראה כעת כי 

. M ( t) = M ( t) 

1 

M ( t) 

= e λ µ 

( − ) t 

ומכאן התוצאה.‏ 

נסמן ב T את זמן האירוע הראשון ‏(לידה או מוות).‏ אז על פי נוסחת התוחלת השלמה:‏ 

M ( t) = E[ X | X = 1] = E[ X | T = s] f ( s) 

ds 

כאשר 

∞ 

∫ 

t 0 

t T 

0 

f ( s) = ( λ + µ ) e − λ + µ 

T 

( ) s 

נפצל את האינטגרל לשניים:‏ 

- 160 -

207.2250 


t ישנם 

t הוא .1 

t 

∫ 

M ( t) = E[ X | T = s] f ( s) ds + E[ X | T = s] f ( s) 

ds 

0 

– 

t T t T 

t 

∞ 

∫ 

ננתח את הגודל s] : E[ X | T = 

במידה והאירוע הראשון מתרחש בזמן s אשר גדול מ 

t אז גודל האוכלוסייה בזמן 

לעומת זאת עם האירוע הראשון מתרחש בזמן s אשר קטן מ t אז ייתכנו המקרים הבאים:‏ 

s 

µ 

,( 

λ + µ 

t 

א)‏ s

207.2250 

λ = λ , µ = 0 

n 

n 


לא תמיד ההתפלגות הנ"ל קיימת,‏ לדוגמא תהליך פואסון הוא תהליך לידה מוות ובו 

פואסון לא קיימת התפלגות סטציונרית.‏ 

וכידוע לתהליך 

נמצא כעת את ההתפלגות הסטציונרית ותנאי הכרחי ומספיק לקיומה.‏ 

נרשום את משוואות תנאי שווי המשקל המפורט:‏ 

λ p = µ p 

0 0 1 1 

λ 

1 

p1 = µ 

2 

p2 

.... 

ובאופן כללי 

λ p = µ + 

p + 

n n n 1 n 1 

p 

p 

λ 

= 

מכאן:‏ 

p 

0 

1 0 

µ 

1 

λ 

= 

λ 

p 

1 0 

2 0 

µ 

2 

µ 

1 

p 

n 

... 

ובאופן כללי 

λn− 

1λn−2 ⋅... 

⋅λ0 

= 

p 

µ µ ⋅... 

⋅ µ 

n 

n−1 1 

0 

נציב כעת במשוואת הסכום לאחד:‏ 

1 = p + 

p 

λ λ ⋅... 

⋅λ 

∞ 

k −1 k−2 0 

0 ∑ 

p0 

k = 1 µ 

kµ k −1 ⋅... 

⋅ µ 

1 

0 

= 

1+ 

∞ 

∑ 

מכאן:‏ 

1 

λk 

−1λk 

−2 ⋅... 

⋅λ0 

µ µ ⋅... 

⋅ µ 

k= 1 k k −1 1 

p 

n 

ולכן עבור 

1 ≤ n 

λn− 

1λn−2 ⋅... 

⋅λ0 

= 

∞ 

λk 

−1λk 

−2 ⋅... 

⋅λ0 

µ 

nµ n−1 ⋅... ⋅ µ 

1(1 + ∑ 

) 

µ µ ⋅... 

⋅ µ 

k= 1 k k−1 1 

. 1 ≤ n 

או ברישום קומפקטי:‏ 

p עבור 

n 

λ 

= p ∏ 

n−1 

k 

0 

k= 0 µ 

k + 1 

- 162 -

207.2250 


. p 

= 

1 

1 

+∑∏ 

0 ∞ k −1 

λi 

µ 

k = 1 i= 0 i+ 

1 

∞ 

∑ 

λk 

−1λk 

−2 ⋅... 

⋅λ0 

< ∞ 

µ µ ⋅... 

⋅ µ 

k = 1 k k−1 1 

רואים שתנאי הכרחי לקיום הפתרון הוא:‏ 

להראות ‏(לא נעשה כאן)‏ שזהו גם תנאי מספיק.‏ 

‏(התכנסות טור המכפלות של מנות העוצמות),‏ ניתן 

תוחלת זמן הפגיעה במצב 

k: כאשר מתחילים במצב 1+k 

R = E[ T | X = k] 

k 

k+ 

1 0 

נחשב כעת את תוחלת זמן הפגיעה במצב 1+k כאשר מתחילים במצב k: 

באופן רקורסיבי.‏ 

‏(סימנו גודל זה ב-‏ 

R k 

.( R k 

נחשב את 

: λ 0 

.0 

R 0 

ראשית 

הוא תוחלת זמן הפגיעה במצב 1 כאשר מתחילים במצב 

זוהי התוחלת של מ"מ אקספוננציאלי בעל קצב 

. R 

0 

1 

= 

λ 

0 

.k-1 

I k 

לצורך ההמשך נגדיר מ"מ 

הוא ל 

אחרת 

אשר מציין האם המעבר הראשון ממצב k הוא למצב 1+k או למצב 

במידה והמעבר 

. I = 0 

k 

I אז = 1 k+1 

k 

1+k היא 

1 

λ + µ 

k 

k 

k היא 

: 

1 

E[ Tk 

+ 1 

| X 

0 

= k, Ik 

= 1] = 

λ + µ 

נשים לב 

זה,‏ בגלל שתוחלת הזמן עד המעבר הראשון ממצב 

ללא תלות במעבר אשר מתבצע.‏ 

,( I = 0 ) 

k 

k −1 

k 

k 

בנוסף:‏ 

1 

E[ T | X = k, I = 0] = + R + R 

k + 1 0 k k 1 k 

λ 

k 

+ µ 

− 

k 

זה בגלל שבהינתן שהמעבר הראשון ממצב k היה למצב 

תוחלת הזמן עד המעבר הראשון 

ועוד תוחלת זמן המעבר ממצב 

אז תוחלת הזמן עד לפגיעה במצב 

( ועוד תוחלת זמן המעבר 

Rk 

− 1 

) k למצב k-1 

1 

( ) 

λ + µ 

k 

k 

.( R k 

ממצב k למצב k+1 ) 

כמובן שידועה כי:‏ 

P( I = 1) = 

k 

P( I = 0) = 

k 

λk 

λ + µ 

k 

k 

k 

µ 

k 

λ + µ 

k 

- 163 -

207.2250 


R = E[ T | X = k] = EE[ T | X = k, I ] 

k k + 1 0 k + 1 0 k 

על פי משפט התוחלת השלמה:‏ 

= E[ T | X = k, I = 0] P( I = 0) + E[ T | X = k, I = 1] P( I = 1) 

k+ 1 0 k k k+ 

1 0 k k 

1 µ 1 λ 

= ( + R + R ) + 

λ µ λ µ λ µ λ µ 

k 

k 

k−1 

k 

k 

+ 

k k 

+ 

k k 

+ 

k k 

+ 

k 

µ λ + µ 

= ( R + R ) + 

λ µ λ µ 

k k k 

k −1 k 

2 

k 

+ 

k 

( 

k 

+ 

k 

) 

: 

Rk 

− 1 

R k 

נשתמש בשוויון לעיל לבטא את 

במונחי 

R 

k 

1 µ 

k 

= + R 

λ λ 

k 

k 

k−1 

. k < 

j למצב k 

. R0 , R1 , R2 

קיבלנו כך דרך רקורסיבית לחשב את ..., 

בנוסף נבחין כי במידה והיינו רוצים לחשב את תוחלת זמן המעבר ממצב 

אז ניתן לבצע זאת ע"י 

הסכום:‏ . R + R 

+ 1 

+ ... + R 

−1 

k k j 

- 164 -

207.2250 


פרק ה-‏‎2‎‏:‏ מבוא למערכות תורים.‏ תור 

במערכת.‏ 

,M/M/1 התפלגות מספר הנמצאים 

מבוא למערכות תורים:‏ 

תורת התורים הינו תחום רחב ובו מנתחים מערכות תורים.‏ מהי מערכת תורים?‏ דוגמא מאוד מורכבת למערכת תורים היא 

המחוברים באלפי תת רשתות וביניהם נתבים המעבירים חבילות 

האינטרנט,‏ אוסף של מיליוני 

מידע.‏ בכל נתב ישנו תור או מספר תורים של חבילות,‏ החבילות מחולקות למחלקות שונות,‏ והניתוב ברשת הוא דינאמי.‏ 

(routers) 

hosts ‏(מחשבים)‏ 

בחלק זה של הקורס זה ניגע בקצרה בדוגמאות הרבה יותר פשוטות:‏ תור של צרכנים בדואר,‏ תור של אנשים בכניסה 

לקניון ‏(נבדקים ע"י המאבטח),‏ אוסף חבילות הממתינות לניתוב בנתב בודד באינטרנט ועוד.‏ 

להלן לקסיקון המושגים הבסיסי אשר ילווה אותנו בהמשך החלק הזה של הקורס:‏ 

צרכן ‏–זה אשר ממתין בתור ‏(במידה ועליו להמתין)‏ ומקבל שרות במערכת התורים.‏ ‏(במקרה של מערכות תקשורת,‏ צרכן 

הוא לפעמים חבילת תקשורת 

.(Packet – 

שרת ‏–זה אשר נותן שרות לצרכנים:‏ מעביר צרכנים דרכו ומטפל בהם.‏ 

תור ‏–האזור ‏(פיזי או לוגי)‏ אשר בו ממתנים צרכנים לשרות.‏ 

– שרות 

צרכן בתור 

פעולת השרת על צרכנים.‏ 

– 

צרכן בשרות 

– 

– 

צרכן אשר ממתין בתור ‏(ברגע נתון).‏ 

צרכן אשר מקבל שרות ‏(ברגע נתון).‏ 

צרכן במערכת צרכן שהוא או בתור או בשרות.‏ 

מדיניות שרות – מדיניות השרת הקובעת באיזה צרכן לטפל הבא ‏(ברגע שהשרת מתפנה).‏ בכל המערכות אשר נבחן בפרק 

זה נדון במידיות FCFS 

משך השרות 

(First Come First Serve) 

– 

זמן בין מופעי צרכנים 

– 

הזמן אשר לוקח לשרת לתת שרות לצרכן ספציפי.‏ 

הזמן בין מופע צרכנים עוקבים למערכת.‏ 

– טיפול בצרכן הכי ותיק.‏ 

משך המתנה בתור – הזמן אשר צרכן ממתין בתור ‏(מהגעתו למערכת ועד תחילת השרות).‏ 

משך שהות במערכת – סך הזמן של צרכן במערכת ‏(משך ההמתנה בתור + משך השרות).‏ 

מספר הצרכנים בתור – אורך התור.‏ 

מספר הצרכנים במערכת 

– אורך התור + 

מספר הצרכנים בשרות.‏ 

אנו נעסוק בחלק זה של הקורס רק במערכות התורים הבסיסיות ביותר,‏ ונבצע ניתוח סטוכסטי שלהן תחת הנחות 

הסתברותיות מסוימות.‏ לרוב חוקי ההסתברות ‏(הפילוגים)‏ של משך השרות והזמן בין מופעי הצרכנים יהיו נתונים,‏ ואנו 

נחשב את חוקי ההסתברות ‏(או מומנטים מסוימים)‏ של משך ההמתנה בתור,‏ משך השהות במערכת,‏ מספר הצרכנים בתור,‏ 

ומספר הצרכנים במערכת,‏ כל זאת תחת ההנחה של מצב יציב.‏ 

כל מערכת אשר נדון בה ניתנת להמחשה ע"י הציור הבא:‏ 

- 165 -

207.2250 


שרתים 

B 

K-c 

A 

c 

עזיבת 

צרכנים 

הגעת 

צרכנים 

תור 

B 

מה רואים בציור?‏ 

הציור ממחיש מערכת תורים עם תור בודד ומספר שרתים.‏ צרכנים מגיעים אל התור משמאל,‏ ממתינים בתור ‏(במידה וכל 

השרתים מלאים באותו רגע)‏ ומקבלים שרות מהשרתים ‏(העיגולים).‏ בסיום כל שרות,‏ הצרכן משוחרר כלפי צד ימין וכך 

עוזב את המערכת.‏ 

במערכת ישנם c שרתים ו K-c מקומות פנויים לצרכנים בתור.‏ ז"א שהמספר המקסימאלי של צרכנים היכולים לשהות 

במערכת הוא K. 

הערה:‏ נדון גם במערכות בהם c ו/או K הינם אינסופיים.‏ 

הגעת צרכנים מאופיינת על פי חוק הגעה A. וזמן שרות הצרכנים מאופיין על פי B. כאמור,‏ הניתוח אשר נבצע הוא 

הסתברותי.‏ ולכן הפרמטרים A,B של המערכת יאפיינו באופן הסתברותי את הזמנים הבין מופעיים וזמני השרות במערכת.‏ 

∞ 

A 

B 

c 

K 

לפעמים,‏ נהוג לאפיין מערכות תורים מהסוג המצויר לעיל ע"י כתיבה כזאת:‏ .A/B/c/K/P כאשר:‏ 

– מאפיין את תהליך הגעת הצרכנים למערכת.‏ 

– מאפיין את התפלגות זמני השרות בשרתים.‏ 

– מספר השרתים.‏ 

– קיבולת המערכת ‏(אורך תור מקסימאלי + מספר שרתים).‏ במידה ולא מציינים מספר זה אז הוא 

קיבולת המערכת).‏ 

– מדיניות השרות,‏ במידה ולא מציינים מספר זה אז המדיניות הינה .FCFS 

סוג כתיבה זה נקרה 

‏(אין מגבלה על 

.Kendall Notation 

P 

כאשר:‏ 

נדון במערכות ובהן 

זמנים בין מופעיים/זמני שרות אקספוננציאלים.‏ 

זמנים בין מופעיים או זמני שרות דטרמיניסטיים.‏ 

זמנים בין מופעיים או זמני שרות בעלי התפלגות כללית כלשהי ‏(מערכות מסוג זה הינם הכללות של המקרה 

ה 

.B=”M” ,A=”M” 

exp( µ ) 

- 166 - 

. A, B ∈{ M , D, G} 

. λ 

– M ‏"מרקובי"‏ 

– D ‏"דטרמיניסטי"‏ 

– G ‏"כללים"‏ 

.(M או ה-‏ D – 

כאמור,‏ במערכות כאלה,‏ הגעה הצרכנים למערכת 

רוב המערכות אשר ננתח בחלק זה הינם מהסוג 

היא על פי תהליך פואסון עם פרמטר וזמני שרות הצרכנים הינם i.i.d. ובלתי תלויים בתהליך ההגעה.‏ 

באופן כללי,‏ תורת התורים באה לעזור לפתור בעיות תכנוניות והנדסיות כגון בחירת הקצאה של אורך התור המקסימאלי 

(K-c) ומספר השרתים במערכת כך שזמן ההמתנה וכו'‏ יהיו קטנים מספיק.‏

207.2250 


סימונים של גדלים:‏ 

להלן רוב הסימונים של הגדלים הרלוונטיים למערכות תורים אשר נבחן בפרק זה:‏ 

זמן הגעת הצרכן ה 

תיאור 

סימון המשתנה 

המקרי 

סימון 

התוחלת 

הערות 

- 

t k 

τ k 

k – 

זמן בין הגעת הצרכן ה –1-k לצרכן ה 

k - 

1 µ 

עוצמת התעבורה 

x k 

k – 

1 λ 

זמן שרות הצרכן ה 

λ 

ρ = 

µ 

- 

L q 

L s 

- 

s k 

L ( ) q 

t 

ניצולת 

(traffic intensity) 

(utilization) 

זמן עזיבת הצרכן ה 

k – 

מספר הצרכנים בתור בזמן 

הערה:‏ מדובר בתוחלת 

במצב יציב.‏ 





L( t) = L ( t) + L ( t) 

q 

q 

L = L + L 

s 

s 

L 

Ls 

( t) 

L( t) 

t 

מספר הצרכנים בשרות בזמן 

t 

מספר הצרכנים במערכת בזמן 

t 

W q 

W ( ) q 

k 

זמן המתנה של הצרכן ה-‏k בתור 

במערכתkזמן שהות הצרכן ה-‏ 





W 

W ( k) 

W ( k) = W ( k) 

+ x 

W = W + 

q 

q 

1 

µ 

k 

. λ 

.M/M/1 

exp( µ ) 

מערכת :M/M/1 

כעת נדון בדוגמא הפשוטה ביותר:‏ תור זוהי מערכת ובא תהליך ההגעה הוא כאמור פואסון עם פרמטר וזמני 

שרות הצרכנים הינם כאמור i.i.d. ובלתי תלויים בתהליך ההגעה.‏ בנוסף במערכת יש שרת בודד ואין מגבלה 

לגבי מספר הצרכנים במערכת.‏ להלן איור המערכת:‏ 

- 167 -

207.2250 


∞ 

Poisson - λ 

exp(µ) 

עזיבת 

צרכנים 

הגעת 

צרכנים 

הניתוחים אשר נבצע ‏(בפרק זה וכמעט בכל החלק הזה של הקורס)‏ יהיו ניתוחי מצב יציב.‏ הם יניחו כי המערכת רצה 

מספיק זמן בשביל לנפות תופעות מעבר ראשוניות.‏ 

מספר הצרכנים במערכת M/M/1 כתהליך לידה מוות פשוט ביותר:‏ 

דרוש מספר אחד והוא מספר הצרכנים במערכת בזמן 

מה דרוש בכדי לאפיין את מצב מערכת אקראי זה ב 

אזי המערכת ריקה,‏ אין צרכנים בתור והשרת בטל.‏ 

כאשר אזי התור ריק,‏ אבל השרת משרת צרכן בודד.‏ 

כאשר אזי יש צרכן אחד בשרות וצרכן אחד אשר ממתין בתור.‏ 

כאשר .t 

?M/M/1 

N( t ) . 

N( t ) = 0 

N( t ) = 1 

N( t ) = 2 

N( t) 

= k 

... 

כאשר 

אזי יש צרכן אחד בשרות ו 1-k צרכנים אשר ממתינים בתור.‏ 

נסמן ערך 

קל לראות כי 

(t )N הוא ערכו של תהליך לידה מוות עם פרמטרים קבועים:‏ 

λ = λ 

k 

µ = µ 

k 

כאמור,‏ המערכת מאופיינת על ידי פרמטרים . λ , µ 

נדון כעת בכל אחד מהסימונים אשר הוצגו לעיל עבור מערכת 

:M/M/1 

t k 

זמני הגעות הלקוחות ה k הינם זמני הקפיצה של תהליך 

. 

k 

t ~ erlang(20, λ) 

20 

פואסון עם פרמטר , λ על כל השתמעה מכך.‏ לדוגמא:‏ 

τ 

הזמן בין הצרכן הk-1‎ לצרכן הk הוא מ"מ (λ exp( 

. 

ז"א יש כאן סדרת i.i.d. של כאלו.‏ 

x k 

זמן שרות הצרכן ה k הוא מ"מ 

.i.i.d. גם זו היא סדרת . exp( µ ) 

- 168 -

207.2250 


s k 

סדרת זמני העזיבה של הצרכנים היא סדרה אקראית עולה ‏(לא 

רבים על סדרה זו ‏(במוצא תהליך (M/M/1 אבל לא נרחיב כעת.‏ 

.(i.i.d. 

Ls 

( t) 

, L ( q 

t ) , L( t) 

--__________________________________________________________ 

אמרנו כי מדובר בתהליך לידה מוות עם קצב לידה וקצב מוות קבועים ‏(לא תלויים במצב):‏ 

נניח כי המערכת מתחילה ריקה.‏ 

אם כך:‏ 

סדרה זו מגדירה תהליך ספירה.‏ ניתן לומר דברים 

. λ , µ 

P0 = P( L( t) = j) 

j 

ז"א ע"י פתרון של המשוואות האחוריות או הקדמיות ניתן לחשב את פילוג ) ( 


ריקה בזמן 

. L t 

L ( ) ( ) 1 

q 

t = L t − 

כאשר המערכת אינה ריקה ו 

L ( ) 0 

q 

t = 

- 

, P ( t) 

00 

t היא 

וההסתברות שאינה ריקה היא 

. 1 − P ( t) 

00 

פתרון זה אינו קל לביצוע באופן ישיר.‏ 

כאשר המערכת ריקה.‏ ההסתברות שהמערכת 

בנוסף,‏ 

Ls הוא או אפס או אחד בהתאם לזה שהמערכת ריקה או אינה ריקה.‏ 

( t) 

(t 

קשה לחשב את כל הגדלים הללו ‏(לכל ונראה עכשיו כי יותר קל ‏(ולרוב גם ישים)‏ להסתכל על המערכת לאחר שרצה 

‏"מספיק זמן".‏ ז"א להסתכל על המערכת במצב יציב.‏ 

L ( ) 

s( t) 

, Lq t , L( t) ,ρ 

________________________________________________________________ 

נחשב את ההתפלגות הסטציונרית של התהליך:‏ 

ניזכר במשוואות שווי משקל עבור תהליך לידה מוות כללי ונציב 

λ , µ 

. p 

= 

1 

1 

+∑∏ 

0 ∞ k −1 

λi 

µ 

k = 1 i= 0 i+ 

1 

p 

n 

λ 

= p ∏ 

n−1 

k 

0 

k= 0 µ 

k + 1 

בכל מקום בו ניתן,‏ נעדיף לייצג את המנה של 

ראשית.‏ 

λ , µ כ . ρ - 

p 

0 

1 1 

= = = 1− 

ρ 

∞ 

∞ 

k 

k 

1 ρ ρ 

+∑ ∑ 

k= 1 k = 0 

השוויון מתקיים אמ"מ הטור מתכנס וזה כאשר 

1 1 

> 

λ µ 

‏(הזמן הממוצע בין הגעות גדול מזמן הממוצע של שרות).‏ 

‏(המערכת אינה יציבה).‏ 

קבועים:‏ 

1> ρ . ז"א כאשר λ < µ ‏(קצב השרות גדול מקצב ההגעות).‏ ז"א כאשר 

כאשר ≤ ρ 1 נקבל שלא קיימת התפלגות סטציונרית 

הערה:‏ ניתן להראות כי כאשר = 1 ρ 

אזי כל המצבים מתמידים אפס וכאשר < ρ 1 אז כל המצבים חולפים.‏ 

−1 . מכאן ρ קיבל את 

ρ 

p 0 

היא ההסתברות שהמערכת ריקה ‏(השרת ריק).‏ רואים שבמצב יציב זה קורה בהסתברות 

שמו ‏(ניצולת):‏ ρ הוא פרופורציית הזמן שבו השרת עובד ‏(מנצלים אותו).‏ בכל נקודת זמן בה המערכת אינה ריקה 

מתקיים כי יש מישהו בשרות,‏ אחרת אין מישהו בשרות ולכן 

L ( t) = (1 − p ) ⋅ 1+ p ⋅ 0 = ρ 

s 

0 0 

- 169 -

207.2250 


. (1 − ρ) 

נמשיך ונחשב את שאר איבר ההתפלגות הסטציונרית:‏ 

n 

n 

. p = p0 ρ = (1 − ρ) 

ρ 

קיבלנו אם כך שמספר הצרכנים במערכת במצב יציב מתפלג כמו מ"מ גיאומטרי סופר כישלונות בעל פרמטר 

תוחלתו של משתנה מקרי זה היא:‏ 

זו תוחלת מספר הצרכנים במערכת.‏ 

n 

ρ λ µ λ 

. L = = = 

1− ρ 1− λ µ µ − λ 

את תוחלת מספר הצרכנים בתור ‏(במצב יציב)‏ נחשב כך:‏ 

2 2 

ρ ρ λ 

Lq 

= L − Ls 

= − ρ = = 

1− ρ 1 − ρ µ ( µ − λ) 

W ( ), ( ) 

q 

k W k 

את פילוג (k ,Wq ( זמן ההמתנה של הצרכן ה k בתור קשה לחשב ‏(מדובר כאן לא במצב יציב).‏ 

(1) 0 W בהנחה שהמערכת מתחילה ריקה,‏ אבל מעבר לכך לא ניתן לומר בקלות.‏ 

q 

אנו יודעים שעבור הצרכן הראשון = 

k סופי.‏ 

W ( ) q הוא סכום 

k 

כנ"ל עבור המ"מ הדומה זמן ההמתנה של הצרכן ה k במערכת,‏ גם כאן קשה לבצע חישובים עבור כל 

נבחין שעבור צרכן אשר מגיע למערכת ריקה,‏ 

) 0 ( W ועבור צרכן אשר מגיעה למערכת לא ריקה 

q 

k = 

,W ( k) 

זמני השרות הנותר של הצרכנים אשר היו במערכת ברגע הגעת הצרכן.‏ 

k סופי,‏ 

(k גדול).‏ 

למרות שלא ניתן לומר הרבה עבור 

במערכת עבור מצב יציב 

ניתן ‏(במקרה של (M/M/1 לחשב את פילוג זמן ההמתנה בתור וזמן השהייה 

פילוג זמן ההמתנה במצב יציב ב FIFO עבור M/M/1 

נסתכל על מערכת M/M/1 במצב יציב.‏ נניח כי השירות הוא .(First In First Serve) FIFO שם אחר לכך הוא FCFS 

Serve) .(First Come First כיצד מתפלג זמן השהייה במערכת?‏ 

עבור לקוח אשר מגיע למערכת ריקה,‏ זמן השהייה הוא זמן השרות ולכן מתפלג 

עבור לקוח אשר מגיע למערכת אשר יש בה 1≤ n צרכנים הוא צריך להמתין עד ש n הצרכנים יסיימו 

אם כך גם לקוח אשר מגיע למערכת ריקה 

ואז הוא מקבל שרות.‏ לכן סך הכול הוא שוהה במערכת 

( erlang( n , µ ) 

) 

. exp( µ − λ) 

. exp( µ ) 

. erlang( n + 1, µ ) 

∞ 

∑ 

. erlang( n + 1, µ ) 

n= 0 n= 

0 

0 

) 0 = n ( שוהה במערכת לזמן 

erlang ( n+ 

1, ) 

אם כך:‏ 

n 

P( W ≤ t) = P( W ≤ t | N = n) P( N = n) = f 

µ 

( s) ds(1 − ρ) 

ρ 

. P( W ≤ t) = 1− 

e µ λ 

− ( − ) t 

∞ 

∑∫ 

t 

כל לראות ע"י החלפה של האינטגרל והסכום כי 

ולכן זמן השהייה מתפלג 

- 170 -

207.2250 


פרק ה-‏‎3‎‏:‏ חשבונאות של מערכות תורים ונוסחת ליטל.‏ 

בפרק הקודם הכרנו את המערכת הבסיסית ביותר 

בנוסחת ליטל.‏ 

.M/M/1 

t k 

בפרק זה נסתכל על ריאליזציה בודדת של מערכת תורים ונדון 

סדרות המספרים המתארות ריאליזציה של מערכת תורים:‏ 

נסתכל על ריאליזציה אחת של מערכת תורים.‏ את הריאליזציה מאפיינים 2 סדרות המספרים הבאות:‏ 

- סדרת זמני ההגעה ‏(הערך הוא זמן הגעת הצרכן ה 

.(k 

{ t , k ≥1} 

k 

{ x , k ≥1} 

k 

- סדרת זמני השרות ‏(הערך 

הערה:‏ על פי הנוחות ניתן לדון בסדרה 

את סדרת זמני 


נסתכל על המערכת 

נניח כי קצבי ההגעה 

הערה:‏ עד כה השתמשנו ב 

בהמשך)‏ 

אם כך:‏ 

x k 

הוא זמן השרות של הצרכן ה 

.(k 

, { τ , k ≥ 1} 

k 

. t = τ t = t + τ : 

1 1, k k −1 

k 

"D" ‏(כזכור D/D/1 

. λ = 1/ 2, µ = 1 

λ , µ 

סדרת הזמנים הבין מופעיים.‏ ולקבל מסדרה זו 

ההגעה 

מתאר התפלגות דטרמיניסטית).‏ 

לסימון פרמטרי קצב בהקשרים של התפלגות אקספוננציאלית.‏ בדוגמא זו ‏(וגם לפעמים 

משמעות קצב λ היא,‏ תוחלת בין זמנית של . 1 

λ 

{ τ = 2, k ≥1} ⇒ { t = 2 k, k ≥1} 

k 

{ x = 1,, k ≥1} 

k 

k 

L( t) 

אם כך,‏ מהו של מערכת זו?‏ צרכן מגיעה כל 2 יחידות זמן.‏ הצרכן תמיד מוצא תור ריק ולכן נכנס מייד לשרות.‏ 

לאחר חצי יחידת זמן,‏ שרות הצרכן מסתיים והוא עוזב את המערכת.‏ ולכן:‏ 

⎦⎥t - )L (t = I ( ⎣⎢ פו'‏ המקבלת 1, רק כאשר הערך השלם התחתון של t הוא זוגי ‏(לא כולל 0). 

) 

.(ω 

[ 2 N \{0}] 

הערה:‏ בדוגמא הקודמת,‏ סדרות זמני ההגעה היו דטרמיניסטיות ולכן לא נדרש ניתוח סטוכסטי.‏ באופן כללי,‏ סדרת אלו הינן 

סדרות אקראית ‏(פו'‏ של כך לדוגמא בתור M/M/1 הסדרות הינן סדרות i.i.d. של משתנים אקספוננציאלים.‏ 

פו'‏ ספירה מצטברות – הגעה ועזיבה:‏ 

נגדיר את 2 הפו'‏ הללו:‏ 

- מספר המגיעים למערכת עד זמן 

- מספר העוזבים את המערכת עד זמן 

.(t ‏(כולל t 

.(t ‏(כולל t 

A( t) 

D( t) 

אם כך:‏ 

בשביל לתאר במפורש את 

A( t) = max{ k ∈ N | t ≤ t} 

D( t) 

k 

הינו נבנה ע"י סדרת זמני ההגעה.‏ 

נעזר בסדרת מספרים נוספת ‏(אשר קיימת עבור כל ריאליזציה):‏ 

עבור כל צרכן.‏ במידה ובזמן הגעת הצרכן ה 

מתקיים ממש אי-שוויון.‏ 

ובכן בזמן הגעת הצרכן ה ) k נתעניין כמה צרכנים כבר עזבו את המערכת:‏ 

}- sk זוהי סדרת זמני הכניסה לשרות של כל צרכן.‏ ברור כי 

, k ≥ 1} 

אזי התור ריק 

t 

k 

≤ s 

k 

= 0 ) t L( אז מתקיים שוויון,‏ אחרת,‏ 

,k 

כיצד ניתן לחשב את הסדרה 

( t k 

?{ s , k ≥1} 

k 

( ) D t k 

- מספר זה הוא גם האינדקס של הצרכן האחרון אשר עזב את המערכת.‏ ברור כי 

( ) 

D t k הוא לכל 

. 

D( tk 

) 

< k 

- 171 -

207.2250 


, t k נמצאים במערכת הצרכנים:‏ 

(k – 

t k 

היותר 1-k וזה מתקיים כאשר בזמן 

‏(הגעת הצרכן ה 

מאבר לצרכן החדש 

המערכת ריקה.‏ אם כך,‏ בזמן 

ובמידה והמערכת ריקה אז קבוצה זו של צרכנים היא ריקה.‏ 

t (/ 

k 

.k 

{ D( t ) + 1, D( t ) + 2,..., k −1} 

k 

s = t + x + x + .... + x 

k 

ולכן:‏ 

‏(כאשר ייתכן ואין xים אשר מתווספים ל 

. D( t) = max{ k ∈ N | s + x ≤ t}: 

D( t) 

k 

k 

k k D( tk 

) + 1 D( tk 

) + 2 k −1 

עכשיו ניתן לרשום במפורש את 

A( tk 

) = k 

( ) 

. L( t) = A( t) − D( t) 

,D(t) ,A(t) 

את 

N t אשר כבר הכרנו בפרק הקודם ניתן אם כך לרשום כך:‏ 

להלן ציור של 

L(t) עבור דוגמת ה D/D/1 אשר הוצגה לעיל:‏ 

L(t) 

A(t),D(t) 

A(t) 

D(t) 

"G" 


נניח כעת כי אנו איינו במערכת D/D/1 אלה במערכת כלשהי .G/G/1 ‏(כאשר 

ונתונה הריאליזציה הבאה ‏(נציג כאן רק את תחילת הריאליזציה):‏ 

מתאר התפלגות כללית כלשהי).‏ 

1 1 

t 

{ τ , k ≥ 1} = {1,2, 4,1,1,3,5,1,4,...} 

k 

{ xk 

, k ≥ 1} = {1,3,1,1,2,1,1,1, 2,...} 

2 1 2 

3 2 3 

ראשית נחשב את סדרת זמני ההגעה:‏ 

{ τ , k ≥ 1} = {1,2,4,1,1,3,5,1, 4,...} 

... 

k 

t = τ = 1, 

t 

t 

= t + τ = 1+ 2 = 3, 

= t + τ = 3 + 4 = 7, 

{ t , k ≥ 1} = {1,3,7,8,9,12,17,18, 22,...} 

k 

- 172 -

207.2250 


ניתן להמשיך ‏"לסמלץ"‏ את המערכת ולרשום במפורש את .A(t),D(t),L(t) 

נוסחת ליטל:‏ 

להלן נוסחת ליטל:‏ L W 

צרכן במערכת 

. 

= λ 

.(W) 

הנוסחה מקשרת בין ממוצע מספר הצרכנים במערכת 

(L) 

לבין זמן השהייה הממוצע של 

לפני שנדון בשימושים הרבים של נוסחה זו ונוכיח אותה,‏ נציין במדויק מהם התנאים אשר בהם הנוסחה מתקיימת:‏ 

משפט ‏(נוסחת ליטל):‏ 

תהי נתונה סדרת זמני הגעה ועזיבה של מערכת 

{( t , s ), k ≥1} 

k 

k 

A( t) 

lim = λ 

t →∞ t 

אם 

וגם 

D( t) 

lim = λ 

t →∞ t 

lim k 

k→∞ 

∞ 

∑ 

= 1 

W ( k) 

= W 

k 

L 

קיים אז 

עבור λ סופית.‏ אז:‏ 

lim 

t→∞ 

t 

∫ 

0 

L( s) 

ds 

t 

= L 

= λW 

קיים ובנוסף 

כך שמתקיים:‏ 

נוסחת ליטל הינה כללית ביותר ומדברת על מערכות ודרכיהן עוברים באופן כלשהו.‏ כל מערכת ובה קצב כניסת הצרכנים 

שווה לקצב יציאת הצרכנים תקיים את התנאים של נוסחת ליטל.‏ ז"א,‏ כל מערכת מהסוג המצויר כאן:‏ 

‏(התור + 

פעמים רבות,‏ נתייחס אל המערכת כאל כל מערכת התורים השרתים)‏ ואז הנוסחה המתאימה הינה באמת 

אבל ניתן גם להתייחס ל"מערכת"‏ כאל התור בלבד ואז הנוסחה היא בנוסף,‏ ניתן להתייחס 

. L 

q 

= λW 

q 

. L = λW 

למערכת כאל השרת ואז 

1 

. ρ = λ µ 

- 173 -

207.2250 


פרק ה-‏‎4‎‏:‏ מערכות תורים נוספות ,M/M/∞ ,M/M/c/K ,M/M/c 

ארלנג.‏ 

נוסחאות 

תחת ההנחה המרקובית אשר גוררת כי תהליך ההגעות הוא פואסוני וזמני השרות הינם אקספוננציאלים,‏ ניתן לתאר מגוון 

יחסית רחב של מערכות תורים באמצעות תהליכי לידה מוות.‏ עבור כל מערכת שכזו ניתן גם יחסית בכלות לקבל את 

התפלגות מספר הצרכנים במערכת ע"י משוואות השיווי המשקל של תהליכי לידה ומוות.‏ כל מה שבעצם יש לעשות זה 

להתבונן במערכת המתוארת ולאפיין את קצבי הלידה וקצבי המוות המתאימים.‏ 

מערכת :M/M/c 

זוהי מערכת תורים ובה קצב הגעת הצרכנים הוא על פי תהליך פואסון בעל קצב λ ‏.וקצב שרות כל צרכן הוא . µ ישנם c 

שרתים אשר יכולים לעבוד במקביל,‏ שרת על כל צרכן.‏ 

כיצד ניתן למדל את מספר הצרכנים במערכת ) (t ( )L כתהליך לידה ומוות.‏ 

קצב הלידה יהיה קבוע מה לגבי קצב המוות ‏(שרות)?‏ 

במידה וישנם c או יותר צרכנים במערכת 

השרות הוא ‏(קצב המוות).‏ 

במידה וישנם פחות מ c צרכנים במערכת אז רק 

הוא 

כך ניתן לסכם את קצבי הלידה והמוות:‏ 

אז כל השרתים עובדים וכולם עובדים בקצב µ ולכן סך קצב 

n 

שרתים עובדים ולכן עבור מצב < c 

קצב המוות 

L( t) 

( c ≤ L( t)) 

( c > L( t) 

) 

. λ = λ 

n 

– 

cµ 

. nµ 

λ = λ 

nµ 

n < c 

µ = ⎧ 

n ⎨ ⎩ cµ 

n ≥ c 

ידוע כי 

n 

p 

n 

λ 

= p ∏ 

n−1 

k 

0 

k= 0 µ 

k + 1 

λ 1 λ 1 

pn 

= p = p 

µ µ n! 

n 

n 

n 

0 

( ) 

n n−1 

0 

∏ 

k = 0 

λ 1 λ 1 

p p p 

µ c! c µ c! 

c 

n 

n 

n 

= 

0 

= ( ) 

n n−c n−c 

0 

p 0 

מכאן נובע כי:‏ 

, n < c 

, n ≥ c 

על מנת למצוא את 

נשתמש בעובדה כי סכום ההסתברויות שווה לאחד,‏ ז"א 

p 

0 

c−1 

K 

λ n 1 λ n 1 

= ( ∑( ) + ∑( ) ) 

n−c 

µ n! µ c! 

c 

n= 0 

n= 

c 

−1 

λ r 

ρ = = 

cµ 

c 

r 

λ 

= 

µ 

ו נסמן 

ואז:‏ 

- 174 -

207.2250 


p 

0 

c−1 

n ∞ n 

r r 

= ( ∑ + ∑ ) 

n−c 

n! c! 

c 

n= 0 n= 

c 

−1 

: 

∞ 

∑ 

n= 

c 

r 

c! 

c 

n 

n−c 

נתבונן בטור 

r 

= ρ < 1 

c 

כאשר 

r r r r r 1 

! ! ! ! 1− 

ρ 

∞ n c ∞ c ∞ 

c 

n−c 

m 

∑ = ( ) ρ 

n−c 

∑ = ∑ = 

n= c c c c n= c c c m= 

0 c 

r 

c 

= ρ < 1 

, p 

0 

c−1 

n c 

r r 1 

= ( ∑ + ) 

n! c! 1− 

ρ 

n= 

0 

−1 

ולכן 

מערכת :M/M/∞ 

λ = λ 

n 

µ = nµ 

n 

n−1 

n 

λk 

λ 1 λ n 1 

pn 

= p0∏ 

= p0 = p 

1 0( ) 

n n− 

k = 0 µ 

k + 1 

µ µ n! 

n 

∏ 

k = 0 

p 

0 

1 1 

= = 

∞ n − 

r e 

∑ 

n! 

n= 

0 

p 

n 

r 

ולכן 

−r 

e r 

= 

n! 

מערכת :M/M/c/K 

λ = λ, 

n < K 

n 

λ = 0, K ≤ n 

n 

µ = max( n, c) 

µ 

n 

n 

n 

λ 

pn 

= p 

n 0 

n! 

µ 

1 ≤ n < c 

n 

λ 

pn = p 

n−c n 0 

c! 

c µ 

c ≤ n ≤ K 

p 

0 

c−1 

K 

λ n 1 λ n 1 

= ( ∑ ( ) + ∑ ( ) ) 

n−c 

µ n! µ c! 

c 

n= 0 

n= 

c 

−1 

- 175 -

207.2250 

λ r 

ρ = = 

cµ 

c 

r 

λ 

= 

µ 


הטור השני הוא:‏ 

כאשר 

ו 

c K − c+ 

1 

⎧r 

1− 

ρ 

n c c 

r r r n c r − 

n−c 

⎪ c! 1− 

ρ 

= ( ) = ρ = 

n−c 

⎨ 

c! c c! c c! 

c 

⎪ r 

( K − c + 1) 

⎪⎩ c! 

K K K 

∑ ∑ ∑ 

n= c n= c n= 

c 

ρ ≠ 1, 

ρ = 1 

ולכן 

p 

c−1 

n c K − c+ 

1 

⎧ r r 1− 

ρ 

( ∑ + 

) 

⎪ n! c! 1− 

ρ 

n= 

0 

0 

= ⎨ 

c−1 

n c 

⎪ r r 

+ K − c + 

∑ 

( ( 1)) 

⎪ 

⎩ n= 

0 n! c! 

−1 

−1 

ρ ≠ 1, 

ρ = 1 

נוסחאות ארלנג:‏ 

נוסחה שימושית ביותר ביישומים הנדסיים מתייחסת למערכת זאתי המערכת ,M/M/c/K אשר כרגע ראינו 

אבל כאשר מתקיים K=c ‏(מספר השרתים שווה למספר המקומות הפנויים במערכת).‏ מערכת שכזאת מתאימה הרבה 

פעמים למרכזיית טלפון כי למרכזיית טלפון יש מספר סופי של שיחות אשר היא יכולה לתמוך בהם וכך כל שיחה היא גם 

‏"שרת"‏ ‏(נותנת לעצמה שרות)‏ וגם לקוח.‏ 

, M/M/c/c 

. 0 ≤ n ≤ c 

p 

n 

ראשית נראה כי:‏ 

= עבור 

n 

( λ / µ ) 

n! 

( λ / µ ) 

k! 

c 

∑ 

k = 0 

התפלגות זאת נקרית הנוסחה הראשונה של ארלנג.‏ 

מדד ספציפי מעניין ביותר לגבי מערכת שכזאת הוא ההסתברות שלקוח יגיע למערכת אבל לא יקבל שירות.‏ מדד זה הוא 

פשוט נסמן ‏.אז:‏ 

r = λ / µ 

P 

= p = 

loss c c 

נוסחה זו נקראה נוסחת ההפסד של ארלנג.‏ היא מאפשרת למתכנני רשת לקבוע את מספר הקווים ‏(שרתים)‏ הדרושים כך 

שההסתברות שהרשת לא תהייה זמינה תהייה קטנה מערך נקוב.‏ 

האיור הבא:‏ מציג שימוש בתוכנה הנקראת:‏ ErlangCalc אשר מזינים בה את r ‏(עומס התעבורה הצפוי)‏ ואת ההסברות 

ואז התוכנה חישבה כי ה 

שחסימה והיא מחשבת את מספר הקווים המינימאלי הדרוש ‏(במקרה שלנו 0.7=r 

c המינימאלי הדרוש הוא 

p = 0.0001 

c 

.(6 

. 

r 

∑ 

k = 0 

p c 

c 

r 

/ c! 

k 

k 

/ k! 

- 176 -

207.2250 


הערה:‏ את התוכנה ניתן להוריד מ ./http://www.certis.com 

- 177 -

207.2250 


פרק 

ו-‏‎1‎‏:‏ מה לא נלמד בקורס זה.‏ 

הרשימה הבאה מציגה נושאים נוספים אשר לרוב נכללים ‏(בספרים רבים)‏ בחומר הבסיס של תהליכים 

סטוכסטיים ולא נלמדו בקורס זה.‏ 

תהליכי חידוש.‏ 

מרטינגלים.‏ 

תהליכי סדר שני ‏(תהליכים גאוסים).‏ 

תנועה ברואנית.‏ 

.1 

.2 

.3 

.4 

- 178 -

207.2250 


פרק 

ו-‏‎2‎‏:‏ השלמות.‏ 

פרק זה מציין עבור כל חלק של החומר איזה פריטי מידע חסרים לצורך שלמות של התיאוריה הבסיסית.‏ 

חלק א:‏ מבוא 

דוגמאות מורכבות של מודלים הסתברותיים בסיסים ללא מבנה מסוים העושים שימוש בהסתברות 

ותוחלת מותנה.‏ 

דוגמאות הילוך אקראי פשוט באמצעות פונקציות יוצרות.‏ 

.arcsin חוק 

• 

• 

• 

חלק ב:‏ שרשראות מרקוב ‏(זמן בדיד)‏ 

הגדרת זמני עצירה והתכונה המרקובית החזקה.‏ 

ניתוח של תהליכי הסתעפות ‏(דוגמא).‏ 

ניתוח של הילוכים אקריים במידים גבוהים (2,3 ויותר)‏ ‏(דוגמא).‏ 

ניתוח מעמיק של שרשראות מרקוב מחזוריות.‏ 

ניתוח מטריציוני של שרשראות מרקוב,‏ חלוקת מרחב מצבים,‏ מציאת וקטורים עצמיים,‏ מטריצות אי 

שליליות.‏ 

ניתוח מוכלל של חישובים הקשורים למיון מצבים ‏(זמן פגיעה,‏ הסתברות ספיגה וכו').‏ 

ניתוח מדויק של קריטריונים לחליפות,‏ התמדה.‏ 

ניתוח יציבות באמצעות פונקציות אנרגיה.‏ 

מודלים של תורים בזמן בדיד.‏ 

אופטימיזציה.‏ 

ישום של תורת חידוש בדידה להוכחת משפטי התכנסות.‏ 

היפוך זמן 

.(Time Reversal) 

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

• 

חלק ג:‏ תהליכי פואסון 

תהליכי נקודות.‏ 

.Shot Noise 

• 

• 

חלק ד:‏ תהליכי קפיצה מרקובים ‏(שרשראות מרקוב בזמן רציף)‏ 

.Uniformization 

• 

• 

פתרון משוואות קולמוגורוב באמצעות 

Q 

. e 

חלק ה:‏ תהליכי לידה-מוות,‏ מערכות תורים אלמנטאריות ונושאים נוספים.‏ 

מערכות תורים בעלי התפלגויות 

מערכות ו 

ניתוח חולף בסיסי של מערכות בסיסיות.‏ 

רשתות 

.PhaseType 

.G / M /1 

M / G /1 

.Jackson 

• 

• 

• 

• 

- 179 -

207.2250 


פרק ו-‏‎3‎‏:‏ ספרות מומלצת.‏ 

להלן רשימת ספרות ממוינת על פי מידת העומק.‏ רמת הקורס נמצאת בין הספרות ברמה בסיסית לספרות 

ברמה בינונית.‏ 

ספרות ברמה בסיסית:‏ 

• Durrett, R., Essentials of Stochastic Processes, Springer, New York, 1999. 

• Taylor, H. and Karlin, S., Introduction to Stochastic Modeling, Academic Press, 

New York, 1984. 

• Ross, S., Introduction to Probability Models, Fourth Edition, Academic Press, 

Boston, 1989. 

• Kulkarni V.G., Modeling, Analysis, Design, and Control of Stochastic Systems, 

Springer, New York, 1999. 

ספרות ברמה בינונית:‏ 

• Cinlar E., Introduction to Stochastic Processes, Prentice-Hall, Englewood Cliffs, 

New Jersey, 1975. 

• Ross, S. Stochastic Processes, Wiley, New York, 1983. 

ספרות ברמה יותר מתקדמת:‏ 

• Karlin, S. and Taylor, H., A First Course in Stochastic Processes, Second Edition, 

Academic Press, New York, 1975. 

• Norris, J.R., Markov Chains, Cambridge University Press, New York, 1997. 

• Resnick, S., Adventures in Stochastic Processes, Birkhauser, Boston, 1992. 

ספרות ברמה בסיסית בנושא תורת התורים:‏ 

• Kleinrock, L., Queuing Systems, Vol. 1: Theory. Wiley, New York 1975. 

• Gross, D. and Harris, C., Fundamentals of Queuing Theory, Third Edition, Wiley, 

1998. 

- 180 -

Yoni Nazarathy CV

You also want an ePaper? Increase the reach of your titles

Delete template?

Save as template?