הקדמה: עד כה פתרנו ע"י שיטת החילוץ של גאוס. כעת נפתח שיטות לפתרון המשתמשות באיטרציות.
שיטות הפתרון:
- שיטת גאוס–זיידל
- שיטת יעקבי
- שיטת SOR – Succesive Over Relaxation
בשיטות איטרטיביות:
- דורש פתרון התחלתי
- נשפר פתרון זה בכל איטרציה באמצעות שימוש בפתרון הקודם.
מערכת המשוואות תירשם כך:

הפתרון ההתחלתי:

- האינדקס העליון מציין את מספר האיטרציה.
כעת נבצע איטרציות למציאת
שהוא פתרון קרוב ומדויק יותר מאשר
.
1) שיטת גאוס–זיידל
נשתמש בפתרון העדכני ביותר בחישובים מאוחרים באיטרציה:

- האינדקס המסומן באדום מציין את ההבדל משיטת יעקבי.
לדוגמא:

2) שיטת יעקבי (Jacobi)
עדכון הפתרון יבוצע ע"י האיטרציה הכללית:

לדוגמא:

- תנאי התכנסות לשיטה (שליטה אלכסונית):
- מדובר בתנאי מספיק אך לא הכרחי – השיטה עלולה להתכנס גם אם לא יתקיים, אך אם הוא מתקיים – השיטה בטוח תתכנס.

הסבר:

נוודא שכל אברי האלכסון גדולים, כל אחד, מסכום שאר האברים בשורה:
שורה ראשונה:
מתקיים
שורה שניה:
לא מתקיים
שיטת יעקבי מתכנסת לאט יותר משיטת גאוס–זיידל מכיוון שבגאוס–זיידל כבר משתמשים בפתרון המעודכן בעת ביצוע האיטרציות.
השגיאה באיטרציה
:

3) שיטת SOR – Successive Overrelaxation
האיטרציה הכללית בשיטת גאוס–זיידל:

נוציא מהביטוי המסומן באדום את האיבר הראשון ונקבל:

הנוסחה הכללית לאיטרציה בשיטה זו:

הוא פרמטר לגודל הצעד בין האיטרציות.
עבור גאוס–זיידל.
השיטה תקרא underrelaxation והיא מתכנסת לעתים גם כאשר גאוס–זיידל לא מתכנסת (הצעדים בשיטה זו הם קטנים יותר).
השיטה תקרא overrelaxation והיא עשויה להאיץ התכנסות בהם גאוס–זיידל מתכנסת, במידה והמטריצה נשלטת אלכסונית.
או
שיטת SOR לא תתכנס.