אנליזה נומרית/שיטת ניוטון-רפסון

שיטת ניוטון-רפסון - אשר ידועה גם בתור "שיטת המשיק המשתנה" - היא שכלול של שיטת המשיק הקבוע.

מעבירים משיק לפונקציה בניחוש ההתחלתי. מיקום חיתוך המשיק עם ציר $x$ הוא הנקודה הבאה בה מעבירים משיק נוסף לגרף הפונקציה וכך הלאה. השיפוע של כל קו כזה הוא: $f'(x_{n})={\frac {f(x_{n})-0}{x_{n}-x_{n+1}}}$ ולכן נקבל את סדרת הקירובים שלנו על ידי:

x_{n+1}=x_{n}-{\frac {f(x_{n})}{f'(x_{n})}}

נשים לב כי השיטה עלולה לקרוס כאשר $f'(x_{n})\approx 0$ . מצב דומה מתרחש כאשר יש ריבוי שורשים. כמו כן, כאשר הם קרובים מאוד זה לזה, משפט לגראנז' מבטיח שבנקודה כלשהי ביניהם השיפוע הוא 1, דבר אשר מפריע להתכנסות השיטה. כלומר ההתכנסות תלויה בבחירת $x_{0}$ .

נשים לב כי בשיטה זו מניחים שהנגזרת הראשונה רציפה.

בדיקת סדר האיטרציה

כזכור, השגיאה באיטרציה ה- $n$ -ית היא $\varepsilon _{n}=x_{n}-\alpha$ . נציב לשיטה ונקבל:

\varepsilon _{n+1}+\alpha =\varepsilon _{n}+\alpha -{\frac {f(\varepsilon _{n}+\alpha )}{f'(\varepsilon _{n}+\alpha )}}\quad \Rightarrow \quad \varepsilon _{n+1}={\frac {\varepsilon _{n}f'(\varepsilon _{n}+\alpha )-f(\varepsilon _{n}+\alpha )}{f'(\varepsilon _{n}+\alpha )}}

נפתח את המונה והמכנה לטור טיילור:

\varepsilon _{n+1}={\frac {\varepsilon _{n}\left[f'(\alpha )+\varepsilon _{n}f''(\alpha )+{\dfrac {\varepsilon _{n}^{2}}{2!}}f'''(\alpha )+\cdots \right]-\left[f(\alpha )+\varepsilon _{n}f'(\alpha )+{\dfrac {\varepsilon _{n}^{2}}{2!}}f''(\alpha )+\cdots \right]}{f'(\alpha )+\varepsilon _{n}f''(\alpha )+{\dfrac {\varepsilon _{n}^{2}}{2!}}f'''(\alpha )}}

לאחר שכמה אברים במונה מצטמצמים, נקבל שהאיברים המובילים של הטורים במונה ובמכנה נותנים את הביטוי הבא:

\varepsilon _{n+1}={\frac {{\dfrac {\varepsilon _{n}^{2}}{2!}}f''(\alpha )+\cdots }{f'(\alpha )+\cdots }}

אם השיטה מתכנסת, אז עבור $\lim _{n\to \infty }\varepsilon _{n}=0$ נקבל בקירוב:

\varepsilon _{n+1}\approx \varepsilon _{n}^{2}\overbrace {\frac {f''(\alpha )}{2f'(\alpha )}} ^{A}\quad \Rightarrow \quad \varepsilon _{n}=A^{2^{n}-1}\varepsilon _{0}^{2^{n}}

כלומר, סדר האיטרציה הוא 2.

מצד שני, אם $\alpha$ הוא שורש כפול (שורש מריבוי 2) של $f$ , אז $f(\alpha )=f'(\alpha )=0$ ואז האברים המובילים הם:

\varepsilon _{n+1}={\frac {{\dfrac {\varepsilon _{n}^{2}}{2!}}f''(\alpha )+\cdots }{\varepsilon _{n}f''(\alpha )+\cdots }}

ואז הגבול הוא בקירוב:

\varepsilon _{n+1}\approx {\frac {\varepsilon _{n}}{2}}

כלומר התכנסות לינארית. באופן זה, שיטת ניוטון-רפסון מהווה אינדיקציה לשורש כפול.

ניוטון-רפסון מתוקן עבור שורש כפול

ניתן לקבל התכנסות ריבועית באמצעות סדרת הקירובים המתוקנת הבאה:

x_{n+1}=x_{n}-{\frac {2f(x_{n})}{f'(x_{n})}}

בדיקת סדר האיטרציה

כזכור, השגיאה באיטרציה ה- $n$ -ית היא $\varepsilon _{n}=x_{n}-\alpha$ . נציב לשיטה ונקבל:

\varepsilon _{n+1}+\alpha =\varepsilon _{n}+\alpha -{\frac {2f(\varepsilon _{n}+\alpha )}{f'(\varepsilon _{n}+\alpha )}}={\frac {\varepsilon _{n}\cdot f'(\varepsilon _{n}+\alpha )-2f(\varepsilon _{n}+\alpha )}{f'(\varepsilon _{n}+\alpha )}}

נפתח מונה ומכנה לטור טיילור:

\varepsilon _{n+1}={\frac {\varepsilon _{n}{\Big [}f'(\alpha )+\varepsilon _{n}f''(\alpha )+\cdots {\Big ]}-2\left[f(\alpha )+\varepsilon _{n}f'(\alpha )+{\dfrac {\varepsilon _{n}^{2}}{2!}}f''(\alpha )+\cdots \right]}{f'(\alpha )+\varepsilon _{n}f''(\alpha )+\cdots }}

כעת, שוב, נסתכל על האברים המובילים וניקח גבול כאשר $n$ גדול: $\varepsilon _{n+1}={\frac {{\dfrac {\varepsilon _{n}^{3}}{3!}}f'''(\alpha )-{\dfrac {2\varepsilon _{n}^{3}}{3!}}f'''(\alpha )+\cdots }{\varepsilon _{n}f''(\alpha )+\cdots }}\approx {\frac {\varepsilon _{n}^{2}f'''(\alpha )}{6f''(\alpha )}}$

הכללה

בהינתן פונקציה f עם שורש α בריבוי s, ניתן להציג: $f(x)=(x-\alpha )^{s}h(x)$ כאשר $h(\alpha )\neq 0$ . במקרה זה, שיטת ניוטון-רפסון המתוקנת היא מהצורה:

\ x_{n+1}=x_{n}-s{\frac {f(x_{n})}{f'(x_{n})}}

נראה שבמקרה זה ישנה התכנסות ריבועית:

\ \epsilon _{n+1}={\frac {\left[{\frac {\epsilon _{n}^{s}}{(s-1)!}}f^{(s)}(\alpha )+{\frac {\epsilon _{n}^{s+1}}{s!}}f^{(s+1)}(\alpha )+...\right]}{{\frac {\epsilon _{n}^{s-1}}{(s-1)!}}f^{(s)}(\alpha )+...}}+

{\frac {-s\left[{\frac {\epsilon _{n}^{s}}{s!}}f^{(s)}(\alpha )+{\frac {\epsilon _{n}^{s+1}}{(s+1)!}}f^{(s+1)}(\alpha )+...\right]}{{\frac {\epsilon _{n}^{s-1}}{(s-1)!}}f^{(s)}(\alpha )+...}}\approx

\ \approx {\frac {f^{(s+1)}(\alpha )}{f^{(s)}(\alpha )}}{\frac {\epsilon _{n}^{2}}{s(s+1)}}

עוד נוסחה מתוקנת של ניוטון-רפסון

שימו לב כי אם α הוא שורש כפול של f, אז הוא יהיה שורש בודד של $\ h(x)={\tfrac {f(x)}{f'(x)}}$ . לכן אם נפעיל את שיטת ניטון רפסון על h, נקבל התכנסות מסדר 2 לאותו שורש α ובצורה המפורשת עבור f נקבל: