ÌÈÍÈÑÒÅÐÑÒÂÎ ÎÁÐÀÇÎÂÀÍÈß ÐÔ Èðêóòñêèé ãîñóäàðñòâåííûé óíèâåðñèòåò Èíñòèòóò ìàòåìàòèêè è ýêîíîìèêè Â.Ã. Àíòîíèê Â.Ñ. Çàõàð÷åíêî ×èñëåííûå ìåòîäû Ó÷åáíîå ïîñîáèå ïî ïðàêòè÷åñêèì çàíÿòèÿì Èðêóòñê 2000 Ïå÷àòàåòñÿ ïî ðåøåíèþ ðåäàêöèîííî-èçäàòåëüñêîãî ñîâåòà Èíñòèòóòà ìàòåìàòèêè è ýêîíîìèêè Èðêóòñêîãî ãîñóäàðñòâåííîãî óíèâåðñèòåòà Ïîñîáèå ñîäåðæèò ìàòåðèàëû ïðàêòè÷åñêèõ çàíÿòèé ïî êóðñó "×èñëåííûå ìåòîäû"(ðàçäåë âû÷èñëèòåëüíàÿ àëãåáðà). Ðàññìàòðèâàþòñÿ ìåòîäû ðåøåíèÿ ëèíåéíûõ ñèñòåì, ïðîáëåìà ñîáñòâåííûõ çíà÷åíèé, ìåòîäû ðåøåíèÿ íåëèíåéíûõ óðàâíåíèé.  íà÷àëå êàæäîãî ðàçäåëà ïðèâîäÿòñÿ íåîáõîäèìûå òåîðåòè÷åñêèå ñâåäåíèÿ. Äàíû ðåøåíèÿ òèïîâûõ ïðèìåðîâ. Ïðåäíàçíà÷àåòñÿ äëÿ ñòóäåíòîâ ìàòåìàòè÷åñêèõ ôàêóëüòåòîâ ñïåöèàëüíîñòåé "Ìàòåìàòèêà", "Ïðèêëàäíàÿ ìàòåìàòèêà", àñïèðàíòîâ è ïðåïîäàâàòåëåé. Ñîñòàâèòåëè: Ðåöåíçåíò: Â.Ã. Àíòîíèê, ê.ô.-ì.í., äîöåíò Â.Ñ. Çàõàð÷åíêî, ê.ô.-ì.í., äîöåíò (êàôåäðà âû÷èñëèòåëüíîé ìàòåìàòèêè) Â.À. Ñðî÷êî, ä.ô.-ì.í., ïðîôåññîð c Èðêóòñêèé ãîñóäàðñòâåííûé óíèâåðñèòåò, 2000 ÎÃËÀÂËÅÍÈÅ Ââåäåíèå 5 1. Âñïîìîãàòåëüíûé ìàòåðèàë 6 1. Îñíîâíûå îáîçíà÷åíèÿ è îïðåäåëåíèÿ ............ 6 2. Íîðìû âåêòîðîâ è ìàòðèö .............................. 10 2. Ëèíåéíûå ñèñòåìû. Ìåòîä Ãàóññà 1. Ïîñòàíîâêà çàäà÷è .......................................... 2. Ìåòîä Ãàóññà ................................................... 3. Âû÷èñëåíèå îáðàòíîé ìàòðèöû ...................... Óïðàæíåíèÿ ......................................................... 13 13 15 20 21 3. Èòåðàöèîííûå ìåòîäû ðåøåíèÿ ëèíåéíûõ ñèñòåì 1. Ìåòîä ïðîñòîé èòåðàöèè ................................. 2. Ìåòîä Çåéäåëÿ ................................................. 3. Ìåòîä ßêîáè .................................................... Óïðàæíåíèÿ ......................................................... 25 25 26 28 31 4. Ëèíåéíûå ñèñòåìû. Ðåäóêöèÿ ê ýêñòðåìàëüíûì çàäà÷àì 1. Âñïîìîãàòåëüíûå ðåçóëüòàòû ........................ 2. Ìåòîä ñêîðåéøåãî ñïóñêà ............................... 3. Ìåòîä ìèíèìàëüíûõ íåâÿçîê .......................... 4. Ìåòîä ìèíèìàëüíûõ îøèáîê .......................... Óïðàæíåíèÿ ......................................................... 3 33 33 36 39 41 43 46 Óïðàæíåíèÿ ......................................................... 48 5. Ñèñòåìû ñ ïðÿìîóãîëüíûìè ìàòðèöàìè 51 1. Âñïîìîãàòåëüíûå îïðåäåëåíèÿ ........................ 51 2. Ìåòîä âðàùåíèé .............................................. 52 Óïðàæíåíèÿ ......................................................... 59 6. Ïðîáëåìà ñîáñòâåííûõ çíà÷åíèé 61 1. Ìåòîä èòåðàöèé ............................................... 61 2. Ìåòîä Íüþòîíà ............................................... 65 3. Ìåòîäû ñîêðàùåíèÿ èíòåðâàëà ëîêàëèçàöèè ..................................................... 69 4. Ìåòîä ïîëîâèííîãî äåëåíèÿ ............................ 70 5. Ìåòîä õîðä ...................................................... 71 Óïðàæíåíèÿ ......................................................... 72 7. Ìåòîäû ðåøåíèÿ íåëèíåéíûõ óðàâíåíèé 4 Ââåäåíèå Ó÷åáíîå ïîñîáèå ñîäåðæèò ìàòåðèàëû ïðàêòè÷åñêèõ çàíÿòèé ïî êóðñó "×èñëåííûå ìåòîäû", êîòîðûé ÷èòàåòñÿ äëÿ ñòóäåíòîâ ñïåöèàëüíîñòè "Ïðèêëàäíàÿ ìàòåìàòèêà"Èíñòèòóòà ìàòåìàòèêè è ýêîíîìèêè Èðêóòñêîãî ãîñóíèâåðñèòåòà. Ðàññìàòðèâàþòñÿ èçáðàííûå âîïðîñû ðàçäåëà "Âû÷èñëèòåëüíàÿ àëãåáðà". Óïðàæíåíèÿì ïðåäøåñòâóþò êðàòêèå ñâîäêè íåîáõîäèìûõ òåîðåòè÷åñêèõ ñâåäåíèé. Ðàçîáðàíû ðåøåíèÿ òèïîâûõ ïðèìåðîâ.  ïåðâîì ðàçäåëå ðàññìàòðèâàþòñÿ ñèñòåìû ëèíåéíûõ àëãåáðàè÷åñêèõ óðàâíåíèé. Îïèñûâàþòñÿ òî÷íûå è èòåðàöèîííûå ìåòîäû ðåøåíèÿ (ìåòîä Ãàóññà, ìåòîä ïðîñòîé èòåðàöèè, ìåòîä Çåéäåëÿ). Ïðèâîäèòñÿ ìåòîäèêà ñâåäåíèÿ èñõîäíîé ëèíåéíîé ñèñòåìû ê ýêñòðåìàëüíûì çàäà÷àì. Èçó÷àåòñÿ ïðîáëåìà ñîáñòâåííûõ çíà÷åíèé. Âî âòîðîì ðàçäåëå ðàññìàòðèâàþòñÿ ìåòîäû ðåøåíèÿ íåëèíåéíûõ óðàâíåíèé: ìåòîä èòåðàöèé, ìåòîä Íüþòîíà, ìåòîäû ñîêðàùåíèÿ èíòåðâàëà ëîêàëèçàöèè. Àâòîðû âûðàæàþò ãëóáîêóþ ïðèçíàòåëüíîñòü çàâåäóþùåìó êàôåäðîé âû÷èñëèòåëüíîé ìàòåìàòèêè ïðîôåññîðó Ñðî÷êî Â.À. çà ïîëåçíûå ñîâåòû è çàìå÷àíèÿ, ñäåëàííûå ïðè îáñóæäåíèè ðóêîïèñè ïîñîáèÿ. 5 1. Âñïîìîãàòåëüíûé ìàòåðèàë 1. Îñíîâíûå îáîçíà÷åíèÿ è îïðåäåëåíèÿ Ïóñòü Rn âåùåñòâåííîå ïðîñòðàíñòâî ðàçìåðíîñòè n ñ êîîðäèíàòíûìè îðòàìè ei , i = 1, n. Âñÿêèé ýëåìåíò x ∈ Rn åñòü âåêòîð-ñòîëáåö ñ êîîðäèíàòàìè x1 , . . . , xn . Äëÿ ïàðû x, y ∈ Rn îáîçíà÷èì îïåðàöèþ ñêàëÿðíîãî ïðîèçâåäåíèÿ n X hx, yi = xi yi . i=1 Ïóñòü A (n × n) ìàòðèöà ñ âåùåñòâåííûìè ýëåìåíòàìè aij , i, j = 1, n. Ââåäåì ñëåäóþùèå îáîçíà÷åíèÿ: AT òðàíñïîíèðîâàííàÿ ìàòðèöà, A−1 îáðàòíàÿ ìàòðèöà, detA îïðåäåëèòåëü ìàòðèöû A. Êðîìå òîãî, îáîçíà÷èì E (n × n) åäèíè÷íàÿ ìàòðèöà. Îïðåäåëåíèå 1. Ìàòðèöà A íàçûâàåòñÿ äèàãîíàëüíîé, åñëè aij = 0 , i 6= j ; íèæíåé òðåóãîëüíîé, åñëè aij = 0 , i < j ; âåðõíåé òðåóãîëüíîé, åñëè aij = 0 , i > j ; íåâûðîæäåííîé, åñëè detA 6= 0; îðòîãîíàëüíîé, åñëè AT A = E ; ñèììåòðè÷íîé, åñëè AT = A; ìàòðèöåé ñî ñòðîãèì äèàãîíàëüíûì ïðåîáëàäàíèåì, åñn P ëè | aii |> | aij | , i = 1, n . 1) 2) 3) 4) 5) 6) 7) j=1,i6=j Îáðàçóåì êâàäðàòè÷íóþ ôîðìó ñ ñèììåòðè÷íîé ìàò- 6 ðèöåé A hx, Axi = n X n X aij xi xj . i=1 j=1 Ìàòðèöà A íàçûâàåòñÿ ïîëîæèòåëüíî îïðåäåëåííîé (A > 0), åñëè hx, Axi > 0 äëÿ ëþáîãî x 6= 0, íåîòðèöàòåëüíî îïðåäåëåííîé (A ≥ 0), åñëè hx, Axi ≥ 0 , x ∈ Rn . Îïðåäåëåíèå 2. Óïðàæíåíèå 1. a) A = 3 5 − 4 5 Ïîêàçàòü, ÷òî ìàòðèöû √ 4 3 1 5 2 2 ; b) A = √ 3 1 3 − 5 2 2 ÿâëÿþòñÿ îðòîãîíàëüíûìè. Ïîêàçàòü, ÷òî ìàòðèöû 2 −1 1 1 a) A = ; b) A = −1 2 1 4 Óïðàæíåíèå 2. ÿâëÿþòñÿ ïîëîæèòåëüíî îïðåäåëåííûìè. Ïîêàçàòü, ÷òî ïðîèçâåäåíèå äâóõ òðåóãîëüíûõ ìàòðèö îäíîãî òèïà åñòü òðåóãîëüíàÿ ìàòðèöà òîãî æå òèïà. Óïðàæíåíèå 3. Ïîêàçàòü, ÷òî ìàòðèöà îáðàòíàÿ ê òðåóãîëüíîé, ñîõðàíÿåò ýòî ñâîéñòâî. Óïðàæíåíèå 4. Îòìåòèì, ÷òî îïðåäåëèòåëü òðåóãîëüíîé ìàòðèöû ðàâåí ïðîèçâåäåíèþ åå äèàãîíàëüíûõ ýëåìåíòîâ. 7 ×èñëî λ íàçûâàåòñÿ ñîáñòâåííûì çíàìàòðèöû A, åñëè ñóùåñòâóåò òàêîé âåêòîð x 6= 0, ÷òî Ax = λx. Ýòîò âåêòîð íàçûâàåòñÿ ñîáñòâåííûì âåêòîðîì ìàòðèöû A, ñîîòâåòñòâóþùèì ñîáñòâåííîìó çíà÷åíèþ λ. Ïðè ýòîì (λ, x) ñîáñòâåííàÿ ïàðà ìàòðèöû A. Îïðåäåëåíèå 3. ÷åíèåì (÷èñëîì) Èñõîäÿ èç îïðåäåëåíèÿ, ñîáñòâåííûå ÷èñëà ìàòðèöû A è òîëüêî îíè ÿâëÿþòñÿ êîðíÿìè õàðàêòåðèñòè÷åñêîãî óðàâíåíèÿ det(A − λE) = 0. Ýòî àëãåáðàè÷åñêîå óðàâíåíèå ñòåïåíè n, êîòîðîå èìååò íà êîìïëåêñíîé ïëîñêîñòè n êîðíåé λi (A) , i = 1, n . Ñïåêòðîì ìàòðèöû A íàçûâàåòñÿ ñîâîêóïíîñòü åå ñîáñòâåííûõ çíà÷åíèé: σ(A) = {λi (A)}. Ñïåêòðàëüíûé ðàäèóñ îïðåäåëÿåòñÿ ñîîòíîøåíèåì ρ(A) = = max | λi (A) |. 1≤i≤n Óïðàæíåíèå 5. Ïðîâåðèòü ñïðàâåäëèâîñòü ñîîòíîøåíèé: a) λ(αA) = αλ(A); b) λ(A + B) = λ(A) + λ(B); c) λ(Ak ) = λk (A) , k = 2, 3, . . . . Äëÿ ìàòðèö −1 4 2 3 ; b) A = 3 −2 2 1 Óïðàæíåíèå 6. a) A = íàéòè ñïåêòð σ(A) è ñïåêòðàëüíûé ðàäèóñ ρ(A). Ïîêàçàòü, ÷òî a) ñîáñòâåííûå ÷èñëà ïðÿìîé A è îáðàòíîé A−1 ìàòðèö ñâÿçàíû ñîîòíîøåíèåì λ(A−1 ) = 1/λ(A); b) ñîáñòâåííûå ÷èñëà òðåóãîëüíîé ìàòðèöû ñîâïàäàþò ñ åå äèàãîíàëüíûìè ýëåìåíòàìè. Óïðàæíåíèå 7. 8 Îïðåäåëåíèå 4. 1 Bm = Ìàòðèöà Bm , m = 1, n − 1âèäà .. . 1 bm+1,m 1 .. .. . . bn,m 1 íàçûâàåòñÿ ýëåìåíòàðíîé íèæíåé òðåóãîëüíîé ìàòðèöåé. −1 Ïîêàçàòü, ÷òî îáðàòíàÿ ìàòðèöà Bm ÿâëÿåòñÿ òàêæå ýëåìåíòàðíîé òðåóãîëüíîé è èìååò ñëåäóþùèé âèä 1 .. . 1 −1 Bm = . −bm+1,m 1 . . .. .. −bn,m 1 Óïðàæíåíèå 8. Ïîêàçàòü, ÷òî ìàòðèöà B = B1 B2 . . . Bn−1 èìååò ñëåäóþùóþ ñòðóêòóðó 1 b21 1 b31 b32 1 −1 Bm = .. . .. . . 1 bn1 bn2 . . . bn,n−1 1 Óïðàæíåíèå 9. 9 2. Íîðìû âåêòîðîâ è ìàòðèö Ïóñòü x ∈ Rn . Âåùåñòâåííàÿ ôóíêöèÿ k x k íàçûâàåòñÿ âåêòîðíîé íîðìîé, åñëè âûïîëíåíû ñëåäóþùèå àêñèîìû: 1) k x k≥ 0 , k x k= 0 ⇔ x = 0; 2) k αx k=| α | · k x k äëÿ ëþáîãî ÷èñëà α; 3) k x + y k≤k x k + k y k. Îïðåäåëåíèå 5. Âûäåëèì íàèáîëåå ðàñïðîñòðàíåííûå âåêòîðíûå íîðìû: n P 1) k x k1 = | xi | îêòàýäðè÷åñêàÿ; i=1 n P 2) k x k2 = ( x2i )1/2 ñôåðè÷åñêàÿ (åâêëèäîâà); i=1 3) k x k∞ = max | xi | êóáè÷åñêàÿ (÷åáûøåâñêàÿ). 1≤i≤n Óïðàæíåíèå 10. max | t∈[0,1] n X ßâëÿþòñÿ ëè âûðàæåíèÿ i−1 xi t | , max | t∈[0,1] i=1 n X xi ti | , i=1 íîðìàìè âåêòîðà x â Rn ? Ïóñòü Q îðòîãîíàëüíàÿ ìàòðèöà, x ∈ R . Ïîêàçàòü, ÷òî k Qx k2 =k x k2 . Óïðàæíåíèå 11. n Ïóñòü A êâàäðàòíàÿ ìàòðèöà ïîðÿäêà n. Âåùåñòâåííàÿ ôóíêöèÿ k A k íàçûâàåòñÿ ìàòðè÷íîé íîðìîé, åñëè âûïîëíåíû ñëåäóþùèå àêñèîìû: 1) k A k≥ 0 , k A k= 0 ⇔ A = 0; 2) k αA k=| α | · k A k äëÿ ëþáîãî ÷èñëà α; 3) k A + B k≤k A k + k B k; Îïðåäåëåíèå 6. 10 4) k AB k≤k A k · k B k. Çäåñü B (n × n) ìàòðèöà. Óêàæåì íàèáîëåå óïîòðåáèòåëüíûå ìàòðè÷íûå íîðìû: n P 1) k A k1 = max | aij | ìàêñèìàëüíàÿ ñòîëáöåâàÿ íîð1≤j≤n i=1 ìà (îêòàýäðè÷åñêàÿ); p 2) k A k2 = max λi (AT A) ñïåêòðàëüíàÿ íîðìà (åâêëèäîâà); 1≤i≤n 3) k A k∞ = max n P | aij | ìàêñèìàëüíàÿ ñòðî÷íàÿ íîðìà 1≤i≤n j=1 (êóáè÷åñêàÿ); n P n P 4) k A kF = ( a2ij )1/2 íîðìà Ôðîáåíèóñà. i=1 j=1 Ïîêàçàòü, ÷òî ñïåêòðàëüíàÿ íîðìà ñèììåòðè÷íîé ìàòðèöû ðàâíà åå ñïåêòðàëüíîìó ðàäèóñó. Óïðàæíåíèå 12. Äëÿ ìàòðèöû 1 0 0 1 0 A= 0 0 −3 2 Óïðàæíåíèå 13. âû÷èñëèòü k A k1 , k A k2 , k A k∞ , k A kF . Óïðàæíåíèå 14. = 2, 3, . . .. Óïðàæíåíèå 15. Ïîêàçàòü, ÷òî a) k QA k2 =k A k2 ; b) k QA kF =k A kF . Ïîêàçàòü, ÷òî k Ak k≤k A kk , k = Ïóñòü Q - îðòîãîíàëüíàÿ ìàòðèöà. 11 Óïðàæíåíèå 16. ßâëÿåòñÿ ëè âûðàæåíèå max | aij | 1≤i,j≤n ìàòðè÷íîé íîðìîé? Óïðàæíåíèå 17. Ïîêàçàòü, ÷òî k E k≥ 1. Óñòàíîâèì ñâÿçü ìåæäó âåêòîðíûìè è ìàòðè÷íûìè íîðìàìè. Íîðìà ìàòðèöû k A k íàçûâàåòñÿ ñ âåêòîðíîé íîðìîé k x k, åñëè äëÿ ëþáîãî x ∈ Rn ñïðàâåäëèâî íåðàâåíñòâî k Ax k≤k A k · k x k. Îïðåäåëåíèå 7. ñîãëàñîâàííîé Ìàòðè÷íàÿ íîðìà k A k íàçûâàåòñÿ ïîä÷èíåííîé âåêòîðíîé íîðìå k x k, åñëè Îïðåäåëåíèå 8. k A k= max x6=0 Óïðàæíåíèå 18. k x k2 . Óïðàæíåíèå 19. îòíîøåíèþ ê k x k∞ . k Ax k . kxk Ïîêàçàòü, ÷òî k A kF ñîãëàñîâàíà ñ Ïîêàçàòü, ÷òî k A k∞ ïîä÷èíåíà ïî 12 2. Ëèíåéíûå ñèñòåìû. Ìåòîä Ãàóññà 1. Ïîñòàíîâêà çàäà÷è Ñèñòåìà ëèíåéíûõ àëãåáðàè÷åñêèõ óðàâíåíèé ñ ìàòðèöåé êîýôôèöèåíòîâ A = {aij } , i, j = 1, n è âåêòîðîì ñâîáîäíûõ êîìïîíåíò b = (b1 , . . . , bn ) îòíîñèòåëüíî íåèçâåñòíîãî âåêòîðà x = (x1 , . . . , xn ) çàïèñûâàåòñÿ ñëåäóþùèì îáðàçîì a11 x1 + a12 x2 + . . . + a1n xn = b1 a21 x1 + a22 x2 + . . . + a2n xn = b2 (1) ... an1 x1 + an2 x2 + . . . + ann xn = bn èëè â ìàòðè÷íîé ôîðìå Ax = b . (1) Îòìåòèì, ÷òî äâå ñèñòåìû âèäà (1) íàçûâàþòñÿ ýêâèåñëè ìíîæåñòâà èõ ðåøåíèé ñîâïàäàþò. âàëåíòíûìè, Óêàæåì îäèí êëàññ ëèíåéíûõ ñèñòåì, ðåøåíèå êîòîðûõ ïðîâîäèòñÿ ýëåìåíòàðíî. Ïóñòü A âåðõíÿÿ òðåóãîëüíàÿ ìàòðèöà. Òîãäà ñèñòåìà (1) èìååò âèä n X aij xj = bi , i = 1, n j=i 13 (òðåóãîëüíàÿ ñèñòåìà).  ïðåäïîëîæåíèè, ÷òî detA 6= 0 åäèíñòâåííîå ðåøåíèå òàêîé ñèñòåìû íàõîäèòñÿ ïî ôîðìóëàì xn = n X bn 1 , xi = (bi − )aij xj , i = n − 1, 1 . ann aii j=i+1 Óïðàæíåíèå 1. Óêàçàòü ñîîòíîøåíèÿ äëÿ ðåøåíèÿ ëèíåéíîé ñèñòåìû ñ íèæíåé òðåóãîëüíîé ìàòðèöåé A. Îäíîé èç îñíîâíûõ èäåé ïðè ïîñòðîåíèè ìåòîäîâ ðåøåíèÿ ëèíåéíûõ ñèñòåì â îáùåé ïîñòàíîâêå (1) ÿâëÿåòñÿ ïîñëåäîâàòåëüíîé ïðåîáðàçîâàíèå èñõîäíîé ñèñòåìû ê ýêâèâàëåíòíîé ñ òðåóãîëüíîé ìàòðèöåé. Îòìåòèì, ÷òî ìåòîäû ðåøåíèÿ ëèíåéíûõ ñèñòåì ìîæíî ðàçäåëèòü íà äâå ãðóïïû: òî÷íûå (ïðÿìûå) è èòåðàöèîííûå. Òî÷íûå ìåòîäû ïîçâîëÿþò íàéòè ðåøåíèå ñèñòåìû çà êîíå÷íîå ÷èñëî àðèôìåòè÷åñêèõ îïåðàöèé. Èòåðàöèîííûå ìåòîäû ýòî ìåòîäû ïîñëåäîâàòåëüíûõ ïðèáëèæåíèé, êîòîðûå ïîçâîëÿþò íàéòè òî÷íîå ðåøåíèå â ðåçóëüòàòå âûïîëíåíèÿ áåñêîíå÷íîãî ÷èñëà àðèôìåòè÷åñêèõ îïåðàöèé êàê ïðåäåë ïîñëåäîâàòåëüíîñòè ïðèáëèæåíèé. Ñ ïîìîùüþ ìåòîäîâ ýòîãî òèïà çà êîíå÷íîå ÷èñëî èòåðàöèé ìîæíî íàéòè ïðèáëèæåííîå ðåøåíèå ñèñòåìû ñ çàäàííîé òî÷íîñòüþ. 14 2. Ìåòîä Ãàóññà Îïèøåì îäèí ìåòîä ðåøåíèÿ ëèíåéíîé ñèñòåìû (1), îòíîñÿùèéñÿ ê êëàññó òî÷íûõ ìåòîäîâ ìåòîä ïîñëåäîâàòåëüíîãî èñêëþ÷åíèÿ íåèçâåñòíûõ (ìåòîä Ãàóññà). Àëãîðèòì èñêëþ÷åíèÿ ñîñòîèò èç ïîñëåäîâàòåëüíîñòè øàãîâ. Èñêëþ÷åíèå íåèçâåñòíîé x1 èç âñåõ óðàâíåíèé ñèñòåìû (1), êðîìå ïåðâîãî. Ïóñòü a11 6= 0. Òîãäà èç ïåðâîãî óðàâíåíèÿ âûðàæàåì x1 Øàã 1. x1 = − 1 (a12 x2 + . . . + a1n xn − b1 ) a11 (2) ÷åðåç îñòàëüíûå íåèçâåñòíûå è ïîäñòàâëÿåì (2) âî 2-å, 3-å, . . ., n-å óðàâíåíèÿ ñèñòåìû (1). Ïîñëå ïîäñòàíîâêè ïîëó÷àåì ïðåîáðàçîâàííóþ èñõîäíóþ ñèñòåìó âèäà a11 x1 + a12 x2 + . . . + a1n xn = b1 (1) (1) (1) a22 x2 + . . . + a2n xn = b2 ... (1) (1) (1) an2 x2 + . . . + ann xn = bn (1) (3) (1) ãäå ýëåìåíòû aij , bi , i, j = 2, n ïîëó÷åíû ïî ôîðìóëàì (1) aij = a11 bi − b1 ai1 a11 aij − a1j ai1 (1) , bi = . a11 a11 (4) Îòìåòèì, ÷òî ýëåìåíò a11 â äàííîì ñëó÷àå íîñèò íàçâàíèå âåäóùåãî ýëåìåíòà ïåðâîãî øàãà. Åñëè â ñèñòåìå (1) a11 = 0, òî â ïåðâîì ñòîëáöå ìàòðèöû A, â ñèëó åå íåâûðîæäåííîñòè, íàéäåòñÿ íåíóëåâîé ýëåìåíò ai1 .  ýòîì ñëó÷àå 15 ïåðåä âûïîëíåíèåì øàãà 1 íåîáõîäèìî ïåðåñòàâèòü óðàâíåíèÿ ñ íîìåðàìè 1 è i è ïîñëå ýòîãî ïðîâîäèòü èñêëþ÷åíèå x1 . Óêàæåì ïðîñòîå äëÿ çàïîìèíàíèÿ ïðàâèëî âû÷èñëåíèÿ (1) (1) ýëåìåíòîâ aij è bi . Ñ ýòîé öåëüþ ïðåäñòàâèì ôîðìóëû (4) â âèäå a11 b1 a11 a1j det det ai1 bi ai1 aij (1) (1) , bi = . (5) aij = a11 a11 Îòìåòèì, ÷òî (2 × 2) ïîäìàòðèöû, ôèãóðèðóþùèå â (5), ëåãêî âûäåëÿþòñÿ èç ðàñøèðåííîé ìàòðèöû A = (A , b). Äëÿ èõ ôîðìèðîâàíèÿ óäîáíî âîñïîëüçîâàòüñÿ ïðàâèëîì (1) (1) ïðÿìîóãîëüíèêà: ïðè âû÷èñëåíèè ýëåìåíòà aij ( bi ) íåîáõîäèìî â ìàòðèöå A íà ýëåìåíòå aij ( bi ) è âåäóùåì ýëåìåíòå a11 âîññòàíîâèòü ïðÿìîóãîëüíèê. Èñêëþ÷åíèå íåèçâåñòíîé x2 èç âñåõ óðàâíåíèé (1) ñèñòåìû (3), êðîìå 1-ãî è 2-ãî. Ïóñòü a22 6= 0. Òîãäà èç âòîðîãî óðàâíåíèÿ âûðàæàåì x2 Øàã 2. x2 = − 1 (1) a22 (1) (1) (1) (a23 x3 + . . . + a2n xn − b2 ) (6) ÷åðåç îñòàëüíûå íåèçâåñòíûå è ïîäñòàâëÿåì (6) â 3-å, 4-å, . . ., n-å óðàâíåíèÿ ñèñòåìû (3).  ðåçóëüòàòå ïîëó÷àåì ñèñòåìó a11 x1 + a12 x2 + a13 x3 (1) (1) a22 x2 + a23 x3 (2) a33 xn ... (2) an3 x3 16 + . . . + a1n xn = b1 (1) (1) + . . . + a2n xn = b2 (2) (2) + . . . + a3n xn = b3 (2) (2) + . . . + ann xn = bn (2) (2) ãäå ýëåìåíòû aij , bi , i, j = 3, n ïîñëå âòîðîãî øàãà ïîëó÷åíû ïî ôîðìóëàì ! ! (1) (1) (1) (1) a22 a2j a22 b2 det det (1) (1) (1) (1) ai2 bi ai2 aij (2) (2) , bi = . aij = (1) (1) a22 a22 (1) Ýëåìåíò a22 íàçûâàåòñÿ âåäóùèì ýëåìåíòîì âòîðîãî øà(1) ãà. Åñëè a22 = 0, òî íåîáõîäèìî ïåðåñòàâèòü âòîðîå óðàâíåíèå ñèñòåìû (3) ñ îäíèì èç íèæåñëåäóþùèõ. Ïðîäîëæàÿ ýòîò ïðîöåññ èñêëþ÷åíèÿ ïðè óñëîâèè, ÷òî (2) (n−2) a33 6= 0 , . . . , an−1,n−1 6= 0 ïîñëå (n − 1)-ãî øàãà èñêëþ÷åíèÿ ïîëó÷èì ïðåîáðàçîâàííóþ èñõîäíóþ ñèñòåìó a11 x1 + a12 x2 + a13 x3 + . . . + a1n xn (1) (1) (1) a22 x2 + a23 x3 + . . . + a2n xn (2) (2) a33 xn + . . . + a3n xn ... (n−1) ann xn = b1 (1) = b2 (2) = b3 (n−1) = bn (7) Îòìåòèì, ÷òî ñèñòåìà (7) ýêâèâàëåíòíà èñõîäíîé. Åå ðåøåíèå ïðîâîäèòñÿ ýëåìåíòàðíî (ñì.ï.1), ÷òî è çàâåðøàåò ðåàëèçàöèþ ìåòîäà Ãàóññà. Ïåðåõîä îò ñèñòåìû (1) ê òðåóãîëüíîé ñèñòåìå (7) íàçûâàåòñÿ ïðÿìûì õîäîì ìåòîäà Ãàóññà, à ïðîöåäóðà âû÷èñëåíèÿ êîìïîíåíò ðåøåíèÿ ñèñòåìû (7) îáðàòíûì õîäîì ìåòîäà. 17 Çàìåòèì, ÷òî ïîñëå ïðîâåäåíèÿ ïðÿìîãî õîäà ìåòîäà Ãàóññà ìîæíî ðåøèòü çàäà÷ó âû÷èñëåíèÿ îïðåäåëèòåëÿ ìàòðèöû A (1) detA = (−1)k a11 a22 · · · a(n−1) nn ãäå k êîëè÷åñòâî ïåðåñòàíîâîê ñòðîê â ìàòðèöàõ ïðè âûáîðå âåäóùèõ ýëåìåíòîâ. Ïðèìåð 1. Ðåøèòü ëèíåéíóþ ñèñòåìó ìåòîäîì Ãàóññà x1 − 2x2 + 3x3 = 1 2x1 + 3x2 − x3 = 2 . −x1 − x2 + x3 = 3 Äëÿ óäîáñòâà âû÷èñëåíèé ðàññìîòðèì ðàñøèðåííóþ (n × (n + 1)) ìàòðèöó A, ïîëó÷åííóþ ïðèñîåäèíåíèåì ê ìàòðèöå A ñòîëáöà b 1 −2 3 1 3 −1 2 . A= 2 −1 −1 1 3 Ðåøåíèå. Ïðîâåäåì ïðÿìîé õîä ìåòîäà Ãàóññà. Ïîä÷åðêíåì, ÷òî íåîáõîäèìî áóäåò âûïîëíèòü äâà øàãà. Âåäóùèé ýëåìåíò ïåðâîãî øàãà a11 . Òîãäà, a11 a12 det a21 a22 1 · 3 − (−2) · 2 (1) (1) a22 = a22 = = =7, a11 1 a11 a13 det a21 a23 1 · (−1) − 3 · 2 (1) (1) a23 = a23 = = =7, a11 1 18 det (1) a24 = (1) b2 = a11 b1 a21 b2 a11 = 1·2−1·2 =0. 1 Àíàëîãè÷íî, (1) (1) (1) a32 = −3 , a33 = 4 , a34 = 4 . Òàêèì îáðàçîì, ïîñëå ïåðâîãî øàãà ïîëó÷èëè ïðåîáðàçîâàííóþ ìàòðèöó 1 −2 3 1 (1) 7 −7 0 . A = 0 0 −3 4 4  ðåçóëüòàòå âòîðîãî øàãà èìååì 1 −2 3 1 (2) 7 −7 0 . A = 0 0 0 1 4 (1) (âåäóùèé ýëåìåíò a22 ). Ïîëó÷èëè òðåóãîëüíóþ ñèñòåìó x1 − 2x2 + 3x3 = 1 7x2 − 7x3 = 0 . x3 = 4 Ïîñëåäîâàòåëüíî îïðåäåëÿåì êîìïîíåíòû åå ðåøåíèÿ x3 = 4 , x2 = 4 , x1 = −3 . Ïðè ýòîì, îïðåäåëèòåëü ìàòðèöû A ðàâåí detA = 1 · 7 · 1 = 7 . 19 Èòàê, ðåøåíèåì ñèñòåìû ÿâëÿåòñÿ âåêòîð x = (−3 4 4) 3. Âû÷èñëåíèå îáðàòíîé ìàòðèöû Ðàññìîòðèì çàäà÷ó îáðàùåíèÿ ìàòðèöû A ïîèñêà ìàòðèöû A−1 . Ïî îïðåäåëåíèþ, îáðàòíàÿ ìàòðèöà A−1 ÿâëÿåòñÿ ðåøåíèåì ìàòðè÷íîãî óðàâíåíèÿ AX = E . Ðàñïèøåì ýòî óðàâíåíèå ïî ñòîëáöàì ìàòðèöû X .  ðåçóëüòàòå ïîëó÷àåì n ëèíåéíûõ ñèñòåì âèäà Ax = ei , i = 1, n . (8) Ïðè ýòîì, ðåøåíèåì i-îé ñèñòåìû ÿâëÿåòñÿ i-é ñòîëáåö îáðàòíîé ìàòðèöû A−1 . Äëÿ ðåøåíèÿ êàæäîé èç ñèñòåì (8) ìîæíî èñïîëüçîâàòü, íàïðèìåð, ìåòîä Ãàóññà. Ïðèìåð 2. A= 2 1 −1 1 . Íàéòè îáðàòíóþ ìàòðèöó A−1 ìåòîäîì Ãàóññà. Äëÿ óäîáñòâà ðåàëèçàöèè ìåòîäà ðàññìîòðèì ðàñøèðåííóþ (2 × 4) ìàòðèöó A, ïîëó÷åííóþ ïðèñîåäèíåíèåì ê ìàòðèöå A åäèíè÷íîé ìàòðèöû E 2 1 1 0 A= . −1 1 0 1 Ðåøåíèå. 20 Ïðÿìîé õîä ìåòîäà Ãàóññà ïîòðåáóåò âûïîëíåíèÿ òîëüêî îäíîãî øàãà.  ðåçóëüòàòå ïîëó÷èì 2 1 1 0 (1) A = . 3 1 0 1 2 2 Ñëåäîâàòåëüíî, äëÿ ïîèñêà ñòîëáöîâ îáðàòíîé ìàòðèöû A−1 íåîáõîäèìî ðåøèòü äâå òðåóãîëüíûå ñèñòåìû ( ( 2x1 + x2 = 0 2x1 + x2 = 1 1 , 3 3 . x2 = x2 = 1 2 2 2 Ðåøåíèå ïåðâîé ñèñòåìû x = (1/3 1/3), ðåøåíèå âòîðîé x = (−1/3 2/3).  èòîãå, èìååì 1 1 3 −3 −1 A = . 1 2 3 3 Óïðàæíåíèÿ Íàéòè ðåøåíèå ëèíåéíîé ñèñòåìû ìåòîäîì Ãàóññà. Ïîäñ÷èòàòü îïðåäåëèòåëü ñèñòåìû. 1. 1.1. x1 + x2 + 2x3 = −2 x1 + 2x2 + 2x3 = 1 −x1 + x2 + 2x3 = −1 21 1.2. 1.3. 1.4. 1.5. 1.6. 1.7. 1.8. −2x1 + x2 + 3x3 = 1 2x1 + 2x2 − 2x3 = −1 −x1 + 2x2 − 3x3 = 3 −x1 + 2x2 − x3 = 2 3x1 − x2 − 2x3 = 3 x1 − x2 + 2x3 = 1 2x1 − 3x2 + 2x3 = 2 x1 − 2x2 + x3 = 2 2x1 − x2 − 3x3 = −1 2x1 + 2x2 + 2x3 = 1 x1 + x2 − x3 = −1 −x1 + x2 + 2x3 = 2 x1 + 3x2 − x3 = 2 x1 + 2x2 − x3 = 2 2x1 − 2x2 + 2x3 = 2 x1 − x2 + x3 = 1 x1 + 2x2 − x3 = 2 2x1 − 2x2 + 2x3 = 2 2x1 + x2 − 2x3 = −1 x1 + 2x2 − 4x3 = −1 −x1 + x2 − 2x3 = 2 22 Äëÿ çàäàííîé ìàòðèöû A íàéòè îáðàòíóþ A−1 . Ïîäñ÷èòàòü detA. 2. 2.1. 2.2. 2.3. 2.4. 2.5. 2.6. 2 1 1 2 1 A= 3 1 −1 2 2 3 −2 1 1 A = −1 2 −1 −3 −4 2 −2 2 A = −1 −1 1 2 −3 −2 1 1 A = 3 2 −1 −1 1 2 1 −3 2 4 −1 A = −3 1 1 1 −1 2 −1 2 −1 A = −3 −4 −2 −1 23 2.7. 2.8. 2 4 2 A = −3 −6 2 2 −1 2 1 −2 −2 1 A = 1 −2 1 −1 −1 24 3. Èòåðàöèîííûå ìåòîäû ðåøåíèÿ ëèíåéíûõ ñèñòåì 1. Ìåòîä ïðîñòîé èòåðàöèè êå Ðàññìîòðèì ëèíåéíóþ ñèñòåìó â ñëåäóþùåé ïîñòàíîâ- x = Bx + c , (1) ãäå B (n × n) ìàòðèöà, c n-ìåðíûé âåêòîð. Îðãàíèçóåì èòåðàöèîííûé ïðîöåññ ïîèñêà ðåøåíèÿ x∗ ñèñòåìû (1) ïî ïðàâèëó xk+1 = i n X bij xkj + ci , i = 1, . . . , n , k = 0, 1, . . . . (2) j=1 Çäåñü k íîìåð èòåðàöèè, xk k -òîå ïðèáëèæåíèå, x0 íà÷àëüíîå ïðèáëèæåíèå. Ïðàâèëî (2) ïåðåõîäà îò xk ê xk+1 íàçûâàåòñÿ ìåòîäîì ïðîñòîé èòåðàöèè. äà. Ñôîðìóëèðóåì äîñòàòî÷íîå óñëîâèå ñõîäèìîñòè ìåòî- Òåîðåìà 1. Åñëè k B k< 1 , òî ìåòîä ïðîñòîé èòåðàöèè ñõîäèòñÿ (xk → x∗ , k → ∞) ïðè ëþáîì âûáîðå íà÷àëüíîãî ïðèáëèæåíèÿ x0 . Ñêîðîñòü ñõîäèìîñòè ìåòîäà õàðàêòåðèçóåòñÿ íåðàâåíñòâîì k xk+1 −x∗ k≤k B k · k xk −x∗ k . Îöåíêà ïîãðåøíîñòè èìååò âèä k xk − x∗ k≤ kBk k xk − xk−1 k . 1− k B k 25 (3) Ïóñòü > 0 çàäàííàÿ òî÷íîñòü ðåøåíèÿ. Ãîâîðÿò, ÷òî âåêòîð x ÿâëÿåòñÿ ïðèáëèæåííûì ðåøåíèåì ëèíåéíîé ñèñòåìû ñ òî÷íîñòüþ , åñëè âûïîëíåíî íåðàâåíñòâî k x − x∗ k≤ . Òîãäà, â ñèëó (3), óñëîâèåì îñòàíîâêè ìåòîäà ìîæåò ñëóæèòü ñîîòíîøåíèå kBk k xk − xk−1 k≤ . 1− k B k  ýòîì ñëó÷àå xk ÿâëÿåòñÿ ïðèáëèæåííûì ðåøåíèåì ñ òî÷íîñòüþ . 2. Ìåòîä Çåéäåëÿ Ðàññìîòðèì ëèíåéíóþ ñèñòåìó â âèäå (1). Îïèøåì èòåðàöèîííûé ïðîöåññ ïîèñêà ðåøåíèÿ ýòîé ñèñòåìû. Ïóñòü íà k -òîì øàãå (k = 0, 1, . . .) èìååòñÿ ïðèáëèæåíèå xk . Îïðåäåëèì 1-þ êîìïîíåíòó k + 1-ãî ïðèáëèæåíèÿ ïî ìåòîäó ïðîñòîé èòåðàöèè: = b11 xk1 + b12 xk2 + . . . + b1n xkn + c1 . xk+1 1 Äàëåå, âîñïîëüçóåìñÿ âòîðûì óðàâíåíèåì ñèñòåìû (1) äëÿ òîãî, ÷òîáû íàéòè xk+1 2 . Ïðè ýòîì ó÷èòûâàåì, ÷òî ïåðâàÿ êîîðäèíàòà î÷åðåäíîãî ïðèáëèæåíèÿ óæå íàéäåíà. Ïîëó÷àåì = b21 xk+1 + b22 xk2 + . . . + b2n xkn + c2 . xk+1 2 1 26 Ïðîäîëæàÿ äåéñòâîâàòü ïî ýòîé ñõåìå, èìååì k k xk+1 = bi1 xk+1 + . . . + bi,i−1 xk+1 1 i i−1 + bii xi + . . . + bin xn + ci = = i−1 X j=1 bij xk+1 + j n X bij xkj + ci , i = 1, n . (4) j=i Òàêèì îáðàçîì, â îòëè÷èå îò ìåòîäà ïðîñòîé èòåðàöèè, ïðè ïîäñ÷åòå xk+1 , i = 2, . . . , n èñïîëüçóþòñÿ óæå èçâåñòi íûå êîîðäèíàòû íîâîãî ïðèáëèæåíèÿ xk+1 , j = 1, . . . , j i − 1 . Ðàñ÷åòíàÿ ôîðìóëà (4) îïðåäåëÿåò ìåòîä Çåéäåëÿ äëÿ ëèíåéíîé ñèñòåìû (1). Òåîðåìà 2. Åñëè k B k∞ < 1 , òî ìåòîä Çåéäåëÿ ñõîäèòñÿ ïðè ëþáîì âûáîðå íà÷àëüíîãî ïðèáëèæåíèÿ x0 . Ñêîðîñòü ñõîäèìîñòè ìåòîäà îïðåäåëÿåòñÿ íåðàâåíñòâîì k xk+1 − x∗ k∞ ≤ µ k xk − x∗ k . Îöåíêà ïîãðåøíîñòè èìååò âèä µ k xk − xk−1 k∞ , k = 1, 2, . . . , (5) k x k − x ∗ k∞ ≤ 1−µ i−1 n X X βi , αi = | bij | , βi = ãäå µ = max | bij | . 1≤i≤n 1 − αi j=1 j=i Ïðè ýòîì êà÷åñòâî ìîäèôèêàöèè õàðàêòåðèçóåòñÿ íåðàâåíñòâîì µ ≤k B k∞ . Ýòî îçíà÷àåò, ÷òî ñêîðîñòü ñõîäèìîñòè ìåòîäà Çåéäåëÿ íå íèæå, ÷åì ó ìåòîäà ïðîñòîé èòåðàöèè. Îòìåòèì, ÷òî ìåòîäû ïðîñòîé èòåðàöèè è Çåéäåëÿ ïðèìåíèìû ê ëèíåéíûì ñèñòåìàì, çàäàííûì â âèäå (1), óäîáíîì äëÿ èòåðàöèé. Ðàññìîòðèì ñèñòåìó â íîðìàëüíîé ôîðìå Ax = b (6) 27 è îïèøåì îäèí èç ñïîñîáîâ ïðèâåäåíèÿ ýòîé ñèñòåìû ê ïðåäñòàâëåíèþ (1). 3. Ìåòîä ßêîáè Èç ïåðâîãî óðàâíåíèÿ ñèñòåìû (6) âûðàçèì x1 : x1 = − a13 a1n b1 a12 x2 − x3 − . . . − xn + . a11 a11 a11 a11 Àíàëîãè÷íî, âòîðîå óðàâíåíèå ðàçðåøèì îòíîñèòåëüíî x2 : x2 = − a21 a23 a2n b2 x1 − x3 − . . . − xn + . a22 a22 a22 a22 è ò.ä. xn = − an1 an2 an,n−1 bn x1 − x2 − . . . − xn−1 + . ann ann ann ann  ðåçóëüòàòå ïîëó÷èì ñèñòåìó â âèäå (1), ãäå B= 0 − an1 ann a12 a1n ... − a11 a11 ... an2 − ... 0 ann − , c= b1 a11 ... bn ann . Ïîêàçàòü, ÷òî åñëè A ìàòðèöà ñî ñòðîãèì äèàãîíàëüíûì ïðåîáëàäàíèåì, òî äëÿ ìåòîäîâ ïðîñòîé èòåðàöèè è Çåéäåëÿ âûïîëíåíî äîñòàòî÷íîå óñëîâèå ñõîäèìîñòè. Óïðàæíåíèå 1. 28 Ïðèìåð 1. 4x1 + x2 = 2 , x0 = x1 + 3x2 = 1 1 2 . Ïðîâåñòè îäèí øàã ìåòîäà ïðîñòîé èòåðàöèè. Îöåíèòü ïîãðåøíîñòü ïîëó÷åííîãî ïðèáëèæåíèÿ. Ñäåëàòü çàêëþ÷åíèå î ñõîäèìîñòè ìåòîäà. Ðåøåíèå. Âîñïîëüçóåìñÿ ìåòîäîì ßêîáè äëÿ ïðèâåäåíèÿ ñèñòåìû ê âèäó, óäîáíîìó äëÿ èòåðàöèé 1 1 x = − x + 1 2 4 2 . (7) 1 1 x2 = − x1 + 3 3 Çäåñü 1 1 0 −4 2 B= , c = . 1 1 − 0 3 3 Ïðèìåíèì òåïåðü ðàñ÷åòíóþ ôîðìóëó (2) ìåòîäà ïðîñòîé èòåðàöèè.  ðåçóëüòàòå ïîëó÷àåì 1 1 x11 = − x02 + = 0 4 2 1 1 x12 = − x01 + = 0 . 3 3 Èñïîëüçóÿ íåðàâåíñòâî (3), îöåíèì ïîãðåøíîñòü íàéäåííîãî ïðèáëèæåíèÿ x1 . Ïðîâåäåì íåîáõîäèìûå âû÷èñëåíèÿ 1 1 1 k B k∞ = max{ , } = , k x1 − x0 k∞ = max{1, 2} = 2 . 4 3 3 29 Ñëåäîâàòåëüíî, 1 3 k x 1 − x ∗ k∞ ≤ 1− 1 3 ·2=1. Ïîñêîëüêó, k B k∞ < 1 (èñõîäíàÿ ìàòðèöà A ìàòðèöà ñî ñòðîãèì äèàãîíàëüíûì ïðåîáëàäàíèåì), òî ìåòîä ïðîñòîé èòåðàöèè ñõîäèòñÿ.  óñëîâèÿõ ïðèìåðà 1 ïðîâåñòè îäíó èòåðàöèþ ìåòîäà Çåéäåëÿ. Îöåíèòü ïîãðåøíîñòü ïîëó÷åííîãî ïðèáëèæåíèÿ. Ïðèìåð 2. Ðåøåíèå. Íàïîìíèì, ÷òî ìåòîäîì ßêîáè ìû óæå ïðèâåëè èñõîäíóþ ñèñòåìó ê âèäó (7). Ñëåäóÿ ïðàâèëó (4), ïîëó÷èì 1 1 x11 = − x02 + = 0 4 2 1 1 1 x12 = − x11 + = . 3 3 3 Ïðîâåäåì îöåíêó ïîãðåøíîñòè, âîñïîëüçîâàâøèñü íåðàâåíñòâîì (5). Ñ ýòîé öåëüþ ïîäñ÷èòàåì α1 = 0 , α2 = 1 1 , β1 = , β2 = 0 , 3 4 1 1 5 5 µ = max{ , 0} = , k x1 − x0 k∞ = max{1, } = . 4 4 3 3  èòîãå èìååì k x 1 − x ∗ k∞ ≤ 1 4 1 1− 4 30 · 5 5 = . 3 9 Óïðàæíåíèÿ Äëÿ ñëåäóþùèõ ñèñòåì ïðîâåñòè îäèí øàã a) ìåòîäà ïðîñòîé èòåðàöèè; b) ìåòîäà Çåéäåëÿ. Îöåíèòü ïîãðåøíîñòü ïîëó÷åííîãî ïðèáëèæåíèÿ. 1. 1.1. 1 6x1 + x2 − 2x3 = 1 x1 + 5x2 + x3 = 2 , x0 = 2 x1 + 2x2 + 4x3 = 3 −1 1.2. 2x3 = −1 0 −4x1 + x2 + 2x1 + 4x2 + x3 = 2 , x0 = −2 x1 +3x3 = 1 1 1.3. x3 = 2 2 3x1 + x1 + 5x2 + 2x3 = −1 , x0 = 4 −x1 + x2 + 4x3 = 1 −1 1.4. −5x1 − x1 x2 + x3 = 1 −1 3x2 − x3 = 1 , x0 = 3 + x2 − 3x3 = −3 0 1.5. 2 3x1 + x2 − x3 = 2 2x1 + 4x2 + x3 = 2 , x0 = −2 1 x1 + 2x2 + 5x3 = 3 31 1.6. 1 4x1 + x2 + 2x3 = 2 2x1 + 4x2 − x3 = −1 , x0 = 3 −x1 + x2 + 5x3 = 3 −1 1.7. −3 6x1 + 2x2 − 3x3 = 2 2x1 + 5x2 + 2x3 = −1 , x0 = 2 2x1 + x2 + 8x3 = 4 1 1.8. 2 5x1 − x2 + 3x3 = 1 x1 + 3x2 − x3 = 4 , x0 = 1 3x1 + x2 + 5x3 = −2 −1 32 4. Ëèíåéíûå ñèñòåìû. Ðåäóêöèÿ ê ýêñòðåìàëüíûì çàäà÷àì 1. Âñïîìîãàòåëüíûå ðåçóëüòàòû Ïóñòü ôóíêöèÿ f (x) îïðåäåëåíà íà ïðîñòðàíñòâå Rn . Ôóíêöèÿ f (x) íàçûâàåòñÿ äèôôåðåíâ òî÷êå x ∈ Rn , åñëè äëÿ ëþáîãî ïðèðàùåíèÿ ∆x èìååò ìåñòî ïðåäñòàâëåíèå Îïðåäåëåíèå 1. öèðóåìîé f (x + ∆x) − f (x) = hl(x), ∆xi + o(k ∆x k) , (1) ãäå l(x) ∈ Rn , îñòàòîê o(k ∆x k) îáëàäàåò ñëåäóþùèì ñâîéñòâîì o(k ∆x k) → 0 , k ∆x k→ 0 . (2) k ∆x k Îòìåòèì, ÷òî âåêòîð l(x) íàçûâàåòñÿ ãðàäèåíòîì ôóíêöèè f â òî÷êå x è îáîçíà÷àåòñÿ ÷åðåç ∇f (x). Âåêòîð −∇f (x) íàçûâàåòñÿ àíòèãðàäèåíòîì ôóíêöèè f â òî÷êå x. Ñîãëàñíî (1), ∇f (x) åñòü âåêòîð, ñîñòàâëåííûé èç ÷àñòíûõ ïðîèçâîäíûõ ôóíêöèè f : ∂f (x) ∂f (x) ∇f (x) = . ... ∂x1 ∂xn Ïðèìåð 1. Íàéòè ãðàäèåíò ôóíêöèè 1 f (x) = hx, Axi , AT = A . 2 33 Ðåøåíèå. Âîñïîëüçóåìñÿ îïðåäåëåíèåì 1. Ïîëó÷èì âûðàæåíèå äëÿ ïðèðàùåíèÿ ôóíêöèè f 1 1 f (x + ∆x) − f (x) = hx + ∆x, A(x + ∆x)i − hx, Axi = 2 2 1 1 = hx, Axi + hAx, ∆xi + h∆x, A∆xi− 2 2 1 1 − hx, Axi = hAx, ∆xi + h∆x, A∆xi . 2 2 Ïîêàæåì, ÷òî äëÿ âòîðîãî ñëàãàåìîãî âûïîëíÿåòñÿ ñâîéñòâî (2).  ñîãëàñîâàííûõ íîðìàõ èìååì ñëåäóþùóþ îöåíêó | h∆x, A∆xi |≤k ∆x k · k A∆x k≤k A k · k ∆x k2 . Îòñþäà, 1 h∆x, A∆xi 2 → 0 ïðè k ∆x k→ 0 . k ∆x k  ðåçóëüòàòå, ïîëó÷àåì ∇f (x) = Ax . Ïîñòàâèì ñëåäóþùóþ çàäà÷ó: íàéòè òî÷êó x∗ ∈ Rn òàêóþ, ÷òî f (x∗ ) ≤ f (x) , ∀x ∈ Rn . Îòìåòèì, ÷òî â ýòîì ñëó÷àå òî÷êà x∗ íàçûâàåòñÿ òî÷êîé ìèíèìóìà ôóíêöèè f (x) íà Rn èëè ðåøåíèåì çàäà÷è íà ìèíèìóì f (x) → min , x ∈ Rn . 34 (3) Òåîðåìà 1. Ïóñòü ôóíêöèÿ f (x) äèôôåðåíöèðóåìà â òî÷êå x∗ . Òîãäà, åñëè x∗ ðåøåíèå çàäà÷è (3), òî ∇f (x∗ ) = 0 . (4) Ïîä÷åðêíåì, ÷òî ðàâåíñòâî (4) ÿâëÿåòñÿ íåîáõîäèìûì óñëîâèåì ìèíèìóìà ôóíêöèè f (x) â òî÷êå x∗ . Âåêòîð p ∈ Rn íàçûâàåòñÿ íàïðàâëåíèåì ñïóñêà ôóíêöèè f â òî÷êå x, åñëè f (x + αp) < f (x) äëÿ äîñòàòî÷íî ìàëûõ α. Îïðåäåëåíèå 2. Óòâåðæäåíèå 1. Ïóñòü ∇f (x) 6= 0 . Òîãäà âåêòîð p ÿâëÿåòñÿ íàïðàâëåíèåì ñïóñêà, åñëè hp, ∇f (x)i < 0. Íåòðóäíî âèäåòü, ÷òî âåêòîð p = −∇f (x) ÿâëÿåòñÿ íàïðàâëåíèåì ñïóñêà ôóíêöèè f (x) â òî÷êå x. Óòâåðæäåíèå 2. Âåêòîð −∇f (x) óêàçûâàåò íàïðàâëåíèå ñêîðåéøåãî óáûâàíèÿ ôóíêöèè f â òî÷êå x. Îòìåòèì, ÷òî äëÿ ôóíêöèè äâóõ ïåðåìåííûõ àíòèãðàäèåíò â òî÷êå x ïðåäñòàâëÿåò ñîáîé âåêòîð, ïåðïåíäèêóëÿðíûé êàñàòåëüíîé ê ëèíèè óðîâíÿ ôóíêöèè â ýòîé òî÷êå è íàïðàâëåííûé â ñòîðîíó óáûâàíèÿ ôóíêöèè. Óêàæåì ãåîìåòðè÷åñêóþ èíòåðïðåòàöèþ (x∗ òî÷êà ìèíèìóìà ôóíêöèè f (x)). 35 2. Ìåòîä ñêîðåéøåãî ñïóñêà Ðàññìîòðèì ëèíåéíóþ ñèñòåìó Ax = b , (5) ãäå A (n×n) ñèììåòðè÷íàÿ, ïîëîæèòåëüíî îïðåäåëåííàÿ ìàòðèöà: AT = A , A > 0 . (6) Ñôîðìèðóåì ñëåäóþùóþ ôóíêöèþ 1 φ(x) = hx, Axi − hb, xi . 2 Îòìåòèì, ÷òî ∇φ(x) = Ax − b . 36 Ðàññìîòðèì ýêñòðåìàëüíóþ çàäà÷ó φ(x) → min , x ∈ Rn . (7) Òî÷êà x∗ ÿâëÿåòñÿ ðåøåíèåì ñèñòåìû (5) ñ óñëîâèåì (6) òîãäà è òîëüêî òîãäà, êîãäà x∗ ðåøåíèå çàäà÷è (7). Òåîðåìà 2. Èíûìè ñëîâàìè, çàäà÷è (5)-(6) è (7) ýêâèâàëåíòíû. Îïèøåì ìåòîä ïîñëåäîâàòåëüíûõ ïðèáëèæåíèé äëÿ ðåøåíèÿ çàäà÷è (7). Ïóñòü íà k -òîì øàãå èòåðàöèîííîãî ïðîöåññà (k = 0, 1, . . .) èìååòñÿ òî÷êà xk ∈ Rn . Ïîñòðîèì ñåìåéñòâî òî÷åê xk (α) = xk − α∇φ(xk ) (8) ñ ÷èñëîâûì ïàðàìåòðîì α > 0. Ðåøèì âñïîìîãàòåëüíóþ çàäà÷ó îòíîñèòåëüíî ïàðàìåòðà α φ(xk (α)) → min , α > 0 . (9) Ïóñòü αk åå ðåøåíèå. Òîãäà ñëåäóþùåå ïðèáëèæåíèå (xk+1 ) ñôîðìèðóåì ïî ïðàâèëó xk+1 = xk (αk ) . (10) Ñîîòíîøåíèÿ (8)-(10) îïðåäåëÿþò ìåòîä ñêîðåéøåãî ñïóñêà äëÿ çàäà÷è (7). Îòìåòèì, ÷òî óñëîâèåì îñòàíîâêè ìåòîäà ÿâëÿåòñÿ âûïîëíåíèå ðàâåíñòâà ∇φ(xk )) = 0 (Axk − b = 0). Ýòî îçíà÷àåò, ÷òî xk = x∗ . 37 Óêàæåì ðàñ÷åòíóþ ôîðìóëó äëÿ âåëè÷èíû αk . Îáîçíà÷èì gk (α) = φ(xk (α)). Òîãäà, 1 gk (α) = hxk − α∇φ(xk ), A(xk − α∇φ(xk ))i− 2 1 −hb, xk − α∇φ(xk )i = α2 h∇φ(xk ), A∇φ(xk )i− 2 −αh∇φ(xk ), ∇φ(xk )i + φ(xk ) . Ôóíêöèÿ gk (α) åñòü âûïóêëàÿ ïàðàáîëà (êîýôôèöèåíò ïðè α2 ïîëîæèòåëåí). Ïîýòîìó äëÿ ïîèñêà åå òî÷êè ìèíèìóìà (áåç ó÷åòà îãðàíè÷åíèÿ α > 0) äîñòàòî÷íî ðåøèòü óðàâíåíèå gk0 (α) = 0 .  ðåçóëüòàòå ïîëó÷àåì αk = h∇φ(xk ), ∇φ(xk )i . h∇φ(xk ), A∇φ(xk )i (11) Ïîñêîëüêó αk > 0, òî äåëàåì âûâîä, ÷òî ôîðìóëà (11) îïðåäåëÿåò ðåøåíèå çàäà÷è (9). Ïðèìåð 2. 2x1 − x2 = 1 , x0 = −x1 + 3x2 = 0 1 1 . Ïðîâåñòè îäíó èòåðàöèþ ìåòîäà ñêîðåéøåãî ñïóñêà. Ìàòðèöà A è âåêòîð b èìåþò âèä 2 −1 1 A= , b= . −1 3 0 Ðåøåíèå. 38 Íàéäåì ãðàäèåíò ôóíêöèè φ â òî÷êå x0 1 0 1 2 −1 0 0 ∇φ(x ) = Ax − b = − = −1 3 1 0 2 Ïîäñ÷èòàåì çíà÷åíèå α0 ïî ôîðìóëå (11) α0 = 4 1 h∇φ(x0 ), ∇φ(x0 )i = = . h∇φ(x0 ), A∇φ(x0 )i 12 3 Òîãäà, 1 x1 = x0 − α0 ∇φ(x0 ) = 1 − 1 3 0 = 2 0 1 3 ! . 3. Ìåòîä ìèíèìàëüíûõ íåâÿçîê Ðàññìîòðèì ëèíåéíóþ ñèñòåìó â ïîñòàíîâêå (5)-(6). Ââåäåì âåêòîð íåâÿçîê r(x) = Ax − b . Ðàâåíñòâî r(x∗ ) = 0 îçíà÷àåò, ÷òî x∗ ÿâëÿåòñÿ ðåøåíèåì ñèñòåìû (5). Îòìåòèì, ÷òî ∇φ(x) = r(x). Îðãàíèçóåì ñëåäóþùèé èòåðàöèîííûé ïðîöåññ ïîèñêà ðåøåíèÿ çàäà÷è (5)-(6). Ïî èçâåñòíîìó ïðèáëèæåíèþ xk , k = 0, 1, . . . ïîñòðîèì ñåìåéñòâî òî÷åê xk (α) = xk − αr(xk ) 39 ñ ïàðàìåòðîì α > 0. Çàìåòèì, ÷òî ýòî ïðàâèëî ñîâïàäàåò ñ ôîðìóëîé (8) äëÿ ìåòîäà ñêîðåéøåãî ñïóñêà. Äàëåå, â îòëè÷èå îò (9), ðåøèì âñïîìîãàòåëüíóþ çàäà÷ó íà ìèíèìóì íåâÿçêè 1 k r(xk (α)) k22 → min , α ∈ R . 2 Ïóñòü ðåøåíèåì ýòîé çàäà÷è ÿâëÿåòñÿ âåëè÷èíà αk . Òîãäà îáðàçóåì ñëåäóþùåå ïðèáëèæåíèå xk+1 = xk (αk ) . Óïðàæíåíèå 1. Äîêàçàòü, ÷òî αk = hr(xk ), Ar(xk )i . hAr(xk ), Ar(xk )i (12) Ïðèìåð 3. x1 + x2 = 1 , x0 = x1 + 3x2 = 1 −1 2 . Ïðîâåñòè îäíó èòåðàöèþ ìåòîäà ìèíèìàëüíûõ íåâÿçîê. Ðåøåíèå.  äàííîé ñèòóàöèè 1 1 1 A= , b= . 1 3 1 Îïðåäåëèì âåêòîð íåâÿçîê 0 1 1 −1 1 0 0 r(x ) = Ax − b = − = . 1 3 2 1 4 40 Âîñïîëüçóåìñÿ ôîðìóëîé (12) äëÿ âû÷èñëåíèÿ çíà÷åíèÿ α0 hr(x0 ), Ar(x0 )i 48 α0 = = = 0.3 . 0 0 hAr(x ), Ar(x )i 160  ðåçóëüòàòå ïîëó÷àåì −1 0 1 1 0 0 x = x − α0 r(x ) = − 0.3 = . 2 4 0.8 4. Ìåòîä ìèíèìàëüíûõ îøèáîê Ïðîäîëæèì èçó÷åíèå çàäà÷è (5). Îòìåòèì, ÷òî çäåñü ìû íå òðåáóåì âûïîëíåíèÿ óñëîâèé (6). Ââåäåì â ðàññìîòðåíèå ñëåäóþùóþ ôóíêöèþ ξ(x) = 1 k Ax − b k22 . 2 Ýòî íåâÿçêà ñèñòåìû (5) â òî÷êå x: ξ(x) ≥ 0 , ξ(x) = 0 ⇔ ⇔ Ax = b. Óïðàæíåíèå 2. Ïîêàçàòü, ÷òî ∇ξ(x) = AT (Ax − b). Íåòðóäíî âèäåòü, ÷òî çàäà÷à (5) ýêâèâàëåíòíà çàäà÷å íà ìèíèìóì íåâÿçêè ξ(x) → min , x ∈ Rn . Ïîñòðîèì èòåðàöèîííûé ïðîöåññ ïîèñêà ðåøåíèÿ ëèíåéíîé ñèñòåìû (5) íà îñíîâå ξ(x). 41 Ïóñòü èìååòñÿ ïðèáëèæåíèå xk ∈ Rn , k = 0, 1, . . . . Îáðàçóåì α-ïàðàìåòðè÷åñêîå ñåìåéñòâî òî÷åê xk (α) = xk − α∇ξ(xk ) , α > 0 . Íàéäåì âåëè÷èíó αk êàê ðåøåíèå çàäà÷è 1 k xk (α) − x∗ k22 → min , α > 0 , 2 ãäå x∗ ðåøåíèå çàäà÷è (5).  ðåçóëüòàòå ïîëàãàåì xk+1 = xk (αk ) . Óïðàæíåíèå 3. íèÿ Äîêàçàòü ñïðàâåäëèâîñòü ñîîòíîøå- αk = x. 2ξ(xk ) . h∇ξ(xk ), ∇ξ(xk )i (13) Îòìåòèì èíòåðåñíûé ôàêò: ôîðìóëà (13) íå çàâèñèò îò ∗ Ïðèìåð 4. x1 − x2 = −1 , x0 = 2x1 + x2 = 2 0 1 . Ïðîâåñòè îäíó èòåðàöèþ ìåòîäà ìèíèìàëüíûõ îøèáîê. Ïàðàìåòðû çàäà÷è: 1 −1 −1 A= , b= . 2 1 2 Ðåøåíèå. Íàéäåì ãðàäèåíò ôóíêöèè ξ â òî÷êå x0 ∇ξ(x0 ) = AT (Ax0 − b) = 42 1 2 −1 1 1 −1 2 1 Òîãäà, α0 = 0 1 − −1 2 = −2 −1 . 1 2ξ(x0 ) = . h∇ξ(x0 ), ∇ξ(x0 )i 5 Ñëåäîâàòåëüíî, 2 1 −2 0 5 1 0 0 x = x − α0 ∇ξ(x ) = − = . 1 5 −1 6 5 Ïîäâåäåì èòîã. Ìåòîäû, èçëîæåííûå â íàñòîÿùåì ðàçäåëå, îïèðàþòñÿ íà ðåäóêöèþ ëèíåéíîé ñèñòåìû ê çàäà÷àì íà ìèíèìóì è ðàçëè÷àþòñÿ ìåæäó ñîáîé, ïî ñóòè äåëà, õàðàêòåðîì âñïîìîãàòåëüíûõ ïîäçàäà÷ íà ïîèñê øàãà αk .  ìåòîäå ñêîðåéøåãî ñïóñêà íàõîäèòñÿ ìèíèìóì ôóíêöèè φ(x) âäîëü íàïðàâëåíèÿ åå àíòèãðàäèåíòà.  ìåòîäå ìèíèìàëüíûõ íåâÿçîê îáåñïå÷èâàåòñÿ íàèìåíüøåå çíà÷åíèå íåâÿçêè âäîëü òîãî æå íàïðàâëåíèÿ.  ìåòîäå ìèíèìàëüíûõ îøèáîê ãàðàíòèðóåòñÿ ìèíèìàëüíàÿ âåëè÷èíà ïîãðåøíîñòè (îøèáêè) âäîëü íàïðàâëåíèÿ àíòèãðàäèåíòà ôóíêöèè íåâÿçêè. Óïðàæíåíèÿ  ñëåäóþùèõ ñèñòåìàõ ïðîâåñòè îäíó èòåðàöèþ a) ìåòîäà ñêîðåéøåãî ñïóñêà; b) ìåòîäà ìèíèìàëüíûõ íåâÿçîê; c) ìåòîäà ìèíèìàëüíûõ îøèáîê. 1. 43 1.1. 1 2x1 + x2 − x3 = 1 x1 + 2x2 + 2x3 = 0 , x0 = 0 −x1 + 2x2 + 5x3 = 0 0 1.2. −1 3x1 + x2 + x3 = −1 x1 + 3x2 + 2x3 = 2 , x0 = 0 x1 + 2x2 + 2x3 = 1 1 1.3. 1 2x1 − x2 + x3 = 1 0 −x1 + 3x2 =0 , x = 1 x1 + x3 = 1 0 1.4. 3x1 + x1 x2 − x2 x3 = 1 0 − x3 = −1 , x0 = −1 + 2x3 = 1 1 1.5. = −2 0 x1 + x2 0 x1 + 3x2 + x3 = 0 0 , x = x2 + x3 = 0 1 1.6. =0 0 4x1 + x2 0 x1 + 2x2 + x3 = 2 , x = 0 x2 + x3 = 0 1 44 1.7. x1 x1 3x2 − x2 + x3 = −1 1 0 − x3 = 0 0 , x = + 2x3 = 1 1 1.8. 0 2x1 + x2 + x3 = 0 0 1 x1 + x2 + x3 = −1 , x = x1 + x2 + 2x3 = 1 0 45 5. Ñèñòåìû ñ ïðÿìîóãîëüíûìè ìàòðèöàìè Ðàññìîòðèì ëèíåéíóþ ñèñòåìó Ax = b , (1) ãäå A (m × n) ìàòðèöà êîýôôèöèåíòîâ, b ∈ Rm âåêòîð ïðàâûõ ÷àñòåé. Îòìåòèì, ÷òî ñèñòåìà (1) ìîæåò íå èìåòü ðåøåíèé (â îáû÷íîì ñìûñëå). Ðàñøèðèì ïîíÿòèå ðåøåíèÿ ñèñòåìû (1). Ñôîðìóëèðóåì ýêñòðåìàëüíóþ çàäà÷ó íà ìèíèìóì íåâÿçêè k Ax − b k2 → min , x ∈ Rn . (2) Ïåðåõîä îò (1) ê (2) íàçûâàåòñÿ ìåòîäîì íàèìåíüøèõ êâàäðàòîâ.  îòëè÷èå îò (1), çàäà÷à (2) âñåãäà èìååò ðåøåíèå (âîçìîæíî íååäèíñòâåííîå). Îïðåäåëåíèå 1. Ïñåâäîðåøåíèåì âàåòñÿ ëþáîå ðåøåíèå çàäà÷è (2). ñèñòåìû (1) íàçû- Åñëè ñèñòåìà (1) ñîâìåñòíà, òî åå ïñåâäîðåøåíèÿ ñîâïàäàþò ñ îáû÷íûìè ðåøåíèÿìè.  ýòîì ñëó÷àå çíà÷åíèå çàäà÷è (2) ðàâíî íóëþ. Îïðåäåëåíèå 2. Íîðìàëüíûì ïñåâäîðåøåíèåì ñèñòåìû (1) íàçûâàåòñÿ ïñåâäîðåøåíèå ñ íàèìåíüøåé íîðìîé. Ïî çàäà÷å (2) ââåäåì â ðàññìîòðåíèå ôóíêöèþ 1 1 1 φ(x) = hAx − b, Ax − bi = hx, AT Axi − hx, AT bi + hb, bi . 2 2 2 Ïðè ýòîì, ∇φ(x) = AT (Ax − b) . Òîãäà çàäà÷à (2) ïðåäñòàâëÿåòñÿ â âèäå φ(x) → min , x ∈ Rn 46 è ýêâèâàëåíòíà ëèíåéíîé ñèñòåìå AT Ax = AT b (3) ñ (n×n) ñèììåòðè÷íîé, íåîòðèöàòåëüíî îïðåäåëåííîé ìàòðèöåé AT A. Ñèñòåìà (3) íàçûâàåòñÿ íîðìàëüíîé ñèñòåìîé óðàâíåÎíà âñåãäà ñîâìåñòíà è ëþáîå åå ðåøåíèå åñòü ïñåâäîðåøåíèå ñèñòåìû (1). íèé. Ðàññìîòðèì ñëó÷àé m ≥ n , rankA = n (÷èñëî óðàâíåíèé íå ìåíüøå ÷èñëà íåèçâåñòíûõ è ìàòðèöà A èìååò ïîëíûé ñòîëáöîâûé ðàíã). Òîãäà, êàê èçâåñòíî, ìàòðèöà AT A íåâûðîæäåíà è åäèíñòâåííîå ðåøåíèå ñèñòåìû (3) îïðåäåëÿåòñÿ ïî ôîðìóëå x = (AT A)−1 AT b . Îïðåäåëåíèå 3. Ïñåâäîîáðàòíîé ìàòðèöåé åòñÿ (n × m) ìàòðèöà âèäà A = (A A) A . + T −1 íàçûâà- T Îòìåòèì, ÷òî ïñåâäîîáðàòíàÿ ìàòðèöà A+ îïðåäåëÿåò íîðìàëüíîå ïñåâäîðåøåíèå ñèñòåìû (1): x = A+ b. Åñëè m = n è ìàòðèöà A íåâûðîæäåíà, òî ïñåâäîîáðàòíàÿ ìàòðèöà ñîâïàäàåò ñ îáðàòíîé: A+ = A−1 . Ïðèìåð. −x1 + 2x2 = 1 x1 + 3x2 = 3 . 3x1 − x2 = 1 Íàéòè íîðìàëüíîå ïñåâäîðåøåíèå. Ðåøåíèå. 47 Ïðåäâàðèòåëüíî ñôîðìèðóåì ñèñòåìó (3): −1 2 −1 1 3 T 3 , A = A= 1 , 2 3 −1 3 −1 T A A= 11 −2 −2 14 T , A b= 5 10 , 11x1 − 2x2 = 5 . −2x1 + 14x2 = 10 Äëÿ ïîèñêà åå ðåøåíèÿ âîñïîëüçóåìñÿ ìåòîäîì Ãàóññà, îïèñàííûì â 2: 3 5 x∗ = . 4 5  ðåçóëüòàòå íàéäåíî íîðìàëüíîå ïñåâäîðåøåíèå èñõîäíîé ñèñòåìû. Óïðàæíåíèÿ 1. Íàéòè íîðìàëüíîå ïñåâäîðåøåíèå 1.1. 2x1 − x2 = 1 −x1 + x2 = 3 3x1 + x2 = −1 48 1.2. x1 + x2 = −1 x1 + 2x2 = −3 x1 + 3x2 = 3 1.3. 1.4. 1.5. 2x1 + 2x2 = 1 x1 + 4x2 = 0 −x1 + 2x2 = −1 x1 + x3 −x1 + x2 − x2 + 2x3 −x1 + 2x2 + x3 2. 2x2 + −x1 + x1 − x2 x1 + 2x2 x3 = 0 x3 = 1 + 4x3 = 1 =0 Íàéòè ïñåâäîîáðàòíóþ ìàòðèöó 2.1. 2.2. 2 3 A= 1 1 1 2 −3 1 A= 1 2 1 1 49 =1 =2 =0 = −1 2.4 2.5 1 1 −1 0 1 0 A= 1 −1 1 1 3 −1 1 1 A= 0 1 1 1 2 1 1 1 1 −1 50 6. Ïðîáëåìà ñîáñòâåííûõ çíà÷åíèé 1. Âñïîìîãàòåëüíûå îïðåäåëåíèÿ Ïóñòü A êâàäðàòíàÿ ìàòðèöà ïîðÿäêà n. Íàïîìíèì, ÷òî ñîáñòâåííàÿ ïàðà (λ, x) ìàòðèöû A îïðåäåëÿåòñÿ ñîîòíîøåíèÿìè Ax = λx , x 6= 0 . Ïðîáëåìà ñîáñòâåííûõ çíà÷åíèé ñîñòîèò â ïîèñêå ñîáñòâåííûõ ÷èñåë λ è ñîîòâåòñòâóþùèõ ñîáñòâåííûõ âåêòîðîâ x ìàòðèöû A. Âûäåëèì íàèáîëåå ïðîñòîé ñëó÷àé äëÿ ïðîáëåìû ñîáñòâåííûõ çíà÷åíèé. Ïóñòü A äèàãîíàëüíàÿ ìàòðèöà: A = = diag(a11 , . . . , ann ). Òîãäà åå ñîáñòâåííûå çíà÷åíèÿ ñîâïàäàþò ñ äèàãîíàëüíûìè ýëåìåíòàìè: λi = aii , i = 1, n.  êà÷åñòâå ñîîòâåòñòâóþùèõ ñîáñòâåííûõ âåêòîðîâ ìîæíî âûáðàòü åäèíè÷íûå îðòû: xi = ei , i = 1, n. Êâàäðàòíûå ìàòðèöû A, B ïîðÿäêà n íàçûâàþòñÿ ïîäîáíûìè, åñëè ñóùåñòâóåò íåâûðîæäåííàÿ ìàòðèöà P òàêàÿ, ÷òî B = P −1 AP . Ïðè ýòîì ìàòðèöà P íàçûâàåòñÿ ìàòðèöåé ïîäîáèÿ, à ñîîòíîøåíèå P −1 AP ïðåîáðàçîâàíèåì ïîäîáèÿ. Îïðåäåëåíèå 1. Óïðàæíåíèå 1. Ïóñòü (λ, x) ñîáñòâåííàÿ ïàðà ìàòðèöû B = P −1 AP . Ïîêàçàòü, ÷òî (λ, P x) ñîáñòâåííàÿ ïàðà ìàòðèöû A. Òàêèì îáðàçîì, ïðåîáðàçîâàíèå ïîäîáèÿ ñîõðàíÿåò ñîáñòâåííûå ÷èñëà ìàòðèöû. Èíûìè ñëîâàìè, ïîäîáíûå ìàò51 ðèöû èìåþò îäèíàêîâûå ñîáñòâåííûå çíà÷åíèÿ.  ýòîì ñëó÷àå ñîáñòâåííûå âåêòîðû ñâÿçàíû ÷åðåç ìàòðèöó ïîäîáèÿ ñëåäóþùèì îáðàçîì: x(A) = P x(B). Îòìåòèì, ÷òî åñëè B äèàãîíàëüíàÿ ìàòðèöà, òî äèàãîíàëüíûå ýëåìåíòû ìàòðèöû B ÿâëÿþòñÿ ñîáñòâåííûìè ÷èñëàìè ìàòðèöû A, à ñòîëáöû ìàòðèöû P ñîáñòâåííûìè âåêòîðàìè A. Ïóñòü P îðòîãîíàëüíàÿ ìàòðèöà. Ïîêàçàòü, ÷òî ïðåîáðàçîâàíèå ïîäîáèÿ â ýòîì ñëó÷àå èìååò âèä P T AP . Óïðàæíåíèå 2. Ïîêàçàòü, ÷òî îðòîãîíàëüíîå ïðåîáðàçîâàíèå ïîäîáèÿ ñîõðàíÿåò ñâîéñòâî ñèììåòðè÷íîñòè. Óïðàæíåíèå 3. Ïîêàçàòü, ÷òî îðòîãîíàëüíîå ïðåîáðàçîâàíèå ïîäîáèÿ ñîõðàíÿåò íîðìó Ôðîáåíèóñà ìàòðèöû A. Óïðàæíåíèå 4. Óòâåðæäåíèå. Ñèììåòðè÷íàÿ ìàòðèöà A ïîäîáíà äèàãîíàëüíîé ñ îðòîãîíàëüíîé ìàòðèöåé ïîäîáèÿ. Ðàññìîòðèì îäèí ìåòîä, ðåøàþùèé ïðîáëåìó ñîáñòâåííûõ çíà÷åíèé äëÿ ñèììåòðè÷íîé ìàòðèöû. 2. Ìåòîä âðàùåíèé Ïóñòü a ∈ R2 âåêòîð ñ êîîðäèíàòàìè u, v . Ïîñòðîèì âåêòîð a0 = (u0 , v 0 ), ïîâåðíóâ âåêòîð a âîêðóã íà÷àëà êîîðäèíàò íà óãîë φ ïðîòèâ ÷àñîâîé ñòðåëêè 52 y 6 a0 v v 0 a * φ 0 u - 0 x u Èçâåñòíî, ÷òî êîîðäèíàòû âåêòîðà a0 ñâÿçàíû ñ êîîðäèíàòàìè âåêòîðà a ñîîòíîøåíèÿìè u0 = u cos φ − v sin φ , v 0 = u sin φ + v cos φ . Ââåäåì â ðàññìîòðåíèå ìàòðèöó cos φ − sin φ U= . sin φ cos φ (1) Òîãäà ìîæíî çàïèñàòü a0 = U a. Ïðè ýòîì ìàòðèöó U íàçûâàþò ìàòðèöåé âðàùåíèÿ, ñîîòíîøåíèå a0 = U a ïðåîáðàçîâàíèåì âðàùåíèÿ, φ óãëîì ïîâîðîòà. Óïðàæíåíèå 5. îðòîãîíàëüíîé Ïîêàçàòü, ÷òî ìàòðèöà U ÿâëÿåòñÿ 53 Ïóñòü A ñèììåòðè÷íàÿ ìàòðèöà ïîðÿäêà 2 (a12 = = a21 ). Ðàññìîòðèì ïðåîáðàçîâàíèå ïîäîáèÿ ñ ìàòðèöåé âðàùåíèÿ C = U T AU . Îòìåòèì, ÷òî ìàòðèöà C ÿâëÿåòñÿ òàêæå ñèììåòðè÷íîé: c12 = c21 . Ïîêàçàòü, ÷òî åñëè 1 2a12 φ = arctg , 2 a11 − a22 òî C äèàãîíàëüíàÿ ìàòðèöà. Óïðàæíåíèå 6. (2) Ïðèìåð 1. √ 4 3 A= √ . 3 2 Èñïîëüçóÿ ìàòðèöó âðàùåíèÿ, íàéòè ñîáñòâåííûå ïàðû ìàòðèöû A. Ðàññìîòðèì ïðåîáðàçîâàíèå âðàùåíèÿ ñ ìàòðèöåé (1), ãäå óãîë ïîâîðîòà φ ïîäñ÷èòàåì ïî ïðàâèëó (2).  ðåçóëüòàòå èìååì √ 1 π φ = arctg 3 = , 2 6 √ 3 1 2 −2 U = . √ 1 3 2 2 Òîãäà √ √ 3 1 3 1 √ 4 3 2 −2 2 2 T U AU = √ = √ √ 1 3 3 2 1 3 − 2 2 2 2 Ðåøåíèå. 54 5 0 = =C. 0 1 Ñëåäîâàòåëüíî, ñîáñòâåííûìè ÷èñëàìè ìàòðèöû A ÿâëÿþòñÿ äèàãîíàëüíûå ýëåìåíòû ìàòðèöû C : λ1 = 5 , λ2 = 1. Ñîîòâåòñòâóþùèå èì ñîáñòâåííûå âåêòîðà ýòî ñòîëáöû ìàòðèöû U : √ 1 3 − 2 2 x1 = , x2 = √ . 3 1 2 2 Ðàññìîòðèì n-ìåðíûé ñëó÷àé, êîãäà A ñèììåòðè÷íàÿ ìàòðèöà ïîðÿäêà n. Òîãäà, àíàëîãè÷íûå êîíñòðóêöèè èìåþò âèä: ìàòðèöà âðàùåíèÿ (p < q) 1 .. . cos φ .. Upq (φ) = . sin φ . . . − sin φ .. .. . . ... cos φ .. p q . 1 ïðåîáðàçîâàíèå âðàùåíèÿ C = Upq (φ)T AUpq (φ) ; 55 óãîë ïîâîðîòà 1 2apq φ(p, q) = arctg . 2 app − aqq Äëÿ ìàòðèöû A ââåäåì âåëè÷èíó n X ∆(A) = a2ij , i, j = 1 i 6= j ïðåäñòàâëÿþùóþ ñîáîé ñóììó êâàäðàòîâ âíåäèàãîíàëüíûõ ýëåìåíòîâ ìàòðèöû A. Âåëè÷èíà ∆(A) õàðàêòåðèçóåò ìåðó "áëèçîñòè"ìàòðèöû A ê äèàãîíàëüíîé: ∆(A) ≥ ≥ 0 , ∆(A) = 0 ⇔ A äèàãîíàëüíàÿ ìàòðèöà. Îïèøåì èòåðàöèîííûé ìåòîä, ðåøàþùèé ïðîáëåìó ñîáñòâåííûõ çíà÷åíèé ìåòîä âðàùåíèé. Îáîçíà÷èì A0 = A è ðàññìîòðèì îáùèé øàã ìåòîäà. Ïóñòü ïîñòðîåíà ñèììåòðè÷íàÿ ìàòðèöà Ak , ïîäîáíàÿ A0 . Íàéäåì íàèáîëüøèé ïî ìîäóëþ íàääèàãîíàëüíûé ýëåìåíò (k) ìàòðèöû Ak . Ïóñòü ýòî áóäåò apq (âåäóùèé ýëåìåíò íà k òîì øàãå): (k) | a(k) pq |= max | aij | , p < q . 1≤i<j≤n (k) Åñëè apq = 0, òî Ak äèàãîíàëüíàÿ ìàòðèöà è ìåòîä çàâåðøàåòñÿ: ñîáñòâåííûå ÷èñëà A ñîâïàäàþò ñ äèàãîíàëüíûìè ýëåìåíòàìè Ak . (k) Ðàññìîòðèì îáùèé ñëó÷àé, êîãäà apq 6= 0. Ïðèìåíèì ê ìàòðèöå Ak ïðåîáðàçîâàíèå ïîäîáèÿ ñ ìàòðèöåé âðàùåíèÿ 56 Upq = Upq (φ) , φ = φ(p, q).  ðåçóëüòàòå ïîëó÷àåì ñëåäóþùåå ìàòðè÷íîå ïðèáëèæåíèå T Ak+1 = Upq Ak Upq . Îòìåòèì ñâîéñòâà íîâîãî ïðèáëèæåíèÿ: 1) ìàòðèöà Ak+1 ñèììåòðè÷íà è ïîäîáíà Ak ; (k+1) 2) apq = 0 , k Ak+1 kF =k A kF ; 3) ìàòðèöà Ak+1 "áëèæå"ê äèàãîíàëüíîé, ÷åì Ak : (k) ∆(Ak+1 ) = ∆(Ak ) − 2(apq )2 . Ïðè ýòîì èìååò ìåñòî ñõîäèìîñòü: ∆(Ak ) → 0 , k → ∞. Ïóñòü > 0 çàäàííàÿ òî÷íîñòü ïðèáëèæåíèÿ ê äèàãîíàëüíîé ìàòðèöå. Çà êîíå÷íîå ÷èñëî èòåðàöèé ìåòîäà âðàùåíèé ïðèäåì ê íåðàâåíñòâó ∆(Ak+1 ) ≤ . Òîãäà λi (A) ≈ (k+1) ≈ aii , i = 1, n. Îáñóäèì âîïðîñ î âû÷èñëåíèè ñîáñòâåííûõ âåêòîðîâ ìàòðèöû A. Ïóñòü ìåòîä îñòàíîâëåí ïîñëå k -òîé èòåðàöèè (k+1) (k+1) (Ak+1 ≈ diag(a11 , . . . , ann )). Ââåäåì îáîçíà÷åíèå: Uk ìàòðèöà âðàùåíèÿ íà k -òîé èòåðàöèè. Ïîêàçàòü, ÷òî â êà÷åñòâå ïðèáëèæåííûõ ïðåäñòàâëåíèé äëÿ ñîáñòâåííûõ âåêòîðîâ ìàòðèöû A ìîæíî âûáðàòü ñòîëáöû ìàòðèöû Pk = U0 U1 . . . Uk . Óïðàæíåíèå 7. Ïðèìåð. √ 2 0 2 3 1 . A = √0 −1 2 3 1 −2 Ïðîâåñòè îäèí øàã ìåòîäà âðàùåíèé. Ðåøåíèå. Îáîçíà÷èì A0 = A. Íàéäåì âåëè÷èíó √ ∆(A0 ) = 2 · (2 3)2 + 2 = 26 . 57 Îïðåäåëèì íàèáîëüøèé ïî ìîäóëþ íàääèàãîíàëüíûé ýëåìåíò ìàòðèöû A0 : √ (0) (0) max | aij |= 2 3 = a13 . 1≤i<j≤3 (0)  äàííîì ñëó÷àå p = 1 , q = 3. Ïîñêîëüêó a13 6= 0, òî ïîäñ÷èòàåì óãîë ïîâîðîòà (0) √ 1 2a13 1 π φ = φ(1, 3) = arctg (0) = arctg 3= . (0) 2 2 6 a11 − a33 Òîãäà ìàòðèöà âðàùåíèÿ ïðèìåò âèä π π 0 − sin cos 6 6 1 0 U13 = U13 (φ) = 0 π π sin 0 cos 6 6 √ 3 1 2 0 −2 0 . = 0 1 √ 1 3 0 2 2 58 =  èòîãå îïðåäåëèì ñëåäóþùåå ïðèáëèæåíèå 1 0 4 2 √ 3 1 T A1 = U13 A0 U13 = . −1 2 2 √ 3 −4 0 2 Âû÷èñëèì âåëè÷èíó (0) ∆(A1 ) = ∆(A0 ) − 2(a13 )2 = 26 − 24 = 2 . Óïðàæíåíèÿ 1. Ïðîâåñòè îäèí øàã ìåòîäà âðàùåíèé 1.1. 1.2. 1.3. √ 3 1 3 √ A= 3 1 −1 1 −1 2 1 0 √2 A= 0 √5 −3 3 2 −3 3 −1 √ −3 1 4 3 0 A = √1 1 4 3 0 5 59 1.4. 1.5. 1 0 √ −1 0 0 3 0 √1 A= −1 3 3 1 0 0 1 1 −1 2 2 4 A= 0 1 √ 0 3 3 60 0 √0 1 3 3 1 0 0 −2 7. Ìåòîäû ðåøåíèÿ íåëèíåéíûõ óðàâíåíèé Ðàññìîòðèì íåïðåðûâíóþ ôóíêöèþ f (x), îïðåäåëåííóþ íà îòðåçêå [a, b] ÷èñëîâîé îñè. Ïîñòàâèì çàäà÷ó ðåøåíèÿ óðàâíåíèÿ f (x) = 0 . (1) 1. Ìåòîä èòåðàöèé Ïðåäñòàâèì óðàâíåíèå (1) â ýêâèâàëåíòíîì âèäå x = φ(x) . (2) Ïîñòðîèì ñëåäóþùèé èòåðàöèîííûé ïðîöåññ xk+1 = φ(xk ) , k = 0, 1, . . . , (3) ãäå x0 çàäàííîå íà÷àëüíîå ïðèáëèæåíèå. Ñõåìà (3) íàçûâàåòñÿ ìåòîäîì èòåðàöèé. Òåîðåìà 1 (î ñõîäèìîñòè ìåòîäà èòåðàöèé). Ïóñòü 1) ôóíêöèÿ φ(x) îïðåäåëåíà â îáëàñòè S = {x : | x − x0 |≤ δ , δ > 0} ; 2) äëÿ ëþáûõ x, y èç îáëàñòè S âûïîëíÿåòñÿ óñëîâèå | φ(x) − φ(y) |≤ q | x − y | , 0 ≤ q < 1 ; 3) ñïðàâåäëèâî íåðàâåíñòâî | φ(x0 ) − x0 |= r ≤ (1 − q)δ . 61 Òîãäà â ìåòîäå èòåðàöèé 1) xk ∈ S , k = 1, 2, . . .; 2) ïîñëåäîâàòåëüíîñòü {xk } ñõîäèòñÿ: xk → x∗ , k → ∞, ãäå x∗ ∈ S ðåøåíèå óðàâíåíèÿ (2); 3) ñïðàâåäëèâà îöåíêà ïîãðåøíîñòè | xk − x∗ |≤ r k q , k = 1, 2, . . . . 1−q (4) Çàìå÷àíèå. Åñëè ôóíêöèÿ φ(x) íåïðåðûâíî äèôôåðåíöèðóåìà â îáëàñòè S , òî íåðàâåíñòâî | φ0 (x) |≤ q < < 1 , x ∈ S îáåñïå÷èâàåò âûïîëíåíèå óñëîâèÿ 2). Ïðèìåð 1. 1 2 5 1 1 1 x − x + = 0 , x0 = , S = {x : | x − |≤ } . 4 9 3 3 2 Òðåáóåòñÿ: a) ïðîâåðèòü óñëîâèÿ òåîðåìû 1; b) ìåòîäîì èòåðàöèé íàéòè x1 ; c) îöåíèòü ïîãðåøíîñòü ïîëó÷åííîãî ïðèáëèæåíèÿ. Ðåøåíèå. äå Äàííîå óðàâíåíèå ìîæíî ïðåäñòàâèòü â âè- 1 5 x = x2 + . 4 9 Ñëåäîâàòåëüíî, 1 5 φ(x) = x2 + . 4 9 Ïðîâåðèì óñëîâèÿ òåîðåìû 1. Ïåðâîå óñëîâèå, íåñîìíåííî, âûïîëíåíî. Ïîñêîëüêó, 1 5 | φ0 (x) |=| x |≤ < 1 , ïðè x ∈ S , 2 12 62 òî è âòîðîå óñëîâèå âûïîëíåíî. Ïðè ýòîì, q = 5/12. Ïðèñòóïèì ê ïðîâåðêå òðåòüåãî óñëîâèÿ. Çàìåòèì, ÷òî â íàøåì ñëó÷àå δ= 1 7 1 1 , | φ(x0 ) − x0 |=| − |= = r . 2 12 3 4 Òîãäà, 7 1 < (1 − q)δ = . 4 24 Ñëåäîâàòåëüíî, âñå óñëîâèÿ òåîðåìû 1 âûïîëíåíû. Äàëåå, ïîäñ÷èòàåì x1 ïî ìåòîäó èòåðàöèé r= x1 = φ(x0 ) = 7 . 12 Íàêîíåö, èñïîëüçóåì íåðàâåíñòâî (4) äëÿ îöåíêè ïîãðåøíîñòè 1 5 5 4 · = ≈ 0.18 . | x1 − x∗ |≤ 5 12 28 1− 12 Èññëåäóåì âîïðîñ îá ýôôåêòèâíîé ðåäóêöèè óðàâíåíèÿ (1) ê âèäó (2), óäîáíîìó äëÿ èòåðàöèé. Ïðåäïîëîæèì, ÷òî ôóíêöèÿ f (x) íåïðåðûâíî äèôôåðåíöèðóåìà â îáëàñòè S , ïðè÷åì, ïðîèçâîäíàÿ f 0 óäîâëåòâîðÿåò óñëîâèÿì f 0 (x) < 0 , 0 < m ≤| f 0 (x) |≤ M , x ∈ S ñ èçâåñòíûìè ïîñòîÿííûìè m, M . Çàäàäèì ôóíêöèþ φ(x) â âèäå φ(x, α) = x + αf (x) , 63 ãäå α > 0 ÷èñëîâîé ïàðàìåòð. Âûáåðåì ïàðàìåòð α òàêèì îáðàçîì, ÷òîáû îáåñïå÷èòü ñõîäèìîñòü ìåòîäà èòåðàöèé xk+1 = φ(xk , α) , k = 0, 1, . . . ê êîðíþ x∗ ñ ìàêñèìàëüíî âîçìîæíîé ñêîðîñòüþ. Äëÿ ýòîãî íåîáõîäèìî: 1) ðåøèòü íåðàâåíñòâî | φ0 (x, α) |≤ q(α) < 1 , x ∈ S îòíîñèòåëüíî α; 2) íàéòè çíà÷åíèå α∗ , êîòîðîå äîñòàâëÿåò ìèíèìóì ôóíêöèè q(α). Ïðèñòóïèì ê âûïîëíåíèþ ïîñòàâëåííûõ çàäà÷. Íàéäåì âûðàæåíèå äëÿ q(α). Îòìåòèì, ÷òî φ0 (x, α) = 1 + αf 0 (x), ïðè÷åì, −M ≤ f 0 (x) ≤ −m , x ∈ S . Îòñþäà, 1 − αM ≤ 1 + αf 0 (x) ≤ 1 − αm , Òîãäà, äëÿ x ∈ S èìååì | φ0 (x, α) |=| 1 + αf 0 (x) |≤ ∆ ≤ max{| 1 − αm | , | 1 − αM |} = q(α) . Ðåøèì íåðàâåíñòâî q(α) < 1. Ñîãëàñíî îïðåäåëåíèþ ôóíêöèè q(α), íåîáõîäèìî ðåøèòü ñèñòåìó èç äâóõ íåðàâåíñòâ | 1 − αm |< 1 . | 1 − αM |< 1 Åå ðåøåíèå èìååò âèä: 0 < α < 2/M . Ñëåäîâàòåëüíî, ïðè 0 < α < 2/M èìååì q(α) < 1. Çàìåòèì, ÷òî â ñîîòâåòñòâèè ñ óòâåðæäåíèåì 3) òåîðåìû 1, âåëè÷èíà q(α) õàðàêòåðèçóåò ñêîðîñòü ñõîäèìîñòè 64 xk → x∗ , k → ∞, à èìåííî, ÷åì ìåíüøå q(α), òåì áûñòðåå ñõîäèìîñòü. Ïîñòàâèì çàäà÷ó ïîèñêà îïòèìàëüíîãî çíà÷åíèÿ α∗ ∈ (0, 2/M ) èç óñëîâèÿ q(α∗ ) = min2 q(α) . 0<α< M Óïðàæíåíèå 1. Ïîêàçàòü, ÷òî α∗ = 2 . m+M (5) Òàêèì îáðàçîì, ôóíêöèþ φ(x) â óðàâíåíèè (2) ìîæíî ïðåäñòàâèòü â âèäå φ(x) = x + α∗ f (x) , ãäå âåëè÷èíà α∗ âû÷èñëÿåòñÿ ïî ïðàâèëó (5). 2. Ìåòîä Íüþòîíà Ðàññìîòðèì çàäà÷ó ðåøåíèÿ óðàâíåíèÿ (1) â ïðåäïîëîæåíèè íåïðåðûâíîé äèôôåðåíöèðóåìîñòè ôóíêöèè f (x). Ïóñòü x0 çàäàííîå íà÷àëüíîå ïðèáëèæåíèå. Ïðîâåäåì ëèíåàðèçàöèþ ôóíêöèè f â îêðåñòíîñòè òî÷êè x0 ñ ïîìîùüþ ôîðìóëû Òåéëîðà f (x) = f (x0 ) + f 0 (x0 )(x − x0 ) + o(| x − x0 |) . Ïðåíåáðåãàÿ îñòàòî÷íûì ÷ëåíîì ðàçëîæåíèÿ, ïðèõîäèì ê ëèíåéíîìó óðàâíåíèþ f (x0 ) + f 0 (x0 )(x − x0 ) = 0 , 65 ðåøåíèå êîòîðîãî ïðèíèìàåì çà ñëåäóþùåå ïðèáëèæåíèå x1 = x0 − f (x0 ) . f 0 (x0 ) Äàëåå, ïîâòîðèì ïðîöåäóðó îòíîñèòåëüíî òî÷êè x1 .  ðåçóëüòàòå ïîëó÷èì ñëåäóþùóþ èòåðàöèîííóþ ôîðìóëó xk+1 = xk − f (xk ) , k = 0, 1, . . . . f 0 (xk ) (6) Èòåðàöèîííàÿ ïðîöåäóðà (6) íàçûâàåòñÿ ìåòîäîì Íüþòîíà äëÿ ðåøåíèÿ óðàâíåíèÿ (1). Óêàæåì ãåîìåòðè÷åñêèé ñìûñë ôîðìóëû (6). Ïóñòü íà êîîðäèíàòíîé ïëîñêîñòè èìååòñÿ òî÷êà M (xk , f (xk )). Ïðîâåäåì êàñàòåëüíóþ ê êðèâîé y = f (x) â òî÷êå M . Óðàâíåíèå ýòîé êàñàòåëüíîé èìååò âèä y − f (x0 ) = f 0 (x0 )(x − x0 ) . 66 Ïîëàãàÿ çäåñü y = 0 (ïåðåñå÷åíèå êàñàòåëüíîé ñ îñüþ 0x), è, ðåøàÿ ïîëó÷åííîå óðàâíåíèå îòíîñèòåëüíî x, ïðèõîäèì ê ôîðìóëå (6). Îòìåòèì äðóãîå íàçâàíèå ìåòîäà Íüþòîíà ìåòîä êàñàòåëüíûõ. Ñôîðìóëèðóåì óñëîâèÿ ìîíîòîííîé ñõîäèìîñòè ìåòîäà Íüþòîíà. Ïóñòü ôóíêöèÿ f (x) äâàæäû íåïðåðûâíî äèôôåðåíöèðóåìà íà îòðåçêå [a, b] è óðàâíåíèå (1) èìååò åäèíñòâåííûé êîðåíü x∗ íà [a, b]. Åñëè âûïîëíåíû óñëîâèÿ çíàêîïîñòîÿíñòâà ïðîèçâîäíûõ Òåîðåìà 2. f 0 (x) > 0 , f 00 (x) > 0 , x ∈ [a, b] èëè f 0 (x) < 0 , f 00 (x) < 0 , x ∈ [a, b] , (7) òî ïîñëåäîâàòåëüíîñòü {xk }, âûðàáàòûâàåìàÿ ìåòîäîì Íüþòîíà, ïðè âûáîðå x0 = b ìîíîòîííî óáûâàåò è ñõîäèòñÿ ê êîðíþ x∗ . Åñëè óñëîâèÿ (7) çàìåíèòü íà ñëåäóþùèå f 0 (x) > 0 , f 00 (x) < 0 , x ∈ [a, b] èëè f 0 (x) < 0 , f 00 (x) > 0 , x ∈ [a, b] , òî ïîñëåäîâàòåëüíîñòü {xk } ïðè x0 = a ìîíîòîííî âîçðàñòàåò è ñõîäèòñÿ ê x∗ . Äëÿ îöåíêè ïîãðåøíîñòè k -ãî ïðèáëèæåíèÿ ìîæíî âîñïîëüçîâàòüñÿ íåðàâåíñòâîì | xk − x∗ |≤ 67 | f (xk ) | , m ãäå m = min | f 0 (x) |. a≤x≤b Ïðèìåð 2. 6x2 − 17x + 5 = 0 . Íàéòè îòðåçêè ëîêàëèçàöèè êîðíåé óðàâíåíèÿ è, âûáðàâ íà÷àëüíîå ïðèáëèæåíèå x0 , ïðîâåñòè ïî îäíîé èòåðàöèè ìåòîäà Íüþòîíà. Äëÿ îïðåäåëåíèÿ ãðàíèö ðàñïîëîæåíèÿ êîðíåé (îòðåçêîâ ëîêàëèçàöèè) ñîñòàâèì ñëåäóþùóþ òàáëèöó Ðåøåíèå. x 0 1 2 3 f (x) 5 −6 −5 8 Îòñþäà âèäíî, ÷òî êîðíè èñõîäíîãî óðàâíåíèÿ ðàñïîëîæåíû íà îòðåçêàõ [0, 1] è [2, 3]. Ïîñëåäîâàòåëüíî ïðèìåíèì ìåòîä Íüþòîíà äëÿ êàæäîãî îòðåçêà. 1) Ïóñòü [a, b] = [0, 1]. Îïðåäåëèì çíàêè ïðîèçâîäíûõ ôóíêöèè f (x) íà ýòîì îòðåçêå f 0 (x) = 12x − 17 < 0 , f 00(x) = 12 > 0 , 0 ≤ x ≤ 1 . Ñëåäîâàòåëüíî, ïîëàãàÿ x0 = a = 0, èìååì x1 = x0 − f (x0 ) 5 = ≈ 0.29 . f 0 (x0 ) 17 2) Âûáåðåì òåïåðü [a, b] = [2, 3]. Òîãäà, f 0 (x) = 12x − 17 > 0 , f 00(x) = 12 > 0 , 2 ≤ x ≤ 3 . Íà÷àëüíîå ïðèáëèæåíèå â ýòîì ñëó÷àå x0 = b = 3 è x1 = 3 − 49 8 = ≈ 2.58 . 19 19 68 3. Ìåòîäû ñîêðàùåíèÿ èíòåðâàëà ëîêàëèçàöèè Ïðîäîëæèì èçó÷åíèå óðàâíåíèÿ (1). Ïóñòü èçâåñòåí îòðåçîê [a, b] ñ óñëîâèåì f (a) · f (b) < 0. Ýòî îçíà÷àåò, ÷òî èñêîìûé êîðåíü x∗ ëåæèò â ïðåäåëàõ èíòåðâàëà (a, b). Áóäåì ñ÷èòàòü, ÷òî îí åäèíñòâåííûé íà (a, b). Òîãäà ïðîìåæóòîê (a, b) íàçûâàåòñÿ èíòåðâàëîì ëîêàëèçàöèè è ãîâîðÿò, ÷òî ðåøåíèå x∗ ëîêàëèçîâàíî â ïðåäåëàõ (a, b). Ïóñòü > 0 çàäàííàÿ òî÷íîñòü ðåøåíèÿ óðàâíåíèÿ (1). Òîãäà çàäà÷ó (1) ìîæíî ñ÷èòàòü ðåøåííîé, åñëè íàéäåí èíòåðâàë ëîêàëèçàöèè (a, b) ñ óñëîâèåì b−a ≤ .  êà÷åñòâå ïðèáëèæåííîãî ðåøåíèÿ óðàâíåíèÿ (1) â ýòîì ñëó÷àå ìîæåò áûòü âûáðàíà ëþáàÿ òî÷êà x ∈ (a, b). Ïðè ýòîì ãàðàíòèðîâàíî âûïîëíÿåòñÿ îöåíêà ïîãðåøíîñòè | x − x∗ |< . Ðàññìîòðèì ìåòîäû ïîñëåäîâàòåëüíîãî óìåíüøåíèÿ äëèíû èíòåðâàëà ëîêàëèçàöèè, èñïîëüçóþùèå òîëüêî çíà÷åíèÿ ôóíêöèè f . Îïèøåì îáùóþ ñõåìó ìåòîäîâ òàêîãî òèïà. 1) Ïóñòü íà k -òîì øàãå èòåðàöèîííîãî ïðîöåññà ïîëó÷åí èíòåðâàë ëîêàëèçàöèè (ak , bk ) , k = 0, 1, . . . . 2) Âûáåðåì òî÷êó xk ∈ (ak , bk ). 3) Åñëè f (xk ) = 0, òî x∗ = xk è ìåòîä ïðåêðàùàåò ñâîþ ðàáîòó (êîðåíü óðàâíåíèÿ (1) íàéäåí). 4) Ïóñòü f (xk ) 6= 0. Òîãäà åñëè f (xk ) · f (ak ) < 0, òî (ak+1 , bk+1 ) = (ak , xk ); åñëè f (xk ) · f (bk ) < 0, òî (ak+1 , bk+1 ) = (xk , bk ).  ðåçóëüòàòå ïîëó÷àåì èíòåðâàë ëîêàëèçàöèè (ak+1 , bk+1 ) 69 ñ óñëîâèåì bk+1 − ak+1 < bk − ak . Êîíêðåòíûå ìåòîäû ýòîãî òèïà ðàçëè÷àþòñÿ òîëüêî âûáîðîì òî÷êè xk â ïðåäåëàõ èíòåðâàëà ëîêàëèçàöèè. Óêàæåì íàèáîëåå èçâåñòíûå âàðèàíòû òàêîãî âûáîðà. 4. Ìåòîä ïîëîâèííîãî äåëåíèÿ Âûáåðåì â êà÷åñòâå òî÷êè xk ñåðåäèíó îòðåçêà [ak , bk ]: xk = (ak + bk )/2. Òàêîé âûáîð ñîêðàùàåò äëèíó èíòåðâàëà ëîêàëèçàöèè âäâîå: bk+1 − ak+1 = (bk − ak )/2. Åñëè [a0 , b0 ] íà÷àëüíûé èíòåðâàë ëîêàëèçàöèè, òî bk+1 − ak+1 = b k − ak bk−1 − ak−1 = = 2 4 b 0 − a0 . 2k Îòñþäà ñëåäóåò, ÷òî xk → x∗ , k → ∞ ñî ñêîðîñòüþ ãåîìåòðè÷åñêîé ïðîãðåññèè ñî çíàìåíàòåëåì 1/2. = ... = Óêàæåì îäíî ýêñòðåìàëüíîå ñâîéñòâî òî÷êè xk â ìåòîäå ïîëîâèííîãî äåëåíèÿ. Âûáåðåì ïðîèçâîëüíûì îáðàçîì íåêîòîðóþ òî÷êó x ∈ (ak , bk ). Òîãäà, ïîãðåøíîñòü òàêîãî âûáîðà îöåíèâàåòñÿ ñëåäóþùèì îáðàçîì ∆ | x − x∗ |< max{bk − x, x − ak } = φ(x) . Ïîêàçàòü, ÷òî âûáîð òî÷êè xk â ìåòîäå ïîëîâèííîãî äåëåíèÿ ÿâëÿåòñÿ íàèëó÷øèì â ñìûñëå îöåíêè ïîãðåøíîñòè φ(x). Óïðàæíåíèå 2. 70 Ïðèìåð 3. 3x2 − 8x + 4 = 0 . Ïðîâåñòè îäíó èòåðàöèþ ìåòîäà ïîëîâèííîãî äåëåíèÿ äëÿ ïîèñêà íàèìåíüøåãî êîðíÿ óðàâíåíèÿ. Íåòðóäíî âèäåòü, ÷òî â êà÷åñòâå íà÷àëüíîãî èíòåðâàëà ëîêàëèçàöèè (a0 , b0 ) ìîæíî âûáðàòü èíòåðâàë (0, 1). Òîãäà, x0 = 1/2. Ïîñêîëüêó f (1/2) · f (1) = = −3/4 < 0, òî ñëåäóþùèì ïðèáëèæåíèåì ÿâëÿåòñÿ èíòåðâàë (a1 , b1 ) = (1/2, 1). Ðåøåíèå. 5. Ìåòîä õîðä  êà÷åñòâå ïðèáëèæåíèÿ xk âûáåðåì òî÷êó ïåðåñå÷åíèÿ ñ îñüþ 0x ïðÿìîé, ïðîõîäÿùåé ÷åðåç òî÷êè (ak , f (ak )), (bk , f (bk )) ãðàôèêà ôóíêöèè y = f (x). 71 Óïðàæíåíèå 3. Ïîêàçàòü, ÷òî ðàñ÷åòíàÿ ôîðìóëà äëÿ âû÷èñëåíèÿ òî÷êè xk èìååò âèä xk = ak f (bk ) − bk f (ak ) . f (bk ) − f (ak ) Óïðàæíåíèÿ Ïðîâåñòè îäèí øàã ìåòîäà èòåðàöèé äëÿ ïîèñêà âñåõ êîðíåé óðàâíåíèÿ 1. 2− | x |= 1 cos x 2 Ïîñòðîèòü ðàñ÷åòíóþ ôîðìóëó ìåòîäà èòåðàöèé äëÿ âû÷èñëåíèÿ âñåõ êîðíåé óðàâíåíèÿ 2. x3 + 3x2 − 1 = 0 Ïðîâåñòè îäèí øàã ìåòîäà èòåðàöèé äëÿ ïîèñêà âñåõ êîðíåé óðàâíåíèÿ 3. 1 − x3 + 2x2 − 4x + 3 = 0 2 Ïðîâåñòè îäèí øàã ìåòîäà èòåðàöèé äëÿ ïîèñêà ïîëîæèòåëüíîãî êîðíÿ óðàâíåíèÿ 4. −2x3 + x2 + 3x + 1 = 0 72 Ïðîâåñòè îäèí øàã ìåòîäà Íüþòîíà äëÿ ïîèñêà âñåõ êîðíåé óðàâíåíèé 5. a) x2 − 1 =0; |x−1| x b) (x + 2)3 − e− 2 = 0 Ïîñòðîèòü √ ðàñ÷åòíóþ ôîðìóëó ìåòîäà Íüþòîíà äëÿ âû÷èñëåíèÿ p a ,√a > 0 , p = 2, 3, . . . . Ïðîâåñòè äâå èòåðàöèè äëÿ ïîäñ÷åòà 2. 6. Ïðîâåñòè îäèí øàã ìåòîäà Íüþòîíà äëÿ âû÷èñëåíèÿ ïîëîæèòåëüíîãî êîðíÿ óðàâíåíèÿ 7. 3 3x3 + x2 − 4x − 1 = 0 4 Ïðîâåñòè îäèí øàã ìåòîäà Íüþòîíà äëÿ ïîèñêà îòðèöàòåëüíîãî êîðíÿ óðàâíåíèÿ 8. 4 4x3 − x2 − 3x + 1 = 0 3 73 Âëàäèìèð Ãåîðãèåâè÷ Àíòîíèê Âàðâàðà Ñåðãååâíà Çàõàð÷åíêî ×ÈÑËÅÍÍÛÅ ÌÅÒÎÄÛ Ó÷åáíîå ïîñîáèå ïî ïðàêòè÷åñêèì çàíÿòèÿì Ðåäàêòîð Ò.Ï.Êîâàëü ËÐ N XXXXXX îò XX.XX.XX. Êîìïüþòåðíûé íàáîð. Îðèãèíàë-ìàêåò ïîäãîòîâëåí ñ ïîìîùüþ ñèñòåìû LaTeX. Ïîäïèñàíî â ïå÷àòü XX.XX.XX ã. Ôîðìàò 60×90 1/16. Áóìàãà îôñåòíàÿ. Çàêàç XX. Òèðàæ 200 ýêç. Ðåäàêöèîííî-èçäàòåëüñêèé îòäåë Èðêóòñêîãî ãîñóäàðñòâåííîãî óíèâåðñèòåòà 664003, Èðêóòñê, á.Ãàãàðèíà, 36 Îòïå÷àòàíî íà RISO â ÎÏÂÖ ÈÃÓ 664003, Èðêóòñê, á.Ãàãàðèíà, 20, òåë.24-22-10