Лекция 6. Вычислительная линейная алгебра.

ВВЕДЕНИЕ В ВЫЧИСЛИТЕЛЬНУЮ
МАТЕМАТИКУ
Лекция 6
13 октября 2009
ВЫЧИСЛИТЕЛЬНАЯ ЛИНЕЙНАЯ
АЛГЕБРА
2. Вычислительная линейная
алгебра

Идея метода сопряженных
градиентов
 Ax, y   0
А-ортогональные (А-сопряженные)
векторы
А – положительная самосопряженная
матрица
2. Вычислительная линейная
алгебра
Скалярное произведение
 Ax, y   (x, y)A
Норма
x
2
A
  Ax, x   (x, x) A
2. Вычислительная линейная
алгебра
Упражнение – доказать Теорему
Пифагора
Если два вектора x y являются Аортогональными, то
xy
2
A
 x
2
A
 y
2
A
2. Вычислительная линейная
алгебра
Подпространство Крылова

Ki  x, A   span x, Ax,..., Ai 1x

(линейная оболочка векторов)
Если х не является собственным вектором А, то
векторы – линейно независимы
2. Вычислительная линейная
алгебра
Доказательство – от противного.
Перейдем в базис из собственных векторов
матрицы А
i 2
Ai 1x    j A j x
j 0
i 2
Ai 1  ck ek    j A j  ck ek
j 0
2. Вычислительная линейная
алгебра
Тогда в силу ортогональности собственных
векторов
i 2
ck  k i 1  ck   j  j
j 0
Полином степени i (меньше N) должен иметь N
корней - противоречие
2. Вычислительная линейная
алгебра
Тогда в каждом подпространстве
Крылова можно выбрать Аортогональный базис.
p1 , p2 ,.... pi
2. Вычислительная линейная
алгебра
Эквивалентная
формулировка
задачи
xi  x0  ui
Au  r0

ui  arg min x0  u  x*
A
, u  Ki

2. Вычислительная линейная
алгебра
В силу теоремы Пифагора невязка
на итерации будет минимальна в
случае
ri  f  Axi  Ki
2. Вычислительная линейная
алгебра
Разложение по А-ортогональному
базису
ui  1 p1  2 p2  ...  i pi
xi  xi 1  i pi
2. Вычислительная линейная
алгебра
Тогда
xi  xi 1  i pi
 Axi   Axi 1  i Api
f  Axi  f  Axi 1  i Api
ri  ri 1  i Api
2. Вычислительная линейная
алгебра
В силу А-ортогональности
0  (ri 1, pi ) A  i ( Api , pi ) A
(ri 1, pi ) A ( Ari 1, pi )
i 

( Api , pi ) A ( Api , Api )
2. Вычислительная линейная
алгебра
Строим следующий
вектор базиса
pi 1  ri   ik pk  ri  k pk
2. Вычислительная линейная
алгебра
(ri , pi ) A
( Api , ri )
i  

( pi , pi ) A
( Api , pi )
2. Вычислительная линейная
алгебра
(ri 1 , pi ) A ( Ari 1, pi )
i 

0
( Api , pi ) A ( Api , Api )
ri  ri 1  i Api
ri 1  ri
Api 
i
2. Вычислительная линейная
алгебра
(ri 1 , ri 1 )
i 
( Api , Api )
(ri , pi ) A
(ri , ri )
i  

( pi , pi ) A
(ri 1 , ri 1 )
2. Вычислительная линейная
алгебра
Получили рекуррентные формулы
метода сопряженных градиентов
2. Вычислительная линейная
алгебра
Задача поиска собственных значений
А Самосопряженная
Б Несамосопряженная
Полная (необходимо найти весь
спектр)
2. Частичная (только некоторые
значения)
1.
2. Вычислительная линейная
алгебра
Самосопряженная задача
Поиск максимального по абсолютной
величине собственного числа
2. Вычислительная линейная
алгебра

Степенной метод
u k 1  Au k
( Auk , uk ) (u k 1 , u k )


(uk , uk )
(u k , u k )
2. Вычислительная линейная
алгебра
Степнной метод
Точность

O( N /  N 1
k
)
2. Вычислительная линейная
алгебра
Поиск следующего по модулю собственного числа
uk 1  (A   N E)u k
2. Вычислительная линейная
алгебра
Поиск собственного числа, наиболее
близкого к заданному значению – метод
обратных итераций
Минимальное собственное число
Bu  u
B  A1,   1 min
2. Вычислительная линейная
алгебра

Метод обратных итераций
Au k 1  u k
2. Вычислительная линейная
алгебра
Собственное число, наиболее близкое к
заданному
Метод обратных итераций применяется к
системе
(A  E)uk 1  u k
2. Вычислительная линейная
алгебра
Полная самосопряженная задача –
метод вращений
Λ  TAT,
ˆ
A  Tij ATij ,
2. Вычислительная линейная
алгебра

Метод вращений

aˆij2
i j


i j
aij2
 2aij2


2
1
 (a jj  aii )sin 2  2aij cos 2
2
2. Вычислительная линейная
алгебра

Метод вращений

0  (a jj  aii )sin 2  2aij cos 2
tg 2 
2aij
aii  a jj
,

2
2. Вычислительная линейная
алгебра

Вопросы?