Спектральная реализация метода наименьших

Берётся в основном из книжки Дедуса Дедус - Классические ортогональные базисы
в задачах аналитического описания и обработки информационных сигналов.pdf
(application/pdf, 1,9 МБ).
Содержание










1 Метод наименьших квадратов
2 Спектральная реализация метода наименьших квадратов
3 Равенство Ляпунова-Стеклова. Равенство Парсеваля. Свойство жёсткости
разложения
4 Классические ортогональные базисы. Их основные свойства
5 Вычисление коэффициентов разложения. Роль квадратурных формул
Гаусса
6 Оператор умножения на функцию. Деление сигналов
7 Алгебра спектральных преобразований. Использование рекуррентных
соотношений
8 Использование соотношений в пространстве коэффициентов разложения
для распознавания образов и анализа сцен
9 Интегральные оценки сигналов. Коэффициент формы сигнала
10 Интегральное преобразование Фурье. Собственные функции
Метод наименьших квадратов





Также см. mlwiki:Метод наименьших квадратов.
Задача — построение регрессий / аналитических описаний каких-то
измерений. МНК — минимизация квадрата отклонения значений,
вычисленных аналитически, от экспериментальных значений.
Приходит к решению , то есть .
Есть проблемы в случае плохой обусловленности матрицы, нужно юзать
mlwiki:Сингулярное разложение.
И, что важно (!) Если просто , то при увеличении точности нужно
пересчитывать все коэффициенты.
Спектральная реализация метода наименьших
квадратов



Чебышев решил использовать при разложении системы ортогональных
функций — тогда коэффициенты пересчитывать не нужно, это будут просто
коэф. ряда Фурье (скалярные произведения на функции базиса).
Опр. L2, скалярное произведение, ортогональные функции, полная система,
замкнутая система, ряд Фурье.
Т. (Фурье) конечный отрезок ряда Фурье осуществляет наилучшее
приближение.
Равенство Ляпунова-Стеклова. Равенство
Парсеваля. Свойство жёсткости разложения



Неравенство
Бесселя:
.
В
пределе
при
для
полных
систем
переходит
в
равенство Парсеваля: , где cn — коэффициенты ряда Фурье функции f.
Равенство Ляпунова-Стеклова = равенство Парсеваля в пространстве
функций.
Свойство жёсткости разложения — как раз то, что пересчитывать
коэффициенты при увеличении точности не нужно.
Классические ортогональные базисы. Их
основные свойства



Определяются одним из 3-х свойств:
 Их производные также образуют ортогональную систему.
 Удовлетворяют гипергеометрическому дифуру.
 Обобщённая формула Родрига: .
Также для них есть рекуррентные соотношения, связывающие 3 любые
последовательных функции.
Базисы:
1. [-1; 1]. Якоби — с весовой функцией .
 Гегенбауэра: α = β = λ — 0.5.
 Чебышева I рода: λ = 0.
 Чебышева II рода: λ = 1.
 Лежандра: λ = 0.5 (весовая функция = 1).
2. (0; +∞) Сонина-Лагерра:
 Лагерра: α = 0.
3. (-∞; +∞) Эрмита:
Вычисление коэффициентов разложения. Роль
квадратурных формул Гаусса






Можно почитать rupedia:Численное интегрирование#Метод Гаусса.
В книжке Дедуса стр. 59.
Квадратуры Гаусса по k точкам точны для полиномов степени не выше 2k-1.
Узлы = корням полинома pk(x), соответствующего заданной весовой
функции.
Веса находятся по формулам…
Роль: позволяют классической ОНС непрерывного аргумента сопоставить
ОНС дискретного аргумента.
Оператор умножения на функцию. Деление
сигналов






Идея — вычислить коэффициенты ряда произведения функций, не вычисляя
само
произведение:
, где
В матричной форме c = Ba, B — оператор умножения на b.
Деление: a = B-1c(x) — обратная задача.
Утв. Матрица оператора умножения симметрична.
Утв. Матрица оператора положительно определена, если функция b
положительна.
Утв. Макс. и мин. с.з. оператора ограничены по модулю макс. и мин. функции
b.
Алгебра спектральных преобразований.
Использование рекуррентных соотношений




По ходу, имеется ввиду диссер Руслануса: Тетуев Р.К. - Алгебра
спектральных
преобразований
в
задачах
обработки
данных.pdf
(application/pdf, 2,19 МБ).
Т. Если A — линейный оператор и существуют рекуррентные соотношения
для A(всех базисных функций) относительно A(предыдущих базисных
функций) и самих базисных функций, существует алгоритм линейной
сложности для вычисления A(f).
Рассматриваются
операторы
интегрирования,
дифференцирования,
умножения на x, деления на x.
Плюс метод «каскада и диффузии» — рекуррентное соотношение
разделяется на два — относительно A(предыдущих базисных функций) и
относительно самих базисных функций.
Использование соотношений в пространстве
коэффициентов разложения для распознавания
образов и анализа сцен



Тоже можно почитать Руслануса.
Контуры, векторизация, инварианты — площадь ограниченная контуром,
периметр контура, аффинная длина дуги кривой.
Короче, генерация признаков.
Интегральные оценки сигналов. Коэффициент
формы сигнала
Интегральное преобразование Фурье.
Собственные функции