С.П. Шарый - Институт вычислительных технологий СО РАН

132 2. Численные методы анализадля любых k,l, и∫ 2π0sin(kx) sin(lx)dx = 0,∫ 2π0cos(kx) cos(lx)dx = 0,для k ≠ l, то базис из тригонометрических полиномов вида1, cos(2πkx), sin(2πkx), k = 1,2,...,является ортогональным на [0,1] относительно скалярного произведения(2.99) с весом ̺(x) = 1. Иными словами, этот базис очень хорош ввычислительном отношении для построения среднеквадратичных приближений.Более детальный теоретический анализ и практический опыт показывают,что в методе наименьших квадратов в качестве базиса ϕ 1 , ϕ 2 ,. . . , ϕ n линейного подпространства G ⊂ F имеет смысл брать системыэлементов, ортогональных по отношению к какому-то скалярному произведению(возможно, другому), так как это служит гарантией «разумноймалости» внедиагональных элементов матрицы Грама и, какследствие, её не слишком плохой обусловлености.Среднеквадратичные приближения и метод наименьших квадратовдля решения переопределённых систем линейных алгебраических уравнений,которые возникают в связи с задачами обработки наблюдений,были почти одновременно предложены на рубеже XVIII–XIX вековА.М. Лежандром и К.Ф. Гауссом, причём первый дал новому подходусовременное название. На практике метод наименьших квадратовочень часто применяется в силу двух главных причин. Во-первых, егоприменение бывает вызвано ясным содержательным смыслом задачи, вкоторой в качестве меры отклонения возникает именно сумма квадратовили интеграл от квадрата функции. К примеру, чрезвычайно популярнотеоретико-вероятностное обоснование метода наименьших квадратов(см., к примеру, [49]). Впервые оно было дано также К.Ф. Гауссоми далее доведено до современного состояния в трудах П.С. Лапласа,П.Л. Чебышёва и потом А.А. Маркова и А.Н. Колмогорова. Во-вторых,в методе наименьших квадратов построение элемента наилучшего приближениясводится к решению системы линейных уравнений, т. е. хорошоразработанной задаче. Если для измерения расстояния междуфункциями применяются какие-то другие метрики, отличные от (2.100),то решение задачи минимизации этого расстояния может быть суще-