С.П. Шарый - Институт вычислительных технологий СО РАН

356 3. Численные методы линейной алгебрыбыть не вполне эквивалентна исходной, так как задача нахожденияустойчивого решения уравнения может превратиться в неустойчивуюзадачу о проверке точного равенства экстремума нулю (этот вопрос болееподробно обсуждается далее в §4.2б). Но если существование решенияуравнения известно априори, до того, как мы приступаем к его нахождению(например, на основе каких-либо теорем существования), товариационные методы становятся важным подспорьем практическихвычислений. Именно такова ситуация с системами линейных алгебраическихуравнений, разрешимость которых часто обеспечивается различнымирезультатами из линейной алгебры.Как именно можно переформулировать задачу решения СЛАУ в видеоптимизационной задачи? По-видимому, простейший способ можетосновываться на том факте, что точное решение x ⋆ зануляет нормуневязки ‖Ax−b‖, доставляя ей, таким образом, наименьшее возможноезначение. Желая приобрести гладкость получаемого функционалапо неизвестной переменной x, обычно берут евклидову норму невязки,или даже её квадрат, т. е. скалярное произведение 〈Ax−b,Ax−b〉, чтобыне привлекать взятия корня. Получающаяся задача минимизациивеличины ‖Ax−b‖ 2 2 является называется линейной задачей о наименьшихквадратах, и мы рассмотрим её подробнее в §3.15.Ещё одним фактом, который служит теоретической основой для вариационныхметодов решения систем линейных алгебраических уравненийявляетсяПредложение 3.10.1 Вектор x ⋆ ∈ R n является решением системылинейных алгебраических уравнений Ax = b с симметричной положительноопределённой матрицей A тогда и только тогда, когда ондоставляет минимум функционалу Φ(x) = 1 2〈Ax,x〉 −〈b,x〉.Доказательство. Если A — симметричная положительно-определённаяматрица, то, как мы видели в §3.3а, выражением 1 2〈Ax,x〉 задаётсятак называемая энергетическая норма ‖·‖ A векторов из R n .Далее, пусть x ⋆ — решение рассматриваемой системы линейных алгебраическихуравнений Ax = b, которое существует и единственно всилу положительной определённости матрицы A. Из единственностиx ⋆ следует, что некоторый вектор x ∈ R n является решением системыуравнений тогда и только тогда, когда x−x ⋆ = 0, или, иными словами,‖x−x ⋆ ‖ 2 A = 0.С другой стороны, учитывая симметричность матрицы A и равен-