С.П. Шарый - Институт вычислительных технологий СО РАН

3.5. Обусловленность систем линейных уравнений 261нации переменных, наиболее существенные для рассматриваемого объектаили явления. Здесь и пригождается понятие ранга матрицы илиже приближённого ранга для случая неточных данных.Приведённая выше теорема Экарта-Янга даёт математическую основудля решения поставленной задачи. Следует отметить, что соответствующиерезультаты неоднократно переоткрывались статистиками и,по-видимому, первым метод главных компонент предложил К. Пирсонв начале XX века, который отметил, что искомый минимум достигаетсяв том случае, если базис {e 1 ,e 2 ,...,e p } берётся в виде собственныхвекторов так называемой ковариационной матрицы C = A ⊤ A, отвечающихеё p наибольшим собственным значениям. На современном языкеможно сказать, что искомый базис составлен из старших сингулярныхвекторов матрицы данныхA, а «главными компонентами» обычно именуюткомпоненты разложения векторов данных по этому базису.3.5 Обусловленностьсистем линейных уравнений3.5а Число обусловленности матрицВ этом параграфе общие идеи и понятия, развитые в §1.3, рассматриваютсяв приложении к задаче решения системы линейных уравнений.В частности, мы вводим количественную меру чувствительностирешения по отношению к вариациям матрицы и вектора правой части.Рассмотрим систему линейных алгебраических уравненийAx = bс неособенной квадратной матрицей A и вектором правой части b ≠ 0,а также систему(A+∆A)˜x = b+∆b,где ∆A ∈ R n×n и ∆b ∈ R n — возмущения матрицы и вектора правойчасти. Насколько сильно ненулевое решение ˜x возмущённой системыможет отличаться от решения x исходной системы уравнений?Пусть это отличие есть ∆x = ˜x−x, так что ˜x = x+∆x, и потому(A+∆A)(x+∆x) = b+∆b.