Método dos Mínimos Quadrados (Apostila)

Método dos Mínimos Quadrados.
O método dos mínimos quadrados consiste em dado um conjunto de valores (xi, f(xi)),
com i=1,2,..., n e uma expressão para p(x), encontrar os parâmetros função interpoladora que
minimizem função 2 , definida por:
e:
segue que:
No caso linear:
a
2
b
2
0
0
n
2
i
2
i 1 i
p(x) = a+b.x
n
2
i
2
i 1 i
( f ( x ) p(
x ))
( f ( x ) a bx )
Minimizando 2 em relação aos parâmetros a e b,
n
( f ( xi
) a bx
a
2
i1
i
n
( f ( xi
) a bx
b
2
i1
i
Usando a propriedade de derivada de uma soma, temos:
n
i1
( f ( xi
) a bxi
)
a
2
i
i
i
)
)
2
2
2
i
2
i
0
0
0
2
1

Notando que i não depende dos parâmetros a e b:
Calculando as derivadas parciais:
e dividindo ambos os membros por 2, obtemos:
n
i1
n
i 1
1
2
i
1
2
i
(
f ( x ) a bx ) 0
i
(
x
f ( x ) ax bx
i
i
i
i
2
i
) 0
Usando as propriedades da somatória e re-arranjando os termos, temos:
a
a
n
i1
n
i1
n
i1
n
i1
n
i1
n
i1
n
i1
1
2
i
x
i
2
i
b
b
n
i1
n
i1
Na forma matricial:
( f ( xi
) a bxi
)
b
x
x
2
i
i
2
i
2
i
2
i
n
2
i1
n
i1
0
1
2
( f ( x ) )
2 i a bxi
a
i
1
2
( f ( x ) )
2 i a bxi
b
i
1
2
i
1
2
i
2 (
f ( x ) a bx )
i
2 (
f ( x ) a bx )
i
i
i
f ( x )
i
i
2
i
x f ( x )
0
0
( 1)
0
(
x
) 0
i
2
i
i
2

n
i
A
n
i
a
B
b
D
Chamando:
xi
2
1 i
i1
n
i1
n
1
i1
1
2
i
podemos escrever:
A . B = D
n
i1
n
2
i
xi
2
1
f ( x
i)
2
i
x
i f ( xi
)
2
i
-
n
i1
n
x
x
i1
i1
i
i1
-
n
n
i
2
i
2
i
2
i
x
x
i
2
i
2
i
2
i
a
b
Como estamos interessados nos coeficientes a e b, temos que encontrar os valores dos
elementos da matriz B (note que os elementos das matrizes A e D são conhecidos pois são
obtidos de contas feitas com os valores dados na tabela).
n
i1
n
i1
f ( x
i )
2
i
x i f ( xi
)
2
i
3

Inversão da Matriz
Seja A uma matriz quadrada. A inversa de A, pode ser obtida por:
Onde os elementos Cij da cofatora de A são obtidos por:
Cij = (-1) i+j . det (Āij)
sendo a matriz Āij aquela resultante da eliminação da i-ésima linha e j-ésima coluna da matriz
A .
Exemplo:
1
1
A (
COF(
A))
A
Seja a seguinte matriz
A
11
21
12
os elementos Cij da cofatora de A são:
C11 = (-1) 1+1 det (22)
C11 = 22
C12 = (-1) 1+2 det (21)
C12 = -21
C21 = (-1) 2+1 det (12)
C21 = -12
C22 = (-1) 2+2 det (11)
C22 = 11
Assim:
t
22
4

COF ( A)
-
a transposta é:
e a inversa de A é:
22
12
-
Podemos verificar que a matriz obtida é de fato a inversa de A, lembrando que, por
definição, a inversa de uma matriz multiplicada pela sua inversa resulta na matriz identidade,
ou seja:
=
COF(
A)
-
A
1
22
11
21
22
Vamos então realizar este cálculo:
11
11
22
22
1
1
12
12
21
21
-
22
21
22
-
21
11
1
11
12
-
12
-
21
11
12
A -1 . A = 1
11
12
11
21
21
-
0
22
.
11
21
11
21
21
-
-
12
21
11
22
12
22
12
12
12
11
22
22
0
5

11
22
1
0
é :
1
12
22
0
1
21
11
0
1
12
21
11
22
0
Usando o resultado do exemplo anterior, temos que a inversa de:
A
A
1
Assim :
D = A -1 . B
1
n
n
i 1 i
i1
i
2
i
2
x
n
n 2
i 1 i
i1
i
2
i
i
2
1
x
1
n n 2 n
i 1
i i 1 i
i
2
i 2
i
i
2 2
x
2
-
x
x
n 2
i
2
i1 i
n
x
x
12
21
-
i 1
i
2
i1
i
i 1
n
n
x
i
2
i
1
2
i
6

ou seja:
n
1
i
2
n
1
i
2
n
1
i
2
2
1
2
n
1
i
2
n
1
i
2
1
2
2
1 1
2
2
2
2
2
2
)
(
1
)
(
-
)
(
-
)
(
1
1
i
i
i
i
i
i
i
i
n
i i
i
i
i
i
i
i
n
i i
i
n
i
n
i
n
i i
i
i
i
i
x
f
x
x
f
x
x
f
x
x
x
f
x
x
x
b
a
e:
n
1
i
n
1
i
2
2
n
1
i
n
1
i
2
2
1 1
2
2
2
2
2
2
1
2
n
1
i
2
n
1
i
2
1
2
2
1 1
2
2
2
2
2
2
)
(
1
)
(
-
.
1
1
)
(
-
)
(
1
1
i
i
i
i
i
i
i
i
n
i
n
i
n
i
i
i
i
i
i
n
i i
i
i
i
i
i
i
n
i i
i
n
i
n
i
n
i i
i
i
i
i
x
f
x
x
f
x
x
x
x
f
x
x
x
f
x
x
x
b
a
7
1
2
1
2
1
2
2
2
n
1
i
n
1
i
2
2
n
1
i
2
1
2
2
1 1
2
2
2
2
2
2
)
(
)
(
.
1
-
-
1
1
n
i i
i
i
n
i i
i
i
i
i
i
i
n
i i
i
n
i
n
i
n
i i
i
i
i
i
x
f
x
x
f
x
x
x
x
x
b
a
Matriz de Covariância

Exemplo:
Partindo de:
a
b
Ajuste uma reta aos seguintes valores:
x f(x)
0 3,1 0,2
1 4,9 0,2
2 6,8 0,2
3 9,2 0,2
4 11,1 0,2
1
5 1 5
2
x 5 xi
2
i1 i
2
i1 i
2
i2 i
i
e calculando os somatórios:
1
5
2
i 1
i
x
5
i
2
i 1
i
5 2
xi
2
i1 i
5
i1 i
f ( xi
)
2
1
1
2
-
1
5 2
xi
2
i1 i
5
x
-
i1
i
2
i1
i
i1
2
2
2
2
0, 2
0, 2
0, 2
0, 2
0, 2
0
1
2
2
2
2
2
0, 2
0, 2
0, 2
0, 2
0, 2
2 0 0, 2
2
3,
1
2 1 0, 2
2
4,
9
2 2 0, 2
2
6,
8
1
3
2 3 0, 2
2
9,
2
1
4
5
5
2
2
2 4 0, 2
x
i
2
i
1
2
2
2
2
0, 2
0, 2
0, 2
0, 2
0, 2
2
i
.
125
250
2
11,
1
750
2
5
i
2
i1 i
5
i1
877,
5
f ( x )
xif
( xi
)
2
i
8

temos:
então:
a
b
xi
f ( xi
) 0
3,
1 1
4,
9 2 6,
8 3 9,
2 4 111,
2
2
5
i1 i
a
b
a
b
1
31.
250
1
31.
250
2,96
2,03
Os erros nos parâmetros a e b são obtidos a partir da raiz quadrada dos elementos da
diagonal principal da matriz de covariância. Assim:
a
b
750
31.
250
125
0,
06
31.
250
O resultado do ajuste é:
2
2
2
2
0, 2
0, 2
0, 2
0, 2
0, 2
750
-
250
92.500
63.437,5
-250
877,
5
.
125
2.
262,
5
0,
15
P = (2,96 0,15)+ (2,03 0,06)x
2.
262,
5
9

Exercícios:
Ajuste uma reta aos seguintes conjuntos de valores:
1) x 1 3 5 7 9
f(x) 6,9 16,2 28,2 36,6 48,7
0,9 1,4 1,7 2,0 2,1
2) x 1 2 3 4 5 6 7 8
3) Dado:
f(x) 1,06 2,19 3,12 4,12 5,32 6,31 7,55 8,11
0,05 0,15 0,20 0,15 0,10 0,25 0,25 0,10
x 0,1 1,3 2,1 3,5
f(x) 2,35 8,10 17,70 72,90
0,10 0,15 0,10 0,20
Sendo a função:
a) Mostre que :
a
P a.
e
e
b) Encontre o valor numérico de a.
x
.
4 x i
i
2
i1
i
2
4
xi
e
2
i 1
i
f ( x )
10