APROXIMACIN POR MNIMOS CUADRADOS

MTODO DE LOS MNIMOS CUADRADOS

Supongamos que un sistema de ecuaciones lineales Ax = b, con Mmn(R), es incompatible, es decir que b no es combinacin de de las columnas de A. Se trata de hallar un vector x0 de Rn que minimice

E = Ax b
Para cualquier x Rn , Ax es combinacin de las columnas de A, por lo que estamos buscando es el elemento que es combinacin de las columnas de A que mas se acerca a b. Eso no es ms que la proyeccin ortogonal de b sobre el espacio columna de A. La solucin que minimiza E es aquella tal que Ax0 es la proyeccin ortogonal sobre el espacio de las columnas de A, es decir,

b Ax0 es ortogonal a Ay, y Rn.

Por lo tanto

< A y , b A x0 > = 0 , ytAt(b Ax0) = 0, yt(Atb AtAx0) = 0,

de lo que se deduce

y Rn y Rn y Rn ,

AtAx0 = Atb

A las ecuaciones anteriores se les denomina ecuaciones normales, a la solucin x0 solucin ptima y a E 2 = Ax0 b 2 se le llama error cuadrtico.

Si las columnas de A son independientes la solucin de las ecuaciones normales es nica, como se puede ver aplicando la factorizacin QR a A

(QR)t(QR)x0 = (QR)tb RtQtQRx0 = RtQtb Rx0 = Qtb.

AJUSTE DE DATOS
Si se espera una relacin lineal entre los datos y = a + bx el sistema planteado es

. . . . . . 1 xm

1 x1

a b

. = . . . ym

y1

Si se ajusta una parbola y = a + bx + cx2 se obtiene

. . . . . . 1 xm

1 x1 x2 1

y1 a . b = . . . c x2 ym m
m

Se dene el ndice de determinacin como

(y (xk ) y)2 d=
k =1 m

(yk y)2
k =1

1 donde y = m

yk .
k =1

Es fcil ver que 0 d 1.

2

Los ajustes anteriores son casos particulares del ajuste por modelos lineales y = a11(x) + a22(x) + + ann(x). En este caso se obtiene

1(x1) 2(x1) 1(x2) 2(x2) . . . . . . 1(xm) 2(xm)

n(x1) a1 n(x2) a2 . . ... . . . . n(xm) an

. . . . = ym

y1

Algunas funciones no lineales se pueden linealizar, como por ejemplo y = aebx .