MINIMOS CUADRADOS

Ajuste de curvas por mnimos cuadrados

Cuando se asume que existe un error sustancial en los datos de f(x
i
), la interpolacin polinomial, ya
sea de Newton o de Lagrange, es inapropiada debido a que cuando se utiliza para encontrar los
valores intermedios la variabilidad de los datos har que la curva representada a travs del
polinomio oscilar en forma amplia en el intervalo entre los puntos. En este caso se utiliza la
regresin por mnimos cuadrados, tcnica cuyo objetivo es derivar una curva que minimice la
discrepancia entre los puntos y la curva. Algunas suposiciones estadsticas inherentes en los
procedimientos por mnimos cuadrados lineales son:
1. Cada x tiene un valor fijo, no es aleatorio y es conocido sin error.
2. Los valores y son valores aleatorios independientes y todos tienen la misma varianza.
3. Los valores de y para una x dada deben ser normalmente distribuidos.
4. La regresin de y contra x no es la misma que la de x contra y.
Ajuste para una recta
La aproximacin por mnimos cuadrados se presenta cuando se ajusta un conjunto de pares de
observaciones: (x
1
,y
1
), (x
2
,y
2
),, (x
n
,y
n
) a una lnea recta. La expresin matemtica para sta ltima
es
(4.13)
Error entre el modelo y las observaciones (residuo)
Pendiente
Intercepto
Para ajustar a la mejor lnea a travs de los datos se minimiza la suma de los cuadrados de los
residuos entre la y medida y la y calculada con el modelo lineal
(4.14)

La ventaja de (4.13) es que se obtiene una lnea nica para el conjunto de datos.
Para obtener los valores a
0
y a
1
de (4.13) calculamos

0 1
y a a x e = + +
2 2 2
, ,mod 0 1
1 1 1
( ) ( )
n n n
r i i medida i elo i i
i i i
S e y y y a a x
= = =
= = =


Igualando con cero y simplificando

Haciendo y despejando
(4.15)
Y al resolver (4.15) en forma simultnea se tiene que
(4.16)
Donde y son las medias de y y x, respectivamente.



Ejemplo. Ajusta a una lnea recta los valores de x y y de la siguiente tabla:
i x
i
y
i
=f(x
i
)
1 1 0.5
2 2 2.5
3 3 2.0
4 4 4.0
5 5 3.5
6 6 6.0
7 7 5.5


Solucin. En la siguiente tabla se tienen algunos clculos necesarios para obtener la recta por medio
de mnimos cuadrados:
i x
i
y
i
=f(x
i
) x
i
2
x
i
y
i
y
i
2
(y
i
-a
0
-a
1
x
i
)
2

0 1
0
0 1
1
2 ( )
2 [( ) ]
r
i i
r
i i i
S
y a a x
a
S
y a a x x
a
c
=
c
c
=
c

0 1
2
0 1
0
0
i i
i i i i
y a a x
y x a x a x
=
=


0 0
a na =

0 1
2
0 1
i i
i i i i
na a x y
a x a x x y
+ =
+ =


( )
1
2
2
0 1
i i i i
i i
n x y x y
a
n x x
a y a x

=


y
x
1 1 0.5 1 0.5 0.25 0.1687
2 2 2.5 4 5 6.25 0.5624
3 3 2.0 9 6 4 0.3473
4 4 4.0 16 16 16 0.3264
5 5 3.5 25 17.5 12.25 0.5897
6 6 6.0 36 36 36 0.7971
7 7 5.5 49 38.5 30.25 0.1994

28 24 140 119.5 105 2.9911

Como se tienen 7 puntos, n=7 y entonces

La pendiente y el intercepto de la recta, respectivamente, son:

De manera que la recta buscada es

Cabe destacar que S
r
=2.9911 y que esta suma de los cuadrados de los residuos es la mnima. A
continuacin se presentan los valores de la y
i
medida, de la y
i
del modelo y del error en la
aproximacin:
i x
i
y
i,medida
y
i,modelo
e
i

1 1 0.5 0.9108 0.4108
2 2 2.5 1.7506 0.7499
3 3 2.0 2.5893 0.5893
4 4 4.0 3.4286 0.5714
5 5 3.5 4.2679 0.7679
6 6 6.0 5.1072 0.8928
7 7 5.5 5.9465 0.4465


Lo cual puede apreciarse grficamente:

1
1
28
4
7
24
3.4286
7
n
i
i
n
i
i
x
x
n
y
y
n
=
=
= = =
= = ~

1
2
0
(7)(119.5) (28)(24) 164.5
0.8393
196 (7)(140) (28)
3.4286 (0.8393)(4) 0.07143
a
a

= = ~

= ~
0.07143 0.8393 y x e = + +

Cuantificacin del error en una ajuste a una recta por mnimos cuadrados:
- La ecuacin del error estndar del estimado es:

Se considera el denominador n-2 debido a que se usan dos datos estimados a
0
y a
1
para
realizar los clculos, y por lo tanto se tienen n-2 grados de libertad. Esta ecuacin cuantifica
la dispersin alrededor de la recta de regresin, la cual sigue una distribucin normal.
- El coeficiente de correlacin est dado por:

e indica qu tan relacionados estn los datos de x y los de y. Conforme r se acerque ms a -1
1, los datos estarn ms relacionados.
- El coeficiente de determinacin es r
2
y al hacer r
2
x100, tendremos entonces el porcentaje en
que la incertidumbre original ha sido explicada por el modelo lineal.
Ajuste para una parbola
Supongamos que tenemos la siguiente grfica correspondiente a una serie de datos:
0 1 2 3 4 5 6 7
0
1
2
3
4
5
6
7
x
y
=
f
(
x
)
y=0.07143+0.8393 x
e3
e2
e4
e1
e5
e4
e6
e7
/
2
r
Y X
S
S
n
=

( )( )
( )
( )
( )
( )
2 2 2 2
i i i i
i i i i
n x y x y
r
n x x n y y

=




Es claro que una regresin lineal por mnimos cuadrados no explica adecuadamente el
comportamiento de los datos y es preferible una parbola. Una alternativa simple es utilizar
manipulaciones matemticas para transformar las ecuaciones en una forma lineal, utilizar regresin
lineal y luego volver al estado original para propsitos predictivos.
Ejemplo. Ajusta los valores de x y y a una parbola.
i x
i
y
i
=f(x
i
)
1 1 0.5
2 2 1.7
3 3 3.4
4 4 5.7
5 5 8.4

Solucin. En la siguiente tabla se resumen los datos que resultan de aplicar logaritmo en base 10
tanto a los datos x como a los datos y:
i x
i
y
i
=f(x
i
) log
10
(x
i
) log
10
(y
i
)
1 1 0.5 0 -0.301
2 2 1.7 0.301 0.230
3 3 3.4 0.477 0.531
4 4 5.7 0.602 0.756
5 5 8.4 0.699 0.924






0 1 2 3 4 5 6 7 8 9
0
0.5
1
1.5
2
2.5
3
3.5
4
4.5
x
y
=
f
(
x
)
Las grficas de los valores de la tabla antes y despus de la transformacin, respectivamente son las
siguientes:











La recta resultante de aplicar mnimos cuadrados es:
1 2 3 4 5 6 7 8 9
0
1
2
3
4
5
6
7
8
9
x
y
=
f
(
x
)
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7
-0.4
-0.2
0
0.2
0.4
0.6
0.8
1
x
y
=
f
(
x
)




Para encontrar la parbola que describe el comportamiento de los datos originales,
aplicamos a la recta el antilogaritmo (10
x
) de x:
y=0.5x
1.75




10 10
log ( ) 1.75log ( ) 0.300
i i
y x =
0 0.1 0.2 0.3 0.4 0.5 0.6 0.7
-0.4
-0.2
0
0.2
0.4
0.6
0.8
1
x
y
=
f
(
x
)
log10(yi)=1.75*(xi)-0.300
1 2 3 4 5 6 7 8 9
0
1
2
3
4
5
6
7
8
9
x
y
=
f
(
x
)
y=0.5*x1.75
Bibliografa
- Akai Terrence J., Mtodos numricos aplicados a la ingeniera. Mxico, Limusa
Wiley, 2004.
- Burden Richard L. & Faires J. Douglas, Anlisis numrico. 2. ed., Mxico, Grupo
Editorial Iberoamrica, 1993.
- Chapra Steven C. & Canale Raymond P., Mtodos numricos para ingenieros. 4.
ed., Mxico, McGraw-Hill, 2003.
- Iriarte R. & Balderrama V., Mtodos numricos. Mxico, Facultad de Ingeniera
U.N.A.M., Trillas, 199