AJUSTE POR MINIMOS CUADRADOS

MTODOS NUMRICOS

Oscar Tinoco Gmez

 El Principio de los Mnimos
Cuadrados
La regresin trata de generar la
ecuacin de mejor ajuste ---
pero qu es lo mejor?

Criterio: minimizar la suma de

las desviaciones cuadradas
de los puntos de datos de la
regresin lineal.

M n imos C uadr a do s
 Qu tan Buena es la Regresin
(Parte 1) ?

Qu tan bien representa nuestros datos originales la

ecuacin de regresin?

La proporcin (porcentaje) de la varianza en y que es

explicada por la ecuacin de regresin es representada por
el smbolo R2.

(Suma de los cuadrados de la media de Y)

R = 2 (Suma de los cuadrados de la regresin lineal)

Variabilidad Ajustada - ilustracin

R2 Alto- buen ajuste R2 Bajo- poco ajuste

 Qu tan Buena es la Regresin
(Parte 2) ?
Qu tan bien predecir esta ecuacin de regresin los
NUEVOS puntos de datos?

Recuerde que emple una muestra de la poblacin de los puntos

de datos potenciales para determinar la ecuacin de regresin.
e.g. un valor cada 15 minutos, 1-2 semanas de operacin de
datos

Una muestra diferente dar una ecuacin diferente con diferentes

coeficientes de bi

Como se muestra en la siguiente diapositiva, la muestra puede

afectar enormemente la ecuacin de regresin
 Muestreando variablidad de los
Coeficientes de Regresin- ilustracin

Muestra 1:Sample
y =1:ax
y = a'x + + + eMuestra
+ b' b 2:y =ya''x=
Sample 2: + b''ax
+ + b + e
INTERPOLACIN
Se caracteriza por suponer que los datos
que intervienen en el problema son
exactos; por lo cual en la construccin de la
funcin de interpolacin se exige que la
misma satisfaga todos y cada uno de los
valores que constituyen los datos

AJUSTE
Supone que los datos ingresados estn
afectados en cierto grado de errores debido al
modelado, por lo que no resulta indispensable
que la curva de ajuste correspondiente pase
exactamente por los puntos que representan
los datos, sino que, en promedio, la
aproximacin sea ptima de acuerdo al
criterio de ajuste
 MTODO DE LOS MNIMOS CUADRADOS
Es una tcnica de anlisis numrico en la que dados
un conjunto de pares ordenados (obtenidos
empricamente) se intenta encontrar la funcin que
mejor se aproxime a los datos (ajuste).
En su forma ms simple intenta minimizar la suma
de los cuadrados de las diferencias ordenadas
(residuos) entre los puntos generados por la funcin
(modelo terico) y los correspondientes en los
datos.

Ao =

A1 =
 Regresin Lineal
Se desea ajustar un serie de puntos (xi, yi) a una lnea recta dada
por:
y = a0 + a1x + e
Donde a0 y a1 son coeficientes que representan la interseccin con
el eje y la pendiente, y e es el error, o diferencia, entre el modelo y
las observaciones.
e = y a0 a1x
 Criterio del mejor ajuste

En el mtodo de mnimos cuadrados se desea minimizar la suma

de los cuadrados de los residuos.

n n n
S r e yi ,medida yi ,modelo yi a0 a1 xi
2 2 2
i
i 1 i 1 i 1
 Ajuste por mnimos
cuadrados
Derivando respecto a a y a . 0 1
n n n
S r e yi ,medida yi ,modelo yi a0 a1 xi
2 2 2
i
i 1 i 1 i 1

S r
Obtenemos 2 yi a0 a1 xi
a0
S r
2 yi a0 a1 xi xi
a1

Igualando a 0
0 yi a0 a1 xi
0 yi xi a0 xi a1 xi2

Resolviendo para a0 y a1
n xi yi xi yi
a1
n xi2 xi
2

a0 y a1 x
 Ejemplo
Ajustar con mnimos cuadrados los siguientes datos

X Y

1 0.5

2 2.5

3 2.0

4 4.0

5 3.5

6 6.0

7 5.5
 Tarea
Ajustar con mnimos cuadrados los siguientes datos

X Y
0 5
2 6
4 7
6 6
9 9
11 8
12 7
15 10
17 12
19 12
 Estadstica bsica
Promedio: y y i

S t yi y
2
St
s
Desviacin estndar y
n 1

S
y12 yi / n
2
Varianza: s t
2
y sy
2
n 1 n 1

Coeficiente de variacin: c.v. s y 100%

y

Estimado normal estndar: y

t
sy / n
 Tarea

Escriba un archivo M para graficar la recta del mejor ajuste

utilizando mnimos cuadrados. Deber aceptar como parmetros
los valores de X y Y. Grafique los puntos con crculos y la lnea de
regresin con una recta.
 Error en la regresin lineal
n
S r yi a0 a1 xi
2
y
i 1 Medicin

La desviacin estndar de la lnea

de regresin es: yi a0 a1x n
s i
e
gr
Sr re
Sy/x ea
de
n2 a0 + a1x
L n

La magnitud del error residual

antes de la regresin es:
x

S t yi y
2
En ajuste perfecto Sr = 0 y r = r2 =
El coeficiente de determinacin es: 1.
St S r Si r = r2 = 0, Sr = St, el ajuste no
r
2
representa alguna mejora.
St n xi yi xi yi
El coeficiente de correlacinr r
2

n xi2 xi n yi2 yi
2 2
es:
 Linealizacin de relaciones no
lineales
y y y

x
y 1e 1 x
y 2x 2
y 3
3 x

x x x

ln y log y 1/y

Pendiente =
3/
Pendiente = 1
Pendiente = 2 Interseccin =
1/3
x log x 1/x
Interseccin = Interseccin = log
ln 1 2