Módulo de clases

Prof. Marı́a Angélica Vega U.

9.7. Mı́nimos cuadrados Discretos.

Consiste en buscar una una función aproximada que ajuste la forma de la tendencia que siguen los
datos sin pasar necesariamente por los puntos dados. Un modo de hacer esto es determinar una
curva que minimice la diferencia entre los puntos dados y la curva. Este método se conoce como
regresión por mı́nimos cuadrados. El caso más simple de una aproximación por mı́nimos cuadrados
es el ajuste de las observaciones mediante una lı́nea recta. La figura siguiente muestra la mejor
lı́nea recta.
Regresión lineal. Este problema clásico puede enunciarse : Dada una función continua f sobre
un intervalo [a, b] y un conjunto de n observaciones (x1 , y1 ), (x2 , y2 ), · · · , (xn , yn ), buscamos una
lı́nea recta de ecuación
f (x) = a0 + a1 x
tal que la diferencia entre el valor real de y y el valor aproximado obtenido por f (x) sea el menor
posible. Recordemos que se definió el error o residuo entre la función y) y su aproximación como :

e = y − a0 − a1 x.

¿Cómo obtener la recta de regresión ? La regresión lineal es un método poderoso en el sentido

que ajusta los datos a la mejor lı́nea. Sabemos que eśte es un problema de optimización y debemos
encontrar los valores a0 y a1 de f (x) = a0 + a1 x de modo que la suma
n
X n
X
Er = (ei )2 = (yi − f (xi ))2 . (176)
i=1 i=1

sea mı́nima. Para ello derivamos la ecuación (176) con respecto a cada coeficiente e igualamos a
cero, de donde tenemos :

∂Er Pn
= −2 i=1 (yi − a0 − a1 xi ) = 0
∂a0

∂Er Pn
= −2 i=1 (yi − a0 − a1 xi )xi = 0
∂a1

De aquı́ se tiene el sistema de ecuaciones lineales, escrito en la forma Aa = b:

 Pn Pn    Pn 
Pni=1 1 Pni=1 x2i a0
= Pni=1 yi o equivalentemente
i=1 xi i=1 xi a1 i=1 xi yi

 Pn    Pn 
Pnn Pni=1 x2i a0
= Pn
i=1 yi
i=1 xi i=1 xi a1 i=1 xi yi

Resolviendo el sistema matricial obtenemos los valores de a0 y a1 .

91
Ejemplo 9.2 Ajuste a una lı́nea recta los siguientes cinco puntos. ¿Qué puede decir del error que
se obtiene
P1 (1, 5,12) , P2 (3, 3) , P3 (6, 2,48) , P4 (9, 2,34) , P5 (15, 2,18).
Solución. Determinamos cada uno de los términos que aparecen en (9.7)

Cálculo de las sumas.

P5
n=5 , xi = 34
P5 Pi=1
5
xi = 34 , yi = 15,12
Pi=1
5 Pi=1
5
y = 15,12 , x i yi = 82,76
P5i=1 i2 Pi=1
5 2
i=1 i = 352
x , i=1 i = 51,5928
y

de donde tenemos el sistema de ecuaciones :

Sistema de ecuaciones     
5 34 a0 15,12
=
34 352 a1 82,76
Usando eliminación gaussiana encontramos los valores del vector a
a0 = 4,15298 , a1 = −0,166027.
de donde la ecuación de la recta es:
L(x) = 4,15 − 0,17 ∗ x

Actividades 9.4

i) Encuentre el sistema matricial que se obtiene al ajustar, usando:

f (x) = P (x) = a0 + a1 x + a2 x2 .

ii) Dado un conjunto de m observaciones (x1 , y1 ), ..., (xm , ym ). aproximar los datos con un poli-
nomio de grado n, usando el procedimiento de mı́nimos cuadrados. Observe que el polinomio
es ahora
X n
f (x) = P (x) = ai xi .
i=1

Problema 2. Supongamos que queremos ajustar n datos, P1 (x1 , y1 ), · · · , Pn (xn , yn ) con una fun-
ción g(x) de dos parámetros γ1 y γ2 , es decir
g(x) = γ1 Φ1 (x) + γ2 Φ2 (x).
Notemos que Φ1 (x) y Φ( x) son funciones conocidas elementales de x que no son necesariamente
elementos de una base para los polinomios. Obviamente para encontrar la g(x) que minimiza el
cuadrado de los errores hay que determinar los parámetros γ1 y γ2 . En efecto,
n
X
E(g) = (yi − g(xi ))2 . (177)
i=1

92
Derivando parcialmente con respecto a γ1 y γ2 , igualando a cero y reordenando se obtiene el
siguiente sistema de ecuaciones en forma matricial Aγ = b
 Pn Pn    Pn 
Pni=1 Φ1 (xi )Φ1 (xi ) Pni=1 Φ2 (xi )Φ1 (xi ) γ1
= Pi=1
n
Φ1 (xi )yi
i=1 Φ1 (xi )Φ2 (xi ) i=1 Φ2 (xi )Φ2 (xi ) γ2 i=1 Φ2 (xi )yi

Las ecuaciones del sistema se denominan ecuaciones normales y cualquier modelo lineal (suma
ponderada de dos funciones) de dos parámetros pueden ajustarse a un sistema de ecuaciones
lineales. El error en este caso puede determinarse luego de encontrar γ1 y γ2 , usando:
n n n
!
X X X
2
E(g) = (yi ) − γ1 Φ1 (xi )yi + γ2 Φ2 (xi )yi (178)
i=1 i=1 i=1

Para ilustrar este modelo, tomemos el ejemplo 0.2 y ajustemos los datos usando una función de
dos parámetros como sigue.

Ejemplo 9.3 Ajustar mediante el método de mı́nimos cuadrados, los datos del ejemplo 1.15 con
γ2
una hipérbola desplazada del tipo g(x) = γ1 + . Determine el error cometido al ajustar los datos
x
con la recta y con la parábola.

9.8. Algo sobre Normas de funciones.

Definición 9.2 La norma de una función f que pertenece a alguna clase de funciones continuas
C es una función de C al conjunto de los números reales no negativos :

|| · || : C → R+
f 7→ ||f || ≥ 0

tal que verifica las siguientes propiedades :

i) ||f || > 0 , ||f || = 0 ⇔ f = 0

ii) ∀ λR y f C ||λf || = |λ||f ||
iii) ∀ f, g C ||f + g|| ≤ |||f || + ||g||

Algunas normas conocidas con f C

i)
||f ||∞ = máx |f (x)|. (179)
a≥x≥b

Esta norma definida sobre [a, b] es llamada norma del máximo, norma infinito o norma
de Tchebyshev. Verificar como ejercicio que satisface las propiedades de una norma.

93
 ii)
(Z ) p1
b
||f ||p = |f (x)|p dx . (180)
a

conocida como p− norma, donde f ∈ C[a, b] y p ≥ 1. Obviamente cada valor de p ≥ 1 es

una norma, aunque en la práctica se utiliza p = 1 y p = 2.

Normas Discretas (es decir para f C(X))

i)
||f ||∞ = máx |f (xi )|. (181)
0≤i≤N

llamada norma infinito discreta.

ii)
p1
||f ||p = ΣN p

i=0 |f (xi )| dx . (182)
conocida como p− norma discreta, siendo p ≥ 1.

La desigualdad triangular es difı́cil de demostrar para esta última norma, excepto para p = 1 y
p = 2.

Nota 9.1 i) Observemos que se ha usado ||f ||∞ para denotar dos normas diferentes (179) sobre
C[a, b] y (181) análogamente sucede con ||f ||p .
ii) Existe la siguiente relación entre la norma (181) y las p− normas (182) dada por :
p1
ΣN p

lı́m i=0 |f (xi )| dx = máx |f (xi )|. (183)
p→∞ 0≥ix≥N

iii) La mejor aproximación respecto a la norma infinito se llama aproximación minimax,

puesto que esta aproximación minimiza el error máximo ||f − q||∞ sobre todo q ∈ Pn (x)
iv) La mejor aproximación respecto a la norma 2 se llama aproximación mı́nimo cuadrado.

94