Semana 3 - Clase 9

Tema 2: Espacios Vectoriales

21/04/09

Ortogonalizaci
on
1.

M
etodo de Gram-Schmidt

Hemos visto que un conjunto de vectores ortogonales forman base para un espacio vectorial. Ahora bien, siempre es posible construir un conjunto de vectores ortogonales a partir
de un conjunto de vectores linealmente independientes. Es metodo de ortogonalizacion se
conoce como el metodo de Gram-Schmidt1 , en honor de estos dos matematicos alemanes que
NO inventaron el metodo, el cual al parecer se le debe al matematico frances P.S. Laplace.
Dado un conjunto de vectores linealmente independientes, {|v1 i , |v2 i , |v3 i , , |vn i}
que expanden un espacio Euclidiano de dimension finita, E n . Entonces siempre se puede
construir un conjunto ortogonal de vectores, {|u1 i , |u2 i , |u3 i , , |un i} que tambien expandan E n de la siguiente forma:
|u1 i |v1 i
|u2 i |v2 i

hv2 |u1 i
hu1 |u1 i

|u3 i |v3 i

hv3 |u2 i
hu2 |u2 i

|u4 i |v4 i

hv4 |u3 i
hu3 |u3 i

|u1 i
|u2 i

|u3 i

3
hv3 |u1 i
hu1 |u1 i

hv4 |u2 i
hu2 |u2 i


|u1 i

|u2 i

hv4 |u1 i
hu1 |u1 i

..
.

|un i |vn i

|u1 i

hu3 |u1 i = 0
hu3 |u2 i = 0

hu4 |u1 i = 0
hu4 |u2 i = 0

hu4 |u3 i = 0

hu4 |u1 i = 0

hu4 |u2 i = 0
hu4 |u3 i = 0

..

hu |u i = 0

..
.

hvn |ui i
i=1 hui |ui i

Pn1

hu2 |u1 i = 0

|ui i

n1

As siempre es posible construir una base ortonormal a partir de un conjunto de vectores

linealmente independientes. Esta base ortogonal sera u
nica en E n , si existe otra sus vectores
seran proporcionales, Mas a
un, cada espacio vectorial Vn de dimension finita tendra una
base ortogonal asociada.
1

Erhard Schmidt (1876, Estonia-1959 Alemania). MatematicoAleman fundador del primer instituto de
matem
aticas aplicadas de Berln. Alumno de Hilbert, Schmidt hizo sus mayores contribuciones en Ecuaciones
Integrales y Teora de Funciones en el Espacio de Hilbert.
M
as detalles http://www-history.mcs.st-andrews.ac.uk/Mathematicians

Hector Hernandez / Luis N

un
ez

Universidad de Los Andes, Merida

Semana 3 - Clase 9

Tema 2: Espacios Vectoriales

21/04/09

Ejemplos
El subespacio de V4 expandido por los siguientes vectores

1
2
1
3
0
1

|v1 i =
1 ; |v2 i = 1 ; |v3 i = 0 .
2
3
0
Tendra una base ortogonal asociada dada por:

1
; |u2 i |v2 i hv2 |u1 i |u1 i =
|u1 i |v3 i =

0
hu1 |u1 i
0

|u3 i |v1 i

hv1 |u1 i
hv1 |u2 i
|u2 i
|u1 i =
hu2 |u2 i
hu1 |u1 i

1
 
3
9

|u3 i

1
12
2

|u3 i
=
hu3 |u3 i

1
1
5

1
(1) 1 = 1
;

1
0
4

3
0

y la base ortonormal asociada sera

! 1
|u1 i
2
1
|e1 i = p
=
0
2
hu1 |u1 i
0

|e3 i =

2
1
1
1 1
0
+
=
1 0 1
3
0
3

5
4

|u2 i
=
|e2 i = p
hu2 |u2 i

12
12

1
1
;
1
3

! 5
4

2 3

7
9

4

1
4

Hector Hernandez / Luis N

un
ez

Universidad de Los Andes, Merida

Semana 3 - Clase 9

Tema 2: Espacios Vectoriales

21/04/09

Para el caso de R2 es muy claro. Si tenemos dos vectores |v1 i y |v2 i linealmente independientes,
 
 
1
0
|v1 i =
; |v2 i =
;
1
1
elegimos |u1 i |v2 i entonces, |u2 i vendra dado por
     
hv1 |u1 i
1
0
1
|u2 i |v1 i
|u1 i |u2 i

=
1
1
0
hu1 |u1 i
tal y como se esperaba, el otro vector ortogonal es el canonico.
Si consideramos el espacio de polinomios, P n , de grado g n definidos en el intervalo [1, 1] Este espacio vectorial tendra como una de las posibles bases
R 1 al conjunto
2 3
n
{1, t, t , t , , t } con el producto interno viene definido por hf | gi = 1 dx f (x) g (x) .
Por lo tanto, se procede a construir una base ortogonal de la forma
hv1 |u0 i
|u0 i |v0 i = 1 , |u1 i |v1 i
|u0 i = t
hu0 |u0 i
hv1 |u0 i =

R1

|u2 i |v2 i
hv2 |u0 i =

R1

hu1 |u1 i =

R1
1

hv3 |u0 i =

R1

hv3 |u2 i =

R1

R1
1

dx = 2

hv2 |u0 i
hv2 |u1 i
|u1 i
|u0 i = t2
hu1 |u1 i
hu0 |u0 i

dx t2 = 32 ;
1

|u3 i |v3 i

..
.

hu0 |u0 i =

dx t = 0;
1

dx t2 =

R1

hv2 |u1 i =

1
3

dx t3 = 0;

2
3

hv3 |u2 i
hv3 |u1 i
hv3 |u0 i
|u2 i
|u1 i
|u0 i = t3 53 t
hu2 |u2 i
hu1 |u1 i
hu0 |u0 i

dx t3 = 0;
dx t3 t2

hv3 |u1 i =
1
3

= 0;

R1
1

dx t4 =

hu2 |u2 i =

R1
1

2
5

dx t2

1 2
3

8
45

Podemos resumir lo anterior de la siguiente manera

Hector Hernandez / Luis N

un
ez

Universidad de Los Andes, Merida

Semana 3 - Clase 9
|v1 i

|u1 i

2.

|e1 i
q
1

q2
3
t
2
1
3

1
2

t2

t2

t3

t3 53 t

t4
..
.

Tema 2: Espacios Vectoriales

21/04/09

t4 67 t2 +
..
.

3
35

1
2
1
8

9
2

q2
7
2

(3t2 1)
(5t3 3t)

(35t4 30t2 + 3)
..
.

Complementos Ortogonales.

Sea un subespacio S V, un elemento |

vi i V se dice que es ortogonal a S si el producto
interno: hsk |
vi i = 0 |sk i S, es decir, |
vi i es ortogonal a todos los elementos de S.
El conjunto {|
v1 i , |
v2 i , |
v3 i , , |
vm i} de todos los elementos ortogonales a S, se denomina Sperpendicular y se denota como S . Es facil demostrar que S es un subespacio,
a
un si S no lo es.

3.

Descomposici
on ortogonal

Dado {|v1 i , |v2 i , |v3 i , , |vn i , } un espacio euclidiano V y un subespacio de V con

dimension finita, S V y dim V = m. Entonces |vk i V se puede expresar como suma
de dos vectores |sk i S |sk i S . Esto es
|vk i = |sk i + |sk i

|sk i S

|sk i S

Mas a
un, la norma de |vk i se calcula a traves del teorema de Pitagoras generalizado

2


k|vk ik2 = k|sk ik2 + |sk i
La demostracion es sencilla. Primero se prueba que la descomposicion ortogonal |vk i =
|sk i + |sk i es siempre posible. Para ello recordamos que S V es de dimension finita, por
lo tanto existe una base ortonormal {|e1 i , |e2 i , |e3 i |em i} para S. Esto es, dado un |vk i
definimos los elementos |sk i y |sk i como siguen
|sk i =

m
X

hvk |ei i |ei i

|sk i = |vk i |sk i

i=1

Hector Hernandez / Luis N

un
ez

Universidad de Los Andes, Merida

Semana 3 - Clase 9

Tema 2: Espacios Vectoriales

21/04/09

Notese que hvk |ei i |ei i es la proyeccion de |vk i a lo largo de |ei i y |sk i se expresa combinacion
lineal de la base de S. Por lo tanto esta en S, y por otro lado:
" m
#
X

hsk |ei i = (hvk | hsk | ) |ei i = hvk |ei ihsk |ei i = hvk |ei i
hvk |ej i hej | |ei i = 0 |sk i |ej i
j=1

lo cual indica que |sk i S .

Podemos ir un poco mas alla. La descomposicion |vk i = |sk i + |sk i es u
nica en V. Para
demostrarlo suponemos que existen dos posibles descomposiciones, vale decir
|vk i = |sk i + |sk i

|vk i = |tk i + |tk i

con |sk i |tk i S

|sk i |tk i S

Por lo tanto

 

|vk i |vk i = |sk i + |sk i |tk i + |tk i = 0

|sk i |tk i = |tk i |sk i

Pero |sk i |tk i S, por lo tanto ortogonal a todos los elementos de S y |sk i |tk i =
|tk i |sk i con lo cual |sk i |tk i |0i que es el u
nico elemento que es ortogonal a el mismo
y en consecuencia la descomposicion |vk i = |sk i + |sk i es u
nica.
Finalmente, con la definicion de norma
2

2 




2

2

|sk i + |sk i = hsk |sk i+ hsk |sk i k|sk ik + |sk i

k|vk ik = |sk i + |sk i = hsk | + hsk |
As, dado Sm un subespacio de V de dimension finita y dado un |vk i V el elemento
|sk i S

|sk i =

m
X

hvk |ei i |ei i

i=1

sera la proyeccion de |vk i en S.

Dado un vector |xi V y un subespacio de V con dimension finita, Sm V y dim V =
m, entonces la distancia de |xi a Sm es la norma de la componente de |xi , perpendicular a
Sm .

4.
4.1.

Temas Avanzados
Aproximaci
on de Funciones

Sea {|v1 i , |v2 i , |v3 i , , |vn i , } un Espacio Euclidiano V y un subespacio de V con

dimension finita, Sm V y dim V = m, y sea un elemento |vi i V. La proyeccion de |vi i
en Sm , |si i , sera el elemento de Sm mas proximo a |vk i. En otras palabras
k|vi i |si ik k|vi i |ti ik
Hector Hernandez / Luis N
un
ez

|ti i S
Universidad de Los Andes, Merida

Semana 3 - Clase 9

Tema 2: Espacios Vectoriales

21/04/09

La demostracion se sigue as
|vi i |ti i = (|vi i |si i) (|si i |ti i)
ya que |vi i|si i = |sk i S
Ahora bien, como
k|si i |ti ik2 0

k|vi i |ti ik2 = k|vi i |si ik2 + k|si i |ti ik2

|si i|ti i S, y vale el teorema de Pitagoras generalizado,

k|vi i |ti ik2 k|vi i |si ik2

k|vi i |ti ik k|vi i |si ik

Ejemplos
Desarrollemos la aproximacion de funciones continuas, reales de variable real y definidas

en [0, 2], C[0,2]

, mediante funciones Trigonometricas y con el producto interno definido
R 2
por hf | gi = 0 dx f (x) g (x) . Hemos visto que para este espacio vectorial tenemos
una base ortonormal definida por
1
1
|e2n1 i = 2n1 (x) = cos(nx)
|e0 i = 0 (x) = ,

2
1
|e2n i = 2n (x) = sen(nx).

Por lo tanto cualquier funcion definida en el intervalo [0, 2] puede expresarse en terminos de esta base como
|f i =

Ci |ei i

con

i=1

R
2

dx f (x) = a0
si i = 0

Z 2
R
2
Ci = hei |f i =
dx f (x) i (x) =
dx f (x) cos(nx) = a2n1 si i = 2n 1
0

R 2 dx sen(nx) f (x) = a
si i = 2n
2n
0
donde los Ci son los coeficientes de Fourier. Es decir, cualquier funcion puede ser
expresada como una serie de Fourier de la forma
n
X
1
f (x) = a0 +
[an cos(nx) + bn sen(nx)]
2
n=1

con
1
an =

dx f (x) cos(nx)
0

Hector Hernandez / Luis N

un
ez

1
bn =

dx f (x) sen(nx)
0

Universidad de Los Andes, Merida

Semana 3 - Clase 9

Tema 2: Espacios Vectoriales

21/04/09

Es claro que para la aproximacion de funciones por funciones Trigonometricas cuyos

coeficientes son los coeficientes de Fourier constituyen la mejor aproximacion. Por lo

las funciones trigonometricas, T (x) minitanto, de todas las funciones P (x) C[0,2]
mizan la desviacion cuadratica media
Z 2
Z 2
2
dx (f (x) P (x))
dx (f (x) T (x))2
0

4.2.

El M
etodo de Mnimos Cuadrados

Una de las aplicaciones mas importantes en la aproximacion de funciones es el metodo de

mnimos cuadrados. La idea es determinar el valor mas aproximado de una cantidad fsica,
c a partir de un conjunto de medidas experimentales: {x1 , x2 , x3 , xn } . La intencion es
encontrar en el mejor valor de c a partir de ese conjunto de datos experimentales.
Para ello asociamos el conjunto de medidas {x1 , x2 , x3 , xn } con las componentes de un
vector |xi en Rn . As
|xi = (x1 , x2 , x3 , xn )

c |yi = (c,c,c, c)

Por lo tanto si la mejor aproximacion de c|yi ,que llamaremos c|yi ,sera la proyeccion perpendicular de |xi (las medidas) sobre el subespacio generado por |yi . Esto es
c0 =

x1 + x2 + x3 , + xn
hx |yi
=
hy |yi
n

que no es otra cosa que el promedio aritmetico de las medidas. Es claro que la proyeccion
perpendicular de |xi sobre |yi hace mnimo la distancia entre el subespacio perpendicular
generado por |yi y el vector |xi .Es decir hace mnimo el cuadrado de esa distancia
0

[d (|xi , c |yi)] = (hx| hc y| ) | (|xi |c yi) =

n
X

(xi c0 )

i=1

Es claro que este problema se puede generalizar si se desea medir dos (o n) cantidades. Para
el caso de dos cantidades extendemos la dimension del espacio. Por lo tanto, los resultados
experimentales se acumularan en un vector de 2n dimensiones
|xi = (x11 , x12 , x13 , x1n , x21 , x22 , x23 , x2n )
mientras que los vectores que representan las cantidades mas aproximadas seran

c01 |y1 i = c01 ,c01 ,c01 , c01 ,0, 0, 0, 0

{z
} | {z }
|
n

Hector Hernandez / Luis N

un
ez

c02 |y2 i = (0, 0, 0, 0, c02 ,c02 ,c02 , c02 )

Universidad de Los Andes, Merida

Semana 3 - Clase 9

Tema 2: Espacios Vectoriales

21/04/09

Ahora {|y1 i , |y2 i} expanden un subespacio vectorial sobre el cual |xi tiene como proyeccion
ortogonal c01 |y1 i + c02 |y2 i y consecuentemente |xi |c01 y1 i |c02 y2 i sera perpendicular a
{|y1 i , |y2 i} , por lo tanto
c01 =

hx |y1 i
x11 + x12 + x13 , + x1n
=
hy1 |y1 i
n

c02 =

hx |y2 i
x21 + x22 + x23 , + x2n
=
hy2 |y2 i
n

La consecuencia mas conocida de esta aproximacion de funciones es el ajuste de un

conjunto de datos experimentales {(x1 , y1 ) , (x2 , y2 ) , (x3 , y3 ) , , (xn , yn )} a la ecuacion de
una recta y =cx. En este caso, el planteamiento del problema se reduce a encontrar el vector
c0 |xi en el subespacio S (|xi) este lo mas cercano posible al vector |yi = c |xi . Por lo tanto
k|c0 xi |yik2 sera lo menor posible y |c0 xi |yi sera perpendicular a S (|xi), por lo tanto
hx| (|c0 xi |yi) = 0

c0 =

x1 y1 + x2 y2 + x3 y3 + xn yn
hx |yi
=
hx |xi
x21 + x22 + x23 , + x2n

Ejemplo Si el conjunto de datos experimentales es {(1, 2) , (3, 2) , (4, 5) , (6, 6)} cual es la
recta que ajusta mas acertadamente a estos puntos ? La ecuacion queda como


2
1
2
3
2 + 6 + 20 + 36
32
hx |yi
0

|yi = c |xi
5 = c 4 c = hx |xi = 1 + 9 + 16 + 36 = 31
6
6
Ahora bien, se puede generalizar esta procedimiento cuando se tiene que una cantidad y
que es una combinacion lineal desconocida de un conjunto de cantidades
y = c 1 x1 + c 2 x2 + c 3 x3 + + c m xm
En este caso se ejecutaran n experimentos con n > m y el conjunto de medidas experimentales
seran
(y1 , x11 , x12 , x13 , x1m ; y2 , x21 , x22 , x23 , x2m ; y3 , x31 , x32 , x33 , x3m ; yn , xn1 , xn2 , xn3 , xnm )
y a partir de ellas generamos el siguiente sistema de ecuaciones
y1 = c01 x11 + c02 x12 + c03 x13 , + c0m x1m
y2 = c01 x21 + c02 x22 + c03 x23 , + c0m x2m
y3 = c01 x31 + c02 x32 + c03 x43 , + c0m x4m
..
.
yn = c01 xn1 + c02 xn2 + c03 xn3 , + c0m xnm
Hector Hernandez / Luis N
un
ez

Universidad de Los Andes, Merida

Semana 3 - Clase 9

Tema 2: Espacios Vectoriales

21/04/09

en el cual las incognitas {c01 ,c02 ,c03 , c0m } hacen que el lado derecho de las ecuaciones antes
mencionadas sean los mas proximas a las {y1 , y2 , y3 , yn } por lo tanto si consideramos los
vectores
|x1 i = (x11 , x1n ) ; |x2 i = (x21 , x2n ) ; |xm i = (xm1 , xmn ) ; |yi = (ym1 , yn )
por lo tanto los {|x1 i , |x2 i , |xm i} expanden el subespacio S (|x1 i , |x2 i , |xm i) donde
esta la aproximacion de |yi . Por lo tanto la distancia de este subespacio al vector |yi,
sera mnimo. Esto es
2

[d (S (c0i |xi i) , |yi)] = (hS (c0i |xi i) | hy|) (|S (c0i |xi i)i |yi)
y por lo tanto |S (c0i |xi i)i |yi sera ortogonal a
hxj | (|S (c0i |xi i)i |yi) hxi |

m
X

!
c0i |xi |yi

= 0 i, j = 1, 2, 3, m

i=1

por lo tanto podemos construir el sistema de ecuaciones normales para la aproximacion que
hemos considerado:
c01 hx1 |x1 i + c02 hx1 |x2 i + c03 hx1 |x3 i + + c0m hx1 |xm i
c01 hx2 |x1 i + c02 hx2 |x2 i + c03 hx2 |x3 i + + c0m hx2 |xm i
..
.

= hx1 |yi
= hx2 |yi
..
.

c01 hxm |x1 i + c02 hxm |x2 i + c03 hxn |x3 i + + c0m hxm |xm i = hxn |yi
donde, tal y como se ha se
nalado, las incognitas son las {c01 ,c02 ,c03 , c0m }
Ejemplos
Se sospecha que una determinada propiedad de un material cumple con la ecuacion
y = ax1 + bx2 . Si al realizar un conjunto de medidas experimentales obtenemos

y1
15
y2
12
y3
10
y4
0
x11 = 1 ; x21 = 2 ; x31 = 1 ; x41 = 1
x12
2
x22
1
x32
1
x42
1
Es claro que tenemos un subespacio de m = 2 dimensiones y hemos hecho n = 4 veces
el experimento. Por lo tanto los vectores considerados arriba seran
|x1 i = (1, 2, 1, 1) ;

|x2 i = (2, 1, 1, 1) ;

|yi = (15, 12, 10, 0)

por lo tanto
7a +4b = 49
4a +7b = 52

Hector Hernandez / Luis N

un
ez

a=

45
11

b=

56
11

11y = 45x1 + 56x2

Universidad de Los Andes, Merida

Semana 3 - Clase 9

Tema 2: Espacios Vectoriales

21/04/09

Se puede extender el razonamiento anterior y generar un ajuste linear cuadratico.

Esto es, el ajuste lineal es en los coeficiente, pero la funcionalidad de la ley a la cual
queremos ajustar los datos puede ser un polinomio de cualquier orden. Ese es el caso
de una parabola que ajusta al siguiente conjunto de puntos
{(0, 1) , (1, 3) , (2, 7) , (3, 15)}

y = ax2 + bx + c

Las ecuaciones toman la forma de

1 = 0 +0
3 = a +b
7 = 4a +2b
15 = 9a +3b

+c
+c
+c
+c

y los vectores construidos a partir de los datos experimentales seran

|x1 i = (0, 1, 4, 9) ;

|x2 i = (0, 1, 2, 3) ;

|x3 i = (1, 1, 1, 1) ;

las ecuaciones normales para este sistema son

a = 6

136 = 98a +36b +14c

62 = 36a +14b +6c

b = 113

26 = 14a +6b +4c

c = 32
5

|yi = (1, 3, 7, 15)

y = 6x2 +

113
32
x
5
5

Ejercicios Al medir la temperatura a lo largo de una barra material obtenemos los siguientes valores
xi
Ti

(cm) 1, 0
( C) 14, 6

2, 0
18, 5

3, 0
36, 6

4, 0
30, 8

5, 0
59, 2

6, 0
60, 1

7, 0
62, 2

8, 0
79, 4

9, 0
99, 9

Encuentre, mediante el metodo de los mnimos cuadrados los coeficientes que mejor ajustan a una recta T = ax + b

Hector Hernandez / Luis N

un
ez

10

Universidad de Los Andes, Merida