Proyecciones Ortogonales: Proceso de Gram-Schmidt

Departamento de Matematicas, CCIR/ITESM

20 de noviembre de 2010

Indice
28.1. Introducci on . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
28.2. Ortogonalidad a un espacio . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
28.3. Proyeccion ortogonal . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
28.4. Proceso de ortogonalizacion de Gram-Schmidt . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
28.1. Introduccion
En esta lectura veremos el proceso para ortogonalizar un conjunto de vectores. Este proceso es conocido
como el proceso de Gram-Schmidt.
28.2. Ortogonalidad a un espacio
Teorema
Sea V un espacio vectorial con producto interno . El vector u es ortogonal a todo vector de
W = Gen{v
1
, . . . , v
k
} si y solo si
u v
i
= 0, para todo i = 1, 2 . . . , k
Demostraci on
Si u es ortogonal a todo W, entonces es ortogonal a todo elemento de W. Los elementos v
i
son tambien
elementos de W. Por tanto, para cada i = 1, 2, . . . , k se cumple u v
i
= 0.
Supongamos que para cada i = 1, 2, . . . , k se cumpla u v
i
= 0, y sea v un elemento cualquiera de W. Como
W esta generado por los v
i
, deben existir c
i
tales que:
v = c
1
v
1
+ + c
k
v
k
Haciendo el producto interno con u:
u v = c
1
u v
1
+ + c
k
u v
k
= c
1
0 + + c
k
0 = 0
por tanto, u es ortogonal a todo elemento de W.
28.3. Proyeccion ortogonal
Nuestro principal resultado referente a ortoginalidad es el siguiente.
Teorema
Suponga que V es un espacio vectorial con producto interno. Y sea b un vector de V y W un
subespacio lineal de V . Si W posee una base ortogonal, entonces
1. Existe z W tal que b z W.
2. El vector z que cumple lo anterior es unico.
3. Para todo y de W: d(z, b) d(y, b).
Demostraci on
Sea B = {a
1
, a
2
, . . . , a
k
} una base ortogonal para W. Denamos
z =
_
b a
1
a
1
a
1
_
a
1
+
_
b a
2
a
2
a
2
_
a
2
+ +
_
b a
k
a
k
a
k
_
a
k
Por conveniencia representaremos
f
i
=
b a
i
a
i
a
i
Veamos que z cumple el requisito 1. De acuerdo al resultado previo debemos probar que (b z) a
i
= 0 para
cada i = 1, 2, . . . , k. Si utilizamos las propiedades del producto interno y la ortogonalidad de B tenemos:
(b z) a
i
=
_
b

k
j=1
f
j
a
j
_
a
i
= b a
i

_

k
j=1
f
j
a
j
_
a
i
= b a
i

k
j=1
f
j
a
j
a
i
= b a
i
f
i
a
i
a
i
= b a
i

ba
i
a
i
a
i
a
i
a
i
= b a
i
b a
i
= 0
Por lo anterior y el teorema previo concluimos que b z W.
Supongamos que el vector y de W tambien cumple la condicion 1. Es decir, que b y es ortogonal a todo
vector de W. Para probar que y = z, veamos que la magnitud de y z es cero.
(y z) (y z) = (y z +b b) (y z)
= ((b y) + (b z)) (y z)
= (b y) (y z) + (b z) (y z)
Como z y y son elementos de W y W es un subespacio lineal, y z esta en W. y como los vectores b z y
b y son perpendicuales a todo vector de W se obtiene que:
(b y) (y z) = 0 y (b z) (y z) = 0
de esta manera tenemos que
(y z) (y z) = 0
Por tanto
y z
2
= 0
Y as y z = 0; de donde concluimos que y = z.
Ahora, sea y un vector cualquiera de W, as:
(b y) (b y) = (b y +z z) (b y +z z)
= ((b z) + (z y)) ((b z) + (z y))
= (b z) (b z) + (b z) (z y) + (z y) (b z) + (z y) (z y)
= (b z) (b z) + (z y) (z y)
2
Por tanto
d(y, b)
2
= d(z, b)
2
+ d(y, z)
2
De donde concluimos que d(x, b) d(y, b) para todo y de W.
Denici on 28.1
Sea V un espacio vectorial con producto interno. Sea u un vector y sea W un subespacio con una base ortogonal
B = {v
1
, . . . , v
k
}. Entonces, la proyeccion ortogonal de u sobre W es el vector
u
pr
=
u v
1
v
1
v
1
v
1
+ +
u v
k
v
k
v
k
v
k
La diferencia u
c
= u u
p
r se llama la componente de u ortogonal a W.
u
c
= u
u v
1
v
1
v
1
v
1

u v
k
v
k
v
k
v
k
u = u
pr
+ u
c
El vector u
pr
es el vector de W lo mas cercano a u y la distancia de u a W es la magnitud del vector u
c
.
28.4. Proceso de ortogonalizacion de Gram-Schmidt
Sea V un espacio vectorial con producto interno. Todo subespacio W con una base tiene al menos una base
ortogonal y una base ortonormal. Si B = {v
1
, . . . , v
k
} es cualquier base de V , entonces B

= {u
1
, . . . , u
k
} es
una base ortogonal, donde
u
1
= v
1
u
2
= v
2

v
2
u
1
u
1
u
1
u
1
u
3
= v
3

v
3
u
1
u
1
u
1
u
1

v
3
u
2
u
2
u
2
u
2
.
.
.
u
k
= v
k

v
k
u
1
u
1
u
1
u
1

v
k
u
2
u
2
u
2
u
2

v
2
u
k1
u
k1
u
k1
u
k1
y
Gen{v
1
, . . . , v
i
} = Gen{u
1
, . . . , u
i
}, i = 1, . . . , k
Una Base ortonormal B

se obtiene normalizando B

.
B

=
_
u
1
u
1

, . . . ,
u
k
u
k

_
El proceso anterior es conocido como proceso de Gram-Schmidt.
Ejemplo 28.1
Determine una base ortogonal y una ortonormal de R
3
aplicando el proceso de Gram-Schmidt a la base
B = {v
1
, v
2
, v
3
} , en la cual
v
1
=
_
_
1
1
1
_
_
, v
2
=
_
_
2
3
1
_
_
, v
3
=
_
_
1
2
4
_
_
Soluci on Por razones de conveniencia, denamos
x
ij
=
v
j
u
i
u
i
u
j
(1)
3
Figura 1: Captura de los vectores del ejemplo 1.
Se toma u
1
= v
1
. Como v
2
u
1
= 6 y u
1
u
1
= 3 se tiene x
12
= 6/3 y por tanto se tiene:
u
2
= v
2
x
12
u
1
=
_
_
2
3
1
_
_

6
3
_
_
_
1
1
1
_
_
=
_
_
0
1
1
_
_
Ya que v
3
u
1
= 5, v
3
u
2
= 2, y u
2
u
2
= 2, se tiene que x
13
= 5/3 y x
23
= 1 y entonces
u
3
= v
3
x
13
u
1
x
23
u
2
=
_
_
1
2
4
_
_

_
5
3
_
_
_
1
1
1
_
_
(1)
_
_
0
1
1
_
_
=
_
_
8
3
4
3

4
3
_
_
As, la base ortogonal es B

= {u
1
, u
2
, u
3
} donde
u
1
=
_
_
1
1
1
_
_
, u
2
=
_
_
0
1
1
_
_
, u
3
=
_
_
8
3
4
3

4
3
_
_
Por ultimo, normalizamos para obtener una base ortonormal B

:
B

=
_

_
_

_
1

3
1

3
_

_
,
_

_
0
1

2
1

2
_

_
,
_

_
2

6
1

6
_

_
_

_
Los calculos anteriores pueden llevarse a cabo en la TI 89 o Voyage. La gura 1 contiene la captura de los
vectores. Las guras 2 y 3 contienen los pasos del algoritmo sobre el conjunto de vectores inicial. Las guras
3 y 4 contienen la normalizacion de los vectores resultantes del proceso de Gram-Schmidt. La gura 5
4
Figura 2: Seguimiento del algoritmo en el ejemplo 1.
Figura 3: Conclusion del algoritmo GS e inicio del ortonormalizacion.
Figura 4: Ortonormalizaci on del conjunto.
Figura 5: Resultado del ejemplo 1.
5
Figura 6: Formacion de la matriz para el ejemplo 1.
Figura 7: QR en el ejemplo 1.
contiene la matriz cuyas columnas son el resultado del proceso del ortonormalizacion completo. El proceso de
Gram-Schmidt combinado con el de ortonormalizacion esta implementado en la TI mediante la rutina llamada
factorizacion QR. El conjunto de entrada debe estar en las columnas de una matriz. En la gura 6 se ilustra
la formacion de la matriz cuyas columnas son el conjunto inicial. Note en ella, el uso de la funci on augment
con punto y coma para la separacion de los vectores y el uso de la transpuesta debido a que ellos inicialmente
fueron denidos como vectores renglon. En la gura 7 se ilustra el uso del comando QR. Note que no se usan
parentesis debido a que es una rutina y no una funci on. El primer argumento es la matriz y el segundo y tercero
son variables donde se depositaran los calculos. Note que la matriz q resultante contiene en sus columnas el
mismo resultado de nuestro proceso completo.
Ejemplo 28.2
Determine la mnima distancia de v
3
al espacio V que generan v
1
y v
2
con los datos del problema anterior.
Soluci on
Para este calculo debemos cambiar a {v
1
, v
2
} por una base ortogonal y poder utilizar el resultado sobre la
descomposici on. Por los resultados del problema previo tenemos que una base ortonormal es: B

= {u
1
, u
2
}
donde
u
1
=
_
_
1
1
1
_
_
, u
2
=
_
_
0
1
1
_
_
Ya que v
3
u
1
= 5, v
3
u
2
= 2, y u
2
u
2
= 2, entonces
v
3c
= v
3

_
v
3
u
1
u
1
u
1
_
u
1

_
v
3
u
2
u
2
u
2
_
u
2
=
_
_
1
2
4
_
_

_
5
3
_
_
_
1
1
1
_
_

_
2
2
_
_
_
0
1
1
_
_
=
_
_
8
3
4
3

4
3
_
_
6
Figura 8: Datos y ortonormalizacion del ejemplo 2.
Figura 9: C alculos nales del ejemplo 2.
Por lo tanto la distancia de v
3
a V es
||v
3c
|| =
_
(8/3)
2
+ (4/3)
2
+ (4/3)
2
=
4
3

6
En la gura 8 se ilustra la forma de realizar los calculos del ejemplo 2 en la TI. Note que el vector v
3
se
denio como renglon, y por ello el uso de v
3
T
. Aplicando el concepto de multiplicaci on de una matriz por un
vector,
la expresi on q
T
v
3
T
calcular a < u
1
v
3
, u
2
v
3
> (Recuerde que u
i
u
i
= 1).
la expresi on q
_
q
T
v
3
T
_
calcular a
pr = (u
1
v
3
) u
1
+ (u
2
v
3
) u
2
En la gura 9 se obtiene la distancia mnima de v
3
al espacio generado por v
1
y v
2
:
d = v
3
pr =
_
32
3
=
4
3

6
Ejemplo 28.3
Calcule una base ortogonal y una ortonormal de R
3
aplicando el proceso de Gram-Schmidt a la base B , en
la cual
B =
_
_
_
_
_
2
1
1
_
_
,
_
_
0
3
1
_
_
,
_
_
1
2
0
_
_
_
_
_
Soluci on
Utilizando
v
1
=
_
_
2
1
1
_
_
, v
2
=
_
_
0
3
1
_
_
, v
3
=
_
_
1
2
0
_
_
7
Iniciemos con u
1
= v
1
. Como v
2
u
1
= 4 y u
1
u
1
= 6 en ese caso
u
2
= v
2

v
2
u
1
u
1
u
1
u
1
=
_
_
0
3
1
_
_

_
4
6
_
_
_
2
1
1
_
_
=
_
_
4
3
7
3

1
3
_
_
Ya que v
3
u
1
= 1, v
3
u
2
= 6, y u
2
u
2
=
22
3
, entonces
u
3
= v
3

v
3
u
1
u
1
u
1
u
1

v
3
u
2
u
2
u
2
u
2
=
_
_
1
2
0
_
_

_
1
6
_
_
_
2
1
1
_
_

_
6
22
3
_
_
_
4
3
7
3

1
3
_
_
=
_
_

14
33
17
66

7
66
_
_
As la base ortogonal es B

= {u
1
, u
2
, u
3
} donde
u
1
=
_
_
2
1
1
_
_
, u
2
=
_
_
4
3
7
3

1
3
_
_
, u
3
=
_
_

14
33
17
66
7
66
_
_
O sea
B

=
_
_
_
_
_
2
1
1
_
_
,
_
_
4
3
7
3

1
3
_
_
,
_
_

14
33
17
66
7
66
_
_
_
_
_
Por ultimo normalizamos para obtener una base ortonormal B

:
B

=
_

_
_
_
1
2

1
4
1
4
_
_
,
_

_
4

66
7

66

66
_

_,
_

28

1122
17

1122

1122
_

_
_

_
Ejemplo 28.4
Calcule una base ortogonal y una ortonormal de R
3
aplicando el proceso de Gram-Schmidt a la base B , en
la cual
B =
_
_
_
v
1
=
_
_
1
2
1
_
_
, v
2
=
_
_
4
3
5
_
_
, v
3
=
_
_
1
2
3
_
_
_
_
_
8
Soluci on
Iniciamos con u
1
= v
1
. Como v
2
u
1
= 7 y u
1
u
1
= 6 en ese caso
u
2
= v
2

v
2
u
1
u
1
u
1
u
1
=
_
_
4
3
5
_
_

_
7
6
_
_
_
1
2
1
_
_
=
_
_
31
6
2
3

23
6
_
_
Ya que v
3
u
1
= 0, v
3
u
2
=
13
2
, y u
2
u
2
=
251
6
, entonces
u
3
= v
3

v
3
u
1
u
1
u
1
u
1

v
3
u
2
u
2
u
2
u
2
=
_
_
1
2
3
_
_

_
0
6
_
_
_
1
2
1
_
_

_
13
2
251
6
_
_
_
31
6
2
3

23
6
_
_
=
_
_
99
502
476
251
1805
502
_
_
As la base ortogonal es B

= {u
1
, u
2
, u
3
} donde
B

=
_
_
_
_
_
1
2
1
_
_
,
_
_
7
6
2
3
1
6
_
_
,
_
_
99
502
476
251
1805
502
_
_
_
_
_
Por ultimo, normalizamos para obtener una base ortonormal B

:
B

=
_

_
_
_
1
4

1
2
1
4
_
_
,
_

_
7

66
2

66
1

66
_

_,
_

_
99

3494402
952

3494402
1805

3494402
_

_
_

_
9