05/04/2017

MÉTODOS PARA RESOLVER SISTEMAS DE ECUACIONES

Resolver un sistemas de ecuaciones

Significa Sistemas Incompatibles
Encontrar un conjunto de valores para las incógnitas que verifican
simultáneamente a todas y cada una de las ecuaciones.
Según el tipo de solución los sistemas se clasifican en:
No admiten solución Admiten solución

Incompatibles Compatibles Determinados

No existe ningún conjunto de valores
Métodos iterativos
NO tienen solución para las incógnitas que verifican
simultáneamente a todas y cada una de
Gauss - Seidel Jacobi
las ecuaciones.

TIPOS DE SISTEMAS DE ECUACIONES SEGÚN SOLUCIÓN Teorema de Rouché-Frobenius

MC: matriz de coeficientes El rango de una matriz es el nro. máximo de

Resolver un sistemas de ecuaciones MA: matriz ampliada
líneas de esa matriz (filas o columnas) que son
Significa n: número de incógnitas
linealmente independientes.
Encontrar un conjunto de valores para las incógnitas que verifican
simultáneamente a todas y cada una de las ecuaciones.
Sistema compatible (existe solución), si
Según el tipo de solución los sistemas se clasifican en:
No admiten solución Admiten solución rg(MA)=rg(MC)
Incompatibles Compatibles
• Sistema determinado (solución única), si
Para pocas ecuaciones  Gráficamente (poco preciso) rg(MA)=rg(MC)=n
Para muchas ecuaciones  Teorema de Rouché-Frobenius • Sistema es indeterminado (infinitas soluciones), si
rg(MA)=rg(MC)<n

EJEMPLO DIJIMOS…

Sistemas Incompatibles
16 -1 0 No existe ningún conjunto de valores para las
20 -1 100 NO tienen solución incógnitas que verifican simultáneamente a
10 -1 20 todas y cada una de las ecuaciones.
CALCULEN LOS RANGOS

rg(MC)=2 rg(MA)=3

Ing. Prof. María José Bouciguez 1


Veamos algunos conceptos previos necesarios…
MÉTODOS PARA ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES
• Vectores perpendiculares u ortogonales:
Producto escalar Producto matricial
Si un vector z es ortogonal a todo vector en un subespacio W
de Rn, se afirma entonces que z es ortogonal a W.
El conjunto de todos los vectores z ortogonales a W se llama
ortogonal de W
MÉTODOS PARA ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES
• Vectores perpendiculares u ortogonales:
El conjunto de todos los vectores z ortogonales a W se llama
ortogonal de W
Si tenemos el siguiente sistema:
Ing. Prof. María José Bouciguez
05/04/2017
MÉTODOS PARA ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES
• Longitud o norma o módulo de un vector:
La norma es la longitud del segmento de
línea que va de 0 a (a, b)
• Distancia entre 2 vectores:
MÉTODOS PARA ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES
• Vectores perpendiculares u ortogonales:
El conjunto de todos los vectores z ortogonales a W se llama complemento
ortogonal de W
complemento Cada vector y en W puede escribirse como combinación lineal de los
vectores de la base S.
MÉTODOS PARA ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES
• Proyección ortogonal de un punto en R2:
Dado un vector u diferente de cero en Rn,
considere el problema de descomponer un
vector y de Rn en la suma de dos vectores,
complemento uno un múltiplo de u y el otro ortogonal a u.
2
 05/04/2017

MÉTODOS PARA ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES MÉTODOS PARA ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES

• Proyección ortogonal del vector y en R2: • Proyección ortogonal del vector y en un

• Proyección ortogonal de un punto en R2: subespacio W de Rn:
Dado un vector u diferente de cero en R2,
considere el problema de descomponer un
vector y de R2 en la suma de dos vectores,
uno un múltiplo de u y el otro ortogonal a u.

El vector es la proyección ortogonal

de y sobre u, y el vector z es la El vector es la proyección ortogonal de y sobre
componente de y ortogonal a u. W, y el vector z es la componente de y
ortogonal a u.
Donde subespacio L es el
generado mediante u (la
línea que pasa por u y 0) proyW y

MÉTODOS PARA ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES MÉTODOS PARA ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES

• Proyección ortogonal de un punto en un

Si las columnas de la siguiente matriz Propiedad de las proyecciones ortogonales
subespacio W de Rn:
son los vectores del subespacio W, si
existe un vector solución (x, y, z)
¿donde se encontraría?
Si tenemos el siguiente sistema:

El vector es la proyección ortogonal de y sobre

W, y el vector z es la componente de y
ortogonal a u.

proyW y

MÉTODOS PARA RESOLVER

DIJIMOS… SISTEMAS DE ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES

Ante un sistema de ecuaciones incompatible

Sistemas Incompatibles
No existe ningún conjunto de valores para las PROBLEMA GENERAL DE MÍNIMOS CUADRADOS
NO tienen solución incógnitas que verifican simultáneamente a
todas y cada una de las ecuaciones.
o
Solución por mínimos cuadrados

Además:

COMPATIBLE

Ing. Prof. María José Bouciguez 3

 05/04/2017

MÉTODOS PARA RESOLVER MÉTODOS PARA RESOLVER

SISTEMAS DE ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES SISTEMAS DE ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES

Ante un sistema de ecuaciones incompatible Ante un sistema de ecuaciones incompatible

COMPATIBLE COMPATIBLE

MÉTODOS PARA RESOLVER MÉTODOS PARA RESOLVER

SISTEMAS DE ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES SISTEMAS DE ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES

Ante un sistema de ecuaciones incompatible

TEOREMA DE MÍNIMOS CUADRADOS
El conjunto de soluciones aproximadas por mínimos cuadrados del
COMPATIBLE sistema incompatible Ax=b coincide con el conjunto de soluciones
clásicas del sistema compatible ATAx=ATb
EJEMPLO: Encuentre una solución por mínimos cuadrados del sistema inconsistente Ax = b,
donde :

Debe resolverse el sistema compatible:

MÉTODOS PARA RESOLVER MÉTODOS PARA RESOLVER

SISTEMAS DE ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES SISTEMAS DE ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES

Ante un sistema de ecuaciones incompatible Ante un sistema de ecuaciones incompatible

TEOREMA DE MÍNIMOS CUADRADOS TEOREMA DE MÍNIMOS CUADRADOS

El conjunto de soluciones aproximadas por mínimos cuadrados del sistema
incompatible A x=b coincide con el conjunto de soluciones clásicas del sistema
compatible ATA x=ATb
EJEMPLO: Encuentre una solución por mínimos cuadrados del sistema inconsistente Ax = b,
donde : Debe resolverse el sistema compatible:
El conjunto de soluciones aproximadas por mínimos cuadrados del sistema
incompatible A x=b coincide con el conjunto de soluciones clásicas del sistema
compatible ATA x=ATb
EJEMPLO: Encuentre una solución por mínimos cuadrados del sistema inconsistente Ax = b,
donde : Debe resolverse el sistema compatible:

Por método iterativo o directo Por ejemplo como la matriz es invertible, resolvemos por matriz inversa:

Ing. Prof. María José Bouciguez 4

 05/04/2017

MÉTODOS PARA RESOLVER MÉTODOS PARA RESOLVER

SISTEMAS DE ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES SISTEMAS DE ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES

EJEMPLO: Encuentre una solución por mínimos cuadrados del sistema incompatibleAx = b, EJEMPLO: Encuentre una solución por mínimos cuadrados del sistema inconsistente Ax = b,
donde : donde :
Debe resolverse el sistema compatible: Debe resolverse el sistema compatible:

MÉTODOS PARA RESOLVER MÉTODOS PARA RESOLVER

SISTEMAS DE ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES SISTEMAS DE ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES

EJEMPLO: Encuentre una solución por mínimos cuadrados del sistema inconsistente Ax = b, EJEMPLO: Encuentre una solución por mínimos cuadrados del sistema inconsistente Ax = b,
donde : donde :
Debe resolverse el sistema compatible: Debe resolverse el sistema compatible:

Sus columnas no son linealmente independientes => No es invertible

MÉTODOS PARA RESOLVER MÉTODOS PARA RESOLVER

SISTEMAS DE ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES SISTEMAS DE ECUACIONES ALGEBRAICAS LINEALES INCOMPATIBLES

Ante un sistema de ecuaciones incompatible Ante un sistema de ecuaciones incompatible

TEOREMA DE MÍNIMOS CUADRADOS TEOREMA DE MÍNIMOS CUADRADOS

El conjunto de soluciones aproximadas por mínimos cuadrados del sistema El conjunto de soluciones aproximadas por mínimos cuadrados del sistema
incompatible A x=b coincide con el conjunto de soluciones clásicas del sistema incompatible A x=b coincide con el conjunto de soluciones clásicas del sistema
compatible ATA x=ATb compatible ATA x=ATb
EJEMPLO: Encuentre una solución por mínimos cuadrados del sistema inconsistente Ax = b,
donde : Calculamos el error:

Solución

Ing. Prof. María José Bouciguez 5

 05/04/2017

Ejemplo
Cierta partícula se mueve siguiendo una trayectoria y se han obtenido los
Ajuste de curvas siguientes datos experimentales sobre posición aproximada:
f(1)=0.5; f(2)=2.5; f(3)=2; f(4)=4; f(5)=3.5; f(6)=6; f(7)=5.5
Se desea estimar cuál será la posición de la partícula en 3.5; en 5.3 y en 6.2.

Ajuste de curvas
Ajuste de curvas ¿Cuál es la problemática? Métodos de Regresión por mínimos cuadrados

Se cuenta con un conjunto de datos discretos y se desea ajustar una Se cuenta con un conjunto de datos discretos y se desea ajustar una
curva a esos datos discretos para poder realizar estimaciones curva a esos datos discretos para poder realizar estimaciones

Con grado Son muy Con grado

significativo de error Métodos generales precisos significativo de error
o ruido o ruido Aplicando
Regresión por mínimos
Regresión por mínimos cuadrados Interpolación cuadrados

Obtenemos una curva que Obtenemos una curva que Obtenemos una curva que
representa la tendencia general pasa por cada dato representa la tendencia general
de los datos discretos conocidos discreto conocidos de los datos discretos conocidos

Ejemplo
Cierta partícula se mueve siguiendo una trayectoria y se han obtenido los
siguientes datos experimentales sobre posición aproximada:
f(1)=0.5; f(2)=2.5; f(3)=2; f(4)=4; f(5)=3.5; f(6)=6; f(7)=5.5
Se desea estimar cuál será la posición de la partícula en 3.5; en 5.3 y en 6.2.
Ejemplo
Cierta partícula se mueve siguiendo una trayectoria y se han obtenido los
siguientes datos experimentales sobre posición aproximada:
f(1)=0.5; f(2)=2.5; f(3)=2; f(4)=4; f(5)=3.5; f(6)=6; f(7)=5.5
Se desea estimar cuál será la posición de la partícula en 3.5; en 5.3 y en 6.2.

Diagrama de dispersión

Graficar

Ing. Prof. María José Bouciguez 6

 05/04/2017

Ajuste de curvas
Métodos de Regresión por mínimos cuadrados Ejemplo
Se cuenta con un conjunto de datos discretos y se desea ajustar una curva Cierta partícula se mueve siguiendo una trayectoria y se han obtenido los
a esos datos discretos para poder realizar estimaciones siguientes datos experimentales sobre posición aproximada:
f(1)=0.5; f(2)=2.5; f(3)=2; f(4)=4; f(5)=3.5; f(6)=6; f(7)=5.5
Se desea estimar cuál será la posición de la partícula en 3.5; en 5.3 y en 6.2.
1° Análisis: graficamos (diagrama de dispersión) y analizamos los datos en forma
visual para conocer el modelo.
Diagrama de dispersión

Parece
responder a un
modelo lineal

RECUERDAN QUE VIMOS…. RECUERDAN QUE VIMOS….

• Proyección ortogonal de un vector y en R2: • Proyección ortogonal de un vector y en un Propiedad de las proyecciones ortogonales
subespacio W de Rn:

Proyección ortogonal de un vector y en un

El vector es la proyección ortogonal
de y sobre u, y el vector z es la
componente de y ortogonal a u.
El vector es la proyección ortogonal de y sobre subespacio W de Rn
Proyección ortogonal de un vector y en R2
W, y el vector z es la componente de y
ortogonal a u.

proyW y

Ajuste de curvas
Ejemplo Métodos de Regresión por mínimos cuadrados

Cierta partícula se mueve siguiendo una trayectoria y se han obtenido los

siguientes datos experimentales sobre posición aproximada: Situación: Al analizar datos experimentales observados a menudo producen puntos
(x1, y1), . . . , (xn, yn) que, al graficarse, parecen quedar cerca de una línea.
f(1)=0.5; f(2)=2.5; f(3)=2; f(4)=4; f(5)=3.5; f(6)=6; f(7)=5.5
Se desea estimar cuál será la posición de la partícula en 3.5; en 5.3 y en 6.2. “diagrama de dispersión” Se desea modelar la relación
entre esas variables x e y para
Diagrama de dispersión poder realizar estimaciones

Parece Ajustar el conjunto de

responder a un datos discretos a una
modelo lineal línea recta.
Línea de regresión de y
sobre x

Ing. Prof. María José Bouciguez 7

 05/04/2017

Ajuste de curvas Ajuste de curvas

Métodos de Regresión por mínimos cuadrados Métodos de Regresión por mínimos cuadrados

Ajustar el conjunto de datos discretos a una línea recta.

Situación: Al analizar datos experimentales observados a menudo producen puntos
(x1, y1), . . . , (xn, yn) que, al graficarse, parecen quedar cerca de una línea.

Se desea modelar la relación

entre esas variables x e y para
poder realizar estimaciones

Ajustar el conjunto de
datos discretos a una
línea recta.
Línea de regresión de y Se desea determinar los
sobre x parámetros β0 y β1 que dejen
a la línea tan “cercana” a los
Coeficientes de regresión puntos como sea posible

Ajuste de curvas
Métodos de Regresión por mínimos cuadrados Recuerdan que…

Ajustar el conjunto de datos discretos a una línea recta.

TEOREMA DE MÍNIMOS CUADRADOS

El conjunto de soluciones aproximadas por mínimos cuadrados del
sistema incompatible Ax=b coincide con el conjunto de soluciones
clásicas del sistema compatible ATAx=ATb

Ajuste de curvas Ajuste de curvas

Métodos de Regresión por mínimos cuadrados
Regresión lineal
Ajustar el conjunto de datos discretos a una línea recta.
Métodos de Regresión por mínimos cuadrados
Se cuenta con un conjunto de datos discretos y se desea ajustar una curva
a esos datos discretos para poder realizar estimaciones

Regresión por mínimos cuadrados

1° Análisis de Regresión: graficamos (diagrama de dispersión) y analizamos los
datos en forma visual para conocer el modelo.

El cuadrado de la distancia entre los vectores Xβ y y es precisamente la suma de Regresión lineal Regresión Polinomial Regresión lineal múltiple
los cuadrados de los residuales. El β que minimiza esta suma también minimiza la
distancia entre Xβ y y. El cálculo de la solución por mínimos cuadrados de Xβ = y
equivale a encontrar el β que determina la línea de mínimos cuadrados. Modelo Modelo Modelo Modelo Racional
lineal Exponencial Potencial o crecimiento de
saturación

Ing. Prof. María José Bouciguez 8

 05/04/2017

Ajuste de curvas Ajuste de curvas

Métodos de Regresión por mínimos cuadrados Métodos de Regresión por mínimos cuadrados
Regresión lineal Regresión lineal

¿Cómo cuantificamos el error cometido en la regresión lineal? ¿Cómo cuantificamos el error cometido en la regresión lineal?

La suma de los cuadrados de los errores La suma de los cuadrados de las La suma de los cuadrados de los errores La suma de los cuadrados de las
con la recta de ajuste diferencias entre los datos y la media de con la recta de ajuste diferencias entre los datos y la media de
esos datos esos datos

Cuantifica la mejora o reducción del error por describir

los datos discretos en términos de una línea recta
La desviación estándar para esta línea de mejor ajuste es:
Normalizando la diferencia:
Error estándar de la estimación
r2es el coeficiente
de determinación

Ajuste de curvas Ajuste de curvas

Métodos de Regresión por mínimos cuadrados Métodos de Regresión por mínimos cuadrados
Regresión lineal
EJEMPLO
¿Cómo cuantificamos el error cometido en la regresión lineal? Para ajustar a una línea recta  Regresión lineal
Error estándar de la estimación

r2 es el coeficiente de determinación

r es el coeficiente de correlación De esta manera obtenemos la

ecuación de una recta que se
ajusta al conjunto de valores
Permite cuantificar la bondad de nuestro ajuste. Por lo discretos dados
que sirve para comparar diferentes regresiones El ajuste por mínimos cuadrados es:

Ajuste de curvas Otros casos

Métodos de Regresión por mínimos cuadrados graficamos (diagrama de dispersión) y analizamos los datos en
forma visual para conocer el modelo
EJEMPLO Regresión lineal

Coef. de determinación Coef. de correlación La relación entre x e y,

¿parece responder a un
modelo lineal?

Ing. Prof. María José Bouciguez 9

 05/04/2017

Ajuste de curvas Ajuste de curvas

Métodos de Regresión por mínimos cuadrados Métodos de Regresión por mínimos cuadrados

1°) Análisis de Regresión 2°) Linealización

Se cuenta con un conjunto de datos discretos y se desea ajustar una curva
Diagrama de dispersión
a esos datos discretos para poder realizar estimaciones

Regresión por mínimos cuadrados

1° Análisis de Regresión: graficamos (diagrama de dispersión) y analizamos los
datos en forma visual para conocer el modelo.

Regresión lineal Regresión Polinomial Regresión lineal múltiple

Modelo Exponencial
Modelo Modelo Modelo Modelo Racional o
lineal Exponencial Potencial crecimiento de saturación

2° Transformación  LINEALIZACIÓN 3°) Regresión lineal: se obtienen las constantes y se vuelve al modelo
3°Regresión lineal (se obtienen las constantes y se vuelve al modelo )

Ajuste de curvas Ajuste de curvas

Métodos de Regresión por mínimos cuadrados Métodos de Regresión por mínimos cuadrados

1°) Análisis de Regresión 2°) Linealización 1°) Análisis de Regresión 2°) Linealización
Diagrama de dispersión Diagrama de dispersión

Modelo Potencial Modelo Racional

3°) Regresión lineal: se obtienen las constantes y se vuelve al modelo 3°) Regresión lineal: se obtienen las constantes y se vuelve al modelo

Ajuste de curvas Ajuste de curvas

Métodos de Regresión por mínimos cuadrados Métodos de Regresión por mínimos cuadrados
EJEMPLO EJEMPLO
1°) Análisis de Regresión 2°) Linealización 1°) Análisis de Regresión 2°) Linealización

Modelo Potencial Modelo Potencial

3°) Regresión lineal: se obtienen las constantes y se vuelve al modelo 3°) Regresión lineal: se obtienen las constantes y se vuelve al modelo

α2= 10 -0.300 = 0.501187

Ing. Prof. María José Bouciguez 10

 05/04/2017

Ajuste de curvas Ajuste de curvas

Métodos de Regresión por mínimos cuadrados Métodos de Regresión por mínimos cuadrados
EJEMPLO Ejemplo

AJUSTE

Regresión Polinomial
Gráficamente se ve que es un buen ajuste Se ajusta la variable
independiente con varios
términos

Ajuste de curvas Ajuste de curvas

Métodos de Regresión por mínimos cuadrados Métodos de Regresión por mínimos cuadrados
Ejemplos
Se cuenta con un conjunto de datos discretos y se desea ajustar una curva
a esos datos discretos para poder realizar estimaciones

Regresión por mínimos cuadrados

1° Análisis de Regresión: graficamos (diagrama de dispersión) y analizamos los
datos en forma visual para conocer el modelo.

Regresión lineal Regresión Polinomial Regresión lineal múltiple

Modelo Modelo Modelo Modelo Racional o

lineal Exponencial Potencial crecimiento de saturación

2° Transformación  LINEALIZACIÓN

3°Regresión lineal (se obtienen las constantes y se vuelve al modelo )

Ajuste de curvas Ajuste de curvas

Métodos de Regresión por mínimos cuadrados Métodos de Regresión por mínimos cuadrados
Regresión Polinomial Regresión Polinomial
Ejemplos Modelo Polinomial Ejemplos Modelo Polinomial

Ing. Prof. María José Bouciguez 11

 05/04/2017

Ajuste de curvas Ajuste de curvas

Métodos de Regresión por mínimos cuadrados Métodos de Regresión por mínimos cuadrados
Regresión Polinomial Regresión Polinomial
Ejemplos Modelo Polinomial
¿Cómo cuantificamos el error cometido en la regresión polinomial?

Error estándar de la estimación

m: nro. de incógnitas
n: nro. de valores discretos

r2 es el coeficiente de determinación

r es el coeficiente de correlación
Permite cuantificar la bondad de nuestro ajuste. Por lo que
sirve para comparar diferentes regresiones

Ajuste de curvas Ajuste de curvas

Métodos de Regresión por mínimos cuadrados Métodos de Regresión por mínimos cuadrados
EJEMPLO Regresión Polinomial EJEMPLO Regresión Polinomial

Ajuste de curvas Ajuste de curvas

Métodos de Regresión por mínimos cuadrados Métodos de Regresión por mínimos cuadrados
Regresión Polinomial
Cuantificamos el error cometido en la regresión polinomial
Error estándar de la estimación

Coeficiente de determinación
Coeficiente de correlación

Es un excelente ajuste porque con el

modelo se explicó el 99,851% de los
datos

Ing. Prof. María José Bouciguez 12

 05/04/2017

Ajuste de curvas Ajuste de curvas

Métodos de Regresión por mínimos cuadrados Métodos de Regresión por mínimos cuadrados
Se cuenta con un conjunto de datos discretos y se desea ajustar una curva
a esos datos discretos para poder realizar estimaciones

Regresión por mínimos cuadrados

1° Análisis de Regresión: graficamos (diagrama de dispersión) y analizamos los
datos en forma visual para conocer el modelo.

Regresión lineal Regresión Polinomial Regresión lineal múltiple

Modelo Modelo Modelo Modelo Racional o

lineal Exponencial Potencial crecimiento de saturación

2° Transformación  LINEALIZACIÓN

3°Regresión lineal (se obtienen las constantes y se vuelve al modelo )

Ajuste de curvas Ajuste de curvas

Métodos de Regresión por mínimos cuadrados Métodos de Regresión por mínimos cuadrados
EJEMPLO Regresión lineal múltiple EJEMPLO Regresión lineal múltiple

Ecuación lineal múltiple:

Ing. Prof. María José Bouciguez 13