Está en la página 1de 89

Introducción

Métodos de estimación no-paramétricos


Métodos paramétricos

Identificación de Sistemas

L. Moreno y S. Garrido

Dpto. Ing. de Sistemas y Automática


Universidad Carlos III
Madrid

Enero 2019

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Table of contents

1 Introducción

2 Métodos de estimación no-paramétricos

3 Métodos paramétricos

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Introducción
Un problema que se plantea al diseñar un sistema de control para un
cierto sistema es como obtener un modelo del sistema dinámico que
describa adecuadamente su comportamiento.
La obtención de un modelo matemático puede enfocarse de dos
formas distintas: utilizando métodos teóricos o bien utilizando
métodos experimentales.
La primera utiliza el conocimiento disponible de las leyes de la Física,
Química, Economía u otras ciencias para formular un conjunto de
ecuaciones que permitan describir la respuesta del sistema que se
desea controlar, como: motores eléctricos, circuitos, elementos
mecánicos, hidraúlicos, reacciones químicas, etc. Este enfoque se
denomina por lo general modelado de sistemas.
Existen sistemas que por su complejidad, mal conocimiento o
dificultad para su estudio no permiten construir un modelo
matemático del sistema. En este caso es necesario acudir a la
experimentación sobre el propio sistema, con el fin de extraer a partir
de los datos experimentales un modelo matemático del mismo. Este
método se suele denominar identificación de sistemas.
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Introducción
La identificación estudia cómo obtener los modelos matemáticos de
aquellos sistemas dinámicos que nos resultan de interés a partir de la
información obtenida de la observación de los mismos?. La
construcción de un modelo a partir de unos datos observados
experimentalmente requiere tres cosas:
1 Los datos. El sistema es sometido a unos experimentos concebidos
para realizar la identificación, donde se miden una serie de datos de
entrada y de salida en el sistema.
2 Un conjunto de modelos. Los modelos se obtienen especificando
entre los diferentes tipos de estructuras de modelos, cuál de ellos
vamos a utilizar para ajustar los datos. Existen dos situaciones: no se
dispone de relaciones físicas que expresen un cierto conocimiento del
sistema, en cuyo caso se utiliza algún modelo estándar directamente
y se pretende determinar el modelo más adecuado y los parámetros
del mismo (caja negra) y otra en la que se tiene un cierto
conocimiento a priori, normalmente el modelo, y sólo se desea
estimar los parámetros (caja gris).
3 Un criterio para determinar cual de los modelos que se evalúa es el
mejor de acuerdo con los datos disponibles.
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Familias de modelos utilizadas en identificación

Pueden agruparse en dos grandes categorías: paramétricos y no


paramétricos.
Modelos paramétricos.
El modelo que se utiliza está completamente caracterizado por un
conjunto finito de coeficientes (parámetros). Entre estos: las
funciones de transferencia y los modelos de estado.
Modelos no-paramétricos.
Para describir el sistema se utiliza una o varias curvas de respuesta.
Estas curvas de respuesta no tienen un número finito de coeficientes
para describirlas por lo que se denominan modelos no-paramétricos.

Entre estos métodos tenemos los métodos de respuesta frecuenciales:


Bode, Nyquist y Nichols que se basan en las curvas de respuesta en
amplitud y fase del sistema a diferentes frecuencias, y entre los
métodos de respuesta temporales tenemos: curva de respuesta
impulsional del sistema y la respuesta ante escalón unidad.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Modelos no-paramétricos

Entre los posibles modelos no-paramétricos que podemos utilizar para


caracterizar la dinámica de un cierto sistema, vamos a considerar dos
básicamente:
la respuesta impulsional
la respuesta frecuencial.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Respuesta impulsional

La salida de un sistema en tiempo discreto ante una cierta secuencia


de entrada u(k), k = 1, . . . , ∞ se puede expresar

󰁛
y (k) = g (i)u(k − i) k = 0, 1, 2, . . .
i=0

Se define la respuesta impulsional del sistema como la respuesta a


una señal de tipo impulso de Dirac. Es decir, la respuesta
impulsional de un sistema será la secuencia g (k), k = 0, . . . , ∞.
Los sistemas cuya respuesta impulsional tiene un número finito de
coeficientes distintos de cero, se denominan sistemas con respuesta
impulsional finita (FIR- finite impulse response).

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Respuesta frecuencial

Otra forma tradicional de caracterizar experimentalmente la


respuesta de un sistema es por medio de la respuesta frecuencial, es
decir por las curvas de respuesta de amplitud y fase.

La expresión teórica de la respuesta en frecuencia de un sistema es:

Y (jω)
G (jω) =
U(jω)

que para cada valor de ω nos da un módulo |G | y un argumento ∠G .

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Modelos paramétricos

Dentro de los modelos paramétricos los más frecuentemente empleados


son:
las funciones de transferencia
los modelos en variables de estado.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Modelos de función de transferencia


Es usual utilizar las expresiones de la función de transferencia en tiempo
discreto, dado que el proceso de identificación se realiza por parte de un
computador que es el que obtiene y analiza los datos obtenidos.
Un sistema discreto cuya ecuación lineal en diferencias es
p
󰁛 q
󰁛
y (k) = − ai y (k − i) + bi u(k − i)
i=1 i=0

donde y (k) es la secuencia de salida y u(k) es la secuencia de


entrada al sistema.
Podemos escribirlo como:

󰁛
y (k) = g (i)u(k − i) k = 0, 1, 2, . . .
i=0
y como
y (k) 1 + b1 z −1 + . . . + bm z −q
G (q) = =
u(k) 1 + a1 z −1 + . . . + an z −p
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Modelos de función de transferencia


puede escribirse como

󰁛
y (k) = g (j)u(k − j)
j=1
󰁛∞
= g (j)[u(k)q −j ]
j=1
󰀵 󰀶

󰁛
= 󰀷 g (j)q −j 󰀸 u(k)
j=1

= G (q)u(k)

donde

󰁛
G (q) = g (k)q −k
k=1

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Modelos de función de transferencia

Si suponemos que el sistema está sometido a ruido, para el ruido


puede hacerse lo mismo obteniendo unas expresiones equivalentes

v (k) = H(q)e(k)

con

󰁛
H(q) = h(k)q −k
k=1

con lo que un modelo lineal con perturbación aditiva podrá


expresarse de la siguiente forma

y (k) = G (q)u(k) + H(q)e(k) (1)

Dependiendo de la forma que adoptan las funciones G (q) y H(q)


podemos hablar de cuatro tipos de modelos básicos: ARX, ARMAX,
OE y Box-Jenkins.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Modelo ARX
Es el modelo más simple, se obtiene como
y(k) + a1 y(k − 1) + . . . + ana y(k − na ) =
b1 u(k − 1) + . . . + bnb u(k − nb ) + e(k)
donde e(k), es un ruido blanco, y entra como un error directo en la
ecuación en diferencias (se denomina también de error en ecuación).
Denominamos θ al vector de parámetros ajustables del modelo:
θ = [a1 , . . . , ana , b1 , . . . , bnb ]T
Denominando:
A(q) = 1 + a1 q −1 + . . . + ana q −na (2)
B(q) = b1 q −1 + . . . + bnb q −nb (3)
tenemos que
B(q) 1
G (q) = ; H(q) = (4)
A(q) A(q)
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estructura de modelo ARX

Este modelo se denomina ARX, donde AR se refiere a la parte


autorregresiva de A(q)y (k) y X a la entrada eXtra B(q)u(k). En el
caso especial de que na = 0, y (k) es modelado como un sistema con
respuesta impulsional finita (FIR).

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Modelo ARMAX

La mayor desventaja del modelo anterior estriba en la ausencia de


libertad para describir las propiedades del término de perturbaciones,
es decir, convendría dotarlo de estructura.
Es posible añadirle algo de flexibilidad al modelo anterior si
consideramos que la perturbación es un ruido blanco de media
móvil. Con esta consideración se obtiene un modelo con una
estructura del siguiente tipo,

y (k) + a1 y (k − 1) + . . . + ana y (k − na ) =
b1 u(k − 1) + . . . + bnb u(k − nb ) +
e(k) + c1 e(k − 1) + . . . + cnc e(k − nc ) (5)

con
C (q) = 1 + c1 q −1 + . . . + cnc q −nc

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Modelo ARMAX

y la ecuación puede reescribirse como

A(q)y(k) = B(q)u(k) + C(q)e(k) (6)

donde
B(q)
G (q) = (7)
A(q)
C (q)
H(q) = (8)
A(q)

Los parámetros ajustables en este caso son los siguientes:

θ = [a1 , . . . , ana , b1 , . . . , bnb , c1 , . . . , cnc ]T

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estructura de modelo ARMAX

Este modelo es estándar en control y también en econometría.


Una versión de este es el modelo ARIMA(X), donde la I indica
integración, y es muy útil para describir sistemas con perturbaciones
lentas. Se obtiene sustituyendo en la ecuación y (k) por
∆I (k) = y (k) − y (k − 1). Este modelo se suele utilizar cuando las
perturbaciones aparecen en la entrada del sistema, lo que es frecuente en
muchos sistemas.
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Modelo OE (Output-Error)
En los modelos anteriores todas las descripciones de G y de H tenían
al polinomio A en el denominador. Desde un punto de vista físico, es
más natural parametrizar estas funciones independientemente.
Si consideramos que la perturbación es un ruido blanco, y un modelo
de estructura
ω(k) + f1 ω(k − 1) + . . . + fnf ω(k − nf ) =
b1 u(k − 1) + . . . + bnb u(k − nb ) (9)
y (k) = ω(k) + e(k) (10)
con
F (q) = 1 + f1 q −1 + . . . + fnf q −nf
el modelo quedará como
B(q)
y(k) = u(k) + e(k) (11)
F(q)
y el vector de parámetros a determinar es el siguiente:
θ = [b1 , . . . , bnb , f1 , . . . , fnf ]T
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estructura de modelo OE (Output-Error)

Este modelo presenta mayores dificultades a la hora de realizar su


estimación que los modelos ARX o ARMAX.
Permite obtener una descripción correcta de la función de
transferencia determinista sin importar la forma que tomen las
perturbaciones.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Modelo Box-Jenkins

Una generalización natural del modelo de error en la salida es añadir


propiedades al error que se suma en la salida. El modelo de
estructura Box-Jenkins es el siguiente

B(q) C(q)
y(k) = u(k) + e(k) (12)
F(q) D(q)

y el vector de parámetros a determinar será en este caso el siguiente:

θ = [b1 , . . . , bnb , c1 , . . . , cnc , f1 , . . . , fnf , d1 , . . . , dnd ]T

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estructura del Modelo Box-Jenkins

En general es el modelo más difícil de estimar. Es adecuado cuando las


perturbaciones aparecen en la salida, por ejemplo, en el caso de ruido de
salida.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Modelos en el espacio de estados

En el espacio de estados, las relaciones entre las entradas, salidas y


perturbaciones se formulan como un sistema de ecuaciones
diferenciales o ecuaciones en diferencias de primer orden, utilizando
un vector de estado auxiliar x (k).
Si nos limitamos a los modelos de sistemas de tipo discreto,

x (k + 1) = G x (k) + H u(k) (13)


y (k) = C x (k) + D u(k) + ν(k) (14)

La perturbación se incorpora al sistema como un ruido aditivo en la


salida del sistema.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Modelos en el espacio de estados

Al modelo anterior le corresponde un modelo de función de


transferencia en tiempo discreto de la forma

y (k) = G (q)u(k) + ν(k)

El paso de una a otra expresión se puede realizar por medio de la


transformada z, lo que daba como resultado que

Y (z)
G (z) = X (z)
U(z)
= C [zII − G ]−1H + D (15)

que, si se verifica que la matriz [zII − G ]−1 es no-singular,


corresponde a un modelo del tipo ARX u OE.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Métodos de estimación no-paramétricos

Dentro de los métodos no paramétricos podemos distinguir dos


grupos:
1 Estimación de la respuesta impulsional y/o escalón.
Se basan en el análisis de la respuesta transitoria del sistema ante
una cierta entrada de referencia, en los que se observa la respuesta
del mismo ante dichas entradas, que suelen ser una entrada en
escalón, un impulso o bien en técnicas de correlación.
2 Estimación de la respuesta frecuencial.
Se basan en el análisis de la respuesta frecuencial de un sistema ante
una entrada de referencia de tipo sinusoidal, en los que se observan
los cambios en la amplitud y fase de la sinusoide de salida o bien en
el análisis espectral.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimación de la respuesta temporal

Un primer paso en la identificación de muchos sistemas suele ser el


observar la respuesta del sistema ante una entrada del tipo impulso
y/o un escalón. De dicha observación se puede extraer diferente
información:
Las variables afectadas por la entrada. Esto permite determinar qué
influencias pueden ser o no ser despreciadas.
Las constantes de tiempo del sistema. Esto nos permite determinar
cuál de las relaciones en el modelo pueden considerarse como
estáticas, esto se suele hacer cuando sus constantes de tiempo son
significativamente más rápidas que la escala de tiempos a la que se
está trabajando.
Las características de la respuesta temporal ante un escalón así como
la ganancia estática nos dan información sobre el modelo a usar en la
identificación.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Análisis de la respuesta a un impulso


Si un sistema que es descrito por una ecuación del tipo:
y (k) = G (q)u(k) + ν(k)
es sometido a una entrada impulso de la forma
󰀝
α, k = 0
u(k) =
0, n ∕= 0
entonces la salida es
󰁛∞
y (k) = g (j)u(k − j) + ν(k) = g (k)α + ν(k)
j=1

y de aquí la respuesta impulsional se obtiene como


y (k)
ĝ (k) =
α
y los errores que se cometen en la estimación son
ν(k)
󰂃(k) =
α
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Análisis de la respuesta a un impulso


Ventajas e inconvenientes

Como se puede observar, el fundamento teórico de esta técnica es


muy simple.
Su principal inconveniente estriba en que muchos procesos físicos no
permiten entradas impulso de tal amplitud que el error que se
comete al estimar 󰂃(k) sea insignificante comparado con los
coeficientes de la respuesta impulsional.
Puede ocurrir que llegue a forzar a que el sistema exhiba efectos no
lineales (debido a saturaciones, por ejemplo) que harán que no sea
cierta la hipótesis de linealidad que habíamos supuesto al modelo del
sistema.
En el caso de que el sistema esté sometido a perturbaciones, esta
técnica no resulta eficaz puesto que el ruido se incorpora a la
respuesta impulsional

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Ejemplo 1

Supongamos un sistema cuyo comportamiento viene definido por la


siguiente expresión:

1 − q −1
y (k) = u(k)
1 + 0,25q −2

si a este sistema se le excita con una entrada de tipo impulso de


Dirac, es decir con una secuencia de entrada {1, 0, 0, 0, . . .} lo que
obtendremos en la salida es la respuesta impulsional del sistema en
forma de secuencia, es decir la secuencia

{g (k)} = {1, −1, −0,25, 0,25, 0,0625, −0,0625, 0,0156, . . .}

que es el modelo no-paramétrico del sistema.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Ejemplo 1

Respuesta impulsional. Respuesta impulsional con ruido.

1.2

1
1

0.8
0.8
0.6
0.6
0.4

0.4
0.2

0 0.2

0.2
0

0.4
0.2
0.6
0.4
0.8

0.6
1

0.8
0 2 4 6 8 10 12 14 16 18 20 0 2 4 6 8 10 12 14 16 18 20

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Análisis de la respuesta a un escalón


De forma similar al caso anterior, si se introduce un escalón del tipo
󰀝
α, k ≥ 0
u(k) =
0, k < 0

en el sistema y (k) = G (q)u(k) + ν(k) obtenemos la siguiente salida



󰁛 ∞
󰁛
y (k) = g (j)u(k − j) + ν(k) = g (j)α + ν(k)
j=1 j=1

y las estimaciones de g (k) pueden obtenerse como


y (k) − y (k − 1)
ĝ (k) =
α
y los errores que se cometen en la estimación son

ν(k) − ν(k − 1)
󰂃(k) =
α
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Análisis de la respuesta a un escalón


Ventajas e inconvenientes

Es una técnica muy simple.

En general, si queremos determinar realmente los coeficientes de la


respuesta impulsional utilizando esta técnica, cometeremos errores
muy grandes en la mayoría de las aplicaciones prácticas.

Sin embargo, si el objetivo es determinar algunas características


básicas relacionadas con aspectos de control, como son: el tiempo de
retardo, la ganancia estática y la constante de tiempo dominante, la
respuesta a un escalón puede darnos una información con un grado
suficiente de precisión.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Ejemplo 2
Si suponemos un sistema de la forma
1 − 0, 1q −1
y (k) = u(k)
1 + 0, 25q −2
y se le excita con una entrada de tipo escalón unitario,
{1, 1, 1, 1, . . .}, la respuesta del sistema es
{y (k)} = {0, 1,00, 0,90, 0,65, 0,675, 0,7375, 0,7312, 0,7156 . . .}
y la respuesta impulsional del sistema se obtiene haciendo
y (k) − y (k − 1)
ĝ (k) =
1
es decir la secuencia de salida es
{g (k)} = {1,0 − 0,1 − 0,25 0,025 0,0625 − 0,0063 . . .}
que es el modelo no-paramétrico del sistema. Se puede observar que
el sistema tiene una respuesta impulsional finita.
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Ejemplo 2
Respuesta a un escalón unitario.
1.2

0.8

0.6

0.4

0.2

0
0 2 4 6 8 10 12 14 16 18 20

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimación por correlación


Si consideramos un modelo de sistema dado por
y (k) = G (q)u(k) + ν(k)
y la entrada es estacionaria, es decir si u(k) verifica que:
E [u(k)] = mu (k)
(16)
E [u(k)u(k − τ )] = Ruu (k − τ ) = Ruu (τ )
si es ergódica
N
1 󰁛
Ruu (τ ) = E [u(k)u(k − τ )] = lim E [u(k)u(k − τ )] (17)
N→∞ N
t=1

y no está correlada con el ruido del sistema


Ruν (τ ) = E [u(k)ν(k − τ )] = 0 (18)
entonces

󰁛
Ryu (τ ) = E [y (k)u(k − τ )] = g (k)Ruu (k − τ ) (19)
k=1
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimación por correlación


Podemos determinar g (k) si conocemos los valores de la correlación
cruzada y de la autocorrelación, Ryu (τ ) y Ruu (τ ).
Tenemos dos posibilidades.
Si se puede introducir una entrada que sea un ruido blanco, el
proceso se facilita considerablemente, ya que este ruido verifica que
su función de autocorrelación es un impulso de Dirac, es decir
Ruu (τ ) = αδτ
y entonces tendremos que

󰁛 ∞
󰁛
Ryu (τ ) = g (k)Ruu (k − τ ) = g (k)αδk−τ = g (τ )α
k=1 k=1

y de aquí
Ryu (τ )
g (τ ) = (20)
α
y la respuesta impulsional a partir de la correlación cruzada es

R̂yu (τ )
ĝ (τ ) = (21)
α
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimación por correlación


Cont.
La estimación de R̂yu , para un número acotado N de medidas, se
obtiene a partir de
N
1 󰁛
R̂yu (τ ) = y (k)u(k − τ ) (22)
N
k=τ

En el caso de que la entrada no sea ruido blanco, no es posible una


estimación tan directa de la respuesta impulsional del sistema. Pero
es posible estimar la autocorrelación de la entrada
N
1 󰁛
R̂uu (τ ) = u(k)u(k − τ ) (23)
N
k=τ

y resolver el siguiente sistema de ecuaciones

M
󰁛
R̂yu (τ ) = ĝ (k)R̂uu (k − τ ) (24)
k=1

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Ejemplo 3

1
0 100 200 300 400 500 600 700 800 900 1000

En la figura se muestra la función de autocorrelación Ruu de una señal de


ruido blanco que se introduce en la entrada del sistema del ejemplo
anterior. Se han considerado 500 muestras, por lo que el punto 500 de la
gráfica es el que corresponde a τ = 0.
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Ejemplo 3
cont

2
0 100 200 300 400 500 600 700 800 900 1000

En la figura se muestra la correlación cruzada Ryu entre la entrada y la


salida del sistema.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Ejemplo 3
cont

1.2

0.8

0.6

0.4

0.2

0.2
0 10 20 30 40 50 60 70 80 90 100

En la figura se puede observar la respuesta impulsional g del sistema


obtenida mediante esta técnica (en este ejemplo no se ha añadido ruido
de salida al sistema).

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimación de la respuesta frecuencial


Dada la G (z) de un cierto sistema, si sustituimos z por e jω , tenemos
como resultado G (e jω ) que contiene información con respecto al
comportamiento que tendrá el sistema ante una entrada sinusoidal.
Si suponemos un modelo del tipo
y (k) = G (q)u(k) + v (k)
y se introduce una entrada del tipo
u(k) = A sin ωkT k = 0, 1, 2, . . .
la respuesta del sistema es de la forma
y (k) = yperm (k) + ytrans (k) + v (k)
donde el término de respuesta permanente del sistema viene dado
por
yperm (k) = A|G (e jω )| sin(ωkT + ϕ)
con
ϕ = ∠G (e jω )
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimación de la respuesta frecuencial

Se puede apreciar que, si se van introduciendo entradas sinusoidales


de diferentes frecuencias, y se determina para cada una de ellas la
amplitud y fase de la respuesta del sistema, es posible estimar la
función de transferencia del sistema Ĝ (e jω ).

Esta técnica se conoce como análisis frecuencial, y es una de las


formas más simples de obtener información sobre sistemas lineales.

Esta técnica es simple, pero no siempre resulta posible su utilización


ya que suele ser un proceso lento puesto que hay que repetir el
ensayo un número de veces considerable para que los datos sean
fiables.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Obtención directa de la respuesta frecuencial


En la figura se muestra el diagrama de Bode para el sistema
1 − 0,1q −1
y (k) = u(k)
1 + 0,25q −2
Bode Diagrama de Bode

0
Fase (deg); Magnitud (dB)

20

15

10

5
To: Y(1)

10

15

20
1 0
10 10
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimación mediante análisis espectral


Si tenemos un sistema de la forma

󰁛
y (n) = g (k)u(n − k) + ν(n)
k=0

donde {g (k)} es la secuencia de ponderación y ν(n) es el término de


perturbaciones. Si la entrada es un proceso estocástico estacionario
e independiente de la perturbación. Entonces:

󰁛
Ryu (τ ) = g (k)Ruu (k − τ ) (25)
k=1

estas correlaciones pueden estimarse a partir de una secuencia


experimental de N muestras como
N−τ
1 󰁛
R̂uu (τ ) = u(n + τ )u(n) (26)
N t=1
N−τ
1 󰁛
R̂yu (τ ) = y (n + τ )u(n) (27)
N t=1
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimación mediante análisis espectral


Haciendo las transformadas de Fourier de las expresiones de estas
correlaciones, obtenemos la siguiente expresión para la densidad
espectral cruzada
Syu (ω) = G (e −jω )Suu (ω) (28)
donde, las densidades podemos obtenerlas a partir de la función de
autocorrelación y de correlación cruzada según las siguientes
ecuaciones
+∞
1 󰁛
Suu (ω) = Ruu (τ )e −jωτ (29)
2π τ =−∞
+∞
1 󰁛
Syu (ω) = Ryu (τ )e −jωτ (30)
2π τ =−∞

La función de transferencia podrá estimarse a partir de la ecuación


28 como

Ŝyu (ω)
Ĝ (e −jω ) = (31)
Ŝuu (ω)
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimación mediante análisis espectral


Para realizar esta estimación es necesario encontrar una forma
razonable de estimar las densidades espectrales. Una posible forma
de encarar este problema consiste en tomar como valor estimado de
la densidad espectral el que se obtiene a partir de las muestras, es
decir
+N
1 󰁛
Ŝyu (ω) = Ryu (τ )e −jωτ (32)

τ =−N

y si en esta expresión sustituimos Ryu por el valor estimado obtenido


R̂yu en función de y (n + τ ) y u(n), tenemos que
+N N−τ
1 󰁛 󰁛
Ŝyu (ω) = y (n + τ )u(n)e −jωτ (33)
2π t=1
τ =−N

si sustituimos s = t + τ , tenemos que

e −jωτ = e −jω(s−t) = e −jωs e jωt (34)

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimación mediante análisis espectral


con lo que
N N
1 󰁛󰁛
Ŝyu (ω) = y (s)u(n)e −jωs e jωt (35)
2πN s=1 t=1
1
= YN (ω)UN (−ω) (36)
2πN
donde
N
󰁛
YN (ω) = y (s)e −jωs (37)
s=1
N
󰁛
UN (ω) = u(n)e −jωt (38)
t=1

son las transformadas discretas de Fourier de las secuencias {y (n)} y


{u(n)}. Para ω = 0, 2π 4π
N , N , . . . , π pueden calcularse de forma muy
eficiente usando la transformada rápida de Fourier (FFT).
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimación mediante análisis espectral

De forma análoga, para la densidad autoespectral de la entrada,


podemos obtener que
1
Ŝuu (ω) = UN (ω)UN (−ω) (39)
2πN
y con estas dos expresiones podemos estimar la función de
transferencia como

YN (ω)
Ĝ (e −jω ) = . (40)
UN (ω)

Esta técnica tiene la gran ventaja de que con un único ensayo se


puede estimar la respuesta frecuencial de un sistema (siempre que
podamos generar el ruido blanco).

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Ejemplo 4
Para el mismo sistema que en el caso anterior,
1−0,1q −1
y (k) = 1+0,25q −2 u(k),

introduciendo de nuevo un ruido blanco en la entrada obtenemos


y(t)
0.4

0.2

0.2

0.4
0 50 100 150 200 250 300 350 400 450 500

u(t)
0.3

0.2

0.1

0.1

0.2

0.3

0 50 100 150 200 250 300 350 400 450 500

Figura: Entrada ruido blanco y salida del sistema

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Por análisis espectral obtenemos que la respuesta frecuencial del


sistema es la mostrada es completamente similar a la obtenida
mediante la el método de Bode con una frecuencia cada vez.
1
10

Módulo

0
10

1
10
2 1 0 1
10 10 10 10
frecuencia (rad/sec)

20

15

10

5
Fase

10

15
2 1 0 1
10 10 10 10
frecuencia (rad/sec)

Figura: Respuesta en frecuencia según el análisis espectral


L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Generación de ruido blanco


Para conseguir una buena identificación, tanto de tipo espectral
como de cualquier otro tipo, es conveniente la utilización de señales
de entrada que presenten unas características estadísticas adecuadas.
Es frecuente la utilización de secuencias binarias pseudo-aleatorias
(PRBS, pseudo random binary sequences) descritas por Davies
en 1970 y que da lugar a una secuencia periódica cuya función de
autocorrelación se parece mucho al ruido blanco, presentando un
pico para τ = 0 y siendo una función plana para el resto de los
valores.
La ventaja de este tipo de funciones, aparte de su adecuación
estadística, es la facilidad con la que se puede generar puesto que
basta utilizar un registro de desplazamiento y una puerta
OR − exclusiva.
Esta función se denomina pseudo-aleatoria puesto que se repite con
un cierto periodo, que normalmente es elegible para que tome un
valor suficientemente alto.
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

PRBS

x(t)

+a

t
-a

Rxx
a2

0 T -a2 /T

= periodo básico

T= periodo de repetición de la señal binaria pseudo-aleatoria

Figura: Señal binaria pseudo-aleatoria

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Métodos paramétricos. El concepto de regresión

En estadística la regresión está relacionada con la predicción de una


variable y , sobre la base de la información suministrada por otras
variables medidas ϕ1 , . . . , ϕd .

La variable dependiente y puede, por ejemplo, ser el resultado de


una cosecha, mientras que las variables independientes ϕi (los
regresores) dan información sobre los datos de lluvia, horas de sol,
calidad del suelo, etc.

Otra aplicación típica son los sistemas dinámicos, donde y es la


salida del sistema en un instante dado y ϕi contiene información
acerca de la evolución anterior.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Métodos paramétricos. El concepto de regresión


Si denotamos 󰀵 󰀶
ϕ1
󰀹 ϕ2 󰀺
󰀹 󰀺
ϕ=󰀹 . 󰀺
󰀷 .. 󰀸
ϕd
El problema es encontrar una función de los regresores g (ϕ) tal que
la diferencia
y − g (ϕ)
sea pequeña.

Si y y ϕ se definen en términos estocásticos, es posible, por ejemplo,


tratar de minimizar la esperanza matemática del error cuadrático
existente entre la salida real y la que proporciona la estimación

E [(y − g (ϕ))2 ]

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Regresión lineal

Cuando no se conocen las propiedades de las variables y y ϕ, no es


posible determinar la función de regresión g (ϕ) a priori. Tiene que
ser estimada a partir de los datos y debe además estar
adecuadamente parametrizada.

El caso especial donde está parametrización está restringida a ser


lineal ha sido ampliamente estudiado. En este caso la función g (ϕ)
es de la forma

g (ϕ) = θ1 ϕ1 + θ2 ϕ2 + . . . + θd ϕd

o expresado en forma vectorial

g (ϕ) = ϕ T θ

donde θ = [θ1 . . . θd ]T

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimación por mínimos cuadrados


El concepto de estimación por mínimos cuadrados se basa en el
concepto de regresión lineal, tuvo su origen en Gauss, quién la utilizó
por primera vez para estimar las órbitas de los planetas.
La regresión lineal es el modelo más simple de modelo paramétrico.
La estructura del modelo correspondiente puede escribirse como
y (k) = ϕ T θ
donde:
y (k) es la magnitud medible.
ϕ es un n-vector de elementos denominados regresores.
θ es el vector de parámetros.

Recordemos que para una estructura de modelo del tipo ARX


tenemos que
y (k) + a1 y (k − 1) + . . . + ana y (k − na ) =
b1 u(k − 1) + . . . + bnb u(k − nb ) + e(k) (41)
con e(k), ruido blanco de media cero.
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimación por mínimos cuadrados

Si operamos con la ecuación anterior obtenemos un modelo de


regresión lineal

y (n) = −a1 y (n − 1) − . . . − ana y (k − na ) +


b1 u(n − 1) + . . . + bnb u(k − nb ) + e(k) (42)

donde el vector de regresores y el de parámetros son los siguientes:

ϕ (k) = [−y (k − 1), −y (k − 2), . . . , −y (k − na ), u(k − 1), . . . , u(k − nb )]T

θ = [a1 , . . . , ana , b1 , . . . , bnb ]T


(43)

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimación por mínimos cuadrados


El problema consiste en encontrar un estimador θ̂θ del vector de
parámetros θ a partir de las medidas observadas
y (1), ϕ(1), . . . , y (N), ϕ(N).
Dadas las medidas, lo que se obtiene es un sistema de ecuaciones
lineales a partir de la expresión de la regresión lineal, es decir
󰀻 T
󰀿 y (1) = ϕ (1)θθ
󰁁
... ...
󰁁
󰀽 T
y (N) = ϕ (N)θθ
que se puede expresar como

Y = Φθ
donde 󰀵 󰀶 󰀵 T 󰀶
y (1) ϕ (1)
󰀹 y (2) 󰀺 T
󰀹 ϕ (2) 󰀺
󰀹 󰀺 󰀹 󰀺
Y = 󰀹 . 󰀺 ,Φ = 󰀹 . 󰀺
󰀷 .. 󰀸 󰀷 .. 󰀸
y (N) ϕ T (N)
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimación por mínimos cuadrados


Una forma de resolver el sistema de ecuaciones consiste en tomar el
número de medidas N igual al número de parámetros del vector θ
(n). Con ello, Φ se convierte en una matriz cuadrada y si es no
singular, se puede resolver fácilmente para θ.
En la práctica, el ruido, las perturbaciones, y los desajustes en el
modelo, hacen necesario utilizar un número de datos mayor que n
para conseguir una mejor estimación (con N > n se tiene un sistema
sobredeterminado y no se tiene por lo general una solución exacta).
Si denominamos error de ecuación a
󰂃(k) = y (k) − ϕ T (k)θθ
y formamos un vector de errores de la forma
󰀵 󰀶
󰂃(1)
󰀹 󰂃(2) 󰀺
󰀹 󰀺
󰂃 = 󰀹 . 󰀺 = Y − Φθθ (44)
󰀷 .. 󰀸
󰂃(N)
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimador de mínimos cuadrados

El estimador de mínimos cuadrados de θ se define como el θ̂ que


minimiza la función de pérdidas o coste definida de la siguiente
forma
󰁛N
V (θ) = 󰂃2 (k) = 󰂃 T 󰂃 (45)
t=1

Se puede observar que 󰂃(k), el error de ecuación, es una función


lineal del vector de parámetros θ .

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Obtención del Estimador de Mínimos Cuadrados

Si consideramos la función de pérdidas V (θθ ) definida por

Y − Φθθ ) = Y T Y − θ T ΦT Y − Y T Φθθ + θ T ΦT Φθθ


Y − Φθθ )T (Y
V (θθ ) = (Y

derivamos dicha expresión con respecto a θ y la igualamos a cero,


obtenemos
dV (θθ )
= −2ΦT Y + 2ΦT Φθθ = 0

y de aquí obtenemos las denominadas ecuaciones normales

ΦT Φθθ = ΦT Y (46)

Esta ecuaciones tienen una única solución, que constituye un mínimo


de la función V (θθ ), si suponemos que la matriz ΦT Φ es definida
positiva.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Obtención del Estimador de Mínimos Cuadrados

Por lo tanto, despejando θ en la ecuación normal tenemos que el


estimador de mínimos cuadrados es
Fórmula de Mínimos Cuadrados

θ̂θ = (ΦT Φ)−1 ΦT Y (47)

y el valor mínimo de V (θθ ) es

1 T
V (θ̂θ ) = Y Y − Y T Φ(ΦT Φ)−1 ΦT Y ]
[Y
2
El estimador de mínimos cuadrados obtenido en 47 puede escribirse
como
󰀣 N
󰀤−1 󰀣 N
󰀤
1 󰁛 T 1 󰁛
θ̂(k) = ϕ (k)ϕ(k) ϕ(k)y (k) . (48)
N N
k=1 k=1

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Ejemplo 5.
Supongamos que se tiene un cierto sistema que se pretende
identificar. A dicho sistema se le introduce en la entrada un escalón
unitario u(0) = 1, u(1) = 1, u(2) = 1, u(3) = 1, . . . y se observa que
la salida del sistema toma los siguientes valores en los 4 primeros
periodos de muestreo:
y (0) = 0, y (1) = 0,65, y (2) = 0,85, y (3) = 0,92, . . ..
Vamos a analizar tres posibles modelos para este sistema:

Modelo 1 : y (k) = b1 u(k − 1)


Modelo 2 : y (k) = −a1 y (k − 1) + b1 u(k − 1)
Modelo 3 : y (k) = −a1 y (k − 1) − a2 y (k − 2) + b1 u(k − 1)

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Ejemplo 5. (Cont.)
Modelo 1:
Para este modelo el vector de regresores y el de parámetros son:
φ(k) = u(k − 1)
θ = b1
utilizando por simplicidad los tres primeros valores de la salida para
la estimación, obtenemos lo siguiente
θ̂θ = (ΦT Φ)−1 ΦT Y
󰀵 󰀵 󰀶󰀶−1 󰀶󰀵
󰀅 󰀆 0 󰀅 0
󰀆
= 󰀷 0 1 1 󰀷1 󰀸󰀸 0 1 1 󰀷0,65󰀸
1 0,85
0,65 + 0,85
= = 0,75
2
y el modelo que obtendremos será y (k) = 0,75u(k − 1).
Este modelo estimado da para la secuencia de entradas anteriores las
salidas y (0) = 0, y (1) = 0, y (2) = 0,75, y (3) = 0,75, . . ..
Por lo tanto la secuencia de errores que se cometen es
󰂃(0) = 0, 󰂃(1) = 0,65, 󰂃(2) = 0,10, 󰂃(3) = 0,17, . . ..
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Ejemplo 5. (Cont.)
Modelo 2:
Para este modelo el vector de regresores y el de parámetros son:
󰀅 󰀆
φ(k) = −y (k − 1) u(k − 1)
󰀅 󰀆T
θ = a1 b1
Utilizando los tres primeros valores de la salida para la estimación
θ̂θ = (ΦT Φ)−1 ΦT Y
󰀵 󰀵 󰀶󰀶−1 󰀵 󰀶
󰀗 󰀘 0 0 󰀗 󰀘 0
󰀷 0 1 1 󰀷 0 󰀸 󰀸 0 1 1 󰀷0,65󰀸
= 1
0 0 −0,65 0 0 −0,65
−0,65 1 0,85
󰀗 󰀘
−0,3077
=
0,6485
es decir, y (k) = 0,3077y (k − 1) + 0,6485u(k − 1).
Este modelo da para la secuencia de entradas las siguientes salidas
y (0) = 0, y (1) = 0,6485, y (2) = 0,848, y (3) = 0,9094, . . ..
Por lo tanto la secuencia de errores que comete el modelo es
󰂃(0) = 0, 󰂃(1) = 0,0015, 󰂃(2) = 0,002, 󰂃(3) = 0,010, . . ..
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Ejemplo 5. (Cont.)
Modelo 3:
Para este modelo el vector de regresores y el de parámetros son:
󰀅 󰀆
φ(k) = −y (k − 1) −y (k − 2) u(k − 1)
󰀅 󰀆T
θ = a1 a2 b1

utilizando cuatro valores de la salida,

θ̂θ = ΦT Φ )−1Φ T Y

󰀵 󰀵 󰀶󰀶−1
󰀵 󰀶 0 0 0
󰀹 0 1 1 1 󰀹 0 0 1󰀺 󰀺
= 󰀹󰀷0 0 0 −0,65󰀸 󰀹 󰀺󰀺 .
󰀷 󰀷−0,65 0 1 󰀸󰀸
0 0 −0,65 −0,85
−0,85 −0,65 1
󰀵 󰀶
󰀵 󰀶 0 󰀵 󰀶
0 1 1 1 󰀹0,65󰀺 −0,3077
󰀷0 0 0 −0,65󰀸 󰀹 󰀺 󰀷
󰀷0,85󰀸 = −2,0130
󰀸
0 0 −0,65 −0,85 0,65
0,92

es decir y (k) = 0,3077y (k − 1) + 2,013y (k − 2) + 0,65u(k − 1).


L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Ejemplo 5. (Cont.)
Modelo 3:
Este modelo da para la secuencia de entradas anteriores las
siguientes salidas:

y (0) = 0, y (1) = 0,65, y (2) = 0,85, y (3) = 2,21, . . .

Por lo tanto la secuencia de errores que comete el modelo es

󰂃(0) = 0, 󰂃(1) = 0, 󰂃(2) = 0, 󰂃(3) = 1,29, . . .

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Ejemplo 5. (Cont.)
De los tres modelos analizados, y para los datos que se están
considerando el modelo que mejor se ajusta es el modelo 2, pues el
tercero de los modelos para el último dato ajusta mal.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Ejemplo 6.
Un radar observa el movimiento en línea recta de un cierto objetivo
cada 0,2 segundos. Se desea predecir su posición.

Un modelo muy simple consiste en suponer que dicho objetivo se


mueve con aceleración constante, con lo que el modelo para estimar
la posición de dicho objetivo se puede formular como
x(t) = x0 + v0 t + 12 at 2 donde x0 y v0 son la posición y velocidad
iniciales.

La secuencia de observaciones (t, x) ha sido la siguiente

{(0, 3)(0,2, 59)(0,4, 98)(0,6, 151)(0,8, 218)(1, 264)}

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Ejemplo 6. (Cont.)
Nuestros regresores y el vector de parámetros θ son
1 2
ϕ(t) = [1 t t ]
2
θ = [x0 v0 a]T
con lo que Φ será 󰀵 󰀶
1 0 0
󰀹1 0,2 0,02󰀺
󰀹 󰀺
Φ = 󰀹. .. 󰀺
󰀷 .. . 󰀸
1 1 0,5
como el vector Y = [3, 59, . . . , 264] tendremos que el estimador de
T

mínimos cuadrados será


−1
ΦT Φ ) Φ T Y
θ̂θ = (Φ
󰀅 󰀆T
= x̂0 v̂0 â
󰀅 󰀆T
= 4,79 234 55,4
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimador recursivo de mínimos cuadrados

Es frecuente en muchos sistemas de control que la estimación de los


parámetros del modelo tenga que realizarse a medida que va
llegando nueva información. Esta información llega en cada periodo
de muestreo.

Es necesario buscar una formulación recursiva del estimador de


mínimos cuadrados de forma que la estimación de los parámetros en
el instante k se realice en base al error de predicción cometido y al
valor previo del estimador en el ciclo anterior k − 1.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimador recursivo de mínimos cuadrados

Supongamos por simplicidad el caso escalar (dimensión de y igual a


1) donde el estimador era de la forma

θ̂(k) = (Φ Φ(k))−1Φ T (k)Y


ΦT (k)Φ Y (k) (49)

Si reescribimos la matriz de regresores acumulada hasta k, Φ (k),


como función de la matriz de regresores acumulada hasta el instante
de tiempo k − 1, Φ(k − 1), y del vector de regresores en k, ϕ(k),
tendremos que
󰀵 󰀶
ϕT (1)
󰀹 ϕT (2) 󰀺 󰀗 󰀘
󰀹 󰀺
󰀹 . 󰀺 Φ T (k − 1)
Φ(k) = 󰀹 .. 󰀺=
󰀹 󰀺 ϕT (k)
󰀷ϕT (k − 1)󰀸
ϕT (k)

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimador recursivo de mínimos cuadrados


Haciendo lo mismo con la expresión de las entradas acumuladas al sistema
Y , tendremos 󰀵 󰀶
y (1)
󰀹 y (2) 󰀺 󰀗 󰀘
󰀹 󰀺
󰀹 .. 󰀺 Y (k − 1)
Y (k) = 󰀹 . 󰀺=
󰀹 󰀺 y (k)
󰀷y (k − 1)󰀸
y (k)
Φ(k)]−1 es posible
ΦT (k)Φ
Si denominamos P (k) al término P (k) = [Φ
expresarlo forma recursiva
P −1 (k) = Φ T (k)Φ
Φ(k)
󰀗 󰀘T 󰀗 󰀘
Φ (k − 1) Φ (k − 1)
= T T
ϕ (k) ϕ (k)
󰀗 󰀘
󰀅 T 󰀆 Φ (k − 1) (50)
= Φ (k − 1)ϕ(k)
ϕT (k)
= Φ (k − 1)T Φ (k − 1) + ϕ(k)ϕT (k)
= P −1 (k − 1) + ϕ(k)ϕT (k)
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimador recursivo de mínimos cuadrados


Y de aquí tenemos que
θ̂θ (k) = (Φ Φ(k))−1Φ T (k)Y
ΦT (k)Φ Y (k)
ΦT (k)Y
= P (k)Φ Y (k)
󰀗 󰀘
Y (k − 1) (51)
ΦT (k − 1)ϕ(k)]
= P (k)[Φ
y (k)
ΦT (k − 1)Y
= P (k)[Φ Y (k − 1) + ϕ(k)y (k)]

Utilizando la expresión no recursiva de mínimos cuadrados


P −1 (k − 1)θ̂θ (k − 1) + ϕ(k)y (k)]
θ̂θ (k) = P (k)[P (52)
y de la ecuación 50 tenemos que
P −1 (k − 1) = P −1 (k) − ϕ(k)ϕT (k) (53)
y sustituyéndolo en la expresión anterior
θ̂θ (k) = P −1 (k) − ϕ(k)ϕT (k))θ̂θ (k − 1) + ϕ(k)y (k)]
P (k)[(P
= θ̂θ (k − 1) + P (k)ϕ(k) [y (k) − ϕT (k)θ̂θ (k − 1)] (54)
󰁿 󰁾󰁽 󰂀 󰁿 󰁾󰁽 󰂀
K (k) 󰂃 (k)
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimador recursivo de mínimos cuadrados

es decir

θ̂θ (k) = θ̂θ (k − 1) + K (k)󰂃󰂃(k) (55)


T
󰂃 (k) = y (k) − ϕ (k)θ̂θ (k − 1) (56)
K (k) = P (k − 1)ϕ(k) (57)

El término 󰂃 (k) debe interpretarse como el error de predicción. Y es


la diferencia entre la salida medida y (k) y la predicción del valor en
la salida obtenida a partir de la estimación dada por θ̂θ (k − 1) que
será ϕT (k)θ̂θ (k − 1). A esta diferencia se le denomina innovación.
Si 󰂃(k) es pequeño, la estimación θ̂θ (k − 1) es buena y por lo tanto
no debe de cambiar mucho.
El vector K (k) es el factor de ponderación o ganancia, que indica
cuanto debe de modificar la innovación o error de predicción los
diferentes elementos del vector de parámetros.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimador recursivo de mínimos cuadrados

Para completar el algoritmo anterior, y que sea completamente


recursivo, necesitamos calcular P (k), que como ya se ha visto
anteriormente se podía obtener como

P −1 (k) = P −1 (k − 1) + ϕT (k)ϕ(k) (58)

con lo que la formulación recursiva completa del algoritmo de


mínimos cuadrados quedaría de la siguiente forma

θ̂θ (k) = θ̂θ (k − 1) + K (k)󰂃󰂃(k)


󰂃 (k) = y (k) − ϕT (k)θ̂θ (k − 1)
(59)
K (k) = P (k)ϕ(k)
P −1 (k) = P −1 (k − 1) + ϕT (k)ϕ(k)

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimador recursivo de mínimos cuadrados


Esta formulación es muy costosa desde el punto de vista
computacional, ya que requiere la inversión de una matriz en cada
ciclo, lo que tiende a ser lento.
Reescribiendo por medio del lema de inversión de matrices. Este
lema nos dice que si la inversa de una matriz existe entonces
A + B C D )−1 = A −1 − A −1B (C
(A C −1 + D A −1B )−1D A −1 .
Si aplicamos el lema de inversión de matrices a la expresión de P (k),
tomando −1
A = P (k − 1)
B = ϕ(k)
C =I
D = ϕT (k)
entonces puede reescribirse de la siguiente forma
P (k − 1)ϕ(k)]−1 ϕT (k)P
P (k) = P (k − 1) − P (k − 1)ϕ(k)[II + ϕT (k)P P (k − 1)
(60)
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Estimador recursivo de mínimos cuadrados

y sustituyendo, el algoritmo queda en la forma

Estimador recursivo de mínimos cuadrados

θ̂θ (k) =θ̂θ (k − 1) + K (k)󰂃󰂃(k)


󰂃 (k) =y (k) − ϕT (k)θ̂θ (k − 1)
K (k) =P
P (k)ϕ(k)
P (k) =P P (k − 1)ϕ(k)]−1 ϕT (k)P
P (k − 1) − P (k − 1)ϕ(k)[II + ϕT (k)P P (k − 1)

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Ejemplo 7

Supongamos que tenemos un sistema de primer orden, de tipo ARX,


cuya ecuación es,

y (k) = a1 y (k − 1) + b1 u(k − 1) + e(k)

donde:
Los valores de los parámetros verdaderos del sistema son
a1 = 0,5, b1 = 1
El sistema esta sometido a una entrada del tipo escalón unitario.
El sistema está sometido a un ruido blanco e(k) con media cero y
varianza 0,1.
b1 q −1 1
y (k) = u(k) + e(k)
1 − a1 q −1 1 − a1 q −1

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Ejemplo 7

40
Salida real vs. salida estimada

30 salida estimada

20

10
salida real

0
0 10 20 30 40 50 60 70 80 90
Tiempo (segs)

Error en la predicción

2
0 10 20 30 40 50 60 70 80 90
Tiempo(segs)

Figura: Resultados del ejemplo 7: salidas real y estimada del sistema, y el error.
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Ejemplo 7
Suponiendo que el modelo matemático del sistema es de primer
orden estimemos mediante mínimos cuadrados recursivos el sistema,
obtenemos los resultados de la figura anterior que nos dan como
resultado el siguiente modelo estimado
0,4759q −1 1
y (k) = u(k) + e(k)
1 − 1,0006q −1 1 − 1,0006q −1

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Método de mínimos cuadrados extendido


Consideremos el modelo ARMAX
y (k) + a1 y (k − 1) + . . . + ana y (k − na ) =
b1 u(k − 1) + . . . + bnb u(k − nb ) +
e(k) + c1 e(k − 1) + . . . + cnc e(k − nc )
definiendo el vector de regresores como
ϕ0 (k) = [−y (k − 1), . . . , −y (k − na ), u(k − 1), . . . , u(k − nb )
e(k − 1), . . . , e(k − nc )]T
(61)
y el de parámetros como
θ = [a1 , . . . , ana , b1 , . . . , bnb , c1 , . . . , cnc ]T
podemos reescribir el modelo ARMAX de la siguiente forma
y (k) = ϕ 0 (k)T θ + e(k)
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Método de mínimos cuadrados extendido

Este modelo se parece al de regresión lineal. Si aplicamos mínimos


cuadrados para tratar de estimar θ :

θ̂θ (k) = θ̂θ (k − 1) + P (k)ϕ0 (k)[y (k) − ϕT θ (k − 1)]


0 (k)θ̂
(62)
P −1 (k) = P −1 (k − 1) + ϕ0 (k)ϕT
0 (k)

El problema está en que las variables e(k) que entran dentro del
vector ϕ0 no son medibles, y por lo tanto no puede realizarse la
estimación del vector de parámetros de esta manera.
Es necesario reemplazar los componentes e(k) por alguna estimación
de los mismos. De la ecuación del modelo tenemos

e(k) = y (k) + a1 y (k − 1) + . . . + ana y (k − na )


−b1 u(k − 1) − . . . − bnb u(k − nb ) +
−c1 e(k − 1) − . . . − cnc e(k − nc ).

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Método de mínimos cuadrados extendido


Si tenemos una secuencia de estimaciones
θ̂θ (k) = [â1 (k), . . . , âna (k), b̂1 (k), . . . , b̂nb (k), ĉ1 (k), . . . , ĉnc (k)]T
disponibles, es posible estimar ê(k) como
ê(k) = y (k) + â1 (k)y (k − 1) + . . . + âna (k)y (k − na )
−b̂1 (k)u(k − 1) − . . . − b̂nb (k)u(k − nb )+ (63)
−ĉ1 (k)ê(k − 1) − . . . − ĉnc (k)ê(k − nc ).
con
ϕ(k) = [−y (k − 1), . . . , −y (k − na ), u(k − 1), . . . , u(k − nb ),
ê(k − 1), . . . , ê(k − nc )]T
la ecuación 63 puede reescribirse como
ê(k) = y (k) − ϕ T (k)θ̂θ (k)
Es posible formular un algoritmo de estimación, reemplazando en
mínimos cuadrados la ϕ0 (k) por ϕ(k), calculada a partir de las
estimaciones de los errores vistas en las dos expresiones anteriores.
L. Moreno y S. Garrido Curso de Ing. de Control III
Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Método de mínimos cuadrados extendido


Esto da lugar al estimador de mínimos cuadrados extendidos:
θ̂θ (k) =θ̂θ (k − 1) + K (k)êe (k)
êe (k) =y (k) − ϕT (k)θ̂θ (k − 1)
K (k) =P P (k)ϕ(k)
P (k − 1)ϕ(k)]−1
P (k − 1) − P (k − 1)ϕ(k)[II + ϕT (k)P
P (k) =P
ϕT (k)P
P (k − 1)
ϕ(k) =[−y (k − 1), . . . , −y (k − na ), u(k − 1), . . . , u(k − nb ),
ê(k − 1), . . . , ê(k − nc )]T

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Elección de la estructura del modelo

La elección de una estructura apropiada para un modelo es el


aspecto más importante en el proceso de identificación de un cierto
sistema.
El proceso de determinación de la estructura de un modelo requiere
al menos tres pasos:
1 Elección del tipo de modelo. Esto implica decidir si se va a trabajar
con modelos lineales o no lineales, o si se va a trabajar con modelos
de función de transferencia o modelos de estado, etc.
2 Elección del tamaño del modelo. Esto implica determinar el orden
del modelo en el espacio de estados o los grados de los polinomios
que constituyen el modelo.
3 Elección de la parametrización del modelo. Una vez que se ha
elegido el tipo y el orden del modelo , queda por determinar la
parametrización del mismo, es decir encontrar una estructura de
modelo adecuada.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Calidad del modelo

La calidad del modelo resultante puede medirse por ejemplo por


medio del criterio del error cuadrático medio.
Normalmente, la mejor estructura de modelo suele ser un
compromiso entre dos aspectos:
Flexibilidad. Se suelen emplean estructuras de modelos que ofrezcan
la posibilidad de describir diferentes sistemas, lo cual se consigue
utilizando muchos parámetros o bien situándolos en lugares
estratégicos.
Parsimonia. No es conveniente utilizar de forma innecesaria muchos
parámetros, es decir conviene ser parsimonioso con la
parametrización del modelo.
En términos generales es conveniente que el modelo sea lo más
preciso posible, pero puede ocurrir que el modelo más preciso no sea
realizable por el coste computacional que lleva consigo un modelo
muy complejo. Es necesario tener en cuenta este aspecto, sobre todo
en el diseño de sistemas de control.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Validación del modelo

Para poder comparar entre los diferentes modelos lo primero que


suele evaluarse es la suma de los cuadrados de los errores de
predicción que comete cada modelo sobre uno o varios conjuntos de
datos distintos del utilizado para el ajuste.
La suma de los errores cuadráticos de predicción V (θθ ) o función de
pérdidas, se utilizará para seleccionar de entre todos los modelos el
que menor función de pérdidas tiene. Este procedimiento se
denomina validación cruzada.

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Validación del modelo

Cuando el modelo se valida sobre el mismo conjunto de datos sobre


el que se ha realizado la estimación de los parámetros, el ajuste
mejora cuanto mayor es el orden del modelo que se ajusta. Esto es
necesario compensarlo para evitar que los sistemas tengan una
complejidad innecesaria. Entre las técnicas utilizadas están:
El criterio del error final de predicción (FPE) FPE de Akaike se
obtiene de la siguiente expresión
1 + n/N
FPE = .V (θθ ) (64)
1 − n/N

donde n es el número total de parámetros estimados, N es la


longitud de la secuencia de datos y V la función de pérdidas.
El criterio de información teórica (AIC) AIC se obtiene como

AIC = log[(1 + 2n/N).V (θθ )] (65)

L. Moreno y S. Garrido Curso de Ing. de Control III


Introducción
Métodos de estimación no-paramétricos
Métodos paramétricos

Bibliografía

[1] L. Ljung, System Identification: Theory for the User, Prentice Hall,
1987.
[2] L. Ljung and T. Söderstrom, Theory and Practice of Recursive
Identification, The MIT Press, 1983.
[3] T. Söderstrom and P. Stoica, System Identification, Prentice Hall,
1989.
[4] J. P. Norton, An Introduction to Identification, Academic Press,
1986.

L. Moreno y S. Garrido Curso de Ing. de Control III