Está en la página 1de 25

Investigacin de

Operaciones
Cadenas de Markov de tiempo
discreto (CMTD)
Parte A: Definiciones y
clasificacin de estados.

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

Cadena de Markov
Definicin CMTD (Cadenas de Markov en Tiempo Discreto)
Un proceso estocstico en tiempo discreto y con espacio
de estados finito se dice una Cadena de Markov si:

Esto se conoce como la propiedad Markoviana de prdida


de memoria.
C2. Cadenas de Markov a Tiempo Discreto
Investigacin de Operaciones

2 Semestre 2010

Cadena de Markov
homognea (o estacionaria)

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

Propiedad de Cadenas de Markov


En este caso la evolucin de una CMTD queda
determinada por:
Distribucin de probabilidad inicial (0)=[1(0),, R(0)]
j(0) = P(X0=Ei) , i{1,,R}

La matriz de transicin P.
Propiedad de Chapman-Kolmogorov
Sea
Entonces

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

Propiedad de Cadenas de Markov


Demostracin

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

Propiedad de Cadenas de Markov


Luego obtenemos que la ley del proceso al tiempo n
partiendo desde el estado Ei se puede calcular
como:
y con condicin inicial (0), la ley del proceso al
tiempo n es:

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

Ejemplo= Modelo de inventario


xt= # de productos en bodega al final de la semana t es una
Cadena de Markov
Politica de Inventario: si no hay productos en inventario, se ordenan 3
unidades, en caso contrario no se ordenan productos.

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

Markov Chains

2 Semestre 2010

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

REPRESENTACION GRAFICA

0.184
0.08

0.632

0.264

0.368

0.368

0.368

0.368
0.368

0.0
8

0.368

0.184

0.368

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

Clasificacin de Estados

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

Clasificacin de Estados
Propiedad:

Dem:

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

Clasificacin de Estados
Definicin: Comunicados
Dos estados Ei y Ej estn comunicados, si

Definicin: Clases de Estados


La relacin de estar comunicados clasifica los estados
en clases, dos estados pertenecen a la misma clase si y
solo si estn comunicados.

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

Clasificacin de Estados
0

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

Clasificacin de Estados
0

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

Clasificacin de Estados
Definicin: Absorbente
Un estado Ei se dice absorbente si Pii = 1.
En este caso Ei constituye una clase por si solo: C = { Ei }

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

Clasificacin de Estados
Definicin: Accesibilidad entre Clase
Una clase Cv se dice accesible desde una clase Cu si
existe un estado Ei en Cu y un estado Ej en Cv tal que:

Definicin: Clase Recurrente y Transiente


Una clase es recurrente si no hay una clase accesible
desde ella.
Una clase transiente da acceso a otra clase.

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

Clasificacin de Estados
Definicin: Estado Recurrente y Transiente
Un estado es Recurrente si pertenece a una clase
Recurrente.
Un estado es Transiente si pertenece a una clase
Transiente.

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

Clasificacin de Estados
0

5
6

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

Clasificacin de Estados
T

R1

R1
R2

R2

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

Clasificacin de Estados
Definicin: Periodicidad de una clase
Un estado i es peridico, con periodo d>1, si d is el nmero ms grande
(mximo comn denominador)
tal que todos los caminos que conducen desde i hasta i (ida y vuelta)
tienen una longitud que es un mltiplo de d.

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

2
1

d=2
En una Cadena de Markov con un nmero finito de estados, los estados
recurrentes que son aperidicos (periodo igual a 1) son llamados estados
ergdicos. Una CM es ergdica si todos sus estados son ergdicos.

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

Clasificacin de Estados
5

0,8

0,2

C2. Cadenas de Markov a Tiempo Discreto


Investigacin de Operaciones

2 Semestre 2010

Investigacin de
Operaciones
Fin C2 Parte A

También podría gustarte