Documentos de Académico
Documentos de Profesional
Documentos de Cultura
Estocásticos
2020-1
Cadenas de Markov
Introducción
Desarrollo
Ejercicios resueltos
Ejercicios propuestos
Conclusiones
Objetivo
01 Definición, Propiedades
Xo es el estado inicial.
Otro ejemplo de secuencia de transición de eventos aleatorios
Para un observador, el sesgo político del
gobierno americano, tiene una transición
entre “demócratas y republicanos”, desde el
año 1853.
video: https://www.youtube.com/watch?v=Trf9P7DnOHQ
Propiedades
Una cadena de Markov CUMPLE las siguientes propiedades:
1) Proceso de Estados Discretos si
S={1, 2, 3, …}, {Xn, n∈T}
2) Proceso de Tiempo Discreto si
T={0, 1, 2, …}, {Xn, n=0, 1, 2, …}
3) Cumple la Propiedad Markoviana
P(Xn+1 = j / X0=i0,X1=i1,… Xn-1=in-1,Xn = i ) = P(Xn+1 = j /Xn=i)
Sólo
La probabilidad
depende del Estado Y no del Pasado
del Estado Futuro
presente (n) 0, 1, …, (n-1)
(n+1)
Transición de Estados:
Probabilidades y
Diagrama
Probabilidad de transición entre estados
Las probabilidades 𝑷(𝑿𝒏+𝟏 = 𝒋/𝑿𝒏 =𝒊) = pij se pueden representar en una matriz,
denominada matriz de probabilidades de transición entre estados de un periodo o
paso.
Esta matriz tiene la siguiente
propiedad;
𝒔
∑ 𝒑 𝒊𝒋=𝟏 ;𝒊=𝟏 , …, 𝒔
𝒋=𝟏
La suma por filas es igual a uno.
Forma
simplificada
Matriz de probabilidades de Transición: Construcción
Esta tabla contiene datos reales Bitel 33,973 49,227 25,247 200,000*
que nos pueden servir para
elaborar la matriz y el diagrama
https://www.osiptel.gob.pe/documentos/indicador-portabilidad-n
de probabilidad de transición de umerica
estados. (excepto los indicados con *)
Matriz de Probabilidad de Transición de estados (Matriz “P”)
Nota curiosa: El test MBTI (Meyers Bricks), es uno de los más usados
para identificar las personalidad, el mismo que los subdivide en 4 tipos.
Esquema longitudinal de la variable aleatoria
X1 X2 Xn+1
Estado2
Estado1
X0
X3 Xn
0 1 2 3 ... n n+1
S 1 2
Matriz de
𝟏/ 𝟒 𝟑/ 𝟒
1
2
1/4
1/3
3/4
2/3
ó 𝑷=
[ 𝟏/ 𝟑 𝟐/ 𝟑 ] Probabilidad de
Transición de
entre estados
Respuestas:
Hallar:
a) P(X1=1/X0=1) a) 1/4
P(Xn+1 = j /Xn=i) = pij b) 1/4
b) P(X4=1/X3=1)
(90,91) c) 2/3
c)
P
22
Diagrama de transición entre estados
3/4
3/4
𝟏/ 𝟒 𝟑/ 𝟒
Estado Estado
𝑷= [ 𝟏/ 𝟑 𝟐/ 𝟑 ]
1 2 2/3
1/4 “Estruct “Espont
urado” áneo”
Si la
probabilidad
es nula, NO
se dibuja el
1/3 arco
¡Practica!
Completar ….
Empresa destino
Empresa
origen Movistar Claro Entel Bitel
Movistar 88.26% 4.36% 4.38% 3.01%
Claro 13.39% 75.76% 6.83% 4.02%
Entel 11.36% 12.45% 69.31% 6.88%
Bitel 11.01% 15.96% 8.19% 64.84%
Probabilidades de transición de n pasos o períodos
Sea la “probabilidad de que partiendo del estado i se llegue al estado j
en n períodos”. Se representa en una matriz de probabilidades de transición entre estados de n
períodos o pasos.
Esta matriz también cumple la propiedad:
𝒔
… …
⁞ … … … ⁞
∑ 𝒑 𝒏𝒊𝒋 =𝟏; 𝒊=𝟏 , … , 𝒔
𝒋=𝟏
(la suma por filas es igual a uno).
𝑷
(𝒏 )
= 𝑷 =¿
𝒏 … …
⁞⁞ …
… …
… …
… ⁞⁞ Cálculo de la matriz de transición a n pasos:
…
… …
…
...
Forma 𝒏 𝒏−𝟏
𝑷 =𝑷.𝑷.𝑷…𝑷=𝑷 .𝑷
simplificada n veces
Practica…
Dada la siguiente matriz de probabilidades de transición entre estados
P, con S={1,2} (donde 1=Estructurado y 2=Espontáneo)
𝟏/ 𝟒 𝟑/ 𝟒
𝑷=
[ 𝟏/ 𝟑 𝟐/ 𝟑 ]
Hallar: ¿ 𝒑𝟏𝟏 ?
𝟐 𝟐
¿ 𝒑𝟏 𝟐 ? ¿ 𝒑𝟏𝟏 ?
𝟑 𝟑
¿ 𝒑𝟏 𝟐 ?
a) P²
b) P³
𝑷 = 𝟐
𝟐
¿ 𝒑 𝟐𝟏 ?[ 𝟐
¿ 𝒑𝟐𝟐 ? ] 𝑷 =
𝟑
[
¿ 𝒑 𝟑𝟐𝟏 ? ¿ 𝒑 𝟑𝟐𝟐 ? ]
c) P(X5=1/X3=1)
(90,93)
P
d) 22
Probabilidades de Estado y
de trayectorias
Probabilidad de Estados
Luego de establecer los estados del sistema (recordar que en el análisis de Markov los estados
son colectivamente exhaustivos y mutuamente excluyentes), es posible identificar la
probabilidad de que el sistema esté en dichos estados. A diferencia de las probabilidades de
transición entre estados (de uno o n pasos), que son condicionales, la probabilidad de Estado
es incondicional. Si se tiene S={1,2,…, s} la probabilidad de un estado “j” en particular para
el período “m” se denota P(Xm=j). La información completa de todos los estados se coloca en
un vector de probabilidades de estado: 𝝅 𝒎=[𝑷 ( 𝑿 𝒎=𝟏 ) , 𝑷 ( 𝑿 𝒎=𝟐 ) , … , 𝑷 ( 𝑿 𝒎=𝒔 ) ]
𝝅 𝟎=[𝑷 ( 𝑿 𝟎=𝟏 ) , 𝑷 ( 𝑿 𝟎 =𝟐 ) , … , 𝑷 ( 𝑿 𝟎 =𝒔 ) ]
Multiplicación de vectores
Probabilidad de Estado estable
Si se tiene S={1,2,…,s} entonces la probabilidad de los estados tiende a estabilizarse cuando
m es muy grande (tiende a infinito), entonces la probabilidad de cada estado puede hallarse
mediante el siguiente sistema:
Donde:
X=[X1,X2,…,Xs] Xj son las probabilidades de cada estado j y el vector
resultante X corresponde al πequilibrio.
Probabilidad estable o equilibrio (periodo infinito)
Respuesta.
X1=
X2=
Probabilidad de una cadena o trayectoria
Origen
Probabilidad de un estado en el origen, y luego en la transición “m”
“m”
verde rojo amar claro celes
verde
rojo
amar
claro
celes
Origen “m”
transición
Clasificación de
Estados
Clasificación de estados de una Cadena de Markov
●● Los estados de las cadenas de Markov se clasifican de acuerdo a las propiedades de sus
probabilidades de transición.
● Se dice que el estado j es accesible o alcanzable desde el estado i si , para alguna n≥0 es decir
hay una probabilidad positiva de pasar de i a j en algún número de pasos. También se dice que
i se comunica por j y esta relación se denota por i→j
● Cuando dos estados i y j son mutuamente accesibles, se dice que están comunicados o son
estados comunicantes, es decir, existen enteros no negativos n
● Un estado se llama transitorio si, después de haber entrado a este estado, el proceso nunca
regresa a él, es decir un estado es transitorio si y solo si existe un estado j (j≠i) que es
accesible desde el estado i, pero no viceversa, esto es, el estado i no es accesible desde el
estado j.
Clasificación de estados de una Cadena de Markov
● Se dice que un estado es recurrente si, después de haber entrado a este estado, el proceso
definitivamente regresará a ese estado. Un estado es recurrente si y solo si no es transitorio.
● Un tipo especial de estado recurrente es aquel estado al cual el proceso una vez que entró en
él nunca saldrá de este estado, este tipo de estado se dice absorbente. Por lo tanto, el estado i
es absorbente si y solo si pii=1
Estado Estado
Recurrente
Recurrente
Todos los estados conducen a él...
Estados
Absorbentes
Una vez que caes en él, ¡no
podrás salir!
Estado
Transitorio
Sólo sirve de “paso”
Estado
Periódico
Se regresa a él después de pasar
por uno o más estados diferentes.
Transición de estados
OPERA FALLO
TIVO TÉCNICO
FALLO
FUNCI-
ONAL
NUEVO
Asimismo se sabe que al inicio del estudio en el mercado existen 500,000 contratos, repartidos
de la siguiente manera: Entel =300,000, Claro=125,000, Movistar=75,000.
Transición entre estados
X3
Estado 3
X1 X2 Xn+1
Estado 2
Estado 1
X0
Xn
0 1 2 3 ... n n+1
P(X0=3)=0.15.
Caso:
Probabilidad de
cadenas
Ejemplo 2.b
E=1 E=2 E=3
Hallar
E=1 1/4 1/2 1/4 - P (X2=3,X1=2,X0=1); para una
probabilidad de estado inicial de
E=2 1/3 1/3 1/3
P(X0=1) = 0.6
E=3 2/3 1/6 1/6
Rpta
= P (X2=3/X1=2) * P (X1=2/X0=1) *
otro más P(X0 = 1)
P (X1=2/X0=2)*P(X0=2) +
P(X2=2) =?
https://youtu.be/dLADH-eBo9U
Ejemplo 2c. X0 = 1
P(X1 = 2/X0 = 1)
P(X1 = 2/X0 = 2)
X0 = 2
=3 P(X1 = 2/X0 = 3)
X0
Ejemplo 2.c
E=1 E=2 E=3 Hallar
otro más
P(X20=2) =?
Caso fallo de
equipos
Caso: Sistema de
comunicaciones
Se sabe que un sistema de
comunicaciones falla o no
dependiendo si ha fallado o no el
día anterior. La probabilidad que
falle un día sabiendo que ha fallado
el día anterior es de 0,6; pero si no
ha fallado el día anterior es de 0,4. Π
a) Elaborar la matriz de
transición de la cadena, y
responda:
Caso: Sistema de
comunicaciones
¿Cuál es la probabilidad que el Probabilidad de estado de origen
sistema falle el cuarto día
Π0 = {0.30 0.70}
sabiendo [T=4], y que inicialmente
la probabilidad de fallar es de 0,3
Probabilidad de estado en el salto “m=4”
y la de no fallar es de 0,7?.
Rpta: 0,49968 Π 4 = Π 0 x Π4
Π4 = {0,49968 0,50032}
Ejercicio E
A largo plazo, ¿Cuál es la probabilidad
de equilibrio?. Rpta: (0,50 0,50)
(se identifica llegando a la 13ava
transición)
NC
Soluciòn A
No
Comprar
comprar
- La probabilidad de compra en el
paso 1 (T = 1)
- La probabilidad de compra en el
C NC
paso 2 (T = 2)
C 0.8 0.2
En
En este
este caso
caso el
el
3 estado
estado 33 es
es el
el
absorbente
absorbente
1 2
Formula de cadena absorbente
► Sección A
► Sección B
► Caja y Salida
Ante esto observamos que el cliente paga y se retira por ende al ya no regresar a
alguna sección de la tienda nos damos cuenta de que ese es el estado absorbente,
donde la probabilidad de pasar a otro estado es 0.
Gráfico de la transición
1
En
En este
este caso
caso el
el
CAJA estado
estado Caja
Caja es
es el
el
absorbente
absorbente
0,5
0,4
0,3
A B
0,2
0,4
0,2
La matriz de transición de estados
► En una granja cada mes se tienen terneros, de los cuales se sabe que
un 20% muere, otro 20% aún no se ha desarrollado por completo y
sigue siendo ternero, el 10% es vendido y un 50% crece
convirtiéndose en adulto. Asimismo, el 20% de los adultos se
quedan en la granja, el 70% es vendido y el 10% muere.
1)0,45
2) 1 año y 3 meses.
https://www.youtube.com/watch?v=0VGMn60-f_4
Conclusiones
REFERENCIAS
PRENTICE-HALL, México.