Ejercicios de Cadenas de Markov Discretas

Profesor Ivan Derpich Contreras

EJERCICIOS RESUELTOS

1.- Considere la matriz de transición de una etapa, donde el espacio de estados es

{1,2,3,4,5}.
0,75 0 0,25 0 0
0,25 0 0 0 0,75
P = 0,75 0 0,25 0 0
0 0,8 0,2 0 0
0 0,5 0,25 0,25 0

a) Clasifique los estados del sistema, justifique. (1 punto)

b) Obtenga la distribución de probabilidades en el largo plazo si se sabe que
inicialmente el sistema se encuentra en los estados 3, 4 y 5 con igual
probabilidad. (1 punto)
c) Calcule P{x7 = 3; x5 = 1; x4 = 2; x0 = 4 x3 = 5} , si se sabe que el sistema
inicialmente se encuentra en los estados 2, 4 y 5 con igual probabilidad. (2
puntos)
d) Obtenga la distribución de probabilidades del tiempo que demora volver al
estado 2. (1 punto)
e) ¿Cuál es el tiempo medio que se demora en volver al estado 3? (1 punto)

Desarrollo:

.- Grafico de red : 0,75

0,25
0,75 1 3
0,25
0,2
0,25
0,8
0,25
2 4
0,75

0,25
0,5

a) Se distinguen 2 clases C1 = {1,3} y C2 = {2,4,5}

Análisis de Recurrencia y periodicidad

Clase C 1 : analizaremos el estado 1
∞
F (1,1) = 0,75 + 0,25 * 0,75 * ∑ (0,25)
k −2
=
k =2
Haciendo un cambio de variable j = k −2
⎛ ⎞
∞ 3 1 3 ⎜⎜ 1 ⎟⎟ 3 1 3 4
F (1,1,) = 0,75 + 0,25 * 0,75 * ∑ (0,25) = + * *
j
= + * * =1
j =0 4 4 4 ⎜ 1⎟ 4 4 4 3
⎜1− ⎟
⎝ 4⎠
Î el estado 1 es recurrente , además la clase C1 es recurrente.

Período: se puede volver al estado 1 en todas las etapas , Î es aperiódico.

Clase C 2 : analizaremos el estado 2

F (2,2 ) = F1 (2,2) + F2 (2,2 ) + F3 (2,2 ) = 0 +

3 1 3 1
* + * * 0,8 =
4 2 4 4
3 3 8 3 3 15 + 6 21
+ * = + = = = 0,525
8 16 10 8 20 40 40
El estado 2 es transientes y la clase C 2

Período: se puede volver al estado 2 en etapas múltiplos de 2 y además se puede volver al

estado 2 en múltiplos de 3. Luego se puede volver en todas las etapas, excepto en la etapa
1. Luego es aperiódico.

b) Veamos primero si existe distribución estacionaria. Para ello aplicamos la proposición 2.

Dado que existe una clase recurrente y que se cumple:

X n ∈ C1
P⎛⎜ ⎞ = 1 por lo tanto ∃π
⎝ X n ∈ C 2 ⎟⎠
Además π2 = π4 = π5 = 0 y lo otros valores deben calcularse
⎛3 1⎞ 3
⎜ ⎟ π1 =
(π 1 π 3 ) = (π 1 π 3 )⎜ 4 4 ⎟ y π 1 + π 3 = 1 Î 4
⎜3 1⎟ 1
⎜ ⎟ π3 =
⎝4 4⎠ 4
c) P⎛⎜ 7
X = 3; X 5 = 1; X 4 = 2; X 0 = 4 ⎞ = P( X 7 = 3; X 5 = 1; X 4 = 2; X 0 = 4; X 3 = 5) =
⎟
⎝ X 3 = 5 ⎠ P ( X 3 = 5)
( 2 ) (1) (1) (3 ) 1
P( X 7 = 3; X 5 = 1; X 4 = 2; X 3 = 5 / X 0 = 4 )P( X 0 = 4 ) p13 p 21 p52 p 45 3
=
P ( X 3 = 5) P ( X 3 = 5)
(2 ) 31 11 1
p13 = p11 p13 + p12 p 23 + p13 p33 + p14 p 43 + p15 p53 = +0+ +0+0 =
44 44 4
(1) 1 (1) 1
p12 = p52 =
4 2
 (3 )
p 45 = p 42 ( p 21 p15 + p 22 p 25 + p 23 p35 + p 24 p 45 + p 25 p55 ) +
p 43 ( p31 p15 + p32 p 25 + p33 p35 + p34 p 45 + p35 p55 )
(3 )
p 45 = p 42 ( p 21 * 0 + 0 * p 25 + p 23 * 0 + p 24 * 0 + p 25 * 0 ) +
p 43 ( p31 * 0 + 0 * p 25 + p33 * 0 + p34 * 0 + p35 * 0 ) = 0

X 7 = 3; X 5 = 1; X 4 = 2; X 0 = 4
P⎛⎜ ⎞=0
X 3 = 5 ⎟⎠
Luego
⎝

d) F1 (2,2 ) = 0

F2 (2,2 ) =
3 1 3
* =
4 2 8
F3 (2,2 ) = * * 0,8 =
3 1 3
4 4 10
Fk (2,2 ) = 0 ∀k > 3

e) E (T (3,3)) =
1
=4
π3
2.- Una agencia de arriendo de vehículos ha definido la variable aleatoria Xt como el
número de automóviles disponibles en la agencia al empezar la semana t+1.

Sea Dt una variable aleatoria que representa la demanda por automóviles la semana t. La
agencia utiliza una política de reorden (s,S) con s=1 y S=3. No se acepta demanda
pendiente. Sea Xo = 3 y suponga que la variable aleatoria Dt tiene distribución de Poisson
con λ =1.

a) Obtenga los valores de la variable Xt

b) Exprese a través de una fórmula de recurrencia la relación entre xt y Xt+1
c) Encuentre la matriz P (valores númericos)
d) Suponga ahora que el costo incurrido es un valor fijo de $ 110.000 por orden más un
valor variable de $ 25.000 por automóvil. Encuentre el costo esperado de inventario.

Desarrollo:

a) Ω X t = {s, S } = {1,2,3}
b)
⎧S = 3 si X t − Dt +1 < s
X t +1 = ⎨
⎩ X t − Dt +1 si X t − Dt +1 ≥ s

c)
P(Dt = 0) 0 P(Dt > 0 )
P = P(Dt = 1) P(Dt = 0) P (Dt > 1)
P(Dt = 2) P(Dt = 1) P(Dt > 2)

d)
C = f1(n ) * [ 25 * 1 + 110 * P(Dt > 0) ] + f 2(n ) * [ 25 * 2 + 110 * P (Dt > 1) ] + f 3(n ) * [ 25 * 3 +
110 * P(Dt > 2) ]
3.- Se quiere construir un modelo markoviano para estimar la dinámica de vida de un
cultivo de ovas de salmón en la etapa de Maduración de la ova. En un estanque con agua
dulce, se ponen N ovas fecundadas. Después de 8 días, las ovas que han sobrevivido se
convierten en pequeños salmones, los cuales se traspasan a otros estanques para seguir su
evolución. En este proceso de Maduración, algunas ovas se mueren. Se sabe que la
distribución de probabilidades de una ova en esta etapa de desarrollo, es exponencial con
media μ . Sea X n el número de ovas vivas al inicio del día n.

Se pide:
a) Diga cual es el rango de la variable (2 puntos)
b) Obtenga la regla de transición (2 puntos)
c) Obtenga la matriz P (2 puntos)

Desarrollo
Sea X n : número de ovas vivas al inicio del día n. Parten N ovas vivas, pero van muriendo día a
día.

a) X n = {0,1,2,..., N }

b) Sea p: probabilidad de que una ova que está viva al inicio del día n lo esté al inicio de día n+1.

Sea Ti : duración o vida de la ova i-ésima.

T > n +1
p = P⎛⎜ i ⎞ = P(T > 1) = 1 − e − μ luego si hay j ovas vivas al día siguiente pueden haber
⎝ Ti > n ⎟⎠ i

j o menos.

Luego X n +1 ≈ Binomial ( X n , p )

c) Matriz P:
0 1 2 . N-1 N
0 1
1 (1 − p ) p 0 0 0 0
2 ⎛ 2⎞ ⎛2 ⎞ p2 0 0 0
⎜⎜ ⎟⎟(1 − p )2 ⎜⎜ ⎟⎟ p(1 − p)1
⎝0⎠ ⎝1 ⎠
.
N-1 ⎛ N − 1⎞ ⎛ N −1 ⎞ ⎛ N −1⎞ 2 . p N −1 0
⎜⎜ ⎟⎟(1 − p ) N −1 ⎜⎜ ⎟⎟ p (1 − p ) N − 2 ⎜⎜ ⎟⎟ p (1 − p ) N −3
⎝ N − 1⎠ ⎝ N − 2⎠ ⎝ N − 3⎠

N
(1 − p )N ⎛N ⎞
⎜⎜ ⎟⎟ p (1 − p ) N −1
⎛N
⎜⎜
⎞ 2
⎟⎟ p (1 − p ) N − 2 (1 − p ) p

⎝ N − 1 ⎠ ⎝ N − 2 ⎠
4.- Juan y Pedro tienen 2 monedas cada uno. Se disponen a enfrentar un juego en que, en
cada oportunidad, cada jugador lanza una moneda de sus monedas. Si ambas coinciden,
gana Juan y se queda con la moneda de Pedro. En caso contrario, gana Pedro. El juego
termina cuando uno de los jugadores gana las 4 monedas.

a) Obtenga la distribución de probabilidades del número de jugadas necesarias hasta

que Juan logre tener 3 monedas por primera vez.
b) Explique como obtendría la distribución de probabilidades del número de jugadas
hasta que el juego termina.

Desarrollo:

1.- Sea X n : nº de monedas de Juan.

a.- Se debe encontrar Fk (2,3) que corresponde a la probabilidad de que se vaya por
primera vez del estado 2 a estado 3 en un número k de etapas. Por lo tanto :
Fk (2,3) = ??

Para obtener esta probabilidad se debe construir el modelo detalladamente, es decir

encontrar el rango de X n , la matriz P y opcionalmente el gráfico de red.

Rango de la variable de estado X n : Ω X n = {0,1,2,3,4} ,

Matriz P
1 0 0 0 0
1 0 1 0 0
2 2
P= 0 1 0 1 0
2 2
0 0 1 0 1
2 2
0 0 0 0 1

Gráfico de red de la matriz P

1 0,5 0,5 0,5

1

0 0,5 1 0,5 2 0,5 3 4

Entonces volvamos de nuevo con Fk (2,3)

F1 (2,3) = ; F2 (2,3) = 0 ; F3 (2,3) = p 21 p12 p 23 = F4 (2,3) = 0
1 111 1
= ;
2 222 8
2
⎛1 1⎞ 1
F5 (2,3) = ( p 21 p12 ) p 23 = ⎜
2
⎟
⎝2 2⎠ 2

Término general:
2 k −1 k −1
⎛1 1⎞ 1 ⎛1⎞
F2 k −1 (2,3) = ( p 21 p12 ) 2 k −1 p 23 = ⎜
1
⎟ =⎜ ⎟ ; k = 1,2,3,...
⎝2 2⎠ 2 ⎝4⎠ 2
F2 k (2,3) = 0 ; k = 1,2,3,...

b.- El juego termina cuando se llega a que Juan tiene 0 ó 4 monedas. Lo que se pregunta
entonces, es la probabilidad de que ocurra alguno de estos dos eventos, que son
excluyentes. Además Juan tiene al inicio del juego 2 monedas. Luego lo que se pregunta es:
∞
∑ Fk (2,0) + Fk (2,4)
k =2

Del estado 2 al estado 0 y al estado 4 se puede llegar en etapas múltiplos de 2 solamente.

Luego :

2k 2k
⎛1 1⎞ ⎛1⎞
F2 k (2,0) = ⎜ ⎟ =⎜ ⎟ ; k = 1,2,3,...
⎝2 2⎠ ⎝4⎠

2k 2k
⎛1 1⎞ ⎛1⎞
F2 k (2,4) = ⎜ ⎟ =⎜ ⎟ ; k = 1,2,3,...
⎝2 2⎠ ⎝4⎠

∞ ∞ 1 2k ∞ 2k ∞ k ∞ k
⎛ ⎞ ⎛1⎞ ⎛1⎞ ⎛1⎞
∑ F2 k (2,0) + F2 k (2,4) = ∑ ⎜ ⎟ +∑ ⎜ ⎟ = ∑⎜ ⎟ + ∑⎜ ⎟ =
k =1 k =1⎝ 4 ⎠ k =1 ⎝ 4 ⎠ k =1⎝ 16 ⎠ k =1⎝ 16 ⎠

∞ k ∞0 k 0
⎛1⎞ ⎛1⎞ ⎛1⎞ ⎛1⎞ 1 1 16 16
∑⎜ ⎟ − ⎜ ⎟ + ∑ ⎜ ⎟ − ⎜ ⎟ = −1+ −1 = −1+ −1 =
k = 0⎝ 16 ⎠ ⎝ 16 ⎠ k =0 ⎝ 16 ⎠ ⎝ 16 ⎠ 1 1 15 15
1− 1−
16 16

1 1 2
+ = = 0,1 3
15 15 15
5.- Considere una Cadena de Markov con la siguiente matriza de probabilidades de
transición:

0 1 2 3 4 5 6
⎡ 1 0 1 0 0 0 0 ⎤
⎢ 2 2 ⎥
⎢ 1 0 0 2 0 0 0 ⎥
⎢ 3 3 ⎥
⎢ 0 0 1 0 2 0 0 ⎥
P = ⎢⎢ ⎥
3 3
1 1 1 1 ⎥
⎢ 4 0 0 0 ⎥
4 4 4
⎢ 1 2 ⎥
⎢ 0 0 0 0 0
3 3⎥
⎢ ⎥
⎢⎣ 0 0 0 0 0 2 1 ⎥
3 3⎦

a) Obtenga la distribución límite

b) Obtenga la distribución estacionaria

Desarrollo

a) Es necesario clasificar los estados y su periodicidad para determinar si existe

distribución límite. Para ello realicemos el diagrama de red de la matriz P.

1 0,5
2
1
1 2 3
1 2
3 3
2 1
3 3 7
1 6 1
3 5 3
1 2
3 3
1 1
3 4
2
3

4
2
1
4
1
4
Se perciben 3 clases : C1 = {1,3,5} , C 2 = {2,4} , C 3 = {6,7}

Análisis clase C1 : dado que la clase no presenta flujos de probabilidad fuera de la clase, se
puede afirmar que todos los estados de la clase son recurrentes. Además los estados de la
clase son aperiodicos.

Análisis clase C 2 : dado que esta clase tiene flujos de salida y no de entrada es una clase
transientes. Además los estados de esta clase son aperiódicos.

Análisis clase C3 : igual que la clase C1 esta clase no presenta flujos de probabilidad fuera
de la clase, por lo que se puede afirmar que todos los estados de la clase son recurrentes.
Además los estados de la clase son aperiódicos.

Dado que todos los estados son aperiódicos entonces existe distribución límite.

Para los estados de la clase C1 se pueden encontrar las probabilidades de estado

estacionarios.
1 1 0
2 2
P’= 0 1 2
3 3
1 1 1
3 3 3

π T P' = π T

1 1 0
2 2
(π 1 π 3 π 5 ) 0 1
3
2
3
= (π 1 π 3 π5)
1 1 1
3 3 3

1 3 3
π1 = ; π3 = ; π5 =
4 8 8

F (2,1)
lim P
(n)
= se deben encontrar ambos términos
E [T (1,1)]
21
n →∞

1 2 ⎛1 1 ⎞
F (2,1) = p 21 + p 24 F (4,1) =
+ * ⎜ + * F (2,1)⎟ Î F (2,1) = + + F (2,1) Î
1 2 2
3 3 ⎝3 3 ⎠ 3 9 9
⎛ 2⎞ 5
F (2,1) * ⎜1 − ⎟ = Î F (2,1) * = Î F (2,1) =
7 5 5
⎝ 9⎠ 9 9 9 7
Además
 5
E [T (1,1)] =
1
=4 F (2,1) 5
luego lim P
(n)
= = 7 =
π1 E [T (1,1)] 4 28
21
n →∞

F (4,1)
lim P
(n)
= se debe encontrar F (4,1)
E [T (1,1)]
41
n →∞

F (2,1) − p 21
De la ecuación anterior F (2,1) = p 21 + p 24 F (4,1) Î F (4,1) =
p 24
5 1 15 − 7 8 4
−
F (4,1)
F (4,1) = 7 3 = 21 = 21 = * =
8 3 12 3 1
= luego lim P
(n)
= = 7 =
E [T (1,1)] 4 7
41
2 2 2 21 2 21 7 n →∞

3 3 3

3 3
lim P23 = lim P43 = π 3 = 8 lim P25 = lim P45 = π 5 = 8
( n) (n) ( n) (n)
n →∞ n →∞ n →∞ n →∞

Para los estados de la Clase C3

1 2 1 2
P’’=
3 3
(π 6 π 7 ) = (π 6 π 7 ) 3 3
π 6 = 12 ; π 7 = 12
1 3 1 3
3 2 3 2

1 1
lim P26 = lim P46 = π 6 = 2 lim P27 = lim P47 = π 7 = 2
( n) (n) ( n) (n)
n →∞ n →∞ n →∞ n →∞

Para los estados de la clase C 2 dado que los estados son transientes:

lim Pi 2 = lim Pi 4 = 0 i = 1,3,5,6,7

(n) (n)
n →∞ n →∞
6.- Considere un cultivo que contiene inicialmente un solo glóbulo rojo. Después de una
cantidad de tiempo el glóbulo rojo muere y es reemplazado por dos nuevos glóbulos rojos o
bien por dos glóbulos blancos. Las probabilidades de estos eventos son 1 y
4
3 respectivamente. Subsecuentemente, cada glóbulo rojo se reproduce de la misma forma.
4
Por otra parte, cada glóbulo blanco muere después de una unidad de tiempo sin
reproducirse. Se desea calcular la probabilidad de que el cultivo se extinga en algún
momento.

Formule para tal efecto un modelo detallado e indique con precisión como lo utilizaría para
obtener la probabilidad pedida.

Desarrollo

Sea X n : numero de glóbulos rojos presentes en la etapa n.

8
4
1
2
6

i −k
; k = log( j )
k
P⎛⎜ n +1
X = j ⎞ = ⎛⎜ i ⎞⎟⎛ 1 ⎞ ⎛1 − 1 ⎞
⎝ X n = i ⎟⎠ ⎜⎝ k ⎟⎠⎜⎝ 4 ⎟⎠ ⎜⎝ 4 ⎟⎠ log(2 )
Esta Cadena de Markov es tal que existen dos clases:

C1 = {0} y C 2 = {2,3,4,...} la clase C 2 es infinita.

La clase recurrente C1 es recurrente y la clase C 2 es transiente. La clase C1 está compuesta

por un estado aperiodico. Por lo tanto, por la Proposición 2 vista en clases, se puede
asegurar que existe distribución estacionaria. Además por la misma proposición se puede
asegurar que π j = 0 ∀j = 1,2,... es decir π j = 0 ∀j ∈ C 2 y π j ≠ 0 ∀j ∈ C1 . Como la
clase C1 tiene un solo elemento π 0 = 1 .
Entonces la probabilidad de que el cultivo se extinga alguna vez es uno.
EJERCICIOS PROPUESTOS

1.- Se tiene la siguiente matriz de probabilidades de transición en una etapa :

⎛1 6 0 0 12 13 0 ⎞
⎜ ⎟
⎜0 1 0 0 0 0 ⎟
⎜1 5 0 2 5 15 0 15 ⎟
⎜ ⎟
⎜1 4 0 0 34 0 0 ⎟
⎜1 2 0 0 1 2 0 0 ⎟⎟
⎜
⎜0 0 0 ⎟⎠
⎝ 14 14 0
Se pide:
a) Diga si los estados son transientes o recurrentes (positivos o nulos) y demuéstrelo.
(1,5 puntos)
b) Diga si existe distribución límite y porqué. Si existe calcúlela. (1,5 puntos)
c) Diga si existe distribución estacionaria y porqué. Si existe calcúlela. (1,5 puntos)
d) Calcule Pr ⎧⎨ X 4 = 1 ⎫
⎩ X 0 = 2⎬⎭

2.- El Departamento de Marketing Cuantitativo de un prestigioso banco nacional está

desarrollando un modelo basado en Cadenas de Markov discretas, para estimar el número
de clientes en el estrato ABC1. El planteamiento es el siguiente:

Sea X n el número de clientes pertenecientes al segmento ABC1 el primer día hábil del mes
n. En el banco existen solamente dos segmentos para clasificar a los clientes ABC1 y C2.
En total hay N clientes en el banco y que la probabilidad de que un cliente pase de ABC1 a
C2 es p1 y de C2 a ABC1 es p 2 . Suponga que los clientes no se retiran del banco, ni
tampoco ingresan nuevos clientes. Si se sabe que el primer día hábil de un mes hay n1
personas en el segmento ABC1 :

¿ Cuál es la probabilidad de que en el primer día hábil del mes siguiente hayan n 2 clientes
en el mismo segmento ? N ≥ n 2 ≥ n1 (2 puntos)

3.- Sea X n el número de personas hospedadas en un cierto hotel al inicio del día n. Se sabe
que pueden llegar 0,1,2 ó 3 clientes en un día, con igual probabilidad. Además se sabe que
el tiempo de permanencia de un cliente en el hotel es exponencial con media μ . El hotel
tiene capacidad solo para 4 personas y las que llegan cuando el hotel está lleno se van sin
dejar reserva.
Obtenga la matriz P. (2 puntos)
Indicación: Puede usar la siguiente aproximación e − μd = 1 − μd
4.- El ascensor de un edificio con tres pisos realiza viajes entre los pisos regularmente. Sea
X n el piso en que para el ascensor en la etapa n. Se sabe que la mitad de los viajes que
parten del piso 1 se dirigen a uno de los otros pisos con igual probabilidad. Si el ascensor
parte en el piso 2 el 25% de las veces termina en el piso 2. Por ultimo si su trayecto
empieza en el tercer piso siempre termina en el primer piso.

a) Obtenga la matriz P y el rango de la variable.

X = 2; X 2 = 1; X 0 = 3
b) Obtenga P⎛⎜ 4 ⎞
⎝ X 1 = 2 ⎟⎠
c) Diga si existe distribución límite y si es así, calcúlela.
d) Diga si existe distribución estacionaria y si es así calcúlela.

5.- Un agente comercial realiza su trabajo en tres ciudades A,B,C. Para evitar gastos trabaja
durante un día en cada ciudad y alli se queda en la noche. Después de estar trabajando en la
ciudad C la probabilidad de tener que seguir trabajando en ella al día siguiente es 0,4; la
probabilidad de viajar a B es 0,4. Si el viajante duerme una noche en B con probabilidad
0,2 deberá seguir trabajando en la misma ciudad al día siguiente y en el 60% de los casos
viajará a C. Por último, si el agente trabaja en A un día permanecerá en esa ciudad con
probabilidad 0,1 o irá a la ciudad B con probabilidad 0,3.

a) Si hoy el viajante está en la ciudad C ¿Cual es la probabilidad de que tenga que

estar en la misma ciudad en 4 días más?
b) ¿Cuáles son los porcentajes de días que el viajante se encuentra en cada ciudad?
c) ¿Cuál es la probabilidad de que un viajante vuelva a la ciudad A?

6.- Los consumidores de café en la VIII Región usan tres marcas A, B, C. En

Marzo de 2008 se hizo una encuesta en lo que entrevistó a las 8450 personas que
compran café y los resultados fueron:

Compra actual Marca A Marca B Marca C Total

Marca A = 1690 507 845 338 1690
Marca B = 3380 676 2028 676 3380
Marca C = 3380 845 845 1690 3380
TOTALES 2028 3718 2704 8450

a) Si las compras se hacen mensualmente, ¿cuál será la distribución del mercado de

café en la VIII Región en el mes de junio?
b) A la larga, ¿cómo se distribuirán los clientes de café?
c) En junio, cual es la proporción de clientes leales a sus marcas de café?

7. En una gran empresa de investigación que ocupa varias hectáreas existe un sistema de correo
interno, en el cual una persona recorre distintas oficinas llevando y retirando correspondencia. Al
inicio del día la persona recorre en un cierto orden todas las oficinas recogiendo la
correspondencia que debe ser despachada.

Al final de esto, la persona ordena la correspondencia e inicia un segundo ciclo en el cual

recorre las oficinas, entregando la correspondencia previa y recolectando la nueva. Este ciclo
 se repite durante el día. Suponga que las oficinas están uniformemente distribuidas a lo largo
del recorrido y que cada una genera al azar correspondencia para ser despachada, de modo
que el total de correspondencia generada por el sistema en un intervalo de largo t corresponde
a un Proceso de Poisson a tasa λ .

8.- Una agencia de arriendo de vehículos ha definido la variable aleatoria Xt como el número de
automóviles disponibles en la agencia al empezar la semana t+1.

Sea Dt una variable aleatoria que representa la demanda por automóviles la semana t. La agencia
utiliza una política de reorden (s,S) con s=1 y S=3. No se acepta demanda pendiente. Sea Xo = 3
y suponga que la variable aleatoria Dt tiene distribución de Poisson con λ=1.

e) Obtenga los valores de la variable Xt

f) Exprese a través de una fórmula de recurrencia la relación entre xt y Xt+1
g) Encuentre la matriz P (valores númericos)
h) Suponga ahora que el costo incurrido es un valor fijo de $ 110.000 por orden más un valor
variable de $ 25.000 por automóvil. Encuentre el costo esperado de inventario.

9.- Una empresa de transportes debe contratar un seguro para su flota de vehículos.
Existen 4 posibles seguros con valores P1, P2, P3, y P4. De modo que :
P1 > P2 > P3 > P4.

El valor del seguro se paga al principio del año y depende del tipo de seguro
contratado el año anterior y de los accidentes cobrados a la compañía de seguros durante
el año. Si durante el año, el seguro contratado costó Pi y no se cobraron seguros, el
seguro del año siguiente costará Pi + 1; en caso contrario (esto es si se cobraron seguros)
el seguro costará P1. Si el año anterior el seguro costo P4 y no hubo daños cobrados, el
seguro costará este año también P4.

La empresa de transportes debe decidir, al final del año, si cobrará o no los daños
acumulados por sus vehículos durante el año. Si la empresa decide cobrar los daños, la
compañía de seguros se hace cargo de éstos, con excepción de un deducible, que vale Ri
para el seguro i.

El daño total de la flota durante un año cualquiera es una variable aleatoria con
función de distribución F y función de densidad f.

Defina Xn como el tipo de seguro contratado en el año n.

a) Obtenga la matriz de P de este proceso.

b) Obtenga una expresión explícita para el vector distribución estacionaria ∏ de este
proceso.
c) Obtenga una expresión para el costo esperado anual de usar esta política en el largo
plazo. ¿Cómo podría encontrar la política óptima para este caso?

10.- En la etapa inicial un jugador tiene MM$ 2. En las etapas 1,2..... participa en un juego
en el que apuesta MM$ 1. Gana el juego con probabilidad p, y lo pierde con probabilidad
(1-p). Su meta es aumentar su capital a MM$ 4 y tan pronto como lo logre se retira. El
juego también se suspende si el capital del jugador se reduce a $0 .
a) Formule la matriz de probabilidades de transición en una etapa.

Si p=0.4

b) Calcule la probabilidad de que el jugador obtenga su objetivo de juntar MM$ 4 de

capital.

11.- Se tiene la siguiente Cadena de Markov :

1 0 0 0
P= p 0 1-p 0
0 0 p 1-p
0 0 1-p p

a) Analice la recurrencia, periodicidad de cada estado.

b) ¿Es la cadena irreducible?
c) ¿ Existen distribuciones límite ? Si existen calcúlelas
d) ¿ Existe distribución estacionaria ? ¿ Por qué ? Si existe calcúlela.