Documentos de Académico
Documentos de Profesional
Documentos de Cultura
11.1. Introducción
A menudo, el estudio de un sistema pasa a través del análisis de la dinámica de una población de entidades. Por
ejemplo, cuando sea de interés estudiar el número de clientes en un banco, la cantidad de individuos de una
especie de animal en su hábitat, o el número de equipos en reparación en un sistema de producción, tenemos
que caracterizar los eventos que resultan en el aumento de la población, sean esos llegadas, reproducciones o
fallas, así como aquellos que determinan una disminución de la población, p.e. salidas, fallecimientos o
reparaciones. A los eventos de la primera categoría se les refiere como nacimientos, y a aquellos de la segunda
como muertes. Es así como un proceso estocástico que considere eventos de nacimiento y muerte se presta para
modelar de manera adecuada la dinámica de una población de entidades.
Ejemplo 1. Consideremos la población de ballenas jorobadas del pacifico colombiano. Los individuos de esta
especie son nómadas, y recorren largas distancias desdé los fríos océanos del Antártida hacia las aguas al oeste
de Colombia, donde se quedan por cierto periodo antes de empezar la vuelta al sur del planeta. Si quisiéramos
definir un modelo que representara la dinámica de la población de ballenas en las aguas colombianas, sería
pertinente considerar como nacimientos, es decir como eventos que incrementan el número de ballenas, las
llegadas de individuos al pacifico colombiano, y como muertes las salidas de los individuos hacia el Antártida. Un
posible modelo continuo sería por ejemplo el proceso de Markov en tiempo continuo {𝑋(𝑡), 𝑡 ≥ 0}, donde la
variable de estado es:
En general, un proceso de nacimiento y muerte es una cadena de Markov en tiempo continuo, con espacio de
estados 𝑆 ⊆ ℕ, tal que la tasa de transición entre estados es no nula solo por las parejas de estados 𝑖, 𝑗 ∈ 𝑆 tales
que |𝑖 − 𝑗| = 1. Usualmente, se nombran los estados de forma incremental a partir de cero, y se denota con 𝜆𝑖 la
tasa de nacimiento del estado 𝑖 − 1, y con 𝜇𝑖 la tasa de muerte del estado 𝑖. Con esta convención, el diagrama de
estado transición adquiere la forma muy sencilla que se muestra en la Figura 2.
Nótese que no necesariamente tiene que ser 𝜆𝑖 > 0 por todo 𝑖 , ni que 𝜇𝑖 > 0 por todo 𝑖. La estructura que se
observa en el diagrama de estado y transición se refleja en una estructura igualmente simple en la matriz de tasas
de transición ℚ del proceso, como se muestra en la Figura 3, omitiendo de escribir el valor de los elementos
diagonales por efectos de una visualización más clara. La matriz en Figura 3 posee una estructura tridiagonal, es
decir, presenta elementos no nulos solamente en la diagonal principal (elementos 𝑞𝑖𝑗 ), en la primera diagonal
superior (elementos 𝑞𝑖,𝑖+1) y en la primera diagonal inferior (elementos 𝑞𝑖,𝑖−1).
𝜆1 0 0 ⋯
𝜇1 𝜆2 0 ⋯
ℚ= 0 𝜇2 𝜆3 ⋯
0 0 𝜇3 ⋯
[⋮ ⋮ ⋮ ⋮ ⋱]
Figura 3: Estructura tridiagonal de la matriz Q de tasas de transición para procesos de nacimiento y muerte.
Nota: la estructura tridiagonal de la matriz, que permite reconocer que un proceso pertenece a la clase de los
procesos de nacimiento y muerte, se observa con un ordenamiento adecuado de los estados. Una permutación
de los estados (por ejemplo, el ordenamiento {1,0,3,2, … } no permitiría apreciar la estructura regular del proceso.
Dado que un proceso de nacimiento y muerte es una cadena de Markov en tiempo continuo, para que este sea
ergódico, es necesario que satisfaga las siguientes condiciones (véase la nota de clase sobre clasificación de
cadenas):
En el caso al punto 1, es fácil entender que, dada la particular estructura del proceso, si 𝜆𝑖 > 0 y 𝜇𝑖 > 0 por todo
𝑖, la cadena es irreducible y entonces el proceso de nacimiento y muerte será ergódico.
En el caso al punto 2, además de requerirse 𝜆𝑖 > 0 y 𝜇𝑖 > 0 por todo 𝑖 para asegurar la irreducibilidad, es necesario
que las tasas sean tales que el estado de la cadena no crezca indefinidamente. No es posible determinar una
condición necesaria sobre las tasas, pero es fácil dar una suficiente que tiene un interés práctico. En particular, si
existe un estado 𝑘 tal que para cualquier otro estado 𝑗 > 𝑘 siempre se cumple que 𝜆𝑗 < 𝜇𝑗 (es decir, existe un
cierto estado 𝑘 después del cual es siempre más probable que el número de entidades disminuya en lugar de que
aumente), entonces la cadena será ergódica.
Para el análisis del estado estacionario, escribimos las ecuaciones del balance. La ecuación para el estado 0 nos
proporciona la siguiente relación entre las probabilidades de estado estacionarias 𝜋0 y 𝜋1 :
𝜆1 𝜋0 = 𝜇1 𝜋1 (1)
𝜇𝑛 𝜋𝑛 = 𝜆𝑛 𝜋𝑛−1 (5)
Dada la forma de las ecuaciones, es posible encontrar su solución con un procedimiento iterativo. De la ecuación
(1) para el estado 0, hallamos 𝜋1 = 𝜋0 𝜆1 /𝜇1. Si reemplazamos esta expresión en la ecuación (2) del estado 1,
obtenemos:
𝜋0 𝜆1 𝜋0 𝜆1 𝜆2 𝜋0 𝜆1 𝜆2
(𝜆2 + 𝜇1 ) = 𝜇2 𝜋2 + 𝜆1 𝜋0 ⇒ + 𝜋0 𝜆1 = 𝜇2 𝜋2 + 𝜆1 𝜋0 ⇒ = 𝜇2 𝜋2
𝜇1 𝜇1 𝜇1
𝜋0 𝜆1 𝜆2
⇒ 𝜋2 = (6)
𝜇1 𝜇2
𝜋0 𝜆1 𝜆2 𝜆3
Repitiendo este proceso en la ecuación (3) se obtiene 𝜋3 = , y así en seguida para todas las ecuaciones,
𝜇1 𝜇2 𝜇3
de modo que todas las probabilidades estacionarias son directamente proporcionales a 𝜋0 según un factor que es
una función de las tasas. Para simplificar la notación, definamos las constantes 𝑐𝑗 , 0 < 𝑗 ≤ 𝑛, como sigue:
𝑗
𝜆1 𝜆2 ⋯ 𝜆𝑗 ∏𝑗𝑖=1 𝜆𝑖 𝜆𝑖
𝑐𝑗 = = 𝑗 =∏ (7)
𝜇1 𝜇2 ⋯ 𝜇𝑗 ∏ 𝜇𝑖 𝜇𝑖
𝑖=1 𝑖=1
De modo que podemos escribir las probabilidades estacionarias de estado como 𝜋𝑗 = 𝜋0 𝑐𝑗 , 0 < 𝑗 ≤ 𝑛. Ahora
bien, para completar el cálculo, es necesario determinar el valor del 𝜋0 , lo cual se realiza a través de la ecuación
de normalización, como sigue:
𝑛 𝑛 𝑛 𝑛
∑ 𝜋𝑗 = 1 ⇒ 𝜋0 + ∑ 𝜋0 𝑐𝑗 = 1 ⇒ 𝜋0 + 𝜋0 ∑ 𝑐𝑗 = 1 ⇒ 𝜋0 (1 + ∑ 𝑐𝑗 ) = 1
𝑗=0 𝑗=1 𝑗=1 𝑗=1
−1
𝑛
⇒ 𝜋0 = (1 + ∑ 𝑐𝑗 ) (8)
𝑗=1
La expresión (8) completa el cálculo de las probabilidades de estado, que quedan determinadas por todo proceso
de nacimiento muerte con espacio de estados finito. Al reemplazar en las expresiones para las probabilidades los
valores puntuales de las tasas, se encuentran los valores de dichas probabilidades.
En la normalización para el cálculo del 𝜋0 aparece ahora una suma infinita. En efecto será:
∞ ∞ ∞ ∞
∑ 𝜋𝑗 = 1 ⇒ 𝜋0 + ∑ 𝜋0 𝑐𝑗 = 1 ⇒ 𝜋0 + 𝜋0 ∑ 𝑐𝑗 = 1 ⇒ 𝜋0 (1 + ∑ 𝑐𝑗 ) = 1
𝑗=0 𝑗=1 𝑗=1 𝑗=1
−1
∞
⇒ 𝜋0 = (1 + ∑ 𝑐𝑗 ) (10)
𝑗=1
Aquí es importante observar que la ergodicidad de la cadena garantiza la convergencia de la suma infinita en el
denominador de la expresión (10) que define el valor de 𝜋0 . Dado que supusimos que existe un estado 𝑘 tal que
𝜆𝑗 < 𝜇𝑗 por todo estado 𝑗 > 𝑘, escribimos la suma infinita como sigue:
∞ 𝑘 ∞
∑ 𝑐𝑗 = ∑ 𝑐𝑗 + ∑ 𝑐𝑗 (11)
𝑗=1 𝑗=1 𝑗=𝑘+1
En el lado derecho de la (11) la primera suma es obviamente finita, por lo cual la suma total en el lado izquierdo
será finita si y solo si la segunda suma en el lado derecho es finita. Ahora bien, podemos fácilmente encontrar una
cota superior al valor de 𝑐𝑗 por todo 𝑗 > 𝑘, definiendo, de la siguiente forma:
∞ ∞ ∞ ∞
𝑗−𝑘 𝑗−𝑘
𝛽
∑ 𝑐𝑗 < ∑ 𝑐𝑘 𝛽 = 𝑐𝑘 ∑ 𝛽 = 𝑐𝑘 ∑ 𝛽 𝑗 = 𝑐𝑘 (13)
1−𝛽
𝑗=𝑘+1 𝑗=𝑘+1 𝑗=𝑘+1 𝑗=1
de modo que también el segundo término en el lado derecho de la (11) es finito. Nótese que para obtener la
última expresión en la (13) hemos utilizado la nota formula de la suma de la serie geométrica.
Ejemplo 2. Retomamos el ejemplo del proceso de nacimiento y muerte que modela la población de ballenas, y
determinemos la solución estacionaria para la probabilidad de estado.
Observamos que el proceso es ergódico porque por todo estado 𝑖 es 𝜆𝑖 = 𝜆 > 0 y 𝜇𝑖 = 𝑖𝜇 > 0, por lo cual la
irreducibilidad de la cadena es asegurada. Además, la tasa con la cual las ballenas abandonan la población es
proporcional al número de ballenas, mientras que la tasa de llegada es constante. Por ende, existe seguramente
un estado del proceso después del cual la tasa de muerte se vuelve mayor que la tasa de nacimiento (será el
primer estado 𝑘 por el cual es 𝜆 < 𝑘𝜇).
Por los resultados de la sección anterior, será entonces 𝜋𝑗 = 𝜋0 𝑐𝑗 , siendo el factor 𝑐𝑗 como sigue:
𝜆𝑗 𝜆𝑗 1 𝜆 𝑗
𝑐𝑗 = = = ( ) (14)
𝜇 ∙ 2𝜇 ∙ 3𝜇 ⋯ 𝑗𝜇 𝑗! 𝜇 𝑗 𝑗! 𝜇
El valor del 𝜋0 será:
−1 −1 −1
∞ ∞ ∞
1 𝜆 𝑗 1 𝜆 𝑗 −1
𝜋0 = (1 + ∑ 𝑐𝑗 ) = (1 + ∑ ( ) ) = (∑ ( ) ) = (𝑒 𝜆/𝜇 ) = 𝑒 −𝜆/𝜇 (15)
𝑗! 𝜇 𝑗! 𝜇
𝑗=1 𝑗=1 𝑗=0
Uniendo los resultados en la (14) y la (15), se obtiene que la distribución estacionaria de la probabilidad de estado
para el modelo de la población de ballenas es una 𝑃𝑜𝑖𝑠𝑠𝑜𝑛(𝜆/𝜇).