FEIRNNR

CARRERA DE TELECOMUNICACIONES

TEORÍA DE LA INFORMACIÓN
Examen de Unidad 1

Lea detenidamente cada uno de los ejercicios propuestos, y desarrolle de manera clara
y ordenada.

1. Grafique un sistema de comunicación genérico y describa cada uno de sus

componentes, adicionalmente defina: ¿Qué es Teoría de la Información? (2 puntos)
2. Dentro de teoría de la información, ¿Qué es entropía? Adicional escriba la
interpretación de su gráfica: (2 Puntos)

3. ¿Cuántas preguntas binarias son necesarias para adivinar un número entre 1 y 16?
¿Cuántas preguntas son suficientes? ¿Cuáles deben ser estas preguntas? (1 punto)
4. Dada una fuente de Markov de alfabeto A y orden 1, se especifican sus transiciones,
según el formato (símbolo 1, símbolo 2, probabilidad), siempre que la probabilidad
sea distinta de cero, indicándose, de este modo, que el estado asociado al símbolo
1 ∈ 𝐴 se transita al estado representado por el símbolo 2 ∈ 𝐴 por medio del símbolo
2 con la probabilidad dada. (3 Puntos)
𝐴= {𝑎, 𝑏, 𝑐}
(𝑎, 𝑎, 0.6), (𝑎, 𝑏, 0.4), (𝑏, 𝑏, 0.3), (𝑏, 𝑐, 0.7), (𝑐, 𝑎, 0.3), (𝑐, 𝑏, 0.3), (𝑐, 𝑐, 0.4)
a) Obtener el diagrama de estado
b) Encontrar la probabilidad de cada estado
c) Calcular la entropía de la fuente de Markov.
d) Calcular la fuente adjunta de la fuente de Markov y determinar si se cumple o no,
el teorema: 𝐻(𝑀) ≤ 𝐻(𝑀 ̅)

Ciudad Universitaria “Guillermo Falconí Espinosa” Casilla letra “S”

Teléfono: 2545 – 689 Ext. 133
santiago.medina@unl.edu.ec
www.telecomunicaciones.edu.ec
 FEIRNNR
CARRERA DE TELECOMUNICACIONES

5. Considerar la fuente de Markov de 4th orden con alfabeto {0,1} y probabilidades de

transición: (2 puntos)

Determinar las siguientes transiciones de la segunda extensión, detallando el producto

realizado:

Ejemplo: 𝑃(01|1000) = 𝑃(0|1000)𝑃(1|0000) = 0,01

𝑃(00|0001)
𝑃(01|1101)
𝑃(10|1001)
𝑃(10|0111)
𝑃(11|1011)
𝑃(01|0010)

Ciudad Universitaria “Guillermo Falconí Espinosa” Casilla letra “S”

Teléfono: 2545 – 689 Ext. 133
santiago.medina@unl.edu.ec
www.telecomunicaciones.edu.ec