POLITÉCNICO COLOMBIANO JAIME ISAZA CADAVID

Exámen de Teoría de la Información

Valor: 10% Fecha:

Docente: Mauricio Correa Villa

Nombre:________________________________________________ Código:________

1. Una luz se emite hasta con 10 colores diferentes. Se eligen 4 colores al azar. Cuál es la
cantidad de información contenida en cada secuencia de 4 intermitencias?

2. Se arroja una moneda hasta que salga cara o hasta que se den 5 lanzamientos, lo que
ocurra primero. Sea i la cantidad de veces que salió sello. Se define la fuente de
información S, que emite símbolos definidos como Si=“ocurrió i veces sello”. Calcular
el valor de la incertidumbre de un observador a la salida de la fuente.

3. Considere una fuente de Markov de tercer orden ergódica con un alfabeto S={0,1,2} la
cual emite la siguiente secuencia de símbolos:
…0 2 1 0 2 0 2 2 2 1 1 1 1 1 1 0 1 1 0 2 2 2 0 2 0 2 1 1 …

a) Construya el diagrama de estados

b) Determine las probabilidades condicionales
c) Calcule la entropía de la fuente