Jeremy Soto Vı́quez B97751 Tarea: Universidad de Costa Rica

IE-0527 Ingenierı́a de Comunicaciones Escuela de Ingenierı́a Eléctrica

Codificación de Huffman

Parte 1

1. Una fuente discreta sin memoria tiene un alfabeto A con los siguien-
tes sı́mbolos y probabilidades de aparición:

ai p(ai )
a0 0.25
a1 0.125
a2 0.5
a3 0.125

Determine:

1.1. La entropı́a de la fuente H:

X X
H= Ii ∗ p(ai ) = log2 (1/p(ai )) ∗ p(ai )
i i

I(a0 ) = log2 (1/0, 25) = 2

I(a1 ) = log2 (1/0, 125) = 3
I(a2 ) = log2 (1/0, 5) = 1
I(a3 ) = log2 (1/0, 125) = 3

Ahora bien, la entropı́a viene dada por:

H = 2 ∗ 0,25 + 3 ∗ 0,125 + 1 ∗ 0,5 + 3 ∗ 0,125 = 1,75

1.2. Un código de Huffman adecuado:

1 1
1 a2 0.5 0.5 0.5 0

01 a0 0.25 01 0.25 00 0.5 1

000 a1 0.125000 0.25 01

001
001 a3 0.125

Código
ai
Huffman
a0 01
a1 000
a2 1
a3 001

1.3. La longitud promedio de las palabras de código n:

Longitud promedio de un código: X
n= ai (ni ∗ p(ai ))
n : 2 ∗ 0,25 + 3 ∗ 0,125 + 1 ∗ 0,5 + 3 ∗ 0,125 = 1,75

1
1.4. La redundancia del código propuesto R:

1−H
R=
n
1 − 1,75
R=| | = 0,428
1,75

2. Una fuente discreta sin memoria tiene un alfabeto A con los siguien-
tes sı́mbolos y probabilidades de aparición:

ai p(ai )
a0 0.03
a1 0.21
a2 0.17
a3 0.02
a4 0.1
a5 0.34
a6 0.01
a7 0.08
a8 0.04

Determine:

2.1. La entropı́a de la fuente H:

X
H= ai (Ii ∗ p(ai ))
H(a0 ) = log2 (1/0, 03) ∗ 0,03 = 0,1517
H(a1 ) = log2 (1/0, 21) ∗ 0,21 = 0,4728
H(a2 ) = log2 (1/0, 17) ∗ 0,17 = 0,4345
H(a3 ) = log2 (1/0, 02) ∗ 0,02 = 0,1128
H(a4 ) = log2 (1/0, 1) ∗ 0,1 = 0,3321
H(a5 ) = log2 (1/0, 34) ∗ 0,34 = 0,5291
H(a6 ) = log2 (1/0, 01) ∗ 0,01 = 0,0664
H(a7 ) = log2 (1/0, 08) ∗ 0,08 = 0,2915
H(a8 ) = log2 (1/0, 04) ∗ 0,04 = 0,1857

Ahora bien, la entropı́a viene dada por:

H = 2,5766

2.2. Un código de Huffman adecuado:

ai Código
a0 01101
a1 10
a2 010
a3 011000
a4 110
a5 00
a6 011001
a7 111
a8 0111

2
2.3. La longitud promedio de las palabras de código n:
Longitud promedio de un código: X
n= (ni ∗ p(ai ))
n0 : 5 · 0,03 = 0,15
n1 : 2 · 0,21 = 0,42
n2 : 3 · 0,17 = 0,51
n3 : 6 · 0,02 = 0,12
n4 : 3 · 0,1 = 0,3
n5 : 2 · 0,34 = 0,68
n6 : 6 · 0,01 = 0,06
n7 : 3 · 0,08 = 0,24
n8 : 4 · 0,04 = 0,16

∴ n = 2,64

2.4. La redundancia del código propuesto R:

Parte 2:
1. Investigue sobre el alfabeto del idioma castellano y proponga una fuente de infor-
mación, discreta y sin memoria, que aproxime su generación. Para esta fuente, indique
los sı́mbolos y sus probabilidades de aparición.
2. Busque una herramienta de software, en lı́nea o de escritorio, que realice la codifi-
cación de Huffman para un conjunto de sı́mbolos y sus probabilidades de aparición.
3. Para la fuente que aproxima el alfabeto castellano, determine: