Taller Codificacion

1.Una fuente binaria de memoria nula tiene las probabilidades P ( 0 )=0.1 y P ( 1 )=0.
A) Calcule la entropía de la fuente.
H ( x ) =0.1 log 2 ( 0.11 )+0.9 log ( 0.91 )

2
H ( x ) =0,3321+ 0,1368
H ( x ) =0.4689
B) Calcule la longitud media de código utilizando códigos compactos binarios para S n dónde n =
1, 2, 3, 4 teniendo en cuenta como alfabeto X = {0, 1}
1
para S
S Probabilidad
S 1 =0 0.1
S 2 =1 0.9
Ĺ=∑ Pi ni
Ĺ=0.1∗1+ 0.9∗1=1
This study source was downloaded by 100000850769225 from CourseHero.com on 08-23-2022 17:55:44 GMT -05:00
https://www.coursehero.com/file/91019873/Taller-codificaciondocx/
2
para S
Probabilidad Calculo nueva probabilidad Nueva probabilidad

00 0.1*0.1 0.01
01 0.1*0.9 0.09
10 0.9*0.1 0.09
11 0.9*0.9 0.81
S Probabilidad/código
S1 0.81/0 0.81/0 0.81/0
S2 0.09/11 0.1/10 0.19/1
S3 0.09/100 0.09/11
S4 0.01/101
Ĺ=∑ Pi ni
Ĺ=0.81∗1+ 0.09∗2+ 0.09∗3+ 0.01∗3=1.29
para S 3

000 0.1*0.1*0.1 0.001
001 0.1*0.1*0.9 0.009
010 0.1*0.9*0.1 0.009
100 0.9*0.1*0.1 0.009
011 0.1*0.9*0.9 0.081
101 0.9*0.1*0.9 0.081
110 0.9*0.9*0.1 0.081
111 0.9*0.9*0.9 0.729
S S 1 /código S2 S3 S4 S5 S6 S7
S1 0.729/0 0.729/0 0.729/0 0.729/0 0.729/0 0.729/0 0.729/
0
S2 0.081/100 0.081/100 0.081/100 0.081/10 0.109/11 0.162/1 0.271/
0 0 1
S3 0.081/101 0.081/101 0.081/101 0.081/10 0.081/10 0.109/1
1 0 1
S4 0.081/110 0.081/110 0.081/110 0.081/11 0.081/10
0 1
S 5 0.009/11100 0.010/1111 0.018/111 0.028/11
0 1
S 6 0.009/11101 0.009/1110 0.010/111
0 1
S 7 0.009/11110 0.009/1110
1
S 8 0.001/11111
Ĺ=∑ Pi ni
Ĺ=0.729∗1+3 ( 0.081∗3 )+3 ( 0.009∗5 ) +0.001∗5=1.598
para S 4

0000 0.1*0.1*0.1*0.1 0.0001
0001 0.1*0.1*0.1*0.9 0.0009
0010 0.1*0.9*0.1*0.1 0.0009
0100 0.1*0.9*0.1*0.1 0.0009
1000 0.9*0.1*0.1*0.1 0.0009
0011 0.1*0.1*0.9*0.9 0.0081
0101 0.1*0.9*0.1*0.9 0.0081
1001 0.9*0.1*0.1*0.9 0.0081
1010 0.9*0.1*0.9*0.1 0.0081
1100 0.9*0.9*0.1*0.1 0.0081
0111 0.1*0.9*0.9*0.9 0.0729
1011 0.9*0.1*0.9*0.9 0.0729
1101 0.9*0.9*0.1*0.9 0.0729
1110 0.9*0.9*0.9*0.1 0.0729
1111 0.9*0.9*0.9*0.9 0.6561
7
S1 S2 S3 S4 S5 S6 S7
/código
S1 0.6561/0 0.6561/0 0.6561/0 0.6561/0 0.6561/

0
0.6561/
0
0.6561/
0
0.6561/
0
0.6561
/0
0.656
1/0
0.656
1/0
0.656
1/0
0.65
61/0
0.65
61/0
S 20.0729/10
1
0.0729/1
01
0.0729/1
01
0.0729/1
01
0.0729/
101
0.0729/
101
0.0729/
101
0.0729/
101
0.0729
/101
0.072
9/101
0.117
1/100
0.145
8/11
0.19
00/1
0.33
58/1
0
S 30.0729/11
0
0.0729/1
10
0.0729/1
10
0.0729/1
10
0.0729/
110
0.0729/
110
0.0729/
110
0.0729/
110
0.0729
/110
0.072
9/110
0.072
9/101
0.117
1/100
0.14
58/1
1
S 40.0729/11
1
0.0729/1
11
0.0729/1
11
0.0729/1
11
0.0729/
111
0.0729/
111
0.0729/
111
0.0729/
111
0.0729
/111
0.072
9/111
0.072
9/110
0.072
9/101
S 5 00
0.0729/10 0.0729/1
000
0.0729/1
000
0.0729/1
000
0.0729/
1000
0.0729/
1000
0.0729/
1000
0.0729/
1000
0.0729
/1000
0.072
9/100
0.072
9/111
0
S 60.0081/10
0110
0.0081/1
00110
0.0081/1
00110
0.0081/1
00110
0.0081/
100110
0.0118/
100101
0.0162/
100100
0.0162/
10011
0.0280
/10010
0.044
2/100
1
S 70.0081/10
0111
0.0081/1
00111
0.0081/1
00111
0.0081/1
00111
0.0081/
100111
0.0081/
100110
0.0118/
100101
0.0162/
100100
0.0162
/10011
S 8 01000
0.0081/10 0.0081/1
001000
0.0081/1
001000
0.0081/1
001000
0.0081/
1001000
0.0081/
100111
0.0081/
100110
0.0118/
100101
S 90.0081/10
01001
0.0081/1
001001
0.0081/1
001001
0.0081/1
001001
0.0081/
1001001
0.0081/
1001000
0.0081/
100111
S 10
0.0081/10
01010
0.0081/1
001010
0.0081/1
001010
0.0081/1
001010
0.0081/
1001010
0.0081/
1001001
S 11
0.0009/10
0101101
0.0010/1
00101100
0.0018/1
0010111
0.0019/1
0010110
0.0037/
1001011
S 12
0.0009/10
0101110
0.0009/1
00101101
0.0010/1
00101100
0.0018/1
0010111
S 13
0.0009/10
0101111
0.0009/1
00101110
0.0009/1
00101101
S 14
0.0009/10
01011000
0.0009/1
00101111
S 15
0.0001/10
01011001
Ĺ=∑ Pi ni
Ĺ=0.6561∗1+ 3 ( 0.0729∗3 )+ 0.0729∗4+2 ( 0.0081∗6 ) +3 ( 0.0081∗7 )+3 ( 0.0009∗9 ) + 0.0009∗10+0.0001∗10
2.
S S 1 /códig S2 S3 S4 S5 S6
o
S1 1 1 1 1 1 2
/1 /1 /1 /1 /1 /0
3 3 3 3 3 3
S2 1 1 1 1 1 1
/00 /00 /00 /00 /00 /1
3 3 3 3 3 3
S3 1 1 1 2 1
/011 /011 /011 /01 /01
9 9 9 9 3
0
S4 1 1 1 1
/0100 /0100 /010 /01
9 9 9 9
0 1
S5 1 2 1
/¿ 010 /010 /010
27 27 9
11 10 1
S6 1 1
/0101 /010
27 27
00 11
S7 1
/0101
27
01
Ĺ=∑ Pi ni
1 1 1 1 1 1 1
Ĺ= ∗1+ ∗2+ ∗3+ ∗4+ ∗5+ ∗6+ ∗6=2.407
3 3 9 9 27 27 27
Alfabeto código ternário: X= {0,1,2}
Para este alfabeto código la fuente sí es fuente especial, ya que todas las
probabilidades son de la forma 1/3 αi con αi entero. Aplicamos, en este caso, el método
de creación de códigos compactos para fuentes especiales.
Primero calculamos la longitud de cada palabra de código:
1
l n=log3
Pn
l 1=log 3 3=1
l 2=log 3 3=1
l 3=log 3 9=2
l 4=log 3 9=2
l 5=log 3 27=3
l 6=log 3 27=3
l 7=log3 27=3
A continuación, creamos un código instantáneo con esas longitudes:
Sn Código
S1 0
S2 1
S3 20
S4 21
S5 220
S6 221
S7 222
Ĺ=∑ Pi ni
1 1 1 1 1 1 1 13
Ĺ= ∗1+ ∗1+ ∗2+ ∗2+ ∗3+ ∗3+ ∗3= ≅ 1.44
3 3 9 9 27 27 27 9
3.
Para X ={0,1}
S S 1 /códig S2 S3 S4 S5
o
S1 1 2 2 2 4
/10 /01 /00 /1 /0
9 9 9 9 9
S2 1 1 2 2 2
/11 /10 /01 /00 /1
9 9 9 9 9
S3 1 1 1 2
/000 /11 /10 /01
9 9 9 9
S4 1 1 1
/001 /000 /11
9 9 9
S5 1 1
/010 /001
9 9
S6 1
/011
9
Powered by TCPDF (www.tcpdf.org)

Taller Codificacion

Cargado por

Información del documento

Descripción original:

Título original

Derechos de autor

Formatos disponibles

Compartir este documento

Compartir o incrustar documentos

Opciones para compartir

¿Le pareció útil este documento?

¿Este contenido es inapropiado?

Copyright:

Formatos disponibles

Taller Codificacion

Cargado por

Copyright:

Formatos disponibles

1.Una fuente binaria de memoria nula tiene las probabilidades P ( 0 )=0.1 y P ( 1 )=0.

A) Calcule la entropía de la fuente.

H ( x ) =0.1 log 2 ( 0.11 )+0.9 log ( 0.91 )

Probabilidad Calculo nueva probabilidad Nueva probabilidad

Ĺ=0.81∗1+ 0.09∗2+ 0.09∗3+ 0.01∗3=1.29

Probabilidad Calculo nueva probabilidad Nueva probabilidad

Ĺ=0.729∗1+3 ( 0.081∗3 )+3 ( 0.009∗5 ) +0.001∗5=1.598

Probabilidad Calculo nueva probabilidad Nueva probabilidad

S1 0.6561/0 0.6561/0 0.6561/0 0.6561/0 0.6561/

Ĺ=0.6561∗1+ 3 ( 0.0729∗3 )+ 0.0729∗4+2 ( 0.0081∗6 ) +3 ( 0.0081∗7 )+3 ( 0.0009∗9 ) + 0.0009∗10+0.0001∗10

Alfabeto código ternário: X= {0,1,2}

Primero calculamos la longitud de cada palabra de código:

A continuación, creamos un código instantáneo con esas longitudes:

También podría gustarte