Transmisin de

Datos
Ing. Pablo Toapanta Silverio
Octubre 2015

PROPIEDADES DE LOS CODIGOS

DEFINICION: Denominemos S = {s1, s2, ., sq} al conjunto de

smbolos de un alfabeto dado. Se define un cdigo como la
correspondencia de todas las secuencias posibles de smbolos de
S a secuencias de smbolos de algn otro alfabeto X = {x1, x2, .,
xr}. S recibe el nombre de alfabeto fuente y X alfabeto cdigo.
DEFINICION: un cdigo bloque es aquel que asigna cada uno de
los smbolos del alfabeto fuente S a una secuencia fija de smbolos
del alfabeto cdigo C. Esas secuencias fijas (secuencias de xj)
reciben el nombre de palabras cdigo. Denominaremos Xi a la
palabra cdigo que corresponde al smbolo si. Hay que notar que Xi
constituye una secuencia de xjs.

Ejemplo de cdigo bloque

binario
Smbolos de la fuente

Cdigo

S1

S2

11

S3

00

S4

11

Si un cdigo hace corresponder todas las secuencias de longitud n

de smbolos de la fuente con secuencias fijas de smbolos cdigo,
el cdigo hace tambin corresponder cada smbolo de la extensin
de orden n de la fuente original con una secuencia fija de smbolos
cdigo, constituyendo realmente un cdigo bloque del alfabeto
fuente Sn.

CODIGOS UNIVOCAMENTE
DECODIFICABLES
Un cdigo bloque se denomina no singular si todas sus palabras
son distintas.

Smbolos de la fuente

Cdigo

S1

S2

11

S3

00

S4

01

Decodificar la secuencia 0011.

El cdigo aun cuando es no singular en su detalla, es singular
considerando de forma ms general.

Segunda extensin de un
cdigo bloque

Un cdigo bloque se dice unvocamente decodificable si,

y solamente si, su extensin de orden n es no singular
para cualquier valor finito de n.

Cdigos instantneos

Se trata de dos cdigos unvocamente decodificables.

CODIGO A:

Todas sus palabras tienen la misma longitud.

Es evidentemente no singular.

CODIGO B:

Es univocamente decodificable dado que es no singular.

Constituye lo que se llama un cdigo coma (el 0 acta como
coma)

Otro ejemplo de cdigo

unvocamente decodificable

Al recibir 01 no podemos asegurar a que smbolo

corresponde.
Definicin: un cdigo unvocamente decodificable se
denomina instantneo cuando es posible decodificar las
palabras de una secuencia sin precisar el conocimiento
de los smbolos que las suceden.

Por ejemplo los codigos A y B.

Definicin de Cdigo
Instantneo

Sea Xi = xi1 xi2 xim una palabra de un

cdigo. Se denomina prefijo de esta palabra a la
secuencia de smbolos (xi1 xi2 xij), donde j
m.
Ejemplo:
Describir

los prefijos de la palabra cdigo 0111.

La condicin necesaria y suficiente para que un

cdigo sea instantneo es que ninguna palabra
del cdigo coincida con el prefijo de otra.

Subclases de cdigos

Sntesis de un cdigo
instantneo
s1 0
s2 10
s3 110
s4 1110
s5 1111

Sntesis de un cdigo
instantneo - 2
s1 00
s2 01
s3 10
s4 110
s5 111

Sntesis de un cdigo
instantneo - 2
s1 00
s2 01
s3 10
s4 110
s5 111

Sntesis de cdigos
instantneos

Cuanto ms cortas son las primeras

palabras ms largas tiene que ser las
ltimas.

Inecuacin de Kraft

Consideremos un cdigo instantneo con un alfabeto

fuente:

S = {s1, s2, , sq}

Y un alfabeto cdigo X = {x1, x2, , xr}. Sean X1, X2,

, Xq las palabras del cdigo y por definicin, li la
longitud (es decir, el nmero de smbolos del cdigo) de
la palabra Xi. Normalmente es interesante que las
longitudes de las palabras del cdigo sean lo ms cortas
posible. La condicin necesaria y suficiente para que
exista un cdigo instantneo con palabras de longitud l1,
l2, , lq viene definida por la inecuacin de Kraft

Inecuacin de Kraft

Donde r es el nmero de smbolos diferentes que

constituyen el alfabeto cdigo.
En el caso del alfabeto binario, la inecuacin de Kraft se
transforma en:

Donde la suma se extiende a todas las palabras del

cdigo bloque.

Ejemplo

Tomemos una fuente de informacin con cuatro

smbolos posibles s1, s2, s3 y s4. Calculemos la
inecuacin de kraft para todos los cdigos.

Cdigo A = 1
Cdigo B = 7/8
Cdigo C = 1
Cdigo D = 1 1/8

Observaciones

La inecuacin de Kraft no asegura que el cdigo A sea

un cdigo instantneo.
La inecuacin condiciona nuevamente las longitudes de
las palabras y no las palabras mismas.
La inecuacin dice que puede existir un cdigo binario
instantneo con cuatro palabras de longitud 2.
Para el caso del cdigo D se cumple la inecuacin de
Kraft sin embargo no se cumple dado que la cuarta
palabra es prefijo de la tercera.

Ejemplo

Deseamos codificar las salidas de una fuente decimal, S = {0, 1, 2,

, 9}, en un cdigo instantneo binario. Admitamos adems, que
existe una razn que aconseja codificar los smbolos 0 y 1 de la
fuente decimal en palabras binarias relativamente cortas. Este
requisito se presenta realmente en una fuente que emite muchos
ms 0s y 1s que 2s, 3s, etc.

Se asigna 0 0 y 1 10

Utilizando la inecuacin de Kraft

cual es la longitud del resto de
cdigos?

Calcular la inecuacin de Kraft.

Demostracin de la inecuacin
de Kraft

(1)
Supongamos que deseamos formar un cdigo
instantneo con palabras cuyas longitudes l 1, l2,
, lq satisfacen la inecuacin de Kraft.
Definamos n1 como el nmero de palabras de
longitud 1; n2 las de longitud 2; etc. Si la ms
larga de las li es igual a l, tendremos:
(2)

Demostracin de la inecuacin
de Kraft

Puede introducirse ni en la expresin (1). La

suma con n1, trminos de la forma r-1, n2 de la
forma r-2:
(3)
Multiplicando por rl:
(4)
Operando, obtendremos:
nl rl n1rl-1 n2rl-2 - . nl-1r (a)

Demostracin de la inecuacin
de Kraft

nl rl n1rl-1 n2rl-2 - . nl-1r

(a)

nl--1 rl-1 n1rl-2 n2rl-3 - . nl-2r

(b)

..
n3 r2 n1r2 n2r

(c)

n2 r2 n1r

(d)

n1 r

(e)

Construccin del cdigo

buscado

Hemos de formar n1 palabras de longitud 1.

Utilizando un alfabeto cdigo de r smbolos, existirn r

palabras posibles.
Puesto que n1 r pueden elegirse esos n1 smbolos
cdigo arbitrariamente.
Quedan entonces r-n1 prefijos de longitud l permitidos,
exactamente aquellos que no han sido sido elegidos al
final de cada uno de esos prefijos; pueden formarse
hasta:
(r-n1)r = r2 n1r palabras de longitud 2

Construccin del cdigo

buscado

Hemos de formar n1 palabras de longitud l.

Utilizando un alfabeto cdigo de r smbolos, existirn r

palabras posibles.
Puesto que n1 r pueden elegirse esos n1 smbolos
cdigo arbitrariamente.
Quedan entonces r-n1 prefijos de longitud l permitidos,
exactamente aquellos que no han sido sido elegidos al
final de cada uno de esos prefijos; pueden formarse
hasta:
(r-n1)r = r2 n1r palabras de longitud 2

Sin embargo la ecuacin (d) asegura que el nmero de

palabras de longitud 2 no debe exceder de esta cantidad

Construccin del cdigo

buscado

Como antes seleccionamos arbitrariamente nuestras n2

palabras entre las r2 (n1r posibilidades); quedan
entonces:
(r2-n1r)-n2 prefijos de longitud 2 sin utilizar, con los que
pueden formarse:
(r2-n1r-n2)r=r3-n1r2-n2r prefijos de longitud 3
La ecuacin (c) asegura que este nmero es suficiente,
y seleccionaremos a continuacin las palabras de
longitud 3 de entre ellos. Puede continuarse de esta
manera hasta formar todas las palabras cdigo.

Inecuacin de McMillan

Demuestra que es condicin suficiente para

cdigos unvocamente decodificables.

Ejemplo

Se desea codificar una fuente de 10 smbolos en un

cdigo instantneo trinario, de palabras de longitudes 1,
2, 2, 2, 2, 2, 3, 3, 3, 3. Aplicando la prueba de la
inecuacin de Kraft, obtenemos?:

No es posible encontrar un cdigo trinario instantneo

con palabras de esas longitudes.

Ejemplo 2

Se desea codificar los smbolos de una fuente de nueve

smbolos en un cdigo instantneo trinario con palabras
de longitudes 1, 2, 2, 2, 2, 2, 3, 3, 3. Esta vez aplicando
la prueba se tiene?

Ejemplo 2

Se elige un prefijo de longitud 1 (el 0),

quedando obligados a adoptar uno de
los dos restantes prefijos de longitud 1
para las dems palabras. Esto limita a
dos veces tres, es decir seis, las
palabras permitidas de longitud 2. Se
emplean nicamente cinco de ellas
conservando la sexta (22) como prefijo
de las tres ltimas palabras.