Documentos de Académico
Documentos de Profesional
Documentos de Cultura
Teor Informac Codigos
Teor Informac Codigos
CODIFICACIN CDIGOS
CANTIDAD DE INFORMACIN.
ENTROPA.
ENTROPA CONDICIONADA.
CANTIDAD DE INFORMACIN ENTRE DOS VARIABLES.
LMITE DE NYQUIST.
LMITE DE SHANNON.
CONSECUENCIAS DE LOS LMITES.
TIPOS DE ERRORES.
DETECCIN DE ERRORES.
INTRODUCCIN A CDIGOS.
CDIGOS DETECTORES DE ERRORES.
DISTANCIA HAMMING Y DESCODIFICACIN POR DISTANCIA MNIMA.
CDIGOS PERFECTOS.
CDIGOS LINEALES.
MATRICES GENERATRICES Y MATRICES DE CONTROL - CDIGOS
CORRECTORES.
CDIGO DE HAMMING.
CDIGO DE GOLAY.
CDIGO DE REED-MULLER.
TEORA DE LA INFORMACIN - CDIGOS
CANTIDAD DE INFORMACIN
CANTIDAD DE INFORMACIN
CANTIDAD DE INFORMACIN
CANTIDAD DE INFORMACIN
CANTIDAD DE INFORMACIN
ENTROPA
ENTROPA
ENTROPA
ENTROPA
EJEMPLOS:
ENTROPA DE LA VARIABLE ALEATORIA ASOCIADA A LANZAR
UNA MONEDA AL AIRE:
H(M) = -(0,5 log2 (0,5) + 0,5 log2 (0,5)) = 1.
EL
SUCESO APORTA EXACTAMENTE UNA UNIDAD DE
INFORMACIN.
SI LA MONEDA EST TRUCADA (60% DE PROBABILIDADES PARA
CARA, 40% PARA CRUZ), SE TIENE:
H(M) = -(0,6 log2 (0,6) + 0,4 log2 (0,4)) = 0,970.
LA CANTIDAD DE INFORMACIN ASOCIADA AL SUCESO MS SIMPLE:
CONSTA
UNICAMENTE
DE
DOS
POSIBILIDADES
EQUIPROBABLES (CASO DE LA MONEDA SIN TRUCAR).
SER LA UNIDAD A LA HORA DE MEDIR ESTA MAGNITUD, Y SE
DENOMINAR BIT.
10
ENTROPA
11
ENTROPA
EL VALOR CALCULADO ES EL LMITE TERICO, QUE
NORMALMENTE NO SE PUEDE ALCANZAR.
SE PUEDE DECIR QUE NO EXISTE NINGUNA CODIFICACIN QUE
EMPLEE LONGITUDES PROMEDIO DE MENSAJE INFERIORES AL
NMERO CALCULADO.
EL MTODO DE HUFFMAN PERMITE OBTENER CODIFICACIONES
BINARIAS QUE SE APROXIMAN BASTANTE AL PTIMO TERICO DE
UNA FORMA SENCILLA Y EFICIENTE.
12
ENTROPA
13
ENTROPA
LA ENTROPA SER:
H = log2 32 = 5.
DESDE LA PTICA BINARIA ESTO SIGNIFICA QUE SE NECESITAN
5 BITS PARA CODIFICAR CADA SMBOLO: 00000, 00001, 00010,
11111, ETC.:
ESTE RESULTADO COINCIDE CON LA RECPROCA DE LA
PROBABILIDAD p.
LA ENTROPA:
INDICA LA RECPROCA DE LA PROBABILIDAD DE OCURRENCIA.
PERMITE VER LA CANTIDAD DE BITS NECESARIOS PARA
REPRESENTAR EL MENSAJE QUE SE VA A TRANSMITIR.
14
ENTROPA CONDICIONADA
15
ENTROPA CONDICIONADA
DISTRIBUCIONES MARGINALES DE X E Y:
16
ENTROPA CONDICIONADA
17
ENTROPA CONDICIONADA
18
19
20
21
LMITE DE NYQUIST
22
LMITE DE NYQUIST
23
LMITE DE NYQUIST
FN ES LA FRECUENCIA DE NYQUIST:
FN = 2 f.
UTILIZANDO EL PASABANDA PARA LOS CANALES DE
INFORMACIN:
FN 2 F.
NYQUIST ESTABLECI QUE:
SI LOS CANALES SON SIN RUIDO.
SI LAS SEALES SON BINARIAS CON UNA TRANSMISIN
MONONIVEL.
LA FN COINCIDE CON LA MXIMA VELOCIDAD BINARIA:
BPS 2 F.
ESTO ES UN LMITE FSICO.
24
LMITE DE NYQUIST
25
LMITE DE NYQUIST
26
LMITE DE SHANNON
27
LMITE DE SHANNON
28
LMITE DE SHANNON
29
LMITE DE SHANNON
30
31
32
33
34
35
36
TIPOS DE ERRORES
37
TIPOS DE ERRORES
38
TIPOS DE ERRORES
LA NORMA IEEE 100 DEFINE UNA RFAGA DE ERRORES
COMO:
GRUPO DE BITS EN EL QUE DOS BITS ERRNEOS
CUALQUIERA ESTARN SIEMPRE SEPARADOS POR
MENOS DE UN NMERO X DE BITS CORRECTOS.
EL LTIMO BIT ERRNEO EN UNA RFAGA Y EL
PRIMER BIT ERRNEO DE LA SIGUIENTE ESTARN
SEPARADOS POR AL MENOS X BITS CORRECTOS.
EN UNA RFAGA DE ERRORES HABR UN CONJUNTO DE BITS CON
UN NMERO DADO DE ERRORES:
NO NECESARIAMENTE TODOS LOS BITS EN EL CONJUNTO
SERN ERRNEOS.
UN ERROR AISLADO SE PUEDE DAR EN PRESENCIA DE RUIDO
BLANCO, CUANDO CUALQUIER DETERIORO ALEATORIO EN LA
RELACIN SEAL-RUIDO CONFUNDA AL RECEPTOR EN UN NICO
BIT.
39
TIPOS DE ERRORES
40
DETECCIN DE ERRORES
41
DETECCIN DE ERRORES
42
DETECCIN DE ERRORES
43
DETECCIN DE ERRORES
44
DETECCIN DE ERRORES
45
DETECCIN DE ERRORES
46
DETECCIN DE ERRORES
EL RECEPTOR SEPARAR LA TRAMA RECIBIDA:
k BITS DE DATOS.
(n - k) BITS DEL CDIGO DE DETECCIN DE ERRORES.
EL RECEPTOR REPETIR EL CLCULO SOBRE LOS BITS DE
DATOS RECIBIDOS Y COMPARAR EL RESULTADO CON LOS BITS
RECIBIDOS EN EL CDIGO DE DETECCIN DE ERRORES.
SE DETECTAR UN ERROR SII LOS DOS RESULTADOS
MENCIONADOS NO COINCIDEN.
P3: PROBABILIDAD DE QUE LA TRAMA CONTENGA ERRORES Y EL
SISTEMA LOS DETECTE.
P2: ES LA TASA DE ERROR RESIDUAL: PROBABILIDAD DE QUE NO SE
DETECTE UN ERROR AUNQUE SE EST USANDO UN ESQUEMA DE
DETECCIN DE ERRORES.
47
DETECCIN DE ERRORES
48
DETECCIN DE ERRORES
49
DETECCIN DE ERRORES
ARITMTICA MDULO 2
USA SUMAS Y RESTAS BINARIAS SIN ACARREO:
SON IGUALES A LA OPERACIN LGICA EXCLUSIVE-OR:
1111 1111
11001
+1010 -0101
x 11
0101 1010
11001
11001
101011
T: TRAMA DE n BITS A TRANSMITIR.
M: MENSAJE CON k BITS DE DATOS, CORRESPONDIENTES CON LOS
PRIMEROS k BITS DE T.
F = (n k) BITS DE FCS: LOS LTIMOS (n k) BITS DE T.
P: PATRN DE n k + 1 BITS: DIVISOR ELEGIDO.
T / P = 0.
T = 2n-kD + F.
MULTIPLICAR 2n-kD EQUIVALE A DESPLAZAR HACIA LA
IZQUIERDA n k BITS AADIENDO CEROS AL RESULTADO.
SUMAR F SIGNIFICA CONCATENAR D Y F.
TEORA DE LA INFORMACIN - CDIGOS
50
DETECCIN DE ERRORES
51
DETECCIN DE ERRORES
52
DETECCIN DE ERRORES
53
DETECCIN DE ERRORES
54
DETECCIN DE ERRORES
EL PATRN P:
SE ELIGE CON UN BIT MS QUE LA LONGITUD DE LA FCS
DESEADA.
DEPENDER DEL TIPO DE ERROR QUE SE ESPERA SUFRIR.
DEBE TENER COMO MNIMO EL BIT MENOS SIGNIFICATIVO Y
EL BIT MS SIGNIFICATIVO EN 1.
POLINOMIOS
OTRA POSIBILIDAD DE CRC ES EXPRESAR TODOS LOS VALORES
COMO POLINOMIOS DE UNA VARIABLE MUDA X, CON
COEFICIENTES BINARIOS:
D = 110011; D(X) = X5 + X4 + X + 1.
P = 11001; P(X) = X4 + X3 + 1.
SE USA ARITMTICA MDULO 2.
EL PROCEDIMIENTO DE CRC ES:
55
DETECCIN DE ERRORES
56
DETECCIN DE ERRORES
57
DETECCIN DE ERRORES
58
DETECCIN DE ERRORES
59
DETECCIN DE ERRORES
60
DETECCIN DE ERRORES
61
DETECCIN DE ERRORES
62
INTRODUCCIN A CDIGOS
63
INTRODUCCIN A CDIGOS
64
INTRODUCCIN A CDIGOS
65
INTRODUCCIN A CDIGOS
66
INTRODUCCIN A CDIGOS
67
INTRODUCCIN A CDIGOS
68
INTRODUCCIN A CDIGOS
69
INTRODUCCIN A CDIGOS
EJEMPLO:
70
INTRODUCCIN A CDIGOS
71
INTRODUCCIN A CDIGOS
72
INTRODUCCIN A CDIGOS
73
INTRODUCCIN A CDIGOS
74
INTRODUCCIN A CDIGOS
75
76
77
78
79
80
81
82
83
0 p 1.
1-p: PROBABILIDAD DEL CANAL.
p: PROBABILIDAD DEL CRUCE.
p: PROBABILIDAD DE QUE UN 0 SEA RECIBIDO COMO UN 1.
1-p: PROBABILIDAD DE QUE UN 0 SEA RECIBIDO COMO UN 0.
p = 0: CANAL PERFECTO.
p = 1: SIEMPRE SE COMETE ERROR.
EN UN CANAL SIMTRICO:
EXISTE LA MISMA PROBABILIDAD DE QUE UN SMBOLO SE
RECIBA INCORRECTAMENTE.
SI UN SMBOLO SE RECIBE INCORRECTAMENTE HAY LA
MISMA PROBABILIDAD DE QUE SE RECIBA CUALQUIER OTRO
SMBOLO.
84
85
EJEMPLO:
86
87
SE CONSIDERA:
SI SE RECIBE 111010:
SE VE QUE NO ES UNA PALABRA VLIDA DEL CDIGO Y SE
DETECTA QUE SE HA COMETIDO UN ERROR.
SE COMPARA ESTA PALABRA CON LAS PALABRAS DEL
CDIGO Y SE VE EN CUNTOS SMBOLOS SE DIFERENCIA DE
LAS PALABRAS DEL CDIGO.
SE VE QUE LA PALABRA MS PRXIMA ES LA 101010 YA QUE
SLO CAMBIA UN SMBOLO, POR LO QUE SE PODRA
ASIGNARLE ESTA PALABRA.
88
89
90
91
SEAN a,b Z:
92
93
94
EJEMPLO:
95
96
97
DISTANCIA HAMMING Y
DESCODIFICACIN POR DISTANCIA
MNIMA
98
DISTANCIA HAMMING Y
DESCODIFICACIN POR DISTANCIA
MNIMA
SE CONSIDERA:
99
DISTANCIA HAMMING Y
DESCODIFICACIN POR DISTANCIA
MNIMA
100
DISTANCIA HAMMING Y
DESCODIFICACIN POR DISTANCIA
MNIMA
SI SE USA UN BSC:
NO CONOCEMOS EL VALOR DE 1-p.
NO SE CALCULAN PROBABILIDADES, SE VE CUL ES LA
PALABRA DE CDIGO MS PRXIMA A LA PALABRA
RECIBIDA:
ESTO COINCIDE, PARA UN BSC, CON LA DESCODIFICACIN
DE PROBABILIDAD MXIMA.
101
DISTANCIA HAMMING Y
DESCODIFICACIN POR DISTANCIA
MNIMA
102
DISTANCIA HAMMING Y
DESCODIFICACIN POR DISTANCIA
MNIMA
103
DISTANCIA HAMMING Y
DESCODIFICACIN POR DISTANCIA
MNIMA
ES SIMTRICA:
104
DISTANCIA HAMMING Y
DESCODIFICACIN POR DISTANCIA
MNIMA
105
DISTANCIA HAMMING Y
DESCODIFICACIN POR DISTANCIA
MNIMA
106
DISTANCIA HAMMING Y
DESCODIFICACIN POR DISTANCIA
MNIMA
107
DISTANCIA HAMMING Y
DESCODIFICACIN POR DISTANCIA
MNIMA
108
DISTANCIA HAMMING Y
DESCODIFICACIN POR DISTANCIA
MNIMA
109
DISTANCIA HAMMING Y
DESCODIFICACIN POR DISTANCIA
MNIMA
EJEMPLOS:
CDIGO DE REPETICIN BINARIA DE LONGITUD n:
110
DISTANCIA HAMMING Y
DESCODIFICACIN POR DISTANCIA
MNIMA
111
DISTANCIA HAMMING Y
DESCODIFICACIN POR DISTANCIA
MNIMA
112
CDIGOS PERFECTOS
113
CDIGOS PERFECTOS
114
CDIGOS PERFECTOS
115
CDIGOS PERFECTOS
EJEMPLO:
SE TIENE:
A = {0, 1}.
n = 3.
116
CDIGOS PERFECTOS
r = pr(C); s = cr(C).
117
CDIGOS PERFECTOS
PROPOSICIN:
UN CDIGO C ES t-CORRECTOR SI Y SLO SI LAS ESFERAS DE
RADIO t Sq (v,t), v C, SON DISJUNTOS.
C ES EXACTAMENTE t-CORRECTOR SI Y SLO SI pr(c) = t.
EL RADIO DE EMPAQUETAMIENTO DE UN (n,m,d)-CDIGO
ES:
118
CDIGOS PERFECTOS
EJEMPLO:
H2 (3) (HAMMING): ES UN (7,16,3)-CDIGO BINARIO.
ESTE ES UN CDIGO 1-CORRECTOR.
d = 3 ; t = 1 = pr(H2(3)); m = |H2 (3)| = 16.
VERIFICACIN ACERCA DE SI ESTE CDIGO ES PERFECTO:
|An| = |Z27| = 27 = 128.
SE DEBE VERIFICAR QUE:
LAS ESFERAS DE RADIO 1 RECUBREN Z27.
LA UNIN DE TODAS LAS ESFERAS TIENE 128 ELEMENTOS.
V2(7,1) = |S2(v,1)| = 1 + 7 = 8.
HAY 16 ESFERAS: TIENEN 816 PALABRAS = 128.
EL CDIGO ES PERFECTO.
119
CDIGOS PERFECTOS
(n,m,d)-CDIGO q-ARIO:
120
CDIGOS PERFECTOS
121
CDIGOS PERFECTOS
EJEMPLO:
122
CDIGOS PERFECTOS
123
CDIGOS PERFECTOS
SE DEFINE:
Aq(n,d) := MAX {m / EXISTE (n,m,d)-CDIGO q-ARIO}.
UN (n, Aq(n,d),d)-CDIGO SE DICE QUE ES UN CDIGO OPTIMABLE.
PROBLEMA PRINCIPAL DE LA TEORA DE CDIGOS:
DETERMINAR EL VALOR DE Aq(n,d).
124
CDIGOS PERFECTOS
125
CDIGOS PERFECTOS
EJEMPLO:
BSC CON p = 0.01; C(p) = 0.919 (CASI 92%).
PODEMOS ENCONTRAR UN CDIGO CON R = 0.919 Y CON
PROBABILIDAD DE ERROR ARBITRARIAMENTE BAJA.
126
CDIGOS LINEALES
127
CDIGOS LINEALES
128
CDIGOS LINEALES
K = Z2.
129
CDIGOS LINEALES
130
CDIGOS LINEALES
131
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
132
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
133
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
PARA QUE UNA MATRIZ SEA GENERATRIZ SUS FILAS DEBEN SER
UNA BASE DEL CDIGO, DEBEN SER UN CONJUNTO LI
(LINEALMENTE INDEPENDIENTE).
LA MATRIZ DEBE TENER RANGO k (= NMERO DE FILAS).
PROPOSICIN: SI G Mkxn(K) CON k n, G ES MATRIZ
GENERATRIZ DE UN CDIGO LINEAL SOBRE K ([n,k]-CDIGO) SI Y
SLO SI rg(G) = (G) = k.
134
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
135
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
136
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
137
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
138
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
AHORA SE APLICA:
SE APLICA 1:
SE APLICA 4:
139
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
140
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
141
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
EJEMPLO:
[5,3]-CDIGO.
142
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
[n,n]-CDIGO.
143
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
144
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
145
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
146
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
147
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
148
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
149
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
150
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
151
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
EJEMPLO:
152
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
153
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
154
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
155
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
156
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
LOS
CDIGOS
LINEALES
TIENEN
UN
MTODO
DE
DESCODIFICACIN (DE CANAL) MUY BUENO.
SEA C UN [n,k]-CDIGO LINEAL Y H UNA MATRIZ DE CONTROL
DE C, H M(n-k)xn(K). LA MATRIZ H DEFINE UNA APLICACIN
LINEAL:
157
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
158
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
ESQUEMA:
SE CALCULA EL SNDROME DE LA PALABRA RECIBIDA y, h(y) =
yHt.
SE DETERMINA LA CLASE LATERAL ASOCIADA A ESTE
SNDROME, y+C.
SE BUSCA EN ESTA CLASE LA PALABRA DE PESO MNIMO .
SE CALCULA x = y - .
SI C ES UN CDIGO t-CORRECTOR Y EN LA TRANSMISIN SE HAN
COMETIDO t O MENOS ERRORES:
EN LA CLASE y+C HAY UNA NICA PALABRA DE PESO MENOR
O IGUAL QUE y QUE ES LA PALABRA DE ERROR .
159
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
160
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
161
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
162
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
163
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
164
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
165
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
166
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
167
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
h(y) = 011
168
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
169
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
170
MATRICES GENERATRICES Y
MATRICES DE CONTROL CDIGOS
CORRECTORES
171
CDIGO DE HAMMING
172
CDIGO DE HAMMING
173
CDIGO DE HAMMING
174
CDIGO DE HAMMING
175
CDIGO DE HAMMING
176
CDIGO DE HAMMING
177
CDIGO DE HAMMING
178
CDIGO DE HAMMING
179
CDIGO DE HAMMING
180
CDIGO DE HAMMING
EJEMPLO:
SE SUPONE QUE SE TIENE UN H3(3) Y QUE SE RECIBE LA PALABRA
y = 1101112211201. SE DEBE DESCODIFICAR ESTA PALABRA.
181
CDIGO DE HAMMING
182
CDIGO DE GOLAY
183
CDIGO DE GOLAY
184
CDIGO DE GOLAY
185
CDIGO DE GOLAY
186
CDIGO DE GOLAY
187
CDIGO DE GOLAY
188
CDIGO DE GOLAY
189
CDIGO DE GOLAY
PROPIEDADES:
g12 ES AUTODUAL.
B ES SIMTRICA.
g12 ES UN [12,6,6]-CDIGO.
EL CDIGO TERNARIO g11 OBTENIDO PINCHANDO g12 ES UN
[11,6,5]-CDIGO PERFECTO.
190
191
192
193
194
195
196
197
EJEMPLOS:
198
R(1,3).
LOS POLINOMIOS DE BOOLE DE 3 VARIABLES Y GRADO MENOR O
IGUAL QUE 1 SON DE LA FORMA:
199
200
201
202
203
204
205
206
207
208