Teora Matemtica de la Comunicacin Por C. E.

SHANNON

INTRODUCCION

El reciente desarrollo de diversos mtodos de modulacin, tales como PCM y PPM que intercambio ancho de banda para la relacin de seal-a-ruido se ha intensificado el inters en una teora general de la comunicacin. la base de tal teora est contenida en los documentos importantes de Nyquist 1 y Hartley2 sobre este tema. En el presente trabajo vamos a extender la teora de incluir una serie de nuevos factores, en particular, el efecto del ruido en el canal, y el ahorro posible debido a la estructura estadstica del mensaje original y, debido a la naturaleza del destino final de la informacin. El problema fundamental de la comunicacin es la de reproducir en un punto ya sea exactamente o aproximadamente un mensaje seleccionado en otro punto. Con frecuencia, los mensajes tienen un significado, es decir que se refieren o se correlacionan segn algn sistema con ciertas entidades fsicas o conceptual. Estos semntica aspectos de la comunicacin son irrelevantes para el problema de ingeniera. El aspecto importante es que el real mensaje es uno seleccionado entre un conjunto de posibles mensajes. El sistema debe estar diseado para funcionar para cada posible seleccin, no slo la que realmente se eligi ya que es desconocido en el momento del diseo. Si el nmero de mensajes en el conjunto es finito, entonces este nmero o cualquier funcin montona de este nmero puede ser considerado como una medida de la informacin que se produce cuando un mensaje se elige del conjunto, todo opciones son igualmente probables. Como se ha sealado por Hartley la opcin ms natural es la funcin logartmica. Aunque esta definicin debe ser generalizado considerablemente si tenemos en cuenta la influencia de la Estadsticas del mensaje y cuando tenemos un rango continuo de mensajes, que sern en todo caso utilizar esencialmente una medida logartmica. La medida logartmica es ms conveniente por varias razones: 1. Es prcticamente ms til. Parmetros de importancia de ingeniera tales como el tiempo, ancho de banda, nmero de rels, etc, tienden a variar linealmente con el logaritmo del nmero de posibilidades. Por ejemplo, la adicin de un rel a un grupo duplica el nmero de posibles estados de los rels. Se aade 1 a la base 2 logaritmo de este nmero. Doblando el tiempo de aproximadamente cuadrados el nmero de mensajes posibles, o duplica el logaritmo, etc

1Nyquist, H., Certain Factors Affecting Telegraph Speed, Bell System Technical Journal, April 1924, p. 324; Certain Topics in Telegraph Transmission Theory, A.I.E.E. Trans., v. 47, April 1928, p. 617. 2Hartley, R. V. L., Transmission of Information, Bell System Technical Journal, July 1928, p. 535.

2. Est ms cerca de nuestra intuicin en cuanto a la medida adecuada. Esto est estrechamente relacionado con (1) ya que intuitivamente medidas entidades en comparacin lineal con las normas comunes. Uno se siente, por ejemplo, que dos tarjetas perforadas deben tener el doble de la capacidad de uno para el almacenamiento de informacin, y dos idnticos canales de doble de la capacidad de uno para la transmisin de informacin. 3. Es matemticamente ms adecuado. Muchas de las operaciones que limitan son simples en trminos del logaritmo pero requerira re-expresin torpe en trminos del nmero de posibilidades. La eleccin de una base logartmica corresponde a la eleccin de una unidad para la medicin de la informacin. Si el de base 2 se utiliza las unidades resultantes pueden ser llamados dgitos binarios, o ms bits brevemente, una palabra sugerido por J. W. Tukey. Un dispositivo con dos posiciones estables, como un rel o un circuito flip-flop, puede almacenar un bit de informacin. N tales dispositivos pueden almacenar N bits, dado que el nmero total de estados posibles es 2N y log2 2N=N. Si se utiliza la base 10, las unidades pueden ser llamados dgitos decimales. Desde:

[Escriba texto]

[Escriba texto]

[Escriba texto]