Titulación de Electrónica y Telecomunicaciones

Transmisión de Datos
Deber N°: 1
Nombre: Jhonatan Guarinda Pardo
Bimestre: Primer
Fecha: 2019-10-02

Tema: Entropía

Desarrollar un algoritmo en Matlab que calcule la entropía de una fuente S. En donde el

mensaje será determinado por el estudiante. Además, presentar el resultado en
 Bits
 Nats
 Hartleys

El algoritmo también debe demostrar que la entropía es 0 para una probabilidad igual a
1 o 0, que la entropía es máxima cuando los mensajes son equiprobables, la velocidad
de la entropía y la redundancia.
Funcionamiento de Algoritmo.

El algoritmo se fue realizado en Matlab, consiste en el que el usuario genera un mensaje en

documento de texto(.txt), que en este caso tiene el nombre de “fuente S.txt” , contenido en la
misma ubicación del archivo generado por Matlab(Entropia.m). Luego el programa solicitará la
entrada por medio de teclado la velocidad dela fuente considerado por el usuario.

Luego el programa buscara el archivo .txt y leerá los datos que se encuentren ahí para ser
almacenados en un arreglo, para después determinar la cantidad de caracteres, y las veces que
se repite dicho carácter para luego obtener la probabilidad de cada caso.

Una vez determinados los caracteres, las veces que se repiten y haber obtenido su respectiva
probabilidad se determina la ecuación para encontrar la entropía, en bits, Nats,y Hartley.De
igual manera para determinar la velocidad de la entropía se multiplica la velocidad de la
fuente(n), por cada una de las entropías encontradas .

Para calcular la redundancia, en primer lugar, se supuso que los casos son equiprobables para
poder encontrar la entropía máxima (Hmax), se aplicó las siguientes formulas:

En el desarrollo del código se comentó cada línea y cuál es su funcionamiento.

Demostración de Entropía=0 , cuando P(si)=1 o P(si)=0.

Para demostrar esto se determinó no enviar mensaje o tan solo un solo carácter para cumplir
una probabilidad de 1:

S1={A} (O cualquier carácter).

  Si no se envia mensaje alguno:

 Cuando los mensajes son equiprobables.

Se decidió por enviar los siguientes caracteres:

S1={1,2,3,4,5,6,7,8,9}
Ahora como ejemplo se enviare una cadena de caracteres en el cual varíen sus
probabilidades de ocurrencia.

S1={ */118821979798987334567774568456566*}
  Recommendations:

-Hay que tener mucho cuidado al momento de declarar variables, y siempre inicializar en 0, ya
que algunas veces datos anteriores se guardan en las variables.

-Alguno caracteres especiales o espacios el programa los considera por lo que hay que definir
bien el mensaje que se va a procesar.
  Conclusiones.

-El siguiente programa nos ayuda a facilitar el proceso para encontrar algunos elementos
importantes en la trasmisión y procesamiento de datos, como lo es: entropía, velocidad de
entropía, redundancia en diferentes unidades como, bits, nats o Hartleys.

-Mediante el desarrollo del siguiente programa logre entender algunos de los conceptos
estudiados en clases, los que de alguna manera se me hacían complicados de entender.

-El desarrollar de este trabajo me enseño un mejor manejo de Matlab , para aplicarlos en
algunos problemas que presenta la materia.

Fuente referencial:
Dominguez, S. (2013). calculo de entropía con matlab. [online] YouTube. Available at:
https://www.youtube.com/watch?v=qKl4jmQoDms&t=167s [Accessed 6 Oct. 2019].