Teoría matemática

de
Claude Shannon

Un estudio del estilo y contexto de su obra

hasta la génesis de la teoría de la información.

por
Eugene Chiu, Jocelyn Lin, Brok Mcferron,
Noshirwan Petigara, Satwiksai Seshasai

6.933J / STS.420J La estructura de las revoluciones de ingeniería

Tabla de contenido

Agradecimientos................................................. .................................................. ......................................... 3

Introducción................................................. .................................................. .................................................. ... 4
Metodología ................................................. .................................................. ............................................... 7
Teoría de la información................................................ .................................................. ......................................... 8
Teoría de la información antes de Shannon .............................................. .................................................. ......... 8
Lo que faltaba............................................... .................................................. .......................................15
1948 Teoría matemática de la comunicación ............................................. ...........................................dieciséis
La Metodología Shannon ............................................... .................................................. ...................... 19
Shannon como arquitecto .............................................. .................................................. ............................. 19
Teoría de conmutación ................................................ .................................................. ........................................... 22
Antecedentes y obra contemporánea .............................................. .................................................. ..... 22
Bloques de construcción para la tesis de maestría de Shannon ............................................ ............................................ 23
Un análisis simbólico de circuitos de conmutación y relés .......................................... ................................. 26
Teoremas ................................................. .................................................. ................................. 28
Teoremas de negación ................................................ .................................................. ................ 28
Analógico entre el cálculo de proposiciones y el análisis relé simbólico .................. 29
Un ejemplo de un problema de síntesis ............................................ .................................................. .......... 29
Reconocimiento popular ................................................ .................................................. ................................. 31
Genética................................................. .................................................. .................................................. ........ 34
Un álgebra para la genética teórica, los comienzos .......................................... ................................. 34
Historia de la genética de poblaciones .............................................. .................................................. .................. 35
Eugenesia ................................................. .................................................. ................................................ 35
Genética a finales de 1930 ........................................... .................................................. ............................... 37
Genética a principios de 1940 ........................................... .................................................. ........................... 38
Vannevar Bush, Claude Shannon y la genética .......................................... ............................................ 38
Ph.D. de Shannon .................................................. .................................................. ...................................... 40
Detalles algebraicos ................................................ .................................................. ......................................... 41
Análisis y comparación ............................................... .................................................. .......................... 43
Un callejón sin salida ............................................... .................................................. ................................................ 43
Criptografía ................................................. .................................................. ................................................. 47
Relación con la teoría de la información .............................................. .................................................. ................ 47
Sistema Vernam ................................................ .................................................. .......................................... 50
Enlace a la teoría de la información .............................................. .................................................. ...................... 52
Estilo de Shannon ................................................ .................................................. ............................................... 54
Colaboración................................................. .................................................. ............................................. 54
Asesoramiento ................................................. .................................................. .................................................. ... 56
El "gran gadgeteer" ............................................. .................................................. .................................. 57
Aplicación de su trabajo .............................................. .................................................. .............................. 60
Premios y reconocimientos ............................................... .................................................. ........................... 61
Conclusión ................................................. .................................................. .................................................. ... 63
Referencias ................................................. .................................................. .................................................. ....sesenta y cinco
Correspondencias ................................................. .................................................. ......................................sesenta y cinco
Entrevistas ................................................. .................................................. .................................................. sesenta y cinco
Publicaciones ................................................. .................................................. ............................................... 66

2
Agradecimientos

Nos gustaría agradecer a los profesores Robert Fano, Bob Gallagher, Chris Kaiser, Charles Vest y Hartley Rogers por su visión

académica y personal del trabajo de Claude Shannon y los campos de la teoría del cambio, la genética y la teoría de la información.

Los asesores de Shannon Trenchard More, William Sutherland y Henry Ernst nos brindaron una perspectiva única sobre cómo

trabajar con el Dr. Shannon. Betty Shannon habló amablemente sobre la personalidad y el trabajo de su esposo. El personal del MIT

Be Blackburn y Laura Mersky ayudaron a facilitar nuestra investigación. El personal de los Archivos del MIT y de la Biblioteca del

Congreso fue fundamental para localizar documentos importantes y correspondencias entre Shannon y sus colegas. El profesor

David Mindell y el asistente de enseñanza Chen-Pang Yeang fueron más allá de sus roles como instructores y nos brindaron

información sobre su propia investigación sobre este tema.

Finalmente, también queremos agradecer a Peter Elias, quien antes de fallecer el 7 de diciembre de 2001 nos permitió buscar en

su extenso archivo de libros y documentos relacionados con Claude Shannon y sus campos. Este artículo está dedicado a su

memoria y a la memoria de Claude Shannon, fallecido el 24 de febrero de 2001.

3
Introducción

Cuando Trenchard More conoció a Claude Elwood Shannon, estaba tomando su examen oral para su doctorado en el Instituto

de Tecnología de Massachusetts. 1. El examen escrito fue especialmente difícil en ese momento, recordó More, por lo que hacerlo

bien en la parte oral del examen fue vital. Shannon había accedido a formar parte del comité de More porque More era asistente

técnico de Sam Caldwell, asesor de la tesis de maestría de Shannon. Las preguntas que formuló Shannon fueron drásticamente

diferentes del resto y se concentraron en las ideas matemáticas detrás de los temas que se discutían. Shannon fue "tras las

formas de pensamiento", dijo más. Le importaba más cómo pensaba More y si entendía los conceptos matemáticos

fundamentales detrás de su investigación. Shannon sintió que alguien que realmente entendiera las ideas podría recrearlas ante

sus ojos, relató More. Afortunadamente, a pesar de haber tropezado con los detalles técnicos en el examen escrito y oral, More

había desarrollado una sólida comprensión de los conceptos matemáticos y había aprobado los exámenes orales al responder

con éxito las preguntas de Shannon. Recordó que otro estudiante tuvo un destino diferente con Shannon: a pesar de su GPA

perfecto, el estudiante no pudo responder las preguntas de Shannon, y se reveló que simplemente estaba memorizando

conceptos. El enfoque que Shannon mostró en su cuestionamiento de More fue representativo de la visión rectora que impulsó

gran parte de su trabajo.

Las piezas más populares y revolucionarias del trabajo de Shannon llegaron muy temprano en su vida. Muchos expertos, incluido el

profesor y colega del MIT, Robert Fano, sugirieron que sus dos contribuciones científicas más importantes fueron su tesis de maestría y su

revolucionario artículo de 1948 sobre teoría de la comunicación. 2. Su tesis de maestría, que desarrolló un método para usar la lógica

booleana para representar circuitos, y su artículo de 1948 sobre teoría de la comunicación ayudaron a definir un campo y revolucionaron la

forma en

1 Entrevista con Trenchard More, 2001.

2 Entrevista a Robert Fano, 2001.

4
que vimos nuestro mundo. En el corazón de estas dos hazañas y de gran parte de su otro trabajo estaba la idea de que los conceptos

matemáticos podrían usarse para aportar estructura y comprensión a casi cualquier cosa.

Este artículo es un intento de comprender el contexto de los primeros trabajos de Shannon y examinar los elementos que

contribuyeron a su investigación y la posterior explosión de estudios en sus campos. Nuestro objetivo es no solo comprender la

investigación, sino también al hombre que la dio a luz. Al explorar los hilos comunes entre las diversas áreas de investigación de

Shannon, las ideas fundamentales que impulsaron a Shannon se hacen evidentes.

Gran parte de la investigación existente sobre Shannon se centra en el trabajo que tuvo el mayor impacto en la comunidad científica.

Como creador del campo de la teoría de la información, ha sido ampliamente aclamado como el "padre de la era digital". 3 Su artículo de

1948 detalló un método para representar la información y revolucionó para siempre la forma en que se conceptualizaba la información.

Este artículo comienza intentando comprender el contexto en el que Shannon produjo este trabajo sobre teoría de la información a fines

de la década de 1940.

Después de comprender el papel de Shannon en este campo, volvemos al trabajo anterior y examinamos algunos de sus principales

logros antes de su artículo histórico. Aunque su estilo era muy independiente y sus resultados muy singulares, las áreas en las que

trabajaba estaban muy influenciadas por factores externos. Cada una de las áreas del trabajo de Shannon que consideramos

(conmutación, genética, teoría de la información y criptografía) estuvo motivada por el entorno en el que se encontraba Shannon en

ese momento y los intereses específicos de quienes lo asesoraban. Rara vez mostró un interés sincero en promover la

3 Waldrop, 2001.

5
aplicación y comprensión de su trabajo. En cambio, se basó en los factores externos para impulsar la infusión de su trabajo en

el campo apropiado.

Este artículo presta especial atención al Ph.D. de Shannon. tesis en genética, que proporciona un ejemplo interesante del papel de

la influencia externa en el trabajo de Shannon. La tesis genética no recibió tanta atención como su otro trabajo, pero sus

contribuciones en la tesis son similares en alcance y estilo a su trabajo en la teoría del cambio y la teoría de la información. Una vez

más, el dominio lo proporcionaba su entorno, pero su función era bastante independiente y se ocupaba del uso de la teoría

matemática para representar el sistema. Al igual que con su otro trabajo, Shannon hizo poco para promover la conciencia

generalizada o la aceptación de sus resultados. Sin embargo, a diferencia de su trabajo en conmutación e información, su trabajo

genético no fue aceptado por la comunidad y, por lo tanto, no tuvo un impacto tan grande como las otras piezas.

El examen del estilo de trabajo y los intereses de Shannon confirmó aún más esta noción de un individuo centrado únicamente en la

abstracción de un problema en su forma más simple en cualquier campo dado. Como estudiante y colega, Shannon fue descrita como

muy tímida e independiente, pero increíblemente brillante. A medida que avanzaba hacia la práctica de la investigación de manera

profesional, tanto en la industria como en la academia, su esposa, sus asesores y colegas describieron a un hombre que evitaba la

colaboración, se enfocaba en la teoría matemática y pasaba de un tema a otro una vez que se sentía satisfecho de haber conquistado los

fundamentos teóricos. de su tema de estudio. El profesor que ayudó a Trenchard More a aprobar su Ph.D. Los exámenes enfatizando la

teoría matemática subyacente emplearon esta devoción en casi todos los aspectos de su vida.

6
La esencia de las contribuciones de Shannon fue su estilo de trabajo: su capacidad para tomar un problema y aplicar la teoría

matemática para revolucionar la forma en que se veía el campo. El impacto de su trabajo fue provocado por influencias sociales.

Las siguientes páginas expondrán esta realidad y demostrarán el poder que tiene ese estilo para cambiar el mundo.

Metodología

Nuestro viaje hacia el trabajo de Shannon comenzó allí mismo, con una exploración de sus principales trabajos en conmutación,

genética, teoría de la información y criptografía. Después de examinar su trabajo específicamente, recopilamos otro material de fuente

primaria de la época para tener una idea del contexto en el que estaba trabajando. Examinamos trabajos que Shannon citó, otros

trabajos relacionados de la época y correspondencias relacionadas con Shannon. Se consultaron libros de texto y ejercicios de

iniciación de la época para tener una idea del estado de sus campos. Las fuentes históricas secundarias proporcionaron un marco más

amplio para nuestra investigación y proporcionaron muchos vínculos entre las diversas piezas que estudiamos. Nuestras elecciones en

material de fuente secundaria también fueron impulsadas por los campos de estudio que exploramos, en lugar de los estudios del

propio Claude Shannon. Pero para volver el enfoque de nuevo a Shannon, era vital hablar con quienes lo habían conocido y trabajado

con él. Su esposa, asesores, colegas y amigos proporcionaron información invaluable sobre el estilo y los intereses de Shannon, y nos

ayudaron a comprender muchas de las características únicas de su vida.

7
Teoría de la información

Teoría de la información antes de Shannon

Para comprender las contribuciones, motivaciones y metodología de Claude Shannon, es importante examinar el estado de la

ingeniería de la comunicación antes de la llegada del artículo de 1948 de Shannon, “Una teoría matemática de la comunicación”.

Antes de 1948, la comunicación era estrictamente una disciplina de ingeniería, con poca teoría científica que la respaldara. De hecho,

uno podría incluso llegar a comparar la ingeniería de la comunicación de la época con un arte negro en lugar de la ciencia dura que es

hoy. Aún así, en la década de 1940 había una gran cantidad de sistemas de comunicación en uso. Verdu, en su artículo "50 años de la

teoría de Shannon", enumera algunos de los principales como:

• Telegraph (desde 1830 ?? s)

• Teléfono (1870 ?? s)

• Telégrafo inalámbrico (1890 ?? s)

• Radio AM (1900 ?? s)
Reimpreso de
http://fohnix.metronet.com/~nmcewen/tel_off-page.html
• Modulación de banda lateral única (1920 ?? s)

• Televisión (1930 ?? s)

• Teletipo (1930 ?? s)

• Modulación de frecuencia (1930 ?? s)

• PCM (1930 ?? s)
Anuncio de periódico de 1921 para RCA. Reimpreso de
http://fohnix.metronet.com/~nmcewen/tel off-page.html
• Codificador de voz (1930 ?? s)

• Espectro extendido (1940 ?? s)

8
Como se desprende de esta lista, los sistemas de la época eran diversos no solo en los medios utilizados para transmitir el

mensaje, sino también en los métodos utilizados para transferir mensajes de un punto a otro. Surgieron campos separados

para tratar los problemas asociados con cada medio, cada uno con su propio conjunto de herramientas y metodologías. Por

ejemplo, a un ingeniero le habría resultado inconcebible poder enviar vídeo a través de una línea telefónica, como es habitual

hoy en día con la llegada del módem. La razón de este escepticismo no habría sido que no existiera tecnología para enviar

imágenes en movimiento o que la tecnología telefónica no fuera avanzada. Sin embargo, los ingenieros trataron a ambos

como entidades separadas y no vieron la conexión en la transmisión de "información". un concepto que cruzaría los límites

de estos campos dispares y los uniría.

Aunque no existía una teoría unificadora para unir estos campos, algunos de los componentes que resultarían ser

elementos clave para una teoría científica de la comunicación ya se podían ver en algunos de estos sistemas. Sin

embargo, como las disciplinas se pensaba como entidades separadas. El primero de estos elementos es el código

Morse. El código Morse se había utilizado desde los primeros días del telégrafo. El código Morse es significativo

porque es un sistema de codificación que tiene en cuenta la frecuencia de los símbolos para transmitir de manera

eficiente. Aunque, no se concibió como tal, el código Morse modela la fuente de información (que en el caso del

telégrafo es el idioma inglés) de manera probabilística con el fin de maximizar la velocidad de transmisión de un

conjunto de símbolos.

- -. . . . . . -. . . -. . . . - -. . -
Un ejemplo de código morse

9
 El segundo componente de importancia fue la modulación de código de impulsos (PCM). PCM era un ?? digital ?? sistema, aunque

transmitía a lo largo de señales analógicas de tiempo continuo. Esto fue significativo porque Shannon

explica su

Representación diagramática de PCM. Reimpreso de

teoría en términos de sistemas
http://www.oneoffcd.com/info/historycd.cfm

discretos en lugar de sistemas

analógicos (el reino analógico es un

caso especial del sistema discreto

Como era el método de la época, tales componentes se habían abierto camino en diferentes sistemas, sin ser agrupados

bajo una teoría general. Sin embargo, más significativo fue el trabajo realizado

por ingenieros de Bell Labs en la década de 1920. Estos trabajos

capturaron algunos de los primeros esfuerzos para comprender el

concepto de información como algo distinto de la semántica del mensaje.

El primero de estos ingenieros fue Harry Nyquist, famoso por sus teoremas de

muestreo. Papel de Nyquist de 1924, ?? Ciertos factores que afectan la

velocidad del telégrafo ?? 4, está muy centrado en los aspectos de ingeniería del

telégrafo. Sin embargo, hay una sección teórica titulada Posibilidades teóricas de

usar códigos con diferentes números de valores actuales, en el que él

Primera página de Nyquist ???? s ?? Ciertos factores que afectan

la velocidad del telégrafo ?? .De Bell Labs Technical Journal,

4 H. Nyquist, Ciertos factores que afectan la velocidad del telégrafo, Bell Labs Technical Journal 1924. pág. 324

10
produce dos resultados interesantes 5. En esta sección, Nyquist discutió la “velocidad de transmisión de la inteligencia”. 6 Este

concepto de inteligencia es similar al concepto de información de Shannon. Nyquist estaba comenzando a comprender la

necesidad de abstraer el contenido real de la señal de la información contenida en el mensaje. Si bien la mayor parte del

documento considera la ingeniería

aspectos de un sistema de comunicación, documenta una regla logarítmica que gobierna la cantidad máxima de "inteligencia" que se

puede enviar a través de un cable telegráfico.

W = K log metro, donde W es la velocidad de transmisión de la inteligencia, m es el número de valores actuales y K es una constante.

Aunque esta ley no fue lo suficientemente general para describir todos los sistemas de comunicación, sigue siendo un caso

especial de la ley logarítmica posterior de Shannon. Además, explicó que el contenido de un mensaje se podría codificar con un

“código óptimo”. de manera que permitiera transmitir una cantidad máxima de inteligencia con un número determinado de

elementos de señal. 7 Esta fue la primera instancia de un análisis de los límites teóricos de los códigos de transmisión ideales.

En 1928, RVL Hartley, otro ingeniero de Bell Labs, amplió el trabajo de Nyquist formalizando y generalizando algunas de las

ideas contenidas en su artículo. 8. Hartley sabía que el concepto de "inteligencia" de Nyquist todavía estaba plagado de aspectos

psicológicos. Hartley quería desarrollar una teoría lo suficientemente general para abarcar todos los principales medios de

transmisión de la época. Hartley declaró claramente la diferencia entre el significado y la información en un mensaje en particular:

5 H. Nyquist, Ciertos factores que afectan la velocidad del telégrafo, Bell Labs Technical Journal 1924, pág. 332
6 Ibíd pág. 332
7 ibid pág. 334
8 RVL Hartley, Transmisión de información, BellLabs Technical Journal, 1928. Pg 535

11
 Por lo tanto, al estimar la capacidad del sistema físico para transmitir información, debemos ignorar la

cuestión de la interpretación, hacer que cada selección sea perfectamente arbitraria y basar nuestros

resultados en la posibilidad de que el receptor distinga el resultado de seleccionar cualquier señal del de

seleccionando cualquier otro. De esta forma se eliminan los factores psicológicos y sus variaciones y es

posible establecer una medida cuantitativa definida de información basada únicamente en

consideraciones físicas. 9

Destacó que la capacidad de un sistema para transmitir cualquier

secuencia de símbolos dependía únicamente de distinguir en el

extremo receptor entre los resultados de varias selecciones en el

extremo emisor y no del significado de la secuencia.

Hartley también generalizó la ley de logaritmos de Nyquist para la

cantidad de información transmitida.

La forma que da para la ecuación es

H = log S norte

Dónde S en el número de símbolos posibles, y

norte es el número de símbolos en una transmisión. Primera página de la transmisión de Hartkey

Información de Bell Labs Technical Journal, 1928

9 RVL Hartley, Transmisión de información, BellLabs Technical Journal, 1928, pág. 536

12
Shannon citó estos dos artículos en su Teoría matemática de la comunicación. Además, en una entrevista de 1984, Shannon

dijo: “Ya había leído el artículo de Hartley y que había sido una influencia importante en mi vida”. 10

Al mirar la teoría de la información propuesta por Shannon, en el sentido más amplio, podemos dividirla en dos partes. La

primera de estas partes es la conceptualización de información y el modelado de fuentes de información. La segunda parte

de la teoría engloba el envío de información a través del canal. ¿Cuáles son los límites de la cantidad de información que se

puede enviar y cuál es el efecto del ruido en esta comunicación?

Aspray, en su artículo, “Información: una encuesta”. 11 presenta algunas teorías interesantes sobre la evolución del concepto de

teoría de la información y la comunicación. Examina las raíces de la ciencia de la información en la lógica matemática, la

física, la psicología y la ingeniería eléctrica del siglo XIX y principios del XX y luego se enfoca en cómo Warren McCulloh,

Walter Pitts, Claude Shannon, Alan Turing, John von Neumann y Norbert Weiner combinaron estos diversos estudios en una

disciplina coherente. Aspray escribe que 5 áreas en particular llevaron a la conceptualización científica de la información:

1.James Clerk Maxwell, Ludwig Bolzmann y Leo Szilar trabajan en termodinámica y mecánica estadística, especialmente en

el concepto de entropía.

2. La labor de investigación en comunicación y control que surgió del desarrollo de la telegrafía, la radio y la televisión.

10 Robert Price, Una conversación con Claude Shannon, IEEE Communications Magazine, mayo de 1984, pág. 123

13
3. Trabajar a partir del siglo XIX sobre la fisiología del sistema nervioso, y trabajar en el 20 th siglo sobre la homeostasis

y la regulación interna del organismo vivo.

4. El desarrollo de las teorías funcionalistas y conductistas de la mente en psicología, que conducen a una visión del cerebro como

procesador de información ya la demanda de la verificación experimental de las teorías de la mente mediante la observación de la

conducta externa.

5. El desarrollo de la teoría de funciones recursivas en lógica matemática como una caracterización matemática formal del

proceso computacional humano.

Aspray identifica a Claude Shannon, Norbert Wiener, Warren McCulloh, Walter Pitts, Alan Turing y John Von Neumann como los

líderes de un movimiento que tuvo lugar durante y después de la guerra para unificar las teorías de caracterización y procesamiento

de información que surgieron de diversas raíces.

Aunque estos científicos procedían de diferentes disciplinas, el factor más importante que los unía era su formación en lógica

matemática. La razón por la que este trasfondo fue tan importante es porque la lógica matemática es el estudio de las leyes del

pensamiento en abstracción. Se podría plantear la hipótesis de que esta capacidad de tomar un proceso y abstraerlo a un alto

nivel le permitió a Shannon formalizar el proceso como ver la información como algo distinto de la semántica.

11 William Aspray, Información: Una encuesta, Anales de la historia de la informática, Volumen 7, 1985. Pg. 117

14
Lo que faltaba

Si bien hemos echado un vistazo breve a cómo surgieron algunos de los componentes de la teoría de la información, en la década de 1940

todavía no existía una teoría unificadora para la comunicación.

Extracto de una carta de Shannon a Bush. 16 de febrero de 1939. De la Biblioteca del Congreso

Shannon le mostró a Bush un diagrama de un sistema de comunicación generalizado. Podemos ver claramente que Shannon ya

había comenzado a abstraer las capas en la jerarquía de la comunicación para llegar a la raíz del problema detrás de la

comunicación. Aún no se refiere a las transmisiones como información, sino más bien como “inteligencia”, como hizo Nyquist.

Curiosamente, Shannon todavía estaba atrapada en el ámbito analógico y no discutió los sistemas discretos. Además, habló del

efecto de la “distorsión”. en la señal transmitida. Vemos los comienzos de la teoría de Shannon en su discusión sobre los límites

fundamentales y los productos de retardo de ancho de banda.

Si bien hemos visto los primeros comienzos de la teoría de Shannon, para estudiar sus metodologías, es útil examinar primero

el producto terminado antes de profundizar en un examen de varios cuerpos de trabajo que Shannon creó entre estos tiempos.

15
1948 Teoría matemática de la comunicación

En su artículo de 1948, Shannon enumeró las partes de un sistema de comunicación como:

1. Fuente de información

2. Transmisor

3. Canal

4. Receptor

5. Destino

De una teoría matemática de la comunicación

Shannon agrupó los sistemas de comunicación en 3 tipos. discreto, continuo, mixto, planteando que el caso discreto es

la base de los otros dos y tiene aplicaciones no solo en la teoría de la comunicación, sino también en la teoría de las

máquinas de computación, el diseño de centrales telefónicas y otros campos.

Shannon afirmó que la información se define en los casos más simples y se mide por el logaritmo del número de opciones de

símbolos disponibles. Como base del logaritmo, Shannon elige el número dos, convirtiendo así la unidad de información más

pequeña en un bit.

dieciséis
Basándose en el trabajo de Nyquist y Hartley, justo al comienzo de su artículo, Shannon distinguió claramente entre la información y

la semántica de un mensaje al afirmar: “Los aspectos semánticos de la comunicación son irrelevantes para el problema de la

ingeniería. El aspecto significativo es que el mensaje real es uno seleccionado de un conjunto de mensajes posibles.

Después de establecer esto, Shannon introdujo la idea de que una fuente de información es probabilística planteando la

siguiente pregunta al lector: si una fuente de información está produciendo mensajes seleccionando sucesivamente símbolos de

un conjunto finito, y la probabilidad de que aparezca un símbolo depende de la elección anterior, entonces, ¿cuál es la cantidad

de información asociada con esta fuente?

Shannon explicó la respuesta a esta pregunta describiendo la información en términos de entropía. Si una fuente de comunicación

no se caracteriza por un alto grado de aleatoriedad o elección, entonces la información (o entropía) es baja, es decir.

1- (entropía real / entropía máxima) = redundancia.

Shannon entendió que para derivar los teoremas fundamentales de un sistema de comunicación, necesitaría proporcionar una

definición precisa de información, de modo que fuera un parámetro físico que pudiera cuantificarse. Hizo esto proporcionando

su definición entrópica de información. Una vez que Shannon estableció este concepto de información, pudo trabajar dentro de

este marco para descubrir sus dos teorías fundamentales de la comunicación.

El primer teorema trata de la comunicación a través de un canal silencioso.

17
 Supongamos que una fuente tiene entropía H (bits por símbolo) y un canal tiene una capacidad C (bits por transmisión a

la tasa promedio C / H - ε símbolos por segundo sobre el canal donde

ε es arbitrariamente pequeño. No es posible transmitir a una velocidad media superior a C / H.

La idea principal detrás de este teorema es que la cantidad de información que es posible transmitir se basa en su entropía o

aleatoriedad. Por tanto, en base a la característica estadística de la fuente de información, es posible codificar la información

para que sea posible transmitirla a la velocidad máxima que permite el canal. Esto fue revolucionario ya que los ingenieros de

comunicaciones pensaban anteriormente que la señal máxima que podía transportarse a través de un medio estaba

relacionada con varios factores como la frecuencia, no con el concepto de información.

El segundo teorema de Shannon trata de la comunicación en un entorno ruidoso. Shannon afirma:

Sea un canal discreto la capacidad C y una fuente discreta la entropía por segundo H. Si H <= C

existe un sistema de codificación tal que la salida de la fuente puede transmitirse por el canal con una

frecuencia de errores pequeña arbitraria. Si H

> C es posible codificar la fuente de modo que el equívoco sea menor que H ?? C +

ε , dónde ε es arbitrariamente pequeño. No existe ningún método de codificación que dé un equívoco menor que H
?? C.

La idea que Shannon está transmitiendo es que no importa cuál sea el ruido, existe un esquema de codificación que le permite

transmitir la información sin errores a través del canal (siempre que H <C). Otra vez,

18
esta idea fue revolucionaria ya que se creía que después de un cierto nivel de ruido, sería imposible transmitir la

señal deseada.

La Metodología Shannon

Hemos visto cómo en 1939, Shannon todavía estaba lejos de ser una teoría completa de la comunicación. Sin embargo, 9 años

después, publicó Una teoría matemática de la comunicación, en el que dio una descripción completa pero simple de un sistema de

comunicación generalizado. Su arquitectura de las partes de un sistema de comunicación, su modelado de la información como

entropía y su teorización sobre los límites de la comunicación con y sin ruido fueron saltos más allá del pensamiento

contemporáneo en ingeniería de la comunicación.

En los siguientes apartados veremos un análisis exhaustivo del contenido y contexto de los diversos temas que investigó Shannon, a

partir del cual podemos hacer un análisis detallado de la metodología y fuerzas que dieron forma al trabajo de Shannon. Sin embargo,

de lo que hemos visto en este apartado, podemos llegar a ciertas conclusiones.

Shannon como arquitecto

Como se lee Una teoría matemática de la comunicación, uno se da cuenta del encuadre del problema de Shannon, que es evidente

en su famoso diagrama de comunicación. En este diagrama, que es la piedra angular de su teoría de la comunicación, Shannon

abstrae la mayoría de las complejidades de los sistemas de comunicación. De hecho, cada parte del sistema es una simple caja.

Luego se ocupa de cada uno de estos componentes por separado. Este concepto de abstracción y simplificación es uno que

veremos como clave para el estilo de trabajo de Shannon. El propio Shannon habla de esto en una charla que dio en 1953:

19
 El primero del que podría hablar es el de la simplificación. Suponga que le dan un problema

para resolver, no me importa qué tipo de problema. ¿¿Una máquina para diseñar, o una

teoría física para desarrollar, o un teorema matemático para probar o algo por el estilo?

probablemente un enfoque muy poderoso para esto es intentar eliminar todo del problema

excepto lo esencial; es decir, córtelo a medida. Casi todos los problemas con los que se

encuentra se confunden con todo tipo de datos extraños de un tipo u otro; y si puede reducir

este problema a los problemas principales, podrá ver más claramente lo que está tratando de

hacer y quizás encontrar una solución. Ahora, al hacerlo, es posible que haya eliminado el

problema que buscaba. Es posible que lo haya simplificado hasta el punto de que ni siquiera

se parece al problema con el que comenzó; 12

Una vez que Shannon hubiera resumido su problema a un nivel lo suficientemente alto, ¿aplicaría las matemáticas con las que

estaba tan familiarizado en sus días en Michigan? Lógica booleana en el caso de su tesis de maestría en circuitos de conmutación,

álgebra en el caso de su trabajo en genética y probabilidad

12 discurso de Claude Shannon ?? Pensamiento creativo, Claude Elwood Shannon: Escritos varios

20
en el caso de la comunicación. Al hacer esto, Shannon podría llegar a las teorías científicas que son la base del campo.

Si bien sería ciertamente simplista atribuir todos los tremendos descubrimientos de Shannon únicamente a su metodología, creemos

que es muy importante ya que contrarresta los pensamientos actuales sobre ingeniería y ciencia. La metodología de Shannon se

describe gráficamente arriba, en la que vemos que el problema de la ingeniería se aborda a un alto nivel para llegar a la ciencia detrás

de él. Sin embargo, en contraste, la sabiduría convencional dicta que la ingeniería es la aplicación de la ciencia a un problema

particular.

En las siguientes secciones, mientras examinamos el contexto y el contenido de otros trabajos de Shannon, tendremos en cuenta esta

metodología única para ver cómo ha afectado el trabajo de Shannon.

Además de este terreno común, todos estos científicos estuvieron expuestos durante la guerra, lo que aumentó su conciencia de la

importancia de la teoría de la información. Weiner desarrolló la cibernética basándose en su trabajo con Vannevar Bush, con YW Lee

en filtros de ondas y sus colaboraciones con Julian Bigelow en el control de fuego para artillería antiaérea. De manera similar, Aspray

escribe que gran parte de la teoría de la comunicación de Shannon fue generada por los tremendos avances en la ingeniería de

comunicación durante el desarrollo del radar y en parte por la necesidad de comunicaciones seguras durante la guerra.

21
Teoría del cambio

Antecedentes y obra contemporánea

Escrito en 1938, Un análisis simbólico de circuitos de conmutación y relés no presentó una gran cantidad de investigaciones que nunca antes se

habían visto. Más bien, fue la idea de vincular el álgebra de Boole con los circuitos lo que la hizo tan novedosa. Observar los tipos de tesis de

maestría que se escribieron en el Departamento de Ingeniería Eléctrica del MIT en ese momento puede dar una buena idea de lo que estaba

sucediendo. Los temas candentes parecían tener más relación con la energía, la potencia y los motores, sin duda porque se necesitaban avances

importantes para satisfacer la creciente necesidad de transporte. 1936 títulos de tesis Influencia de los campos armónicos sobre la característica

de par del motor de inducción y Algunos problemas técnicos y económicos del almacenamiento de energía en sistemas de energía eléctrica reflejan

este movimiento. 13

En los años 1937-1940, hubo varias tesis pertenecientes a los circuitos, todas con el mismo título

Circuitos equivalentes para la representación de gran área metropolitana en estudios de estabilidad transitoria. 14 Esta

mostró que los investigadores estaban estudiando mucho cómo se podrían usar circuitos equivalentes para representar diferentes tipos de

redes, en lo que Shannon profundizó ligeramente en su tesis. En este lapso de tiempo no hubo tesis en el departamento de matemáticas

que cubrieran temas de álgebra de Boole.

La conexión entre el álgebra de Boole y los circuitos fue reconocida por primera vez en 1886 por un filósofo y lógico

estadounidense Charles Pierce, pero nunca hizo mucho para promover la investigación. 15 En 1910, Paul Ehrenfest de la

Universidad de San Petersburgo fue el primero en proponer la idea de aplicar la lógica de forma técnica; tenía en mente la

estación de conmutación telefónica como el mejor objeto para este propósito. El ingeniero soviético Gersevanov implementó la

lógica matemática en un

13 Ejercicios de graduación. 1936

14 Ejercicios de graduación. 1940
15 Povarov, 2001.

22
a gran escala en su diseño para una planta de energía hidráulica en 1923. Luego, en 1936, un psicólogo de Chicago llamado Benjamin

Burack construyó un dispositivo que implementaba bombillas eléctricas para mostrar las relaciones lógicas entre una colección de

interruptores. Sin embargo no dio a conocer esta obra hasta 1949 dieciséis. El dispositivo lógico de Burack se construyó dos años antes de

que se completara la tesis de maestría de Shannon.

El trabajo que realizó Shannon en su tesis de maestría fue muy similar al de dos investigadores contemporáneos en la ex Unión

Soviética y Japón, dos áreas del mundo donde la teoría del cambio y el diseño lógico se estaban poniendo de moda. El físico ruso

Vladimir Shestakov publicó algunos artículos e hizo su tesis de disertación sobre el tema. Hizo sus primeros informes en 1935

después de estudiar telegrafía y sistemas telefónicos y leer Álgebra de la lógica. También en 1935, Nakashima publicó un artículo

titulado Una teoría de la realización de circuitos de relés. La teoría de conmutación y el diseño lógico se desarrollaron en Europa del

Este y la ex Unión Soviética debido a problemas de control automático en la teoría de sistemas. En Japón, hubo un desarrollo

continuo en la aplicación de la lógica booleana a los sistemas técnicos debido al interés en el diseño de sistemas de redes de relés. 17

Bloques de construcción para la tesis de maestría de Shannon

Shannon comenzó a obtener su maestría en el MIT en 1936 como asistente de investigación en el laboratorio de Vannevar Bush. Se

acababa de graduar de la Universidad de Michigan con doble titulación en Matemáticas e Ingeniería Eléctrica, lo que sentaría las bases

para la investigación de Shannon en los años venideros. Según se informa, Shannon asumió el cargo en el laboratorio de Bush después

de verlo anunciado en una postal clavada en un tablero de anuncios del campus. 18 En ese momento, Bush era vicepresidente del MIT y

dieciséis Povarov, 2001.

17 Ibídem.
18 Entrevista a Charles Vest, 2001.

23
decano de ingeniería. Bush le dio a Shannon el trabajo de cuidar el Analizador Diferencial, que era una computadora

analógica hecha de engranajes, poleas y varillas cuya función era evaluar y resolver ecuaciones diferenciales. Shannon

ayudaría a los científicos visitantes a resolver sus problemas en el analizador reordenando los enlaces mecánicos entre las

varillas para que sus movimientos coincidieran con las ecuaciones matemáticas correspondientes.

Antes de la llegada de Shannon, Vannevar Bush y sus colegas habían trabajado en el proyecto del analizador diferencial durante unos

diez años. La máquina final financiada por la Fundación Rockefeller pesaba casi cien toneladas y estaba compuesta por dos mil tubos

de vacío, varios miles de relés, ciento cincuenta motores y unidades automáticas de acceso de cinta perforada. Durante la Segunda

Guerra Mundial, el analizador diferencial de Rockefeller fue probablemente la computadora más importante en funcionamiento en los

Estados Unidos. 19 y proporcionó la chispa para la innovadora tesis de maestría de Shannon Un análisis simbólico de circuitos de

conmutación y relés.

El analizador diferencial surgió del trabajo en el Intergraph. Bush, junto con

FG Kear, HL Hazen, HR Stewart y FD Gage, lo desarrollaron en 1927, una

máquina que podía configurarse mecánicamente para resolver conjuntos de

ecuaciones diferenciales de primer orden. 20

Intergraph. Reimpreso de Mindell ?? s ?? MIT

Differential Analyzer ?? página web
Fue aclamado en la portada del New York Times:

'Thinking Machine' realiza matemáticas superiores; Resuelve ecuaciones que demoran meses en humanos. Usando dispositivos

tanto eléctricos como mecánicos, el integraph adolecía de imprecisiones y

19 Owens. 1984

24
complejidad. Inspirándose en la elegancia matemática y la simplicidad mecánica de un integrador de disco mecánico,

Bush decidió construir una nueva máquina mecánica. 21

El analizador diferencial desarrollado en 1931 fue una mejora en el integraph y podía manejar ecuaciones diferenciales

de sexto orden.

Consistía en un armazón de soporte largo en forma de mesa que estaba atravesado por ejes conectables. Un lado contenía una serie de

tableros de dibujo, mientras que el otro lado tenía seis integradores de disco. Los ejes controlarían los bolígrafos para que pudieran trazar

curvas en los tableros de dibujo. El operador también podría hacer que un bolígrafo siguiera una curva determinada manualmente,

impartiendo así una rotación deseada a ejes particulares. A través de la asociación de los términos de una ecuación con las rotaciones del

eje combinada con el empleo de una variedad de engranajes, la máquina podría usarse para todas las operaciones matemáticas básicas

además de la integración. 22

Fue el circuito de control extremadamente complicado del analizador

diferencial Rockefeller, compuesto por aproximadamente cien

interruptores que podían abrirse y cerrarse automáticamente mediante

un electroimán, lo que llevó al descubrimiento trascendental de

Shannon.

En el momento en que Shannon estaba escribiendo su tesis, el analizador Analizador diferencial Rockefeller. Reimpreso de Mindell ?? s
?? MIT Differential Analyzer ?? página web

diferencial de Rockefeller todavía estaba bajo

20 ?? Simposio Vannevar Bush en el MIT ?? sitio web, 2001.

21 Owens. 1984
22 Owens. 1984

25
construcción. El Dr. Charles Vest recordó a Shannon describiendo cómo una noche se le ocurrió que los circuitos que estaba construyendo se

parecían tanto a la lógica booleana que había estudiado cuando era estudiante en Michigan. 23 Entonces se dio cuenta de que se podían combinar

interruptores en circuitos de tal manera que se llevaran a cabo operaciones lógicas simbólicas. Fue un descubrimiento que vinculó dos campos

bien conocidos, pero el vínculo hasta entonces no se había explorado por completo ni se había publicitado ampliamente.

Las implicaciones de que verdadero y falso sean denotadas por los dígitos numéricos uno y cero fueron enormes, ya que

entonces sería posible que los relés pudieran realizar operaciones de aritmética binaria. En sus propias palabras, Shannon

escribió: "Es posible realizar operaciones matemáticas complejas por medio de circuitos de relés". 24 De mostrar inicialmente el

diseño de un circuito que podría sumar números binarios, pasó a realizar circuitos que podrían hacer comparaciones y, por lo

tanto, ser capaces de realizar cursos de acción como "si el número X es igual al número Y, entonces realice la operación

R. "Una máquina ahora podría tener la capacidad de tomar decisiones, lo que generó una era completamente nueva de computadoras e

inteligencia artificial. 25 Así nació la lógica digital.

Un análisis simbólico de circuitos de conmutación y relés

La tesis de maestría de Shannon presentó un método de ataque para encontrar la representación de circuito más simple de un

problema de síntesis de red con ciertas características. Dado un problema de síntesis, el primer paso fue expresar las características

deseadas como un sistema de ecuaciones, siendo los términos de las ecuaciones los diversos relés o interruptores del circuito. El

siguiente paso fue manipular las ecuaciones en la forma más simple que tuviera la menor aparición de términos. Se desarrolló un

cálculo para este propósito utilizando algoritmos algebraicos simples. Este cálculo era casi exactamente análogo al

23 Entrevista a Charles Vest, 2001.

24 Waldrop. 2001

26
Cálculo de proposiciones, un álgebra de lógica originado por

George Boole. En el paso final, el circuito que representa el

problema de síntesis podría extraerse inmediatamente de las

ecuaciones manipuladas. La tesis comenzó introduciendo los

postulados y teoremas necesarios para construir el cálculo para

simplificar términos, luego pasó a un análisis de las propiedades

de los circuitos con múltiples ejemplos de resolución de

problemas reales con una representación de circuitos.

Portada de la tesis de maestría de 1938 de Shannon.

En el tratamiento de circuitos, un terminal podría Reimpreso de los archivos de tesis de bibliotecas del MIT

estar abierto (impedancia infinita) o cerrado (impedancia cero). Si un circuito entre dos terminales un

y segundo, denotado X ab, estaba cerrado de lo que estaba representado por el símbolo 0 (cero). El símbolo 1 (unidad) se utilizó para

representar el obstáculo de un circuito abierto. Dadas estas definiciones básicas, en particular

se propusieron postulados. Estos postulados se utilizaron para desarrollar los teoremas utilizados en relación con los circuitos que

contienen únicamente conexiones en serie y en paralelo. La negación era una nueva operación que cuando se aplicaba a un obstáculo X fue

escrito X' y se definió como un valor que era opuesto a X.

25 Waldrop. 2001

27
 Postulados

1a. 0 * 0 = 0 Un circuito cerrado en paralelo con un circuito cerrado es un circuito cerrado.

.
segundo. 1 + 1 = 1 Un circuito abierto en serie con un circuito abierto es un circuito abierto. Un circuito abierto en
2a. 1 + 0 = 0 + 1 = 1 serie con un circuito cerrado en cualquier orden (es decir, si el circuito abierto está a la derecha
. oa la izquierda del circuito cerrado) es un circuito abierto

segundo. 0 * 1 = 1 * 0 = 0 Un circuito cerrado en paralelo con un circuito abierto en cualquier orden es un circuito cerrado

3a. 0 + 0 = 0 Un circuito cerrado en serie con un circuito cerrado es un circuito cerrado.

.
segundo. 1 * 1 = 1 Un circuito abierto en paralelo con un circuito abierto es un circuito abierto.
4 En cualquier momento dado X = 0 o X = 1
.

Teoremas

X+Y=Y+X
XY = YX
X + (Y + Z) = (X + Y) + Z
X (YZ) = (XY) Z
X (Y + Z) = XY + XZ
X + YZ = (X + Y) (X + Z)
1*X=X
0+X=X
1+X=1
0*X=0

Teoremas de negación

X + X '= 1
XX '= 0
0 '= 1
1 '= 0
(X ')' = X

Ahora se sentaron las bases para demostrar la equivalencia del cálculo anterior con el cálculo de proposiciones. Los símbolos del

álgebra booleana permitieron que una variable se representara con los valores 0 y 1. El vínculo que estableció Shannon entre la lógica

booleana y el análisis de relevo simbólico se podría resumir de la siguiente manera:

28
Análogo entre el cálculo de proposiciones y el análisis de relevo simbólico

Símbolo Interpretación en circuitos de relés Interpretación en el cálculo de proposiciones

X El circuito X La proposición X
0 El circuito esta cerrado La proposición es falsa
1 El circuito esta abierto La proposición es verdadera
X+Y La conexión en serie de los circuitos X e Y La proposición que es verdadera si X o Y es
cierto
XY La conexión en paralelo de los circuitos X e Y La proposición que es verdadera si tanto X como Y son
cierto
X' El circuito que está abierto cuando X está cerrado El contradictorio de la proposición X y cerrado cuando X está
abierto
= Los circuitos se abren y cierran simultáneamente Cada proposición implica la otra

Usando el teorema de De Morgan, se podrían derivar muchos teoremas útiles para simplificar expresiones. Para simplificar un

circuito, las ecuaciones que lo describen deben manipularse en la forma en que ocurra el menor número de elementos, siendo cada

elemento un obstáculo. Estos métodos fueron muy útiles para circuitos que contienen solo conexiones en serie y en paralelo.

Un ejemplo de un problema de síntesis

Shannon aplicó estos conceptos a un ejemplo del diseño de una cerradura de combinación eléctrica. Esto mostró el método de

encontrar una representación de circuito de un sistema secuencial. Había varias características de la cerradura:

• Hay cinco interruptores de botón disponibles en la parte frontal de la cerradura, etiquetados a B C D e, y estos botones deben

presionarse en el orden: c, b, a y c simultáneamente, d.

• Se desbloqueará una cerradura en el caso de que se presione el orden correcto, pero si se presiona un botón incorrecto, una alarma U Operará.

Un interruptor gramo debe presionarse para volver a bloquear el sistema. Un interruptor h debe presionarse para liberar la alarma una

• vez que haya comenzado. Dejar w, x, y, y z corresponden a los relés secuenciales para el sistema secuencial

29
Dadas estas condiciones, el sistema de ecuaciones podría derivarse:

w = cw + z '+ U',

x = bx + w + z '+ U',

y = (a + c) y + x + z '+ U', z = z

(d + y) + g '+ U',

v = x + ac + a'c '+ z' + U ',

U = e (w '+ abd) (w + x' + ad) [x + y '+ dv (t - s)] [y + bv (t - s)] U + h' + z '.

Usando los teoremas derivados anteriormente en la tesis, el sistema podría simplificarse y el circuito podría trazarse como:

Circuito de cerradura de combinación eléctrica

La tesis también discutió circuitos multiterminales y no serie-paralelos que incluyen transformaciones estrella-malla y delta-estrella.

Además de la cerradura de combinación eléctrica presentó más ejemplos de sistemas representados por circuitos simplificados

como el sumador eléctrico base dos y el circuito selectivo.

30
A partir de estos ejemplos, se puede ver la importancia de relacionar la lógica booleana con los circuitos. Esta idea fue la parte más importante

de la tesis. En su libro de texto de 1958 sobre la teoría de la conmutación, el asesor de tesis de Shannon, Sam Caldwell, describió la tesis

como "una oportunidad para complementar la habilidad con métodos basados en la ciencia y, por lo tanto, aumentar la productividad de los

diseñadores de circuitos". 26 Esta

declaración personifica la forma principal de pensar de Shannon, un esfuerzo por introducir la estructura matemática en cada área

que investigó. Su aplicación del pensamiento matemático al área del diseño de circuitos produjo lo que HH Goldstine llamó: "una de

las tesis de maestría más importantes jamás escritas ... un hito en el sentido de que cambió el diseño de circuitos de un arte a una

ciencia". 27

Reconocimiento popular

Aunque el descubrimiento de Shannon fue pionero y condujo a una era completamente nueva de lógica digital y computadoras, la

conexión entre el álgebra de Boole y los circuitos se había reconocido y aplicado en varias partes del mundo, ya en 1886. ¿Por qué

hubo tantos casos de investigadores? ¿utilizar la idea de la lógica booleana para aplicaciones técnicas pero nunca ir muy lejos o no

publicarla? Dado que la idea se había encontrado muchas veces antes de Shannon, obviamente no era un concepto difícil de

comprender, a diferencia del trabajo posterior de Shannon en la teoría de la información.

Las teorías de Shannon se publicitaron y leyeron ampliamente porque era el momento adecuado para que la tecnología diera ese

paso. Esto se debió en parte al desarrollo de máquinas que comenzaron a asumir funciones de "pensar" y que luego evolucionarían

para tomar decisiones. Las presiones sociales y económicas provinieron de cambios mundiales que exigían algo parecido a la lógica

digital para llevar las máquinas a una nueva era. Durante los últimos cincuenta años, cuando otras mentes inteligentes en muchos

países

26 Caldwell. 1958. pág. vii

31
se le ocurrieron teorías similares, simplemente no hubo oportunidades para aprovechar el descubrimiento. Más bien, el trabajo seguiría

siendo un interés del investigador. La tesis de Shannon fue la base para la teoría de la conmutación y el diseño lógico que se aplicaría a

una gran cantidad de problemas que surgen en la conmutación en los sistemas ferroviarios, la transmisión de información y la

corrección de errores y la telefonía automática.

Otro elemento en el reconocimiento a su trabajo fue la recepción del premio Alfred Noble, un premio de

ingeniería otorgado a un joven autor de un trabajo técnico de mérito excepcional. Fue un honor que no

esperaba en absoluto como se muestra en su carta a Bush. ¿Es posible que haya escuchado que recibí

el premio Alfred Noble? para mi artículo sobre circuitos de conmutación. De hecho, tengo la sospecha de

que no solo has oído hablar de ello, sino que también has tenido algo que ver con que yo lo consiguiera.

si es así, muchas gracias. Me sorprendió tanto [sic] y me complació recibir la carta que anunciaba el

premio que casi me desmayo. 28 Aparentemente

Bush había presentado la tesis de maestría de Shannon al comité de Alfred Noble para su

consideración sin consultar a Shannon. Este episodio claramente

enfatizó cómo Bush fue influyente en el reconocimiento del trabajo de Shannon. También

mostraba cómo Shannon no estaba interesada en perseguir la fama. centró la mayor parte de su

La tecnología
interés en la investigación que se abstrajo de 6 de febrero de 1940

el aspecto de la ingeniería. Mientras estaba listo para trabajar en el analizador diferencial, cientos de interruptores en el circuito de

control le hicieron pensar en aplicar la lógica booleana a los circuitos. Fueron factores sociales como Vannevar Bush y las presiones

tecnológicas de la época los que hicieron famosa la investigación de Shannon y le permitieron hacer grandes contribuciones a la era

digital.

27 Biografía de investigación de AT&T

32
Después de la tesis sobre la lógica booleana y el cambio, Vannevar Bush estaba decidido a nutrir el talento de Shannon. Sabía

que Shannon era un tipo de persona muy tímida y retraída, sumamente modesta y que fácilmente se desviaría de la pista. 29 y trató

de crear las mejores circunstancias para él. En 1938, con la ayuda de Bush, Shannon ingresó al departamento de Matemáticas del

MIT como estudiante de doctorado. Los dos también comenzaron una correspondencia, intercambiando ideas sobre posibles

temas de investigación y direcciones. Así fue como Shannon inició su trabajo en genética.

28 Correspondencia de Shannon a Bush. 13 de diciembre de 1939.

29 Correspondencia de Bush a Wilson. 15 de diciembre de 1938.

33
Genética

Un álgebra para la genética teórica, los inicios

Vannevar Bush le pidió a Claude Shannon que averiguara si podía encontrar algo

interesante en lo que trabajar en el campo de la genética. Le comentó a un colega: "Se

me ocurrió que, así como un álgebra especial había funcionado bien en sus manos

sobre la teoría de los relevos, otra álgebra especial posiblemente podría manejar

algunos de los aspectos de la herencia mendeliana". 30 Sin embargo, Shannon

en el mejor de los casos, sólo tenía un vago conocimiento de genética. Según Bush, en

Portada de la tesis doctoral de Shannon de 1940. Reimpreso

el momento en que le sugerí que probara su álgebra queer sobre este tema, ni siquiera
de los archivos de tesis de bibliotecas del MIT

sabía qué significaban las palabras.

. . . ?? 31. A pesar de no estar familiarizado con el tema, pronto produjo un manuscrito con algunas ideas de notación algebraica. La
idea era tan novedosa que Bush consiguió que Shannon trabajara con Barbara Burks, investigadora de la Oficina de Registro de
Eugenesia en Cold Spring Harbor en el verano de

1939. La investigación fue luego refinada en una tesis doctoral presentada en la primavera de 1940.

¿Por qué Bush sugirió el campo de la genética? En 1939, acababa de convertirse en presidente de la Carnegie Institution de

Washington, que tenía el Laboratorio de Genética de Cold Spring Harbor como uno de sus centros de investigación. Como resultado,

sabía mucho sobre lo que estaba sucediendo en el campo de la genética y vio que este sería un buen momento para que Shannon

probara su “álgebra queer”, como él dijo. Para comprender mejor las influencias sociales sobre esta sugerencia, las siguientes

secciones discuten los eventos en genética que condujeron a 1940.

30 Correspondencia de Bush a Wilson. 15 de diciembre de 1938.

31 Correspondencia de Bush a Burks. 5 de enero de 1938.

34
Historia de la genética de poblaciones

El trabajo previo en genética tuvo un fuerte vínculo con las matemáticas desde el principio. Los famosos experimentos de Gregor Mendel con

plantas de guisantes correlacionaron rasgos a lo largo de diferentes generaciones con proporciones particulares, llegando al concepto de gen. Sin

embargo, esta investigación fue desconocida durante algunas décadas hasta que en la década de 1900, cuando los resultados fueron

redescubiertos por otros. Luego, los investigadores se apresuraron a correlacionar el conocimiento matemático común con las posibilidades de

combinaciones genéticas. Así comenzó el campo de la genética. Las aplicaciones a los seres vivos pronto se extendieron de las plantas a los

animales y luego a los seres humanos. Este estudio de los rasgos humanos heredables se denominó eugenesia.

Eugenesia

En 1904, al mismo tiempo que comenzaron los estudios en serio sobre las aplicaciones

matemáticas a la genética, Charles Davenport fundó la Oficina de Registro de Eugenesia en

Cold Spring Harbor Laboratories. Esto se convirtió

el centro de todos los estudios de eugenesia en los Estados Unidos. Los eugenistas estaban
Logotipo del árbol de eugenesia. Reimpreso
del Archivo de imágenes sobre el movimiento
interesados en descubrir cómo enfermedades como la hemofilia y la enfermedad de Parkinson eugenésico estadounidense.

se transmitían de generación en generación y

cómo los rasgos como el color de ojos también se heredaron a través de un modelo mendeliano. 32 Este interés pronto

se extendió a la investigación sobre rasgos mucho menos definibles, como el "amor al mar", la musicalidad, la debilidad mental y la

inteligencia.

32 Archivo de imágenes del Movimiento Eugenésico Estadounidense, sitio web.

35
 Pedigrí de constructor de barcos. Reimpreso del Archivo de imágenes sobre el movimiento eugenésico

estadounidense. Al estudiar este pedigrí, uno puede suponer que la construcción de barcos es un rasgo ligado al

sexo, que se expresa en los hombres; gran parte de la investigación en eugenesia se llevó a cabo de manera

similar.

Desafortunadamente, la metodología de investigación de la eugenesia era muy sospechosa de inexactitudes y prejuicios personales.

A menudo se suponía que cualquier persona que fuera de otro país o de un estatus económico más bajo tenía rasgos indeseables. A

pesar de los inconvenientes, o quizás por ellos, el campo pronto llamó la atención del público.

La eugenesia ganó popularidad durante los años 20 y 30. Hubo mucho apoyo público para la preservación y propagación de los buenos

rasgos, mientras que la prevención de los malos rasgos fue tolerada. En los Estados Unidos, Gran Bretaña y Alemania, esto fue

particularmente evidente en el movimiento para desalentar la propagación de los rasgos inadecuados. Pronto se recomendó la

esterilización para aquellos que no eran de buena estirpe eugenésica y, en ocasiones, se obligó a los pacientes de instituciones mentales. 33

33 Archivo de imágenes del Movimiento Eugenésico Estadounidense, sitio web.

36
Genética a finales de la década de 1930

A mediados de la década de 1930, la eugenesia se había separado de la genética como un campo propio debido a las grandes diferencias en

sus métodos de investigación. Los genetistas se centraron en desarrollar métodos más matemáticos, utilizando estadísticas para estudiar sus

experimentos. La publicación de Hogben de 1933 (referenciada por la tesis de Shannon) se alejó de las meras aplicaciones del álgebra en la

representación matricial. Este artículo describió una notación matricial de 3x2 para una población, así como sus posibles operaciones. Luego,

la estructura matemática se aplicó a combinaciones genéticas autosómicas y ligadas al sexo, así como a estudios de cría. 34 A partir de estas

aplicaciones, Hogben escribió una tabla de operaciones para describir expresiones recurrentes en endogamia.

La notación matricial de una población. Reimpreso de Hogben's

"Una notación matricial para poblaciones mendelianas".

Al mismo tiempo, Haldane, Fisher y Wright estaban liderando un nuevo énfasis en los tratamientos científicos y

matemáticos. Estos tres sentaron las bases de un tratamiento matemático más preciso de las poblaciones y los genes

para crear el "período clásico de la genética de poblaciones". 35

Continuando con el trabajo técnico de antes, hicieron contribuciones a los estudios de endogamia, mutación y selección.

Haldane no utilizó ninguna notación nueva como lo hizo Shannon, sino que evaluó las frecuencias de los alelos y derivó

soluciones aproximadas de las fórmulas que crearon. Sewall Wright comenzó a usar estadísticas para derivar relaciones

entre diferentes genes

34 Hogben. 1933
35 Entrevista con Kaiser. 2001. El Dr. Kaiser es profesor asociado de biología en el MIT.

37
factores. Los artículos escritos por el trío tenían una aplicación mucho más directa en biología, basándose en datos experimentales. 36

Cálculos para encontrar la media y la varianza de distribuciones de alelos.

Reimpreso de "Alelos de autoesterilidad" de Wright.

Fueron estos mismos genetistas los que comenzaron a oponerse a la eugenesia principal. Personas como Hogben, que valoraban la

integridad científica, comenzaron a señalar fallas en el razonamiento eugenésico. Haldane, que también contribuiría mucho a las

matemáticas de la genética, fue un crítico vocal y señaló que "Da Vinci ... habría sido esterilizado en algunos estados de Estados Unidos

debido a ciertas anomalías". 37

Genética a principios de la década de 1940

A fines de la década de 1930, la eugenesia convencional ya no era popular. Se habían sacado a la luz los métodos cuestionables

de muchos eugenistas. Vannevar Bush, al convertirse en presidente de las Instituciones Carnegie de Washington, cerró la Oficina

de Registro de Eugenesia en 1940. Finalmente, el golpe mortal al campo llegó cuando se reveló que los nazis lo usaron para

justificar su genocidio.

Vannevar Bush, Claude Shannon y la genética

Fueron estos eventos recientes en el deterioro de la eugenesia convencional y el aumento de las aplicaciones matemáticas los que

probablemente inspiraron a Vannevar Bush a sugerir la genética a Shannon. Como se mencionó anteriormente, con solo el conocimiento

más básico del campo, Shannon presentó un manuscrito de notaciones algebraicas para su aprobación.

36 Kimura. 1968

38
Bush quedó tan impresionado por “la franqueza con la que obtuvo algunas relaciones bastante generales”. 38 que pidió el consejo

de colegas sobre la importancia del material. Entre las personas que buscó se encontraba Barbara Burks, de la Oficina de

Registro de Eugenesia en Cold Spring Harbor. El Dr. Burks había realizado investigaciones previas sobre el estudio de la

inteligencia y, por lo tanto, estaba fascinado con un enfoque tan novedoso del problema de la genética y la oportunidad de leer el

manuscrito, comentando que seguramente Shannon está dotado, tal vez para un muy alto grado.?? 39 Señaló algunos problemas en

el documento: gran parte del material ya se había descubierto, pero en general se acordó que el documento debería publicarse ya

que la metodología era única. Estos comentarios fueron transmitidos a Shannon por medio de Bush, quien escribió que "Los

resultados que obtienes son en su mayoría viejos, pero la forma de llegar a ellos es aparentemente nueva". Bush concluyó la

carta con el consejo de investigar la genética y un fuerte respaldo a la publicación inmediata. 40 Aunque trabaja en varios otros

proyectos simultáneamente dentro del departamento de Matemáticas (entre ellos, un trabajo sobre las matemáticas de los

circuitos de conmutación, el problema de la distorsión en las comunicaciones y su proyecto principal, la máquina para realizar

operaciones matemáticas simbólicas?), decidió revisar y luego, con la ayuda de Bush, publicar el material. 41

La asociación con el Dr. Burks se convirtió en un verano de investigación para Shannon en el laboratorio de genética de Cold Spring

Harbor. Allí, refinó sus ideas siendo "capaz de generalizar el método para tomar

37 Ibídem. pág. 147

38 Kimura. 1968.
39 Correspondencia de Burks a Bush. 10 de enero de 1938.
40 Correspondencia de Bush a Shannon. 27 de enero de 1939.
41 Correspondencia de Shannon a Bush. 16 de febrero de 1939.

39
atención de prácticamente todos los casos importantes, incluidos los factores vinculados y los alelos múltiples ". 42 El resultado de este trabajo fue

su tesis doctoral, titulada "Un álgebra para la genética teórica".

Ph.D. de Shannon

Su tesis resumió su nuevo método de representar información genética con estructuras matemáticas. Específicamente,

usó una notación de letras griegas con subíndices para representar poblaciones mendelianas y describió varias

operaciones que podrían realizarse en ellas. Con este marco básico en su lugar, procedió a probar teorías conocidas

sobre genética con operaciones matemáticas. Al igual que con su tesis de maestría, realizó este trabajo en aislamiento

virtual, refiriéndose solo a otros dos trabajos, los de Robbins y Hogben, que trataban de aplicaciones matemáticas más

simples a la genética. El Dr. Burks le había enviado referencias al trabajo de Haldane a través de Bush, pero Shannon

lo consideró irrelevante para sus estudios. En el trabajo de doctorado mencionó que "Dado que no se ha trabajado

previamente en las líneas algebraicas específicas indicadas en esta tesis, 43

Las ideas de Shannon fluyeron en líneas similares a las de la investigación actual en genética de poblaciones. Estaba usando las

matemáticas para estudiar cómo se propagaban las diferentes combinaciones de alelos a través de varias generaciones de reproducción.

Sin embargo, la forma en que lo hizo fue nueva. Un análisis interesante de su tesis por genetistas modernos señaló el Teorema 12 como

una idea única, que no se descubrió de forma independiente durante cinco a diez años. 44. Esta fue una extensión del Teorema 11, que el

propio Shannon sintió que era la pieza más importante. "Es la primera vez que se encuentra una expresión general para la descendencia

de una población después de n generaciones, bajo un sistema de apareamiento aleatorio

42 Correspondencia de Shannon a Bush. 18 de diciembre de 1939.

43 El resto de sus referencias fueron a textos básicos de genética.
44 Sloane y Wyner. 1993. Se formularon preguntas a los profesores Crow y Nagylaki, "expertos en genética de poblaciones".

40
considerando dos factores vinculados [sic] vinculados. "El teorema 11 cubría el caso de dos alelos, mientras que el teorema 12 proyectaba

resultados para tres. 45 Para Shannon, esto era matemáticamente trivial, mientras que para los genetistas, esta extensión era original.

Detalles algebraicos

En "Un álgebra para la genética teórica", el símbolo

Notación básica para una población.

representaba una población con dos loci de genes, los pares de hj e ik. La suma de dos poblaciones separadas equivalía a

simplemente combinarlas, mientras que la multiplicación cruzada se definía como la población infantil de los dos padres. Estas

definiciones formaron la base de su sistema algebraico.

Ecuación 11 en el Ph.D. de Shannon.

Lo usó en el Teorema 12 para describir los resultados de encontrar la composición genética de una enésima generación de consanguinidad de

una población parental con tres loci de genes. Este teorema fue el resultado de una ecuación que había derivado anteriormente en el artículo

que dio el resultado de cruzar dos poblaciones con tres genes

45 Correspondencia de Shannon a Bush. 8 de marzo de 1940.

41
loci. Shannon luego lo extendió para encontrar la expresión cuando n se acercaba al infinito. Mediante el uso de métodos matemáticos

de inducción, mostrando que el teorema era cierto para la primera generación, luego extendiéndolo a las n y las (n + 1) generaciones,

demostró su teorema:

Teorema 12 en el Ph.D. papel. Las tres imágenes anteriores son del Ph.D. de Shannon. tesis, almacenada en los Archivos del Instituto en el MIT.

En la expansión de su fórmula de población en una forma de serie, notó un paralelo interesante con su trabajo anterior, diciendo?

Esta serie es muy similar a la expansión de una función booleana en la lógica simbólica, y no solo arroja luz sobre la naturaleza

matemática de los símbolos que estamos usando, pero también es útil para fines computacionales. 46

46 Correspondencia de Shannon a Bush. 8 de marzo de 1940 ..

42
Análisis y comparación

Aunque Shannon derivó un nuevo teorema, la verdadera innovación en su trabajo fue la notación única. En lugar de realizar

investigaciones como los genetistas, que harían experimentos y luego derivarían fórmulas apropiadas, Shannon extrajo el

conocimiento común para lograr un conjunto básico de representación. Aquí, mostró nuevamente su interés en simplificar y

reducir los fenómenos de la vida real a términos matemáticos discretos. Había evolucionado la investigación hasta que se

"generalizó desde las primeras ideas que tuve sobre el tema" para incluir otros casos, como genes ligados y alelos múltiples. 47 En

Además, Shannon se basó en sus técnicas matemáticas anteriores en el cambio booleano para llegar a su tesis. Con este trabajo de

genética amplió sus aplicaciones a diferentes áreas, lo que luego afectaría a su otro trabajo. Roch, en su evaluación de la tesis,

argumentó que también le permitió profundizar su conocimiento de estadística y álgebra, lo que nuevamente ayudaría en su

investigación futura.

Un callejón sin salida

Aunque todos los que conocieron la tesis la consideraron original y emocionante, nunca hizo ninguna contribución al campo de la

genética y permaneció desconocida. Muchos factores contribuyeron a este resultado.

Primero, el artículo en sí nunca se publicó en una revista. Este hecho fue bastante desconcertante, ya que Vannevar

Bush y Barbara Burks insistieron firmemente en publicar. Bush escribió a Shannon después del primer borrador del

manuscrito: "Creo firmemente que esto debería pulirse un poco y luego publicarse. Me alegraría mucho, si así lo

desea, transmitirlo para su publicación. con mi endoso [sic], y para recomendar algún lugar donde pueda aparecer

correctamente "y advirtió además" No creo que deba esperar para examinar más problemas antes de hacer

47 Correspondencia de Shannon a Bush. 8 de marzo de 1940.

43
una publicación." 48 Bush incluso se puso en contacto con el departamento de matemáticas desde su nuevo puesto en las Instituciones Carnegie

"para asegurarse de que cuenta con una guía cuidadosa en este momento". 49 Burks también había sugerido la publicación periódica Genética como

un buen lugar para comenzar tal esfuerzo. 50 Antes de comenzar a trabajar en Cold Spring Harbor, Shannon tenía toda la intención de publicar.

Una vez completado el trabajo de doctorado, Bush envió una copia a varios colegas. Nuevamente, la respuesta fue muy

positiva. Reed pensó que el papel era "muy bueno". y que la notación con sus operaciones daba “un mecanismo muy

adecuado para abordar problemas hereditarios bastante complejos”. 51 Dunn, un estadístico del gobierno, también elogió

mucho el artículo. 52

A pesar de todo el estímulo, la publicación no se produjo. En algún lugar entre trabajar en su Ph.D. y su aceptación a la beca del

Consejo Nacional de Investigación, Shannon perdió interés en seguir adelante con el asunto y descuidó el artículo. Las razones

detrás de esto fueron tanto personales como profesionales. En ese momento, Shannon se acababa de casar con su primera esposa

y estaba muy ocupado instalándose en su nuevo hogar. Entre la relación y las prisas por completar su doctorado. requisitos, lo más

probable es que no haya tenido tiempo de organizar la publicación. Después de terminar su doctorado, Shannon había indicado su

deseo de trabajar en algo nuevo para su beca, en lugar de continuar con una vieja investigación. En el departamento de

matemáticas, había estado trabajando en varios otros problemas interesantes al mismo tiempo.

Esto incluyó sus ideas sobre el enfoque de la lente y la "distorsión". en

comunicación, en la que seguiría trabajando durante los próximos años para llegar a información

48 Correspondencia de Bush a Shannon. 27 de enero de 1939.

49 Correspondencia de Bush a Burks. 27 de enero de 1939.
50 Correspondencia de Burks a Bush. 30 de enero de 1939.
51 Correspondencia de Reed a Dunn. 9 de abril de 1940. Reed formaba parte del Departamento de Bioquímica de Johns Hopkins.

52 Correspondencia de Dunn a Bush. 19 de abril de 1940. Dunn era médico y jefe de estadística de estadísticas vitales en la oficina del censo. Estaba
tan impresionado por el artículo que le pasó una copia a Reed, quien entendía mejor las matemáticas aplicadas a la genética.

44
teoría. Todos los eventos descritos se combinaron para distraerlo de un trabajo terminado y descuidar su publicación.

Incluso si Shannon hubiera publicado el artículo, era muy poco probable que otros investigadores retomaran el trabajo. Burks le

había advertido a Bush que un trabajo tan original requería la atención continua de su “creador”. ya que "pocos científicos son

capaces de aplicar creativamente un método nuevo y poco convencional proporcionado por otra persona, al menos de su

propia generación". 53 Arbusto

le pasó este mensaje a Shannon, "Dudo mucho que su publicación resulte en un trabajo adicional de otros que usen su método,

ya que hay muy pocas personas en este campo general que probablemente lo hagan". El entorno en genética era

drásticamente diferente de los otros lugares de trabajo en los que se encontraba Shannon. Cuando Shannon trabajó en el

analizador diferencial, sus teorías tenían mucha relevancia para la ingeniería eléctrica y el diseño de circuitos. También estuvo

rodeado de personas que entendieron los aspectos técnicos así como las implicaciones de sus ideas. Lo mismo podría decirse

de su trabajo durante la guerra y en Bell Labs. Por el contrario, muchos genetistas carecían de una apreciación suficiente de las

matemáticas sin experimentación para poder impulsar su trabajo. y los matemáticos no estaban interesados en el problema de

la genética de poblaciones. Su tendencia a trabajar en soledad y su notoria timidez y modestia no hicieron más que exacerbar

el asunto.

Finalmente, otros eventos en el mundo probablemente sirvieron para terminar este estudio en genética. La Oficina de Registro de

Eugenesia (a la que pertenecía el Dr. Burks, su asesor) estaba en proceso de cierre por Vannevar Bush. Eso probablemente

introdujo mucho caos y distrajo a aquellos que podrían haber animado y ayudado a Shannon. Esta vez fue también el comienzo de

la Segunda Guerra Mundial, que

53 Burks to Bush, 20 de enero de 1939.

45
mostraría al mundo las profundidades a las que podría llegar la eugenesia, y que llamaría a Shannon al servicio de

matemática en criptografía.

46
Criptografía

Relación con la teoría de la información

Después de su beca en el Instituto de Estudios Avanzados en Princeton, fue a Bell Labs donde se estaba llevando a cabo la investigación pionera

en conmutación y circuitos. El enfoque de la nación se había desplazado de los esfuerzos puramente académicos a la investigación de defensa

debido a la Segunda Guerra Mundial. Como muchos otros investigadores en el mundo académico, Shannon fue reclutado para Bell Labs para

realizar una investigación que fue patrocinada en gran parte por la defensa del gobierno.

Mientras trabajaba en Bell Labs, estudió y contribuyó a los procesos de control de incendios y suavizado de datos. Los objetivos de esta

guerra eran más rápidos que nunca, por lo que disparar armas como el cañón antiaéreo M-9 era necesario para calcular con mayor

precisión la trayectoria de un avión a gran velocidad. Los avances en la tecnología para la guerra pusieron un énfasis aún mayor en la

comunicación, y el trabajo que Claude Shannon contribuyó formalmente en criptografía en Bell Labs se parece más a su trabajo de teoría

de la información que a su investigación de control de incendios y suavizado de datos. los

La guerra requería una cantidad inigualable de comunicación para coordinar

ataques multifacéticos, y era vital que esas comunicaciones

fueron mantenido secreto y ese enemigo

las comunicaciones se rompieron. De la Primera Guerra Mundial a la Guerra Mundial

II, el número de criptoanalistas aumentó de 400 a 16.000. Máquinas como la M-209

estaban descifrando códigos a una tasa promedio de 1 por cada 8 horas. Los patrones

clave fueron elaborados por cientos de soldados sentados en Arlington Hall.

El M-209 rompió varios sistemas de cifrado a una
velocidad de 1 cada 8 horas. El inventor y productor
de este dispositivo Bruce Hagelin se convirtió en el
primer millonario del campo de la criptografía.
Reimpreso de Kahn ?? s Los Codebreakers.

47
Estas máquinas eran simplemente extensiones físicas de la teoría actual de la criptografía. Desarrollando más estas teorías,

Claude Shannon dijo:

Bell Labs estaba trabajando en sistemas de confidencialidad. Trabajaba en sistemas de comunicación y

fui designado para algunos de los comités que estudian técnicas criptoanalíticas. El trabajo tanto en la

teoría matemática de las comunicaciones como en la criptografía avanzó simultáneamente desde

alrededor de 1941. Trabajé en ambos juntos y tuve algunas de las ideas mientras trabajaba en el otro.

No diría que uno vino antes que el otro, estaban tan juntos que no se podían separar. 54

La teoría de la información y la criptología estaban muy vinculadas y el trabajo de criptografía se presenta mucho en términos del

trabajo de teoría de la información. Gran parte del trabajo se completó para estos dos documentos en 1944, aunque se

perfeccionaron hasta que se publicaron en 1948 y 1949.

Un gran sector de la investigación de Claude Shannon involucró la idea de redundancia en el lenguaje. Un ejemplo de esto en el

idioma inglés es que la letra "q" siempre va seguida de una "u" y, por lo tanto, la "u" es redundante porque no contiene información

adicional. Además, la palabra "el" es a menudo información redundante y los telegramas omiten completamente la palabra.

Shannon demostró que si todas las letras en inglés fueran pronunciables o utilizables en cualquier combinación, entonces todas las

permutaciones de cuatro letras serían suficientes para 456,976 palabras (aproximadamente la cantidad de palabras en un diccionario

completo). Sin embargo, se dio cuenta de que si se usaba un lenguaje así, la verificación de errores sería difícil porque cualquier combinación

de letras sería una palabra aceptable. Solamente

54 Kahn, 1967.

48
las pistas de contexto dentro del párrafo u oración podrían revelar una palabra escrita por error. Una o dos letras incorrectas crearían una

palabra perfectamente utilizable.

Shannon se dio cuenta de que la redundancia es el principal motivo del criptoanálisis. Escribió: "En ... la mayoría de los

cifrados ... es solo la existencia de redundancia en los mensajes originales lo que hace posible una solución". Esto significaba

que un mensaje con menos redundancia tenía un criptograma que era más difícil de descifrar. Siguiendo esta teoría, Shannon

insistió en operar con texto que había pasado por un transductor para eliminar todas las redundancias. La parte más vital en

este proceso fue eliminar todas las vocales que no causaron múltiples definiciones al reconstruir el mensaje. Luego, los restos

deben reducirse tanto como sea posible antes del cifrado.

En el libro de Kahn, Los Codebreakers, afirmó, "Shannon ha logrado cuantificar la cantidad de material necesario para lograr una

solución única e inequívoca cuando el texto plano tiene un grado conocido de redundancia. Él llama al número de letras la 'distancia

de unicidad' ... Uno de los más interesantes Los usos de la fórmula del punto de unicidad son para determinar la validez de una

supuesta solución a un criptograma, especialmente una de las soluciones cuestionables, como las que se afirma están ocultas en las

obras de Shakespeare para demostrar que Francis Bacon las escribió ".

También es importante señalar que la prueba de Shannon llegó más tarde en la guerra. Para entonces, ya se había implementado

una gran cantidad de sistemas de cifrado y descifrado deficientes, lo que significaba que los mensajes no eran tan seguros como

podrían haber sido y se habían producido mensajes mal descifrados. Shannon se dio cuenta de que cuando alguien está tratando de

descifrar un mensaje, se ve envuelto en tratar de ver un patrón y, a menudo, eliminará o alterará las cosas para que puedan

comenzar a

49
vea el mensaje que esperan encontrar. Sus pruebas habrían eliminado varios de estos sistemas decodificados falsamente.

Shannon demostró cómo hacer que los criptogramas sean más difíciles de descifrar, así como la cantidad de texto cifrado que se

necesita para descifrarlo en el mensaje original. Shannon hizo la analogía de que "un sistema secreto es casi idéntico a un sistema de

comunicación ruidoso". Aunque esta fue una buena analogía, Shannon no se limitó a este modelo y señaló: "La principal diferencia en los

dos casos ... son: primero, que la operación de la transformación de cifrado es generalmente de una naturaleza más compleja que el

ruido perturbador en un canal; y, en segundo lugar, la clave para un sistema de secreto se elige generalmente de un conjunto finito de

posibilidades, mientras que el ruido en un canal se introduce más a menudo continuamente, en un efecto elegido de un conjunto infinito ".

Sistema Vernam

Shannon realizó un trabajo de criptografía patrocinado durante la guerra en Bell Laboratories, y él mismo señaló que la criptografía era

una forma muy respetada y formal para que él presentara varios de sus conceptos de teoría de la información. Su comprensión

matemática del tema de la criptología le permitió explicar los sistemas criptográficos. El sistema Vernam ampliamente utilizado fue una

abstracción matemática presentada por Shannon en un memo de Bell Lab. Pudo demostrar por qué el sistema era tan eficaz y, en

realidad, por qué era un sistema de "secreto perfecto".

El secreto perfecto significa que si el enemigo tiene algún conocimiento conocido del mensaje interceptado, no lo ayuda de ninguna

manera. El perfecto secreto del sistema Vernam se prueba mediante argumentos de probabilidad y un sistema de secreto análogo

para funciones continuas. Si uno supiera que un mensaje era originalmente en inglés, podría saber que la letra 'e' es la más común;

pero cuando el mensaje

50
está codificada utilizando un sistema de secreto perfecto, entonces esa información no les ayuda a descifrar el mensaje

De un análogo del sistema Vernam para series de tiempo continuas

La razón de esto es que un sistema de secreto perfecto no hace que ningún símbolo en el mensaje codificado sea más redundante que

cualquier otro. Shannon demostró su demostración usando un análisis probablilístico y declaró en su artículo, "Este teorema es una

simple consecuencia del teorema de Bayes en probablilites inversas, que establece que la probabilidad a posteriori de una" causa "A

cuando un" resultado "B es dada por

P segundo
(A) = P (A) P UN( B) P (B)

Teorema de Bayes

donde P (A) es la probabilidad a priori de A, P UN( B) es la probabilidad de B si se sabe que ha ocurrido A, y P (B) es la probabilidad de

B por cualquier causa. En nuestro caso, A es cualquier particular no codificado

51
mensaje, del mismo número de símbolos que el mensaje interceptado ". Este análisis matemático de un sistema físico fue un tema

recurrente en el trabajo de Shannon.

Enlace a la teoría de la información

La mayor contribución de los esfuerzos criptográficos de Shannon se refinó en su “Teoría de la comunicación de los sistemas secretos”. El

documento introdujo un modelo de sistemas de secreto que declara: "Un sistema de secreto se define de manera abstracta como un conjunto de

transformación de un espacio (el conjunto de todos los mensajes posibles) en un segundo conjunto (el conjunto de todos los criptogramas

posibles)". La mayor parte del trabajo de este documento se realizó al mismo tiempo que el trabajo para la teoría de la información. Se pueden

establecer similitudes entre los gráficos, las ilustraciones y las expresiones matemáticas que se encuentran en los documentos que escribió.

Figura 1 de La teoría matemática de la comunicación

Figura 1 de la teoría de la comunicación de los sistemas secretos

52
Ambos diagramas siguen la misma metodología para generalizar los componentes semánticos del problema en el mundo real. Los

diagramas de red y las matemáticas se pueden aplicar a cada uno de estos cuadros en el cuadro y el diagrama de flechas. Una vez que

Shannon había elaborado las matemáticas de las representaciones abstractas de cada uno de estos problemas de ingeniería,

reconstruiría o explicaría el sistema con sus nuevos conocimientos matemáticos.

Se puede ver que estos temas estaban intrínsecamente vinculados tanto en el tema como en los patrones de análisis utilizados por el Dr.

Shannon. Ambos estilos de diagramas no eran únicamente de Shannon, ya que otros memorandos de Bell Labs relacionados con las redes de

comunicación contenían diagramas similares. Muchas de las personas que trabajan con Shannon en criptografía también participaron en la

teoría de la información. En la publicación original de Shannon de un informe confidencial "Una teoría matemática de la criptografía" en 1945, la

lista de lectores incluye a Black, Nyquist, Bode y Hartley, todos conocidos como los pioneros de las comunicaciones y este gráfico se puede ver

a continuación.

Observe los famosos compañeros de investigación de Shannon que fueron los lectores de su trabajo principal en

el campo de la criptografía. La lista incluye a Black, Bode, Hartley y Nyquist.

53
Estilo de Shannon

La forma en que Shannon trabajaba y la forma en que interactuaba con los demás proporcionan una idea del tipo de hombre que era

y las motivaciones detrás de su trabajo. Como colaborador y asesor, eligió trabajar solo tanto como fuera posible, ya que era la mejor

manera de enfocar su pensamiento. Muchos de los que trabajaron con él describieron tener interacciones limitadas pero

increíblemente penetrantes que a menudo cambiaban su perspectiva. Esto se parecía mucho a su impacto en los campos en los que

trabajaba, ya que iba de campo en campo produciendo un trabajo mínimo, pero a menudo revolucionario. Sus intereses cambiantes

también se revelaron a través de sus actividades no profesionales.

En su trabajo, Shannon estaba únicamente interesado en examinar estas ideas conceptuales fundamentales, y esto se reveló en la forma

en que trataba a los estudiantes y colegas que buscaban sus consejos. Rara vez buscó la interacción con otros y con menos frecuencia

buscó la aplicación o el reconocimiento de su trabajo, demostrando una vez más su enfoque en la teoría. ¿La mejor manera de estudiar

esta parte de Shannon? un paso atrás de su trabajo y hacia la persona real que era? es hablar con las personas que lo conocieron. Sus

perspectivas no se relacionan realmente con una sección específica de su trabajo, sino que se relacionan con los temas más amplios que

este artículo ha desarrollado con respecto al trabajo de Shannon y la naturaleza de las revoluciones de la ingeniería.

Colaboración

"Era un solitario y le gustaba trabajar solo", dijo Betty Shannon. "No saldría de su camino para colaborar con otras

personas". 55 "No era alguien que escuchara a otras personas sobre en qué trabajar". dijo Fano. 56 Sus hábitos de trabajo no

eran ejemplares, dormía cuando tenía ganas de dormir. ya menudo pasaba horas en la mesa de la cocina reflexionando

sobre ideas, recuerda su esposa.

54
Shannon estaba tan concentrado en las teorías fundamentales que estaba considerando que le pediría a su esposa que mecanografiara los

resultados como él dictara. Como licenciada en matemáticas, la Sra. Shannon también ayudó en ocasiones a resolver las matemáticas más

simples involucradas en su trabajo. More también señaló que Shannon tendía a quedarse mucho tiempo en casa y recibir muchos visitantes,

especialmente el Dr. Marvin Minsky. 57

Mudarse a la casa realmente cambió la vida de Shannon, dijo More.

Cuando Shannon llegó al MIT como profesor, su reputación era tan

buena y tenía tanta demanda que todo su entorno cambió. "Estaba

realmente enaltecido", dijo More. "Él iba a ser la luminaria que guiaría al

departamento de ingeniería eléctrica hacia el futuro de la teoría de la

información". Shannon se encontró inmerso en un entorno que no era

propicio para un pensamiento de investigación cuidadoso. "A

The Tech, 7 de octubre de 1958 Como profesora del crear nuevas ideas, realmente necesita limitar la cantidad de
MIT, Shannon ocupó un cargo doble en
ciencias de la comunicación y matemáticas. información que ingresa ", dijo More." Hay momentos

cuando actúas como una aspiradora y aspiras todo, otras veces descartas todo y simplemente piensas ". Antes de llegar al MIT

como profesor, Shannon había adoptado este último enfoque, pero como dice More," se necesitaría una persona de una

disciplina casi inhumana "para haber continuado esto en su entorno en el MIT. Esto podría sugerir por qué el trabajo más

innovador de Shannon llegó tan temprano en su carrera.

55 Entrevista a Betty Shannon

56 Entrevista a Bob Fano
57 Entrevista a Trenchard Más

55
Asesoramiento

Como profesora en el MIT, Shannon aceptó a muy pocos estudiantes

como asesores. Su principal contacto con los estudiantes se produjo a

través de seminarios que impartía sobre teoría de la información. "Sus

charlas / conferencias eran perfectas, pero no le gustaba dar

conferencias. No daba un curso regularmente en el MIT", dijo Fano. 58 Shannon

Rara vez buscaba estudiantes, como sugieren un par de relatos de

sus asesores. William Sutherland fue uno de los Ph.D. de Shannon.
tesis aconseja. Sutherland
The Tech, 10 de abril de 1956 Sus numerosos seminarios y coloquios sobre teoría
de la información fueron la principal manera en que los estudiantes fueron
expuestos a Shannon, ya que él no enseñó muchos cursos ni aconsejó a muchos
estudiantes. Los coloquios motivaron a uno de sus pocos asesores, Henry Ernst, a
seguir trabajando con Shannon.

dijo que llegó a ser el asesor de Shannon en parte porque lo conocía de su visita a la escuela secundaria de Michigan y su

hermano mayor, Ivan, ya era uno de los asesores de Shannon. 59 Más y

El interés común de Shannon en la lógica matemática llevó a Shannon a servir como asesor de la tesis de maestría de More.

More estaba explorando el papel de la lógica matemática, la deducción natural y los cálculos preposicionales en la base de la

informática, pero Shannon terminó su papel como asesor de More después de la tesis de maestría, y decidió que no era su

interés.

El estilo de asesoramiento de Shannon fue coherente con su comportamiento en otras áreas. Sutherland dijo que para obtener

comentarios sobre su trabajo, tendría que visitar a Shannon en su casa de Winchester. Si bien nunca tuvo problemas para ponerse

en contacto con Shannon cuando lo deseaba, Henry Ernst describió su interacción como una "relación de brazos cruzados". 60 Según

Ernst, tanto Shannon como el Dr. Minsky no participaron en los detalles de la investigación y el desarrollo de Ernst de la mecánica

58 Entrevista a Bob Fano

59 Entrevista a William Sutherland
60 Entrevista a Henry Ernst

56
mano, más allá de proporcionar la inspiración inicial de acercar las computadoras a los humanos. A diferencia de su relación con William

Sutherland, quien describió tener que viajar a la casa de Shannon en Wincester para discutir su investigación, Shannon nunca hizo que

Ernst viajara a su casa y estuvo en el MIT al menos cada dos días durante los años que estuvo allí. A pesar de estas diferencias, las

relaciones de ambos asesores con Shannon reafirman su caracterización como un individuo independiente y remoto.

Es importante tener en cuenta la distinción entre estar físicamente fuera de contacto con el mundo y carecer de la capacidad

de interactuar con el mundo exterior. La falta de interacción descrita por los estudiantes que trabajaron con Shannon se

complementa con historias de tremendo interés en mejorar la experiencia humana. Shannon estaba profundamente

preocupado por las ideas fundamentales que forman nuestra comprensión del mundo y debe haber creído que la

exploración y el desarrollo de estas ideas solo era posible a través del pensamiento individual intenso. Sin embargo,

Shannon aparentemente no descartó la noción de comunicar sus ideas con el mundo exterior, ya que sus asesorados

siempre lo describieron como accesible. Ernst incluso recuerda un caso en el que Shannon entró espontáneamente en una

entrevista con PBS cuando Ernst no pudo participar. Sin preparación, Shannon pudo realizar la entrevista y explicar su

investigación a una amplia audiencia. Uno de los hilos comunes a lo largo de su trabajo y su estilo de trabajo siguió siendo

su interés en desarrollar teorías matemáticas relevantes para la experiencia humana.

El "gran gadgeteer"

Shannon era conocido por asumir muchos intereses que no tenían nada que ver con su trabajo profesional. El estudio de los

pasatiempos e intereses extracurriculares de Shannon revela más información sobre su peculiar estilo y motivación. Betty

Shannon describió a su esposo como teniendo una "división

57
personalidad ", porque tenía interés en comprender las cosas mecánicas y su funcionamiento, pero también en los

fundamentos teóricos de la ciencia y la ingeniería. 61

Según Vest, Shannon se interesó en la ingeniería cuando era niño cuando su padre le daba juegos de erectores para jugar y

aprender. 62 Los juegos de montadores aumentarían en complejidad año tras año. Su interés en la construcción y los aparatos

nunca disminuyó. La Sra. Shannon recordó con cariño los muchos intereses mecánicos que Shannon perseguía en su casa en

Wincester, MA. "Bueno, él acaba

"Él construyó varias máquinas, por supuesto", dijo. Una máquina que recordaba particularmente era un telesilla que llevaba a la

gente desde un porche trasero a lo largo de un largo recorrido hasta el lago detrás de la casa. La familia también hizo un viaje por el

país en un Volkswagon furgoneta convertida en caravana en 1957, visitando muchos de los parques nacionales del país. Siempre

estaba buscando "algún tipo de desafío", explicó su esposa. "Teníamos una casa muy informal, si había algo que nos interesaba, lo

hicimos."

Shannon tenía un gran sentido del humor y le encantaba construir cosas, recuerda Fano. 63 Un excelente ejemplo de la

combinación de estas cosas se ve en "The Ultimate Machine". - cuando se presionaba un botón, se abría y una mano mecánica se

acercaba lentamente al botón y lo presionaba nuevamente para cerrar la caja.

Shannon era conocido como un malabarista talentoso, y Vest recuerda haber visitado su casa en Wincester, MA y haber observado las

máquinas de malabarismo que Shannon había creado. Estas máquinas demostraron la mentalidad y la pasión de Shannon por integrar

la teoría matemática en todos los aspectos del mundo.

61 Entrevista a Betty Shannon

62 Entrevista a Charles Vest
63 Entrevista a Bob Fano

58
Vest señaló que, curiosamente, más del 50% de los miembros de la Asociación Estadounidense de Malabaristas son matemáticos.

Ernst recuerda que Shannon pasó una cantidad considerable de tiempo luchando con la teoría detrás del mercado de valores,

concluyendo que el arbitraje era la única forma verdadera de ganar dinero. Incluso en su trabajo con el mercado de valores, Shannon

trabajó de forma independiente, recordó Ernst. 64

Sutherland dijo que al llegar a la residencia del Dr. Shannon a menudo encontraba a Shannon absorto en uno de sus muchos

pasatiempos y recordaba específicamente haber interrumpido la práctica del oboe en más de una ocasión. sesenta y cinco El Dr. Sutherland

había conocido al Dr. Shannon cuando habló en su escuela secundaria de Michigan. Dijo que el Dr. Shannon les había mostrado su

proyecto de ratón y laberinto. En la misma línea, el Dr. Sutherland había señalado a Claude Shannon como un "gran artífice" y

mencionó los conocidos inventos de Shannon en su casa de Winchester.

Además de tener una intensa pasión por los malabares,

Sutherland también mencionó el interés de Shannon en correr; Shannon incluso había pensado en diseñar un arnés para devolver energía

a las piernas para correr.

Aunque no se pudo establecer un vínculo técnico entre su investigación y sus pasatiempos externos, "la conexión fue su sentido

del humor", dijo la esposa de Shannon. Shannon era ampliamente conocido por su sentido del humor, que era otro ejemplo de su

capacidad para mirar el mundo de formas únicas e interesantes. De hecho, el intenso interés y la creatividad que Shannon

demostró en sus proyectos en la casa se parecían mucho al estilo y la diversidad de sus primeras e innovadoras investigaciones.

En ambos casos, buscó tomar campos o entornos que aparentemente se entendían y llevarlos a un nivel completamente nuevo al

introducir un concepto revolucionario.

64 Entrevista a Henry Ernst

59
Aplicación de su trabajo

El propio Shannon dijo que realmente no le importaba si su investigación era útil o no. En una entrevista con una revista de 1984,

dijo: "Rara vez me interesan las aplicaciones. Estoy más interesado en la elegancia de un problema. ¿Es un buen problema, un

problema interesante?" 66 Simplemente trabajó en lo que le interesaba en ese momento. Su esposa también recordó este

elemento definitorio de su estilo. "Una vez que terminó con algo, terminó con eso", dijo la Sra. Shannon.

En la misma entrevista, se le preguntó a Shannon sobre los detalles del anti-jamming y el peor ruido posible. Respondió:

Bob, creo que le atribuyes un propósito un poco más práctico a mi pensamiento que realmente existe. Mi

mente divaga y concibo diferentes cosas día y noche. Como un escritor de ciencia ficción, estoy

pensando '¿Y si fuera así?' O '¿Existe un problema interesante de este tipo?' Y no me importa si alguien

está trabajando en ello o no. Por lo general, es solo que me gusta resolver un problema y trabajo en esto

todo el tiempo. 67

"Por extraño que parezca, no creo que ni siquiera se diera cuenta de en qué se convirtió", dijo Betty Shannon sobre el concepto de su

esposo sobre el impacto de su investigación. "Eso fue lo más lejano de su mente - sobre todo no prestó atención al mundo exterior". 68 Shannon

no estaba muy familiarizado con la explosión de las computadoras personales y el nacimiento de la era digital, dijo su esposa. La familia

tenía computadoras en la casa, pero para entonces Shannon había sido víctima de la enfermedad de Alzheimer y su interés por la

tecnología.

sesenta y cinco Entrevista a William Sutherland

66 Price, Robert. Entrevista con IEEE Communication Journal, 1984.
67 Ibídem.
68 Entrevista a Betty Shannon

60
se había ido para entonces. Estuvo en casa hasta 1993. Si hubiera estado al tanto del estado actual de la tecnología, "se habría quedado

absolutamente asombrado con las computadoras", dijo la Sra. Shannon.

Premios y reconocimientos

Shannon nunca estuvo particularmente interesado en los premios o

reconocimientos que recibió. La popularidad que había alcanzado

cuando regresó al MIT no parecía ser algo que hubiera buscado o

disfrutado. "Era un tipo muy modesto", dijo su esposa. "Recibió muchos

premios, pero nunca se le subieron a la cabeza y nunca habló de

ellos". La Sra. Shannon está segura de que el reconocimiento significó

algo para Shannon, pero él simplemente no era el tipo de persona que

lo deja claro. Hacia el final de

su vida ", [su eminencia] comenzaba a amanecer en el The Tech, 3 de octubre de 1972 El impacto de
El histórico artículo de Shannon de 1948 continuó desarrollando

familia un poco, pero no preveía estatuas de Claude por todas partes reconocido ya que ganó el primer premio Harvey por
una teoría que tenía una importancia primordial en la comunicación,

", dijo la Sra. Shannon." Simplemente no pensamos en todas las disciplinas que involucran
el problemas de significado,
lenguaje y conceptos relacionados.

esos términos - era solo papá en nuestra casa ". 69

El bajo perfil de Shannon y su falta de voluntad para buscar el centro de atención popular continuaron a lo largo de su carrera. De hecho, el Dr.

Vest conoció a Shannon por primera vez en un evento para ex alumnos en la Universidad de Michigan, cuando el decano de ingeniería vio a un

hombre con una etiqueta con su nombre que decía "Claude Shannon" y quiso saber si era " los Claude Shannon ". Envió al entonces decano

asociado de ingeniería Vest para explorar,

69 Entrevista a Betty Shannon

61
y después de una conversación se determinó que esto era, de hecho, " los Claude Shannon ". 70 Dado el impacto extraordinario que

tuvo la investigación de Shannon en el mundo, su familiaridad popular era asombrosamente baja. Esto era bastante representativo de

su estilo de trabajo, ya que estaba increíblemente dedicado a perseguir sus teorías matemáticas, pero le importaban poco los

aspectos populares de promover sus ideas, ganar reconocimiento mundial y perseguir la aplicación práctica de su trabajo.

70 Entrevista a Charles M. Vest

62
Conclusión

Estudiar la obra de Claude Shannon no solo proporciona una visión del hombre mismo, sino también de la naturaleza misma de las

revoluciones de la ingeniería. ¿El impacto del trabajo de Shannon en ciertas áreas? cambio de teoría y teoría de la información? es

ampliamente divulgado y reconocido. Sin embargo, un examen más detenido del contexto de cada uno de estos trabajos, así como el

trabajo que no tuvo el mismo impacto en su campo ni recibió la misma atención, muestra que había una calidad mucho más profunda

en el trabajo de Shannon. Como lo describió su esposa, "cuando estaba trabajando en una teoría, estaba pensando en cosas que eran

hermosas matemáticamente". 71

La doble experiencia de Shannon en matemáticas y

la ingeniería le permitió mirar el mundo de una manera única, buscando la base conceptual de cada problema que

enfrentó. Demostró el poder de revertir la relación comúnmente vista de la ingeniería como simplemente una ciencia

aplicada y, en cambio, comenzó con problemas de ingeniería y buscó el núcleo científico conceptual. La esencia de la

contribución de Shannon a la comunidad científica y al mundo fue verdaderamente su estilo de trabajo y su devoción por

la abstracción.

Los primeros trabajos de Shannon también demuestran que hay muchos elementos necesarios para una revolución de

la ingeniería. Si bien muchos ven su trabajo como revolucionario y el catalizador para la creación de múltiples campos,

hay muchos factores que contribuyeron a su impacto. Primero, el nivel de tecnología en el campo debe estar listo para

progresar. La razón por la que el trabajo de Shannon tuvo tal impacto en ciertos campos y no en otros se debió en parte

al trabajo previo realizado en cada campo y a la necesidad, capacidad e interés de avanzar en el momento de su

trabajo. Shannon también demostró que, si bien el pensamiento innovador está en el centro de una revolución de la

ingeniería, no siempre tiene que estar relacionado específicamente con el campo, o producido por alguien con una

carrera de experiencia en el campo.

63
El tiempo fue lo que la llevó a revolucionar el campo. La visión de una revolución es el producto de muchos innovadores, con un

fuerte ejemplo en este caso de Vanneuvar Bush. Bush pudo reconocer la esencia de las habilidades de Shannon y guiarla de una

manera que tendría un impacto profundo en el mundo. Otro elemento clave en una revolución de la ingeniería es la voluntad de

líderes como Bush de aceptar el cambio y que los miembros del campo estén listos para promover el cambio. El trabajo de

Shannon se promovió tanto social como tecnológicamente gracias al esfuerzo de muchos de sus colegas. De hecho, si Shannon

hubiera vivido en otra época, es muy posible que hubiera sido aclamado como el padre de otra época.

71 Entrevista a Betty Shannon

64
Referencias
Algunas fuentes aquí estaban originalmente en alemán y fueron traducidas por las herramientas de idioma en línea de Google en
<http://www.google.com/language_tools>. Los autores realizaron las modificaciones con la ayuda del diccionario en línea en
<http://dict.leo.org>.

Correspondencias
Burks, Barbara. Correspondencias a Vannevar Bush. Enero de 1939. Colección Vannevar Bush, División de Manuscritos,
Biblioteca del Congreso.

Bush, Vannevar.
- Correspondencias a Barbara Burks. Enero de 1939. Colección Vannevar Bush, División de Manuscritos, Biblioteca del
Congreso.

- Correspondencias a Claude Shannon, diciembre de 1938 a julio de 1940. Biblioteca del Congreso Colección
V. Bush.

- Correspondencias ay desde Warren Weaver, 33 de enero al 10 de marzo de 1934. AC233, carpeta 16 en MIT
Archives.

- Correspondencias a EBWilson. 10 de junio de 1932. Bush Manuscript Collection, MIT Institute Archives. AC233,
carpeta 16. 15 de diciembre de 1938. Colección Vannevar Bush, Colección Manuscript, Biblioteca del Congreso.

Dunn, Halbert L. Correspondencia a Vannevar Bush. 19 de abril de 1940. Colección Vannevar Bush, División de Manuscritos,
Biblioteca del Congreso.

Reed, Lowell J. Correspondencia a Halbert Dunn. 9 de abril de 1940. Colección Vannevar Bush, División de Manuscritos,
Biblioteca del Congreso.

Shannon, Claude E.
- Correspondencias a Vannevar Bush. Diciembre de 1938 a julio de 1940. Colección Vannevar Bush, División de
Manuscritos, Biblioteca del Congreso.

- Correspondencia a Norbert Wiener. 13 de octubre de 1948. Archivos del Instituto MIT. MC22, caja 6: carpeta 85.

Wiener, Norbert. Correspondencia a Claude E. Shannon. Sin fecha. Archivos del Instituto MIT. MC22, caja 6: carpeta 85.

Entrevistas
Ernst, Henry. Entrevista el 27 de noviembre de 2001. Fano, Robert

Entrevista el 1 de noviembre de 2001. Gallagher, Robert. Entrevista el 20

de noviembre de 2001. Kaiser, Chris. Entrevista el 29 de noviembre de

2001. Más, Trenchard. Entrevista del 28 de noviembre de 2001.

sesenta y cinco
Sutherland, William. Entrevista del 27 de noviembre de 2001. Shannon, Elizabeth

(Betty). Entrevista el 30 de noviembre de 2001. Vest, Charles M. Entrevista el 29 de

noviembre de 2001.

Publicaciones
Aspray, William. "Información: una encuesta". Anales de la historia de la informática, Volumen 7, 1985.

Astola, Jaakko, Radomir S. Stankovic, Tsutomu Sasao. Publicaciones en los primeros veinte años de la teoría de la conmutación y
el diseño lógico. Visto en 2001 en
<http://sigwww.cs.tut.fi/TICSP/Publications/report14.htm>.

"Biografía de AT&T Research Claude Shannon". Consultado en 2001 en

<http://www.research.att.com/~njas/doc/ces5.html>.

Blackman RB; Bode HW, Shannon CE "Suavizado de datos y predicción en sistemas de control de incendios". Papeles no
recolectados de Claude Shannon.

Brumbaugh, Robert. "El manuscrito más misterioso". Carbondale: Prensa de la Universidad del Sur de Illinois, 1978.

"Calendario de eventos". The Tech: Periódico de los estudiantes universitarios del Instituto de Tecnología de Massachusetts.
Vol 76:33, 10 de abril de 1956.

"Estudiante graduado gana premio noble en investigación matemática". The Tech: Periódico de los estudiantes universitarios del Instituto de
Tecnología de Massachusetts. Vol 60: 1, 6 de febrero de 1940.

Hagemeyer, Friedrich W. La aparición de la teoría de la información en la ingeniería de comunicaciones. 1979. Consultado en 2001
en <http://www.radiobremen.de/online/hagemey/hag.htm>.

Hartley, RVL "Transmisión de información". Revista técnica de Bell System, 1928.

Hogben, L. "Una notación matricial para poblaciones mendelianas". Actas de la Royal Society of Edinburgh. Vol 53, 1933.
Pgs 7 - 25.

Archivo de imágenes sobre el movimiento eugenésico estadounidense. Consultado en 2001 en

<http://vector.cshl.org/eugenics/>.

Jennings, HS "Resultados numéricos de diversos sistemas de mejoramiento". Genética. Vol. 1, 1916. Princeton: Princeton
University Press. Pág. 53.

Kay, Lily. Quién escribió el libro de la vida ? Stanford: Stanford University Press, 2000. Kevles, Daniel J. En el nombre de la

eugenesia . Cambridge: Harvard University Press, 1985, 1995.

66
Khan, David. Los Codebreakers. Nueva York: Macmillan, 1967.

Kimura, Motoo. "Contribuciones de Haldane a las teorías matemáticas de la evolución y la genética de poblaciones". Haldane y
biología moderna. Ed. Dronamraju, KR Baltimore: Johns Hopkins Press, 1968. Páginas 133 - 140.

Lewand, Robert, "Matemáticas criptológicas". Sociedad Matemática de América, 2000.

Instituto de Tecnología de Massachusetts, Ejercicios de graduación, promoción de 1936. 1936.

Instituto de Tecnología de Massachusetts, Ejercicios de graduación, promoción de 1937. 1937.

Instituto de Tecnología de Massachusetts, Ejercicios de graduación, promoción de 1940. 1940.

"Shannon to Donner Science Chair". The Tech: Periódico de los estudiantes universitarios del Instituto de Tecnología de Massachusetts. Vol
78:33, 7 de octubre de 1958.

"Shannon gana Harvey por teoría de la información". The Tech: Periódico de los estudiantes universitarios del Instituto de Tecnología de
Massachusetts. Vol 92:36, 3 de octubre de 1972.

?? Simposio Vannevar Bush en el MIT ?? Visto en 2001 en < http: //www.histech.rwth-

aachen.de/www/quellen/bush/photos.htm >.

Waldrop, M. Mitchell. “Claude Shannon: padre renuente de la era digital”. Visto en 2001 en
<http://www.technologyreview.com/magazine/jul01/waldrop.asp>.

Mindell, David.
- Datum para su propia aniquilación. MIT Ph.D. tesis para STS, 1996. MIT Institute Archives.

- ?? Analizador diferencial MIT. ?? Consultado en 2001 en

<http://web.mit.edu/mindell/www/analyzer.htm>

Nyquist, H. "Ciertos factores que afectan la velocidad del telégrafo". Revista técnica de Bell System, 1924.

Owens, Larry. El texto y el contexto de una computadora primitiva: Vannevar Bush y el analizador diferencial.
Princeton, 1984.

Pearson, Karl. "Una contribución matemática a la teoría de la evolución, sobre una teoría generalizada de la herencia alternativa, con
especial referencia a las leyes de Mendel". Transacciones filosóficas de la Royal Society de Londres. Vol. 203 A, septiembre de 1904.
Londres: Harrison & Sons. Páginas 53 - 86.

Povarov, Gelliy N. "Las primeras máquinas lógicas rusas". Visto en 2001 en < http://www.taswegian.com/TwoHeaded/PartI5.htm
>.

Price, Robert. "Una conversación con Claude Shannon". Revista de comunicaciones de IEEE, Mayo de 1984.

Robbins, RB "Algunas aplicaciones de las matemáticas a problemas de reproducción". Genética. Vol. 2, 1917. Princeton: Princeton
University Press. Páginas 489 - 504.

67
Roch, Axel. "Evaluación de 'Un álgebra de genética teórica' de Claude Shannon". Consultado en 2001 en
<http://waste.informatik.hu-berlin.de/MTG/archiv/1_roch.htm>.

Shannon, Claude E.
- Álgebra de genética teórica. MIT Ph.D. tesis, Departamento de Matemáticas, 1940. Archivos del Instituto MIT.

- Análogo del Sistema Vernam para Series de Tiempo Continuo. Memorandum Bell Laboratories, 1943. reimpreso en Claude
Elwood Shannon: artículos recopilados. Nueva York: IEEE Press, 1993.

- “Teoría de la comunicación de los sistemas secretos”. Revista técnica de Bell System, julio
1948, pág. 379; Octubre de 1948, p623. Reimpreso en Claude Elwood Shannon: artículos recopilados. Nueva York: IEEE Press,
1993.
- "Pensamiento creativo". Claude Elwood Shannon: Escritos varios. Centro de Investigación en Ciencias Matemáticas, ATT.
1993.

- "Una teoría matemática de la comunicación". Revista técnica de Bell System, Julio y octubre
1948. Reimpreso en Claude Elwood Shannon: artículos recopilados. Nueva York: IEEE Press, 1993.
- Análisis simbólico de circuitos de conmutación y relés. Departamento de Ingeniería Eléctrica del MIT MS
1938. Archivos del Instituto MIT.

Shannon, Claude E. y Weaver, Warren. La teoria matematica de la comunicacion. Urbana: Prensa de la Universidad de
Illinois. 1949.

Sloane, NJA y Wyner, Aaron D. "Notas de la parte C, un álgebra para la genética teórica".
Claude Elwood Shannon: artículos recopilados. Nueva York: IEEE Press, 1993. Pgs 921 - 922.

Sturtevant, AH y Beadle GW Introducción a la genética. Nueva York: Dover Publications, Inc.,

1962, 1939. Págs. 358 - 365.

Wright, Sewall. "La distribución de alelos de autoesterilidad en poblaciones". Genética. Vol. 5, 1939. Pgs 538-541.

68