Computadores e Inteligencia

A.M. Turing, Computing Machinery and Intelligence

1. El Juego de la imitación

Me propongo examinar la siguiente cuestión: "¿Pueden pensar las máquinas?".

Deberíamos empezar con definiciones acerca del significado de los términos "máquina"
y "pensar". Las definiciones podrían ser elaboradas para reflejar, lo mejor posible, el uso
normal de las palabras, pero tal posición es peligrosa. Si quisiéramos encontrar el
significado de las palabras "máquina" y "pensar" examinando cómo suelen ser
empleadas dichas palabras, sería difícil escapar a la conclusión de que habría que buscar
el significado y la respuesta a la pregunta: "¿Pueden pensar las máquinas?", en una
indagación estadística, a la manera de las encuestas de Gallup. Pero esto es absurdo. En
vez de intentar tal definición, sustituiré la pregunta por otra que está estrechamente
vinculada con ella y es expresada en palabras relativamente claras.

La nueva forma del problema puede ser definida en función de un juego que llamamos
"juego de la imitación". Se juega con tres personas, un hombre ( A), una mujer ( B) y un
interrogador ( C), que puede ser de uno u otro sexo. El interrogador se queda en un
cuarto, separado de los otros dos. Para él, el objetivo del juego es determinar cuál de los
otros dos es el hombre y cuál la mujer. Los conoce por los signos X e Y, y al final del
juego puede decir: " X es A e Y es B", o bien: " X es B e Y es A". El interrogador puede
hacer preguntas a A y a B de la manera siguiente:

C: Que diga X cuán largo tiene el pelo.

Supongamos que X es en realidad A. En este caso, A tiene que responder. El fin de A en

el juego es tratar de lograr que C haga una identificación incorrecta. Por lo tanto, su
respuesta podría ser la siguiente: "Me cortaron el pelo y mis cabellos más largos tienen
aproximadamente veinte centímetros".

Para que el tono de la voz no ayude al interrogador, las respuestas deberían ser escritas.
Lo ideal sería que un teleimpresor estuviera en comunicación con ambos cuartos. La
pregunta y las respuestas pueden ser alternativamente repetidas por un intermediario. El
objeto del juego para el tercer jugador ( B) es ayudar al interrogador. La mejor estrategia
para ella, probablemente será contestar la verdad. Puede añadir a sus respuestas cosas
como: "Yo soy la mujer, ¡no le crea a él!".

Eso, sin embargo, no adelantará nada, porque el hombre puede formular observaciones
semejantes.

Ahora preguntamos: "Qué pasaría si una máquina tomara el papel de A en este juego?".
¿Decidirá el interrogador equivocadamente con igual frecuencia, si el juego se
desarrolla de esta manera, que como cuando es jugado por un hombre y una mujer?
Estas preguntas sustituyen la nuestra anterior: "¿Pueden pensar las máquinas?".
2. Crítica del nuevo Problema

Al igual que preguntar: "¿Cuál es la respuesta a esta nueva forma de la pregunta?",

podríamos preguntar: "¿Vale la pena investigar esta nueva pregunta?". Esta última
pregunta la examinamos sin más rodeos, cortando así un regreso sin fin.

El nuevo problema tiene la ventaja de trazar una línea bastante bien definida entre las
capacidades físicas e intelectuales del hombre. Ningún ingeniero o químico alega que es
capaz de producir un material indistinguible de la piel humana. Es posible que un día
sea posible hacer esto, pero incluso si tal invención fuese asequible, pensaríamos que
tendría poco sentido tratar de hacer una "máquina que piensa" más humana, cubriéndole
con un tejido artificial de este tipo. La forma en que hemos planteado el problema
refleja este hecho en la condición que impide al interrogador ver o tocar a los demás
competidores o escuchar sus voces. Algunas otras ventajas del criterio propuesto
podrían ser demostradas con los siguientes ejemplos y contestaciones:

P: Escríbame un soneto sobre el tema del Puente de Forth, por favor.

R: No cuente conmigo en este caso. Nunca he sabido escribir poesía.

P: Sume 34957 a 70764.

R: (Pausa de aproximadamente treinta segundos. Después, la contestación) 105721.

P: ¿Juega usted al ajedrez?

R: Sí.
P: Tengo R en mi R1 y ninguna otra pieza. Usted tiene solamente R en R6 y T en T1. Le
toca jugar. ¿Cómo jugará?
R: (Después de una pausa de quince segundos). T-T8 mate.

El método de la pregunta y contestación parece ser conveniente para introducir casi

cualquiera de las esferas de la actividad humana que queremos incluir. No queremos
castigar a la máquina por su incapacidad de brillar en competencias de belleza, ni
castigar a un hombre porque pierde una carrera contra un avión. Las condiciones de
nuestro juego ponen esas incapacidades fuera de lugar. Los "testigos", si lo consideran
oportuno, pueden jactarse cuanto quieran de sus encantos, fuerza o heroísmo, pero el
interrogador no puede pedir demostraciones prácticas.

El juego podría, tal vez, ser criticado en el sentido de que la máquina tiene que luchar
contra una fuerza demasiado superior. Si el hombre tratara de fingir que él es la
máquina, evidentemente haría un mal papel. Sería descubierto inmediatamente por su
lentitud e inexactitud en la aritmética. ¿No es posible que las máquinas realicen algo
que debería ser definido como pensamiento, pero que es muy diferente de lo que hace
un hombre? Esta objeción es muy fuerte. Sin embargo, por lo menos podemos decir que
si, no obstante, es posible producir una máquina que pueda jugar satisfactoriamente el
juego de la imitación, no necesitamos preocuparnos de esta objeción.

Se podría recomendar que la mejor estrategia para la máquina en el "juego de la

imitación" podría ser, tal vez, otra cosa que la imitación de la conducta de un hombre.
Eso es posible. Yo pienso, sin embargo, que es poco probable que haya algún gran
efecto de este tipo. De todas maneras, no tenemos la intención de investigar la teoría del
juego aquí. Vamos a suponer que la mejor estrategia es tratar de dar las mismas
respuestas que serían dadas por un hombre.

3. Las máquinas que intervienen en el juego

La cuestión que planteábamos en la sección 1 carece de precisión si no especificamos

qué entendemos por el término “máquina”. Es lógico que deseemos que nuestras
máquinas estén dotadas de cualquier tipo de ingeniería mecánica. Del mismo modo que
aceptamos la posibilidad de que un ingeniero o un equipo de ingenieros construya una
máquina que funcione, pero cuya modalidad operacional no pueden describir
satisfactoriamente sus constructores porque se han servido de un método
fundamentalmente experimental. Finalmente, excluiremos de la categoría de máquinas
a las personas nacidas del modo habitual. Es difícil adaptar las definiciones de modo
que cumplan estos tres requisitos. Se puede insistir, por ejemplo, en que el equipo de
ingenieros sea de un solo sexo, lo cual no sería satisfactorio, ya que probablemente se
puede crear un individuo completo a partir de una simple célula epidérmica de un
hombre (pongamos por caso). Esto sería una proeza de biogenética merecedora de
máxima admiración, pero no por ello la calificaríamos de «construcción de máquina
pensante». Esto nos obliga a descartar el requisito de permitir cualquier tipo de técnica,
y con mayor razón dado que el interés actual por las «máquinas pensantes» se ha
suscitado gracias a un tipo particular de máquina, generalmente denominada
«computadora electrónica» o «computadora digital». Con arreglo a esto, sólo
permitiremos que tomen parte en el juego las computadoras digitales.

A primera vista esta limitación parece muy drástica, pero intentaré demostrar que no es
así. Para ello es necesario un breve resumen sobre la naturaleza y las propiedades de
estas computadoras.

Podría también aducirse que esta identificación de las máquinas con las computadoras
digitales, al igual que nuestro criterio sobre el término «pensar», son insatisfactorias si
(en contra de lo que creo) resulta que las computadoras digitales son incapaces de hacer
un buen papel en el juego.

Existen ya varias computadoras operacionales, y es lógico que se diga: «¿Por qué no

realizar el experimento ahora mismo? No resultaría difícil cumplir los requisitos del
juego. Se pueden utilizar varios preguntadores, compilando unas estadísticas para com-
probar cuántas veces se produce la identificación correcta». La respuesta inmediata es
que no se trata de plantearse si todas las computadoras digitales actuarán bien en el
juego, ni de si las actuales computadoras actuarán bien, sino de si existen computadoras
imaginables que actúen bien. Pero esto es sólo la respuesta inmediata, más adelante
consideraremos la cuestión bajo otra perspectiva.

4. Computadoras Digitales

Podemos explicar el concepto de computadoras digitales diciendo que son unas

máquinas ideadas para realizar cualquier tipo de operación propia de un computador
humano. El computador humano sigue unas reglas determinadas sin opción a desviarse
de ellas bajo ningún concepto. Supongamos que esas reglas figuran en un libro que
cambia cada vez que el computador acomete un nuevo trabajo. Dispone también de una
cantidad ilimitada de papel para efectuar cálculos y hace las multiplicaciones y sumas
pertinentes con una «máquina de bolsillo», pero esto no tiene importancia.

Si utilizamos como definición la anterior explicación, corremos el riesgo de caer en una

argumentación circular. Para evitado, esbozaremos los medios con los que se logra el
efecto deseado. Suele considerarse que una computadora digital consta de tres partes:

a) almacenamiento
b) unidad procesadora
c) control

El almacenamiento es el acopio de información y corresponde al papel sobre el que se

efectúa la computación humana, ya sea el papel en que la persona realiza los cálculos o
aquél en el cual está impreso el libro de reglas. Del mismo modo que el computador
humano efectúa sus cálculos con su cabeza, parte del almacenamiento corresponde a la
memoria de la máquina.

La unidad procesadora es el sector que realiza las distintas operaciones de cálculo. La

naturaleza de estas operaciones varía de una máquina a otra. Generalmente pueden
efectuar operaciones bastante largas, tales, como «Multiplicar 3540675445 por
7076345687», pero en algunas máquinas sólo pueden llevarse a cabo operaciones muy
simples, tales como «Escribe O».

Hemos mencionado que el «libro de reglas», de que se vale el computador, se sustituye

en la máquina por una parte del almacenamiento. Esta se denomina «tabla de
instrucciones». Corresponde al control comprobar que las instrucciones se sigan
correctamente y en su debido orden. El control está construido de tal manera que es
infalible.

La información almacenada suele estar dividida en paquetes de tamaño relativamente

modesto. En una máquina concreta, por ejemplo, el paquete puede constar de diez
dígitos decimales. Se asignan números a las partes del almacenamiento en que se guar-
dan los diversos paquetes de información, con arreglo a una modalidad sistemática. Un
ejemplo de instrucción corriente 'podría ser: «Suma la cifra almacenada en la posición
6809 a la situada en la 4302 y devuelve el resultado de la última posición de al-
macenamiento». Ni que decir tiene que la operación no se desarrolla en la máquina
expresada de este modo, sino que se lleva a cabo siguiendo una codificación como
6809430217. La cifra 17 indica cuál de las posibles operaciones hay que efectuar con
las dos cifras. En cuyo caso la operación es la anteriormente descrita: «Suma la cifra...».
Se advertirá que la instrucción consta de diez dígitos y, por lo tanto, constituye
exactamente un paquete informativo. El control suele captar las instrucciones a seguir
en el orden de posición en que están almacenadas, aunque a veces pueda surgir una
instrucción comO ésta: «Sigue ahora la instrucción almacenada en la posición 5606 y
continúa», o bien: «Si la posición 4505 contiene O, sigue la instrucción almacenada en
6707; en caso contrario continúa».
Las instrucciones de este tipo son muy importantes porque permiten la repetición de una
secuencia de operaciones una y otra vez hasta que se cumple un determinado requisito,
pero, al hacerlo, la máquina sigue en cada repetición, no nuevas instrucciones, sino las
mismas indefinidamente. Recurramos a una analogía casera: supongamos que mamá
desea que Tommy pase por el zapatero cada mañana camino del colegio para ver si han
arreglado sus zapatos; puede decírselo cada mañana, o puede dejar una nota permanente
en el vestíbulo para que el niño la vea al salir y recuerde que tiene que pasar por el
zapatero, y luego, al volver, si trae los zapatos, rompa la nota. El lector debe aceptar
como un hecho la construcción de computadoras digitales que, efectivamente, se han
construido con arreglo a los principios expuestos y que realmente mimetizan con gran
fidelidad los actos de un computador humano.

El libro de reglas que, según hemos señalado, utiliza el computador humano es,
naturalmente, una ficción convencional. Los computadores .humanos recuerdan en
realidad lo que tienen que hacer. Si queremos hacer una máquina que mimetice el
comportamiento de un computador humano en operaciones complicadas, hay que
preguntarle a éste cómo lo hace y luego transferir la respuesta en forma de tabla de
instrucciones. La elaboración de tablas de instrucciones suele denominarse
«programación». La «programación de una máquina para que efectúe la operación A»
significa insertar en la máquina la tabla de instrucción adecuada para que lleve a cabo A.

Una variante interesante de la idea de computadora digital es la «computadora digital

con un elemento aleatorio». Estas máquinas disponen de instrucciones en las que
interviene un dado o un proceso electrónico equivalente; una instrucción de este tipo
puede ser, por ejemplo: «Arroja el dado y almacena la cifra resultante en 1000». A veces
se las denomina máquinas de libre voluntad (aunque personalmente yo no utilice esta
expresión). Normalmente no se puede determinar por simple observación de la máquina
si ésta posee un elemento aleatorio, ya que se logra un efecto similar con dispositivos
cuya elección depende de los dígitos de los decimales de pi.

La mayoría de las computadoras digitales poseen un almacenamiento finito, aunque no

existe dificultad teórica en la concepción de una computadora de almacenamiento
ilimitado. Naturalmente, sólo podría utilizarse una parte finita de cada fase. De igual
modo se habría podido construir una cantidad finita, pero cabe imaginar que
sucesivamente fueran añadiéndose otras. Estas computadoras presentan especial interés
teórico y las denominaremos computadoras de capacidad infinita.

El concepto de computadora digital es antiguo. Charles Babbage, profesor de

matemáticas en la Universidad de Cambridge entre 1828 y 1839 concibió una a la que
denominó Máquina Analítica, pero no la terminó. Aunque Babbage expuso los
principios fundamentales, la máquina no representaba en aquella época gran interés. Su
rapidez habría sido mucho mayor que la de un computador humano, pero unas 100
veces inferior a la de la máquina de Manchester, que a su vez es una de las máquinas
modernas más lentas. El almacenamiento era puramente mecánico y se efectuaba por
medio de ruedas y tarjetas.

El hecho de que la Máquina Analítica de Babbage estuviera concebida de forma

totalmente mecánica nos ayudará a despejar cualquier superstición. Muchas veces se
atribuye importancia al hecho de que las computadoras digitales modernas son
eléctricas, igual que el sistema nervioso. Como la máquina de Babbage no era eléctrica,
y como todas las computadoras digitales son en cierto modo equivalentes a ella, el
empleo de la electricidad no es teóricamente relevante.

Siempre que se trata de señalización rápida interviene, claro, la electricidad. Por lo

tanto, no es de extrañar que ésta se halle relacionada con ambos conceptos. En el
sistema nervioso los fenómenos químicos son, cuando menos, tan importantes como los
eléctricos. En ciertas computadoras el sistema de almacenamiento es fundamentalmente
acústico. Por lo tanto, el empleo de la electricidad como propiedad no deja de ser una
similitud muy superficial. Para establecer similitudes reales debemos más bien buscar
analogías en el funcionamiento matemático.

5. Universalidad de las Computadoras Digitales

Podemos situar las computadoras digitales que hemos tratado en el apartado anterior
dentro de la categoría de «máquinas de estado discreto». Estas son máquinas que pasan
mediante saltos o clics súbitos de un estado bastante definido a otro. Se trata de estados
lo bastante distintos para que se dé la posibilidad de confusión entre ellos. Hablando en
puridad no existen tales máquinas. En realidad, todo se mueve continuamente, pero
podemos considerar positivamente muchos tipos de máquinas como de estado discreto.
Por ejemplo, al referimos a los interruptores de un sistema de iluminación, es una
ficción convencional decir que cada uno de ellos debe ha-: Darse totalmente conectado
o desconectado. Pueden hallarse en posiciones intermedias, pero en la .mayoría de los
casos podemos descartarlas. Como ejemplo de máquina de estado discreto
consideremos una rueda que recorra 120° por segundo, pero que se detiene al accionar
una palanca externa; ésta, además, en determinada posición, enciende una luz. Podría-
mos definir esta máquina de forma abstracta del siguiente modo: El estado interno de la
máquina (descrito por la posición de la rueda) puede ser q1, q2 o q3. Hay una señal de
entrada i0 o i1 (posición de la palanca). El estado interno en cualquier momento está
determinado por el último estado, y la señal de entrada lo estará con arreglo a la tabla

Último estado
Entrada q1 q2 q3
i0 q2 q3 q1
i1 q1 q2 q3

Las señales de salida, única indicación visible externa del estado interno (la luz), nos las
da la tabla

Estado q1 q2 q3
Salida o0 o0 o1

Es un ejemplo clásico de máquina de estado discreto. Este tipo de máquinas se

describen por medio de las tablas indicadas, a condición de que posean únicamente un
número finito de estados posibles.

Podría parecer que, dado el estado inicial de la máquina y la señal de entrada, siempre
fuera posible predecir los estados futuros, pero es una reminiscencia de la perspectiva
de Laplace, según la cual, a partir del estado completo del universo en un momento del
tiempo, definido por las posiciones y velocidades de todas sus partículas, se pueden
predecir los estados futuros. Sin embargo, la predicción que estamos considerando es
más próxima a la practicabilidad que la considerada por Laplace. El sistema del
«universo como un todo» es de tal naturaleza que errores bastante pequeños en las
condiciones iniciales pueden ejercer un efecto considerable en un momento futuro. El
desplazamiento de un solo electrón en una billonésima de centímetro en un momento
determinado puede ser la causa de que una persona muera aplastada por una avalancha
un año más tarde o se libre de la catástrofe. Es una propiedad esencial de los sistemas
mecánicos, que hemos denominado «máquinas de estado discreto», el que semejante
fenómeno no se produzca. Incluso si consideramos las actuales máquinas físicas en
lugar de las máquinas idealizadas, el conocimiento razonablemente exacto de su estado
en determinado momento nos procura un conocimiento razonablemente exacto de
(cualquier serie de pasos ulteriores.

Como hemos dicho, las computadoras digitales pertenecen al grupo de máquinas de

estado discreto. Pero el número de estados que pueden adoptar este tipo de máquinas
suele ser enormemente elevado. Por ejemplo, para la máquina que actualmente
funciona en Manchester, la cifra aproximada sería de 2165.000, es decir de 1050.000
aproximadamente. Compárese esto con el citado ejemplo de la rueda que tenía tres
estados. Se comprende sin dificultad por qué es tan elevado el número de estados. La
computadora posee un almacenamiento correspondiente al papel que utiliza un
computador humano. En este almacenamiento puede escribirse cualquiera de las
combinaciones de símbolos que figurasen en el papel. Para simplificar, supongamos
que sólo utilizamos como símbolos los dígitos del 0 al 9. No tomaremos en cuenta las
variaciones de los signos manuscritos. Supongamos que la computadora dispone de 100
hojas de papel de 50 líneas cada una, con .espacio para 30 dígitos. El número de
estados será 10100 x 50 x 30, es decir, 10150.000. Esto equivale aproximadamente al número de
estados de tres máquinas de Manchester juntas. El logaritmo con base dos del número
de estados es en realidad lo que se denomina «capacidad de almacenamiento» de la
máquina. Por lo tanto, la máquina de Manchester posee una capacidad de
almacenamiento aproximada de 165.000, y la máquina con rueda del ejemplo
mencionado, de aproximadamente 1 - 6. Si juntamos dos máquinas, habrá que sumar
sus capacidades para saber la capacidad de la máquina resultante. Esto nos permite
afirmar que «la máquina de Manchester contiene 64 pistas magnéticas, cada una de
ellas con capacidad para 2.560, ocho tubos electrónicos con capacidad de 1.280. El
almacenamiento diverso equivale aproximadamente a 300, lo que da un total de
174.380».

Disponiendo de la tabla correspondiente a una máquina de estado discreto se puede

predecir lo que hará, y nada nos impide efectuar este cálculo con una computadora
digital. A condición de que lo efectúe con suficiente rapidez, la computadora digital
puede mimetizar el comportamiento de cualquier máquina de estado discreto.
Entonces, se podría' jugar con esa máquina (en el papel B) al juego de imitación y con
la computadora digital mimetizante (en el papel de A), y el interrogador no sabría
diferenciarlas. Naturalmente, la computadora digital debe poseer una capacidad de
almacenamiento adecuada y funcionar a suficiente velocidad. Además, habrá que
programarla expresamente para cada nueva máquina que se desee imitar.

Esta propiedad esencial de las computadoras digitales, por la que pueden imitar a
cualquier máquina de: estado discreto, se define diciendo que son máquinas
universales. La existencia de máquinas con esta propiedad encierra la importante
consecuencia de que, consideraciones de rapidez aparte, no hay necesidad de diseñar
diversas máquinas nuevas para que realicen los correspondientes nuevos procesos de
computación. Todos pueden efectuarse con una sola computadora digital,
convenientemente programada en cada caso. En consecuencia, como veremos, todas las
computadoras digitales de este tipo son equivalentes en un sentido.

Ahora consideraremos la cuestión mencionada al final de la sección 3. Habíamos

sugerido sustituir la pregunta «¿Pueden pensar las máquinas?» por la de «¿Existen
computadoras digitales imaginables que jueguen bien al juego de imitación?» Si se
desea, puede generalizarse más superficialmente esta pregunta: «¿Hay máquinas de
estado discreto que hagan un buen juego?» Pero, dada la propiedad universal, vemos
que ambas preguntas' equivalen a: «Supongamos una determinada computadora digital
C. ¿Es cierto que, modificando esta computadora para que tenga un almacenamiento
adecuado y dotándola de un programa apropiado, podemos conseguir que C desempeñe
eficazmente el papel de A en el juego de imitación y el papel de B lo haga un hombre?»

6. Puntos de vista antagónicos

No podemos abandonar completamente la forma original del problema, porque habrá

diferencias de opinión en cuanto a la conveniencia de la sustitución y tenemos que
escuchar, por lo menos, lo que será dicho en este respecto.

Será una simplificación del asunto para el lector, si primero explico mis propias
opiniones acerca de este asunto. Consideremos primero la forma más precisa de la
pregunta. Creo que aproximadamente dentro de cincuenta años será posible programar
computadoras que posean una capacidad de almacenamiento de aproximadamente 109,
para hacerlas participar en el juego de la imitación tan bien, que un interrogador
corriente no tendrá más de un 70% de oportunidad de hacer la identificación correcta
después de cinco minutos de preguntas. La pregunta original: "¿Pueden pensar las
máquinas?" me parece demasiado carente de sentido para que merezca una discusión.
No obstante, creo que hacia fines de este siglo el uso de las palabras y la opinión culta
en general habrán cambiado tanto, que será posible hablar de máquinas que piensan sin
ser desmentido. Pienso, además, que ocultar estas opiniones no serviría a ningún
propósito útil. La opinión popular de que los trabajadores científicos proceden
inexorablemente de un hecho bien establecido a otro, sin estar jamás influidos por
suposiciones no comprobadas, es muy errónea. Siempre que sea bien claro cuáles son
los hechos probados y cuáles las suposiciones no comprobadas, no puede resultar
dañoso. Las conjeturas son muy importantes porque sugieren líneas de investigación
científica útiles.

Ahora procederé al examen de opiniones opuestas a las mías.

1) La objeción teológica. El pensamiento es una función del alma inmortal del hombre.
Dios ha dado un alma inmortal a todos los hombres y mujeres, pero a ningún otro
animal o las máquinas. Por lo tanto, ningún animal o máquina puede pensar.

No puedo aceptar ninguna parte de esta objeción, pero trataré de contestar en términos
teológicos. El argumento me parecería más convincente si los animales fueran
clasificados con las personas; para mí, hay más diferencia entre el típico ser animado y
el inanimado, que entre el hombre y los otros animales. El carácter arbitrario del criterio
ortodoxo es aún más claro si consideramos cómo le podría parecer a un miembro de
alguna otra comunidad religiosa. ¿Cuál es la opinión de los cristianos acerca del criterio
musulmán de que las mujeres no tienen alma? Pero dejemos este punto y volvamos al
argumento principal. Me parece que el argumento citado anteriormente implica una
seria restricción de la omnipotencia del Todopoderoso. Se admite que hay ciertas cosas
que no puede realizar, como por ejemplo hacer que uno sea igual a dos, ¿pero no
deberíamos creer que tiene la libertad de conferir un alma a un elefante, si lo considera
adecuado? Suponemos que ejercería este poder solamente en conexión con un cambio
que proporcionaría al elefante un cerebro adecuadamente evolucionado, para que
correspondiera a las necesidades de su alma. Podríamos argumentar exactamente de la
misma forma en el caso de las máquinas. Puede parecer diferente porque es más difícil
de "tragar". Sin embargo, esto en realidad sólo quiere decir que nosotros pensamos que
sería menos probable que el Omnipotente considerara las circunstancias adecuadas para
conferir un alma. Las circunstancias del caso son discutidas en el resto de este ensayo.
Al tratar de construir tales máquinas no deberíamos irreverentemente usurpar Su poder
de crear almas en ninguna medida mayor que en la que estamos haciéndolo en la
procreación de niños: en ambos casos, somos más bien instrumentos de Su voluntad,
porque proporcionamos albergues a las almas que El crea.

Pero todo esto es mera especulación. No me impresionan mucho los argumentos

teológicos, aunque se utilicen como apoyo. A lo largo de la historia se ha comprobado
cuánto dejan que desear. En tiempos de Galileo se argumentaba que las Sagradas
Escnituras decían: «y el sol se detuvo... y no fue hacia el ocaso durante casi un día»
(Josué x.13) y que: «El creó los fundamentos de la Tierra para que no se moviera»
(Salmo cv. 5) como refutación convincente de la teoría copernicana. Con los
conocimientos actuales estos argumentos resultan fútiles, pero en una época de escasos
conocimientos científicos causaban muy distinta impresión.

2) La objeción de la "cabeza en la arena". "Las consecuencias del hecho de que las

máquinas pensaran serían demasiado horribles. Esperemos y creamos que no puedan
hacerlo".

Este argumento rara vez es expresado tan abiertamente como en la forma anterior. Sin
embargo, afecta a la mayoría de los que no pensamos en el problema en absoluto. Nos
gusta creer que el hombre es superior, de una manera sutil, al resto de la creación, y
tanto mejor si puede ser demostrado que es necesariamente superior, porque en ese caso
no hay peligro de que pierda su posición dominante. La popularidad del argumento
teológico está evidentemente relacionada con esta opinión. Suele ser muy fuerte entre
los intelectuales, porque atribuyen más valor al poder de pensar que los demás, y
tienden a fundar su creencia en la superioridad del hombre en este poder.

No creo que este argumento sea tan sólido que requiera refutación. Un consuelo sería
más adecuado: tal vez debería ser buscado en la transmigración de las almas.
3) La objeción matemática. Hay muchos resultados de la lógica matemática que pueden
ser utilizados para demostrar que existen limitaciones al poder de las máquinas de
estado discreto. El más conocido de estos resultados se conoce bajo el nombre de
Teorema de Gödel y demuestra que, en cualquier sistema lógico suficientemente
poderoso pueden ser formuladas proposiciones que no pueden ser demostradas ni
refutadas dentro del sistema, a menos que el sistema mismo sea contradictorio. Existen
otros resultados, semejantes en algunos aspectos, como los de Church, Kleene, Rosser y
Turing. El que más conviene considerar es el último, porque se refiere directamente a
las máquinas, mientras que los demás podrían ser utilizados solamente en un argumento
relativamente indirecto: por ejemplo, si quisiéramos utilizar el Teorema de Gödel,
necesitaríamos, además, tener algún medio de describir sistemas lógicos en función de
máquinas, y máquinas en función de sistemas lógicos. El resultado de que se trata se
refiere a un tipo de máquina que es esencialmente una computadora digital con una
capacidad infinita. Establece que hay ciertas cosas que tal máquina no puede hacer. Si se
equipa para que dé respuestas a preguntas, como en el juego de la imitación, habrá
algunas a las cuales o bien dará una respuesta incorrecta, o no dará ninguna, sea cual
fuere su tiempo disponible para contestar. Puede, sin embargo, haber muchas preguntas
de este tipo, pero las preguntas que no puedan ser contestadas por una máquina pueden
ser contestadas satisfactoriamente por otra. Suponemos, naturalmente, que por el
momento se trata de preguntas a las cuales la respuesta "sí" o "no" es apropiada, más
bien que de preguntas como: "¿Qué piensa usted de Picasso?". Sabemos que las
preguntas en las que las máquinas tienen que fallar son del tipo siguiente: "considere
que la máquina tiene las siguientes especificaciones... ¿Contestará esta máquina alguna
vez sí a alguna pregunta?". Hay que sustituir los puntos suspensivos por la descripción
de una máquina, en una forma estandarizada.... Cuando la máquina descrita tiene cierta
relación comparativamente simple con la máquina que se encuentra bajo interrogación,
se puede demostrar que la respuesta será o bien incorrecta o no habrá ninguna. Este es el
resultado matemático: Se argumenta que demuestra una incapacidad de las máquinas a
la cual el intelecto humano no está sometido.

La respuesta breve a este argumento es que, a pesar de que se ha establecido que hay
limitaciones a las capacidades de cualquier máquina particular, solamente ha sido
enunciado, sin ninguna clase de pruebas, que el intelecto humano no sufre de tales
limitaciones. Sin embargo, no creo que sea posible pasar por alto tan simplemente este
punto de vista. Siempre que se haga a una de estas máquinas la pregunta crítica
apropiada, y ella dé una contestación definida, sabemos que esta respuesta tiene que ser
incorrecta, lo cual nos da cierto sentido de superioridad. ¿Es ilusorio este sentido?
Indudablemente es sincero, pero no creo que se le deba atribuir demasiada importancia.
Nosotros mismos, demasiado a menudo, damos respuestas incorrectas a ciertas
preguntas, para justificar el hecho de que nos sintamos muy satisfechos de tal prueba de
falibilidad de parte de las máquinas. Además, en una ocasión como esta, podemos sentir
nuestra superioridad solamente respecto a la máquina concreta que hemos vencido con
nuestro triunfo insignificante. No se plantearía la cuestión de triunfar simultáneamente
sobre todas las máquinas. En resumen, es posible que haya hombres más listos que
cualquier máquina dada, pero entonces puede haber otras máquinas más listas, y así
sucesivamente.

Los partidarios del argumento matemático aceptarán en su mayoría – creo yo – que el

juego de imitación es una buena base para la discusión. A los partidarios de las dos
primeras objeciones, seguramente no les interesará ningún razonamiento.
4) El argumento de la conciencia. Este argumento está muy bien expresado en la
Oración de Lister del año 1949 del profesor Jefferson, de la cual cito lo siguiente:
"Hasta que una máquina no sepa escribir un soneto o componer un concierto con base
en los pensamientos y las emociones que siente, y no a consecuencia de la caída
venturosa de símbolos, no podremos estar de acuerdo en que la máquina pueda ser igual
que un cerebro, es decir, que no solamente sepa escribirlos, sino también que sepa que
los ha escrito. Ningún mecanismo podría sentir (y no sólo señalar artificialmente, lo
cual es una invención fácil) alegría por sus éxitos, tristeza cuando sus válvulas se
fundieran, placer al ser adulado y sentirse desgraciado a consecuencia de sus errores,
encantado por el sexo, enfadado o deprimido al no lograr lo que desea".

Este argumento parece ser una negación de la validez de nuestro ensayo. Según la forma
más extrema de este punto de vista, la única manera en que una persona podría estar
segura de que una máquina piensa, sería siendo la máquina y sintiéndose pensar.
Entonces uno podría describir estos sentimientos al mundo, pero, naturalmente, nadie se
sentiría obligado a hacerle caso. Además, según este punto de vista, la única manera de
saber que un hombre piensa consiste en ser este hombre particular. En realidad, es el
punto de vista solipsista. Puede ser que sea el punto de vista más lógico, pero dificulta la
comunicación de ideas. A está inclinado a pensar: " A piensa, pero B no", mientras que
B piensa: " B piensa, pero A no". En lugar de argumentar continuamente acerca de este
punto, es habitual respetar la convención cortés de que todos piensan.

Estoy convencido de que el profesor Jefferson no desea adoptar el punto de vista

extremo y solipsista. Probablemente se halle dispuesto a aceptar como prueba el juego
de imitación. El test (omitiendo el jugador B) suele usarse en la práctica bajo la
denominación de examen oral para descubrir si el candidato entiende de verdad algo o
lo «ha aprendido como un papagayo». Escuchemos un extracto de uno de esos
exámenes orales:

Examinador: En el primer verso de su soneto, que dice «¿Te compararía con un

día de verano?», ¿no sería igual, o mejor, «un día de primavera»?
Examinado: No rimaría
Examinador: ¿Y «un día de invierno»? Rima perfectamente.
Examinado: Sí, pero a nadie le gusta que le comparen con un día de invierno.
Examinador: ¿Diría usted que Mr. Pickwick le recuerda la Navidad?
Examinado: En cierto modo.
Examinador: Pues Navidad es un día de invierno y no creo que a Mr. Pickwick
le molestara la comparación.
Examinado: Creo que bromea usted. Por día de invierno se entiende un día de
invierno genuino y no uno especial como el de Navidad.

Y así sucesivamente. ¿Qué diría el profesor Jefferson si la máquina escritora de sonetos

fuera capaz de contestar así en el examen oral? No sé si la consideraría accionada por
«una simple señal artificial»al dar tales respuestas, pero, si las respuestas fueran tan
adecuadas y coherentes como en el párrafo anterior, no creo que las calificara de
«invención simplona». Yo creo que con esta expresión se intenta definir dispositivos
tales como la inclusión en la máquina de un disco de alguien que lee un soneto, dotado
del correspondiente relé que lo conecte de vez en cuando.
En resumen, creo que a la mayoría de los partidarios del argumento de la conciencia se
les podría convencer de que lo abandonaran en lugar de forzarles a la actitud solipsista.
Entonces, probablemente se inclinasen a aceptar la prueba.

No quiero dar la impresión de que creo que no hay ningún misterio en lo que concierne
a la conciencia. Hay, por ejemplo, algo de paradójico relacionado con cualquier intento
de localizarla. Sin embargo, no pienso que estos misterios tengan forzosamente que
estar resueltos antes que podamos contestar la pregunta a la que incumbe a este ensayo.

5) Argumentos desde el punto de vista de diferentes incapacidades. Estos argumentos

tienen la forma siguiente:

"Admito que usted puede compeler a las máquinas a hacer todas las cosas que acaba de
mencionar, pero nunca podrá inducir a una máquina a hacer X."

Numerosas X son sugeridas en este sentido. Ofreceré una selección:

Ser bueno, fértil en recursos, guapo, amistoso, tener iniciativa, tener sentido del
humor, saber distinguir lo bueno de lo malo, cometer errores, enamorarse,
disfrutar las fresas con crema, hacer que alguien se enamore de algo, aprender de
la experiencia, emplear las palabras correctamente, ser el tema de sus propios
pensamientos, tener tanta variedad de comportamiento como un hombre, hacer
algo verdaderamente nuevo....

Por lo general, no se ofrece ningún apoyo a estas declaraciones. Creo que la mayoría de
los casos se basan en el principio de la inducción científica. Un hombre ha visto miles
de máquinas en su vida. De lo que ve en ellas saca varias conclusiones generales. Son
feas, cada una es destinada a un propósito muy limitado, cuando se las requiere para un
uso un poco diferente resultan inútiles, la variedad del comportamiento de cualquiera de
ellas es muy pequeña, etcétera. Naturalmente, su conclusión es que estas son
propiedades indispensables de las máquinas en general. Muchas de estas limitaciones
están relacionadas con la muy pequeña capacidad de almacenamiento de la mayoría de
las máquinas. Supongo que la idea de la capacidad de almacenamiento es ampliada, de
alguna manera, para incluir las máquinas que no son máquinas de estado discreto. La
definición exacta no importa, ya que en la discusión actual no se pretende ninguna
precisión matemática. Hace algunos años, cuando todavía se oía muy poco acerca de
computadoras digitales, era posible expresar bastante incredulidad acerca de ellas,
cuando se mencionaban sus propiedades sin describir su construcción. Se supone que
esto era debido a una aplicación semejante del principio de la inducción científica. Estas
aplicaciones del principio son, naturalmente, en gran medida inconscientes. Cuando un
niño que se ha quemado teme al fuego y demuestra que lo teme evitándolo, yo diría que
está aplicando la inducción científica. (Podría también, naturalmente, describir su
comportamiento de muchas otras maneras). El trabajo y las costumbres del género
humano no parecen ser material muy adecuado para que se le aplique la inducción
científica. Si queremos obtener resultados dignos de confianza tiene que ser investigada
una gran parte del espacio-tiempo. Si no es así podría suceder que decidiéramos (como
hace la mayoría de los niños ingleses) que todos hablan inglés y que es una tontería
aprender el francés.
Sin embargo, hay que hacer ciertas observaciones especiales acerca de muchas de las
incapacidades que han sido mencionadas. La incapacidad de saborear fresas con crema
puede haber parecido al lector como algo frívolo. Posiblemente se podría construir una
máquina que saboreara ese plato delicioso, pero cualquier intento de hacerlo sería necio.
Lo importante acerca de esta incapacidad es que contribuye a algunas de las otras
incapacidades, por ejemplo, a la dificultad de que surja el mismo tipo de amistad entre
un hombre y una máquina como la que surge entre un hombre blanco y otro hombre
blanco o entre un hombre negro y otro hombre negro.

La pretensión de que "las máquinas no pueden cometer errores" parece rara. Uno se
siente inclinado a replicar: "¿Acaso son peores por ello?" Sin embargo, adoptemos una
actitud de mayor simpatía y tratemos de ver lo que se quiere realmente decir con eso.
Pienso que esta crítica puede ser explicada en función del juego de la imitación. Se
alega que el interrogador podría distinguir la máquina de la persona simplemente
dándoles cierto número de problemas aritméticos. La máquina sería descubierta por su
absoluta precisión. La respuesta a esto es simple. La máquina (programada para jugar el
juego) no trataría de dar las respuestas correctas a los problemas aritméticos.
Introduciría deliberadamente errores de una manera calculada para confundir al
interrogador. Un error mecánico sería probablemente revelado por una decisión
inadecuada respecto a qué clase de error aritmético debería cometer la máquina. Incluso
esta interpretación de la crítica no es bastante conveniente. Pero no disponemos de
espacio suficiente para ir más adelante en esto. Me parece que esta crítica depende de
una confusión entre dos tipos de errores. Podríamos llamarlos "errores de
funcionamiento" y "errores de conclusión". Los errores de funcionamiento son debidos
a cierta falla mecánica o eléctrica que causa que la máquina se porte de otra manera que
la proyectada. En las discusiones filosóficas tendemos a pasar por alto los errores de
este tipo; y por eso discutimos de "máquinas abstractas". Estas máquinas abstractas son
ficciones matemáticas más bien que objetos físicos. Según su definición, son incapaces
de cometer errores de funcionamiento. En este sentido, podemos verdaderamente decir
que "las máquinas nunca pueden cometer errores". Los errores de conclusión pueden
surgir solamente si se atribuye alguna importancia a las señales de salida de la máquina.
La máquina podría, por ejemplo, mecanografiar ecuaciones matemáticas o frases en
inglés. Cuando escribe una proposición falsa, decimos que la máquina cometió un error
de conclusión. No hay ninguna razón para decir que una máquina no puede cometer este
tipo de error. Podría, por ejemplo, no hacer otra cosa que mecanografiar repetidas veces
"0=1". Para tomar un ejemplo menos perverso, podría haber algún método para sacar
conclusiones por medio de la inducción científica. Tenemos que suponer que tal método
ocasionalmente conduzca a resultados erróneos.

El argumento de que una máquina no puede ser el tema de sus propios pensamientos,
puede naturalmente ser contestado solamente si se puede demostrar que la máquina
tiene algún pensamiento con algún contenido. Sin embargo, "el contenido de las
operaciones de una máquina" parece significar algo, por lo menos para las personas que
tratan con la máquina. Si, por ejemplo, la máquina intentara encontrar una solución a la
ecuación: x2-40x-11 = 0, estaríamos inclinados a describir la ecuación como parte del
contenido de la máquina en ese momento. En esta clase de sentido una máquina puede
indudablemente tener su propio contenido, que puede ser empleado para ayudar a
elaborar sus propios programas o para predecir el efecto de los cambios de su propia
estructura. Observando los resultados de su propio comportamiento, puede modificar
sus propios programas para lograr cierto objetivo más efectivamente. Estas son
posibilidades del futuro cercano más bien que sueños utópicos.

La crítica de que una máquina no puede tener mucha diversidad de comportamiento es

solamente una manera de decir que no puede tener mucha capacidad de
almacenamiento. Hasta muy recientemente, una capacidad de almacenamiento de
incluso mil dígitos era muy rara.

Las críticas que estamos considerando suelen ser variantes enmascaradas del argumento
de la conciencia. Generalmente, si uno sostiene que una máquina puede hacer una de
esas cosas y describe la clase de método del que puede servirse, no se logra impresionar
a los detractores, pues piensan que el método (sea el que fuere, por ser mecánico
necesariamente) es algo vil. Cotéjese el paréntesis del párrafo de Jefferson citado
anteriormente.

6) La objeción de Lady Lovelace. Nuestras informaciones más detalladas acerca de la

máquina analítica de Babbage provienen de un informe elaborado por Lady Lovelace.
En él declara lo siguiente: "La máquina analítica no pretende crear nada. Puede hacer
cualquier cosa que sepamos ordenarle que haga" (es ella quien subraya). Esta
declaración es citada por Hartree, quien añade: "Esto no implica que no sea posible
construir equipos electrónicos que `pensarían por sí mismos' o en los cuales, hablando
en términos biológicos, sería posible establecer un reflejo condicionado que sirviera de
base para aprender. Si esto es posible en principio o no lo es, resulta un problema
estimulante y fascinador, insinuado por algunos de los recientes progresos. Sin embargo,
no parece que las máquinas proyectadas o construidas en aquel tiempo tuvieran esta
propiedad".

Estoy plenamente de acuerdo con Hartree en esto. Se observará que no afirma que las
máquinas respectivas no tuvieran esta propiedad, sino que la prueba que Lady Lovelace
tenía a su disposición no la alentaba a creer que la tuvieran. Es muy posible que las
máquinas respectivas, en cierto sentido, tuvieran esta propiedad. Supongamos que
alguna máquina de estado discreto tuviera esta propiedad. La máquina analítica era una
computadora digital universal, de manera que, si su capacidad de almacenamiento y su
velocidad hubiesen sido adecuadas, habría podido, por medio de una programación
adecuada, ser inducida a imitar a la máquina de que estamos tratando. Es probable que
este argumento no se le ocurriera a la condesa ni a Babbage. De todas maneras, no
tenían ninguna obligación de alegar todo lo que podía ser alegado.Volveremos a hablar
del tema en el apartado de máquinas que aprenden.

Una variante a la objeción de lady Lovelace afirma que las máquinas «nunca hacen
nada nuevo». Podemos parangonar tal afirmación al refrán: «No hay nada nuevo bajo
el sol». ¿Quién puede tener el firme convencimiento de que el «trabajo original» que
se acaba de realizar no es sino el desarrollo de la simiente que ha dejado en él el
aprendizaje, o la consecuencia de atenerse a consabidos principios generales? Otra
variante mejor de esta objeción es la de que la máquina nunca «puede sorprendemos».
Es un desplante más directo, por lo que respondemos directamente. Las máquinas me
sorprenden muy a menudo. Fundamentalmente porque no calculo lo suficiente para
figurarme lo que van a hacer, o, más bien, porque, aunque calculo, lo hago de forma
precipitada, descuidada y corriendo riesgos, y me digo: «Supongo que el voltaje es
aquí el mismo que allí; bueno, supongamos que es el mismo». Naturalmente, muchas
veces me equivoco, el resultado me sorprende, aunque, una vez finalizado el
experimento, me olvido de mis falsas suposiciones. Con esta confesión me expongo a
sermones sobre mis malas costumbres, pero no empaño mi sinceridad al dar fe de las
sorpresas que experimento.

No pretendo con esta réplica silenciar la crítica. Probablemente puede deducirse que
tales sorpresas se deben a algún acto creativo mental por mi parte, y nada dicen a favor
de la máquina. Esto nos obliga a volver al argumento de la conciencia, muy lejos de la
idea de sorpresa. Es un tipo de argumentación muy similar, pero quizá valga la pena
señalar que la apreciación de algo como sorprendente requiere igual «acto mental
creativo», independientemente de que la sorpresa la cause una persona, un libro, una
máquina o lo que sea.

La opinión de que las máquinas no pueden dar origen a sorpresas es debida, creo, a una
falacia que cometen particularmente los filósofos y los matemáticos. Es la suposición
de que en el momento en que un hecho es presentado a una mente, todas las
consecuencias de este hecho se precipitan dentro de la mente al mismo tiempo. Es una
suposición muy útil en muchas circunstancias, pero se olvida muy fácilmente que es
falsa. Una consecuencia natural de asumirla como cierta es que se da por sentado que
no hay mérito en la simple elucidación de consecuencias a partir de datos y principios
generales.

7) Argumento de la continuidad en el sistema nervioso. El sistema nervioso no es, por

supuesto, una máquina de estado discreto. Un pequeño error en la información acerca de
la dimensión de un impulso nervioso que tropieza con una neurona, puede representar
una gran diferencia para el volumen del impulso saliente. Se puede argumentar que, si
es así, no se puede esperar que seamos capaces de imitar el comportamiento del sistema
nervioso con un sistema de estado discreto.

Es verdad que una máquina de estado discreto tiene que ser diferente de una máquina
continua. Sin embargo, si nos adherimos a las condiciones del juego de la imitación, el
interrogador no será capaz de sacar ninguna ventaja de esta diferencia. La situación
puede ser simplificada si examinamos otra máquina continua más sencilla. Un
analizador diferencial servirá muy bien. (Un analizador diferencial es cierto tipo de
máquina, no del tipo de estado discreto, que se utiliza para algunos tipos de cálculo).
Algunos de estos analizadores presentan sus respuestas en forma mecanografiada, de
manera que son convenientes para participar en el juego. No sería posible para una
computadora digital predecir exactamente qué respuestas haría el analizador diferencial
a un problema; sin embargo, sería capaz de dar el tipo correcto de contestación. Por
ejemplo, si se le pidiera que diese el valor de(en realidad, aproximadamente 3.1416),
sería razonable escoger al azar entre los valores 3.12, 3.13, 3.14, 3.15, 3.16 con las
probabilidades de 0.05, 0.15, 0.55, 0.19, 0.06 (por ejemplo). En estas circunstancias,
sería muy difícil para el interrogador distinguir el analizador diferencial de la
computadora digital.
8) El argumento de la informalidad del comportamiento. No es posible elaborar un
conjunto de reglas que describa lo que una persona debería hacer en cualquier serie
concebible de circunstancias. Puede existir, por ejemplo, la regla de que uno debe
detenerse cuando vea una luz roja de tránsito y seguir adelante cuando vea una luz
verde; pero ¿y si por alguna falla aparecieron juntas las dos? Tal vez uno decidiera que
lo más seguro sería pararse. Sin embargo, más tarde, de esta decisión podría surgir otra
dificultad. Intentar proveer reglas de conducta para cada eventualidad, incluso las que
provienen de luces para la circulación, parece imposible. Estoy de acuerdo con todo
esto.

A base de ellos se argumenta que no podemos ser máquinas. Trataré de reproducir el

argumento, pero temo que difícilmente le haré justicia. Parece ser aproximadamente así:
"Si cada hombre tuviera una serie definida de reglas de conducta para dirigir su vida, no
sería mejor que una máquina. Pero como no existen tales reglas, los hombres no pueden
ser máquinas". Es deslumbrante el injusto medio. No creo que el argumento sea casi
nunca expresado exactamente así, pero creo, no obstante, que este es el razonamiento
que se emplea. Puede, sin embargo, haber cierta confusión entre "reglas de conducta" y
"leyes de comportamiento", que oscurezca el caso. Por "reglas de conducta" quiero
decir preceptos tales como: "Deténgase si ve luces rojas", según los cuales uno puede
actuar y de los cuales uno puede ser consciente. Por "leyes de comportamiento" quiero
decir leyes de la naturaleza aplicadas al cuerpo humano, como por ejemplo: "Si usted lo
pellizca, chillará". Si sustituyéramos "leyes de comportamiento que regulan su vida" por
"leyes de conducta mediante las cuales regula su vida" en el argumento citado
anteriormente, el injusto medio deja de ser un insuperable argumento, pues creemos que
no solamente es verdad que ser regulado por leyes de comportamiento implica la
necesidad de ser cierto tipo de máquina (a pesar de que no indispensablemente una
máquina de estado discreto), sino también, a la inversa, que ser tal máquina implica
estar regulado por tales leyes. Sin embargo, no podemos convencernos tan fácilmente de
la ausencia de leyes completas de comportamiento como de la de reglas completas de
conducta. La única manera que conocemos de encontrar tales leyes es la observación
científica, y, por cierto, no hemos sabido de ninguna circunstancia en que pudiéramos
decir: "Ya hemos investigado suficientemente, no hay tales leyes".

Podemos demostrar con más fuerza que cualquier aseveración de este tipo sería
injustificada. Supongamos que pudiéramos estar seguros de encontrar tales leyes si
existieran. En tal caso, si tuviéramos una máquina de estado discreto, seguramente sería
posible descubrir, observándola, lo suficiente acerca de ella para predecir su futuro
comportamiento, y eso durante un período razonable, mil años, por ejemplo. Sin
embargo, éste no parece ser el caso. En la computadora Manchester he establecido un
pequeño programa con el empleo de solamente 1000 unidades de almacenamiento, por
medio del cual la máquina proporcionaba respuestas con un número de dieciséis cifras,
cada dos segundos. Quisiera retar a alguien, a aprender de estas respuestas lo suficiente
acerca del programa, para ser capaz de predecir cualquier respuesta a los valores que no
habían sido ensayados.

9) El argumento de la percepción extra-sensorial.

Supongo que el lector está al corriente de la idea de percepción extra-sensorial y del

significado de sus cuatro variantes: telepatía, clarividencia, precognición y
psicoquinesis. Estos extraños fenómenos parecen refutar todas las ideas cinéticas
habituales, ¡Cuánto nos gustaría desacreditarlos! Pero lamentablemente la evidencia
estadística, al menos en el caso de la telepatía, es abrumadora. Resulta difícil para
cualquiera reajustar sus propias ideas para dar cabida a estos hechos singulares, pero,
una vez admitidos, no parece que cueste mucho creer "en fantasmas y espíritus. Lo
primero que se nos ocurre es la idea de que nuestros cuerpos se mueven de modo
simple con arreglo a las leyes físicas conocidas, junto a otras no descubiertas pero
bastante parecidas.

Para mí es un argumento de bastante peso. Podría argüirse que muchas teorías

científicas siguen siendo válidas en la práctica, a pesar de que contradigan la
percepción extra-sensorial, y que puede prescindirse perfectamente de ella, pero no
deja de ser un conformismo fácil; precisamente es muy de temer que no sea el
pensamiento el tipo de fenómeno en el que la percepción extra-sensorial sea
particularmente relevante.

Un argumento más específico basado en la percepción extra-sensorial sería el

siguiente: «Juguemos al juego de imitación, teniendo por testigo a una persona que sea
buena receptora telepática y a una computadora digital. El interrogador puede plantear
preguntas de este tipo: "¿A qué palo pertenece la carta que tengo en mi mano derecha?"
La persona, mediante telepatía o clarividencia, da la respuesta correcta 130 veces sobre
400 cartas. La máquina sólo puede adivinar al azar y tal vez acierte 104 veces, y así el
preguntador efectúa la identificación correcta». Esta es una interesante posibilidad.
Supongamos que la computadora digital cuenta con un generador numérico aleatorio,
es natural que lo utilice para dar la respuesta. Pero el generador numérico aleatorio está
sujeto al poder psicocinético del interrogador y quizás esta psicocinesis sea la causa de
que la máquina acierte más veces de las que cabría esperarse de un cálculo de
probabilidades, por lo que el interrogador seguiría siendo incapaz de efectuar la
identificación correcta. Por otra parte, puede ser capaz de acertar
sin plantear preguntas, gracias a la clarividencia. Con la percepción extra-sensorial
puede suceder cualquier cosa.

Si admitimos la telepatía, habrá que depurar la prueba. Puede considerarse la situación

similar a la que se produce si el interrogador hablara consigo mismo y uno de los
participantes estuviera escuchando con el oído en la pared. Situando a los participantes
en una «habitación a prueba de telepatía», se restablecerían las condiciones.

7. Máquinas que aprenden

El lector habrá creído que no tengo ningún argumento muy convincente de carácter
positivo para apoyar mis puntos de vista. Si lo tuviera, no me habría esforzado tanto por
señalar las falacias en las opiniones opuestas. Ahora daré la prueba de que dispongo.

Volvamos por un momento a la objeción de Lady Lovelace, quien declaró que una
máquina solamente puede hacer lo que le decimos que haga. Se podría afirmar que un
hombre puede "inyectar" una idea a una máquina, la cual reacciona en cierta medida, y
después cae en la quietud, como una cuerda de piano golpeada con un martillo. Otra
comparación sería una pila atómica de dimensiones menores que la crítica: una idea
inyectada correspondería a un neutrón que entrara dentro de la pila desde afuera. Cada
uno de esos neutrones causará cierta perturbación que gradualmente se desvanece. Sin
embargo, si se aumentan suficientemente las dimensiones de la pila, la perturbación
causada por tal neutrón que entra desde afuera probablemente seguirá aumentando hasta
que toda la pila quede destruida. ¿Hay un fenómeno correspondiente para las mentes?
¿Y hay otra para las máquinas? Parece que hay uno para la mente humana. La mayoría
de las mentes humanas parecen "subcríticas", es decir, corresponden, en esta analogía, a
las pilas de dimensiones subcríticas. Una idea sometida a tal mente dará, en la mayoría
de los casos, por lo menos una idea como respuesta. Una muy pequeña proporción de
mentes son supercríticas. Una idea presentada a tal mente puede generar una "teoría"
entera, compuesta de ideas secundarias, terciarias y aún más remotas. Las mentes de los
animales parecen definitivamente subcríticas. Adhiriéndonos a esta analogía,
preguntamos: "¿Una máquina puede ser inducida a ser supercrítica?".

La analogía de la "piel de una cebolla" también es útil. Cuando consideramos las

funciones de la mente o del cerebro, encontramos ciertas operaciones que podemos
explicar en términos puramente mecánicos. Esto, decimos, no corresponde a la
verdadera mente: es un tipo de piel que tenemos que quitar para encontrar la mente
verdadera. Pero entonces, en lo que queda, vemos otra piel que hay que despojar, y así
sucesivamente. Si procedemos de esta manera, ¿llegaremos finalmente a una piel que no
contiene nada? En este último caso, toda la mente es mecánica. (Sin embargo, no sería
una máquina de estado discreto. Ya hemos discutido acerca de esto).

No pretendo que estos dos últimos párrafos sean argumentos convincentes. Deberíamos
más bien definirlos como "exposiciones que tienden a producir una creencia".

El único apoyo realmente satisfactorio que puede darse a la opinión manifestada' al

principio de la sección 6 es el que consiste en esperar a finales de siglo y luego efectuar
el experimento señalado. ¿Pero qué podemos decir entretanto? ¿Qué pasos hemos de
dar ahora para que dé buen resultado el experimento?

Como he dicho, el problema fundamental estriba en programar. También serán

imprescindibles progresos de ingeniería, pero creo que estarán a la altura de las
necesidades. Las estimaciones de la capacidad de almacenamiento del cerebro oscilan
entre 1010 y 1015 dígitos binarios. Personalmente me inclino por el valor más bajo y creo
que sólo una pequeña parte se utiliza para los tipos más elevados de pensamiento. La
mayor parte de esta capacidad se emplea seguramente en la retención de impresiones
visuales. Me sorprendería que se necesitara más de 109 para jugar bien al juego de
imitación, en cualquier caso contra un hombre ciego. (Nota: la capacidad de la
Encyclopaedia Britannica, decimoprimera edición, es de 2 x 109.) Una capacidad de
almacenamiento de 107 sería una posibilidad bastante real, aun con las técnicas
actuales. Probablemente no será preciso aumentar la velocidad de operación de las
máquinas. Partes de las máquinas modernas, que podríamos calificar de auténticas
células nerviosas, trabajan mil veces más rápido que éstas. Con esto se conseguiría un
«margen de seguridad» para compensar pérdidas de velocidad producidas por diversos
motivos. El problema estriba, en último extremo, en saber cómo programar estas
máquinas para jugar al juego. Con mi actual ritmo de trabajo produzco unos mil dígitos
de programa diarios; en .consecuencia, unas sesenta personas trabajando asiduamente
durante cincuenta años, podrían llevar a cabo esta tarea si no traspapelaran nada. Parece
deseable un método más expeditivo.
 En el proceso de intentar imitar una mente adulta humana, tendemos a pensar mucho
acerca del proceso que la llevó al estado en el cual se encuentra. Podemos notar tres
componentes:

a) El estado inicial de la mente, es decir, durante el nacimiento.

b) La educación a que ha sido sometida.
c) Otras experiencias, que no podemos definir como educación, a las que ha sido
sometida.

En vez de tratar de elaborar un programa para estimular la mente adulta, ¿por qué no
tratar más bien de producir un programa para estimular la mente infantil? Si esta
estuviera después sometida a un curso apropiado de educación, obtendríamos un cerebro
adulto. Presumiblemente, el cerebro infantil es como un cuaderno de apuntes que uno
compra en la papelería. Poco mecanismo y muchas hojas en blanco. (Mecanismo y
escritura son casi sinónimos, desde nuestro punto de vista). Nuestra esperanza es la de
que hay tan poco mecanismo en un cerebro infantil que algo como esto puede ser
fácilmente programado. Podemos suponer, como una primera aproximación, que la
cantidad de trabajo de educación será muy semejante a la necesaria para un niño
humano.

Hemos dividido así nuestro problema en dos partes: el programa infantil y el proceso de
educación. Las dos están íntimamente vinculadas. No podemos esperar encontrar una
buena máquina infantil en el primer intento. Hay que ensayar enseñando a una de esas
máquinas y ver cómo aprende. Después podemos probar otra y ver si aprende mejor o
peor. Hay una conexión evidente entre este proceso y la evolución, mediante las
identificaciones

estructura de la máquina infantil = material hereditario

cambios de la máquina infantil = mutaciones
selección natural = juicio del experimentador.

Podemos esperar, sin embargo, que este proceso será más expedito que la evolución. La
supervivencia del más apto es un método lento de medir ventajas. El experimentador
debería ser capaz de acelerarlo mediante el ejercicio de la inteligencia. El hecho de que
no está limitado a mutaciones al azar es igualmente importante. Si puede descubrir la
causa de alguna debilidad, será probablemente capaz de pensar en el tipo de mutación
que pueda mejorarla.

No será posible aplicar exactamente el mismo proceso de enseñanza a la máquina que a

un niño normal. No tendrá por ejemplo, piernas, de manera que no se le podrá pedir que
salga fuera para llenar el cubo para carbón. Es posible que no tenga ojos. Sin embargo,
por mejor que fueran superadas estas deficiencias mediante una hábil ingeniería, no
sería posible mandar la máquina a la escuela sin que los niños se burlaran
excesivamente de ella. Hay que darle educación. No necesitamos preocuparnos de las
piernas, ojos, etcétera. El ejemplo de Helen Keller demuestra que la educación puede
ser proporcionada siempre que por uno u otro medio se establezca comunicación en
ambos sentidos entre el maestro y el alumno.

Normalmente, solemos relacionar los castigos y las recompensas con el proceso de la

enseñanza. Algunas máquinas infantiles simples pueden ser construidas o programadas
con base en este tipo de principio. La máquina tiene que ser construida de tal manera
que los resultados que precedieron brevemente a la ocurrencia de una señal de castigo
tengan poca probabilidad de ser repetidos, mientras que una señal de recompensa
aumenta la probabilidad de la repetición de los acontecimientos que la provocaron.
Estas definiciones no presuponen ningunos sentimientos de parte de la máquina. Realicé
algunos experimentos con una de esas máquinas infantiles y logré enseñarle algunas
cosas, pero el método de enseñanza fue demasiado heterodoxo para que el experimento
fuera considerado realmente como un éxito.

El empleo de castigos y recompensas puede a lo sumo formar parte del proceso de

aprendizaje. En términos generales, si el enseñante no dispone de otros medios de
comunicación con el alumno, la cantidad de información que éste recibe nunca excede
el número de recompensas y castigos. Cuando un niño ha aprendido finalmente a repetir
«Casabianca», se sentirá probablemente muy afligido si la única manera de dilucidar el
texto es la técnica de las «Veinte preguntas» y cada «NO» supone una bofetada. Por lo
tanto, es necesario disponer de otros canales de comunicación «no emocionales». Si los
hay, se puede enseñar a una máquina por el método de premios y castigos a obedecer
órdenes dadas en una lengua determinada, es decir un lenguaje simbólico. Estas órdenes
se transmiten por canales «no emocionales», y el empleo de dicho lenguaje disminuye
notablemente la cantidad de castigos y premios.

Las opiniones acerca de la complejidad adecuada de la máquina infantil pueden variar.

Podríamos fabricarla para que fuera lo más simple posible y, al mismo tiempo, de
acuerdo con los principios generales. Alternativamente, podríamos tener un sistema
completo de inferencia lógica, construido como parte de su estructura. En este último
caso, el almacén estaría ocupado en gran medida por definiciones y proposiciones. Las
proposiciones tendrían diferentes tipos de nivel, por ejemplo, hechos bien establecidos,
conjeturas, teoremas demostrados matemáticamente, aseveraciones hechas por alguna
autoridad, expresiones que tienen la forma lógica de una proposición pero ningún valor
de fidedignidad. Algunas proposiciones pueden ser definidas como proposiciones
"imperativas". La máquina debería estar construida de tal manera que en el momento en
que un imperativo estuviese clasificado como "bien establecido" la acción apropiada se
efectuase. Para ilustrarlo, supongamos que el maestro dice a la máquina: "Haz tu tarea
ahora". Esto puede ser la causa de que la frase: "El maestro dice: `Haz tu tarea ahora'"
sea incluida entre los hechos bien establecidos. Otro hecho parecido podría ser: "Todo
lo que dice el maestro es verdad". La combinación de lo anterior podría conducir
finalmente a que el imperativo "Haz tu tarea ahora" sea incluido entre los hechos bien
establecidos, y eso, por la construcción de la máquina, significará que la tarea realmente
empezará a ser hecha, pero el efecto es muy poco satisfactorio. El proceso de inferencia
empleado por la máquina no tiene que satisfacer forzosamente a los lógicos más
exigentes. Es posible, por ejemplo, que no haya jerarquía de tipos. Pero eso no tiene
forzosamente que significar que surjan falacias de tipo con mayor probabilidad que la
que nosotros tenemos de caer de acantilados sin muros. Los imperativos adecuados
(expresados dentro de los sistemas y que no forman parte de las reglas del sistema),
como por ejemplo: "No empleen una clase, a menos que sea una subclase de una clase
mencionada por el maestro", pueden tener un efecto semejante a: "No se acerquen
demasiado al borde".

Los imperativos que pueden ser obedecidos por una máquina que no tiene miembros
serán forzosamente de carácter más bien intelectual, como en el ejemplo anterior (de
hacer la tarea). Entre estos imperativos, son importantes los que regulan el orden en que
las reglas del sistema lógico respectivo deben ser aplicadas. Porque en cada etapa en
que empleamos un sistema lógico hay un número muy grande de medidas alternativas,
de las cuales podemos aplicar cualquiera, siempre que obedezcamos las reglas del
sistema lógico. Estas selecciones crean la diferencia entre un razonador brillante y uno
trivial, y no la diferencia entre un razonador correcto y un razonador falaz. Las
proposiciones que conducen a imperativos de este tipo podrían ser, por ejemplo:
"Cuando se menciona a Sócrates, emplee el silogismo en Bárbara"; o: "Si se ha
comprobado que un método es más rápido que otro, no emplee el método más lento".
Algunos de ellos pueden ser "dados con autoridad", pero otros pueden ser producidos
por la máquina misma, por ejemplo, por la inducción científica.

La idea de una máquina que aprende puede parecer paradójica a algunos lectores.
¿Cómo pueden cambiarse las reglas de operación de la máquina? Estas deben
especificar punto por punto cómo debe reaccionar la máquina independientemente de
su historia y al margen de los cambios que experimente. Por lo tanto, las reglas son
bastante invariables con respecto al tiempo. Y es bien cierto. La explicación de la
paradoja consiste en que las reglas que cambian en el proceso de aprendizaje son de un
tipo menos pretencioso y sólo tienen validez efímera. El lector puede establecer un
paralelismo con la Constitución de los Estados Unidos.

Una característica importante de la máquina que aprende es la de que el profesor ignora

muchas veces la mayoría de los procesos internos, aunque hasta cierto punto sea capaz
de predecir el comportamiento de su alumno. Esto es tanto más aplicable a la
formación ulterior de una máquina que tenga por origen una máquina infantil con un
diseño (o programa) perfectamente experimentado. Situación muy distinta al
procedimiento normal de emplear una máquina para hacer cálculos, ya que el objeto, en
este caso, consiste en disponer de una imagen mental clara del estado de la máquina en
cada momento de la computación. Este propósito sólo es alcanzable con una
imposición. La opinión de que «la máquina sólo hace lo que queramos que haga»
parece extraña a la vista de lo expuesto. La mayoría de los programas que podemos
introducir en la máquina la hará hacer algo que no entendemos o que consideramos
como comportamiento totalmente aleatorio. El comportamiento inteligente consiste
probablemente en una desviación del comportamiento absolutamente disciplinado que
implica la computación, aunque relativamente leve y sin que provoque un
comportamiento aleatorio o bucles repetitivos inútiles. Otro importante resultado de la
preparación de una máquina para que intervenga en el juego de imitación, merced a un
proceso de enseñanza y aprendizaje, radica en que la «falibilidad humana» suele quedar
descartada de una forma bastante natural, sin necesidad de «entrenamiento» especial.
Los procesos que se aprenden no procuran una certeza absoluta de resultados; si así
fuera, nunca fallaría su aprendizaje.

Quizá convenga introducir un elemento aleatorio en la máquina que aprende. Un

elemento aleatorio resulta bastante útil en la búsqueda de la solución de un problema.
Supongamos, por ejemplo, que deseamos hallar un número entre 50 y 200 que sea igual
al cuadrado de la suma de sus cifras; empecemos por el 51 y sigamos con el 52 hasta
encontrar la combinación justa. Otra alternativa sería elegir números al azar hasta hallar
uno que nos sirva. Este método presenta la ventaja de que nos ahorra la necesidad de
mantener el registro de los valores que se han probado, y el inconveniente de que se
corre el riesgo de probar dos veces el mismo número, pero esto no es tan importante si
hay varias soluciones. El método sistemático presenta el inconveniente de que puede
haber una serie enorme sin solución en la región que hay que investigar en primer
lugar. El proceso de aprendizaje puede considerarse como la búsqueda de una forma de
comportamiento que satisfaga al profesor (o cualquier otro requisito). Como
probablemente existe un gran número de soluciones satisfactorias, el método aleatorio
parece mejor que el sistemático. Se advertirá que es el que interviene en el proceso
análogo de la evolución, y que en ella no es posible el método sistemático. ¿Cómo sería
posible conservar el registro de las distintas combinaciones genéticas ensayadas para
evitar probadas de nuevo?

Esperemos que las máquinas lleguen a competir con el hombre en todos los campos
puramente intelectuales. ¿Pero cuáles son los mejores para empezar? También es una
ardua decisión. Muchos piensan que lo mejor es una actividad de naturaleza tan
abstracta como jugar al ajedrez. También puede sostenerse que lo óptimo sería dotar a
la máquina de los mejores órganos sensoriales posibles y luego enseñarle a entender y a
hablar inglés. Es un proceso que podría hacerse con arreglo al aprendizaje normal de un
niño: se señalan los objetos, se los nombra, etc. Vuelvo a insistir en que ignoro la
respuesta adecuada; creo que hay que experimentar los dos enfoques.

Sólo podemos ver el futuro inmediato, pero de lo que no cabe duda es que queda
mucho por hacer.