FILOSOFÍA DE LA ROBÓTICA INTELIGENTE

Pascual F. Martínez-Freire

1.- ¿Robots inteligentes?

En 1950 el matemático y lógico inglés Alan Turing (1912-1954) publicó en la

revista Mind un artículo titulado “Computing Machinery and Intelligence”, donde se
planteaba la cuestión de si los computadores llegarían algún día a tener inteligencia o
pensamiento. Por entonces los computadores existentes eran escasos y no habían salido
de los centros de investigación (como Colossus del servicio secreto británico, en el que
trabajó el propio Turing, el ENIAC de la Universidad de Pensilvania o el Mark I de la
Universidad de Manchester) 1. Por supuesto, la mayoría de las personas, corrientes o
ilustradas, no creían en la posibilidad de que los computadores, entonces incipientes y
escasos, llegaran a ser inteligentes. Más aún, la conferencia Dartmouth, celebrada en el
Dartmouth College, donde se lanzó el programa de investigación en inteligencia
artificial, tuvo lugar seis años después del artículo de Turing. Sin embargo, la respuesta
de Alan Turing a su cuestión, contenida asimismo en su artículo, era que para el año
2000 sería posible programar computadores que fuesen confundidos con humanos y que
la opinión general culta habría cambiado tanto que aceptaría hablar del pensamiento o
inteligencia de los computadores.
Actualmente creo que se ha cumplido la conjetura de Turing. Disponemos de
computadores inteligentes, en el sentido de que podemos programarlos para realizar
tareas inteligentes, es decir, tareas que, si son realizadas por un humano, atribuimos a su
inteligencia, como ganar una partida de ajedrez, demostrar un teorema lógico o un
teorema matemático, o diagnosticar y poner tratamiento a una enfermedad. Además
cada vez resulta más aceptable la idea de que los computadores, si son debidamente
programados, igualan e incluso superan, en algunas tareas, a la inteligencia humana 2.
Me he detenido un poco en la cuestión de Turing porque creo que hay cierta
analogía en la discusión de la inteligencia de los computadores y la discusión, en la que
ahora quiero entrar, de la inteligencia de los robots.
Al igual que, en 1950, la mayoría de las personas, corrientes o ilustradas, no
creían en la posibilidad de que los computadores llegaran a ser inteligentes, tampoco
hoy, en 2005, la mayoría de las personas creen en la posibilidad de robots inteligentes,
esto es, máquinas móviles (de aspecto humano o no) que realicen tareas que, si hechas
por un ser humano, atribuimos a su inteligencia. Normalmente se cree que hablar de
robots inteligentes es un asunto de ficción científica. Sin embargo, si pensamos que el
computador ENIAC (operativo en 1946) ocupaba toda una habitación mientras que
ahora disponemos de computadores portátiles, no resulta implausible que los escasos
robots inteligentes actualmente disponibles se multipliquen en un futuro de cincuenta
años.
Hans Moravec, científico robótico de la Universidad Carnegie Mellon, cuenta,
en su libro Robot (1999), que cuando estaba en la Universidad de Stanford escribió su
1
Para algunos detalles sobre el desarrollo de la inteligencia artificial, véase mi trabajo “Historia y
filosofía de la inteligencia artificial” (2004).
2
Desde 1990 imparto, en la Universidad de Málaga, la materia de Filosofía de la Mente y puedo asegurar
que cada año es menor la resistencia entre mis alumnos a hablar de “computadores inteligentes”. En 1990
ponían todo tipo de objeciones, mientras que en 2005 se limitan a señalar diferencias entre humanos y
computadores, pero sin negar la inteligencia de los computadores.
trabajo “Today´s Computers, Intelligent Machines and Our Future”, publicado en la
revista de ficción científica Analog en 1979. Que yo sepa, ésta fue la primera vez que se
defendió la idea no sólo de la inteligencia de los robots sino incluso la posibilidad de
que alcancen un comportamiento semejante al humano (humanlike performance). Como
luego veremos, otros científicos, tal como Marvin Minsky, Ray Kurzweil o Hugo de
Garis, también defienden esta idea.
Ahora bien, así como actualmente los robots inteligentes son escasos y se
encuentran en los laboratorios de investigación, en algunas compañías de automóviles,
en poder de la NASA o en algunas unidades militares, los robots no-inteligentes existen
al menos desde la década de 1950 y se encuentran actualmente por todas partes. En
efecto, dejando de lado algunos autómatas antiguos, en 1956 los americanos George
Devol y Joseph Engelberger crearon la primera compañía de robótica, llamada
Unimation (Universal Automation) y en 1961 la fábrica de automóviles General Motors
de Trenton (New Jersey) introduce en su línea de producción el primer robot industrial.
Desde esa década los robots no-inteligentes, manipuladores mecánicos o mecanismos
automáticos, se encuentran en las fábricas, en la agricultura, en tareas de clasificación,
de vigilancia o de manipulación de objetos en entornos peligrosos3.
Pero debemos detenernos para distinguir mejor entre robots inteligentes y
robots no-inteligentes. Ronald Arkin, en su libro Behavior-Based Robotics (1998),
define un robot inteligente como una máquina capaz de extraer información de su
ambiente y de usar conocimiento acerca de su mundo para moverse con seguridad de
una manera dotada de sentido y de propósito. Me interesa mucho comentar esta
definición. En primer lugar, un robot inteligente dispone de una movilidad (como
cualquier robot) que tiene un significado y un objetivo determinados, es decir, no se
mueve caprichosamente, y además sus movimientos son seguros. En segundo lugar, un
robot inteligente obtiene información de su ambiente, gracias a sus sensores. Y
finalmente, un robot inteligente usa un conocimiento (interno) acerca del mundo de su
actuación. Desde el punto de vista de los elementos constituyentes de un robot
inteligente, además de su cuerpo, sensores y actuadores, es básico para su carácter
inteligente un controlador adecuado; habitualmente es un computador que se usa para
almacenar información sobre el robot y el ambiente de trabajo y asimismo para
almacenar y ejecutar programas que cumple el robot. Los robots inteligentes pueden
operar por control remoto o de modo autónomo; en el primer caso el robot recibe
instrucciones de un operador humano, o bien inmediatamente o con un tiempo de
retraso, mientras que en el segundo caso el robot es programado para comprender su
ambiente y actuar en base al conocimiento que posee. Pero me permito insistir en que,
al igual que ocurre con los computadores, un robot es inteligente si su tarea lo es, lo cual
quiere decir, que su tarea, realizada por un humano, se atribuye a la inteligencia de éste.
Puede haber cierta confusión, y de hecho la hay, entre lo que es un simple
mecanismo, una máquina que habitualmente no llamamos robot, un robot no-inteligente
y un robot inteligente. Pongamos ejemplos correspondientes. Un grifo es sin duda un
mecanismo simple que necesita constantemente de un operador ajeno. Aspiradoras,
neveras, lavadoras y lavaplatos son máquinas que no solemos llamar robots, aunque no
me parece improcedente llamarlos así. Como es sabido, el término “robot” fue creado
por el escritor bohemio Karel Chapek (1890-1938), en su obra de teatro RUR. Robots
Universales Rossum (1920, estrenada en 1921), y procede de una palabra eslovaca que
significa “trabajador forzado”; los robots imaginados por Chapek eran fabricados para
trabajar al servicio de los humanos. Asimismo el escritor ruso-americano Isaac Asimov
3
Para un inventario de los trabajos ya realizados por los robots en 1985, véase el artículo del propio
Joseph Engelberger titulado “El obrero definitivo” (1986).
(1920-1992) divulgó el término “robótica” en su colección de relatos I, Robot (1950).
Por otra parte, la invención de los citados electrodomésticos, aunque no su adquisición
masiva, fue anterior a la divulgación de las palabras “robot” y “robótica”; en efecto, la
aspiradora fue inventada en 1905, la nevera en 1911, la lavadora se perfeccionó en torno
a 1930 y el lavaplatos se presentó en 1893. Teniendo en cuenta este hecho, que esas
máquinas eran conocidas antes de la divulgación de la robótica, se comprende que no se
llamen robots tales electrodomésticos4. En cambio, las máquinas empleadas en las líneas
de montaje de las fábricas de automóviles de Estados Unidos o Japón, a partir de 1961,
se llaman robots (aunque no son inteligentes, ya que repiten mecánicamente una tarea
fija). Finalmente, el robot Shakey, desarrollado entre 1966 y 1972 en el Stanford
Research Institute (SRI) de Menlo Park (California) por un equipo bajo la dirección de
Charles Rosen (1927-2002), se considera un robot inteligente.

2.- El desarrollo de los robots inteligentes

Antes del robot Shakey, me parece justo reseñar los robots inteligentes que
fueron diseñados y construidos, entre 1948 y 1953, por el americano-británico William
Grey Walter (1910-1976), en la Universidad de Bristol, conocidos como las “tortugas de
Grey Walter”. Estos robots, llamados Elmer y Elsie, tenían el tamaño de una caja de
zapatos y una forma redondeada con una cabeza sobresaliente 5. Cada uno de ellos
estaba montado sobre tres ruedas, dos posteriores simplemente portadoras y una anterior
motora y giratoria; además poseía un ojo (constituido por dos células fotoeléctricas)
solidario con la rueda anterior; finalmente estaba dotado de un órgano de tacto. Su
fuente de energía eran varias pilas y acumuladores, y la tortuga tenía un dispositivo de
recarga de los acumuladores que funcionaba cuando su voltaje era bajo. La conducta de
la tortuga consistía en explorar la zona en que se encontraba, dirigiéndose hacia todas
las luces de intensidad moderada, mientras que evitaba las luces demasiado intensas así
como los obstáculos. Estos robots pueden considerarse inteligentes, en cuanto tenían
capacidad de discernimiento y búsqueda de ciertas condiciones, mostrando una
flexibilidad de conducta.
Pero el robot Shakey del SRI permitió mucha investigación en robótica
inteligente. Además del director del proyecto, Charles Rosen, participaron otros
científicos, como Nils Nilsson, Peter Hart, Richard Fikes y Bertram Raphael. El robot
tenía el tamaño de un hombre pequeño y constituía un vehículo con dos ruedas motoras
y otra libre, unos sensores táctiles llamados “bigotes” y una parte superior que temblaba
al caminar el robot (y de ahí su nombre, “temblón”), donde se encontraban una
telecámara, sensores ópticos (para calcular distancias) y una antena para comunicarse
con un computador6. También incluía una unidad lógica donde se almacenaban datos
sobre el entorno y un programa de navegación. Es destacable que el robot no
incorporaba sus recursos computacionales, sino que se comunicaba mediante radio con
un computador. Las tareas del robot consistían en localizar objetos (de diferentes formas

4
Sin embargo, actualmente, los aparatos que cortan, trituran, rallan, calientan e incluso cocinan alimentos
se suelen llamar “robots de cocina”.
5
Puede verse una descripción de estas “tortugas” en el libro de Giordano Repossi El sueño de las
máquinas (1981).
6
Un dibujo y reseña de Shakey puede verse en el libro de Tom Logsdon Robots: Una revolución (1987).
y tamaños), ir a buscarlos sorteando diversos obstáculos y colocarlos en lugares
determinados.
Mientras que estos robots se movían dentro de un edificio, a partir de 1986 se
desarrolló en la Universidad Carnegie Mellon (en Pittsburg) un amplio programa de
navegación de vehículos no tripulados a grandes distancias, denominado el proyecto
Navlab, cuyo principal investigador fue Charles (Chuck) Thorpe 7, aunque también son
destacables Dean Pomerleau y Todd Jochem. El primer vehículo era un gran camión
azul atestado con estantes que contenían potencia computacional de 1 MIPS (millón de
instrucciones por segundo), un gran aparato de aire acondicionado y un pesado
generador. Con esta dotación consiguió recorrer varias calles vacías a pocos kilómetros
por hora, pero en 1990, con una potencia computacional de 10 MIPS, alcanzó la
velocidad de 40 kilómetros por hora. Ese mismo año un segundo vehículo, una antigua
ambulancia militar, trabajaba con una potencia computacional de 20 MIPS y un
programa de red neuronal, cuyas entradas eran datos sobre la carretera y su salida la
posición del volante; en 1991 este vehículo viajó 30 kilómetros por una autopista con
tráfico denso a una velocidad de 70 kilómetros por hora. Finalmente, en 1995, un quinto
vehículo (el tercero y el cuarto pueden pasarse por alto) era una furgoneta que, en lugar
de estar atestada de equipamiento, se controlaba mediante un computador de mesa de 50
MIPS, y, en lugar de tener la cámara de visión sobre el techo de la cabina, estaba
instalada en el espejo retrovisor, de modo que la furgoneta tenía un aspecto muy normal.
Su programa de navegación (RALPH) era más refinado, ya que permite conducir de
noche, con nieve y con lluvia. En el verano de 1995, este vehículo fue desde la ciudad
de Washington a San Diego (en California), conduciéndose a sí mismo durante nada
menos que el 98,2 % del tiempo y a una velocidad media de 100 kilómetros por hora.
Mientras que estos robots se mueven entre las ciudades de la Tierra, desde
1997 tenemos robots inteligentes que se mueven en Marte. En efecto, el Jet Propulsion
Laboratory (JPL) de la ciudad de Pasadena (California), al servicio de la NASA
(National Aeronautics and Space Administration), produjo un robot de exploración o
vagabundo (rover), llamado Sojourner, que llegó en 1997 a Marte. En un principio fue
dirigido desde la Tierra, pero luego actuaba de manera autónoma sin control humano.
Pero más espectaculares han resultado los dos vagabundos o exploradores enviados a
Marte en 2003 y que llegaron allí en enero de 2004. Se trata de dos robots geólogos
gemelos, llamados Spirit y Opportunity, también producidos y gestionados por el JPL
de Pasadena8. La responsable científica del proyecto es la geóloga Joy Crisp mientras
que el arquitecto o director del proyecto es el ingeniero eléctrico Mark Adler. Cada
robot trabaja en un lugar opuesto de Marte, Spirit en el cráter Gusev y Opportunity en la
planicie Meridiani, pero la misión general de ambos es la misma, a saber, buscar y
caracterizar una amplia variedad de rocas y suelos para encontrar pistas acerca de la
actividad de agua en el pasado en Marte. Para cumplir esta misión están dotados de
varios instrumentos científicos, como cámara panorámica, espectrómetros, magneto,
microscopio y una herramienta de abrasión de rocas. Cada uno de estos vagabundos
tiene el tamaño de un carricoche de golf, posee seis ruedas y pesa 365 kilos (en la
Tierra, en Marte pesa menos). Tienen dos formas de conducta, o bien reciben órdenes
desde Pasadena, actuando como robots teledirigidos (tardan unos diez minutos en llegar
las instrucciones), o bien se desplazan de manera autónoma cuando se les ordena ir a un
lugar por su cuenta. Su fuente de energía es la luz solar, que captan sus paneles, por lo
7
En el libro de Hans Moravec Robot (1999) hay fotografías y una especificación del proyecto Navlab.
8
Un resumen de sus actividades y algunas fotografías pueden encontrarse en el artículo de Alicia Rivera
“Robots en Marte” (4 de abril de 2004).
cual están parados de noche, y una pequeña pila atómica para el mantenimiento durante
la noche marciana.
Los robots inteligentes que he presentado hasta ahora, las tortugas de Grey
Walter, Shakey, los vehículos del proyecto Navlab o los vagabundos de Marte, no tienen
aspecto humano. Sin embargo, en la imaginación popular y literaria los robots suelen
asociarse a antropoides9. Por ello, para terminar este breve recorrido sobre muestras del
desarrollo de los robots inteligentes me referiré a un robot antropoide, al robot Asimo.
Asimo es un producto de la empresa japonesa Honda y el responsable principal
del proyecto es el ingeniero Yoshiaki Sakagami. Desde 1986 Honda trabajó en varios
robots antropoides, pero sólo en el año 2000 consiguió fabricar Asimo10. Aunque su
nombre puede recordarnos al escritor de ficción científica Isaac Asimov, lo cierto es que
es un acrónimo de Advanced Step in Innovative Mobility. En efecto, este robot tiene
unas grandes prestaciones en movilidad, ya que puede caminar hacia delante y hacia
atrás, girar suavemente y subir y bajar cuestas y escaleras. Su peso es de 52 kilos y mide
120 cm., pero este robot antropoide, con una potente cámara en su cabeza, con sus dos
brazos y sus dos manos (cada una con cinco dedos) puede además agarrar objetos,
encender y apagar luces, abrir y cerrar puertas, estrechar la mano de una persona o
saludarla agitando una o ambas manos. Asimo tiene otras prestaciones, más claramente
inteligentes, como el reconocimiento de objetos en movimiento, el reconocimiento de
posturas y de gestos (con lo que obedece las señales para seguir a una persona o
trasladarse a un lugar), la percepción del ambiente (lo que le hace sortear obstáculos) y
el reconocimiento de sonidos y de rostros (lo que le permite dirigirse a una persona,
presentada previamente, por su nombre); también puede conectarse a la base de datos de
su usuario y a Internet. Este robot es operado por control remoto, con un sistema doble,
a saber, una estación de trabajo (usualmente para el arranque así como para etapas
preprogramadas) y un controlador portátil (usualmente para caminar y realizar gestos).
Su presentación al público incluye hitos notables. Por ejemplo, el 14 de febrero de 2002
hizo sonar la campana de apertura de sesión en la Bolsa de Nueva York, en agosto de
2003 el primer ministro japonés lo presenta a las autoridades de la República Checa, el
19 de mayo de 2004 saludó al rey de España en una exposición en Madrid, y el 14 de
enero de 2005 estrechó la mano del primer ministro belga.
Pero volvamos al concepto de robot inteligente. Rodney Brooks, nacido en
Australia pero trabajando en el laboratorio de inteligencia artificial del MIT, pretende
que es posible la inteligencia de un robot mediante la conexión directa entre percepción
y acción. En varios lugares, desde 1991, y en particular en su libro Flesh and Machines
(2002), explica esta tesis radical y provocativa. De hecho, Brooks ha construido varios
interesantes robots, denominados Allen, Herbert o Genghis, que son robots con aspecto
de insectos y en los que, según insiste Brooks, se ha prescindido de la caja de la
cognición (tradicionalmente mediadora entre percepción y acción) y además los robots
usan el mundo como su propio mejor modelo. En mi trabajo “Being inside: Putting
representation, body and world together again” (2005), he puesto de relieve la confusión
de Brooks entre “habilidad motora”, que poseen sus robots, y “conocimiento”, del cual
carecen. El propio Brooks habla de robots “basados en conducta”, mientras que la
inteligencia artificial clásica se interesa en sistemas “basados en conocimiento”. En
conclusión, creo que los robots de Brooks no son propiamente inteligentes.

9
Evito el término “androide” para no ser acusado de sexismo.
10
Puede obtenerse información sobre Asimo en la página world.honda.com/ASIMO.
 Ahora bien, tal como señala el ya citado Ronald Arkin, en el también citado
libro Behavior-Based Robotics (1998), existe un amplio espectro en los sistemas de
control de los robots, que va desde los robots más reactivos (simplemente reflejos) a los
más deliberativos (más inteligentes, podemos añadir). Por un lado, tenemos robots
libres de representaciones, con respuestas rápidas, computación simple e inteligencia de
bajo nivel, mientras que, por otro lado, nos encontramos con robots dependientes de
representaciones, con respuestas lentas e inteligencia de alto nivel. El propio Arkin
titula su libro de tal modo que parecería que se inclina a una robótica basada en
conducta, pero su punto de vista es más realista y perspicaz, ya que, aunque se detiene
en la robótica reactiva (conductista, podríamos decir) en los capítulos 3 y 4, dedica el
capítulo 5 a los aspectos representacionales y cognoscitivos en robótica, y es partidario
de una arquitectura híbrida, reactiva y deliberativa, en robótica, que incluye integración
jerárquica (como en el sistema de control clásico de James Albus 11) y planificación para
guiar la reacción. Me parece que este enfoque es el adecuado en robótica inteligente, ya
que une habilidad motora y conocimiento, tal como ocurre en los animales que más se
han desarrollado evolutivamente.

3.- El futuro: ¿conflicto o cooperación?

Creo que resulta evidente la coexistencia entre los seres humanos y los robots,
los cuales en su mayoría son actualmente robots no-inteligentes, pero ya existen robots
que merecen el calificativo de inteligentes, tal como hemos indicado en la sección
anterior. En estas circunstancias, y teniendo en cuenta el previsible incremento del
desarrollo de los robots inteligentes, podemos especular acerca de las situaciones futuras
en las relaciones entre humanos y robots inteligentes. En resumen, creo que estas
situaciones posibles son tres: 1) la desaparición de los seres humanos, destruidos por los
robots inteligentes, 2) los robots llegarán a sucedernos como dueños de la Tierra, y 3)
una integración cada vez mayor entre humanos y robots.
La primera situación está descrita en la obra de teatro de Karel Chapek RUR.
Robots Universales Rossum (1920). En el primer acto se cuenta cómo el gran fisiólogo
Rossum, un ateo, se retira a una isla para fabricar personas, y cómo más tarde un
sobrino suyo e ingeniero, el joven Rossum, consigue fabricar robots, es decir, máquinas
de trabajo vivientes e inteligentes, cuya apariencia es indistinguible de la humana; en la
fábrica de robots de la isla, todos los trabajadores y oficinistas son robots (mientras que
los directivos son humanos), se preparan las diversas partes del cuerpo (hígado, cerebro,
huesos, nervios y venas, etc.) y se unen todas las piezas, y una vez ensamblado cada
robot recibe el aprendizaje escolar necesario; estos robots, sin voluntad propia ni alma,
se fabrican a un precio bajísimo, de tal manera que todas las fábricas del mundo están
sustituyendo los trabajadores humanos (que se dedican al ocio) por robots. En el
segundo acto se relata cómo se han producido numerosas y crueles guerras entre robots-
soldados empleados por los gobiernos, y cómo los robots, que se consideran más
avanzados, más fuertes y más inteligentes que los humanos, llegan a declararse
enemigos de ellos, comenzando a matar a hombres y mujeres. En el tercer acto la
revolución de los robots, encabezada por un robot especial (dotado de irritabilidad),
llega a la isla de la fábrica de robots y acaba con el dominio de los humanos. En el
epílogo el único humano superviviente, un hombre religioso y que desconfía de la
ciencia, declara que los robots también desaparecerán, ya que los robots no pueden
11
Véase su trabajo “Outline for a theory of intelligence” (1991).
hacer robots; una pareja de robots (hombre y mujer), que son saludados por el humano
superviviente como Adán y Eva, deja abierta una incógnita final.
Esta actitud pesimista de Chapek, quien cree que los robots acabarán con los
humanos, contrasta con la actitud abiertamente optimista del también escritor Isaac
Asimov. En efecto, en su relato “Runaround” (1942) incluido más tarde en la colección
de relatos I, Robot (1950), formula las tres leyes de la robótica que, según Asimov; son
las reglas que han penetrado más profundamente en el cerebro “positrónico” de los
robots. Estas leyes son: 1) un robot no debe dañar a un ser humano o, por su inacción,
dejar que un ser humano sufra daño, 2) un robot debe obedecer las órdenes que le son
dadas por un ser humano, excepto cuando estas órdenes se oponen a la primera ley, y 3)
un robot debe proteger su propia existencia hasta donde esta protección no entre en
conflicto con la primera o segunda leyes. Desde la imaginación de Asimov, la situación
también imaginada por Chapek de los robots asesinando a los humanos no resulta
aceptable. Ahora bien, el científico australiano-británico Hugo de Garis, en su reciente
libro The Artilect War (2005), admite la posibilidad de que los robots puedan
exterminarnos. En todo caso, y al margen de pesimismos u optimismos, no parece
razonable ni realista una situación futura en la que los humanos cometan la gravísima
imprudencia de crear a sus exterminadores.
La segunda situación futura, es decir, que los robots inteligentes nos sucederán
como dueños de la Tierra, tiene más defensores y mayores apoyos argumentativos. Tal
como señalé al principio, parece ser que fue el canadiense Hans Moravec el primero en
defender la idea de que los robots podrían igualar la inteligencia humana, en su artículo
de 1979 “Today´s Computers, Intelligent Machines and Our Future”. Sin embargo, que
yo sepa, el primero en defender la tesis de que alguna máquina creada por los humanos
será el sustituto perfeccionado de la raza humana fue Robert Jastrow. En efecto, este
astrónomo y físico norteamericano, en su obra de 1981 The Enchanted Loom, considera
ya a los computadores (no a los robots inteligentes) como los sucesores evolutivos de
los seres humanos. Para Jastrow, la humanidad está destinada a tener un sucesor aún
más inteligente; las poderosas fuerzas evolutivas (más culturales que biológicas)
conducirán a una forma de vida inteligente, más exótica, y evolucionada a partir de los
humanos, pero que será hija de su cerebro y no de sus órganos sexuales; tal nueva forma
de vida será el computador pensante.
Esta idea de máquinas como “hijos del cerebro” o “hijos de la mente”, referida
además a robots inteligentes (ya no a simples computadores) aparecerá más tarde en el
libro de Hans Moravec titulado precisamente Mind Children (1988). En esta obra se
sostiene de manera tajante que los robots inteligentes ocuparán el lugar de los seres
humanos. Para Moravec, nuestras máquinas actuales son todavía creaciones simples,
que requieren el cuidado de los padres y la atención vigilante de cualquier recién nacido
y que apenas merecen el calificativo de “inteligentes”, pero en los próximos cien años
se convertirán en entidades tan complejas como nosotros mismos, e incluso llegarán a
superarnos. Los robots inteligentes, según Moravec, recibirán de los humanos la
antorcha de la civilización, y a los humanos nos quedará el orgullo de que tales nuevas
criaturas se refieran a sí mismas como nuestros descendientes, como los “hijos de
nuestra mente”. Además, añade este científico robótico, con el paso de los años nuestros
robots inteligentes, un importante producto cultural, asumirán el mantenimiento y
continuado crecimiento de la cultura; y en cualquier momento alcanzarán la
información suficiente para ocuparse de su propio mantenimiento, reproducción y auto-
mejora sin nuestra ayuda.
Esta concepción de las máquinas auto-reproductoras, que parece un desatino,
se encuentra, tomada en serio, en el libro de Norbert Wiener (1894-1964) titulado God
and Golem, Inc. (1964). Este matemático norteamericano es conocido como el padre de
la cibernética, al publicar en 1948 el libro titulado justamente Cybernetics or Control
and Communication in the Animal and the Machine, que constituye un hito importante
en el desarrollo de las teorías de automatización y contribuyó de manera decisiva a la
introducción del concepto de retroalimentación. Wiener viene a decirnos, en su libro de
1964, que hay una actividad creativa que va desde Dios a la máquina, ya que al parecer
Dios creó al hombre, en efecto el hombre ha creado las máquinas y las máquinas pueden
crear otras máquinas. La máquina es así, dice este cibernético, la contrapartida moderna
del Golem del rabino Löw de Praga. Cabe recordar que, según la tradición judía, un
golem es un muñeco de apariencia humana que cobra vida merced a un encantamiento;
asimismo es famosa la historia del golem creado por el rabino Löw (c. 1525-1609) de
Praga. Por tanto, las máquinas creadas por el hombre podrían recibir el poder creador
del hombre. Norbert Wiener cree en este poder creador de las máquinas y da un método
de acuerdo con el cual las máquinas pueden reproducirse a sí mismas, que no es una
reproducción biológica pero es una reproducción mecánica paralela a la biológica. Su
explicación, que me parece ingenua y altamente especulativa, es la siguiente. Una
máquina es un transductor de entrada múltiple y salida múltiple. La salida de un
transductor excitado por un mensaje de entrada es un mensaje que depende del de
entrada y del transductor mismo; incluso en algunas circunstancias la información del
mensaje de salida surge principalmente del transductor. (Hasta aquí todo es muy
aceptable, pero a continuación viene el “salto especulativo”). Un conjunto estadístico
único de entradas (el “efecto disparo”) puede usarse para todos los transductores. Las
estadísticas del mensaje que surgen de un transductor bajo una entrada de “efecto
disparo”, estadísticamente estandarizada, son una imagen operativa del transductor, y
pueden usarse para reconstituir un transductor equivalente, en otra encarnación física.
Con ello, la máquina puede generar el mensaje y el mensaje puede generar otra
máquina.
Pero volvamos a Hans Moravec. Tanto en su libro Robot. Mere Machine to
Transcendent Mind (1999) como en su artículo de divulgación científica “El apogeo de
los robots” (2000) sigue manteniendo sus tesis del libro de 1988, que reseñamos antes,
es decir, que los robots inteligentes nos sucederán como dueños de la Tierra, pero
introduce algunas correcciones a la baja en los plazos temporales. En efecto, según él,
hacia el 2040 las máquinas alcanzarán los niveles humanos de inteligencia, y hacia el
2050 nos sobrepasarán. Los robots inteligentes serán nuestros herederos evolutivos 12 ,
son hijos de nuestras mentes y querremos que nos dejen atrás. Todo ello se producirá
siguiendo el itinerario de cuatro generaciones sucesivas de robots. La primera
generación, en acción hacia el 2010, tendrá la inteligencia de un lagarto, procesará 3000
MIPS (millones de instrucciones por segundo) y podrá programarse prácticamente para
cualquier tarea, como los robots del cuidado de la casa (que podrían abrir el mercado de
masas a los robots), capaces de limpiar, retirar y traer cosas, abrir las puertas, vigilar la
casa o cortar el césped. La segunda generación de robots, operativa en 2020, tendrá una
inteligencia comparable a la de un ratón y una capacidad de procesamiento de 100.000
MIPS, tendrá una habilidad de adaptación superior a los robots de la primera generación
y, cosa importante, admitirá adiestramiento, de tal manera que repetirán las tareas con
refuerzo positivo y evitarán las tareas con resultados negativos. A su vez, la tercera
generación, en 2030, estará constituida por robots que tendrán la inteligencia de un
mono y trabajarán a tres millones de MIPS; estos robots aprenderán muy deprisa a partir

12
Antonio Diéguez, en “Milenarismo tecnológico” (2001), hace ver que las necesidades y recursos
utilizados por nuestra “progenie mental” serían muy diferentes de los nuestros, con lo que los robots no
serían nuestros competidores, ya que en realidad su nicho ecológico no sería el mismo que el nuestro.
de simulaciones mentales, poseerán creencias, preferencias y sentimientos, e incluso
accederán a algún tipo de conciencia. Finalmente, los robots de la cuarta generación,
disponibles en 2040, poseerán una inteligencia comparable a la humana y una capacidad
de procesamiento de 100 millones de MIPS; estos robots inteligentes tendrán programas
de razonamiento herederos de los actuales sistemas expertos y demostradores de
teoremas que imitan la lógica humana, con lo que podrán formular diagnósticos
médicos, programar rutas, tomar decisiones financieras y también configurar sistemas
informáticos. En torno a 2050, la inteligencia de los robots habrá sobrepasado a la
inteligencia humana, los robots habrán tomado la dirección de la sociedad y nuestros
descendientes ocuparán su tiempo en actividades sociales, recreativas y artísticas, no
muy distintas de las que hoy llenan el ocio de jubilados o personas acomodadas.
En la misma línea de pensamiento está situado el artículo de divulgación del
científico robótico norteamericano Marvin Minsky titulado “¿Serán los robots quienes
hereden la Tierra?” (1994). Para este investigador, el ser humano no aprende y recuerda
más que un par de bits por segundo; aprendiendo doce horas diarias durante cien años,
el total sería unos tres mil millones de bits, menos de lo que actualmente podemos
almacenar en un disco compacto ordinario de trece centímetros. Por tanto, la capacidad
de introducir información en nuestros cerebros es muy limitada. En cambio, podemos
añadir, la capacidad de introducir información en un robot computarizado es muy
elevada. Por otra parte, los microcircuitos actuales de los computadores ya son millones
de veces más rápidos que las neuronas cerebrales. Ambos datos señalan la posibilidad
de construir robots inteligentes que piensen con más información y más rápido que
nosotros. Tales serían, según Minsky y tomando la expresión de Moravec, nuestros
hijos mentales. El artículo termina diciendo que, en efecto, los robots heredarán la
Tierra.
A su vez, el también norteamericano Ray Kurzweil defiende asimismo que los
computadores, y con ellos los robots conectados a computadores, sobrepasarán a la
inteligencia humana. Kurzweil es un notable inventor, empresario y futurólogo. Como
inventor ha creado una máquina de lectura para ciegos, sintetizadores de música (usados
por Stevie Wonder) y máquinas para reconocimiento de voz. Presume de que muchas de
las predicciones que hizo en su libro The Age of Intelligent Machines (1990) se han
cumplido. Destacaré algunas de ellas. Predijo que un computador derrotaría al campeón
mundial de ajedrez en 1998, y Deep Blue derrotó a Gary Kasparov en 1997. Anunció
que surgiría una red de información mundial enlazando casi todas las organizaciones y
cientos de millones de individuos, y la World Wide Web surgió en 1994 y comenzó a
implantarse entre 1995 y 1996. Predijo que la amplia mayoría de la música comercial
sería creada por sintetizadores basados en computadores, y la mayor parte de la música
de la televisión, de las películas y discos es creada en sintetizadores digitales junto con
secuenciadores basados en computador y procesadores de sonido. Pronosticó que en
torno al año 2000 habría chips con más de mil millones de componentes, y tal ha
ocurrido. En su libro The Age of Spiritual Machines (1999), se apoya en la conocida ley
de Moore13 para establecer que alrededor de 2020 (antes de lo previsto por Moravec) los
computadores, y los robots asociados, sobrepasarán la capacidad de memoria y la
habilidad computacional del cerebro humano. Raymond Kurzweil cree en la existencia
de experiencias espirituales, que entiende como un sentimiento de transcendencia desde
nuestros límites mortales y físicos para sentir una realidad más profunda. Y cree
también que las máquinas, derivadas del pensamiento humano y sobrepasando a los

13
El empresario norteamericano Gordon Moore vaticinó, en 1965, que el número de transistores que la
industria sería capaz de colocar en un chip de computador se doblaría cada año, en 1975 actualizó su
vaticinio diciendo que se doblaría cada dos años.
humanos en su capacidad de experiencia, sostendrán que son conscientes y asimismo
espirituales; incluso como sus progenitores humanos irán a casas de adoración, oración
y meditación. Las profecías de Kurzweil, cual nuevo Nostradamus (1503-1566), van
más allá del 2020, llegando en torno al 2099; pero, a mi entender sorprendentemente,
para entonces ya no hay una clara distinción entre humanos y computadores, los cuales,
sin embargo, nos habían sobrepasado en 2020.
En Hugo de Garis encontraremos la tesis de que las máquinas ultra inteligentes
pueden llegar a ser mucho más inteligentes que los humanos, pero también encontramos
algunas afirmaciones sorprendentes acerca de lo que sucederá en este siglo XXI. De
Garis, nacido en Australia, ha trabajado en Europa, Japón y actualmente en los Estados
Unidos como especialista en inteligencia artificial. En 1990 publicó su trabajo “The 21st
century artilect. Moral dilemmas concerning the ultra intelligent machine”, donde crea
la palabra “artilect” para abreviar “artificial intellect” y que podemos traducir como
“artilecto”. Para este científico, entre 2010 y 2040, se pueden producir artilectos que
contengan millones o incluso mil millones de neuronas artificiales, con una inteligencia
muy superior a la humana. Entonces se plantea la cuestión moral de si debemos o no
construir tales máquinas ultra inteligentes, ya que podrían llegar a destruirnos, puesto
que, por un lado, no son robots asimovianos (respetuosos de la vida humana y
obedientes a los humanos) y, por otro lado, son darwinianos, es decir, evolucionan por
sí mismos. De Garis prevé que los humanos se escindan en dos bandos, a saber, los
“cosmistas”, partidarios de construir los artilectos y de expandirse por el cosmos, y los
“terráneos”, opuestos a construir los artilectos y deseosos de permanecer en la Tierra.
En su libro The Artilect War. Cosmists vs. Terrans (2005), Hugo de Garis detalla el
previsible enfrentamiento entre cosmistas y terráneos. Los primeros defenderán que no
construir los artilectos va contra la naturaleza humana, ya que los seres humanos
siempre se han esforzado en extender sus límites, mientras que los terráneos no querrán
construir los artilectos para no correr el riesgo de que éstos decidan un día exterminar a
los humanos. De Garis cree que una terrible guerra, “la guerra de los artilectos”, puede
tener lugar en la segunda mitad del siglo XXI entre cosmistas y terráneos, con el
resultado de una “gigamuerte”. Lo más curioso del libro es que su autor se confiesa
sometido a una esquizofrenia, ya que públicamente se declara un terráneo, y por ello
escribe el libro para advertir de los peligros que nos aguardan, pero privadamente (dice)
se considera un cosmista, ya que ha emprendido la tarea de construir máquinas que
serán como dioses.
Pero dejemos la segunda posición posible, que los robots inteligentes llegarán
a suceder a los humanos como señores de la Tierra, y pasemos a examinar la tercera
posición, a saber, que se producirá una integración entre humanos y robots al servicio de
los primeros, que en mi opinión es la más razonable. Este punto de vista lo encontramos
en Bruce Mazlish, profesor de historia en el MIT, en su libro The Fourth Discontinuity.
The co-evolution of humans and machines (1993). Mazlish habla de “combots” (que
contrae “computer robots” o robots computarizados) para referirse a robots con forma
humana (antropoides) dotados de un computador, y se plantea qué tipo de relación
tendrán con los humanos cuando su existencia esté generalizada. Su respuesta es que,
con el tiempo, aparecerá una nueva especie humana, que denomina “homo comboticus”,
caracterizada por su integración con los combots. Ahora bien, el homo comboticus
seguirá siendo humano y los combots o robots computarizados (inteligentes) no llegarán
a reemplazar al ser humano. Me parece que esta postura es la más razonable porque la
evidencia histórica nos enseña que los seres humanos siempre se han integrado con sus
instrumentos o, dicho más precisamente, los humanos han integrado sus instrumentos
(herramientas fijas o máquinas móviles) como prolongaciones de sus cuerpos.
 4.- El futuro: ¿confusión o diferencia?

Además de que es muy probable que, dentro de unos cincuenta años, los
robots inteligentes antropoides se hayan generalizado, también es muy probable que,
dentro del mismo periodo de tiempo, los humanos tengamos las oportunidades de ser
cada vez más cyborgs. La palabra “cyborg” abrevia “cybernetic organism” y con ella se
indica un ser humano cuyo cuerpo ha sido notablemente modificado o completado
mediante partes mecánicas. Este término fue introducido en 1960 por Manfred Clynes y
Nathan Kline quienes pensaban en un ser humano dotado de los aditamentos mecánicos
necesarios como para poder sobrevivir en un ambiente extraterrestre. Si pensamos en las
gafas, lentillas, audífonos, dientes postizos, piernas o brazos artificiales, marcapasos,
que llevamos muchos de nosotros, nos damos cuenta de que los humanos ya hemos
empezado a ser cyborgs. En estas condiciones, pudiera ocurrir que en un futuro, más o
menos lejano, los robots se hubieran hecho tan antropoides y los humanos se hubieran
hecho tan cyborgs que fuese difícil, a primera vista, distinguir entre unos y otros. De
hecho, esta futura situación es descrita por el científico robótico Rodney Brooks, en su
citado libro Flesh and Machines (2002), para quien la distinción entre nosotros y los
robots está condenada a desaparecer; pero también el filósofo Andy Clark, en su libro
Natural-Born Cyborgs (2003), sostiene que seremos cyborgs no sólo en el sentido
superficial de combinar carne y alambres sino en el sentido más profundo de ser seres
que se asocian con los resultados de su tecnología, es decir, somos cyborgs por
naturaleza.
Desde mi punto de vista, tal como ya he defendido en mi trabajo “El futuro de
las máquinas pensantes”, recogido en mi libro La importancia del conocimiento (2005),
si tratamos de distinguir entre robots inteligentes y seres humanos ateniéndonos al grado
de inteligencia, estamos alterando la adecuada comprensión de la naturaleza humana.
Quiero decir que, aunque tradicionalmente el ser humano ha sido definido como animal
racional o inteligente, la naturaleza humana no radica tanto en la capacidad intelectual
como en las capacidades volitivas.
Desde los comienzos de la actividad científica, desde los antiguos griegos, los
seres humanos se han definido a sí mismos como seres racionales o inteligentes,
excluyendo así la inteligencia no sólo de los animales sino también de cualquier
máquina imaginable. La existencia de máquinas inteligentes o pensantes acaba con el
monopolio de los seres humanos en la posesión del pensamiento. De ahí las violentas
reacciones producidas, por parte de algunos filósofos (como Hubert Dreyfus o John
Searle), contra la posibilidad de máquinas realmente pensantes. Sin embargo, la
existencia de máquinas pensantes es un hecho.
Para aquellos que sostenían que los humanos se definen por la racionalidad,
Sigmund Freud (1856-1939) constituyó un desafío al insistir en la importancia y
relevancia de lo irracional en los seres humanos. En efecto, para Freud, la vida psíquica
humana se estructura básicamente en dos dimensiones: una consciente, donde se
encuentra nuestro control racional, y otra inconsciente, donde se encuentran nuestros
impulsos instintivos de carácter irracional. En consecuencia, en la concepción freudiana
el ser humano es en parte racional y en parte irracional. Por otro lado, una samba
popular brasileña (“Verdade verdadeira” de Martinho da Vila) resume la situación con
toda exactitud: “el hombre no es un animal, pero es irracional”. Esta samba, de manera
magistral, contraría la clásica definición del hombre como animal racional. Creo que los
griegos antiguos estaban equivocados al insistir en la caracterización del ser humano
como animal racional, aunque, probablemente, esta insistencia venía impuesta por la
necesidad, sentida históricamente, de superar el mito mediante la razón. Aquéllos que
sienten como una humillación la existencia de máquinas inteligentes, porque arrebatan
al humano el privilegio de la razón, no son capaces de apreciar la complejidad del ser
humano y su posesión de otras dimensiones y aspectos, en particular las capacidades
volitivas.
Habitualmente se ha dado prioridad a la dimensión teorética de los humanos
sobre su dimensión práctica o moral. La capacidad racional suele ser el criterio de
valoración de las personas, en vez de la capacidad moral, esto es, la capacidad de
distinguir el bien del mal y de perseverar en el primero. Solemos admirar más a los
científicos que a los santos. En el marco de la dimensión práctica o moral se encuentra
un aspecto típicamente humano que, entiendo, nunca llegará a poseer una máquina y
que muy plausiblemente es de índole no-física (espiritual). Se trata de las voliciones
libres y el sentido de responsabilidad. Aunque puede hablarse de causalidad libre,
parece más adecuado reservar el término “causa” para hablar de causa eficiente en el
sentido aristotélico. Según ello, una causa es un evento corporal que produce
(normalmente de modo necesario) otro evento corporal, como una piedra que rompe un
cristal. A su vez, una razón es una representación mental, y si es una razón para la
acción es la representación de hacer algo, o bien para conseguir otra cosa o bien por sí
mismo. Finalmente, un motivo es una razón que, dejando el terreno de la consideración
de las posibilidades y alternativas en abstracto, decido convertir en “mi razón” y actuar
realmente siguiéndola fielmente. Por ello, una volición libre supone querer actuar
siguiendo un motivo, en el sentido de seguir una razón que hago mía, como razón de mi
acción aquí y ahora. Por asumir como mía una razón para la acción soy también
responsable14.
Por otra parte, tampoco la autoconciencia parece admitir una explicación en
términos físicos o neurológicos. Cuando hablamos de autoconciencia no nos referimos a
la conciencia (o darnos cuenta) de nuestros procesos mentales, sino a la conciencia de
nosotros mismos como sujetos de nuestros procesos mentales. Se trata de la conciencia
de nuestra identidad personal, en virtud de la cual sé que soy el mismo ahora, en mi
juventud y en mi infancia, y que esta permanencia de mí mismo también se proyecta al
futuro. La autoconciencia, en cuanto nos suministra el conocimiento de nuestra
identidad, a lo largo del pasado, presente y futuro, parece escapar a cualquier proceso
neurológico o físico. Muy plausiblemente la autoconciencia es de índole no-física
(espiritual) y nunca será poseída por una máquina.
Finalmente, ligado a la libertad y a la autoconciencia también es un fenómeno
típicamente humano la posibilidad de formar un proyecto de vida personal, idea en la
que insistió José Ortega y Gasset (1883-1955). Según ello, cada ser humano no está
obligado a vivir siguiendo los dictados de sus condiciones biológicas o de acuerdo con
el imperio de las condiciones de su entorno, sino que puede formar un proyecto de vida
que guía su actividad personal. Tal proyecto vital supone la elección de un sentido o
finalidad para nuestra vida tomada globalmente, siendo una sobredeterminación
respecto de nuestras características biológicas y físicas. Por ello apunta a una dimensión
no-física (espiritual) y nunca será poseída por una máquina.
En conclusión, aunque en un futuro más o menos distante los robots
inteligentes lleguen a alcanzar e incluso superar nuestra inteligencia, seguiremos siendo
una “especie” única por nuestras capacidades volitivas de querer libremente, de
sentirnos una voluntad personal y de elegir nuestro futuro.

14
Véase mi trabajo “Libet versus Searle. Apuntes sobre el problema del libre albedrío” (2004).
 BIBLIOGRAFÍA

Albus, James, “Outline for a theory of intelligence”, IEEE Transactions on Systems,

Man and Cybernetics, 21, 3, 1991, 473-509.
Arkin, Ronald C., Behavior-Based Robotics, MIT Press, Cambridge (MA), 1998.
Asimov, Isaac, Yo, robot (trad. Manuel Bosch Barret), Edhasa, Barcelona, 2004.
Brooks, Rodney A., Flesh and Machines: How Robots Will Change Us, Pantheon
Books, New York, 2002.
Chapek, Karel, RUR. Robots Universales Rossum (trad. Consuelo Vázquez de Parga),
Círculo de Lectores, Barcelona, 2004.
Clark, Andy, Natural-Born Cyborgs. Minds, Technologies, and the Future of Human
Intelligence, Oxford University Press, New York, 2003.
Clynes, Manfred E. y Kline, Nathan S., “Cyborgs and Space”, Astronautics, septiembre
1960, 26-27 y 74-75.
Da Vila, Martinho, “Verdade verdadeira”, en Maravilha de Cénario, RCA Eletrônica,
Sao Paulo, 1969.
De Garis, Hugo, “The 21st century artilect. Moral dilemmas concerning the ultra
intelligent machine”, Revue Internationale de Philosophie, 44, 172, 1990, pp.
131-138.
De Garis, Hugo, The Artilect War. Cosmist vs. Terrans, ETC Publications, Palm
Springs (CA), 2005.
Diéguez, Antonio, “Milenarismo tecnológico: La competencia entre seres humanos y
robots inteligentes”, Argumentos de Razón Técnica, 4, 2001, pp. 219-240.
Engelberger, Joseph F., “El obrero definitivo”, Minsky, Marvin y otros, Robótica. La
última frontera de la alta tecnología (trad. María del Mar Moya i Tasis),
Planeta, Barcelona, 1986.
Jastrow, Robert, El telar mágico. El cerebro humano y el ordenador (trad. Domingo
Santos), Salvat, Barcelona, 1988.
Kurzweil, Raymond, The Age of Intelligent Machines, MIT Press, Cambridge (MA),
1990.
Kurzweil, Raymond, The Age of Spiritual Machines. When computers exceed human
intelligence, Penguin Books, New York, 1999.
Logsdon, Tom, Robots: Una revolución (trad. Consuelo Mellado), Ediciones Orbis,
Barcelona, 1987.
Martínez-Freire, Pascual F., “Historia y filosofía de la inteligencia artificial”, José
María Atencia y Antonio Diéguez (eds.), Tecnociencia y cultura a comienzos
del siglo XXI, Universidad de Málaga, Málaga, 2004.
Martínez-Freire, Pascual F., “Libet versus Searle. Apuntes sobre el problema del libre
albedrío”, A. Vicente y otros (eds.), Actas del IV Congreso de la Sociedad de
Lógica, Metodología y Filosofía de la Ciencia en España, Universidad de
Valladolid, Valladolid, 2004, 330-335.
Martínez-Freire, Pascual F., La importancia del conocimiento. Filosofía y Ciencias
Cognitivas, Universidad de Málaga, Málaga, 2005.
Martínez-Freire, Pascual F., “Being inside: Putting representation, body and world
together again”, Pascual F. Martínez-Freire (ed.), Cognición y representación,
Suplemento 10 de Contrastes, Málaga, 2005.
Mazlish, Bruce, La cuarta discontinuidad. La coevolución de hombres y máquinas
(trad. Mercedes Arnáiz y Ángel Luis Sanz), Alianza, Madrid, 1995.
Minsky, Marvin, “¿Serán los robots quienes hereden la Tierra?”, Investigación y
Ciencia, diciembre de 1994, pp. 87-92.
Moravec, Hans, “Today´s Computers, Intelligent Machines and Our Future”, Analog,
febrero 1979, pp. 59-84.
Moravec, Hans, Mind Children. The Future of Robot and Human Intelligence, Harvard
University Press, Cambridge (MA), 1988.
Moravec, Hans, Robot. Mere Machine to Transcendent Mind, Oxford University Press,
New York, 1999.
Moravec, Hans, “El apogeo de los robots”, Investigación y Ciencia, enero 2000, pp. 78-
86.
Repossi, Giordano, El sueño de las máquinas (trad. Juana Bignozzi), Círculo de
Lectores, Barcelona, 1981.
Rivera, Alicia, “Robots en Marte”, El País Semanal, 4 de abril de 2004, pp. 60-67.
Turing, Alan M., “Maquinaria computadora e inteligencia”, Alan Ross Anderson (ed.),
Controversia sobre mentes y máquinas (trad. Francisco Martín), Orbis,
Barcelona, 1987.
Wiener, Norbert, Cibernética (trad. Miguel Mora Hidalgo), Guadiana de Publicaciones,
Madrid, 1960.
Wiener, Norbert, Dios y Golem, S. A. (trad. Javier Alejo), Siglo XXI, México, 1967.

world.honda.com/ASIMO