PUEDE UNA COMPUTADORA TENER MENTE?

*
Roger Penrose

Introduccin
Durante las ltimas dcadas, la tecnologa electrnica de computacin ha logrado enormes
avances; adems, es indudable que en las siguientes dcadas habr grandes adelantos en
velocidad, capacidad y diseo lgico. Las computadoras de hoy pueden acabar por parecer
lentas y primitivas, tal y como ahora se ven las calculadoras mecnicas del pasado. Hay algo
casi aterrador en el ritmo del desarrollo. Actualmente, Ias computadoras pueden desempear
numerosas tareas que antes eran del dominio exclusivo del pensamiento humano, con una
velocidad y exactitud que superan, por mucho, lo que el ser humano puede lograr. Ya estamos
acostumbrados a que las mquinas nos superen fsicamente con mucha facilidad. Esto no nos
produce la ms mnima angustia, por el contrario, nos sentimos bastante contentos de tener
aparatos que nos pueden impulsar con regularidad a grandes velocidades por el suelo por lo
menos cinco veces ms rpido que el atleta ms veloz o que pueden cavar hoyos, o demoler
estructuras no deseadas a tal ritmo que avergonzaran a cuadrillas de docenas de hombres.
Incluso nos sentirnos complacidos por tener mquinas que nos permiten hacer fsicamente
cosas que no hubiramos sido capaces de hacer sin ellas: nos pueden elevar hacia el cielo y
trasladarnos al otro lado del ocano en cuestin de horas. Estos logros no molestan a nuestro
orgullo. Pero ser capaces de pensar ha sido una capacidad intrnsecamente humana. Es esta
habilidad de pensar la que a fin de cuentas cuando se traduce a trminos fsicos nos permite
trascender nuestras limitaciones fsicas, lo que siempre ha parecido ponernos, en cuanto a
logros, por encima del resto de los seres vivos. Si las mquinas pudieran un da superarnos en
esa nica e importante cualidad, por la cual creemos que somos superiores, debimos entregar
a nuestra creacin esa superioridad nica?
La pregunta de si se puede decir que un aparato puede pensar e incluso, quizs, tener
sentimientos, o tener mente no es realmente nueva. Pero se le ha dado un nuevo impulso,
incluso cierta urgencia, debido al avance de la tecnologa computacional moderna. La pregunta
abarca profundos problemas filosficos. Qu significa pensar, o sentir?, qu es la mente?,
existen verdaderamente Ias mentes? Si se asume que existen, hasta qu punto son las
mentes dependientes de las estructuras fsicas a las que estn asociadas?, podran las mentes
existir independientemente de esas estructuras?, o son sencillamente las funciones de tipos
apropiados de estructuras fsicas? En cualquier caso, es necesario que las estructuras
relevantes sean de naturaleza biolgica (cerebro), o es posible que las mentes puedan ser
* Tomado y adaptado de The Emperor's New Mind de Roger Penrose, prxima publicacin del Fondo de Cultura Econmica.
asociadas de igual forma con piezas de equipo electrnico?, estn las mentes sujetas a las
leyes fsicas? Es ms, qu son las leyes fsicas?
Pedir respuestas definitivas a preguntas tan grandiosas sera, por supuesto, pedir una
labor de gran envergadura. No puedo dar respuestas; nadie puede hacerlo, an cuando algunos
traten de impresionarnos con sus suposiciones. Mis suposiciones desempearn un papel
importante en lo que sigue, pero tratar de ser claro al distinguir las especulaciones de los hechos
cientficos contundentes; tambin tratar de ser claro sobre las razones en las que sustento mis
especulaciones. Mi propsito principal, no es adivinar algunas respuestas, sino llamar la
atencin sobre problemas aparentemente nuevos que tienen que ver con la relacin entre la
estructura de las leyes fsicas, la naturaleza de las matemticas y el pensamiento consciente; y
presentar un punto de vista novedoso. Este punto de vista no puede ser descrito
adecuadamente en unas cuantas palabras, pero de forma breve y quiz tendenciosamente,
puedo al menos establecer que mi punto de vista sugiere que es nuestra actual falta de
comprensin de las leyes fundamentales de la fsica la que nos impide hacerle frente al concepto
de mente en trminos fsicos o lgicos. Con esto no quiero decir que las leyes nunca sern bien
conocidas, por el contrario, parte de la intencin de este trabajo es estimular futuras
investigaciones hacia direcciones que puedan ser prometedoras en este sentido, adems, de
hacer sugerencias en apariencia nuevas, y hasta cierto punto especficas, sobre el lugar que la
mente puede ocupar dentro del desarrollo de la fsica actual.
Dejar claro, que mi punto de vista no es convencional entre los fsicos y, en
consecuencia, es poco probable que sea adoptado en la actualidad por cientficos de la
computacin o fisilogos. La mayora de los fsicos afirmarn que las leyes operativas
fundamentales, en el cerebro humano, son perfectamente conocidos. Claro que no se discutir
que an hay muchas lagunas en nuestro conocimiento de la fsica en general. Por ejemplo, no
conocemos las leyes bsicas que rigen los valores de masa de las partculas subatmicas de la
materia, ni la fuerza de sus interacciones. No sabemos como hacer para que la teora cuntica
est completamente de acuerdo con la teora de la relatividad de Einstein, eso si es que se
pudiera construir una teora de "gravedad cuntica", que pudiera hacer que la teora cuntica
estuviera de acuerdo con la teora general de la relatividad. Como consecuencia de esto, no
entendemos la naturaleza del espacio en la escala absurdamente pequea de 1/100 000 000 000
000 000 000 de las partculas fundamentales conocidas, aunque se supone que en dimensiones
ms grandes nuestro conocimiento es adecuado. No sabemos si el universo como un todo es
finito e infinito tanto en tiempo como en espacio aunque tales incertidumbres no parecen tener
relevancia alguna en la fsica en nivel humano. No entendemos la fsica que debe operar en el
corazn de los hoyos negros, ni en la del origen del big-bang del universo. Aunque todos estos
problemas parecen tan alejados como uno quiera imaginar de los problemas de todos los das,
o incluso a un nivel menor, son relevantes para el funcionamiento del cerebro humano. Y en
verdad son remotos! No obstante, existe otro vasto desconocimiento de nuestro entendimiento
fsico que est en ese nivel, que es de hecho fundamental en el funcionamiento del pensamiento
humano y en nuestra conciencia. Este desconocimiento no es reconocido por la mayora de los
fsicos, tal y como tratar de explicarlo, e incluso objetar que, de forma bastante notable, los
hoyos negros y el big-bang son consideraciones que tienen en verdad un peso definitivo en estos
problemas.

La prueba de Turing
Imaginemos que un nuevo modelo de computadora ha salido al mercado, con una capacidad de
memoria y un nmero de unidades lgicas mayores que las de la mente humana. Supongamos
tambin que estas mquinas han sido cuidadosamente programadas y alimentadas con grandes
cantidades de datos apropiados. Los fabricantes afirman que los aparatos en verdad piensan. Tal
vez, incluso afirmen que son genuinamente inteligentes. O pueden ir ms all y sugerir que los
aparatos de veras sienten dolor, felicidad, compasin, orgullo, etc. y que estn conscientes y
entienden lo que estn hacienda. De hecho, afirman que tienen conciencia.
Cmo sabremos que lo que afirman los fabricantes es veraz? Por lo general, cuando
compramos una pieza de maquinaria, juzgamos su valor exclusivamente por el servicio que nos
da, y si cumple satisfactoriamente con Ias funciones a la que est destinada, entonces nos
sentimos satisfechos. Si no, la regresamos para que sea reparada o cambiada por una nueva.
Para poner a prueba la afirmacin de los fabricantes de que tal aparato tiene atributos humanos,
lo que debemos hacer segn este criterio es, simplemente preguntar si se comportara como un
ser humano en determinados aspectos. Si se probara que lo hace satisfactoriamente, no
tendramos razn para quejarnos de los fabricantes, y no habra necesidad de regresar la
computadora para repararla o cambiaria.
Esto nos ofrece una visin bastante operacional de estos asuntos. El operador dira que la
computadora piensa si acta en tal forma que no se distingue de los procesos del pensamiento
humano. Por el momento, adoptemos este punto de vista operacional. Claro que esto no significa
que le pidamos a la computadora que se mueva como una persona mientras piensa. Mucho
menos esperamos que parezca un ser humano, o tenga sensibilidad al tacto, stos seran
atributos irrelevantes para el propsito de la computadora. De cualquier modo, esto significa que
le estamos pidiendo que genere respuestas como humano ante cualquier pregunta que se nos
ocurra hacerle, y exigimos que sea satisfactoriamente probado que piensa (o siente, entiende,
etc.) a partir de que conteste preguntas de una manera similar a las de un ser humano.
Este punto de vista fue argumentado con vehemencia por Alan Turing en su famoso
artculo titulado "Maquinaria computacional e inteligencia", que apareci en 1950 en el Boletn
Filosfico Mind. En este articulo se describi por primera vez la idea a la que nos referimos ahora
coma la prueba Turing. Su intencin fue probar si podra decirse razonablemente, que una
mquina poda pensar. Supongamos que hay una computadora (como la que nuestros fabricantes
estn tratando de vendernos en la descripcin mencionada) de la que se afirma que puede
pensar. Segn la prueba Turing, la computadora y un voluntario son puestos fuera de la vista de
algn perceptivo interrogador, el cual tiene que tratar de decidir cul es la computadora y quin es
el ser humano al escuchar las respuestas. Estas preguntas, y ms importantes an las
respuestas, que ella** recibe, son todas transmitidas de manera impersonal, digamos que se
escriben en un teclado y luego se muestran en una pantalla. A la interrogadora no se le permite
tener ninguna informacin de las dos partes, slo la obtenida en la sesin de preguntas y
respuestas. El sujeto humano contesto las preguntas verazmente y trata de persuadir de que l es
el ser humano, y que el otro sujeto es la computadora; pero la computadora est programada para
"mentir', para tratar de convencer al interrogador de que ella es el ser humano. Si en el transcurso
de una serie de tales pruebas el interrogador es incapaz de identificar al sujeto humano real de
alguna manera consistente, entonces se asume que la computadora (o el programa de la
computadora, o el programador o el que hizo su diseo, etc.) ha pasado la prueba.
Se puede argumentar que esta prueba es injusta para la computadora. Si los roles fueran
invertidos y se le pidiera al humano que pretendiera ser una computadora, y a la computadora se
le pidiera que respondiera verazmente, entonces sera ms fcil para el interrogador identificar
quin es quien. Slo necesitara preguntarle al sujeto algn clculo aritmtico muy complicado.
Una buena computadora debera ser capaz de responder con exactitud al momento, pero el
humano titubeara con demasiada facilidad. Se debe tener cuidado con esto, ya que existen
"prodigios del clculo" que pueden desempear notables logros en aritmtica mental con exactitud
infalible y aparentemente sin gran esfuerzo. La tarea aritmtica que el interrogador escoge para la
prueba debe ser mucho ms exigente, por ejemplo, multiplicar dos nmeros de treinta dgitos en
dos segundos, clculo que seria fcilmente resuelto por una buena computadora.
**Existe un problema inevitable al escribir un trabajo como este al tener que decidir si se usa el pronombre l
o ella en algo a donde es claro que no se tiene intencin de implicar nada respecto al gnero. Por lo cual
me refiero a una persona abstracta, usar en adelante l para significar la frase el o ella, lo cual asumo que
es la prctica normal. De cualquier modo, espero que se me disculpe una clara tendencia de sexismo al
expresar una preferencia por un interrogador femenino aqu. Supuse que ella podra ser mucho ms sensitiva
que su contraparte masculina, para reconocer la esencia humana verdadera!
Por lo que se refiere a la tarea de los programadores de la computadora deberan hacerla parecer
estpida, ya que si el interrogador le hiciera una pregunta aritmtica complicada, como lo hemos
considerado arriba, la computadora, entonces, pretendera no ser capaz de contestarla, porque si
no, se pondra en evidencia de inmediato. Pero no creo que el trabajo de hacer parecer a la
computadora ms "estpida " en este aspecto, sea un problema particularmente serio para sus
programadores. La dificultad principal radicara en hacerla contestar algunos de los ms sencillos
tipos de preguntas de sentido comn, preguntas con las cuales un humano no tendra la ms
mnima dificultad.
Sin embargo, hay un problema inherente al citar ejemplos especficos de tales preguntas.
Porque para cualquier pregunta que uno puedo sugerir en primera instancia, sera cosa fcil
pensar subsecuentemente una forma para que la computadora responda esa pregunta particular
tal y coma lo hara una persona. Pero toda carencia de un entendimiento real, por parte de la
computadora, seria fcil de hacerse evidente con un entendimiento sostenido, y en especial con
preguntas de naturaleza original que requieran de un entendimiento real. La habilidad del
interrogador, sera tener la capacidad de crear tales formas originales de cuestionamiento, y hacer
un seguimiento de las mismas con otros interrogatorios de carcter examinativo, para que a partir
de un diseo, pueda revelar si se ha producido o no un verdadero entendimiento. Ella puede
incluso elegir el hacer preguntas completamente sin sentido, para ver si la computadora puede
percibir la diferencia, o sumar una a dos aparentemente sin sentido, por ejemplo puede preguntar,
Escuche que hoy en la maana un rinoceronte vol sobre el Mississippi en un globo rosado.
Qu te parece esto? (Uno puede imaginar las gotas de sudor fro formndose en la frente de la
computadora, por usar la metfora ms inapropiada.) La computadora puede sugerir de forma
reservado que Eso me suena un tanto ridculo. Hasta ah, todo va bien, pero el interrogador
contina: En serio? Mi to lo hizo una vezde ida y regreso slo que iba todo de blanco con
rayas, qu tiene de ridculo eso? Es fcil de imaginar que si no ha habido un "entendimiento
apropiado, una computadora pronto se ver obligada a delatarse. Puede incluso tomar por
abordaje un "Los rinocerontes no vuelan", ya que sus bancos de memoria le han asistido con el
hecho de que no tienen alas, en respuesta a la primera pregunta, o "Los rinocerontes no tienen
rayas", en respuesta a la segunda. La prxima vez puede intentar una verdadera pregunta sin
sentido, como es el cambiarlo por "bajo el Mississippi, o "dentro de un globo rosado, o "con un
vestido de noche rosado" para ver si la computadora tiene el sentido para darse cuenta de la
diferencia esencial.
Dejemos por el momento el problema de si se puede, y de ser as, cundo construir una
computadora que pueda resolver la prueba Turing. Supongamos, con el propsito de argumentar,
que esas mquinas ya han sido construidas. Podramos preguntar si la computadora que logra
pasar la prueba Turing necesariamente piensa, siente, entiende, etc. consideremos algunas de las
implicaciones. Si los fabricantes estn en lo cierto en sus afirmaciones ms contundentes, en
especial el hecho de que su aparato es un ente pensante, sensible, sensitivo, comprensivo y
consciente, entonces la compra del aparato nos involucrara en responsabilidades morales. En
verdad sucedera si se ha de creer en lo que dicen los fabricantes. El simple hecho de operar una
computadora para satisfacer nuestras necesidades, sin tomar en cuenta su propia sensibilidad,
sera reprensible. Moralmente, no seria diferente a maltratar a un esclavo. El hacer que la
computadora experimenta el dolor, que los fabricantes afirman que es capaz de sentir, seria algo
que deberamos evitar. Apagar la computadora, o incluso venderla, cuando puede haberse
encariado con nosotros, nos presentara dificultades morales, y habra otros incontables
problemas del tipo que tienden a involucrarnos en las relaciones con las personas y con los
animales. Todo esto se convertira en un problema fundamental. Por lo que seria de gran
importancia para nosotros (y para las autoridades tambin) el saber si lo que afirman los
fabricantes es verdad, lo cual es de suponer est basado en el enunciado que dice:
Cada aparato pensante ha sido examinado exhaustivamente con la prueba
Turing por nuestro equipo de expertos.
Me parece, a pesar del absurdo aparente de algunas de estas afirmaciones en particular las
morales, que reconocer la prueba Turing, aprobada exitosamente, como un indicador vlido de Ia
presencia de pensamiento, inteligencia, entendimiento o conciencia es en verdad de mucho
fuerza. De qu otro modo formamos normalmente nuestros juicios sobre que otras personas
poseen tales cualidades, si no es gracias a la conversacin? De hecho, hay otro tipo de criterio, el
cual involucra la expresin facial, los movimientos del cuerpo y las actitudes en general. Pero
podemos imaginar que (quiz en un futuro ms lejano) un robot podra ser construido para imitar
exitosamente todas nuestras expresiones y movimientos. Entonces no sera necesario esconder al
robot y al sujeto humano de la vista del interrogador, pero los criterios que el interrogador tiene a
su disposicin son, en principio, los mismos que antes.
Desde mi propio punto de vista, debera estar preparado para debilitar considerablemente
los requerimientos de la prueba Turing. Me parece que el pedirle a la computadora que imite al ser
humano de forma tan exacta como para ser indistinguible es pedirle ms de lo necesario. Lo que
yo requerira seria que nuestro perceptivo interrogador debera sentirse verdaderamente
convencido, a partir de la naturaleza de las respuestas de la computadora, que hay una presencia
consciente aun cuando posiblemente sea extraa. Esto es algo ausente en todos los sistemas
computacionales construidos hasta ahora. De cualquier modo, puedo apreciar que existira el
peligro de que si el interrogador fuera capaz de decidir cul sujeto era la computadora, quiz de
forma inconsciente, pudiera mostrarse reticente a atribuirle conciencia a una computadora aunque
pudiera percibirla. O, por el otro lado, podra tener la impresin de sentir una cierto presencia
extraa y estar preparada para darle la computadora el beneficio de la duda aun cuando no
haya tal. Por estas razones, la versin original de la prueba Turing tiene una ventaja considerable
por ser ms objetiva y me atendr a ella a continuacin. La consecuente injusticia hacia la
computadora a la que me refera antes (i.e. que debe ser capaz de hacer todo lo que un ser
humano puede realizar para poder posar la prueba, mientras que el humano no tiene necesidad
de resolver lo que la computadora puede hacer) no es algo que parezca preocuparles a los que
apoyan la prueba Turing como la prueba verdadera del pensamiento. En cualquier caso, su punto
de vista suele tender a que no pasar mucho tiempo antes de que una computadora sea en
verdad capaz de pasar la prueba, digamos que para el ao 2010. (Turing sugiri originalmente
que un rango del treinta por ciento de xito para la computadora, con un interrogador promedio
y con una sesin de preguntas de slo cinco minutos, poda ser conseguida para el ao 2000.)
Todas estas consideraciones son relevantes para una pregunta esencial: desde el punto
de vista operacional se puede proveer a un objeto de una serie razonable de criterio suficiente
para poder juzgar la presencia o ausencia de cualidades mentales? Algunos afirmarn que no. La
imitacin, sin importar qu tan lograda sea, no es como el original. Mi posicin es intermedia a
este respecto. Estoy inclinado a creer, como principio general, que la imitacin, puede ser siempre
detectada mediante un buen examen; aunque esto sea ms un asunto de fe (o de optimismo
cientfico) que un hecho probado. Por lo que estoy preparado a aceptar que la prueba Turing en
su totalidad es una prueba, aunque rudimentaria, vlida en el contexto elegido. Esto es para
decir, que si la computadora fuera en verdad capaz de contestar todas las preguntas que se le
hicieran, de forma tal que no se pudiera distinguir del modo en el que un ser humano las
contestara y por tanto engaar de forma propia y consistente a nuestro perceptivo
interrogadorentonces, en ausencia de toda evidencia contraria, mi suposicin seria que la
computadora en verdad piensa, siente, etc. En la utilizacin de palabras como evidencia, en
verdad, y suposicin, implico que cuando me refiero a pensar, sentir o entender, o de modo
particular a tener conciencia, asumo los conceptos de tal modo que significan cosas objetivas,
cuya presencia a ausencia en cuerpos fsicos, es algo que an estamos por concretar, y no como
meras conveniencias de lenguaje. Reconozco que ste es un punto crucial, ya que para tratar de
discernir la presencia de tales cualidades, hacemos suposiciones basadas en toda la evidencia
que tenemos a nuestra disposicin. (Lo que no es en principio muy distinto, digamos, de un
astrnomo tratando de concretar la masa de una estrella distante.)
Qu tipo de evidencia en contra se debera considerar? Es difcil el estipular reglas sobre
esto antes de tiempo. Pero quiero dejar claro que el mero hecho de que una computadora puede
estar hecha de transistores, alambres y cosas por el estilo, en vez de neuronas, arterias, etc., no
es, en si mismo, el tipo de evidencia en contra que yo reconocera. La circunstancia que s tengo
en mente, es que en el futuro podra desarrollarse exitosamente una teora de la conciencia, cierta
en el sentido de que sea una teora fsica coherente y apropiada, con bella concordancia con el
resto del entendimiento fsico, y de forma tal que sus predicciones se correlacionen de forma
precisa con las exigencias de los seres humanos del cundo, el cmo y a qu grado ellos mismos
son conscientes y que esa teora pueda, de hecho, tener implicaciones que conciernan a la
conciencia putativa de nuestra computadora. Uno incluso puede concebir un detector de
conciencia, construido segn los principios de esta teora, lo que sera completamente confiable
en funcin de los sujetos humanos, pero cuyos resultados variaran con aquellos de la prueba
Turing en el caso de la computadora. En tales circunstancias se tendra que ser muy cuidadoso al
interpretar los resultados de la prueba Turing. Si la prueba Turing es apropiada, me parece que
depende, parcialmente, de lo que se espera del desarrollo de la ciencia y la tecnologa.

Inteligencia artificial
Un rea de mucho inters en la actualidad es a la que se denomina inteligencia artificial (IA). Los
objetivos de la IA son imitar por medio de mquinas, en general, electrnicas tanto actividad
mental semejante a la humana como sea posible, y quiz, con el tiempo, aventajar las habilidades
humanas. Hay inters por los resultados de IA por lo menos en cuatro direcciones. En particular,
est el estudio de la robtica, que tiene que ver, en gran medida, con los requerimientos prcticos
de la industria y que pueden efectuar tareas inteligentes tareas de una versatilidad y
complejidad que antes exigan la intervencin o control humano y que stas fueran
desempeadas con una velocidad y confiabilidad por encima de Ias capacidades humanas, o bajo
condiciones adversas en las cuales la vida estara en riesgo. Tambin est el inters comercial del
desarrollo de sistemas expertos, segn los cuales el conocimiento bsico de una profesin
mdica, legal, etc. puede ser codificado dentro de un paquete computacional. Ser posible
que la experiencia y dominio de los integrantes de esta profesin puedan, en verdad, ser
suplantados por tales paquetes? O es meramente que largas listas de informacin, junto con un
cotejamiento compresible, sea todo lo que se espera alcanzar? La pregunta de si las
computadoras pueden exhibir (lo simular) inteligencia genuina, tiene una clara implicacin social.
La psicologa es otra rea en la cual la IA podra tener una relevancia directa. Se espera que por
tratar de imitar el comportamiento del cerebro humano (o de algn otro animal) por medio de
implementos electrnicos o por fracasar al intentarlo se puede aprender algo de importancia del
funcionamiento cerebral. Finalmente, hay una esperanza muy optimista de que por razones
similares la IA tenga algo que decir respecto a preguntas profundas de filosofa, y en el
conocimiento del significado del concepto de mente.
Qu tanto ha sido capaz de progresar la IA hasta hoy? Me seria muy difcil tratar de
hacer un resumen. Hay muchos grupos activos en diferentes partes del mundo y slo estoy
familiarizado con detalles de una parte mnima de su trabajo. A pesar de ello, seria justo decir que,
aunque se han hecho muchas cosas ingeniosas, la simulacin de cualquier cosa que pudiera
pasar por inteligencia genuina todava est lejos. Para ahondar en la materia, primero mencionar
algunos de los (an sorprendentes) logros tempranos, y despus hablar de los recientes
progresos notables que se han tenido con computadoras que juegan ajedrez.
Uno de los primeros aparatos de IA fue la "tortuga de Grey Walter, hecha a principios de
los cincuenta, la cual se mova por el piso a su voluntad hasta que sus bateras se bajaban, y
cuando esto suceda iba a la fuente de poder ms cercana se conectaba a s misma y recargaba
sus bateras. Cuando quedaba nuevamente cargada se desconectaba de la fuente y emprenda
otra vez sus aventuras por el piso. Desde entonces se han construido otros objetos similares (ver
por ejemplo, Waltz 1982). Una lnea algo distinta de desarrollo se ejemplifica con el programa de
computadora de Terry Winograd, diseado en 1972, que puede distinguir de forma sensible un
grupo de bloques de diferentes colores y formas, a los cuales, por simulacin, los ordena y
dispone de formas distintas. A pesar de tales xitos tempranos, es notable lo difcil que ha
resultado hacer un sencillo 'brazo robot' coyunturado, el cual debe maniobrar y evitar obstculos
con movimientos que le parezcan "obvios" al humano que los observa. La interpretacin de las
escenas visuales es por lo general, tambin, un rea en donde los procedimientos de la IA no ha
logrado aproximarse a lo que el cerebro humano (y, de hecho, el de la mayora de los animales)
puede lograr sin que se vea esfuerzo aparente.
Las computadoras que juegan ajedrez probablemente sean los mejores ejemplos de
mquinas que muestran lo que puede pensarse que es un "comportamiento inteligente". De
hecho, algunas mquinas han alcanzado hoy (1989), un nivel extremadamente respetable de
desempeo en relacin a los jugadores humanos, alcanzando incluso a aquellos que son
Maestros Internacionales" (Los niveles de las computadoras seran un poco menos a 2300, en
donde por comparacin, Kasporov, el campen mundial, tiene un nivel mayor a 2700.) En
particular, un programa de computadora (para un microprocesador comercial Fidelity Excell)
hecho por Dan y Kathe Spranklen ha logrado un nivel (Elo) de 2110 y ha sido galardonado con el
titulo de maestro por la USCF. An ms notable es el "Deep Thought, programado en su mayor
parte por Hsiung Hsu, de la Universidad Carnegie Mellon, que tenia un nivel de aproximadamente
2500 y que recientemente consigui el notable logro de compartir el primer lugar (con el maestro
Tony Miles) en un torneo de ajedrez en (Longberch, California, noviembre de 1988), en el cual
derrot a un maestro (Bent Larsen) por primera vez. Los computadoras de ajedrez ahora tambin
sobresalen al resolver problemas de ajedrez y pueden fcilmente superar a los humanos en tal
desempeo.
Las mquinas que juegan ajedrez se basan mucho en conocimiento de libros", a lo que
se suma su acertadsimo poder de clculo. Vale la pena sealar que las mquinas que juegan
ajedrez son mejores en un desempeo total en relacin a un jugador humano, cuando se requiere
que los movimientos sean hechos con rapidez; los jugadores se desempean relativamente mejor
en relacin a las mquinas cuando se permite mayor tiempo para cada movimiento. Uno puede
entender esto en funcin del hecho de que Ias decisiones de la computadora estn hechas con
base en lo rpido y preciso de sus computaciones extendidas, mientras que el humano toma
ventaja de juicios que se basan en estimaciones conscientes que comparativamente son ms
lentas. Estos juicios humanos sirven para eliminar el nmero de posibilidades que necesitan ser
consideradas en cada etapa del juego: cuando se dispone de tiempo, se puede alcanzar mayor
profundidad en el anlisis; mientras que la mquina est simplemente calculando y eliminando
posibilidades en forma directa, sin necesidad de tales juicios. (Esta diferencia es an ms notable
en el difcil juego oriental go, en donde el nmero de posibilidades por movimiento es
considerablemente mayor que en el ajedrez.

IA fuerte y el cuarto chino de Searle
Hay un punto de vista, al cual uno se refiere como IA fuerte, el cual adopta una posicin un tanto
extrema en estos problemas.
1
Segn IA fuerte, los aparatos a los que nos hemos referido no slo
seran de hecho inteligentes y tendran mente, etc., sino que este tipo de cualidades mentales
sera atribuido a todo funcionamiento lgico de cualquier aparato computacional, aun los
mecnicamente ms sencillos, como el termostato. La idea es que la actividad mental es
sencillamente el llevar a cabo alguna secuencia bien definida de operaciones, la que con
frecuencia es referida como algoritmo. Ser ms preciso, un poco ms adelante, en cuanto a lo
que un algoritmo es en realidad. Por el momento, sera adecuado definir un algoritmo
sencillamente como un proceso do clculo de cierto tipo. En el caso del termostato, el algoritmo es
extremadamente simple. Registra si la temperatura es mayor o menor de la que tiene puesto, y
entonces hace que el circuito se desconecte en el primer caso, o lo conecte debido al segundo.
Para cualquier tipo significativo de actividad mental del cerebro humano, el algoritmo tendra que
ser algo mucho ms complicado, pero, segn el punto de vista de la IA fuerte, es a fin de cuentas
un algoritmo. Diferir enormemente en grado del algoritmo sencillo del termostato, pero no diferir
en principio. Por lo tanto, segn la IA fuerte, la diferencia entre las funciones esenciales del
cerebro humano (incluyendo todas sus manifestaciones conscientes) y las de un termostato yace
slo en el hecho de que esta complicacin es mucho mayor (o quiz estructura de alto orden, a
propiedades autorrferenciales o algn otro atributo que se le pueda asignar a un algoritmo para el
caso del cerebro.) Lo ms importante es que todas las cualidades mentales pensamiento,
sentimientos, inteligencia, entendimiento, conciencia deben ser tomados en cuenta, segn este
punto de vista, meramente como aspectos de este complicado funcionamiento; esto es para decir
que son meramente atributos algoritmicos llevados a cabo por el cerebro.
La virtud de cualquier algoritmo especfico radica en su desempeo, en particular por la
exactitud do sus resultados, su alcance, su economa y la velocidad con la que opera. Un
algoritmo que pretendo conseguir lo que se supone que opera en el cerebro humano necesitara
ser algo estupendo. Pero si un algoritmo de este tipo existe en el cerebro y los que apoyan la IA
fuerte afirman que lo hay entonces en principio podra funcionar en una computadora. De hecho
podra funcionar en cualquier electrnica moderna de uso general, si no fuera por Ias limitaciones
del espacio de memoria y por la velocidad de operacin. (La justificacin de este comentario
vendr despus, cuando tomemos en consideracin la mquina Turing universal.) Se anticipa
que tales limitaciones podrn ser resueltas por las enormes y rpidas computadoras de un futuro
no muy lejano. En esta eventualidad, tal algoritmo, de ser encontrado, podra pasar la prueba
Turing. Los que apoyan la IA fuerte afirman que al hacer funcionar el algoritmo, en s mismo
experimentara sentimientos, tendra conciencia, seria una mente.
Bajo ninguna condicin se puede estar de acuerdo con que los estados mentales y los
algoritmos pueden ser identificados do este modo. En particular, el filsofo americano Johan
Searle (1980, 1987) ha debatido en contra de este punto de vista. Ha citado ejemplos en donde
versiones simplificadas de la prueba Turing han sido pasadas por computadoras programadas de
forma apropiada, pero ofrece fuertes argumentos para apoyar el punto de vista en el que el
relevante atributo mental del entendimiento est, sin embargo, completamente ausente. Tal
ejemplo est basado en el programa de computadora diseado por Roger Schank (Schank y
Abelson 1977). El objetivo do este programa es el de proveer una simulacin de entendimiento
de historias sencillas como: Un hombre entr a un restorn y orden una hamburguesa; cuando
le trajeron Ia hamburguesa estaba quemada, al punto que cruja, y el hombre sali enfurecido del
restorn sin pagar la cuenta o dejar una propina." Como segundo ejemplo: "Un hombre entra a un
restorn y ordena una hamburguesa; cuando le trajeron la hamburguesa l estuvo muy
complacido y cuando se iba del restorn le dio a la mesera una gran propina antes de pagar su
cuenta." Como una prueba de entendimiento de estas historias, se le pide a la computadora que
responda si el hombre se comi o no la hamburguesa en cada caso (hecho que no fue explicitado
en ninguna de las dos historias). A este tipo de historias y de preguntas tan sencillas la
computadora puede dar respuestas que son esencialmente indistinguibles de Ias respuestas que
dara un ser humano que hable ingls, para estos ejemplos en particular, no" en el primer caso y
"si" en el segundo. As en funcin de este sentido muy limitado, una mquina ha logrado ya
aprobar la prueba Turing.
La pregunta que debemos tomar en cuenta es si este tipo de xito indica en verdad un
entendimiento genuino por parte de la computadora o quiz, del programa mismo. El argumento
de Searle es que no es as e invoca su concepto de cuarto china. En primer lugar l propone:
Ias historias deben ser contadas en chino y no en ingls que es un cambio poco esencial y que
todas las operaciones de algoritmo de la computadora, para ese ejercicio en particular, deben ser
todos (en ingls) en un equipo de instrucciones para manipular tableros con ideogramas chinas.
Searle se imagina a s mismo hacienda todas las manipulaciones dentro de un cuarto cerrado.
Las secuencias de smbolos que representan a las historias y las preguntas, son alimentadas
hacia el interior de la habitacin a travs de una pequea ranura. No se permite ningn otro tipo
de informacin del exterior. Finalmente, cuando todas Ias manipulaciones han sido completadas,
los resultados pasan a travs de la ranura. Ya que estas manipulaciones slo llevan a cabo el
algoritmo del programa de Schank, la secuencia final resultante es sencillamente el chino para
si o para no, como puede ser el caso dando una respuesta correcta a la pregunta original
hecha en china sobre una historia contada en chino. Ahora, Searle nos dice claramente que l no
entiende una solo palabra de china, por la que no tendr la ms mnima idea de lo que tratan las
historias. A pesar de ello, al llevar a cabo correctamente la serie de operaciones que constituyen
el algoritmo de Schank (las instrucciones para este algoritmo se le han dado en ingls) el seria
capaz de hacerlo tan bien como una persona china que si entendiera las historias. El punto de
Searle y yo pienso que es bastante importante es que por el mero hecho de llevar a cabo un
algoritmo de forma exitosa, no implica que cualquier tipo de entendimiento haya sido llevado a
cabo. El Searle imaginado en su corto chino, no entendera palabra alguna de estas historias.
Hay varias objeciones en contra del argumento de Searle. Slo mencionar aquellas a las
que les reconozco un significado serio. En primer lugar, quizs haya algo confuso en la frase
no entender palabra alguna, como fue usada arriba. El entendimiento tiene tanto que ver con
patrones como con palabras individuales. AI llevar a cabo algoritmos de este tipo, uno puede
empezar a percibir algo en los patrones que hacen los smbolos, sin entender los verdaderos
significados de muchos de los signos individuales. Por ejemplo, el carcter chino para
"hamburguesa (si existe) podra ser reemplazado por aquel de otro plato, digamos chow mein,
y las historias no se veran afectadas de forma significativa. A pesar de ello, me parece razonable
suponer que de hecho, muy poco del verdadero significado de Ias historias (incluso al considerar
que estos reemplazos son de poca importancia) podra llevar a uno meramente por seguir los
detalles de un algoritmo tal. En segundo lugar, se debe tomar en cuenta el hecho de que la
ejecucin de un programa sencillo de computadora seria normalmente excesivo, largo y tedioso si
fuera llevado a cabo por humanos que manipularan los smbolos. (Es por esto, despus de todo,
por lo que tenemos a Ias computadoras.) Si Searle llevara en verdad a cabo el algoritmo de
Schank de la manera sugerida, es muy probable que se pasara das, meses o aos envuelto en
un trabajo en extremo aburrido para poder contestar una sola pregunta; no sera una actividad
plausible para un filsofo. De cualquier modo, sta no me parece una objecin seria ya que nos
conciernen los asuntos de principio y no lo prctico de los mismos. La dificultad es mayor con un
programa de computadora, el cual se supone que tiene la suficiente complicacin como para
competir con un cerebro humano y, por tanto, pasar la prueba Turing de forma apropiada. Un
programa as tendra que ser muy complicado. Uno puede imaginar la operacin de este
programa, paro poder dar la respuesta, incluso para la pregunta ms simple de la prueba Turing,
que puede involucrar tantos pasos que no habra posibilidad de que algn ser humano pudiera
realizar el algoritmo dentro de un lapso normal de vida. Si este fuera el caso, seria difcil de
decirlo, en ausencia de tal programa.
2
Pero, de cualquier modo, esta pregunta de complejidad
extrema no puede, en mi opinin, ser ignorada. Es cierto que aqu nos conciernen asuntos de
principio, pero no me es inconcebible que puedo haber una cierta cantidad critica de
complicacin en el algoritmo que sera necesario conseguir para que pudiera exhibir cualidades
mentales. Quizs este valor critico sea tan grande que no haya algoritmo, con ese grado de
complejidad, que puedo ser llevado a cabo por un ser humano, del modo que nos lo presenta
Searle.
Existen otras dificultades serias referentes al punto de vista IA fuerte. Segn la IA fuerte,
es slo el algoritmo el que cuenta. No hay diferencia alguna si ese algoritmo es efectuado por un
cerebro, por una computadora electrnica, un aparato mecnico de ruedas y engranes a un
sistema de tubos de agua. El punto de vista es que sencillamente la estructura lgica del algoritmo
es la que es significativa para el "estado mental" que se supone que representa, y que la
continencia fsica particular de tal algoritmo es enteramente irrelevante. Como Searle lo seala,
esto realmente se vincula a una forma de "dualismo. El dualismo es un punto de vista filosfico
expuesto por Ren Descartes, filsofo y matemtico del siglo diecisiete que afirma que hay dos
tipos separados de sustancias: la "cosa mental y la materia ordinaria. El hecho de que si y en tal
caso, cmo una de estas sustancias puede afectar a la otra es una pregunta adicional. El punto
es que se supone que esta cosa mental no est compuesta de materia y que puede existir
independiente de la misma. La cosa mental de la IA fuerte es la estructura lgica del algoritmo.
Como he hecho notar hace un momento, la contencin fsica particular de un algoritmo es algo
totalmente irrelevante. El algoritmo tiene un cierto tipo de "existencia descorporeizada que est
muy aparte de cualquier realizacin de este algoritmo en trminos fsicos. Es parte de una
pregunta general de la realidad platnica de los objetos matemticos abstractos. Por el momento
pondr de lado este problema general, y har notar que aquellos que apoyan la IA fuerte, parecen
estar considerando seriamente la realidad, por lo menos la de los algoritmos, ya que creen que
esta forma la sustancia de sus pensamientos, sus sentimientos, su entendimiento y sus
percepciones conscientes. Hay una irona destacable en el hecho de que tal y como lo seal
Searle la postura de la IA fuerte, nos lleva a una forma extrema de dualismo, el punto de vista
con el cual los que apoyan la IA fuerte no quieren verse involucrados.
Este dilema permanece, detrs de la escena, en un argumento presentado por Douglas
Hofstadter del punto de vista de la IA fuerte en el dilogo titulado: Una conversacin con el
cerebro de Einstein. Hofstadter imagina un libro, de proporciones absurdamente monstruosas, en
el que se supone que est contenida la descripcin completa del cerebro de Albert Einstein. Toda
pregunta que uno quisiera hacerle a Einstein puede ser contestada, tal y como Einstein la hubiera
respondido, tan slo con hojear el libro y seguir cuidadosamente las instrucciones detalladas.
Claro que "tan slo" no describe acertadamente lo que se tiene que hacer, tal y como Hofstadter
cuidadosamente seala. Pero su afirmacin, es que en principio, el libro es completamente
equivalente, en el sentido operacional de la prueba Turing, para una versin ridculamente
desacelerada del verdadero Einstein. Por lo que, segn Ias aseveraciones de la IA fuerte, el libro
podra pensar, sentir, entender como Einstein, pero quiz viviendo a un nivel monstruosamente
lento (por lo que para el libro-Einstein el mundo exterior parecera pasar a una velocidad
ridculamente rpida). De hecho, yo que se supone que el libro es meramente un continente
particular del algoritmo que constituye al "ser de Einstein, seria en verdad Einstein.
Pero ahora se presenta una nueva dificultad. El libro podra no ser abierto nunca, o podra
ser utilizado continuamente por innumerables estudiantes e investigadores en busca de la verdad.
Cmo podra el libro saber la diferencia? Quizs el libro no necesitara ser abierto y su
informacin podra ser obtenida por medio de tomografas, por rayos X, o por alguna otra
genialidad tecnolgica. Se desarrollara la conciencia de Einstein slo cuando el libro es
examinado? Se dara cuenta si dos personas escogieran hacerle al libro la misma pregunta en
dos momentos completamente distintos?, o eso encerrara dos instancias separadas y
temporalmente distintas del mismo estado de la conciencia de Einstein? Quiz su conciencia se
desarrollara slo si el libro es cambiado? Despus de todo, normalmente cuando nos damos
cuenta de algo, lo recibimos a partir de la informacin que viene del mundo exterior, que afecta a
nuestra memoria y los estados de nuestras mentes slo cambian ligeramente. Si es as, Esto
significa que estos cambios (sutiles) en algoritmos (y aqu incluyo la memoria como parte del
algoritmo) que deben ser asociados con eventos mentales ms que (o quizs en adicin a) la
activacin de algoritmos? O es que el libro Einstein permanecera perfectamente consciente
incluso cuando nunca sea examinado o molestado por alguien o algo? Hofstadter toca algunas de
estas preguntas, pero no intenta verdaderamente contestarlas o llegar a buen trmino con la
mayora de ellas.
Qu significa activar un algoritmo o contenerlo en una forma fsica? Cambiar un
algoritmo sera diferente en algn sentido al mero hecho de descartar un algoritmo y reemplazarlo
con otro? Qu demonios tiene que ver todo esto con nuestros sentimientos de conciencia
propia? El lector (a menos que sea un partidario de la IA fuerte) puede estarse preguntando por
qu he dedicado tanto espacio a una idea tan absurda. De hecho, no reconozco la idea
intrnsicamente como absurda; slo equivocada. Hay, de hecho, algo de fuerza en el
razonamiento detrs de la IA fuerte que debe ser considerado, y esto tratar de explicarlo.
Tambin hay, en mi opinin, un cierto atractivo en algunas de las ideas si se modifican
apropiadamente como tambin intentar mostrar. Ms an, en mi opinin, el punto de vista
particular contrario expresado por Searle tambin contiene algunos serios rompecabezas y
absurdos, aun cuando, y de forma parcial est de acuerdo con l.
Searle, en su discusin, parece aceptar implcitamente que el tipo de computadoras
electrnicas de nuestros das, pero con un aumento considerable en la velocidad, en el tamao de
la memoria de rpido acceso (y posiblemente de accin paralela), puede muy bien ser capaz de
pasar la prueba Turing de forma apropiada, en un futuro no muy distante. Est preparado a
aceptar el contenido de la IA fuerte (y la mayora de los otros puntos de vista "cientficos) de que
somos las instancias de algn nmero de programas de computadora. Ms an, sucumbe ante:
Claro, el cerebro es una computadora digital. Como todo es una computadora digital, el cerebro
tambin lo es. Searle afirma que la distincin entre el funcionamiento del cerebro humano (que
puede tener mente) y las computadoras electrnicas (que, segn afirma, no pueden) pueden
ejecutar el mismo algoritmo, en el material de construccin de cada uno. Afirma, por razones que
no es capaz de explicar, que los objetos biolgicos (el cerebro) pueden tener intencionalidad y
semntica, que l reconoce como caractersticas determinantes de la actividad mental, en tanto
que las electrnicas no pueden. En s mismo esto no me parece que seale un camino hacia
alguna teora cientfica de la mente que pueda sernos de ayuda. Qu tienen de especial los
sistemas biolgicos, adems de quizs el camino histrico a travs del cual han tenido que
evolucionar (y el hecho de que nosotros somos ese tipo de sistemas), qu los distingue como los
objetos que pueden tener intencionalidad y semntica? La afirmacin me parece tan sospechosa
como una aseveracin dogmtica, incluso ms que la afirmacin de la IA fuerte de que la simple
puesta en accin de un algoritmo puede conjurar un estado de conciencia.
En mi opinin, Searle y otras muchas grandes personas, han sido mal llevadas por la
gente de las computadoras. Y stos, han sido mal llevados por los fsicos. (No es culpa de los
fsicos. Ni siquiera ellos lo saben todo!) Se ha estado esparciendo la idea de que, de hecho, "todo
es una computadora digital".


Notas
1
A travs de este trabajo he adoptado el trmino de Searle IA fuerte, para este punto de vista
extremo, slo para ser especfico. El trmino funcionalismo es usado frecuentemente para lo que
es esencialmente el mismo punto de vista, pero es posible que no de forma tan especfica. Algunos
de los que proponen este tipo de punto de vista son Minsky (1986), Michie (1988), Fodor (1983), y
Hofstadter (1979).
2
En su crtica a la ponencia original de Searle, que fue reimpresa como El yo de la mente,
Douglas Hofstadter se queja de que ningn ser humano podra internalizar de forma concebible la
descripcin completa de la mente de otro ser humano, debido a la complicacin involucrada. De
hecho no se puede! Pero, tal y como lo veo, ese no es ni mucho menos el punto. A uno le
concierne meramente el llevar a cabo esa parte de un algoritmo que se supone que contiene la
ocurrencia de un solo evento mental. Esto podra ser alguna realizacin consciente momentnea
al responder una pregunta de la prueba Turing, o podra ser mucho ms sencillo. Ser que un
evento tal requiera necesariamente de un algoritmo de una complicacin estupenda?