Documentos de Académico
Documentos de Profesional
Documentos de Cultura
66
Searle, John. Mentes, cerebros y ciencia, traducido por Luis M. Valdés, Ed. Cátedra,
colección teorema, Madrid, 1985, p. 17.
¿Pueden las máquinas tener mente? 62
cosas mentales, con pensamientos, sensaciones, etc., y por otro que somos cosas
físicas, materiales, que ocupamos cierto lugar en el espacio, etc.? Para deshacer este
abismo, como ya se decía líneas atrás, ha surgido una nueva forma de tratar el
problema mente-cuerpo, cuya solución para muchos definitiva, muestra una analogía
ente el funcionamiento del cerebro y el de los computadores digitales. Esta postura
está planteada en el marco teórico de la IA que muestra la posibilidad de superar la
tensión entre los dos tipos de entidades, y sostiene que el cerebro es al computador lo
que la mente es al programa del computador.
Para iniciar, es importante considerar que desde tiempos inmemoriales los hombres
han imaginado artefactos animados (ya fueran dioses, animales, robots, etc.), que
compartieran la llamada ‘esencia humana’. Esta ‘esencia’ se ha considerado desde
siempre como la capacidad privilegiada de los seres humanos de pensar, razonar,
crear. Aunque estas ilusiones han sido alimentadas en su mayoría por la literatura
fantástica, en los últimos tiempos, lo que en un principio fue una búsqueda mítica, se
ha convertido en todo un campo de estudio e investigación científico que ha partido
¿Pueden las máquinas tener mente? 63
Para que estas ilusiones históricas pudieran ser cumplidas, los hombres que en su
momento creían en esta posibilidad tuvieron que abandonar las concepciones que
trataban a la mente como una sustancia cuyo origen era un total misterio y, en
cambio, fue necesario que empezaran a considerar que la mente y la producción de
inteligencia no se debía a características espirituales, sino que era producto, como los
demás procesos corporales, de las funciones de la materia. Entre quienes abandonaron
la idea de la mente como un producto milagroso podemos situar a Thomas Hobbes.
Para Hobbes la razón no era sino cómputo. Esta afirmación muestra dos cosas. La
primera, que el pensar es un ‘discurso mental’, es decir, que está formado por las
operaciones simbólicas y, la segunda, que el pensar es más preciso cuando se siguen
ciertas reglas metódicas. De este modo, el raciocinio es un proceso mecánico que
sigue las reglas de la razón y, es cuando estas reglas se ignoran, que se produce la
confusión. Como lo muestra en el Leviatán:
67
Hobbes, Leviatán, traducido por Carlos Mellizo, Alianza, Madrid, 1994, p. 36.
¿Pueden las máquinas tener mente? 64
pueden realizar tareas que hasta ahora habían estado reservadas exclusivamente al
pensamiento humano, con una velocidad y precisión que superan con mucho a lo que
el ser humano puede lograr.”70 Por esta razón, para muchos, la idea de construir
máquinas inteligentes que no simplemente imiten la inteligencia humana sino que
sean literalmente inteligentes es un hecho. A esta pretensión se le conoce como el
proyecto de la inteligencia artificial fuerte, proyecto que ha mostrado resultados en
algunos programas computacionales tales como el Deep blue, un programa de ajedrez
tan sofisticado que en concursos mundiales se ha considerado como el mejor jugador
de su campo.
Pero antes de iniciar con la exposición teórica de la IA, repasemos rápidamente cuál
fue el origen de los computadores. En este punto se debe decir que Alemania,
Inglaterra y Norteamérica desarrollaron computadores casi al mismo tiempo. En 1941
Konrad Zuse construyó el primer computador en Alemania que podía realizar
cualquier tarea de cálculo. Por su parte, en 1943 apareció en Inglaterra el Colossus,
un computador electrónico que descifraba mensajes codificados y el cual llevó a cabo
una tarea fundamental en la época de la guerra.
Querida Prenda
Tú eres mi ávido sentimiento amigo.
Mi afecto pende curiosamente
de tu deseo apasionado. Mi
70
Penrose, Roger, La nueva mente del emperador, traducido por Javier García Sanz, Ed.
Grijalbo Mondadori, Barcelona, 1991, p. 23.
¿Pueden las máquinas tener mente? 66
Pero no podemos continuar sin decir que el campo de la inteligencia artificial recibió
su nombre gracias a John McCarthy, quien en 1965 organizó la conferencia
71
Lavington, S.H., A history of Manchester Computers, en Copeland, J., Inteligencia
artificial. Una introducción filosófica, traducido por Julio César Armero San José, Ed.
Alianza, Madrid, 1996, p. 22.
72
Ibíd., p. 26.
¿Pueden las máquinas tener mente? 67
73
McCarthy., J., “Mechanical semants for mankind”, 1973, Enciclopedia Británica, en
McCorduck, P., Máquinas que piensan. Una incursión personal en la historia y en las
perspectivas de la inteligencia artificial, traducido por Dolores Cañamero, Ed. Tecnos,
Madrid, 1991, p. 111.
¿Pueden las máquinas tener mente? 68
una actividad que requiere comprensión e inteligencia, pero ¿un computador con un
programa de ajedrez ejecutado correctamente es inteligente? Algunos teóricos
aseguran que sí y han extendido su teoría hasta considerar que es posible desarrollar
máquinas con inteligencia igual e incluso superior a la del hombre. Esta pretensión se
funda en algunas características que muestran, según los defensores de la IA, que el
computador no sólo puede ser inteligente sino que incluso en algunos casos, supera el
alcance de ciertas actividades humanas. Sin embargo, algunos teóricos de la IA no
son tan radicales y muestran que la analogía entre la mente y el ordenador solamente
es una herramienta eficaz para el estudio de la mente humana. Veamos entonces
cuáles son las distinciones presentes dentro del marco de la IA
2.2 DISTINCIONES EN LA IA
Esta orientación de la IA fue posible por el surgimiento de las ciencias cognitivas, las
cuales en su análisis sobre la mente, ven al conocimiento como un proceso de
adquisición, manipulación y producción de nueva información. De ésta manera, la
inteligencia humana no es más que la capacidad de manipular símbolos mediante
ciertas reglas. La mente es un sistema físico que manipula símbolos tal como lo hace
el computador. Además, como ya se había dicho, dichos sistemas no dependen de
ninguna característica específica de su medio físico, sino que más bien su
funcionamiento depende de las secuencias de movimientos de acuerdo con las reglas
válidas para su ejecución.
75
Searle, John “Mentes y cerebros sin programas”, en Filosofía de la mente y ciencia
cognitiva, Rabossi, E., (comp.), Ed. Paidós, Barcelona, 1995, p. 415.
¿Pueden las máquinas tener mente? 71
2.2.1 IA débil
Para iniciar, se debe considerar que para Searle la IA se ramifica en dos subteorías
que se distinguen de acuerdo con sus pretensiones de alcance. La IA débil y la IA
fuerte. La IA débil o ciencia cognitiva se propone imitar por medio de máquinas
electrónicas tantas actividades humanas como sea posible.
Esta posición responde a la necesidad histórica que se ha tenido por explicar qué es
el cerebro y cómo funciona. Algunas de las propuestas más conocidas han sido: que
el cerebro es como el sistema de telégrafo formulado por Sherrigton, o también como
las bombas hidráulicas como lo dijo Freud, o el molino que postuló Leibniz, o que era
como una catapulta tal como lo creían los griegos antiguos, o un sistema de selección
natural darwiniano como lo sostienen los últimos neurofisiólogos.
¿Pueden las máquinas tener mente? 72
Actualmente el modelo de la mente que está teniendo cada vez mayor acogida es el
que propone la utilización de la teoría computacional para el estudio de la misma.
Esta afirmación se basa en la tesis según la cual pensar es igual a procesar
información y, ya que lo que hacen los computadores es procesar información, parece
que éstos son una herramienta bastante útil al tratar de comprender qué es y cómo
funciona la mente. La anterior idea es expresada por Searle como sigue:
La IA débil no sostiene que los computadores puedan comprender o pensar, sino que
son una herramienta útil en el estudio de la mente. “Para la IA débil, los
computadores pueden ser provechosos en la psicología, en la lingüística y otras áreas,
ya que pueden simular habilidades mentales. Pero la IA débil no sostiene que los
actuales computadores puedan tener comprensión o ser inteligentes actuales.”77
77
Cole, David, Chinese Room Argument, en Stamford Encyclopedia of Philosophy, en
www.standforduniversity.com 2004, p. 4. Traducción mía.
¿Pueden las máquinas tener mente? 73
2.2.2 IA fuerte
Haugueland, J., La inteligencia artificial, traducido por Irene Tulli de Firmani, Ed. Siglo
79
80
Martínez F., La nueva filosofía de la mente, Ed. Gedisa, Barcelona, 1995, p. 102.
¿Pueden las máquinas tener mente? 75
Para Turing, la respuesta a este interrogante no debía estar sujeta a las definiciones a
priori de las palabras ‘máquina’ y ‘pensar’. A diferencia de estas preguntas
¿Pueden las máquinas tener mente? 76
De acuerdo con Turing, este test sirve para saber si se puede decir razonablemente
que una máquina piensa “el operacionalista diría que el computador piensa con tal de
que actúe de manera indistinguible de modo como lo hace una persona cuando está
pensando.”83 Si el interrogador no logra diferenciar a la persona de la máquina, debe
sentirse realmente convencido de que ahí hay realmente una presencia conciente. De
modo que: “si el computador fuera capaz de responder a todas las preguntas que se le
plantean de una manera indistinguible de cómo las respondería un ser humano –y, de
este modo, engañar completa y concientemente a nuestro perspicaz interrogador-
entonces sería que el computador realmente siente, piensa, etc.”84 Con esta prueba, los
teóricos de la IA pueden prescindir de detalles secundarios, como por ejemplo de qué
material está construida la máquina, y empezar a ocuparse únicamente de los aspectos
‘cognoscitivos’ por medio de la psicología computacional.
82
Copeland, J., Inteligencia artificial, p. 70. Este ejemplo, parece ser la respuesta definitiva a
la crítica que Jefferson lanzara y que iba dirigida a sustentar la imposibilidad de la IA. Esta
demanda decía que: “No será sino hasta cuando una máquina pueda escribir un soneto o
componer un concierto debido a las emociones que experimente, y no sólo mediante la
aleatoria disposición de símbolos, podremos estar de acuerdo en que la máquina está a la
altura del cerebro; es decir, no sólo deberá ser capaz de escribir algo, sino también estar
consciente de que lo ha hecho.” Russell, Stuart y Norving, Peter, Inteligencia artificial: Un
enfoque moderno, traducido por Raúl Bautista, Colección de Inteligencia Artificial de
Prentice Hall, México, 1996, p. 878.
83
Penrose, R., La nueva mente del emperador, p. 27.
84
Ibíd., p. 38.
¿Pueden las máquinas tener mente? 78
Pero para que el computador digital, que es a la máquina a la cual se refiere el Test,
pudiera superar la prueba, tuvo que haber sido construido de un modo específico. Se
dice entonces que para que un computador digital pueda ser inteligente debe constar
de: 1. Un almacén en el que guarde información, 2. Una unidad operativa que se
encargue de realizar las operaciones individuales propuestas en todo el cálculo y 3.
Un control que supervise que las reglas sean cumplidas correctamente, reglas que
estarían almacenadas en la ‘tabla de instrucciones’, es decir, en la programación.85
explican cómo pueden funcionar tales subsistemas, por lo que pareciera que deben ser
ejecutados por ‘hombrecillos’ que hagan posible el razonamiento. Pero si tu lector,
por ejemplo, para que puedas pensar necesitas el homúnculo ¿cómo puede el
homúnculo pensar a su vez? ¿hay dentro de él un hombrecillo aún más pequeño? Para
escapar de estas apelaciones absurdas, la IA afirma que la paradoja se disuelve al
responder qué es un computador y cómo dicha definición también se aplica para el
funcionamiento de la mente.
Para terminar con la exposición de la prueba de Turing, cabe decir que su idea ha sido
desarrollada por varios autores que han coincidido en la afirmación de que para tener
una mente sólo es necesario tener el programa correcto. Se entiende con todo que el
desarrollo de tales programas no sólo incrementará nuestra habilidad tecnológica,
sino que permitirá “aumentar nuestra comprensión de la estructura de la inteligencia,
a la vez que mostrar cómo un conjunto debidamente organizado de materiales puede
llegar a pensar.”88 Esta clase de afirmaciones trae como consecuencia, que no hay
nada especialmente biológico respecto de la mente humana, lo único que necesitamos
para producir inteligencia es cuidar la manipulación de programas y el modo en que
están instanciados. Por lo tanto, se puede decir que:
88
Corbi, J., y Prades, J., “El Conexionismo y su impacto en la Filosofía de la Mente”, en La
mente Humana, comp. Eduardo Rabossi, Ed. Trotta, Madrid, 1995, p. 153. Con la tesis de la
IA, podríamos pensar que se ha destronado al hombre de su privilegiada situación en el
mundo. El hombre se ha definido a sí mismo como un ser inteligente, excluyendo así no sólo
la inteligencia de los otros animales, sino también de cualquier máquina imaginable.
Entonces, el puesto triunfal del hombre en el mundo está amenazado por la posibilidad de
máquinas inteligentes.
¿Pueden las máquinas tener mente? 80
Si fabrico una máquina que es capaz de hacer una determinada operación que no
se puede distinguir de otra realizada por un ser humano y a la que llamo
‘pensar’, entonces hay que concluir que la máquina piensa efectivamente. Del
mismo modo que, si construyo una máquina capaz de hacer eso que
denominamos ‘volar’, por el procedimiento que sea, entonces he de afirmar que
la tal máquina tiene la facultad de volar.89
Se presupone, pues, que la mente es un sistema que maneja ciertos símbolos sin que
le interesen qué significan dichos símbolos tal como lo hacen los computadores. Esta
posición se refiere a la mente como un sistema formal. A continuación definiremos
qué es y cómo funciona un sistema formal.
Para iniciar digamos que algunos de los seguidores de Turing, entre los que se
destacan Allen Newell y Herbert A. Simon, comparten la confianza del primero en las
posibilidades que tiene la IA. Para ellos, la posibilidad de crear máquinas inteligentes
se hace real en el momento en que se comprende realmente qué es la mente. Pero no
se trata de simplemente imitar la inteligencia humana sino de crear inteligencia
artificial real, así, Simon puede sorprender a algunos con la siguiente afirmación:
89
Tirso, Andrés, Homo cybersapiens: la inteligencia artificial y la humana, Ed, Eunsa,
Pamplona, 2002, p. 71.
90
Simon, H.A., Rational choice and the structure of the environment, en Russell, S., Norving,
P., Inteligencia artificial: un enfoque moderno, p. 21.
¿Pueden las máquinas tener mente? 81
Pero ¿qué es un sistema formal? Para explicar cómo funciona un sistema formal,
recurramos a un caso como el ajedrez. En un sistema formal se manipulan piezas de
acuerdo a algunas reglas con el fin de obtener movimientos válidos. En el caso el
ajedrez tengo las piezas del juego: un rey, una dama, dos alfiles, dos caballos, dos
torres, y ocho peones, y además tengo las reglas que determinan cómo debo mover
cada una de las piezas, por ejemplo, que los peones avanzan en sentido vertical y que
sólo en la primer salida puedan avanzar dos casillas. De acuerdo con las reglas puedo
ejecutar movimientos válidos los cuales tienen una posibilidad finita.
91
Newell, Allen y Simon, Herbert A. “La ciencia de la computación como investigación
empírica: símbolos y búsqueda”, 1976, en Filosofía de la inteligencia artificial, Boden,
Margaret A., (comp.), traducido por Guillermina Feher de la Torre, F.C.E., México, 1994, p.
124.
¿Pueden las máquinas tener mente? 82
Hasta aquí se puede decir que la estructura de los sistemas formales comprende un
conjunto de objetos (las piezas del juego), unos enunciados elementales que se
refieren a los objetos y unos teoremas acerca de tales enunciados. Obsérvese que
hasta el momento no se ha dicho nada acerca del significado de tales piezas o
enunciados. Por lo anterior, cabe decir que en los sistemas formales se prescinde del
contenido para centrarse en la forma, por lo que la estructura tiene un sentido
puramente funcional y no significativo. El programa es pues, un conjunto ordenado
de instrucciones que están dirigidas hacia la realización de determinadas tareas,
instrucciones que deben ser cumplidas independientemente del lenguaje en el que se
escriban.
De esta manera, los ordenadores no necesitan repasar uno por uno los datos, sino que
de manera casi automática pueden llegar al caso concreto requerido. El modo como
funciona dicho sistema puede explicarse así: “los estereotipos organizan el
conocimiento por temas, almacenando juntos o por referencias cruzadas los datos que
están relacionados entre sí; por lo tanto, percibir los temas pertinentes proporciona
automáticamente información pertinente con rapidez.”92 Este tipo de organización
muestra además la importancia de la referencia cruzada, es decir, los ‘recuerdos’ de
un ordenador (que no son más que el almacenamiento adecuado de información y su
búsqueda rápida), pueden cruzarse de manera que no solamente se pueda ‘recordar’
92
Haugueland, J., La inteligencia artificial, p. 187.
¿Pueden las máquinas tener mente? 83
un hecho determinado, sino que a la vez se pueda relacionar la información. Este tipo
de asignación desea duplicar la capacidad de la mente humana para recordar.
Esta concepción tiene su origen en el inicio de la lógica formal con Frege, Whitehead
y Russell. Fue con ellos que se empezó a afirmar que tanto la lógica como la
matemática son juegos que se llevan a cabo con signos sin sentido según algunas
reglas sintácticas94. Lo que interesa es la correcta manipulación de los símbolos,
manipulación que se lleva a cabo en todos los casos posibles independientemente de
qué signifiquen dichos símbolos. Al igual que la lógica, estos pensadores concibieron
a la mente como un sistema físico de símbolos, de ahí que se halla afirmado que “el
razonamiento simbólico obedece reglas que no se refieren a ‘nada’ más que a las
propiedades formales del sistema mismo, y donde los símbolos carecen de
significado.”95 De esta manera se cree que tanto las reglas del sistema como un
número de principios que se refieren a las piezas del sistema, sin que importe a qué se
refieren o qué significan, puedan emplearse para resolver cualquier clase de
problemas.
93
Ibíd., p. 51.
94
“La lógica formal nos familiarizó con los símbolos, considerados desde un punto de vista
sintáctico como la materia prima del pensamiento, y con la idea de manipularlos conforme a
procesos formales cuidadosamente definidos” Newell, Allen y Simon, Herbert A. “La ciencia
de la computación como investigación empírica: símbolos y búsqueda”, p. 150.
95
Campbell, Jeremy, La máquina increíble: lo que revelan los nuevos descubrimientos de la
inteligencia artificial sobre el verdadero funcionamiento de la mente, F.C.E., México, 1994,
p. 36.
¿Pueden las máquinas tener mente? 84
Una de las críticas más fuertes que recibió esta afirmación fue que la lógica por sí
sola es inútil para guiarnos en el mundo real ya que no se preocupa por el contenido
de los enunciados. Para solucionar este problema, es decir, que la simple
manipulación formal de símbolos no puede ser una guía para la vida real, se crearon
los llamados sistemas expertos.
Siguiendo con las características propias de los sistemas formales, es importante decir
que éstos también son digitales. Un sistema digital “es un conjunto de técnicas
positivas y confiables (métodos, dispositivos) para producir y reidentificar elementos,
o configuraciones de elementos, a partir de una colección de tipos ya especificados
con anterioridad.”97 Podemos sustituir la producción con escribir. Aquí escribir no
hace referencia a las marcas producidas, por ejemplo con un lápiz, sino a cualquier
tipo de manipulación de elementos que cambie la posición formal inicial. Y por su
parte, que reidentifique significa que tiene la capacidad para leer, lectura que no
implica comprensión ni reconocimiento sino sólo diferenciación por tipo y posición.
Así, un sistema digital es un conjunto de técnicas para escribir/leer.
96
Cuena, José, (comp.) Inteligencia artificial o sistemas expertos, Ed. Alianza, Madrid, 1986,
p. 58.
97
Haugueland, J., La inteligencia artificial, p. 54.
¿Pueden las máquinas tener mente? 85
98
Churchland., Materia y Conciencia, p. 170.
¿Pueden las máquinas tener mente? 86
Podemos ver que en este caso que al parecer el ordenador comprende verdaderamente
el relato de la paciente. Pero esta conclusión no es tan sencilla. Si se analiza
cuidadosamente, las respuestas que da ELIZA son transformaciones simples de las
oraciones de la paciente99. En realidad no comprende lo que significa que la paciente
esté deprimida, o que tenga un novio que no la valore, etc. De la misma manera en
como procede Parry, Eliza y el ejemplo de la prueba de Turing, anteriormente
citados, no están comprendiendo el relato que se les presenta, simplemente están
empleando la técnica de ‘comparación de patrones’.
Estos programas están equipados con una lista en su base de datos de las posibles
variaciones que tiene un input suministrado. El programa selecciona automáticamente
dentro de esta lista el carácter más apropiado para el input que ha recibido, no hace un
trabajo ‘intelectual’ riguroso para dar el output o respuesta. Por lo tanto, aunque
‘superan el test de Turing’ realmente dichos programas no entienden lo que les llega
como input ni lo que dan como respuesta. Parece entonces que el test de Turing no es
la prueba definitiva por medio de la cual determinar la inteligencia de las máquinas.
Este tipo de críticas que ponen en duda la autoridad del test de Turing para decidir si
las máquinas son inteligentes o no, se analizarán en el siguiente capítulo por medio de
la exposición de Searle y su argumento de la habitación china, con el cual se llega a
decir que es posible que determinado sistema pueda superar la prueba de Turing sin
que ello signifique que tal sistema tenga inteligencia real. Esta crítica, como lo
veremos en su momento, se basa en el modelo conductista del test de Turing y con
base en él afirma que un programa puede comportare como si fuera inteligente, pero
no serlo en absoluto.
99
Lo que nos faltaría por ver es si nuestra psicoterapeuta ELIZA, puede realizarle con éxito
una terapia a nuestro agobiado programa paranoico Parry.
¿Pueden las máquinas tener mente? 87
Ya se había dicho que los sistemas formales son independientes del medio en el que
se materializan. Lo anterior significa que esencialmente el mismo sistema formal
puede ser materializado en cualquier número de medios diferentes sin ninguna
diferencia formal significativa.
Los jugadores de los sistemas formales por lo único que se deben ocupar es por seguir
las reglas, en decir si el movimiento efectuado es válido o no y a la vez efectuar
movimientos válidos. Es importante decir que los sistemas formales tienen una
posibilidad finita de juego ya que debe estar al alcance de las habilidades de los
jugadores finitos. Esto nos da a entender que un jugador finito tiene sólo en principio
un repertorio finito de operaciones primarias. Pero los jugadores no solamente
utilizan estas operaciones primarias, sino que con base en ellas deben poder realizar
operaciones no primarias, es decir, deben ser capaces de hacer combinaciones de las
operaciones primarias para producir nuevas jugadas. Deben ser capaces de construir
operaciones más complejas.
Newell, Allen y Simon, Herbert A., “La ciencia de la computación como investigación
100
Ya se había dicho que en los sistemas formales tiene poca importancia el significado
de los símbolos. Detengámonos en este punto. Puesto que los sistemas formales no
permiten que la significación desempeñe ningún papel, las misteriosas tradiciones
sobre la significación, como ¿cómo es posible la significación en un universo físico-
mecánico?, no los pueden afectar. Recordemos que mientras que la semántica es la
teoría general de la interpretación y de la significación simbólica, la sintaxis se refiere
únicamente al campo formal, de modo que la interpretación y la semántica
trascienden lo estrictamente formal o sintáctico, por lo que no tienen lugar en los
sistemas formales. Así, para el sistema formal, la fórmula:
ab
bc
ac
se cumple para todos los casos, sin que importe qué signifique ‘a’, ‘b’, o ‘c’.
Independientemente de cualquier significado que los símbolos tengan, aplica de igual
forma la regla.
Al igual que para los sistemas formales no importa qué significan los símbolos,
tampoco interesa de qué están hechos. Los sistemas universales (formales) de
símbolos se podrían construir de muchas maneras. Esto supone, como dijo Turing,
que la realización múltiple de los símbolos implica que un computador no es
esencialmente un dispositivo electrónico.101 Este principio de realizabilidad múltiple
implica que el cerebro es una realización orgánica de un sistema universal de
símbolos. El cerebro es un computador de carne. Esta afirmación se conoce como
hipótesis fuerte del sistema de símbolos. Según esta hipótesis sólo los computadores
son capaces de pensar. Cualquier cosa terrestre o extraterrestre que piense, si se
examina con detenimiento, no es más que un computador. Así, la mente humana es
un sistema universal de símbolos, por lo que todo pensamiento humano consiste en
101
Cfr. Turing., “La maquinaria de computación y la inteligencia”, p. 59.
¿Pueden las máquinas tener mente? 89
Tomemos por ejemplo el caso de una calculadora cualquiera. Por medio de los
botones que esta máquina tiene, podemos entrar cualquier posición inicial nueva, por
ejemplo ‘5’ y continuar con movimientos hasta obtener, por ejemplo, ‘5+7’. Cuando
entramos nuestro último movimiento válido ‘=’, la máquina nos muestra de forma
automática en la pantalla el único movimiento válido para esta posición ‘12’. Para los
defensores de la IA, este último movimiento es semánticamente razonable porque el
esquema interpretativo era el adecuado sólo porque los movimientos válidos tenían
sentido. Esta conclusión está ligada al lema de los formalitas, para quienes ‘si cuidas
de la sintaxis, la semántica se cuidará sola’, en donde cuidar la sintaxis significa jugar
de acuerdo con las reglas, de lo que se sigue la comprensión del sentido gracias a los
movimientos válidos efectuados siguiendo las reglas.
102
Haugueland, J., La inteligencia artificial, p. 103.
¿Pueden las máquinas tener mente? 90
cuidará sola’, para Searle la sintaxis nunca es suficiente para la semántica. Ya que lo
que hace nuestra mente, ciertamente, no es simplemente manipular símbolos, sino
que va más allá, entiende qué es lo que significan esos símbolos, para Searle la mente
no puede ser equiparada con la ejecución correcta de un programa, pues este último
está definido de manera sintáctica, por lo que nunca llegará con comprender qué
significan los símbolos que manipula, caso contrario de la mente humana. Por lo
tanto, si bien los ordenadores ejecutan con total precisión las reglas dadas, no
comprenden nada de lo que significan los símbolos que están operando. De ahí que
para Searle sea una total imprecisión la analogía entre mente y ordenador. Este
rechazo niega a la vez que la IA provea de una solución definitiva al problema mente-
cuerpo, lo cual hace necesario la postulación de una nueva solución al problema,
solución que para Searle va a ser el naturalismo biológico. La exposición completa de
esta crítica se presentará en el siguiente capítulo.
Hasta aquí hemos mostrado, lo que Haugueland llama la GOFAI (BAIA), (la buena y
anticuada inteligencia artificial) que, como ya vimos, tiene su base en la teoría de la
inteligencia y del pensamiento que sostiene, como Hobbes lo llamó, que el raciocinio
es computación. Podemos decir que para la BAIA, el estudio acerca de la mente no
sostiene que los procesos inteligentes pueden ser descritos por medio de símbolos,
sino que afirma que dichos procesos son simbólicos. Esto significa que nuestra
capacidad de pensar se debe a nuestra capacidad para manipular símbolos
automáticamente. Pero para que esta manipulación sea posible, se supone que deben
existir subsistemas computacionales que lleven a cabo tal análisis. Lo anterior no
significa que la BAIA esté apelando a homúnculos que hagan posible tal análisis
(como lo vimos en el caso de la paradoja de la razón mecánica), sino que está
considerando que la mente es un sistema formal de manipulación de símbolos que a
la vez está equipado de subsistemas para llevar a cabo manipulaciones ‘razonables’
internas.
¿Pueden las máquinas tener mente? 91
Con este postulado se empieza a evidenciar un poco más la analogía entre mente y
ordenador, pues los dos vendrían siendo sistemas complejos compuestos por
subsistemas que hacen posible las operaciones inteligentes. Gracias a la BAIA se
llegó a determinar que tanto la arquitectura de la mente como la de los ordenadores
era bastante compleja aunque los dos estuvieran compuestos de partes simples. Esta
consideración tiene su origen en Turing para quien un ordenador podía ser
indefinidamente complicado aún cuando estuviera compuesto de partes simples. Estas
partes simples a las que se refería Turing, eran las estructuras internas de datos,
diferentes ‘estados de máquina’ que podían programarse para que respondieran a
diferentes inputs y pudieran crear conductas input-output de cualquier tipo. Así,
damos paso a considerar la arquitectura de dichos sistemas formales para terminar por
considerar por qué, para la IA, la ecuación mente/ cerebro = programa/ hardware es
cierta.
Hasta aquí pudimos ver que de acuerdo con la IA los procesos mentales no son más
que procesos computacionales. Esta afirmación encierra la tesis general del
cognitivismo de que el cerebro es un ordenador digital. Pero ¿cómo surgió esta
teoría? ¿Cómo se ‘descubrió’ que el cerebro no es más que un computador digital?
Pues bien, esta teoría descansa en dos resultados de la lógica matemática. El primero
es conocido como la tesis de Church – Turing de acuerdo con la cual para cualquier
algoritmo hay una máquina de Turing que puede implementar dicho algoritmo. Una
máquina de Turing es un aparato de cálculo capaz de resolver una función
matemática dada que sea computable, es decir, si su solución es susceptible de ser
obtenida por procedimiento mecánico. El segundo es la tesis de Turing que afirma
que hay una máquina universal de Turing que puede ser capaz de simular cualquier
máquina de Turing. De lo anterior se sigue que una máquina universal de Turing
¿Pueden las máquinas tener mente? 92
puede implementar cualquier algoritmo, ya no una sola función sino toda función
matemática que sea computable.
Cabe decir que el concepto de máquina de Turing fue introducido por Turing con el
fin de intentar resolver el problema del Entscheidungsproblem, planteado por David
Hilbert en 1900. Hilbert había pedido un procedimiento algorítmico general para
resolver cuestiones matemáticas. La pregunta era “¿existe algún procedimiento
mecánico general que pueda, en principio, resolver uno tras otro todos los problemas
de las matemáticas (que pertenezcan a alguna clase apropiadamente bien
definida)?”103 El problema era cómo captar la verdad de una afirmación acerca de un
número infinito de casos. Este problema para muchos se respondía al ver que estas
afirmaciones en verdad no involucraban un número infinito de casos sino que son
oraciones finitas deducidas por un número finito de reglas de lógica deductiva. Así, la
pregunta de Hilbert era si los sistemas finitos podían tener al mismo tiempo
consistencia, completud y decidibilidad. En definitiva, la pregunta de Hilbert iba
dirigida a saber si existe una estructura lógica suficiente para demostrar o refutar todo
enunciado matemático.
103
Penrose, R., La nueva mente del emperador, p. 61.
¿Pueden las máquinas tener mente? 93
Turing se dedicó al problema dejado por Gödel y en 1936 logró resolver el problema
de la decibilidad en su artículo “On computable numbers, with an application to the
Entscheidungsproblem”. Este artículo pretendía resolver la pregunta de Hilbert pero
no formulada en términos de demostraciones sino en términos de la computación de
números. Turing enfocó el problema desde un punto de vista totalmente distinto al de
Gödel al decir que los pasos lógicos que se utilizan para construir una prueba, son los
mismos pasos que sigue una calculadora humana para realizar cualquier cómputo.
Turing replanteó el problema desde la computabilidad.
Así, una máquina de Turing está constituida por una cantidad de posiciones llamadas
almacén o memoria, y una unidad ejecutoria que lleva a cabo las operaciones
necesarias para realizar un cálculo, y el conjunto de estas operaciones es lo que
conocemos como programa. Ahora bien, para mirar cómo el concepto de Turing
intentó resolver el problema de la decidibilidad de Hilbert, detengámonos a
104
Penrose, R., La nueva mente del emperador, p. 65.
¿Pueden las máquinas tener mente? 94
Para que un método sea un procedimiento general, ha de estar prescrito hasta los
menores detalles, de suerte que no se requiera el más leve esfuerzo de
imaginación creadora para llevarlo a cabo. Pero, si todo queda determinado así
en detalle, entonces será obviamente posible abandonar la ejecución del método
a una máquina, máxime si la máquina en cuestión es totalmente automática. 105
De modo que, de acuerdo con el concepto de Turing, todos los algoritmos pueden ser
comprendidos por las máquinas de Turing, en otras palabras “ningún sistema formal
automático puede hacer algo (no casual) que no puedan hacer las máquinas de
Turing; en principio, las máquinas de Turing son los únicos sistemas autómatas que
siempre vamos a necesitar.”106 De esta manera, Turing logró afirmar que cualquier
cantidad matemática se puede calcular por medio de una máquina de Turing.
Ahora bien, el lector se preguntará ¿qué tienen que ver los algoritmos en la
afirmación de que el cerebro es un ordenador digital? Pues bien, se debe observar que
algunas de las capacidad mentales humanas son algorítmicas. ¿Y qué es un
algoritmo? Digamos de nuevo que el algoritmo es cierto procedimiento de cálculo
cuya ejecución reside en la precisión de sus resultados, en la economía para realizar el
cálculo y la velocidad en que es ejecutado. Ahora, si el cerebro puede ejecutar con
precisión ciertos algoritmos, los defensores de la IA fuerte afirman que esta capacidad
105
Hermes, Hans, Introducción a la teoría de la computabilidad. Algoritmos y máquinas,
traducido por Manuel Garrrido y Aranzazu Martín, Ed. Tecnos, Madrid, 1984, p. 49.
106
Haugueland, J., La inteligencia artificial, p. 129.
¿Pueden las máquinas tener mente? 95
puede funcionar también en un ordenador, además “alegarán que, donde quiera que
funcione, el algoritmo experimentará autónomamente sentimientos, tendrá una
conciencia, será una mente.” 107 De modo que lo significativo para el ‘estado mental’
es la estructura lógica del algoritmo que lo representa, por lo que es irrelevante la
encarnación física de dicho algoritmo.
Volvamos a considerar qué es una ‘Máquina de Turing’. De acuerdo con Turing, una
máquina de Turing se conforma de una cinta dividida en recuadros en los que la
máquina puede llevar a cabo operaciones elementales como escribir un 0 o un 1,
mover la cinta a la derecha o a la izquierda o borrar alguno de los símbolos. Dicha
máquina se controla por medio de un programa de instrucciones en donde cada
instrucción se refiere a una condición y una acción que se ha de llevar a cabo. Esta
máquina puede estar hecha de cualquier material siempre y cuando proceda de
manera correcta. Una máquina de Turing puede representarse por medio de este
gráfico: La cinta finita se vería así:
0 0 0 1 1 1 1 0 1 0 0 1 1 1 0 0 1 0 0 1 0 0 1 0 1
107
Penrose, R., La nueva mente del emperador, pp. 41-42.
¿Pueden las máquinas tener mente? 96
puede ser reflejada estructuralmente por algún programa, que sigue lógicamente los
mismos pasos logrando representarlos en el lenguaje de máquina (BUL).
Pero con toda esta exposición parece que aún no se ve por ninguna parte cómo una
máquina que se limita a escribir o borrar unos y ceros puedan pensar. Pues bien,
Turing afirma que se puede construir una máquina que haga el trabajo de la mente
humana, que para él no es más que una especie de computador. Esta postulación la
explica Turing recurriendo al funcionamiento y constitución del cerebro. Recordemos
que el cerebro tiene cerca de diez mil millones de neuronas que se conectan entre sí,
ahora bien, Turing considera que el cerebro almacena su información en forma de
patrones que son los que crean los disparos de las neuronas; para muchos, estos
patrones se asocian con los ‘pensamientos’ y su almacenamiento puede verse similar
a como un computador almacena sus datos en el almacén o la memoria. Ahora bien,
las secuencias de unos y ceros de los computadores es similar a las cadenas de
‘encendido’ ‘apagado’ que tienen las neuronas. Podemos ver las cadenas neuronales
como un conjunto de interruptores que se excitan o inhiben de acuerdo a los disparos
de los patrones. De esta manera, lo que llevó a Turing a creer que es posible la
creación de máquinas inteligentes fue:
Podemos decir entonces que el artículo de Turing de 1936 logró cuatro sorprendentes
resultados: resolvió el problema pendiente planteado por Hilbert; inauguró el nuevo
estudio matemático de la computabilidad; ofreció un nuevo análisis de la actividad
mental y; expuso el principio del computador a través del concepto de máquina
universal de Turing.
Casti, John, L., El quinteto de Cambridge. Una obra de especulación científica, traducido
111
Pero ¿qué es una máquina universal de Turing?, pues bien, hemos dicho que una
máquina de Turing está conformada por una tabla de comportamiento, en donde la
operación de esa máquina es un asunto mecánico de buscar entradas en la tabla.
Ahora bien, una máquina de Turing puede ser diseñada para tener la propiedad de que
si se le suministra la tabla de comportamiento de otra máquina de Turing, haga lo que
esa máquina hubiera hecho. Esta máquina es la máquina universal de Turing,
concepto fundamental en el estudio de los ordenadores pues “hoy en día es
impensable estudiar las máquinas de Turing sin pensar en ellas como programas de
computador y en la máquina universal como el computador en el que operan los
programas”112
Sin embargo, parece que no queda claro del todo cómo es que una secuencia de unos
y ceros o de ‘encendido’, ‘apagado’, para el caso de las neuronas, puede originar
pensamientos. La pregunta que nos queda es “¿Cómo es posible que un conjunto de
112
Hodges, A., Alan Turing. Un filósofo natural, p. 31.
113
Searle, J., Mentes, cerebros y ciencia, p. 35.
114
Searle, J., El redescubrimiento de la mente, traducido por Luis Valdés, Ed. Crítica, España,
1996, p. 208.
¿Pueden las máquinas tener mente? 99
Ciertamente sabemos que nuestros pensamientos se refieren a algo, o son sobre algo,
pero no parece que una cadena de símbolos pueda significar algo distinto a ellos
mismos, en definitiva, el problema que se nos plantea aquí es ¿cómo una cadena de
símbolos puede dar origen a los pensamientos? Si ya dijimos que nuestros
pensamientos son sobre algo, ¿cómo unos símbolos definidos sintácticamente pueden
dar lugar a la significación?
Para autores como Searle, a diferencia de los procesos mecánicos propios de las
máquinas universales de Turing, las mentes humanas tienen semántica y son
intencionales, es decir están dirigidas o son sobre algo. A diferencia de los sistemas
formales, que manipulan los símbolos en virtud de reglas sintácticas, las mentes son
semánticas. Para Searle es falso decir que las mentes son sistemas formales como las
máquinas universales de Turing ya que, por un lado, a las mentes sí les interesan los
significados de los símbolos que ‘manipulan’, y por otro, para Searle el material en el
que se realice el sistema sí es importante. Para Searle, es gracias a los poderes
causales del cerebro que existen estados mentales.
Al parecer, la mayor diferencia entre las máquinas que manipulan símbolos y las
mentes humanas, es que las primeras manipulan símbolos (unos y ceros) sin saber
qué significan dichos símbolos, contrario a la mente humana que fuera de tener
sintaxis, tiene contenidos semánticos (intencionales). Así, de acuerdo con Searle,
Turing no puede hablar en serio cuando afirma que una máquina que no hace más que
115
Casti, John, L., El quinteto de Cambridge. Una obra de especulación científica, p. 83.
¿Pueden las máquinas tener mente?100
Pero no sólo la analogía entre cerebro y máquina de Turing es falsa para Searle, sino
que también lo es el criterio postulado por Turing para decidir si una máquina es
inteligente o no. Searle parte de la misma base conductista del test de Turing para
afirmar que las máquinas se comportan como si estuvieran comprendiendo, pero en
realidad no entienden nada. Searle llega a esta conclusión por medio de su
experimento mental de ‘la habitación china’ con el cual demuestra que la IA tiene
como fundamento una premisa falsa, a saber que la inteligencia consiste simplemente
en manipulación de símbolos. En el siguiente capítulo expondremos detalladamente
los argumentos de Searle en contra de la IA.