Documentos de Académico
Documentos de Profesional
Documentos de Cultura
,BKB, JB, BBM, BM, B, MB
,BKB, JB, BBM, BM, B, MB
CFI{EBROS
Y I'R()(tR\trtAS
a los esfuerzos
.OUIMpSRTANCIApsicolgica y filosfica debemos dar
rccientes que se han realizado para que las complttadoras simulen las habilidades cognoscitivas del ser hr-rmano? Para tesponder a esta pregunta,
nre parece til diferenciar entre lo que llamar Ia (inteligencia artificial)
"f uerte" e IA "dbil" o "cautelosa". Segrn la ra dbil, el principal valor que
tiene la computadora en el estudio de la mente es qlle nos proporciona una
hcrramienta muy poderosa que nos permite, por ejemplo, formular y com"fuerte",
pr:clbarhiptesis de modo ms riguroso 1' preciso. Empero, en la Ia
la computadora no es tan slo ua herramienta para estlldiar la mente;
rursbien, la computadora programada adectradamente es t'ealmente una
nrente en el sentido de que puede decirse literalmente que las computadoras
Llu e CUen fan con pr ggr am aS c or r ec ( oS c ot t t pr e t t d e t t y p o s e e n o t t o s e s t a d O s
cognoscitivos. En la IA fuerte, como la comprttadora progranrada cuenta
c6n estados cognoscitivos, los programas no Son meras herramientas que
nos permiten probar las explicaciones psicolgicas, sino que los programas
constituyen por s mismos las explicaciones
No tengo ninguna obiecin a lo que se dice acerca de la IA dbil, al menos
er-rlo que concierne a este artculo. Mi exposicin aqu I'ersar en tor-no a
las afirmaciones que he hecho acerca de la tn fuerte, especficamente en
t()rno a la afirmacin cle que la computadora programada adecuadamente
tiene literalmente estados cognitivos que, en consecuencia, los programas
-v
explican la cognicin humana. A partir de ahora, cuando me refiera a Ia
tA ienclr en mnte la versin Fuerte, tal cual queda expresada por estas dos
aseveraciones.
considerar la obra de Roger Schank y sus colegas en Yale (Schank y
Abelson, 1977), porque me encuentro ms familiarizado con ella que con
ctralesquiera otras aseveraciones similares, y porque oFrece trn ejemplo
ntuy clro clel tipo de trabajo que deseo examinar. Pero nada de lo que a
continuacin se presenta depende de los detalles de los programas de
Sch an k, pu es lo s m is m os ar gum ent os s e p o d r a n a p l i c a r a l S H R D L U
de Winogiad (Winograd, 1973), a1 ELIZA. de Weizenbaum (Weizenbaum,
* JolrnR. Searle,"Minds,Brains,and Programs",TlrcBehavioraland Braitt scietrces,
3, 1980,pp.417-424.O 198,CambridgeUnersityPress Reproducidocon pemiso de
CambridgeUniversityPressy del autor.
s:
1 9 - 5 )r 'c l e h e c h o a ctr a l q u i e r - si m tr l a ci r i n e . r r r q tr i n a cl e Tr r r .i .s
cl e fe n m e n o s m e n t a l e s h t r ln a n o s.
N l t r - v b r e 'e m e n t e , v d e j a n d o d e l a d o 'a r i .s
cl e ta i l e s, e l p r .o g r .:r .r a d e
Schank ptrede describirse de la sigr-rientenraner.r:
el p'.prisito clel ir,,g.rma
consiste en simular la capacidad hunrara para c().rpr-e.der.
relat.s. una
c a r a c t e r s t i c a d e l a ca p a ci cl a d d e l o s se r .e s h r r n r a .o s p a r .i
c.m p r e n cl e r
relatos es que stos pueden responcle. pregrntas acel.ca
clc-lr-elaro, atrn
cuando la informacin qr-rep.opor-cionen nrrnca se hava establccicilr
exolc i t a m e n l e e n e l r e l a to . As p u e s. p o r .e j e n r p l o , sr r p {}n g a q u e cs( .u cl ,a
l a s _
guiente historia: "un honrbre entr a un restllr.antc or.clerr
r,
trn:r halnb u r g u e s a . c u a n d o se l a si n 'i e r o n , e sta b a tr ta l r r e .te q r r e .r l r cl a ,
a s < 'e e r
hombre estall en clera v abanclon el restarrr.ante firr.irso,
,ir, rngu. ra
hamburguesa ni deja. propina." Aho'a bien, si re pr-eetrntan,or, "...s"
co'ri
e l h o m b r e l a h a m b u rg u e sa ? ", u ste d p r o b a b r e .r e .tJr e sp o r - r cl e ,r : ..N o ,
no
se la comi." De igual maner-a, si ustec,lescrrchrlo sigtrie.te: "[Jn
hor'bre
e n t r a u n r e s t a u . a n r e 'o l d e n
t l r r l l .r b r l q r r e sr . cr a ..l ,, st'l l r si r .,,.i e l .o n ,
le agrad mucho. Al sali. del r-estau.ante, le Jc.i a la nlescr.r
ge'erosa
'ra
propina antes de pagar la ctrenta." Si se le pr'r.gu11ta:
"Se co'riti
lro,.br-e
"f
la-hambtrrguesa?", usted probablen-rente .esponcrera: "S,
se la crmi.,,
Ahora bjen, las mquinas de schank ptreclenre.s,orr.ierp,.eguntas
sirilar-es
acerca de restaurantes formuladas en estos tr.nrinos.par.a lirce.rlc),
cLlentan
con una "representacin" clel tipo de inltornracin qlre poseen
l.s seres
humanos acerca de los r-estau.antes, la cual les per.'ri{e resp.rcler-l)r-eg'ntas como las antes mencionadas, dado estertip. de relat.s. c,,r,rr.lo
se pr-()p o r c i o n a e l r e l a t o a l a m q r - r i n a 'se l e h a ce l a p r - e g 'n tr , i r r r p r .i n r i r .r
r - e spuestas del tip. de las qr-reesperaramos qr-reclier:rrilos se'es
hrrrr'tnos al
escuchar relatos similares. Los particlar.ios de la lR ftrer-teafir.nrrn(ilre
en
e s t a s e c u e n c i a d e p r eg r - r n ta sv r e sp L l e sta sl rm q u i n a n o s l o si n r tr l a
una
h a b i l i d a c l h u m a n a , s i n o q u e ta m b i n :
1 ) p u e d e d e c i r s e l i te r a l m e n te q u e l a n r q r ri n a cctr r tp r e r tr l ce l r e l a t. y p r o p o r c i o n a r e s p u e s t a s a l a s p r .e g r r n ta s,r
2) lo que la mquina y su programa hacen es ex\tlic.r la caprciclaclhum a n a d e c o m p r e n d e r e l r e l a to r . r e sp o n d e r . p ."g ,,n i u , r ..",.cai e e l .
A m me parece que ningtrna de estas dos afirmaciones c.crrc.rr.a un
sostn total en el trabajo de Schank,' como intentar clemostr.ar a continuacin.
una manera de probar cualquier teora cle la n-re.te estriba en preg'ntarse a uno mismo qu suceder'a si nri mente realrnente ftrncionara sobre
los principios con que Ia teora dice que funci.nan toclas las n-rentes.Apliquemos esta prueba al programa de Schank con el sigrrie nre GerlanketrcxI No pretendodecir,claro
est,que el propioSchankse encuentrecornprometiclo
co
estasafirmaciones.
S,1
v que se me
pcrimerlt.Supongamosque estoy encerrad,oen una habitacin
Supongamos adepropo..io.ru'un f-ajogrande de textos escr"itosen chino
escri
to ni habl ado'
ni
d" h " i h o e l c a s o ) q u e n o s c h i no'
rn a, ( . o- o
china
",
escritura
la
reconocer
poder
y qr-reni siquiera tengo la certeza de.
japonesa
de
una
o
escritura
la
de
como tal, distinguinola, por ejempl,
slo
chi'a
escritura
la
m,
Para
alguno.
sel.iede garabatossin signiiicadt
que despus
es una r"il" d" garabatoJsinsentido.Ahora bien, suponganlos
que
contiene
otro
" .".ibi. est" ;o de textos en chino, se me proporciona
Las
primero
el
con
fa'io
una serie de reglas para relacionar el sepgndo
hablante
otro
cualquier
como
bien
tan
r.eglasestn en inglei v las entiendo
un conjuncleesta lengua. Me permiten estableceruna correlacin entre
"fonnal"
con
for-males.
de
smbolos
conjunto
y
otro
formales
to de srnbolos
completamente
slo quiero decir aqu qrr" p,,,e.loidentificar los smbolos
faio
po. ,tu formas. S.tpo.rgu*.rs tambin ahora que recibo un tercer
ingls,
en
otra
instr'cciones,
cle smbolos chinos i.rrio .or algunas
'ez
los dos
qlle me per-rnitencorrelacionar elementosde este tercer faio con
con
responder
cmo
de
acerca
instmven
me
primeros, v que estasreglas
que me
forrna
de
lipos
a
ciertos
forma
cierta
de
chinos
.i",ro, smblos
que
lireron proporcionadas en el tercer faio' Sin yo saber'lo,las p^el'sonas
"relato"
primerfajo,
nre diern todos estossmbolosllaman "manuscrito" al
"l'espLrestas
a las preal segundo v "preguntas" al tercero. Adems,llaman
de
y
al
coniunto
fajo'
tercer
al
lo, ,l-olos que doy en respuesta
,.t.rr"
^ ingls que
"el programa" Ahora
lo
llaman
p.opor.ionaron
iegl.s en
-
la historia un poco, imaginemos que estasperbien, sl,r para complicar
sc , nast am t in me p ro p o rc i o n a n re l a to s e n i ngl s, qtl e vo comprendo'
v que luego me hac' preg.ntas en ingls sobre esos relatos v vo les resp,rr-r.lorambin en ingis. Supo'gamos tambin que despttsde ttn rato
i,)gr,, ,"gui. tan bien ias instmcciones para descifl'arlos smbolos chinos
logran escribir tan bien los programas desdeun punto
,, , p.o-grrrrrradores
clevista externo -esto es,desdela perspectivade algien qlle se encuentra
ftrera de la habitacin cloncleestoy encerrado- qtte mis respuestasa las
pleguntas pr-redendistinguirse en absolttto de ias que proporcionara ttn
irablanted"l chit o. Nadieque slo obsen'aramis respuestaspodra afirrnar
qlle no hablo ni una paiabra de chino. Supongamostambin qne mis resa las preguntas en ingls son (qu dr,rdacabe) indistingrriblesde
,i-restas
ias cle otros hablantes del ingls, por la sencilla razn de que )'o sc)' tln
hablante de esta lengua. Desde el ptrnto de vista externo -el de alguien
,.uelea m is " r es p u e s ta s " -, l a s c o n te s ta c i o nesa l as preguntas en chi no
v . lu. preguntas en ingls son igualmente buenas. Empero, en el caso del
chino, a cliferenciadel ingls, fcr-rnulomis respuestasmediante el manejo
cle smboios forrnales no intetpretados, En lo que respecta al chino, nle
cclmporto simplen-rentecomo una computadoa; realizo operaciones de
lvfENI-ES,
CEI?LBIiOS
Y pROGR;\IIAS
I]6
tvlENTES,
ClIrliFIlR(lS
Y I'R()L]R;\N1A,
n,
m c n t e v c a s o s o b'i o s e n q u e n . se a p l i ca ;
],e sto s cl r s ti p o s cl e ca so s so n
t o d r l o q t r e n e c e si to p a r a e ste a r g u n r e n to .z yo e n ti e n cl o r - e l a t's
e n i n g l s;
en menor g|ado, puedo entencler |elatos en l'r-ancs;en nren()r.gr-aclo
rn,
r e l a t o s e n a l e m n , p e r o e n ch i n o , a b so l tr ta n r e n te r a cl r .p o r .r i tr r
p a r te , m i
a u t o m v i l v m i s tr 'r a d o r a r o e n ti e n cl e n n a cl a : e se a s'n to
no
.- l est, i n c u m b e n c i a . c o n fi - e cu e n ci a a tr i l >u i n o s l a ca p :r ci cl a clcl e "co n r p"nr - e n si n ,,y
otros-predicados cognilivos por nredio clc nretrfirr-a.. u.uloins
r,
a alltomr'iles, surnadoras v otros artefactos,
rer-o.ada s" pr:r,"tr. co]r tales atl.ibuciones. Decimos: "la pue.t:r .sa,/;ecrrinclo rbr.il.sc,a ca.sa
clt: str celda
fotoelctrica", "la sunrador-a.scl:
t:rlttto (ertrt,rttlt,t:tjttto, (,.\(.(tl)(tz,/r,/strnrar
v restar pero no dividir", v "el tcr.nt<_rst
alo .,tt,rt.ibc
cant bios rle tt nt ttcratur_a,,.
L a | a z n p o I - l a q u e h a ce m o s e sta s a tr i L r tr ci ,r n cse s L r r stl u r tr .i n t.,r - e sa n te
v
t l e n e q L l e V e r c o n e l h e ch o d e q r - r ee n l o s a r te fa cto s e xte n cl e n r 6 s
tr e sl r - a
p r o p i a i n t e n c i o n a li d a d .r N r r e str 'r sh e r l a n r i e n ta s so n e xte n si r i n e s
cl e n u e st r o s p r o p s i t o s v , p o r co n si g u i e n te , n o s p a r e ce n a l tr l a l a tl i Ir r i r - l e s
i l tte n c i o n a l i d a d n r e t a f r - i ca tr e n te . Si n e n r b a r - so , a r n i
.j r r i ci o e sto s c.j e n r r l e sr r o
t i e n e n n i n g t r n a i m p o r ta n ci a l - i l o s l - i ca .El se l r l i cl o e n r l q r r e ,,,,.
- r .,".tu
a u t o n l t i c a " e n t i e n cl e i n str ttcci o l l e s" :r p a t- ti l cl e str ce - l cl lro to cl cl t- i ca
l to
e s d e n i n g t l n a n l a n e r a e l se r - r ti cl ocn e l c r - rre,o e n ti e n cl o i n g l s.
Si r :l se ti cl o
e n e l q t r e l a c o n r p u l a d o r a p r o g r a r n a cl a cl e Scl l a r r k c,r ,r r r r - ",r ,.1l g" s
r .e - l a to s
e s s L r p u e s t a m e n l e e l se n ti d o r n e ta l ' r .i co e n r .l q u e l a
,tr .,rta r r l tl tt ti ca
e n t i e n d e 'l r o
e l s e n ti d o e n e l q u e 'o e 'ti e 'cl ,
i n g l e s, l l ,, r 'a l cl r .r .rl a p e n zr
d i s c u t i r - e l a s t r r - r t o .Si n e n - r b a r g o , N e u ,e l l v Si l r .l o n ( 1 9 6 1 ) t- scr .i b i e r ( ) .
qrre
e l t i p o d e c o - e n i c iti n q u e a tr i b tr ve tr a l a s co n r l l u ta cl o l 'a s e s e \a ctl n r cn te
el
m i s m o q u e e l d e l os se r e s h tr m a n ,r * . M e a g r a cl a l a t.e cti ttr clcl e e sl a a l i r .n tr _
c i n Y e s d e l t i p o q u e co n si d cr - a t . Ar g r r n r e n ta l ' q u e c sr ' ti cl e l i te a l
la
c o m p u t a c l o t 'a p r o g r a m a d a co t- t- tp t'e n cll e
o q u e e l a u to n r r ,i l v l a sr r r n a cl o r .a ,
e s d e c i r , e x a c t a n t e n te n a d a . L a co r r r p r .e n si r r cl c l a c,r l r l .r r ta cl ,,l t l to e s
p r e c i s a m e n t e ( c o m o m i co n r p r - e n si n cl e l a l e n r .) p a r ci :r l . i r cr r r p l e ta ;
es nula.
P a s e n t o s a h o r a a l a s r - u l i ca s.
permitarnos que el
Mi respuesta a la teora de sistemas es muy sencilla:
las.eglas
inclividu absorba toclos estos elementos del sistema. Memoriza
clculos
todoshace
clel libro y los bancos de datos de los smbolos chinos v
ha1'absolutamente
No
sistema.
los mentalmente. Luego, incorpora todo el
haya incorporado. Incluso poden'ros deshacerll;rda en el sistema qr'"
""
trabaia al aire lib.e' De cualquier modo'
ros de la habitacin -.rrrpo.t"iqt'e
pues no hav nada
.l-ti,to
de
I'n firtiori tampoco el sistema'
irr entiende nada
no haY modo
L.n ste que no est dentro de 1. Si l no entiende, entonces
de l'
pae
cle qr-reei sistema entienda, pues el sistema es slo una
a la
respuesta
esta
incluso
E,n realidad, me siento algo molesto pcr clar
bastante
parece
me
teora
la
1t-or-ade sistemas,.va qlle, para empezar',
chino, \a cottirrverosmil. La idea es qlle aunqlle Llna persoila no entienda
poda
manera
alguna
de
papel
de
peiacitos
de
iutrcit'L de esa p"r.orl^ -y
estllqlte
no
eiltencler chino. No me l-esulta fcil imaginar cnlo alguien,
esta
lerosmil
r.ier-abaio el dolninio cie una ideologa, podra considerar
con
conlprometidas
personas
las
iriea. Incluso as, creo que muchas cle
qr-re
as
parecido;
mu'
algo
por
decir
acabarn
la icleoioga de la l frrerie
opinin,
esta
de
una
con
acuerdo
De
adelante.
poco
ms
u.r
Siar-nos
"'ersitin
entienda
el htmbre clel ejempio de los sistemas incorporados no
",,r,q.,"
por
(porqte,
ejemplo'
qr" Iohace tln hablallte c.hino
r,liin1en el sentido
"t se refiere a restatll'antes y hambuguesas,-eic.), "eI
rr,,rsabe que el relato
real'
!r,)nrbr-een cuanto sistema cle manipulacin de smbolos forrnales"
s
i
s
t
ema
e
l
q
u
e
c
o
l
l
s
t
i
t
u
v
e
hom
b
r
e
del
s
ubs
is
t
em
a
l]tttte
s en tien de c hinc t . El
:
confrrndirse
debe
no
chino
para
ei
forntales
smbolos
de
nranipulacin
d,:
r',.'n el subsistema para el ingls.
As que en realidad existen dos subsistemas en el hombre: uno que enlit,ncle ingls y el otro, chino, -"-"lo que sucede es que ambos sistemas tienen
D luv p oco qu e v er ent r e s "' Sin em bar go, q u i e r o r e p l i c : r r q u e n o s i o
tienen muy poco que ver entre s, siuo que ni siquiera son l'enlotamente
:;emejantes. El subsistema que comprende ingls (suponiendo que l)os per:itiremos por el momento l-raplar con esta jerga de "subsisl,emas") sabe
,lr re los relatos tratan de restaurantes y de comer hanrburguesas, sabe que
MENTES,CEREBROS
Y PROCIRAMAS
89
F
r
E
90
AS
Y PROGR,A]\
MENTES,CEREBROS
corrsecttencias
Adems, la rplica de los sistemas parecera condttcir a
que debe
concluir
de
que son independientemente abs'rds. Si hemos
entrada
de
especie
una
que
tengo
existir coglticin en m sobre la base de
pareceria
entonces
ambas'
entre
programa
v salida cl" inforttlacin 1'un
acabarn
qtre todos los tipos de subsisien-,as que no sean de cognicin
el cual mi
en
descripcin
de
ni'el
un
existe
eiemplo,
Por
,l"r-ro cognitivos.
cualqtr ier canestmagJp.ocesa informacin - eien'rplifica co.cretamente
que
no queremos
cle conlptltadora, pero considero
tidad de p.ogru*^.
sl aceptamos
Pero
1980).
(cf.
P-I1'shvn,
clecirque tiene comprensin alguna
evitar
podemos
cmo
dificil
resulta
la rpca cle los sistemas, entonces
"'er
subsisteson
etc.,
hgado,
el
corazn,
el
que
estmago,
el
la af-irmacin de
principios para
rras que .ort-rp."n.l"r-t, puesto que no hay una manera de
entiende de
chino
a decir qr_reel subsistema
distinguir qu nos
chino
sistema
que
el
-oiir",u
decir
afirmlr qu. el estmago entiende. Por cieflo,
entrada
tiene
estmago
que
el
tiene informacin cle trada y cle salicla v
constittlve una respuesta
v salicla cle alimentos v productos alimenticios no
agente -desde mi punto
del
r,ista
punto
de
el
qul
desde
a esta cuesti', 1,a
ni en el chino, pLles esta
comida
la
en
ni
informacin
existe
cle vista- no
La
lengua no es ms qlle tlna serie de garabatos carentes de significado
oios
los
en
informacin en el caso de chino se encLlentra exclusivamente
qr're les impida
de los progran-raclores y de los intrpretes, v no ha1' nada
rganos digesmis
de
salidas
entradas
las
t
.or-,siderurl.omo informacin
, ean.
livos, si a s lt - -des
en la
El ltimo punt o s e r ef ier e a algunos a p r o b l e m a s i n d e p e n d i e n l e s
tuet'te
]a.tn
Si
ia pena des'iarnos un poco pal'a explicarla.
lA [r-ler-tev
'aje
distingtrir
ha de ser unu .u,r-tucle la psicologa, entonces debe ser capaz de
Debe
son'
lo
que
no
los
de
rnentaies
Ios sistemas que son genuinamente
de
nrente
la
trabaja
que
los
sobre
principios
los
ser capaz. de isting.ritas, no
ser
no
de
menlales;
no
sistemas
los
trabajan
qure
los
sobre
oquellos
distincin
n os expiicar qu es es pec f ic am ent e m e n t a l e n l a m e n t e Y l a
jos
espectador'
del
los
o
en
entre ental )'no mentl no puede quedarse slo
sino qrre de be s er inlr ' lls ec a a los s is t en l a s ; d e n o s e l 'a s l . c a d a e s p e c l a do. pod.u tratar a Ia gente como no mental y, por eiemplo, a los huracanes
conao menlales, si asi lo deseara. Sin embargo, muv a nlenttdo en la literatlrra sobre IA esta clistincin resulta confusa en aspectos que en el largo
plazo resultaran desastrosos para la afirmacin de que la IR es una disci"Puede decirse que
plina cognoscitiva. McCarlhy, por ejemplo, escribe:
y tener creencreencias
tienen
los
termostatos
tan sencillas conlo
r-r-rquinas
capaces
las
mqttinas
de
mayora
de
la
caracterstica
Llna
parece
ser
cias
cle solucionar problemas" (Mccarthl." 1979). Quien piense que la lA tiene
la probabilidad de ser una teora de la mente debe ponderar las implicaciones cle ese comentario. Se nos pide aceptar como descubrimiento de la
I
I
t,
tt
F
r.
t
t
,t
l
,
t
r
I
f
I
E
t
I
E
[.
IV IE N TFSC, ]E R FB R OS
Y P R O(IR A ]\J A S
9I
2. LA RpLr cA
DELRoBot ( ynr _e)
S upongamos que c s c l i bi rnos un ti po c l e pr-oqrrnra
c l i l ' el .c nteal c l e S c l l ank . S u_
pongamos que po nemos una c omputador-a
dc nl ro c l e un rrtrrtv c trerrs ta nt s ri l c r
acepta smbol os fonr-ral es c omo c ntrac ra y pr,c ruc e'
s -nbol os f,,,.,,,^1", ..,n,r,,
sal i da, si no que cfec ti ' amentL- opera ar r.,boi
c re tar nrtnc -r-a
qu., e.t.:-r,og,nul g,,
mu1'parcci do a perc i bi r, c ami nar., des pl az ars e,
mai l l ar., .,,,r,"., betr.,r. l . q' e
se qui era. E l robot tendra, por c .j enrpl o, una
c .i rnl u.ac rc tc l ev i s i ri i l c gr-ardz rra
cual l e permi ti ra "v er"; tendra braz r.s pi c r.rl as
v
p.a p6< Ier ,,ac tuarr,,v l oc l o es l c r
l o crntrol aa su "c c rebro" c re c omptrtadc ,r-a.
A c l i ferc nc i a c l e Ir.,,,r,,,,tr,.r,r,,u.1"
schl nf, este robo t s era c apaz .l " i rno gc ntri na
c rnrp.e-.s i rn v c l c .trrrs es tac l .s
mental cs.
92
MENTES,CEREBROSYPROGRAMAS
IVENTES,
y pROCJtAMAs
CEREBROS
93
casotenclramos
queafirnrarqLrela mquinaha comprencliclcl
y si
l.s relrt.s.
nos negamosa decirlo,noestar'armos
tnrbinn"guri.l,,quc los rrabla'tesdel
chino entiendenlos relat.s?En el niverde las
srnapsis,
q' serao p.dr.aser
diferenteentreel programade la con-rputadora
1,cl
dcl ce-rebl.crrino?
'rogranla
Antes de contradecir esta rp[ica,nre gLrstar-a
haccr rrn parntesispara
anotar que se trata de una rprica extraa para
un partidari. de ra interigenciaartificial (o del funcionalismo,
etc.):1,op"r,rt qtre Ia idea clela rR
fuerte radicaba en qtre no necesitamossabe'
cino ^ftrncio.a er cel.ebro
para saber cmo frrnciona ra l-rente.
La hiptesis firndanie'tal, . as lo
crea yo, es que existeln nivel cle ,peraciones
mentales qtre cc,r]stade
pocesosde cmpr,rtosobre los eremenios
fornralesque constitrr'en la esen_
cia de lo mental .','que ptreclelle'arse a cabo
,"1, i,,, ili;;;;
rip.s cle
procesoscerebralesdel mismo modo que ""
cuarcuier.p,',,gr.onro
iiu:..,.,rp,,tadorapuede funcionar en distinros/tardwares
de comruraclor-a.
segir' ras
suposicio'es de la n fuerle, ra mente es
crelcerebro ro que er
programaes respectoderhardruarey, por 'especto
consigiien{e,es posible entender
la mente sin incurrir en el n'rbito lo ,-r".rrofisiologa.
si p^,-o-t',u.",,o
tu'leramos que saber cmo traba.iael cereb.o,
n, tenclr-aaur., o.r,p,,r.rroa
de.ella.Sin embargo, aLlnctrando se encrentra
tan pr-oximarllrr'cionamiento dei cerebro todar'a no es suFiciente
para procltrcir compr.ensin.
Para'er esto ms claro, imaginemos qLre
en li,gu. e .,., honrbr.ji'o'olin_
geen una habiracinrevor'iencrosmoros,
tenenlos,n hrmbre orerancro
un glupo complejo de pipas de agua conectacras
c:o'r'lvtrlas.cr-rarrcro
recibelos smbolos chinos, consultien el programa,
escr.ttoen i'gls, cnles
vlvulasdebe encender o apagar. cacra coiexi'clc
agua,,o.i]"rp,,,.,.r",.
una sinapsis en el cerebro chino todo el
sistena est cliseiraclocle lal
r
maneraqr-re,
despr-rs
de todos los "encencricros"
corrector, d".i., espus
deponer en funcionamiento tocrosrosgr-ifos
",
.orr"sponclientes,
rasrcspuestasen chino brotarn a la salida clela ser-ie
ctepipas.
A hora bi en, dnde est . ia_com pr ensin
en est e sist em a?Acept a el
.
chi no como entrada, sim ur a la esir uct r r - a
f or - nr alcr e las sinapsis r lel
cerebrochino l'entrega chino como salicla.
Sin errrbargo,er homr.eciertamenteno entiende chino, ni tanrpoco lo
hacen ras pilas .r" ug.,^, .i ,,o.
sintiramostentados a adoptar el punto cre
a mi'lrricio a6srrrdo,de
'ista,
qr-re
de alguna manera Ia collunciiz de hombr",
plpu, i" ;;.,;.;,rpr""_
de;recordernosque en prinr:ipio er hombre puecre
inter-narizarla est^rctura formal de 1aspipas.de agua y rearizar en
su
imaginacin
tocroslos
"encendidosneuronales".
El prolema con er simurador del cerebro es
que simula aspectosequi'ocados cleste.Mientras
lnicame'te sim.le la
estructura formal de la secuenciacle "encendidos"
neuronales en las sinapsis,no habr simulado lo que realmente es
impor-tanteacer-cader ce-
94
MENTES,CEREBROSYPROGRAN{AS
(IFIIEBROS
MENTES,
Y I'ROClRAfvf
AS
95
atriblriramos intencionalidacl sobre toclo si strpir-anrosque posee Lrn programa l-ormal. ste es pr-ecisarnenteel ptrnto qrre trat en rrri rplica anterior
a la objecin 2.
Sr,rpongamos que sabemos q.e el comportarrie'l'del
rob.t obeclecepor
completo al hecho de que un hombre recibe en su interior-sn-rbolosfor-males
no inter-pretados desde los receptores sensoriales del r-otrotv enva smbolos
forrales no interpretados al mecanisrncl rnotol'del r-obot, r clrreel hombre
realiza este manejo de los srbolos segrlrntrna ser-iedc'r-eglas.Supongarnos,
adems, que este individuo no sabe nacla acer-cadel robot Y que lo rnico
que sabe es cules oper-acionesrealizar con crrles smbolos sin significaclo.
En ese caso consideraramos qtre el robot es un lnueco rnecrrico irrgenioso.
La hiptesis de que el robot tiene mente r-estltar-a
ent()nces inlrrsri[icada e
innecesaria, puesto que ya no habr'a ninguna razirn para atribtrir.le intencionalidad al robot o al sistema del cual forma parte (exc-epto,pol-sLlpuesto,
la intencionalidad del hombre en el manejo cle krs srnbolos). El niar-rejode
smbolos forrnales contina, los datos de entlacla 1'de saliclase con.esponclen
con-ectamente, pero el rnico foco real de intencionalidad es el lrombre y l
n o s a b e n a d a d e l o s e sta d o s i n te n ci o n a l e s p e r l i n e n te s; n o l e , p o r .e j e m p l o ,
lo que entra en los ojos del robot; noriette la tttettt:itittcle rnoverel brazo
del robot y no conry)rendeninguna de lrsobserwaciones hccllas al robot o
por el robot. Ahora bien, por las razones anteriolnlenre exprrestas, rampoco
lo hace el sistema del cual el hombre y el robot fonlan par1e.
Para considerar este pllnto, comparemos este caso con otros en los que
nos parece completamente natural atribuir intencionalidad a los riernbros
de alguna otra especie de primates, como sinrios
.v nronos, .y a rtnimales
domsticos como los perros. Las razones de qtre ell'nos pu,:"..., natural
son, a grandes rasgos, dos: no podemos clarle sentido al compo|tamiento
del animal sin atribuirle intencionalidad, y podemos ver qlle las bestias
e s l n h e c h a s d e m ate r j a l si m i l a l a l n r e str o ( e so cs r r n o j o . e so e s r r r r a r r a r .i z,
s t a e s s u p i e l , e t c .) . D a d a l a co h e r e n ci a cl e l co m p o r ta m i e n to d e l a n i m a l
y'la suposicin de que est hecho de la misma materia catrsal, sLlponemos
que el animal debe tener estados mentales que motiven su comportarniento
y que estos estados mentales deben ser producto cle mecanismos hechos
de esta materia que es como la nLlestra. No cabe cluda de que haramos
suposiciones similares acerca del robot, a menos de clue tuvir-amos alguna
razn para no hacerlo, pero tan pronto como supiramos que su comportamiento fue el resultado de Lln programa formal y que las propie<1ades
causales reales de la sustancia fsica eran in-elevantes, abandonaramos la
suposicin de intencionalidad (r,anse var-ios atrtores, 1978).
Existen otras dos respuestas a mi ejemplo que surgen a menudo (y por
ello vale la pena considerarlas), pero que en realidacl no comprenclen el
sentido de mi argumento.
(Y A LE )
5. L A RPL ICA DE L AS OT RAS M EN TE S
comque otla persona entiende chino u otra cosa? Slo porsu
Cmo puecle saberce
puede aprobar (en principio)
l.
computadora
.o-o
bien,
Ahora
p""-i""a.
si se ha de atribuir
de conducta tan bien como cualquiera; por tanto'
i... p*.bu,
computadoras'
l
as
a
a
tr
ib
ursei
e
d
e
b
e
ta
m
b
i
n
p
e
r
so
n
a
s,
cognicin a otras
MENTES,CEREBROS
Y |ROURAI\\S
9Z
98
N,IENTES,CEREBROSY PROGRANIAS
MENTES,
CEREBROS
},PROCRAN{AS
99
El pr-opsito del ejemplo
cre la habitacin china f.e
intentar.crenrostrar.
esto al mosrrar que tan pr.onro
.on.'o i,.t,o.lrrcimos ;l;;;;.;il,*ema
realmente tiene intencionalidad
que
(un hontbre) y lo pt.ograntantos
con el
d:',..,.
q.," f,',,g.ou,n
r.,,,,,oll,o
,".,,u
i,,r",.,.io_
::?,::HXfffil, : taade
"t e.ic'mplo,
nada,por
. r.."p".i.r.Ji"t
paraentend"..hi.,jo
l-ro-u."
Esa caracterst,ica de la
l _la distinci
:i1-,0".",;;;.isamenter";,;;;i,;:;l;T::,:,.i;::',11i;:il.
la afirmacin de que lu
.i'..,Iu.'i; il;:;
ser duplicacin. La ciisrincin
entre el programa v su.re,alizaci'";;i;;;,'crtvare
parece ser.par-arera
distincin entre el nir,'elde
a ra
l"r
n-,"nroi"s'c,l .i'ei cie las operacionescerebrales.y si podam"r
"p"t".1.r.,",
"r.]:iui. er niver cre,rer.acio'es
talesconro un progra.maiormal,
nren_
clescr_ibir.,
al parecer,
i o esenci alacercade la m enle. in ";;;;;;Ir"clamos
in. , ; ; ; i; .
neurofis
iotoc"
d;i;.,."b,.-.T;ffi
;",',:l.J::::i:ffll:fi:Hl:';:.::
illf"c"";i;l'd:J{l;:?:Xll:llilffi
kT,,:i;:::ff::,?;:"..j'ff
-
:1,:n:'::1,i1,""'onotingtiLe';;i
::*:H*l::"".:I':ilql*ll'o!'l'Jly::"':,J::
causuresqu""r;;;;;:'r'*1'"ti;:iH.il"'ffi:ru:,ruil.
delingls
poseaerrieo,1;i1:nrila".""i""o"*
raintencionaricracr,
versetcilmente que no adquiere
ruede
intencionalidad adicional al
menr.r-izar
el programa, pues el hecho;"
," enseachino.
programa es puramente
""
-".,.';;i;uiformal,
per-olos estadosintencionares
-^,t^:t-*o"'"el
no son formales de esemodo.
Se definen en trminos de str contenido,
no de su forma' La creenciade
que
como figura fbrmar, sino como ".ta'or".rao, por e jempro,no se crefine
.i".ro .o.rr"nido mental con concliciones
de satisfaccin'con sentido d"
Searre, r979a)v sirnirares'De hecho' la creencia como"d";;;.i;"i"5u.g
tal no tiene srq.lera una ligura for.mar
en
estesenti do si ntcti copuest o que
una r olu y iu _ir - ". r i"". , ""0""a".
recibir un nmero indefinido d;
sinrcricasdi[erentes en los
distintossistemaslingsticos. ".;;;i";s
rercero, como va mencion antes, los
estadosy sucesosmentales son
100
Y PROGRAIV{AS
MENTES.CEREBROS
N,IENTES,
CEREBROS
Y PROCiAN4AS
1I)I
plo, en problemas de aritmtica o cuando leen
r,,respondenpr.eguntasen
torno a un relato. Ms bien, lo qtre hace la
computador-aes n-ia.ipular
smbolosformales. El hecho de q.,e el programador
er i'trprete de ros
.o-o"tadora r-rtiticenri-iolo, para-vreernplazar.
obJeros
fj*:*:
9: algo
]? que
esrpor compieto ftrera del alcancecie1..con,puta_
:::::ii?.:s
qora.Keprto,ra computadora
tiene sintaxis pero no semntica.En co.se_
cuencia,si
tecleaen ra computacrora"2 ms 2 es igual a?",
escribir
"4".Pero la 'sted
computadora no tiene ni idea creqtre "4" significa
4 o ctrarquier
otracosa'Y la cuestinno es que carezcacleargr-rna
info"rmaci.desegr_rncro
orden acerca de la interpretacin cres's sriboros
crepri'.rer:o,.t"r-,,,r.ro
quesus smbolos de primer orden no tienen
ningrrna interpr.etacinen lo
que a la computadora se refiere. Todo ro q,e
tLne ra co'rptrradora son
ms smbolos. La introduccin cle Ia nocin cle "procesaminto
de inrorma_cin"
causa,por consiguiente,un clilema:o bien const.limos
la noci.
"procesamiento
de
de infrmacin" cletal ,-,.,un"ro
qtre irnpliqtre intencionalidadcomo parte del proceso o no lo hacemos.
En er primer. caso, la
computadoraprogramada no procesain[or.maci.;
slo maniptrla sr.bo_
los formale^s.En el segundo .u.rt,,,entonces,pese
a qr-rela comprrtadora
procesai nformaci n, nicam ent e lo r r ace
enel sent iclo q, , "io hacen
Ias sumadoras, las mquinas cle escribir, los
"r
estmzrgos,
ros ter-mostatos,las tormentas v los huraca.r".; u ,ub"., c.entan
con un niver credesel que podemosdecirq'e aceptaninfolrnacin portrn
extremo,
:^nl_t^t_u1""
ta lranslorrnan v producen inforntacin de
salida. Sin entLrar_g(),
en esle
casodependede los obsenadores externos interpretar
la entraclav s:rrida
comoinfornacin en el senticloorcrinario.y no.sc
rirriiit., ulgunaentre la computadora y el cerebroen trnrinos"rt.r-,r".
de cualqrrier.sinlilitrcl
delprocesamientode informacin.
En.segundolugar, en gran pade de la la hav nn
concluctisnrou ()per_a.
cionalismoresidual.puesto que las computacloias
aclecunclamente
pr( )gr.amadaspueden exhibir patrones de entiada v salicla
similares a los cr,,,los
sereshumanos, podranroscaer e. la tentacincreposttrlar
qlre rosestados
mentalesde la compritadora son similares a los
estados.nentalesclelhom_
Dre.r.mpero, una vez que \emos que es posible
tanto conceptual conto
empricamenteque r-rnsistema contenga capacidacles
lrtrma'^s en arsr^
camposin que de ningn modo posea intencionaliclacl,
poclrem".
esteimpulso. Mi sumadora de escritorio tiene capacicracr
";;.-;;
clecalcrrlar.,
pero
carecede intencionalidad, y en este artcuro he intentaclo
cren.rostrar
cue
un sistemapoda tener capacidadesde entracla
v salida cle irformacilr
queduplicara' las de un hablante nativo clel chino
y seguir sin errtencler
chino,sin impoftar cmo estuvieraprogramada. Laprba
de Turing e.s
tpicade la tradicin en el sentido deq.rJ es cles'ergonzaclamente
conductistay operacionalistay consideroque si los estudiosos
clela ln repudiaran
102
Y PROGRAI\IAS
CEREBROS
lv'fENTES'
gran
el operacionalismo' se eliminara
por completo del conductismo y
y duplicacin'
i" confusin entre simulacin
;;;;"
re.iiduai se ana a la fona reoperacionalismo
ste
En ter:cer lugar,
la supola ln ftrerte slo cobra sentido dada
siclual cle dualismo; "1"!ft"
imporla'
no
cerebro
el
refiere'
se
la mente
sicin dualista de que, en lo que a
son ios
r.t,-t.lonalismo), lo q.e impoa
Iln la r, fuerte (asi.;;;J,-t
de
"l
mquinas;
cle su realizacin en
programas, y stos.rot'i"a"p"tt<lientes
realiz.ado
ser
podra
el mismo programa
en io que l.,;;";;ere,
"electrnica' una sustancia mental car-tesianao un espritu
'echo,
ir".
sorprendente clue he hecho
""" -aq"ina
hegeliano. EI desc.brimiento ms
clei mundo
estudiosos de la IA estn
los
qtt" muchosde
al analizar estas cuestiott"' "t
mentales humanos
fenmenos
los
que
lrastante molestos .on.-mi t"u cle
de los cerebros hureales
fisicoqumicas
puedan clepender a" i'opi"aucles
de esto,
se piensa un minuto acerca
manos verdaderos. No obstante, si
de la
prol'ecto
el
que
sorprendido' l'a
puede verse qlle no debera haberme
forma
acepte'alguna
que
se
a menos
tA fllerte no tiene posibilidacl alguna'
meen reproducir v explicar 1o mental
col-lsiste
provecto
EI
cle dualismo.
sea
slo
pero a menos que la me-nte no
ciiante el cliseo de programas'
inclePend':1':i::::t;t"T;.",ono.::
conceptual ,i.to tut'tit'empricamente
t"lil1"
el programa
porque
pt'ovecto'
r'iu tuu.r" a cabo el
"t qlre la mente es
crea
qtle se
c1ecualquier realizacin' A menos
;;;;,;
empricamente -r'ersin
como
.on."ptual
*,o
."."briseparable d"l
1o mental e.scribiendo
reproclucii
[uerte <]edttaiismo- no se pttecleesperar
de los cere'
ir-idependientes
ser
deben
r, con-iendo ot'or.uttt', , 1"" ett"t
particurares de ejempli[icacin concreta'
br.osde cualesquier-a ot.us for-us
op"tutiones de cmprrto sobre
Si las operaciones mentales consisten "'-t
qlle carecen de conexiones lntere'
sr-nbolos fol-males, se decltrce entonces
Sa nte scon elcer - ebr o. La lnic ac onex ins er aq u e e l c e r e b r o r . e s u ] t a r a sde
e reiemmquinas capaces
uno de los muchsimos tipos de
p;';;;;;;
ia vaes
Esta forma de dr-ralismo no
plificar concretamente el programa
ssltrrclas'
de
dos tipos
"" postula que hav
r-iante carlesi^.,",.^Ji.i.rnur
en que 1o especficamente
insiste
qt'"
d"
pcro es cartesiana
"'"t "l '"t'tio
intrn'"tu to'-t lut propiedades reales
mental cle Ia mente ,-,ogt'utdu t"lacin
de
se oculta de nosotros por el hecho
clel cerebro. Este dualismo implcito
qtre la]ite ratr-r r aac er c adelal ar l. em et ec onf r e c u e n c i a c o n t r a e l . . d u a l i spostura
pasar por alto es qlle slr
i'J't 0".. lo que los autores parecen
presupone una versin fuerte de dualismo
punto de vista es que slo
"Podra pensar una mquina?" Mi
^propio
algunos tipos mu1'espe'
slo
efecto'
,"rna"mquina poclra pensar^y que' en
q"" t:"g^11 los mismos
1'mquinas
ciales de mquinas' u
'ub"t,'t"t"bros
por la que ia IA fuerte
razn
la
es
sa
pocleres causales que el cerebro' Y
nada tiene que
acerca del pensamiento' Ya que
q.t" ,l".i*os
ii;;"-p"."
N,IENTES,
CEREBROS
Y PIIO(IIAJIIAS
IO3
BreLrocnAr
Fodor, J. A . (1980), "Methodok rgi c al S ol i ps i s m C ons i c l c rc d i sa R ers c al c h S trrtc gy
i n C ogni ti ve P svchol ogv ", B ehat,i rral attd B rai tt S ' i ,rl r-.s
3, ,pp. 6-l ,l 10.
McC arl hy, J. (1979), "A s c ri bi ng Mental Qual i ti es to Mrc fri nes ", c -n M. Il i ngl .. (ed.),
P hi l osopl i cal P erspe c i v es i n A rti fi c i al l rttel l i gertc e, A tl anti c Il i ghl and, N . .I., H trmani ti es P ress, pp. l 6l -195.
N ervel l ,A . (1979), "P hysi c i al S v mbol S v s tenrs ", P one-nc i a prc s c rrtada c n l rC i rf t' r' c nci a sobre C i enci a C ogni ti v a en La J ol l a, publ i c ac l o pos tel i ormentc en (.' r,,,l rir'i,
S ci ettce,4, 1980, pp. 135-183.
N ervel l , A . r'S i mon
H . A . (1963), "GP S - A P x rgr' :rm that S i rnul rtc s [{ rrma.n
Thor-rght",en E . A . Fe i gc nbaum v J . A . Fel dnran (c ds .), C ortttuters arttl 7' l tc tttgtl t,
N ueva Y ork, McGrarv-H i l l , pp.279-296.
aE stot'endeuda
con l as muc hs i mas pers onasque anal i z -aronc s tasc ues ti onc sv ugl ac l ez c r.r
l a paci enci aque mostraro n para s uperar mi i gnoranc i a en torno a l a i ntc l i gt:nc i aal ti l i c i al Me gustaa en paflicular dar las gracias a Ned Block, Hubert Drevfrrs, John Harrgcland,
RogerSchank, Robe Wilensky )'Tery Winograd.
IO4
MENTES,CEREBROSYPROCRAMAS