III.

MENTES, CEREBROS Y PROGRAMAS*

JOHN R, SEARLE
. OU
I MpSRTANCI A psi col gi ca y f i l osf i ca debemos dar a l os esf uerzos
rcci ent es que se han real i zado para que l as compl t t adoras si mul en l as ha-
bi l i dades cognosci t i vas del ser hr-rmano? Para t esponder a est a pregunt a,
nre parece t i l di f erenci ar ent re l o que l l amar I a (i nt el i genci a art i f i ci al )
"f
uert e" e I A
"dbi l " o
"caut el osa".
Segrn l a ra dbi l , el pri nci pal val or que
t i ene l a comput adora en el est udi o de l a ment e es ql l e nos proporci ona una
hcrrami ent a muy poderosa que nos permi t e, por ej empl o, f ormul ar y com-
pr: cl bar hi pt esi s de modo ms ri guroso
1'
preci so. Empero, en l a I a
"f uert e",
l a comput adora no es t an sl o ua herrami ent a para est l l di ar l a ment e;
rurs bi en, l a comput adora programada adect radament e es t ' eal ment e una
nrent e en el sent i do de que puede deci rse l i t eral ment e que l as comput adoras
Ll ue CUenf an con pr ggr amaS cor r ec( oS cot t t pr et t det t
y poseen ot t os est adOs
cognosci t i vos. En l a I A f uert e, como l a comprt t adora progranrada cuent a
c6n est ados cognosci t i vos, l os programas no Son meras herrami ent as que
nos permi t en probar l as expl i caci ones psi col gi cas, si no que l os programas
const i t uyen por s mi smos l as expl i caci ones
No t engo ni nguna obi eci n a l o que se di ce acerca de l a I A dbi l , al menos
er-r l o que conci erne a est e art cul o. Mi exposi ci n aqu I ' ersar en t or-no a
l as af i rmaci ones que he hecho acerca de l a t n f uert e, espec f i cament e en
t ()rno a l a af i rmaci n cl e que l a comput adora programada adecuadament e
t i ene l i t eral ment e est ados cogni t i vos
-v
que, en consecuenci a, l os programas
expl i can l a cogni ci n humana. A part i r de ahora, cuando me ref i era a I a
t A i encl r en mnt e l a versi n Fuert e, t al cual queda expresada por est as dos
aseveraci ones.
consi derar l a obra de Roger Schank y sus col egas en Yal e (Schank y
Abel son, 1977), porque me encuent ro ms f ami l i ari zado con el l a que con
ct ral esqui era ot ras aseveraci ones si mi l ares, y porque oFrece t rn ej empl o
nt uy cl ro cl el t i po de t rabaj o que deseo exami nar. Pero nada de l o que a
cont i nuaci n se present a depende de l os det al l es de l os programas de
Schank, pues l os mi smos ar gument os se podr an apl i car al SHRDLU
de Wi nogi ad (Wi nograd, 1973), a1 ELI ZA. de Wei zenbaum
(Wei zenbaum,
*
Jol rn R. Searl e,
"Mi nds, Brai ns, and Programs", Tl rc Behavi oral and Brai t t sci et rces,
3, 1980, pp. 417-424. O 198, Cambri dge Unersi t y Press Reproduci do con pemi so de
Cambridge University Press y del autor.
lvlENTES, CFI{EBROS Y I' R()(tR\trtAS
s:
19- 5) r ' cl e hecho a ct r al qui er - si mt r l aci r i n
e. r r r qt r i na cl e Tr r r . i . s cl e f en-
menos ment al es ht r l nanos.
Nl t r - v br e' ement e,
v dej ando de l ado' ar i . s cl et ai l es, el pr . ogr . : r . r a de
Schank pt rede descri bi rse de l a si gr-ri ent e nraner. r: el p' . pri si t o cl el
i r, , g. rma
consi st e en si mul ar l a capaci dad hunrara para c(). rpr-e. der. rel at . s. una
car act er st i ca de l a capaci cl ad de l os ser . es hr r nr a. os par . i c. mpr encl er
rel at os es que st os pueden responcl e. pregrnt as acel . ca cl c-l r-el aro, at rn
cuando l a i nf ormaci n qr-re p. opor-ci onen
nrrnca se hava est abl cci ci l r exol -
ci t amenl e en el r el at o. As pues. por . ej enr pl o, sr r p{}nga que cs( . ucl , a l a s _
gui ent e hi st ori a: "un
honrbre ent r a un rest l l r. ant c r, or. cl err t rn: r hal n-
bur guesa. cuando se l a si n' i er on, est aba t r t al r r e. t e qr r e. r l r cl a, as < ' e er
hombre est al l en cl era v abancl on el rest arrr. ant e f i rr. i rso, , i r,
rngu.
ra
hamburguesa ni dej a. propi na. " Aho' a bi en, si re pr-eet rnt an, or, ". . . s"
co' ri
el hombr e l a hambur guesa?", ust ed pr obabr e. r e. t Jr espor - r cl e, r :
. . No,
no
se l a comi . " De i gual maner-a, si ust ec, l escrrchr l o si gt ri e. t e:
"[ Jn
hor' bre
ent r a un r est au. anr e' ol den
t l r r l l . r br l qr r esr . cr a. . l , , st ' l l r si r . , , . i el . on,
l e agrad mucho. Al sal i . del r-est au. ant e, l e Jc. i a l a nl escr. r
' ra
ge' erosa
propi na ant es de pagar l a ct rent a. " Si se l e pr' r. gu11t a: "Se
co' ri t i
"f
l ro, . br-e
l a- hambt rrguesa?",
ust ed probabl en-rent e
. esponcrer a: "S ,
se l a crmi . , ,
Ahora bj en, l as mqui nas de schank pt recl en re. s, orr. i er p, . egunt as si ri l ar-es
acerca de rest aurant es f ormul adas en est os t r. nri nos.
par. a
l i rce. rl c), cLl ent an
con una
"represent aci n"
cl el t i po de i nl t ornraci n ql re poseen l . s seres
humanos acerca de l os r-est au. ant es, l a cual l es per. ' ri {e resp. rcl er-l )r-eg' n-
t as como l as ant es menci onadas, dado est er t i p. de rel at . s. c, , r, rr. l o se pr-()-
por ci ona el r el at o a l a mqr - r i na' se l e hace l a pr - eg' nt r , i r r r pr . i nr i r . r r - es-
puest as del t i p. de l as qr-re esperar amos qr-re cl i er: rri l os se' es hrrrr' t nos al
escuchar rel at os si mi l ares. Los part i cl ar. i os de l a l R f t rer-t e af i r. nrrn (i l re
en
est asecuenci a de pr egr - r nt as v r espLl est as l r mqui na no sl o si nr t r l a una
habi l i dacl humana, si no que t ambi n:
1) puede deci r se l i t er al ment e que l a nr qr r i nacct r r t pr er t r l c el r el at . y pr o-
por ci ona r espuest as a l as pr . egr r nt as, r
2) l o que l a mqui na y su programa hacen es ex\ t l i c. r l a caprci cl acl hu-
mana de compr ender el r el at o r . r esponder . p. "g, , ni u, r . . ", . ca i e el .
A m me parece que ni ngt rna de est as dos af i rmaci ones c. crrc. rr. a un
sost n t ot al en el t rabaj o de Schank, ' como i nt ent ar cl emost r. ar a cont i -
nuaci n.
una manera de probar cual qui er t eor a cl e l a n-re. t e est ri ba en preg' n-
t arse a uno mi smo qu suceder' a si nri ment e real rnent e f t rnci onara sobre
l os pri nci pi os con que I a t eor a di ce que f unci . nan t ocl as l as n-rent es. Apl i -
quemos est a prueba al programa de Schank con el si grri e nre Gerl anket rcx-
I
No pret endo deci r, cl aro est , que el propi o Schank se encuent re cornpromet i cl o co
estas afirmaciones.
S,1
I',IENTES, CEREBROS Y PROGRAITIAS
pcri merl t. Supongamos
que estoy encerrad,o en una habi taci n v que se me
propo..i o.ru' un f-aj o grande de textos escr"i tos en chi no Supongamos ade-
r na, ( . o- o
",
d" h"i ho el caso) que no s chi no' ni escr i t o ni habl ado'
y qr-re ni siquiera tengo la certeza de. poder reconocer la escritura china
como tal , di sti ngui nol a,
por ej empl , de l a escri tura
j aponesa o de una
sel .i e de garabatos si n si gni i i cadt al guno. Para m, l a escri tura chi ' a sl o
es una r"i l " d" garabatoJsi n senti do. Ahora bi en, suponganl os
que despus
" .".i bi . est" ;o de textos en chi no, se me proporci ona otro que conti ene
una seri e de regl as para rel aci onar el sepgndo fa' i o con el pri mero Las
r.egl as estn en i ngl ei v l as enti endo tan bi en como cual qui er otro habl ante
cl e esta l engua. Me permi ten establ ecer una correl aci n entre un conj un-
to de srnbol os formal es y otro conj unto de smbol os for-mal es. con
"fonnal "
sl o qui ero deci r aqu qrr" p,,,e.l o i denti fi car l os smbol os compl etamente
po. ,tu formas. S.tpo.rgu*.rs tambi n ahora que reci bo un tercer fai o
cl e smbol os chi nos i .rri o
.or al gunas i nstr' cci ones, otra
' ez
en i ngl s,
ql l e me per-rni ten correl aci onar el ementos de este tercer fai o con l os dos
pri meros, v que estas regl as me i nstmven acerca de cmo responder con
.i",ro, smblos chinos de cierta forma a ciertos lipos de forrna que me
lireron proporcionadas en el tercer faio' Sin yo saber'lo, las p^el'sonas que
nre di ern todos estos smbol os l l aman
"manuscri to" al pri merfaj o,
"rel ato"
al segundo v
"preguntas" al tercero. Adems, l l aman
"l ' espLrestas a l as pre-
,.t.rr"
^
lo, ,l-olos que doy en respuesta al tercer fajo' y al coniunto de
i egl .s en i ngl s que
-
p.opor.i onaron l o l l aman
"el programa" Ahora
bi en, sl ,r para compl i car l a hi stori a un poco, i magi nemos que estas per-
sc, nas t amt i n me pr opor ci onan r el at os en i ngl s, qt l e vo compr endo'
v que l uego me hac' preg.ntas en i ngl s sobre esos rel atos v vo l es res-
p,rr-r.l o rambi n en i ngi s. Supo' gamos tambi n que desptts de ttn rato
i ,)gr,, ,"gui . tan bi en i as i nstmcci ones para desci fl ' ar l os smbol os chi nos
,, , p.o-grrrrrradores logran escribir tan bien los programas desde un punto
cl e vi sta externo -esto es, desde l a perspecti va de al gi en ql l e se encuentra
ftrera de l a habi taci n cl oncl e estoy encerrado- qtte mi s respuestas a l as
pl eguntas pr-reden di sti ngui rse en absol ttto de i as que proporci onara ttn
i rabl ante d"l chi t o. Nadi eque sl o obsen' ara mi s respuestas podra afi rrnar
ql l e no habl o ni una pai abra de chi no. Supongamos tambi n qne mi s res-
,i -restas
a l as preguntas en i ngl s son (qu dr,rda cabe) i ndi sti ngrri bl es de
i as cl e otros habl antes del i ngl s, por l a senci l l a razn de que
)' o
sc)' tl n
habl ante de esta l engua. Desde el ptrnto de vi sta externo -el de al gui en
, . ue
l ea mi s "r espuest as"- , l as cont est aci ones a l as pr egunt as en chi no
v . l u. preguntas en i ngl s son i gual mente buenas. Empero, en el caso del
chi no, a cl i ferenci a del i ngl s, fcr-rnul o mi s respuestas medi ante el manej o
cl e smboi os forrnal es no i ntetpretados, En l o que respecta al chi no, nl e
ccl mporto si mpl en-rente como una computadoa; real i zo operaci ones de
lvf ENI-ES, CEI?LBIiOS Y
pROGR;\IIAS
s
cmput o con base en el ement os especi f i cados l ' onnal ment e. En cuant o al
chi no, no so\ -ms q' e un ej empl o concret o del p' oer. arrra de t na c()mp' -
t adora.
Ahora bi en, l as al -i naci ones acerca de I a t , q f . er. t e est i -r' l an c-re l a
comput acl ora programada compr. cnde l os rel at os v qu. ,
"l
p, . . , g, -a, r-ra e. i pl i ca
en ci ert o sent i cl o l a conrprensi n humana. Si r-r enrbarg, r, n, -ra. -"r-r. orrt an)os
ahora en una posi ci n qrl e nos perrni t e exal ni nar est as al i r. nraci ones a l a
l uz de nuest ro experi rnent o cl el pensami ent o.
1/ En l o que respecra a l a pr-i mera asever-aci rj n, me pal . gcre bast at e 6vi o
en el ej empl () qLl e no ent i e' do una sol a pal abra cl e l os r. el at rs chi ' . s. Mi s
ent radas v sal i das de i nf ormaci n son i r-rcl i st i ngt ri bl es de l as rl e rn abl rnt e
chi no y' aunql l e pueda cont ar con el p' oe. a, ' a f orr, -. ral ql l e s. - qr-ri er. a, si g'
si n ent e' der nada. Por l a mi sma raz. -t , l zr co' put acl ' r' a cl e . scl ra. l . , o
ent i ende rada de ni ng. rel at o, sea en chi no, en i ngrs o en I o cr. e sca, ya
que, en el caso cl el chi no, l a cornput ador. a so\ \ o, v en l . s casos en qLl e no
sol ' l a comput ador - a, el l a no t i ene ms que yo' en el caso en que l l . cnt i encl o
nada.
2) F. nl o que conci er-ne a l a segunda af i l ' ' raci ' , c1, e el pl . ()gr-. rra expl i ca
l a cor-nprensi n hunrana, podemos obsen. a' que l a cornprrJora
v sLl puo-
gr anr a no apor t an sr f i ci ent es condi ci or r es de conr pi - e nsi r i n, ya qr r e l a
comput adora v el programa se encuent l ' an en f rrr-l ci orrrnri errt o
1,
l rD l l ay
cot nprensi n. No obst an' . e,
proporci <. rna si qr. l i . 2 una condi ci ri n neccsar. l a
o hace una cont r-i buci r-r si gni f i cant e parzr l a cornpr. . -nsi <i n? l l no cl , l . s
argul rent os de l os cl ef ensores de l a l n f t rert e es cl i l e crrrncl l co)l . ect () 1l
rel at o en i ngl s, l o que hago es c-\ act anl e' t e l o rni smo, o qui z-: i al g, nr: i s,
que hac a al manej ar l os s r nbol os cJr i r r os. Es t an s1, , t r ni r - r r r ni r ul aci or . r
si n-rbl i ca n' rs f ormal l o que di st i ngue el caso del i ri gl es, que s c, nr-, rc. rrcl o,
del de chi no, qLl e no conrprendo. Arrnque n. . , l re cl enro-*t r. cl o l a f al sedacl cl c
esl e argunl el l t o, cl ert ament e parece i ncrt bl e en el e. j enrpl o. La cl . ecl i bi l i ci acl
que t i ene el argurnent o provi ene de l a st rposi ci n de qt rr: podenrrs cr. car.
un programa que t enga i as mi smas ent r. at j as
1,
sal i das qrre l os habl rnt es
nat i vos, adems de suponer que l os habl arrt es t i ene' r. l al g rn ni vel cl e cl es-
cr i pci n en el que t ar nbi n el l os son ej empl . s c, , ncr - et os de r r n
l l r ogr . r r r : r .
Sobre l a base de est as dos i ri pt esi s supol l enl os cI Lre nun cuancl t el
r^rg' a-
ma de Schank no sea l a hi st ori a compl et a de l a cornpr-errsi i rn, s
ruccl e
ser.
part e de el l a. Br-reno, sl rpongo que es una posi bi l i dad ernp t i ca,
i ero
l rast a
ahora no se ha of t ' eci . l o l a ms rn ni ma raz rn p; rr-a crL-er. qrre sea ci ert a, ya
qri e l o qLl e el ej empl o sugi ere --aunque ci ert ament e l ro t l ernt rest r-a-- es ql l
el programa de l a comput adora es senci l l arnent e i l r. el evant e par-a
nt i r: orn-
pr ensi n del r el at o. En el casc dei cl r i no r , er r r . o {ocl o I o qt r c l a i r r t el i gt , nt . i a
art i f i ci al puede poner dent ro de m medi anre Ll n prosr. anra,
. \
no ent i encl cr
nada; en e] caso del i nel s enl i endo t ocl o v hast a el nl or nenr o no er i st e
I]6
MENTES, CEREBROS Y PROGRAMAS
absol ut ament e
nl nguna razn para suponer que mi comprensi n
t i ene ai go
qLl e ver con prograrrt ut t cmput adora'
s cl eci r' con operaci ones
de
cmput o sobre puros el ement os f ormal ment e
especi f i cados
M-i ent ras el
; ; ; ; .
se d"f i . t a en t r-mi nos de operaci ones
de cmput o sobre puros
el ement os cl ef i ni dos f r"t u1"-' "' -t t e'
l o que el ej empl o sugi ere es qt re st os
; ; ; ; ; ; l ; t
, , o gt . . dul
' ' t i t t gt t t ' o
rel aci n i nt eresant e
con l a comprensi n'
Ci ert ameut e
. t o
"*i rt "t t
t of i di t i o' t "'
suf i ci ent es
v no se ha dado l a ms
m ni ma razn para , a' pot "t
ql l e son condi ci ones
necesari as'
ni si qui era
qr-re cont ri buyan
cl e
-ot ' "t u
si ! ni f i cat i va'
a l a comprensi n'
Nt ese que l a
f rt erz-a ci el argument o
no radi si rnpl ement e
en que mqui nas di f erent es
aur]
t enei l as mi smas ent radas
-v
sal i das de i nf ormaci n
aunque operen
sobre di f erent es
pri nci pi os f ormai es; st e' por supuest o'
t t o. "t
: 1
punt o'
Mei or di cho, cual esqui ra
que sean l os pri nci pi os purament e f ormal es
que
sei nt r oducenenl acomput acl or a' noset nsuci ent espar al acompr ensi n'
Ya
que un ser t l u-u, l o' p' ""
' "g' l i t
l os pri nci pi os f onrral es si n ent ender
r. rada. Tampoco se nu orr". i " . i rr, ul gi r. ra para suponer
que t al es pri n-
ci pi ossonneces1r t . "' o' i q"l "t ' acont r i - bu1' "' - t t "' ' pt t "t nosehadador a-
z-n al gr-rna puru , npot t "' qt t "
t t t u' ' t t i o vo ent i endo i ngl s' est ov operando
con algn proJranla fornal'
I JLreno, ent onces, qt r
es l o que t engo en el caso de . l as oraci ol l es erl
i ngl s que no t engo
"r. t "l
. u, o de l as oraci ones en chi no? La respuest a obvi a
es que s l o que si gni f i can l as pri meras' mi ent ras que no t engo l a ms
rn ni ma i cl ea acerca del si gni f i cado cl e l as segundas Empero' en
qu con-
si st e est o y por qt r , ro p, , i . u*os drsel o a rl na mqui na' sea l o que f uere?
Regresare o
"rru
pr' "g. nt a rns adel ant e' pues pri met ' o qui ero cont l nl l al '
con el ej empl o.
He t eni do l a oport urni cl ad de present ar est e ej empl o a vari os est udi osos
cl e l a i nt el i genci a art i f i ci al 1'
rei ul t a i nt eresant e
que no parecen est ar de
act t er doco"ncr r l esl ar pl i . caadecr r ada. Heobt eni dounaasombr osaVa-
ri edacl de r. pl i cas y a cont i nuaci n consi derar l as ms conl unes
(que
especi f i car i unt o
con sus or genes geogr' f i cos)'
Si n embai go, ant es qui ero cl et ener al grrnos mal ent endi dos
coml l nes
acerca de l a
"con-rprer-rsi Zn": en muchas de est as di scusi ones se produce
un excesi vo t ej emanej e de l a pal abra
"comprensi n". Mi s cr t i cos seal an
qrre hay
-. r. o,
gruo, cl i f ei ent es de comprensi n;
que
"comprensi n"
r-. ' o
"r. t rt
si mpl e pi ". l i . udo de cl os posi ci ones' que i ncl uso-exi st en
di st i nt os
t i pos y ni vel es . 1" compr"nsi n v que a menudo l a l ey del medi o excl ui do
' i
si qui era se apl i ca i " *ur] ". o cl i rect a a enunci ados de i a f orma
"
en-
t i endey"; ql l e en muchos casos es una cuest i n de deci si n
1' no
una si mpl e
. rest i n de hecho cl e si r ent i ende y, et ct era. A t odos est os punt os qrri ero
rl eci r: por supuest o, por supuesJo, pero nada t i enen que ver con l os punt os
e' n di scusi n. Hu' . u. os . l a. os
"t t
i ot qt l " "comprensi n" se apl i ca l i t eral -
tvlENTES, ClIrliFIlR(lS Y I' R()L]R;\N1A,
n,
mcnt e v casos ob' i os en que n. se apl i ca;
] , est os
cl r s t i pos cl e casos son
t odr l o qt r e necesi t o par a est e ar gunr ent o. z
yo
ent i encl o r - el at ' s en i ngl s;
en menor g| ado, puedo ent encl er | el at os en l ' r-ancs; en nren()r. gr-acl o rn,
r el at os en al emn, per o en chi no, absol t r t anr ent e r acl r .
por . r i t r r
par t e, mi
aut omvi l v mi st r ' r ador a r o ent i encl en nacl a: ese as' nt o no
"n
. - l e st , i n-
cumbenci a. con f i - ecuenci a at r i l >ui nos l a cap: r ci cl acl cl e
"conr pr - ensi n, , y
ot ros-predi cados cogni l i vos por nredi o cl c nret rf i rr-a. . r, u. ul oi ns a al l t o-
mr' i l es, surnadoras v ot ros art ef act os,
rer-o
. ada s" pr: r, "t r. co] r t al es at l . i -
buci ones. Deci mos: "l a pue. t : r . sa, / ; e crri ncl o rbr. i l . sc, a ca. sa cl t : st r cel da
f ot oel ct ri ca", "l a
sunrador-a. scl : t : rl t t t o (ert r t , rt t l t ,
t : t j t t t o, (, . \ (. (t l )(t z, / r, /
st rnrar
v rest ar pero no di vi di r", v
"el
t cr. nt <_rst al o
. , t t , rt . i bc
cant bi os rl e t t nt t t crat ur_a, , .
La | azn poI - l a que hacemos est as at r i Lr t r ci , r ncs es Lr r st l ur t r . i nt . , r - esant e v
t l ene qLl e Ver con el hecho de qr - r e en l os ar t ef act os ext encl enr 6s t r esl r - a
pr opi a i nt enci onal i dad. r Nr r est r ' r s her l anr i ent as son ext ensi r i nes cl e nues-
t r os pr opsi t os v, por consi gui ent e, nos par ece nal t r l al at l i I r r i r - l es i l t t en-
ci onal i dad nr et af r - i cat r ent e.
Si n e nr bar - so, a r ni
. j r r i ci o
est os c. j enr r l es r r o
t i enen ni ngt r na i mpor t anci a l - i l osl - i ca. El sel r l i cl o en r l qr r e, , , , .
- r . , ". t u
aut onl t i ca "ent i encl e
i nst r t t cci ol l es" : r pat - t i l cl e st r ce- l cl r l ot ocl cl t - i ca l t o
es de ni ngt l na nl aner a el ser - r t i cl o cn el c r - r e r , o ent i encl o i ngl s. Si r : l se t i cl o
en el qt r e l a conr pul ador a pr ogr ar nacl a cl e Scl l ar r k c, r , r r r r - ", r , . 1" l gs r . e- l at os
es sLr puest amenl e el sent i do r net al ' r . i co en r . l que l a
, t r . , r t a r r l t l t t t i ca
ent i ende' l r o el sent i do en el que' o e' t i e' cl , i ngl es, l l , , r ' al cl r . r . r l a penzr
di scut i r - el ast r r - r t o. Si n en- r bar go, Neu, el l v Si l r . l on ( 1961)
t - scr . i bi er ( ) . qr r e
el t i po de co- eni ci t i n que at r i bt r vet r a l as conr l l ut acl ol ' as es e\ act l nr cnt e el
mi smo que el de l os ser es ht r man, r *. Me agr acl a l a t . ect i t t r cl cl e esl a al i r . nt r _
ci n Y es del t i po que consi dcr - at . Ar gr r nr ent al ' que c sr ' t i cl e l i t e al l a
comput acl ot ' a pr ogr amada cot - t - t pt ' encl e l o que el aut onr r , i l v l a sr r r nacl or . a,
es deci r , exact ant ent e nada. La cor r r pr . ensi r r cl c l a c, r l r l . r r t acl , , l t l t o es
pr eci sament e ( como mi conr pr - ensi n cl el al enr . ) par ci : r l . i r cr r r pl et a;
es nul a.
Pasent os ahor a a l as r - ul i cas.
2
"Conl pr ensi n"
t al l l bi n i nt pl i ca t ant o l a post ' si n cl e est l i l os nl cnt r l cs ( i r r t t . ci 6r r l l es)
cor nr l a Ver aci cl ad ( val i dez, xi t o) de cl i chos est ackr s. Pal a l os l i ncs r l c csr c eni l i si s r r os l i nr i -
t ar c- mos a l a posesi n cl e l os est ados.
' I - a i l l t t - t - t ci onal i dad es, por dcf i ni ci r i n, l a cal act er ' st i r : a cl c ci cl t os r st r r l os r r r cnl al es nr c. -
di ant e l a. ct t al se di dgen a obj et os v si t uaci ones cl cl r r ur r r l o o sc ocupan cl c t ' l l os.
por . col r si -
gui et l t e, l as cr eenci as, l os deseos v l as i l r t cr r ci r ncs son r st ados i nt cnci onal cs, r ) r i cnt t as ( l uc
l as l onnas , r
j i r i gi des
d( ' r ngl t \ l i i l \ ( i ( . 11t ( , \ i , r t ) i l o l , r \ , I r l , ; i l r nt r r 0r i l l l , , r l r ; r r i , , l l , r , , , ; r sr ,
Seel h' ( l qTqL
MENTES, CEREBROS Y PROGRAIVAS
1. LA NPUCA DE I - OS SI STE\ {AS
( BERKELEY)
Aun cuando es ci er t o que el i ndi vi cl uo encer r ado en l a habi t aci n no ent i ende
;l -;;ht;, el hecho es que l es s una parl e de un si stema con' l pl eto qtl e s
enti encl e el rel ato.
p,l
i ncl i vi duo ti ene ant s un enorrne l i bro e' el que estn
"r..i i u,
l as regl as, ..,".,tu .ot gran canti dad cl e pa-pel
1' l p,i cespara
real i zar l os
. i . "f "r , t i enJ"bancos de dat os" de l os conj unt os de s mbol os chi no. s. Fnt onces,
l a comprensi r, .r., pr"J" u,b.ri .." sl o ai i ni ' i duo, si no a todo el si stema del
que l es sl o una
Par1e.
Mi respuest a a l a t eor a de si st emas es muy senci l l a: permi t arnos que el
i ncl i vi du absorba t ocl os est os el ement os del si st ema. Memori za l as. egl as
clel libro y los bancos de datos de los smbolos chinos v hace todos- los clcu-
l os ment al ment e. Luego, i ncorpora t odo el si st ema. No ha1' absol ut ament e
ll;rda en el sistema qr' "
""
haya incorporado. Incluso poden' ros deshacer-
ros de la habitacin
-.r
rrpo.t"iqt' e trabaia al aire lib.e' De cualquier modo'
irr entiende nada de .l-ti,to I' n firtiori
tampoco el sistema' pues no hav nada
L. n st e que no est dent ro de 1. Si l no ent i ende, ent onces no haY modo
cl e qr-re ei si st ema ent i enda, pues el si st ema es sl o una pae de l '
E, n real i dad, me si ent o al go mol est o pcr cl ar i ncl uso est a respuest a a l a
1t -or- a de si st emas, . va ql l e, para empezar' , l a t eor a me parece bast ant e
i rrveros mi l . La i dea es ql l e aunql l e Ll na persoi l a no ent i enda chi no, \ a cot t -
i ut rci t ' L
de esa p"r. orl ^
-y
de pei aci t os de papel de al guna manera poda
ei l t encl er chi no. No me l -esul t a f ci l i magi nar cnl o al gui en, ql t e no est l l -
r. i er-a bai o el dol ni ni o ci e una i deol og a, podr a consi derar l eros mi l est a
i ri ea. I ncl uso as , creo que muchas cl e l as personas conl promet i das con
l a i cl eoi og a de l a l f rreri e acabarn por deci r al go mu' pareci do; as qr-re
Si ar-nos u. r poco ms adel ant e. De acuerdo con una
"' ersi t i n
de est a opi ni n,
", , r, q. , "
el ht mbre cl el ej empi o de l os si st emas i ncorporados no ent i enda
r, l i i n1 en el sent i do
"t
qr" I ohace t l n habl al l t e c. hi no
(porqt e, por ej empl o'
rr, , r sabe que el rel at o se ref i ere a rest at l l ' ant es
y hambuguesas, -ei c. ),
"eI
! r, )nrbr-e en cuant o si st ema cl e mani pul aci n de s mbol os f orrnal es" real '
: l ] t t t t e s ent i endechi nct . El subsi st ema del hombr e que col l st i t uve el si st ema
d, : nrani pul aci n de s mbol os f ornt al es para ei chi no no debe conf rrndi rse
r' , . ' n el subsi st ema para el i ngl s.
As que en real i dad exi st en dos subsi st emas en el hombre: uno que en-
l i t , ncl e i ngl s y el ot ro, chi no,
-"-
"l o que sucede es que ambos si st emas t i enen
Dl uv poco que ver ent r e s "' Si n embar go, qui er o r epl i c: r r que no si o
t i enen muy poco que ver ent re s , si uo que ni si qui era son l ' enl ot ament e
: ; eme j ant es. El subsi st ema que comprende i ngl s
(suponi endo que l )os per-
: i t i remos por el moment o l -rapl ar con est a
j erga de
"subsi sl , emas") sabe
, l r re l os rel at os t rat an de rest aurant es y de comer hanrburguesas, sabe que
MENTES, CEREBROS Y PROCIRAMAS
89
se l e hacen pregunt as acerca de rest au' arl t es y que est resporcl i ercl o l o
mej or que puede al Jracer vari as i nf i : renci as a part i r del cont eni cl o ci e l a
narrat : i n, y as sucesi vament e. Pero el si st ema chi no no sabe nada cl e est o.
Mi ent ras que el si st ema i ngl s sabe que "hambur. guesas"
se r. ef i er. e a ham-
burguesas, ei subsi st e. ma chi no sl o sabe qt re despus cl e
"gi i i r. i
gi i i ri " apa-
rece un
"guara
guara". Todo l o que sabe es ql l e l os di st i nt os s rnbol os f or-
mal es i ngresan por un ext l ' emo, se nrani prrl an conf or-nre a r-cgl as e, scr. i t a. s
en i ngl s y ot ros s mbol os sal en por el ot ro ext rc-nro. Tocl , r c. l
. ropsi t o
cl el
ej empl o ori gi nal era argurnent ar ql l e esa rnani pul rci n de s rrr[ l <. , s
ror-s
mi sma no bast aba para compre' de' chi no en ni ngn sent i do l i t eral , p()r q. e
el hombre pod a escri bi r "guara
guar-a" despus cl e
"gi i i r-i
gi i i r-i " si n enl ender.
nada de chi no. As que post ul ar st rbsi st emas dent ro del f i onrbrr. . o sat i sf ace
el argument o, porque en pr-i mer l ugar, l os srrbsi st ernas r)() se cncl l ent r. an
en mej or posi ci n que el l -rornbl e; no poseen nacl a que se par. rrzcr si cl ui er, a
r emot ament e a l o que t i e r e el hombr e ( o st r bsi st er na) que habl a i r r gl s. Dc
hecho, t al como se descl i be el caso, el sr r bsi st er a chi no es t an st i l o una
par l e del subsi st ema i ngl s, una par t c qr r e i nt er l i enc en el r r r ur c
j e
cl c s r -
bol os carent es de si gni f i cado conf or. me a l as r-egl ns t J. , l i ngl r: s.
-
Pregunt monos qu es, en pl i nrer l rrgar-, l o qrre. supuest l ri l errt c rot i \ r
al si st en-ra a r-esponder; es deci r,
qrr
l ' r-rndanrcnt r)s i t t t l el et t t l i l (r. s sc sLl -
ponen par a af i r mar qr r e el agent er debe p( ) seel . n sr r bsi st c. l l r t l t l _r l l e s
que ent i encl a l i t eral ment e l el at os en chi l ro? Hi , st a cl rrrrl e
rt recl o
dcci r, l os
ni cos f undament os son que en el e. j enrpl o vo t engo l a r. i s. r: i crrt r. acl a y
sal i da de i nf ornaci n que l os habl ant es cl el cl ri no v un pr. ogl . anra qLre
' Lr
de l a una a l a ot ra. Pel o el propsi t o crbal de k-r. s ei ernpl os l l a si cl o i r rt errt -
demost r ar que eso no bast aba pal ' a col npl ' endcr en cl sent i . k, el r qr e vo
compr enci o r el at os er r i ngl s, por que Ll na per - sol l a. . \ ' p( ) r coi l si qui ent e L- l
conj unt o de si st enras que l a const i t uven,
, odr a
1ener. l a conrbi nrci ri n r: t l _
nect a de ent rada, sai i cl a v progr-ama v arrn as no r. nt encl er. nacl a t -rr el
sent i cl o l i t eral pert i nel t t e en el que vo enl i end, r i ngl s. I -a t i ni r: ; . r nrot i vaci <i n
para af i rmar que debe exi st i r rt rr srt bsi st cma en nri i nt eri or crre cr. rrrrpr. ecl c
chi no es ql re vo t engo un prograrna v aprol . , t - l a pnreLra de 1' t rr. i ne;
rrrecl t r
engar i at - a I os habl ant es nat . i vos del chi no. Pt r - o r r no r i e i os
r t r t os
e c es,
t i n es preci sament e l a suf i ci enci a cl e l a
rr-ucb: r
cl c
-r-rrl i rrr.
] i l ej ernpl o
muest r a que podr a haber dr s "si st emas";
ambos pasan l a pmeba cl e Tr r r i ng,
per o sl o nno cl e el l os ent i ende; v no t i ene sel t l i i | l ar gunt enl ai . cont l . r est ( l
para deci r que, como arnbos pasan l a
l nreba
dt rr' i l rr' . , rnrl -ros
j c' l re
conrprenci er' ,
] / a
que est a af i rmaci n no sat i sf ace c. l ; rrl rnrent o cl t -' ct re el
si st enra dent ro cl e m que compl ende i ngl s t i ene nrt rcho nrs qrre el si s[ enra
que nada nrs procesa chi no. En rocas pai al rras, l ; r rpl i c: ; r c, l t l os si st cras
senci l l amel r t e da por sent ada l a cuest i n. r l i nsi st i r si i r ar gr r nr e r r t os r t r c el
si st enra debe ent cncl er chi no.
90 MENTES, CEREBROS Y PROGR,A]\ AS
Adems, l a rpl i ca de l os si st emas parecer a condt t ci r a corrsect t enci as
que son i ndependi ent ement e abs' rds. Si hemos de concl ui r que debe
exi st i r cogl t i ci n en m sobre l a base de que t engo una especi e de ent rada
v sal i da cl " i nf ort t l aci n 1' un
programa ent re ambas' ent onces pareceri a
qt re t odos l os t i pos de subsi si en-, as que no sean de cogni ci n acabarn
, l "r-ro cogni t i vos. Por ei empl o, exi st e un ni ' el de descri pci n en el cual mi
est magJp. ocesa i nf ormaci n -
ei en' rpl i f i ca co. cret ament e cual qt r i er can-
t i dad de p. ogru*^. cl e conl pt l t adora,
pero consi dero que no queremos
cl eci rque t i ene comprensi n al guna (cf . P-I 1' shvn, 1980). Pero sl acept amos
l a rpca cl e l os si st emas, ent onces resul t a di f i ci l
"' er
cmo podemos evi t ar
l a af -i rmaci n de que el est mago, el corazn, el h gado, et c. , son subsi st e-
rras que . ort -rp. "n. l "r-t , puest o que no hay una manera de pri nci pi os para
di st i ngui r qu nos
-oi i r", u
a deci r qr_re el subsi st ema chi no ent i ende de
af i rml r qu. el est mago ent i ende. Por ci ef l o, deci r que el si st ema chi no
t i ene i nf ormaci n cl e t rada y cl e sal i cl a v que el est mago t i ene ent rada
v sal i cl a cl e al i ment os v product os al i ment i ci os no const i t t l ve una respuest a
a est a cuest i ' , 1, a
qul desde el punt o de r, i st a del agent e -desde mi punt o
cl e vi st a- no exi st e i nf ormaci n ni en l a comi da ni en el chi no, pLl es est a
l engua no es ms ql l e t l na seri e de garabat os carent es de si gni f i cado La
i nf ormaci n en el caso de chi no se encLl ent ra excl usi vament e en l os oi os
de l os progran-racl ores y de l os i nt rpret es, v no ha1' nada qr' re l es i mpi da
. or-, si derurl . omo i nf ormaci n l as ent radas
t
sal i das de mi s rganos di ges-
l i vos, si as l t - - , desean.
El l t i mo punt o se r ef i er e a al gunos a pr obl emas i ndependi enl es en l a
l A [ r-l er-t e v
' aj e
i a pena des' i arnos un poco pal ' a expl i carl a. Si ] a. t n t uet ' t e
ha de ser unu . u, r-t u cl e l a psi col og a, ent onces debe ser capaz de di st i ngt ri r
I os si st emas que son genui nament e rnent ai es de l os que no l o son' Debe
ser capaz. de i st i ng. ri t - l os pri nci pi os sobre l os que t rabaj a l a nrent e de
oquel l os sobre l os qure t rabaj an l os si st emas no menl al es; de no ser as , no
nos expi i car qu es espec f i cament e ment al en l a ment e Y l a di st i nci n
ent re ent al
)' no
ment l no puede quedarse sl o en l os o j os del espect ador'
si no qr r e debe ser i nl r ' l l seca a l os si st enl as; de no sel ' asl . cada especl a-
do. pod. u t rat ar a I a gent e como no ment al y, por ei empl o, a l os huracanes
conao menl al es, si asi l o deseara. Si n embargo, muv a nl ent t do en l a l i t e-
rat l rra sobre I A est a cl i st i nci n resul t a conf usa en aspect os que en el l argo
pl azo resul t ar an desast rosos para l a af i rmaci n de que l a I R es una di sci -
pl i na cognosci t i va. McCarl hy, por ej empl o, escri be:
"Puede
deci rse que
r-r-rqui nas t an senci l l as conl o l os t ermost at os t i enen creenci as y t ener creen-
ci as parece ser Ll na caract er st i ca de l a mayor a de l as mqt t i nas capaces
cl e sol uci onar probl emas" (Mccart hl . " 1979). Qui en
pi ense que l a l A t i ene
l a probabi l i dad de ser una t eor a de l a ment e debe ponderar l as i mpl i ca-
ci ones cl e ese coment ari o. Se nos pi de acept ar como descubri mi ent o de l a
I
I
t,
F
r
F
E
t
t
F
r.
t
t
,
t
l
,

t
r
I
f

I
E
I

t
I
E
[.
I

I VI ENTFS, C] ERFBROS Y PRO( I RA] \ JAS

9I
IA fue.te que el pedazo cre.metar en ra par.ecl crre rrti ri za' ros
Pa.a
regurar ra
tenrperatrrra
ti ene c' eenci as eractamc-rte
cn el ,-ri srl ro sentl cl ,r en que no_
sotros, nuestros cn-r,trges v nuestl .os hi j os l as l enenl os,
v acl ertrs, que,,l a
nt avor a" de l as dems nt qui nas de I a i r abi t aci , i , "1. , f
"". , ' *l "bacl or a, sumador a, i nt en- upt or - cl e l t r z- t ar nbi n t i el l en cr et - nci as en est c sent i do
l i teral No es el propsi 1o cl e este ar1curo a' gr.re' rar.e,
contl .r der pr_rnto
de M.ccarl hv, as que si mpl er.' ente
e,*p,r..rr. r., si grri errl c si n cri sc rrsi n. El
est udi o de I a ment e par t e cr e hechos 1ur "r . , r , , . r , . , gr r c l os r r r r nr ar . s t i enen
creenci as, nti entras que l os terntostatos,
tel f onos o ,un' ..l .rr=,r,-rr.
Si ,"
obti ene una teora que ni egrre este pu' to, se rrabr. rogr.acl o ,,,-, ..,r-rtro""--
pl o de l a teora v sta ser fal sa. Se ti ene ra i mpr.esi <i i r cre cl tre rrr-p",.roru,
ql l e se ocl rpan de l a L' \.v escri ben este ti po crecosas
ri crrsa.r q.,J pued",-,
sal i rse con l a_suya, porql l e no l a tonran real l nente en ser.i r_r v tantpoco pi en_
san ql l e l os dems l o harn.
propong'
q' c- al nrenos p,r,l .r ,r-,.rr,,rento l a
consi cl er emos
ser i ament e. pi ense
i nt ensant er t f e
cl ur _ant e r r n r l i r r r t o gu se
necesi tara para establ ecer ql l e ese troz() cl e nreral en Ia par.ecl ti e' e creen-
ci as real es, creenci as con cl i ' ecci orari c' racr,
con co' te' i r[. pr..r,si ci onal y
condi ci ones de sati sfacci n; c.eerci as que. trr' i er.a' ra
l ,rsi bi l i du,l .r" ,",.
sl i das o dbi l es; cr eenci as ner ' i osas, a. , si osus o segr l r . as; cr . eenci as dog-
mt i cas, r aci onal es o super f i ci osas, f c' s ci egas o cogni ci or r r . s t i r r r beant es,
crral qui er ti po de creenci as. El ternrostat,, ,ri
",
.,o,,Ji .r"t,, par.r r,o, como
t ampoco l o son el est mago, el h gado, r a s"r adr r . a, er t ci f . r ' . si n em_
bargo, p.esto ql l e estanros cor-rsi cl er-ancl o
l a i dca scr.i al rrerrl e, ,bsti r-vese que
s,u' erdad ser' a fatal para l a afi rmaci ri n de cl tre Ia l A frrer.tr- cs l l ri l cl enci a
de l a ment e Po. ahor a, l a r r ent e se e. cl er t r - a en l r cr : r s
r ar . t t , s. Lo qt r e
3yer i amos
saber es qu di st i ngr r e a l a nt ent e cl c l os t er . nl os{at t , s
v cl e l os
hgados Y si Mccarthv ru' i ese t' az.(:n, ra r ftrerl c r- ;;u.i ;;;;rr,,,,,o
"r-
peranza para decrnosl o.
2. LA RpLr cA DEL RoBot ( ynr _e)
Supongamos que cscl i bi r nos un t i po cl e pr - oqr r nr a cl i l ' el . cnt e al cl e Scl l ank. Su_
pongamos que ponemos una comput ador - a dcnl r o cl e un r r t r r t v c t r e r r st a nt sr i l cr
acept a s mbol os f onr - r al es como cnt r acr a y pr , cr uce' s- nbol os f , , , . , , , ^1", . . , n, r , ,
sal i da, si no que cf ect i ' ament L-
oper a ar r . , boi cr e t ar nr t nc- r - a qu. , e. t . : - r , og, n ul g, ,
mu1' par cci do a per ci bi r , cami nar . , despl azar se, mai l l ar . , . , , , r , ". , bet r . , r . l . q' e
se qui er a. El r obot t endr a, por c. j enr pl o, una c. i r nl u. a cr c t cl evi si r i i l cgr - ar dzr r a
cual l e per mi t i r a "ver ";
t endr a br azr . s v pi cr . r l as p . a p6<I er
, , act uar r , ,
v l ocl o esl cr
l o cr nt r ol a a su
"ccr ebr o"
cr e compt r t adc, r - a. A cl i f er cnci a cl e I r . , , , r , , , , t r , . r , r , , u. 1"
schl nf , est e r obot ser a capaz . l " i r no gcnt r i na cr nr p. e- . si r n v cl c . t r r r s est acl . s
ment al cs.
92 MENTES,CEREBROSYPROGRAMAS
Lo primero que hatrra que obser-var acerca de la rplica del robot es que
se acepta tci tamenl e q.r" l u cogni ci n no es ni canl ente una cuesti n de
n.ranipulacin cle smbolos fornales, ya que esta rplica aade un conjunto
rl e rel raci ones causal es con el n-rundo exteri or (cf. Fodor, 1980)' Pero l a res-
pesta a l a rpl i ca del tobot es que l a i ncl usi n de estas habi l i dades
"per-
c.eptual es" y "motoras", en nada contri bul ' e al entendi mi ento, en par-ti cul ar,
o a l a i ntenci onal i dad, en generai , del programa ori gi nal de Schank. Para
captar esto, obsrvese que el r-ni smo experi mento-pensami ento
se puede
.,rii.u,- al caso dei robot. Supo.gamos qLle en vez de la computadora dentro
dcl robot, me l neten el t una habi taci n
1,' ,
como en el caso ori gi nal del chi no,
se me propor-cionan ms srnbolos en esa lengua con rns instru-cciones en
rngl s par-a aparear l os smbol os chi nos con otros smbol os chi nos para
,l rj i ,ol ver otros smbol os chi nos al erteri or. Supngase, aunque
yo 1o i gnoro,
cl rre al gunos cl e l os snrbol os que reci bo provi enen cl e una cmara de tel et' i -
,i,r irit"g.uda al robot y que los otros smbolos que vo remito al extedor
si rven
rJ.o
echur u
^.tui
l os motores dentro del robot que mueven l as
pi er.nai o braz.os del .obot. Es i mporl a' l e resal ta que todo l o que esto'
i ,aci endo es mani pul a| sl nbol os forrl al es; i gnoro todo l o dems. Yc) reci bo
l a
"i r1l brraci n" a pani r del cl i sposi ti vo
"de percepci n" del robot v doY
"i stl rcci ones" a su apar-ato motor si n saber que l o estoY haci endo. Yo soy
t l l tmri ncul o cl ei robot pero, a di ferenci a de l os i romncui os tradi ci ona]es,
i gnoro qu est sucedi endo; no comprendo nada excepto l as regl as para l a
,r,a.i pui u.i on de srnbol os. Ahora bi en, cabe menci onar en este caso que el
rrbol carece por compl eto cl e estados i ntenci onal es, pues senci l l amente se
a,:1.i va como r.esul tado de sLl si steni a de ci rcui tos e1ctri cc-rs
'
cl e su p| ograma.
i rOr. otra parl e, ai ej ei npl i fi car concretamente el programa vo no tengo es-
tacl os i ntenci onal es per-ti nentes: todo l o que hago es segui r i nstmcci ones
rara
mani pul ar smbol os fonl al es.
.3. Ln nplIcA DF,I- sIMUI-ADoR DE cEREBRos
(Br'nr-elr'v Y [4ir)
S) upongamos c ue se di sea un pr ogr ama guc l l o r epr esent a l a i nf or r naci n que
t . . r i e mos acer ca cl el nr ur i do, como ser a l a i nf br r naci n de l c s l i br et os de Schank,
si s que si mul a l a sect r enci a l - eal dc emi si ones neur or t al es cn l as si napsi s del
cer ebt . o de nn hal l a l t e dei chi no cuando cor n r r enc{e r r : l al os en chi no v ot r ece
r ' e- spuest as acer ca de st os. I - a mqui na acept a l os r el at os et t chi nr r y l as pr egut r -
t l i s sobr e el l os a modc, de ent r ada: si mul a l a est r - uct ur a f r r mal de l os cer ebr os
cl r i nos r eal es al pr ocesar l os r el at os
t
of r ece r espuest a. s en chi no a maner a de
sal i da. Poder nos i ncl uso i magi nar qr r e l a mqui na no oper a con Ll n sol o pr - ogr a-
r na sc' r i al , si no con t ocl o un con- i unt o r l e pr ogr amas que oper an en par al el o, de
l r t ni sma maner a en que supuesl ament e r ) per an l os cer ebr - os humanos r eal es
cur ndo pr ocesan el l enguaj e nr t ur al . Ahol a bi en, no cabe duda de que en est e
IVENTES, CEREBROS y pROCJtAMAs
93
caso tencl ramos que afi rnrar qLre l a mqui na ha comprencl i cl cl l .s rel rt.s.
y
si
nos negamos a deci rl o,
no
estar' armos tnrbi n n"guri .l ,, quc l os rrabl a' tes del
chi no enti enden l os rel at.s? En el ni ver de l as srnapsi s,
q'
sera o p.dr.a ser
diferente entre el programa
de la con-rputadora
1,cl
'rogranla
dcl ce-rebl. crrino?
Antes de contradeci r
esta rp[i ca, nre gLrstar-a haccr rrn parntesi s para
anotar que se trata de una rpri ca extraa para un parti dari . de ra i nteri -
genci a arti fi ci al (o del funci onal i smo,
etc.):
1,o p"r,rt
^
qtre Ia i dea cl e l a rR
fuerte radi caba en qtre no necesi tamos
sabe' ci no ftrnci o.a er cel .ebro
para saber cmo frrnci ona ra l -rente. La hi ptesi s fi rndani e' tal ,
. as l o
crea yo, es que exi ste l n ni vel cl e ,peraci ones
mental es qtre cc,r]sta de
pocesos
de cmpr,rto sobre l os eremeni os fornral es que consti trr' en l a esen_
ci a de l o mental
.' ,'
que ptrecl e l l e' arse a cabo
""
,"1, i ,,, i l i ;;;; ri p.s cl e
procesos
cerebral es del mi smo modo que cuarcui er.p,' ,,gr.onro
i i u: ..,.,rp,,-
tadora puede funci onar en di sti nros /tardwares
de comruracl or-a.
segi r' ras
suposi ci o' es
de l a n fuerl e, ra mente es
' especto
crel cerebro ro que er
programa
es respecto der hardruare y, por consi gi i en{e,
es posi bl e entender
l a mente si n i ncurri r en el n' rbi to l o ,-r".rrofi si ol oga.
si p^,-o-t' ,u.", ,o
tu' l eramos que saber cmo traba.i a el cereb.o, n, tencl r-a aur., o.r,p,,r.rroa
de.el l a. Si n embargo, aLl n ctrando se encrentra tan pr-oxi ma rl l rr' ci ona-
mi ento dei cerebro todar' a no es suFi ci ente para procl trci r compr.ensi n.
Para' er esto ms cl aro, i magi nemos
qLre en l i ,gu. e .,., honrbr.j i ' o' ol i n_
ge en una habi raci n revor' i encro
smoros, tenenl os,n hrmbre orerancro
un gl upo compl ej o de pi pas de agua conectacras c:o' r' l vtrl as.
cr-rarrcro re-
ci be l os smbol os chi nos, consul ti en
el programa,
escr.tto en i ' gl s, cnl es
vl vul as debe encender o apagar. cacra coi exi ' cl c agua,,o.i ]"rp,,,.,.r",.
una si napsi s en el cerebro chi no
r
todo el si stena est cl i sei racl o cl e l al
manera qr-re, despr-rs de todos l os "encencri cros"
corrector,
",
d".i ., espus
de poner en funci onami ento
tocros ros gr-i fos .orr"sponcl i entes,
ras rcspues-
tas en chi no brotarn a l a sal i da cl e l a ser-i e cte pi pas.
.
Ahor a bi en,
dnde est . i a_compr ensi n
en est e si st ema? Acept a el
chi no como ent r ada, si mur a l a esi r uct r r - a f or - nr al cr e l as si napsi s r l el
cerebro chi no
l ' entrega chi no como sal i cl a. Si n errrbargo, er homr.e ci er-
tamente no enti ende chi no, ni tanrpoco l o hacen ras pi l as .r" ug.,^, .i ,,o.
si nti ramos
tentados a adoptar el punto cre
' i sta,
a mi ' l rri ci o a6srrrdo, de
qr-re de al guna manera Ia col l unci i z
de hombr", pl pu, i " ;;.,;.;,rpr""_
de; recordernos que en pri nr:i pi o
er hombre puecre i nter-nari zar l a est^rc-
tura formal de 1as pi pas.de
agua y reari zar en su i magi naci n tocros l os
"encendi dos
neuronal es".
El prol ema
con er si murador del cerebro es
que si mul a aspectos equi ' ocados cl e ste. Mi entras l ni came' te
si m.l e l a
estructura formal de l a secuenci a cl e "encendi dos"
neuronal es en l as si -
napsi s, no habr si mul ado l o que real mente es i mpor-tante acer-ca der ce-
94
MENTES, CEREBROSYPROGRAN{AS
r-ebro; es deci r: sl l s propi edades causai es' su capaci dacl de prodr-rci r est a-
cl os i nt enci onal es.
Y ei ej empl o de l as pi pas cl e agua demuest ra
que l as
; ; ; pi "; "i "t
f ormal es , -, o , ot t suf i ci ent es
para l as propi edades causai es:
i od". rro, ext raer t odas l as propi edades f ormal es de l as propi edades cau-
sal es neurobi ol gi cas
pert i nent es'
4. LA RPLI CA DE I -A COMBI NACI N
(BERKELEY Y STANFORD)
Ar r ncuandocacl aunaci el ast r esr pl i casant er i ol . espr - r di er an. r esl t l t ar com-
pl et ament e convi ncent e por s mi sma como ref ut aci n al cont raej errrpl o
de l a
habi t aci n chi na, si se cc' ' nsi deran en conj unt o' col ect i vament e
son mLl cho ms
con. ri ncenl es e i ncl uso cl eci si vas. I magi nernos un robot que cuent a con Ll na
. u-p. t t uao* en f orna cl e cerebro al oada en su cavi dad craneal ; i magi nemos
que l a compt t t aci ora est programacl a con t odas l as si r-rapsi s de un cerebro hu-
mano; i magt n"-. , . t u-bi " l ue
t odo el conrport ami ent o
del robot es i ndi st i n-
gt ri bl e del " . , r, . ". humano, e i magi nemos ahora t odo est o conl o Ll n sl st ema
i rni f i cado v no sl o como una t ornput ut l ot u con ent r-adas y sal i das de dat os' Si n
ducl a, en t al caso t endr amos q. r" t . i b. ri . l " i nt enci onal i dad
al si st ema.
Estoy totalmente de acuerdo en qlre en tal caso nos parecea racional'
y
""
. "^i i ^ i rresi st i bl e, acept ar l a i pt esj s de que el robot t i ene i nt enci o-
nal i dad, si empre y. *o
' '
t "put o' nada ms acerca de 1 En real i dad'
apaf t e de su apari enci a v de su comport ami ent o'
l os dems el enl ent os de
i i . o-bl nu. i n
son f i ' ecuent ement e
i rrel e' ant es. Si pudi ramos const rul r
rn robot, ..,' o.o*por.tamiento
[uera an-rpliamente
indistinguible
dei com-
port ami ent o l l umano, l e at ri bui r amos i nt enci onal i dad'
hast a que exi st i era
al gr nmot i vopal . anohacer l o. Nonecesi t ar amossaber deant emanoqt t e
su cerebro de computadora
es una analoga formal del cerebro humano'
Empero, realmente no \eo que esto arttcle en algo a los argumentos de
Ja rn f t rene; y he aqu por qu: de acuerdo con l a I A f uert e' l a e-i empl i f i caci n
concreta d" t.t p.og.ma ftrrnal con datos de entrada v de salida-adecuados
const i t uye r. , . , "t o. ri . i n suf i ci ent e, y de hecho es const i t ut i ' a, de i nt enci o-
nal i dacl . Al deci r cl e Newel l
(1979), l a esenci a de l o ment al es l a operaci n
cl e un si st ema de s mbol os f si cos. No obst ant e, l as at ri buci ones
de i nt en-
ci onal i dad que l e hacemos al robot en est e ej empl o nada t i enen que ver con
p. og. u-u, i orrnol "r. se basan si mpl ement e en l a suposi ci n de que si el
i ' obot se ve y se comport a l o suf i ci ent ement e
pareci do a nosot ro. s' . ent onces
poclran-ros st.lponer, hasta que se demuestre lo contrario' que debe poseer
est ados ment al es como l os nuest ros ql l e causen su comporl aml ent o v se
expresen a t ravs de st e, y que debe cont ar con Ll n mecani smo i nt eri or
. uput d, . produci r t al es est ds ment al es' Si supi ramos' de manera i nde-
pendi ent e, cmo expl i car su comport ami ent o si n t al es suposi ci ones, no l e
MENTES, (I FI I EBROS
Y I ' ROCl RAf vf AS 95
at ri bl ri r amos i nt enci onal i dacl sobre t ocl o si st rpi r-anros que posee Lrn pro-
grama l -ormal . st e es pr-eci sarnent e el pt rnt o qrre t rat en rrri rpl i ca ant eri or
a l a obj eci n 2.
Sr, rpongamos que sabemos q. e el comport arri e' l ' del rob. t obecl ece por
compl et o al hecho de que un hombre reci be en su i nt eri or-s n-rbol os f or-mal es
no i nt er-pret ados desde l os recept ores sensori al es del r-ot rot v env a s mbol os
f orral es no i nt erpret ados al mecani srncl rnot ol ' del r-obot , r cl rre el hombre
real i za est e manej o de l os s rbol os segrl rn t rna ser-i e dc' r-egl as. Supongarnos,
adems, que est e i ndi vi duo no sabe nacl a acer-ca del robot Y que l o rni co
que sabe es cul es oper-aci ones real i zar con crrl es s mbol os si n si gni f i cacl o.
En ese caso consi derar amos qt re el robot es un l nueco rnecrri co i rrgeni oso.
La hi pt esi s de que el robot t i ene ment e r-est l t ar- a ent ()nces i nl rrsri [ i cada e
i nnecesari a, puest o que ya no habr' a ni nguna razi rn para at ri bt ri r. l e i nt en-
ci onal i dad al robot o al si st ema del cual f orma part e (exc-ept o,
pol -sLl puest o,
l a i nt enci onal i dad del hombre en el manej o cl e krs s rnbol os). El ni ar-rej o de
s mbol os f orrnal es cont i na, l os dat os de ent l acl a
1' de sal i cl a se con. esponcl en
con-ect ament e, pero el rni co f oco real de i nt enci onal i dad es el l rombre y l
no sabe nada de l os est ados i nt enci onal es per l i nent es; no l e, por . ej empl o,
l o que ent ra en l os oj os del robot ; nori et t e l a t t t et t t : i t i t t cl e rnoverel brazo
del robot y
no conry)rende ni nguna de l rs obserwaci ones hccl l as al robot o
por el robot . Ahora bi en, por l as razones ant eri ol nl enre exprrest as, rampoco
l o hace el si st ema del cual el hombre y el robot f onl an par1e.
Para consi derar est e pl l nt o, comparemos est e caso con ot ros en l os que
nos parece compl et ament e nat ural at ri bui r i nt enci onal i dad a l os ri ernbros
de al guna ot ra especi e de pri mat es, como si nri os
. v
nronos,
. y
a rt ni mal es
domst i cos como l os perros. Las razones de qt re el l ' nos pu, : ". . . , nat ural
son, a grandes rasgos, dos: no podemos cl arl e sent i do al compo| t ami ent o
del ani mal si n at ri bui rl e i nt enci onal i dad, y podemos ver ql l e l as best i as
esl n hechas de mat er j al si mi l al al nr est r o ( eso cs r r n o j o. eso es r r r r a r r ar . i z,
st a es su pi el , et c. ) . Dada l a coher enci a cl el compor t ami ent o del ani mal
y' l a suposi ci n de que est hecho de l a mi sma mat eri a cat rsal , sLl ponemos
que el ani mal debe t ener est ados ment al es que mot i ven su comport arni ent o
y que est os est ados ment al es deben ser product o cl e mecani smos hechos
de est a mat eri a que es como l a nLl est ra. No cabe cl uda de que har amos
suposi ci ones si mi l ares acerca del robot , a menos de cl ue t uvi r-amos al guna
razn para no hacerl o, pero t an pront o como supi ramos que su compor-
t ami ent o f ue el resul t ado de Ll n programa f ormal y que l as propi e<1ades
causal es real es de l a sust anci a f si ca eran i n-el evant es, abandonar amos l a
suposi ci n de i nt enci onal i dad (r, anse var-i os at rt ores, 1978).
Exi st en ot ras dos respuest as a mi ej empl o que surgen a menudo (y por
el l o val e l a pena consi derarl as), pero que en real i dacl no comprencl en el
sent i do de mi argument o.
NIENTES, CEREBROS Y PROCRAMAS
5. LA RPLI CA DE LAS OTRAS MENTES
( YALE)
Cmo
puecl e saberce que otl a persona enti ende chi no u otra cosa? Sl o porsu com-
p""-i ""a. Ahora bi en, .o-o l . computadora
puede aprobar
(en pri nci pi o)
i ... p*.bu, de conducta tan bi en como cual qui era;
por tanto' si se ha de atri bui r
cogni ci n a ot r as per sonas, t ambi n debe at r i bu r sei e a l as comput ador as'
Est aobj eci nenr eal i dadsl omer eceLl nar pl i cabr el ' e. Ei pr obl ema
en este caso no consi ste en cmo s que otras personu5 dsnen estados
.ognlri.,or, sino ms bien en qu es lo que les atribul''o cuando les atribuyo
"uiudo,
cognitivos. La ftrerza del argumento es qlle no podra tl'atarse pre-
ci samentee
procesos de cmputo y de sus resul tados'
porque l os procesos
cl e cmputo y sus resul tados i ueden
exi sti r si n el estado cogni ti vo. No es
l espuesta a este argumento fi ngi r anesi esi a' En l as
"ci enci as cogni ti vas"
.""fr"r.,po.t" l u ."Il i d^.I y l a cgnosci bi l i dad
de l o mental de l a mi sma
,rr^r-r".. q.,"
"r-,
las cienciai fsicas se tiene que presuponer la realidad
'
la
cognosci bi l i dacl de l os obj etos fsi cos'
6. LA RPLICA DE LAS MANSIONES N,ILTIPI-ES
(BERKELEY)
. I odocuant oust edar gument apr esuponequel at s l l ot i et l equer ' er conconl pu'
tadoras anal gi cas u?i gi ,ul "..
pero
resul i a que ste es preci sar-nente el estado
actual cl e l a tecnol oga. Cual esqui era
que sean l os procesos causal e-s que usted
af i nr r a que son esenci al es par a que exi st a i nt enci onal i dad
( suponi endo que t enga
ust ed r azn) , a l a- l ar ga ser emos capaces de const r ui r di sposi t i vos
que cuent en
con est os pr ocesos. r . . 1",
y
"so
ser i nt ei genci a al t i f i ci al . De modo que sus
ar sument os de ni ngn modo se r ef i er en a l a capaci dad de l a i nt el i genci a ar t i f i ci al
pai a produci r y expl i car l a cogni ci n'
Enr eal i dadnot engoobj eci naest ar pl i casal r , odeci r queenr eal i dad
'uelve
trivial
"l
p.ov"lto de la t fuerte al redefinirla conro cualquier cosa
q.," p."J"r.u y
"*piiqrl"
artificialmente la cognicin EI inters de la pro-
;;d"
originai . f,ro. de la inteiigencia artificial estriba en que se trataba
d" ,rrru tesis precisa y bien ciefinida: los procesos mentales son procesos
."-fr,u.i"'ales
cle lementos definidos folTnalmente.
Me interesa desa-
fiar esa tesis. Pero si el argumento se replantea de modo que ya no srga
si endo esa tesi s, mi s obi eci ones ya no vi enen al caso, porql l e ya no habr
una hi ptesi s cl emostrabl e a l a que se puedan apl i car'
R"g.es"mos ahora a la pregunta que promet que trataa de responder:
pu"rio q.r" en mi ejemplo riglnal yolntiendo ingls pero nochino y puesto
que l a mqui na no
"nti ".td""ni
i ngl es ni chi no' an debe haber al go en m
MENTES, CEREBROS Y |ROURAI\\S
9Z
qLl e pro\ oca que
vo ent i enda i ngl s, as co' ro debe f al t ar al go cor. r. espon-
di ent e en m que me i mpi de ent ender chi no. I ' ues bi en,
pr
que no po_
dr amos proporci onar a una mqui na esas dos. , , r. r, , "ui ' l o que f ueren?
No
' eo,
en pri nci pi o, ni rrgr: na razn po. l a ct ral no pt rdi era
dot arse a
una mqui na con l a capaci dad par. a ent encl er i ngl s o cl l i n, l , vi que en un
sent i do i mpof t ant e nuest ros cuerpos con s' s cer-ebr-os , r' t r. ". i ru-"art "
mqui nas de est a nat ural eza.
pero
s veo ar. qumerrt os nruy sl i dos para
deci r que no podr amos proporci onarl e t al cosa a una mq. i na, cuando ra
operaci n de I a mqui na se def i ne excl usi varrent e en t l . rni nos de pr. ocesos
comput aci onal es de el ernent os def i ni dos l brmal mc-nt e; es cl eci r, ct rando l a
operaci n de i a mqui na se def i ne conro el ej empl o co' cr. et o cl e un pro-
gr?ma de cmp' t o. Yo ent i endo i ngl s y poseo ot r-as f ormas cl e i nt enci o-
nal i dad, no porque sov el ej empl o concret o de un progr. ama de cmput o
(soy, supongo, l a ej empi i f i caci n conc. et u d" , ' , r. t os progr-amas
de
cmput o), si no po. que, hast a donde sabemos, so, v
' n
ci ert o t i p, r de orga_
ni smo con una ci ef t a est ruct ura bi ol gi ca (es deci r, ci er-t a est ruct ura qu -
mi ca y f si ca), l a cual , en ci ert as condi ci ones, es causarnrent e capaz de
produci r percepci n, acci n, comprensi n, aprendi zaj e y crt r-os [ enmenos
i nt enci onal es. Y par-t e de-l a cuest i n del present e argrment o es que sl o
al go que t u' i era est os poderes causal es pdt i u t ener i nt enci ' nal i cl ad.
eui -
zs exi st en ot ros procesos qu mi cos y f si cos que podr an procl . ci r exac-
t anl ent e est os ef ect os; qui zs, por ej empl o, l os marci anos t ambi n t ensan
i nt enci onal i dad aunque sus cerebros est n hechos de cl i st i . t a nrat er-i a. st a
es, si n embargo, una prerunt a emp ri ca, muy si mi l ar a l a cre si ra rbt os nt esi s
podr a ser real i zada por al go con una qu mi ca di st i nt a a l a cl e l a cl orof i l a.
Empero, l a cuest i n pri nci pal del present e argument o es ql e ni ngn
model o purament e t ormal ser j an' rs
suf i ci ent e por s mi smo para l a i n-
t enci onal i dad, porque l as propi edades f orrnares no son el l as mi smrs cons-
t i t ut i vas de l a i nt enci onal i dad
v porque carecen por s mi smas de poder
causat sal vo el poder de produci r' , ct rando se ej empl i f i can concret ament e,
l a si gui ent e et apa del f or mal i smo cuando l a r nqt r i na est f . nci onando.
Y cual esqui era ot ras propi edades causal es que t engan l as real i zaci ones
parliculares del modelo formal son irrelevantes para el nroclelo forrnal,
porque si empre podemos poner el mi srno model o [ orrnal en una r-eal i zaci n
di f erent e en I a que esas propi edades causal es est n obvi ament e ausent es.
Aun cuando, por al gn mi l agro, l os habl ant es del chi no pudi eran ej ecut ar
exact ament e el programa de Schank, podemos ponerest e mi smo programa
en habl ant es del i ngl s, pi pas de agua o comput adoras, . , i ng' no de l os
cual es ent ender a chi no a pesar del programa.
Lo que cuent a en l as operaci ones del cerebro no es l a sombra f ormal
pro-vect ada por l a secuenci a de si napsi s, si no ms bi en l as propi edacl es
. eal es de l as secuenci as. Todos l os argument os que he vi st o t avor de l a
98 N,IENTES, CEREBROS Y PROGRANIAS
versi n f uer1e de l a i nt el i genci a art i f i ci al i nsi st en en di buj ar un cont orno
al rededor de l a sombra proyect ada por l a cogni ci n v l uego af i nr-rar que
l as sombras son real es.
A manera de concl usi n me gust ar a i nt ent ar est abl ecer al gunos de l os
pl rnt os f i l osf i cos general es i mpl ci t os en el argument o. En aras de l a cl a-
l i dad i nt ent ar hacerl o en f orrna de pregunt as y respuest as, v comenzar
con l a pregunt a ya gast ada de:
"Puede
pensar una mqui na?"
La respuest a es obvi ament e s . Nosot ros somos preci sarnent e esas m-
qul nas.
"S ,
per o,
podr a
pensar un ar t ef act o, una mqui na hecha por el
l l on-rbre?"
Si suponenros ql l e puede produci rse ar-t i f i ci al ment e una mqui na que
I )osea
Ll n si st ema ner-vroso, neuronas con axones v dendri t as, r, t odo l o
cl erns, l o suf i ci ent ement e seme. j ant es a l os nuest ros, ot ra
. , ' ez
l a respuest a
a l a pregunt a parece ser obvi ament e s . Si se pueden dupl i car exact ament e
l as causas, podr an dupl i carse l os ef ect os. Y de hecho ser a posi bl e produci r
conci enci a, i nt enci onal i dad, v t odo l o dems ut i l i zando al gunos ot ros t i pos
cl e pri r-rci pi os qu rni cos que no sean l os que ut i l i zan i os seres humanos. Se
t rat a, como di j e, de rrna cuest i n emp ri ca.
"Est
bi en. No obst ant e,

podr a pensar Ll na comput adora di gi t ai ?"
Si por "comput adora di gi t al " nos ref eri mos a cual qui er cosa que t enga
un ni vel de descri pci n medi ant e el cual pueda descri bi rse correct ament e
como l a ej empl i f i caci n concret a de un programa de comput adora, ent on-
Lres ot ra vez l a respuest a es, por sl l puest o, s ,
)' a
que nosot ros somos l as
ej empl i [ i caci ones concret as de cual qui er nmero de programas de cmpu-
t o y podemos pensar.
"Si n embargo,
podr a
al go pensar, comprender, et c. , excl t t si vanl et e en
vi rt ud de ser una comput adora con el t i po col rect o de programa?
Podr a
l a ej empl i f i caci n concret a de un programa (del programa correct o, por
supuest o) ser por s mi sma condi ci n suf i ci ent e para l a comprensi n?"
Segrn yo, st a es preci sament e l a pregunt a que hay ql l e cont est ar, aun
cuando suel a conf undi rse con una o ms de l as pregunt as ant eri ores, y l a
Lespuest a es no.
"Por qu no?"
Porque l as mani pr-rl aci ones de s mbol os f orrnal es por s mi smas carecen
de i nt enci onal i dad; son bast ant e carent es de sent i do; ni si qui era son ma-
ni pul aci ones de s nt bol os, ya qLl e l os s mbol os no si mbol i zan nada. En l a
i erga
l i ng st i ca, sl o t i enen si nt axi s pero no semnt i ca. La i nt enci onal i dad
cl ue parecen t ener l as comput adoras sl o est en l as ment es de qui enes l as
programan y de qui enes l as usan: l os que env an l a i nf orrnaci n de ent rada
v l os que i nt erpret an l a i nf ormci n de sal i da.
MENTES,
CEREBROS
}, PROCRAN{AS
99
El pr-opsi t o
del ej empl o
cre l a habi t aci n
chi na f . e i nt ent ar. crenrost rar.
est o al mosrrar que t an pr. onro
. on. ' o i , . t , o. l rrci mos
; l ; ; ; ; . ; i l , *ema
que real ment e
t i ene i nt enci onal i dad
(un
hont bre)
y l o pt . ogrant ant os
con el
::?,::HXfffil,
:
t
d:',..,. q.,"
"t
f,',,g.ou,n r.,,,,,oll,o
,".,,u i,,r",.,.io_
para entend"..hi .,j o
aade nada, por e.i c' mpl o,
. r.."p".i .r.Ji "t
l -ro-u."
Esa caract er st , i ca
de l a l _l a
di st i nci
:i1-,0".",;;;.isamenter";,;;;i,;:;l;T::,:,.i;::',11i;:il.i:,:
l a afi rmaci n
de que l u .i ' ..,Iu.' i ;
i l ;:; ser dupl i caci n.
La ci i sri nci n entre el programa
v su.re,al i zaci ' ";;i ;;;,' crtvare
parece
ser. par-arera
a ra di sti nci n
entre el ni r,' el de l "r
"p"t".1.r.,",
n-,"nroi "s' c,l
.i ' ei ci e l as ope- raci ones
cerebral es. y
si podam"r
"r.]:i ui .
er ni ver cre ,rer.aci o' es
nren_ tal es conro un progra.ma
i ormal ,
";;;;;;Ir"cl amos
cl escr_i bi r.,
al parecer, i o esenci al
acer ca de l a menl e. i n
i n. , ; ; ; i ; .
neurofis
iotoc"
d;i;.,."b,.-.T;ffi
;",',:l.J::::i:ff
ll:fi :Hl:';:.:: del cerebro
l o que el -programa
es .especto
crel rtartrtvare,,rara
en vari os puntos,
ent.e Ios cual e_s se encl tentt.an' l os
.si gtri enl es
tres:
Pr i mer o,
l a di st i nc.
,
illf "c"";i;l'd:J{l;:?:Xll:llilffi kT,,:i;:::ff
::,?;:"..j'ff - sur das
si n f or ma al suna
de i nt enci on^i i l ; .
Wi ez_enbaur
n
( 1976, c: r p t ul o
i):^l.rt^";"-0,,:,
ha
f,
orm"norizado
cmo cons t.r i r. u na com
rr
t ad..a uti_ l l zando
un rol l o de papel
hi gi ni co
y un montn cre pi edr.eci ta.s.
De nl anera si mi l ar'
el p' ograma
para entenderr-el atos
en chi no ptrede progranrar-se
en una secuenci a
de pi pas.
de agua,
"r-,
,,rrr .or-r.rnto
de rnq' i nas
cl e
' i ento
o
:1,:n:'::1,i1,""'onotingtiLe';;i
;"&, ;,,1r.,,.,,,
de los .,,o1",-'"gu.i,
.
::*:H*l::"".:I':ilql*ll'o!'l'Jly::"':,J::'"1::"*kk.i
causuresqu""r;;;;;:'r'*1'"ti;:iH.il"'ffi:ru:,ruil.,,.1".ffi
del i ngl s
posea
er ri eo,1;i 1:nri l a".""i ""o"*
ra i ntenci onari cracr,
ruede
verse tci l mente que
no adqui ere
i ntenci onal i dad
adi ci onal
al menr.r-i zar el programa,
pues el hecho;"
-".,.' ;;i ;ui ""
," ensea chi no.
-^,t^:t-*o"' "el
programa
es puramente
formal , per-o l os estados i ntenci o-
nares no son formal es
de ese modo. Se defi nen en trmi nos
de str conteni do,
no de su forma' La creenci a
de que
".ta' or".rao,
por e j empro,
no se crefi ne como fi gura fbrmar, si no como .i ".ro .o.rr"ni do
mental con concl i ci ones
de sati sfacci n'
con senti do d"
"d";;;.i ;"i "5u.g
Searre, r979a)v si rni ra-
res' De hecho' l a creenci a
como tal no ti ene srq.l era una l i gura for.mar en est e sent i do si nt ct i co
puest o que una r ol u y i u _i r - ". r i "". , ""0""a".
reci bi r un nmero i ndefi ni do
d;
".;;;i ";s
si nrcri cas di [erentes
en l os
di sti ntos
si stemas l i ngsti cos.
rercero, como va menci on antes, l os estados y sucesos mental es son
100 MENTES. CEREBROS Y PROGRAIV{AS
i i t eral ment e un product o de l a operaci n del cerebro, pero el programa no
L' s, en ese sent i do, un product o de l a comput adora.
"Bueno,
si l os programas no son de nt odo al guno const i t ut i l os de l os
procesos ment al es,
por
qu t ant a gent e cree l o cont rari o? Eso ameri t a por
l o menos al guna expl i caci n. "
En real i dad i gnoro l a respuest a a esa pregunt a. La i dea de que l as si mu-
l aci ones en comput adora pudi eran ser al go real t u\ o qt l e haber pareci do
sospechosa desde un pri nci pi o, porque l a comput adora de ni nguna nl anera
se l i mi t a a si mul ar operaci ones ment al es. Nadi e supone que l as si mul aci o-
nes por comput adora de un i ncendi o de ci nco al armas podr an i ncendi ar
un veci ndari o o que l a si mt rl aci n por comput adora de una t orment a nos
ruede
empapar.
Por
qu habr a de suponer al gui en ent onces que una
si mul aci n por comput . adora de l a compr-ensi n real ment e ent i ende al go?
E, n ocasi ones se di ce que ser a t er-ri bl ement e di f ci l l ograr que l as compu-
l adoras si nt i eran dol or o se enamoraran, pero el amor y el dol or no son ni
l ns ni menos di f ci l es que l a cogni ci n o cual qui er ot ra cosa. Para si mul ar,
t odo l o qLl e se necesi t a es un f l uj o correct o de ent rada y sal i da de i nf oma-
ci n y un programa de por medi o que t ransf orme l a pri mera en l a segunda.
Eso es t odo l o que l a comput adora t i ene que hacer. conf undi r l a si mul aci n
con I a dupl i caci n es el mi smo et . ror, va sea que se t rat e de dol or, amor,
cogni ci n, i ncendi o o t ol Tnent as.
Si n en-rbargo, exi st en vari as razones por l as que se pens -r' qui z,
mucha gent e t odav a l o pi ense- que de al guna manera l a u, reproduce, y
por consi gui ent e expl i ca, f enmenos ment al es,
)' creo
que no l ograremos
erradi car est as i l usi ones hast a haber expuest o cabal ment e l os mot i vos que
l rs susci t aron.
En pr i mer l ugar , v qui z l o ms i mpor t ant e, es t t na conl t l si n acel ca de
l a noci n de "procesami ent o de i nf orrnaci n". En l as ci enci as cogni t i vas,
r-nucha gent e consi dera que el cerebro humano, con su ment e, real i za al go
que reci be el nombre de
"procesami ent o
de i nf orrnaci n", v anl ogament e
l a comput adora, con su programa, ef ect a un
"procesami ent o
de i nf orma-
ci n"; pero, por ot ra part e, i ncendi os v t orment as no l l evan a cabo ni ngn
procesant i ent o de i nf orrnaci n. En consecuenci a, aunque l a comput adora
puede si mul ar l as caract er st i cas f orrnal es de cual qui er proceso, sea ei que
f uere, mant i ene una rel aci n especi al con l a ment e v el cerebro, porque
cuando l a comput adora se encuent ra adecuadament e programada, i deal -
ment e con el mi smo programa que el cerebro, el procesami ent o de i nf or-
n-raci n es i dnt i co en ambos casos, y est e procesami ent o de i nf ormaci n
const i t uye real ment e l a esenci a de l o ment al . Empero, el probl ema de est e
argument o es que se apoya en l a ambi gedad de l a noci n de
"i nf ormaci n".
La computadora no realiza
"pocesamiento de inforrnacin" en ei sentido
en que las personas "procesan infor-rnacin" cuando reflexionan, por ejem-
N,IENTES, CEREBROS Y PROCiAN4AS
1I)I
pl o, en probl emas
de ari tmti ca o cuando l een r,,responden pr.eguntas en
torno a un rel ato. Ms bi en, l o qtre hace l a computador-a
es n-i a.i pul ar
smbol os formal es. El hecho de q.,e el programador
-v
er i ' trprete de ros
fj *:*: 9: ]?
.o-o"tadora r-rti ti cen ri -i ol o, para reernp l azar. obJeros
:::::i i ?.:s
al go que esr por compi eto ftrera del al cance ci e 1.. con,puta_
qora.
Keprto, ra computadora ti ene si ntaxi s pero no semnti ca. En co.se_
cuenci a, si
' sted
tecl ea en ra computacrora "2
ms 2 es i gual a?", escri bi r
"4".
Pero l a computadora
no ti ene ni i dea cre qtre "4"
si gni fi ca 4 o ctrarqui er
otra cosa' Y l a cuesti n no es que carezca cl e argr-rna i nfo"rmaci . desegr_rncro
orden acerca de l a i nterpretaci n
cre s' s sri boros cre pri ' .rer: o,.t"r-,, ,r.ro
que sus smbol os de pri mer orden no ti enen ni ngrrna i nterpr.etaci n
en l o
que a l a computadora
se refi ere. Todo ro q,e tLne ra co' rptrradora
son
ms smbol os. La i ntroducci n
cl e Ia noci n cl e "procesami nto
de i nror-
ma_ci n" causa, por consi gui ente,
un cl i l ema: o bi en const.l i mos l a noci .
de "procesami ento
de i nfrmaci n"
cl e tal ,-,.,un"ro qtre i rnpl i qtre i ntenci o-
nal i dad como parte del proceso o no l o hacemos. En er pri mer. caso, l a
computadora programada
no procesa i n[or.maci .; sl o mani ptrl a sr.bo_
l os formal e^s. En el segundo .u.rt,,, entonces, pese a qr-re l a comprrtadora
pr ocesa i nf or maci n,
ni cament e l o r r ace enel sent i cl o
"r
q, , "i o hacen
Ias sumadoras, l as mqui nas cl e escri bi r, l os estmzrgos, ros ter-mosta-
tos, l as tormentas v l os huraca.r".; u ,ub"., c.entan con un ni ver cre des-
:^nl _t^t_u1""
el que podemos deci rq' e aceptan i nfol rnaci n portrn extremo,
ta l ransl orrnan
v producen
i nforntaci n de sal i da. Si n entLrar_g(), en esl e
caso depende de l os obsenadores
externos i nterpretar l a entracl a v s:rri da
como i nfornaci n
en el senti cl o orcri nari o.
y
no.sc
"rt.r-,r".
ri rri i i t., ul -
guna entre l a computadora y el cerebro en trnri nos de cual qrri er.si nl i l i trcl
del procesami ento
de i nformaci n.
.
En.segundo l ugar, en gran pade de l a l a hav nn concl ucti snro u ()per_a-
ci onal i smo resi dual .
puesto
que l as computacl oi as acl ecuncl amente pr( )gr.a-
madas pueden exhi bi r patrones de enti ada v sal i cl a si mi l ares a l os cr,,, l os
seres humanos, podranros
caer e. l a tentaci n cre posttrl ar ql re ros estados
mental es de l a compri tadora
son si mi l ares a l os estados .nental es cl el hom_
Dre. r.mpero, una vez que \emos que es posi bl e tanto conceptual conto
empri camente que r-rn si stema contenga capaci dacl es l rtrma' ^s en arsr^
campo si n que de ni ngn modo posea i ntenci onal i cl acl , pocl rem".
";;.-;; este i mpul so. Mi sumadora de escri tori o ti ene capaci cracr cl e cal crrl ar., pero
carece de i ntenci onal i dad,
y en este artcuro he i ntentacl o cren.rostrar cue
un si stema poda tener capaci dades
de entracl a v sal i da cl e i rformaci l r
que dupl i cara' l as de un habl ante nati vo cl el chi no y segui r si n errtencl er
chi no, si n i mpoftar cmo estuvi era programada.
Laprba de Turi ng e.s
tpi ca de l a tradi ci n en el senti do deq.rJ es cl es' ergonzacl amente
conduc-
ti sta y operaci onal i sta y consi dero que si l os estudi osos cl e l a l n repudi aran
102
lv'fENTES' CEREBROS Y PROGRAI\IAS
por compl et o del conduct i smo
y el operaci onal i smo'
se el i mi nar a
gran
; ; ; ; "
i " conf usi n
ent re si mul aci n
y dupl i caci n'
En t er: cer l ugar, st e operaci onal i smo
re. i i duai se ana a l a f ona re-
si cl ual cl e dual i smo; "1"! f t " l a l n f t rert e sl o cobra sent i do dada l a supo-
si ci n dual i st a de que, en l o que a l a ment e se ref i ere' el cerebro no i mporl a'
I l n l a r, f uert e (asi . ; ; ; J, -t
"l
r. t , -t . l onal i smo),
l o q. e i mpoa son i os
programas,
y st os. rot ' i "a"p"t t <l i ent es
cl e su real i zaci n
en mqui nas;
de
' echo,
en i o que
"
l . , ; ; "; ; ere,
el mi smo programa
podr a ser real i z. ado
i r".
"""
-aq"i na
el ect rni ca'
una sust anci a ment al car-t esi ana
o un esp ri t u
cl ei mundo hegel i ano. EI desc. bri mi ent o
ms sorprendent e
cl ue he hecho
al anal i zar est as cuest i ot t "'
"t
qt t " muchosde
l os est udi osos
de l a I A est n
l rast ant e mol est os . on. -mi t "u cl e que l os f enmenos
ment al es humanos
puedan cl epender a"
i ' opi "aucl es
f i si coqu mi cas
real es de l os cerebros hu-
manos verdaderos.
No obst ant e, si se pi ensa un mi nut o acerca de est o,
puede verse ql l e no deber a haberme sorprendi do' l ' a
que el prol ' ect o de l a
t A f l l ert e no t i ene posi bi l i dacl al guna' a menos que se acept e' al guna
f orma
cl e dual i smo.
EI provect o col -l si st e en reproduci r v expl i car 1o ment al me-
ci i ant e el cl i seo de programas'
pero a menos que l a me-nt e no sl o sea
conceptual ,i.to tut' tit' empricamente
inclePend' :1' :i::::t;t"T;.",ono.::
r' i u t uu. r" a cabo el pt ' ovect o'
porque el programa
"t
t "l i l 1"
; ; ; ; , ;
c1e cual qui er
real i zaci n'
A menos qt l e se crea ql re l a ment e es
separabl e d"l . ". "bri - *, o . on. "pt ual
como emp ri cament e
-r' ersi n
[ uert e <] e dt t ai i smo-
no se pt t ecl e esperar reprocl uci i
1o ment al e. scri bi endo
r, con-i endo ot ' or. ut t t ' ,
, 1""
et t "t deben ser i r-i dependi ent es
de l os cere'
br. os de cual esqui er-a
ot . us f or-us part i curares de ej empl i [ i caci n
concret a'
Si l as operaci ones
ment al es consi st en
"' -t
op"t ut i ones
de cmprrt o sobre
s r-nbol os
f ol -mal es, se decl t rce ent onces
ql l e carecen de conexi ones
l nt ere'
Sant esconel cer - ebr o. La l ni caconexi nser aqueel cer ebr or . esu] t ar aser
p; ' ; ; ; ; ; ; uno de l os much si mos
t i pos de mqui nas capaces de ei em-
pl i f i car concret ament e
el programa Est a f orma de dr-ral i smo no es i a va-
r-i ant e carl esi ^. , ", . ^Ji . i . rnur ""
post ul a que hav dos t i pos de ssl t rrcl as'
pcro es cart esi ana
"' "t "l ' "t ' t i o
d" qt ' " i nsi st e en que 1o espec f i cament e
ment al cl e I a ment e , -, o gt ' ut du t "l aci n i nt r n' "t u t o' -t l ut propi edades
real es
cl el cerebro. Est e dual i smo i mpl ci t o se ocul t a de nosot ros
por el hecho de
qt r el a] i t er at r - r r aacer cadel al ar l . emet econf r ecuenci acont r ael . . dual i s-
i ' J' t
0". .
l o que l os aut ores parecen pasar por al t o es ql l e sl r post ura
presupone una versi n f uert e de dual i smo
"Podr a pensar una mqui na?" Mi
^propi o
punt o de vi st a es que sl o
, "rna"mqui na
pocl r a pensar^y que' en ef ect o' sl o al gunos t i pos mu1' espe'
ci al es de mqui nas' u
' ub"t , ' t "t "bros
1' mqui nas
q"" t : "g^11 l os mi smos
pocl eres causal es que el cerebro' Y sa es l a razn por l a que i a I A f uert e
i i ; ; "-p". "
q. t " , l ". i *os acerca del pensami ent o' Ya
que nada t i ene que
N,IENTES, CEREBROS Y PIIO(IIAJIIAS IO3
deci rl os acerca de l as mqui nas. Por su propi zr def i ni ci n, se oct rpa de
programas y l os programas no son nt qui nas. No obsl ant e, cual qt ri era que
sea l a i nt enci onal i dad, es un f enmeno bi ol gi co, \ . es nrLrv pr obabl e qr-re de-
penda causal ment e de l a bi oqu nri ca espec l i ca cl e sus or genes como l a
l act anci a, l a f ot os nt esi s o cual qui er ot ro f en rnreno bi ol gi co. Narl i e sl r-
pondr a que se podr a produci r l eche o azrcar-echando a rncl al un pr. ogra-
ma de si mul aci n en comput adora cl e l as secuenci as f ' ol mal es cl e l a l act an-
ci a y de l a f ot os nt esi s; si n embargo, en l o qt re a l a nrent c se ref i ere, nr-rchas
personas se encuent ran di spuest as a creel ' en t rn mi l agr-o cl e est a ncl ol e a
causa de un dual i smo prof undo y const ant e: l r ment e que sup()nen es Ll na
cuest i n de procesos t orrnal es, i ndependi ent e de cat rsas nrat er-i al es bas-
t ant e espec f i cas en el sent i do en que no l o son l a l eche v el rzri car' .
En def ensa de est e dual i smo a menudo se expl esa l a esperanza cl e que
el cerebro sea una comput adora di gi t al (l as pri nt eras cornpt rt ador' rs, por
ci ert o, a menudo reci b an el nombre de
"cerebros
el ect r' ni cos"). Mas de
nada si n' e. El cer ebr o es, por supuest o, una compul ador r cl i si t al . Pr r est o
que t odo es Ll na comput adora di gi t al , el cel ' ebro t ant bi n l o es. I -a cuest i n
es que l a capaci dad causal del cer ebr o par a pr oduci r i nt er r ci onal i cl ad no
puede consi st i r en su ej enrpl i f i caci n concret a dc t rn progranra cl e cmpu-
t o, ya que para el programa que t rst ed gl l st e es posi bl e que zrl go e. l cnrrl i -
f i que concr et ament e ese pr ogr ant a
l , si ga
si n t encr cst ados r r r ent al es. Sea
l o que f uere l o que el cerebro haga para prodt rci r i nt enci onal i cl acl , el l o no
puede consi st i r en ej empi i f i car concr et ar l t ent e r r n pl ogr ama, va c r r e ni n-
gn pr ogr ama por s mi smo es suf i ci ent e par - a l ogr al l r i n( enci onal i cl ad. {
BreLrocnAr
Fodor , J. A. ( 1980) , "Met hodokr gi cal
Sol i psi sm Consi cl cr cd i s a Rer scal ch St r r t cgy
i n Cogni t i ve Psvchol ogv", Behat , i r r al at t d Br ai t t S' i , r l r - . s, 3, pp. 6- l , l 10.
McCar l hy, J. ( 1979) , "Ascr i bi ng
Ment al Qual i t i es t o Mr cf r i nes", c- n M. I l i ngl . . ( ed. ) ,
Phi l osopl i cal Per speci ves i n Ar t i f i ci al l r t t el l i ger t ce, At l ant i c I l i ghl and, N. . I . , Ht r -
mani t i es Pr ess, pp. l 6l - 195.
Ner vel l , A. ( 1979) , "Physi ci al
Svmbol Svst enr s", Pone- nci a pr cscr r t ada cn l r Ci r f t ' r ' cn-
ci a sobr e Ci enci a Cogni t i va en La Jol l a, publ i cacl o post el i or ment c en
( . ' r , , , l r i i
r ' ,
Sci et t ce, 4, 1980, pp. 135- 183.
Ner vel l , A. r ' Si mon H. A. ( 1963) , "GPS
- A Pxr gr ' : r m t hat Si r nul r t cs [ {r r ma. n
Thor - r ght ", en E. A. Fei gcnbaum v J. A. Fel dnr an ( cds. ) , Cor t t t ut er s ar t t l 7' l t ct t t gt l t ,
Nueva Yor k, McGr ar v- Hi l l ,
pp. 279- 296.
a
Est ot ' en deuda con l as much si mas per sonas que anal i z- ar on cst as cuest i oncs v ugl acl ezcr . r
l a paci enci a que most r ar on par a super ar mi i gnor anci a en t or no a l a i nt cl i gt : nci a al t i l i ci al -
Me gustaa en pafl i cul ar dar l as graci as a Ned Bl ock, Hubert Drevfrrs, John Harrgcl and,
Roger Schank, Robe Wi l ensky
)' Tery
Wi nograd.
I O4 MENTES, CEREBROSYPROCRAMAS
Pr, l vshyn, Z. w. (1980), "comput at i on and cogni t i on: I ssues i n t he Foundat i on of
Ccrgni t i ve Sci ence", Behavi oral and Brai t t Sci et rces, 3, pp. 1 l l -132.
Scl rank, R C. -v Abel son, R. P. (1977), Scri pt s, Pl ans, Gcal s, at t d Urt derst andht g,
Hi l l sdal e. N. J. , Erl baum.
Searl e, J. R. ( 1979a),
"I nt ent i onal i t v and t he Use of Language", cn A l \ {argol i t (ed' ),
Meani ng and I Jse, Dordrecht , Rei del .
( 1979b) , "What i s an I nt enl i onal St at e?", hI i nd, 88, pp. 74' 92
Vri os aut ores (1978), "Cogni t i on and consci ousness i n Non-Human Speci es",
Behavi oral and Brai n Sci et rces, ' , ' ol 1 , nm' 4, nmero compl et o'
Wei zenbaum, J. (195), "ELI ZA-A Con. rput er Program f or t he St udy of Nat ural
Language Communi cat i on Bet rveen Man and Machi ne", Cot t t t t t t t t t . ACl l , 9,
pp. 36- 45.
(1976), Co, l l l )ut er Pox' er at t d Hunnnt Reason, San Franci sco, W. H Free-
man.
Wi nograd, T. (1973), "A Procedural Model of Language Underst andi ng", en R' C'
Schank y K. M. Col by (eds. ), Cot nput er Model s of Thought and l nnguage, San
Fr anci sco, W. H. Fr eeman, pp. 152- 18.
IV. ESCAPE DE LA HABITACIN CHINA*
MARGARET A, BODEN
Eru su anr cul o "Ment es,
cerebros y programas" ( 1980), John Searl e al ega
que l as t eor as de comput aci n en psi col og a son esenci al ment e rnt i l es.
Hace al respect o dos af i rmaci ones i mport ant es: l as t eor as de comput a-
ci n, de nat ural eza purament e f ormal , no puecl en ayucl arnos en modo
al guno a compr ender l os pr ocesos ment al es; y el har t l war e de l a
comput adora, a di f erenci a de l a neuroprot e na, cal -ece obvi ament e de l os
poderes causai es adecuados para generar procesos ment al es. Denrost rar
aqu que ambas af i rrnaci ones est n equi vocadas.
La pri mera af i rmaci n de Searl e da por sent ada l a st rposi ci n (f orma-
l i st a), ampl i ament e acept ada de que l os "cmput os'
ql t e se est t rdi an en l a
ci enci a de l a comput aci n son pl l rament e si nt ct i cos y que pt reden def i -
ni rse (en t rrni nos i gual ment e adecnados para l a l gi ca si rnbl i ca) como
el nrartejo
fonnal
de sntbolos abstractos tnediattte la aplicacin de reglas
l nnal es.
Segn est e aut or, de ah se deduce que l as expl i c: rci one-s f orma-
l i st as, aunque adecr-radas para expl i car el procesarni ent o cl e
"i nf orrnaci n"
si n sent i do o ei manej o de "s mbol os"
en l as comput adoras, son i ncapaces
de expl i car cmo ut i l i zan l as ment es humanas l ai nf nnac: i ri n o l os s mbo-
1os, propi ament e as l l amados. El si gni f i cado o l a i nt enci onal i dad n() pue-
den expl i carse en t rmi nos comput aci onal es.
Searl e no qui ere deci r con eso que ni nguna mqui na pueda pensar. Los
seres humanos pueden pensar y st os, concede, son mqui nas; i ncl r_rso
adopt a el credo mat eri al i st a de que sl o l as mqui nas pueden pensar. Tarn-
poco di ce que i os seres humanos v l os programas sean t ot al ment e i ncon-
mensurabl es. Acept a que, en ci ert o ni vel sLl mament e abst ract o de descri p-
ci n, l as personas (como t odo l o dems) son ej empl i f i caci ones concret as
de comput adoras di gi t al es. Ms bi en argt rment a que nada puede pensar,
si gni f i car o comprender excl usi vanl ent e en vi rt ud de su ej empl i f i caci n
concret a de un programa de compnt adora.
Para convencernos de est o, Searl e recurre a un i ngeni oso exper-i ment o
de pensami ent o. Se i magi na a s rni smo encerrado en una habi t ar: i n donde
har una seri e de f aj os de papel es que cont i enen garabat os; Lrna vent ana a
*
N{argaret A. Boden, "Escaping From the Chinese Room", tomaclo del captulo 8 cle Con-
puter "Iodeb of l+,|td (1988). Reproducido con penniso de Cambridge Univcrsity
press.
105