Este documento est disponible para su consulta y descarga en
Memoria Acadmica, el repositorio institucional de la Facultad de
Humanidades y Ciencias de la Educacin de la Universidad Nacional de La Plata, que procura la reunin, el registro, la difusin y la preservacin de la produccin cientfico-acadmica dita e indita de los miembros de su comunidad acadmica. Para ms informacin, visite el sitio www.memoria.fahce.unlp.edu.ar Esta iniciativa est a cargo de BIBHUMA, la Biblioteca de la Facultad, que lleva adelante las tareas de gestin y coordinacin para la concre- cin de los objetivos planteados. Para ms informacin, visite el sitio www.bibhuma.fahce.unlp.edu.ar Licenciamiento Esta obra est bajo una licencia Atribucin-No comercial-Sin obras derivadas 2.5 Argentina de Creative Commons. Para ver una copia breve de esta licencia, visite http://creativecommons.org/licenses/by-nc-nd/2.5/ar/. Para ver la licencia completa en cdigo legal, visite http://creativecommons.org/licenses/by-nc-nd/2.5/ar/legalcode. O enve una carta a Creative Commons, 559 Nathan Abbott Way, Stanford, California 94305, USA. Destefano, Mariela La inteligencia artificial y la conquista de lo mental V Jornadas de Investigacin en Filosofa 9-11 de diciembre de 2004. En: Revista de Filosofa y Teora Poltica, Anexo 2005. Cita sugerida Destefano, M. (2005) La inteligencia artificial y la conquista de lo mental [En lnea]. V Jornadas de Investigacin en Filosofa, 9-11 de diciembre de 2004, La Plata. En: Revista de Filosofa y Teora Poltica, Anexo 2005. Disponible en: http://www.fuentesmemoria.fahce.unlp.edu.ar/trab_eventos/ev.78/ev.78. pdf LA INTELIGENCIA ARTIFICIAL Y LA CONQUISTA DE LO MENTAL Mariela Destfano UBA El tema: capturar a la mente Logr Deep Blue ganarle un partido de ajedrez al campen mundial Kasparov debido a que pensaba? Esta pregunta se resiste a tener una nica respuesta! "uienes se a#erran a las intuiciones m$s c%auvinistas acerca de lo mental se niegan a dar una respuesta positiva & consideran que son las personas los entes protot'picamente pensantes! (in embargo) la respuesta m$s interesante ser$ la de quienes con#'an en que e#ectivamente Deep Blue puede pensar! (i se entiende lo mental como un cmputo de representaciones simblicas & a su vez sabemos que m$quinas como Deep Blue realizan este procesamiento computacional dirigido por los programas de instrucciones cargados en sus memorias) entonces es #$cil concluir que estas m$quinas literalmente tienen mente! La anterior a#irmacin es la que se toman en serio programas cl$sicos de investigacin como la inteligencia arti#icial * +!,!- #uerte) disciplina que) junto con la psicolog'a cognitiva) la lgica & la ling.'stica) entre otras) con#orman una ciencia cognitiva unitaria cu&o objetivo general es abstraer las caracter'sticas comunes de una nueva clase de cosas cognoscentes que inclu&e no slo a los vertebrados superiores) sino tambi/n a algunos sistemas in#orm$ticos! Las respuestas a la pregunta planteada inicialmente dejan translucir cu$l es la pol/mica de #ondo! En cone0in con el tradicional problema de la relacin mente1 cuerpo) tomar posicin respecto de la cuestin de que una m$quina piense signi#ica %aber respondido a la pregunta meta#'sica por la mente! Estimo que no es posible que un ordenador como Deep Blue piense) mas no por considerar que lo mental se circunscriba al $mbito de los seres biolgicos) & m$s e0clusivamente %umanos) sino) porque admitiendo la alternativa propuesta por la +!,! #uerte se estar'a aceptando una idea sesgada acerca de lo que es la mente! 2i %iptesis es que las m$quinas concebidas bajo el paradigma cl$sico de la +!,! no pueden pensar dado que /ste no atiende a una nocin acabada de la mente) donde la misma se e0plique no slo por el procesamiento de in#ormacin representacional desencadenado ante un est'mulo & productor de una respuesta) sino que tambi/n por su relacin con #actores e0ternos tan V Jornadas de Investigacin en Filosofa 9 al 11 de diciembre de 2004 1 activos como dic%os procesos internos! (lo una +!,! que advierta esta particularidad de lo mental podr$ idear m$quinas pensantes! En el juego de los que piensan desarrollar/ brevemente el juego de la imitacin gracias al cual 3uring conclu&e que las m$quinas piensan & e0pondr/ cmo es que a partir del mismo se desprenden los elementos conceptuales b$sicos acogidos por la +!,! #uerte! En hacia una nueva nocin de lo mental e0plicitar/ los problemas que acarrea un juego conductual como el de 3uring para concluir que %a& cierto tipo de conductas) pertenecientes a la es#era relacional de la mente) que no son correctamente evaluadas en dic%o juego! Es esta #alla) que evidencia la escasa atencin que se %a prestado a la mente relacional a la %ora de dise4ar el juego de la imitacin) la que impide in#erir que las m$quinas tienen mente! ,cabada la pars destruens del trabajo edi#icar/ la pars construens de#endiendo el aspecto relacional del pensamiento a trav/s de un argumento que atienda al car$cter adaptativo de la mente! 5inalizar/ con la e0posicin de una serie de cuestiones que deber'a contemplar una +!, mejorada que se proponga imitar una mente que presenta un car$cter adaptativo! (er$ en la conclusin donde retome los resultados obtenidos! El juego de los que piensan En 6omputing 2ac%iner& and +ntelligence *789:- 3uring lleva a cabo la de#ensa de la tesis de que las m$quinas poseen mente mediante su #amoso juego de la imitacin! El mismo consta de tres participantes; un interrogador #rente a un %ombre & una mujer escondidos en %abitaciones separadas! El primero de ellos desconoce el se0o de los dem$s jugadores & su objetivo es determinar cu$l es el %ombre & cu$l la mujer a trav/s de la #ormulacin de ciertas preguntas! <ara que el interrogador no descubra el se0o de sus interrogados debido al tono de sus voces) las respuestas al cuestionario pueden %acerse por escrito) mediante un teleimpresor o con la a&uda de un intermediario! Lo cierto es que si una m$quina toma el lugar del participante masculino) por ejemplo) pudiendo la misma imitar las respuestas que dar'a este jugador escondido) entonces no se ver'a alterada la decisin que tome el interrogador respecto de cu$l de los participantes es el %ombre! = si la m$quina pasa el test) gracias a una impecable imitacin de las mani#estaciones cognitivas %umanas) entonces no %a& razn alguna para negar que piensa! <ero qu/ nos autoriza a admitir que una m$quina reproduzca per#ectamente las respuestas %umanas? ,qu' se evidencia que) si bien es cierto que al V Jornadas de Investigacin en Filosofa 9 al 11 de diciembre de 2004 2 estudiar la posibilidad de que las m$quinas piensen 3uring pretende evitar especulaciones subjetivas acerca de lo que signi#ica pensar apelando a un m/todo objetivo como lo es el juego presentado) tambi/n es verdad que esta estrategia slo es posible bajo la aceptacin previa de un supuesto b$sico que clari#ique qu/ se %a de entender por mente! Este supuesto identi#ica al pensamiento con el resultado e0pl'cito obtenido como consecuencia del procesamiento de in#ormacin representacional puesto en marc%a ante un determinado est'mulo! Bajo este supuesto la m$quina de 3uring puede reproducir la actividad pensante &a que el %ec%o de que ella tambi/n procese datos mediante un manejo computacional de las representaciones simblicas) la %abilita para generar e#ectos conductuales semejantes a los del %ombre! Dic%a capacidad de cmputo no encuentra l'mite alguno & es /sta la universalidad propia de una m$quina que no se la concibe como un ordenador material concreto) sino que como una ideacin de car$cter abstracto! La +!,! #uerte es el programa de investigacin que rescata la concepcin acerca de lo mental manejada por 3uring! El procesamiento de in#ormacin de los ordenadores modernos) construidos en el seno de dic%o pro&ecto investigativo) est$ regido por un programa de#inido como una secuencia de instrucciones que indican qu/ acciones deben llevarse a cabo segn las condiciones que le son antecedentes! De este modo) si la actividad computacional que desemboca en resultados e0pl'citos es lo caracter'sticamente mental & si dic%a actividad slo es posible gracias a la regulacin de un so#t>are determinado) entonces la posesin de tal programa es el que nos permite a#irmar que la m$quina tiene mente! La misma posee la universalidad de la m$quina abstracta de 3uring slo en el sentido de que su memoria siempre puede ampliarse como para incorporar nuevos programas que pauten nuevos cmputos anteriormente irrealizables! Hacia una nueva nocin de lo mental a1 2$quinas que no piensan <or lo visto) en el juego de la imitacin lo que adquiere relevancia para el interrogador son las respuestas que dan sus interrogados! ,s') se puede a#irmar que el test que el primero lleva a cabo para la determinacin del se0o de los jugadores tiene un car$cter indiscutiblemente conductista) pues por el mismo se considerar$ que aquel participante oculto que) por ejemplo) se comporte como una mujer) ser$ e#ectivamente V Jornadas de Investigacin en Filosofa 9 al 11 de diciembre de 2004 3 una mujer! 3eniendo esto en claro puede decirse que la maniobra de reemplazar al %ombre por la m$quina es una #orma de responder a la pregunta ; (aben pensar las m$quinas? de manera conductista! De este modo) una m$quina que se comporta como teniendo mente 1 &a que a partir de los inputs ambientales & un proceso consecuente da respuestas conductuales indistinguibles de las de un ser pensante como el %ombre1) e#ectivamente piensa! <ero veamos qu/ problemas genera la evaluacin de lo mental a partir de los par$metros conductistas adoptados en el juego de la imitacin! i- Es cierto que la m$quina debe poder imitar todo tipo de conducta! 2ediante sus preguntas el interrogador aspira a evaluar cualquier comportamiento %umano) sin embargo con su test tambi/n podr'a evaluar conductas no %umanas & en este caso la m$quina deber'a imitar tales comportamientos! +maginemos que en vez de un %ombre & una mujer %a& dos perros ocultos! El interrogador es el due4o de uno de ellos) al cual %a entrenado de tal manera que) ante determinados sonidos de su voz) responde con determinada cantidad de ladridos! El otro perro tambi/n responde a la ma&or'a de estas instrucciones) pero no a toda de ellas! El objetivo del interrogador es descubrir cu$l de los dos perros es el su&o! 2as) si reemplazamos a su perro por una m$quina programada para emitir los mismos ladridos) el interrogador podr$ concluir que determinado jugador es su perro cuando en realidad era una m$quina! Lo cierto es que no estar'amos dispuestos a sostener que una e0itosa reproduccin de las conductas caninas vuelvan a nuestra m$quina en una m$quina pensante! El error de un juego que presenta un car$cter eminentemente conductista es considerar que la imitacin es la base de la atribucin de mentalidad) pues a partir de ello se llegar'a al absurdo de que cualquier cosa que pueda imitar tendr$ mente! ,s') el juego probar'a demasiado & se volver'a altamente sospec%oso! ii- <ero an aceptando que la imitacin es la base para la atribucin de mentalidad) el juego presenta un problema insalvable! En la primera seccin del trabajo %emos clari#icado que el /0ito que tienen las m$quinas en la imitacin de la conducta %umana est$ dado por el %ec%o de que tanto en ellas como en el %ombre las respuestas conductuales resultan de un previo procesamiento interno de in#ormacin representacional iniciado por un determinado est'mulo! (i en ello radica el pensamiento & las m$quinas pueden emularlo) entonces las mismas e#ectivamente piensan! La di#icultad se origina cuando la m$quina intente reproducir con #idelidad acciones que requieran de un procesamiento donde se vuelva necesario algn tipo de contacto con el mundo! (upongamos que tanto la mujer como la m$quina est$n encerrados en %abitaciones V Jornadas de Investigacin en Filosofa 9 al 11 de diciembre de 2004 4 separadas & cada una de ellas cuenta con una m$quina e0pendedora de gaseosas! (lo el interrogador sabe que depositando una moneda de un peso & apretando el botn rojo) la gaseosa e0pendida es una (prite! ?na de sus preguntas) sabiendo que sus interrogados cuentan con la moneda de un peso) es la siguiente; qu/ gaseosa se obtiene introduciendo una moneda de un peso & apretando el botn rojo de la m$quina e0pendedora de gaseosas? La mujer) luego de realizar la maniobra responde (prite! 3eniendo en cuenta que la m$quina en cuestin en su car$cter abstracto tiene una capacidad de cmputo universal e irrestricta) la misma evaluando las distintas respuestas programadas ante un ple0o de determinadas situaciones preconcebidas) responder$ (prite! <odr'amos sostener con 3uring que) dado que la m$quina se comport tal como el %umano) entonces tiene una mente! <ero aunque m$quina & %umano dieron la misma respuesta cada uno puso en juego distintos procedimientos para su elaboracin; la primera encar un procedimiento computacional de naturaleza intr'nseca) el segundo) un procedimiento que inclu&e adem$s relaciones con elementos e0ternos! <arecer'a que este test conductual es necesario pero insu#iciente a la %ora de determinar si algo tiene mente! (u e#ectividad estar'a garantizada si lograse tambi/n evaluar en su especi#icidad este tipo particular de conducta %umana donde el procesamiento de los datos se %ace en relacin con #actores e0ternos! <ero ello %ar'a que el juego de la imitacin presuponga una nocin nueva & m$s rica de lo que es la mente) &a que tales conductas pertenecen a un tipo de mente relacional di#erente de la mente computacional tenida en cuenta por 3uring! 7 ,s') de acuerdo a lo dic%o puede e0traerse el siguiente Tollens; 1 <remisa ma∨ Si el juego de la imitacin verdaderamente muestra que una mquina piensa, entonces la mente es slo la conducta epl!cita desencadenada por el procesamiento interno de representaciones sim"licas iniciado por un est!mulo am"iental# 1 <remisa menor; $ero no es cierto que la mente slo sea la conducta epl!cita desencadenada por el procesamiento interno de representaciones sim"licas iniciado por un est!mulo am"iental 7 En esta distincin de tipos de mentalidad no quisiera dar a entender que los estados de las m$quinas carezcan de toda nota relacional) pues lo cierto es que en su car$cter #uncional son estados que se relacionan con todo el resto de los estados de la m$quina! <ero esta es una relacin interna) & la razn por la cual denomino mente relacional al modelo de mente que de#ender/ es que el car$cter relacional se %ace m$s e0pl'cito al intervenir elementos e0ternos al sistema! Es cierto que la anterior es una mera di#erencia de grado) dado que es inevitablemente cierto que todo sistema computacional est$ en relacin directa con su medio! 6on todo) en este trabajo slo intento mostrar lo que queda por #uera de la propuesta de 3uring) sin detenerme en establecer asociaciones1 que e#ectivamente e0isten1 entre los dos modelos de mentalidad analizados! "uise atender a aquellos estados para los cuales el medio ambiente no juega un mero papel de input incitador de procesamientos internos) sino que tiene el mismo status que los cmputos internos! V Jornadas de Investigacin en Filosofa 9 al 11 de diciembre de 2004 5 1 6onclusin; %o es cierto que el juego de la imitacin verdaderamente muestre que una mquina piensa# 6on ello quedar'a desestimada una +!,! que adscriba a la propuesta terica de 3uring! &ente ' adaptacin El argumento anterior e0ige una justi#icacin de la premisa menor) pues el ejemplo de la m$quina e0pendedora de gaseosas constitu&e una apro0imacin intuitiva en la de#ensa de tal premisa! Emprender/ dic%a justi#icacin a trav/s de otro argumento donde se ponga en relieve el car$cter adaptativo de la mente; 1 (a mente constitu'e un rasgo adaptativo del hom"re# Este es un dato que nos brinda la teor'a evolucionista! Es cierto que naturalistas como @allace consideraban que la seleccin natural slo puede dar cuenta de %abilidades pr$cticas que #avorezcan la supervivencia dejando sin e0plicar capacidades superiores como el pensamiento! <ero aqu' sostendremos con Dar>in que dic%as capacidades de alguna manera tambi/n son producto de la seleccin natural) convirti/ndolas en rasgos adaptativos para el %ombre! 1 (a nocin de adaptacin es una nocin eminentemente relacional# Es incorrecto entender la idea de adaptacin a trav/s de la imagen de un ambiente que presenta problemas & un organismo que da las soluciones! <lantear la adaptacin del organismo al medio es plantear una relacin de interaccin sim/trica entre ambos componentes) donde cada uno de ellos est$ abierto al otro modi#ic$ndose en una mutua in#luencia! Es debido a esta comunin que no puede concebirse un organismo sin ambiente ni un ambiente sin organismo! <ues) las caracter'sticas que %acen al organismo las %a adquirido en virtud de su relacin con el ambiente) as' como tambi/n las caracter'sticas que de#inen a un ambiente slo son aquellas condiciones #'sicas relevantes para la supervivencia del organismo! 1 (a mente constitu'e un rasgo relacional del hom"re# Este enunciado resulta de substituir en la primera premisa la nocin de adaptacin por la de relacin) reemplazo posible gracias a la introduccin de la segunda premisa! V Jornadas de Investigacin en Filosofa 9 al 11 de diciembre de 2004 6 (iguiendo la idea de adaptacin e0plicada) el car$cter relacional de la mente se %ace patente en ciertas acciones que son el resultado de un tipo de procesamiento previo que apela a la interaccin sim/trica entre las aptitudes propias del individuo A & #actores e0ternos! Esta simetr'a %ace que dic%os #actores tengan un rol tan activo como el de las aptitudes del sujeto a la %ora de operar modi#icaciones! Dado que el proceso en el cual tiene lugar esta dial/ctica trans#ormacional posee un valor cognitivo para el individuo) &a que es un modo mediante el cual el mismo aprende) entonces) las acciones que produzca tambi/n tendr$n un carcter cognitivo ) Debido a la compenetracin e0istente entre aptitudes individuales & #actores e0ternos no puede conceb'rselos con independencia! Las primeras est$n determinadas por su relacin con el medio) as' como tambi/n el medio debe ser entendido e0clusivamente como aquellas propiedades manipuladas por las aptitudes del sujeto para llevar a cabo el proceso cognitivo deseado! 1 A partir de lo anterior se desprende que no es cierto que la mente slo sea la mera conducta desencadenada por el procesamiento interno de representaciones sim"licas iniciado por un est!mulo am"iental# Lo cierto es que dado que la mente evidencia la naturaleza relacional que %emos presentado) entonces no puede ser e0plicada por una mera caracterizacin computacional donde no se tenga en cuenta la participacin de elementos e0tr'nsecos al sistema! (i tomamos el juego de la imitacin tal como lo e0pone 3uring & a su vez aceptamos esta nueva idea acerca de lo mental) slo se demostrar$ que quien piensa es el interrogador! Esto es as' &a que el m/todo de preguntas que /l lleva a cabo es parte de un proceso cognitivo donde sus aptitudes entran en interaccin con #actores e0ternos activos) como lo son las respuestas de sus interrogados! El resultado de tal proceso es la accin cognitiva mediante la cual asigna los se0os a los jugadores! 3odo ello evidencia que quien estuvo en una actitud relacional #ue el interrogador & no la m$quina) por lo que slo al primero podr$ adscrib'rsele mentalidad! <ara que podamos decir que las m$quinas piensan debemos idearlas satis#aciendo el aspecto adaptativo1relacional propio de la mente! <ero la imitacin de A <osiciones como las de 6larB las entienden como caracter'sticas #'sicas de un agente) & es por eso que de#ienden la idea de an! emboddied mind! En este trabajo %ablo de aptitudes para evitar con esta terminolog'a tan general tomar posicin respecto de la naturaleza de aquello que interacta con el medio! ,#irmar que estas aptitudes son #'sicasC biolgicas me trasladar'a al problema mente1 cuerpo que no pretendo tematizar! D ,cciones cognitivas como las movidas realizadas en el (crabble & el 3etris son ejemplos estudiados por Kirs% & 2aglio1 v/ase 6larB) ,!) 6%almers) D!E 788F1 en el $rea de las ciencias cognitivas) que son #recuentemente citados en la bibliogra#'a! Go es mi objetivo %acer una caracterizacin e0%austiva de dic%as acciones! <ara los #ines de mi trabajo me basta con mostrar su e0istencia a partir del concepto de adaptacin! V Jornadas de Investigacin en Filosofa 9 al 11 de diciembre de 2004 7 esta mente con car$cter adaptativo plantea ciertas cuestiones que debe tener en cuenta una +!,! mejorada que emprenda este nuevo camino investigativo! En primer lugar) puede entenderse sincrnicamente que la mente es un rasgo adaptativo que los %umanos poseen en este momento evolutivo) el cual resulta #avorable &a que aumenta la e#icacia de sus portadores! (in embargo) aunque bajo esta comprensin del car$cter adaptativo de lo mental se evite el supuesto inveri#icable de que en el pasado %ubo seleccin natural del rasgo) la +!,! debe clari#icar cmo es que la posesin de una mente aumenta la e#icacia de una m$quina) &) por sobre todo) qu/ debe entenderse por e#icacia arti#icial) cuando sabemos que la de e#icacia es una nocin biolgica propia de la teor'a evolucionista! (i) por el contrario) consideramos a lo mental diacrnicamente como una adaptacin producto no de un proceso azaroso sino de la accin pasada del mecanismo de seleccin natural) entonces) aunque la +!,! no tenga que reproducir la %istoria evolutiva del rasgo mental) s' deber$ construir m$quinas pensantes lo su#icientemente #le0ibles como para que se inclu&an en una din$mica evolutiva! ,qu' debe aclararse en qu/ sentido puede %ablarse de evolucin arti#icial! <or otra parte) si interpretamos que la mente como rasgo adaptativo no es producto directo de la seleccin natural) sino que es un subproducto de otro rasgo del organismo seleccionado naturalmente) entonces la +!,! deber'a identi#icar a este ltimo & reproducirlo en las m$quinas para que en ellas se de el rasgo mental consecuente! <or lo visto una +!,! que preste atencin a la naturaleza relacional de la mente en su objetivo de crear ordenadores pensantes) deber$ estar al tanto de los avances producidos en el $rea de la biolog'a! Este camino de investigacin parece tener buen #uturo en $reas de la inteligencia arti#icial donde se pro#undiza en el estudio de algoritmos gen/ticos & de sistemas inteligentes autnomos con aprendizaje inductivo por interaccin con el medio! (in embargo e0cede los l'mites de mi trabajo pro#undizar en dic%as cuestiones! *onclusin , lo largo de este trabajo %e intentado mostrar que la nocin de mente que la +!,! #uerte toma de 3uring es limitada! Hemos visto que el juego de la imitacin por el cual dic%o autor pretende concluir que las m$quinas piensan constitu&e un criterio conductual de evaluacin del pensamiento! Esto acarrea dos problemas! En primer lugar) aceptando que la m$quina reproduce todo tipo de conducta) puede admitirse que su capacidad de V Jornadas de Investigacin en Filosofa 9 al 11 de diciembre de 2004 8 imitacin tambi/n inclu&e los comportamientos no %umanos) en cu&o caso no estar'amos autorizados a concluir que la m$quina piensa & se evidenciar'a el error de considerar que la imitacin es condicin su#iciente para la atribucin de mentalidad! En segundo lugar) an concediendo que la imitacin es condicin su#iciente para la atribucin de mentalidad) %abr'an ciertas conductas %umanas que la m$quina no podr'a emular con #idelidad! Esto es as' porque dic%as conductas son e0plicables bajo una concepcin distinta de lo mental de la que es tenida en cuenta en el juego de la imitacin! <ara abordarlas %a de modi#icarse la idea de que la mentalidad consiste en la generacin de respuestas conductuales causadas por un procesamiento interno de representaciones simblicas) desencadenado por un est'mulo ambiental! Es necesario incorporar activamente a los elementos del mundo como elementos reveladores a la %ora de responder la pregunta por la mente! Esta concepcin de mentalidad queda justi#icada por el %ec%o de que la misma es un rasgo adaptativo %umano & como la adaptacin es una nocin relacional donde interacta un organismo con su ambiente) de all' se sigue que la mente tambi/n tenga este car$cter relacional! Lo cierto es que la +!,! slo lograr$ crear m$quinas pensantes atendiendo a esta nocin de lo mental! 3eniendo en cuenta que aqu' se subra&a que la mente es un rasgo adaptativo %umano la +!,! deber$ resolver ciertas cuestiones como qu/ signi#ica %ablar de e#icacia & evolucin arti#iciales) sin perder de vista los aportes de la biolog'a evolucionista!1 Bibliogra#ia 6%urc%land) <! 2! *7888-) &ateria ' conciencia) Barcelona) Iedisa! 6larB) ,!) 6%almers) D!) *788F-) 3%e E0tended 2ind) Anal'sis 9F)7:1AD! 6larB) ,!E *788J- Being There) 2assac%usetts) 3%e 2+3 <ress! Iarc'a 2art'nez 1 (ervente) <asquini *A::D-) Sistemas +nteligentesE Buenos ,ires) Gueva Librer'a! Le>ontin) K! 6!) ,enes, -rganismo ' am"iente) Barcelona) Iedisa! Le>ontin) K! 6!) *78FL-) %o est en los genes# KiviMre) ,) *7887-) -"jetos con mente, 2adrid) ,lianza! (ober) E! *788N-) .iloso/!a de la Biolog!a) 2adrid) ,lianza! V Jornadas de Investigacin en Filosofa 9 al 11 de diciembre de 2004 9 3oribio) O! *A:::- +nternalismo) e0ternalismo & ecolog'a en 6%acn 5uentes) <!) Kodr'guez Ionzales! 2!E $ensando la menteE 2adrid) Biblioteca Gueva! 3uring) ,! 2! *789:- Los aparatos de computacin & la inteligencia en Ho#stadter) D!) Dennett) D! 6!) El ojo de la mente) Buenos ,ires) (udamericana! V Jornadas de Investigacin en Filosofa 9 al 11 de diciembre de 2004 10