WHAT IS IT LIKE TO BE A ROBOT? (Cmo es ser un robot?) Guilty Robots, Happy Dogs: The Question of Alien Minds.

David McFarland. Oxford University Press,2009. 256 pp., illus. $15.95 (ISBN9780199219308 paper). Cualquier cientfico que quiere investigar las mentes, -nuestras mentes, mentes animales, otras mentes- pronto descubrir que no hay manera de avanzar sin aventurarse en los parques y campos de batalla de los filsofos. Usted puede tropezar en esta investigacin y golpearse con un palo cientfico grande, darse una paliza a s mismo tantas veces como sus oponentes, o puede introducirse con cuidado y metdicamente, tratando de investigar el terreno con lo que ya sabe para interpretar lo que encuentre. Afortunadamente, David McFarland ha elegido la segunda opcin en Guilty Robots, Happy Dogs: The Question of Alien Minds, y hay mucho que pensar aqu tanto para los cientficos como para los filsofos. Est escrito en el espritu del brillante pequeo libro Vehculos de Valentino Braitenberg (1984), una serie de experimentos de pensamiento que llev a los lectores de los vehculos robticos, incluso ms simples que las bacterias, a los agentes cada vez ms sofisticados y verstiles, capaces de hacer dieta, evitar el dao, la comparacin de las situaciones y recordar cosas. McFarland comienza su proyecto un poco ms alto en la escala de sofisticacin, con un robot diseado para servir como vigilante nocturno de todo tipo, identificando intrusos, pidiendo ayuda cuando sea necesario, y, lo ms importante, preservando su suministro de energa para un da ms, presupuestando actividades para mantenerse con vida a toda costa. Este robot bsico se ha mejorado luego de varias maneras, en un proceso de diseo cuyo objetivo final es un robot que puede ser considerado responsable y a quien las cosas importan -un robot con subjetividad y valores. Cmo se comparan los animales no-humanos con tales robots? Las mentes animales (incluyendo la nuestra) son la verdadera mina aqu, y McFarland utiliza los paralelismos y diferencias entre robots claramente imaginarios y varios animales bien estudiados para iluminar los temas en una serie de controversias de investigacin que actualmente azotan a la psicologa y etologa. Esta ha sido la estrategia ms amplia de muchos aos, y este libro nos da un resumen de las lecciones que ha extrado de esta exploracin interdisciplinaria. Un mensaje que se toma ms eficazmente, en mi opinin, es que es totalmente apropiado considerar la seleccin natural como un diseador (sin espritu, sin intencin), y comparar los diseos producidos en serie por eones de seleccin natural a la par que los diseos generados de arriba a abajo por inteligentes aspirantes a diseadores -ingenieros y especialistas en robtica. A veces, la perspectiva es particularmente estimulante, como cuando McFarland insiste en situar sus robots imaginarios en una economa de mercado para que pueda notar que nadie comprara un tal robot quien no pagara por s mismo. Los animales, del mismo modo, son sorprendentemente econmicos, ya que tienen que serlo, tienen magnficas capas de autoproteccin y repertorios de comportamientos de autopromocin, pero ni una pizca ms que puedan pagar por s mismos a largo plazo. A

menudo, esto pone de manifiesto lo razonable de las funciones animales (o robot) que de otra manera se perderan en las sombras. Tambin obliga a McFarland a comprometerse con un enfoque "conductista" - no la camisa de fuerza ideolgica de la Skinnerianos sino el conductismo expresado por Turing en 1937, cuando seal acerca de los ordenadores humanos de su poca: "El comportamiento del equipo en cualquier momento es determinado por los smbolos que est observando, y su "estado de nimo" en ese momento "( p. 241). Hermoso es como hermoso lo hace, un lema consagrado en la justificacin del test de Turing, y la nica forma en que una ciencia de la mente puede proceder. Pero, cunto se puede deducir de la conducta interna (la maquinaria de la mente, en efecto) mediante la observacin de las competencias de la conducta externa? Los animales, por ejemplo, realmente tienen las creencias que su comportamiento parece indicar que tienen? Aqu McFarland se vale de una interpretacin poco ortodoxa pero til de trminos de la filosofa del arte, el realismo y el funcionalismo. Realismo no imputara una creencia al organismo a menos que fuera "en principio identificable fuera de la funcin que desempea en el sistema" (p. 69), mientras que el funcionalismo (tal como mi punto de vista de la postura intencional) es ms relajado, dispuesto a imputar creencias que estn slo implcitas en el diseo y funcionamiento del sistema ms extenso. Para los realistas, una creencia es una representacin explcita, "no es simplemente parte de un procedimiento. Si una representacin es para ser explcita, entonces tiene que haber un portador fsicamente identificable de la informacin (el testigo) y, adicionalmente, algo, ms probablemente alguien, que puede ser identificado como el usuario de la informacin" (pg. 77). Los seres humanos tienen creencias en abundancia, obviamente, porque tienen un montn de conocimientos explcitos que pueden expresar fcilmente. Los perros o los robots tienen creencias explcitas? Es que los necesitan? McFarland muestra cmo los robots pueden exhibir comportamientos similares a los comportamientos de los animales sin representacin explcita, y se propone definir los procesos cognitivos como aquellos que requieren "un cierto tipo de mecanismo uno que requiere la manipulacin de las representaciones explcitas" (pg. 87). Esto pone el listn muy alto y se aparta del uso estndar, pero tal vez lo mejor es seguir su ejemplo. Tngase en cuenta que con esta definicin, no es claro que nuestra coordinacin mano-ojo, o incluso nuestra capacidad de encontrar nuestro camino a casa cuente como un proceso cognitivo (a menos que utilicemos un mapa o un mapa mental explcito). McFarland tambin propone una definicin exigente de la experiencia subjetiva: "El agente es el destinatario de la experiencia, y lo sabe" (p. 94). Usando esta definicin, el comportamiento de volver a una postura ms penosa durante el sueo no contara como muestra de la experiencia subjetiva de dolor, y se deduce que el comportamiento de muchos animales (pensar en los peces, por ejemplo) no es evidencia clara de que los animales tienen experiencia subjetiva, no importa cun desesperadamente se retuercen. McFarland no infiere que los animales no tienen experiencia subjetiva o creencias explcitas. Simplemente seala que dadas estas definiciones bien motivadas, todava no podemos decirlo.

Indeed, that is the larger conclusin that McFarland draws again and again the evidence is not yet in, not even about Border, his dog. He looks sympathetically at important experiments and observations, of dogs teaching their pups, of animals making sophisticated choices (are they explicitly maximizing their expected pleasure?). In each case he finds that a functionalist interpretation of the behavior seems to suffice: Certainly we can say that the teacher behaves as if it wants, hopes, or desires the pupil to behave in a certain way, he says, but he also goes on to note that the teacher could have a strong theory of mind about the pupil and be wrong (p. 105). The comparison with robots is always astringent here, and McFarland puts our built-in skepticism about robot minds to good use in reining in our romanticism about our furry friends. McFarland proposes a contrast between two views of what is going on inside: the hedonic model and the automaton model. According to the hedonic, the feelings of pleasure and displeasure that arise from various parts of the body in situations of motivacional compromise are combined in some way, and behavioral adjustments are made so as to maximize pleasure and minimize displeasure. By contrast, in the automaton, the behavioral and physiological adjustments are automatic, and...the system is attuned to produce the best compromise among the competing demands (p. 123). He says, The fundamental difference between the two views is that in the automaton view the quantity maximized is implicit, while in the hedonic view it is explicit (p. 123). But are these views as distinct as they first appear? When he turns to Michel Cabanacs experiments with people being paid to endure discomfort, and paying for sandwiches of different tastiness (by their own taste), he can rely, for once, on what subjects say about their decisions. As he goes on to note, however, a subliminal process can take the place of a conscious motive, apparently, and thus it is not clear that Michel Cabanac is correct in assuming that trade-offs involving money necessarily involve a conscious mental component (p. 128). As we near the summit, we consider robot designers who want their robot to be accountable for its behavior. For this, it needs its own values, not just its designers values. It can learn to adjust its values, but this learning must depend on some prior immutable values it was born with, you might say. Here I think McFarland misses a possibility: It m33333333333333333333333333333333333333ight be unwise to design a robot that could eventually undo even its inicial immutable values and take on a new summum bonum, but this is not an engineering impossibility (Suber 2001). Perhaps the only way to make an accountable robot that could deserve punishment for its misdeeds and rewards for its heroics would be to give it the dangerous capacity to renounce the values we installed in it at birth. McFarland ha hecho su trabajo bien; l ofrece una discusin paciente, comprensiva, y en gran medida exacta de los mejores trabajos relevantes de los filsofos, sumergindose en las espesuras ms oscuras de la controversia sobre superveniencia, eliminativismo, smbolo de base, teoras del pensamiento de orden superior, y similares. Algunas de sus lecturas resultarn enojosas a los autores que discute, quienes pensarn que han sido mal entendidos al sostener posturas que nunca se les haba ocurrido, pero nunca lo francotiradores en la moda filosfica estndar encontrar, si los lee mal, es porque su esfuerzo para encontrar una lectura constructiva era demasiado caritativo a la mitad. Los filsofos no siempre estn tratando de hacer todo lo que los cientficos imaginan.

DANIEL C. DENNETT Daniel C. Dennett (daniel.dennett@tufts.edu) is the Austin B. Fletcher Professor of Philosopy and codirector of the Center for Cognitive Studies at Tufts University in Medford, Massachusetts.