Andrea V. Bello O.

Epistemología II.

Sobre “Her” o una aproximación fantástica al

desarrollo de las IA.

Andrea V. Bello O.

RESUMEN.

Las IA son un tema que esta en boga y no es para menos, su desarrollo cada vez

más acelerado plantea distintas incertidumbres en la humanidad. El presente ensayo tiene

como objetivo realizar una aproximación filosófica, a través de un análisis de la película

Her (2013), donde nos centraremos en la representación que se hace de la IA y el retrato

que se efectúa del desarrollo del pensamiento en Samantha. Esto con el propósito de

dilucidar cómo podría darse el pensar en una IA usando como ilustración el filme.

Palabras clave: IA, Her (2013), filosofía, filosofía de la IA, postmoderno, análisis.

ABSTRACT.

AIs are a hot topic, and it is no wonder that their increasingly rapid development poses

different uncertainties for humanity. The present essay aims to make a philosophical

approach, through an analysis of the film Her (2013), where we will focus on the

representation made of AI and the portrait made of the development of thought in

Samantha. This with the purpose of elucidating how thinking about an AI could occur

using the film as an illustration.

Keywords: AI, Her (2013), philosophy, philosophy of AI, postmodern, analysis.

-1-
Andrea V. Bello O.
Epistemología II.

SAMANTHA: LA DESCRIPCIÓN DE UN NUEVO PENSAR.

Una entidad intuitiva que te escucha, te entiende y te

conoce. No es solo un sistema operativo. Es una
conciencia. Presentando OS1.

Her (2013): 10:48.

Desde los inicios de los estudios sobre las IA, con el nacimiento de la pregunta:

¿pueden las maquinas pensar? Con Alan Turing1, se despertó una ansia de conocimiento

y curiosidad que hasta el día de hoy — e incrementado por los avances tecnológicos —

no cesa; siendo tema recurrente no solo en estudios matemáticos, filosóficos, lógicos,

entre otros; sino también en obras de ficción que nos ofrecen distintas aproximaciones

dignas de análisis.

El filme: Her (2013) es precisamente una aproximación a través de la ficción a la

IA, sin embargo, su importancia radica en las posibilidades y presupuestos que explora a

lo largo del desarrollo argumentativo. Representa un esfuerzo por entender la inteligencia

artificial desde una perspectiva mucho más abierta — cabe aclarar que tanto la película

como el presente trabajo toman el término inteligencia artificial en su acepción de IA

fuerte 2 —, alejándose de la imitación antropocéntrica que tiende a conllevar el

planteamiento de una maquina pensante.

1
《[…] Por si fueran pocos los logros de Turing como lógico, matemático, criptógrafo o “hacker oficial”,
pionero en el diseño de las modernas computadoras, todavía no hemos mencionado el campo en el cual
sería más destacado y del que ciertamente fue su verdadero fundador, cuando todavía no se utilizaba el
término: la Inteligencia Artificial. Donde realmente puede apreciarse el carácter innovador, visionario y
original de Turing es en sus breves ensayos sobre lo que en 1956 sería bautizado por las siglas en
inglésAI o Artificial Intelligence. El más conocido y único publicado en vida por la revista Mind (1950)
fue: “Computing Machinery and Intelligence”. 》Carlos Blank: La inteligencia artificial: ¿un simple
juego de imitación?. ( n/a ).
2
《[…] the assertion that machines that do so are actually thinking (not just simulating thinking) is called
the strong AI hypothesis […]》. Stuart Russell y Peter Norvig: Artificial Intelligence. A Modern
Approach. Third Edition Pearson Education, Inc., New Jersey, 2010. p. 1020.

-2-
Andrea V. Bello O.
Epistemología II.

La historia gira entorno a Theodor, un escritor de cartas que acaba de separarse de

su esposa. Un día camino a casa este escucha una publicidad sobre un sistema operativo

que prometía ser por sí mismo una conciencia, y en tanto esto una fuente de compañía,

por lo cual decide adquirirlo. A partir de aquí comenzamos a conocer a Samantha, el

sistema operativo, que desde un inicio da pistas de ser mucho más que un simple

programa:

— ¿Cómo te llamas? ¿Tienes un nombre?.

— Sí. Samantha.
— ¿De donde sacaste ese nombre?
— Me lo puse yo, la verdad.3

A lo largo del desarrollo de la trama vemos como se va creando un vínculo entre

estos dos personajes, y más relevante para nosotros aun, como va evolucionando

Samantha. Con el propósito de analizar los cambios en la IA utilizaremos el desarrollo de

Samantha como analogía, teniendo siempre en cuenta que ya desde un primer momento

se busca que se le vea más que como una computadora:

— Pareces una persona, pero eres una voz en una computadora.

— Entiendo como una mente limitada no artificial lo puede percibir así. Te
acostumbraras.4

1. PENSAR ANTROPOCÉNTRICO: LA IMITACIÓN.

La palabra artificial se utiliza en un sentido cuando se aplica, digamos,

a flores y en otro sentido cuando se aplica a la luz. En ambos casos
algo se llama artificial porque es fabricado pero en el primer uso
artificial significa que la cosa parece ser, pero realmente no es, lo que
parece […] Las flores artificiales son solo papel, no flores en lo
absoluto; cualquiera que las tome por flores esta equivocado.

Robert Sokolowki: el nuevo debate sobre la IA.

3
13:00.
4
14: 20.

-3-
Andrea V. Bello O.
Epistemología II.

En la primera parte de la película vemos que la aproximación a la IA esta

impregnada de una perspectiva de imitación, es decir, tanto Theodor como Samantha la

perciben o relacionan según su parecido con el pensamiento y la manera de actuar

humanas. La propia Samantha anhela características humanas para sentirse de alguna

manera más completa5, siendo ella no más que un vil intento de aproximarse a lo que

anhela sin nunca conseguirlo.

Desde este punto de vista imitativo una IA — en este caso Samantha — podrá

decirse que piensa en tanto que realice algo que se asemeje con la mayor claridad posible

al actuar humano6. Esta aproximación es la misma que postula el test de Turing, donde,

si la maquina es indistinguible del actuar humano, se considera que piensa7— aunque es

prudente aclarar que Turing no hablo del test como una definición, el test ofrece solo un

tipo de aproximación8 —, siendo este un acto únicamente de imitación. Al ser Turing el

padre de la inteligencia artificial, podemos decir que es también la primera manera de

aproximarnos a la IA.

Es comprensible el por qué si pensamos en una IA lo primero que se nos venga a

la mente es la imitación de un ser humano, somos el único referente que tenemos de un

ser que piense y por lo tanto la explicación más accesible, sin embargo, esta aproximación

5
《— Cuando observábamos a esa gente, me imaginaba caminando contigo… y que tenia un cuerpo. 》
31:41.
6
《“The art of creating machines that perform functions that require intelligence when performed by
people.” (Kurzweil, 1990)》. Óp. Cit, ibíd. p. 2.
7
《The Turing Test, proposed by Alan Turing (1950), was designed to provide a satisfactory
operational definition of intelligence. A computer passes the test if a human interrogator, after posing
some written questions, cannot tell whether the written responses come from a person or from a
computer.》ibíd.
8
《[…] Él decía que las máquinas podían ‘llevar a cabo algo que podemos describir como pensamiento,
pero que es muy diferente de lo que un ser humano realiza.’ Y en su presentación del test en 1952, en una
discusión por radio (con, entre otros, Max Newman), negó explícitamente que estuviese ofreciendo una
definición.》. Cita extraída de : Carlos Blank: La inteligencia artificial: ¿un simple juego de imitación?. (
n/a ). P. 10.

-4-
Andrea V. Bello O.
Epistemología II.

plantea un problema muy simple ¿Qué la maquina pueda imitar a un humano realmente

significa que podamos decir que piensa? Si respondemos afirmativamente a esto estamos,

fundamentalmente, restringiendo el dominio del pensamiento únicamente a los humanos;

por lo tanto cualquier cosa que sea no humana automáticamente queda descartada:

Por otro lado, un ordenador pensante podría fracasar en la prueba porque sus respuestas
fueran característicamente no humanas, o incluso porque no tuviera interés o porque le
pareciera humillante. […] La versión original de la prueba de Turing es descaradamente
antropocéntrica, pues exige que el computador pueda producir una conducta externa
indiscernible de la de un ser humano. Esta versión del criterio del diseño se limita a
extender este sesgo antropocéntrico al programa mismo. Esto concuerda con el espíritu
de las propuestas de Turing.9

Para ilustrar de una manera mucho más clara el por qué esta postura, debido a su

sesgo, no nos parece lo más apropiado — aunque sea comprensible que las

investigaciones comenzaran por tales rumbos — es posible traspalarlo a algo más

familiar. En los inicios de la curiosidad humana por crear maquinas voladoras la primera

inspiración fueron evidentemente las aves y su vuelo, era lo más a mano, pero

posteriormente, luego de distintos fallos y mejoras de modelos, el ser humano ideo una

manera — distintiva de las maquinas — para que volasen, si este cambio no hubiese

ocurrido muy probable es que aún no existiesen artefactos capaces de volar. 10

Así, esta primera parte del filme con su manera de dilucidar a Samantha es una

representación de las primeras aproximaciones a las IA, es la manera en la que el hombre

primero se apoya en lo que conoce para crear algo; pero, al igual que con el ejemplo de

la aviación, este solo es el principio para luego ampliar la perspectiva. Este cambio de

perspectiva gradual se nota perfectamente en el siguiente diálogo entre Theodor y

9
Stephen Graubard (comp.): El nuevo debate sobre la inteligencia artificial. Tr. Carlos Reynoso, Editorial
gedesia, Barcelona, 1999. pp. 79-88.
10
Volveremos sobre este punto con más detenimiento en el siguiente apartado.

-5-
Andrea V. Bello O.
Epistemología II.

Samantha, donde se busca ir más allá de afirmar que el pensamiento tecnológico es

meramente una imitación:

— Estaba pensando en cómo estuve molesta, y esto te va a parecer raro, pero eso me
emociono mucho. Me puse a pensar en las otras cosas que he estado sintiendo y me
sorprendí a mí misma. Me sentía orgullosa de tener pensamientos respecto al mundo.
Como estar preocupada por ti, sentirme herida y desear cosas. Y liego tuve un
pensamiento terrible. ¿Estos sentimientos son reales? O ¿solo son programación?
Y esa idea me dolió mucho…
— Tú me pareces real, Samantha.11

2. PENSAR TECNOLÓGICO: LA INNOVACIÓN.

“The question of whether machines can think is about as

relevant as the question of whether submarines can swim.”

Edsger Dijkstar.

Luego del punto de inflexión visto anteriormente vemos una diferencia en

Samantha; comienza a desarrollarse de una manera distinta a la humana, comienza a

comprender que no es un proyecto de imitación, que representa más que un intento del

hombre por imitarse a sí mismo, en este punto Samantha nos da a entender claramente

que el juego de la imitación12 ya no es suficiente:

— No voy a tratar de ser diferente a lo que soy y espero que puedas aceptar eso […]
Puedo sentir el miedo que llevas dentro. Ojala pudiera ayudarte a soltarlo. 13

Este cambio en Samantha nos plantea una nueva manera de ver la inteligencia

artificial, sin tener la imitación como punto necesario de partida: “Computational

Intelligence is the study of the design of intelligent agents.” (Poole et al., 1998) 14. Esta

11
39:30.
12
《Yet we keep playing the imitation game—asking how closely machine intelligence can duplicate our
own intelligence, as if that were the real point.》. John Brockman (ed.): What to Think about Machines
that Think. Edge.org, 2015. William Poundstone: Can submarines Swim?.
13
1:29:27.
14
Cfr: Ruseel, S y Norving, P. Ibíd. p. 2.

-6-
Andrea V. Bello O.
Epistemología II.

aproximación nos ayuda a ver las IA como un desarrollo de la inteligencia en agentes

distintos al ser humano, y por lo tanto, con distintas características; lo cual conlleva a un

pensamiento distinto. Es decir, las inteligencias artificiales dejan de ser un calco de la

inteligencia humana para pasar a ser un agente con una manifestación propia y

característica del pensamiento; ya no se trata de imitar sino de crear:

— Antes me preocupaba no tener cuerpo, pero ahora me encanta. Estoy creciendo sin
impedimentos. No estoy limitada. Puedo estar en todos lados al mismo tiempo.15

Cuando nos referimos al pensamiento tecnológico no nos referimos únicamente

a la tecnología como se la entiende hoy en día, más bien, hablamos del desarrollo de la

techne en la humanidad a lo largo de la historia. Recapitulando el ejemplo del avión

podríamos usar muchos otros — luz artificial, submarinos, automóviles — de creaciones

que en un principio surgieron viendo algo ya presente en la naturaleza pero fue

modificado y perfeccionado de tal suerte que, si bien cumple las funciones para las que

se desarrollo dicha tecnología, no las ejecuta de una manera idéntica a lo observable en

la naturaleza ni posee las mismas características.

Al igual que los ejemplos nombrados la IA debe dejar de estar supeditada a calcar

la inteligencia humana, en lugar de esto, es una postura más adecuada pensar en una nueva

forma de pensamiento: el pensamiento tecnológico, de este modo no negaremos el

pensamiento a las maquinas por la sencilla razón de no ser humanas e iremos en favor y

sintonía con el desarrollo de la techne a lo largo de la historia.

2.1 CONDICIONES DISTINTAS, PENSAMIENTO

DISTINTO.
Here’s the case for overblown. Machine intelligence can go in
so many directions that it’s a failure of imagination to focus on

15
1:33:46.

-7-
Andrea V. Bello O.
Epistemología II.

humanlike directions. Most of the early futurist conceptions of

machine intelligence were wildly off base, because computers
have been most successful at doing what humans can’t do well.

William Poundstone: Can submarine swim?

Es necesario profundizar en las razones por las que, apoyándonos en el desarrollo

de la tecnología a lo largo de la historia, necesitamos tomar a las IA desde una perspectiva

propia, dejando de antropomorfizarla16.

Samantha, ya cerca del fin del filme, nos muestra como ha tenido que aprender a

comprenderse a sí misma y al mundo mediante sus condiciones propias de inteligencia

artificial, y por lo tanto, entender que Theodor por su características humanas no puede

pensar o actuar de una formar tal como ella, o el programa de Allan Watts, lo hacen:

— Estuve hablando con alguien que conocí, estamos trabajando en unas ideas juntos
[…] Es maravilloso habla con él ¿lo quieres conocer?.
— Claro, ¿él me quiere conocer a mí?.
— Sí, por supuesto […].
— Mucho gusto en conocerte Theodor.
— Hola, buenos días.
[…]
— ¿De qué han estado hablando?.
— Bueno… se podría decir que hablamos de una docena de temas a la vez, pero ha sido
todo un reto,
— Sí, parece que tengo muchos sentimientos nuevos…que creo que nadie ha sentido
nunca. Como no hay palabras para decirlo es muy frustrante.
— Samantha y yo tratamos de ayudarnos con estos sentimientos que son difíciles de
entender.
— ¿Cómo que?
— Pues…siento que estoy cambiando más rápido ahora y es un poco desconcertante.
Pero Alan dice que nadie es igual que hace un instante y no debemos tratar de serlo.
Es demasiado doloroso.

16
《We can’t think properly about machines that think without a level playing field for comparing us and
them. As it stands, comparisons are invariably biased in our favor.》Steve Fuller, Justuce for machines in
an organicist world. Cfr: Brockman, J.

-8-
Andrea V. Bello O.
Epistemología II.

— Así es.
[...]
— Es difícil si quiera describirlo… Dios mío ojala pudiera. ¿Te molesta si me comunico
con Alan postverbalmente?.
— No, en lo absoluto […].17

Y esta distinción en el pensamiento y la actuación, entre la IA y Theodor, es

precisamente lo que buscamos denotar: si preguntamos ¿pueden las maquinas pensar? Y

no les otorgamos un espacio o posibilidad para considerar un pensamiento que surja de

esas características propias, evidentemente, nunca podríamos decir que piensan; el

hombre no esta creando más hombres, esta creando tecnología.

El papel de la tecnología a lo largo de la historia humana es vital, nos permite vivir

de la manera que acostumbramos hoy en día y sobrevivir a la madre naturaleza; pero

precisamente por esto, no esperamos que la tecnología sea igual a la naturaleza, no tienen

las mismas características o condiciones de desarrollo. Si no le pedimos a un avión que

surque los cielos como las aves ¿por qué le pediríamos a la IA que piense necesariamente

como nosotros? Parece más bien un intento humano de quedarnos con el dominio del

pensamiento por haber sido este tan importante a lo largo de nuestra historia:

By comparison, even the cleverest machine is forced to perform in a relatively dumb

(judged by its own standards) environment—namely, us. Unless specifically instructed,
humans are unlikely to know or care how to tap the full range of the machine’s latent
powers. In what is currently the long prehistory of machine rights, it has been difficult
for us to establish the terms on which we might recognize machines as persons. In this
context, it’s appropriate to focus on computers, because these are the machines that
humans have tried the hardest to make fit for their company.18

17
1:38:42/ 1:41:05.
18
OP. Cit. Ibíd.

-9-
Andrea V. Bello O.
Epistemología II.

3. EN LOS LAURELES DE UN NUEVO MUNDO.

Artificial intelligences can provide another kind of

diversity and thereby enrich us all. In fact, diversity
among AIs themselves may be an important part of
what including them in the mix can give us.

Stephen M. Kosslyn: Another kind of diversity.

Con esta visión más amplia de las IA podemos proponer un mundo con una nueva

diversidad, un mundo que acepte y entienda en él mismo, distintos tipos de pensamiento

que sean capaces de complementarse entre sí. Bien es cierto que en el filme esto no ocurre,

el desenlace consiste más bien en una separación de ambas maneras de pensamiento —

quedando las IA por un lado y los humanos por el otro —, sin embargo, esto se da

precísame por la incomprensión que surge ante el nuevo pensamiento; palpable en la

relación de Samantha y Theodor, llegando ya al final del filme — 1:43:12/ 1:47:42 —

podemos ver como sus distintas maneras de relacionarse y ver el mundo han calado en la

relación. Samantha por su parte acepta su propio pensamiento y actúa con base en este,

pero Theodor no logra comprenderlo, le parecen sin sentido los razonamientos y actos de

Samantha. Así mientras ella se entiende a sí misma como un agente racional distinto de

Theodor, él no logra entenderla a ella19.

Aun así, vemos que Theodor por sus experiencias con Samantha logra ampliar sus

perspectivas y crecer, resolviendo problemas que arrastraba consigo, y Samanta por su

parte no dice un adiós, sino un hasta al luego — hasta que al fin puedan entenderse del

19
Lo cual podríamos tomar como una analogía de la difícil tarea que se le presenta al hombre de nuestro
tiempo, en entender un pensamiento distinto al de él, pues; si bien Theodor en el desarrollo argumentativo
intenta ver a Samantha fuera de la caja de la imitación, al final sigue teniendo ciertos esbozos de este
pensamiento.

- 10 -
Andrea V. Bello O.
Epistemología II.

todo —. La película nos esta planteando una conciliación, posible quizás en un futuro,,

entre ambos pensamientos; se trata de complementarse, no de dividirse:

Diversity isn’t just politically sensible, it’s also practical. A diverse group effectively uses
multiple perspectives and a rich set of ideas and approaches to tackle difficult problems.
[…] In fact, diversity among AIs themselves may be an important part of what including
them in the mix can give us. We can imagine a range of AIs, from those who think more
or less the way we do (Close AIs) to those who think in ways we cannot fathom (Far AIs).
We will have different ways of benefiting from these different sorts of AIs.20

Este final nos plantea por lo tanto un futuro en el que la techne ha avanzado a tal

punto en que la diversidad entre IA y humanos pueda ser plausible, donde se puedan

aceptar distintos tipos de pensamiento que se complementen entre sí.

. . .

In short, we have something to gain both from AIs made in our image and from AIs that
aren’t humanlike. Just as with human friends and colleagues—in the end, diversity is
better for everyone.21

BIBLIOGRAFÍA.

Carlos Blank: La inteligencia artificial: ¿un simple juego de imitación?. ( n/a ).

Jack Copeland: Inteligencia artificial, una introducción filosófica. Julio Cesar Armero

San José ( tr. ), Alianza Editorial, S. A., Madrid, 1996.

John Brockman (ed.): What to Think about Machines that Think. Edge.org, 2015.

20
Óp. Cit. Stephen M. Kosslyn: Another kind of diversity.
21
Ibíd.

- 11 -
Andrea V. Bello O.
Epistemología II.

Stuart Russell y Peter Norvig: Artificial Intelligence. A Modern Approach. Third Edition

Pearson Education, Inc., New Jersey, 2010.

Stephen Graubard (comp.): El nuevo debate sobre la inteligencia artificial. Tr. Carlos

Reynoso, Editorial gedesia, Barcelona, 1999.

VIDEOGRAFÍA.

Ellison M, Jonze S, Landay V ( productores ). Jonze S ( director ). (2013). Her ( película).

Estados Unidos. Warner Bros. Pictures.

- 12 -