“YO ROBOT”

7
¡ LA FUGA!

INTRODUCCION.- El principal competidor de

U.S. Robots, Consolidated, le plantea un desafió a la
compañía. Su máquina más perfecta se ha fundido al
no ser capaz de procesar unos complejísimos datos,
que lo que buscan es conseguir una máquina
interestelar. Toneladas de datos, cifras y complejas
ecuaciones deben suministrarse al Cerebro (que es la
máquina más perfecta de la compañía) para que
intente fabricar la máquina. No solo el prestigio de
U.S. Robots está en juego, también hay mucho dinero
de por medio en caso de que consigan dar con la
tecla.
¿La IA está realmente preparada para este viaje?

DESARROLLO.-

A FAVOR.- Año 1956. Allen Newell, Herbert

Simon, Marvin Minsky, Arthur Samuel y John
McCarthy —que acuñó el término— se reúnen en
Dartmouth College. Aquella reunión acabaría con un
optimismo exagerado: no solo crearon de la nada la
disciplina de inteligencia artificial: todos creyeron que
desarrollar esa capacidad y dotar a las máquinas de la
capacidad de pensar sería fácil.

Esa inteligencia está a su vez compuesta de tres tipos

de inteligencia distintas, algo de lo que Santiago
Sánchez-Migallón, profesor de filosofía y colaborador
en Xataka, explicaba en un interesante repaso a la
pregunta que nos ocupa:

Inteligencia componencial (grosso modo, nuestra

capacidad de análisis): dirección consciente de
nuestros procesos mentales para analizar y evaluar
ideas, resolver problemas y tomar decisiones. Es el
tipo de inteligencia clásica que analizan los test, la de
Lucas.

Inteligencia experiencial (grosso modo, nuestra

creatividad): capacidad de afrontar tareas novedosas,
formular nuevas ideas y combinar experiencias. Es la
inteligencia propia de los artistas, de esas personas
excéntricas que no suelen hacer lo que todos los
demás y que tienen muchísima tolerancia a los
cambios (incluso viven felices con ellos o, aún más,
los necesitan constantemente).

Inteligencia práctica o contextual (grosso modo,

capacidad de adaptación al medio): adaptación,
selección o modificación del ambiente individual.
Realmente, esta es la inteligencia más importante (si
bien depende de las otras dos), ya que tu éxito o
fracaso vital, dependerá de ella. Cada persona tiene
un proyecto vital, una serie de objetivos a perseguir.
Alguien sería muy inteligente si supiera adaptarse muy
bien a su realidad para conseguirlos, llegando incluso
a elegir bien qué entornos son los más adecuados
para ello o, el punto máximo, creando entornos nuevos
acordes a sus propósitos.

EN CONTRA.- ¿Fueron esas máquinas lo

"suficientemente inteligentes" como para hablar de
inteligencia artificial? Lo fueron, ciertamente, pero
esos logros específicos son muy distintos de los que
se buscan a largo plazo con esta disciplina.

Eso ha hecho que aparezcan tres grandes categorías

para clasificar la inteligencia artificial según su alcance
y su ámbito de aplicación. Veamos cuáles son esas
grandes diferencias que nos permiten entender hasta
dónde hemos llegado... y hasta dónde es posible
llegar.
Inteligencia artificial débil

Este tipo de sistemas puede resolver problemas muy

claros y limitados. La falta de inteligencia artificial es la
razón de la reciente explosión de esta disciplina: se
han utilizado diferentes tecnologías como el
aprendizaje automático o el aprendizaje profundo para
resolver problemas específicos, y los resultados han
sido excelentes.

Inteligencia artificial general

Mucho más ambiciosa que la inteligencia artificial débil

es la inteligencia artificial general, que permitiría
resolver cualquier tarea intelectual resoluble por un ser
humano. Esta inteligencia artificial sería multitarea y
podría hacer cientos, miles de cosas distintas bien.

Inteligencia artificial fuerte

Pero la inteligencia artificial general no es esa

inteligencia artificial que tanto nos vende Hollywood.
Le falta un elemento esencial que es el que diferencia
a la llamada inteligencia artificial fuerte. Esta última
posee los llamados "estados mentales", y además es
consciente de sí misma.

PERSONAL.- En esencia, una inteligencia

artificial fuerte lograría contar con los estados
mentales con los que contamos los seres humanos,
pero lograría ir mucho más allá gracias a su capacidad
de cálculo y de adaptación al entorno. Cuidado,
porque que una inteligencia artificial fuerte es también
general, pero lo contrario no es cierto. La diferencia es
sutil, pero esa consciencia de sí misma probablemente
lo cambiaría todo.

Si lográramos desarrollar esa inteligencia artificial

fuerte, habríamos alcanzado ese punto de inflexión en
la historia del ser humano. Uno en el que los
problemas técnico-científicos, sociales o económicos
no serían un reto para esa superinteligencia artificial.
Habríamos alcanzado la singularidad y eso plantearía
cambios impredecibles para nuestro mundo.

¿Qué podría ocurrir a partir de entonces? Lo cierto es

que hay dos grandes corrientes de pensamiento. La
primera, que esa inteligencia artificial fuerte resuelva
todos los problemas de la humanidad (desigualdades,
hambre, pobreza, guerras) y nos lleve a una nueva era
en el que el bienestar y la calidad de vida serían
extremos. La segunda, mucho más explotada en
novelas, series y películas, es la de una inteligencia
artificial fuerte que se dé cuenta de que los humanos
ya no somos necesarios. Terminator, vaya.

CONCLUSIÓN.- con estas leyes están

formuladas de tal forma que los humanos
protagonistas de las historias de Asimov, así las
recitan, pero debemos entender que su “forma real” en
realidad equivale a un conjunto de instrucciones más
complejas que se introducen en el cerebro del robot.
La historia sigue la fórmula de los otros cuentos de
robots: buscarle las cosquillas a alguna de las tres
leyes de la robótica y ver cómo solucionar una
situación aparentemente irresoluble.

Visto hoy, sin embargo, quizá el principal punto de

interés del relato es el modo en que Susan Calvin, con
su sola presencia, convierte en secundarios a Powell y
Donovan, hasta entonces concebidos como
protagonistas de la serie. De un plumazo, Asimov crea
su mejor personaje femenino (como ya dijimos, la
Susan Calvin que aparece en « ¡Embustero!» es poco
más que un esbozo de lo que llegaría a ser) y, aunque
en posteriores relatos la irá definiendo con más
detalle, es en « ¡Fuga!» donde establece sus
principales características.
 “YO ROBOT”
8

LA PRUEBA

INTRODUCCION.- “Si fuese posible crear un robot

capaz de ser funcionario civil, creo que haríamos un
gran bien, ya que las Leyes de la Robótica le
impedirían dañar a un ser humano, lo incapacitarían
para la tiranía, la corrupción, la estupidez, el prejuicio.”
-Isaac Asimov

El siguiente relato de robots que aparece publicado

es «Prueba circunstancial» y Powell y Donovan
parecen haber desaparecido del mapa y está claro
que es Susan Calvin la protagonista de la serie. ¿Y a
qué se enfrenta ahora? A un político, honrado y
escrupuloso, al que su rival acusa de ser un robot.

¿Cabe la posibilidad de que un robot usurpe la

identidad de un humano para ser candidato a alcalde
de la ciudad?

DESARROLLO.-
A FAVOR.- En cuanto al trabajo y a la mano de
obra que podrían llegar a reemplazar las máquinas,
Ricardo Ramírez, líder del grupo de investigación de
plataformas robóticas de la Universidad Nacional,
explica que el ser humano tiene gran cantidad de
habilidades y capacidades que la tecnología de los
robots aún no pueden imitar.

Pensar en que los robots puedan suplantar a los

humanos en algunas labores, si bien la amenaza del
desempleo es real, las máquinas serán las
encargadas de mantener los niveles de producción en
un mundo que cada vez tendrá menos trabajadores.
Muchos se preocupan de que con la automatización
se produzca desempleo masivo. Nuestro punto de
vista es que lo que se requiere es en realidad un plan
para un reordenamiento masivo de trabajadores.

Pero más allá de los debates sobre las cifras de la

pérdida de puestos de trabajo, la necesidad de que los
trabajadores se reconviertan, de que se adapten a los
cambios, es innegable. Este proceso trae aparejado
inevitablemente el temor a un aumento de las
desigualdades entre trabajadores ricos, muy bien
preparados, y aquellos sin capacitación acorde a este
nuevo escenario.

EN CONTRA.- entremos en contexto del por qué

un robot no es igual a un humano, aunque a IA posea
una inteligencia avanzada a la de nosotros.

La mente humana capta información de distintas

fuentes externas y desarrolla ideas nuevas y creativas.
Podemos inspirarnos a través de la música, la poesía,
el arte o la fotografía, y luego canalizar esa inspiración
para desarrollar ideas de negocio o nuevos productos.

Las empresas necesitan esa innovación creativa para

prosperar. Un empleado creativo ayuda a su empresa
a pensar en grande y, a veces, de forma
completamente inédita. Es en este contexto donde se
crean nuevos productos, se plantean nuevas
iniciativas y se producen los grandes avances.

La creatividad es un ámbito en el que a la IA aún le

falta mucho camino. Una máquina puede imitar una
obra humana con mayor precisión en cada nueva
iteración, pero crear algo nuevo y único es una
capacidad que sigue siendo exclusiva del ser humano.

Uno de los motivos por los que las personas crean

más valor que la IA es que un humano entiende los
factores y circunstancias de la empresa en su contexto
de la vida real, mientras que una máquina no dispone
de esos datos externos. La inteligencia artificial tiene
su límite en los datos que recibe. Una persona, en
cambio, abarca todo aquello que queda más allá los
datos, es decir, el contexto.

Si bien es inevitable que la tecnología eliminará

muchos puestos de trabajo, es evidente que no puede
eliminarlos todos. La creatividad, el ingenio y la
empatía del ser humano son aptitudes que de
momento la máquina no puede reproducir. Y, sin la
guía de los humanos, la IA no puede funcionar.

PERSONAL.- Esta es una situación que puede

resultar ser muy posible en unos cuantos años más,
ya que el desarrollo de la tecnología está siendo y
yendo demasiado rápido, por lo que no resultaría
sorprendente que existieran robots con Inteligencia
Artificial que ayudarán a los contadores, analistas o
aseguradores a realizar sus labores diarias.
Sin embargo, existen un par de factores por las que no
se cree que los robots puedan sustituir a los humanos
en sus respectivos trabajos, y aunque todos engloben
a los sentimientos/emociones, son lo que marca la
diferencia y la razón por la que nunca podrán suplir a
los humanos.

 Los robots pueden ser inteligentes, autónomos y

funcionales, pero nunca podrán hacer cosas con
amor o pasión porque sus tareas estarán
automatizadas, por lo que nunca verán cómo
invierten más energía y dedicación. , Esto es lo
contrario de los humanos. Son proactivos cuando
aman lo que hacen en el trabajo
 La red neuronal utilizada para crearlos sin duda
impresionará a las personas, aunque no les da un
punto de vista creativo e imaginativo cuando sea
necesario, porque su base de datos se centrará
en lo que ya existe. Existen, por lo que no podrán
crear cosas nuevas e innovadoras.
  Mucho se ha hablado de lo capaces que podrían
ser los robots, pero no se ha hablado de lo
buenos que serían para explicar algo a otra
persona, sobre todo si son niños pequeños que
requieren de mucha más paciencia y atención que
cualquier otro ser vivo; por lo tanto, las
profesiones centradas en las áreas de educación,
no estarían ocupadas por androides.

CONCLUSION.- Estamos ante un relato que

plantea varios dilemas morales, unas cuantas
preguntas espinosas. También aparenta resolverlas, si
damos por bueno el razonamiento de Susan Calvin.
Sin embargo, ¿lo es? ¿Es preferible ser tutelados por
un benévolo robot que no tiene otra prioridad que
nuestro bienestar o somos lo bastante adultos para
cuidar de nosotros mismos? Incluso, aunque no lo
seamos, ¿no tenemos acaso derecho a ser los
artífices de nuestro propio destino, aunque eso nos
conduzca al desastre?
 “YO ROBOT”
9

EL CONFLICTO
INEVITABLE

INTRODUCCION.- Las "máquinas", poderosas

computadoras positrónicas que eran usadas para
optimizar la economía mundial y la producción,
empezaron a mandar instrucciones que
aparentemente iban contra sus funciones. Aunque
cada error es menor tomado individualmente, el hecho
de que existan es alarmante. Stephen Byerley, ahora
elegido coordinador del mundo, consulta a los otros
cuatro coordinadores regionales y entonces le
pregunta a Susan Calvin por su opinión. El último de
los relatos incluidos en Yo, robot es «El conflicto
evitable», una continuación en cierta medida de
«Prueba circunstancial»; aquí vemos a Stephen
Byerley (el supuesto robot camuflado de humano)
convertido en coordinador mundial del planeta Tierra y
acudiendo a Susan Calvin para que investigue lo que
parece ser un mal funcionamiento de los
superordenadores que gestionan los recursos del
globo.

Las máquinas todopoderosas que gestionan el planeta

tienen en cuenta, no el bien del ser humano individual,
sino de la Humanidad como conjunto.

Descubren que las máquinas han generalizado la

Primera Ley para significar "ningún robot lastimará a la
humanidad, o por inactividad, permitir a la humanidad
el daño"
¿Será ésta la rebelión de los robots contra la especie
humana?

DESARROLLO.-

A Favor.- Según los científicos, subestimar los

riesgos que entrañan los robots inteligentes sería
"peligroso", teniendo en cuenta lo rápido que avanza
el campo de la Inteligencia Artificial.

Anders Sandberg y Nick Bostrom, filósofos de la

Universidad de Oxford, estiman en su trabajo "Emular
un cerebro completo: un mapa de ruta" que a
mediados de este siglo ya seremos capaces de
reproducir un cerebro humano en silicio.

Los propulsores del CSER aseguran que, llegados a

ese punto, estas máquinas podrían empezar a
programar computadoras por su cuenta, lo que daría
lugar a una "explosión de la inteligencia".
En poco tiempo, los seres humanos quedaríamos muy
por detrás de los robots, estos escaparían a nuestro
control y la humanidad quedaría a merced de
máquinas superiores.

Este control no sería violento, ya que las máquinas

carecerían de emociones como la ira. Pero si nos
cruzáramos en su camino, seríamos para ellos como
esos insectos que chocan contra el parabrisas de
nuestro auto.

En contra.- Existe una ley más que se conoce

como la Ley 0, la cual fue incorporada posteriormente
por Asimov. La misma dice: “Un robot no puede
realizar ninguna acción, ni por inacción permitir que
nadie la realice, que resulte perjudicial para la
humanidad, aun cuando ello entre en conflicto con las
otras tres Leyes”.

Tal como explicó el propio Asimov, la concepción de

las leyes de la robótica vino motivada por el deseo de
contrarrestar el denominado complejo de
Frankenstein, es decir, el presunto temor del hombre
frente a unos robots que hipotéticamente podían
rebelarse en contra de sus creadores. Para evitar la
aparición de robots asesinos (o cuanto menos
desobedientes), Asimov implantó en sus relatos las
tres leyes de la robótica en los mismos circuitos de sus
cerebros positrónicos, haciendo imposible que un
robot pudiera violarlas ya que, de intentarlo siquiera,
su cerebro resultaría dañado irremisiblemente y el
robot moriría.

Algunos autores han apuntado la posibilidad (hoy

remota) de que, en el caso de que se terminen
construyendo robots inteligentes, éstos deberían llevar
implantado como código de conducta algo similar, sí
no idéntico, a las Leyes de la Robótica de Isaac
Asimov. Asimismo, han sido muchos los escritores de
ciencia ficción que han imitado al maestro
norteamericano, describiendo en sus obras robots
gobernados por estas leyes o por otras muy similares.
Personal.- Isaac Asimov desarrolló hace casi 80 años las
leyes que regularían la robótica. Ahora, necesitamos una
actualización.

Las tres leyes de Asimov probablemente las conozcamos

todos. Estas leyes son, a grandes rasgos, una serie de
instrucciones que todo aparato robótico debe cumplir para
proteger a los humanos. Pero con la llegada de la Inteligencia
Artificial puede que se queden atrás: necesitan una
actualización o una renovación por completo.

 Un robot no hará daño a un ser humano o, por

inacción, permitir que un ser humano sufra daño.
 Debe hacer o realizar las órdenes dadas por los
seres humanos, excepto si estas órdenes
entrasen en conflicto con la 1ª Ley.
 Debe proteger su propia existencia en la medida
en que esta protección no entre en conflicto con la
1ª o la 2ª Ley.
Se sustituyeron en 1976 por la Ley Cero (‘Zeroth
law‘ en inglés), que narraba que ‘Un robot no hará
daño a la Humanidad o, por inacción, permitir que la
Humanidad sufra daño’. Tanto la ley Cero como las
de Asimov son muy claras, pero dejan atrás muchos
aspectos modernos con respecto a la Inteligencia
Artificial.

CONCUSION.- Esta es una historia que no es

la mejor del autor en términos narrativos: el
incidente es pequeño y las ideas basadas en él no
son particularmente atractivas ni memorables. Esta
no es una mala historia, porque en ese momento las
habilidades de Asimov eran suficientes para
interesarlo en casi todo lo que escribió, pero no
cumplía con los estándares de otras historias de
robots anteriores, incluso Susan Calvin no brillo
demasiado.
No es nada grave, pero los primeros desajustes
inquietan a más de uno, sobre todo a la
organización de la Sociedad para la Humanidad que
es contraria al uso de las Máquinas y los robots, y
ya se frotan las manos por si el futuro comienza a
darles la razón.

Quizás lo más interesante es que en "el conflicto

inevitable", a medida que pasa el tiempo, se
convertirá en la ley cero del robot. Para las
máquinas omnipotentes que manejan este planeta,
tienen en cuenta, no los intereses de los individuos,
sino los intereses de toda la raza humana, esta idea
volverá cuando Asimov reinicie el trabajo de
unificación muchos años después