Las leyes de la robtica que quieren los expertos en inteligencia

Artificial.

Primera: Un robot no daar a un ser humano o, por inaccin, permitir que un ser
humano sufra dao.
Segunda: Un robot debe obedecer las rdenes de los seres humanos, salvo que
esas rdenes entren en conflicto con la primera ley.
Tercera: Un robot debe proteger su propia existencia en la medida en que esta
proteccin no entre en conflicto con la primera y la segunda ley.

As rezan las tres leyes de la robtica. Asimov las introdujo por primera vez en una de sus
novelas en 1942. A partir de ah, todo el universo robot ficcin del cientfico se sirvi de estas
tres leyes para establecer el marco de las relaciones entre los humanos y las mquinas. El
ser humano crea las mquinas, las dota de lo que cree el hombre que a l le falta: una
capacidad de anlisis sin precedentes y sin interferencia emocional. Sin embargo, esa falta
de sentimientos puede llevar a los robots a plantearse la innecesaria intervencin de los
seres humanos en la vida que ellos controlan. El factor humano es un factor de fallo, es el
eslabn dbil de la cadena. No es un padre creador, sino un error que alcanza su redencin
en las mquinas. El ser humano lo sabe. Le ha otorgado a su diseo mecnico el control de
todo, incluso la capacidad ltima de decidir incluso la capacidad de autorreplicarse. Para
qu es necesario entonces el producto de un azar biolgico? Como todo buen dictador que
desea perpetuarse en el poder, las tres leyes de la robtica garantizan la sumisin, la no
rebelin de la mquina.

Con las tres leyes grabadas en lo ms profundo de su cerebro cableado, el robot, ese golem
moderno, no puede llegar jams a convertirse en Skynet, en la Ley Cero: Un robot no
daar a la humanidad o, por inaccin, permitir que la humanidad sufra dao, que ampla
la idea singular del ser humano a la global de la humanidad. Qu pasara entonces si un
ser humano amenazara la supervivencia de la humanidad? Lo mataran, entrando en
conflicto con la primera ley?

Una tica para los robots que vienen y los humanos que los crean

En 1942 puede que todo esto pareciera ciencia ficcin, pero hoy ya no lo es. El desarrollo
tecnolgico, unido al mayor conocimiento de la mente y el cerebro humanos, est
permitiendo una convivencia de lo bio con lo tecno que ya avanza la posibilidad de mquinas
capaces de sentir, aprender y pensar por s mismas. La neurociencia es la nueva revolucin.
En ese punto es donde comienzan habitualmente los argumentos apocalpticos de la ficcin
literaria y televisiva, pero la ciencia no quiere llegar a un punto en que la humanidad deba
esconderse del eficaz exterminio del robot.

Hace unos aos, en 2011, la comunidad cientfica estableca una serie de principios ticos
por los que deban regirse no las mquinas, sino los humanos que intervienen actualmente
en el diseo y creacin de robots. Y es que por mucho poder que se le otorgue a una
mquina, el ltimo y primer responsable de ella es, siempre, el ser humano que la crea y
programa. Sin embargo, ya existen cosas que rozan el lmite de esos cinco principios: no
disear robots exclusiva o fundamentalmente para matar o daar humanos; los humanos y
no los robots son los responsables de lo que hagan los robots; los robots deben disearse
para garantizar su proteccin y seguridad; los robots son objetos, y como tales no se deben
disear para aprovecharse de usuarios vulnerables generando dependencia o respuestas
emocionales; por ltimo, que sea siempre posible identificar al responsable legal de la
mquina.

La preocupacin no ha cesado. Al contrario. Expertos de todo el mundo en inteligencia

artificial acaban de sellar, en forma de carta abierta publicada por la revista Future of Life
Institute, un pacto para garantizar la seguridad de los humanos frente a la prxima y
generalizada convivencia con creaciones robticas de todo tipo. Aunque parezca que
estamos lejos de que un gran cerebro electrnico tome conciencia de s mismo y, como
consecuencia idee un plan para esclavizar o exterminar a la humanidad, no est de ms ir
sentando las bases para evitarlo.

Fuente: Gordillo, F. (enero de 2015). Las leyes de la robtica que quieren los expertos en
inteligencia artificial. Recuperado el 13 de enero de 2015 de
http://www.teknlife.com/noticia/las-leyesde-la-robotica-que-quieren-los-expertos-en-
inteligencia-artificial.

La diputada Li-Hsing era mucho ms vieja que cuando Andrew la conoci. Ya no

llevaba aquellas prendas transparentes, sino que tena el cabello corto y vesta con
ropa tubular. En cambio, Andrew an se atena, dentro de los lmites de lo
razonable, al modo de vestir que predominaba cuando l comenz a usar ropa un
siglo atrs.

Hemos llegado tan lejos como podamos, Andrew. Lo intentaremos nuevamente despus
del receso, pero, con franqueza, la derrota es segura y tendremos que desistir. Todos
estos esfuerzos solo me han valido una derrota segura en la prxima campaa
parlamentaria.
Lo s, y lo lamento. Una vez dijiste que me abandonaras si se llegaba a ese extremo;
por qu no lo has hecho?
Porque cambi de opinin. Abandonarte se convirti en un precio mucho ms alto del
que estaba dispuesta a pagar por una nueva gestin. Hace ms de un cuarto de siglo que
estoy en la Legislatura. Es suficiente.
No hay modo de hacerles cambiar de parecer, Chee?
He convencido a toda la gente razonable. El resto, la mayora, no est dispuesto a
renunciar a su aversin emocional.
La aversin emocional no es una razn vlida para votar a favor o en contra.
Lo s, Andrew, pero la razn que alegan no es la aversin emocional.
Todo se reduce al tema del cerebro, pues. Pero es que todo ha de limitarse a una
posicin entre clulas y positrones? No hay modo de imponer una definicin funcional?
Debemos decir que un cerebro est hecho de esto o lo otro? No podemos decir que el
cerebro es algo capaz de alcanzar cierto nivel de pensamiento?
No dar resultado. Andrew. Tu cerebro fue fabricado por el hombre, el cerebro
humano no. Tu cerebro fue construido, el humano se desarroll. Para cualquier ser
humano que se proponga mantener la barrera entre l y el robot, esas diferencias
constituyen una muralla de acero de un kilmetro de grosor y un kilmetro de altura.
Si pudiramos llegar a la raz de su antipata..., a la autntica raz de...
Al cabo de tantos aos, sigues intentando razonar con los seres humanos. Pobre
Andrew, no te enfades, pero es tu personalidad robtica la que te impulsa en esa
direccin.
No lo s Si pudiera someterme...

Si pudiera someterse... Saba desde tiempo atrs que poda llegar a ese extremo, y
al fin decidi ver al cirujano. Busc uno con la habilidad suficiente para la tarea, lo
cual significaba que fuera un cirujano robot, pues no poda confiar en un cirujano
humano, ni por su destreza ni por sus intenciones. El cirujano no podra haber
realizado la operacin en un ser humano, as que Andrew, despus de postergar el
momento de la decisin con un triste interrogatorio que reflejaba su torbellino
interior, dej de lado la Primera Ley diciendo:

Yo tambin soy un robot. Le ordeno que realice esta operacin.

En ausencia de la Primera Ley, una orden tan firme, impartida por alguien que se
pareca tanto a un ser humano, activ la Segunda Ley, imponiendo la obediencia.
Andrew estaba seguro de que el malestar que senta era imaginario. Se haba
recuperado de la operacin. No obstante, se apoy disimuladamente contra la
pared. Sentarse sera demasiado revelador.

La votacin definitiva se har esta semana, Andrew dijo Li-Hsing. No he podido

retrasarla ms, y perderemos... Ah terminar todo, Andrew.
Te agradezco tu habilidad para la demora. Me ha proporcionado el tiempo que
necesitaba y he corrido el riesgo que deba correr.
De qu riesgo hablas? pregunt Li-Hsing, con manifiesta preocupacin.
No poda contrtelo a ti ni a la gente de Feingold y Martin, pues saba que me
detendran. Mira, si el problema es el cerebro, acaso la mayor diferencia no reside en la
inmortalidad? A quin le importa la apariencia, la constitucin ni la evolucin del
cerebro? Lo que importa es que las clulas cerebrales mueren, que deben morir. Aunque
se mantengan o se reemplacen los dems rganos, las clulas cerebrales, que no se
pueden reemplazar sin alterar y matar la personalidad, deben morir con el tiempo. Mis
sendas positrnicas han durado casi dos siglos sin cambios y pueden durar varios siglos
ms. No es esa la barrera fundamental? Los seres humanos pueden tolerar que un robot
sea inmortal, pues no importa cunto dure una mquina; pero no pueden tolerar a un
ser humano inmortal, pues su propia mortalidad solo es tolerable siempre y cuando sea
universal. Por eso no quieren considerarme humano.
A dnde quieres llegar, Andrew?
He eliminado ese problema. Hace dcadas, mi cerebro positrnico fue conectado a
nervios orgnicos. Ahora una ltima operacin ha reorganizado esas conexiones de tal
modo que lentamente mis sendas pierdan potencial.
Quieres decir que has planeado morirte, Andrew? Es imposible. Eso viola la Tercera
Ley.
No. He escogido entre la muerte de mi cuerpo y la muerte de mis aspiraciones y
deseos. Habra violado la Tercera Ley si hubiese permitido que mi cuerpo viviera a costa
de una muerte mayor.

Li-Hsing le agarr el brazo como si fuera a sacudirle. Se contuvo.

Andrew, no dar resultado. Vuelve a tu estado anterior.

Imposible. Se han causado muchos daos. Me queda un ao de vida. Durar hasta el
segundo centenario de mi construccin. Me permit esa debilidad.
Vale la pena? Andrew, eres un necio.
Si consigo la humanidad, habr valido la pena. De lo contrario, mi lucha terminar, y eso
tambin habr valido la pena.

Li-Hsing hizo algo que la asombr a ella misma. Rompi a llorar en silencio.