http://tecnologia.elderecho.com/tecnologia/internet_y_tecnologia/Robotica-Inteligencia-Artificiallegislacion-social-nuevo-ordenamiento_11_935305005.

html

Robtica e Inteligencia Artificial

legislacin social o nuevo ordenamiento
jurdico?
Por Javier Antonio Nisa vila

Comentar

o
o
o
o
o
o

| 30.03.2016

La inteligencia artificial y la robtica han sido siempre uno de los grandes anhelos de la
ciencia y del hombre. Los primeros intentos de adquirir dichos conocimientos y poder ser
aplicados nos remontan al siglo VIII con los hermanos Banu Musa, en lo que era la antigua
Persia. Los hermanos Banu Musa crearon sistemas basados en vlvulas presurizadas,

sistemas de control de presencia automatizados y sentaron las futuras bases de la ciencia

robtica con robots muy primitivos gracias a diferentes investigaciones e inventos que
actualmente se siguen utilizando. Los manuscritos persas facilitaron la creacin de los
primeros autmatas o robots en el siglo XII por parte del cientfico Al-Shaykh Ra'is alA'mal Badi' al-Zaman Abu al-'Izz ibn Isma'il ibn al-Razzaz al-Jazari, donde los
perfeccionara con sus autmatas. Aquellas bases puestas por los hermanos Banu Musa;
creando robots que servan t y otras bebidas fras o calientes, as como tambin cantaban y
simulaban la voz humana, pudiendo reprogramarse mediante discos perforados en el ao
1232. Todos estos manuscritos que ellos elaboraron estuvieron siglos en el olvido hasta su
redescubrimiento en el siglo XVI.
Estas bases cientficas nos hablan de ms de 1000 aos de antigedad en un campo donde
cada vez nos encontramos ms cerca de conseguir el sueo de la ciencia y la humanidad;
crear un robot con plenas capacidades asemejadas a las humanas.
Pero todo ello implica cambios legales, sociales, morales, cientficos e incluso ticos. Todo
el desarrollo tanto industrial como cientfico se encuentra actualmente regulado, pero
nicamente bajo el prisma de conseguir un standard de calidad internacional en sus
respectivos campos sin atender a ningn otro criterio como principal vertebrador. La
robtica es muy diferente; mucho ms avanzada y se inmiscuye en ms campos de la vida
cotidiana de todos los ciudadanos, y sobre dicho aspecto se necesita crear una conciencia
social entorno a este campo de investigacin con una nueva conciencia jurdica. La gran
pregunta antes de seguir no es que legislacin puede regular eso sino:
Qu entendemos por robtica? Es la robtica el principal prisma bajo el que hay que
legislar, o existen otras variables ms importantes? Influye en algo el concepto inteligencia
artificial o la singularidad?
Para empezar, deberamos definir tanto sociolgicamente como jurdicamente que es un
robot o la robtica. Sociolgicamente la robtica sera todo aquello incapaz de aparecer de
manera espontnea fuera del hbitat del ser humano o de cualquier derivacin de dicho
hbitat y que tiene una relacin socio-tcnica con los integrantes de una sociedad y presenta
profundas interacciones con los mismos.
La definicin jurdica de robtica es ms compleja de lo que parece, puesto que
prcticamente no existe una legislacin exacta en ningn pas que defina qu es un robot
ms all de un vago concepto jurdico que tenemos derivado de la maquinaria actual
existente en cadenas de montaje o temas sanitarios o militares; donde dicha maquinaria
podra considerarse un robot. Pero un robot dentro del escaln ms bajo en robtica al ser
nicamente maquinaria sofisticada. La ciencia robtica va mucho mas all y de la esfera
jurdica se debera de esperar lo mismo.
Para poder definir jurdicamente lo que es un Robot antes debemos ver qu legislacin
existe a diferentes niveles, su mbito de referencia y cmo nos afecta, nacional o
internacionalmente.

En primer lugar, y la primera en regular de forma industrial la robtica atendiendo a

conceptos nicamente de seguridad industrial, de salud en el trabajo y calidad de
fabricacin fue el organismo internacional no gubernamental ISO. Las normativas ISO ms
destacables son las ISO 10218-1:2011, Robots and robotic devices Safety requirements
for industrial robots, pasando por la ISO 13855, Safety of machinery Positioning of
safeguards with respect to the approach speeds of parts of the human body y la ISO/TS
15066:2016(en) Robots and robotic devices Collaborative robots.
En esta normativa nos encontramos con cientos de normas relativas a calidad de
fabricacin, atendiendo nicamente a medidas y capacidades relativas a seguridad
industrial y salud en el trabajo; donde se parte de la base de que no son maquinas
autnomas o inteligentes sino controladas directa o indirectamente por operarios, es decir,
no cuentan con ningn tipo de inteligencia artificial. ISO tiene como normativa
certificadora a nivel industrial la previsin y prevencin de incidentes por fallos mecnicos,
niveles de presin de la maquinaria respecto al operario en el caso que la manipule, para no
daar a dicho operario en caso de fallo mecnico o al usuario final al que se le presta el
servicio; a cuyo caso se refiere la ISO/TS 15066:2016 sobre robtica colaborativa, que est
enfocada principalmente al sector sanitario.
ISO solo define cuestiones industriales, no tiene capacidad normativa y son certificaciones
comerciales de carcter privado que nicamente otorgan parmetros de calidad relativa a
investigaciones sin carcter vinculante a nivel estatal ni jurdico, en materia de calidad en
los servicios o en productos elaborados; por lo que es una perfecta declaracin de
intenciones revestida del aura de una institucin de un calado importante.
No obstante el anlisis y aplicacin de las normas ISO solo es una de las partes que se
necesitan para una definicin jurdica concreta y correcta de Robot y robtica.
Podemos acudir antes de definir dicho concepto a las actuales legislaciones exclusivas en
materia de robtica. La primera en analizar; Corea del Sur, con la primera legislacin
bsica real sobre robtica del mundo, donde nos habla por primera de vez de la relacin
maquina-hombre-mquina nicamente desde el prisma de una regulacin jurdica y
vinculante a todos los sectores involucrados en el diseo, fabricacin, utilizacin y
desmantelamiento de robots.
Estamos hablando de la Korean law on the development and distribution of intelligent
robots (2005) y de la Legal Regulation of Autonomous Systems in South Korea de 2012,
ambas junto con las diferentes guas creadas en Japn; Guidelines to Secure the Safe
Performance of Next Generation Robots y la New Robot Strategy - Japans Robot Strategy
- Vision, Strategy, Action Plan y la Headquarters for Japans Economic Revitalization de
Febrero de 2015 y en la Unin Europea con la Regulating Robotics: A Challenge For
Europe, propuesta sin actual correspondencia legal presentada por un proyecto financiado
por la Unin Europea para evaluar la necesidad de regulacin legal ante el Directorate
General For Internal Policies Policy Department C of European Union: Citizens' Rights
And Constitutional Affairs Legal Affairs en 2014; forman el actual ordenamiento jurdico
existente a nivel mundial.

Corea del Sur y Japn son los nicos pases que cuentan realmente con una primera
legislacin sobre robtica e interaccin humana e impacto social, a priori; en cambio la
Unin Europea se centra ms en la standarizacin de patrones industriales aplicados a los
actuales sectores donde existe robtica como concepto de ayuda humana al desempeo de
tareas, que no el verdadero concepto que utilizan Corea del Sur y Japn en sus
legislaciones. Primero vamos a realizar varias distinciones conceptuales previas antes de
pasar a definir legalmente qu es un robot en los diferentes ordenamientos jurdicos; donde
s recogen esta definicin.
Antes de nada se debe diferenciar entre cuatro conceptos, niveles o categoras de robots
existentes a regular jurdicamente para poder alcanzar a generar una correcta definicin que
abarque completamente su naturaleza jurdica. Estamos hablando de sistemas inteligentes
programados, Robots no autnomos, el concepto robots autnomos e Inteligencia
Artificial:
- NIVEL 1: Sistemas inteligentes programados son, segn la Robot Strategy de Japn y
el proyecto Regulating Robotics: A Challenge For Europe de la Unin Europea, aquellas
mquinas que llevan integrados sistemas robticos que ayudan a sus operadores o dueos a
realizar tareas automatizadas, pero que no son en s mismo robots por resultar nada ms que
un pequeo sistema robtico integrado dentro de otro no robtico donde predomina este
ltimo. (P.ej: Coches autnomos).
- NIVEL 2: Robots no autnomos, segn la Korean law on the development and
distribution of intelligent robots de Corea del Sur, son aquellos que en su totalidad a nivel
de construccin industrial son robots y se dedican a realizar tareas programadas simples sin
necesidad de asistencia humana, y que con mayor o menor medida son capaces de tomar
decisiones mecnicas vinculadas exclusivamente a su tarea ante imprevistos o situaciones
de contingencia. (P.ej: robtica sanitaria, asistencia en el hogar, limpieza automtica en el
hogar...)
- NIVEL 3: Robots autnomos son, segn la Korean law on the development and
distribution of intelligent robots de Corea del Sur, la Robot Strategy de Japn y Legal
Regulation of Autonomous Systems de Corea, aquellos que tienen capacidad de desarrollar
tareas encomendadas complejas, listando las mismas, priorizando y tomando o creando sus
propias decisiones con libertad dentro de su mbito de trabajo, en base a unos objetivos
encomendados sin necesidad de asistencia humana, con suficiente autonoma para que en
base a una orden dada por un operador humano realizar las tareas segn lo considere ms
adecuado o efectivo para el cumplimiento de dicho objetivo, y teniendo siempre como base
ltima la proteccin de productos o maquinarias y de usuarios o humanos como primer
objetivo subyacente. (P.ej: Sistemas de diseo industrial autnomo, de navegacin areo
automatizado, ferroviario)
- NIVEL 4: Inteligencia Artificial es el ltimo nivel y el mayor dentro de la evolucin en
robtica donde, segn la Korean law on the development and distribution of intelligent
robots de Corea del Sur y la Robot Strategy de Japn, ambas legislaciones vigentes, son
aquellos sistemas mecnicos que perciben el ambiente externo por s mismo sin necesidad
de rdenes preprogramadas externas, con capacidad para discernir diferentes circunstancias

que acontezcan a su alrededor y con capacidad para moverse de forma voluntaria.

Asimismo los sistemas de inteligencia artificial deben de obedecer tanto rdenes de otros
sistemas de inteligencia artificial como las humanas que interaccionan con l. La Robtica
basada en inteligencia artificial debe obedecer a un estructurado sistema jurdico
organizado bajo un cdigo de conducta establecido para las personas implicadas en el
desarrollo, fabricacin y uso de robots inteligentes con el fin de prevenir diversos tipos de
efectos nocivos o perjudiciales que pudieran surgir del desarrollo de las funciones del
desempeo de la inteligencia artificial en robots inteligentes (actualmente no existe ningn
robot con estas caractersticas pero tanto Corea como Japn ya lo tienen regulado
legalmente y estn iniciando estudios sociolgicos a la poblacin).
La pretensin es prevenir la destruccin del orden social derivado de dicha revolucin
industrial y social, estimulando nicamente a la robtica como sustituto masivo en todos los
mbitos. Se pretende mediante un estructurado sistema jurdico muy metdico que los
robots inteligentes contribuyan a la mejora de las condiciones de vida de los seres humanos
y de los propios robots, creando un ambiente socialmente correcto entre robots y seres
humanos y sin diferencias en ningn estadio.
De esta forma podemos definir legalmente a la robtica como el compendio de
mecanismos, hardware y software con capacidad de toma de decisiones asistida o no
asistida para el desarrollo de tareas y funciones programadas por un operador humano, el
desarrollo de tareas indicadas por seres humanos o ejecucin de tareas, incluyendo a
aquellos que, con condiciones de funcionamiento bajo libre albedro y programados bajo
inteligencia artificial, sean capaces de seguir unos objetivos; siempre en todo caso para
fines socialmente correctos no violentos, ni nocivos; ni para humanos ni para los propios
robots. (Roboethics Roadmap - partners European Robotics Research Network/Japan/Korea
y toda la legislacin anteriormente citada).
Una vez hemos unificado en una sola definicin el concepto de robtica que existe disperso
entre la Unin Europea, Corea y Japn, tenemos que pasar a evaluar y analizar de los cuatro
grupos de robots, qu se ha legislado ms all del simple concepto jurdico por parte de los
ejecutivos de dichos territorios.
Podemos decir, sin posibilidad de equivocaciones, que la regulacin legal en todos los
legisladores indicados y obviando la correcta jurdica definicin elaborada sobre robtica
por sus legislaciones; no va al final ms all de una mera regulacin tcnica sobre diseos
industriales bsicos en materia de robtica no autnoma o sistemas inteligentes
programados; entrando solo en campos como el de los drones, vehculos autnomos,
maquinaria mdica o domstica y normativas legales tcnicas en materia de utilizacin de
radiofrecuencia y espacio radioelctrico. Solo evalan medidas de prevencin de mal
funcionamiento de maquinarias o de limitaciones de presin en caso de contacto humano
para los robots algo ms evolucionados que puedan tener un comportamiento errneo por
fallo mecnico de sus sistemas.
En ningn momento nadie entra ms all de dichos conceptos, remitindose en el caso de
Japn a las normativas ISO como elementos inspiradores para el inicio de la elaboracin de
normativa ms profunda. Posteriormente, tras un anlisis sociolgico, evolucionara dicha

legislacin y se completara para todos los estadios de la robtica en base al impacto de

dicha tecnologa en el ser humano.
Para ello Japn crea una agenda 2015-2019 para un desarrollo jurdico completo en la
materia, pero a da de hoy no han comenzado los trabajos y se encuentra en la fase
preliminar de discusin conceptual de qu necesidades jurdicas reales existen entorno a
dicho campo de investigacin. La problemtica sobre la influencia en la economa y el
recelo a legislar sobre un campo que acabara limitando las capacidades de investigacin
por la puesta en vigor de normativas estatales e internacionales, est retrasando la tarea.
Para Corea, el desarrollo es similar, pero en lugar de remitirse a normativas ISO se remiten
a su propia normativa de control y fabricacin industrial, exigiendo que cualquier empresa
debe encontrarse acreditada antes de iniciar ninguna investigacin o fabricacin por el
organismo estatal responsable, y no entrando en ningn aspecto ms profundo actualmente
en su legislacin.
Tanto Corea como Japn coinciden en sus dos grupos de investigacin legal que las
relaciones sociales robot-humano y su regulacin legal es necesaria para que la robtica no
provoque daos econmicos, sociales, laborales o fsicos por defectos de fabricacin o
problemas derivados de la programacin en inteligencia artificial. El ordenamiento jurdico
necesita de nuevas leyes y contenidos jurdicos que organicen correctamente dicho campo
de desarrollo con presencia en su estructura social del concepto de robtica avanzada con o
sin inteligencia artificial.
No obstante, todos los pases no se quedan en la superficie, y algunos pases como Taiwan,
consideran que antes de lanzar normativas que conlleven una expectacin meditica
prefieren realizar una labor de investigacin conjunta entre diferentes dispositivos y
disciplinas que a priori parecen diferentes. Taiwan desarrolla una labor de investigacin en
este campo entre el Ministerio del Interior Taiwans, el National Nano Device Laboratories
(NDL), el Departamento de Ciencias de la Computacin de la Universidad Nacional de
Chiao Tung y la National Taiwan University College of Law en Taipei, los cuales
consideran necesario realizar lo que es la ms acertada lnea de desarrollo legal en este
campo bajo mi punto de vista.
El sistema que est actualmente desarrollando el grupo de investigacin en robtica-legal
de Taiwan es una triple va de desarrollo legislativo basada en niveles de conceptualizacin
legal:

Primer nivel de investigacin e implantacin: investigacin y desarrollo legal

bsico completo en materia de robtica en sus cuatro campos de actuacin
descritos.

Segundo nivel de investigacin e implantacin: investigacin y desarrollo legal

en materia de tecnologa legal e ingeniera.

Tercer nivel de investigacin e implantacin: investigacin y desarrollo de

campos tcnicos en ingeniera vinculados a la interpretacin tcnica de tecnologa
legal.

Las tres vas de investigacin funcionan en cascada. La teora doctrinal generada por los
juristas Taiwaneses indican que es necesaria la colaboracin indisoluble para el futuro de
tres equipos tcnicos que funcionen casi de forma jerarquizada y de tres disciplinas
entrelazadas. Primer Nivel: juristas especializados en tecnologas avanzadas, segundo nivel:
juristas especializados en robtica y en este caso con conocimientos de ingeniera y tercer
nivel: Ingenieros informticos y robtica con nociones en derecho.
Las normas iran desde el primer nivel que las disea en su estructura (legislacin bsica),
el segundo que las define hasta su total especificidad ms nfima y genera un documento
llamado Legal Natural Language, que ser el que siente las bases tecnolegales con todos
los parmetros normativos y jurdicos as como especificaciones tcnicas bsicas para el
desarrollo en el tercer nivel (legislacin de desarrollo); y un tercer nivel que desarrolla en
base al Legal Natural Language todo el desarrollo en robtica, que generar a la misma
vez su propio documento y tcnica de programacin-legal llamada Legal Machine
Language, que sera un lenguaje de programacin nuevo y especial, creado expresamente
para programar robtica legal de todos los niveles pero sobre todo del nivel 3 y 4, que son
lo realmente complejo y peligroso.
Los conceptos sobre los cuales se trabaja actualmente son los del primer nivel, pero con un
desarrollo real ms all del simple concepto jurdico, algo totalmente completo en todos los
mbitos, sentando las bases jurdicas (legislacin de bases) sobre las cuales se desarrollar
toda la normativa de construccin de robtica, con la firme intencin de generar una
regulacin legal donde situar todas los escenarios posibles.
No obstante, lo de Taiwan, aunque es una va muy interesante y la ms adecuada, no deja
de ser un proyecto que todava no tiene transposicin legal en el ordenamiento jurdico,
pero que es ejemplo a seguir para todos los legisladores nacionales e internacionales. El
concepto multidisciplina como mtodo de trabajo para desarrollar normativa ms
adecuada.
Todava queda mucho recorrido en robtica y ms en inteligencia artificial, pero vista la
velocidad del desarrollo tecnolgico y la investigacin, es necesario ahora ms que nunca
que, desde el punto de vista de el Derecho se forme a una nueva generacin de Juristas y
Abogados que de forma progresiva irn caminando a una sociedad donde la robtica y la
inteligencia artificial acabar compartiendo con nosotros el da a da, creando una gran
revolucin social e industrial.
Pero ello genera muchas incertidumbres y necesidades en todos los campos legales, desde
la construccin, interaccin social, generacin de datos y tratamiento, interaccin humana,
tratamiento laboral, incluso seguridad ciudadana y robtica, dado que la investigacin
pretende crear sistemas inteligentes, autnomos y libres. Aunque parezca ciencia ficcin, es

una gran realidad que en algunos aos estar entre nosotros y como indica el grupo de
trabajo legal en robtica del gobierno de Japn en 2015:
Necesitaremos medios y sistemas donde en caso de que un robot provoque algn dao a
humanos, derivado de fallos, o intencionadamente; podamos desconectarlo con la total
seguridad, sin temores de que l mismo, y empujado por el afn de investigacin de los
humanos no hayamos creado sistemas que se salten todas las normas de convivencia entre
robots y humanos. No nos olvidemos que estamos creando sistemas para que nos ayuden;
no estamos creando vida. Para ello necesitamos una legislacin que alinee todos los
intereses y delimite en base a una conciencia de especie donde se encuentran los lmites a
la robtica como ciencia amparada bajo un prisma jurdico del nuevo siglo.
Nos encontramos en un momento donde la Ley tiene que servir para su verdadera esencia
por la que naci, organizar socialmente los seres humanos para que todos podamos convivir
en armona y siguiendo una serie de pautas. Ahora sucede que estamos camino de la
llamada singularidad; donde tanto humanos como robots, vamos a convivir, dentro de un
ordenamiento jurdico, creado con nueva normativa legal para una nueva sociedad.