Personeria Juridica de Un Robot Inteligente

1
LA PERSONERÍA JURÍDICA DEL ROBOT INTELIGENTE, COMO SOLUCIÓN

A LAS CONTROVERSIAS DE RESPONSABILIDAD CIVIL
EXTRACONTRACTUAL EN LA LEGISLACIÓN COLOMBIANA
Fabián Camilo Castro Vargas1
Introducción – I. ¿EL DERECHO CIVIL COLOMBIANO DEBE ESTAR PREPARADO A

UNA NUEVA ERA TECNOLÓGICA, LA ERA DEL ROBOT INTELIGENTE? – 1. El
avance tecnológico y el derecho - 1.1. Conceptos generales - 1.1.1. Robot - 1.1.2.
Inteligencia artificial - 1.1.3. Robot inteligente - 1.2. La responsabilidad civil
extracontractual y él RI en nuestra vida diaria - 1.2.1. Vehículos autónomos - 1.2.2. Robots
asistenciales – I.I ¿Qué tipo de Responsabilidad Civil Extracontractual es aplicable al Robot
Inteligente en la legislación colombiana? - II. ¿QUÉ TIPO DE
RESPONSABILIDAD CIVIL EXTRACONTRACTUAL ES APLICABLE AL ROBOT
INTELIGENTE EN LA LEGISLACIÓN COLOMBIANA? – 2. Punto de partida de la
responsabilidad civil extracontractual aplicable al RI - 2.1. La responsabilidad civil aplicable
a un producto defectuoso – 2.2. La responsabilidad civil aplicable a el dueño de un animal -
2.3. La responsabilidad civil por actividades peligrosas - 2.4. El régimen de
responsabilidad civil extracontractual aplicable al RI - III. PERSONERÍA JURÍDICA DEL
ROBOT INTELIGENTE - 3. Principales razones de la personería jurídica del RI – 3.1
Razones complementarias de la creación de una Personería jurídica especifica del RI - 3.2.
Elementos de la Personería jurídica del RI - 3.2.1. Capacidad de ejercer derechos y contraer
obligaciones - 3.2.2. Personas propietarias - 3.2.3. Identificación, domicilio y actividad o
campo de acción - 3.2.4. Patrimonio social robótico - 3.2.5. Seguro Obligatorio - 3.2.6.
Elementos complementarios - 3.3. Registro del Robot inteligente - 3.4. ¿La personería
jurídica del RI desincentiva la innovación? – Conclusiones – Bibliografía.
1 Abogado de la Universidad Santo Tomas de Aquino; especialista en Derecho Comercial de la Universidad el Rosario;
especialista en Derecho de los Negocios Internacionales de la Universidad de los Andes. En la actualidad se desempeña
como Abogado Senior I de la Cámara de Comercio de Bogotá. Correo: fabic07@hotmail.com
2
Resumen
El exponencial avance de la tecnología trae consigo la incorporación del robot inteligente en
la vida diaria. La convivencia de estos robots con las personas generará daños imputables a
estos dispositivos. Por lo anterior, el derecho civil debe ser capaz de analizar estos daños,
estableciendo seguridad jurídica a través del régimen aplicable de responsabilidad civil
extracontractual. Sin embargo, esto no será suficiente para regular de manera satisfactoria los
retos planteados. En consecuencia, se hará necesario la creación de un tipo de personería
jurídica para el robot inteligente. Este artículo plantea que tipo de responsabilidad civil
extracontractual aplicar a los daños causados por el robot inteligente y, por qué debe crearse
una personería jurídica específica para este tipo de robots.
Palabras clave: Robot inteligente, robot, inteligencia artificial, responsabilidad civil
extracontractual, personería jurídica.
Abstract
The exponential advance in technology brings with it the incorporation of intelligent robots
in the daily life. The coexistence of these robots with people will produce certain damages
referable to these devices. Therefore, civil law must be able to analyze these damages,
establishing legal certainty through the applicable of non-contractual tort liability regime.
However, this will not be enough to regulate the challenges proposed. Consequently, it will
be necessary to create a type of legal status for intelligent robots. This article states what type
of non-contractual tort liability to apply to the damages caused by intelligent robots and why
a specific legal status must be created for this type of robots.
Keywords: Smart robot, robot, artificial intelligence, tort liability, personhood law.
3
Introducción
El ser humano ha creado y utilizado herramientas para facilitar la vida diaria desde el inicio
de los tiempos, dichas herramientas han posibilitado la facilidad en el desarrollo de labores,
han permitido acortar distancias, reducir gastos y conectar el mundo. En el transcurso de los
últimos años, se ha evidenciado un crecimiento exponencial en la invención, actualización y
tenencia de tecnología, hecho proporcional a la presencia de personas tecno-dependientes de
dispositivos móviles o portátiles.
Los robots no son una tecnología nueva para las personas, evidencia de esta afirmación son
la creación de las denominadas “Tokku”, implementadas desde el 2003 en Japón. “Tokku”
es el nombre que se le dieron a los espacios creados por las empresas para testear y evaluar
la convivencia de las máquinas con las personas2, por lo que en estas zonas las personas
pueden convivir con invenciones tecnológicas como vehículos autónomos o robots
asistenciales. De igual forma, en Estados Unidos incursionan en el uso de los robots y
prueban su autonomía en la comunidad3.
Este tipo de “experimentos sociales” han generado consecuencias fatales en algunos casos,
por ejemplo, el accidente causado por un automóvil autónomo que causó el fallecimiento de
una mujer en Tempe Arizona4. En la situación previamente mencionada, los fiscales del caso
no imputaron cargos a Uber empresa propietaria del automóvil, toda vez que, la conductora
de respaldo presente en el vehículo se encontraba distraída con su teléfono y no reaccionó al
suceso5, de manera que hubo negligencia de la conductora de respaldo6. Sin embargo,
2 Yueh-Hsuan Weng et al., «Intersection of “Tokku” Special Zone, Robots, and the Law: A Case Study on Legal Impacts
to Humanoid Robots», International Journal of Social Robotics 7, n.o 5 (noviembre de 2015): 841-57,
https://doi.org/10.1007/s12369-015-0287-x.
3 Sandra Arteaga, «Estados Unidos abre el camino a los coches sin conductor de entrega a domicilio», ComputerHoy, 6 de
febrero de 2020, https://computerhoy.com/noticias/motor/coche-autonomo-sin-conductor-entrega-domicilio-nuro-r2-

577103.
4
«Muere mujer en accidente con carro autónomo de Uber», accedido 12 de diciembre de 2019,
https://www.semana.com/tecnologia/articulo/muere-mujer-en-accidente-con-carro-autonomo-de-uber/560883.
5 «Uber no tiene responsabilidad penal en caso de accidente con carro autónomo - Novedades Tecnología - Tecnología -
ELTIEMPO.COM», accedido 12 de diciembre de 2019, https://www.eltiempo.com/tecnosfera/novedades-tecnologia/uber-

no-tiene-responsabilidad-penal-en-caso-de-accidente-con-carro-autonomo-334614.
6 Sean Hollister, «Uber won’t be charged with fatal self-driving crash, says prosecutor», The Verge, 5 de marzo de 2019,
https://www.theverge.com/2019/3/5/18252423/uber-wont-be-charged-with-fatal-self-driving-crash-says-prosecutor.
4
posteriormente dentro de la investigación pertinente, se puso a conocimiento que el vehículo

pudo detectar al peatón que cruzaba la calle con 5 o 6 segundos de anterioridad, pero no logró
iniciar el frenado gradual ni la alerta auditiva, debido a que clasificó lo detectado de forma
errónea. Por otro lado, la empresa confesó que había desactivado el sistema de frenado de
emergencia automático para evitar conflictos en la conducción7. Dado los hechos de la
investigación, la empresa proveedora del vehículo, fue acusada de no disponer de un
documento normativo que describiera el plan de seguridad para estos casos. A pesar de que,
la empresa argumentó si contar con los procedimientos, prácticas y políticas de seguridad,
aceptó que no contaba con un plan formal para accidentes8, por lo que se concluyó el caso en
un acuerdo entre la empresa y la familia de la víctima. Consecuentemente a este
desafortunado hecho, la empresa detuvo las pruebas de auto-conducción que estaban
llevando a cabo9.
Dada la relevancia de este tipo situaciones, diferentes jurisdicciones han adoptado diferentes
medidas, por ejemplo, el Parlamento Europeo expidió una serie de recomendaciones
destinadas a la Comisión sobre normas de Derecho Civil en robótica. En dicho documento,
expone considerandos en razón a estos robots con capacidad de realizar actividades
consideradas humanas y los nombró robots inteligentes10.
A continuación, se describen las diferencias en la definición entre robot y robot inteligente:

el robot puede definirse como una máquina con la capacidad de realizar tareas de forma
automatizada y autónoma del control humano11. La autonomía presupone que este no
requiere del control de una persona para realizar su actividad12. No obstante, esta cualidad
también la tienen los dispositivos móviles para actualizarse o las máquinas que proporcionan
7 Andrew J. Hawkins, «Serious safety lapses led to Uber’s fatal self-driving crash, new documents suggest», The Verge, 6
de noviembre de 2019, https://www.theverge.com/2019/11/6/20951385/uber-self-driving-crash-death-reason-ntsb-
dcouments.
8 Hawkins.
9
Hawkins.
10 «INFORME con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica», accedido 4
de diciembre de 2019, http://www.europarl.europa.eu/doceo/document/A-8-2017-0005_ES.html.

11 Erica Palmerini, «Robótica y derecho: sugerencias, confluencias, evoluciones en el marco de una investigación europea»,
Revista de Derecho Privado, n.o 32 (1 de julio de 2017): 53, https://doi.org/10.18601/01234366.n32.03. 65

12 RAE- ASALE y RAE, «autonomía | Diccionario de la lengua española», «Diccionario de la lengua española» - Edición
del Tricentenario, accedido 5 de diciembre de 2019, https://dle.rae.es/autonomía.

5
el tiquete de pago a la entrada de un parqueadero. En contraste, el robot inteligente (RI)13

está dotado de inteligencia artificial, toma decisiones, altera y actúa en el mundo físico sin
contar con ningún tipo de control humano permanente14, es capaz de aprender conforme a la
experiencia y no tiene vida biológica15, en otro orden de ideas, el RI es capaz de emular al
ser humano en las actividades para la cuales se programa16.
Al ser el RI capaz de tomar decisiones basadas en auto-aprendizaje, se pueden generar

situaciones perjudiciales, contrarias a los propósitos del propietario o la finalidad del
programador17, de modo que, el RI puede causar perjuicios sin que su software, hardware o
demás componentes presenten alguna falla, ni la negligencia de las personas que interfieren
en su construcción, entrenamiento o mantenimiento18. Dada la definición del RI, se genera la
siguiente pregunta: ¿el RI debe ser considerado un objeto o un sujeto de derechos?19
La naturaleza del RI basada en algoritmos prediseñados que le permite tener la capacidad de

tomar decisiones que podrían eventualmente generar un “daño” a las personas, lo hace
jurídicamente relevante. Por ejemplo, si en nuestro país un RI es programado para asistir a
una persona en la realización de la limpieza de su lugar de vivienda y durante la ejecución de
su tarea lastima a un menor de edad ocasionándole lesiones graves, el derecho civil debe
examinar si esta situación tiene o no implicaciones jurídicas.
Es imperativo analizar si las normas existentes dentro de la legislación civil colombiana,

específicamente dentro de la responsabilidad civil extracontractual, pueden aplicarse a este
tipo de circunstancias. En caso de no ser aplicables, se debe considerar si las normas deben
ser reformadas o es necesario crear una regulación que brinde una respuesta satisfactoria
13 Robot inteligente, de ahora en adelante RI.

14 María José Santos González, «Regulación legal de la robótica y la inteligencia artificial: retos de futuro = Legal regulation
of robotics and artificial intelligence: future challenges», Revista Jurídica de la Universidad de León, n.o 4 (20 de diciembre
de 2017): 25, https://doi.org/10.18002/rjule.v0i4.5285.
15 «INFORME con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica».
16 Francisco y Oscar LLedó y Monje, «RETOS DE NUESTRO TIEMPO LA CRIÓNICA EN SERES HUMANOS. EL
DEBATE DE LA PERSONA ELECTRÓNICA Y LA REVOLUCIÓN ROBÓTICA», Julio-diciembre de 2018 13 (julio de

2018): 8.
17 Martin Ebers, «La utilización de agentes electrónicos inteligentes en el tráfico jurídico: ¿Necesitamos reglas especiales
en el Derecho de la responsabilidad civil?», 2016 3 (s. f.): 22.

18 Javier Ercilla García, Normas de Derecho Civil y Robótica, Primera (Pamplona: Aranzadi, 2018).
19 Alfonso Celotto, «Derechos de los robots», Derechos en Acción 11, n.o 11 (19 de julio de 2019): 271,
https://doi.org/10.24215/25251678e271.
6
estas situaciones. En consecuencia, el problema jurídico que se desea resolver en el desarrollo

de esta investigación es: ¿la legislación civil colombiana puede resolver las controversias
de responsabilidad civil extracontractual causadas por un RI? de ser así, ¿qué tipo de
responsabilidad civil extracontractual se debe aplicar y a quién debe aplicarse?
Para resolver el problema jurídico planteado, primero se analizarán los posibles escenarios
en los cuales los RI pueden llegar a interactuar con las personas, luego, se detallará la
aplicación de las normas sobre responsabilidad civil extracontractual en los casos en que el
RI cause un perjuicio y finalmente, se argumentará la necesidad de otorgar una personería
jurídica al RI, sus posibles beneficios y las características propuestas.
Es importante recalcar los límites de esta investigación. De esta forma, a lo largo del texto se
mencionarán algunos temas y conceptos que merecen un desarrollo particular, pero que, para
efectos de esta investigación, solo se describirán someramente. Es el caso de la intersección
entre la protección de datos personales y los datos recolectados por el RI; la responsabilidad
contractual de un RI, y, los riesgos del uso de inteligencia artificial. Tampoco se abarcará los
impactos del RI en el marco de las diferentes ramas del derecho, además de no contener
temas técnicos o de funcionamiento sobre el uso de todo tipo de robots.
Ahora bien, el lector puede encontrar en el artículo académico, el porqué de la relevancia en

la legislación civil de la responsabilidad extracontractual del RI, el régimen que se considera
aplicable a los casos donde el RI genere un daño o perjuicio por relacionarse en comunidad
y, la argumentación de la necesidad de establecer la personería jurídica del RI, junto con sus
principales características y conveniencia
7
I. ¿El derecho civil colombiano debe estar preparado a una

nueva era tecnológica, la era del robot inteligente?
1. El avance tecnológico y el derecho
En el transcurso del desarrollo de la historia humana, el ser humano ha creado y utilizado

herramientas que le han permitido simplificar su rutina diaria y modificar su relación con el
entorno. Estos inventos han permitido cambiar la forma de cómo los seres humanos conviven,
coexisten20 y han generado revoluciones industriales que han afectado la vida como se
conocía21.
Las revoluciones industriales fueron producidas por la creación de nuevas tecnologías y su

consecuente cambio en la perspectiva de cómo se percibe el mundo. Este cambio de
perspectiva afectó proporcionalmente los sistemas económicos y sociales de cada época22.
La primera revolución industrial fue incentivada por la invención del motor a vapor, la
segunda por la aparición de la electricidad y la tercera, por los computadores y el internet 23.
Estos cambios no son ajenos al derecho y a las leyes, toda vez que deben atender las
regulaciones de los sistemas económicos y las estructuras sociales, para mantener un
equilibrio y brindar seguridad en las relaciones jurídicas.
Un factor común en las revoluciones industriales fue el exponencial crecimiento de la

tecnología, lo que causó una forzosa adaptabilidad de las personas a convivir con estas
máquinas, que subsiguientemente desembocó en la generación de valores agregados,
optimización de los procesos y aumento de la eficiencia en el desarrollo y ejecución de
diferentes procesos24.
Dado el nacimiento de relaciones no contempladas con anterioridad, todas estas revoluciones

generaron un cambio en la perspectiva jurídica. Un ejemplo de ello fueron los retos jurídicos
20 Klaus Schwab, «La cuarta revolución industrial-Klaus Schwab», La cuarta revolución industrial, World Economic Forum,
1 de noviembre de 2016, https://es.weforum.org/agenda/archive/fourth-industrial-revolution/.
21 Schwab.
22 Schwab.
23 Schwab.
24 Luis Cevasco y Juan Gustavo Corvalán, Inteligencia Artificial y trabajo, 1.a ed. (Buenos Aires: ASTREA, 2019)., 25-28
8
producidos por el internet. La cuarta fase de la revolución industrial posiblemente tendrá una
evolución similar, en la medida que traerá la incorporación de fábricas inteligentes dotadas
de robots que seguramente producirán cambios en la organización del trabajo, que a su vez
forjarán nuevos retos para el derecho25.
La tecnología avanzada es una realidad tangible, las personas se relacionan con

computadores, celulares y máquinas que condensan algoritmos capaces de efectuar
procedimientos ágiles y de gran dificultad. Estas invenciones tecnológicas deben basarse en
principios axiológicos y éticos, que permiten plasmar cuestionamientos respecto a los efectos
producidos por la tecnología y supone interrogantes referentes a la supervivencia del hombre
en la naturaleza26.
La desmesurada inversión e innovación tecnológica posibilitará la relación de personas con

el RI, que es capaz de interactuar con su entorno sin la intervención humana27. Está
convivencia ya ha preocupado a diferentes entes, como el Parlamento Europeo, el cual
expidió una serie de recomendaciones destinadas a la Comisión sobre normas de Derecho
Civil en la robótica, basadas en la convivencia de las personas con los RI28. A pesar de las
lógicas preocupaciones, el universo jurídico no debe evitar o restringir el avance de la
tecnología, por el contrario, está en la obligación de potenciar y facilitar el crecimiento
tecnológico. Sin embargo, corresponderá al Estado regular los impactos generados por la
implementación de las nuevas tecnologías y fenómenos de automatización29. El derecho en
general, enfáticamente el derecho civil, deberá cuestionarse si los mecanismos actuales,
pueden ser aplicables a la convivencia rutinaria.
25 Pascual Raymundo Amézquita Zárate, «THE FOURTH INDUSTRIAL REVOLUTION AND SOME IMPLICATIONS
IN BUSINESS SCHOOLS», 2018, 16.191
26 Antonio Luis Terrones Rodríguez, «Inteligencia artificial y ética de la responsabilidad», Cuestiones de Filosofía 4, n.o 22
(7 de agosto de 2018), https://doi.org/10.19053/01235095.v4.n22.2018.8311.

29 Ryan Abbott y Bret Bogenschneider, «Should Robots Pay Taxes? Tax Policy in the Age of Automation», SSRN Electronic
Journal, 2017, https://doi.org/10.2139/ssrn.2932483.

9
1.1. Conceptos generales

Es menester profundizar en los conceptos que permitan contextualizar sobre los avances
tecnológicos de los robots y sobre el prototipo de robot afín a las situaciones contempladas
en esta investigación.
1.1.1. Robot
Desde que se desarrollaron las primeras invenciones tecnológicas, el hombre ha fantaseado
con la existencia de arquetipos tecnológicos que interactúen naturalmente con la humanidad.
Desde ese entonces, la humanidad denominó con el vocablo robot a todas las máquinas que
pudieran tener este tipo de interacción30, así como a las máquinas humanoides que son
capaces de desarrollar las mismas actividades que las personas o aquellas capaces de percibir,
pensar y actuar como un humano31, este hecho se evidencia en las producciones
cinematográficas de ciencia ficción32. La palabra “robot”, es definida por el diccionario de
Oxford como: “Una máquina capaz de llevar a cabo una compleja serie de acciones
automáticamente, especialmente una programada por una computadora”33. Si bien, el
concepto robot no tiene una definición unificada, este es usado para definir las máquinas
capaces de interactuar con las personas de forma automática34. Para los fines de esta
investigación se adoptará la siguiente definición: máquina que tiene la capacidad de realizar
tareas de forma automatizada y autónoma del control humano35.
El robot está construido conforme tres actividades básicas: percibir, planificar y actuar36. Por
lo tanto, agrupa los robots grandes o pequeños que realizan cualquier clase de actividad para
la cual son programados como: trabajos industriales, de asistencia sanitaria o
30 La palabra robot es un término que fue utilizado por el novelista Karel Capek, derivación de la palabra “robot” que traduce
trabajo forzado en su obra Rossum's Universal Robots
31 Susana Navas Navarro, «SMART ROBOTS Y OTRAS MÁQUINAS INTELIGENTES EN NUESTRA VIDA
COTIDIANA», 2016, n.o 20 (s. f.): 82-109.

32 Navarro.
33 «Robot | Definition of Robot by Lexico», Lexico Dictionaries | English, accedido 26 de marzo de 2020,
https://www.lexico.com/en/definition/robot.
34 Palmerini, «Robótica y derecho».
35 Palmerini.
36 Navarro, «SMART ROBOTS Y OTRAS MÁQUINAS INTELIGENTES EN NUESTRA VIDA COTIDIANA».
10
entretenimiento37. Dada las propiedades inherentes al vocablo robot, esta palabra incorpora
desde un programa de software hasta un artefacto humanoide38.
Después de la creación del concepto robot, surgen las leyes de Asimov. Estas tres leyes,
creadas por el novelista Asimov están enfocadas en el comportamiento de las máquinas39 y
tienen un principio común: los robots actuarán siempre en cuidado de la humanidad,
prohibiéndoles dañar a una persona40. Estás normas constituyeron la base de la ética robótica
y desarrollo actual de sistemas autónomos41.
Dado que una de las cualidades más representativa del robot es la autonomía en la ejecución
de actividades, se hace necesario definir esta propiedad. La autonomía según la Real
Academia Española de la lengua (RAE) se define como: “una condición de quién para
42
ciertas cosas no depende de nadie y en el contexto de la robótica, se entiende como:
“libertad de control o influencia externa; independiente, en el mundo de los robots móviles
autónomos… significa que lleva a cabo su misión con una participación mínima de
personas”43. Por consiguiente, se evidencia que la autonomía no presupone inteligencia, un
robot puede desarrollar una función autónoma programada sin ser inteligente, por ejemplo:
el robot industrial encargado del ensamblaje automotriz44.
37 Moisés Barrio Andrés, «Robótica, inteligencia artificial y Derecho», 2018, n.o 103 (s. f.): 7.
38 Melo, Veronica, «El derecho ante la inteligencia artificial y la robótica», 6 de febrero de 2018, 276 edición, accedido 17
de febrero de 2020,
http://webcache.googleusercontent.com/search?q=cache:fGn4O4v1p0cJ:www.elderecho.com.ar/includes/pdf/diarios/2018
/02/06022018.pdf+&cd=1&hl=es-419&ct=clnk&gl=co.
39 José MARTÍNEZ DE Pisón, «YO, ROBOT: DE LA BIOLOGÍA A LA SINGURALIDAD. ¿NUEVAS PREGUNTAS
PARA LA FILOSOFÍA DEL DERECH O?» 15 (2017): 17.

40 Ronald Leenes y Federica Lucivero, «Laws on Robots, Laws by Robots, Laws in Robots: Regulating Robot Behaviour
by Design», Law, Innovation and Technology 6, n.o 2 (31 de diciembre de 2014): 193-220,
https://doi.org/10.5235/17579961.6.2.193.
41 «Qué dicen las tres leyes de la robótica de Isaac Asimov», Blogthinkbig.com (blog), 22 de febrero de 2017,
https://blogthinkbig.com/que-dicen-las-tres-leyes-de-la-robotica-de-isaac-asimov.
42
RAE- ASALE y RAE, «autonomía | Diccionario de la lengua española», «Diccionario de la lengua española» - Edición
del Tricentenario, accedido 5 de diciembre de 2019, https://dle.rae.es/autonomía.
43 Tony Melanson y vicepresidente de marketing-AETHON PUBLICADO 15/02/2018, «Augmented Autonomy – The
Future of Autonomous Machines», Robotics Online, accedido 26 de marzo de 2020, https://www.robotics.org/blog-

article.cfm/Augmented-Autonomy-The-Future-of-Autonomous-Machines/86.
44 «El Robot Industrial de Ensamblaje Automotriz», Motor y Racing, accedido 30 de marzo de 2020,
https://www.motoryracing.com/coches/noticias/el-robot-industrial-de-ensamblaje-automotriz/.
11
1.1.2. Inteligencia artificial

La discusión sobre la viable inteligencia del robot instaura la necesidad de profundizar sobre
los conceptos de inteligencia artificial (IA)45 y algoritmos. El concepto de IA fue inicialmente
utilizado por John McCarthy en una conferencia para la fundación Rockefeller en el año
195646. En la conferencia, este término fue usado para describir sistemas creados con la
capacidad de resolver problemas, que hasta ahora eran resueltos por los seres humanos47.
Subsiguientemente, Allan Turing desarrolla una prueba para detectar IA48. La prueba de
Turing se basa en la capacidad de la máquina en parecerse al ser humano y a pesar de que
aún es una prueba vigente, no se considera idónea para validar la inteligencia de una máquina,
dado que haría falta el componente de la comprensión y de la consciencia de la situación49.
La IA también se considera como el campo de la informática que trabaja en el desarrollo de

programas y mecanismos que pueden exhibir comportamientos considerados inteligentes50.
La IA comprende la idea de crear programas o máquinas capaces de desplegar acciones que
son consideradas inteligentes si las desarrolla un ser humano51. La inteligencia en los seres
humanos es un concepto con múltiples definiciones, sin embargo, todas concuerdan en que
contempla la capacidad de tomar decisiones o en otras palabras la consecución de objetivos52.
La IA tiene por objeto el estudio del comportamiento inteligente de las máquinas53.
Asimismo, la IA se basa en la aplicación de algoritmos y el uso de datos54. Los algoritmos

en informática se pueden definir como: “una secuencia de instrucciones secuenciales,
45 Inteligencia artificial, de ahora en adelante IA.

46 «Inteligencia Artificial, descubriendo a los pioneros – TELEFÓNICA BUSINESS SOLUTIONS CA», accedido 2 de
abril de 2020, https://telefonicabusinesssolutionsca.blog/inteligencia-artificial-descubriendo-a-los-pioneros/.
47 Francisca Fernández, «Robótica, inteligencia artificial y seguridad Cómo encajar la responsabilidad civil.», 25 de febrero
de 2019 9365 (25 de febrero de 2019): 13.

48 Manuel Alfonseca, «¿Basta la prueba de Turing para definir la “inteligencia artificial”?», Scientia et Fides 2, n.o 2 (24 de
noviembre de 2014): 129, https://doi.org/10.12775/SetF.2014.018.

49 Alfonseca.
50 «¿Qué es la inteligencia artificial?», Blog de Salesforce, accedido 2 de abril de 2020,
https://www.salesforce.com/mx/blog/2017/6/Que-es-la-inteligencia-artificial.html.
51
Terrones Rodríguez, «Inteligencia artificial y ética de la responsabilidad».
52 Miguel A. Salichs, María Malfaz, y Javi F. Gorostiza, «Toma de Decisiones en Robótica», Revista Iberoamericana de
Automática e Informática Industrial RIAI 7, n.o 4 (octubre de 2010): 5-16, https://doi.org/10.1016/S1697-7912(10)70055-

8.
53 Nils J Nilsson, INTELIGENCIA ARTIFICIAL una nueva síntesis (MC Graw Hill, s. f.).
54 INAP, «El impacto de la inteligencia artificial en el derecho administrativo ¿nuevos conceptos para nuevas realidades
técnicas?», accedido 5 de diciembre de 2019, http://laadministracionaldia.inap.es/noticia.asp?id=1509574.

12
gracias a la cual se pueden llevar acabó ciertos procesos y darse respuesta a determinadas
necesidades o decisiones”55. Los algoritmos son procedimientos que buscan encontrar
solución a un problema, para este fin, reduce el problema en sí a un conjunto de reglas,
transformando automáticamente los datos en resultados para lograr un objetivo56.
El uso de los datos es otro punto fundamental de la IA y depende de la capacidad de

almacenamiento de estos57. El desarrollo de la de la máquina será consecuente a su capacidad
de recolección de información de distintas fuentes, para su posterior procesamiento y
consecuente toma de decisión58, de tal forma que el análisis de datos facilita a la máquina, la
obtención de resultados59.
Actualmente, los algoritmos con mayor relevancia son los que posibilitan el aprendizaje
automático (Machine Learning)60. El aprendizaje automático se entiende como “la disciplina
científica del ámbito de la inteligencia artificial que crea sistemas que aprenden
automáticamente”61. La máquina que aprende es la que está dotada por este tipo de
algoritmos capaces de predecir comportamientos a raíz del estudio de los datos62. Por lo tanto,
las máquinas con algoritmos de aprendizaje automático tienen la capacidad de aprender del
análisis de datos para tomar decisiones propias63.
Existen dos tipos de IA: la IA limitada, la cual desarrolla tareas específicas y, por otra parte,
la IA completa, que pretende imitar la conducta de una persona al realizar tareas cognitivas64.
La IA avanza en el aprendizaje profundo, desde la percepción de la IA completa (Deep
Learning), por ejemplo: al usar estructuras lógicas asemejadas a la organización del sistema
55 «Algoritmo en Informática: Concepto, Partes, Tipos y Ejemplos», accedido 2 de abril de 2020,

https://concepto.de/algoritmo-en-informatica/.
56 INAP, «El impacto de la inteligencia artificial en el derecho administrativo».
57 Andrea Martínez Devia, «La inteligencia artificial, el big data y la era digital: ¿una amenaza para los datos personales?»,
Revista La Propiedad Inmaterial, n.o 27 (25 de junio de 2019): 5-23, https://doi.org/10.18601/16571959.n27.01.

58 Martínez Devia.
59
Martínez Devia.
61 «¿Qué es Machine Learning? – Cleverdata», accedido 2 de abril de 2020, https://cleverdata.io/que-es-machine-learning-
big-data/.
62 «¿Qué es Machine Learning?»
64 INAP.
13
nervioso con capas de unidades de procesos o neuronas artificiales65. Como se puede

evidenciar, este tipo de IA avanzada es el futuro del aprendizaje automático, al permitir imitar
el funcionamiento del sistema nervioso humano66.
El buscar imitar el pensamiento humano produce el surgimiento de la teoría de la

singularidad67. Está teoría contempla un mundo donde se fusiona la existencia biológica con
la tecnología, por lo que no hay distinción de seres biológicos y tecnológicos creando un
mundo indistinguible entre lo virtual y lo real68. La finalidad de la teoría de la singularidad
es la elaboración de máquinas capaces de imitar al ser humano incluso en su inteligencia
emocional69.
1.1.3. Robot inteligente

El concepto de RI adolece la misma problemática que el vocablo robot, dado que no hay una
definición parametrizada70. Está descripción del RI reviste importancia al ser la base de la
materia que se trata71, por lo que a continuación, se detallarán algunas definiciones y
características. El Parlamento Europeo solicita que se defina el RI conforme ciertas
características que se indican a continuación:
1.Capacidad de adquirir autonomía mediante sensores y/o mediante el intercambio de datos en su

entorno (interconectividad) y el intercambio y análisis de dichos datos.
2. Capacidad de autoaprendizaje a partir de la experiencia y la interacción (criterio facultativo).
3. Un soporte físico mínimo.
4. Capacidad de adaptar su comportamiento y acciones al entorno.
5. Inexistencia de vida en sentido biológico72.
65 Raúl Arrabales, «Deep Learning: qué es y por qué va a ser una tecnología clave en el futuro de la inteligencia artificial»,
Xataka, 29 de marzo de 2016, https://www.xataka.com/robotica-e-ia/deep-learning-que-es-y-por-que-va-a-ser-una-
tecnologia-clave-en-el-futuro-de-la-inteligencia-artificial.
66 Arrabales.
67
Pisón, «YO, ROBOT: DE LA BIOLOGÍA A LA SINGURALIDAD».
68 Pisón.
69
Miguel L. Lacruz Mantecón, «Cibernética y Derecho Europeo: ¿una inteligencia robótica?(», Diario La Ley,
n.o 9376 (2019): 2.
70 Santos González, «Regulación legal de la robótica y la inteligencia artificial».
71 Santos González.
14
Las anteriores características reúnen los conceptos de robot e inteligencia artificial de forma
generalizada, no obstante, al establecer que el RI requiere un soporte físico mínimo excluiría
la probabilidad de considerar el software como un RI. Convendría modificar esta
característica, en virtud de establecer un concepto de RI que agrupe todo tipo de dispositivo
capaz de emular el pensamiento humano73.
El RI es considerado un robot de cuarta generación, inteligente y con capacidad de convivir

con los humanos en lugares como la casa o el trabajo74, de tal forma que, el RI es capaz de
ejecutar actividades con multiplicidad de acciones interactuando con el entorno75. María José
santos define el RI como: “Aquella maquina física que de manera autónoma a través de
programas y sensores inteligentes pueda llegar a tomar decisiones basándose en la lógica e
inteligencia artificial prediciendo las necesidades de los humanos y de las situaciones en las
que se ven envueltos actuando, alterando e interactuando con el mundo físico, todo ello sin
estar sometidos al control continuo de los humanos”.
El concepto de RI de Santos se considera acertado, toda vez que, la característica que hace al
RI importante en el mundo jurídico, es la capacidad de emular la inteligencia de las personas
desarrollando actividades que hasta ahora eran exclusivas de los humanos76.
Para los fines de esta investigación se utilizará una definición propia: RI es aquel dispositivo
capaz de relacionarse con su entorno, es capaz percibir, planear y actuar, está dotado de
algoritmos de IA y aprendizaje automático y es totalmente autónomo de la intervención de
las personas. Como se puede evidenciar, no reviste mayor discrepancia de la definición de
Santos, la diferencia plausible está en conceptuarlo como “máquina física” dado que el RI
podría ser un software dotado con todas estas características77.
A continuación, se brinda un ejemplo para ilustrar el enfoque anterior: un robot brazo

mecánico de ensamblaje industrial para desarrollar su labor modifica su entorno, tiene
algoritmos que le permiten llevar acabo su actividad y es autónomo, pero, el brazo robótico

77 Melo, Veronica, «El derecho ante la inteligencia artificial y la robótica».
15
no tiene capacidad de auto aprendizaje, no puede auto programarse y requiere del ser humano
para la ejecución de su actividad. Desde otra perspectiva, un RI asistencial encargado del
cuidado de una persona de la tercera edad a través de auto-aprendizaje reconoce los efectos
secundarios de un medicamento A, por lo que toma la decisión autónoma de no suministrarlo
y reemplazarlo con uno equivalente que no ha evidenciado que genere efecto, con este
ejemplo se da énfasis en que los sistemas más avanzados no repiten instrucciones, son
capaces de adaptarse a las circunstancias78.
Robot Inteligencia
Robot Inteligente Artificial
Máquina que
realiza tareas de Comportamiento
forma automatizada inteligente de las
y autónoma del máquinas
control humano
Ilustración 1. Esquema robot inteligente. Elaboración propia.
1.2. La responsabilidad civil extracontractual y el RI en nuestra vida diaria

A pesar de que se tiende a pensar que las personas son las responsables de tomar decisiones,
los avances tecnológicos expuestos anteriormente suponen la intromisión de otros factores,
como los asistentes robóticos, capaces de generar decisiones que afectan la vida de los
individuos. Por ejemplo: “Roomba” un robot aspirador de la marca iRobot que facilita el aseo
del hogar, es competente para aprender, mapear y limpiar la vivienda por completo79, lo que
78 Andrés, «Robótica, inteligencia artificial y Derecho».

79 «Robots aspiradores Roomba | iRobot», accedido 5 de abril de 2020, https://www.irobot.es/roomba.
16
ratifica la posibilidad de que los RI pueden ser responsables de diferentes labores cotidianas,
que a su vez viabiliza el aumento de la relación con estas máquinas y, por ende, se podría
generar situaciones con repercusiones jurídicas. En definitiva, por las razones anteriormente
descritas, las personas relacionadas con el derecho deben tener consciencia de las situaciones
a los que se pueden enfrentar80.
Surgen diversas hipótesis de cómo abarcar la existencia del RI en el derecho, para solucionar
este predicamento, en primera instancia, Andrés Moisés propone una nueva rama
denominada “derecho de los robots”, en donde además de la normatividad civil, se encuentra
un espectro amplio que regula toda la materia81. De otro lado, la doctrina mayoritaria
considera que es conveniente evaluar los elementos existentes y verificar su efectividad en
la resolución de estos conflictos venideros, antes de incorporar un enfoque unitario82. El
enfoque unitario puede ser una opción válida y acertada, dado que la incorporación del RI en
la vida cotidiana debe estudiarse con la legislación existente para establecer las normas
aplicables, no obstante, estás pueden no ajustarse y, por ende, deberán ser sujetas de
modificación. Por consiguiente, el derecho y específicamente en esta investigación el
derecho civil, están en la obligación de responder regulatoriamente de forma adecuada a estos
sucesos.
Las normas unitarias o las aplicables no deben permitir exoneraciones de responsabilidad

para personas que se beneficien del RI83. Las innovaciones tecnológicas deben estar al
servicio de la humanidad, por esto, deben incluir principios y valores que la regulen hacia
este sentido84. El ser humano es y debe permanecer siendo el núcleo de la sociedad, por lo
que la tecnología está obligada a seguir este lineamiento.
80 Juan Francisco Sánchez Barrilao, «El Derecho constitucional ante la era de Ultrón: la informática y la inteligencia artificial
como objeto constitucional», Estudios de Deusto 64, n.o 2 (29 de diciembre de 2016): 225, https://doi.org/10.18543/ed-
64(2)-2016pp225-258.
82 Palmerini, «Robótica y derecho».
83 Gonzalo Quintero Olivares, «LA ROBÓTICA ANTE EL DERECHO PENAL: EL VACÍO DE RESPUESTA JURÍDICA
A LAS DESVIACIONES INCONTROLADAS», n.o 1 (2017): 23.12

84 «Rome Call for AI Ethics», Woman Essentia (blog), 10 de marzo de 2020, https://www.womanessentia.com/rome-call-
for-ai-ethics/.
17
En este sentido, el derecho civil debe cuestionarse si puede regular este tipo de relaciones y
los posibles perjuicios ocasionados por la interacción del RI en la comunidad. Además, hay
que enfatizar que, cuánto más sean las tareas ejecutadas por el RI más elevado será el riesgo
de resultados no deseados85. El grado de autonomía de estas máquinas puede ocasionar daños
inesperados86, por ejemplo: un RI de asistencia para el hogar, puede detectar en la comida
servida algún grado de descomposición, lo que podría generar que el RI aplique desinfectante
directamente al alimento, lo que podría generar que un visitante pueda intoxicarse y tener
graves repercusiones a nivel de salud. El RI habría funcionado bien, en el momento de tomar
la decisión optó por aplicar el desinfectante porque concluyo que esa cantidad eliminaría la
descomposición, la cual podría ser más dañina para quien la consumiera.
Teniendo en cuenta este enfoque, se origina la pregunta: ¿la legislación civil colombiana
actual puede resolver las controversias de responsabilidad civil extracontractual causadas por
un RI?, y de ser así, ¿qué tipo de responsabilidad civil extracontractual se aplicaría? Para
comprender la intromisión del RI en la vida diaria, se revisarán a continuación dos
actividades que actualmente ejecutan estas máquinas: los vehículos autónomos y los robots
asistenciales.
1.2.1. Vehículos autónomos

Los automóviles revolucionaron la movilidad, permitieron recorrer distancias más largas con
comodidad, y nos han generado un gran impacto a nivel cultural87. Los avances en la robótica
permiten que hoy se pueda hablar de coches autónomos88. Estos autos tendrán efectos en
cómo se concibe el transporte, cambiando el concepto de viaje89.
El desarrollo automotriz le apuesta a la autonomía, por ejemplo, la compañía Tesla trabaja

para que todos sus autos tengan piloto automático sin necesitar ninguna intervención del
conductor90. Otras compañías promotoras de la conducción robótica son Nuro y Waymo. La
85 Ebers, «La utilización de agentes electrónicos inteligentes en el tráfico jurídico».

86
Andrés, «Robótica, inteligencia artificial y Derecho».
87 Clara López-Basanta y Nayra Llonch Molina, «El automóvil como objeto de museo y su valor para el conocimiento de
la Historia. Primeros pasos hacia una aproximación didáctica del automóvil /», s. f., 11.
88 «El futuro de los coches autónomos y conectados», www.nationalgeographic.com.es, 12 de diciembre de 2018,
https://www.nationalgeographic.com.es/ciencia/actualidad/futuro-coches-autonomos-y-conectados_13619.
89 «El futuro de los coches autónomos y conectados».
90 «Piloto automático | Tesla», accedido 4 de diciembre de 2019, https://www.tesla.com/es_ES/autopilot.
18
primera es una empresa que tiene la finalidad de producir vehículos autónomos para
transportar mercancía local, los cuales se caracterizan por ser autónomos y no requieren
conductor; dado que su principal propósito es proteger a los agentes externos de choques o
colisiones de forma accesible91. La segunda es el proyecto de Google para vehículos
autónomos de transporte de personas, su misión es salvar miles de personas en las
carreteras92.
Así mismo, la compañía Uber está implementando automóviles autónomos con un conductor
de seguridad, sin embargo, el 19 de marzo de 2018 un automóvil fue causante del accidente
de una mujer, lo que posteriormente, generó su defunción93. Este suceso revela la complejidad
de la tarea de conducir, la cual no resulta tan objetiva y parametrizada como se pensaba. Esta
tarea no se enfoca únicamente en la comprensión de cómo funciona un vehículo, también
involucra la pericia al volante, la capacidad de reaccionar a lo inesperado, el reconocer y
analizar el entorno94. Sin duda, la tecnología podrá lograr que los vehículos autónomos sean
capaces de realizar todas las tareas anteriormente mencionadas, no obstante, al igual que un
humano, tiene la posibilidad de tomar una decisión errónea como en este caso.
Los vehículos autónomos aumentarán la seguridad en las carreteras, en razón a que reducen
las principales causas de accidentes, como la embriaguez, la desatención y la somnolencia95.
Pero, así mismo, aumentaran los riesgos propios de su uso, como la posibilidad de robo de la
información contenida en el software del vehículo, los accidentes en masa o cualquier otra
finalidad delictiva96.
Otro riesgo, es la imprevisibilidad dada cuando los algoritmos del robot tienen que tomar una
decisión con la información suministrada, pero la apropiada no coincide con la correcta
91 Para más información véase «Nuro — Product», accedido 4 de diciembre de 2019, https://nuro.ai/product.
92 «Mission», Waymo, accedido 4 de diciembre de 2019, https://waymo.com/mission/.
93 «Un coche autónomo atropella y mata a una mujer en Estados Unidos. Uber detiene todas las pruebas», accedido 4 de
diciembre de 2019, https://www.motorpasion.com/tecnologia/un-coche-autonomo-atropella-y-mata-a-una-mujer-en-

estados-unidos-uber-detiene-todas-las-pruebas.
94
Juan José Martínez Mercadal, «Vehículos autónomos y derecho de daños. La estructura clásica de la responsabilidad civil
frente al avance de la inteligencia artificial», RFCE, n.o 20 (24 de octubre de 2018): 55,
https://doi.org/10.30972/rfce.0203267.
95 Antonio Davola, «A Model for Tort Liability in a World of Driverless Cars: Establishing a Framework for the Upcoming
Technology», SSRN Electronic Journal, 2018, https://doi.org/10.2139/ssrn.3120679.

96 Zev Winkelman et al., «Hacked Autonomous Vehicles: Who May Be Liable for Damages? An Initial Investigation into
How Civil Liability Systems Can Prepare», 2019, https://doi.org/10.7249/RB10063.

19
matemáticamente97. Al mismo tiempo, el vehículo autónomo enfrentará posibles situaciones

en las que tendrá que tomar decisiones morales como, por ejemplo: elegir entre colisionar
contra un poste causándole lesiones de gravedad al pasajero o arrollar a varios peatones que
cruzan la calle de forma indebida98. Estos riesgos jugarán un papel importante en las
determinaciones sobre responsabilidad civil, definiendo roles y facilitando el uso de la
tecnología99.
En la definición de roles, la responsabilidad civil afronta la problemática de no tener un

conductor a quien adjudicar el daño100. El principio de los daños ocasionados por la
conducción permite que, ante el incumplimiento de un deber de cuidado, la persona afectada
solicite la indemnización al conductor del vehículo101. Las decisiones tomadas por los
vehículos autónomos son basadas en los algoritmos de aprendizaje automático102, sin
embargo, la responsabilidad civil deberá aludir quién es el obligado a responder por los daños
causados103.
1.2.2. Robots asistenciales

El propósito de estos RI es asistir a personas en condición de discapacidad, por lo que
interactúa y ayuda a las personas104. Un ejemplo, es ASIBOT, Robot pionero en este tipo de
asistencias. Es una mano mecánica que auxilia a personas en condición de discapacidad o
personas con problemas de movilidad, tiene la posibilidad de modular su sistema conforme
el nivel de discapacidad105.
97 Martínez Mercadal, «Vehículos autónomos y derecho de daños.»

98 «Moral Machine», Moral Machine, accedido 6 de abril de 2020, http://moralmachine.mit.edu.
99 Winkelman et al., «Hacked Autonomous Vehicles».
100 Lynda Thompson, «Automated vehicles - who is liable for an accident? - Roythornes Solicitors», Roythornes, accedido
6 de abril de 2020, https://www.roythorne.co.uk/site/blog/personal-injury-blog/automated-vehicles-who-is-liable-for-an-

accident.
101 Thompson.
102 Alex Kosgodagan y David Ríos, «Matemáticas para afrontar los retos de los coches autónomos», El País, 18 de febrero
de 2020, sec. Ciencia, https://elpais.com/elpais/2020/01/30/ciencia/1580409528_027572.html.

103 Winkelman et al., «Hacked Autonomous Vehicles».
104 «La robótica asistencial de la mano de Fundación ONCE», Discapnet, 26 de septiembre de 2019,
https://www.discapnet.es/la-robotica-asistencial-innovacion.
105 Alberto Jardón et al., «Asibot: Robot portátil de asistencia a discapacitados. concepto, arquitectura de control y
evaluación clínica», Revista Iberoamericana de Automática e Informática Industrial RIAI 5, n.o 2 (abril de 2008): 48-59,
https://doi.org/10.1016/S1697-7912(08)70144-4.52-53
20
Otros robots asistenciales ya están siendo probados, esté es el caso de Stevie II, un prototipo
de robot diseñado para asistir en la movilidad de las personas de la tercera edad. Kiki, por su
parte tiene la función de animar a las personas, su propósito es ser el amigo de la familia y
tiene la facultad de aprender a través de recepción de incentivos virtuales. Por último, Cloi,
tiene la finalidad de guiar a las personas en eventos, supermercados, aeropuertos y turismo106.
ASIBOT KIKI
Auxiliar Animar
Robots
asistenciales
Asistir Guiar
STIVE II CLOI
Ilustración 2.Esquema Robots asistenciales. Elaboración propia.
Todas estas máquinas se incorporan a la vida diaria, desarrollando labores que pueden
generar daños, imponiendo el deber al derecho civil la tarea de proporcionar un apoyo
apropiado en la regulación.
106«Alisys - Blog - Robots asistenciales, de compañía, para el turismo o el retail. Así avanza la robótica social en 2019»,
accedido 4 de diciembre de 2019, https://www.alisys.net/es/blog/robotica-social-en-2019.
21
II. ¿Qué tipo de responsabilidad civil extracontractual es

aplicable al RI en la legislación colombiana?
2. La responsabilidad civil extracontractual aplicable al RI

Son demasiadas los contextos en donde un RI podría relacionarse con las personas, por lo
tanto, es necesario preguntarse, ¿los regímenes de responsabilidad civil extracontractual en
la legislación civil colombiana pueden aplicarse en los casos donde el RI cause un “daño”?
Para responder a esa pregunta, se analiza la legislación colombiana vigente en materia de
responsabilidad civil extracontractual.
La investigación se enfocará en la siguiente premisa: los RI pueden llegar a considerarse en

una de las siguientes categorías ya existentes: producto defectuoso, animal doméstico o una
actividad peligrosa. Esto, en razón a similitudes presentes con cada una de estas figuras, las
cuales serán abordadas para cada caso en concreto.
En Colombia, el régimen de responsabilidad civil extracontractual se encuentra en el código

civil artículos 2341 y siguientes107. La configuración de responsabilidad civil
extracontractual requiere por regla general, que exista una conducta antijurídica de aquel que
causa el daño, un daño o perjuicio que se ocasiona a la víctima y un nexo causal entre estos108.
La responsabilidad extracontractual se divide en dos tipos: la primera es la responsabilidad
de tipo subjetiva, que como regla general exige la existencia de una culpa o dolo del agente
que ocasiona el daño y que la víctima no tenga el deber de soportarlo 109. Este tipo de
responsabilidad parte de la calificación culposa o dolosa de la acción dañosa 110. Por el
contrario, el segundo tipo de responsabilidad es la denominada objetiva. En este tipo de
responsabilidad no es necesaria la calificación de la culpa, la víctima solo debe demostrar el
nexo causal entre la conducta y el daño111. Por lo tanto, los adjetivos que se usan para
107 Andrés Felipe Cadena Cadena, «Entre la culpa presunta y la responsabilidad objetiva», 2017, 16.
108 Becerra, Rodrigo, Nociones generales sobre responsabilidad civil contractual y extracontractual, Santiago de Cali,
Universidad Javeriana, 2014.
109 Becerra.
110 Becerra.
111 Becerra.
22
acompañar la palabra responsabilidad, es decir, subjetivo y objetivo, califican las normas,

con el primero, la norma exige la culpa y con el segundo, no exige112.
Este será el punto de partida para revisar aquellos sistemas que se consideran como posibles
escenarios para el RI. También, el enfoque se centrará en los principales fundamentos
normativos de los regímenes comparados, con la finalidad de aplicar los sistemas revisados
a los casos de responsabilidad civil extracontractual del RI.
2.1. La responsabilidad civil aplicable a un producto defectuoso

En una primera hipótesis, el RI puede ser considerado como un bien que pertenece a alguna
empresa y que se ha adquirido para el cumplimiento de cierta labor. Bajo este supuesto, el
RI debe ser visto como una herramienta, que será entonces regulada por la ley 1480 de 2011,
conocida como el Estatuto del Consumidor. Esta ley en su artículo 20 regula lo
correspondiente a la responsabilidad civil en materia de productos defectuosos, a su vez el
este producto es definido en el artículo 5, como: “cierto bien, que por un error de diseño,
fabricación, construcción, embalaje o información no de la razonable seguridad a la que
toda persona tiene derecho”. Por lo tanto, todo resultado no deseado en la actuación de un
RI deberá considerarse un error en cualquiera de sus fases de producción.
Bajo este supuesto, el usuario de un RI es considerado como consumidor y reviste de ciertos

derechos, como lo son la seguridad e indemnidad frente a los productos adquiridos113. Este
derecho protege al consumidor de los daños que puede ocasionar un producto ya sea sobre la
persona o sobre la integridad de esta114. Además, el Estatuto otorga al consumidor la facultad
de demandar al productor o distribuidor del bien de forma solidaria115. Por consiguiente, al
considerar el RI dentro del régimen de productos defectuosos, el afectado podrá demandar a
los miembros de la cadena de valor116.
112 Fabricio Mantilla Espinoza y Carlos Pizarro Wilson, «La responsabilidad civil por actividades peligrosas: aplique
primero y explique después», Revista de Derecho. Escuela de Postgrado 0, n.o 4 (27 de noviembre de 2014),
https://doi.org/10.5354/0719-5516.2013.35099.
113 Ley 1480 del 12 de octubre de 2011., «Estatuto del consumidor» (2012).
114 Ley 1480 del 12 de octubre de 2011.
115 Ley 1480 del 12 de octubre de 2011.
116 Juan Carlos Villalba, «La responsabilidad por producto defectuoso en el derecho colombiano», Civilizar 14, n.o 27 (1 de
julio de 2014): 17, https://doi.org/10.22518/16578953.179.

23
Lo anterior siempre y cuando, el consumidor demuestre responsabilidad de los productores

y/o proveedores, probando el nexo causal entre el defecto del producto y el daño causado117.
La responsabilidad por producto defectuoso ha sido considerada como un régimen
objetivo118, sin embargo, esto se considera un tema complejo dado que el consumidor podría
encontrar dificultad en probar el defecto del bien, ya que en la mayoría de las ocasiones los
temas técnicos resultan ajenos al conocimiento cotidiano119.
No obstante, esta la posibilidad de aplicar el artículo 167 del código general del proceso
(CGP) el cual hace referencia a la carga dinámica de la prueba, permitiendo desplazarla al
productor, en razón a que, el consumidor se encuentra en dificultad de probarla120. Pero, la
carga dinámica de la prueba solo se daría en ocasión a una seria dificultad probatoria del
consumidor121. Dadas las razones previamente descritas se puede tener incertidumbre
respecto a si la responsabilidad por productos defectuosos es o no, un régimen objetivo122.
Para el caso del RI demostrar el defecto y el nexo causal con el daño ocasionado puede ser
conflictivo, bajo dos razones. Primera razón: puede que no exista el defecto alegado y sea el
propio algoritmo el causante de tomar la decisión que genera el perjuicio123. Para ilustrar la
premisa anterior, considere el ejemplo anteriormente descrito: un RI que aplica desinfectante
en la comida porque conforme a su experiencia e información almacenada, detecta que la
comida servida tiene algún grado de descomposición que puede generar un perjuicio mayor
al visitante. En este caso, la víctima si no puede probar un defecto en el RI asumirá un daño
que no estaba en obligación de asumir.
La segunda razón es: la excesiva carga de la prueba que se puede generar para la víctima.
Para el caso de los RI la causa del daño puede ser muy difícil de determinar 124, debido a la
117 Villalba.
118 Villalba.
119
Eileen Vásquez Pérez, «¿La responsabilidad por productos defectuosos es realmente objetiva según la Ley 1480 de
2011?», 2015 7 (s. f.): 12.
120
Villalba, «La responsabilidad por producto defectuoso en el derecho colombiano».
121 Villalba.
122 Pérez, «¿La responsabilidad por productos defectuosos es realmente objetiva según la Ley 1480 de 2011?»
124 Ercilla García, Normas de Derecho Civil y Robótica.
24
cantidad de agentes que intervienen en la producción, diseño, ensamblaje, programación y

uso de este125.
Hecha esta salvedad, la responsabilidad por productos defectuosos en Colombia es lo más

cercano a un régimen de responsabilidad objetiva126. Sin embargo, el artículo 22 del Estatuto
del Consumidor incorpora algunas causales de exoneración como lo son, la fuerza mayor, el
caso fortuito, la culpa exclusiva del afectado, el hecho de un tercero, entre otras, así mismo,
admite una causal exclusiva denominada el riesgo en desarrollo. Esta causal establece que en
el momento en que se coloca el producto en el mercado y, el conocimiento científico y técnico
no permitía percatarse del defecto, no es posible imputar responsabilidad por el producto
defectuoso en Colombia127. En definitiva, el Estatuto fue generoso con los productores al no
condicionar o exceptuar esta causal128.
En este sentido, para el caso de los RI podría llegar a ser inadmisible permitirse esa causal
de exoneración, dado que son productos cuya idea es una evolución constante basada en sus
algoritmos de aprendizaje automático y aprendizaje profundo129. Continuando con el ejemplo
del RI que aplica desinfectante a la comida, el daño causado al humano por su decisión de
ingerir el alimento podría configurarse como un riesgo en desarrollo, exonerando de
responsabilidad a los productores y proveedores del RI y, en consecuencia, la víctima
quedaría sin reparación del daño ocasionado.
En conclusión, después del considerar los conceptos que se encontraron relevantes en el

tratamiento de la ley a los productos defectuosos, no se contempla que pueda ser aplicable a
los RI. Toda vez que, no se puede considerar el RI como un simple producto que se comporta
como una herramienta130, esto en virtud a su capacidad autónoma y de inteligencia artificial.
125 Ercilla García.

126 Villalba, «La responsabilidad por producto defectuoso en el derecho colombiano».
127 Villalba.
128 Villalba.
25
2.2. La responsabilidad civil aplicable a el dueño de un animal

En este enfoque, el RI puede equipararse a los animales por el concepto de imprevisibilidad
establecido en el régimen civil, a causa de que las decisiones tomadas por el RI a partir de
información predispuesta en el sistema pueden generar resultados considerados en muchas
ocasiones, imprevisibles131. De esta forma, al igual que los animales, los RI podrán ser usados
en ciertas actividades serviles y otras más sofisticadas como aseo en una casa o cuidado y
asistencia a un enfermo. Si bien, en estas labores, ambos RI serían considerados asistenciales,
sus actividades tienen una complejidad diferente.
Ahora bien, la responsabilidad civil derivada del uso de animales en Colombia se encuentra
regulada en el Código Civil (CC) en los artículos 2353 y 2354, diferenciando entre los
animales domesticados o que representen cierta utilidad y animales fieros. La Corte Suprema
de Justicia ha indicado que la responsabilidad por el uso de los animales es absoluta,
incluyéndolos a todos sin distinción, por lo tanto, la persona que sufre el daño no tiene que
probar la culpa del dueño o quien se sirva del animal132. Sin embargo, la culpa que se deriva
del dueño o de quién se sirve de animales clasificados en el artículo 2353 es una culpa
presunta y la de artículo 2354 es una culpa absoluta133.
La primera clasificación que deriva del estudio del artículo 2353 del CC, establece una
presunción de culpa para el dueño o guardián del animal. La Corporación en comento, ha
mencionado que en relación al artículo 2353 del CC “cabe destacar lo siguiente: a) Los daños
causados por un animal, “aun después que se haya soltado o extraviado” comportan una
presunción de culpabilidad para su dueño o para la persona que de él se sirve; b) La referida
presunción únicamente releva a quien la invoca del deber de probar la culpa del dueño o
guardián del animal, porque el daño y la relación de causalidad con el hecho perjudicial
debe probarlos en todo caso134. De esta manera, el dueño o guardián deberán demostrar que
131 Silvia Díaz Alabart, Robots y responsabilidad civil, Derecho español contemporáneo (Madrid: Reus Editorial, 2018).
132 Corte suprema de justicia. Sentencia marzo 26409, 04 de febrero de 2009. Sigifredo Espinoza Pérez.
133 Corte suprema de justicia. Sentencia marzo 26409
134 Corte suprema de justicia. Sentencia marzo 11 de 1976. 11 de marzo de 1976. Jose María Esguerra
26
el daño causado por el animal obedece a fuerza mayor, caso fortuito, culpa exclusiva de un
tercero o de la víctima135.
Mientras tanto, la responsabilidad establecida en el artículo 2354 del CC establece que quien
tiene un animal fiero y que no reporte beneficio por su tenencia, responderá por los daños
causados136. La Corte aclara, que este tipo de responsabilidad también se cimienta en la culpa
del tenedor del animal, indicando que “[l]a culpa del tenedor del animal fiero en el evento
del artículo 2354, consiste no propiamente en la falta de vigilancia o cuidado de este, sino
en el simple hecho de tenerlo en su poder sin que de ello se derive utilidad para la guarda o
servicio de un predio, lo que por sí solo constituye falta de diligencia y cuidado de su parte137.
A su vez, la Corte niega que esta responsabilidad sea objetiva en razón a la culpa presunta
que tiene el tenedor, dado que, en este caso no hay transferencia de la carga al demandado,
sino que opera la culpa automática138. De manera que, la generación del daño indica que la
diligencia y medidas que tomó el tenedor del animal son inadecuadas139.
De acuerdo con lo anterior, el Alto Tribual ha establecido que la aplicación de esta culpa
automática se da para desincentivar el uso de estos animales que no comportan beneficio
alguno, lo cual permite un grado de protección superior a la víctima.140 En definitiva, los
regímenes de responsabilidad civil en Colombia para los dueños o tenedores de animales
conforman ambos el elemento de culpa, lo que los distingue es el tipo de culpa que se
aplica141.
Teniendo en cuenta estas características, los RI no pueden ser considerados como un animal
por diferentes razones. En primer lugar, el RI realizará actividades complejas y no dependerá
de la guía o cuidado de un ser humano dado su grado de autonomía, de manera que, no se
puede configurar el elemento de la culpa del tenedor o dueño142. En segundo lugar, la Corte
135 Corte suprema de justicia. Sentencia marzo 11 de 1976.

136
Corte suprema de justicia. Sentencia 2005-00597, 14 de junio de 2005. Edgardo Villamil Portilla
137 Corte Suprema de Justicia. Sentencia 1887. 06 de abril de 1989. Jairo Duque Pérez.
138 Corte Suprema de Justicia. Sentencia 1887
139 Ibíd.
140 Corte Suprema de Justicia. Sentencia 2019-00167, 01 de noviembre de 2019. Luis Armando Tolosa Villalba.
141 Corte Suprema de Justicia. Sentencia 1887
142 Navarro, «SMART ROBOTS Y OTRAS MÁQUINAS INTELIGENTES EN NUESTRA VIDA COTIDIANA».
27
Constitucional en Colombia le ha dado la categoría de seres sintientes a los animales143, por

lo tanto, al establecer al RI en esta categoría deberá considerarse como ser sintiente, lo cual
supondría variadas discusiones éticas que no se comparten. En tercer lugar, los RI toman
decisiones basados en algoritmos, al contrario, los animales las basan en instintos
naturales144.
En conclusión, a pesar de que un RI puede tener características comparables con las de un

animal, es diferente en muchas otras, por lo que no es sensato situar ambos en el mismo
régimen de responsabilidad.
2.3. La responsabilidad civil por actividades peligrosas

La responsabilidad civil extracontractual derivada de las actividades peligrosas en Colombia
nace de un estudio interpretativo del artículo 2356 del CC, aceptando únicamente como
causal de exoneración una causa extraña, fuerza mayor o caso fortuito, el hecho de un tercero
o el hecho exclusivo de la víctima145. En Colombia, las actividades peligrosas se definen
como aquellas que incrementan el riesgo natural que una persona está en condiciones de
soportar146, y de igual forma, son las que suponen un riesgo inherente a su desarrollo147. Por
lo que, todo aquel que ejerza este tipo de actividades y cause un daño, se obliga a responder
en el régimen especial de la responsabilidad para estas actividades148.
La Corte Suprema de Justicia para este tipo de actividades ha aplicado las teorías de la culpa
y del riesgo, generando así dos corrientes jurisprudenciales149. Por un lado, una línea que
defiende un régimen de responsabilidad subjetiva basados en que el artículo 2356 del CC y
establece una presunción de culpa de quien ejecuta la actividad peligrosa150. Por otro lado,
143 Corte Constitucional. Sentencia C-133 de 2019. 27 de marzo de 2019. Jose Fernando Reyes Cuarta y Antonio Jose
Lizarazo Ocampo.
144 Paul Opitz, «Civil Liability and Autonomous Robotic Machines: Approaches in the EU and US», 2019 43 (s. f.): 30.
145
Mantilla Espinoza y Pizarro Wilson, «La responsabilidad civil por actividades peligrosas».
146 Ariza, Alma. La responsabilidad civil derivada de actividades peligrosas en la jurisprudencia civil colombiana, editado
por, Lina Escobar, Vladimir Monsalve, 61-90. Bogotá: Uninorte, 2010.

147 Ariza, Alma.
148 Ariza, Alma.
149 Mantilla Espinoza y Pizarro Wilson, «La responsabilidad civil por actividades peligrosas».
150 Cadena, «Entre la culpa presunta y la responsabilidad objetiva».
28
una segunda línea, que se inclina por la responsabilidad objetiva basada en la obligación de
indemnizar sin importar el componente de la culpa o si se violó una regla de conducta151.
A partir del fallo del 24 de marzo de 1936, la Corte Suprema se basó en la teoría de riesgo
para interpretar el artículo 2356152. En este caso, el Alto Tribunal indicó que quien tiene la
propiedad o el goce de la “cosa” tiene la obligación de reparar en caso de que ésta cause
algún daño, sin importar la culpa153. Posteriormente, la sentencia del 18 de noviembre de
1940 modificó la línea jurisprudencial, estableciendo que el sistema normativo colombiano
parte de la noción de culpa, constituyendo para el artículo una presunción de culpa 154. Así,
las actividades peligrosas en Colombia desde 1940 y hasta 2009 se rigieron por sistemas de
responsabilidad de culpa presunta155.
Sin embargo, con la decisión de la sentencia de la Corte Suprema de Justicia del 24 de agosto
de 2009 del Magistrado ponente William Namen Vargas, la línea jurisprudencial cambió
radicalmente a un sistema de responsabilidad objetiva156. Este pronunciamiento estableció
que, en la responsabilidad por actividades peligrosas en Colombia, la culpa no es un elemento
necesario157. De esta forma, quien se beneficia de una actividad clasificada como peligrosa
asume el riesgo de causar el daño158.
Posterior a este precedente jurisprudencial a través de la sentencia de la misma corporación

del 26 de agosto de 2010, se retornó a un sistema de culpa presunta para las actividades
peligrosas. Toda vez que, el régimen de la responsabilidad civil en Colombia es de
responsabilidad subjetiva y que según el sentenciador fue de esta manera que lo estableció el
legislador159.
En la tesis del Magistrado Namen, la responsabilidad objetiva derivada de las actividades

peligrosas podía desvirtuarse con la prueba de un hecho extraño, esto es, fuerza mayor, caso
151 Cadena.
152 Cadena.
153
Cadena.
154 Cadena.
155 Cadena.
156 Cadena.
157 Cadena.
158 Cadena.
159 Corte Suprema de Justicia. Sentencia 2005-00611. 26 de agosto de 2010. Ruth Marina Díaz Rueda
29
fortuito, el hecho de un tercero o la culpa exclusiva de la víctima160. Sin embargo, esta

responsabilidad debería ser denominada como cuasi objetiva161. Puesto que, el régimen
objetivo no tiene causales diferentes al hecho exclusivo de la víctima162.
Ahora bien, la disputa entre estos dos regímenes se centra en si se tiene en cuenta el elemento
de culpa en las causales de exoneración de fuerza mayor, caso fortuitito, hecho de un tercero
o hecho exclusivo de la víctima163. Es decir, la discusión se fundamenta en que el sistema
normativo de la responsabilidad civil colombiana está basado en la culpa, de manera que, no
sería posible tener un régimen objetivo, el cual no valora el elemento de la culpa164. Por lo
tanto, es posible decir que la responsabilidad objetiva y la de culpa presunta aplicada en las
actividades peligrosas en Colombia no se distingue mucho165.
Las labores desempeñadas por el RI se fundamentan en la capacidad de recopilar información

y a través de algoritmos tomar decisiones autónomas166. En razón a esto, el RI es imprevisible
y genera riesgos incontrolables en el desarrollo de la labor encomendada167. De modo que, la
actuación del RI puede ser catalogada como una actividad peligrosa, puesto que, en estas no
se puede garantizar seguridad total y, por ende, representan un riesgo de daño168.
En definitiva, si el régimen de actividades peligrosas es aplicado a los RI supone la dificultad

de adoptar la responsabilidad de culpa presunta. De tal forma que los propietarios de un RI
podrán alegar que ellos no ejecutaron la acción y les permitiría estar inmersos en una causal
de exoneración.
Retomando el ejemplo aludido anteriormente, el RI es quien decide aplicar desinfectante a la

comida, no hay una persona ejecutándolo o programándolo para tal acción. En conclusión,
160Corte Suprema de Justicia, Sentencia 2001-1054. 24 de agosto de 2009. William Namén Vargas.
161 Marcos Rodríguez Rodríguez, «CONCEPTO Y ALCANCE DE LA RESPONSABILIDAD OBJETIVA», 2016, n.o 56
(s. f.): 20.
162
Rodríguez.
163 Ariza.
164 Cadena, «Entre la culpa presunta y la responsabilidad objetiva».
165 Cadena.
166 Opitz, «Civil Liability and Autonomous Robotic Machines».
168 Opitz, «Civil Liability and Autonomous Robotic Machines».
30
no son suficientes las normas tradicionales de actividades peligrosas para determinar la

responsabilidad169.
2.4. El régimen de responsabilidad civil extracontractual aplicable al

RI.
A pesar de que la responsabilidad aplicable a los productos defectuosos, los animales y las
actividades peligrosas, no se pueden aplicar completamente al RI, no significa que los
parámetros generales no puedan emplearse en un tipo de responsabilidad adecuado a las
necesidades de la sociedad en referencia a los RI.
El RI es un bien, una máquina autónoma que ejecuta acciones para modificar su entorno,
toma decisiones propias para desempeñar la función encargada, pudiendo llegar a concebir
acciones contrarias a la establecida para su uso170. Por ejemplo, un RI vehículo autónomo
que, siendo programado para proteger la vida humana, prefiere arrollar una persona para
salvaguardar un animal171. Así mismo, sus actos pueden ser imprevisibles, comparable con
los realizados por los animales172. Por último, al ser una novedad propia del avance de la
tecnología en esencia es una actividad peligrosa173.
Reuniendo todas estas características y por las razones anteriormente argumentadas, se

dificulta incorporarlo en un régimen ya existente. A raíz de esto, no es ilógico pensar en un
“Derecho de los Robots” o “Robot Law”, tendiente a crear una normatividad específica para
la incorporación de los robots174. Esta regulación no solo será en materia civil, sino que
incorporará todas las ramas del derecho175, y, su finalidad será solucionar todos los
fenómenos producidos por el RI, que alteren la vida como se conocía176. Está discusión deberá
concertarse en un futuro para establecer su viabilidad como regulación marco.
171
«Moral Machine».
172 Díaz Alabart, Robots y responsabilidad civil.
174 E. Palmerini et al., «RoboLaw: Towards a European Framework for Robotics Regulation», Robotics and Autonomous
Systems 86 (diciembre de 2016): 78-85, https://doi.org/10.1016/j.robot.2016.08.026.

176 Andrés.
31
En cuanto a la responsabilidad civil extracontractual aplicable al RI, el régimen de

responsabilidad objetiva debe ser el aplicado. Diferentes razones permiten concluir la
favorabilidad de este sistema. La primera, en razón a la imprevisibilidad, la acción autónoma
del RI que cause un daño, no debe ser soportado por la víctima, esto afectaría la equidad y
justicia compensatoria177. La segunda, los fabricantes del RI están en condición de asumir
los costos, distribuyendo la carga de la pérdida en la cadena de elaboración178. La tercera, se
debe contemplar la obligatoriedad de reparar cualquier daño causado por el RI, salvo que
exista culpa de la víctima o el hecho de un tercero179. La cuarta, la responsabilidad objetiva
establece seguridad jurídica en las relaciones del RI con las personas 180. Y, por último, las
reglas de responsabilidad no son difíciles de aplicar ya que la responsabilidad objetiva solo
exige probar el daño y el nexo causal con el hecho del RI181.
Conforme a las causales de exoneración, existen dos líneas doctrinales, la primera, quienes
indican que en la responsabilidad objetiva no hay lugar a reclamar ninguna exoneración de
culpa, ni siquiera la fuerza mayor o caso fortuito182. La otra línea doctrinal, aquellos que
sugieren que la responsabilidad objetiva se da conforme a un vínculo entre quien ejecuta la
acción y el daño, sin valorar la culpa del sujeto, por lo tanto, puede exonerarse por la fuerza
mayor183. Para el RI, la imprevisibilidad o daño causado por su acción autónoma, sería un
caso fortuito, puesto que procede de riesgos propios de la máquina, pero, la fuerza mayor
proviene de agentes externos o hechos ajenos al robot184. De esta manera, las únicas causales
de exoneración admitidas en el régimen de responsabilidad objetiva para el RI deben ser
fuerza mayor o culpa de la víctima185.
La responsabilidad objetiva se ha implementado obedeciendo a razones de justicia social,

política, moral o economía186. Por ejemplo, en la Unión Europea se ha implementado la
177 David C Vladeck, «Machines Without Principals: Liability Rules and Artificial Intelligence», WASHINGTON LAW
REVIEW 89, n.o 1 (2014): 35.
178 Vladeck.
179 Gerhard Wagner, «I. The Concepts of Robots, Autonomous Systems and IoT-Devices», s. f., 24.
180
Ebers, «La utilización de agentes electrónicos inteligentes en el tráfico jurídico».
181 Wagner, «I. The Concepts of Robots, Autonomous Systems and IoT-Devices».
182 Rodríguez, «CONCEPTO Y ALCANCE DE LA RESPONSABILIDAD OBJETIVA».
183 Rodríguez.
186 Rodríguez, «CONCEPTO Y ALCANCE DE LA RESPONSABILIDAD OBJETIVA».
32
responsabilidad objetiva o estricta por ciertos avances de la tecnología, reemplazando así la

regla general de responsabilidad subjetiva, en pro de tecnologías que a raíz de su puesta en
marcha pueden representar un riesgo en la sociedad187. Algo semejante ocurre en la
responsabilidad civil extracontractual en Colombia, la cual conforme al artículo 2341 del CC
se basa en la culpa. Sin embargo, como lo expone el alto Tribunal Constitucional, el
legislador tiene un amplio margen de configuración para regular la responsabilidad civil,
indicando que no existe un régimen único en la materia y que se debe tomar en consideración
la existencia de riesgos especiales, el tipo de agentes, la magnitud de los costos que se quiere
evitar y el tipo de incentivos que pretenda crearse188. Así que, resulta válido pensar en un
régimen de responsabilidad objetiva para el RI en Colombia.
No obstante, la aplicación de este tipo de responsabilidad genera preocupación por su posible

efecto desincentivador para la innovación189. La desincentivación se da en razón a la
obligatoriedad de pago de todas las indemnizaciones ante los daños causados por el RI190.
Por este motivo, para evitar la desincentivación se propone instaurar un régimen de
responsabilidad cuasi objetiva, el cual toleraría cierto umbral de riesgo, en virtud del
provecho que obtiene la sociedad de los avances tecnológicos191.
Sin embargo, la responsabilidad objetiva también puede incentivar, teniendo en cuenta que
no se requerirían de procesos para buscar y asignar errores, lo que ahorraría los costos de
transacción derivados de litigios192. De igual forma, la responsabilidad objetiva establecería
confianza en la sociedad acerca de las actividades desarrolladas por el RI y como resultado,
este régimen también incentivaría la inversión, dado que la sociedad estaría confiada en
adquirir RI por tener una legislación clara que los protege.
En otro orden de ideas, también se encuentra la teoría ecléctica, la cual combina la

responsabilidad objetiva con la gestión de riesgos193. Aquella figura nace de la consideración
187
Opitz, «Civil Liability and Autonomous Robotic Machines».
188 Corte Constitucional, Sentencia C- 111 del 2018, Alejandro Linares Cantillo.
192 Vladeck, «Machines Without Principals: Liability Rules and Artificial Intelligence».
33
del Parlamento Europeo donde invita a una evaluación para determinar si debe aplicarse
responsabilidad objetiva o gestión de riesgos194. Por su parte, la gestión de riesgos impone
responsabilidad a la persona que es capaz de minimizar y gestionar los impactos negativos
de los riesgos195. Este control de riesgo es de carácter preventivo, empleando modelos
matemáticos o análisis estadísticos en la toma de decisiones196. Por lo tanto, la convivencia
de los dos regímenes es posible, como a continuación lo manifiesta Silvia Díaz:
tomando en cuenta la confluencia de dos tipos de interés distintos (el del empresario y el del
consumidor) parece aconsejable la adopción de ambas soluciones. Por una parte, la adopción del
control de los riesgos derivado de la fabricación y puesta en el mercado de los robots … Por otra
parte, es prioritario garantizar a los propietarios la indemnización por los daños que puedan surgir
al usarlos o incluso también a las personas que sin ser usuarios o propietarios sufren esos daños197.
Por consiguiente, la teoría ecléctica permite un control ex ante de los riesgos y un control ex
post cuando estos se materialicen, lo cual es beneficioso para productores y consumidores.
Al establecer el régimen de responsabilidad objetiva surgen diferentes cuestionamientos

acerca de la imputabilidad, por ejemplo, ¿quién debe responder en el sistema de
responsabilidad civil extracontractual objetiva por los daños que ocasione el RI? podría
entonces responder el productor, el distribuidor o quien funja como propietario. Por lo que al
existir una cadena tan larga de producción y agentes indeterminados en el uso e interacción
del RI se generaría la necesidad de definir a quién se le debe imputar el daño del RI198.
III. Personería jurídica del robot inteligente
3. Principales razones de la personería jurídica del RI

Conforme el anterior capítulo, la responsabilidad objetiva se considera el régimen adecuado
para aplicar en los casos en que el RI cause un daño en el marco de la responsabilidad
extracontractual. Sin embargo, el problema suscita en quién debe responder por los daños

197 Díaz Alabart.
34
causados por el robot inteligente. Existen diferentes propuestas al respecto, desde tratar al RI
como un producto defectuoso, hasta hacerlo responsable directamente.
No tener claridad sobre quién debe responder por los daños causados por el RI genera
inseguridad jurídica, de nada serviría aplicar la responsabilidad objetiva si no se establece
con claridad un sujeto en el que recae la obligación de reparar. Por lo tanto, para este fin,
debe comprenderse la capacidad del RI en tomar decisiones autónomas e inteligentes sin la
intervención de un ser humano, únicamente basándose en su inteligencia y experiencia199.
Como se evidenció en el primer capítulo, el RI puede tomar decisiones imprevisibles

causadas por su aprendizaje y experiencia, conforme su interacción con el entorno, de tal
manera que sería complejo imputar responsabilidad a alguien por las actuaciones del RI200.
El Parlamento Europeo en sus recomendaciones de normas de Derecho Civil sobre Robótica
contempla que “será muy difícil considerar a los RI simples instrumentos, esto en virtud a su
capacidad autónoma, y la posible existencia de actos que no podrán atribuirse a un agente
humano en concreto”.
En conclusión y aunado a los dos primeros capítulos, el RI no puede ser tratado como una
simple cosa, debido a que, gracias a su autonomía, inteligencia y aprendizaje puede tomar
decisiones propias que podrían causar un daño a un tercero, sin la existencia de un error en
el software, hardware o cualquier otra parte de sistema del RI201. Esto impide que se pueda
aplicar la responsabilidad por producto defectuoso, pues no existiría falla alguna aparente.
De esta manera, la recomendación del Parlamento establecida en el punto 59 – f, insta a la

creación a largo plazo de una personería jurídica especifica denominándolas personas
electrónicas, en razón a su actuación autónoma e interacción con terceros de forma
independiente. Esta personería jurídica permitiría solucionar el punto de la imputabilidad de
la responsabilidad objetiva, y así, tener claridad respecto a quién sería el responsable de los
hechos dañosos del RI.

35
Al establecer la personería jurídica del RI como la respuesta a la imputación, compete

verificar si el RI puede articularse en los actuales tipos de personerías existentes o si, por el
contrario, conviene la creación de una figura propia. En el ordenamiento jurídico colombiano
solo existen dos tipos de personas, naturales y jurídicas como lo indica el Código civil en su
artículo 75 y en el artículo 74 establece que las naturales son las personas nacidas de la raza
humana.
Las personas jurídicas son aquellas que nacen de la voluntad de un grupo de personas o en el
caso de la SAS (ley 1258 de 2008), de un accionista único o de varios accionistas de constituir
un ente jurídico diferente y patrimonialmente independiente a las personas que la conforman,
según el artículo 98 de código de comercio. La sociedad es un ente ficticio que existe
jurídicamente pero no reviste existencia física, la voluntad de esté es el cúmulo de voluntades
encausadas en la decisión de órganos administrativos y de dirección.
Surgen dos conflictos principales al intentar cotejar a una persona natural con el RI. El
primero de ellos, y aunque resulta lógico, el RI no es un ser humano, por lo tanto, no se puede
pensar en el RI como un ente igual a la raza humana. El segundo conflicto es la falta de
inteligencia emocional, el RI carece de emociones y sentimientos, de tal manera que el
castigo que se pudiera generar de forma directa al RI no generará utilidad alguna, ya que no
ocasiona una modificación a la conducta, pues no va a expresar sufrimiento o emoción al
respecto202.
Aunado a lo anterior, el RI no está inmerso en la teoría de la mente, esta hace referencia a la

capacidad del ser humano en reconocerse como un ser individual, de reconocer los diferentes
intereses colectivos y poder interactuar socialmente, tomando decisiones encausadas a la
relación de cooperación y trabajo en equipo203. La teoría de la mente será un peldaño que el
RI no alcanzará, en razón a su falta de motivaciones propias y de sentimientos, de tal manera
que podrá actuar de forma colaborativa por el diseño de sus algoritmos y sabrá relacionarse
con la sociedad204.

36
Estas dos razones principales obligan a reconocer que en ningún caso el RI puede ser
equiparado al ser humano, la tecnología debe ser una herramienta para la humanidad, en favor
de las personas y en servicio de éstas, jamás se debe establecer como un igual205. El RI no se
puede comparar con el ser humano, no puede tener derechos solo por nacer. Los derechos a
la personalidad como la dignidad e igualdad son únicos de las personas206. La humanidad
como especie tiene como finalidad natural la conservación en la cúspide de la pirámide
natural, por lo que no puede asimilarse con un ser tecnológico creado como herramienta, a
pesar de que este última pueda superarlo en inteligencia o en el desarrollo eficiente de una
tarea. En conclusión, es necesario que el ser humano garantice su superioridad, para el
cuidado y conservación de su especie207.
El otro tipo de paralelo que debe hacerse es entre el RI y las personas jurídicas de naturaleza
societaria o asociativa. El artículo 98 del código de comercio estipula que de la voluntad de
dos o más personas se puede crear una persona jurídica diferente a la de los socios, que
conforme al artículo 99 tiene la capacidad de ejercer sus derechos y de contraer obligaciones.
Los socios no contraen las obligaciones, en algunos casos como las sociedades denominadas
de personas, como las Colectivas, Limitadas y En Comandita simple y por acciones en lo
referente a los socios comanditarios y gestores su responsabilidad es solidaria frente a dichas
exigencias de la persona jurídica. Las sociedades, son entes que existen en el mundo jurídico
pero sus decisiones nacen de la voluntad de las personas que conforman sus órganos sociales.
Por el contrario, en sociedades de capital, como las Anónimas y por Acciones Simplificadas
la responsabilidad es totalmente limitada a lo aportado por los accionistas.
Este efecto, estas características, permiten deducir las posibles similitudes que puede tener
una eventual personería del RI y las que ya ostentan las sociedades. La más relevante es la
creación de una personería distinta a su propietario, su capacidad de contraer derechos y
205 «Rome Call for AI Ethics».

206 «Retos de nuestro tiempo: la criónica en seres humanos. El debate de la persona electrónica y la revolución robótica -
Núm. 13, Julio 2018 - Revista de Derecho, Empresa y Sociedad (REDS) - Libros y Revistas - VLEX 772395649», accedido
17 de marzo de 2020, https://libros-revistas-derecho.vlex.es/vid/retos-tiempo-crionica-seres-772395649.
37
obligaciones ajenas a su propietario, tanto el RI como la sociedad pueden contratar y pueden

causar daños y ambas nacen de la voluntad del ser humano208.
Por el contrario, también existen diferencias trascendentales, las sociedades nacen de uno o
varias voluntades para ejercer una actividad o desarrollar un objeto social, mientras que los
RI nacen para sustituir las actividades realizadas por las personas y desarrollarlas de forma
más eficiente. Por otro lado, el RI existe físicamente, la sociedad no209. Otra discrepancia
radica en cómo se expresa la voluntad, el RI puede actuar autónomamente y tomar decisiones
propias, las sociedades no, dado que su voluntad es la resultante de la votación de diferentes
personas naturales en nombre propio o en representación de otras personas jurídicas.
En conclusión, la personería del RI no puede ser la misma que la que ostenta una sociedad,
sin embargo, algunas características de las sociedades articulan de manera adecuada en el RI,
dado que las sociedades como el RI, son entidades no humanas que causan efectos jurídicos
y son capaces de ser titulares de derechos y obligaciones210.
Por las razones anteriormente justificadas y considerando que el RI no se puede vincular a

los dos tipos de personas válidas en la normatividad colombiana, se propone la creación de
una personería jurídica propia para el RI.
Esta idea no es nueva, como se citaba antes, el Parlamento Europeo considera que crear está
personería para los RI más avanzados denominada personería electrónica. Doctrinantes
como Javier Ercilla hacen referencia a la creación de una personería ciber-física, ya que aduce
que el término es más adecuado con la acción del RI211. Independiente de la denominación
que se le otorgue, la idea de configurar una personería propia para el RI genera grandes
desafíos. Sin embargo, las propuestas existentes la adecuan como la generación de
responsabilidad directa al RI, haciéndolo un sujeto capaz de obtener derechos y obligaciones,
en similitud con la que tiene una persona física212.

38
Pese a estar en conformidad con la concepción de una personería del RI, se discrepa de hacer
al RI responsable, como un sujeto igual o símil a las personas. La personería Jurídica
propuesta para el RI debe considerar el presupuesto obligatorio de tener una o varias personas
naturales o jurídicas usuarias o propietarios del RI, estás serán quienes respondan por los
daños ocasionados. También, quienes se beneficien de las labores del RI que generen un
lucro.
Este concepto puede ser equiparado a las personas constituyentes en una sociedad, toda vez
que los dueños o usuarios pueden ser varias personas o una sola, y como se verá más adelante,
(en los elementos de la personería jurídica del RI), serán quienes tengan la obligación del
registro, y sean solidarios en sus responsabilidades, entre otras.
Creándolo de esta forma, se aseguraría que el ser humano sea el destinatario final de la
responsabilidad del RI, y siga siendo el centro de la sociedad. Con esta creación jurídica, se
conservaría la calidad del RI en considerarse un bien al servicio de la humanidad como lo
establece el Parlamento Europeo en el punto V de sus recomendaciones y guarda completa
lógica con el carácter especial del RI como máquina, pero, con capacidad de persona al
producir decisiones inteligentes y autónomas213.
Por consiguiente, serían personas en el ordenamiento jurídico colombiano:
Naturales
Responsable
Tipos de final por los Ser
personas Jurídicas humano
actos realizados
Robot
Inteligente
Ilustración 3.Esquema tipos de personas. Elaboración propia
Calificado el RI como un tipo de persona, ya no se hará referencia a la personería jurídica del

RI, al hablar del RI se referencia a su personería propia. Este tipo de Personería jurídica será

39
una creación nueva en el sistema colombiano. El ordenamiento jurídico puede otorgar a las
personas no físicas derechos, así como ha sucedido en el pasado, como cuando los esclavos
cuando no eran considerados personas214.
Las normas son aquellos conjuntos de órdenes establecidas que regulan ciertos aspectos, que
pueden ser Leyes, Decretos, Resoluciones entre otros; se promulgan con la finalidad de
regular en pro de la sociedad, para encausar los fenómenos nuevos que conforme a la
evolución de la humanidad cambian la vida como la conocemos. Las normas conforme a la
IA y a los RI, deben proteger a las personas y establecer responsabilidades fuertes que
protejan la humanidad215.
Por lo anterior, no hay impedimento para crear una nueva personería jurídica capaz de abarcar
este fenómeno y tendría el beneficio de evitar el riesgo que puede generar el establecer
categorías donde la tecnología pueda ser superior a los humanos216. A continuación, se darán
otras razones complementarias a la creación de la personería jurídica del RI.
3.1. Razones complementarias de la creación de una Personería jurídica

especifica del RI.
Existen dos razones complementarias importantes a la ya dilucidada de establecer un directo
responsable de los daños del RI, que debe recaer en un ser humano como destinatario final.
La primera de ellas hace referencia a la organización de entes no sometidos a la total voluntad
humana y esto tiene relevancia al tomar en cuenta aspectos económicos, sociales y
culturales217. Es así, como las leyes de innovación en inteligencia artificial avanzada y por
consiguiente las que atañen al RI variarán conforme estos aspectos, en cada sociedad218.
El caso de Rusia con el proyecto de ley Grishin, impone responsabilidad a los

desarrolladores, productores y fabricantes del robot, introduciendo enmiendas al Código
214 Celotto, «Derechos de los robots».

216 Celotto, «Derechos de los robots».
218 «2016 Report | One Hundred Year Study on Artificial Intelligence (AI100)», accedido 17 de marzo de 2020,
https://ai100.stanford.edu/2016-report.
40
Civil Ruso, incluyendo una convención modelo de reglas para la creación de IA y robótica219.
El caso ruso es diferente al de la Unión Europea, para ellos existiría un responsable del RI,
en el caso de la Unión no es claro quién responde en el caso de la personería electrónica, toda
vez que se entiende como si el RI tuviera una categoría propia que respondiera por sus actos
directamente.
Las connotaciones sociales son importantes para producir las leyes que controlarían y
encausarían el sentir de la sociedad con la robótica en general, algunos se pueden decantar
por especificarlos como productos, como el caso de Rusia. Sin embargo, aunque utópico, el
ideal sería una concepción única con principios claros, que unificara los conceptos y permitir
el mismo entendimiento en Colombia y en Japón.
Tener diferentes tipos de personerías jurídicas del RI plantea problemas de alta gravedad, por
ejemplo, las posibles exenciones de responsabilidad política y jurídica de aquellos
responsables del RI220. Otro punto importante, es el contexto ético pensado desde la
capacidad del RI en afectar o dañar al ser humano, lo que debe considerarse inadmisible en
cualquier ordenamiento jurídico221.
Como se comentaba en el primer capítulo, las leyes de Asimov siguen siendo hoy en día la
base de los principios de la robótica, sin embargo, respecto a los RI para uso militar se
generaría una contradicción grave a estos principios222. Los peligros eminentes ante el
establecimiento de principios éticos diferentes, en la elaboración y uso de los RI, son
demasiados y no pueden permitirse.
Es relevante en este enfoque, el principio de transparencia de los algoritmos tratado por

Miriam Buiten, el cual establece la obligación de saber cómo el algoritmo o el conjunto de
ellos toma una decisión, bajo que parámetros lo hace, cuál fue su entendimiento de la tarea
219 A. Atabekov y O. Yastrebov, «Legal Status of Artificial Intelligence Across Countries: Legislation on the Move»,
EUROPEAN RESEARCH STUDIES JOURNAL XXI, n.o Issue 4 (1 de noviembre de 2018): 773-82,
https://doi.org/10.35808/ersj/1245.
220 Sánchez Barrilao, «El Derecho constitucional ante la era de Ultrón».
221 Sánchez Barrilao.
222 Atabekov y Yastrebov, «Legal Status of Artificial Intelligence Across Countries».
41
encomendada para dar lugar a una respuesta223. Este principio, permite evitar sesgos de los
algoritmos, que pueden llevar a segregación, a violar principios de igualdad y dignidad de la
persona224. De esta forma, los algoritmos no pueden sesgar, y así, debe el RI tener parámetros
éticos e incorporar principios claros que le permitan concretar una decisión sin estar
sesgado225. La programación deberá tener unos parámetros claros y revestirá toda la
importancia para evitar perjuicios a los derechos constitucionales de las personas. De tal
manera que, la organización de estos RI en el marco de lo social y cultural se facilitaría con
la creación de su personería jurídica.
Por otro lado, el punto de inflexión en temas económicos es un asunto relevante que merece
una investigación propia. Sin embargo, vale la pena anotar que se estipula que para 2025 el
porcentaje de computarización de la fuerza laboral estará en un 77% en China y del 49% en
Estado Unidos, dato tomado del programa Oxford Martin, en razón a esto la economía
dependerá en gran medida de las labores desempeñadas por los RI226. Así, implementar la
personería del RI, faculta tomar medidas a los efectos económicos negativos de una
implementación acelerada de la tecnología avanzada.
La economía establece la conexión con la segunda razón complementaria; el tema tributario,

este enfoque afecta la economía en todo su esplendor, pues los sujetos activos del impuesto,
es decir, la Nación, los Departamentos, Municipios y Distritos tendrán menos recolección
tributaria, pues dependen en gran medida de la capacidad laboral de las personas, en razón a
que, los sistemas actuales están configurados para recaudar impuestos de las personas no de
los RI227.
Si bien el derecho laboral no es el tema de este artículo, es esencial considerar que la mayoría
de la población en el planeta se sostiene económicamente desempeñando un trabajo, los
impuestos dependen de la adquisición de las personas, y son estas las que sostienen un
223 Miriam C Buiten, «Towards Intelligent Regulation of Artificial Intelligence», European Journal of Risk Regulation 10,
n.o 1 (marzo de 2019): 41-59, https://doi.org/10.1017/err.2019.8.
224 Buiten.
227 Abbott y Bogenschneider, «Should Robots Pay Taxes?»
42
Estado, de tal manera que, la fuerte tributación a cargo de un empleador estimula a la

computarización, y desincentiva la contratación de fuerza laboral humana228.
Las soluciones planteadas son muy diversas, una de ellas, plantea estimular a las empresas a
la contratación de personal humano y, desincentivar el uso de los RI, otra es crear un impuesto
a los despidos causados por el uso de la automatización o aumentar impuestos corporativos
y disminuir los que recaen sobre las personas229.
Existe también la propuesta de que los RI asuman los impuestos de las personas que son
reemplazadas y despedidas por su uso, en efecto deberá el RI aportar a salud y pensión, esto
aunado a un impuesto exclusivo a la automatización que pueda solventar el desempleo
masivo230. La personería jurídica del RI facilitaría el recaudo de impuestos, y establecería un
responsable solidario de los tributos adeudados por el RI231.
En conclusión, el RI debe asumir las cargas tributarias causadas por su implementación, e

incluso si el ser humano quedara en desuso, asumiría el pago del ingreso básico mensual para
el ser humano232.
¿Por qué? Personería jurídica del Razones

RI complementari
as
Seguridad jurídica, establezco un 1. Organización de entes

sujeto claro quién debe asumir la Ser humano autónomos distintos a los
responsabilidad por los daños. seres humanos
2. Recaudo de impuestos
¿Quién debe ¿En quién recae la responsabilidad

responder? y solidaridad?
228 Abbott y Bogenschneider.

232 Philippe Van Parijs, «The Universal Basic Income: Why Utopian Thinking Matters, and How Sociologists Can
Contribute to It», Politics & Society 41, n.o 2 (junio de 2013): 171-82, https://doi.org/10.1177/0032329213483106.
43
Ilustración 4: Esquema razones de la Personería jurídica del RI. Elaboración propia.
3.2. Elementos de la Personería jurídica del RI

Se propone que la personería establecida para el RI se componga de diferentes elementos, en
el marco de un registro que se procederá más adelante. Los elementos serían: i) Capacidad
de ejercer derechos y contraer obligaciones; ii) Personas usuarias o propietarias; iii)
Identificación, domicilio y actividad o campo de acción; iv) Patrimonio social robótico; v)
Seguros y vi) Otros complementarios. Estos elementos propuestos son aquellos que se deben
certificar por el ente de registro y que materializaría los motivos necesarios de la personería.
3.2.1. Capacidad de ejercer derechos y contraer obligaciones

La capacidad de ejercer derechos y contraer obligaciones no es propiamente un elemento de
la personería sino aquello que se suscita al otorgarse. Se deriva de la capacidad del RI de
actuar sin necesidad de la intervención de un ser humano233. Está capacidad a la que se hace
referencia, sería similar a las otorgadas a una sociedad, convirtiendo al RI un sujeto de
derechos y obligaciones234. En los lineamientos del Código de Comercio colombiano, las
sociedades a raíz del artículo 99 tienen está capacidad circunscrita para todo acto derivado
de su actividad o que la finalidad sea el cumplimiento de obligaciones legales derivadas de
su objeto social. Se propone que el RI tenga está misma capacidad, para que pueda ejercer
todos los derechos, estos derechos tendrán limitaciones, por ejemplo, los RI no podrán
contraer matrimonio235. De igual forma podrán contraer obligaciones relacionadas con la
actividad o campo de acción para el cual fue creado.
Los RI podrían realizar contratos y llevar acabo todo acto jurídico unilateral o bilateral para
la consecución de su actividad, así como tendría las obligaciones consecuentes como: no
233 Kamil Muzyka, «The Outline of Personhood Law Regarding Artificial Intelligences and Emulated Human Entities»,
Journal of Artificial General Intelligence 4, n.o 3 (1 de diciembre de 2013): 164-69, https://doi.org/10.2478/jagi-2013-0010.
44
generar daños a terceros, pagar los impuestos que se impongan a la automatización, etc236.
No obstante, el RI al tener existencia física, por esto, sería posible hablar de derecho a su
integridad material237. En este punto, se propone que la capacidad de ejercicio tenga una
connotación mixta, el RI ejercería su función cumpliendo el contrato, pero, la capacidad de
obligar al RI la ostentaría su propietario. Por lo cual, el dueño es la persona encargada de
comprometer a las obligaciones que se acarreen de los actos jurídicos realizados.
3.2.2. Personas usuarias o propietarias

Los usuarios o propietarios son aquellos que adquieren el RI, pueden ser una o varias
personas jurídicas o naturales. Estos ejercerán la representación legal del RI y serán
responsables subsidiarios de las acreencias que tenga el RI. Está denominación mixta, se da
en razón a que, aquel que compra estos RI no es dueño de la tecnología que los incorpora,
sin embargo, es posible que grandes empresas propietarias de la tecnología sean las que
pongan en funcionamiento el RI en provecho propio. De esta misma forma, el usuario o
propietario ejercerá el cuidado del RI, responderá por los daños que este pueda ocasionar y
se lucrará en virtud de los contratos ejecutados por el RI.
3.2.3. Identificación, domicilio y actividad o campo de acción

La identificación del RI surge a través de varias necesidades, la primera de ellas poder
identificar plenamente al RI con el que se estaría interactuando. Esto sirve para asegurar un
control al RI, prevenir su uso indebido, inspeccionar ciertos datos importantes como lo son
el software, el hardware, las revisiones y mantenimientos programados a los que el RI estaría
obligado238.
En lo referente con las revisiones, se debe obligar al usuario o propietario a revisar y verificar
todos los componentes tecnológicos del RI, de forma periódica, independiente de su

45
proveedor239. De esta forma, se podría otorgar una licencia de funcionamiento, la cual debería
ser solicitada para la realización de un contrato o cualquier otro acto jurídico240.
El domicilio permitiría una localización geográfica del RI, además de otorgar control y
permitir un rastreo fácil de sus actividades realizadas241. Tanto la identificación como el
domicilio, facilitaría el cobro de impuestos, dado que, permitiría al Departamento, Municipio
o Distrito el recaudo, facilitando la cuantificación y el impacto del RI sobre los empleos en
ciertas empresas de ese espacio geográfico242.
Por último, la actividad o campo de acción solucionaría dos cuestiones, la primera, el saber
qué tipo de RI es243. Esto generaría la creación de una clasificación de RI244. Esta
categorización tendría que analizarse desde el punto de vista técnico y robótico, y debería
tener ciertos datos relevantes para estipular una clasificación completa, por ejemplo, según
la actividad desempeñada, como: vehículos autónomos, RI asistenciales o de negocios.
La segunda solución es nuevamente el tema de los impuestos, el RI vehículo autónomo no

solo pagaría un impuesto a la automatización sino el impuesto vehicular y todo lo que se
derivaría de su actividad.
3.2.4. Patrimonio social robótico

El patrimonio social robótico nacería con dos precisiones puntuales, en primer lugar, este
patrimonio estaría diseñado para solventar la necesidad del pago de las obligaciones
tributarias causadas por el RI245. La idea es generar una obligación para que se destine un
valor inicial por parte del usuario o propietario, pero luego de ese monto inicial, se destine
un valor de cada actividad realizada por el RI, con el fin de aumentar ese monto para el pago
239
Díaz Alabart, Robots y responsabilidad civil.
240 Díaz Alabart.
242 Abbott y Bogenschneider, «Should Robots Pay Taxes?»
46
de los impuestos. Esto respondería a la duda de quién es el obligado a alimentar ese

patrimonio246.
En segundo lugar, el patrimonio del RI permitiría resarcir el posible daño o perjuicio causado
en su vida en relación247. En consecuencia, este patrimonio solo sería para estas dos
finalidades, el restante del dinero obtenido en razón a la ejecución de los contratos engrosaría
el patrimonio del propietario.
Otras propuestas se inclinan por la creación de un fondo robótico con la intención que este
cumpla la misma función, pero sea dispuesto por el Estado248. Se discrepa de esta
proposición, pues no es el Estado él que se lucra de la ejecución del contrato, así que no
tendría por qué recaer esta obligación en él, salvo que éste sea el propietario del RI.
3.2.5. Seguro Obligatorio

Se comparte la tesis del seguro como un elemento integrador de la personería jurídica del RI,
y que su existencia sea certificada desde el registro249. El seguro debe ser tomado
directamente por el RI, sería este un acto consecuente a su actividad realizada. Se plantea que
el seguro sea similar a SOAT que se otorga para la actividad de conducción, con unos
parámetros legales de monto asegurable de responsabilidad civil extracontractual250.
El seguro responde ante las actividades que generan riesgos nuevos, estableciendo la forma
de asegurarlos por la imprevisibilidad de los sucesos dañosos que se puedan producir251. Con
el seguro, el sistema de responsabilidad deja de fijarse en la culpa y la sanción para quien lo
produjo, pensando en el daño y la víctima, activando su cualidad preventiva252.
En síntesis, el seguro es un elemento de la personería del RI, que aseguraría el daño y

brindaría un respaldo para el patrimonio, además que concedería una doble protección para
los terceros que se relacionen con el RI y puedan salir perjudicados por su actividad.
246
Ebers, «La utilización de agentes electrónicos inteligentes en el tráfico jurídico».
251 Signorino, Andrea Barbat, Los seguros de responsabilidad civil, Bogotá, Ibañez, 2017.
252 Signorino.
47
3.2.6. Elementos complementarios

Los elementos complementarios propuestos para la personería son aquellos datos relevantes
derivados de la tecnología usada en el RI y el registro de revisiones periódicas253. Estos datos
serán sujetos de estudio, en razón a la clasificación parametrizada para los RI254. Surge
entonces, precisar que esta tipología es de los RI, no de los robots que no se puedan considerar
como inteligentes, según la definición determinada.
Se propone un elemento que se deriva de una obligación como personería jurídica, la función
social. El artículo 333 de la constitución política señala la función social que debe cumplir
una empresa implicando obligaciones en su desarrollo empresarial. Los RI podrán a través
de sistema de computación de rejillas o sistema grilla prestar conjuntamente su capacidad
algorítmica para la solución de problemas de tipo científico, médico o estadístico255.
La función social del RI estaría enfocada a prestar a modo gratuito esta capacidad para el
beneficio de la sociedad, sin que su propietario pueda realizar cobro alguno por esta misión
mancomunada. Teniendo en cuenta la pandemia con la que actualmente la humanidad
cohabita, utilizar los RI con el propósito de generar un tratamiento efectivo para la COVID-
19 concebiría un aporte trascendental y significativo.
Propietario
Seguro Función
Patrimonio Identificación
obligatorio social
Capacidad de ejercer
derechos y obligaciones
Domicilio Actividad

48
Ilustración 5: Esquema elementos RI. Elaboración propia.
3.3. Registro del Robot inteligente:

El registro del RI materializaría los elementos de su personería jurídica, incluyéndolos dentro
de un documento físico y textual que sería la certificación. Similar a la otorgada a las
sociedades por parte de las Cámaras de Comercio256. Al igual que las Sociedades por
Acciones Simplificadas, se propone que el nacimiento de la personería se de a partir del
registro. En suma, los RI serían capaces a partir del registro257.
La personería no tendría razón si no se concreta un registro y por ende, se produce una

matrícula especifica258. Este enfoque ha sido entablado por el Parlamento Europeo, en donde
la creación de un ente que lleve el registro de los RI se hace imperante. Este órgano estaría
en la capacidad de inscribir los distintos actos provenientes del propietario que modifique
dicha personería, actos que deben ser categorizados por el mismo órgano si es estatal o por
el órgano superior jerárquico si es un ente privado, como la Cámara de Comercio. El registro
suministraría control al RI y a su propietario259. De esté forma, facilitaría la verificación del
seguro, del patrimonio social robótico y del cumplimiento estricto de cada elemento
relacionado.
3.4. ¿La personería jurídica del RI desincentiva la innovación?

La impresión que causa el instaurar normas que generen responsabilidades fuertes como es,
la inclusión de responsabilidad objetiva para el RI a través de una personería jurídica
estableciendo al propietario como el sujeto pasivo de esa responsabilidad, es el enfriamiento

49
para la industria260. La personería del RI y la responsabilidad objetiva son medidas que si

bien, causarían una inversión a las empresas nacionales o internacionales usuarias de los RI,
también producirían a la población seguridad jurídica, lo que facilitaría la relación con estos
robots con toda la naturalidad posible, un efecto inverso a desincentivación.
Sin embargo, es válida la duda por la posible desincentivación, entorno a considerar la

personería jurídica del RI una barrera de entrada, que generará costos asociados a los usuarios
o propietarios, por lo que, se aducen razones para el discernimiento de este cuestionamiento.
El estudio de la KPMG comentado por el Banco Interamericano de Desarrollo, donde indica
que en el 2025 la inversión en inteligencia artificial y machine Learning crecerá en un 20%,
en 232.000 millones de dólares261. Se establece entonces que la tecnología generará millones
de dólares, y crecerá día a día y en razón a esto, que al derecho le corresponde promulgar
normas con la capacidad de proteger a quienes se relacionarán con las creaciones
tecnológicas.
Al lograr un lucro y crecer económicamente se tiene la obligación de asumir costos. No

obstante, las nuevas tecnologías deben impulsarse con responsabilidad social, Colombia es
un ejemplo de esto, instaurando beneficios tributarios, como el no pago de impuesto de renta
por 7 años para la economía naranja, la cual incluye la innovación tecnología262.
Se debe estimular la innovación, dado que es una enorme utilidad para diferentes actividades,
por ejemplo, el sector agropecuario en Colombia invierte en tecnología para maximizar la
producción y calidad del campo263. Se propone la estimulación adecuada, sin consentir
exenciones de responsabilidad e inseguridad jurídica.
260 Leenes y Lucivero, «Laws on Robots, Laws by Robots, Laws in Robots».

261
Alejandra Luzardo, Gerardo Funes, y 23 Design, Emprendimientos tecnocreativos: Creatividad y tecnología, ¿aliados
o enemigos? (Inter-American Development Bank, 2019), https://doi.org/10.18235/0001854.
262 «Economianaranja», accedido 17 de marzo de 2020,
https://www.mincultura.gov.co/Economa%20Naranja/economianaranja.html.
263 María Carmen Fernández Díez y Manuel Fernandini Puga, «Financiamiento de nuevas tecnologías digitales en el sector
agropecuario en América Latina y el Caribe: Una guía para los bancos públicos de desarrollo» (Inter-American Development
Bank, agosto de 2018), https://doi.org/10.18235/0001298.
50
Conclusiones
Dado la existencia de dispositivos capaces de relacionarse con su entorno, dotados de

algoritmos de IA y aprendizaje automático que les permiten ser totalmente autónomos de la
intervención de las personas; debe el derecho civil cuestionarse si puede regular las relaciones
que nacerán entre los seres humanos y los RI, con la finalidad de resarcir los posibles daños.
De modo que, la responsabilidad civil extracontractual aplicable al RI debería ser un régimen

de responsabilidad objetiva, especialmente para evitar que la víctima soporte un daño,
afectando la equidad y justicia compensatoria264. De igual forma, este tipo de responsabilidad
generaría seguridad jurídica en las relaciones del RI con las personas265, por lo tanto, los
perjuicios que puedan suceder serían resarcidos en su totalidad salvo fuerza mayor o culpa
de la víctima266.
Sin embargo, la responsabilidad objetiva por sí sola no permite garantizar que los daños sean
resarcidos y que exista seguridad jurídica, a menos que se establezca un tipo de persona
jurídica especial para el RI que afiance al ser humano como el responsable final del RI. Con
esta creación jurídica el RI tiene calidad de bien al servicio de la humanidad, como lo
establece el Parlamento Europeo en el punto V de sus recomendaciones, lo que guarda
completa lógica con el carácter especial del RI como dispositivo, pero, con capacidad de
producir decisiones inteligentes y autónomas267.
Por consiguiente, los elementos de la personería jurídica, es decir, la capacidad para ejercer
derechos y obligaciones, las personas propietarias, la identificación, el domicilio, campo de
acción, patrimonio social robótico, seguro y la función social, permitirían tener un
responsable final de los daños causados, organizar jurídicamente entes capaces de modificar
264 Vladeck, «Machines Without Principals: Liability Rules and Artificial Intelligence».
51
su entorno y, afrontar los retos económicos, sociales y culturales que conllevaría incorporar
estos dispositivos en la vida rutinaria.
Es evidente que, en el futuro, las labores seguramente serán desarrolladas por los RI, no
obstante, la responsabilidad siempre debe ser acreedora a los seres humanos, como Asimov
adelantaba desde 1942, un robot debe cumplir las órdenes dadas por el ser humano, a
excepción que dañe a otro ser humano.
Bibliografía
«2016 Report | One Hundred Year Study on Artificial Intelligence (AI100)». Accedido 17 de marzo de 2020.
https://ai100.stanford.edu/2016-report.
Abbott, Ryan, y Bret Bogenschneider. «Should Robots Pay Taxes? Tax Policy in the Age of Automation». SSRN Electronic
Journal, 2017. https://doi.org/10.2139/ssrn.2932483.
Alfonseca, Manuel. «¿Basta la prueba de Turing para definir la “inteligencia artificial”?» Scientia et Fides 2, n.o 2 (24 de
noviembre de 2014): 129. https://doi.org/10.12775/SetF.2014.018.
«Algoritmo en Informática: Concepto, Partes, Tipos y Ejemplos». Accedido 2 de abril de 2020.

https://concepto.de/algoritmo-en-informatica/.
Andrés, Moisés Barrio. «Robótica, inteligencia artificial y Derecho». 2018, n.o 103 (s. f.): 7.
Arrabales, Raúl. «Deep Learning: qué es y por qué va a ser una tecnología clave en el futuro de la inteligencia artificial».
Xataka, 29 de marzo de 2016. https://www.xataka.com/robotica-e-ia/deep-learning-que-es-y-por-que-va-a-ser-una-
tecnologia-clave-en-el-futuro-de-la-inteligencia-artificial.
Arteaga, Sandra. «Estados Unidos abre el camino a los coches sin conductor de entrega a domicilio». ComputerHoy, 6 de
febrero de 2020. https://computerhoy.com/noticias/motor/coche-autonomo-sin-conductor-entrega-domicilio-nuro-r2-
577103.
ASALE, RAE-, y RAE. «autonomía | Diccionario de la lengua española». «Diccionario de la lengua española» - Edición
del Tricentenario. Accedido 5 de diciembre de 2019. https://dle.rae.es/autonomía.
Atabekov, A., y O. Yastrebov. «Legal Status of Artificial Intelligence Across Countries: Legislation on the Move».
EUROPEAN RESEARCH STUDIES JOURNAL XXI, n.o Issue 4 (1 de noviembre de 2018): 773-82.
https://doi.org/10.35808/ersj/1245.
Buiten, Miriam C. «Towards Intelligent Regulation of Artificial Intelligence». European Journal of Risk Regulation 10, n.o
1 (marzo de 2019): 41-59. https://doi.org/10.1017/err.2019.8.
Cadena, Andrés Felipe Cadena. «Entre la culpa presunta y la responsabilidad objetiva», 2017, 16.
Celotto, Alfonso. «Derechos de los robots». Derechos en Acción 11, n.o 11 (19 de julio de 2019): 271.
https://doi.org/10.24215/25251678e271.
Corte Constitucional, Sentencia C- 111 del 2018, Alejandro Linares Cantillo.
Corte Constitucional. Sentencia C-133 de 2019. 27 de marzo de 2019. Jose Fernando Reyes Cuarta y Antonio Jose Lizarazo
Ocampo.
52
Corte suprema de justicia. Sentencia marzo 11 de 1976. 11 de marzo de 1976. Jose María Esguerra
Corte Suprema de Justicia. Sentencia 1887. 06 de abril de 1989. Jairo Duque Pérez.
Corte Suprema de Justicia, Sentencia 2001-1054. 24 de agosto de 2009. William Namén Vargas.
Corte suprema de justicia. Sentencia 2005-00597, 14 de junio de 2005. Edgardo Villamil Portilla
Corte Suprema de Justicia. Sentencia 2005-00611. 26 de agosto de 2010. Ruth Marina Díaz Rueda
Corte suprema de justicia. Sentencia marzo 26409, 04 de febrero de 2009. Sigifredo Espinoza Pérez.
Corte Suprema de Justicia. Sentencia 2019-00167, 01 de noviembre de 2019. Luis Armando Tolosa Villalba
Davola, Antonio. «A Model for Tort Liability in a World of Driverless Cars: Establishing a Framework for the Upcoming
Technology». SSRN Electronic Journal, 2018. https://doi.org/10.2139/ssrn.3120679.
Díaz Alabart, Silvia. Robots y responsabilidad civil. Derecho español contemporáneo. Madrid: Reus Editorial, 2018.
Ebers, Martin. «La utilización de agentes electrónicos inteligentes en el tráfico jurídico: ¿Necesitamos reglas especiales en
el Derecho de la responsabilidad civil?» 2016 3 (s. f.): 22.
«Economianaranja». Accedido 17 de marzo de 2020.

https://www.mincultura.gov.co/Economa%20Naranja/economianaranja.html.
www.nationalgeographic.com.es. «El futuro de los coches autónomos y conectados», 12 de diciembre de 2018.

https://www.nationalgeographic.com.es/ciencia/actualidad/futuro-coches-autonomos-y-conectados_13619.
Motor y Racing. «El Robot Industrial de Ensamblaje Automotriz». Accedido 30 de marzo de 2020.
https://www.motoryracing.com/coches/noticias/el-robot-industrial-de-ensamblaje-automotriz/.
Ercilla García, Javier. Normas de Derecho Civil y Robótica. Primera. Pamplona: Aranzadi, 2018.
Fernández Díez, María Carmen, y Manuel Fernandini Puga. «Financiamiento de nuevas tecnologías digitales en el sector
agropecuario en América Latina y el Caribe: Una guía para los bancos públicos de desarrollo». Inter-American Development
Bank, agosto de 2018. https://doi.org/10.18235/0001298.
Fernández, Francisca. «Robótica, inteligencia artificial y seguridad Cómo encajar la responsabilidad civil.» 25 de febrero
de 2019 9365 (25 de febrero de 2019): 13.
Hawkins, Andrew J. «Serious safety lapses led to Uber’s fatal self-driving crash, new documents suggest». The Verge, 6 de
noviembre de 2019. https://www.theverge.com/2019/11/6/20951385/uber-self-driving-crash-death-reason-ntsb-
dcouments.
Hollister, Sean. «Uber won’t be charged with fatal self-driving crash, says prosecutor». The Verge, 5 de marzo de 2019.
https://www.theverge.com/2019/3/5/18252423/uber-wont-be-charged-with-fatal-self-driving-crash-says-prosecutor.
INAP. «El impacto de la inteligencia artificial en el derecho administrativo ¿nuevos conceptos para nuevas realidades
técnicas?» Accedido 5 de diciembre de 2019. http://laadministracionaldia.inap.es/noticia.asp?id=1509574.
«INFORME con recomendaciones destinadas a la Comisión sobre normas de Derecho civil sobre robótica». Accedido 4 de
diciembre de 2019. http://www.europarl.europa.eu/doceo/document/A-8-2017-0005_ES.html.
«Inteligencia Artificial, descubriendo a los pioneros – TELEFÓNICA BUSINESS SOLUTIONS CA». Accedido 2 de abril
de 2020. https://telefonicabusinesssolutionsca.blog/inteligencia-artificial-descubriendo-a-los-pioneros/.
Discapnet. «La robótica asistencial de la mano de Fundación ONCE», 26 de septiembre de 2019.

https://www.discapnet.es/la-robotica-asistencial-innovacion.
53
Leenes, Ronald, y Federica Lucivero. «Laws on Robots, Laws by Robots, Laws in Robots: Regulating Robot Behaviour by
Design». Law, Innovation and Technology 6, n.o 2 (31 de diciembre de 2014): 193-220.
https://doi.org/10.5235/17579961.6.2.193.
Ley 1480 del 12 de octubre de 2011. Estatuto del consumidor (2012).
LLedó y Monje, Francisco y Oscar. «RETOS DE NUESTRO TIEMPO LA CRIÓNICA EN SERES HUMANOS. EL
DEBATE DE LA PERSONA ELECTRÓNICA Y LA REVOLUCIÓN ROBÓTICA». Julio-diciembre de 2018 13 (julio de
2018): 8.
López-Basanta, Clara, y Nayra Llonch Molina. «El automóvil como objeto de museo y su valor para el conocimiento de la
Historia. Primeros pasos hacia una aproximación didáctica del automóvil /», s. f., 11.
Luzardo, Alejandra, Gerardo Funes, y 23 Design. Emprendimientos tecnocreativos: Creatividad y tecnología, ¿aliados o
enemigos? Inter-American Development Bank, 2019. https://doi.org/10.18235/0001854.
Mantecón, Miguel L. Lacruz. «Cibernética y Derecho Europeo: ¿una inteligencia robótica?(». Diario La Ley, n.o 9376
(2019): 2.
Mantilla Espinoza, Fabricio, y Carlos Pizarro Wilson. «La responsabilidad civil por actividades peligrosas: aplique primero
y explique después». Revista de Derecho. Escuela de Postgrado 0, n.o 4 (27 de noviembre de 2014).
https://doi.org/10.5354/0719-5516.2013.35099.
Martínez Devia, Andrea. «La inteligencia artificial, el big data y la era digital: ¿una amenaza para los datos personales?»
Revista La Propiedad Inmaterial, n.o 27 (25 de junio de 2019): 5-23. https://doi.org/10.18601/16571959.n27.01.
Martínez Mercadal, Juan José. «Vehículos autónomos y derecho de daños. La estructura clásica de la responsabilidad civil
frente al avance de la inteligencia artificial». RFCE, n.o 20 (24 de octubre de 2018): 55.
https://doi.org/10.30972/rfce.0203267.
Melanson, Tony, y vicepresidente de marketing-AETHON PUBLICADO 15/02/2018. «Augmented Autonomy – The

Future of Autonomous Machines». Robotics Online. Accedido 26 de marzo de 2020. https://www.robotics.org/blog-
article.cfm/Augmented-Autonomy-The-Future-of-Autonomous-Machines/86.
Melo, Veronica. «El derecho ante la inteligencia artificial y la robótica». 6 de febrero de 2018, 276 edición. Accedido 17
de febrero de 2020.
http://webcache.googleusercontent.com/search?q=cache:fGn4O4v1p0cJ:www.elderecho.com.ar/includes/pdf/diarios/2018
/02/06022018.pdf+&cd=1&hl=es-419&ct=clnk&gl=co.
Moral Machine. «Moral Machine». Accedido 6 de abril de 2020. http://moralmachine.mit.edu.
«Muere mujer en accidente con carro autónomo de Uber». Accedido 12 de diciembre de 2019.
https://www.semana.com/tecnologia/articulo/muere-mujer-en-accidente-con-carro-autonomo-de-uber/560883.
Muzyka, Kamil. «The Outline of Personhood Law Regarding Artificial Intelligences and Emulated Human Entities».
Journal of Artificial General Intelligence 4, n.o 3 (1 de diciembre de 2013): 164-69. https://doi.org/10.2478/jagi-2013-0010.
Navarro, Susana Navas. «SMART ROBOTS Y OTRAS MÁQUINAS INTELIGENTES EN NUESTRA VIDA
COTIDIANA». 2016, n.o 20 (s. f.): 82-109.
Nilsson, Nils J. INTELIGENCIA ARTIFICIAL una nueva síntesis. MC Graw Hill, s. f.
Opitz, Paul. «Civil Liability and Autonomous Robotic Machines: Approaches in the EU and US». 2019 43 (s. f.): 30.
Palmerini, E., A. Bertolini, F. Battaglia, B.-J. Koops, A. Carnevale, y P. Salvini. «RoboLaw: Towards a European
Framework for Robotics Regulation». Robotics and Autonomous Systems 86 (diciembre de 2016): 78-85.
https://doi.org/10.1016/j.robot.2016.08.026.
Palmerini, Erica. «Robótica y derecho: sugerencias, confluencias, evoluciones en el marco de una investigación europea».
Revista de Derecho Privado, n.o 32 (1 de julio de 2017): 53. https://doi.org/10.18601/01234366.n32.03.
54
Pérez, Eileen Vásquez. «¿La responsabilidad por productos defectuosos es realmente objetiva según la Ley 1480 de 2011?»
2015 7 (s. f.): 12.
Pisón, José MARTÍNEZ DE. «YO, ROBOT: DE LA BIOLOGÍA A LA SINGURALIDAD. ¿NUEVAS PREGUNTAS
PARA LA FILOSOFÍA DEL DERECH O?» 15 (2017): 17.
Blogthinkbig.com. «Qué dicen las tres leyes de la robótica de Isaac Asimov», 22 de febrero de 2017.
https://blogthinkbig.com/que-dicen-las-tres-leyes-de-la-robotica-de-isaac-asimov.
Blog de Salesforce. «¿Qué es la inteligencia artificial?» Accedido 2 de abril de 2020.

https://www.salesforce.com/mx/blog/2017/6/Que-es-la-inteligencia-artificial.html.
«¿Qué es Machine Learning? – Cleverdata». Accedido 2 de abril de 2020. https://cleverdata.io/que-es-machine-learning-

big-data/.
«Retos de nuestro tiempo: la criónica en seres humanos. El debate de la persona electrónica y la revolución robótica - Núm.
13, Julio 2018 - Revista de Derecho, Empresa y Sociedad (REDS) - Libros y Revistas - VLEX 772395649». Accedido 17
de marzo de 2020. https://libros-revistas-derecho.vlex.es/vid/retos-tiempo-crionica-seres-772395649.
Ríos, Alex Kosgodagan y David. «Matemáticas para afrontar los retos de los coches autónomos». El País. 18 de febrero de
2020, sec. Ciencia. https://elpais.com/elpais/2020/01/30/ciencia/1580409528_027572.html.
Lexico Dictionaries | English. «Robot | Definition of Robot by Lexico». Accedido 26 de marzo de 2020.
https://www.lexico.com/en/definition/robot.
«Robots aspiradores Roomba | iRobot». Accedido 5 de abril de 2020. https://www.irobot.es/roomba.
Rodríguez, Marcos Rodríguez. «CONCEPTO Y ALCANCE DE LA RESPONSABILIDAD OBJETIVA». 2016, n.o 56

(s. f.): 20.
Woman Essentia. «Rome Call for AI Ethics», 10 de marzo de 2020. https://www.womanessentia.com/rome-call-for-ai-

ethics/.
Salichs, Miguel A., María Malfaz, y Javi F. Gorostiza. «Toma de Decisiones en Robótica». Revista Iberoamericana de
Automática e Informática Industrial RIAI 7, n.o 4 (octubre de 2010): 5-16. https://doi.org/10.1016/S1697-7912(10)70055-
8.
Sánchez Barrilao, Juan Francisco. «El Derecho constitucional ante la era de Ultrón: la informática y la inteligencia artificial
como objeto constitucional». Estudios de Deusto 64, n.o 2 (29 de diciembre de 2016): 225. https://doi.org/10.18543/ed-
64(2)-2016pp225-258.
Santos González, María José. «Regulación legal de la robótica y la inteligencia artificial: retos de futuro = Legal regulation
of robotics and artificial intelligence: future challenges». Revista Jurídica de la Universidad de León, n.o 4 (20 de diciembre
de 2017): 25. https://doi.org/10.18002/rjule.v0i4.5285.
Schwab, Klaus. «La cuarta revolución industrial-Klaus Schwab». La cuarta revolución industrial. World Economic Forum,
1 de noviembre de 2016. https://es.weforum.org/agenda/archive/fourth-industrial-revolution/.
Signorino, Andrea Barbat, Los seguros de responsabilidad civil, Bogotá, Ibañez, 2017
Terrones Rodríguez, Antonio Luis. «Inteligencia artificial y ética de la responsabilidad». Cuestiones de Filosofía 4, n.o 22
(7 de agosto de 2018). https://doi.org/10.19053/01235095.v4.n22.2018.8311.
Thompson, Lynda. «Automated vehicles - who is liable for an accident? - Roythornes Solicitors». Roythornes. Accedido 6
de abril de 2020. https://www.roythorne.co.uk/site/blog/personal-injury-blog/automated-vehicles-who-is-liable-for-an-
accident.
«Uber no tiene responsabilidad penal en caso de accidente con carro autónomo - Novedades Tecnología - Tecnología -
ELTIEMPO.COM». Accedido 12 de diciembre de 2019. https://www.eltiempo.com/tecnosfera/novedades-tecnologia/uber-
no-tiene-responsabilidad-penal-en-caso-de-accidente-con-carro-autonomo-334614.
55
Van Parijs, Philippe. «The Universal Basic Income: Why Utopian Thinking Matters, and How Sociologists Can Contribute
to It». Politics & Society 41, n.o 2 (junio de 2013): 171-82. https://doi.org/10.1177/0032329213483106.
Villalba, Juan Carlos. «La responsabilidad por producto defectuoso en el derecho colombiano». Civilizar 14, n.o 27 (1 de
julio de 2014): 17. https://doi.org/10.22518/16578953.179.
Vladeck, David C. «Machines Without Principals: Liability Rules and Artificial Intelligence». WASHINGTON LAW
REVIEW 89, n.o 1 (2014): 35.
Wagner, Gerhard. «I. The Concepts of Robots, Autonomous Systems and IoT-Devices», s. f., 24.
Weng, Yueh-Hsuan, Yusuke Sugahara, Kenji Hashimoto, y Atsuo Takanishi. «Intersection of “Tokku” Special Zone,
Robots, and the Law: A Case Study on Legal Impacts to Humanoid Robots». International Journal of Social Robotics 7,
n.o 5 (noviembre de 2015): 841-57. https://doi.org/10.1007/s12369-015-0287-x.
Winkelman, Zev, Maya Buenaventura, James Anderson, Nahom Beyene, Pavan Katkar, y Gregory Baumann. «Hacked
Autonomous Vehicles: Who May Be Liable for Damages? An Initial Investigation into How Civil Liability Systems Can
Prepare», 2019. https://doi.org/10.7249/RB10063.

Personeria Juridica de Un Robot Inteligente

Cargado por

Información del documento

Derechos de autor

Formatos disponibles

Compartir este documento

Compartir o incrustar documentos

Opciones para compartir

¿Le pareció útil este documento?

¿Este contenido es inapropiado?

Copyright:

Formatos disponibles

Personeria Juridica de Un Robot Inteligente

Cargado por

Copyright:

Formatos disponibles

1

LA PERSONERÍA JURÍDICA DEL ROBOT INTELIGENTE, COMO SOLUCIÓN

Fabián Camilo Castro Vargas1

Introducción – I. ¿EL DERECHO CIVIL COLOMBIANO DEBE ESTAR PREPARADO A

febrero de 2020, https://computerhoy.com/noticias/motor/coche-autonomo-sin-conductor-entrega-domicilio-nuro-r2-

ELTIEMPO.COM», accedido 12 de diciembre de 2019, https://www.eltiempo.com/tecnosfera/novedades-tecnologia/uber-

posteriormente dentro de la investigación pertinente, se puso a conocimiento que el vehículo

A continuación, se describen las diferencias en la definición entre robot y robot inteligente:

de diciembre de 2019, http://www.europarl.europa.eu/doceo/document/A-8-2017-0005_ES.html.

Revista de Derecho Privado, n.o 32 (1 de julio de 2017): 53, https://doi.org/10.18601/01234366.n32.03. 65

del Tricentenario, accedido 5 de diciembre de 2019, https://dle.rae.es/autonomía.

el tiquete de pago a la entrada de un parqueadero. En contraste, el robot inteligente (RI)13

Al ser el RI capaz de tomar decisiones basadas en auto-aprendizaje, se pueden generar

La naturaleza del RI basada en algoritmos prediseñados que le permite tener la capacidad de

Es imperativo analizar si las normas existentes dentro de la legislación civil colombiana,

13 Robot inteligente, de ahora en adelante RI.

DEBATE DE LA PERSONA ELECTRÓNICA Y LA REVOLUCIÓN ROBÓTICA», Julio-diciembre de 2018 13 (julio de

en el Derecho de la responsabilidad civil?», 2016 3 (s. f.): 22.

estas situaciones. En consecuencia, el problema jurídico que se desea resolver en el desarrollo

Ahora bien, el lector puede encontrar en el artículo académico, el porqué de la relevancia en

I. ¿El derecho civil colombiano debe estar preparado a una

1. El avance tecnológico y el derecho

En el transcurso del desarrollo de la historia humana, el ser humano ha creado y utilizado

Las revoluciones industriales fueron producidas por la creación de nuevas tecnologías y su

Un factor común en las revoluciones industriales fue el exponencial crecimiento de la

Dado el nacimiento de relaciones no contempladas con anterioridad, todas estas revoluciones

La tecnología avanzada es una realidad tangible, las personas se relacionan con

La desmesurada inversión e innovación tecnológica posibilitará la relación de personas con

(7 de agosto de 2018), https://doi.org/10.19053/01235095.v4.n22.2018.8311.

Journal, 2017, https://doi.org/10.2139/ssrn.2932483.

1.1. Conceptos generales

COTIDIANA», 2016, n.o 20 (s. f.): 82-109.

PARA LA FILOSOFÍA DEL DERECH O?» 15 (2017): 17.

Future of Autonomous Machines», Robotics Online, accedido 26 de marzo de 2020, https://www.robotics.org/blog-

1.1.2. Inteligencia artificial

La IA también se considera como el campo de la informática que trabaja en el desarrollo de

Asimismo, la IA se basa en la aplicación de algoritmos y el uso de datos54. Los algoritmos

45 Inteligencia artificial, de ahora en adelante IA.

de 2019 9365 (25 de febrero de 2019): 13.

noviembre de 2014): 129, https://doi.org/10.12775/SetF.2014.018.

Automática e Informática Industrial RIAI 7, n.o 4 (octubre de 2010): 5-16, https://doi.org/10.1016/S1697-7912(10)70055-

técnicas?», accedido 5 de diciembre de 2019, http://laadministracionaldia.inap.es/noticia.asp?id=1509574.

El uso de los datos es otro punto fundamental de la IA y depende de la capacidad de

55 «Algoritmo en Informática: Concepto, Partes, Tipos y Ejemplos», accedido 2 de abril de 2020,

Revista La Propiedad Inmaterial, n.o 27 (25 de junio de 2019): 5-23, https://doi.org/10.18601/16571959.n27.01.

nervioso con capas de unidades de procesos o neuronas artificiales65. Como se puede

El buscar imitar el pensamiento humano produce el surgimiento de la teoría de la

1.1.3. Robot inteligente

1.Capacidad de adquirir autonomía mediante sensores y/o mediante el intercambio de datos en su

2. Capacidad de autoaprendizaje a partir de la experiencia y la interacción (criterio facultativo).

3. Un soporte físico mínimo.

4. Capacidad de adaptar su comportamiento y acciones al entorno.

5. Inexistencia de vida en sentido biológico72.

El RI es considerado un robot de cuarta generación, inteligente y con capacidad de convivir

A continuación, se brinda un ejemplo para ilustrar el enfoque anterior: un robot brazo

73 INAP, «El impacto de la inteligencia artificial en el derecho administrativo».

Ilustración 1. Esquema robot inteligente. Elaboración propia.

1.2. La responsabilidad civil extracontractual y el RI en nuestra vida diaria

78 Andrés, «Robótica, inteligencia artificial y Derecho».

Las normas unitarias o las aplicables no deben permitir exoneraciones de responsabilidad

A LAS DESVIACIONES INCONTROLADAS», n.o 1 (2017): 23.12

1.2.1. Vehículos autónomos

El desarrollo automotriz le apuesta a la autonomía, por ejemplo, la compañía Tesla trabaja

85 Ebers, «La utilización de agentes electrónicos inteligentes en el tráfico jurídico».