UNIVERSIDAD PRIVADA ANTENOR ORREGO

FACULTAD DE DERECHO Y CIENCIAS POLÍTICAS

PROGRAMA DE ESTUDIO DE DERECHO

TRABAJO DE INVESTIGACIÓN:
La inteligencia artificial y la toma de decisiones judiciales en América del Sur
(2016-2023)

AUTOR:
Llique Camacho, Walter Isaac.
( https://orcid.org/0009-0003-2949-9036 )

ASESOR:
Mg. Castañeda Méndez, Juan Alberto.
( https://orcid.org/0000-0003-4472-8709 )

LINEA DE INVESTIGACIÓN:
Derecho Constitucional
 1. INTRODUCCIÓN

La inteligencia artificial y su aplicación en la rama de la justicia, tiene

proyecciones a ser utilizado como una herramienta funcional, teniendo que ser
analizada desde distintas perspectivas. En primer lugar, podemos determinar
que la inteligencia artificial se puede aplicar como objeto del proceso, siendo
necesario aplicar estas categorías legales a la nueva realidad que nos aborda
en la cual las decisiones que pensábamos únicamente de los humanos sean
tomadas por los algoritmos los cuales puedan optar por distintas opciones. En
segundo lugar, la inteligencia artificial como una ayuda para los operadores
legales. Hoy en día distintas empresas proveen nuevas e innovadoras
tecnologías al ámbito jurídico, con el finde automatizar procedimientos.

Ahora bien, el impacto que tiene esta herramienta tecnológica en la

administración de justicia tiene cierto margen de riesgo. Los usuarios a cargo
de estas tecnologías suelen tener un enfoque solo en las interfaces y en las
herramientas las cuales posibilitan el uso de estos sistemas tecnológicos y no
tienen en cuenta el funcionamiento interno.

Aunado a ello los desafíos que se evidencia en la utilización de

algoritmos al administrar justicia relacionado con la protección a los derechos a
la intimidad, derecho a la transparencia y la rendición de cuentas. Es por eso
que una de las interrogantes es como sería posible garantizar una correcta
supervisión y consiguiente rendición de cuentas al usar este tipo de
tecnologías.

Por otra parte, los retos que existen a causa de una falta de regulación
jurídica, motivo por el cual la posible implementación de esta inteligencia
artificial en la justicia implicaría la necesidad de tener un marco regulatorio el
cual tenga como objetivo respetar los derechos humanos. Se suma a ello que
la creación y mantenimiento de estas nuevas tecnologías tiene un costo muy
alto si es que se quiere que estas perduren en el tiempo y posean medidas de
ciberseguridad estrictas.

La Asamblea General de la OEA (2017) en la Resolución 2095 del 20 de

junio del 2017 resolvió reafirmar la importancia que representa para los

1
gobiernos de cada región de América Latina y el Caribe el uso de las
tecnologías digitales como factor más importante y transformador de nuestro
tiempo. Debido a su influencia en la gestión pública, la democratización de los
servicios públicos, la disponibilidad de la información publica y el
empoderamiento de el ciudadano con el objetivo de reducir cada vez más las
brechas sociales (pág. 53).

En cuanto a las decisiones judiciales en China se evidencio la presencia

de “jueces virtuales” los cuales están basados en la inteligencia artificial con el
objetivo de resolver conflictos judiciales. En China en el año 2019 se presentó,
el tribunal de internet o también definido como “centro de litigio en línea”. Esta
se trata de una plataforma en la cual las partes cargan los datos del problema
materia de conflicto y la inteligencia artificial se encarga del resto, como lo es
analizar la temática, buscar jurisprudencia contratar las pruebas y emitir una
sentencia (Collosa & Porporatto, 2020). O tal es el caso de un juez de
apariencia femenina con expresiones y voz, basado en una inteligencia artificial
resolverá conflictos simples, siendo esta apoyada por jueces de verdad.

En Estonia, el ministerio de justicia se ha agenciado de un grupo de

investigadores a los cuales se le ha dado la tarea de implementar una
inteligencia artificial con la finalidad de llevar acabo juicios menores, en los
cuales la cuantía es menor a 7000 euros o menos (Confilegal, 2019). Teniendo
en su primera fase apoyo humano, siendo esta una prueba piloto centrándose
en disputas contractuales.

Por otro lado, en el 2016 la universidad de College de Londres en

conjunto con otras universidades diseñaron un algoritmo para poder predecir
las decisiones del Tribunal Europeo de derechos humanos. Para esta
elaboración de modelo predictivo se utilizaron decisiones de las cuales se
tomaron en cuenta información respecto a: procedimientos, los hechos, los
argumentos de las partes y méritos. Con esta información se extranjero una
serie de características textuales para la elaboración de un algoritmo basado
en “máquina de vectores soporte”. Este algoritmo tuvo en grado de precisión
del 80% en la predicción de resultados (Cayón, 2020).

2
 Actualmente se están desarrollando proyectos tal es el caso de
Colombia en el cual se implementó un proyecto de inteligencia artificial llamada
PretorIA la cual tiene como objetivo hacer mas eficiente el proceso de selección
de los casos de tutela judicial en el tema de derechos fundamentales. El
objetivo de este sistema es calificar las sentencias de tutela. Este sistema
facilita la presentación de la información en una ficha resumen la cual indica la
presencia o no de las categorías de texto, así como la elaboración de
estadísticas y la identificación de temas recurrentes. Debido a la carga de
acciones de tutela, debido a que alrededor del 50% de la invocación de los
derechos eran relacionados a derechos de salud razón por la cual el gobierno
colombiano se vio en la necesidad de agenciarse de una herramienta que
provea mayor celeridad frente a estos recursos (Ossa & Hernández, 2020)

Ahora bien, la formulación del problema nos remite a la siguiente

pregunta: ¿De qué manera la inteligencia artificial coadyuva a la toma de
decisiones judiciales?, es por esto que el objetivo general es determinar si la
inteligencia artificial coadyuva a la toma de decisiones judiciales. Asimismo, los
objetivos específicos son: analizar a la inteligencia artificial como herramienta
funcional, diagnosticar la lentitud del sistema judicial y analizar la carga
procesal del sistema judicial y la posibilidad de descongestionarlo.

La hipótesis fundamentada en que la inteligencia artificial como

herramienta tecnológica ayuda de gran manera en poder agilizar los procesos,
tanto a nivel judicial y administrativo, además de poder conseguir que los fallos
se logren de manera precisa al disminuir la variable de fallo lo cual va a
beneficiar a las partes al tener un proceso célere y confiable, beneficiando al
alicaído sistema a judicial de América del Sur.

3
 2. ANTECEDENTES:

Simón (2021) en su artículo de investigación titulado” Inteligencia

artificial y administración de justicia” en la ciudad de Catalunya, España. El
objetivo principal del artículo en mención es identificar los principales retos y
desafíos jurídicos de la inteligencia artificial y la afectación que representa en
distintos ámbitos como lo es la protección de los datos personales, la igualdad,
la seguridad jurídica, la transparencia y la rendición de cuentas. Una de sus
conclusiones principales es que tomando en cuenta los estudios analizados
el uso de la inteligencia artificial a la fecha, en perspectiva comprada, ha sido
limitado y para fines concretos, de tal manera que los estudios indican un
avance tecnológico notable en los años venideros en el campo del aprendizaje
autónomo.

El presente trabajo se relaciona con el suyo de manera tal que; es

necesario que se garantice la transparencia y el derecho de defensa, así como
la igualdad de armas procesales, asimismo contar con mecanismos ex lege
que a su vez puedan permitir un control efectivo de la actividad realizada por
los equipos técnicos.

Miranda (2022) en su artículo de investigación titulado “Inteligencia

artificial y justicia” en México. El objetivo principal es la de analizar el
fenómeno de la inteligencia artificial, su poca regulación jurídica, así como su
impacto en el ámbito de la aplicación de justicia en sus múltiples dimensiones
tanto para el juez, los abogados y las partes. Una de sus conclusiones
principales es que el uso de las herramientas tecnológicas en los sistemas
judiciales busca mejorar la eficiencia y la calidad de la justicia, sin embargo,
tiene como desafío su alto costo de creación y sostenibilidad, la capacitación
del personal, así como de una perspectiva multidisciplinaria.

El presente trabajo se relaciona con el suyo de manera que; contar con

herramientas de ciber seguridad y llevarse a cabo de manera responsable y
ética respetando los derechos fundamentales a la intimidad y privacidad,

4
igualdad y a la no discriminación, transparencia e imparcialidad tanto como a
una justicia pronta reconocida a nivel constitucional.

Castellanos; Ramos (2022) en su trabajo de investigación titulado

“Inteligencia artificial en el sector justicia” para obtener el grado de magister en
derecho, gobierno y gestión de la Justicia por la Universidad de los Andes de
Colombia.

Su objetivo general es explorar el panorama actual de implementación

de la inteligencia artificial en el servicio de justicia de Colombia haciendo un
análisis de la aplicación de las distintas tecnologías en la gestión de procesos
judiciales. Una de sus principales conclusiones es que el análisis llevado a
cabo en el sistema judicial colombiano conduce a estimar que la inteligencia
artificial no es una idea lejana dentro del sistema de justicia, sino que los
distintos sistemas de justicia busquen la posibilidad de implementar estos
sistemas para innovar y optimizar la labor de los operadores jurídicos.

Este trabajo se vincula al suyo en tanto que busca determinar la manera

en la que la inteligencia artificial coadyuvara al sistema judicial buscando
optimizar la laborar de los jueces, la tesis en cuestión, concluye en que es una
posibilidad latente la de utilizar la inteligencia artificial tanto en la búsqueda y
clasificación de información para uso de los funcionarios como los
desarrollados para la atención de personas externas estas dirigidas a
complementar y asistir la labor en los procesos judiciales.

Aponte (2020) en su artículo de investigación titulado “La

responsabilidad civil sobre la inteligencia artificial: La utilización de inteligencia
artificial en el derecho colombiano” en la ciudad de Colombia.

El objetivo general del presenta artículo es el crear un control respecto

a las nuevas tecnologías para que se creen las garantías suficientes con la
finalidad de discernir quien será el responsable en caso de que estas
tecnologías creen problemas en la sociedad al vulnerar los derechos de las
personas. Una de sus principales conclusiones es, que sigue latente la
necesidad de que tanto la Corte Constitucional como los creadores de
Prometea en conjunto con los legisladores busquen la manera de disminuir las

5
dudas que estas nuevas tecnologías representan salvaguardando los derechos
fundamentales permitiendo un equilibrio entre el desarrollo célere y objetivo.

El presente artículo de investigación se relaciona con el suyo de la

siguiente manera; la búsqueda de determinar que la legislación pueda prever la
responsabilidad del Estado respecto a las decisiones y omisiones que resulten
de la aplicación de estas nuevas tecnologías asimismo crear una normativa
respecto al uso de estas tecnologías.

Figueroa; Muñoz (2021) en su trabajo de investigación titulado

“Inteligencia artificial y uso de algoritmos en las decisiones judiciales ¿es un
método exento de subjetividades” para obtener el grado de bachiller en
derecho por la Universidad de Valparaíso de Chile.

Su objetivo general es determinar el impacto de la inteligencia artificial

y la evolución de los llamados algoritmos en lo que respecta a la administración
de justicia estatal, en su dimensión civil y penal, de manera que se identifique
las ventajas y desventajas teóricas relacionado con lo que plantean los juristas.
Una de sus principales conclusiones es que la oportunidad de innovar y
asimilar estas nuevas tecnologías a la Constitución es de suma relevancia
siempre y cuando se lleve a cabo un correcto diseño, desarrollo, aplicación y
auditoria de los algoritmos, tanto de forma ética, justa y responsable.

El trabajo se vincula al suyo de manera siguiente; al llamar la atención

dos aspectos importantes, el primero es que al implementar la inteligencia
artificial en la toma de decisiones judiciales no solo se tenga como objetivo
predecir el riesgo criminal, sino que se tenga como objetivo lograr fines
constructivos como la rehabilitación y la reinserción social de los reos.
Asimismo, despierta un temor importante al implicar que se tome decisiones en
torno a la condena y absolución de personas de sistemas de evaluación de
riesgos los cuales pueden contener datos discriminatorios lo cual va en contra
de nuestro sistema garantista.

Uscamayta (2021) en su trabajo de investigación titulado “Inteligencia

artificial como herramienta para mejorar la calidad y celeridad de decisiones
jurisdiccionales” para obtener el título de abogado por la Universidad Andina
del Cusco de Perú.

6
 Su objetivo general es poder determinar de qué manera la inteligencia
artificial va a coadyuvar en la mejora de la calidad y celeridad de las decisiones
judiciales en el proceso civil peruano. Una de sus principales conclusiones
es que la inteligencia artificial puede ser de ayuda en la gestión de despacho la
cual permite suplir el tiempo la parte administrativa innata a la labor del juez,
así como acortar el tiempo de administración de los casos por criterios de
urgencia y la admisión de un acto neutro con la posibilidad de automatización
mediante sistemas con machine learning como los usados en Estados Unidos.

El presenta trabajo se vincula con el suyo de manera que; el uso de la IA

en la calidad de las decisiones judiciales puede servir como sistema soporte
para identificar la normativa, en tanto que sus técnicas avanzadas de búsqueda
por analogía semántica y sintáctica en casos similares permitan identificar
decisiones anteriores ya resueltas pudiendo resolver los casos similares.

Núñez (2021) en su artículo de investigación titulado “Innovación digital

en el poder judicial en el Perú: Aplicación de las nuevas tecnologías
transformadoras y disruptivas” en el Perú. Su objetivo general es analizar la
innovación digital en el poder judicial en el Perú, a través de la aplicación de las
nueva tecnologías transformadoras y disruptivas. Una de sus principales
conclusiones es que estas nuevas tecnologías transformadoras y disruptivas
son una necesidad, que la administración de justicia peruana ya ha iniciado
pero que requiere de un impulso tecnológico la cual tiene que incluir el uso de
medios electrónicos.

El presenta trabajo se relaciona con el suyo de la siguiente manera; las

nuevas tecnologías y la repotenciación tanto en la celeridad como la
transparencia en los procesos judiciales va a requerir de la aplicación sistémica
y articulada de estas materias: gobierno digital, economía digital, innovación
digital de manera que se fortalezca la confianza digital.

Doroteo; Camacho (2021) en su trabajo de investigación titulado

“Inteligencia artificial y la automatización de procesos judiciales en la
administración de justicia del Perú” para obtener el grado de Abogado por la
Universidad Privada del Norte en el Perú.

7
 Su objetivo general es establecer de qué manera la inteligencia artificial
influye en la automatización de los procesos judiciales en la administración de
justicia en el Perú. Una de sus principales conclusiones es que el sistema
judicial peruano incumple con el principio de celeridad procesal debido a la falta
de recursos humanos e infraestructura por lo que se establece que la
inteligencia artificial incide de manera positiva para el logro de la
automatización de los procesos judiciales.

El presente trabajo se relaciona con el suyo de manera tal que la

inteligencia artificial beneficia positivamente el enfoque alternativo de impartir
justicia, en tanto que brinda un distinto panorama al tradicional logrando
automatizar procesos judiciales clásicos, logrando cumplir el plazo en la
atención de conflictos.

Valero (2021) en su artículo de investigación titulado “Derecho e

inteligencia artificial en el mundo de hoy: escenarios internacionales y desafíos
que representan en el Perú”. Su objetivo general es analizar la irrupción de los
sistemas inteligentes desarrollados en el campo del derecho a nivel nacional e
internacional, a su vez plantear los principales desafíos que representan en el
mundo jurídico. Una de sus conclusiones principales es que los sistemas
expertos en sentencias es probable que los magistrados de primera instancia
sean reemplazados por la inteligencia artificial, sin embargo, las instancias
superiores son necesario que las decisiones sean tomadas por personas.

EL presente trabajo se relaciona con el suyo de la siguiente manera; en

el desarrollo del proceso el sistema inteligente es capaz de elaborar
dictámenes jurídicos, ejecuciones discales y analizar documentación en
tiempos inferiores a los que podría realizarlos una persona.

8
 3. MARCO TEÓRICO:

Exp. 00052-2022-18-3002-JP-FC-01

Alimentos

En primera instancia, la pensión fue fijada en el 20% de los ingresos

del obligado. De ahí que, frente al recurso de apelación del demandado,
dicha pensión fue confirmada en segunda instancia, sirviéndose para ello del
auxilio de la, actualmente, conocida plataforma de Inteligencia Artificial
OpenAI-ChatGTP. Los criterios legales para fijar la pensión de alimentos
están previstos en el artículo 481 del Código Civil.

En virtud de estos criterios e información brindada por la Inteligencia

Artificial, la sentencia estableció que, para determinar la cuantía de los
alimentos que debe otorgar el padre de la menor, deben considerarse los
ingresos de ambos progenitores y los gastos necesarios para la manutención
de la menor. La importancia del empleo de la Inteligencia Artificial en la
expedición de la aludida sentencia radica en el carácter técnico objetivo que
se brinda a la justificación del importe fijado como pensión de alimentos,
reduciendo la discrecionalidad que caracteriza estos procesos

https://img.lpderecho.pe/wp-content/uploads/2023/03/Expediente-
00052-2022-18-3002-JP-FC-01-LPDerecho.pdf

Informe - A9-0232/2021

Sobre la inteligencia artificial en el Derecho penal y su utilización por

las autoridades policiales y judiciales en asuntos penales

9
 Considerando que la IA es utilizada por las autoridades policiales en
aplicaciones como las tecnologías de reconocimiento facial por ejemplo, para
buscar en bases de datos de sospechosos e identificar a víctimas de trata de
seres humanos o abuso y explotación sexual infantiles, el reconocimiento
automático de matrículas, la identificación por voz, el reconocimiento del
habla, las tecnologías de lectura de labios, la vigilancia auditiva es decir,
algoritmos de detección de disparos, la investigación y el análisis autónomos
de bases de datos identificadas, la predicción actuación policial predictiva y
análisis de puntos críticos de delincuencia.

Los instrumentos de detección del comportamiento, las herramientas

avanzadas de autopsia virtual para ayudar a determinar la causa de la
muerte, las herramientas autónomas para detectar fraudes financieros y la
financiación del terrorismo, la vigilancia de las redes sociales, rastreo y
recopilación de datos para detectar conexiones y los sistemas automatizados
de vigilancia que incorporan diferentes capacidades de detección, como la
detección del latido cardíaco y las cámaras térmicas

Las aplicaciones mencionadas, junto con otras aplicaciones

potenciales o futuras de la tecnología de IA en el ámbito de la garantía del
cumplimiento de la ley, pueden tener grados enormemente variables de
fiabilidad y precisión y de repercusión en la protección de los derechos
fundamentales y en la dinámica de los sistemas de justicia penal; que
muchas de estas herramientas se utilizan en terceros países, pero serían
ilegales conforme al acervo y la jurisprudencia de la Unión en materia de
protección de datos; que la utilización rutinaria de algoritmos, incluso con una
pequeña tasa de falsos positivos, puede dar lugar a que las falsas alertas
superen con creces las alertas correctas;

Fuente: Parlamento Europeo

Inteligencia artificial y justicia penal: más allá de los resultados lesivos

causados por robots

10
 Fernando Miró Llinares

La incorporación de cualquier tecnología debe estar basada en algo

volitivo, y no sólo en lo posibilísimo. Debemos incorporar la IA a la justicia
penal y a la actividad policial no porque podemos hacerlo sino porque gracias
a ello podamos mejorar la práctica de la justicia penal.

Es obvio que las IA han logrado ser incorporadas con cierto éxito a
tareas de toma de decisiones policiales o judiciales, y no hay vistas de que
su actividad merme en un futuro, sino más bien todo lo contrario. Frente a
ello podemos adoptar: una visión conformista, y reconocer que el uso de
tales IA nos traerá más ventajas que inconvenientes y dejar estos de lado
para abrazar sus beneficios.

Si bien el alcance predictivo de estos algoritmos es limitado,

especialmente en relación con decisiones jurídico-penales complejas, y
puede estar sesgado, conviene recordar de dónde partimos: las herramientas
predictivas de las que hablamos no vienen más que a hacer lo que ya se
hacía y se hace a día de hoy de manera tradicional y manual y
probablemente con los mismos sesgos o más, añadiendo, en algunos casos,
una metodología más sistemática o científica.

Es indudable, por tanto, que para una correcta valoración de si se

pueden o no utilizar en las herramientas de valoración del riesgo datos como
el género o la edad, no se pueden obviar otras consideraciones como son el
alcance predictivo real de las herramientas y, a su vez, el tipo de afectación a
los derechos que se deriva de las diferentes formas posibles de diagnóstico

file:///C:/Users/User/Downloads/26446-Texto%20del%20art
%C3%ADculo-58530-1-10-20200123.pdf

Sentencia No. 032-Colombia

Salud y vida digna

La sentencia con fecha del 30 de enero resolvió el pedido de una

madre para que su hijo autista fuera exonerado del pago de citas médicas,

11
terapias y transporte hacia los centros hospitalarios pues la familia no cuenta
con los recursos económicos para hacerse cargo. Padilla falló a favor del
menor de edad y en la sentencia revela que interrogó al robot conversacional
ChatGPT para sustentar su decisión.

¿Menor autista está exonerado de pagar cuotas moderadoras en sus

terapias?”, le preguntó al chatbot.

“Sí, es correcto. De acuerdo con la normativa en Colombia, los

menores con diagnóstico de autismo están exonerados de pagar cuotas
moderadoras en sus terapias. Este beneficio está regulado por la Ley 1753
de 2015 y se aplica a todas las instituciones prestadoras de servicios de
salud públicas o privadas que reciban recursos del sistema general de
seguridad social en salud”, fue la respuesta del robot.

El sistema de inteligencia artificial también contestó afirmativamente a

si el cobro de esta cuota era una barrera de acceso al servicio de salud y si la
Corte Suprema ya había tomado decisiones favorables en casos similares.

El contar con herramientas de ciber seguridad y llevarse a cabo de

manera responsable y ética respetando los derechos fundamentales a la
intimidad y privacidad, igualdad y a la no discriminación, transparencia e
imparcialidad tanto como a una justicia pronta reconocida a nivel
constitucional.

La búsqueda de determinar que la legislación pueda prever la

responsabilidad del Estado respecto a las decisiones y omisiones que
resulten de la aplicación de estas nuevas tecnologías asimismo crear una
normativa respecto al uso de estas tecnologías.

https://img.lpderecho.pe/wp-content/uploads/2023/02/Sentencia-032-
Colombia-LPDerecho.pdf

Inteligencia artificial y Administración de Justicia: ¿Quo vadis, justitia?

Pere Simón Castellano

Es fundamental que la ética, la tecnología y el Derecho se relacionen

12
para evitar consecuencias negativas contra los derechos humanos y los
principios jurídicos. Por tanto, considera que es esencial que los magistrados
se capaciten en el uso responsable de esta tecnología para no comprometer
el objetivo del Derecho, que es buscar la justicia.

La presencia en nuestra vida cotidiana de las más modernas

tecnologías de la información y la comunicación, así como de la llamada
inteligencia artificial, es cada vez mayor a la par que más valiosa. Las
Administraciones públicas no pueden permanecer inmóviles ante una nueva
realidad social que ofrece también una brillante oportunidad para incrementar
su eficiencia y eficacia en ámbitos muy concretos como, por ejemplo, la lucha
contra el fraude y las irregularidades.

Los retos y desafíos jurídicos que presenta la IA, empero, son muchos
y muy significativos, cuya afectación se proyecta en ámbitos tan diversos
como la protección de datos personales, la igualdad, la seguridad jurídica, la
transparencia y la rendición de cuentas, entre otros. Los problemas se
multiplican exponencialmente en el ámbito de la Administración de Justicia y,
muy especialmente, para determinados usos en el marco del proceso penal.

Aunque la justicia no es ni debe convertirse en un mero acto de

predicción ni en un modelo matemático que pueda encerrarse en fórmulas,
no es menos cierto que el empleo de la IA para fines concretos puede
resultar muy útil en todos los órdenes jurisdiccionales.

file:///C:/Users/User/Downloads/Dialnet-
InteligenciaArtificialYAdministracionDeJusticia-7962069.pdf

Inteligencia artificial en el proceso judicial

Séifar Andrés Arce Arbeláez

Fijar a la inteligencia artificial como un aliado del juez dentro del

proceso que le sugiere la posible decisión final del litigio, origina el siguiente
interrogante ¿El software fungiría como funcionario del despacho o como

13
auxiliar de la justicia? Como funcionario del despacho es imposible porque en
Colombia a los softwares no se les ha reconocido la calidad de persona,
titular de derechos y obligaciones; y como auxiliar de la justicia, también es
imposible.

La importancia de realizar la división entre actos de simple trámite y

los actos complejos es que permite analizar el alcance de la inteligencia
artificial en el proceso judicial, la cual, en caso de considerarse procedente,
lo sería solo para la intervención en los actos de simple trámite porque son
situaciones ya determinadas en el Código y al ser normas de orden público
no se permite su modificación, es decir, sea un humano o un software con
inteligencia artificial que la vaya a aplicar, debe ceñirse a lo que ordena el
Código General.

Situación diferente ocurre con los actos complejos, debido a que, el

juez al momento de tomar una decisión de fondo como es lo referente a la
sentencia que pone fin al proceso, no se ciñe únicamente a lo que señala la
ley o a un razonamiento lógico, como lo haría el programa de inteligencia
artificial, eventualmente debe acudir a la equidad, costumbre, principios
constitucionales, principios generales del derecho y reglas de la experiencia.

Dejando por sentado que en caso de ser procedente la inteligencia

artificial en el proceso judicial, esta sería únicamente en los actos de simple
trámite.

https://icdp.org.co/inteligencia-artificial-en-el-proceso-judicial/

Inteligencia artificial para el sistema judicial colombiano

Camilo Narváez López

os problemas estructurales son numerosos y es necesario identificar

sus causas. Un acercamiento entre las tres ramas del Poder Público, los
empleados judiciales, los usuarios de la administración de justicia y los
abogados sería apropiado para que identifiquen de manera exhaustiva esos

14
problemas que limitan la prestación y el acceso al servicio de justicia en
Colombia.

En el país se han presentado diversas reformas a la justicia que han

resultado fallidas y otras propuestas, como la convocatoria a una asamblea
nacional constituyente, la implementación de un examen de Estado para
ejercer la abogacía, la adopción de un sistema de elección de los
magistrados de las altas cortes basado en la meritocracia y la eliminación de
las funciones electorales y de postulación que actualmente ejercen.

En ese contexto, otra solución podría ser la Inteligencia Artificial (IA)

como una herramienta útil para identificar esos problemas estructurales y,
probablemente, resolverlos. ¿Propuesta utópica? En lo absoluto. La IA, a
través de la programación de algoritmos que aprenden por sí mismos, busca
emular la forma en cómo las personas adquieren conocimientos,
maximizando la cognición humana, que se cimenta en tres pilares
fundamentales, que son: entender, razonar y aprender.

Fuente: Asociación Colombiana de seguridad

The ethics of artificial intelligence

Nick Bostrom Eliezer Yudkowsky

Existe un acuerdo casi universal entre los profesionales modernos de

IA de que la Inteligencia Artificial no alcanza las capacidades humanas en
cierto sentido crítico, a pesar de que los algoritmos de IA han vencido a los
humanos en muchos dominios específicos como el ajedrez. Algunos han
sugerido que tan pronto como los investigadores de IA descubren cómo
hacer algo, esa capacidad deja de considerarse inteligente: el ajedrez se
consideraba el epítome de la inteligencia hasta que Deep Blue ganó el
campeonato mundial de Kasparov, pero incluso estos investigadores están
de acuerdo en que falta algo importante en las IA modernas.

Si bien este subcampo de la Inteligencia Artificial apenas se está

fusionando, "Inteligencia General Artificial" es el término emergente del arte
utilizado para denotar la IA "real". Como su nombre lo indica, el consenso
15
emergente es que la característica que falta es la generalidad. Los
algoritmos actuales de IA con un rendimiento equivalente o superior se
caracterizan por una competencia programada deliberadamente solo en un
dominio único y restringido.

Deep Blue se convirtió en el campeón mundial de ajedrez, pero ni

siquiera puede jugar a las damas, y mucho menos conducir un automóvil o
hacer un descubrimiento científico. Tales algoritmos modernos de IA se
parecen a toda la vida biológica con la única excepción del Homo
sapiens. Una abeja exhibe competencia en la construcción de colmenas; un
castor exhibe competencia en la construcción de presas; Pero una abeja no
construye presas, y un castor no puede aprender a construir una
colmena. Un ser humano, observando, puede aprender a hacer ambas
cosas; Pero esta es una habilidad única entre las formas de vida
biológicas. Es discutible si la inteligencia humana es verdaderamente
general (ciertamente somos mejores en algunas tareas cognitivas que en
otras, pero la inteligencia humana es seguramente significativamente más
aplicable en general que la inteligencia no homínida.

Fuente: Cambridge University Press.

https://nickbostrom.com/ethics/artificial-intelligence.pdf

Derecho de los robots

Laura Caballero Trenado

La inteligencia, natural o artificial, no es en sí misma buena ni mala, lo

será su uso”, pero “lamentablemente la ética no es una actitud extendida ni
cultivada en el ser humano contemporáneo”, de ahí que resulte urgente
abordar la cuestión de los avances científicos y tecnológicos desde la ética.
En fechas recientes, el legislador europeo dio un paso al frente al publicar el
documento de trabajo del Grupo Europeo sobre Ética en la Ciencia y en las
Nuevas Tecnologías, titulado Declaración sobre inteligencia artificial, robótica
y sistemas autónomos.

No es esta una iniciativa aislada. En Europa, las instituciones de la

16
Unión Europea han planteado incipientes normativas e instituido comités de
ética. Pero el autor recuerda que el vigente contexto cultural nos ofrece un
panorama desalentador: “No vivimos un momento en el que por lo común se
desee que Prometeo nos regale el fuego de los dioses.

Este es el momento de desear más bien a Dionisos, conscientes como

somos de las imperfecciones humanas, de su capacidad destructiva y del
débil equilibrio de la felicidad, en suma, de la finitud de la vida”; de ahí que en
opinión del autor no haya grades relatos, por lo que “el mito o la fe en la
ciencia deben ceder ante la necesidad vital y realista del discernimiento: o
nosotros con las máquinas, o las máquinas con nosotros. Y esto, en cada
situación concreta”. Una reflexión que abre un debate ético y anticipa
reflexiones que necesariamente-te han de plantearse a partir de ahora en
torno al Derecho de los robots; de ahí que esta obra resulte de consulta
imprescindible.

https://revistas.uexternado.edu.co/index.php/derpri/article/view/
6069/7787

Inteligencia artificial, atribución de responsabilidades y justificación

relacional de la aplicabilidad

Mark Coeckelbergh

En respuesta a los recientes avances y éxitos en inteligencia artificial

(IA), especialmente aplicaciones de aprendizaje automático, la ética de la IA
se ha convertido en un tema popular en las discusiones académicas y
públicas sobre el futuro de la tecnología. Las contribuciones académicas van
desde especulaciones sobre superinteligencia hasta discusiones sobre
tecnologías y fenómenos específicos, posiblemente más cercanos, como los
automóviles autónomos. Hay discusiones públicas sobre, por ejemplo, el
futuro del trabajo y sobre la privacidad. O para dar otro ejemplo del sector del
transporte: considere la reciente discusión sobre la automatización en los
17
aviones después de los recientes accidentes de aviones Boeing 737 MAX,
que probablemente estén relacionados con el mal funcionamiento del
software, con pilotos que intentan anular el software.

Uno de los temas que necesita más discusión es la responsabilidad.

Dado que la IA permite a la sociedad automatizar más tareas y automatizar
en mayor medida que antes, ¿quién o qué es responsable de los beneficios y
daños del uso de esta tecnología? Y, si este problema debe abordarse de
manera proactiva en los dominios de la tecnología y la política, ¿qué significa
el desarrollo de la "IA responsable"? Este no es solo un problema
filosóficamente interesante, sino también muy práctico, que necesita
urgentemente más trabajo conceptual. También es relevante para la ética de
(otras) tecnologías de automatización como la robótica, aunque hay algunos
problemas que son específicos de algunas IA.

Este documento se centra en la cuestión de la atribución de

responsabilidades para las tecnologías de inteligencia artificial utilizadas en
la automatización de acciones y decisiones generalmente tomadas por
humanos. Pero la discusión de la atribución también apunta a un problema
que no es sólo sobre los agentes de responsabilidad, sino también sobre los
pacientes en la relación de responsabilidad.

https://link.springer.com/article/10.1007/s11948-019-00146-8#citeas

Estonia piensa en una IA que podría ser juez

Gestión

Las resoluciones judiciales muchas veces pueden tornarse lentas

debido a lo burocracia que hay en torno a ellas. Estonia quiere que este tipo
de procedimientos legales se aceleren por medio de una inteligencia artificial
que actúe a modo de juez, dedicándose a los casos más sencillos. El juez
robot se encargará, gracias a su inteligencia artificial, de analizar miles de
documentos legales y otra información relevante para poder tomar una
decisión previa. No obstante, será un juez humano el que tendrá que revisar

18
todas las decisiones.

Por lo sorprendente que parezca, una IA con estas características

puede ser capaz de documentarse sobre una gran cantidad de información
relativa a ciertos casos, y dar un veredicto en cuestión de días en lugar de
meses. Evidentemente relegar una decisión judicial a lo que pueda creer o
pensar un robot no sería del todo ético, y por eso siempre la decisión final la
tendría un humano.

Estonia es un gran ejemplo en vanguardia en inteligencia artificial. A

pesar de ser un país pequeño de menos de 1.4 millones de habitantes, han
conseguido grandes avances en cuanto a digitalización y modernización de
funciones gubernamentales.

https://gestion.pe/tecnologia/estonia-piensa-ia-juez-262912-noticia/

Inteligencia artificial y justicia penal: más allá de los resultados lesivos

causados por robots

Fernando Miró Llinares

La introducción y utilización de las IA en el sistema de justicia penal ha

llevado a que algunas voces adviertan de otros riesgos relacionados con su
uso, distintos a la potencial afectación a la privacidad, que podrían surgir y
perturbar la propia eficacia del sistema de justicia y afectar a derechos
fundamentales de las personas. Suscitan especial preocupación las
garantías procesales que podrían verse afectadas por la utilización durante el
proceso penal de herramientas de este tipo. Así sucede, por ejemplo, con el
Derecho de defensa, que podría entrar en colisión con la falta de publicidad
de todos o algunos elementos del algoritmo impidiendo, así, una adecuada
defensa frente a las atribuciones o valoraciones realizadas.

La cuestión que ha suscitado especial preocupación y que ha ocupado

a la academia en los últimos tres años es la potencial afectación al
funcionamiento equitativo, en el sentido de no discriminatorio, del sistema de
justicia en un Estado Social y Democrático de Derecho.

19
 La aplicación equitativa de la justicia penal podría verse en riesgo por
la potencial discriminación algorítmica derivada de la utilización de la IA para
la perfilación de individuos, de colectivos, de áreas urbanas; para la
búsqueda de mensajes de radicalización o la identificación de mensajes
radicales; para la distribución de los recursos policiales y del patrullaje; para
la selección de los lugares donde se ubican los radares de velocidad, etc.

El riesgo aquí ya no es sólo que se acceda a datos sensibles de

carácter personal para poder configurar adecuadamente tales algoritmos,
sino que al hacerlo sobre datos específicos y, por tanto, sesgados, las
herramientas actuariales también respondan a los mismos o creen nuevos
sesgos debido a una mala interpretación de la realidad.

Fuente: Revista De Derecho Penal Y Criminología

Introducción a la inteligencia artificial

Bruno López Takeyas

Desde el origen de las computadoras digitales, constantemente se han

hecho investigaciones científicas y tecnológicas con la finalidad de facilitar
algunas actividades propias de los seres humanos. Se ha logrado
automatizar muchos procesos mecánicos, de cálculo, de almacenamiento de
datos, de procesamiento, etc. desarrollando, cada vez, herramientas de
cómputo capaces de auxiliar en forma directa cada una de estas actividades.

En varias de ellas se tiene la necesidad de examinar el medio

ambiente donde se desarrollará tal actividad y realizar un análisis de las
situaciones y tomar una decisión siguiendo un razonamiento lógico. Los
seres humanos, a diferencia de otras especies, tienen la capacidad de
razonar sobre una serie de percepciones de hechos y proposiciones
estableciendo relaciones entre sí.

A esta capacidad se le llama inteligencia. Mediante el uso de los

sentidos, puede enterarse de hechos que suceden en el medio ambiente que
lo rodea y es capaz de establecer relaciones entre ellos para obtener
conclusiones, desarrollar conocimiento y actuar en base a ellos. De manera
20
semejante, se han desarrollado aplicaciones que emulan el comportamiento
humano mediante sistemas computacionales.

http://itnuevolaredo.edu.mx/takeyas/Articulos/Inteligencia
%20Artificial/ARTICULO%20Introduccion%20a%20la%20Inteligencia
%20Artificial.pdf

Ética e inteligencia artificial

Sergio Marín García

La IA persigue como principal objetivo replicar la inteligencia humana

en máquinas y sistemas informáticos. Hasta qué punto esto sea posible
constituye un tema de debate abierto entre los expertos en IA, científicos y
filósofos. Según hemos visto, dicho debate responde a la existencia de
múltiples definiciones de inteligencia, lo que origina, a su vez, diversas
maneras de concebir la naturaleza y el propósito de la IA. La relevancia ética
del desarrollo de la IA no permanece ajena a este debate. El campo de la
ética se extiende allá donde encuentra agentes dotados de autonomía e
inteligencia, es decir, sujetos capaces de tomar decisiones y actuar de forma
racional. En este sentido, el término “autonomía” suele emplearse en este
contexto para designar la capacidad de escoger un curso de acción de forma
libre, capacidad que tradicionalmente se ha identificado como un rasgo
distintivo y exclusivo de los seres humanos.

Por ejemplo, caza a su presa movido por su instinto animal, pero es

incapaz de hacerse cargo de los motivos que guían su conducta. Por esta
misma razón, la autonomía humana viene siempre ligada a la
responsabilidad: las personas, al ser capaces de dar cuenta de sus propios
motivos y razones, responden también por ello ante los actos y decisiones
tomadas.

https://media.iese.edu/research/pdfs/ST-0522.pdf

La ética de los algoritmos: mapeando el debate

21
 Mittelstadt, BD, Allo, P., Taddeo, M., Wachter, S. y Floridi, L

El mapa no se propone desde un enfoque teórico o metodológico

particular de la ética, sino que pretende ser un marco prescriptivo de los tipos
de problemas que surgen de los algoritmos debido a tres aspectos de cómo
operan los algoritmos. El mapa tiene en cuenta que los algoritmos de los que
se ocupa este documento se usan para (1) convertir los datos en evidencia
para un resultado dado (conclusión de aquí en adelante), y que este
resultado se usa luego para (2) desencadenar y motivar una acción que (por
sí sola o combinada con otras acciones) puede no ser éticamente neutral.

Este trabajo se realiza de manera compleja y semiautónoma, lo que

(3) complica la distribución de la responsabilidad por los efectos de las
acciones impulsadas por algoritmos. Por lo tanto, el mapa no pretende ser
una herramienta para ayudar a resolver dilemas éticos que surgen de
acciones problemáticas impulsadas por algoritmos, sino que se plantea como
una estructura organizativa basada en cómo operan los algoritmos que
puede estructurar futuras discusiones sobre cuestiones éticas.

Esto nos lleva a postular tres tipos epistémicos y dos normativos de

preocupaciones éticas que surgen del uso de algoritmos, en función de cómo
los algoritmos procesan datos para producir evidencia y motivar acciones.
Estas preocupaciones están asociadas con fallas potenciales que pueden
involucrar a múltiples actores, y, por lo tanto, complican la cuestión de quién
debe ser responsable y/o rendir cuentas por tales fallas. Tales dificultades
motivan la adición de la trazabilidad como una preocupación final y global.

Fuente: Big Data & Sociedad

Inteligencia artificial: un panorama de algunos de sus desafíos éticos y

jurídicos

David Álvaro Pascual; María del Carmen Vázquez Rojas

22
 A nivel ético, amén de los problemas que ya se han planteado, existen
otros inconvenientes a nivel de la humanidad en su conjunto que a priori nos
hacen preguntarnos si realmente merece la pena la implementación de la
inteligencia artificial con tanta intensidad como nos permiten los avances
tecnológicos.

En estos casos, conviene tener un prisma que nos permita ver los
problemas, las posibles soluciones si es que las hay, y a partir de ahí hacer
una evaluación moral acerca de la conveniencia o no de tal implementación,
o de qué sectores o ámbitos de nuestras vidas deberían permanecer
vírgenes ante la penetración de la inteligencia artificial. A continuación, daré
una lista no exhaustiva de todos los problemas que se pueden dar, trata tan
solo unos cuantos ejemplos, los que considero más relevantes.

El desempleo es una de las grandes preocupaciones de los estados

acerca del impacto de la inteligencia artificial es el desempleo. Hay
economistas que mantienen una perspectiva negativa respecto al impacto de
la inteligencia artificial en la tasa de desempleo, la cual obtiene una
respuesta por parte de ciertos futurólogos e investigadores que afirman que,
en efecto, si bien se perderán muchísimos puestos de trabajo, estos serán
reemplazados por otros tantos empleos que requerirán menor esfuerzo,
menos horas y más remuneración para los trabajadores.

Además de la tecnoadicción y tecnodependencia. En una sociedad

cada vez más dependiente de la tecnología y adicta a ella, sería acertado
tratar de establecer mecanismos en todos los ámbitos que restrinjan el uso
de la tecnología en ciertos sectores y fomenten también valores no
tecnológicos. Fundamentalmente son los legisladores en materia educativa
los que más cuidado y responsabilidad tienen en el proceso de construir una
sociedad que, aunque dependa de la tecnología, no subordine esa
dependencia a su capacidad para ser feliz y desarrollar un plan de vida.

Fuente: Universidad de Girona.

https://dugi-doc.udg.edu/bitstream/handle/10256/14950/alvaro-pascual.pdf?

23
sequence=1

Inteligencia Artificial, sinónimo de crecimiento

Marco Ribas

La IA tiene el potencial de doblar el crecimiento de las economías

desarrolladas de aquí al año 2035, al adoptarse como un híbrido con los
capitales de inversión y humano. De esa forma, la inteligencia artificial no
reemplazará a la fuerza laboral humana, sino que potenciará sus habilidades
y talentos. La IA puede realizar actividades laborales en gran escala y
velocidad. En algunas áreas incluso tiene la capacidad de aprender más
rápido y con mayor profundidad que un ser humano.

Los ejecutivos a nivel mundial y local reconocen la importancia de

avanzar en el desarrollo de la inteligencia artificial, pero aún no han
alcanzado el ritmo de adopción necesario.

A pesar de las importantes oportunidades que representa la

inteligencia artificial para Colombia, sigue enfrentándose a importantes
obstáculos que dificultan su absorción de nuevas tecnologías. Para
aprovechar a la IA al máximo Colombia necesita fortalecer la base de
conocimientos de su economía, desde las mejoras en la calidad de las
instituciones dedicadas a la investigación científica hasta el aumento de la
inversión y el soporte para la investigación, el desarrollo y la innovación.

Además, así como ocurre a nivel global, la capacitación de las

personas en las habilidades necesarias para la fuerza laboral del futuro es
clave. Esta función requiere de un trabajo conjunto entre el sector público,
privado y el mundo académico, para sacar el máximo provecho de las
oportunidades que entrega la inteligencia artificial para potenciar el talento
humano, aumentar el crecimiento de las economías y, por lo tanto, mejorar la

24
forma en que las personas viven y trabajan.

https://www.semana.com/tecnologia/articulo/inteligencia-artificial-
sinonimo-de-crecimiento-por-marco-ribas/270042/

Estonia se prepara para tener “jueces robot” basados en inteligencia

artificial

The technolawgist

El gobierno estonio contrató a Velsberg el pasado agosto para

encabezar un nuevo proyecto de implementación de inteligencia artificial en
varios ministerios para simplificar los servicios ofrecidos a la población.
Velsberg señala que utilizar la inteligencia artificial es crucial: “A algunas
personas les preocupa que baje la calidad del servicio si reducimos el
número de empleados. Pero el agente de inteligencia artificial nos ayudará”.

Estonia ya trabajaba en la implantación de inteligencia artificial antes

de la contratación de Velsberg. Siim Sikkut, director de información de
Estonia, comenzó varios proyectos piloto sobre ello en 2017. Hoy en día,
Estonia ya ha implantado 13 medidas de IA en las que se sustituye a
trabajadores para ser más eficientes.

El proyecto más ambicioso y polémico del país tiene que ver con la
creación de “jueces robot”. El Ministerio de Estonia ha pedido a Velbsberg y a
su equipo que implemente la inteligencia artificial en juicios menores,
aquellos en los que hay disputas de 7.000€ o menos. La IA permitiría
acelerar decenas de casos atrasados que los jueces y secretarios judiciales
no pueden hacer frente actualmente.

Los “jueces robot” se encuentran todavía en una primera fase y se

prevé una prueba piloto centrada en disputas contractuales a finales de año.
Su aplicación funcionará de la siguiente manera: las dos partes cargarán sus
documentos e información relevante del caso en una plataforma, donde la IA
tomará una decisión que podrá ser apelada por un juez “humano”. El sistema
todavía está en prácticas y Velsberg ha explicado que podría ajustarse según

25
los comentarios que están recibiendo de abogados y jueces.

https://www.thetechnolawgist.com/2019/06/12/estonia-se-prepara-
para-tener-jueces-robot-basados-en-inteligencia-artificial/

Tribunal de Internet de Beijing lanza juez de inteligencia artificial 'AI

Judge'

En China se desarrolló "juez de inteligencia artificial" para ayudar a los

casos judiciales. Según la agencia de Noticias china Xinhua, el centro de
servicio de litigio en línea del Tribunal de Internet en la capital de Pekín,
introdujo un módulo de software que utiliza tecnología de inteligencia artificial
para ayudar a las decisiones en los procedimientos legales ordinarios, como
la apertura y el procesamiento de casos.

El módulo "AI Judge" (juez de inteligencia artificial) se comunica con

los ciudadanos a través de una interfaz diseñada como una imagen femenina
en la pantalla y los guía para solicitar casos y realizar transacciones en
Internet.

El sistema tiene como objetivo que los jueces reales se centren más
en los casos.

La meta de las autoridades es reducir la carga de trabajo y mejorar la

calidad y la eficiencia de las decisiones judiciales mediante el uso de
tecnología de inteligencia artificial en los tribunales.

Se espera que los módulos de inteligencia artificial ayuden a los

jueces reales en casos futuros y contribuyan a los procedimientos con los
datos que recopilan.

El Tribunal de Internet de Beijing acepta las denuncias sobre los

crímenes cometidos a través de Internet y las solicitudes de los ciudadanos
chinos relacionadas con los problemas que enfrentan en Internet.

El Tribunal de Internet ofrece a los ciudadanos la posibilidad de

26
presentar demandas en línea sobre asuntos relacionados con la ley de
Internet y el comercio en Internet.

https://www.trt.net.tr/espanol/ciencia-y-tecnologia/2019/06/28/tribunal-
de-internet-de-beijing-lanza-juez-de-inteligencia-artificial-ai-judge-1226593

Derecho e inteligencia artificial en el mundo de hoy: escenarios

internacionales y los desafíos que representan para el Perú

Christian Dennis Valero Quispe

El ordenamiento jurídico se ha organizado y estructurado a través de

las bases de datos donde la información normativa está almacenada en un
programa como es el caso del SPIJ; sin embargo, con la inteligencia artificial
el desafío implicaría desarrollar un sistema único donde se almacene la
normativa nacional e internacional para transformar una simple base de
datos a un sistema inteligente que contribuya al estudio del Derecho
comparado.

Respecto al desarrollo del proceso, el sistema inteligente PROMETEA,

que es capaz de elaborar dictámenes jurídicos, ejecuciones fiscales y
analizar documentación en tiempos inferiores a los que podría realizar una
persona, contribuiría en la reducción de la carga procesal. Con relación a la
administración de justicia, el sistema experto JUDITH, que es capaz de
aplicar el Código Civil alemán, o el sistema experto en sentencias de la
doctora María del Socorro Téllez Silva brindarían un apoyo a los
magistrados, lo que implicaría como desafío además de formarse en temas
jurídicos ahora es necesario una formación en inteligencia artificial para
poder operar estos sistemas inteligentes.

Ahora bien, PROMETEA y JUDITH evidencian que la parte mecánica

del Derecho va a ser realizada por las máquinas y la parte práctica por las
personas, siendo el desafío modificar las mallas curriculares y formarse
desde la universidad en sistemas inteligentes y darles énfasis a las
asignaturas de argumentación y litigación jurídica.

27
 El desarrollo de sistemas expertos en sentencias, probablemente el
magistrado de la primera instancia sea reemplazado por un robot. Sin
embargo, para las instancias superiores quien debe tomar las decisiones
debe ser la persona, puesto que con el apoyo del sistema inteligente se
tendría mayor comprensión del caso y se necesitaría el razonamiento
humano, no para evitar el reemplazo de los magistrados, sino más bien,
porque la justicia va más allá del desarrollo de algoritmos

Fuente: Universidad Nacional del Altiplano-

file:///C:/Users/User/Downloads/24880-Texto%20del%20art%C3%ADculo-
98279-1-10-20220222.pdf

28