ANÁLISIS REFLEXIVO SOBRE LAS CONSECUENCIAS DE LA

INTELIGENCIA ARTIFICIAL EN EL

ÁMBITO JURÍDICO

Frank Elvis Contreras Varela

Comenzaremos, citando los principios de seguridad de la IA en el ámbito

legal, para acto seguido, dar paso a las reflexiones pertinentes al ejercicio del
derecho como tal.

Muchas de las ventajas o dificultades aparentemente derivadas de las ayudas

que la Inteligencia Artificial proporciona en la actualidad, se encuentran presentes en
esta área de estudio, que hoy buscamos abarcar. El Área Jurídica, tribunales, la
práctica del derecho, la sección de peritajes y el área criminológica.

Y en todas estas se encuentra o debería encontrarse presente una clara

delimitación de lo que vendría ser la ética de la tecnología en cuanto a la información
y comunicación digital se refiere.

Consideremos como primer punto a las aplicaciones de aprendizaje

automático que operan con el Big Data, las cuales en forma reiterada están
inmersas en la recogida y uso de información personal, que dependiendo de quien
sea su operador, podrían estar sumadas o no a la recolección de datos de personas
o de grupos de personas implicadas en hechos delictivos.

Pero cabe en los actuales momentos la pregunta, sobre si la seguridad

existente puede garantizar que esta información no sea interceptada, vendida a
grupos delictivos con intereses económicos, los cuales, con expertos en Inteligencia
Artificial, puedan transformar la misma para la distracción de pruebas, suplantación
de identidades o alteraciones en la estructura de la reconstrucción forense.
 Hasta ahora tenemos maquinas que procesan algoritmos, según las
secuencias lógicas básicas, fundamentadas en la información suministrada. Pero si
alteramos parte de la información o los procesos, la secuencia lógica ha de cambiar
o sin hacerlo complejo, hemos escuchado que la información es poder, por tanto, se
puede inferir en el resultado de un caso donde el imputado, tenga acceso al
desarrollo de la investigación.

Como ejemplo alegórico de esto podría citar el caso de Cambridge

Analítica.

Cambridge Analytica fue una compañía privada británica que combinaba la

minería de datos y el análisis de datos con la comunicación estratégica para el
proceso electoral. Saltó a la fama en 2018 al verse involucrada en el llamado
«escándalo Facebook-Cambridge Analytica» en las elecciones presidenciales del
2016 en Estados Unidos.

Por tanto, detrás de todo trabajo digno, incluso altruista dentro de la

revolución de la Inteligencia Artificial, también existen mineros, transportistas
marítimos y trabajadores del clip, que etiquetan datos al servicio de quien pueda
pagarlos, es decir como existen grandes compañías licitas de manejos de datos,
también existe su contra parte, la cual genera dividendos incluso mayores, al poner
la información requerida en las manos de aquellos que pueden negociarla.

Según: Elen Irazábal Arana en su libro “La Inteligencia Artificial explicada para
Abogados” 2023

La infraestructura del mercado legal es muy lenta, para lo que es o

representa la velocidad del mundo digital y el mismo tiende en su
mayoría, aunque no absoluta, a estar desconectado de lo que es la
realidad económica y sus avances, aunque es de destacar que los retos a
los que se ven inmersos los practicantes de esta área profesional son
incomparables con las otras profesiones.
 Esto nos lleva a examinar los programas de la carrera.
En ellos podemos notar un escaso número de asignaturas ajenas a lo que es el
derecho. Por citar, no se estudia lógica, ni modelos de negocios y menos aún el que
nos trae hoy aquí la “Tecnología”

El abogado como tal según: Elen Irazábal Arana, se forma para estar
acostumbrado a y en términos estrictamente jurídicos, lo cual se explica en la
máxima de que los abogados se forman en su gran mayoría para gestionar los
riesgos de sus clientes. Acotando según nuestra autora que existe poca adaptación
por parte del sector debido esto al profundo nivel de la infraestructura legal, con sus
severas limitaciones, como sobre quien puede producir los marcos legales, reglas y
asesoramientos o las formas de los documentos.

Lo que nos lleva a especular en la conclusión de que la infraestructura pública

encargada de leyes y normas es lenta y obsoleta, en comparación con los nuevos
retos y los desafíos que le toca vivir y que en muchos casos la administración de la
justicia no está aún a la altura de lo que es y de lo que avanza la Inteligencia
Artificial, lo cual afecta directamente a la seguridad y a la economía digital como
planteábamos al comienzo. Por el contenido abordado con anterioridad podemos
inferir el alto grado de tradicionalidad dentro de lo que vendría a ser el sector
jurídico, tradicional y lo reacio a la innovación y al cambio.

Pudiendo culpar de ello a la gestión de riesgo con la que tiene que lidiar un
abogado en el ejercicio de su profesión, sumado el hecho de que los abogados no
participan en la elaboración de las normas que se llevan a cabo en los congresos de
gobierno, lo cual nos reafirma el hecho de lo lento que va la administración de
justicia.
Visto esto no es casual la visión negativa y poco optimista en la que el gremio pude
ver la prisa como generador de una seguridad poco fiable.

Y contrario a esto tenemos las ventajas que la Inteligencia Artificial nos brinda
en materia informativa pues puede mantenernos al día en materia de derogaciones,
legales y jurisprudencias, lógicamente si el estado no deroga o limita su acceso.
Tocando el punto inicialmente mencionado acerca de lo que es el Big data.
Existe una obra fechada en julio del pasado año en España, con el apoyo del
ministerio de ciencia e innovación y dirigida por: José Ignacio Solar Cayón y María
Olga Sánchez Martínez y cuyo origen son las ponencias y comunicaciones
presentadas en el marco del primer congreso internacional sobre Inteligencia
Artificial y Derecho.

En el mismo se aborda el impacto del Big data y su creciente aplicación en la

toma de decisiones, además de la nueva forma de abordar los problemas jurídicos,
desafiando con ello los conceptos y esquemas regulativos tradicionales que
alcanzan incluso lo que es la noción jurídica básica de lo que llamamos o definimos
como persona jurídica, la cual se constituye como el fundamento, el esquema de
atribución y distribución de derechos y deberes.

En su compendio podemos apreciar los sectores jurídicos más alterados por

el desarrollo de la IA y su conjunción con las tecnologías de la información y la
comunicación como es la rama del derecho mercantil.

En el mismo se ha experimentado un cambio exponencial en la dinámica

clásica de la contratación. Es decir, con la aparición y auge del comercio electrónico,
surgen ofertas que el operador económico formula de acuerdo con la huella digital
del destinatario y por supuesto con el apoyo de la Inteligencia Artificial, para la
automatización de las tareas legales.

El Big data y la parte humana

El Big data es un conjunto de tecnologías que procesan y analizan grandes

cantidades de datos de diversas fuentes y en diversos formatos. En el contexto de la
libertad, nos llevaría a vernos sometidos a inéditas posibilidades de control, como lo
mencionaba con anterioridad, limitando con ello el concepto de la igualdad debido a
los peligros de una discriminación inevitable.
 Como un eventual ejemplo de ellos podríamos citar: El Big data biomédico en
los servicios sanitarios.
Este Big data inunda diariamente de información a las empresas y el mismo
puede ser analizado para obtener “insights” este término de origen ingles significa
entendimiento, percepción o conocimiento, el termino posee múltiples
connotaciones, las cuales varían según el campo de estudio, para citar un ejemplo
en el campo de los estudios de la mente se pueden apreciar tres tipos de insights el
intelectual, el emocional y el estructural. y los mismos serian factor determinante
para la toma de decisiones.

En la administración de la Justicia, tema de nuestro interés el día de hoy la

Inteligencia Artificial Jurídica podríamos definirla, así como un conjunto de
herramientas basadas en el aprendizaje automático, capaz este de producir
resultados informáticos de las tareas legales. Que hasta hace poco eran realizadas
por profesionales expertos. Como un ejemplo de esto podríamos citar su uso en el
área de la medicina forense y como caso concreto la reconstrucción de rostros,
partiendo de restos craneales.

Citando el trabajo del Profesor Fernando Llano, fundamentado en el análisis

de paradigma de la Justicia predictiva y de las profundas implicaciones ético
Jurídicas, derivadas de la implantación de un sistema o modelo de Justicia,
fundamentado en el cálculo estadístico y la aplicación lógica algorítmica, en contra
posición o en perjuicio de una Justicia basada o fundamentada en el razonamiento
a partir de reglas y/o principios, asumiendo con ello los postulados de un humanismo
tecnológico que intenta conciliar el legado de la cultura Jurídica humanista con el
avance de las ciencias y las nuevas tecnologías aplicadas al derecho, podríamos
inferir una perdida sustancial del control de la toma de decisiones razonadas,
discutidas o analizadas en todas sus variantes.
El Blockchain
Daremos una idea del término y su aplicación para tratar brevemente el tema
de su inclusión en la Unión Europea.

El mismo se trata de un registro de datos donde la información se almacena

en un sistema de bloques, dando como resultado que los datos no se almacenen
todos juntos y la misma permite obtener un registro detallado de los sucesos para
los cuales ha sido designado, combinando este con el Big Data, se podrían analizar
los datos de Blockchain y se gestionarían con eficiencia en un volumen mayor, con
lo cual se aceleraría la cantidad de los procesos a utilizar y sumado este a las
tecnologías de Inteligencia Artificial, se permitiría una mayor navegación y
clasificación de datos garantizando con ello la verificación de los mismos. Uno de
los mayores beneficios de este proceso es la prevención de fraudes.

En Europa el ordenamiento Jurídico ampara ya los mapeos y el uso analítico

de datos en el curso de la investigación de un delito concreto. El ante proyecto de
ley de enjuiciamiento criminal y las recientes propuestas normativas de la unión
europea abren la puerta a un amplio conjunto de sistemas Inteligentes como
herramientas predictivas de riesgo y de reincidencia. “Todo esto previsto en el marco
de la estrategia de justicia 2030”.

Pero para todo esto sea posible deben existir algoritmos de aprendizaje
automático, donde impere como fundamento la imparcialidad de la justicia, el
derecho a la defensa y la presunción de inocencia.

Es por ello que la Profesora: Cristina San Miguel Caso, en sus trabajos:
“Presunción de inocencia e imparcialidad judicial y Desafíos y propuestas sobre la
aplicación de la Inteligencia Artificial en el proceso penal.”

Apuesta por una Inteligencia Artificial, basada en principios de transparencia

algorítmica y la imparcialidad del validador del sistema y sus garantías tecnológicas
incluidas la Inteligencia Artificial y el Blockchain, las cuales pueden asumir un papel
relevante en la investigación y prueba de los hechos delictivos.
La Personalidad Jurídica
A partir del trabajo de Solum Lawrence: “Personalidad Jurídica para la
Inteligencia Artificial” de hace ya más de dos décadas se toca el tema de la
personalidad jurídica de la Inteligencia Artificial. Para la fecha se trataban ya
aspectos conflictivos que el derecho tiene con el concepto de personalidad, al no
tener una teoría concluyente sobre lo que es ella en lo moral y su impacto en lo
jurídico.

La lógica seguida está centrada en la máxima siguiente: Si la inteligencia

artificial evoluciona, la categoría de “cosa” la cual es aplicada hasta hoy día, no será
suficiente, pues dentro la misma las responsabilidades y daños causados por una
cosa, la cual para nosotros es sinónimo de inmovilidad, seria reconducible a su
creador. Pero con una inteligencia artificial en vías de su propia autonomía, basando
esto en la cantidad de información procesada y la capacidad de reacción a la que
cada día se le autoriza.

Tomaría esta sus propias decisiones y el camino de sus acciones, los cuales
en una gran cantidad de casos serán impredecibles y en otros serán difícilmente
controlados por humanos. Dejando, desde este punto de ser meras cosas. Para
convertirse en: ………. Ni siquiera sabemos cuál será su definición. Pero que
debería ser similar a la idea de una personalidad atribuida hoy a empresas o al
estado mismo.

Ahora me pregunto y cuál sería la pena si infringiese daños. Pues no están

dotados de conciencia, aunque ya hay laboratorios realizando pruebas para crear
una IA con sentido, y no tienen capacidad de sentir dolor. ¿Sería por tanto
responsable su propietario?

Una espada sobre la cabeza, con la que yo por lo menos no podría dormir, es
decir con el peso de que algo decide por si y que yo soy el causante colateral de
cualquier daño.
 Aunque existen resoluciones en el caso de la unión Europea y discusiones
adelantadas sobre el tema en Estados Unidos, hasta la fecha no tenemos claro el
cómo atribuir una personalidad jurídica y sus condicionamientos en el orden moral a
las Inteligencias Artificiales. Pero esta idea de una personalidad jurídica de la
Inteligencia Artificial o para robots, no es para muchos la solución al problema
relativo a una futura categorización de las mismas, pues por el contrario la atribución
de una personalidad jurídica sería el desencadenante de muchos problemas, debido
en su mayor parte al no poder distinguir entre personalidad jurídica y voluntad. Esto
debido a que si la personalidad y la voluntad se hacen erróneamente
codependientes se estaría confundiendo la condición de agente con la de persona
jurídica.

Según Pagallo Ugo en su trabajo “La búsqueda de la personalidad jurídica de

los robots”

Cualquier debate sobre el mismo se adentra en los problemas relativos a

una de las teorías de la persona jurídica, según la cual la persona jurídica
no es otra cosa que el grupo de personas que actúa a través de ella y en
los casos de robots o Inteligencias artificiales no existe este grupo de
personas y sin las mismas no hay persona jurídica por lo tanto quedaría
los mismos excluidos de esta categoría.

Lo que nos lleva a inferir que si los mismos como expresamos con anterioridad
se catalogaran dentro de una categoría similar a la personalidad jurídica de una
empresa o un estado también sería inviable puesto que estos tanto empresas como
estados actúan a través de personas mientras que robots e inteligencias artificiales
lo hacen a mótu propio o a través de sí mismo, aunque podríamos argumentar que
sus actos se fundamentan en su programador, pero ya a este nivel hablamos de
sistemas autoalimentables y con capacidad de tomar decisiones como los
programas bancarios de respuesta inmediata a la solicitud de créditos, o de
empresas que ya comienzan a funcionar sin presencia humana. Con el
procesamiento de contratos inteligentes, con cláusulas contractuales auto
implementadas, lo que nos da la idea de que estos contratos inteligentes son
cerrados entre humanos y maquinas en representación de las empresas.
Como conclusión:
Aun pudiendo conocer parte del funcionamiento o parte de la operabilidad de
la Inteligencia Artificial, dentro del área de estudio que nos reúne hoy aquí, es para
nosotros una incógnita y una preocupación en suspenso, las consecuencias que
pueden derivar de su operatividad y de cómo la inteligencia artificial hasta ahora
carente de conciencia y de fisicidad, sinónimo de lo antinatural en algunos casos y
de lo anti natura en lo referente o relativo a una definición clara de lo moral como
hemos podido ver, pueda llegar a hacerse parte de lo natural, tomado decisiones
que limiten la poca libertad que la sociedad, gobiernos y corporaciones nos dejan y
que poco a poco delimiten con ello nuestra capacidad de decisión o nuestro muy
disminuido libre albedrío.

Quisiera finalizar Citando las palabras de la presidenta del Consejo de

ministros de Italia Giorgia Meloni en su intervención ante la ONU.

“Incluso lo que a simple vista puede parecer una herramienta para

mejorar el bienestar de la humanidad, en una inspección más cercana
revela sus riesgos. Pensemos en la Inteligencia Artificial, las aplicaciones
de esta nueva tecnología representan ciertamente una gran oportunidad
en muchos campos. Pero no podemos fingir que no comprendemos
también los enormes riesgos que conlleva. No estoy segura de que
seamos lo suficientemente conscientes de las implicaciones asociadas a
un desarrollo tecnológico que va mucho más rápido que nuestra
capacidad para gobernar sus efectos, antes estábamos acostumbrados a
un progreso destinado a optimizar las capacidades humanas y hoy nos
enfrentamos a un progreso que amenaza con sustituir las capacidades
humanas. Y mientras que en el pasado esta sustitución se centraba en el
trabajo físico, para que los humanos pudieran concentrarse en el trabajo
conceptual y organizativo. Hoy es el intelecto el que corre el riesgo de ser
suplantado con consecuencias que podrían ser devastadoras, sobre todo
en el mercado laboral. Cada vez se necesitaran más personas en un
mundo cada vez más dominado por la concentración de poder y riqueza
en manos de unos pocos ese no es el mundo que queremos, por eso no
creo que podemos cometer el error de considerar este dominio como una
especie de zona libre sin reglas necesitamos mecanismos de gobernanza
mundial que sean capaces de garantizar que estas tecnologías respeten
las barreras éticas, que la evolución de la tecnología este al servicio del
hombre y no al revés, necesitamos dar una aplicación práctica al
concepto de Albor ética, es decir dotar de ética a los algoritmos.”