DERECHO E INTELIGENCIA ARTIFICIAL EN EL MUNDO DE HOY: ESCENARIOS

INTERNACIONALES Y LOS DESAFÍOS QUE REPRESENTAN PARA EL PERÚ

Primer párrafo: El desarrollo tecnológico implica que el Derecho contemple nuevas

soluciones que orienten la convivencia al bien común y estas deben estar en armonía con
los enfoques contemporáneos, por lo que, se necesita no solo de un tratamiento jurídico o
técnico, sino también se requiere juristas con un nuevo pensamiento capaces de manejar
los retos de un nuevo Derecho.

Segundo párrafo: En ese sentido, el cambio mental del jurista no se va a lograr solamente
con una regulación normativa y que los operadores del Derecho apliquen esas normas. Un
cambio mental implica reflexionar sobre el impacto de la inteligencia artificial en el De- recho
y la forma de orientar la profesión como una verdadera ciencia multidisciplinaria.

Tercer párrafo: En otras palabras, en el Perú se está trabajando con gestores que ayudan a
organizar y sistematizar las normas del ordenamiento; sin embargo, cuando se pretende
estudiar el Derecho comparado, se advierte que no existe un sistema único que reúna la
normativa concordada y actualizada de los diferentes países. Es en este punto donde la
inteligencia artificial puede desarrollar un sistema único, ya que, con el refinamiento de
datos al introducir la normativa nacional e internacional, los algoritmos podrían transformar
una simple base de datos a un sistema que pueda procesar consultas e identificar normas
con la sola búsqueda de palabras claves.

En otras palabras, crearía un sistema inteligen- te, logrando así una contribución al estudio
del Derecho comparado con ayuda de la inteligencia artificial.

Cuarto párrafo: Ahora bien, para garantizar que las partes tomen conocimiento de las
distintas actuaciones proce- sales, el desarrollo del proceso se orientó al uso de las
tecnologías como la aplicación de sistemas informáticos para el seguimiento de las
resolucio- nes, las notificaciones electrónicas, portales inte- ractivos. En la actualidad,
producto de la pandemia del COVID-19, las audiencias se llevan a cabo de manera virtual.
Por ejemplo, ahora el proceso se viene desarrollando con los medios informáticos de
notificación, portales de consulta de expedientes y videoconferencias.

Quinto párrafo: Apenas ingresa un escrito que acredita personería junto a la copia digital de
un poder, el sistema en pocos segundos podría detectar y elaborar un despacho que tenga
por acreditada la personería dialogar con el presentante, a fin de advertirle acerca de
posibles errores existentes. Por ejemplo, que adjuntó un poder en donde no figura la
persona que afirma ser apoderada segmentar y clasificar por trá- mites más urgentes
sugerirle al operador judicial un orden de prioridad de los expedientes pendientes de control
y firma automatizar sin intervención humana, resoluciones judiciales simples como vistas,
traslados, pases y notificaciones.

Sexto párrafo: Para probar la estabilidad del sistema se presentó este prototipo ante dos
jueces de lo familiar para que emitieran su opinión en dos rubros. El primero se refiere a la
facilidad de operar el sistema y, el segundo, a si el sistema emitió una solución similar a la
que ellos emitirían sin ayuda del programa. Como respuesta a la primera pregunta
recomendaron la elaboración de un manual de usuario. Por lo que se refiere a la segunda
pregunta, manifestaron que no se presentó mayor complicación para resolver lo que en
derecho corresponda; sin embargo, consideraron que deben idearse programas
combinados debido a que los litigantes, generalmente, ejercitan más de una pretensión.

Séptimo párrafo: Según explica Chuquicallata Reategui (2018): Este software fue creado
por una startup14 canadiense de la Universidad de Toronto. Los investigadores utilizaron la
tecnología del superordenador Watson, desarrollado por la International Business Machines
Corpora- tion (IBM)” (2018).ROSS es capaz de responder preguntas legales en tiempo real
y no solo ofrece respuestas acertadas, sino que además puede analizar sentencias y ad-
vertir riesgos o ventajas ante una posible estra- tegia legal. Tales son las ventajas que
ofrece este abogado robot que ya ha sido contratado por despachos jurídicos, tal como
destaca Chuquicallata Reategui (2018).

Octavo párrafo: ROSS es capaz de responder preguntas legales en tiempo real y no solo
ofrece respuestas acertadas, sino que además puede analizar sentencias y ad- vertir
riesgos o ventajas ante una posible estra- tegia legal. Tales son las ventajas que ofrece este
abogado robot que ya ha sido contratado por des- pachos jurídicos, tal como destaca
Chuquicallata Reategui (2018): En 2016, la prestigiosa firma estadouniden- se, Baker &
Hostetler, contrató a ROSS para que forme parte del Departamento de Gestión de
Quiebras, junto a un numeroso equipo de 50 abogados humanos. Según aseguran sus
fundadores, la compañía decidió contratar a esta inteligencia artificial como abogado para
formular hipótesis y fundamentarlas con citas de leyes o precedentes legales. Los responsa-
bles de la firma explicaron que no son los úni- cos en haber contratado los servicios de este
abogado artificial.

Noveno párrafo: A nivel internacional existen otros sistemas inteligentes que ya se usan en
el mundo jurídico. En España, por ejemplo, se tienen sistemas inteligentes como Vlex
Analytics, que es un sistema que ayuda a predecir los casos en litigio, lo cual se logra
mediante un análisis de los juzgados y tribunales; Jurimetría, que es un programa
inteligente que reúne millones de resoluciones judiciales y, sobre la base de los
fundamentos expresados en las resoluciones, permite tomar decisiones; Legal Data,
sistema inteligente que está diseñado para introducir datos del proceso y es capaz de
prede- cir los resultados de los litigios; o como el sistema Tirant Analytics, que analiza los
hechos y es capaz de ofrecer posibles estrategias legales, así como el porcentaje de éxito
de cada una de ellas (Noticias Jurídicas, 2016).

Décimo párrafo: Coincidimos con De Trazegnies Granda, ya que un sistema experto, en

este caso uno experto en sentencias, como el analizado en apartados anteriores, sería el
reemplazo de los jueces. Sin embargo, por mucho que este sistema alivie la carga proce-
sal y pueda emitir sentencias fundamentadas, el ser humano como portador del ideal de la
justicia siempre debe salvaguardar las decisiones en últi- ma instancia a través de su
razonamiento, no para evitar el reemplazo de los jueces, sino más bien, porque la justicia va
más allá del desarrollo de algoritmos.

Valero Quispe, C. D. (2021). Derecho e Inteligencia Artificial en el mundo de hoy:

escenarios internacionales y los desafíos que representan para el Perú. Thēmis, 79, 311–
322. https://doi.org/10.18800/themis.202101.017

La inteligencia artificial en el sector público y su límite respecto de los derechos

fundamentales

Primer párrafo : Es a partir de las aportaciones científicas citadas cuando surge la noción de
nudging, la cual ha inspirado comportamientos de las empresas privadas y concretas
políticas públicas regulatorias en distintos países de todo el mundo, a las que el
expresidente norteamericano Obama dedicó atención durante su mandato con diversas
órdenes ejecutivas que dictó sobre este tema y a las que bajo la presidencia de Biden
también se ha aludido recientemente en un documento oficial. Estas han dado lugar,
además, a estructuras organizativas específicas para impulsarlas (caso notorio de la unidad
británica Behavioural Team) e informes de la Unión Europea.

Segundo párrafo: La personalización de los servicios públicos, que puede ser definida como
la adaptación de la oferta a la demanda de un usuario a partir de los datos recogidos sobre
sus hábitos. En definitiva, el objetivo prioritario sería prestar un mejor servicio y ofrecer un
producto de acuerdo con los gustos o necesidades del usuario, para conseguir la
individualización del producto y la personalización del servicio, con el fin de lograr la
satisfacción del cliente e intentar orientar y ajustar, tanto como sea posible, el producto o el
servicio a las necesidades de este.

Más en concreto, la personalización de los servicios públicos es una de las manifestaciones

de la buena gestión pública y contribuye a hacer realidad el derecho a una buena
administración de las personas. La personalización de servicios públicos se refiere a todo
tipo de actuación administrativa, en el sentido, por ejemplo, dado en España a esta
expresión, recogida con este significado en el artículo 106.2 de la Constitución, cuando ser
refiere al funcionamiento de los "servicios públicos".

Tercer párrafo: De acuerdo con las aportaciones provenientes de las denominadas

behavioural sciences o ciencias de la conducta humana, sobre todo de la psicología,
materia en la que destacan los conocidos trabajos de Kahneman, Premio Nobel de
Economía en 2002, se ha llegado a determinar que la racionalidad absoluta de la persona,
del homo economicus, no existe, pues tal racionalidad está interferida por heurísticos y
sesgos". En definitiva, de estos avances se puede extraer, como afirma Pablo Grande, que
aspectos como la presentación o el diseño de opciones presentadas a las personas van a
influir orientando, en mayor o menor medida, su comportamiento. Estos avances científicos
son relevantes para las ciencias sociales en general y para el derecho en particular, si
rechazamos para este un formalismo esterilizante y si, como indica, por ejemplo, el jurista
italiano Cassese, en un artículo sobre los nuevos caminos para el derecho público": "el
derecho administrativo debe restablecer su lugar en el campo de las ciencias sociales". Ese
lugar solo podrá ser ocupado con un planteamiento metodológico plural (legal, económico y
político), si el derecho administrativo no quiere verse reducido a ser solo la tecnología de la
litigiosidad judicial y pasar a ser irrelevante en fases previas a la judicial para el buen
gobierno y la buena administración.

Cuarto párrafo: En la actualidad se habla ya de economía y derecho conductuales, puesto

que las ciencias de la conducta humana llevan años, como decimos, cuestionando el
modelo de bomo economicus de la economía clásica, que ha influido también en el derecho
público, basado históricamente en la regulación que piensa en el hombre malo, al que se
refirió hace ya más de un siglo el jurista norteamericano Holmes en una célebre conferencia
en la Universidad de Harvard, con racionalidad absoluta y maximizador de sus propios
intereses, y como consecuencia, en el ordeno y mando (command and control), esto es, en
la prohibición y sanción como principales vías de intervención administrativa para garantizar
el interés general y el cumplimiento de las normas.

Quinto párrafo: Así, si nos centramos ahora en la vertiente pública administrativa del
nudging, podemos afirmar que se trata de una técnica sofisticada, informada científicamente
(a partir de las ciencias conductuales antes referidas), de determinadas conductas
alineadas con los intereses generales, pero sin empear incentivos económicos. En empleo
de esta técnica, los incentivos, que no serían económicos, se basarían en el conocimiento
de heurísticos y sesgos. De forma orientativa, como indicación de tipologías, siguiendo a
Cabrales y Rey, se puede afirmar que se pueden distinguir "cuatro clases de intervenciones
tipo nudge: (1) provisión de información, (2) cambios en el entorno físico, (3) cambios en las
opciones ofrecidas "por defecto" y (4) el7 uso de las normas sociales y de la relevancia de
las opciones ofrecidas (salience)".

Sexto párrafo: Como ya avanzamos antes, el uso de nudges digitales, en su caso basados
en la IA, puede conducir a una mejor prevención de la corrupción y de la mala
administración. La combinación de programas de cumplimiento normativo en el sector
público, acompañados de técnicas derivadas de las ciencias conductuales, como podría ser
la incorporación de nudges, puede resultar muy efectiva en la lucha contra la corrupción y
en la garantía de la ética pública.

Séptimo párrafo: La práctica administrativa en un campo conexo con la prevención de las

malas prácticas y la corrupción, como es la lucha contra el fraude fiscal,ofrece un ejemplo
de hyper nudging que fácilmente podría trasladarse al funcionamiento interno de las
administraciones para luchar contra las malas prácticas de la propia Administración pública.
Se trata de un sistema desarrollado recientemente por la Agencia Tributaria española para
la campaña de la declaración anual de la renta basado en el nudging y el análisis de big
data mediante inteligencia artificial". El sistema tiene capacidad para predecir errores en la
confección de las autoliquidaciones del impuesto sobre la renta de las personas físicas, y
está preparado para presentar al contribuyente un mensaje de alerta advirtiéndole de que
hay una alta probabilidad de que su declaración sea incorrecta, cuando algún dato aportado
o modificado por el contribuyente no coincide con los datos disponibles en la Agencia
Tributaria. Asimismo, esta herramienta también estaría preparada para el control de las
autoliquidaciones, identificando aquellos contribuyentes con elevado riesgo de haber
presentado una declaración errónea modificando los datos de disposición de la Agencia
Tributaria.

Octavo párrafo: No obstante, otro papel fundamental para la implementación de estas

nuevas tecnologías en nuestro marco jurídico es la seguridad jurídica, toda vez que para
garantizar frente a las decisiones es que se instruya al juez robot “máquina”, es decir,
programarla con expertos en el área suministrando la mayor información certera en la
memoria, información que también debe incluir las interpretaciones de jurisprudencias,
además del marco socioético en cuanto al fortalecimiento de esa posible aptitud
discriminatoria que proyecte el algoritmo ocasionando un problema de la dignidad humana,
por lo que debe generarse una construcción en la idea de ponderación igualitaria, equitativa
y discrecional. Por ende, aquellos profesionales que tienen como objetivo la implementación
del contenido jurídico a campo informático, conllevarán a la innovación en un futuro cercano
en el que su aplicación es dependiente y limitada.

Noveno párrafo: La intimidad puede abordarse desde diversos enfoques. Para los efectos
de este documento, la intimidad es examinada desde la protección de datos personales,
pero no desde las diversas tipologías de datos (públicos, privados, semiprivados o
sensibles). El objeto corresponde al análisis del uso de IA a partir del uso de datos sensibles
y particularmente de datos biométricos. Referido el concepto de IA, es necesario, siguiendo
e Tolosa (2010), comprender que un sistema biométrico se divide en tres diferentes tipos:

El primero se denomina biometría estática la cual se compone por detectar características

físicas de las personas, como los ojos (iris, retina), la cara y las manos (geometría, huellas
dactilares). El segundo se denomina la biometría dinámica y sus características son de
com- portamiento, como la voz, la firma y la dinámica de escritura; finalmente una tercera
carac- terística que combina la biometría dinámica y estática, se denomina biometría
multimodal.
Décimo párrafo: que cuenten con las habilidades necesarias para llevar adelante el
diagnóstico, la reingeniería de procesos, el diseño y el desarrollo del sistema y, sobre todo,
la garantía de los derechos de los ciudadanos por parte del sistema. Dentro de las fases
iniciales de los proyectos de IA de- berá tenerse total control humano, trazabilidad de las
actividades, registros y sólidos sistemas de seguridad digital.

Acevedo MES. La inteligencia artificial en el sector público y su límite respecto de los

derechos fundamentals. Estudios Constitucionales [Internet]. 1 de diciembre de
2022;20(2):257-84. Disponible en: https://doi.org/10.4067/s0718-52002022000200257