Documentos de Académico
Documentos de Profesional
Documentos de Cultura
Reporte final
Justicia
y consumidores
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Informe elaborado por: Sra. Miglena VUCHEVA, Sra. Margarida ROCHA, Sr. Robrecht RENARD, Sr. Dimitrios STASINOPOLOUS
Colaboradores: Dr. Ashwin ITTOO, Dra. Leila REBBOUH, Sr. Emmanuel de KERCHOVE
Título del estudio Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Versión lingüística ES
ISBN 978-92-76-21347-5
Descargo de responsabilidad: La información y los puntos de vista expuestos en este estudio son los del autor o autores y no reflejan
necesariamente la opinión oficial de la Comisión. La Comisión no garantiza la exactitud de los datos incluidos en este estudio. Ni la
Comisión ni ninguna persona que actúe en su nombre podrá ser considerada responsable del uso que pueda hacerse de la información
aquí contenida.
El estudio no tiene como objetivo hacer un balance exhaustivo y / o explorar todos los casos de uso, soluciones y proveedores relevantes
disponibles en el momento de su preparación. Este informe final refleja la situación al 7 de abril de 2020.
2 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
COMISIÓN EUROPEA
Email: Yoana.NIKOLOVA@ec.europa.eu
Comisión Europea
B-1049 Bruselas
3 | Página
COMISIÓN EUROPEA
Septiembre de 2020
4 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Europe Direct es un servicio que le ayudará a encontrar respuestas a sus preguntas sobre la Unión
Europea.
00 800 6 7 8 9 10 11
(*) La información proporcionada es gratuita, al igual que la mayoría de las llamadas (aunque algunas
operadores, cabinas telefónicas u hoteles pueden cobrarle).
5 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Contenido
1. INTRODUCCIÓN................................................. .................................................. 25
Actividades que involucran o están relacionadas con el uso de IA: ........................................ ....... 48
Actividades que involucran o están relacionadas con el uso de blockchain / DLT .............................. 54
6 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Resumen de proyectos de las autoridades de los Estados miembros y del poder judicial por problema empresarial y
categoría de solución ................................. ..................... 194
9.1.1. Categoría de problema empresarial: Procesamiento de un gran volumen de datos ............. 219
9.1.2. Categoría de problema empresarial: procesamiento de gran volumen de vídeo, audio e imágenes
222
9.1.3. Categoría de problema empresarial: vinculación de información entre diferentes fuentes
223
9.1.4. Categoría de problema empresarial: Acceso a la justicia / servicios públicos ............ 225
9.1.7. Categoría de problema empresarial: preparación de grandes volúmenes de datos ... 228
9.2.2. Categoría de problema empresarial: procesamiento de gran volumen de vídeo, audio e imágenes
238
9.2.3. Categoría de problema empresarial: vinculación de información entre diferentes fuentes
238
9.2.4. Categoría de problema empresarial: Acceso a la justicia / servicios públicos ............ 238
9.2.7. Categoría de problema empresarial: preparación de un gran volumen de datos ............... 239
7 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Resumen (EN)
En el Libro blanco sobre inteligencia artificial ( AI) 1, la UE reconoce la necesidad de intensificar las acciones encaminadas a construir un
ecosistema de excelencia que apoye el desarrollo y la aceptación de la IA en la economía y la administración pública de la UE.
La Estrategia de e-Justicia y el Plan de Acción 2019-2023 identifican como áreas prioritarias el uso de IA y blockchain / DLT en el campo de la
justicia. En este contexto, el presente estudio explora las políticas y estrategias existentes a nivel europeo y nacional, así como el estado
actual del uso de tecnologías innovadoras en la justicia.
Tras amplias consultas, el estudio identificó 130 proyectos que utilizan tecnologías innovadoras: 93 proyectos de las autoridades de los
Estados miembros y el poder judicial 2, 8 - de organizaciones profesionales legales 3 y 29 - de empresas TIC 4 en función de sus productos y
servicios.
El estudio identificó 8 categorías de problemas comerciales que los proyectos pretenden resolver y asignó estos problemas a 8 categorías de
soluciones comerciales.
Terminado o en marcha proyectos 5, que 'exceden' y 'cumplen' las expectativas de las partes interesadas, se sugieren para el intercambio de buenas
practicas 6.
En conclusión, el estudio sugiere acciones horizontales como camino a seguir: a) Coordinación a nivel de la UE de los esfuerzos y
actividades; (b) Colaboración e intercambio de experiencias; c) Fortalecimiento de las asociaciones y redes existentes; y (d) Mecanismo de
apoyo para organizaciones profesionales legales.
1 Libro blanco de la Comisión Europea sobre inteligencia artificial: un enfoque europeo hacia la excelencia y la confianza, COM (2020), Bruselas, 19.2.2020.
2 De estos, 25 proyectos están terminados, 55 están en curso, 12 están planificados y uno está suspendido
31 completado y 7 en curso
4A los casos de uso / proyectos de las empresas de TIC no se les ha atribuido un estado, ya que no se proporcionó dicha información.
5 Los proyectos planificados se excluyen de este análisis, ya que se considera que su nivel de madurez no es lo suficientemente alto para
desarrollo e implementación del proyecto y superación de los desafíos encontrados, de manera óptima, como lograr los objetivos del proyecto y resolver
el problema de negocio en una medida que supere o cumpla las expectativas.
8 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Currículum (FR)
Dans le Livre blanc sur l'intelligence artificielle (IA) 7, l'UE reconnaît la nécessité d'intensifier les actions visant à construire un écosystème
d'excellence soutenant le développement et l'acceptation de l'IA dans l'économie et l'administration publique de l'UE.
La stratégie et le plan d'action e-Justice 2019-2023 ont identifié comme priorés l'utilisation de l'IA et de la blockchain (chaîne de blocs) / DLT
(technologie des registres distribués) dans le domaine de la justice. Dans ce context, la présente étude explore les politiques et stratégies
existantes aux niveaux européen et national, ainsi que l'état d'avancement de l'utilisation des technologies innovantes dans la justice.
À l'issue de consultations approfondies, l'étude a identifié 130 projets utilisant des technologies innovantes - 93 projets émanant des autorités
des États membres et du pouvoir judiciaire 8, 8 - des organizaciones profesionales jurídicas 9 et 29 - des
L'étude a identifié 8 catégories de problèmes fonctionnels que les projets visent à résoudre et a mis ces problèmes en correspondance con 8
catégories de solutions.
Les projets achevés UNED en curso 11, qui «dépassent» et «répondent» aux attentes des Parties prenantes, sont suggérés pour l'échange de bonnes
pratiques 12.
En conclusión, l'étude suggère des acciones horizontales comme moyen d'avancer: a) Coordinación al nivel de la UE de los esfuerzos y las
actividades; b) Colaboración et partage d'expériences; c) Renforcement des partenariats et des réseaux existants; et d) Mise en place d'un
mécanisme d'appui aux organisations professionnelles juridiques.
7 Comisión Européenne, LIVRE BLANC Intelligence Artificielle: Une Approche européenne axée sur l'excellence et la confiance, COM (2020), Bruxelles,
19.2.2020.
8 Parmi ceux-ci, 25 projets sont achevés, 55 sont en cours, 12 sont prévus et un est suspendu.
91 achevé et 7 en cours
10 Aucun statut n'a été attené aux cas d'utilisation / projets des entreprises de TIC, car aucune information n'a
été fournie.
11 Les projets prévus sont exclus de cette analizar, coche leur niveau de maturité est jugé insuffisant pour effectuer
développement et de mise en œuvre du projet et relèvement des défis rencontrés, de manière optimale, afin d'atteindre les objectifs du projet et résoudre
le problème d'affaire pour une mesure qui dépasse ou répond aux attentes.
9 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
La UE comprende la importancia de ser uno de los principales actores mundiales en el uso de tecnologías innovadoras. Por eso, la
transformación digital, el despliegue de tecnologías innovadoras y los macrodatos han sido puntos clave en la agenda de la UE en los últimos
años. En el
Libro blanco sobre inteligencia artificial ( AI) 13 la UE reconoció la necesidad de intensificar las acciones en múltiples niveles con el objetivo
de construir un ecosistema de excelencia que pueda apoyar el desarrollo y la adopción de la IA en la economía y la administración pública de
la UE. En los últimos años, diferentes actores a nivel europeo y nacional han emprendido y seguirán emprendiendo una serie de acciones
hacia la transición hacia una economía centrada en datos sostenible, que garantice productos y servicios fiables, seguros y de confianza en el
mercado digital.
En abril de 2018, la Comisión Europea entregó su Estrategia 'Inteligencia artificial para Europa' 14, que destaca la importancia de la IA para
Europa y describe los pasos a seguir para hacer que Europa sea muy avanzada en IA. La estrategia tiene como objetivo estimular las
inversiones en el marco de los programas marco de investigación e innovación correspondientes. También defiende la necesidad de
disponibilidad de datos para las necesidades de formación y la noción de "nadie que se quede atrás" en el "vagón de la IA", donde todos los
usuarios potenciales, especialmente las pequeñas y medianas empresas (PYME), las empresas no tecnológicas y el público administraciones,
habrán facilitado el acceso a los servicios y productos de IA y serán capacitados para hacer uso de ellos.
Además de la Estrategia sobre `` Inteligencia artificial para Europa '', en diciembre de 2018 la Comisión adoptó una Plan Coordinado de
Inteligencia Artificial 15, que refleja la importancia de acciones coordinadas a nivel europeo entre la Comisión y los Estados miembros para
garantizar el éxito de la Estrategia.
En el ámbito de la justicia, un primer resultado tangible del compromiso político de hacer más accesible la justicia en red nacional y europea
fue la adopción del primer Plan de acción plurianual de justicia en red 2009-2013. Este primer instrumento identificó una serie de acciones
prioritarias para el trabajo conjunto. Tras su finalización, se adoptó una estrategia y un plan de acción de e-Justicia para el período 2014-2018.
Estos terminaron en 2018 y, a su vez, han sido reemplazados por la Estrategia y el Plan de acción de e-Justicia para el período 2019-2023.
En este contexto, el propósito del presente estudio es abordar dos de las áreas de trabajo prioritarias bajo el actual Plan de Acción: el uso de
Inteligencia Artificial (IA) y blockchain / Tecnología de Libro Mayor Distribuido (DLT) en el campo de la justicia, que para el Los propósitos de
este documento se denominan en lo sucesivo 'tecnologías innovadoras'.
La Comisión contrató a TRASYS International, parte del Grupo NRB, a través del Contrato Marco ABC IV para realizar un Estudio sobre el
uso de tecnologías innovadoras en el campo de la justicia (en adelante: el Estudio de Innovación). El estudio se llevó a cabo en el período de
agosto de 2019 a mayo de 2020 y tiene los siguientes objetivos principales:
• Objetivo 01: Establecer el marco jurídico y político pertinente de la UE y resumir todos los aspectos que deben tenerse en cuenta
en términos de tecnologías de innovación en el ámbito de la justicia de forma coherente y narrativa.
• Objetivo 02: Hacer un balance de la situación en las instituciones europeas, todos los Estados miembros de la UE y organizaciones
profesionales legales específicas con respecto al piloto actual y planificado y en los sistemas de producción que utilizan
tecnologías innovadoras en el campo de la justicia.
13 Libro Blanco de la Comisión Europea sobre Inteligencia Artificial: un enfoque europeo hacia la excelencia y la confianza,
• Objetivo 03: Establecer un inventario de los casos de uso relevantes existentes en el campo de la justicia, donde las tecnologías
innovadoras son utilizadas actualmente por el sector público y privado o en un contexto académico, o posibles casos de uso
relevantes como parte de ejercicios en curso o ya completados.
• Objetivo 04: Identificar los productos y / o servicios de software estándar que se están aplicando o podrían aplicarse a los casos de
uso definidos en el campo de la justicia.
• Objetivo 05: Identificar las áreas de posible interés en el campo de la justicia. Para alcanzar estos objetivos, el
En el primer paso Investigación de los hechos, El objetivo principal era recopilar el marco legal y político existente de la UE y el cuerpo
académico de conocimiento sobre el uso de tecnologías de innovación en el campo de la justicia, y recopilar información sobre proyectos
existentes que utilizan IA y blockchain / DLT. Este paso incluyó actividades para el lanzamiento del estudio, es decir, la organización de una
reunión inicial, junto con una investigación documental y una revisión de la literatura, y consultas con las partes interesadas utilizando un
cuestionario estructurado en línea en la Encuesta de la UE dieciséis herramienta, y
entrevistas. Se han revisado un total de 117 documentos (ver Anexo I-Referencias) y categorizados en términos de relevancia alta, media o
baja para los propósitos de este estudio. En línea
cuestionarios para las autoridades judiciales y públicas del Estado miembro,
organizaciones profesionales y empresas de TIC se llevaron a cabo desde noviembre de 2019 hasta enero de 2020. Se recibieron un total de
100 respuestas de 25 Estados miembros y 2 instituciones europeas, 40 respuestas de organizaciones profesionales jurídicas y 15 respuestas
de empresas TIC.
En el segundo paso, Análisis y Evaluación, la información recolectada a través de los cuestionarios y entrevistas fue procesada, analizada y
evaluada para la elaboración de 4 Anexos que, junto con este documento, sirven como informe integral del estudio. Se han analizado un total
de 93 proyectos y casos de uso de las autoridades públicas y judiciales de los Estados miembros, 8 proyectos de organizaciones
profesionales jurídicas y 29 proyectos / casos de uso relacionados con productos y servicios ofrecidos por 15 empresas de TIC. El estudio
identificó 8 categorías de problemas empresariales que estos proyectos pretenden resolver.
En el tercer paso, Camino a seguir Se presenta la evaluación de los 80 proyectos finalizados y en curso de las autoridades de los Estados
miembros y de los 8 proyectos finalizados y en curso de organizaciones profesionales jurídicas, según el nivel en el que estos proyectos
cumplieron con las expectativas de las partes interesadas de resolver el problema empresarial y cumplir los objetivos del proyecto. .
En el primer paso del proceso, se llevaron a cabo consultas con las partes interesadas mediante cuestionarios estructurados y entrevistas. En
colaboración con el equipo de proyecto de la DG JUST, el contratista preparó tres cuestionarios estructurados separados dirigidos a los tres
diferentes grupos de partes interesadas:
Las encuestas se lanzaron en noviembre de 2019 y permanecieron abiertas hasta enero de 2020. Tras el cierre de la encuesta, las
respuestas se recopilaron y presentaron de forma consolidada en tres documentos independientes separados.
En el contexto de este estudio, el contratista realizó 22 entrevistas con representantes de las instituciones, órganos, organizaciones y
agencias de la UE. El objetivo de estas entrevistas era recopilar información sobre las actividades actuales que tienen lugar a nivel de la UE
en términos de trabajo político y proyectos de tecnologías innovadoras relacionados con el campo de la justicia. Como seguimiento de las
respuestas al cuestionario recibidas, el contratista realizó 31 entrevistas con representantes de los Estados miembros, 9 entrevistas con
organizaciones profesionales del derecho y 10 con
11 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
compañías privadas. Para cada entrevista, el contratista preparó informes de entrevistas que fueron validados por los entrevistados.
Con el objetivo de agrupar los problemas empresariales abordados durante la ejecución de los proyectos llevados a cabo por las autoridades
públicas y el poder judicial en los Estados miembros, y por las organizaciones profesionales del derecho, se han identificado las siguientes
ocho (8) categorías de problemas empresariales:
1. Procesamiento de alto volumen de datos (PCD). La cuestión del procesamiento de grandes volúmenes de
datos y documentos estructurados y no estructurados de forma manual o con simples herramientas digitales, con el fin de realizar
un análisis basado en el contenido, para tareas como: encontrar información relevante para el caso, deducir patrones, buscar
palabras o casos específicos, clasificación y categorización, etc.
6. Preparación de alto volumen de datos (PPD). La cuestión del tratamiento (grandes volúmenes de)
datos manualmente, o con herramientas digitales simples, para obtener un resultado final, por ejemplo, en la preparación de
audiencias judiciales y en la realización de tareas de administración judicial y / u otras tareas judiciales. Se trata de tareas como:
traducción de documentos, mecanografía de protocolos en audiencias o entrevistas judiciales, elaboración de contratos,
decisiones judiciales y versiones anónimas de las mismas, firma manual de documentos, etc.
Como se describe en detalle en la sección 9 de este informe, se han evaluado por categoría empresarial un total de 93 proyectos de las
autoridades de la administración pública y el poder judicial de los Estados miembros. Dado que un proyecto puede resolver más de un
problema comercial según las categorías de problemas comerciales identificadas, de los 93 proyectos completados, en curso y planificados,
43 (o 46%) tienen como objetivo resolver un problema en la categoría de PCD, 17 (o 18%) - en la categoría de VAI, 24 (o 26%) - en la
categoría de LKS, 14 (o 15%) - en la categoría de
12 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
ATJ, 13 (o 14%) - en la categoría de DPC, 29 (o 31%) - en la categoría de PPD, 12 (o 13%) - en la categoría de AFM y 16 (o 17%) - en el
categoría de LAT.
Además, el estudio asignó las categorías de problemas comerciales a 8 soluciones comerciales que los proyectos que utilizan tecnologías de
IA o blockchain pretenden lograr:
• Anonimización y seudonimización - Una solución a los problemas comerciales en las categorías de PCD, PPD y DPC,
utilizando tecnología de IA para automatizar la identificación manual y la eliminación de datos personales (y / u otros datos
sensibles). Esta solución se suele utilizar para garantizar el cumplimiento de la legislación de protección de datos.
• Autenticidad y trazabilidad de los datos - Una solución a problemas empresariales principalmente en las categorías de LAT,
PPD, ATJ y LKS 17, Normalmente se utiliza blockchain / DLT para firmas digitales, contratos inteligentes, registros, etc., para realizar
la validación de datos y mejorar la trazabilidad, garantizar la integridad.
• Asistencia digital - Una solución a problemas empresariales en las categorías de ATJ, utilizando tecnología de IA, como chatbots,
para mejorar el acceso de los ciudadanos a la información y navegarlos a través de procesos administrativos.
• Reconocimiento facial y / o de objetos - Una solución a los problemas comerciales en la categoría de VAI, que generalmente utiliza
tecnología de inteligencia artificial para detectar, identificar y verificar una persona o un objeto a partir de una imagen digital o
secuencias de video basadas en características faciales específicas u otras. Tales soluciones, por ejemplo, se utilizan en la justicia
penal para mejorar la identificación de las víctimas a partir de material pictórico o detectar comportamientos anormales de los
reclusos en las cárceles.
• Analítica predictiva - Una solución a los problemas empresariales en las categorías de LKS, PCD y PPD, utilizando tecnología de
IA para analizar hechos actuales e históricos para hacer predicciones sobre el futuro y / o identificar riesgos y oportunidades. En el
campo de la justicia, estas soluciones generalmente se denominan "justicia predictiva" y se utilizan para ayudar al poder judicial en
el proceso de toma de decisiones.
• Automatización de procesos - Una solución a problemas empresariales principalmente en las categorías de PCD, PPD, LKS y
AFM 18, Por lo general, utiliza tecnología de inteligencia artificial y automatización de procesos robóticos para automatizar procesos,
como la organización, planificación y gestión de instalaciones, priorización, categorización y asignación de documentos y tareas.
En el campo de la justicia, la automatización de procesos se suele utilizar para mejorar la eficiencia mediante la automatización de
tareas manuales y repetitivas como el análisis de información relacionada con casos (por ejemplo, datos recopilados de registros
domiciliarios), pago de multas por parte de los ciudadanos, etc.
• Optimización de búsqueda - Una solución a problemas empresariales principalmente en las categorías de PCD, LKS y ATJ 19, Por
lo general, se utiliza tecnología de inteligencia artificial para agilizar y facilitar las búsquedas en la jurisprudencia, registros y
bibliotecas digitales relevantes, generalmente creando enlaces semánticos y posibilidades para la anotación de documentos.
• Soluciones de voz / texto a texto / voz - Una solución a problemas empresariales en las categorías de PPD y VAI, utilizando
tecnología de IA, como reconocimiento de voz y traducción automática. En el campo de la justicia, esta solución se usa
típicamente para modernizar las salas de los tribunales y facilitar las audiencias en los tribunales reemplazando la mecanografía
manual de las actas del tribunal y otros documentos o por traducciones de idiomas extranjeros.
17 La mayoría de los proyectos se incluyen en las categorías de problemas empresariales enumeradas. Sin embargo, el "Data
La solución de autenticidad y trazabilidad ”también podría resolver problemas comerciales en otras categorías.
18 La mayoría de los proyectos se incluyen en las categorías de problemas empresariales enumeradas. Sin embargo, el "Proceso
Automatización ”podría resolver problemas comerciales en otras categorías como se muestra en la imagen siguiente.
19 Ídem
13 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Dado que una solución comercial puede resolver más de un problema comercial según las categorías de problemas comerciales identificadas:
• La anonimización y seudonimización es una solución utilizada en 12 proyectos de las autoridades de los Estados
miembros (o el 13% de los 93 proyectos)
Como se describe en detalle en la Sección 10 de este informe, se han evaluado un total de 8 proyectos de las organizaciones profesionales
legales por categoría de negocio. Con respecto al hecho de que un proyecto puede resolver más de un problema comercial según las
categorías de problemas comerciales identificadas, 5 proyectos (o el 65% de los 8 proyectos) tienen como objetivo resolver un problema
comercial en la categoría PCD; 1 (o 13%) - en la categoría LKS, 2 (o 25%) - en la categoría ATJ; 1 (o 13%) - en la categoría AFM; 1 (o 13%) -
en la categoría DPC; 3 (o 38%)
- en la categoría PPD; y 2 (o 25%) - en la categoría LAT. No hay proyectos incluidos en la categoría de problemas empresariales
"Procesamiento de un gran volumen de datos de vídeo, audio e imágenes".
Dado que una solución comercial puede resolver más de un problema comercial según las categorías de problemas comerciales identificadas:
Además de la evaluación por categoría empresarial, las autoridades públicas y el poder judicial de los Estados miembros y las organizaciones
profesionales del derecho 20 Se les preguntó en qué medida el proyecto cumple con sus objetivos y la tecnología resuelve sus problemas
comerciales. Al respecto, los grupos de interés señalaron si el proyecto 'supera', 'cumple', 'cumple parcialmente' o 'no cumple' sus
expectativas. Esta evaluación del nivel de expectativas solo tiene en cuenta terminado y el Proyectos en marcha 21 ( es decir, 80 proyectos de
las autoridades públicas y judiciales de los Estados miembros y 8 proyectos de las organizaciones profesionales jurídicas).
En este contexto, los proyectos que 'superan' y 'cumplen' las expectativas pueden servir como base para el intercambio de buenas practicas 22
entre las partes interesadas de otros países. Tales proyectos
20 Los proyectos / casos de uso de las empresas de TIC no se incluyen en el análisis, porque tiene como objetivo demostrar al
en la medida de lo posible, las opiniones objetivas de los usuarios del proyecto y / o del proyecto en términos de tecnología que resuelve los problemas comerciales y los
objetivos del proyecto cumplidos.
21 Los proyectos planificados se excluyen de este análisis, ya que se considera que su nivel de madurez no es lo suficientemente alto para
desarrollo e implementación del proyecto y superación de los desafíos encontrados, de manera óptima, como lograr los objetivos del proyecto y resolver
el problema de negocio en una medida que supere o cumpla las expectativas.
14 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
se refieren a áreas tales como, Entre otros, anonimización de documentos (por ejemplo, decisiones judiciales); conversión de voz a texto y
transcripción; introducción de chatbots para fortalecer el acceso a la justicia y servicios públicos, y Robot Process Automation (RPA) para
aumentar la eficiencia y minimizar errores en tareas repetitivas.
Junto con las sugerencias para el intercambio de buenas prácticas sobre dichos proyectos, las siguientes recomendaciones se dibujan
horizontalmente, atravesando varios puntos observados en este estudio:
• Coordinación a nivel de la UE de esfuerzos y actividades. El estudio identificó una serie de proyectos en los Estados miembros
con objetivos, problemas comerciales y tecnologías similares utilizados para resolverlos. Por tanto, para evitar la duplicación de
esfuerzos y garantizar la interoperabilidad semántica y organizativa, es necesario coordinar y mejorar la comunicación sobre las
actividades de los proyectos a nivel de la UE.
• Fortalecimiento de las asociaciones y redes existentes. Asociaciones existentes entre organizaciones europeas y de EM, como
el observatorio AI4EU 23 o observatorio y foro de blockchain de la UE 24, debe fortalecerse aún más con una mayor participación de
expertos en el campo de la justicia. Esto contribuiría a crear conciencia sobre los beneficios de las tecnologías innovadoras y
comprender mejor cómo pueden ayudar a resolver problemas específicos.
• Recomendación para el establecimiento de un mecanismo de apoyo a las organizaciones profesionales del derecho. Definir
un mecanismo de apoyo para las organizaciones profesionales legales para facilitar la preparación e implementación de pruebas
de conceptos (PoC) como 'ganancias rápidas' que demuestren el valor agregado y los beneficios de las tecnologías innovadoras
para los profesionales.
Estas acciones y mecanismos pueden incluir la creación de redes y plataformas de intercambio de conocimientos para involucrar a las partes
interesadas del sector público y privado en el diálogo (incluso con instituciones, organismos y agencias de la UE), para ayudarlos a encontrar
información sobre proyectos actuales que involucran tecnologías innovadoras ( en su Estado miembro o en otro lugar), para ayudarlos a lo
largo del ciclo de vida del proyecto mediante la identificación de socios y oportunidades de financiación y la preparación de pruebas de
concepto (PoC).
23 https://www.ai4eu.eu/observatory
24 https://www.eublockchainforum.eu/
15 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Synthèse (FR)
L'UE comprendió la importancia de la entidad de los principales actores mundiales en la utilización de las tecnologías innovadoras. C'est
pourquoi, la transform numérique, le déploiement de technologies innovantes et les megadonnées ont été des points clés de l'agenda de l'UE
ces dernières années. Dans le Livre blanc sur l'intelligence artificielle (IA) 25, l'UE a reconnu la nécessité d'intensifier les actions à plusieurs
niveaux dans le but de créer un écosystème d'excellence capaz de soutenir le développement et l'adoption de l'IA dans l'économie et
l'administration publique de l ' UE. Ces dernières années, un Certain name d'actions ont été entreprises et continueront d'être entreprises par
différents acteurs aux niveaux européen et national en vue de la transición vers une économie durable centrée sur les données, qui garantit
des produits et services fiables, sûrs et dignes de confiance sur le marché numérique.
En abril de 2018, la Commission européenne a présenté sa Stratégie «L'intelligence artificielle pour l'Europe» 26 qui souligne l'importance
de l'IA pour l'Europe y décrit les mesures prises pour faire de l'Europe une union très avancée dans le domaine de l'IA. La stratégie vise à
stimuler les investissements dans le cadre du program-cadre de recherche et d'innovation correspondant, préconise la nécessité de la
disponibilité des données pour la formación ainsi que la noción de «ne laisser personne de côté dans le wagon de l ' I A » où tous les
utilisateurs potentiels, en particulier les petites et moyennes entreprises (PME), les entreprises non technologiques et les administrations
publiques auront un accès facilité aux services et produits d'IA et auront la possibilité de se former pour les utiliser.
À la suite de la Stratégie sur "L'intelligence artificielle pour l'Europe", en diciembre de 2018 la Commission a adopté un Plan coordonné sur
l'intelligence artificielle 27 qui reflète l'importance des actions coordonnées au niveau européen entre la Commission et les États membres
pour assurer le succès de la stratégie.
Dans le domaine de la justice, un premier résultat tangible de l'engagement politique visant à rendre la justice électronique nationale et
européenne plus accesible a été l'adoption du premier plan d'action pluriannuel pour la justice en ligne pour la période 2009-2013 . Ce premier
instrument a identifié un cierto nombre d'actions prioritaires pour un travail conjoint. Après son achèvement, une stratégie et un plan d'action
pour la justice en ligne ont été adoptés pour la période 2014-2018. Celles-ci ont pris fin en 2018 et ont à leur tour été remplacées par la
stratégie et le plan d'action e-Justice pour la période 2019-2023.
Dans ce contexte, l'objectif de la présente étude est de traiter deux des domaines de travail prioritaires dans le cadre du plan d'action actuel -
l'utilisation d'IA et de blockchain (cadena de bloques) / DLT (technologie des registres distribués) dans le domaine de la justice, ciaprès
dénommés «tecnologías innovantes» aux fins du présent document.
La Commission européenne a engagé TRASYS International, entité du groupe NRB, via le contrat-cadre ABC IV pour réaliser une étude sur
l'utilisation de technologies innovantes dans le domaine de la justice (ci-après: l'Etude sur l'innovation) . L'étude a été réalisée durant la
période d'août 2019 à mai 2020 et a pour objectifs principaux:
25 Comisión Européenne, LIVRE BLANC Intelligence Artificielle: Une Approche européenne axée sur l'excellence
• Objectif 01: établir le cadre juridique et politique existant de l'UE et de resumer tous les Aspects qui doivent être pris en compte en
termes de technologies d'innovation dans le domaine de la justice de manière cohérente et narrative.
• Objectif 02: faire le point sur la situación en las instituciones européennes, tous les États membres de l'UE et parmi certains
organismes professionnels juridiques en ce qui concernne les systèmes pilotes et en production, actuels et planifiés, qui utilisent
des technologies innovantes dans le domaine de la justice.
• Objectif 03: établir un inventaire des cas existants d'utilisation des technologies innovantes par le secteur public et privé ou dans un
context universitaire, ou des cas d'utilisation dans le cadre d'exercices en cours ou terminés.
• Objectif 04: identificador les produits et / ou services logiciels clés disponibles sur le marché, qui sont appliqués ou pourraient être
appliqués aux cas d'utilisation définis dans le domaine de la justice.
• Objectif 05: identificador les domaines d'intérêt posible dans le domaine de la justice.
Afin d'atteindre ces objectifs, l'étude a mis en œuvre une aproche en trois étapes.
Dans la première étape, l'Etablissement des faits, l'objectif principal était de rassembler le cadre juridique et politique existant de l'UE et le
corpus académique de connaissances sur l'utilisation des technologies d'innovation dans le domaine de la justice, ainsi que de collecter des
informations sur les projets existants utilisant l'IA et la blockchain (cadena de bloques) / DLT (technologie des registres distribués). Cette étape
comprenait des activités de lancement des projets, à savoir l'organisation d'une réunion de lancement, ainsi qu'une recherche documentaire,
une révision de la documentation, et des consultations avec des Parties prenantes à l'aide d'un cuestionario structuré en ligne via l'outil
d'enquête de l'UE (encuesta de la UE) 28 et des entretiens. En total, 117 documentos sobre été examinés (voir l'Annexe I-Références) et
classés en termes de pertinence élevée, moyenne ou faible pour cette étude. Les enquêtes en ligne pour les autorités publiques et judiciaires
des États membres, les organismes professionnels juridiques et les entreprises TIC ont été réalisées entre novembre 2019 et janvier 2020. Au
total, 100 réponses ont été reçues de la part de 25 États membres et de 2 Institution européennes, 40 réponses de la part des organismes
professionnels juridiques y 15 réponses d'entreprises TIC.
Dans la deuxième étape, Analizar y evaluar, las informaciones recopiladas a través del cuestionario y las entretiens sobre été traitées,
analysées et évaluées pour la préparation de quatre (4) Anexos qui, dans leur ensemble, font partie intégrale de ce rapport d'étude. En total,
93 proyectos / cas d'utilisation des autorités publiques et judiciaires dans les États membres, 8 projets des organismes professionnels
juridiques y 29 projets / cas d'utilisation des produits et services offers par 15 empresas TIC, ont été analysés. L'étude a identifié 8 catégories
de problèmes fonctionnels que ces projets visent à résoudre.
Dans la troisième étape, La voie à suivre, y est presenté l'évaluation des 80 projets achevés et en cours des autorités des États membres
ainsi que des 8 projets achevés et en cours d'organisations juridiques professionnelles, en fonction du niveau auquel ces projets ont répondu
aux attentes des Parties prenantes en matière de résolution de problème fonctionnel et la réalisation des objectifs du projet.
Dans la première étape, des consultations avec les Parties prenantes ont été menées à l'aide de questionnaires structurés et d'entretiens. En
colaboración avec l'équipe de projet de la DG JUST, le contractant a préparé trois questionnaires structurés distincts pour trois groupes de
Parties prenantes différents:
17 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
- Entreprises TIC fournissant des produits et services d'IA et / ou de blockchain (chaîne de blocks) / DLT (technologie des registres
distribués).
Les enquêtes ont été lancées en novembre 2019 et sont restées ouvertes jusqu'en janvier
2020. Après la clôture de celles-ci, les réponses ont été rassemblées et présentées de manière consolidée dans trois documents autonomes
distincts.
Dans le cadre de cette étude, le contractant a réalisé 22 entretiens avec des représentants des instituciones, organes, organizaciones y
agences de l'UE. Le but de ces entretiens était de collecter des informations sur les activités en cours au niveau de l'UE en termes de travail
politique et de projets de technologies innovantes liés au domaine de la justice. Suite aux réponses reçues via le questionnaire, le contractant
a mené 31 entretiens avec des représentants des États membres, 9 entretiens avec des organismes professionnels juridiques et 9 avec des
entreprises privées. Pour chaque entretien, le contractant a préparé des rapports d'entretien qui ont été validés par les personnes interrogées.
Dans le but de regrouper les problèmes fonctionnels abordés lors de la mise en œuvre des projets menés par les autorités publiques et
judiciaires dans les États membres, ainsi que par les Organizations professionnelles juridiques, les huit (8) catégories de problèmes
fonctionnels suivantes ont été :
18 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
préparation de contrats, de décisions judiciaires et de leurs versiones anonymisées, firma manuelle de documentos, etc.
Comme décrit en détail dans la Section 9 du présent rapport, un total de 93 projets des autorités publiques et judiciaires des états membres
ont été évalués par catégorie de problèmes fonctionnels. Étant donné qu'un projet peut résoudre plus qu'un problème fonctionnels au vu des
catégories identifiées, sur 93 projets achevés, en cours et planifiés, 43 (soit 46%) visent à résoudre un problème de la catégorie de TVD, 17
(soit 18%) - dans la catégorie de VAI, 24 (soit 26%) - dans la catégorie de LSI, 14 (soit 15%) - dans la catégorie de AJ, 13 (soit 14%) - dans la
catégorie de PDP, 29 (31%) - dans la catégorie de PVD, 12 (13%) - dans la catégorie de GAI et 15 (26%) - dans la catégorie de MAT.
En outre, l'étude a mis en correspondance les catégories de problèmes fonctionnels en 8 soluciones utilisant IA ou blockchain que les projets
visent à atteindre:
• Anonimización y seudonimización - Une solution aux problèmes fonctionnels dans les catégories de traitement de grands
volume de données (TVD), de préparation de grands volume de données (PVD) et de conformité aux règles la protection des
données personalles (PDP) en utilisant la technologie de l ' IA pour automatiser l'identification manuelle et la supression des
données staffles (et / ou autres données sensibles). Une telle solution est généralement utilisée pour garantir le respect de la
législation sur la protection des données.
• Authenticité et traçabilité des données - Une solution aux problèmes fonctionnels principalement dans les catégories MAT,
PVD, AJ et LSI 29 utilisant généralement la blockchain (cadena de bloques) / DLT (technologie des registres distribués) pour les
signatures numériques, les contrats intelligents, les registres, etc., pour effectuer la validation des données, améliorer leur
traçabilité et assurer leur intégrité.
• Asistencia numérica - Une solution aux problèmes fonctionnels dans la catégorie AJ, utilisant la technologie de l'IA, comme les
chatbots (assistants virtuels), pour améliorer l'accès des citoyens aux informations et les parcourir à travers les processus
administratifs.
• Reconnaissance faciale et / ou d'objet - Une solution aux problèmes fonctionnels dans la catégorie VAI, utilisant généralement la
technologie de l'IA pour détecter, identifier et vérifier une personne ou un objet à partir d'une image numérique ou d'une séquence
vidéo, par des caractéristiques faciales spécifiques ou autres . De telles solutions, por ejemplo, sont utilisées dans la justice pénale
et les force de l'ordre pour améliorer l'identification des victimes à partir de photo ou détecter les comportements anormaux des
détenus dans les prisons.
29 La majorité des projets relèvent des catégories énumérées de problèmes d'affaire. Cependant, la solución
«Authenticité et traçabilité des données» pourrait également résoudre des problèmes d'affaire dans d'autres catégories.
19 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
• Analizar prédictive - Une solution aux problèmes fonctionnels dans les catégories LSI, TVD et PVD, utilisant la technologie de l'IA
pour analizer les faits actuels et historiques pour faire des prédictions sur l'avenir ou et / ou identifier les risques et oportunités.
Dans le domaine de la justice, soluciones ces son généralement appelées «justicia prédictiva» y sont utilisées pour aider le pouvoir
judiciaire dans le processus décisionnel.
• Automatización del proceso - Une solution aux problèmes fonctionnels principalement dans les catégories TVD, PVD, LSI y GAI 30,
utilisant généralement la technologie de l'IA et l'automatisation des processus robotisés, pour automatiser les processus, tels que
l'organisation, la planification et la gestion des installation, la hiérarchisation, la catégorisation et l'attribution des documents et des
tâches. Dans le domaine de la justice, l'automatisation des processus est généralement utilisée pour améliorer l'efficacité en
automatisant les tâches manuelles et répétitives telles que l'analyse des informations parientes aux affaires (por ejemplo, les
données collectées lors des perquisitions à domicile) , le paiement des amendes par les citoyens, etc.
• Optimización de la recherche - Une solution aux problèmes fonctionnels principalement dans les catégories PVD, LSI et AJ 31, utilisant
généralement la technologie de l'IA pour accélérer et faciliter les recherches dans la jurisprudence pertinente, les registres et les
bibliothèques numériques, créant généralement des liens sémantiques et des possibilités d'annotation de documentos.
• Solutions de transform de parole / texte en texte / parole - Une solution aux problèmes fonctionnels dans les catégories PVD et
VAI, utilisant la technologie de l'IA, comme la reconnaissance vocale et la traduction automatique. Dans le domaine de la justice,
une telle solution est généralement utilisée pour modernizer les salles d'audience et faciliter les audiences, en remplaçant la saisie
manuelle des procès-verbaux et autres documentos, ou les interprétations à partir de langues étrangères.
Étant donné qu'une solution peut résoudre des problèmes fonctionnels appartenant à plusieurs catégories de problèmes fonctionnels:
• L'anonymisation et la pseudonymisation sont des solutions utilisées dans 12 projets des autorités des États membres (soit
13% des 93 projets)
• La sécurité et la traçabilité des données sont des solutions utilisées dans 16 projets (soit 17%)
• L'assistance numérique est une solution utilisée dans 4 projets (soit 4%)
• La reconnaissance faciale et / ou d'objets sont des solutions utilisées dans 5 projets (soit 5%)
• L'analyse prédictive est une solution utilisée dans 5 projets (soit 5%)
• L'automatisation des processus est une solution utilisée dans 32 projets (soit 34%)
• L'optimisation de la recherche est une solution utilisée dans 10 projets (soit 11%)
30 Ídem
31 Ídem
20 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
• Les solutions de transform de parole / texte en texte / parole sont utilisées dans 9 projets (soit 10%)
Comme décrit en détail dans la Sección 10 de ce rapport, un total de 8 proyectos de organizaciones profesionales jurídicas sobre été évalués
par catégorie de problèmes fonctionnels. Étant donné qu'un projet peut résoudre des problèmes fonctionnels relevantes de plus d'une
catégorie, 5 projets (soit 65% des 8 projets) visent à résoudre un problème fonctionnels dans la catégorie TVD; 1 (hasta el 13%) - dans la
catégorie LSI, 2 (hasta el 25%) dans la catégorie AJ; 1 (hasta un 13%) - dans la catégorie GAI; 2 (hasta un 25%) - dans la catégorie PDP; 3
(hasta un 38%) - dans la catégorie PVD; et 2 (hasta un 25%) - dans la catégorie MAT. Aucun projet ne relève de la catégorie de problèmes
fonctionnels «Traitement d'un grand volume de données vidéo, audio et image (VAI)».
Étant donné qu'une solution peut résoudre des problèmes appartenant à plusieurs
catégories de problèmes fonctionnels:
• L'authenticité et la traçabilité des données sont des solutions utilisées dans 2 projets (hasta un 25%)
• L'assistance numérique est une solution utilisée dans 1 projet (soit 13%)
• L'analyse prédictive est une solution utilisée dans 1 projet (soit 13%)
• L'automatisation des processus est une solution utilisée dans 4 projets (soit 50%)
Outre l'évaluation par catégorie de problème fonctionnels, les autorités publiques et judiciaires des États membres ainsi que les organisations
professionnelles juridiques 32 ont été invita a déterminer dans quelle mesure le projet atteint ses objectifs et la technologie résout leur (s)
problème (s) fonctionnel (s). À cet égard, les Parties prenantes ont indiqué si le projet «dépasse», «répond», «répond partiellement» ou «ne
répond pas» à leurs attentes. Cette évaluation du niveau des attentes ne prend en compte que les projets
achevés et en curso 33 ( c'est-à-dire 80 projets des autorités publiques et judiciaires des états membres et 8 projets des organisations
professionnelles juridiques).
Dans ce contexte, les projets qui «dépassent» et «répondent» aux attentes peuvent servir de base à l'échange de bonnes pratiques 34 entre
les Parties prenantes d'autres États membres. Ces projets concernnent des domaines tels que, entre autres, l'anonimización de documentos
(par exemple les décisions de justice); parole-texte et transcription; Introducción de chatbots para el refuerzo del acceso a la justicia y
servicios auxiliares públicos, y Automatización de procesos robóticos (RPA) (Automatización de procesos robóticos) para el cumplimiento de
la eficacia y el minimizador de errores en los receptores.
• Coordinación al nivel de la UE de los esfuerzos y las actividades. L'étude a identifié un cierto nombre de projets dans les États
membres ayant des objectifs similarires, des problèmes fonctionnels et des technologies utilisées pour les résoudre. Par
conséquent, afin d'éviter la duplication des esfuerzo et d'assurer l'interopérabilité sémantique et organisationnelle, il est nécessaire
de coordonner et d'améliorer la comunicación sur les activités de projets au niveau de l'UE.
32 Les projets / cas d'utilisation des entreprises de TIC ne sont pas inclus dans l'analyse, car elle vise à démontrer
dans la mesure du possible les points de vue objectifs des utilisateurs du projet et / ou de l'équipe de projet en termes de technologie résolvant les
problèmes commerciaux et répondant aux objectifs du projet.
33 Les projets planifiés sont exclus de cette analizar, coche leur niveau de maturité est jugé insuffisant pour effectuer
préparation, de développement et de mise en œuvre du projet et surmonter les défis rencontrés, de manière optimale, comme atteindre les objectifs du
projet et résoudre le problème commercial pour une mesure qui dépasse ou répond aux attentes.
21 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
• Colaboración y partage d'expérience sur les projets sur une base régulière. Il existe un cierto nombre de proyectos en curso
et prévus, ainsi que des iniciativas au niveau européen et des États membres. La mise en place d'un mécanisme axé sur les
technologies innovantes dans le domaine de la justice faciliterait le partage d'expériences entre les institutions de l'UE, les autorités
publiques nationales, les organisations professionnelles judiciaires et juridiques ainsi que la compilation de leçons avisos.
• Renforcement des partenariats et des réseaux existants. Les partenariats existants entre les Organizations européennes et des
États membres, tels que l'observatoire AI4EU 35 ou l'observatoire et le forum de la blockchain de l'UE 36,
devraient être encore renforcés avec une plus grande participación d'experts dans le domaine de la justice. Cela contribuerait à
faire prendre conscience des avantages des technologies innovantes et à mieux comprendre comment celles-ci peuvent aider à
résoudre des problèmes spécifiques.
• Mise en place de mécanismes d'appui aux organisations professionnelles juridiques. Définir un mécanisme d'appui pour les
organisations professionnelles juridiques afin de faciliter la préparation et la mise en œuvre de la preuve de concept (PoC) en tant
que «gain rapides» qui démontreraient la valeur ajoutée et les avantages des technologies innovantes pour les praticiens .
Ces actions et mécanismes peuvent inclure la création de réseaux et de plate-formes de partage des connaissances pour impliquer les Parties
prenantes du secteur public et privé dans un dialogue (y comprenden avec les Institutos, organes, bureaux et agences de l'UE), en préparant
des preuves de concept (PoC).
35 https://www.ai4eu.eu/observatory
36 https://www.eublockchainforum.eu/
22 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
lista de abreviaciones
AI Inteligencia artificial
DG FISMA Dirección General de Estabilidad Financiera, Servicios Financieros y Unión de los Mercados de
Capitales
23 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
ML Aprendizaje automático
UC Caso de uso
24 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
1. Yo NTRODUCCIÓN
Desde 2008, la Comisión Europea y el Consejo de la UE han estado trabajando en estrecha colaboración para establecer una serie de
iniciativas digitales transfronterizas en el ámbito de la justicia.
Un primer resultado tangible del compromiso político de facilitar y hacer más accesible el acceso a la justicia en red nacional y europea fue la
adopción del primer Plan de acción plurianual de justicia en red 2009-2013. Este primer instrumento identificó una serie de acciones
prioritarias para el trabajo conjunto. Tras su finalización, se adoptó una estrategia y un plan de acción de e-Justicia para el período 2014-2018.
Estos terminaron en 2018 y, a su vez, han sido reemplazados por la Estrategia y el Plan de acción de e-Justicia para el período 2019-2023.
En 2018, los servicios de la Comisión llevaron a cabo un estudio detallado de los resultados del Plan de acción de justicia en red 2014-2018.
El estudio también contenía una dimensión prospectiva y buscaba las opiniones de los expertos de los Estados miembros con respecto al uso
de tecnologías innovadoras, como la inteligencia artificial y la cadena de bloques, en el campo de la justicia.
Según los resultados del estudio, a partir de 2018, el nivel de uso de las tecnologías de IA en el campo de la justicia todavía era relativamente
bajo, con solo el 7% de los encuestados indicando que alguna forma de tecnologías de IA estaba en uso en su organización. Al mismo
tiempo, el uso futuro de estas tecnologías se identificó como un área de mayor interés, con el 82% de los encuestados indicando que las
tecnologías de IA deben usarse en el dominio de la justicia, o que sus posibilidades deben al menos explorarse. Las tecnologías innovadoras
tendrían un papel horizontal catalizador al mejorar la seguridad de los datos, el intercambio de datos, así como mejorar el acceso a la
información y facilitar su procesamiento.
En este contexto, el objetivo del presente estudio es abordar dos de las áreas de trabajo prioritarias del actual Plan de Acción: el uso de la
Inteligencia Artificial (IA) y la tecnología blockchain / Contabilidad Distribuida (DLT) en el campo de la justicia, que para el Los propósitos de
este documento se denominan en lo sucesivo “tecnologías innovadoras”.
En este contexto, la Comisión contrató a TRASYS International, parte del Grupo NRB, a través del Contrato Marco ABC IV para realizar un
estudio sobre el uso de tecnologías innovadoras en el campo de la justicia (en adelante: Estudio de Innovación). El estudio se llevó a cabo en
el período de agosto de 2019 a mayo de 2020.
El objetivo principal de este documento es presentar los resultados del estudio y recomendar áreas para posibles actividades futuras en el
campo de la justicia.
Sección 1: La sección actual tiene como objetivo proporcionar al lector el contexto necesario para seguir el documento.
Sección 2: Descripción del proyecto: describe el enfoque y los objetivos del proyecto junto con el equipo del proyecto y las partes interesadas
involucradas.
Seccion 3: Metodología: elabora las técnicas y soluciones utilizadas para realizar el proceso de consultas con las partes interesadas.
Sección 4: Revisión de la literatura: resume las referencias identificadas como de gran relevancia para este estudio. Ver Anexo I - Lista de
referencias.
25 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Sección 5: Resultados de las consultas de las instituciones, organismos, organizaciones y agencias europeos
- describe los puntos clave derivados de las entrevistas realizadas
Sección 6: Resultados de la consulta de los Estados miembros: presenta los resultados de las consultas de las partes interesadas con las
autoridades nacionales y el poder judicial, realizadas mediante un cuestionario estructurado en línea y entrevistas. Contiene una descripción
general de los proyectos existentes. 37 en los Estados miembros, complementado con iniciativas 38 e ideas 39.
Sección 7: Resultados de la consulta de las organizaciones profesionales jurídicas: describe los resultados de las consultas realizadas con
las organizaciones profesionales jurídicas y de práctica jurídica mediante un cuestionario estructurado en línea y entrevistas.
Sección 8: Resultados de la consulta de las empresas de TIC: presenta los resultados de las consultas realizadas con las empresas de TIC
mediante un cuestionario estructurado en línea y entrevistas.
Sección 9: Evaluación de proyectos explorados en términos de problemas comerciales y categorías de soluciones: contiene una descripción
general de los proyectos y una descripción de las categorías de problemas comerciales en las que se encuentran, las categorías de
soluciones comerciales que tienen como objetivo resolver estos problemas y una serie de proyectos en cada categoría. Véase el anexo II:
proyectos explorados y casos de uso de las autoridades de los Estados miembros. y y Anexo III - Proyectos explorados y casos de uso de
organizaciones profesionales legales.
Sección 10: El camino a seguir: recomendar casos de uso en el campo de las tecnologías innovadoras en ciertas áreas de negocio que han
madurado y probado con el fin de aportar valor añadido a los usuarios.
37 Un proyecto se define como 'un trabajo planificado o una actividad que se realiza durante un período de tiempo y
para lograr un propósito particular '. En el contexto de nuestro estudio, un proyecto tendría un presupuesto definido, un cronograma, un equipo de proyecto
asignado, entregables específicos y también incluiría prueba de concepto (POC), caso de negocio, etc.
38 Una iniciativa se define como "un nuevo plan o acción para mejorar algo o resolver un problema". En el contexto de
nuestro estudio, significaría una acción bien pensada, con pasos dados para materializarlo en un proyecto, sin embargo, sin un presupuesto específico
asignado y / o un cronograma para su implementación.
39 Una idea se define como "una sugerencia o plan para hacer algo". En el contexto de nuestro estudio, incluiría
pensamientos, conceptos y / o creencias sobre las posibles formas de utilizar tecnologías innovadoras para resolver problemas empresariales específicos. Sin
embargo, una idea aún no está lo suficientemente madura como para materializarse en una iniciativa o un proyecto.
26 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
El proyecto se organizó en torno a las siguientes cinco tareas con la gestión de proyectos como una tarea horizontal, como se ilustra en la
Figura 1 a continuación:
• Tarea 02: Identificación de proyectos e iniciativas existentes en el sector público a nivel europeo y de los Estados miembros
• Objetivo 01: Establecer el marco jurídico y político pertinente de la UE y resumir todos los aspectos que deben tenerse en cuenta
en términos de tecnologías de innovación en el ámbito de la justicia de forma coherente y narrativa.
• Objetivo 02: Hacer un balance de la situación en las instituciones europeas, todos los Estados miembros de la UE y organizaciones
profesionales legales específicas con respecto al piloto actual y planificado y en los sistemas de producción que utilizan
tecnologías innovadoras en el campo de la justicia.
• Objetivo 03: Establecer un inventario de los casos de uso relevantes existentes en el campo de la justicia, donde las tecnologías
innovadoras son utilizadas actualmente por el sector público y privado o en un contexto académico, o posibles casos de uso
relevantes como parte de ejercicios en curso o ya completados.
• Objetivo 04: Identificar los productos y / o servicios de software estándar que se están aplicando o podrían aplicarse a los casos de
uso definidos en el campo de la justicia.
27 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Grupo de proyecto
Los miembros del proyecto responsables a nivel de dirección del contratista y del lado de la DG JUST, los oficiales de proyecto de la DG
JUST y el director del proyecto, un único punto de contacto por parte del contratista. La lista de partes interesadas que se consultarán durante
el transcurso del proyecto fue proporcionada por la DG JUST. La lista de empresas de TIC y representantes del mundo académico fue
propuesta por el contratista y aprobada por la DG JUST.
28 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
3. M Etodología
Durante el curso del estudio se llevó a cabo una revisión exhaustiva de la literatura y una investigación documental (ver Anexo I-Lista de
referencias).
Varios documentos 40 publicados por las instituciones, órganos, oficinas y agencias de la UE, las administraciones públicas y el poder judicial
de los Estados miembros y el mundo académico se han identificado, revisado, resumido y marcado como de relevancia alta, media o baja
para este estudio. Se definen tres niveles de relevancia como sigue:
• Las referencias de relevancia de alto nivel forman parte del marco legal y / o político de la UE y los Estados miembros, que
establecen prioridades estratégicas horizontales, reglas y principios con respecto al uso de IA y / o blockchain / DLT. Además,
estas referencias incluyen trabajos académicos y estudios realizados por diferentes organismos y organizaciones que discuten
casos de uso y problemas empresariales directamente relacionados con el campo de la justicia y / o proponen un análisis de las
cuestiones éticas y legales derivadas del uso de estas tecnologías.
• Las referencias de relevancia de nivel medio incluyen artículos académicos y estudios que discuten los usos de tecnologías
innovadoras en otros campos. Sin embargo, debido a la aplicabilidad de estas tecnologías a múltiples campos, también podrían
usarse en el campo de la justicia.
• Las referencias de relevancia de bajo nivel no discuten los usos de tecnologías innovadoras en el campo de la justicia u otros
campos. Sin embargo, presentaron algunas consideraciones importantes, principalmente de naturaleza técnica, que las
autoridades nacionales podrían tener en cuenta en su trabajo futuro en proyectos e iniciativas que implementan AI o blockchain /
DLT.
• Los resultados de las referencias revisadas sirvieron como insumo para la preparación de cuestionarios para los tres grupos de
partes interesadas, es decir, las autoridades públicas y el poder judicial de los Estados miembros, las organizaciones profesionales
jurídicas y las empresas de TIC, como se describe en la siguiente sección de este documento. Además, la revisión de la literatura y
los resultados de la búsqueda documental se utilizaron para la preparación de un análisis de las orientaciones políticas y
estratégicas proporcionadas por la UE y los Estados miembros, así como por el mundo académico, con respecto al uso de
tecnologías innovadoras en el campo de la justicia. .
Cuestionarios estructurados
En colaboración con el equipo de proyecto de la DG JUST, el contratista preparó tres cuestionarios estructurados separados para tres grupos
de partes interesadas diferentes:
- Organizaciones profesionales legales (por ejemplo, organizaciones profesionales, como colegios de abogados, institutos de
formación, etc.);
- Empresas de TIC que ofrecen productos y servicios de IA y / o blockchain / DLT.
El objetivo principal de los cuestionarios fue lograr una buena comprensión de las políticas, estrategias y proyectos existentes sobre el uso de
tecnologías innovadoras, es decir, Inteligencia Artificial (IA) y blockchain / Tecnología de libro mayor distribuido (DLT), en el campo de la
justicia. Además, el objetivo era identificar los desafíos, necesidades y oportunidades comerciales de
29 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
las autoridades públicas y el poder judicial, donde se debería seguir explorando el uso de tecnologías innovadoras en el ámbito de la justicia.
Los cuestionarios para las autoridades de los Estados miembros, las organizaciones profesionales jurídicas y las empresas de TIC tienen un
total de 140, 143 y 43 preguntas, respectivamente. Los cuestionarios incluían un conjunto de preguntas generales sobre el encuestado y la
existencia de proyectos, junto con un conjunto de preguntas específicas del proyecto de AI y DLT. El proceso para preparar el cuestionario
estructurado y lanzar la encuesta incluyó los siguientes pasos:
En primer lugar, se consultó un borrador inicial de los cuestionarios con la Comisión, los Estados miembros y otras partes interesadas
pertinentes. Una vez finalizado, el cuestionario estructurado se cargó en la herramienta en línea EU Survey. Se estableció contacto con las
partes interesadas sobre la base de una lista previamente acordada y se les invitó a participar en el estudio completando el cuestionario.
Las encuestas se lanzaron en noviembre de 2019 y permanecieron abiertas hasta enero de 2020. Tras el cierre de las encuestas, las
respuestas se recopilaron y consolidaron en tres documentos independientes separados.
Entrevistas
Para este estudio, el contratista realizó un total de 72 entrevistas, de las cuales 22 fueron con representantes de las instituciones, órganos,
organizaciones y agencias de la UE.
Como seguimiento de las respuestas al cuestionario recibidas, el contratista realizó 31 entrevistas con representantes de los Estados
miembros, 9 entrevistas con organizaciones profesionales del derecho y 10 con empresas privadas. Para cada entrevista, el contratista
preparó un informe de la entrevista validado por el (los) entrevistado (s).
Los resultados de las entrevistas, los resultados de la investigación documental, las respuestas al cuestionario y los productos de las consultas con las partes
interesadas sirvieron como insumos para la preparación del presente informe.
30 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Para este estudio, el contratista revisó un total de 117 referencias 41 y los categorizó como de relevancia de nivel alto, medio o bajo para su
alcance, como se describe en la Sección
3.1 anterior. En esta sección se presenta un análisis de las diversas fuentes identificadas como de alta relevancia.
La transformación digital, el despliegue de tecnologías innovadoras y los macrodatos han sido puntos clave en la agenda de la UE en los
últimos años. Entendiendo la importancia de estar presente y competir en el escenario global con otros actores que están avanzados en el
uso de tecnologías innovadoras, la UE reconoció en su Libro blanco sobre inteligencia artificial
(AI) 42 la necesidad de intensificar las acciones en múltiples niveles con el objetivo de construir un ecosistema de excelencia que pueda apoyar
el desarrollo y la adopción de la IA en la economía y las administraciones públicas de la UE. En los últimos años, se han emprendido y
continuarán emprendiendo una serie de acciones por parte de diferentes actores a nivel europeo y nacional hacia la transición a una
economía centrada en datos sostenible que garantice productos y servicios fiables, seguros y fiables en el mercado digital.
Por más evidente que pueda ser que las tecnologías innovadoras traen numerosos beneficios y eficiencias a los procesos de negocios en
diferentes sectores, su naturaleza compleja y sofisticada, posicionada en un contexto legal y ético, no siempre es obvia para comprender
completamente y puede plantear una serie de preguntas con respecto a su regulación. Con el fin de garantizar que las tecnologías
innovadoras cumplan ética y legalmente y que su uso no infrinja los derechos y libertades fundamentales, como se estipula en la Carta de los
Derechos Fundamentales de la Unión Europea. 43 y en la Convención para la Protección de los Derechos Humanos y las Libertades
Fundamentales 44 ( el CEDH), se han entregado una serie de documentos estratégicos legislativos y políticos, centrados en la IA y los
macrodatos, a nivel de la UE y de los Estados miembros, y se ha elaborado un importante trabajo académico para analizar la problemática y
proponer posibles soluciones a los responsables de la toma de decisiones.
Según el art. 2 del Tratado de la Unión Europea (TUE) 45 ' La Unión se basa en los valores del respeto de la dignidad humana, la libertad, la
democracia, la igualdad, el Estado de derecho y el respeto de los derechos humanos, incluidos los derechos de las personas pertenecientes a
minorías. Estos valores son comunes a los Estados miembros en una sociedad en la que prevalecen el pluralismo, la no discriminación, la
tolerancia, la justicia, la solidaridad y la igualdad entre mujeres y hombres. «Por tanto, el uso de tecnologías innovadoras debe respetar los
valores comunes de la UE, como se establece en el art. 2 TUE y respetar el principio de protección jurídica efectiva establecido en el art. 19
(1) TEU.
Con el desarrollo de la tecnología, la digitalización de productos y servicios y las grandes cantidades de datos personales que las empresas
procesan a través de sus actividades, estos datos se han convertido inevitablemente en un activo invaluable que merece una protección
sólida y regulada. En este contexto, la UE adoptó el paquete legislativo sobre protección de datos personales, en particular el Reglamento
general de protección de datos (GDPR) 46, que tiene es aplicable desde
árbitro. No 2)
44 Consejo de Europa, Convenio europeo para la protección de los derechos humanos y las libertades fundamentales, como
46 Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo de 27 de abril de 2016 [2019], DO L 119/1.
31 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
25 de mayo de 2018, la Directiva sobre aplicación de la ley 47, el Reglamento sobre la protección de las personas físicas en lo que respecta al
tratamiento de datos personales por parte de las instituciones, órganos, oficinas y agencias de la Unión y sobre la libre circulación de dichos
datos 48, y la Decisión de Ejecución de la Comisión sobre la idoneidad de la protección proporcionada por el Escudo de la privacidad UE-EE.
UU. 49.
En abril de 2018, la Comisión Europea entregó su Estrategia 'Inteligencia artificial para Europa' 50 que destaca la importancia de la IA para
Europa y describe los pasos dados para hacer que Europa sea muy avanzada en IA. La Estrategia tiene como objetivo estimular las
inversiones en el marco de los programas marco de investigación e innovación correspondientes, aboga por la necesidad de disponibilidad de
datos para la formación y la noción de 'nadie que se quede atrás' en la transformación digital, incluida la IA, donde todos los usuarios
potenciales, especialmente los pequeños y las medianas empresas (pymes), las empresas no tecnológicas y las administraciones públicas,
habrán facilitado el acceso a los servicios y productos de IA y tendrán la oportunidad de formarse para hacer uso de ellos.
Además de la Estrategia sobre `` Inteligencia artificial para Europa '', en diciembre de 2018, la Comisión adoptó el Plan Coordinado de
Inteligencia Artificial 51 que refleja la importancia de acciones coordinadas a nivel europeo entre la Comisión y los Estados miembros para
garantizar el éxito de la Estrategia. El plan establece los principales objetivos, como los esfuerzos comunes de los Estados miembros (por
ejemplo, en la adopción de estrategias nacionales); fomentar las asociaciones público-privadas (APP) y proporcionar financiación para nuevas
empresas y empresas de innovación; promover el intercambio de mejores prácticas y conocimientos especializados; la construcción del
espacio europeo de datos; y una mejor comprensión de los aspectos de seguridad de la IA. La creación de un espacio europeo común de
datos se desarrolla con más detalle en el Comunicación de la Comisión 'Hacia un espacio de datos europeo común' 52 que analiza los
beneficios socioeconómicos de la innovación impulsada por datos, de la que las nuevas tecnologías como la IA y la Internet de las cosas (IoT)
se están beneficiando enormemente. Se han identificado tres áreas clave: (1) el acceso seguro de los ciudadanos a los datos de salud y su
intercambio; (2) mejores datos para promover la investigación, la prevención de enfermedades y la atención médica personalizada; y (3)
herramientas digitales para el empoderamiento ciudadano y la atención centrada en la persona.
Siguiendo la estrategia "IA para Europa", varios Estados miembros han adoptado estrategias nacionales sobre el uso de tecnologías
innovadoras, algunas de las cuales se centran especialmente en el uso de la IA. En la Sección 6.2 de este informe se proporciona una
descripción general de estas estrategias.
La innovación se lleva a cabo a un ritmo rápido, afectando todos los aspectos de la vida de las personas. Esto inevitablemente genera
oportunidades para probar y aplicar tecnologías innovadoras como AI y blockchain / DLT en diferentes dominios comerciales. Uno de esos
dominios de aplicación es el campo de la justicia, que es el alcance del presente estudio. En el Plan de acción de e-Justicia 2019-2023 53, La IA
ha sido identificada como uno de los principales avances en las tecnologías de la información y la comunicación en los últimos años, que debe
explorarse y desarrollarse más. El plan de acción señala que las implicaciones de la inteligencia artificial en el campo de la justicia en red
deben definirse mejor.
47 Directiva (UE) 2016/680 del Parlamento Europeo y del Consejo de 27 de abril de 2016 [2016], DO L 119/89.
(Ver Anexo I, Ref. No. 4).
48 Reglamento (UE) 2018/1725 del Parlamento Europeo y del Consejo de 23 de octubre de 2018 [2018], DO L
295/39 sobre la protección de las personas físicas en lo que respecta al tratamiento de datos personales por parte de las instituciones, órganos, oficinas y
agencias de la Unión y sobre la libre circulación de dichos datos (véase: anexo I, ref. No 5)
49 Decisión de Ejecución (UE) 2016/1250 de la Comisión de 12 de julio de 2016 de conformidad con la Directiva 95/46 / CE del
Parlamento Europeo y del Consejo sobre la adecuación de la protección proporcionada por el Escudo de la privacidad UE-EE. UU. (Véase el anexo I, ref.
Nº 6).
50 Comunicación de la Comisión al Parlamento Europeo, al Consejo Europeo, al Consejo, al
Comité Económico y Social Europeo y Comité de las Regiones, `` Inteligencia artificial para Europa '', 25 de abril de 2018, COM (2018) 237 final (véase el
anexo I, ref. No 12).
51 Comunicación de la Comisión al Parlamento Europeo, al Consejo Europeo, al Consejo, al
Comité Económico y Social Europeo y Comité de las Regiones, 'Plan Coordinado sobre Inteligencia Artificial', 7 de diciembre de 2018, COM (2018) 795
final (ver. Anexo I, Ref. No. 13).
52 Comunicación de la Comisión al Parlamento Europeo, al Consejo Europeo, al Consejo, al
Comité Económico y Social Europeo y Comité de las Regiones, 'Towards a common European data space', 25 de abril de 2018, COM (2018) 232 final
(véase el anexo I, ref. No 14).
53 Plan de acción 2019-2023 European e-Justice, DO 2019 / C 96/05.
32 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Sin embargo, lo que se entiende en todos los campos donde se aplica la IA es que su uso debe ser ético.
En junio de 2018, con el objetivo de apoyar la implementación de la estrategia 'IA para Europa', la Comisión creó el Grupo de expertos de alto
nivel sobre IA (AI HLEG) 54 compuesto por representantes de la academia, las organizaciones de la sociedad civil y la industria. En el primer
año de su establecimiento, AI HLEG emitió el Pautas de ética para un documento de IA confiable 55
que analiza los principios éticos y sus valores correlacionados que deben respetarse en el desarrollo, implementación y uso de sistemas de
IA. Varias directrices se derivan de este marco. El documento destaca que se puede lograr una IA confiable teniendo en cuenta siete
requisitos clave que los sistemas de IA deben cumplir, en particular: (1) agencia humana y supervisión, (2) solidez técnica y seguridad, (3)
privacidad y gobernanza de datos, (4) transparencia, (5) diversidad, no discriminación y equidad, (6) bienestar ambiental y social -ser y (7)
responsabilidad. Estos requisitos para una IA fiable también se destacan en la Comunicación de la Comisión Generar confianza en la
inteligencia artificial centrada en el ser humano 56.
• humano;
• transparencia y explicabilidad;
El Consejo de Europa (CoE) y la UE comparten los mismos valores fundamentales: los derechos humanos, la democracia y el estado de
derecho, desempeñando así funciones complementarias en su preservación. Los Estados miembros del CoE se han comprometido a
garantizar los derechos y libertades consagrados en el CEDH . En este sentido, el CoE subraya que cualquier diseño, desarrollo y despliegue
continuo de sistemas algorítmicos se produce de conformidad con los derechos humanos y las libertades fundamentales.
En este contexto, en diciembre de 2018 la Comisión Europea para la Eficiencia de la Justicia del Consejo de Europa (CEPEJ) adoptó el Carta
ética europea sobre el uso de la inteligencia artificial en los sistemas judiciales y su entorno 58. La Carta Ética es un documento
fundamental para el uso de la IA en el campo de la justicia, ya que establece los principios éticos que debe respetar el uso de la IA en los
sistemas judiciales y refleja el enfoque que se debe adoptar al desplegar ciertos categorías de usos 59 de herramientas de IA. Según la
CEPEJ, los principios básicos a respetar en el tratamiento de decisiones judiciales y datos por algoritmos:
54 https://ec.europa.eu/digital-single-market/en/high-level-expert-group-artificial-intelligence
55 Grupo de expertos de alto nivel sobre IA (AI HLEG), 'Directrices éticas para una IA fiable', 8 de abril de 2019 (véase el anexo I,
Árbitro. No 9).
56 Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Consejo Económico y Social Europeo
Comité social y Comité de las regiones, 'Fomento de la confianza en la inteligencia artificial centrada en el ser humano', 8 de abril de 2019, COM (2019)
168 final (ver Anexo I, Ref. No. 11).
57 OCDE, Recomendación del Consejo sobre Inteligencia Artificial, OECD / LEGAL / 0449 (ver Anexo I, Ref. No. 10).
58 CEPEJ, 'Carta ética europea sobre el uso de la inteligencia artificial en los sistemas judiciales y su entorno',
adoptada en la 31a sesión plenaria de la CEPEJ (Estrasburgo, 3-4 de diciembre de 2018).
59 Motores de búsqueda avanzados de jurisprudencia; Resolución de disputas en línea (ODR); asistencia en la redacción de escrituras; análisis
(predictivo, escalas); categorización de contratos según diferentes criterios y detección de cláusulas contractuales divergentes o incompatibles; y chatbots
para informar a los litigantes o apoyarlos en sus procedimientos legales.
33 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
• Principio de respeto de los derechos fundamentales: garantizar que el diseño y la implementación de herramientas y servicios de
inteligencia artificial sean compatibles con los derechos fundamentales;
• Principio de calidad y seguridad: en lo que respecta al procesamiento de decisiones y datos judiciales, utilizando fuentes
certificadas y datos intangibles con modelos concebidos de manera multidisciplinar, en un entorno tecnológico seguro;
• Principio de transparencia, imparcialidad y equidad: hacer accesibles y comprensibles los métodos de procesamiento de datos,
autorizando auditorías externas;
• Principio 'bajo el control del usuario': excluir un enfoque prescriptivo y garantizar que los usuarios sean actores informados y
controlen sus elecciones.
Es importante resaltar que la Carta Ética fomenta ciertos usos como la mejora de la jurisprudencia, el acceso a la ley (a través de chatbots
usando lenguaje natural) y la creación de nuevas herramientas estratégicas (con la participación de profesionales del derecho para poseer
estas herramientas y analizar sus resultados). . Sin embargo, otros usos requieren un enfoque más cauteloso, como, por ejemplo, la
Resolución de disputas en línea (ODR), donde se debe informar al solicitante si su asunto se maneja de manera totalmente automatizada o si
involucra a un mediador para tomar una decisión informada. La Carta también sostiene que algunos usos podrían considerarse después de
más investigaciones científicas, como la elaboración de perfiles de jueces y la anticipación de decisiones judiciales. Finalmente, señala que
usos como la elaboración de perfiles individuales en materia penal y las normas cuantitativas deben considerarse con extrema reserva.
El 8 de abril de 2020, el Comité de Ministros del CoE adoptó Recomendaciones 60 sobre los impactos de los sistemas algorítmicos en los
derechos humanos. El CoE recomienda, entre otros:
• revisiones por parte de sus Estados miembros de sus marcos legislativos, políticas y prácticas con respecto a la contratación, el
diseño, el desarrollo y el despliegue continuo de sistemas algorítmicos;
• establecer mecanismos legislativos, regulatorios y de supervisión para asegurar el cumplimiento por parte del sector privado de las
leyes aplicables;
• asegurar el cumplimiento de las leyes y reglamentos aplicables, proporcionando a las autoridades competentes la autoridad y los
recursos suficientes para investigar, coordinar y supervisar el cumplimiento;
• centrándose en desarrollar experiencia e involucrar a las personas en la educación en alfabetización digital para permitir una mejor
comprensión de los sistemas algorítmicos
El CoE también incluye directrices para abordar los impactos de los sistemas algorítmicos en los derechos humanos. 61 permitir a los Estados
miembros cumplir sus obligaciones a este respecto.
• el transparencia, rendición de cuentas e inclusión en los procesos de redacción, promulgación y evaluación de políticas y
legislación o normativa aplicable al diseño, desarrollo y despliegue continuo de sistemas algorítmicos;
• lo continuo y regular evaluaciones de impacto en derechos humanos a lo largo de todo el ciclo de vida de un sistema
algorítmico;
• sensibilización asegurar el pleno ejercicio de los derechos humanos y las libertades democráticas del público en general y la
comprensión de la capacidad, el poder y los impactos consiguientes de los sistemas algorítmicos;
60 Comité de Ministros, Recomendación CM / Rec (2020) 1 del Comité de Ministros a los Estados miembros sobre
los impactos de los sistemas algorítmicos en los derechos humanos, Consejo de Europa, Bruselas, 8 de abril de 2020.
61 Apéndice de la Recomendación CM / Rec (2020) 1.
34 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Las Directrices van más allá al proporcionar orientación sobre obligaciones específicas relacionadas con la gestión de datos, el análisis y el
modelado, la transparencia, la rendición de cuentas y las reparaciones efectivas, las medidas de precaución, la investigación, la innovación y
la conciencia pública.
Además de las obligaciones de los Estados miembros, las Directrices también especifican las responsabilidades del sector privado con
respecto a los derechos humanos y las libertades fundamentales. Por ejemplo, en lo que respecta a la gestión de datos, los Estados
miembros deberían garantizar
rutas de control de datos e información que permitan a las personas estar informadas sobre el procesamiento de datos mediante sistemas
algorítmicos y controlar sus datos, incluso mediante la interoperabilidad. Deben tener cuidado evaluar los conjuntos de datos y los riesgos
inherentes de sesgo, y tomar medidas para prevenir o minimizar los efectos adversos. Por último, pero no menos importante, deben facilitar
el desarrollo de alternativas seguras y protegidas. Infraestructuras. El sector privado debe garantizar que reglas de consentimiento están
vigentes y que las personas afectadas por su sistema algorítmico pueden revocar su consentimiento con respecto al uso de sus datos.
A la luz de lo anterior, y además del marco horizontal que discute las implicaciones éticas y los principios basados en valores para una
tecnología responsable y confiable, los académicos y las organizaciones también debaten sobre varios aspectos legales y éticos. Estos
aspectos incluyen la provisión de salvaguardias para los derechos y libertades fundamentales, como el respeto a la vida privada, la protección
de datos personales, el juicio justo, la buena administración y la no discriminación. Se han elaborado algunos artículos importantes que
analizan el impacto de la IA en estos derechos y debaten si el marco legal existente está lo suficientemente adaptado y es apropiado para
abordar problemas potenciales, y si es lo suficientemente flexible para responder a la complejidad y el ritmo de desarrollo de la tecnología. .
En el contexto de este estudio, el contratista analizó una serie de estudios, trabajos y artículos 62 escrito en los últimos años, con el fin de
proporcionar una imagen completa de los puntos clave de discusión, preocupaciones y acciones futuras propuestas, que están siendo
adelantadas por las organizaciones y el mundo académico, sobre el uso y aplicación de la IA y la tecnología blockchain / DLT en la justicia.
campo.
• Usos potenciales de tecnologías innovadoras y cómo la IA y blockchain / DLT podrían mejorar el trabajo de los profesionales
La literatura revisada reflexiona sobre la posible 'mejora' del marco legal, ético y regulatorio para asegurar el diseño, desarrollo y despliegue
de tecnologías innovadoras explicables, confiables, justas y confiables. Cuando los autores extraen conclusiones sobre un camino a seguir
para abordar posibles preocupaciones, estas conclusiones se describen al final de cada categoría.
35 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
El derecho a la protección de los datos personales es un derecho fundamental del individuo 63. Con el despliegue de tecnologías innovadoras
que procesan datos personales, ya sea para entrenar sus algoritmos o de otra manera, surge la pregunta de qué tan adaptado está el GDPR
para brindar salvaguardas para los derechos de los interesados, cuyos datos son procesados por dichas tecnologías. El GDPR establece
reglas importantes sobre la toma de decisiones individual automatizada, incluida la elaboración de perfiles, 64 estipulando que ' El interesado
tendrá derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que
produzca efectos jurídicos en él o que le afecte significativamente de forma similar. sesenta y cinco '. Aunque el mismo artículo 22 prevé
excepciones a esta regla general en su segundo párrafo, también estipula que una decisión que cumpla los requisitos del artículo 22 (2) del
RGPD debe: no basarse en categorías especiales de datos personales a que se refiere el artículo 9, apartado 1, a menos que la letra a) 66 o (g) 67
se aplica el artículo 9, apartado 2, y existen medidas adecuadas para salvaguardar los derechos y libertades y los intereses legítimos del
interesado '.
Según el RGPD, 'la elaboración de perfiles 68 'siempre se refiere al procesamiento automatizado de datos personales y se realiza para analizar
o predecir el comportamiento, las preferencias personales, los intereses, la salud, la situación económica, la ubicación, los movimientos o el
desempeño en el trabajo de la persona física. El RGPD permite la elaboración de perfiles sujeta a condiciones, como se menciona en el
párrafo anterior, sin embargo, también garantiza una serie de derechos al interesado, en este sentido, como, entre otros, el derecho a la
rectificación de sus datos personales. 69, derecho al borrado (también llamado 'derecho al olvido (RTBF)') 70; el derecho a oponerse 71, etc.
Algunos argumentan que el GDPR no es 'flexible' y lo suficientemente adecuado para adaptarse y abordar todas las complejidades y desafíos
del desarrollo tecnológico. A modo de ejemplo, algunos autores opinan que existen lagunas cuando se trata de definiciones claras y
completas de qué técnicas y métodos de borrado de datos cumplirían con los requisitos legales. 72.
Otros autores opinan que el RGPD es un ejemplo moderno de un marco tecnológico neutral, 73 cuyo
significado y relevancia cambios con el progreso de
tecnología. En este sentido, las afirmaciones anteriores no tienen en cuenta el poder de la legislación tecnológicamente neutra y el poder de
las leyes generales para concretarse mediante la evolución de la práctica de aplicación y la jurisprudencia.
Uno de los principales puntos de discusión en la literatura es si los algoritmos discriminan a ciertos individuos o grupos de individuos, porque
su conjunto de datos está constituido sobre la base de categorías especiales de datos personales, como se define en el Artículo 9 del GDPR.
Lo más común en la literatura son los análisis de tales amenazas que se presentan en las áreas de la justicia penal y el campo relacionado de
la aplicación de la ley, con las llamadas herramientas de "justicia predictiva" y "vigilancia policial predictiva". Otros artículos discuten los
desafíos a los que se enfrentan las tecnologías innovadoras con respecto al GDPR. Por ejemplo, estos son desafíos
fines, excepto cuando la legislación de la Unión o de los Estados miembros disponga que el interesado no podrá levantar la prohibición mencionada en el
apartado 1.
67 El procesamiento es necesario por razones de interés público sustancial, sobre la base de la Unión o el Estado miembro
ley que será proporcionada al objetivo perseguido, respetará la esencia del derecho a la protección de datos y preverá medidas adecuadas y específicas
para salvaguardar los derechos fundamentales y los intereses del interesado.
Derecho al olvido ', Revista de seguridad y derecho informático, vol. 34, no. 2, págs. 304–313, abril de 2018 (véase: Anexo
Yo, Ref. No. 31).
73 Véase P. Nemitz, ' Democracia constitucional y tecnología en la era de la inteligencia artificial ', vol. 376, Real
36 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
sobre el uso de blockchain / DLT 74. En particular, (1) en una red blockchain, una transacción no solo se distribuye entre los involucrados en
ella sino, debido a la mecánica de una blockchain, a todos los nodos; (2) el período de tiempo en el que se procesan estos datos no está
definido, por lo que no se eliminarán después de un período de tiempo preestablecido; (3) tampoco se puede revocar el derecho de
rectificación ya que las transacciones no se pueden modificar una vez transmitidas. Aunque estos desafíos podrían superarse, por ejemplo,
mediante "hash" 75,
esto no cambiaría la naturaleza de los datos hash, que permanecerían privados, ya que "hash" se considera una técnica de pseudonimización
a la luz del RGPD. Independientemente de las cuestiones planteadas, se argumenta que para no sofocar la innovación en toda la Unión
Europea, es necesario un compromiso donde la seguridad jurídica de la protección de datos en la Unión se concilie con la deseada promoción
de la innovación, y por tanto también alternativa. medios eficaces de protección de datos 76. Esto podría lograrse mediante técnicas de
interpretación jurídica y las soluciones tecnológicas pueden facilitar al menos una reconciliación parcial de estos fundamentos
(aparentemente) contradictorios.
Los organismos reguladores nacionales han brindado recomendaciones para superar los desafíos planteados por el GDPR frente a AI y
blockchain / DLT. Según la Oficina del Comisionado de Información (ICO) del Reino Unido 77 El principal desafío de GDPR para la IA es la
'equidad' 78. El ICO describe cinco tendencias: el uso de algoritmos, la opacidad del procesamiento, la tendencia a recopilar "todos los datos",
la reutilización de datos y el uso de nuevos tipos de datos. El análisis del ICO cubre conceptos como: equidad; condiciones para el
procesamiento de datos personales (consentimiento e intereses legítimos); limitación de propósito; minimización de datos; exactitud; rendición
de cuentas y gobernanza. Por ejemplo, con respecto al principio de 'limitación de propósito' bajo el GDPR, en opinión de la ICO, evaluar la
compatibilidad de la 'reutilización' de datos debe basarse en la equidad del nuevo propósito. Algunos académicos 79 son de opinión diferente,
argumentando que esto genera incertidumbre, ya que el concepto de equidad es bastante vago, a pesar de ciertas garantías de los derechos
del interesado al respecto.
Según la ICO, además de utilizar las herramientas y técnicas de cumplimiento existentes en virtud del GDPR, como las evaluaciones de
impacto de la protección de datos (DPIA), la anonimización, los avisos de privacidad y la privacidad por diseño y certi fi caciones, algunos
enfoques éticos y transparencia algorítmica, que no están cubiertos por debe aplicarse el RGPD. Por ejemplo, al evaluar la equidad, las
organizaciones deben definir los beneficios de la analítica, utilizar el enfoque menos riesgoso y respetar los intereses de las partes
interesadas durante el procesamiento.
La CNIL francesa ( Commission nationale de l'informatique et des libertés) 80 presenta soluciones específicas a los actores que desean utilizar
la tecnología blockchain en el contexto del procesamiento de datos personales 81. CNIL proporciona las condiciones bajo las cuales los
participantes de la red blockchain pueden y deben ser considerados controladores de datos (o no). También presenta recomendaciones sobre
cómo minimizar el riesgo de cumplimiento cuando se basa en una cadena de bloques y en medidas clave para garantizar la seguridad y la
integridad de los datos en la cadena de bloques.
74 Véase D. Schmelz, G. Fischer, P. Niemeier, L. Zhu, T. Grechenig, ' Hacia el uso de blockchain público en la información
Centric Networks: desafíos impuestos por el Reglamento general de protección de datos de la Unión Europea ', Actas de 2018 1st IEEE International
Conference on Hot Information-Centric Networking (HotICN
2018): 15-17 de agosto, Instituto de Ingenieros Eléctricos y Electrónicos. Sección de Beijing, Beijing da xue. Escuela de Graduados de Shenzhen e
Instituto de Ingenieros Eléctricos y Electrónicos, Shenzhen, Guangdong, China, 2018 (Ver: Anexo I, Ref. No. 90); así como M. Planck, ' Michèle Finck:
Blockchains y protección de datos en la UE '(Ver: Anexo I, Ref. No. 85).
75 'Hashing' es la función que produce un resultado a partir de dos entradas, por lo general, la información disponible y una
clave criptográfica o similar. El resultado puede identificar la autenticidad de la información disponible. El hash se utiliza para probar la autenticidad de los
datos y ver si han sido manipulados.
76 M. Planck, ' Michèle Finck: Blockchains y protección de datos en la UE '. ( Ver Anexo I, Ref. No. 85).
77 https://ico.org.uk/
78 M. Butterworth, ' La ICO y la inteligencia artificial: el papel de la equidad en el marco del RGPD ', Derecho Informático
Revisión de seguridad, vol. 34, no. 2, págs. 257–268, abril de 2018. (Ver: Anexo I, Ref. No. 37).
79 Ibídem
80 https://www.cnil.fr/
81 Ver CNIL, 'Premiers éléments d'analyse de la CNIL BLOCKCHAIN', 2018. (Ver: Anexo I, Ref. No. 86).
37 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
• Presentar enmiendas al marco de protección de datos de la UE para que sea menos ambiguo en lo que respecta al aspecto
técnico de los sistemas de información (por ejemplo, con respecto a la eliminación de datos personales).
• Asegurar por parte de los reguladores que las consideraciones de soberanía de datos se incorporen en el software desde el
inicio.
La discusión principal en esta categoría se centra en los usos de la IA y blockchain / DLT, por ejemplo, para la justicia predictiva y el control
policial predictivo, que podrían tener un impacto en los derechos fundamentales, las libertades y los intereses legítimos del individuo. En
particular, los artículos revisados discuten la cuestión de la toma de decisiones automatizada y el sesgo basado en datos, que puede ocurrir
cuando se entrenan los algoritmos de un sistema inteligente o más adelante en el tiempo como resultado de la 'capacidad' de la herramienta
para aprender y mejorar. .
En septiembre de 2018, CEPEJ produjo un artículo llamado 'AI al servicio del poder judicial' 82
que se dedica específicamente a la "justicia predictiva". Explora la experiencia francesa con herramientas de justicia predictiva como las bases de datos de jurisprudencia Jurinet y Jurica,
administradas por la Corte Suprema de Francia, y con LegalTechs que ofrece servicios de inteligencia artificial en el campo de la justicia en Francia. El documento encuentra que las
herramientas de justicia predictiva propuestas hasta la fecha se limitan más o menos al análisis de los litigios por daños y perjuicios. Para los tipos restantes de casos de litigio, en la
jurisprudencia y en otros lugares, se prefiere un enfoque estadístico. Todavía no se ha producido la ruptura tecnológica que constituiría un análisis semántico automatizado de las decisiones
judiciales capaz de devolverle el sentido y la articulación lógica. Además, el artículo analiza los problemas relacionados con el desarrollo de la justicia predictiva en el centro del proceso de
toma de decisiones. Afirma que una herramienta eficiente de justicia predictiva debe permitir la objetivación de la jurisprudencia concreta, entendida como la tendencia que surge de las
decisiones emitidas en un campo y / o jurisdicción determinados. Los datos abiertos de las decisiones judiciales darán visibilidad a todas las decisiones dictadas por los tribunales que luego
serán procesadas y utilizadas por una pluralidad de actores públicos y privados con todas las capacidades que ofrece la minería de datos. El documento describe dos efectos principales
sobre la justicia después de este proceso. Primero: redistribución o reajuste de las funciones de la Corte Suprema y los tribunales inferiores en la creación de jurisprudencia 'vertical' y
'horizontal' respectivamente, y segundo Los datos abiertos de las decisiones judiciales darán visibilidad a todas las decisiones dictadas por los tribunales que luego serán procesadas y
utilizadas por una pluralidad de actores públicos y privados con todas las capacidades que ofrece la minería de datos. El documento describe dos efectos principales sobre la justicia
después de este proceso. Primero: redistribución o reajuste de las funciones de la Corte Suprema y los tribunales inferiores en la creación de jurisprudencia 'vertical' y 'horizontal'
respectivamente, y segundo Los datos abiertos de las decisiones judiciales darán visibilidad a todas las decisiones dictadas por los tribunales que luego serán procesadas y utilizadas por
una pluralidad de actores públicos y privados con todas las capacidades que ofrece la minería de datos. El documento describe dos efectos principales sobre la justicia después de este
proceso. Primero: redistribución o reajuste de las funciones de la Corte Suprema y los tribunales inferiores en la creación de jurisprudencia 'vertical' y 'horizontal' respectivamente, y segundo
- Tendencia del juez a armonizar su jurisprudencia con la jurisprudencia de sus pares basada en la herramienta de justicia predictiva. Por otro
lado, según el trabajo, ciertos riesgos también son inherentes al uso de herramientas predictivas, siendo el más comúnmente identificado el
riesgo de “performatividad”. En otras palabras, el juez tomaría una decisión no ejerciendo su propia evaluación de la disputa, sino porque la
herramienta le devuelve lo que sus pares harían principalmente en tal situación. Así, las decisiones atípicas que normalmente tienen un lugar
reservado en la jurisprudencia pueden dejar de tenerlo. Otros riesgos incluyen el exceso de previsibilidad de las decisiones y la subversión de
la calidad por la cantidad. En el primer caso, si bien es imperativo cierto grado de previsibilidad, en ocasiones el objetivo de la ley es disuadir,
especialmente en campos regidos por un orden público fuerte, como el derecho penal o el derecho tributario. En el segundo caso, el riesgo de
subversión de la calidad por la cantidad puede ocurrir si la jurisprudencia "horizontal", que no se basa en la repetición de decisiones que
reemplazan a la jurisprudencia "vertical", es el resultado de un análisis detallado de la reglas en su lugar. Para hacer frente a estos riesgos
tecnológicos, es fundamental preservar las salvaguardias que residen en los principios fundamentales que deben regir cualquier proceso
jurídico. En particular, debe mantenerse el equilibrio entre la lógica de armonización y la lógica de individualización. Además, la justicia
predictiva, que sí se origina en el análisis del estado de derecho pero en la recurrencia de su aplicación, debe compararse con los demás
datos de la controversia y someterse a un análisis contradictorio inherente al proceso judicial. Por último, pero no menos importante, una
decisión atípica debe argumentarse combinando un
82 CEPEJ, «L'intelligence artificielle au service du pouvoir judiciaire», 26 de septiembre de 2018, Mesa Redonda (Ver:
Anexo I, Ref. No. 8).
38 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
motivación legal tradicional y una explicación de la desviación del promedio de las decisiones tomadas en un contexto similar
Uno de los usos más discutidos de las herramientas inteligentes es la automatización de algunas tareas realizadas por los jueces. Uno de los
principales argumentos en contra de estos casos de uso es que no se debe dejar que una máquina "decida de forma autónoma", excluyendo
así el factor humano. Un papel llamado
Justicia algorítmica: algoritmos y big data en entornos de justicia penal 83 analiza el uso de big data e inteligencia artificial en el sistema
de justicia con el fin de combatir la delincuencia, mejorar las predicciones en diversos procesos en los procesos judiciales como el cálculo del
monto de la fianza, riesgos de reincidencia y otros. Se proporcionan varios ejemplos en los que los resultados de una evaluación realizada por
un sistema inteligente están sesgados y no son objetivos. El artículo plantea la opinión de que los algoritmos y su mejora no son la solución
para un mejor sistema judicial, ya que la sociedad misma está sesgada. La importancia de educar judicialmente
También se subrayan las autoridades en la comprensión de la mejor manera de utilizar los algoritmos inteligentes.
Sin embargo, otro estudio examina algunos factores externos que podrían 'influir' en la discreción humana al emitir juicios, desafiando así la
opinión de que los jueces solo aplican razones legales a un caso de manera racional. Un papel llamado 'Factores ajenos a las decisiones
judiciales' 84 sostiene que los fallos repetidos agotan la función ejecutiva y mental de las personas, lo que puede tener un impacto en las
decisiones de los jueces. El artículo continúa con un análisis de la rutina diaria de los jueces: número de sentencias (14-35 casos por día),
descansos tomados durante el día, etc. El estudio muestra que el 64,2% de la muestra de solicitudes de libertad condicional fueron
rechazadas y que la probabilidad de un fallo favorable para casos de similares características legales aumenta cuando la decisión se toma al
inicio de la sesión posterior a la pausa. Además, insinúa que el agotamiento psíquico de los jueces está vinculado más al acto de tomar
decisiones que a la duración de las deliberaciones, pues el estudio también demuestra que un fallo favorable demora más que un rechazo de
la libertad condicional en este caso. Por lo tanto, los casos que se resuelven más tarde en cada sesión tienden a ser desfavorables.
En los últimos años, una serie de herramientas para evaluar el riesgo de reincidencia en casos penales 85 han sido utilizados por funcionarios
judiciales en los Estados Unidos para decidir sobre la duración de la sentencia o la libertad condicional, lo que plantea la cuestión de si los
procedimientos penales podrían automatizarse total o parcialmente en los Estados Unidos basándose únicamente en la máquina o en la
evaluación basada en datos. 86.
Aunque los expertos utilizan estas herramientas a petición de un juez, reconocen sus deficiencias y, por lo tanto, prestan su experiencia con la
salvedad de que el comportamiento humano no puede predecirse científicamente. Las inquietudes surgen en términos de los instrumentos
predictivos que no evalúan la información sobre el individuo, sino que se basan en las características del grupo, lo que contradice el principio
de justicia individualizada. Además, es posible que no puedan diferenciar entre la gravedad de los delitos que podrían cometerse, por ejemplo,
no distinguen entre lesiones corporales graves y agresiones que ocasionan daños corporales reales. Otro impedimento para el ejercicio del
derecho a un juicio justo es que las evaluaciones algorítmicas están protegidas por la propiedad intelectual y, por lo tanto, siguen siendo en
gran medida indiscutibles. 87.
83 Aleš Završnik, 'Justicia algorítmica: algoritmos y big data en entornos de justicia penal'. Noviembre de 2019 CER.EU European Journal of Criminology 1–20.
predicción de la reincidencia sexual, RSVP del Protocolo de Riesgo de Violencia Sexual y Perfiles de Gestión de Delincuentes Correccionales para Sanciones
Alternativas (COMPAS).
86 Véase Carolyn McKay, 'Predecir el riesgo en el proceso penal: herramientas actuariales, algoritmos, IA y decisión judicial-
haciendo', Facultad de Derecho de la Universidad de Sydney, noviembre de 2019 (Ver: Anexo I, Ref. No. 55)
87 El artículo ilustra el sesgo y los desafíos de protección de propiedad con el caso estadounidense del estado de Wisconsin.
v Loomis 881 NW2d 749 (Wis. 2016), donde se utilizó el perfil de gestión de delincuentes correccionales para sanciones alternativas (COMPAS) en el
procedimiento de sentencia.
39 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
En un análisis se propone una solución para mejorar la protección de los derechos del acusado 88 de la interacción entre la IA y el derecho
penal desde la perspectiva del uso de la IA para la aplicación de la ley, específicamente para la recopilación de pruebas en los procesos
penales. 89
analiza la cuestión de si el uso de aplicaciones de IA afecta el principio de legalidad en el derecho penal y cómo interfiere con los derechos
humanos y las libertades fundamentales, como el derecho a respetar la vida privada y la familia 90 y el derecho a un juicio justo 91. La tesis
presentada en el documento es que los sistemas de inteligencia artificial, que se utilizarán cada vez más para generar pruebas en los
procesos penales, pueden implicar preocupaciones relacionadas con la transparencia, la elaboración de perfiles de grupo, la pérdida de
confidencialidad y más. A este respecto, los autores sugieren que la garantía establecida en el artículo 8 del CEDH y en el artículo 6 del
CEDH debería trasladarse únicamente al artículo 6. Por ejemplo, se argumenta que proteger el 'hogar' de las intrusiones de la investigación a
través de reglas y limitaciones que protegen el derecho a la privacidad (artículo 8) ya no es suficiente en el contexto de la identidad digital
duplicada que las personas crean a través de las tecnologías en sus hogares. Estas reglas ya no son efectivas frente al uso de técnicas de IA
para la recopilación de evidencia (por ejemplo, aprendizaje automático), dado que dicho uso no constituye necesariamente una infracción del
artículo 8, apartado 1, del CEDH, especialmente si se considera un método diferente de escuchas telefónicas que es compatible con el
requisito de "disposición por ley". Sin embargo, el uso de un sistema de IA 'no validado' 92 en algunas situaciones puede constituir una violación
del artículo 8 del CEDH. En cualquier caso, el argumento es que probar una violación del artículo 8 ya no debe constituir una condición
necesaria para evaluar la imparcialidad de un juicio. El artículo 6 (1) del CEDH garantiza el derecho a un juicio justo. Sin embargo, la
confiabilidad de los datos recopilados y procesados de manera automatizada no se puede cuestionar de una manera 'tradicional', ya que el
algoritmo está oculto y el individuo no puede construir su defensa sin tener acceso a él. El uso de tecnologías de IA de vanguardia, implica
potencialmente una infracción del artículo 6 (1) del CEDH ya que no existe un 'equilibrio justo' entre las partes, cuando el uso de sistemas de
IA basados en redes neuronales y procesos algorítmicos impide que una de las partes tenga cualquier recurso a soluciones de
transparencia. Por tanto, el documento propone que Una persona contra la que se recopilen y procesen pruebas mediante el uso de
técnicas de inteligencia artificial, puede reclamar una violación del derecho a un juicio justo en virtud del artículo 6 (1) EHCR,
independientemente de la eventual ilegalidad de la injerencia en la vida privada en virtud del artículo 8.
Algunos estudios plantean, entre otros, la cuestión relacionada con la calidad de los datos de formación y su importancia en el resultado de la
evaluación. En otras palabras, el argumento presentado es que cuanto menor es la calidad de los datos, mayor es la probabilidad de
resultados sesgados.
Un estudio sobre tecnología de reconocimiento facial (FRT) de la Agencia de los Derechos Fundamentales de la Unión Europea (FRA) 93 examina
los factores que pueden influir en la calidad de las imágenes faciales que se utilizan como datos de entrenamiento para el FRT con fines de
identificación. Estos factores pueden ser el fondo y la oclusión del objeto, la iluminación y el reflejo de la luz, la ergonomía, la edad, el
envejecimiento, el sexo, el color de la piel y las condiciones de la piel. El documento destaca la importancia de: saber qué conjuntos de datos
se utilizaron para construir el FTR; tener datos de entrenamiento de alta calidad; y comprobar la calidad de los datos de referencia en las listas
de vigilancia para garantizar el respeto de los derechos fundamentales y evitar la discriminación. Aparte de los aspectos técnicos, un factor
importante para el despliegue de FRT en una jurisdicción específica es la existencia de una base legal para dicho despliegue, que
actualmente no es el caso en todos los Estados miembros. 94.
De manera similar, hay otros dos estudios de la FRA. El primero 95 enfatiza que el análisis de datos que se basa en big data no significa
necesariamente datos de alta calidad y resultados imparciales. La calidad depende del medio o la fuente de donde se recopilan los datos. por
88 U. Pagallo y S, Quattrocolo, 'Manual de investigación sobre el derecho de la inteligencia artificial ', Woodrow Barfield y
Ugo Pagallo. Edwar Elgar Publishing Limited 2018. (Ver: Anexo I, Ref. No. 52).
89 Ibídem
90 Arte. 8, ECHR.
91 Arte. 6, ECHR.
92 Este es un sistema cuyos resultados no son validados por un humano.
93 F.- Agencia de los Derechos Fundamentales de la Unión Europea (FRA), 'Tecnología de reconocimiento facial: derechos fundamentales
consideraciones en el contexto de la aplicación de la ley '', 2019 (Ver: Anexo I, Ref. No. 44).
94 Según el estudio, actualmente no existe ninguna base legal en Francia y Alemania.
95 F. - Agencia de los Derechos Fundamentales de la Unión Europea ». Calidad de datos e inteligencia artificial-mitigación de sesgos y
error para proteger los derechos fundamentales '. (Ver: Anexo I, Ref. No. 45).
40 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Por ejemplo, los datos recopilados de Internet o las redes sociales no deben ser representativos, ya que no todos acceden a estas fuentes
(por ejemplo, hogares con bajos ingresos o población anciana), por lo que es probable que conduzcan a resultados que no tengan en cuenta
todos los grupos individuales. , y por lo tanto están sesgados. Como tal, los datos de baja calidad podrían afectar el derecho fundamental de
acceso a un juicio justo. Además, la noción de calidad de los datos plantea una serie de cuestiones relacionadas con la integridad, la
coherencia, la precisión, la validez, la fiabilidad, la duplicación y la procedencia de los datos. Por ejemplo, el estudio de FRA señala que la
gran cantidad de datos no garantiza necesariamente un alto nivel de precisión. Por el contrario, para obtener precisión estadística, la cantidad
de datos siempre debe analizarse junto con la calidad de los datos. A este respecto, el documento explica los conceptos de "error de
medición" y "error de representación". El error de medición demuestra el nivel de precisión con el que los datos utilizados indican o reflejan lo
que se pretende medir. El error de representación muestra qué tan bien está representada la población en los datos; es decir, si los datos no
cubren bien a la población, es probable que las estadísticas resultantes sean incorrectas y estén sesgadas. En ausencia de estándares
acordados para las evaluaciones de la calidad de los datos para las aplicaciones de aprendizaje automático en este momento, FRA propone
una serie de preguntas orientadoras, cuyas respuestas pueden ayudar a identificar si existen problemas potenciales de derechos
fundamentales con el uso de un algoritmo debido a la calidad de los datos. . Para ello, se debe determinar la procedencia de los datos, la
persona responsable de la recopilación, el mantenimiento y la difusión de los datos,
El segundo estudio 96 plantea problemas con el uso de datos y algoritmos para facilitar las decisiones, y enfatiza cómo los datos de baja
calidad, mal seleccionados e incompletos pueden conducir a decisiones cuestionables y discriminación. En este contexto, el documento
explora un estudio sobre algoritmos, que investigó cómo una herramienta de evaluación de riesgos - Perfiles de gestión de delincuentes
correccionales para sanciones alternativas - COMPAS tenía un sesgo racial. La herramienta se utilizó en el sistema de justicia penal de los
Estados Unidos, en Florida, Nueva York y otras jurisdicciones. Según la experiencia, sus algoritmos se consideraron con prejuicios raciales. 97. Finalmente,
el artículo debate cómo la corrección del algoritmo evitaría la discriminación en el conjunto de datos. Aunque menciona que en algunos
Estados miembros de la UE, por ejemplo, la recopilación de datos sobre etnia está prohibida, "los posibles sesgos o discriminaciones no
pueden resolverse fácilmente excluyendo simplemente la información sobre grupos protegidos". 98
Se hace una observación importante en la literatura de que para algunas herramientas de evaluación del riesgo de reincidencia violenta no
existe suficiente literatura sobre sus resultados discriminatorios. 99. Un
La excepción es COMPAS, que se usa ampliamente en los Estados Unidos, como se menciona en el párrafo anterior. 100.
Reunión de expertos del Programa de Policía y Derechos Humanos (PHRP) sobre vigilancia predictiva 101 sostiene que se debe prestar
especial atención a la calidad de los datos del conjunto de formación. Debe formar un grupo con la misma distribución que el mundo en el que
se aplica el modelo. Confiar en el enfoque y las prioridades anteriores de la policía a menudo resulta en un sesgo estructural. Encontrar la
razón de este sesgo también podría ayudar al analizar las causas del delito y abordarlas en lugar de elegir un enfoque de aplicación de la ley.
El modelo algorítmico es la forma en que funciona el sistema. Se basa en correlaciones estadísticas, algunas de las cuales carecen de un
vínculo crucial y conducen a predicciones irrelevantes de delitos. Algunas características pueden mostrar una correlación estadística con el
crimen, pero éticamente no son apropiadas para su inclusión en el
96 F.- Agencia europea de derechos fundamentales, » Big Data: discriminación en la toma de decisiones basada en datos ' Mayo
98 P.08
99 Por ejemplo, la 'Evaluación estructurada del riesgo de violencia en los jóvenes - SAVRY'.
100 Véase S. Tolan, M. Miron, E. Gómez y C. Castillo, ' Por qué el aprendizaje automático puede generar injusticias, '2019, págs.
(PHRP), Amnistía Internacional, 20 de mayo de 2019 (Ver: Anexo I, Ref. No. 42).
41 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
algoritmo. Los sistemas de autoaprendizaje tienen sus problemas adicionales: (1) el sistema no siempre refleja el mundo real, sino cómo el
sistema ve el mundo. (2) Un circuito de retroalimentación. Un área donde la policía patrulla con más frecuencia también exhibe una mayor
probabilidad de que se identifique el delito. Desafíos de la vigilancia policial predictiva orientada al lugar: (1) el riesgo de que el crimen en
realidad solo sea desplazado, pero no reducido. (2) No está probado que los sistemas de predicción del delito disminuyan los delitos reales
cometidos en un área. (3) Es difícil probar hasta qué punto las predicciones son precisas. (4) Es difícil definir qué se considera un éxito de la
vigilancia policial predictiva. Existe la preocupación de que incluso si la evaluación de riesgo calculada va acompañada de una explicación de
cómo llegó al resultado, es probable que una puntuación de alto riesgo afecte la toma de decisiones, por ejemplo, por parte de los jueces.
Recomendaciones formuladas:
La literatura revisada proporciona algunas ideas y recomendaciones sobre un camino a seguir para abordar las preocupaciones relacionadas
con los algoritmos sesgados y los desafíos con el fin de garantizar la protección de los derechos fundamentales mediante tecnologías
innovadoras. En resumen, estos serían:
• Crear organismos reguladores para supervisar y auditar algoritmos y así garantizar la transparencia, la rendición de cuentas y la
justicia procesal. 102.
• Revisar la cuestión de la protección patentada de los algoritmos para encontrar el equilibrio adecuado con el principio de justicia
procesal abierta y permitir que los acusados, los tribunales y la sociedad prueben, impugnen y examinen la validez y fiabilidad de
las fórmulas predictivas. 103.
• Introducir y aplicar mecanismos para la evaluación de la calidad de los datos al entrenar el conjunto de datos. 104.
• Realizar evaluaciones de impacto de los derechos fundamentales mediante consultas con la industria. 105.
• Establecer un marco legal y regulatorio claro y suficientemente detallado con vistas al uso de aplicaciones FRT en la vida real 106.
• Vigilancia cercana de los desarrollos del reconocimiento facial por parte de órganos de supervisión independientes 107.
• Colocación de los requisitos de protección de datos y no discriminación por parte de las autoridades públicas en el centro de
todas las especificaciones técnicas al adquirir FRT o encargar investigación innovadora 108.
102 Véase Carolyn McKay, 'Predecir el riesgo en el proceso penal: herramientas actuariales, algoritmos, IA y decisión judicial-
haciendo', The University of Sydney Law School, noviembre de 2019 (Ver: Anexo I, Ref. No. 55). El documento también menciona un ejemplo en
Inglaterra y Gales, donde se recomendó un Registro Nacional de Sistemas Algorítmicos (Law Society 2019). Señala que varios académicos argumentan
que cuando las organizaciones comerciales privadas están involucradas en funciones públicas esenciales, sus productos deben estar sujetos a requisitos
públicos, de divulgación democrática y libertad de información (Carlson 2017; Keats Citron y Pasquale 2014).
103 Ibídem.
104 F. - Agencia de los Derechos Fundamentales de la Unión Europea ». Calidad de datos e inteligencia artificial-mitigación de sesgos y
error para proteger los derechos fundamentales '. (Ver: Anexo I, Ref. No. 45).
105 Ibídem.
106 F.- Agencia de los Derechos Fundamentales de la Unión Europea (FRA), 'Tecnología de reconocimiento facial: derechos fundamentales
consideraciones en el contexto de la aplicación de la ley '', 2019. (Ver: Anexo I, Ref. No. 44).
107 Ibídem.
108 Ibídem.
42 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
• Usos potenciales de tecnologías innovadoras y cómo la IA y blockchain / DLT podrían mejorar el trabajo de los
profesionales
Varios de los artículos revisados se centran en una descripción de casos específicos que utilizan IA o blockchain / DLT, con el fin de analizar
el estado de la situación y proporcionar sugerencias para acciones futuras.
Un artículo publicado por el Ministerio del Interior de Francia profundiza en las mejoras prometedoras en las nuevas tecnologías para la
'vigilancia policial predictiva' 109 en los campos de la investigación de delitos y la garantía de la seguridad pública en Francia. Con base en el
análisis, concluye que la toma de decisiones humanas debe mejorarse como resultado de la IA y debe usarse para prepararse contra los
delincuentes que también se aprovechan de la IA para extender y mejorar sus actividades delictivas. Las aplicaciones concretas en el campo
del análisis de delitos son reconocer a un delincuente conocido en un área específica y enviar un correo electrónico en un teléfono inteligente
personal; identificar áreas geográficas y de puntos críticos de delincuencia; para hacer un perfil de un delincuente basado en big data, etc. En
teoría, la IA se puede utilizar en tres casos diferentes: para modelar actos delictivos; modelar el comportamiento y la forma criminal de
razonar; y modelar el comportamiento y la forma de razonar del investigador. “La ventaja de una solución de IA es entrenar el modelo
utilizando la teoría criminológica y a partir de informes de casos reales. Este tipo de aplicaciones podrían realizarse para construir un modelo
de clase para criminales y víctimas específicos ".
Algunos otros casos de uso potenciales se encuentran en el campo de la resolución de disputas en línea (ODR) basada en tecnología de inteligencia
artificial. Algunos autores concluyen que la tecnología de IA para ODR no está actualmente
explotado en todo su potencial y su uso se mantiene en un nivel rudimentario 110. Sin embargo, con un enfoque híbrido en el uso de una
combinación de razonamiento basado en reglas, razonamiento basado en casos,
Se puede mejorar el aprendizaje automático y otros usos de la tecnología de inteligencia artificial para ODR.
Algunos autores incluso van más allá para alentar el uso de sistemas ODR para el beneficio inmediato de los litigantes auto-representados
(SRL). Estos sistemas brindan consejos útiles y de fácil acceso y ayudan a las personas a encontrar una solución a su disputa. Además,
ayudan a educar a las SRL y a facilitar la comunicación con las partes en disputa. 111. Sin embargo, en esta categoría, nuevamente prevalece
la opinión, que ODR no debe estar completamente automatizado
Varios artículos discuten casos de uso de blockchain / DLT en el derecho penal, como la creación de evidencia digital forense ponderada 112,
almacenamiento de antecedentes penales 113 y
solicitar y recibir certificado de antecedentes penales 114. Un análisis de
La implementación de la tecnología blockchain en el sistema de información de antecedentes penales argentino destaca los beneficios de
blockchain, en particular:
- Descentralización - aplicado al sistema de información de antecedentes penales, esto puede potencialmente poner una réplica de
la información disponible para todos los participantes de la red.
109 Patrick Perrot, Gendarmerie Nationale, Ministerio del Interior, París, Francia ' ¿Qué pasa con la IA en la inteligencia criminal?
De la vigilancia policial predictiva a las perspectivas de la IA ', Boletín Europeo de Investigación y Ciencia de la Policía, vol. 16, verano
2017. (Ver: Anexo I, Ref. No. 54).
110 Véase D. Carneiro, P. Novais y J. Neves, 'Inteligencia artificial en la resolución de disputas en línea' 2014, págs. 61–96. (Ver: Anexo I, Ref. No. 36), y
Zeleznikow, John. ' ¿Pueden la inteligencia artificial y la resolución de disputas en línea mejorar la eficiencia y la eficacia en los tribunales? 'Revista
Internacional de Administración de Tribunales 8 (2). 2017, Asociación Internacional para la Administración de Tribunales: 30–45. doi: 10.18352 / ijca.223
(Ver: Anexo I, Ref. No.
56).
111 Zeleznikow, John. '¿Pueden la inteligencia artificial y la resolución de disputas en línea mejorar la eficiencia y la eficacia?
en los Tribunales. 'Revista Internacional de Administración de Tribunales 8 (2). 2017, Asociación Internacional para la Administración de Tribunales:
30–45. doi: 10.18352 / ijca.223. (Ver: Anexo I, Ref. No. 56).
112 D. Billard, 'Evidencia forense ponderada utilizando blockchain' en ACM International Conference Proceeding Series,
114 Alejandro Tomás Dini et al., ' Análisis de implementación de tecnología blockchain al criminal argentino
sistema de información de registros ', 2018 Congreso Argentino de Ciencias de la Informática y Desarrollos de Investigación (CACIDI), 2018. (Ver: Anexo
I, Ref. No. 97).
43 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
- Consenso - todos los participantes de este sistema de acuerdo automáticamente que la información almacenada en el sistema
es correcta ya que están participando en la validación del mismo con la simple acción de adjuntar un nodo a la red.
- Agilidad de la nueva información y casi tiempo inmediato de respuesta, lo que podría ayudar a las fuerzas de justicia a mejorar
los tiempos de investigación y las tasas de resolución de delitos.
- Análisis de los datos - la disponibilidad de la información podría potencialmente ser utilizada para la generación de información
estadística para ayudar a mejorar el sistema jurídico, las acciones de justicia y los procesos internos.
- Automatización de procesos mediante contratos inteligentes lo que potencialmente podría ahorrar una gran cantidad de
recursos al traducir en código ejecutable las reglas, los activadores y los participantes necesarios para cada proceso.
- Acceso selectivo - El uso de blockchain autorizado podría potencialmente permitir la colaboración internacional con otros países
al limitar el acceso a los nodos del blockchain y al mismo tiempo agilizar las solicitudes de información.
La discusión principal en esta categoría se centra en la cuestión de si las tecnologías innovadoras deben ser o no legalmente responsables de
sus acciones y, de ser así, en qué circunstancias.
Con respecto a la IA, en 2016 el Parlamento Europeo encargó un estudio denominado 'Normas de Derecho Civil Europeo sobre Robótica' 115 evaluar
y analizar, desde un punto de vista legal y ético
perspectiva, una serie de posibles futuras normas de derecho civil europeo (resolución) en robótica. Desde una perspectiva legal, se analiza la
cuestión de la responsabilidad civil de los robots y se plantean varias consideraciones clave. En primer lugar, la responsabilidad civil solo
puede ser inherente a un robot si se le asigna una "personalidad jurídica". Sin embargo, ' La creación de un nuevo tipo de persona, una
persona electrónica, envía una fuerte señal que no solo podría reavivar el miedo a los seres artificiales, sino también poner en tela de juicio
los fundamentos humanistas de Europa. Asignar el estado de persona a un
entidad viviente, no consciente sería [por lo tanto] un error '. En cambio, el estudio propone alinear la noción de responsabilidad por daños
causados por robots autónomos con la ley de responsabilidad civil. Por lo tanto, explica quién debe ser considerado responsable según las
normas de derecho civil en diferentes situaciones de los daños causados por un robot. En particular:
• si el robot se vende con software de código abierto, el responsable debería ser, en principio, quien haya programado la
aplicación que provocó que el robot provocara daños;
• si el daño que se remonta al diseño o producción del robot - como un error en el algoritmo de un robot que cause un
comportamiento perjudicial - el diseñador o productor debe ser considerado responsable. Sin embargo, el estudio aclara que el tipo
de responsabilidad puede variar en función de si la víctima compró el robot (responsabilidad contractual) o es un tercero
(responsabilidad extracontractual). Por lo tanto, destaca que tal distinción entre responsabilidad contractual y extracontractual es
importante en un marco legal futuro.
• si el robot es todavia en uso ( p. ej. en producción) o está aprendiendo por ejemplo, en la etapa piloto) al causar el daño, su
usuario o propietario debe ser considerado responsable. En este sentido, la solución puede variar en función de si el usuario es o
no un profesional, y si es o no la víctima. Por ejemplo, cualquier daño relacionado con la
115 N. Nevejans, Dirección General de Políticas Internas, Departamento de Políticas C: Derechos de los ciudadanos y asuntos constitucionales, ' Normas de derecho civil
La instrucción de un usuario profesional e infligida a una tercera víctima podría regirse por el nuevo instrumento. Sería una historia
completamente diferente si se causara el mismo daño a una víctima que fuera un usuario profesional asalariado, ya que entonces
esto se consideraría un accidente de trabajo.
Una resolución con las Reglas de Derecho Civil Europeo sobre Robótica se analiza con más detalle en el documento ¿Una ley de robótica e
inteligencia artificial en la UE? 116. Se observa que existe una definición específica o una categorización de 'robots autónomos inteligentes'. En
cambio, se limita a proponer una amplia lista de criterios, pidiendo a la Comisión que presente una definición y subcategorización más
específica del término "robot". Como camino a seguir, el autor identifica los niveles de riesgo de uso inadecuado o desarrollo de agentes
artificiales autónomos. Este es un punto crucial y requiere instrumentos de gobernanza en lugar de pautas suaves o códigos de conducta.
Dado el volumen de datos, interacciones y tecnologías que se utilizan, la UE también debe implementar medios para ejercer el "derecho a la
explicación" de la decisión tomada por los sistemas automatizados.
Paralelamente al tema de la responsabilidad civil de los agentes artificiales, también se cuestiona la responsabilidad penal. Más
específicamente, la discusión gira en torno a la cuestión de si los agentes artificiales deben ser considerados responsables penalmente y, en
caso afirmativo, por qué acciones, intencionales, negligentes o ambas. La literatura revisada presenta el argumento principal de que para que
se establezca la responsabilidad penal de los agentes artificiales, todos los elementos legales del delito deben estar presentes desde una
perspectiva fáctica (física) (es decir, concurrencia, causa, daño, circunstancias concurrentes) y desde perspectiva mental (es decir, intención).
En una presentación en la Conferencia sobre IA y el sistema de justicia penal, organizada por la Academia Europea de Derecho (ERA) en
Roma, los días 24 y 25 de octubre de 2019, la Prof. Dra. Sabine Gless, de la Facultad de Derecho de la Universidad de Basilea, Suiza,
presentó la responsabilidad penal de los vehículos autónomos como tema de debate también desarrollado en un documento 117. En particular,
la pregunta es quién será responsable en los casos en que un vehículo de conducción autónoma provoque un accidente, es decir, si la
responsabilidad penal puede ser inherente a la IA o es el fabricante o incluso el propietario del automóvil quien debe ser considerado
responsable. La conclusión fue que actualmente el derecho penal carece de una base conceptual para castigar a los 'robots' que causan
daño; En teoría, los fabricantes de automóviles autónomos se enfrentan al riesgo de ser procesados por negligencia de manera similar a la
ley de responsabilidad por productos defectuosos. El documento del profesor Gless aboga por limitar la responsabilidad penal de los
operadores a situaciones en las que descuidan tomar medidas razonables para controlar los riesgos que emanan de los robots. Sin embargo,
se plantea una pregunta filosófica:
El modelo de responsabilidad penal se analiza en el libro 'Responsabilidad por delitos que involucren
Sistemas de inteligencia ' 118. El análisis se centra en la capacidad de la tecnología de inteligencia artificial para cumplir con todos los
requisitos de una responsabilidad penal, como los elementos fácticos relacionados con el delito y el delincuente y el elemento mental
vinculado a la culpabilidad, para ser considerado responsable del delito. Por ejemplo, con respecto a la noción de intención, el autor
argumenta que la razonabilidad podría aplicarse fácilmente a la IA, ya que es una cuestión de cálculo que tanto los humanos como la IA
podrían hacer. Lo mismo ocurre con la noción de negligencia, donde el libro establece un entendimiento común de lo que constituye una
negligencia punible bajo el derecho penal y lo que la sociedad considera una forma de autodidacta. El autor sostiene que en este caso, AI
podría ser penalmente responsable si existen los elementos mentales y el elemento fáctico. Esto se aplica tanto a la responsabilidad indirecta
como a la estricta. en persona faltas negativas como la infancia, pérdida de autocontrol, locura, intoxicación, error de hecho, error legal,
inmunidad sustantiva, así como de la en rem faltas negativas como defensa propia, necesidad, coacción, órdenes superiores, de minimis defensa,
ser sancionado con prisión y rehabilitado.
116 Ponce, Aida, ¿Una ley de robótica e inteligencia artificial en la UE? ( 3 de octubre de 2017). Documento de investigación ETUI
45 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
El autor sostiene que es plausiblemente posible que la tecnología de IA cumpla con estos requisitos, como se describe en las definiciones
actuales de responsabilidad penal. Considera que estas definiciones se han vuelto obsoletas cuando se trata de la nueva realidad de la
tecnología. El autor concluye que el derecho penal debe adaptarse a esta nueva realidad redefiniendo los requisitos de responsabilidad penal,
lo que podría hacerse mediante nuevas interpretaciones de las definiciones vigentes en la jurisprudencia o, en su caso, mediante
modificaciones legislativas.
Otros autores se involucran en el debate de la responsabilidad penal 119 al reconocer la teoría de Gabriel Hallevy anterior de que la tecnología
de IA 'tiene la capacidad de cumplir con los requisitos de concienciación del derecho penal' 120, junto con el 'requisitos de elementos mentales
tanto de los delitos de intención como de los delitos de imprudencia' 121 y acordar que tiene sentido contemplar un castigo para los sistemas de
IA similar al previsto para las corporaciones en una serie de sistemas legales, como restricciones de libertad y multas, ya que según algunos
estudiosos, los robots y otros agentes artificiales podrían registrarse, otorgarse con capital y tener una posición financiera transparente. Para
determinar si el comportamiento dañino de la IA debe ser relevante en el derecho penal, además de explorar los mens rea elemento mental) la
conducta material del sistema ( derecho penal) también debe explorarse. En este caso, se debe llamar la atención sobre cómo la creciente
autonomía de algunos sistemas de IA puede introducir un nuevo conjunto de derecho penal donde los actos cometidos por AI con negligencia
y culpa intencional pueden caer dentro de la hipótesis de responsabilidad penal corporativa. Por lo tanto, es probable que los sistemas legales
reaccionen modificando sus normas de derecho penal nacional que luego serían confirmadas por un marco internacional.
En el contexto de blockchain / DLT y responsabilidad legal, Uno de los temas clave de discusión está relacionado con la noción de
regulación de la red blockchain 'sin autoridad' y la cuestión de la atribución de responsabilidad legal cuando no existe autoridad. Un ejemplo
se puede dar respecto al tratamiento de las solicitudes de adición, supresión o modificación de datos personales y en consecuencia la
vulneración del derecho al olvido (RTBF), en una red que tiende a la permanencia de los datos y que es descentralizada o semi-
descentralizado como la red blockchain 122. Si bien puede parecer evidente que ninguna autoridad equivale a ninguna posibilidad de
eliminación o responsabilidad, algunos autores opinan que existe la posibilidad de eliminar ciertos datos de una cadena de bloques mediante
acción coordinada / protocolo de consenso descentralizado. Dicho protocolo permitirá decidir qué transacción conservar y cuál eliminar,
mientras que esto implica claramente cambiar el estado actual de la cadena de bloques. Es encontrar el consenso dentro de una red
descentralizada lo que plantea el principal desafío y, a veces, no hacerlo tiene consecuencias no deseadas, en particular desde un punto de
vista técnico. Los ciudadanos europeos pueden invocar legítimamente el RTBF en el caso de que enlaces de este tipo se almacenen en una
cadena de bloques y permitan que un gran grupo de usuarios acceda a información inexacta, inadecuada o excesiva.
Recomendaciones formuladas:
• Codificar explícitamente en la ley disposiciones sobre la responsabilidad de AI por acciones cometidas de manera negligente o
intencional 123. Este debería ser el caso, incluso si se decide que solo un humano debe ser considerado responsable.
119 U. Pagallo y S, Quattrocolo, ' Manual de investigación sobre el derecho de la inteligencia artificial ', Woodrow Barfield y
122 Véase P. De Filippi y M. Reymond, ' La Blockchain: comentario réguler sans autorité ', Nitot, T. (dir.) Y Cercy
NORTE. Numérique: reprendre le contrôle: Framabook. 2016, pág. 81-96. (Ver: Anexo I, Ref. No. 94).
123 Véase P. Nemitz, ' Democracia constitucional y tecnología en la era de la inteligencia artificial ', vol. 376, Real
46 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
• Examinar la posibilidad de generalizar para la IA algunos principios regulatorios que se encuentran en cuerpos legales
específicos. Si esto no es suficiente, examinar si se deben aplicar modificaciones específicas de dichos principios para ajustarse a
la realidad de la IA. Se podría hacer un paralelo con otras áreas de interacción humano-tecnología, como la ley farmacéutica. En
la producción de productos farmacéuticos, existen condiciones previas para ingresar al mercado (por ejemplo, prueba del
medicamento, procedimientos de aprobación) y requisitos para examinar el efecto de la aplicación del medicamento o la
tecnología en el ser humano.
124.
• Realización de una evaluación de impacto de tres niveles en IA. Primero, la evaluación del impacto de la tecnología
parlamentaria, a nivel del legislador, para comprobar si la tecnología en cuestión afecta intereses esenciales. Con base en esta
evaluación, se decidiría qué legislación implementar para garantizar el interés público. Segundo, en el nivel de los
desarrolladores y usuarios de la tecnología, quién debería estar obligado a realizar evaluaciones de impacto no solo cuando
AI procesa datos personales en el contexto de la toma de decisiones automatizada, sino también con respecto a todos los
aspectos de la democracia, el estado de derecho y los derechos fundamentales. Tercero, a nivel de los individuos, quién
debería tener derecho a una explicación de cómo funciona la IA, qué lógica sigue y cómo afecta sus intereses 125. Este derecho
debe estar garantizado por la ley.
• Implementación de instrumentos de gobernanza, en lugar de soft law y códigos de conducta sobre el uso inadecuado de los
sistemas autónomos. La UE también debe implementar requisitos vinculantes para ejercer el "derecho a la explicación" de los
modelos y decisiones tomadas por sistemas automatizados o sistemas algorítmicos artificialmente inteligentes. En lo que respecta
específicamente a los trabajadores, la regulación debe garantizar su derecho a que se les explique la lógica, la funcionalidad y las
consecuencias de los sistemas automatizados de toma de decisiones, y debe identificar cuándo se produce la participación
humana y cuándo una decisión puede ser impugnada. 126.
Conclusión
Los artículos de política y académicos anteriores muestran que hay una serie de cuestiones que evolucionan en torno al uso de tecnologías
innovadoras en el campo de la justicia. Estos problemas se relacionan principalmente con los riesgos potenciales de que la tecnología pueda
producir resultados sesgados durante las evaluaciones de riesgo, infringir las normas de protección de datos y los derechos fundamentales o
cometer un delito. El marco de política actual propone una serie de garantías para reducir estos riesgos, sin embargo la literatura presenta
recomendaciones adicionales, donde algunos autores opinan que son necesarias más regulaciones y cambios legislativos.
A la luz de lo anterior, el contratista recopiló información de instituciones, órganos, oficinas y agencias de la UE, autoridades de los Estados
miembros competentes en el ámbito de la justicia, organizaciones profesionales jurídicas y empresas de TIC, con respecto a sus proyectos,
iniciativas e ideas planificados, en curso y finalizados. del uso de AI / blockchain / DLT en el campo de la justicia. El objetivo principal es hacer
un balance de las actividades innovadoras en el campo de la justicia que tienen lugar en múltiples niveles (nivel de la UE, sector público y
judicial, sector privado y sector de organizaciones profesionales del derecho), en términos de políticas y estrategias sobre IA y / o blockchain /
DLT, proyectos que exploran estas tecnologías y desafíos encontrados a lo largo del ciclo de vida del proyecto.
124 Ibídem.
125 Ibídem.
126 Ponce, Aida, ' ¿Una ley de robótica e inteligencia artificial en la UE? ( 3 de octubre de 2017). Documento de investigación ETUI
El contratista realizó una serie de entrevistas con partes interesadas de las instituciones, órganos, organizaciones y agencias de la UE en
relación con sus actividades en el campo de la IA y blockchain / DLT. 127. Los hallazgos clave de estas entrevistas muestran varios proyectos e
iniciativas en curso a nivel de la UE. Algunos de ellos están en el campo de la justicia. Otros, aunque no están directamente relacionados con
el campo de la justicia (por ejemplo, en el campo de impuestos, control aduanero, etc.), podrían presentar potencial de reutilización en las
actividades judiciales, por ejemplo, debido a similitudes en los problemas comerciales que la tecnología pretende resolver. Por lo tanto, es
importante documentar estos proyectos e iniciativas y reconocer que su potencial de uso en el campo de la justicia puede merecer una mayor
exploración.
Esta sección presenta una descripción general de estos proyectos e iniciativas, y también aborda algunos conceptos e ideas que las partes
interesadas han compartido en vista de los usos potenciales de AI y blockchain / DLT en el futuro.
los Tribunal de Justicia de la Unión Europea ( TJUE) ha preparado una estrategia de arquitectura de destino con los principales objetivos de
aumentar la seguridad, la calidad y la productividad en el TJUE mediante el uso de tecnologías emergentes como IA, big data, realidad
extendida, blockchain / DLT, etc. El TJUE ha establecido una innovación Lab dentro de su departamento de TI y ha establecido una red con
los equipos comerciales para garantizar una estrecha colaboración entre el negocio y la TI. La institución busca partes interesadas de otras
instituciones europeas y del Estado miembro para compartir experiencias sobre el uso de tecnologías innovadoras. Uno de los objetivos del
departamento de TI del TJUE es crear una hoja de ruta de cinco años con proyectos e iniciativas prioritarios identificados en respuesta a las
necesidades y requisitos comerciales.
Durante los próximos dos años, se explorarán las siguientes áreas a través de diferentes pilotos que utilizan IA:
• Visualización de datos
• Motores de búsqueda: evolución en la búsqueda de documentos y texto mediante búsqueda semántica u otros métodos
127 La información sobre proyectos e iniciativas está documentada en este Informe Final tal como se presentó en el momento de
realizar las consultas con las partes interesadas. No se tienen en cuenta otros acontecimientos que puedan haber tenido lugar entre estas consultas y la
publicación de este Informe Final. Los estudios y otros documentos y desarrollos que se informó que estaban 'en preparación' o 'en discusión' durante las
consultas y que mientras tanto se han puesto a disposición del público, se indican como tales y los enlaces a ellos se proporcionan en una nota a pie de
página.
48 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
• Chatbot 128 - en el área de soporte al usuario final o gran comunicación pública interna
Proyectos e iniciativas:
Hay una iniciativa para llevar a las instalaciones eTranslation, principalmente por razones de confidencialidad. eTranslation es un servicio de
traducción automática en línea proporcionado por la DG CNECT y la DG Traducción. Está destinado a las administraciones públicas
europeas, las pequeñas y medianas empresas y las facultades universitarias de idiomas, así como a los proyectos del Mecanismo Conectar
Europa. Además de los usuarios individuales, el servicio de traducción automática también está disponible para los sistemas de información
de la CE y los servicios en línea a través de una interfaz de programación de aplicaciones (API). El servicio se lanzó oficialmente el 15 de
noviembre de 2017 y se basa en el anterior servicio de traducción automática de la Comisión Europea: MT @ EC 129. El Tribunal tiene previsto
realizar una prueba piloto con el objetivo de evaluar la posibilidad de "empaquetar" la herramienta como un servicio desde las instalaciones de
la DG Traducción. Un plazo indicativo para el lanzamiento del piloto es mediados de 2020.
Algunas de las otras iniciativas se refieren reconocimiento automático de voz (voz a texto)
para automatizar la transcripción durante los procedimientos judiciales; uso del procesamiento del lenguaje natural (NLP) para reconocimiento
y categorización de entidades de sentencias judiciales y relanzamiento de un proyecto de reconocimiento óptico de caracteres (OCR) con el
objetivo de la digitalización completa de documentos en papel. La PNL para el reconocimiento y la categorización de entidades tiene como
objetivo categorizar la gran cantidad de decisiones judiciales por materia, campo de justicia, entidades y expertos.
la Estrategia 2030 del CCI del Servicio de Ciencia y Conocimiento de la Comisión Europea 131 incluye 10 nexos, entre los que se encuentran la
transformación digital y la innovación. Los elementos a destacar en relación al nexo sobre sistemas y procesos de innovación son la transición
a la ciencia digital abierta y la necesidad de garantizar la integridad de la investigación y los obstáculos a la investigación multidisciplinar e
interdisciplinar. Este nexo también considerará la innovación abierta, incluida la innovación impulsada por los ciudadanos, la protección,
explotación y comercialización de los derechos de propiedad intelectual y las características de los ecosistemas de innovación exitosos.
Buscará nuevas formas de involucrar a los ciudadanos lo antes posible en los debates sobre nuevas tecnologías. También desarrollará una
capacidad en estudios de ciencia y tecnología.
Proyectos e iniciativas:
El JRC está llevando a cabo el proyecto AI-Watch 132 para DG CNECT. Este es un proyecto a gran escala con múltiples tareas relacionadas
con temas de definición y medición, monitoreo de: (i) captación e inversiones de IA, (ii) desarrollo de robótica y (iii) difusión de IA en el sector
público. El proyecto proporciona los conocimientos y las pruebas necesarios para respaldar las políticas de la Comisión y de los Estados
miembros de la UE establecidas en la Comunicación 'Inteligencia artificial para Europa' (2018) y 'El Plan Coordinado sobre IA' (2018). El Plan
Coordinado describe cómo los Estados miembros de la UE podrían coordinar sus estrategias, esfuerzos e inversiones para
128 Según el glosario de la Carta Ética Europea de la CEPEJ, un 'chatbot' es un agente conversacional que
conversa con su usuario (por ejemplo, robots de empatía utilizados para ayudar a los enfermos, o servicios de conversación automatizados en la
relación con el cliente).
129 https://ec.europa.eu/info/resources-partners/machine-translation-public-administrations-etranslation_en
130 CCI, Unidad B.6 - Economía digital
131 https://ec.europa.eu/jrc/sites/jrcsh/files/jrc-strategy-2030_en.pdf
132 Ver https://ec.europa.eu/knowledge4policy/ai-watch_en
49 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
maximizar los beneficios de la IA para Europa. El objetivo del proyecto AI-Watch, entre otros, es supervisar las inversiones de los Estados
miembros dirigidas a la IA.
Un proyecto del JRC se basa en IA que se puede utilizar en el campo de la justicia penal, en una aplicación para el reconocimiento de
imágenes de tatuajes. Esta aplicación se puede utilizar en la lucha contra el abuso infantil y la pornografía infantil para abordar el desafío de
que los perpetradores a menudo tienen la cara oculta o cubierta, pero tienen tatuajes visibles. El software puede ayudar a identificar los
tatuajes, posiblemente vincularlos a una persona o vincularlos a una determinada escuela de arte o al artista que creó el tatuaje.
Otras aplicaciones de IA que se pueden mencionar son, por ejemplo: herramientas relacionadas con la lucha contra el fraude y el movimiento
ilegal de mercancías, con ayuda de una IA que realiza el rastreo mediante sensores; un sistema de IA para la evaluación de riesgos y la toma
de decisiones en el campo de la justicia penal, desarrollado en España (aún no en producción); el uso de IA para derechos de autor en la
industria de la música utilizando algoritmos de propiedad intelectual; y un proyecto de UNICEF relacionado con los derechos del niño y la
protección de los niños en línea.
La OPEU promueve el uso de tecnologías web semánticas para la representación del conocimiento, la anotación de documentos y la difusión
de datos abiertos. Esta es una condición previa para implementar la IA, en particular para los dominios de e-Law y e-Justice. Esto se refleja en
los 'Objetivos estratégicos de la OPEU 2017-2025' 133.
Proyectos e iniciativas:
La OPEU compartió información sobre su herramienta Cava 134. Cellar es el principal repositorio de datos de la Comisión, que contiene
información sobre legislación, reglamentos, adquisiciones y publicaciones generales. Fue concebido para vincular servicios Open Data. El
servicio Linked Open Data proporcionado por Cellar es utilizado por una media de 15 000 usuarios al día. Los usuarios pueden consultar
Cellar o acceder a su contenido legal a través de EUR-Lex.
Otro proyecto en curso discutido con la OPEU es SeTA - Herramienta de análisis de texto semántico 135
desarrollado por expertos del CCI en minería de datos para superar los enredos de contenido y de nivel semántico que enfrentan los analistas
y desarrolladores de políticas.
La herramienta SeTA combina desarrollos recientes en big data, aprendizaje automático y procesamiento del lenguaje natural en un motor de
recomendación y exploración del conocimiento que ayuda a los analistas de políticas a comprender conceptos, sus sinónimos y el contexto en
el que se han utilizado en la legislación en todos los dominios. El usuario puede realizar una búsqueda centralizada en EUR-Lex, EU
Bookshop, incluidos todos los informes técnicos, CORDIS, JRC PUBSY, EU Open Data Portal, Wikipedia, y encontrar documentos por su
similitud de contenido.
Enlaces a los vocabularios de la UE 136 También se creará un tesauro. Por lo tanto, la herramienta procesa todo el texto, no solo los
metadatos. SeTA ha mostrado resultados de rendimiento positivos.
133 https://publications.europa.eu/en/publication-detail/-/publication/d192d7e9-809a-11e7-b5c601aa75ed71a1/language-en
134 https://data.europa.eu/euodp/en/data/dataset/sparql-cellar-of-the-publications-office
135 https://ec.europa.eu/jrc/en/publication/semantic-text-analysis-tool-seta
136 https://op.europa.eu/en/web/eu-vocabularies/
137 DG HOME, Unidad F.2 - Conciencia de la situación, resiliencia y gestión de datos
50 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
• Formalizar un Grupo de Expertos en IA (también con participantes de la UE y países Schengen como Suiza).
• Prepara una estrategia 138 con los resultados del estudio de caso de uso AI en la aplicación de la ley ( ver más abajo) para
subrayar su importancia y señalar los desafíos (por ejemplo, relacionados con la protección de datos). Puede que no sea posible
proporcionar un enfoque general para abordar estos desafíos, pero puede ser necesario un análisis de protección de datos caso
por caso para cada caso de uso.
A largo plazo, está previsto que Europol albergue un laboratorio de innovación 139, que también sería utilizado por FRONTEX y JRC.
La necesidad de crear un laboratorio de este tipo se destacó en la Estrategia 2020+ de Europol 140 preparado en diciembre de 2018 y
actualmente se encuentra en discusión. . Algunas de las cuestiones que pueden estar sujetas a un debate adicional podrían centrarse en
cómo seleccionar un conjunto de datos de capacitación para evitar posibles sesgos y posibilidades y desafíos del uso de datos operativos, al
tiempo que se garantiza el cumplimiento de la protección de datos.
Proyectos e iniciativas
En marzo de 2019, la Dirección General de Migración y Asuntos de Interior (DG HOME), en cooperación con la Dirección General de Redes,
Contenidos y Tecnología de Comunicaciones (DG CNECT), llevó a cabo un caso de uso Estudio sobre el uso de IA en la aplicación de la
ley entre 32 países, es decir, todos los Estados miembros de la UE y otros países como Noruega y Suiza, con el fin de evaluar la situación de
las tecnologías de IA en los Estados miembros y su enfoque de dichas tecnologías. El principal objetivo de la discusión del estudio organizado
fue obtener una visión general clara de la situación actual en la investigación y los proyectos piloto que utilizan tecnologías de IA, incluidas
iniciativas y planes futuros. La DG HOME tiene la intención de utilizar la información recibida de los Estados miembros como inspiración para
una posible definición de una plataforma a escala de la UE para aprovechar las tecnologías innovadoras en la justicia y los asuntos de interior.
Además, esta es una forma de seleccionar las partes interesadas que participarán, conocer las posibles rutas de implementación y evaluar las
ventajas y desventajas de una implementación interna en comparación con una subcontratada.
• Proyecto de investigación sobre inteligencia artificial y seguridad ( en cooperación con la DG CNECT) en el marco de
Horizonte 2020;
• Estudio sobre IA para controles de inmigración y policiales, con el objetivo de identificar los procesos y operaciones
comerciales que podrían ser facilitados por la tecnología de IA con un inicio planificado a mediados de 2020;
• Proyecto sobre previsión de migración con el objetivo de predecir los flujos migratorios futuros hacia la UE.
138 Documento de antecedentes de la DG HOME, 'Inteligencia artificial para optimizar la seguridad y la eficiencia operativa', ( no oficial), documento compartido
dentro del proceso de consulta a las partes interesadas (Ver: Ref. No. 69 en el Anexo I - Lista de Referencias).
139 https://parleu2020.sabor.hr/sites/default/files/dogadaji/202003/Draft%20Europol%20Multiannual%20Progra
51 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
La Dirección General de Mercado Interior, Industria, Emprendimiento y Pymes (DG GROW) 141
DG GROW realiza un seguimiento sectorial del uso de tecnologías avanzadas en la industria y explora las aplicaciones críticas de la IA en
tres cadenas de valor estratégicas: Salud inteligente, vehículos autónomos y CNECT y Internet de las cosas (IoT). Una de las
conclusiones generales que ha extraído la DG GROW hasta ahora es que las competencias de los empresarios, directores y empleados son
fundamentales para que las empresas adopten con éxito tecnologías avanzadas. Además, los propietarios de negocios deben saber cuáles
son los 'puntos débiles' de su negocio, para poder resolverlos con IA, en lugar de esperar que la IA sirva como una 'panacea' universal para
todos los problemas comerciales. Un estudio sobre 'Aplicaciones críticas de IA para pymes en cadenas de valor estratégicas' finalizado en
2020 142 tiene como objetivo desarrollar las aplicaciones específicas de IA que son ampliamente aplicables y capaces de generar valor para la
sociedad, la economía y el medio ambiente 143. La DG GROW cree que es probable que los resultados de este informe también sean
aplicables al ámbito de la justicia.
La DG GROW tiene una serie de proyectos e iniciativas en curso (o recientemente finalizados) que tienen como objetivo impulsar la
inteligencia artificial y las tecnologías avanzadas en la industria de la UE, incluidas las PYME (que posiblemente incluyan notarios públicos y
bufetes de abogados). En junio de 2019, la DG GROW completó la fase 1 del ' Desafío de ciudades digitales ' 144 proyecto que tiene como
objetivo la inteligencia artificial y el intercambio de conocimientos entre 41 ciudades para desarrollar ecosistemas modernos que catalicen la
transformación empresarial de una manera sostenible, mejoren la fuerza laboral y creen nuevos mercados para productos y servicios
inteligentes. Expresiones de interés en participar en la fase 2 del proyecto - 'Desafío de Ciudades Inteligentes' se abrieron en enero de 2020.
Esta fase ampliará el alcance a 100 ciudades participantes con un enfoque en las pequeñas y medianas. El proyecto se ejecutará en paralelo
con una iniciativa de la DG CNECT - 'Viviendo en la UE
- unirse, impulsar y sostener ' 145 - cuyo objetivo es ampliar las iniciativas digitales en la UE.
Entre las otras actividades de IA de la DG GROW se encuentra un proyecto piloto llamado 'Robótica en las escuelas' y un proyecto en Big
Data. Este último tiene como objetivo explorar casos comerciales de pymes de terceros, que tienen acceso a big data a través de plataformas
de datos en las áreas de datos en vehículos (automoción) y diabetes tipo 2 (salud inteligente). Las primeras conclusiones de este proyecto
son la gran cantidad de conjuntos de datos separados en el sector de la salud, lo que hace que sea más difícil limpiar, categorizar y
estandarizar los datos. Además, las PYME tienden a no mejorar las habilidades de su personal interno para manejar los datos, aunque puede
ser más útil para el negocio. También deben tenerse en cuenta los posibles problemas de protección de datos y derecho de la competencia
que puedan surgir.
los Análisis de la red de transacciones (TNA) es una plataforma para combatir el llamado fraude de carrusel intracomunitario de
comerciantes perdidos (MTIC) en el dominio del IVA. TNA se puso en producción en abril de 2019 y ha estado totalmente abierto a todos los
Estados miembros desde finales de
2019. Tiene capacidades de análisis de datos sobre los cuales se podrían desarrollar algoritmos que utilizan tecnologías de IA en el futuro. los Sistema
Electrónico Central de Pagos en Línea (CESOP)
inteligencia-y-big-data_en
143 https://ec.europa.eu/growth/industry/policy/advanced-technologies/industrial-applications-artificial-
inteligencia-y-big-data_en
144 Para más información sobre el proyecto consultar: https://www.digitallytransformyourregion.eu/cities
145 Para más información consultar: https://bit.ly/2vSqxZz
146 DG TAXUD, B4.002: Sistemas tributarios y gobernanza digital
52 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
es otro proyecto con los mismos usuarios que TNA, pero centrado en el fraude transfronterizo del IVA en el comercio electrónico B2C. Su
fecha de lanzamiento está prevista para 2024.
La DG TAXUD también tiene proyectos centrados en aprovechar los datos de los Estados miembros. los
Sistema de control de importación (ICS2) 147 es una herramienta con capacidad analítica para abordar los riesgos de seguridad y protección
en el ámbito del control aduanero. ICS2 utiliza los datos de carga anticipados sobre los envíos que ingresan a la UE de la Declaración de
resumen de entrada (ESD). El proyecto tiene como objetivo vincular la EDS con las fuerzas del orden y así permitirles realizar análisis de
riesgo en tiempo real. Parte de ICS2 se ha implementado y está operativo; sin embargo, la parte de capacidad analítica debe aprobarse en
diciembre de 2020 siguiendo las reglas y procedimientos internos. Se lanzará un piloto en 2020 para verificar el desempeño y luego se pondrá
en funcionamiento la herramienta en 2021. La herramienta Customs Union Performance (CUP)
recopila datos de los Estados miembros sobre el desempeño aduanero (por ejemplo, datos sobre el número de DRE y envíos recibidos). Es
un mecanismo para medir cómo las actividades y operaciones aduaneras apoyan el logro de los objetivos estratégicos de la unión aduanera
con base en indicadores clave de desempeño. El CUP se utiliza como una herramienta de dirección para la toma de decisiones estratégicas
(evaluación del desempeño, seguimiento de tendencias, identificación de brechas y áreas de mejora). También se utiliza para concienciar a
los principales interesados sobre los resultados del trabajo aduanero. los Capacidad conjunta de análisis implica el trabajo conjunto de la
Oficina Europea de Lucha contra el Fraude (OLAF) y la Dirección General de Presupuestos (DG BUDG). Tiene como objetivo analizar los
riesgos financieros relacionados con la actividad aduanera (evitación de derechos de aduana). En este sentido, es similar a ICS2.
La DG TAXUD tiene una iniciativa interna centrada en análisis de datos del ciclo de vida de las políticas. Se han realizado actividades
para catalogar los activos de datos en la DG TAXUD, pero aún deben identificarse los fines específicos para los que se pueden utilizar y el
acceso a ellos.
Dirección General de Estabilidad Financiera, Servicios Financieros y Unión de los Mercados de Capitales (DG FISMA) 148
Entre otras, la DG FISMA tiene una iniciativa de inteligencia artificial, RegTech, una tecnología que puede ayudar a las instituciones financieras
a recopilar la información de presentación de informes que están obligadas a presentar a sus órganos de supervisión. La herramienta de
inteligencia artificial podría permitir una mejor identificación de los clientes y la detección de transacciones sospechosas mediante el
reconocimiento de patrones, evitando así la detección de fraude y lavado de dinero.
En 2018, la FRA comenzó a trabajar en el tema de big data e inteligencia artificial, incluida la investigación de antecedentes y las consultas de
expertos. En mayo de 2018, la Agencia publicó un artículo titulado '#Big Data: La discriminación en los datos apoyó la toma de
decisiones' seguido de un documento llamado
Calidad de los datos e inteligencia artificial: mitigación de sesgos y errores para proteger los derechos fundamentales ' 149
publicado en junio de 2019, ambos resultados de un estudio interno. Recientemente, FRA publicó un artículo 'Tecnología de reconocimiento
facial: consideraciones de derechos fundamentales en el contexto de la aplicación de la ley'. El principal proyecto de FRA para 2019 se
llama ' IA, Big Data y derechos fundamentales ' 150. Se trata de un estudio impulsado por políticas con el objetivo de contribuir al desarrollo de
políticas y redacción de directrices en los campos de la IA, los macrodatos y los derechos fundamentales; aumentar la comprensión de las
implicaciones de la IA en los derechos fundamentales; e identificar posibles lagunas en las políticas para proteger los derechos fundamentales
al utilizar
53 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
AI. El estudio se centra en casos de uso de la vida real en cinco Estados miembros de la UE: Estonia, Finlandia, Francia, los Países Bajos y
España. Se espera que el informe final, que incluirá un análisis exhaustivo de los derechos fundamentales, incluida una visión más amplia de
los derechos fundamentales, como la privacidad y la protección de datos personales, la discriminación y el acceso a la justicia, se publique en
el cuarto trimestre de 2020. Como próximos pasos, FRA está evaluando la viabilidad de una simulación para mostrar cómo podría ocurrir el
sesgo algorítmico.
El CCI ha publicado un informe sobre 'Blockchain para el gobierno digital' 152 explorar el uso de blockchain por parte de los gobiernos e
identificar proyectos en varias etapas de implementación. El informe analizó una serie de proyectos que se consideró que presentaban un
potencial significativo de ampliación. Tal proyecto es Transacciones de propiedad de Chromaway en Suecia. El proyecto comenzó en
septiembre de 2016 por la Autoridad Sueca de Cartografía, Catastro y Registro de Tierras y el Landshypotek Bank. Su objetivo era abordar
cuestiones relacionadas con la falta de transparencia, el lento sistema de registro y el complejo proceso de acuerdos entre compradores y
vendedores. Otro proyecto es el Marco de gobernanza infrachain en Luxemburgo lanzado en 2016. El objetivo de la organización Infrachain
es apoyar la creación de nodos independientes e incorruptibles involucrados en la operación de instancias de blockchain. Infrachain desarrolla
una capa de gobernanza colocada sobre las cadenas de bloques autorizadas existentes y futuras. Proyectos en países no pertenecientes a la
UE como Georgia ( Registro de títulos de propiedad de Exonum) y Suiza ( Proyecto de identidad descentralizada uPort) también se
incluyen en el informe.
El JRC también contribuye a las normas técnicas ISO sobre blockchain, a través de la participación en el Comité Técnico ISO 307, Grupo de
Estudio 2 'Casos de uso'. En el contexto de este Grupo de Estudio, el CCI propuso un caso de uso que aborda la automatización de los
procedimientos de herencia a través de contratos inteligentes (en el que un certificado de defunción activaría el contrato para realizar la
herencia legal y la 'última voluntad'). Esto eliminaría ineficiencias y riesgos en el proceso colaborativo entre instituciones gubernamentales
(registro de propiedades y activos financieros), herederos y los propios testadores. Uno de los desafíos clave radica en la integración de
sistemas operados por múltiples instituciones (propiedad, activos financieros y otros registros). En términos generales, el JRC opina que
blockchain es un habilitador único de una capa de evidencia confiable. Ayudará a intercambiar información (de forma segura) entre diferentes
partes, pero no es suficiente en sí mismo; la capa de confianza debe complementarse con otras tecnologías como servicios de conversión o
análisis de datos. Sin embargo, aumenta el uso de blockchain
El JRC también ha estado trabajando en estrecha cooperación con diferentes DG de políticas de la Comisión en el desarrollo de estudios
sobre tecnología blockchain desde 2013. Inicialmente centrándose en la moneda bitcoin, el trabajo de investigación ha pasado a analizar la
escala completa de blockchain, y terminó analizando todos aspectos de la tecnología, el tipo de blockchain y sus características. El centro
tiene una instalación bastante única para la prueba en vivo de implementaciones de infraestructura blockchain a gran escala.
El JRC tiene varios proyectos de prueba de concepto en el campo de la energía y un proyecto de investigación piloto sobre identificación
ciudadana y cómo blockchain podría digitalizar documentos de identificación en papel. Siguiendo el estudio de identificación ciudadana,
también existe la idea de usar blockchain para objetos
151 CCI, Unidad B.6 Economía digital y Unidad I.2 Prospectiva, Perspectiva del comportamiento, Diseño para políticas
152 Ver https://bit.ly/2V6z2uM
54 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
identificación, por ejemplo, en Internet de las cosas, para crear vínculos entre los objetos, sus propietarios y lo que están autorizados a hacer.
La Dirección General de Redes, Contenidos y Tecnología de las Comunicaciones (DG DIGIT) 153
La DG DIGIT ha iniciado un proyecto de colaboración con el sector privado y la Fundación Identidad Descentralizada (DIF) en el campo de la
Identidad Autosoberana (SSI), denominado Puente eIDAS. La idea es que cualquier persona física o jurídica solo tenga que compartir sus
credenciales una vez con las administraciones públicas, y tendrán el control total de su identidad digital. El resultado del proyecto sería una
aplicación piloto de SSI y un análisis legal sobre cuáles son las lagunas en el actual Reglamento UE 910/2014 con miras a habilitar
completamente SSI. Los resultados de estos proyectos se publicaron a principios de 2020 154.
DG DIGIT también está colaborando en la Infraestructura Europea de Servicios Blockchain (EBSI). Esta es una iniciativa conjunta entre la
Comisión Europea y la European Blockchain Partnership (EBP) para brindar servicios públicos transfronterizos en toda la UE utilizando
tecnología blockchain. El proyecto tiene como objetivo ofrecer cuatro casos de uso para 2021, que podrían usarse como bloques de
construcción de blockchain similares a los bloques de construcción del Fondo Conectando Europa (CEF). Los 4 casos de uso son:
• ' Importar intercambio de ID de IVA de ventanilla única (IOSS) (intercambio de datos de confianza) », propuesto por la DG
TAXUD, cuyo objetivo es reducir los costes administrativos permitiendo el intercambio de datos entre instituciones de forma fiable;
• ' eSSIF ', que es una capa de identidad transversal para crear credenciales verificables para uso en línea que se pueden autenticar
con la identificación electrónica de una persona;
• ' Diplomas ', donde la EBSI representa los diplomas relacionados con el proyecto Europass. Las universidades pueden crear
versiones en línea de los diplomas y asignarlas a las credenciales verificables de la persona (hechas con eSSIF). Estos diplomas
se pueden verificar de inmediato;
• ' Notarización ' 155, en el contexto de la creación y verificación de documentos auténticos. Los documentos se pueden almacenar de
forma segura y solo pueden ser visualizados / legibles para un "tercero" basado en una clave privada.
La Dirección General de Mercado Interior, Industria, Emprendimiento y Pymes (DG GROW) 156
En el contexto de la innovación, DG GROW se centra en soluciones financieras alternativas como la economía de fichas, las criptomonedas y
el uso de blockchain por parte de industrias y empresas. Ha adoptado un enfoque de abajo hacia arriba y ha estado monitoreando el mercado
de criptomonedas durante los últimos años. En general, DG GROW ve a blockchain como un habilitador de la democratización de las finanzas
y la economía, al servicio de los ciudadanos europeos, permitiendo (pero también regulando) la competencia a nivel europeo. A través del
plan de acción FinTech 2018 157, La DG GROW está ahora en condiciones de debatir con otros servicios y recomendar proyectos.
Algunas iniciativas y casos de uso explorados por DG GROW son Educación: guía para pymes sobre blockchain, Blockchain para la UE
y blockchain para la transformación industrial y Identidad electrónica. La DG GROW está supervisando iniciativas en los Estados
miembros,
documentos. Los diplomas se pueden almacenar de forma segura ... 'Después de la verificación, la oración se corrige para reemplazar' auditoría 'por'
establecer y verificar la autenticidad 'y' diplomas 'se reemplaza con documentos.
156 DG GROW, Unidad GROW.F.2 - Tecnologías avanzadas, clústeres y economía social y Unidad H.3 - Acceso PYME
financiar
157 Plan de acción de FinTech: Por un sector financiero europeo más competitivo e innovador, COM (2018) 109/2.
55 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
como el sistema único para la identidad electrónica en los países escandinavos, una iniciativa de cadena de bloques alemana para poner
acciones y bonos en la cadena de bloques, proyectos en el sector médico, servicios postales y derechos de los accionistas. En general, DG
GROW observa que los países vecinos de la UE están evolucionando más rápido en la adopción de la tecnología blockchain (en particular,
Liechtenstein, Suiza y Georgia), muy probablemente debido a su pequeño tamaño, que no implica problemas con demasiados sistemas
heredados y el necesitan pasar por un largo proceso de implementación de cambios legislativos, como en los Estados miembros de la UE.
Como principales desafíos en el uso de blockchain, DG GROW describe los problemas de gobernanza y responsabilidad, la elección de la
plataforma común (existente o nueva),
los Blockchain @ TAXUD El programa comenzó en 2017 con el objetivo de validar y garantizar que la tecnología sea probada y probada
antes de proponer a los Estados miembros construir, implementar y operar sistemas transeuropeos basados en blockchain en producción.
Se ha iniciado una prueba de concepto (PoC) en el dominio de impuestos especiales: se ha probado una plataforma de cadena de bloques
Hyperledger Fabric 1.0 en el Sistema de control de movimientos de ejercicio (EMCS) para el control del tabaco, el alcohol y la energía. El PoC
demostró con éxito que blockchain tiene el potencial de simplificar los procesos comerciales, así como la complejidad funcional entre los
Estados miembros en lo que respecta al 'dominio común', en un escenario de gobierno a gobierno. En 2018 se lanzó un segundo PoC con
ocho Estados miembros a bordo y actualmente se implementa con la plataforma de cadena de bloques Hyperledger Fabric 1.1. 159.
La DG TAXUD trabaja en colaboración con la DG DIGIT y la DG CNECT en la Infraestructura Europea de Servicios Blockchain (EBSI) 160. La
fase 1 de la EBSI prevé el despliegue de cuatro casos de uso, uno de los cuales es Importar uso compartido de ID de IVA de ventanilla
única (IOSS) ( intercambio de datos confiable). El proyecto se centra en el intercambio de identificadores entre las autoridades fiscales y
aduaneras en el contexto del Paquete de IVA de comercio electrónico ECOFIN 5/12/2017 que entrará en vigor el 1 de enero de 2021.
La Dirección General de Redes, Contenidos y Tecnología de las Comunicaciones (DG CNECT) 161
La ISA 2 programa 162 de la Comisión Europea - Soluciones de interoperabilidad para administraciones públicas, empresas y ciudadanos -
incluye una serie de acciones diferentes para configurar una solución de interoperabilidad para administraciones públicas, empresas y
ciudadanos, algunas de las cuales se centran en servicios innovadores.
Proyectos e iniciativas
56 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Hay una serie de proyectos que involucran el uso de tecnología blockchain. - Participación democrática, DECODE y Premio por
blockchain por el bien social.
El proyecto de Participación Democrática se desarrolló entre 2013 y 2015. Su objetivo era desarrollar un sistema para la participación
democrática, los procesos nacionales y locales, así como la participación de los ciudadanos. Ha desarrollado una plataforma participativa
gestionada y utilizada en Barcelona bajo el nombre 'Decidim.Barcelona'. Su objetivo era recompensar a la ciudadanía por su participación en
procesos democráticos con monedas sociales basadas en blockchain, que podrían canjearse por servicios.
El proyecto DECODE, lanzado en 2016, tiene como objetivo descentralizar la gobernanza de los datos en Internet para que sirva de
contrapeso a las grandes empresas tecnológicas (GAFA) que centralizan los datos de los ciudadanos. Ha desplegado pilotos en Amsterdam,
centrándose en Internet de las cosas (Gebied online) y la economía colaborativa (Amsterdam Digital Register), y en Barcelona, centrándose
en la democracia abierta (Democracia distribuida (Decidim) e Internet de las cosas (Citizen sensing) DECODE condujo a una siguiente
iniciativa: ledger.eu, que financia a pequeños innovadores en la gobernanza de datos descentralizada.
DG CNECT inició el Premio Blockchain por el Bien Social 163 con el objetivo de estimular la innovación y la descentralización con miras al bien
social (gobiernos y actores económicos). Se han recibido 180 solicitudes para este premio, una cuarta parte de las cuales corresponden a
áreas imprevistas: salud, calidad de los contenidos (fake news), propiedad de los datos (ámbito de la justicia); trazabilidad y procedencia de
alimentos; coproducción y consumo de energía, educación, medio ambiente, etc. Todas las aplicaciones tenían un mapeo claro con los
objetivos de desarrollo sostenible. Uno de los requisitos para todos los solicitantes es lanzar su solución bajo una licencia de código abierto
para garantizar la transparencia de los algoritmos, así como la replicabilidad y portabilidad de sus desarrollos.
La DG CNECT también es responsable de la Infraestructura europea de servicios Blockchain (EBSI) implementación, que entregará 4
casos de uso para 2021. En vista de estos casos de uso (intercambio de datos confiables, eSSIF, Diplomas y Notarización), la DG CNECT
colabora con la DG DIGIT, TAXUD y CEF. El objetivo es agregar un quinto caso de uso relacionado con la resolución de disputas en línea
(ODR) en colaboración con la DG JUST. Otra idea propuesta es el uso de blockchain en tareas de notarización, quiebras e intercambio de
propiedades.
Dirección General de Estabilidad Financiera, Servicios Financieros y Unión de los Mercados de Capitales DG FISMA 164
Proyectos e iniciativas
La DG FISMA tiene un proyecto blockchain llamado Puerta que es un repositorio de informes financieros para ayudar a los inversores a
encontrar fácilmente información financiera de manera centralizada. La herramienta se utiliza actualmente en los Estados miembros de la UE
a nivel nacional, pero la preparación de un módulo para informar a nivel de la UE está en proceso. La herramienta está inspirada en la
herramienta de informes financieros de los Estados Unidos EDGAR, un sistema centralizado para la consolidación y presentación de informes
financieros.
163 https://www.ngi.eu/event/blockchains-for-social-good/#BFSGP
164 DG FISMA, B.ADV01: Innovación tecnológica y ciberseguridad
57 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Además de los proyectos e iniciativas descritos anteriormente, algunas partes interesadas compartieron ideas durante las entrevistas. 165 para
el uso potencial de IA y / o blockchain / DLT que puede valer la pena explorar más y que podría convertirse en iniciativas y / o proyectos.
Algunos de estos incluyen:
- automatización de referencias de jurisprudencia y "citas en las que se puede hacer clic" 169;
DG JUST planea ejecutar varios proyectos sobre tecnología blockchain / contratos inteligentes que abordan diferentes tipos de preguntas
relacionadas con la ley de contratos, con énfasis en observar el lado práctico del uso de contratos inteligentes. 173
165 Una idea se define como "una sugerencia o plan para hacer algo". En el contexto de nuestro estudio, incluiría pensamientos, conceptos y / o creencias sobre las
posibles formas de utilizar tecnologías innovadoras para resolver problemas empresariales específicos. Sin embargo, una idea aún no está lo suficientemente madura
como para materializarse en una iniciativa o un proyecto.
166 Fuente: Entrevista al TJUE.
167 Tribunal de Justicia, El objetivo principal del proyecto sería facilitar la organización y programación
de reuniones y procedimientos judiciales.
168 Ibídem.
169 Fuente: entrevista con el Sr. Paul Nemitz y entrevista con OPEU.
170 Ibídem.
171 Ibídem.
172 Ibídem.
173 Fuente: entrevista con DG JUST A.2.
58 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Se han recibido un total de 100 (o el 100% de las 100) respuestas de partes interesadas de 25 Estados miembros y dos instituciones
europeas, es decir, el Tribunal de Justicia de la Unión Europea (TJUE) y la Oficina de Publicaciones (OPEU) a esta pregunta.
0 5 10 15 20 25 30 35
AUSTRIA 1
BULGARIA 2
CROACIA 1
CHEQUIA 1
DINAMARCA 5
ESTONIA 2
FINLANDIA 1
FRANCIA 3
ALEMANIA 3
GRECIA 2
HUNGRÍA 2
IRLANDA 1
ITALIA 35
Letonia 1
LITUANIA 3
LUXEMBURGO 1
MALTA 1
PAÍSES BAJOS 6
PORTUGAL 7
RUMANIA 1
REPÚBLICA ESLOVACA 1
ESLOVENIA 2
ESPAÑA 2
SUECIA 13
REINO UNIDO 1
INSTITUCIONES EUROPEAS ... 2
DESCARGO DE RESPONSABILIDAD: Algunas respuestas estaban total o parcialmente en un idioma diferente del inglés. Para que la
información sea comparable, estas respuestas se tradujeron al inglés. Las traducciones no son una versión oficial. Son solo para fines
indicativos. Las partes traducidas están marcadas con un (*).
59 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Tabla 6.1.1: Lista de partes interesadas que han proporcionado respuestas a este estudio, por
Estado miembro
Chequia 5. CZ
Dinamarca 6. DK - Kriminalforsorgen (* Servicio de Prisiones y DK (1)
Libertad Condicional) DK - Policía Nacional Danesa
7. DK DK (2)
8. - Abogado General DK (3)
(Rigsadvokaten)
9. DK - Ministerio de Justicia DK (4)
10. DK - Domstolsstyrelsen (* Administración judicial DK (5)
danesa)
Estonia 11. EE - Ministerio de Justicia EE (1)
12. EE - Ministerio de Justicia en nombre de los EE (2)
tribunales de Estonia
europeo 13. UE - Tribunal de Justicia de la Unión Europea CoJ de la UE
instituciones o
cuerpos
europeo 14. UE - Oficina de Publicaciones de la OPEU Unión Europea
instituciones o
cuerpos
Finlandia 15. FI - Ministerio de Justicia, Finlandia FR - FI
Francia dieciséis. Ministerio de Justicia FR (1)
17. FR - Cour de Cassation (* Tribunal de Casación) FR (2)
60 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
61 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Buscadores)
62 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
(* Consejo de la Judicatura)
Se ha recibido un total de 86 (o el 86% de las 100) respuestas de las partes interesadas a esta pregunta, donde 35 (o el 41% de las 86
respuestas) indicaron que su organización es un 'organismo gubernamental', 25 (o el 29% de las las 86 respuestas) indicaron que su
organización es una 'Judicial
63 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
autoridad ', 5 (o el 6% de las 86 respuestas) dijeron que su organización es una' autoridad de aplicación de la ley ', y 21 (o el 24% de las 86
respuestas) seleccionaron' Otro '.
Ley 41%
Autoridad judicial (p. Ej.
aplicación; 6%
Corte)
Otros (especificar.
Se ha recibido un total de 69 (o el 69% de las 100) respuestas de las partes interesadas, de las que 35 (o el 51% de las 69 respuestas)
seleccionaron 'Sí', 24 (o el 35% de las 69 respuestas) indicaron 'No', y 10 (o el 14% de las 69 respuestas) seleccionaron 'Otro'.
El número de partes interesadas que no respondieron a esta pregunta no se tiene en cuenta para el cálculo de los porcentajes representados
en el cuadro siguiente.
Demandado
Respuesta No. Demandado
código
si 1. PT - Fiscalía General de la Nación PT (2)
2. ES - Centro de Documentación Judicial (Centro de Documentación
Judicial [CENDOJ]) ES (1)
3. LT - Fiscalía General ES - Ministerio de Justicia LT (1)
4. ES (2)
5. PT - La Dirección General de Política de Justicia PT - Instituto dos PT (3)
6. Registos e do Notariado (* Instituto de Registros y Notarios)
PT (4)
7. UE - Tribunal de Justicia de la Unión Europea EU_CoJ
64 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
65 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
En la Sección 6.2 de este informe se presenta información más detallada sobre las estrategias.
P11: Si indicó 'Sí' a la pregunta 10, ¿los documentos relevantes abordan y detallan el uso de la inteligencia artificial en el campo de la justicia?
Se ha recibido un total de 35 (o el 35% de las 100) respuestas de las partes interesadas, donde 16 (o el 46% de las 35 respuestas)
seleccionaron 'Sí', 13 (o el 37% de las 35 respuestas) indicaron 'No', y 6 (o el 17% de las 35 respuestas) seleccionaron 'Otro'.
El número de partes interesadas que no respondieron a esta pregunta no se tiene en cuenta para el cálculo de los porcentajes representados
en el cuadro siguiente.
66 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Otro; 17%
Si; 46%
si
No; 37% No
Otro
6. Justicia SE (12)
7. PT - Instituto Nacional da Propriedade Industrial (* Instituto Nacional de
Propiedad Industrial (INPI)) IT - Ministerio de Justicia, Departamento de PT (6)
8. Asuntos de Justicia
ES (2)
9. IT - Tribunale di Ivrea ES (9)
10. IT - Tribunal de Apelación de Brescia ES (10)
67 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
P14: Si indicó 'Sí' a la pregunta 10, ¿los documentos relevantes detallan el uso de blockchain / DLT en el campo de la justicia?
Un total de 31 (o el 31% de las 100) partes interesadas respondieron a esta pregunta, donde 5 (o el 16% de las 31 respuestas) seleccionaron
'Sí', 20 (o el 65% de las 31 respuestas) indicaron 'No', y 6 (o el 19% de las 31 respuestas) seleccionaron 'Otro'.
El número de partes interesadas que no respondieron a esta pregunta no se tiene en cuenta para el cálculo de los porcentajes representados
en el cuadro siguiente.
si
No
Otro
No; sesenta y cinco%
68 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
P17: ¿Su país tiene actualmente legislación? 174 vigente que rija o sea aplicable al uso de la IA en el ámbito de la justicia?
Se ha recibido un total de 57 (o el 57% de las 100) respuestas de las partes interesadas, en las que 9 (o el 16% de las 57 respuestas)
seleccionaron 'Sí', 35 (o el 61% de las 57 respuestas) indicaron 'No', y 13 (o el 23% de las 57 respuestas) seleccionaron 'Otro'.
El número de partes interesadas que no respondieron a esta pregunta no se tiene en cuenta para el cálculo de los porcentajes representados
en el cuadro siguiente.
174 Para los propósitos de este estudio, 'legislación' o 'marco legislativo' debe significar constituciones, códigos de derecho, leyes
y su normativa de desarrollo, que se encuentre en vigor en los Estados miembros, y que rija en su totalidad o contenga disposiciones que regulen directa o
indirectamente el uso de la IA (y / o de DLT) y sean de aplicación al ámbito de la justicia o ámbitos afines.
69 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Si; dieciséis%
Otro; 23%
si
No
Demandado
Respuesta No. Demandado
código
si 1. SE - Ministerio de Justicia SE (12)
2. NL - Ministerio de Justicia y Seguridad NL - Ministerio de NL (2)
3. Justicia y Seguridad - Jurisprudencia - Robot NL (3)
70 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
TOTAL: 35 respuestas
Otro 1. PT - Instituto Nacional de Medicina Legal e Ciências Forenses (* Instituto
Nacional de Medicina Legal y Ciencias Forenses (INMLCF))
PT (1)
2. DE - Ministerio de Justicia, Renania del Norte-Westfalia UE - Tribunal de DE (1)
3. Justicia de la Unión Europea HU - Oficina Nacional del Poder Judicial EU_CoJ
4. HU (1)
5. DK - Fiscal General (Rigsadvokaten) MT - Departamento de DK (3)
6. Justicia MONTE
P23: ¿Su país tiene actualmente legislación vigente que rija o sea aplicable al uso de blockchain / DLT en el campo de la justicia?
Se ha recibido un total de 56 (o el 56% de las 100) respuestas de las partes interesadas, donde 6 (o el 11% de las 56 respuestas)
seleccionaron 'Sí', 38 (o el 68% de las 56 respuestas) indicaron 'No', y 12 (o el 21% de las 56 respuestas) seleccionaron 'Otro'.
El número de partes interesadas que no respondieron a esta pregunta no se tiene en cuenta para el cálculo de los porcentajes representados
en el cuadro siguiente.
71 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Si; 11%
Otro; 21%
si
No
Otro
No; 68%
Demandado
Respuesta No. Demandado
código
si 1. SE - Ministerio de Justicia IT - Tribunal de SE (12)
2. Ravenna ES (16)
3. IT - Procura della Repubblica di Busto Arsizio IT - Procura della ES (22)
4. Repubblica Presso il Tribunale di Lodi
ES (24)
5. IT - Tribunale di Busto Arsizio ES (25)
6. NL - Ministerio de Justicia y Seguridad NL (2)
TOTAL: 6 respuestas
No 1. NL - Centraal Orgaan opvang asielzoekers (* Agencia Central para la
Recepción de Solicitantes de Asilo)
NL (1)
2. PT - Oficina del Fiscal General SK - Ministerio de Justicia de PT (2)
3. la República Eslovaca
SK
4. GR - Ministerio de Justicia GR (1)
5. ES - Centro de Documentación Judicial [CENDOJ]) LU - Ministerio de
Justicia ES (1)
6. LU
7. ES - Ministerio de Justicia ES (2)
8. DK - Kriminalforsorgen (* El Servicio de Prisiones y Libertad
Condicional) DK (1)
9. PT - La Dirección General de Política de Justicia
PT (3)
10. PT - Instituto dos Registos e do Notariado (* Instituto de Registros
y Notarios) DK - Policía Nacional Danesa PT (4)
11. DK (2)
12. DE - Ministerio de Justicia, Renania del Norte-Westfalia
DE (1)
13. HU - Oficina Nacional del Poder Judicial BG - Ministerio de HU (1)
14. Justicia BG (1)
15. FR - Ministerio de Justicia FR (1)
dieciséis. FR - Cour de Cassation (* Tribunal de Casación) SE - Skatteverket (* FR (2)
17. Agencia Tributaria Sueca) PT - Ministerio de Justicia SE (9)
18. PT (5)
19. AT - Ministerio Federal de Asuntos Constitucionales, Reformas,
Desregulación y Justicia A
72 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
TOTAL: 38 respuestas
Otro 1. PT - Instituto Nacional de Medicina Legal e Ciências Forenses (*
Instituto Nacional de Medicina Legal y Ciencias Forenses
(INMLCF))
PT (1)
2. UE - Tribunal de Justicia de la Unión Europea DK - Fiscal General EU_CoJ
3. (Rigsadvokaten) MT - Departamento de Justicia DK (3)
4. MONTE
73 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Q28: ¿Su organización participa actualmente en proyectos que utilizan tecnología innovadora en el campo de la justicia?
Se ha recibido un total de 98 (o el 98% de las 100) respuestas de las partes interesadas, de las que 57 (o el 58% de las 98 respuestas)
seleccionaron 'Sí', 35 (o el 36% de las 98 respuestas) indicaron 'No', y 6 (o el 6% de las 98 respuestas) seleccionaron 'Otro'.
El número de partes interesadas que no respondieron a esta pregunta no se tiene en cuenta para el cálculo de los porcentajes representados
en el cuadro siguiente.
Otro; 6%
No; 36%
si
Si; 58%
No
Otro
Demandado
Respuesta No. Demandado
código
si 1. PT - Fiscalía General de la Nación PT (2)
2. SE - Bolagsverket (Oficina de registro de empresas suecas)
SE (2)
3. ES - Centro de Documentación Judicial (Centro de Documentación
Judicial [CENDOJ]) ES (1)
4. LT - Fiscalía General ES - Ministerio de Justicia LT (1)
5. ES (2)
6. PT - La Dirección General de Política de Justicia PT - Instituto dos PT (3)
7. Registos e do Notariado (* Instituto de Registros y Notarios)
PT (4)
8. SE - Servicio Sueco de Prisiones y Libertad Condicional DE - SE (4)
9. Ministerio de Justicia, Renania del Norte-Westfalia
DE (1)
10. UE - Tribunal de Justicia de la Unión Europea HU - Oficina Nacional EU_CoJ
11. del Poder Judicial FR - Ministerio de Justicia HU (1)
12. FR (1)
13. FR - Cour de Cassation (* Tribunal de Casación) SE - Skatteverket (* FR (2)
14. Agencia Tributaria Sueca) PT - Ministerio de Justicia SE (9)
15. PT (5)
dieciséis. SE - Tullverket (* Servicio de Aduanas Sueco) MT - Departamento de SE (10)
17. Justicia MONTE
74 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
22. Justicia CZ
23. DE - Comisión de tecnología de la información en el poder judicial (uso en
grupo de sistemas cognitivos en el poder judicial)
DE (2)
24. FI - Ministerio de Justicia FI
25. PT - Instituto Nacional da Propriedade Industrial (* Instituto
Nacional de Propiedad Industrial (INPI))
PT (6)
26. LT - Centro de Ciencias Forenses de Lituania NL - Ministerio de LT (3)
27. Justicia y Seguridad NL - Ministerio de Justicia y Seguridad NL (2)
28. Jurisprudencia-Robot
NL (3)
29. NL - Ministerio de Justicia y Seguridad DigiAkkoord
NL (4)
30. NL - Ministerio de Justicia y Seguridad - Freno de
emergencia financiera (FEB) NL (5)
31. NL - Ministerio de Justicia y Seguridad - Identidad digital de viajero
conocido (KTDI) NL (6)
32. IT - Avvocatura dello Stato (* Servicio jurídico gubernamental)
ES (1)
33. TI - Ministerio de Justicia, Departamento de Asuntos de Justicia
ES (2)
34. IT - Ministerio de Justicia ES (3)
35. IT - Tribunal de Apelación de Milán ES (4)
36. IT - Tribunale di Milano; (AGI avvocati giuslavoristi italiani
ES (5)
37. IT - Ministerio de Justicia - Tribunal de Apelación SALERNO
ES (6)
38. IT - Procura della Repubblica c / o Tribunale di Cosenza
ES (7)
39. IT - Tribunale di Firenze IT - Tribunale ES (8)
40. di Ivrea ES (9)
41. IT - Tribunal de Apelación de Brescia ES (10)
42. IT - Corte Suprema di Cassazione ES (11)
43. IT - Ispettorato generale presso il Ministero di Grazia e Giustizia
ES (12)
44. IT - Tribunal de Ravenna ES (16)
45. IT - Procura della Repubblica di Macerata ES (20)
46. IT - Procura della Repubblica di Busto Arsizio IT - Tribunale di Bergamo ES (22)
47. ES (23)
48. IT - Procura della Repubblica Presso il Tribunale di Lodi
ES (24)
49. IT - Tribunale di Busto Arsizio IT - Tribunale di ES (25)
50. Genova IT - Tribunale di Bologna HR - ES (33)
51. Ministerio de Justicia ES (34)
52. HORA
75 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
NL (1)
3. SK - Ministerio de Justicia SK
4. SE - Fiscalía sueca GR - Ministerio de Justicia SE (1)
5. GR (1)
6. SE - Ekobrottsmyndigheten (* Autoridad Sueca de Delitos
Económicos) SE (3)
7. LU - Ministerio de Justicia LU
8. DK - Kriminalforsorgen (* El Servicio de Prisiones y Libertad
Condicional) DK (1)
9. SE - Agencia Sueca del Consumidor SE (5)
10. SE - Autoridad de Competencia de Suecia SE - Guardia SE (7)
11. Costera de Suecia SE (8)
12. BG - Ministerio de Justicia BG (1)
13. LT - Ministerio de Seguridad Social y Trabajo PT - Conselho LT (2)
14. Superior da Magistratura - (* Consejo Superior de la Magistratura -
Consejo Superior de la Magistratura)
PT (7)
15. RO - Ministerio de Justicia DK - RO
dieciséis. Ministerio de Justicia DK (4)
17. SE - Lantmäteriet (* autoridad sueca de cartografía, catastro y
registro de tierras) HU - Ministerio de Justicia SE (13)
18. HU (2)
19. IT - Tribunale di Sorveglianza di Sassari IT - Procura della ES (13)
20. Repubblica presso il Tribunale di Lucca
ES (14)
21. IT - Tribunale per I Minorenni - Cagliari Procura della ES (15)
22. Repubblica di Palermo IT - Tribunale per I Minorenni-Bari ES (17)
23. ES (18)
24. IT - Procura della Repubblica presso il Tribunale di Monza
ES (19)
25. IT - Tribunale per I Minorenni-Perugia ES (21)
26. IT - Procura Generale della Repubblica presso la Corte di Appello di
Cagliari ES (26)
27. IT - Procura della Repubblica di Palermo IT - Tribunale di Pavia ES (27)
28. ES (28)
29. IT - Tribunale di Lecco IT - Tribunale ES (29)
30. di Varese ES (30)
31. IT - Tribunale Ordinario di Como IT - Tribunale di ES (31)
32. Sondrio ES (32)
33. GR - Tribunal Supremo de Justicia Civil y Penal
GR (2)
34. SI - Sodni svet Republike SlovenijeE (* Consejo Judicial)
SI (2)
35. IT - Giustizia Amministrativa (Consiglio di Stato e TT.AA.RR.) (*
Justicia administrativa [Consejo de Estado, Tribunales
Administrativos Regionales])
ES (35)
TOTAL: 35 respuestas
Otro 1. SE - Consejo de administración del condado de Västra Götaland
SE (6)
2. DK - Policía Nacional Danesa DK (2)
3. DK - Fiscal General (Rigsadvokaten) SI - Ministerio de Justicia DK (3)
4. SI (1)
5. BG - Instituto Nacional de Justicia BG (2)
76 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
P29: Si indicó 'Sí' a la pregunta 28, por favor, indique cuántos proyectos están explorando o utilizando Tecnología de IA, su organización
está involucrada actualmente?
Se ha recibido un total de 52 (o el 52% de las 100) respuestas de las partes interesadas, en las que 13 (o el 25% de las 52 respuestas)
seleccionaron 'Ninguna', 29 (o el 55% de las 52 respuestas) seleccionaron '1-3 proyectos ', 5 (o el 10% de las 52 respuestas) indicaron' 4-5
proyectos ', y 5 (o el 10% de las 52 respuestas) seleccionaron' Más de 5 proyectos '.
El número de partes interesadas que no respondieron a esta pregunta no se tiene en cuenta para el cálculo de los porcentajes representados
en el cuadro siguiente.
NINGUNA 25%
Demandado
Respuesta No. Demandado
código
Ninguna 1. PT - Fiscalía General LT - Fiscalía General PT (2)
2. LT (1)
3. PT - Dirección General de Política de Justicia SE - Servicio Sueco de PT (3)
4. Prisiones y Libertad Condicional HU - Oficina Nacional del Poder Judicial SE (4)
5. HU (1)
6. FR - Ministerio de Justicia francés FR (3)
7. IE - Departamento de Justicia e Igualdad ES DECIR
77 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
TOTAL: 13 respuestas
1-3 1. SE - Bolagsverket (Oficina de registro de empresas suecas)
Proyectos SE (2)
2. PT - Instituto dos Registos e do Notariado (* Instituto de Registros
y Notarios) PT (4)
3. FR - Cour de Cassation (* Tribunal de Casación) FR - Ministerio de FR (1)
4. Justicia francés FR (2)
5. SE - Skatteverket (* Agencia Tributaria Sueca) PT - Ministerio de SE (9)
6. Justicia PT (5)
7. SE - Tullverket (* Servicio de Aduanas Sueco) MT - Departamento de SE (10)
8. Justicia MONTE
9. CZ - Ministerio de Justicia FI - CZ
10. Ministerio de Justicia FI
11. PT - Instituto Nacional da Propriedade Industrial (* Instituto Nacional de
Propiedad Industrial (INPI)) LT - Centro de Ciencias Forenses de Lituania PT (6)
12. LT (3)
13. IT - Avvocatura dello Stato (* Servicio jurídico gubernamental)
ES (1)
14. TI - Ministerio de Justicia, Departamento de Asuntos de Justicia
ES (2)
15. IT - Ministerio de Justicia ES (3)
dieciséis. IT - Tribunal de Apelación de Milán ES (4)
17. IT - Tribunale di Milano (AGI avvocati giuslavoristi italiani)
ES (5)
18. IT - Ministerio de Justicia, Tribunal de Apelación de Salerno IT - Procura ES (6)
19. della Repubblica c / o Tribunale di Cosenza
ES (7)
20. IT - Tribunale di Firenze IT - Tribunale ES (8)
21. di Ivrea ES (9)
22. IT - Tribunal de Apelación de Brescia ES (10)
23. IT - Corte Suprema di Cassazione IT - Tribunal de ES (11)
24. Ravenna ES (16)
25. IT - Tribunal de Ravenna ES (33)
26. IT - Tribunale di Bologna ES (34)
27. HR - Ministerio de Justicia de Croacia HORA
P30: En el contexto de este cuestionario, indique para cuántos proyectos que están explorando o utilizando tecnología de inteligencia artificial
podría proporcionar información. Si tiene información de proyectos para más de 4 proyectos, por favor, indíquelo en el texto libre a
continuación y organizaremos una entrevista dedicada con usted.
Se ha recibido un total de 42 (o el 42% de las 100) respuestas de las partes interesadas, en las que 26 (o el 62% de las 42 respuestas)
seleccionaron '1 proyecto', 5 (o el 12% de las 42 respuestas) seleccionaron '2 proyectos ', 3 (o el 7% de las 42 respuestas) indicaron' 3
proyectos ', 2 (o el 5% de las 42 respuestas) indicaron' 4 proyectos ', y 6 (o el 14% de las 42 respuestas) seleccionaron' Otros '.
El número de partes interesadas que no respondieron a esta pregunta no se tiene en cuenta para el cálculo de los porcentajes representados
en el cuadro siguiente.
1 PROYECTO 62%
2 PROYECTOS 12%
3 PROYECTOS 7%
4 PROYECTOS 5%
OTRO 14%
Tabla 6.1.9: Número de proyectos que utilizan tecnologías de IA descritas en este estudio -
respuestas
Respuesta Demandado
No. Demandado
código
1 proyecto 1. SE - Bolagsverket (Oficina de registro de empresas
suecas) SE (2)
2. PT - Instituto dos Registos e do Notariado (* Instituto de registros y
notarios) DE - Ministerio de Justicia, Renania del Norte-Westfalia PT (4)
3.
DE (1)
4. UE - Tribunal de Justicia de la Unión Europea
EU_CoJ
5. FR - Ministerio de Justicia FR (1)
6. FR - Cour de Cassation (* Tribunal de Casación)
FR (2)
7. SE - Skatteverket (* Agencia Tributaria Sueca) SE - Tullverket (* SE (9)
8. Servicio de Aduanas Sueco)
SE (10)
9. CZ - Ministerio de Justicia CZ
79 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Los siguientes cuatro (4) encuestados que respondieron tener varios proyectos proporcionaron información adicional como se muestra en la
tabla siguiente.
80 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
P31: Si indicó 'Sí' en la pregunta 28, indique cuántos proyectos están explorando o utilizando blockchain / DLT, su organización está
involucrada actualmente?
Se ha recibido un total de 54 (o el 54% de las 100) respuestas de las partes interesadas, en las que 41 (o el 76% de las 54 respuestas)
seleccionaron 'Ninguna' y 13 (o el 24% de las 54 respuestas) seleccionaron '13 proyectos '. Nadie seleccionó '4-5 proyectos' o 'Más de 5
proyectos'.
El número de partes interesadas que no respondieron a esta pregunta no se tiene en cuenta para el cálculo de los porcentajes representados
en el cuadro siguiente.
NINGUNA 76%
4-5 PROYECTOS 0%
MAS DE 5 PROYECTOS 0%
Respuesta Demandado
No. Demandado
código
Ninguna 1. PT - Fiscalía General de la Nación PT (2)
2. SE - Bolagsverket (Oficina de registro de empresas suecas)
SE (2)
3. ES - Centro de Documentación Judicial (Centro de Documentación
Judicial [CENDOJ]) ES (1)
4. LT - Fiscalía General ES - Ministerio de Justicia LT (1)
5. ES (2)
6. PT - Dirección General de Política de Justicia PT - Instituto dos PT (3)
7. Registos e do Notariado (* Instituto de Registros y Notarios)
PT (4)
8. SE - Servicio Sueco de Prisiones y Libertad Condicional SE (4)
9. DE - Ministerio de Justicia, Renania del Norte-Westfalia UE - Tribunal de DE (1)
10. Justicia de la Unión Europea HU - Oficina Nacional del Poder Judicial EU_CoJ
11. HU (1)
12. FR - Cour de Cassation (* Tribunal de Casación) PT - Ministerio de FR (2)
13. Justicia PT (5)
14. SE - Tullverket (* Servicio de Aduanas Sueco) AT - Ministerio Federal de SE (10)
15. Asuntos Constitucionales, Reformas, Desregulación y Justicia
A
dieciséis. SE - Administración de Tribunales Nacionales de Suecia
(Domstolsverket) SE (11)
17. FR - Ministerio de Justicia francés FR (3)
18. IE - Departamento de Justicia e Igualdad ES DECIR
81 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
P32: En el contexto de este cuestionario, indique cuántos proyectos están explorando o utilizando cadena de bloques / DLT ¿Podrías
proporcionar información? Si tiene información de proyectos para más de 4 proyectos, por favor, indíquelo en el texto libre a continuación y
organizaremos una entrevista dedicada con usted.
82 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Se ha recibido un total de 14 (o el 14% de las 100) respuestas de las partes interesadas, donde 10 (o el 71% de las 14 respuestas)
seleccionaron '1 proyecto', 1 (o el 7% de las 14 respuestas) seleccionaron '2 proyectos ', nadie indicó poder proporcionar información sobre
más de 2 proyectos, y 3 (o el 22% de las 14 respuestas) seleccionaron' Otro '.
El número de partes interesadas que no respondieron a esta pregunta no se tiene en cuenta para el cálculo de los porcentajes representados
en el cuadro siguiente.
1 PROYECTO 71%
2 PROYECTOS 7%
3 PROYECTOS 0%
4 PROYECTOS 0%
OTRO 22%
Tabla 6.1.11: Número de proyectos que utilizan tecnologías blockchain / DLT descritos -
respuestas
Respuesta Demandado
No. Demandado
código
1 proyecto 1. FR - Ministerio de Justicia FR (1)
2. SE - Skatteverket (* Agencia Tributaria Sueca) MT - Departamento SE (9)
3. de Justicia MONTE
TOTAL: 1 respuesta
Otro 1. NL - Ministerio de Justicia y Seguridad NL (2)
2. IT - Procura della Repubblica di Busto Arsizio
ES (22)
3. IT - Tribunale di Busto Arsizio ES (25)
TOTAL: 3 respuestas
83 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Un total de 32 partes interesadas de 17 Estados miembros respondieron que cuentan con estrategias o políticas nacionales sobre el uso de
tecnologías innovadoras. 175.
Descargo de responsabilidad: El cuadro contiene las respuestas de las administraciones y organismos nacionales de 17 Estados miembros,
que respondieron que su Estado miembro cuenta con una estrategia o política nacional sobre el uso de tecnologías innovadoras en el ámbito
de la justicia. El cuadro contiene además información sobre siete Estados miembros que no proporcionaron información sobre una política o
estrategia; sin embargo, se encontró uno en línea basado en una investigación documental.
El estado de las estrategias o políticas se indica en la siguiente tabla como Adoptadas, 176 En la preparación de 177 o planeado 178 en los Estados
miembros.
El cuadro representa la información recopilada sobre las estrategias y políticas de los Estados miembros a partir de las respuestas al
cuestionario, la investigación documental o las entrevistas con representantes de las autoridades nacionales de los respectivos Estados
miembros. Cuando las partes interesadas las proporcionen en sus respuestas al cuestionario, durante una entrevista o estén disponibles
públicamente, las estrategias y / o políticas se incluyen en la Lista de referencias (Anexo I) y se incluye un enlace en la sección 'Comentarios'
de la tabla. abajo. Si no se proporcionó el texto de una estrategia o política, no está disponible, no constituye una 'estrategia o plan nacional' o
aún no está en la fase 'Adoptada', esto se indica con 'No aplica (N / A).
Los resúmenes presentados han sido propuestos por el contratista luego de revisar el documento respectivo. En los casos en los que un
documento no estaba disponible, la información sobre el mismo es proporcionada por el encuestado en su respuesta al cuestionario, esta
información se incluye en la sección 'Resumen' y se indica la fuente.
84 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
85 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
• Financiero fondos
e iniciativas a combustible
investigación e innovación
poder en el privado
86 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
• Transformación de el
ecosistema del sector público;
• Fomentando colaboración
y trabajo en red;
• Desarrollo de ética
directrices para el uso de IA.
184 Fuente: Entrevista con el Ministerio de Justicia de Croacia e investigación documental. La Estrategia ha sido elaborada por el Ministerio de Economía.
185 Fuente: Investigación documental
87 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
redes y
asociaciones;
• Mejorando el calidad de
servicios públicos a través de
el uso de aplicaciones digitales y relacionadas con
la inteligencia artificial;
situación, establecido
186 Nota: En la respuesta al cuestionario, la organización encuestada indicó que el período de la estrategia abarca de 2019 a 2035. Sin embargo, la estrategia en sí indica un período
hasta 2030.
187 Fuente: Respuesta al cuestionario e investigación documental.
88 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
89 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
conocimiento; y aumentado
inversión en IA.
es No indicación
respecto a la posible adaptación
de la legislación actual como la IA desarrollada
en Estonia estará completamente centrada en
el ser humano. por
el gobierno de Estonia, los beneficios de
utilizar la IA estarán en el desarrollo de la
gobernanza electrónica y
atraer nuevas inversiones en actividades
de innovación.
90 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
y
futura posición de Finlandia en el
competitivo internacional
panorama y elabora el impacto de la IA
tanto en el sector público como en el
privado. Hay 11 acciones clave:
1. Mejorar el negocio
competitividad a través de
el uso de IA
2. Utilizar datos de forma eficaz en todos los
sectores
3. Asegúrese de que la IA se pueda
adoptar más rápidamente
y facilmente
4. Asegurar el nivel superior
91 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
8. Haz de Finlandia un
líder en la era de la IA
10 Francia Abierto Justicia AI Adoptado Datos abiertos de fallos administrativos y N/A Francia tiene una dirección interministerial (DINUM) que
Programa 192 judiciales, anonimización automática promueve la puesta a disposición del público de los datos
de judicial (Open Data) y el uso de recursos y servicios digitales
oraciones mediante el uso de una tecnología de compartidos por ministerios y agencias gubernamentales.
inteligencia artificial. Fomenta el uso de tecnologías innovadoras en la
administración pública en general. Además, Francia ha
creado un coordinador nacional para la estrategia de IA.
92 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
12 centros y
centros de aplicaciones).
• Integrar la IA en la sociedad en
términos éticos, legales, culturales e
institucionales en el contexto de un
amplio diálogo social
y activo
93 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
94 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
diseminación de
95 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
información y
tecnologías de la comunicación,
así como a través de la reingeniería de
sistemas. El fortalecimiento y uso de
tecnologías innovadoras, tales
96 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
oportunidades para el
fuerza de trabajo
• Fomento de la investigación y la
innovación en IA para mejorar la
competitividad de el
ecosistema emprendedor
• Establecimiento de una normativa
y marco ético para garantizar una IA
sostenible y confiable
• Apoyo (internacional)
redes y asociaciones
• Desarrollando una datos
infraestructura para impulsar los
desarrollos de IA
• Mejora de los servicios públicos
mediante una adopción y un uso más amplios de
97 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
98 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
portal Guichet.lu/My
Guichet.lu para ciudadanos y personas
jurídicas.
Estratégico AI Adoptado La estrategia es parte de un N / A https: // digital-
visión para en Mayo programa de políticas más amplio llamado luxembourg.public.lu/sites/default/files/2
Luxemburgo 2019 Digital Luxembourg con el objetivo de coordinar 019-05 / AI_EN.pdf
204
y
fortalecimiento De Luxemburgo
esfuerzos en el digital
transformación hacia el
desarrollo de una sociedad digital sólida.
La estrategia actúa como un documento de
visión que describe las ambiciones de
Luxemburgo en el
campo de artificial
inteligencia y presentación
estratégico política
recomendaciones en llave
áreas. La visión política de la estrategia de
Luxemburgo es apoyar el desarrollo de una
99 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
• Fortalecer la nacional
investigación e innovación
ecosistema en el campo de la IA
• Incrementar el despliegue,
desarrollo y uso de la IA en todas las
actividades económicas, tanto en el
sector público como en el privado
• Promover nacional y
internacional
colaboraciones en IA y mejorar
red
oportunidades
• Desarrollar un marco ético y legal
para un
y
100 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
desarrollo transparente
de aplicaciones de IA
• Establecer un responsable
y eficiente datos
ecosistema para IA
18 Malta Digital General Adoptado Establece la visión sobre cómo se pueden 27 Además, otras leyes y políticas nacionales
Estrategia 2014 en 2014 implementar las TIC para mejorar tener estado adoptado. Eso
innovador
tecnologías dentro del campo de la justicia.
101 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
• Creación de un ecosistema de IA
sólido establecido en
inversiones, puesta en marcha
apoyo e innovación
• Apoyo para aumentado
adopción de la IA en el sector público
19 los Estratégico AI Adoptado El Plan de acción estratégico establece 25 Plan de acción estratégico sobre IA:
Países Bajos Plan de acción sobre el holandés https://bit.ly/2P7jJhO
AI (Octubre intención y principios de estar a la
2019) 209 vanguardia del uso de la IA, al mismo Carta al Parlamento del Ministro de Protección Legal sobre
tiempo que se protege el interés público. El la transparencia de los algoritmos utilizados por el
(Ver además objetivo principal de la estrategia se gobierno:
documentos en organiza en tres pistas. La primera pista https://bit.ly/2ufZ6sv
el comentario) engloba la creación de numerosos
Carta al Parlamento del Ministro de Protección Legal sobre
Público Privado IA y algoritmos:
Asociaciones, especialmente con https://bit.ly/3bUKO1q
102 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
https://bit.ly/2v2fKfl
103 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
104 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
transparencia comercial, y
capital. Aunque la IA podría ser altamente
disruptiva en todas estas dimensiones si se
hace ética por diseño, podría proporcionar
un conjunto de herramientas poderosas
que mejoran
sociedad y
democracia.
22 Eslovaquia 2030 Digital Digital Adoptado los 2030 Digital 28 El documento completo de la Estrategia de Transformación Digital 2030
Transformatio Transformar Estrategia de transformación para para Eslovaquia está disponible en:
n Estrategia para mación / Eslovaquia representa eslovaco
Eslovaquia 213 AI percepción de la necesidad de https://www.vicepremier.gov.sk/wp-
transformación de un content / uploads / 2019/10 / SDT-English-
industrial sociedad dentro un Versión-FINAL.pdf
información sociedad.
Además, esta estrategia,
coordinado principalmente por la Oficina
del Viceprimer Ministro de la República
Eslovaca para
Inversión y
Informatización, sigue la agenda de la UE
para el Digital Único
105 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Plan de acción para General Adoptado en El Plan de Acción de Eslovaquia establece N/A https://www.vicepremier.gov.sk/wp-
el digital 2019 una lista de iniciativas políticas con un contenido / subidas / 2019/10 / AP-DT-
transformación horizonte a corto plazo que cubre las English-Version-FINAL.pdf
de Eslovaquia por siguientes áreas estratégicas:
2019-2022
• Secundario digital
transformación de escuelas
y educación para prepararse para las
habilidades digitales necesarias en la era
digital
• Fortaleciendo la base
para una economía digital y de datos
106 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
107 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
108 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
109 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Esta sección presenta una descripción general de los 93 proyectos identificados a partir de las respuestas al cuestionario recibidas de las
autoridades nacionales y el poder judicial de 21 Estados miembros y complementado con las entrevistas (marcadas con '*' en la tabla
siguiente). La siguiente tabla muestra el número de proyectos por Estado miembro, la organización
- propietario del proyecto, el campo de justicia en el que se enmarca el proyecto, su estado, plazo y breve descripción.
Es importante resaltar que en el contexto de este estudio, un proyecto se define como una pieza de trabajo planificado o una actividad, que se
lleva a cabo durante un período de tiempo y tiene la intención de lograr un resultado particular. Más específicamente, un proyecto tendría un
presupuesto definido, un plazo, un equipo de proyecto asignado y entregables específicos; También se incluyen una prueba de concepto
(PoC) o documentos de casos comerciales. El estado de los proyectos se indica como Completado 219, En marcha 220, Planificado 221, o
suspendido 222 en un código de color como se muestra en la siguiente tabla.
Estado del proyecto Numero total Código de color en código rojo, verde y
azul (RGB)
Terminado 25
En marcha 55
Planificado 12
Suspendido 1
Total: 93
En este documento se presenta una descripción detallada de todos los proyectos completados y en curso en el Anexo II - Proyectos
explorados y casos de uso en los Estados miembros.
110 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
1 Austria Ministerio Federal de Justicia AI para análisis de AI En marcha 2017-2020 Penal Este proyecto se centra en el reconocimiento y la población de
datos de investigación investigación hechos y entidades en los datos de investigación (recopilados
mediante registros domiciliarios).
2 Austria Ministerio Federal de Justicia Anonimización del tribunal AI En marcha 2018-2023 Cualquiera Este proyecto se centra en el reconocimiento de datos
decisiones personales 3.2 en decisiones judiciales y su posterior
anonimización.
111 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
3 Austria Ministerio Federal de Justicia Asignación automatizada e IA Completado / iniciado en Cualquiera En El proyecto automatiza completamente la asignación2.1 y el
procesamiento de entrada producción 2017 - final procesamiento de documentos entrantes de canales electrónicos
documentos 2018 y / o documentos escaneados; la extracción de metadatos y la
identificación de números de casos con PNL, la categorización y
titulación de documentos; así como el reconocimiento del tipo de
trámite de nuevos casos entrantes.
4 Austria Jurisprudencia investigable del Ministerio Federal de Justicia AI En marcha Justicia penal 2019-2020 El proyecto se centra en la creación de a3.3
Sistema de archivo digital que sugiere flujos de trabajo o
tareas a los jueces.
112 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
bases de datos legales y habilitar citas en las que se puede hacer clic.
5 Austria Ministerio Federal de Justicia Reconocimiento facial para AI Planificado 2020-2021 Justicia penal Este proyecto se centrará en la creación de
presos alertas basadas en videovigilancia de reclusos incluidos
por reconociendo conductual
patrones, expresiones, gestos que pudieran implicar
situaciones anormales en las cárceles.
6 Austria Chatbot del Ministerio Federal de Justicia sobre un ciudadano AI En curso (en Comenzó en Any Este proyecto proporcionará servicios digitales 3.4 relacionados con
portal de servicio Prueba Beta 2019 - fin procedimientos judiciales a través de un portal móvil.
Fase; Mayo de 2020
Preparando para
Lanzamiento) El objetivo es que los ciudadanos puedan revisar los archivos en
cada etapa de un caso. Los ciudadanos serán guiados por un
chatbot si tienen preguntas (por ejemplo, sobre términos legales,
características de la plataforma o posibles pasos de
procedimiento).
113 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
7 Croacia Ministerio de Justicia Dictado a texto AI Completado / En julio- Alguna Este proyecto automatizará y agilizará los procesos comerciales
producción diciembre 2.2 en los tribunales y la fiscalía estatal
2018 oficinas por automáticamente
generar actas de reuniones, decisiones judiciales,
acusaciones. Se considera un primer paso hacia los
eCourts.
8 Croacia Ministerio de Justicia Proyecto de anonimización AI En marcha N/I Alguna Este proyecto de anonimización se encuentra en la fase de
(PoC) prueba de concepto 3.5 y actualmente se están negociando con
un proveedor. A nuestro entender, la herramienta se utilizaría
para la anonimización de los documentos judiciales antes de su
publicación.
9 Republica checa Ministerio de Justicia Anonimización judicial AI En marcha 2020- Alguna Esta proyecto además habilita el3.6
Herramienta (PoC) anonimización de una amplia gama de decisiones de los
tribunales públicos antes de su publicación. El objetivo es
automatizar la anonimización manual de las decisiones
judiciales antes de su publicación con el fin de que cumplan
con las leyes de protección de datos personales.
114 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
10 Dinamarca Administración de tribunales Domsdatabase AI En marcha Enero- Alguna Este proyecto seudonimiza las sentencias de los tribunales
(Domstolsstyrelsen) diciembre daneses 3.7 para poder publicarlas
2020 en una moverse a asegurar el
transparencia de las sentencias judiciales.
11 Dinamarca Fiscal General Planificador digital de tribunales AI En marcha 2019- Alguna El proyecto se centra en la asignación de 3.9 fechas, horarios y
(Rigsadvokaten) lugares de reuniones a los fiscales en función de su perfil.
12 Dinamarca Fiscal General Anonimizar personal y personal sensible En espera (antes de 2018 Alguna El proyecto anonimizará personal y no personal
(Rigsadvokaten) a la IA PoC) sensible información incluido
información en documentos de la organización para reducir el esfuerzo
documentos de la organización necesario para el trabajo manual.
13 Dinamarca Policía Nacional Danesa Explorando el uso de la tecnología de En marcha 2016- Delincuente Este proyecto explora las posibilidades de 3.8 usando tecnología
reconocimiento facial de IA Justicia; Ley de reconocimiento facial para víctimas
para identificación de víctimas aplicación identificación en niño abuso
a través de material pictórico investigaciones. Se llevan a cabo pruebas para explorar si
de abuso infantil la tecnología se puede utilizar para la identificación de
víctimas a través de material pictórico de abuso infantil.
115 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
14 Dinamarca Policía Nacional Danesa Proyectos a pequeña escala (1): hash En marcha N/I Delincuente Este proyecto a pequeña escala también se utilizará 3.10 en la
perceptual de IA justicia; Ley lucha contra los delitos de agresión sexual y / o abuso infantil.
aplicación
15 Dinamarca Policía Nacional Danesa Proyectos a pequeña escala (2): En marcha N/I Delincuente Este proyecto tiene como objetivo desarrollar una herramienta, 3.11,
Priorización de IA justicia; Ley que analizará el material relacionado con el abuso sexual de niños y
aplicación niñas y clasificará los casos más graves en primer lugar para que
sean tratados en primer lugar.
dieciséis Estonia Ministerio de Justicia en nombre Transcripción automática AI de los tribunales de En marcha 2018-2020 Alguna El proyecto se centra en una herramienta de transcripción
Estonia de las actas de los tribunales automática 3.12 utilizable en todo tipo de procedimientos judiciales
para generar actas de audiencias judiciales. Su objetivo es
resolver el problema de la transcripción manual de audiencias
judiciales y la preparación de actas judiciales, lo que requiere
mucho tiempo. En términos de tecnología, esta herramienta se
basa en Machine Learning, NLP y reconocimiento de voz.
116 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
17 Finlandia Ministerio de Justicia AI de anonimización automática En marcha octubre Alguna El proyecto consta de dos herramientas de inteligencia artificial basadas en
y descripción del contenido 2018- tecnología de lenguaje 3.13 para la anonimización automática y la
de documentos que contienen septiembre descripción del contenido de las decisiones judiciales y otras decisiones
datos personales (Anoppi) 2020, oficiales emitidas
Comienza el piloto por autoridades. los nuevo
18 Finlandia Ministerio de Justicia Proceso de robot AI Completado / En 2019 - Ejecución del proyecto RPA se utiliza actualmente en las 2.3 multas
automatización (RPA) producción enero área de aplicación de multas con varios objetivos: (1)
2020 realizar consultas por correo electrónico a los bancos y al
Centro de Población de Finlandia; (2) revisar los datos y
detectar casos de sobrepago erróneo para facilitar la
devolución del pago al
19 Finlandia Ministerio de Justicia Servicio de chatbot para AI Terminado octubre Justicia civil; los piloto servicio de chatbot para2.4
divorcio / separación pero no lo haré 2018- situaciones de divorcio / separación tiene como objetivo
situaciones (parte del proyecto entra febrero Derecho de familia y mejorar el acceso a los servicios públicos (parte del litigio
Aurora) producción 2019 Proyecto “Aurora”) ayudando a las personas que enfrentan un
divorcio / separación a encontrar los servicios locales más
adecuados / efectivos que satisfagan sus necesidades. La
herramienta se basa en sistemas expertos y sistemas
basados en reglas y procesamiento del lenguaje natural
(NLP). El proyecto no entrará en producción.
117 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
20 Francia Ministerio de Justicia DataJust AI En marcha 2019 - Justicia civil; El proyecto tiene como objetivo desarrollar una herramienta3.14 que prediga el
(PoC) principios de 2022 Civil General monto de la indemnización por diferentes reclamaciones por lesiones
Litigio corporales.
21 Francia Ministerio del Interior PreNIO DLT En marcha Enero- Justicia civil Este proyecto estudia la viabilidad de 3.15 implementar el estado
(PoC) Junio de 2020 civil en una cadena de bloques (por razones de seguridad), es
decir, crear un prototipo de registro de información civil.
118 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
22 Francia Cour de Cassation (Tribunal de casación impulsada por la AI En marcha Febrero - Justicia civil Diciembre El enfoque de este PoC es proporcionar un 3.16 automatizado
IA) * seudonimización de y caducado
decisiones judiciales 2019 seudonimización de francés Corte
decisiones, con el objetivo de resolver el problema de la
anonimización manual y la publicación de decisiones
judiciales en cumplimiento de las leyes de protección de
datos.
23 Alemania Comisión de tecnología de análisis de catastro de información en el AI En marcha Mayo de 2016- Registro de la Propiedad Este proyecto tiene como objetivo automatizar el análisis3,20 de
componente judicial del proyecto Diciembre archivos PDF existentes con información catastral. Posteriormente
Desarrollo de una base de datos 2020 la herramienta fragmentará el archivo y asignará los valores a un
federal catastral campo de la base de datos para poder almacenar el contenido de
forma estructurada en una base de datos.
24 Alemania Comisión de información Uso de la tecnología blockchain en la tecnología DLT PoC Agosto - Registro de la propiedad Este PoC, apuntado a evaluar Si a2.5
judicial en el área de Terminado diciembre Se puede proporcionar una garantía de integridad adicional para
la tierra de la base de datos 2018 la base de datos del registro de la propiedad mediante la
Registrarse tecnología blockchain.
25 Alemania Comisión de información Automatizada AI Planificado enero Justicia civil; Este proyecto examinará e identificará los No específicos
tecnología en el poder judicial Anonimización de la Corte 2020- Ley de Propiedad demandas y requisitos incluidos
Decisiones octubre necesario para el
2021 anonimización / seudonimización del tribunal
decisiones. El objetivo es poder producir
una cuerpo de
anonimizado / pseudonimizado Corte
119 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
26 Alemania Comisión de Información Legal Translation MachineAI tecnología en el Servicio En marcha Junio de 2018 Cualquiera Este proyecto proporcionará un servicio seguro de traducción
Judicial - diciembre machine3.21 para mejorar la eficiencia del proceso
2020 y adquirir conocimientos
de disponible datos, reportando y
visualización (por ejemplo, cuadros de mando).
27 Alemania Comisión de informaciónSistemas cognitivos en la tecnología de IA en la En marcha Abril 2019- Penal El proyecto proporcionará servicios de traducción segura
Fiscalía Judicial Abril de 2020 Justicia; Machine3.22 con el objetivo de: apoyar a los fiscales
Derecho penal investigaciones con
Aplicación; estructurando archivos; mejorar proceso
Delincuente eficiencia en la justicia; adquirir conocimientos de
Investigación datos disponibles y proporcionar informes y visualización (por
ejemplo, paneles de control).
28 Alemania Comisión de información Potencial de la tecnología blockchain DLT en el poder PoC octubre Alguna El proyecto tenía como objetivo examinar las 2.6 posibilidades de
judicial con respecto a un Terminado 2019- establecer un registro electrónico público que confirme el estado
registro de validez enero de validez de los documentos (válidos / revocados) basados en
2020 blockchain.
tecnología. Dos
ejemplos / casos de uso para ser examinados en
120 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
29 Alemania Delito Cibernético Central Proyecto de investigación para combatir la En curso (PoCA, abril de 2019, Justicia penal, el objetivo principal es identificar a los niños y realizar las pruebas) -
Departamento de Norte pornografía infantil con IA /Delincuente pornografía imagenes entre otro
Renania-Westfalia métodos de IA (Investigación operativa pornográfico o no pornográfico
fase) imágenes.
30 Alemania Delito Cibernético Central Identificación del odio AI En marcha Inicio del tercer trimestre Justicia penal La herramienta incluirá un sistema de puntuación para el 3.18 de 2013
Departamento de Norte crimen en las redes sociales (Actualmente identificación de delitos de odio. Es el resultado del trabajo
Renania-Westfalia entrenando AI para en equipo del Departamento Central de Ciberdelincuencia y
tener un de expertos universitarios con formación jurídica. Calificaron
puntuación las publicaciones en línea y la probabilidad de que
sistema) califiquen como delitos ilegales.
121 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
31 Alemania Delito Cibernético Central Futuro tribunal penal AI En marcha Q1 2020 Delincuente El objetivo es crear salas de tribunal modernas3.19 que permitan la
Departamento de Norte habitación Justicia; grabación de vídeo y el reconocimiento de voz-totexto. Todos los
Renania-Westfalia Delincuente participantes recibirán una transcripción y el archivo de audio
Actas incrustado. Se está considerando la proyección en 3D de las
escenas del crimen.
32 Hungría Oficina Nacional del Poder Reconocimiento de voz y AI En marcha 2018 Alguna El proyecto explora el uso de un software de reconocimiento y
Judicial proyecto de transcripción transcripción de voz3.23 en los tribunales para facilitar y agilizar la
redacción de decisiones judiciales y actas. Resultaría en la
reducción del esfuerzo manual.
33 Irlanda Departamento de Justicia y Matrícula Automática AI Igualdad Terminado 2010 Alguna El proyecto resultó en una herramienta que utiliza tecnología de
Reconocimiento (ANPR) reconocimiento óptico de caracteres (OCR) para leer las placas de
matrícula de los vehículos. Posteriormente, la tecnología de
Inteligencia Artificial se ha incorporado a la herramienta para la
captura automática de números de placa.
34 Irlanda Departamento de Justicia y Evaluar el potencial de AI Equality En marcha 2019 Alguna El objetivo del proyecto es evaluar el potencial de 3.24 de las
coincidencia facial (PoC) tecnologías de emparejamiento facial como una ayuda para el
tecnologías como ayuda para la proceso de recopilación de inteligencia.
recopilación de inteligencia
proceso
35 Italia Tribunal de Apelación, Brescia Justicia predictiva: una base de AI En marcha Abril de 2018- Justicia civil; Esta proyecto será implementar a3.26
datos para proporcionar Diciembre Labor y base de datos de jurisprudencia con el fin de proporcionar
pautas predecibles 2020 Predicciones del Seguro Social sobre pautas y plazos en la ley; Contratar áreas
y cronometraje en áreas particulares particulares del derecho.
y
Comercial En términos de tecnología, la base de datos utiliza
Ley; Empresa experta y sistemas basados en reglas y derecho
procesamiento natural del lenguaje.
122 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
36 Italia Tribunal de Apelación, Milán GAM - Giustizia Antimonopolio AI Terminado N/I Competencia Este proyecto se centró en la recopilación de jurisprudencia 2.8 en el
Milanese (* Milán Ley ámbito de la competencia. El sistema es uno de
Justicia antimonopolio) el elementos necesario para el
(conocimiento administrativo digitalización de civil y delincuente
Sistema de IA) actas como bien como algunos
administrativo funciones tal como
37 Italia Tribunale di Bologna Convención AI Planificado N/I Justicia civil; Este proyecto tendrá como objetivo identificar los criterios
Civil General para cuantificar las lesiones personales y las asignaciones de
(* Tribunal de Bolonia) Litigio; mantenimiento incluidas.
Derecho de familia y
Litigio Estará basado en sistemas. aprendizaje automático
38 Italia Tribunal de Apelación de Salerno IA en la gestión AI Planificado N/I Alguna Este proyecto tiene como objetivo mejorar la eficiencia.
sistema de salas de audiencias y acelerar la gestión de las salas incluidas en los tribunales y la
organización de audiencias judiciales.
39 Italia Corte Suprema di Nuevo sistema de monitorización AI para la Planificado N/I Alguna El proyecto se enfocará en renovar y no mejorar la eficiencia del
Cassazione infraestructura informática del tribunal de sistema de monitoreo incluido para la infraestructura informática del
casación juzgado de casación, utilizando tecnología de aprendizaje automático.
(* Tribunal Supremo de
Casación) y natural idioma
Procesando.
123 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
40 Italia Tribunale Firenze La ciudad de la justicia simple: En marcha 2018 Competencia El proyecto se centra en la elaboración de 3.27 modelos o
simplificación de la IA y (Investigación) ley renovable algoritmos que permitan evaluar la mediabilidad de las disputas,
(* Corte de Florencia) reducción de todos los años es decir, en qué medida las disputas podrían resolverse vía
cargas administrativas en mediación, también para que las partes y / o el juez puedan
el contexto de la resolución anticipar la probabilidad de una mediación exitosa.
de casos civiles
disputas
41 Italia Tribunale di Genova Algoritmos predictivos y decisiones En marcha N/I Alguna El proyecto dará lugar a la creación de 3.28 algoritmos predictivos
judiciales de IA para decisiones judiciales basados en el análisis semántico de
(* Tribunal de Génova) decisiones existentes. El proyecto pretende no solo desarrollar
algoritmos analíticos sino también herramientas adecuadas para
explicar su lógica operativa.
42 Italia Tribunale di Milano; AGI avvocati Portale giurisprudenza AI Suspendido 18 meses de Justicia Civil; los proyecto enfocado en caso leyNo
giuslavoristi del lavoro (* portal de jurisprudencia Laboral y gestión y accesibilidad a los tribunales incluidos
italiani (trabajo italiano laboral) Decisiones de seguridad social.
abogados) Ley;
Empleo La solución se basó en sistemas expertos y basados en
Ley reglas y procesamiento de lenguaje natural.
43 Italia Tribunal de Ravenna Processo Civile AI En marcha Empezado Justicia civil; El proyecto tiene como objetivo digitalizar los procedimientos
Telemático - PCT 2015 Civil General civiles3.29. Los objetivos clave son mejorar la eficiencia; aumentar
(* Juicio civil digital) Litigio la productividad por
automatizando bajo valor, rutina
ocupaciones; lograr un tiempo de prueba más rápido;
mejorar la 'tasa de resolución' (número de casos
procesados).
124 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
44 Italia Tribunal de Ravenna Firma digital DLT En marcha Empezado Alguna Este proyecto complementa el sistema IT3.30 existente del
2015 Tribunal de Ravenna mediante la introducción de una solución de
firma digital y almacenamiento de datos en una cadena de bloques
privada / consorcio autorizada.
45 Italia Departamento de Justicia Aut Dedere Aut Judicare AI En marcha Septiembre criminal La atención se centra en el análisis de datos y las estadísticas 3.31
Asuntos, Ministerio de Justicia 2017 Justicia; en el ámbito de la cooperación judicial internacional
Derecho penal en delincuente importa por
Aplicación detector cierto datos en diferente
documentos, como órdenes de aprehensión, traslados,
extradiciones, etc.
46 Italia Ministerio de Justicia Semiautomatizado AI En marcha Septiembre Justicia Civil; Este proyecto se centra en investigar por3.32 utilizando técnicas
anonimización de sensible 2019-marzo criminal innovadoras de PNL e IA para identificar automáticamente
entidades nombradas en documentos 2020 Justicia; nombrada
47 Italia Procura della Repubblica Giustizia penale e AI En marcha diciembre Delincuente El proyecto se centra en el modelado conceptual 3.33 de
c / o Tribunale di Cosenza intelligenza artificiale 2019- Justicia; procedimientos relacionados con datos, disposiciones pasadas
(* Justicia penal e IA) diciembre Delincuente junto con el desarrollo
(* Fiscal del Juzgado de Consenza) 2021 Investigación; de una taxonomía; diseño de un sistema informático a sentencia
apoyar estos procedimientos basados en raw
Aplicación datos; definición de métricas de similitud entre
procedimientos; diseño de un tablero para monitorear la
interpretación
125 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
48 Italia Legal gubernamental Avvocatura 2020 AI En marcha Junio de 2018 - Controversia Esta proyecto enfoques en roles3.25
Servicio* Resolución de diciembre administración, reconocimiento y
2020 procedimientos clasificación de documentos y
identificación de diferentes tareas.
49 Italia Procura della Repubblica Firma digital DLT En marcha 2015 - Justicia civil; El objetivo principal de la herramienta es proporcionar una firma
presso il Tribunale di Monza actualmente Civil General digital y almacenamiento de datos de 3.34. La herramienta ayudaría
Litigio en la gestión de documentos, en particular la firma digital de
(* Fiscal del Juzgado de Monza) documentos. Abordaría grandes volúmenes de documentos de
forma segura y rastreable.
126 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
50 Letonia Fiscalía General Reconocimiento de voz AI Terminado N/I Alguna Este proyecto dio como resultado una herramienta que aplica 2.9 AI para el
Oficina* (En reconocimiento de voz que se utilizará en la administración judicial.
producción)
51 Lituania Centro de Ciencias Forenses de la red en tiempo real, texto, AI Lituania En marcha Septiembre criminal El proyecto se centra en el seguimiento y descubrimiento de redes
y análisis de altavoces para (Desarrollos 2019 - Justicia; delictivas organizadas (a menudo transfronterizas).
combatir t) agosto Derecho penal
crimen - ROXANNE 2022 Aplicación;
Delincuente El resultado será ROXANNE, una plataforma de análisis
Investigación que mejora las capacidades de investigación especialmente
para grandes casos criminales. Su objetivo es mejorar la
identificación de personas de interés mediante el desarrollo
de una interfaz bidireccional entre tecnologías multimodales
52 Luxemburgo Ministerio de Justicia y anonimización de las autoridades judiciales AI En Pruebas Justicia civil Esta herramienta fue probada inicialmente por el 3.36 Tribunal de
caso de ley producción / O de Casación francés para anonimizar las sentencias judiciales.
yendo noviembre
pruebas 2019 a
Mayo de 2020 los solución proveedor entrenado el
algoritmo con las reglas de anonimización que siguen los
tribunales luxemburgueses. Una vez que un juicio es
anonimizado por el
127 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
53 Malta Notario del gobierno Notarypedia AI En marcha marzo Notarial El proyecto tiene como objetivo digitalizar documentos
2018-marzoInvestigación manuscritos históricos3.37 y explorar las posibilidades para hacer
2020 más versátil la búsqueda en bibliotecas digitales. Utiliza
representaciones basadas en gráficos que permiten la generación
automática de diferentes vistas lógicas.
54 Malta Departamento de Justicia Semantics4Courts AI En marcha Noviembre Cualquiera El proyecto implementa una capa semántica 3.38 en documentos
(PoC) 2018 - judiciales como sentencias. El objetivo es enriquecerlos
Junio 2021 semánticamente y vincularlos para que sean fáciles de buscar.
Otros objetivos son crear versiones digitales legibles por máquina
de la jurisprudencia, facilitando el pago de
honorarios de la corte,
128 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
55 Malta Departamento de Justicia Registro de abogados DLT Terminado, 2019 Abogados El proyecto piloto evaluó los beneficios y desafíos de la tecnología
pero no todavía registro blockchain2.10.
implementado
Su objetivo era crear un sistema de transparencia donde los
datos (información sobre justificaciones de los abogados)
sean compartidos por todas las partes (abogados, público y
gobierno) de manera transparente, inmutable y
descentralizada. Este es el primer registro electrónico de
abogados. Actualmente, la herramienta se desarrolla como
una cadena de bloques privada, sin embargo, su diseño le
permite pasar a una pública en el futuro. La intención es
poner los nombres y garantías de los abogados en la
cadena pública ya que esta última no contiene datos
personales.
56 Los países bajos Ministerio de Justicia y Jurisprudentierobot AI Terminado Diciembre criminal Esta terminado proyecto enfocado el2.11
Seguridad (Jurisprudencia-robot) (PoC) 2018 - Justicia; asegurando que los abogados encuentren rápidamente
Abril de 2019 Tribunal Penal pertinente jurisprudencia y otro
Actas Información necesaria.
57 Los países bajos Ministerio de Justicia y DigiAkkoord DLT En marcha 2018 - Alguna El proyecto tiene como objetivo apoyar el proceso de aprobación
Seguridad (PoC) actualmente 3.39 de flujos de trabajo, transacciones y documentos para el
gobierno a través de blockchain pública pero autorizada.
129 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
58 Los países bajos Ministerio de Justicia y El freno DLT de emergencia financiera En marcha 2017 Administrativo El proyecto en curso proporcionará a los ciudadanos3,40
Seguridad (PoC) ImplementaJustice; con una forma compatible con GDPR de declarar
ción: Incapacidad de pago administrativo.
Actas 2020/2021,
El proyecto se centra en ciudadanos vulnerables que tienen
situaciones financieras difíciles y problemas con el reembolso
de préstamos. Mediante el uso
el solución el responsable
La organización para el cobro de deudas tendrá información
oportuna sobre el deudor. De esta forma, puede contactar
con el deudor y conocer otro arreglo para el pago del
préstamo. El deudor tendrá una billetera digital personal
(basada en blockchain) que puede enviar información
específica sobre su situación a la organización cobradora.
59 Los países bajos Ministerio de Justicia y Viajero conocido digital DLT En marcha Verano Justicia civil Este proyecto se centra en probar la aplicabilidad 3.41 de una
Seguridad Proyecto piloto de identidad (PoC) 2020 - fin identidad digital durante el viaje de un pasajero de un extremo a
(KTDI) 2020 (6 otro desde la perspectiva del viajero, las organizaciones públicas y
meses) privadas. Toda la información del pasajero se cargaría por
y adelantado. El sistema tendría los datos de los pasajeros y podría
posible reconocerlos a partir de una imagen facial. Cuando el pasajero
prolongación pase por las puertas del aeropuerto, el sistema lo reconocerá
n para 6 mediante un escaneo visual y hará el check-in automáticamente.
más
meses
130 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
60 Portugal Instituto dos Registos e do IReNe - Notariado personal web (* Instituto AI Completado / liv2019 (6 Justicia civil; Este proyecto resultó en la creación de2.12
de Asistente e desde meses) Registro civil de IRENE - un asistente inteligente que los ciudadanos
Registros y Notarios) noviembre proporciona ayuda en línea a los ciudadanos que necesitan
2019 utilizar los servicios del Instituto Portugués de Registro y
Notario (IRN). Los navega a través de los servicios en línea
ahorrándoles el esfuerzo de ir en persona a las
instalaciones físicas del IRN.
61 Portugal Tecnología de IA del Ministerio Público para la Fiscalía AI En marcha 2019-2021 Justicia penal Este proyecto utiliza clasificación, indexación 3.42
análisis de evidencia y tecnologías de IA de búsqueda avanzada para el nuevo
sistema de gestión de casos (CMS) del Ministerio Público.
La herramienta tendrá en cuenta las especificidades de las
normas procesales del poder judicial portugués. Se espera
que el CMS brinde formas más completas de visualizar los
documentos concretos.
62 Portugal Ministerio de Justicia Balcão Único Do Prério Lab AI Completado / El piloto Registro de la Propiedad Este proyecto dio como resultado la creación de 2.13 BUPi
(BUPi) Lab AI / Punto caliente En producción funcionando e-Platform que conecta bases de datos y aplicaciones con
único para Entre información relevante sobre propietarios, ubicación y área del
ciudadanos [5] noviembre terreno, entre otros elementos. Tiene como objetivo permitir el
2017 y acceso a la información a través de un único punto, al tiempo que
noviembre facilita la relación entre los ciudadanos y la administración
2018 catastral nacional.
131 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
63 Portugal Ministerio de Justicia BALCAT - Proyecto de AI Planificado 9 meses Justicia Penal Este proyecto tendrá como objetivo la creación de una base de datos
análisis balístico para análisis forense balístico. En el caso de un delito grave, la
evidencia recopilada (es decir, información sobre el propietario del
arma) es esencial para la investigación. Las autoridades policiales
podrán acceder fácilmente a una base de datos adecuada para
identificar al propietario y otra información basada en el registro del
arma. Gracias a la herramienta podrían acceder a la información y al
análisis de forma casi inmediata.
64 Portugal Ministerio de Justicia Modelação, Predição e AI Planificado El piloto está planeado Este proyecto piloto utilizará decisiones anteriores de CourtNot para ayudar a
Decisão em Contexto de para los magistrados cuando se incluya la recepción de consultas o documentos
Jurisprudência inicio fin de de abogados. Permitirá conclusiones más rápidas por parte de los
2020 magistrados, lo que permitirá una justicia más rápida para los ciudadanos.
Portugal
sesenta y cinco Ministerio de Justicia Magistratos AI En marcha Hasta Administrativo El proyecto tiene como objetivo entregar un 3,43
Justicia de diciembre; Impuesto interfaz para magistrados (incluso
2020 y judicial fiscales), permitiendo la indexación de documentos e
tribunales información que forman parte de un caso judicial. También
permite una búsqueda rápida de documentos y contenidos.
132 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
66 Portugal Instituto Nacional da Inteligencia artificial de llenado electrónico de Planificado Marzo 2020 Industrial Este proyecto tiene como objetivo desarrollar un nuevo servicio.
Industrial Propriedade patentes y sistema de procesamiento - Marzo Propiedad para el público en general, que validará las solicitudes de patente
(Instituto Nacional de 2022 incluidas antes de su presentación. En segundo lugar, su objetivo es
Propiedad Industrial (PIIN)) facilitar el proceso de examen para los examinadores de la PIIN, incluida
la clasificación automática de las solicitudes de patente, el envío
automático al equipo de examinadores adecuado y la generación
automática de informes de búsqueda del estado de la técnica. Esto
reducirá el riesgo de duplicación de patentes.
67 Portugal Instituto Nacional da Experimentación y DLT Planificado febrero Industrial Esta proyecto será evaluar Si no
Industrial Propriedade pruebas de Blockchain en IP 2020 - Propiedad blockchain / basado en DLT solución podría incluir
(Instituto Nacional de Marzo 2022 incrementar seguridad dentro el NIIP
Propiedad Industrial (PIIN)) procedimientos y gestión de datos en los dominios de
ejecución descentralizada de contratos legales, intercambio
de datos confiable, "anclaje" de datos en sistemas clásicos,
etc.
68 Eslovenia Tribunal Supremo de la Devolver datos de servicio AI En curso (en 2014 - producción) Alguna Este proyecto reconoce fechas manuscritas3.44 en documentos.
República de Eslovenia Reconocimiento de escritura a mano actualmente Según la ley, las fechas deben estar escritas a mano. La
herramienta escanea el texto escrito a mano y reconoce la fecha y
el mes. Reconoce la fecha solo si se proporciona en un marcador
de posición específico del documento.
69 Eslovenia Tribunal Supremo de la COVL - Central AI Terminado 2004-2008 Cualquiera Este proyecto automatiza la aplicación de 2.14 documentos
República de Eslovenia Departamento para auténticos. Su objetivo es mejorar la eficiencia en los procesos
Ejecución sobre la base de comerciales relacionados con la aplicación mediante la
documentos auténticos introducción de un
133 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
70 España Ministerio de Justicia Textualización de medios audiovisuales En marcha Diciembre Cualquiera Este proyecto se centra en proporcionar una herramienta 3.45 que
de IA 2018- transcriba archivos de audio y video y luego permita una posible
diciembre búsqueda en el texto. En términos de tecnología, la solución se
2020 basa en el aprendizaje automático, la búsqueda avanzada y la
información de búsqueda semántica.
71 España Ministerio de Justicia Documento automatizado AI En marcha Noviembre Cualquiera El proyecto se centra en la clasificación automática de
clasificación 2018 - documentos 3.46 para agilizar los trámites judiciales
diciembre administrativos.
2021
La solución se basa en el aprendizaje automático y el
procesamiento del lenguaje natural.
72 España Ministerio de Justicia Biometría para AI Planificado noviembre Delincuente Este proyecto facilitará el acceso a la No justicia para los ciudadanos.
alusiones personales 2019- Justicia; La solución se basa en el aprendizaje automático y la visión por
diciembre Derecho penal computadora.
2021 Aplicación;
Corte Criminal
Actas
73 España Centro de Documentación Automatizadas sentencias Judicial (Judicial AI En marcha 2018-2022 Cualquiera Este proyecto se centra en la clasificación de 3,49 oraciones para
clasificación proporcionar resultados de búsqueda más precisos, así como para
Centro de documentación vincular oraciones con otros documentos (otras oraciones,
[CENDOJ])
legislación, publicaciones)
relacionados con el mismo tema.
134 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
74 España Centro de Documentación Creación de Judicial estructurado (Judicial AI En marcha 2018-2022 Cualquiera El proyecto se centra en la creación automatizada3,50 de
datos documentos y estructurado
Centro de documentación datos. El objetivo es lograr resultados de búsqueda más
[CENDOJ]) precisos para los usuarios de la herramienta. La herramienta
busca datos personales como un número de identidad
personal, dirección u otro que identifique a una persona. El
proyecto se encuentra actualmente en fase de prueba.
75 España Centro de Documentación Business Intelligence Judicial (Judicial AI En marcha 2018-2022 Cualquiera Este proyecto tiene como objetivo recopilar conocimientos sobre el
uso de aplicaciones, así como recopilar el contenido de los
Centro de documentación documentos, es decir, sentencias, legislación, publicaciones y
[CENDOJ]) documentos de la fiscalía. El objetivo es mejorar la calidad de la
aplicación de búsqueda, asegurar resultados precisos y ofrecer
una aplicación amigable e intuitiva.
76 España Centro de Documentación Automatizadas sentencias Judicial (Judicial AI En marcha 2018-2022 Cualquiera El proyecto tiene como objetivo reducir los costes y el tiempo
seudonimización necesario para la seudonimización de las sentencias y decisiones
Centro de documentación judiciales para poder hacerlas públicas con mayor rapidez.
[CENDOJ])
77 Suecia Bolagsverket (La herramienta sueca para elegir la empresa Registro de En marcha enero Justicia civil; Este proyecto tiene como objetivo brindar posibilidades3.51
empresas de IA nombre 2019 - fin de la ley de sociedades para que un emprendedor elija una empresa 2020
Oficina) nombre, que tiene buenas posibilidades de ser
(potencialmente aprobado en Bolagsverket manual
Procesos. Como resultado, el riesgo de rechazar
135 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
78 Suecia Skatteverket (orientación legal fiscal sueca con la agencia de inteligencia artificial) AI Terminado Q2 2019 - Administrativo Esta solución para la Agencia Tributaria prevé 2.24 Q4 2019
apoyo (PoC) Justicia; apoyo en la búsqueda de información para
Administrativo que se podría encontrar más fácilmente. Ley;
Se agregan metadatos y palabras clave y
Las consultas de búsqueda administrativa están optimizadas para identificar Procedimientos
ellos.
79 Suecia Skatteverket (Agencia de procesamiento de recibos digitales de impuestos suecos DLT) Terminado Q2 2018 - Administrativo Durante este proyecto una solución, identificó 2.16
(PoC) actualmente Justicia; en una fase anterior, fue más
Administrativo explorado. La primera fase del proyecto fue sobre
Ley; soluciones técnicas inspiradas en blockchain para
Administrativo contabilidad, auditoría e impuestos y la segunda fue sobre
Actas el procesamiento de recibos digitales. Digitaliza los recibos
de empresas.
136 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
80 Suecia Skatteverket (Agencia Sueca de Registro de Personal Fiscal) DLT Terminado Q2 2018 - Administrativo actualmente Durante este proyecto, se exploró más a fondo una solución,
(PoC) Justicia identificada 2.17 en una fase anterior. La primera fase del proyecto
fue sobre soluciones técnicas inspiradas en blockchain para
contabilidad, auditoría e impuestos y la segunda fue sobre
registros de personal. De acuerdo con la ley, los empleados deben
estar registrados en un registro de personal. Para ayudar en la
lucha contra el trabajo ilegal, sería útil un nuevo enfoque digital.
81 Suecia Skatteverket (Agencia Sueca de Impuestos en Tiempo Real / SINK) DLT Terminado Q2 2018 - Administrativo actualmente Durante este proyecto, se exploró más a fondo una solución,
(PoC) Justicia identificada 2.18 en una fase anterior. La primera fase del proyecto
fue sobre soluciones técnicas inspiradas en blockchain para
contabilidad, auditoría e impuestos. La segunda fase se llama
Realtime / SINK. Su objetivo es registrar la información de pagos
contables y fiscales en tiempo real.
82 Suecia Skatteverket (Agencia sueca de representación fiscal) DLT Terminado Q2 2018 - Administrativo actualmente Durante este proyecto, se exploró más a fondo una solución,
(PoC) Justicia identificada 2.19 en una fase anterior. La primera fase del proyecto
fue sobre soluciones técnicas inspiradas en blockchain para
contabilidad, auditoría e impuestos. La segunda fase se llama
Proxies.
137 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
83 Suecia Skatteverket (Agencia de información de la empresa fiscal sueca) DLT Terminado Q2 2018 - Administrativo actualmente Durante este proyecto, se exploró más a fondo una solución,
servicios (PoC) Justicia identificada2,20 en una fase anterior. La primera fase del proyecto
fue sobre soluciones técnicas inspiradas en blockchain para
contabilidad, auditoría e impuestos. La segunda fase, los servicios
de información de la empresa, permite
gerente
información de la empresa de forma simple y estandarizada,
que tendría que ser compartida una sola vez, para que las
autoridades puedan consultarla fácilmente y estar
disponible para reportes estandarizados.
138 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
84 Suecia Skatteverket (Agencia Sueca de Facturas de Impuestos) DLT Terminado Q2 2018 - Administrativo actualmente Durante este proyecto, se exploró más a fondo una solución,
(PoC) Justicia identificada2.21 en una fase anterior. La primera fase del proyecto
fue sobre soluciones técnicas inspiradas en blockchain para
contabilidad, auditoría e impuestos. En la segunda fase, Facturas,
se desarrolló una herramienta para el seguimiento de impuestos
sobre bienes vendidos en empresas y tiendas. Ayudará a la
Agencia Tributaria a detectar el fraude fiscal y asegurar los
ingresos del IVA. Todos los impuestos pasarán directamente a
través de un único servidor y solo se generará una factura de IVA.
La ambición es proteger la integridad, la seguridad y la privacidad
de los datos.
85 Suecia Skatteverket (contratos inteligentes de impuestos suecos para la agencia terrestre DLT) Terminado 2017 - Registro de la Propiedad Este proyecto exploró los contratos inteligentes en 2.22 el contexto de los
Registros (PoC) 2018 registros catastrales.
tecnología blockchain.
139 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
86 Suecia Tullverket (* sueco PERFIL (paquete de trabajo AI En marcha agosto Administrativo El objetivo es aprovechar el estado de la técnica3.52
Servicio de Aduana) sobre riesgo fiscal 2018 - Justicia de julio; 2021 análisis de datos e incorporar nuevos datos
gestión, ilegal Fuentes de justicia penal para eficaz aduana riesgo
87 Suecia Competición sueca Mejora de la IA de eficiencia del trabajo Planificado Abril de 2020 Administrativo Este proyecto se centrará en la clasificación y No la separación de pruebas
Autoridad de investigación por parte de la - abril Ley; (es decir, correos electrónicos) incluidos que contienen
competencia sueca 2021 Administrativo información pertinente para
88 Suecia Globo de prueba de la agencia de consumidores sueca AI Terminado N/I Justicia civil; Este proyecto tenía como objetivo explorar el 2.23
(PoC) Posibilidades de ley del consumidor de un bot (FairAdBot) para mapear
anuncios ocultos. El "FairAdBot" utiliza el reconocimiento de
imágenes y el análisis de texto.
140 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
89 Suecia Domstolsverket (Tribunales nacionales de transcripción automática AI Terminado N/I Alguna Uso de la información de transcripción automática 2.15 se puede
sueca) PoC comparar utilizando voces grabadas y grabaciones de video.
Administración) Además de la transcripción automática, se podría utilizar la
traducción automática. Esto reduciría el tiempo y los costos y
ayudará al trabajo de traductores y transcriptores.
90 Suecia Domstolsverket (traducción al sueco AI En marcha N/I Alguna Este proyecto desarrolló una herramienta de inteligencia artificial para traducir
Tribunales nacionales PoC existente Corte decisiones.
Administración) Actualmente, esto se hace manualmente y es costoso y
requiere mucho tiempo. El proyecto se basa en una solicitud
de los tribunales para investigar el potencial del uso de IA.
91 Suecia Domstolsverket (anonimización sueca del tribunal Tribunales nacionales AI En marcha N/I Alguna Este proyecto proporcionará anonimización3.54 antes de que una
decisiones PoC decisión judicial se haga pública. La herramienta de IA tiene como
Administración) objetivo acelerar y ayudar el trabajo de los administradores. A partir
de una primera versión, los resultados son muy satisfactorios
aunque preservar el contexto ha sido un desafío.
141 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No Estado miembro Organización / Proyecto Título del Proyecto Estado AI / DLT Marco temporal Campo de justicia Descripción breve Proyecto
propietario árbitro. No. en
Anexo II
92 Suecia Domstolsverket (Chatbots suecos AI Terminado N/I Cualquiera Este proyecto utiliza Microsoft Bot2.25 Framework (código abierto)
Tribunales nacionales (PoC) para probar la posibilidad de proporcionar respuestas a preguntas
Administración) simples y repetitivas en el sitio web de los Tribunales Nacionales.
Actualmente, la solución está en desarrollo y está previsto que
entre en producción en un futuro próximo. Está previsto el
despliegue de diferentes chatbots. Se pueden implementar en
servidores locales, en la nube o de forma híbrida.
93 Suecia Domstolsverket (toma de decisiones sueca AI En marcha N/I Alguna Este proyecto tiene como objetivo explorar qué técnicas de AI /
Tribunales nacionales PoC ML3.55 se pueden utilizar para ayudar en el proceso de toma de
Administración) decisiones en los tribunales y qué conocimientos basados en datos
se pueden identificar con la ayuda de AI. El proyecto es de naturaleza
exploratoria y no necesariamente conducirá a un producto terminado.
142 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
La siguiente tabla presenta una descripción global de iniciativas 223 para la futura implementación de AI y / o DLT por las autoridades o el poder judicial de los Estados de Mamber y que se han discutido con las partes
interesadas durante las consultas de entrevistas.
Estado miembro Organización Título de la iniciativa AI / DLT Campo de justicia Breve descripción
dominio
Dinamarca Policía Nacional Danesa Por confirmar en términos de presupuesto disponible Delincuente Justicia; Esta iniciativa ampliará el alcance de la
de IA y madurez del concepto Delincuente herramienta existente del danés
Investigación; Ley Nacional Policía,
aplicación Hashing perceptual. Con base en ML, la
herramienta de IA identificará los materiales
más urgentes y mejorará la priorización de las
investigaciones de acoso sexual.
Estonia Ministerio de Justicia Bot de nombre comercial AI Alguna Esta iniciativa tiene como objetivo ayudar a las
empresas durante el nombre
proceso de registro proporcionando una
evaluación de si el nombre de una empresa es
adecuado y legalmente correcto.
Chatbot para asistencia jurídica AI Alguna Esta iniciativa brindará asesoría legal a las
personas.
223 Una iniciativa se define como "un nuevo plan o acción para mejorar algo o resolver un problema". En el contexto de nuestro estudio, significaría una acción bien pensada, con pasos
emprendido para materializarlo en un proyecto, sin embargo, sin un presupuesto específico asignado y / o un plazo para su implementación.
143 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Grecia Ministerio de Justicia Anonimización de las decisiones de la Corte AI para el uso de Alguna Grecia planea participar en un proyecto de la
datos abiertos eJustice 2019-2023
Acción Plan:
Anonimización y
pseudoanonimización de la corte
decisiones para el uso de datos abiertos.
Malta Departamento de Justicia Plataforma online para subida de notarial general Derecho notarial Una de las iniciativas digitales que se están
andanzas y otro desarrollando actualmente es el Archivo Notario,
documentos que es una herramienta para la tramitación de las
escrituras notariales más recientes. Permitirá a
los notarios y a los ciudadanos obtener estos
documentos en línea. Las escrituras originales en
papel deberían ser escaneadas. Como segundo
paso, la herramienta está destinada a
proporcionar una plataforma en línea para que
los notarios carguen
su andanzas directamente.
144 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
La siguiente tabla presenta una descripción global de ideas 226 para la futura implementación de AI y / o DLT por las autoridades de los Estados miembros o el poder judicial y que se han discutido con las partes
interesadas durante las consultas de entrevistas.
Croacia Ministerio de Justicia Herramienta de recomendación AI Herramienta de recomendación a los jueces, con el fin de abordar la
armonización de la jurisprudencia.
224 En el momento de las consultas a las partes interesadas para este proyecto.
225 En el momento de las consultas a las partes interesadas para este proyecto.
226 Una idea se define como "una sugerencia o plan para hacer algo". En el contexto de nuestro estudio, incluiría pensamientos, conceptos y / o creencias sobre las posibles formas de utilizar tecnologías innovadoras para resolver problemas empresariales
específicos. Sin embargo, una idea aún no está lo suficientemente madura como para materializarse en una iniciativa o un proyecto.
145 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Alemania Central Cybercrime Hybrid cloud para documentos y AI En cuanto a los resultados generales del proyecto de acuerdo con el estado actual de
Departamento de pruebas electrónicas del Norte la investigación, en la primera etapa la IA satisface la demanda que se le impone para
Renania-Westfalia la capacidad de diferenciar y reconocer el contenido de imágenes deconstruidas en un
escenario de nube híbrida. El concepto de nube híbrida en este caso podría reutilizarse
en la investigación de evidencias documentales y electrónicas (correos electrónicos).
Grecia Ministerio de Justicia Toma de decisiones de judicial AI Esta idea consiste en utilizar la IA para proponer la redacción de las decisiones
actas judiciales con el fin de impactar positivamente el trabajo de jueces y administradores.
Luxemburgo Ministerio de Justicia Chatbot para ciudadanos AI La idea es crear un chatbot que ayude a los ciudadanos a proporcionar
información sobre procedimientos legales.
Portugal los Dirección- Asistido por computadora legislativo AI Potencial de utilizar el sistema LEDA, utilizado actualmente en los Países Bajos.
Política de redacción general de justicia (LEDA) Según un artículo académico 227, este sistema fue construido para apoyar a los
redactores legislativos holandeses durante el proceso de redacción. LEDA es un
Sistema de Asesoramiento y Diseño Legislativo diseñado para ofrecer un fácil
acceso a las Directivas Neerlandesas para Reglamentos (Aanwijzingen voor de
regelgeving). Guía a los usuarios a través de una lista de verificación de
redacción interactiva y verifica los borradores legislativos para ver si se cumplen
o no requisitos importantes de redacción. El sistema LEDA se utiliza actualmente
en holandés
227 W. Voermans, ' Redacción legislativa asistida por computadora en los Países Bajos: el sistema LEDA ', Centro de Estudios Legislativos Instituto Schoordijk, Facultad de Derecho, Tilburg
Universidad, 2019.
146 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
departamentos ministeriales. Sin embargo, esto sigue siendo una idea y se está
debatiendo internamente.
Suecia sueco Consumidor Algoritmo de búsqueda AI Un algoritmo basado en inteligencia artificial para buscar en las páginas web de los operadores
Agencia que buscan marketing oculto. Este es un trabajo manual que requiere mucho tiempo y se espera
que se haga mejor y más rápido con la ayuda de una herramienta de inteligencia artificial.
Algoritmo de búsqueda AI Tienda misteriosa. Una forma de identificar si y cómo algunas páginas web recopilan y
procesan datos personales y si hay algún uso indebido de estos datos, por ejemplo,
vendidos a intermediarios de datos.
evidencia electrónica DLT Una aplicación blockchain para guardar y proteger la evidencia electrónica.
Análisis del comportamiento del consumidor AI Una herramienta que ayudaría a comprender y analizar mejor el comportamiento de
los consumidores en Internet.
Suecia Servicio Sueco de Prisiones y Automatización de la Libertad Condicional AI Actualmente, la planificación de la ocupación de la organización y otros procesos
Administrativa procesos administrativos se gestionan manualmente dentro de los sistemas de TI. La idea
sería explorar cómo el uso de tecnologías innovadoras como la IA podría ayudar
a mejorar esos procesos.
Trazabilidad y confiabilidad de la información DLT Se comparte un gran volumen de información con otras autoridades nacionales.
Este intercambio de información requiere asegurar la trazabilidad y confiabilidad,
para lo cual el uso de DLT podría ser una solución potencial.
147 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Se han presentado 39 respuestas de partes interesadas de 19 Estados miembros y una respuesta de partes interesadas a nivel europeo: la
Unión Europea de Funcionarios Judiciales (UEHJ) y la Fundación Europea de Alguaciles (EUBF).
Se recibió un total de 39 respuestas de partes interesadas de 19 Estados miembros y una respuesta de dos organizaciones a nivel europeo.
AUSTRIA 2
BÉLGICA 4
CHIPRE 1
CHEQUIA 2
DINAMARCA 1
ESTONIA 1
NIVEL EUROPEO 1
FRANCIA 1
ALEMANIA 2
IRLANDA 1
ITALIA 14
LUXEMBURGO 1
PAÍSES BAJOS 1
POLONIA 2
PORTUGAL 1
RUMANIA 1
ESLOVENIA 1
ESPAÑA 1
SUECIA 1
REINO UNIDO 1
Respuesta
Demandado
No. Demandado
código
Austria 1. PHH Rechtsanwaelte (* PHH Abogados) A LA 1)
(Barra austriaca)
Bélgica 3. Olivier Vajda SER (1)
148 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Fundación (EUBF)
Francia 13. Mueble Morelon Avocat Paris FR
Alemania 14. Bundesrechtsanwaltskammer (Colegio de Abogados Federal Alemán DE (1))
Italia 17. Studio legale Avv. Francesco Patruno (* Law IT (1) bufete Francesco Patruno)
25. Consiglio Nazionale dell'Ordine dei Consulenti IT (9) del Lavoro (* Consejo Nacional
de la Orden de Asesores Laborales)
30. Collegio Nazionale degli Agrotecnici e degli IT (14) Agrotecnici Laureati (* Colegio
Nacional de Agricultura
Técnicos y Graduado
Técnicos agrícolas)
Luxemburgo 31. Kaufhold & Reveillaud, Avocats LU
Países Bajos 32. SSR, Centro de Formación y Estudios para el Poder Judicial NL
149 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Se recibió un total de 40 (o el 100% de las 40) respuestas a esta pregunta, donde 1 (o el 2% de las 40 respuestas) indicó ser de una
organización académica, 1 (o el 2% de las 40 respuestas) indicó que su organización es una organización de alguaciles, 18 (o el 45% de las
40 respuestas) indicaron que su organización es un colegio de abogados o sociedad de abogados, 7 (o el 18% de las 40 respuestas) dijeron
que su organización es una práctica de derecho privado, y 13 ( o el 33% de las 40 respuestas) seleccionaron 'Otro'.
Academia; 2%
Alguacil; 2%
Otro; 33%
Academia
Colegio de Abogados o Ley;
Organización alguacil
45%
Colegio de abogados o Colegio
Otro
Demandado
Respuesta Demandado código
Academia IT - Scuola Superiore Sant'Anna (LIDER-Lab del Instituto DIrpolis) (Escuela de ES (13)
Estudios Avanzados Sant'Anna - Pisa)
150 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
de abogados) PL (1)
BE - Avocat Geoffrey Deliége IT - Avv. Silvia SER (2)
IT - Collegio Nazionale dei Periti Agrari e dei Periti Agrari Laureati (* Colegio ES (12)
Nacional de Peritos Agrícolas y Peritos Agrícolas Graduados) (CNPAPAL)
7.1.3. Políticas y estrategias existentes sobre el uso de tecnologías innovadoras en el campo de la justicia
151 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Se recibió un total de 39 (o el 98% de las 40) respuestas a esta pregunta, donde 16 (o el 41% de las 39 respuestas) seleccionaron 'Sí', 20 (o
el 51% de las 39 respuestas) indicaron 'No', y 3 (o el 8% de las 39 respuestas) seleccionaron 'Otro'.
El número de partes interesadas que no respondieron a esta pregunta no se tiene en cuenta para el cálculo de los porcentajes representados
en el cuadro siguiente.
Otro; 8%
Si; 41%
si
No; 51%
No
Otro
Demandado
Respuesta Demandado
código
si ES - Consejo General de la Abogacía Española, Delegación en Bruselas ES
(Consejo General de Abogados Españoles)
SE - Simon Advokatbyrå AB SE
AT - PHH Rechtsanwaelte (* PHH Abogados) A LA 1)
152 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
P11: Si indicó 'Sí' a la pregunta 10, ¿los documentos relevantes abordan y detallan el uso de la inteligencia artificial en el campo de la
justicia?
Se recibió un total de 16 (o el 40% de las 40) respuestas a esta pregunta, donde 8 (o el 50% de las 16 respuestas) seleccionaron 'Sí', 6 (o el
38% de las 16 respuestas) indicaron 'No', y 2 (o el 13% de las 16 respuestas) seleccionaron 'Otro'.
El número de partes interesadas que no respondieron a esta pregunta no se tiene en cuenta para el cálculo de los porcentajes representados
en el cuadro siguiente.
153 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Otro; 13%
Si; 50%
si
No; 37%
No
Otro
Demandado
Respuesta Demandado código
si ES - Consejo General de la Abogacía Española, Delegación en Bruselas ES
(Consejo General de Abogados Españoles)
SE - Simon Advokatbyrå AB SE
UE - Union européenne des huissiers de justice (UEHJ) Internacional
+ Fondation européenne des huissiers de justice (EUBF)) (Unión Europea de
Funcionarios Judiciales (UEHJ) + Fundación Europea de Alguaciles (EUBF))
154 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
P16: Si indicó 'Sí' a la pregunta 10, ¿los documentos relevantes detallan el uso de blockchain / DLT en el campo de la justicia?
Se recibió un total de 12 (o el 30% de las 40) respuestas a esta pregunta, donde 4 (o el 34% de las 12 respuestas) seleccionaron 'Sí', 7 (o el
58% de las 12 respuestas) indicaron 'No', y 1 (o el 8% de las 12 respuestas) seleccionó 'Otro'.
El número de partes interesadas que no respondieron a esta pregunta no se tiene en cuenta para el cálculo de los porcentajes representados
en el cuadro siguiente.
Otro; 8%
Si; 34%
si
No
No; 58%
Otro
Tabla 7.1.5: Elaboración de estrategias y políticas sobre el uso de blockchain / DLT - respuestas
Demandado
Respuesta Organización código
si ES - Consejo General de la Abogacía Española, Delegación en Bruselas ES
(Consejo General de Abogados Españoles)
No SE - Simon Advokatbyrå AB SE
AT - PHH Rechtsanwaelte (* PHH Abogados) FR - Gabinete Morelon Avocat A LA 1)
Paris FR
IT - Avv. Silvia Maria Vercelloni ES (2)
IT - Studio legale Avv. Vincenzo Gandolfo (* Bufete de abogados Vincenzo ES (4)
Gandolfo)
IT - Consiglio Nazionale Ordine degli Psicologi (* Consejo Nacional de la ES (8)
Orden de Psicólogos) IT - CNPAPAL (* Colegio Nacional de Peritos
Agrícolas y Peritos Agrícolas Graduados) ES (12)
155 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
P21: ¿Consideras que legislativo 228 ¿Son necesarios cambios para abordar el uso de soluciones de IA en el campo de la justicia?
Se recibió un total de 30 (o el 75% de las 40) respuestas a esta pregunta, donde 14 (o el 47% de las 30 respuestas) seleccionaron 'Sí', 4 (o el
13% de las 30 respuestas) indicaron 'No, el el marco legal existente es suficiente ', 9 (o el 30% de las 30 respuestas) seleccionaron' No sé ', y
3 (o el 10% de las 30 respuestas) seleccionaron' Otro '.
El número de partes interesadas que no respondieron a esta pregunta no se tiene en cuenta para el cálculo de los porcentajes representados
en el cuadro siguiente.
Otro; 10% si
No lo se Si; 47%
No, el marco legal existente
30%
es suficiente
No se
No; 13%
Otros (especificar.
Demandado
Respuesta Organización
código
si ES - Consejo General de la Abogacía Española, Delegación en Bruselas ES
(Consejo General de Abogados Españoles)
SER (2)
228 Para los propósitos de este estudio, 'legislación' o 'marco legislativo' significa constituciones, códigos de ley, leyes y
sus reglamentos de desarrollo, que se encuentran en vigor en los Estados miembros, y que rigen en su totalidad o contienen disposiciones que regulan directa
o indirectamente el uso de la IA (y / o de DLT) y son aplicables al ámbito de la justicia o ámbitos afines.
156 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Un encuestado que respondió "Sí" - NL - SSR, Centro de formación y estudios para el poder judicial
- Aclaró que tendrían que reformar las leyes sobre la organización judicial, el litigio de la ley en los diversos campos del derecho y verificar
cómo tratarlo en virtud del GDPR.
Q24: ¿Considera que son necesarios cambios legislativos para abordar el uso de soluciones blockchain / DLT en el campo de la justicia?
Se recibió un total de 29 (o el 73% de las 40) respuestas a esta pregunta, donde 7 (o el 24% de las 29 respuestas) seleccionaron 'Sí', 2 (o el
7% de las 29 respuestas) indicaron 'No, el el marco legal existente es suficiente ”, 16 (o el 55% de las 29 respuestas) indicaron“ No sé ”, y 4 (o
el 14% de las 29 respuestas) seleccionaron“ Otro ”.
El número de partes interesadas que no respondieron a esta pregunta no se tiene en cuenta para el cálculo de los porcentajes representados
en el cuadro siguiente.
157 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
P24: ¿Considera que son necesarios cambios legislativos para abordar el uso de
soluciones blockchain / DLT en el campo de la justicia?
Otro; 14% si
Si; 24%
Otro
Tabla 7.1.7: Cambios legislativos necesarios para abordar el uso de blockchain / DLT
soluciones - respuestas
SE - Simon Advokatbyrå AB SE
SI - Colegio de Abogados de Eslovenia BE - SI
Olivier Vajda SER (1)
Estonia EE
DK - Colegio de Abogados de Dinamarca DK
DE - Bundesrechtsanwaltskammer (Colegio de Abogados Federal de DE (1)
Alemania)
BE - Red europea de formación judicial SER (3)
158 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Un encuestado que respondió "Sí" - NL - SSR, Centro de formación y estudios para el poder judicial
- aclaró que tendrían que reformar la ley sobre la organización judicial, el litigio de la ley en los diversos campos del derecho y verificar cómo
tratarlo en virtud del GDPR.
Q27: ¿Su organización participa actualmente en proyectos / actividades que utilizan tecnología innovadora en el campo legal y / o judicial,
incluida la prestación de servicios legales?
Se recibió un total de 38 (o el 95% de las 40) respuestas a esta pregunta, donde 8 (o el 21% de las 38 respuestas) seleccionaron 'Sí', 25 (o el
66% de las 38 respuestas) indicaron 'No', y 5 (o el 13% de las 38 respuestas) indicaron 'Otro'.
El número de partes interesadas que no respondieron a esta pregunta no se tiene en cuenta para el cálculo de los porcentajes representados
en el cuadro siguiente.
Otro; 13%
Si; 21%
si
No
Otro
No; 66%
Demandado
Respuesta Organización
código
si BE - Avocat Geoffrey Deliége SER (2)
159 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No SE - Simon Advokatbyrå AB SE
SI - Colegio de Abogados de Eslovenia SI
RO - Instituto Nacional de la Magistratura BE - Olivier RO
Vajda SER (1)
de abogados) PL (1)
IE - Comité de Estudios Judiciales EE - Colegio de ES DECIR
Abogados de Estonia EE
DK - Colegio de Abogados de Dinamarca DK
DE - Bundesrechtsanwaltskammer (Colegio de Abogados Federal de Alemania) DE (1)
160 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Q28: Si indicó 'Sí' a la pregunta 27, indique cuántos proyectos están explorando o utilizando Tecnología de IA, su organización está
involucrada actualmente?
Se recibió un total de 8 (o el 2% de las 40) respuestas a esta pregunta, donde 2 (o el 25% de las 8 respuestas) seleccionaron 'Ninguna', 4 (o
el 50% de las 8 respuestas) seleccionaron '1 - 3 proyectos ', ningún encuestado indicó tener' 4 - 5 proyectos ', y 2 (o el 25% de las 8
respuestas) seleccionaron' Más de 5 proyectos '.
El número de partes interesadas que no respondieron a esta pregunta no se tiene en cuenta para el cálculo de los porcentajes representados
en el cuadro siguiente.
¿involucrado?
NINGUNA 25%
4- 5 PROYECTOS 0%
Demandado
Respuesta Organización código
Ninguna BE - Avocat Geoffrey Deliége PL - El Colegio SER (2)
P29: En el contexto de este cuestionario, indique sobre cuántos proyectos / actividades que están explorando o utilizando tecnología de IA
podría proporcionar información. Si tu
161 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
tiene información para más de 4 proyectos, por favor, indíquelo en el texto libre a continuación y organizaremos una entrevista dedicada con
usted.
Se recibió un total de 6 (o el 15% de las 40) respuestas a esta pregunta, donde 3 (o el 50% de las 6 respuestas) seleccionaron '1 Proyecto', 2
(o el 33% de las 6 respuestas) seleccionaron '2 Proyectos ', y 1 (o el 17% de las 6 respuestas) indicó' Otro '.
El número de partes interesadas que no respondieron a esta pregunta no se tiene en cuenta para el cálculo de los porcentajes representados
en el cuadro siguiente.
1 PROYECTO 50%
2 PROYECTOS 33%
3 PROYECTOS 0%
OTRO 17%
Demandado
Respuesta Organización código
1 proyecto CZ - Justiční akademie (Academia Judicial) CZ (2)
IT - Consiglio Nazionale del Notariato (Consejo Nacional de Notarios) ES (11)
P30: Si indicó 'Sí' a la pregunta 27, indique en cuántos proyectos / actividades, que están explorando o usando blockchain / DLT, su
organización está involucrada actualmente.
Se proporcionó un total de 7 (o el 18% de las 40) respuestas a esta pregunta, donde 4 (o el 57% de las 7 respuestas) seleccionaron 'Ninguna'
y 3 (o el 43% de las 7 respuestas) seleccionaron '1- 3 proyectos '. Nadie indicó estar involucrado en más de 3 proyectos.
162 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
El número de partes interesadas que no respondieron a esta pregunta no se tiene en cuenta para el cálculo de los porcentajes representados
en el cuadro siguiente.
NINGUNA 57%
4- 5 PROYECTOS 0%
MAS DE 5 PROYECTOS 0%
Demandado
Respuesta Organización código
Ninguna BE - Avocat Geoffrey Deliége PL - El Colegio SER (2)
P31: En el contexto de este cuestionario, indique cuántos proyectos / actividades que están explorando o usando blockchain / DLT, podría
proporcionar información. Si tiene información para más de 4 proyectos, por favor, indíquelo en el texto libre a continuación y organizaremos
una entrevista dedicada con usted.
Se recibió un total de 2 (o el 5% de las 40) respuestas a esta pregunta, que indicaban la posibilidad de ampliar los '3 proyectos' - de la Unión
Europea de Funcionarios Judiciales (UEHJ)
+ European Bailiffs 'Foundation (EUBF)) y de IT - Consejo Nacional de Notarios.
El número de partes interesadas que no respondieron a esta pregunta no se tiene en cuenta para el cálculo de los porcentajes representados
en el cuadro siguiente.
163 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
1 PROYECTO 0%
2 PROYECTOS 0%
3 PROYECTOS 100%
164 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
La siguiente tabla representa la información recopilada sobre las estrategias y políticas de las organizaciones profesionales legales con base en las respuestas al cuestionario y / o entrevistas con representantes de las
respectivas organizaciones profesionales legales.
Tabla 7.2 - Estrategias, políticas y artículos analíticos de las organizaciones profesionales legales
No Estado miembro Organización Estrategia/ AI / DLT Resumen Enlace
documento político
1. Internacional UEHJ y UIHJ IA de activos digitales El objetivo de este libro es tratar de encontrar https://www.larcier.com/fr/avoir
y formas de explotar el DEC en las áreas de s-desmaterializa-et-ejecución-
aplicación ejecución forzosa de decisiones judiciales. Este forcee-activos-digitales-y-
es el primer paso de un gran trabajo sobre la cumplimiento-2019-
digitalización de la justicia en el mundo de la 9782802764311.html
ejecución forzosa.
165 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
documento político
• poner al alguacil en el
centro de la digitalización como tercero de
confianza
• garantizar los elementos
ese entrar y salir el
blockchain
• crear procedimientos usando
la cadena de bloques para facilitar la práctica
del comercio respetando los derechos de las
partes
2. Austria Bar austriaco Cf. resumen General Existen varias estrategias con respecto al
proceso general en curso de digitalización, por
ejemplo, con respecto a garantizar la
comunicación segura entre abogados.
166 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
documento político
3. Bélgica Avocat Geoffrey "Ceci est une AI Un discurso que explica lo que es https://avocatdeliege.be/ceci-
Deliege revolución AI, sus legal trascendencia, revolución-artificielle-discursos-
(artificielle) “, funciones y estado actual. de-rentree-verviers-2017 /
Apertura
habla,
Verviers, 2017
4. Alemania alemán Bar Ambos El Colegio de Abogados de Alemania está
Asociación llevando a cabo un diálogo profundo con
sus miembros, 63.000
abogados, para analizar el uso actual y
potencial de la IA, pero también con los
proveedores de IA. En este contexto, la DAV
también está evaluando la eventual necesidad
de crear un campo de juego nivelado.
167 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
documento político
C) Nulidad, rescisión y
retiro del contrato (§ 346 BGB y) debe ser
posible como "transacciones inversas"
168 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
documento político
9. Unido La sociedad de derecho "Blockchain: DLT El documento es una pieza de exploración del https://www.lawsociety.org.uk/t
Reino de Inglaterra y los legal horizonte sobre las implicaciones legales sobre los óptica / investigación / blockchain
Gales implicaciones de usos de blockchain. Explora el
repartido potencial utilizar casos de
sistemas " blockchain, sus desafíos y oportunidades, y lo
que esto podría significar para los abogados.
169 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
documento político
La siguiente tabla presenta una descripción global de los proyectos para la implementación futura de AI y / o DLT, que se han discutido con las organizaciones profesionales legales durante las consultas de entrevistas.
Estado miembro Organización/ Título del Proyecto AI / DLT Estado Periodo de tiempo Campo de justicia 229 Breve descripción 230 Proyecto
Propietario del proyecto dominio árbitro.
No.
en
anexo
III
UE/ Unión Europea de Recuperación de AI En marcha 2016 - Ley civil, Este proyecto dará como resultado una 3.2
Internacional Funcionarios judiciales (UEHJ) Reclamaciones incontestables en marcha Contrato y solución que respalda la
y alguaciles europeos ' (RUC) Ley comercial, recuperación de deudas en casos B2B
Ley de la compañía para incontestado
reclamación (es. Apuntará a evitar
229 Para las respuestas que seleccionaron más de 3 subdominios del dominio principal de justicia, esto se indica como [Todos] en la tabla. Para obtener información más detallada sobre estos subdominios, consulte el Anexo III.
170 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Estado miembro Organización/ Título del Proyecto AI / DLT Estado Periodo de tiempo Campo de justicia 229 Breve descripción 230 Proyecto
Propietario del proyecto dominio árbitro.
No.
en
anexo
III
Fundación (EUBF) aplicación y encontrar
soluciones Entre el
deudor y acreedor. Se utilizará IA
para facilitar y acelerar el trabajo.
En términos de tecnología, la
solución se basa en expertos y
basados en reglas.
sistemas.
UE/ Unión Europea de Disputa online AI En marcha 2017 - Ley civil, Este proyecto creará una plataforma 3.3
Internacional Funcionarios judiciales (UEHJ) Resolución (ODR) en marcha Contrato y ODR, que tiene como objetivo resolver
y alguaciles europeos ' para Medicys- Ley comercial, disputas entre consumidores
Fundación (EUBF) consommation.fr Ley de la compañía y
profesionales en un
amistoso camino. los
plataforma será proporcionar
respuestas automáticas a
usuarios periódico
preguntas.
En términos de tecnología,
la solución se basa en la máquina
aprendizaje / profundo
aprendizaje y natural
procesamiento del lenguaje.
UE/ Unión Europea de Alertcys.io DLT En marcha 2018 - Ley civil, Esta proyecto objetivos a 3.4
Internacional Funcionarios judiciales (UEHJ) en marcha Ley de la compañía proporcionar una seguro
171 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Estado miembro Organización/ Título del Proyecto AI / DLT Estado Periodo de tiempo Campo de justicia 229 Breve descripción 230 Proyecto
Propietario del proyecto dominio árbitro.
No.
en
anexo
III
Fundación (EUBF) obligado a conseguir un sistema de
este tipo y a abrirlo a los
denunciantes. Va a
oferta el nacional
autoridades competentes el
confianza en alguaciles.
Esta sistema objetivos a
eliminar el necesitar a
confiar el común
plataforma a una entidad central.
empresas
(PYMES) y a sequía
directrices para abogados y bufetes de
abogados sobre el uso de IA. los
proyecto objetivos a
corresponder a el
prioridades identificadas en la
e-Justicia Acción Plan
2019-2023.
El objetivo principal es informar a los
abogados en la más amplia
camino posible
sobre los riesgos potenciales que puede
plantear la IA y en los que
231 https://elf-fae.eu/
232 https://elf-fae.eu/ai4lawyers/
172 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Estado miembro Organización/ Título del Proyecto AI / DLT Estado Periodo de tiempo Campo de justicia 229 Breve descripción 230 Proyecto
Propietario del proyecto dominio árbitro.
No.
en
anexo
III
áreas de negocio en las que
realmente podrían usar IA.
Finalmente, la idea es vincular las
directrices que se redactarán dentro
del alcance del proyecto con la
formación de la UE disponible en una
plataforma de formación de la UE.
Republica checa Academia Judicial E-aprendizaje AI Terminado 2008-2011 Entrenamiento judicial El objetivo principal del proyecto era 2.1
Educación para el mejorar la
Judicial educación de
empleados del poder judicial checo
mediante el uso de tecnologías
modernas.
173 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Estado miembro Organización/ Título del Proyecto AI / DLT Estado Periodo de tiempo Campo de justicia 229 Breve descripción 230 Proyecto
Propietario del proyecto dominio árbitro.
No.
en
anexo
III
Administrativo documentos, en particular
Actas revisiones de contratos, apuntando
a mejorar cliente
satisfacción donde el cliente
se refiere a todas las partes
interesadas involucradas en un caso.
Italia Nacional Consejo de Notaio Smart DLT En marcha N/A Administrativo El objetivo principal del proyecto es 3.6
Notarios Fase PoC Ley, optimizar los procesos comerciales.
Administrativo los
Actas la tecnología blockchain es
privado/ consorcio,
autorizado,
Hyperledger.
Italia Nacional Universidad de Asistencia de escritorio AI En marcha 2020-2022 Campo de agricultura Este proyecto desarrollará una 3,7
Expertos agrícolas y para usuarios finales herramienta para ayudar al usuario
Graduado Agrícola final mediante el llenado de
Expertos (CNPAPAL) documentos, clasificación y preguntas.
y responder
sistema.
Italia Sant'Anna Colegio de Profético AI En marcha Septiembre de 2019- Ley civil, Este es un proyecto piloto que tiene como 3.8
Estudios avanzados - Pisa Jurisprudencia Septiembre de 2022 Ley de Competencia objetivo analizar las decisiones judiciales
(LIDER-Lab of DIrpolis utilizando archivos de los tribunales de primera
Instituto) instancia de acuerdo con la
criterios y
metodologías desarrolladas
en el Observatorio de Daños por
Lesiones Personales
estudios 233.
233 https://www.lider-lab.sssup.it/lider/odp/
174 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Estado miembro Organización/ Título del Proyecto AI / DLT Estado Periodo de tiempo Campo de justicia 229 Breve descripción 230 Proyecto
Propietario del proyecto dominio árbitro.
No.
en
anexo
III
previsible subsecuente
decisiones sobre el mismo tema.
En términos de tecnología, la
solución utiliza aprendizaje profundo;
sistemas expertos
y sistemas basados en reglas;
algoritmos para
clasificación; algoritmos
para regresión;
mejoramiento.
La siguiente tabla presenta una descripción global de iniciativas e ideas para la implementación futura de AI y / o DLT, que se han discutido con las organizaciones profesionales legales durante las consultas de
entrevistas.
175 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Luxemburgo Kaufhold Y DLT europeo Una plataforma europea basada en la tecnología blockchain donde se pueden almacenar e intercambiar
Reveillaud, Blockchain distintos tipos de documentos oficiales, es decir, apostillas y documentos oficiales del Ministerio de Asuntos
Plataforma Exteriores.
AI Legal Generar documentación legal, por ejemplo, realizar contratos basados en hojas de términos.
documentación
Generacion
AI Capacidades de búsqueda Búsqueda sencilla en bases de datos de jurisprudencia, búsqueda en bases de datos internas de memorandos,
en la jurisprudencia y documentos, etc.
bases de datos internas
España General DLT Abogados digitales La CGAE es miembro de Alastria 234. Esta es todavía una idea en una etapa muy temprana sin más desarrollos
Consejo de Certificación relacionados con el proyecto.
Español
Abogados
(CGAE),
Delegación en
Bruselas
234 https://alastria.io/
176 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Un total de 15 (o el 100% de los 15) interesados respondieron a esta pregunta, donde se puede ver que las respuestas provienen de 9
Estados miembros y el Reino Unido.
0 1 2 3 4
AUSTRIA 1
BÉLGICA 3
CROACIA 1
DINAMARCA 1
ESTONIA 1
FINLANDIA 1
FRANCIA 2
ALEMANIA 1
PAÍSES BAJOS 2
REINO UNIDO 2
Demandado
Respuesta No. Demandado
código
Austria 1. AT - m2n - consultoría y desarrollo gmbh BE - Deloitte Resp-10
Bélgica 2. Resp-09
3. BE - Consono Resp-14
4. BE - IBM Resp-15
Croacia 5. Recursos humanos - Newton Technologies Adria DK - Resp-07
Dinamarca 6. Pentia A / S Resp-05
Estonia 7. EE: tiempo de guardia Resp-11
Finlandia 8. FI - KnowIT Solutions Oy FR - Doctrina Resp-13
Francia 9. (Forseti SAS) Resp-01
10. FR - Predice Resp-02
Alemania 11. DE - Paradatec GmbH NL - LexIQ Resp-12
Países Bajos 12. Resp-04
13. NL - Microsoft Resp-08
Reino Unido 14. Reino Unido - PredPol Inc. Resp-03
15. Reino Unido - VoiceScript Technologies Ltd Resp-06
Q1.8: ¿Están sus productos / servicios en uno o más de los campos siguientes?
Esta es una pregunta que permite la selección de múltiples respuestas. Un total de 15 (o el 100% de las 15) partes interesadas respondieron
a esta pregunta, donde 12 (o el 86% de las 15 respuestas) indicaron que
177 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
su producto o servicio está situado en el campo de la justicia, 9 (o el 64% de las 15 respuestas) indicaron que su producto o servicio está
situado en el campo 'Aplicación de la ley', 8 (o el 57% de las 15 respuestas) dijeron que su producto o El servicio se encuentra en el campo
'Legislación', y 9 (o el 64% de las 15 respuestas) seleccionaron 'Otro'.
JUSTICIA 86%
LEGISLACIÓN 57%
OTRO 64%
Responden
Respuesta No. Demandado
t código
Justicia 1. AT - m2n - consultoría y desarrollo gmbh Resp-10
TOTAL: 8 respuestas
Otro 1. RRHH - Newton Technologies Adria NL - Microsoft Resp-07
2. Resp-08
3. BE - Consono Resp-14
4. DE - Paradatec GmbH FR - Resp-12
5. Predictice Resp-02
6. EE: tiempo de guardia Resp-11
7. BE - Deloitte Resp-09
8. DK - Pentia A / S Resp-05
9. BE - IBM Resp-15
TOTAL: 9 respuestas
8.1.3. Existencia de una política o marco ético sobre la provisión de productos y servicios de IA
P2: ¿Su organización cuenta con una política o un marco ético sobre la provisión de productos y servicios de IA en el campo de la justicia?
Un total de 15 (o el 100% de las 15) partes interesadas respondieron a esta pregunta, donde 6 (o el 40% de las 15 respuestas) seleccionaron
'Sí', existen políticas o un marco ético para el uso de IA, 5 (o el 33% de las 15 respuestas) indicó 'No', y 4 (o el 27% de las 15 respuestas)
seleccionaron 'Otro'.
Otro; 27%
Si; 40%
si
No
Responden
Respuesta No. Demandado
t código
si 1. FR - Doctrine (Forseti SAS) FR - Predictice Resp-01
2. Resp-02
3. Reino Unido - PredPol Inc. Resp-03
4. NL - Microsoft Resp-08
5. AT - m2n - consultoría y desarrollo gmbh Resp-10
6. BE - IBM Resp-15
TOTAL: 6 respuestas
No 1. NL - LexIQ Resp-04
2. DK - Pentia A / S Resp-05
179 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
8.1.4. Existencia de una política o marco ético sobre blockchain / DLT en el campo de la justicia
Q4: ¿Su organización cuenta con una política o marco ético sobre blockchain / DLT en el campo de la justicia?
Un total de 15 (o el 100% de las 15) partes interesadas respondieron a esta pregunta, donde 1 (o el 7% de las 15 respuestas) seleccionaron
'Sí', existen políticas o un marco ético para el uso de blockchain / DLT , 11 (o el 73% de las 15 respuestas) indicaron 'No', y 3 (o el 20% de las
15 respuestas) seleccionaron 'Otro'.
Si; 7%
Otro; 20%
si
No
Tabla 8.1.4: Política o marco ético sobre el uso de blockchain / DLT - respuestas
Demandado
Respuesta No. Demandado
código
si 1. NL - Microsoft Resp-08
TOTAL: 1 respuesta
180 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
P6: Indique cuántos productos / servicios relacionados con la inteligencia artificial ofrece su organización, limitados al área de justicia:
Un total de 15 (o el 100% de las 15) partes interesadas respondieron a esta pregunta, donde 11 (o el 73% de las 15 respuestas) indicaron
proporcionar '1-3' proyectos / servicios relacionados con la IA, 2 (o el 13% de las 15 respuestas) indicaron '4-6' proyectos / servicios, y 2 (o el
13% de las 15 respuestas) se seleccionaron para proporcionar más de 6 proyectos / servicios.
proporciona?
NINGUNA 0%
1-3 73%
4-6 13%
>6 13%
Demandado
Respuesta No. Demandado
código
1-3 1. FR - Doctrine (Forseti SAS) FR - Predictice Resp-01
2. Resp-02
3. Reino Unido - PredPol Inc. Resp-03
4. NL - LexIQ Resp-04
5. DK - Pentia A / S Resp-05
6. RRHH - Newton Technologies Adria BE - Deloitte Resp-07
7. Resp-09
8. AT - m2n - consultoría y desarrollo gmbh Resp-10
181 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
P23: Indique cuántos productos / servicios relacionados con blockchain / DLT ofrece su organización, limitados al área de justicia:
Un total de 13 (o el 87% de las 15) partes interesadas respondieron a esta pregunta, donde 10 (o el 77% de las 13 respuestas) indicaron
proporcionar 'No' proyectos / servicios relacionados con DLT, 2 (o el 15% de las 13 respuestas) ) indicado para proporcionar proyectos /
servicios relacionados con DLT '1-3', y 1 encuestado (o el 8% de las 13 respuestas) indicó tener más de 6 proyectos / servicios relacionados
con DLT.
El número de partes interesadas que no respondieron a esta pregunta no se tiene en cuenta para el cálculo de los porcentajes representados
en el cuadro siguiente.
la organización proporciona?
NINGUNA 77%
1-3 15%
4-6 0%
>6 8%
Tabla 8.1.6: Productos y servicios relacionados con Blockchain / DLT proporcionados - respuestas
Demandado
Respuesta No. Demandado
código
Ninguna 1. FR - Doctrine (Forseti SAS) Reino Unido - Resp-01
2. PredPol Inc. Resp-03
3. NL - LexIQ Resp-04
4. DK - Pentia A / S Resp-05
5. Reino Unido - VoiceScript Technologies Ltd HR - Resp-06
6. Newton Technologies Adria Resp-07
7. AT - m2n - consultoría y desarrollo gmbh Resp-10
182 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
La siguiente tabla representa la información recopilada sobre las estrategias y políticas de las empresas de TIC con respecto al uso de IA y blockchain / DLT con base en las respuestas al cuestionario y / o entrevistas con
representantes de las respectivas empresas.
1. Austria m2N AI Los desarrollos específicos para la aplicación de la ley y la investigación de delitos
basados en el sistema m2n se pueden compartir de forma gratuita dentro de las
organizaciones públicas austriacas involucradas en estas áreas. No se permite ningún
uso que pueda dificultar esas tareas. m2n se compromete a cumplir con los principios
éticos, especialmente cuando se utiliza tecnología de IA (por ejemplo, evitar sesgos
tecnológicos, aspectos de confianza, responsabilidad y transparencia). Cualquier tipo de
razonamiento siempre está sujeto a interpretación por parte del perito investigador y se
basa en referencias de evidencias específicas.
2. Bélgica Deloitte Valores compartidos General Deloitte rige el uso étnico de nuestros servicios y productos a través de un marco de
marco de referencia valores compartidos.
183 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
4. Estonia Guardtime Guardtime no tiene una política de AI o DLT, ya que ellos mismos no están
aprovisionando productos / servicios de AI. Sin embargo, sus propias soluciones y de I +
D incluyen herramientas para asegurar y controlar el entrenamiento y la implementación
de la IA. El concepto de IA garantizado de Guardtime protege el entrenamiento de IA y
garantiza que los modelos no estén sesgados. Además, sus soluciones ayudan a
explicar la "caja negra" de la IA para reguladores, usuarios, etc. Su foco inicial y sus
primeros proyectos están en el sector sanitario ya que las soluciones de IA son las más
desarrolladas y financiadas hasta ahora. Sin embargo, los mismos conceptos se pueden
aplicar fácilmente a los proyectos de IA en el campo de la justicia. La cadena de bloques
KSI patentada de Guardtime se desarrolla en estrecha cooperación con los estados
(Estonia) y empresas líderes (Lockheed Martin, Ericsson, etc.). Guardtime enfatiza
mucho el control, seguridad y calidad de la tecnología. Tecnología central certificada
eIDAS.
5. Francia Doctrina Código interno de conducta de la El código de conducta interno asegura que las actividades de Doctrine https: //www.doctrina
IA se guían de acuerdo con ciertos valores y principios tales como .fr / pdf / code_de_bon
transparencia y fidelización de algoritmos, recogida ética de ne_conduite.pdf
datos, protección de datos personales, competencia leal, etc.
6. Predecir AI https://predictice.co
m / charte-de-la-
justicia predictiva
7. Hungría Newton AI Los procesos de desarrollo de productos cumplen con la legislación. La implementación de los
Tecnologías sistemas basados en inteligencia artificial de Newton está diseñada para optimizar los
Adria procesos de trabajo y la sociedad en su conjunto, con beneficios para los usuarios del sistema,
las organizaciones y los usuarios finales del servicio. Los productos están diseñados para ser
accesibles y útiles para todos y no perjudiciales para nadie. Mediante el uso de inteligencia
artificial en sus sistemas, Newton permite indirectamente a los usuarios ejercer sus derechos
humanos fundamentales, es decir, el derecho al trabajo, la comunicación y la educación.
184 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Una descripción general de los productos / servicios de las organizaciones de TIC y los proyectos / casos de uso relacionados
Tabla 8.3 - Resumen de productos / servicios y proyectos / casos de uso relacionados de las organizaciones de TIC
185 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Miembro TIC Producto AI / DLT Estado Breve descripción 235 Proyecto ref.
Estado organización nombre / servicio dominio No.
es en el anexo
IV- TIC
proyectos
1. Austria m2n m2n forense AI Disponible La herramienta apoya a los investigadores en el enjuiciamiento (penal) en 2.1 que analizan grandes
Consultante Suite de análisis cantidades de datos, especialmente incautados durante búsquedas internas o recopilados en el
y curso de otras acciones de investigación.
Desarrollo
2. Bélgica Consono Dynizer AI Disponible La herramienta Dynizer permite a las organizaciones conectar datos estructurados o no 2.2
estructurados de diferentes fuentes de datos, vincularlos y realizar un seguimiento de
ellos. La solución facilita el acceso a los datos a los usuarios de la herramienta, con el fin
de consultar fácilmente los datos. Puede Entre otros conecte información sobre personas,
organizaciones y eventos desde un lago de datos no estructurado.
Esta solución ha sido utilizada por la Universidad de Gante para su proyecto 'Base de
datos para almacenar y vincular datos de sentencias judiciales' como se describe en el
Anexo IV de este informe. Ver Anexo IV - Proyectos de TIC, proyecto no. 2.2.
3. Bélgica Deloitte RegExplorer AI Disponible La herramienta RegExplorer puede ser de ayuda cuando se necesitan combinaciones de 2.3
temas para analizar el texto reglamentario y la síntesis. También analiza y comprende los
vínculos dentro de un cuerpo normativo y entre instituciones, donde se encuentran las
fuentes de datos.
grandes en volumen y tienen regulaciones complejas
marcos y regímenes. La herramienta también llena los vacíos donde hay pérdida de
conocimiento institucional.
4. Bélgica IBM Watson AI Disponible La solución puede ayudar a filtrar un gran volumen de documentos y ofrecer 2.4.1
recomendaciones. 2.4.2
2.4.3
Son posibles diferentes soluciones dentro de Watson, tales como: 2.4.4
• IBM Watson Studio 2.4.5
• Aprendizaje automático de IBM Watson
186 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
5. Bélgica IBM IBM i2 AI Disponible Esta es una plataforma de análisis de inteligencia de amenazas para abordar misiones críticas en 2.4.6
seguridad y defensa nacional, aplicación de la ley, fraude, delitos financieros y búsqueda de
amenazas cibernéticas.
6. Bélgica IBM Blockchain DLT Disponible Los objetivos comerciales difieren mucho de un caso de uso a otro, especialmente en el sector 2.4.7
Plataforma público, es decir, del voto electrónico, la declaración de impuestos, la emisión de bonos, etc.
7. Bélgica IBM Garaje AI / DLT Disponible Esta metodología de inicio de proyecto prevé alentar a las empresas a acelerar, abrirse 2.4.8
(con paso y trabajar más como startups.
mínimo
alcance)
8. Bélgica Universidad de Base de datos para AI Debajo La solución puede ser útil para analizar grandes cantidades de datos, juzgar sentencias 2.5 y
Gante almacenar y desarrollarme encontrar vínculos entre ellos.
vincular datos Nuevo Testamento
de la corte
juicios
9. Croacia Newton NEWTON AI Disponible La herramienta Newton Dictate proporciona transformación digital a través de la 2.6
Tecnologías Dictar optimización del flujo de trabajo y el fortalecimiento de la eficiencia y la calidad del
Adria (NTA) sistema judicial. Opera en la generación de textos y documentos, donde grandes
cantidades de documentos ser - estar
creado.
235 Para una descripción detallada, consulte el Anexo IV - Descripción de proyectos de TIC.
187 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
10. Dinamarca Pentia A / S Legal digital AI Debajo El sistema de Diario Jurídico Digital tiene como objetivo mejorar la eficiencia 2.7 en relación con la
diario Desarrollarme administración judicial y la gestión y planificación de las instalaciones.
Nuevo Testamento
Esta solución ha sido utilizada por el Fiscal General danés (Rigsadvokaten) para
implementar su proyecto 'Digital Court Planner' como se describe en el Anexo II de este
estudio. Ver Anexo II - Proyectos MS explorados, proyecto no. 3.9.
11. Estonia Guardtime IA asegurada AI (usa Under La herramienta Assured-AI se puede utilizar cuando el regulador exige auditabilidad y 2.8
DLT Desarrollarme verificación independiente de los proveedores de servicios de IA. Además, la mitigación de
base) Nuevo Testamento riesgos y la mejora del control / supervisión son necesarias cuando se implementan
soluciones basadas en inteligencia artificial (proporcionadas por terceros) en el campo
judicial.
Esta solución ha sido utilizada por el Ministerio de Justicia y Seguridad holandés para
implementar su proyecto 'DigiAkkoord' como se describe en el Anexo II de este estudio. Ver
Anexo II - Proyectos MS explorados, proyecto no. 3.39.
12. Finlandia Lo sé Inteligente AI Disponible El problema empresarial abordado principalmente es la necesidad de reducir 2.9 tareas
proceso manuales. La solución podría ser automatizar los procesos comerciales, en particular, la
automatización automatización del flujo de trabajo legal y mejorar la eficiencia y la precisión.
servicios
13. Francia Doctrina Doctrina AI Disponible Doctrine tiene como objetivo mejorar la eficiencia, proporcionar una evaluación de riesgos más temprana y más
precisa, por ejemplo, mediante la detección de cláusulas potencialmente polémicas en documentos / contratos.
También tiene como objetivo
188 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Aumenta la precisión y ayuda a adquirir conocimientos a partir de los datos, los informes y la
visualización disponibles. Doctrine ayuda a los usuarios a enfocar más actividades de valor
agregado (con IA automatizando actividades rutinarias de bajo valor).
14. Francia Predecir Predecir AI Disponible Predictice tiene como objetivo mejorar la eficiencia en la justicia, lo que significa lograr un 2.11
tiempo de juicio más rápido. Mejora el 'volumen de negocios', por ejemplo, el número de
casos procesados, y proporciona una evaluación de riesgos más temprana y precisa, por
ejemplo, al detectar posibles conflictos
cláusulas en documentos / contratos. Predecir
también mejora la satisfacción del cliente, donde el cliente se refiere a todas las partes
interesadas involucradas en un caso; adquirir conocimientos a partir de datos, informes y
visualización disponibles; y capacidad para concentrarse en actividades de mayor valor agregado
(con IA automatizando actividades rutinarias de bajo valor).
15. Francia Lefebvre Anonimización AI Servicios Las normas de protección de datos personales en Francia exigen una anonimización de la 2.12
Sarrut de la corte Proveedor jurisprudencia de alta calidad. A principios de 2019, Lefebvre Sarrut comenzó a colaborar
decisiones para con el Tribunal Supremo francés y la administración francesa a cargo de la informática y
el francés la digitalización - DINUM 236 hacer una prueba de concepto (PoC) sobre la anonimización
Supremo de las decisiones judiciales. La corte eligió ir con Flair 237 de Zalando Research 238. El
Corte proyecto se completó y la conclusión es entrar en producción. Esto aún no ha sucedido,
ya que el Tribunal está a la espera de una decisión del Ministerio de Justicia.
Esta solución ha sido utilizada por la Cour de Cassation francesa (* Tribunal de Casación)
para implementar su proyecto 'Seudonimización de decisiones judiciales impulsada por
IA', como se describe en el Anexo II de
esta estudiar.
Ver Anexo II - Proyectos MS explorados, proyecto no. 3.16.
dieciséis. Francia Lefebvre IA de anonimización Servicios En comparación con el proyecto con el Tribunal Supremo francés donde 2.12 .1 Lefebvre Sarrut tenía
Sarrut de la corte Proveedor más trabajo de programación, en Luxemburgo
decisiones para
el
189 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Luxemburgueses su función era más de carácter consultivo, ya que ayudaron a las autoridades
h Ministerio de luxemburguesas a construir el conjunto de datos con un PoC.
Justicia
Esta solución ha sido utilizada por el Ministerio de Justicia de Luxemburgo para
implementar su proyecto 'Anonimización de la jurisprudencia'
como descrito en anexo II de esta estudiar.
Ver Anexo II - Proyectos MS explorados, proyecto no. 3.36.
17. Alemania Paradatec PROSAR- AI Disponible La herramienta PROSAR-AIDA puede ayudar cuando se necesita clasificación y extracción de
AIDA datos de documentos no estructurados y semiestructurados, especialmente cuando la lógica
inherente de los documentos es extremadamente compleja.
3.20.
18. Países Bajos LexIQ Lexalyse AI Disponible La solución tiene como objetivo automatizar los procesos comerciales, en particular la 2.14
automatización del flujo de trabajo legal, mejorar la eficiencia, aplicar precisión, adquirir
conocimientos a partir de los datos disponibles, generar informes y visualizar, y tener la
capacidad de enfocarse en más actividades de valor agregado (con IA automatizando
poco valor, Actividades rutinarias).
Esta solución ha sido utilizada por el Ministerio de Justicia y Seguridad holandés para
implementar su proyecto 'Jurisprudentierobot' como se describe en el Anexo II de este
informe. Ver: Anexo II - Proyectos MS explorados, proyecto no. 2.10.
19. Países Bajos Microsoft IA de Azure AI Disponible La solución tiene como objetivo automatizar los procesos comerciales, en particular, la 2.15
plataforma automatización del flujo de trabajo legal. Además, ayuda a mejorar
eficiencia por logrando Más rápido tiempo de prueba
y mejora de la rotación, por ejemplo, número de casos procesados. Además, proporciona
una evaluación de riesgos más temprana y precisa, por ejemplo, detecta cláusulas
potencialmente contenciosas en documentos / contratos, y mejora la satisfacción del
cliente, donde el cliente se refiere a todas las partes interesadas involucradas en un caso.
Eso
190 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Esta solución ha sido utilizada por el Instituto portugués dos Registos e do Notariado (*
Instituto de Registros y Notarios) para implementar su proyecto Irene como se describe en
el Anexo II de este estudio. Ver Anexo II - Proyectos MS explorados, proyecto no.
2.11.
20. Países Bajos Universidad de Red AI Investigación Esta herramienta permitirá realizar análisis en red sobre decisiones legales para 2.16
Maastricht análisis y estudiantes e investigadores legales. Debido al volumen cada vez mayor de documentos
innovación sobre diversos temas, es imposible para los humanos procesarlos todos. En este
laboratorio contexto, utilizan el análisis de redes que ayuda al equipo a identificar la relevancia de las
decisiones.
21. Países Bajos Universidad de Tema AI Investigación Siguiendo el mismo principio de información excesivamente aumentada, especialmente en el campo 2.16.1
Maastricht Modelado y del derecho y la inteligencia artificial, la necesidad de recuperar información relevante para evitar
innovación duplicaciones se está convirtiendo en una tarea que consume cada vez más tiempo.
laboratorio
22. Países Bajos Universidad de Transfronterizo AI Investigación El proyecto ayuda a extraer información de los registros nacionales sobre dónde están 2.16.2
Maastricht movilidad y registradas las empresas, cuál es su actividad; en el número de sus empleados, etc.
innovación
laboratorio
23. Países Bajos Universidad de Impacto de AI Investigación El laboratorio de la universidad está trabajando en un proyecto para identificar cómo 2.16.3 proteger a los
Maastricht redes sociales y menores en las redes sociales. Se centra en la evaluación del daño que pueden causar las redes sociales.
en los niños. innovación
laboratorio
24. Países Bajos Universidad de Identificando AI Investigación Desde un punto de vista legal, la investigación se centra en 2.16.4 temas políticos, temas de género,
Maastricht El discurso del odio. y temas de derechos fundamentales, etc. para identificar el discurso de odio.
innovación
laboratorio
25. Países Bajos Universidad de Dark web - AI Investigación Este proyecto tiene como objetivo desarrollar métodos para rastrear violaciones de datos 2.16.5 en la web oscura.
Maastricht violaciones de datos y
en línea innovación
laboratorio
26. Suecia Futuro de Kairos Proxies DLT Debajo La solución utiliza un registro central o blockchain para 2.17 encriptadas y referencias anónimas a
solución Desarrollarme los proxies. En el caso de autorizaciones dentro de las empresas, no hay registro central ni
Nuevo Testamento
191 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Esta solución ha sido utilizada por la sueca Skatteverket (* Agencia Tributaria Sueca) para
la investigación de su proyecto 'Proxies', que forma parte del proyecto 'Soluciones
técnicas inspiradas en Blockchain para contabilidad, auditoría y fiscalidad', como se
describe en el Anexo II de este estudiar. Ver Anexo II - Proyectos MS explorados,
proyecto no. 2.18.
27. Suecia Futuro de Kairos Facturas DLT Debajo La solución se utiliza como herramienta de identificación de facturas. La ambición es 2.17.1
solución Desarrollarme proteger la integridad, la seguridad y la privacidad de los datos. La herramienta garantizaría
Nuevo Testamento que las facturas sean aceptadas por el vendedor y el comprador, que no sean posibles de
manipular, que no se puedan utilizar dos veces y reduciría el riesgo de fraude, como el
fraude del IVA.
Esta solución ha sido utilizada por la sueca Skatteverket (* Agencia Tributaria Sueca) para
la investigación de su proyecto 'Facturas', parte del proyecto, “Soluciones técnicas
inspiradas en Blockchain para contabilidad, auditoría e impuestos”, como se describe en
el Anexo II de este estudio. ( Ver Anexo II - Proyectos MS explorados, proyecto no. 2.20.)
28. Unido VoiceScript Automatizado AI Disponible Los problemas clave que resuelve la solución son que las velocidades de entrega son demasiado 2.18
Reino Tecnologías por lentas, los costos para preparar los documentos son demasiado altos, los costos para organizar y
Limitado usuario / locutor tener "lo correcto listo en el momento adecuado" implican demasiada mano de obra.
voz
transcripción La solución tiene como objetivo mejorar la eficiencia, como el tiempo hasta el juicio, y mejorar la
y rotación, por ejemplo, el número de casos procesados.
Traducción
29. Unido PredPol PredPol AI Disponible La plataforma PredPol logra tres cosas: 2.19
Reino 1. Predecir dónde y cuándo es más probable que ocurran determinados delitos.
2. Rastree y administre las ubicaciones de los oficiales en tiempo real para garantizar
que se patrullen las áreas objetivo.
3. Proporcionar análisis de operaciones de patrulla y delincuencia.
192 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Sobre la base de la información recibida de las autoridades públicas de los Estados miembros y del poder judicial y de las organizaciones
profesionales del derecho sobre sus proyectos con tecnologías innovadoras, el estudio evaluó los problemas empresariales que estos
proyectos pretenden resolver. Luego, agrupó estos problemas en 8 categorías de problemas comerciales, como se define en la tabla
siguiente.
2 Procesamiento de alto volumen de video, El tema del procesamiento de grandes volúmenes de archivos de video, archivos de audio
audio e imágenes (VAI) y / o imágenes con el fin de hacer un análisis del contenido,
para Tareas tal como: identificación de
personas / víctimas, o seguimiento de conductas, detección de actividades ilícitas,
detección de habla en grabaciones de audio y vídeo, etc.
3 Vinculando información entre El tema de buscar, extraer y analizar información de múltiples fuentes (como diferentes
diferentes fuentes bases de datos, registros, sistemas, etc.) generalmente porque no están centralizadas, ni
(LKS) conectadas, y no hay una interfaz o punto de acceso común.
4 Acceso a la justicia / público La cuestión de no poner a disposición de los ciudadanos / el público en general la
servicios información judicial o los servicios públicos de forma sencilla y accesible. Incluye el acceso
(ATJ) a la jurisprudencia, la información del expediente, la legislación, el tratamiento de las
consultas ciudadanas, la navegación por los procedimientos administrativos, etc.
5 Cumplimiento de la protección de datos La cuestión de la elaboración de documentos (generalmente sentencias judiciales (DPC)
y decisiones) de conformidad con la legislación de protección de datos personales con el
objetivo de hacer que esos documentos estén disponibles públicamente.
6 Preparando un gran volumen de datos El problema de tratar (grandes volúmenes de) datos manualmente, o con herramientas
digitales simples, para obtener un resultado final
(PPD) por ejemplo, en la preparación de audiencias judiciales y en la realización de tareas de
administración judicial y / u otras tareas judiciales. Esto implica tareas como: traducción de
documentos, mecanografía de protocolos en audiencias o entrevistas judiciales,
preparación
de contratos, judicial decisiones y
anonimizado versiones del mismo, a mano firma
documentos, etc.
7 Administrativo / instalaciones El tema de la gestión de los procesos de administración judicial que realiza el personal
administración judicial (secretarios, jueces, abogados, etc.), con tareas como planificación de agendas,
(AFM) audiencias judiciales, reserva y asignación de salas e infraestructura, organización de
entrevistas y realización de la Gestión de instalaciones.
8 Falta de autenticidad y trazabilidad El problema de tener un nivel insuficiente de trazabilidad con respecto a las acciones que
deben tomar los diferentes actores relacionados con los datos y documentos durante sus
(LAT) flujos de proceso.
193 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
(por ejemplo, facturas, diplomas, poderes, etc.), de modo que la información pueda
almacenarse y / o transferirse con un nivel suficiente de autenticidad, confianza e
integridad.
Dado que un proyecto puede resolver más de un problema comercial según la categoría de problema comercial identificado, de los 93
proyectos completados, en curso y planificados, 43 (o el 46%) tienen como objetivo resolver un problema en la categoría de DCP, 17 (o 18%)
- en la categoría de VAI, 24 (o 26%) - en la categoría de LKS, 14 (o 15%) - en la categoría de ATJ, 13 (o 14%)
- en la categoría de DPC, 29 (o 31%) - en la categoría de PPD, 12 (o 13%) - en la categoría de AFM y 16 (o 1%) - en la categoría de LAT,
como se muestra a continuación:
En las siguientes secciones se proporciona información más detallada sobre los proyectos respectivos que se incluyen en cada categoría de
problema empresarial.
Finalmente, el estudio asignó las categorías de problemas comerciales a 8 soluciones comerciales que los proyectos que utilizan tecnologías
de IA o blockchain pretenden lograr. Estas categorías de soluciones comerciales se definen a continuación:
194 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
blockchain / DLT para firmas digitales, contratos inteligentes, registros, etc., para realizar la
validación de datos y mejorar la trazabilidad, garantizar la integridad.
3 Asistencia digital Una solución a los problemas empresariales en las categorías de ATJ, utilizando
tecnología de IA, como chatbots, para mejorar el acceso de los ciudadanos a la
información y navegarlos a través de procesos administrativos.
4 Facial y / u objeto Una solución a los problemas comerciales en la categoría de VAI, que generalmente utiliza
reconocimiento tecnología de inteligencia artificial para detectar, identificar y verificar una persona u objeto
a partir de una imagen digital o metraje de video, por características faciales específicas u
otras. Estas soluciones, por ejemplo, se utilizan en la justicia penal y la aplicación de la ley
para mejorar la identificación de las víctimas a partir de material gráfico o detectar
comportamientos anormales de los reclusos en las cárceles.
5 Analítica predictiva Una solución a los problemas empresariales en las categorías de LKS, PCD y PPD,
utilizando tecnología de IA para analizar hechos actuales e históricos para hacer
predicciones sobre el futuro y / o identificar riesgos y oportunidades. En el campo de la
justicia, estas soluciones generalmente se denominan "justicia predictiva" y se utilizan para
ayudar al poder judicial en el proceso de toma de decisiones.
6 Automatización de procesos Una solución a problemas empresariales principalmente en las categorías de PCD, PPD,
LKS y AFM 240, normalmente usando IA
tecnología y automatización de procesos robóticos para automatizar procesos como
organización, planificación y gestión de instalaciones, priorización, categorización y
asignación de documentos y tareas. En el campo de la justicia, la automatización de
procesos se usa generalmente para mejorar la eficiencia mediante la automatización de
tareas manuales y repetitivas como el análisis de información relacionada con el caso (por
ejemplo, datos recopilados de registros domiciliarios), pago de multas por parte de los
ciudadanos, etc.
7 Optimización de búsqueda Una solución a problemas empresariales principalmente en las categorías de PCD, LKS y
ATJ 241, Por lo general, utiliza tecnología de inteligencia artificial para agilizar y facilitar las
búsquedas en la jurisprudencia, registros y bibliotecas digitales relevantes, así como para
crear enlaces semánticos y posibilidades para la anotación de documentos.
8 Voz / texto a Una solución a problemas empresariales en las categorías de PPD y VAI, utilizando
texto / voz tecnología de IA, como reconocimiento de voz y traducción automática. En el campo de la
justicia, esta solución se usa típicamente para modernizar las salas de los tribunales y
facilitar las audiencias en los tribunales reemplazando la mecanografía manual de las
actas del tribunal y otros documentos o las interpretaciones de idiomas extranjeros.
239 La mayoría de los proyectos se incluyen en las categorías de problemas empresariales enumeradas. Sin embargo, el "Data
autenticidad y trazabilidad ”podría resolver problemas comerciales en otras categorías, como se muestra en la imagen siguiente.
240 La mayoría de los proyectos se incluyen en las categorías de problemas empresariales enumeradas. Sin embargo, el "Proceso
Automatización ”podría resolver problemas comerciales en otras categorías como se muestra en la imagen siguiente.
241 Ídem
195 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Dado que una solución empresarial puede resolver problemas empresariales de más de una categoría de problemas empresariales:
ASISTENCIA DIGITAL 4%
ANÁLISIS PREDICTIVO 5%
La imagen a continuación muestra los problemas comerciales que cada solución pretende abordar en las diferentes categorías de problemas
comerciales.
196 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Categorías de soluciones
VAI LAT AFM ATJ LKS PCD PPD DPC
Anonimización y seudonimización
Asistencia digital
Analítica predictiva
Automatización de procesos
Optimización de búsqueda
La siguiente tabla propone una descripción general de (1) las categorías de problemas empresariales en las que se encuentran los proyectos
explorados por las autoridades de los Estados miembros y el poder judicial; (2) las soluciones comerciales; y (3) el tipo de IA (ML, PNL,
sistemas expertos, visión por computadora) o tecnología blockchain / DLT (con permiso público o privado) utilizada (si lo indican las partes
interesadas).
Cuadro 9.1.2 - Resumen de los proyectos de las autoridades de los Estados miembros por problema empresarial y
categoría de solución
197 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Organización del Estado Miembro / Proyecto Proyecto Problema empresarial Solución Descripción de la solución Tecnología utilizada
propietario categoría categoría
1. Austria Ministerio Federal de IA para análisis de datos Procesando alto Proceso Automatizar el manual Máquina
Justicia de investigación volumen de datos automatización procesamiento de grandes cantidades de aprendizaje / profundo
2. Austria Ministerio Federal de Anonimización de Procesando alto Anonimización Anonimizar o seudonimizar Máquina
Justicia decisiones judiciales datos de volumen; y datos. Automatizar el manual aprendizaje / profundo
Protección de Datos
conformidad
3. Austria Ministerio Federal de Automatizado Procesando alto Proceso Automatizar el manual Máquina
Justicia asignación y datos de volumen; automatización gestión de entrada aprendizaje / profundo
4. Austria Ministerio Federal de Caso de búsqueda Vincular información Buscar Acelerar y facilitar Máquina
Justicia ley a través de diferentes datos mejoramiento búsquedas en la jurisprudencia pertinente y aprendizaje / profundo
198 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Organización del Estado Miembro / Proyecto Proyecto Problema empresarial Solución Descripción de la solución Tecnología utilizada
propietario categoría categoría
5. Austria Ministerio Federal de Reconocimiento facial Procesando alto Facial y / o Identificar y detectar situaciones
Justicia para los presos volumen de video, audio e reconocimiento anormales (p. Ej. Violencia) y tomar
imágenes acciones preventivas.
basado en material de video de
cámaras en las cárceles. Supere el
desafío de
recursos humanos insuficientes
(escritorios de seguridad) y
capacidades para detectar tales
situaciones
6. Austria Ministerio Federal de Chatbot en un Acceso a la justicia / servicios públicos de asistencia digital Ayudar a los ciudadanos brindándoles la Máquina
Justicia servicio ciudadano posibilidad de inspeccionar en línea sus aprendizaje / profundo
7. Croacia Ministerio de Justicia Dictado a texto Preparando gran volumen Voz / texto a Automatizar el manual Máquina
de datos; texto / voz preparación de documentos, aprendizaje / profundo
8. Croacia Ministerio de Justicia Proyecto para Procesando alto Anonimización Anonimizar o seudonimizar
anonimización datos de volumen; y datos. Automatizar el manual
identificación de seudonimización y eliminación de
Preparando gran volumen datos personales (y / u otros datos
de datos; sensibles) de decisiones judiciales.
Protección de Datos
conformidad
199 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Organización del Estado Miembro / Proyecto Proyecto Problema empresarial Solución Descripción de la solución Tecnología utilizada
propietario categoría categoría
9. checo Ministerio de Justicia Judicial Procesando alto Anonimización Anonimizar o seudonimizar Sistemas expertos
República Anonimización datos de volumen; y datos. Automatizar el manual y basado en reglas
Herramienta identificación de seudonimización y eliminación de sistemas; Natural
Preparando gran volumen datos personales (y / u otros datos idioma
de datos; sensibles) de decisiones judiciales. Procesando
Protección de Datos
conformidad
10. Dinamarca Administración de tribunales Domsdatabase Procesando alto Anonimización Anonimizar o seudonimizar Máquina
(Domstolsstyrelsen) datos de volumen; y datos. Automatizar el manual aprendizaje / profundo
Protección de Datos
conformidad
11. Dinamarca Fiscal General Corte digital Proceso administrativo / de instalaciones Automatizar y mejorar el proceso de
(Rigsadvokaten) Planificador administración automatización planificación de reuniones.
incluida la priorización de
reuniones importantes.
De lo contrario, la planificación
requiere mucho esfuerzo humano.
12. Dinamarca Fiscal General Anonimizar Procesando alto Anonimización Anonimizar o seudonimizar
(Rigsadvokaten) personal y datos de volumen; y datos. Automatizar el manual
sensible personal identificación de seudonimización y eliminación de
información en Preparando gran volumen datos personales (y / u otros datos
organizaciones ' de datos; sensibles) de
documentos documentos de organización.
Protección de Datos
conformidad
200 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Organización del Estado Miembro / Proyecto Proyecto Problema empresarial Solución Descripción de la solución Tecnología utilizada
propietario categoría categoría
13. Dinamarca Policía Nacional Danesa Explorando el uso Procesando alto Facial y / o Identificar víctimas basándose en
de reconocimiento facial volumen de video, audio e material pictórico de reconocimiento de objetos en niños
tecnología para imágenes investigaciones de abuso.
víctima
identificación
a través de pictórico
material de niño
abuso
14. Dinamarca Policía Nacional Danesa En pequeña escala Procesando alto Proceso Automatice el procesamiento de grandes
proyectos (1): datos de volumen de video, automatización volúmenes de
hash perceptual audio e imágenes material de investigación (como
como videos) que los investigadores
deben analizar rápidamente para tener
éxito en la lucha contra la agresión
sexual y / o el abuso infantil.
15. Dinamarca Policía Nacional Danesa En pequeña escala Procesando alto Proceso Automatizar casos relacionados Máquina
proyectos (2): volumen de datos; automatización actividades como priorización de los aprendizaje / profundo
dieciséis. Estonia Ministerio de Justicia en Automatizado Procesando alto Voz / texto a Detecte y reconozca la voz y Máquina
nombre de Estonia transcripción de volumen de video, audio e texto / voz automatice el lento manual aprendizaje / profundo
17. Finlandia Ministerio de Justicia Automático Procesando alto Anonimización Anonimizar o seudonimizar Sistemas expertos
anonimización y datos de volumen; y datos. Automatizar el manual y basado en reglas
descripción del contenido identificación de seudonimización y eliminación de sistemas; Natural
de documentos datos personales (y / u otros
conteniendo
201 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Organización del Estado Miembro / Proyecto Proyecto Problema empresarial Solución Descripción de la solución Tecnología utilizada
propietario categoría categoría
Protección de Datos
conformidad
18. Finlandia Ministerio de Justicia Proceso de robot Vincular información Proceso Automatizar el proceso de pago de
automatización (RPA) a través de diferentes datos automatización multas. Superación de los desafíos para
fuentes vincular el pago de una multa a la multa
en sí, en los casos en que el ordenante
omite proporcionar el número de
referencia de la multa en la orden de
pago. Esto es importante en casos de
sobrepago, doble
pago o incorrecto
pago de multas.
19. Finlandia Ministerio de Justicia Servicio de chatbot para el acceso a la justicia / asistencia digital pública divorcio / Ayudar a las parejas que se enfrentan Sistemas expertos
separación servicios divorcio / separación para encontrar y basado en reglas
situaciones (parte de los servicios locales mas sistemas; Natural
Proyecto Aurora) adecuados. idioma
procesamiento (NLP)
20. Francia Ministerio de Justicia DataJust Vincular información Profético Predecir y evaluar la cantidad de daños Máquina
a través de diferentes datos analítica basados en datos y fallos judiciales aprendizaje / profundo
202 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Organización del Estado Miembro / Proyecto Proyecto Problema empresarial Solución Descripción de la solución Tecnología utilizada
propietario categoría categoría
de estudios de impacto
adopción de acompañamiento de
normas legales.
21. Francia Ministerio del Interior PreNIO Autenticidad de datos administrativos / de instalaciones Explorar y comunicarse
administración y trazabilidad que tecnologías innovadoras
puede ser utilizado por la
administración y para
demostrar como
blockchain / DLT puede ser
más utilizado en
administraciones.
22. Francia Cour de Cassation Impulsado por IA Procesando alto Anonimización Anonimizar o seudonimizar Máquina
(Tribunal de Casación) seudonimización datos de volumen; y datos. Automatizar el manual aprendizaje / profundo
Protección de Datos
conformidad;
23. Alemania Comisión para Registro de la Propiedad Procesando alto Proceso Automatizar procesos de Sistemas expertos
tecnologías de la información análisis datos de volumen automatización analizar datos no estructurados y basado en reglas
en el poder judicial componente en el (en formato PDF). Proporcionar sistemas
proyecto digital y estructurado
Desarrollo de un información para el catastro.
base de datos federal
Registro de la Propiedad
24. Alemania Comisión para Uso de blockchain Falta de autenticidad Autenticidad de los datos Aumentar la autenticidad, integridad y Público pero
tecnologías de la información tecnología en el y / o trazabilidad y trazabilidad autenticidad de los datos catastrales autorizado
en el poder judicial área de la base de datos trazabilidad.
catastral
203 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Organización del Estado Miembro / Proyecto Proyecto Problema empresarial Solución Descripción de la solución Tecnología utilizada
propietario categoría categoría
25. Alemania Comisión para Automatizado Procesando alto Anonimización Anonimizar o seudonimizar Sistemas expertos
tecnologías de la información Anonimización de datos de volumen; y datos. Automatizar el manual y basado en reglas
en el poder judicial Decisiones judiciales identificación de seudonimización y eliminación de sistemas; Natural
Preparando gran volumen datos personales (y / u otros datos idioma
de datos; sensibles) de decisiones judiciales. Procesando
Protección de Datos
conformidad
26. Alemania Comisión para Traducción jurídica Preparando gran volumen Voz / texto a Automatizar la traducción Máquina
tecnologías de la información Servicio de maquina de datos texto / voz actividades en vista de aprendizaje / profundo
27. Alemania Comisión para Sistemas cognitivos Preparando gran volumen Proceso Automatice la rutina simple Sistemas expertos
tecnologías de la información en la fiscalía de datos; automatización ocupaciones. Localice el y basado en reglas
en el poder judicial oficina necesidades identificadas para mejorar la sistemas; Natural
Procesando alto eficiencia y aumentar idioma
volumen de datos productividad. Procesando
28. Alemania Comisión para Potenciales de Acceso a la justicia / servicios públicos de autenticidad de datos; Asegurar la validez de los Público pero
tecnologías de la información blockchain y trazabilidad documentos y mejorar autorizado
en el poder judicial con respecto a un eficiencia de forma segura.
validez electronica Falta de autenticidad
Registrarse y / o trazabilidad
29. Alemania Delito Cibernético Central Proyecto de investigación Procesando alto Facial y / o Identificar y distinguir al niño Máquina
Departamento de Norte pelear niño datos de volumen de video, imágenes de pornografía de reconocimiento de objetos de aprendizaje / profundo
Renania-Westfalia pornografía con audio e imágenes otro material pictórico para reducir el aprendizaje; Computadora
métodos de IA tiempo necesario para la revisión manual visión
de imágenes
204 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Organización del Estado Miembro / Proyecto Proyecto Problema empresarial Solución Descripción de la solución Tecnología utilizada
propietario categoría categoría
30. Alemania Delito Cibernético Central Identificacion de Procesando alto Proceso Automatizar el proceso de selección y Máquina
Departamento de Norte crimen de odio en datos de volumen automatización categorización aprendizaje / profundo
31. Alemania Delito Cibernético Central Futuro criminal Preparando gran volumen Dictado a texto Modernizar las salas de los tribunales. Esto
Departamento de Norte sala del tribunal de datos soluciones incluiría automatizado
Renania-Westfalia gestión de la corte
Procesando alto audiencias automatizadas
volumen de video, audio e transcripción de la corte
imágenes documentos / audiencia judicial
minutos, grabación de video.
32. Hungría Oficina Nacional del Poder Reconocimiento de voz Preparando gran volumen Voz / texto a Modernizar las salas de los tribunales.
33. Irlanda Departamento de Justicia Número automático Procesando alto Facial y / o Identificar vehículos por placa LOC
e igualdad Reconocimiento de placas volumen de video, audio e número de reconocimiento de objeto; disminuir alto
(ANPR) imágenes niveles de consumo de energía de los
dispositivos
34. Irlanda Departamento de Justicia Evalúa el Procesando alto - Facial y / o Identificar personas vía facial
e igualdad potencial de facial volumen de video, audio e reconocimiento de objetos reconocimiento
pareo imágenes
tecnologías como
ayuda a la
inteligencia
proceso de recolección
205 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Organización del Estado Miembro / Proyecto Proyecto Problema empresarial Solución Descripción de la solución Tecnología utilizada
propietario categoría categoría
35. Italia Tribunal de Apelación, Justicia predictiva - Procesando alto Profético Predecir basado en la jurisprudencia Sistemas expertos
Brescia una base de datos para volumen de datos; analítica sobre pautas predictivas. y basado en reglas
proporcionar predecible Adquiera conocimientos fácilmente a partir de los sistemas; Natural
directrices y Vincular información datos, los informes y la visualización disponibles, idioma
tiempo en particular a través de diferentes así como para garantizar la coherencia Procesando
areas fuentes
(previsibilidad) en el
decisiones tomadas. Preparar
previsiones fiables del calendario de
procedimientos judiciales.
36. Italia Tribunal de Apelación, Milán GAM - Giustizia Procesando alto Proceso Automatizar y facilitar la revisión de la Sistemas expertos
Milanesa Antimonopolio volumen de datos; automatización jurisprudencia en el ámbito del derecho de la y basado en reglas
(* Milán Antimonopolio competencia. Digitalizar sistemas; Natural
Justicia) Vincular información civil y criminal idioma
(conocimiento a través de diferentes procedimientos, así como solicitudes procesamiento (NLP)
gestión de IA fuentes; administrativas para
sistema) financiar los gastos de justicia.
Adquirir conocimientos de
datos disponibles, informes y
visualización.
37. Italia Tribunale di Bologna Convención Vincular información Proceso Automatizar y facilitar
a través de diferentes datos automatización procesos relacionados con
fuentes cuantificación de daños y perjuicios.
Reducir la duración de los
procedimientos judiciales para garantizar
que se pueda manejar un mayor número
de casos. Incrementa la consistencia
(repetibilidad / reproducibilidad)
de decisiones judiciales. Mejorar la
percepción de los datos disponibles
206 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Organización del Estado Miembro / Proyecto Proyecto Problema empresarial Solución Descripción de la solución Tecnología utilizada
propietario categoría categoría
informes y visualización,
aumento de la productividad por
automatizar simple, rutina
ocupaciones.
38. Italia Tribunal de Apelación IA en la gestión Preparando gran volumen Proceso Automatizar procesos relacionados Sistemas expertos
Salerno sistema de de datos; automatización a la gestión de audiencias judiciales y basado en reglas
salas de audiencias y asignación de salas de audiencia. sistemas
Administrativo / instalaciones
administración
39. Italia Corte Suprema di Nuevo seguimiento Proceso administrativo / de instalaciones Automatice y agilice los procedimientos Máquina
Cassazione sistema para la administración automatización judiciales y mejore aprendizaje / profundo
40. Italia Tribunale Firenze La ciudad de la justicia Procesando alto Proceso Automatizar procesos y Máquina
simple: volumen de datos; automatización mejorar la gestión de los casos de aprendizaje / profundo
41. Italia Tribunale di Genova Profético Procesando alto Profético Predecir el resultado de las decisiones
Algoritmos y volumen de datos; analítica judiciales. Mejorar la eficiencia
Decisiones judiciales acelerando la tramitación de los
Vincular información procedimientos judiciales. Adquirir
a través de diferentes conocimientos de los datos disponibles,
fuentes informes y visualización.
207 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Organización del Estado Miembro / Proyecto Proyecto Problema empresarial Solución Descripción de la solución Tecnología utilizada
propietario categoría categoría
42. Italia Tribunale di Milano; Portale Vincular información Buscar Mejorar la búsqueda en la jurisprudencia. Sistemas expertos
AGI avvocati giurisprudenza del a través de diferentes mejoramiento Adquirir conocimientos de y basado en reglas
giuslavoristi italiani lavoro (* Labor fuentes; datos, informes y visualización sistemas; Natural
(Abogados laborales italianos) portal de jurisprudencia) disponibles para mejorar la coherencia idioma
Acceso a la justicia / público Procesando
servicios entre decisiones judiciales.
43. Italia Tribunal de Ravenna Processo Civile Acceso a la justicia / servicios de proceso público Automatizar las actividades de rutina Máquina
Telemático - PCT automatización relacionados con procedimientos judiciales. aprendizaje / profundo
44. Italia Tribunal de Ravenna Firma digital Preparando gran volumen Autenticidad de los datos Incrementar la autenticidad de los datos Privado / consorcio,
de datos y trazabilidad integridad y trazabilidad y reducir la autorizado
carga de papel relacionada con la firma
Falta de autenticidad manual
y / o trazabilidad documentos. Facilitar
gestión de documentos.
45. Italia Departamento de Justicia Aut Dedere Aut Procesando alto Proceso Automatizar procesos relacionados Sistemas expertos
Asuntos, Ministerio de Judicare volumen de datos automatización para documentar el análisis. y basado en reglas
Justicia Mejorar las posibilidades de adquirir sistemas
conocimientos a partir de grandes
cantidades de datos disponibles; Mejorar
las estadísticas sobre
cooperación internacional en
asuntos penales como
información derivada de
órdenes de arresto, traslados,
extradiciones, rogatorios, etc.
46. Italia Ministerio de Justicia Semiautomatizado Procesando alto Anonimización Anonimizar o seudonimizar Máquina
anonimización de volumen de datos; y datos. Semiautomatice el aprendizaje / profundo
208 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Organización del Estado Miembro / Proyecto Proyecto Problema empresarial Solución Descripción de la solución Tecnología utilizada
propietario categoría categoría
entidades en texto Preparando gran volumen Eliminación de entidades identificadas Lenguaje natural
documentos de datos; sensibles de los documentos. Procesando;
Protección de Datos
conformidad
47. Italia Procura della Giustizia penale e Preparando gran volumen Proceso Automatizar repetitivo y Máquina
Repubblica c / o intelligenza de datos; automatización procesos que requieren mucho tiempo, aprendizaje / profundo
informes y visualización.
48. Italia Legal gubernamental Avvocatura 2020 Procesando alto Proceso Automatizar repetitivo y Máquina
Servicio volumen de datos; automatización procesos que requieren mucho tiempo aprendizaje / profundo
49. Italia Procura della Firma digital Preparando gran volumen Autenticidad de los datos Aumente la autenticidad de los datos Privado / consorcio,
Repubblica presso il de datos; y trazabilidad y trazabilidad y reducir la carga de papel autorizado
Tribunale di Monza relacionada con la firma manual de
Falta de autenticidad documentos.
y / o trazabilidad Facilitar documento
administración.
50. Letonia Fiscalía General Reconocimiento de voz Preparando gran volumen Voz / texto a Modernizar las salas de los tribunales.
209 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Organización del Estado Miembro / Proyecto Proyecto Problema empresarial Solución Descripción de la solución Tecnología utilizada
propietario categoría categoría
Procesando alto
volumen de video, audio e
imágenes
51. Lituania Ciencia forense Red en tiempo real, Procesando alto Proceso Automatizar la compleja y lenta Máquina
Centro de Lituania texto y altavoz datos de volumen; automatización actividad de aprendizaje / profundo
Procesando alto
volumen de video, audio e
imágenes
52. Luxemburgo Ministerio de Justicia y Anonimización de Procesando alto Anonimización Anonimizar o seudonimizar Máquina
autoridades judiciales la jurisprudencia datos de volumen y datos. Automatizar el manual aprendizaje / profundo
Protección de Datos
conformidad
53. Malta Notario del Notarypedia Procesando alto Buscar Brindar a los notarios la posibilidad de Máquina
gobierno datos de volumen mejoramiento realizar búsquedas más versátiles en aprendizaje / profundo
54. Malta Departamento de Justicia Semantics4Courts Vincular información Buscar Acelerar y simplificar la posibilidad de Máquina
a través de diferentes buscar jurisprudencia relevante y otra aprendizaje / profundo
mejoramiento
fuentes; información en múltiples aprendizaje; Natural
idioma
Acceso a la justicia / público bases de datos. Procesando
servicios
210 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Organización del Estado Miembro / Proyecto Proyecto Problema empresarial Solución Descripción de la solución Tecnología utilizada
propietario categoría categoría
55. Malta Departamento de Justicia Registro de abogados Falta de autenticidad Autenticidad de los datos Incrementar la autenticidad Privado / consorcio,
y / o trazabilidad; y trazabilidad integridad y trazabilidad. autorizado
Garantizar inmutable, seguro,
Vincular información transparente y
a través de diferentes forma descentralizada de intercambio de
fuentes datos entre las partes.
56. los Ministerio de Justicia y Jurisprudentierobot Acceso a la justicia / Búsqueda pública (Jurisprudencia- Acelerar y simplificar la posibilidad de AI - Máquina
Países Bajos Seguridad servicios mejoramiento buscar jurisprudencia relevante y aprendizaje / profundo
57. los Ministerio de Justicia y DigiAkkoord Procesando alto Proceso Automatizar la aprobación Público pero
Países Bajos Seguridad volumen de datos; automatización proceso de documentos, autorizado
flujos de trabajo y transacciones.
Administrativo / instalaciones
administración
58. los Ministerio de Justicia y El financiero Protección de Datos Autenticidad de los datos Incrementar la autenticidad de los datos Privado / consorcio,
Países Bajos Seguridad freno de emergencia conformidad; y trazabilidad integridad y trazabilidad. autorizado
Garantizar seguro, transparente
Falta de autenticidad y protección de datos
y / o trazabilidad; forma conforme de gestionar la declaración
de imposibilidad de pago por parte de los
justicia / administración
59. los Ministerio de Justicia y Viajero conocido Procesando alto Proceso Automatizar los controles de identidad Privado / consorcio,
Países Bajos Seguridad Identidad digital volumen de video, audio automatización y procesamiento de datos de pasajeros. autorizado
Proyecto piloto (KTDI) e imágenes; libro mayor
211 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Organización del Estado Miembro / Proyecto Proyecto Problema empresarial Solución Descripción de la solución Tecnología utilizada
propietario categoría categoría
Procesando alto
volumen de datos
60. Portugal Instituto dos Registos e IReNe - Web do Notariado Acceso a la justicia / servicios públicos de asistencia digital Ayudar a los ciudadanos reduciendo la Máquina
Asistente personal carga de trabajo y ayudar a los ciudadanos aprendizaje / profundo
61. Portugal Público en general Tecnología de IA para Procesando alto Proceso Automatizar procesos relacionados
La oficina del fiscal análisis de evidencia datos de volumen automatización al manual que consume mucho tiempo
análisis de evidencia.
62. Portugal Ministerio de Justicia Balcão Único Do Vincular información Proceso Automatizar procesos relacionados Máquina
Prério Lab (BUPi) a través de diferentes datos automatización a la identificación de propietarios de no aprendizaje / profundo
Falta de autenticidad
y / o trazabilidad
63. Portugal Ministerio de Justicia BALCAT - Proyecto Vincular información Proceso Automatizar procesos relacionados
en balística a través de diferentes automatización al análisis balístico. Acelere y reduzca el
análisis fuentes; esfuerzo humano detrás del análisis
balístico.
Procesando alto
datos de volumen
64. Portugal Ministerio de Justicia Modelação, Preparando gran volumen Profético Predecir el resultado de las decisiones
Predição e Decisão de datos; analítica judiciales. Tribunal urgente
em Contexto de procedimientos y mejora
Jurisprudência Procesando alto eficiencia.
(Modelado, volumen de datos
Predicción y
Toma de decisiones en
212 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Organización del Estado Miembro / Proyecto Proyecto Problema empresarial Solución Descripción de la solución Tecnología utilizada
propietario categoría categoría
el contexto de
Jurisprudencia*)
Portugal
sesenta y cinco. Ministerio de Justicia Magistratos Vincular información Buscar Mejorar y agilizar las posibilidades de
a través de diferentes mejoramiento búsqueda de jurisprudencia relevante y
fuentes otra información proporcionando
66. Portugal Instituto Nacional da Patente inteligente Procesando alto Proceso Automatizar procesos de Máquina
Industrial Propriedade presentación electrónica y datos de volumen; automatización presentaciones de solicitudes de patente. aprendizaje / profundo
Administrativo / instalaciones
administración
67. Portugal Instituto Nacional da Experimentación Falta de autenticidad Autenticidad de los datos Explore posibles casos de uso en los que se
Industrial Propriedade y prueba de y / o trazabilidad y trazabilidad podría utilizar blockchain, es decir, datos de
(Instituto Nacional de Blockchain en IP propiedad industrial.
Propiedad industrial
(NIIP))
68. Eslovenia Tribunal Supremo de la Servicio de devolución Procesando alto Proceso Automatizar procesos relacionados LOC
República de Eslovenia Escritura de datos volumen de video, audio e automatización al manual y al tiempo
Reconocimiento imágenes consumir revisión de documentos.
Digitalizar documentos oficiales
y habilitar eficaz
gestión de documentos.
69. Eslovenia Tribunal Supremo de la COVL - Central Procesando alto Proceso Automatizar documento y LOC
República de Eslovenia Departamento para volumen de datos; automatización gestión de proceso.
Ejecución en Facilitar documento
La base de aplicación. Mejorar
eficiencia de la aplicación
213 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Organización del Estado Miembro / Proyecto Proyecto Problema empresarial Solución Descripción de la solución Tecnología utilizada
propietario categoría categoría
70. España Ministerio de Justicia Textualización de Procesando alto Voz / texto a Incrementar la productividad y Máquina
medios audiovisuales volumen de video, audio e texto / voz eficiencia automatizando aprendizaje / profundo
71. España Ministerio de Justicia Automatizado Procesando alto Proceso Automatizar simple y Máquina
documento volumen de datos; automatización actividades repetitivas, que aprendizaje / profundo
72. España Ministerio de Justicia Biometría para Acceso a la justicia / servicios públicos de autenticidad de datos Incrementar la autenticidad de los datos Máquina
alusiones personales y trazabilidad integridad y trazabilidad aprendizaje / profundo
73. España Centro de Automatizado Procesando alto Buscar Mejorar los resultados de búsqueda para Máquina
Documentación Judicial frases datos de volumen; mejoramiento respaldar el trabajo de la administración aprendizaje / profundo
(Judicial clasificación para usarlo para vincular una oración con aprendizaje; Natural
Centro de documentación Vincular información otros documentos (otras oraciones, idioma
[CENDOJ]) a través de diferentes Procesando
fuentes legislación, publicaciones) que
están relacionados con el mismo
tema.
214 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Organización del Estado Miembro / Proyecto Proyecto Problema empresarial Solución Descripción de la solución Tecnología utilizada
propietario categoría categoría
74. España Centro de Creación de Procesando alto Buscar Crear datos estructurados para mejorar Máquina
Documentación Judicial datos estructurados volumen de datos; mejoramiento la precisión de los resultados de aprendizaje / profundo
75. España Centro de Negocio Procesando alto Buscar Adquirir conocimientos sobre datos relevantes Máquina
Documentación Judicial Inteligencia volumen de datos; mejoramiento desarrollando aún más las herramientas de aprendizaje / profundo
76. España Centro de Automatizado Procesando alto Anonimización Anonimizar o seudonimizar Máquina
Documentación Judicial frases volumen de datos; y datos. Automatizar el manual aprendizaje / profundo
77. Suecia Bolagsverket (El Herramienta para elegir Procesando alto Proceso Automatizar el proceso de Máquina
Empresas suecas nombre de empresa volumen de datos; automatización solicitud de registro de una empresa aprendizaje / profundo
78. Suecia Skatteverket (sueco Orientación legal Procesando alto Buscar Facilitar la búsqueda de documentos Máquina
Agencia Tributaria) con soporte AI volumen de datos mejoramiento Procesos. aprendizaje / profundo
aprendizaje; Natural
215 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Organización del Estado Miembro / Proyecto Proyecto Problema empresarial Solución Descripción de la solución Tecnología utilizada
propietario categoría categoría
idioma
procesamiento (NLP)
79. Suecia Skatteverket (sueco Recibo digital Falta de autenticidad Autenticidad de los datos Incrementar la autenticidad de los datos
Agencia Tributaria) Procesando y / o trazabilidad y trazabilidad integridad y trazabilidad.
Digitalizar los recibos para reducir los
gastos administrativos.
cargas relacionadas con la presentación de informes
y el archivo.
80. Suecia Skatteverket (sueco Registros de personal Falta de autenticidad Autenticidad de los datos Incrementar la autenticidad de los datos
Agencia Tributaria) y / o trazabilidad y trazabilidad integridad y trazabilidad.
Trace empleado ilegalmente
personas.
81. Suecia Skatteverket (sueco Tiempo real / SINK Falta de autenticidad Autenticidad de los datos Incrementar la autenticidad de los datos
Agencia Tributaria) y / o trazabilidad; y trazabilidad integridad y trazabilidad.
Facilitar en tiempo real
Vincular información contabilidad de transacciones y
a través de diferentes Pago de impuestos.
fuentes
82. Suecia Skatteverket (sueco Proxies Falta de autenticidad Autenticidad de los datos Incrementar la autenticidad de los datos
Agencia Tributaria) y / o trazabilidad; y trazabilidad integridad y trazabilidad.
Digitalizar "firmado"
Preparando gran volumen autorizaciones para
de datos empleados.
83. Suecia Skatteverket (sueco Empresa Vincular información Autenticidad de los datos Incrementar la autenticidad de los datos
216 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Organización del Estado Miembro / Proyecto Proyecto Problema empresarial Solución Descripción de la solución Tecnología utilizada
propietario categoría categoría
84. Suecia Skatteverket (sueco Facturas Vincular información Autenticidad de los datos Incrementar la autenticidad de los datos
y / o trazabilidad
85. Suecia Skatteverket (sueco Contratos inteligentes Falta de autenticidad Autenticidad de los datos Incrementar la autenticidad de los datos Público pero
Agencia Tributaria) para registros de tierras y / o trazabilidad y trazabilidad integridad y trazabilidad. autorizado
Digitalizar lo administrativo
Preparando gran volumen procesos relacionados con la
de datos; venta, compra y
registro de propiedad.
Procesando alto
volumen de datos
86. Suecia Tullverket (* sueco PERFIL (trabajo Vincular información Profético Evaluación de riesgos temprana y precisa, Máquina
Servicio de Aduana) paquete fiscal a través de diferentes analítica por ejemplo, detección aprendizaje / profundo
87. Suecia Competición sueca Mejorando el Procesando alto Proceso Automatizar el procesamiento de documentos
Autoridad Eficiencia de datos de volumen; automatización y correos electrónicos
Trabajo de investigación (identificación, selección y
por el sueco clasificación de relevantes
Competencia información recopilada en una
Autoridad investigación antimonopolio).
Unidades de ejecución
88. Suecia Consumidor sueco Globo de prueba Procesando alto Proceso Automatizar el cribado de páginas
Agencia volumen de datos; automatización web.
217 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Organización del Estado Miembro / Proyecto Proyecto Problema empresarial Solución Descripción de la solución Tecnología utilizada
propietario categoría categoría
Procesando alto
volumen de video, audio e
imágenes
89. Suecia Domstolsverket Automático Procesando alto Voz / texto a Modernizar las salas de los tribunales. Máquina
(Nacional sueco transcripción volumen de video, audio e texto / voz Automatiza la transcripción aprendizaje / profundo
90. Suecia Domstolsverket Traducción Preparando gran volumen Voz / texto a Automatice la traducción de las decisiones Máquina
(Nacional sueco de datos texto / voz judiciales existentes. aprendizaje / profundo
Protección de Datos
conformidad
92. Suecia Domstolsverket Acceso a la justicia / servicios públicos de asistencia digital Ayudar a los ciudadanos a mejorar su Aprendizaje automático;
(Nacional sueco Chatbots acceso a la información. Lenguaje natural
Administración de Tribunales) Procesando
93. Suecia Domstolsverket Preparando gran volumen Proceso Automatizar procesos para Aprendizaje automático
(Nacional sueco Toma de decisiones de datos automatización mejorar la toma de decisiones en
Administración de Tribunales) tribunales.
218 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
• Nivel de madurez (si el proyecto se ha informado como 'Completado' o 'En curso', marcado en verde y azul respectivamente)
• Nivel de expectativas (si durante las consultas a los grupos de interés los grupos de interés respondieron que su proyecto supera,
cumple, cumple parcialmente o no cumple con sus expectativas).
los contratista sugiere que los proyectos que han sido evaluados como 'Supera las expectativas / Resultados muy positivos / Muy satisfechos 242
' 243 puede servir de base para el intercambio de buenas prácticas 244 entre las partes interesadas de otros Estados miembros.
De los 93 proyectos identificados, 43 (o el 46% de los 93 proyectos) tienen como objetivo resolver un problema empresarial en la categoría de
procesamiento de gran volumen de datos. De estos 43 proyectos, 6 se han informado como completados y 31, como en curso, como se
muestra en la siguiente tabla. La tabla también indica el nivel de expectativas, según lo informado por las partes interesadas.
2. Italia Tribunal de Apelación, Milán GAM - Giustizia Antitrust Milanese (* Cumple con las expectativas
Milán Antimonopolio
Justicia)
(Conocimiento administrativo
Sistema de IA)
3. Eslovenia Tribunal Supremo de la COVL - Departamento central Cumple con las expectativas de
República de Eslovenia ejecución en el
base de auténtico
Documentos.
4. Suecia Skatteverket (sueco Orientación legal con soporte de Cumple con las expectativas
5. Suecia Skatteverket (contratos inteligentes suecos para la Agencia Tributaria de Tierras) N/I
Registros.
7. Austria Ministerio Federal de Anonimización del tribunal Cumple con las expectativas
Justicia* decisiones
242 Según lo indicado por las partes interesadas en sus respuestas al cuestionario o durante las entrevistas.
243 RGB = 204-192-117
244 En el contexto de este estudio, las 'buenas prácticas' con respecto a un proyecto pueden relacionarse con actividades de preparación,
desarrollo e implementación del proyecto y superación de los desafíos encontrados, de manera óptima, como lograr los objetivos del proyecto y resolver
el problema de negocio en una medida que supere o cumpla las expectativas.
219 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
10. Republica checa Ministerio de Justicia La herramienta de anonimización judicial cumple con las expectativas
12. Dinamarca Policía Nacional Danesa Proyectos de pequeña escala (2): N/I
Priorización
14. Francia Tribunal de Casación Impulsado por IA Cumple con las expectativas
18. Italia Tribunal de Apelación de Brescia Justicia predictiva - a Cumple con las expectativas
pautas predecibles y
cronometraje en áreas particulares
21. Italia Departamento de Justicia Aut Dedere Aut Judicare Cumple con las expectativas
Asuntos, Ministerio de
Justicia
220 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
24. Lituania Centro de Ciencias Forenses Red en tiempo real, texto, de Lituania N/I
y análisis de oradores para combatir el
crimen organizado
- ROXANNE
27. Los países bajos Ministerio de Justicia y DigiAkkoord Cumple con las expectativas
28. Los países bajos Ministerio de Justicia y Viajero conocido digital N/I
Seguridad Proyecto piloto de identidad (KTDI)
30. España Ministerio de Justicia Documento automatizado Cumple con las expectativas
clasificación
Documentación Judicial
(Documentación judicial
Centro [CENDOJ])
35. Suecia Domstolsverket Anonimización del tribunal Cumple con las expectativas 246
(Nacional sueco decisiones
Administración de Tribunales) *
221 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
De los 93 proyectos identificados, 17 (o el 18% de los 93 proyectos) tienen como objetivo resolver un problema empresarial en la categoría de
procesamiento de alto volumen de video, audio e imágenes. De estos 15 proyectos, 5 están terminados y 11 están en curso, como se muestra
en la siguiente tabla. La tabla también indica el nivel de expectativas, según lo informado por las partes interesadas.
Expectativas
proyectos (1):
perceptivo
hash N/I
222 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
de IA
y orador
analítica para
combatiendo
organizado
crimen -
ROXANNE
De los 93 proyectos identificados, 24 (o el 26% de los 93 proyectos) tienen como objetivo resolver un problema empresarial en la categoría de
vincular información a través de diferentes fuentes. De estos 24
247 Suposición de que se compraron más de 700 softwares para los tribunales
223 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
proyectos, 8 están terminados y 13 están en curso, como se muestra en la siguiente tabla. La tabla también indica el nivel de expectativas,
según lo informado por las partes interesadas.
2. Italia Tribunal de Apelación, Milán GAM - Giustizia Cumple con las expectativas
Milanesa Antimonopolio
(* Milán Antimonopolio
Justicia)
(conocimiento
gestión de IA
sistema)
N/I
9. Austria Ministerio Federal de Jurisprudencia investigable Cumple con las expectativas 248
Justicia*
N/I
224 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
(* Justicia penal y
AI)
12. Italia Tribunal de Apelación de Brescia Justicia predictiva - a Cumple con las expectativas
pautas predecibles
y cronometraje en áreas particulares
N/I
Documentación Judicial
(Documentación judicial
Centro [CENDOJ])
De los 93 proyectos identificados, 14 (o el 15% de los 93 proyectos) tienen como objetivo resolver un problema empresarial en la categoría de
acceso a la justicia / servicios públicos. De estos 14 proyectos, 6 se han informado como completados y 5 como en curso, como se muestra
en la siguiente tabla. La tabla también indica el nivel de expectativas, según lo informado por las partes interesadas.
225 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
4. Portugal Instituto dos Registos e IReNe - Web Personal Cumple con las expectativas
Notarios)
5. Portugal Ministerio de Justicia Balcão Único Do Prério excede las expectativas Lab (BUPi) Lab
AI /
Hotpoint único para
los ciudadanos
7. Austria Chatbot del Ministerio Federal de Justicia sobre un ciudadano Cumple con las expectativas 249
portal de servicio
10. Países Bajos Ministerio de Justicia y La emergencia financiera cumple con las expectativas del freno
Seguridad
Empresas suecas
Oficina de Registro)
De los 93 proyectos identificados, 12 (o el 14% de los 93 proyectos) tienen como objetivo resolver un problema empresarial en la categoría de
gestión administrativa / de instalaciones. De estos 12 proyectos,
226 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
2 se han informado como completadas y 7 como en curso, como se muestra en la tabla siguiente. La tabla también indica el nivel de
expectativas, según lo informado por el interesado.
1. Austria Ministerio Federal de Justicia * Asignación automatizada y cumple con las expectativas
procesamiento de entrada
documentos
2. Italia Tribunal de Apelación, Milán GAM - Giustizia Antitrust cumple con las expectativas Milanese
(* Milan Antitrust
Justicia)
(conocimiento administrativo
Sistema de IA)
3. Austria Ministerio Federal de Justicia Jurisprudencia investigable Cumple con las expectativas
(Rigsadvokaten)
N/I
N/I
Seguridad
clasificación
De los 93 proyectos identificados, 13 (o el 14% de los 93 proyectos) tienen como objetivo resolver un problema comercial en la categoría de
cumplimiento de la protección de datos. De estos 13 proyectos, 11 están en curso y ninguno se ha completado, como se muestra en la
siguiente tabla. La tabla también indica el nivel de expectativas, según lo informado por las partes interesadas.
227 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
1. Austria Ministerio Federal de Anonimización del tribunal Cumple con las expectativas
Justicia decisiones
anonimización
República Herramienta
9. Países Bajos Ministerio de Justicia y La emergencia financiera Cumple con las expectativas
Seguridad freno
11. Suecia Domstolsverket Anonimización del tribunal Cumple con las expectativas
De los 93 proyectos identificados, 29 (o el 31% de los 93 proyectos) tienen como objetivo resolver un problema empresarial en la categoría de
preparación de un gran volumen de datos. De estos 29 proyectos, 5 están terminados y 20 están en curso, como se muestra en la siguiente
tabla. La tabla también indica el nivel de expectativas, según lo informado por las partes interesadas.
228 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
4. Suecia Skatteverket (contratos inteligentes suecos para la Agencia Tributaria de Tierras) N/I
Registros
República Herramienta
12. Francia Cour Delaware CassationAI impulsado Cumple con las expectativas
14. Alemania Delito Cibernético Central Futura sala del tribunal penal
Departamento de Norte
Renania-Westfalia N/I
229 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
15. Alemania Comisión para Los sistemas cognitivos del nivel cumplen parcialmente las expectativas
Fiscalía de tecnología de la información en el poder judicial
23. Suecia Domstolsverket Anonimización del tribunal Cumple con las expectativas
(Nacional sueco
Administración de Tribunales)
De los 93 proyectos identificados, 16 (o el 17% de los 93 proyectos) tienen como objetivo resolver un problema empresarial en la categoría de
falta de autenticidad y / o trazabilidad. De estos 16 proyectos, 11 se han informado como completados y 3 como en curso, como se muestra
en la siguiente tabla. La tabla también indica el nivel de expectativas, según lo informado por las partes interesadas.
230 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
14. los Ministerio de Justicia y La emergencia financiera Cumple con las expectativas
231 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Dado que un proyecto puede resolver más de un problema comercial según las categorías de problemas comerciales identificadas, de 8
proyectos completados y en curso, 5 (o 63%) tienen como objetivo resolver un problema en la categoría de PCD, 1 (o 13%) - en la categoría
de LKS, 2 (o 25%)
- en la categoría de ATJ, 2 (o 25%) - en la categoría de DPC, 3 (o 38%) - en la categoría de PPD, 1 (o 13%) - en la categoría de AFM y 2 (o
25 %) - en la categoría de LAT, como se muestra a continuación:
Dado que una solución comercial puede resolver más de un problema comercial según las categorías de problemas comerciales identificadas:
232 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
La imagen a continuación muestra los problemas comerciales que cada solución pretende abordar en las diferentes categorías de problemas
comerciales.
Categorías de soluciones
AFM LKS PCD PPD DPC LAT ATJ
Asistencia digital
Analítica predictiva
Automatización de procesos
La siguiente tabla propone una descripción general de las categorías de problemas comerciales en las que los proyectos explorados 250 de las
organizaciones profesionales legales caen, las soluciones comerciales que apuntan a abordar estos problemas y el tipo de tecnología de IA
(ML, NLP, Sistemas expertos, Visión por computadora) o blockchain / DLT (público autorizado o privado) que se utiliza (si así se indica por las
partes interesadas).
Tabla 9.2.1– Resumen de proyectos de las organizaciones profesionales legales por negocio
categoría de problema y solución
250 El proyecto AI4Lawyers no se incluye en la tabla, ya que es un estudio y no una tecnología que explora o
proyecto de ejecución.
233 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
No. Estado miembro Organización / Proyecto Proyecto Problema empresarial Solución Solución Tecnología utilizada
propietario categoría categoría descripción
1. Internacional Unión Europea de Recuperación de Procesando alto Proces Automatizar el Sistemas expertos
Funcionarios judiciales (UEHJ) Incontestado volumen de datos; automatización proceso de y basado en reglas
y alguaciles europeos ' Reclamaciones (RUC) colección de sistemas
Fundación (EUBF) Preparando gran volumen incontestado
de datos; depósitos de dinero
Entre
Administrativo / instalaciones empresas y
administración y analizar datos
relacionado con el mismo.
2. Internacional Unión Europea de Disputa online Acceso a la justicia / servicios digitales públicos Ayudar a los ciudadanos mediante Máquina
Funcionarios judiciales (UEHJ) Resolución asistencia acelerando el aprendizaje / profundo
3. Internacional Unión Europea de Alertcys.io Acceso a la justicia / público Datos Facilitar Público, permiso
Funcionarios judiciales (UEHJ) servicios; autenticidad desintermediación Menos
234 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
4. Republica checa Academia Judicial E-aprendizaje Procesando alto Proceso Automatizar el aprendizaje Máquina
Educación para volumen de datos; automatización actividades para el aprendizaje / profundo
235 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
6. Italia Escuela de Sant'Anna de Profético Procesando alto Profético Predecir subsiguiente Aprendizaje profundo;
Estudios Avanzados Jurisprudencia volumen de datos; analítica decisiones sobre el Sistemas expertos
(LIDER-Lab de DIrpolis mismo tema por y basado en reglas
Instituto), Pisa Preparando gran volumen recreando y sistemas;
de datos; imitar lo legal Algoritmos para
razonamiento detrás Clasificación;
Protección de Datos las soluciones) Algoritmos para
conformidad adoptado en el Regresión
juicios. Mejoramiento
Explique el
razonamiento
subyacente a cada
decisión. Analizar,
clasificar y
anotar corte
decisiones, caso
archivos y otros
documentos, también
como extrayendo
información de
documentos.
7. Italia Consejo Nacional de Notaio Smart Procesando alto Proceso Automatizar el tiempo Sistemas expertos
Notarios volumen de datos automatización proceso de consumo y basado en reglas de revisión
manual sistemas; Natural
de contratos por idioma
notarios Procesando
8. Italia Consejo Nacional de Notaio Smart Falta de autenticidad Datos Incrementar datos Privado / consorcio,
Notarios y / o trazabilidad autenticidad seguridad, integridad autorizado
y y trazabilidad por
trazabilidad reducción de papel
carga en el manejo
notarial
documentos.
236 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
• Nivel de madurez (si el proyecto se ha informado como 'Completado' o 'En curso', marcado en verde o azul respectivamente)
• Nivel de expectativas (si durante las consultas con las partes interesadas, las partes interesadas respondieron que su proyecto
supera, cumple, cumple parcialmente o no cumple con sus expectativas).
Proyectos que tienen un nivel de satisfacción indicado 'Supera las expectativas / Resultados muy positivos / Muy satisfecho' 251 puede servir
como base para el intercambio de buenas prácticas entre las partes interesadas en las categorías respectivas.
De los 8 proyectos identificados, 5 (o el 63% de los 8 proyectos) tienen como objetivo resolver un problema empresarial en la categoría de
procesamiento de gran volumen de datos. De estos 5 proyectos, 1 se ha informado como completado y 4, como en curso, como se muestra
en la siguiente tabla. La tabla también indica el nivel de expectativas, según lo informado por las partes interesadas.
Fundación (EUBF)
237 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
De los 8 proyectos identificados, ninguno tiene como objetivo resolver un problema empresarial en la categoría de procesamiento de alto
volumen de video, audio e imágenes.
De los 8 proyectos identificados, 1 (o el 13% de los 8 proyectos) tiene como objetivo resolver un problema empresarial en la categoría de
vincular información a través de diferentes fuentes. Este proyecto se completa como se muestra en la siguiente tabla. La tabla también indica
el nivel de satisfacción, según lo informado por el grupo de interés.
1. checo Academia Judicial La educación en e-learning cumple con las expectativas del poder
República judicial
De los 8 proyectos identificados, 2 (o el 25% de los 8 proyectos) tienen como objetivo resolver un problema empresarial en la categoría de
acceso a la justicia / servicios públicos. Los dos proyectos están en curso, como se muestra en la siguiente tabla. La tabla también indica el
nivel de satisfacción, según lo informado por los grupos de interés.
De los 8 proyectos identificados, 1 (o el 13% de los 8 proyectos) tiene como objetivo resolver un problema empresarial en la categoría de
gestión administrativa y de instalaciones. Este proyecto está en curso como se muestra en la siguiente tabla. La tabla también indica el nivel
de satisfacción, según lo informado por el grupo de interés.
238 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
De los 8 proyectos identificados, 2 (o el 25% de los 8 proyectos) tienen como objetivo resolver un problema empresarial en la categoría de
cumplimiento de la protección de datos. El proyecto está en curso como se muestra en la siguiente tabla. La tabla también indica el nivel de
satisfacción, según lo informado por los grupos de interés.
De los 8 proyectos identificados, 3 (o el 38% de los 8 proyectos) tienen como objetivo resolver un problema empresarial en la categoría de
preparación de un gran volumen de datos. Los 3 proyectos están en curso, como se muestra en la siguiente tabla. La tabla también indica el
nivel de satisfacción, según lo informado por los grupos de interés.
239 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
De los 8 proyectos identificados, 2 (o el 25% de los 8 proyectos) tienen como objetivo resolver un problema empresarial en la categoría de
falta de autenticidad y / o trazabilidad. Ambos proyectos están en curso, como se muestra en la siguiente tabla. La tabla también indica el nivel
de satisfacción, según lo informado por los grupos de interés.
Expectativas
240 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
10. W AY ADELANTE
Las autoridades públicas y judiciales de los Estados miembros y las organizaciones profesionales del derecho indicaron si sus proyectos
"superan", "cumplen", "cumplen parcialmente" o "no cumplen" sus expectativas. Esta evaluación del nivel de expectativas solo tiene en cuenta terminado
y el Proyectos en marcha ( es decir, 80 proyectos de las autoridades y el poder judicial de los Estados miembros y 8 de las organizaciones
profesionales del derecho).
En este contexto, los proyectos que 'superan' y 'cumplen' las expectativas pueden servir como base para el intercambio de buenas practicas 252
entre las partes interesadas de otros países. Estos proyectos se refieren a áreas tales como, Entre otros, anonimización de documentos (por
ejemplo, decisiones judiciales); conversión de voz a texto y transcripción; introducción de chatbots para fortalecer el acceso a la justicia y
servicios públicos, y Robot Process Automation (RPA) para aumentar la eficiencia y minimizar errores en tareas repetitivas. No obstante, otros
proyectos evaluados como "cumplen parcialmente" o "no cumplen" con las expectativas pueden servir como inspiración o experiencia útil en
términos del enfoque adoptado y las lecciones aprendidas.
Las siguientes recomendaciones están dibujadas horizontalmente, incluyendo sugerencias para el intercambio de buenas prácticas sobre los
proyectos identificados y atravesando varios puntos observados en este estudio:
• Coordinación a nivel de la UE de los esfuerzos y actividades. El estudio identificó una serie de proyectos en los Estados
miembros con objetivos, problemas comerciales y tecnologías similares utilizados para resolverlos. Por lo tanto, para evitar la
duplicación de esfuerzos y garantizar la interoperabilidad semántica y organizativa, es necesario coordinar y mejorar la
comunicación sobre los objetivos y actividades previstos del proyecto a nivel de la UE.
• Fortalecimiento de las asociaciones y redes existentes. Asociaciones existentes entre organizaciones europeas y de EM, como
el observatorio AI4EU 253 o observatorio y foro de blockchain de la UE 254, debe fortalecerse aún más con una mayor participación de
expertos en el campo de la justicia. Esto contribuiría a crear conciencia sobre los beneficios de las tecnologías innovadoras y
comprender mejor cómo pueden ayudar a resolver problemas específicos.
• Recomendación para el establecimiento de un mecanismo de apoyo a las organizaciones profesionales del derecho. Definir
un mecanismo de apoyo para las organizaciones profesionales legales para facilitar la preparación e implementación de pruebas
de conceptos (PoC) como 'ganancias rápidas' que demuestren el valor agregado y los beneficios de las tecnologías innovadoras
para los profesionales.
Estas acciones y mecanismos pueden incluir la creación de redes y plataformas de intercambio de conocimientos para involucrar a las partes
interesadas del sector público y privado en el diálogo (incluso con instituciones, organismos y agencias de la UE), para ayudarlos a encontrar
información sobre proyectos actuales que involucran tecnologías innovadoras ( en su Estado miembro o en otro lugar) y ayudarlos durante
todo el ciclo de vida del proyecto mediante la identificación de socios y oportunidades de financiación y la preparación de PoC.
252 En el contexto de este estudio, las 'buenas prácticas' con respecto a un proyecto pueden relacionarse con actividades de preparación,
desarrollo e implementación del proyecto y superación de los desafíos encontrados, de manera óptima, como lograr los objetivos del proyecto y resolver
el problema de negocio en una medida que supere o cumpla las expectativas.
253 https://www.ai4eu.eu/observatory
254 https://www.eublockchainforum.eu/
241 | Página
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Informe final
Anexo II - Proyectos explorados y casos de uso de las autoridades de los Estados miembros
242 | Página
Estudio de innovación de la DG JUST Proyectos de organizaciones TIC v.1.0
Septiembre de 2020
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
Este Informe ha sido elaborado por TRASYS International, parte del Grupo NRB, en el marco del Contrato Marco ABC IV - Lote 3, para la DG
Justicia y Consumidores.
Gerente de proyecto: Dijana SPASOJEVIC, Directora de consultoría empresarial Correo electrónico: dijana.spasojevic@nrb.be
Informe elaborado por: Miglena VUCHEVA, Margarida ROCHA, Robrecht RENARD, Dimitrios STASINOPOULOS
Descargo de responsabilidad: La información y las opiniones expuestas en este informe son las del autor o autores y no reflejan
necesariamente la opinión oficial de la Comisión Europea. Cualquier persona que actúe en nombre de la Comisión podrá ser considerada
responsable del uso que pueda hacerse de la información contenida en ella.
1
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
Contenido
1. Introducción................................................. .................................... 3
3.1. Referencias categorizadas como parte del marco horizontal sobre tecnologías innovadoras .......................................
............................................ 74
2
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
1. Introducción
El documento ofrece un resumen de 117 referencias, revisadas por el contratista en el contexto del estudio sobre Uso de tecnologías
innovadoras en el ámbito de la justicia, encargado por la Dirección General de Justicia y Consumidores de la Comisión Europea.
Algunas de las referencias en el presente documento contienen un resumen. Para aquellos que no contienen uno, el contratista elaboró
un breve resumen.
Todas las referencias revisadas están representadas en la tabla de la Sección 2 de este documento. El contratista atribuyó tres niveles
de relevancia a las referencias: Alto, Medio y Bajo, como se define a continuación:
• Alto => Las referencias de relevancia de alto nivel son parte del marco legal y / o político de la Unión Europea (UE) y
los Estados miembros de la UE, que establecen prioridades estratégicas horizontales, reglas y principios con respecto al uso de IA
y / o blockchain / DLT. Además, estas referencias incluyen trabajos académicos y estudios realizados por diferentes organismos y
organizaciones, que discuten casos de uso y problemas empresariales directamente relacionados con el campo de la justicia y / o
proponen un análisis de las cuestiones éticas y legales derivadas de los usos de estas tecnologías. .
• Medio => Las referencias de relevancia de nivel medio incluyen artículos académicos y estudios que discuten casos de
uso de tecnologías innovadoras en otros campos, sin embargo, debido a la aplicabilidad de estas tecnologías a múltiples campos,
podrían 'inspirar' su uso potencial en el dominio de la justicia.
• Bajo => Las referencias de relevancia de bajo nivel no discuten usos de tecnologías innovadoras en el campo de la
justicia u otros campos, sin embargo, plantean algunas consideraciones importantes, principalmente de naturaleza técnica, que
podrían tener un impacto en futuros proyectos de IA o blockchain / DLT implementados por Autoridades de los Estados miembros.
Las referencias revisadas que se evaluaron como no relevantes para el estudio también se incluyen en la tabla para que estén completas.
Las referencias revisadas se clasifican en las siguientes categorías (una referencia puede pertenecer a varias categorías):
• Referencias, pertenecientes a un marco legal y político horizontal (' Marco horizontal ')
Referencias, discutiendo aspectos y requisitos legales y éticos relacionados con la implementación de IA y / o blockchain / DLT (' Implicaciones
legales y éticas ')
• Otras, referencias que no entran en ninguna de las categorías anteriores, por ejemplo, referencias que discuten
aspectos técnicos, enfoques, toma de decisiones, evidencia digital, etc. ( 'Otro')
3
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
1. Versión consolidada de Arte. 2 (TUE) `` La Unión se basa en los Alto El uso de Horizontal AI
el Tratado de la Unión Europea valores del respeto de la dignidad humana, la innovación marco de referencia
4
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
y del Consejo de 27 de abril de datos, incluidos los que no están establecidos Inteligencia para proteccion
2016 (GDPR), en la UE, pero, por ejemplo, ofrecen bienes o Europa, el
[2019], DO L 119/1. servicios a los interesados en la UE. Estados de la comisión
que seguirá de cerca
Eso conjuntos seis principios el
según el cual se deben procesar los datos aplicación de la
personales. El GDPR impone una obligación GDPR en el contexto de la
a los controladores / procesadores de datos inteligencia artificial y solicita los
de procesar los datos de forma segura, datos nacionales
implementando proteccion
'apropiado autoridades y el
técnico y organizativo europeo Datos
medidas '. Además, los responsables del Junta de protección para
tratamiento o los encargados del tratamiento de hacer lo mismo. GDPR
datos deben asegurarse de que las operaciones contiene disposiciones
de tratamiento cumplan con el principio de en decisión-
protección de datos por diseño y por defecto. El haciendo, establecido
GDPR solamente en
además estipula el automatizado
condiciones que deben cumplirse para que Procesando,
un controlador / procesador de datos pueda incluida la elaboración de perfiles.
5
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
responsabilidad, seguridad y
robustez de el datos
Procesando. 257
5. Reglamento (UE) Establece normas sobre cómo las instituciones, Alto Ut supra Horizontal AI
2018/1725 del órganos, oficinas y agencias de la UE marco de referencia;
6
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
7
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
8. CEPEJ, 'L'intelligence El documento es parte de la mesa redonda Alto El documento discute Legal y ético AI
artificielle au service du pouvoir de la Comisión Europea para la Eficiencia de el en marcha trascendencia; Utilizar
judiciaire ', 26 la Justicia (CEPEJ) y explora la situación en situación en Francia casos
Septiembre 2018, Ronda Francia en términos de herramientas de con considerar a
Mesa, CEPEJ General justicia predictiva implementadas y el 'justicia predictiva'
Administración de concepto de 'decisiones judiciales de datos y el
Lituania. abiertos'. prerrequisitos, el
riesgos y el
Expectativas
relacionado a sus
implementación en
el judicial francés
sistema.
9. Grupo de expertos de alto nivel Confiable AI tiene Tres Alto Las Directrices son Horizontal AI
en AI (AI HLEG), ' Directrices de componentes, que deben cumplirse durante preparado por un grupo de marco de referencia; Legal
ética para todo el ciclo de vida del sistema: debe ser (1) expertos de alto nivel y ético
IA confiable ', 8 de abril legal, (2) ético y (3) robusto. Las Directrices conjunto arriba por el trascendencia
2019. establecen el marco de una IA confiable, europeo
fomentando y asegurando su ética Comisión y
puede ser considerado
como parte de el
aspectos y sus horizontal legal y
robustez. Además, dan ejemplos de política marco de referencia
oportunidades y preocupaciones críticas sobre la IA a nivel de la UE
planteadas por AI. 260 llave
principios en el uso de la IA.
10. OCDE, Recomendación La Recomendación tiene como objetivo fomentar Alto El documento es un documento Horizontal AI
del Consejo de Inteligencia la innovación y la confianza en la IA mediante la legal oficial de la OCDE. marco de referencia; Legal
260 Ídem.
8
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
desarrollo y bienestar;
centrado en el ser humano valores y
justicia; transparencia y
explicabilidad; robustez,
seguridad y la seguridad; y
responsabilidad.
En adición, el
La recomendación proporciona cinco
recomendaciones a
Responsables políticos perteneciente a
nacional politicas y
cooperación internacional para
confiable AI, a saber:
invertir en investigación y desarrollo de IA;
fomentar un ecosistema digital para la IA; dar
forma y habilitar un entorno político para la
IA; desarrollar la capacidad humana y
prepararse para la transformación del
mercado laboral;
y
cooperación internacional para
IA confiable. 261
11. Comunicación de Con el enfoque en una IA más centrada en el Alto La comunicación Horizontal AI
la Comisión al Parlamento ser humano en Europa, han surgido nuevos se refiere a las Directrices de marco de referencia; Legal
y con el ético
9
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
IA confiable. 262
12. Comunicación de La Estrategia sobre inteligencia artificial para Alto El documento es Horizontal AI
la Comisión al Parlamento Europa coloca a las personas en el centro del parte de el marco de referencia
13. Comunicación de Cumplimiento de la Estrategia sobre IA para Alto El documento puede Horizontal AI
la Comisión al Parlamento Europa, adoptada en abril ser considerado como marco de referencia
Económico Europeo y miembros. El Plan Coordinado tiene como sobre IA a nivel de la UE.
Comité Social y principales objetivos: la promoción
el Comité de las Regiones, 'Coordinado
de el común
10
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
14. Comunicación de El artículo presenta un paquete de medidas Alto El documento es una parte Horizontal AI / DLT
la Comisión al Parlamento propuestas por la Comisión, de el marco de referencia
COM (2018) 232 final. orientación sobre el intercambio de datos del sector datos reconocidos como
privado. 265 un cada vez más
activo crítico para el
desarrollo de
nuevo tecnologias
como AI e Internet de las
cosas.
15. Comisión Europea El Libro Blanco sobre Inteligencia Artificial y Alto El Libro Blanco es parte Horizontal AI
Libro blanco sobre inteligencia la estrategia europea de datos son los de el marco de referencia
11
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
dieciséis. Comité de expertos El documento analiza los impactos de los Alto los documento horizontal AI
en Internet algoritmos en los derechos humanos, como elabora sobre el marco de referencia; Legal
12
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
17. Gobierno Federal de El documento es una estrategia nacional Alto El documento es una Horizontal AI
Alemania, Nacional sobre cómo el uso de la IA y sus estrategia sobre cómo el marco de referencia
internacional
paisaje y elabora el
13
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
21. Nacional Artificial El documento es una estrategia nacional Alto El documento es una estrategia horizontal AI
Estrategia de inteligencia de sobre cómo el uso de la IA y sus sobre cómo el marco de uso de la IA y su
la República Checa. implicaciones (legales, éticas
etc.) debería ser implicaciones (legales,
14
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
marco y es
por lo tanto de alto
relevancia para esto
estudiar.
22. Estrategia Española de I + D + i en La Estrategia IA en I + D + i en España Alto Cf. Resumen Horizontal AI
Inteligencia Artificial. establece una serie de prioridades que se marco de referencia
Ciencias, Tecnología y
Innovación (EECTI) 2021-2028
y que deberá desarrollarse en iniciativas y
actividades definidas y financiadas a través
de
el Ciencias,
Tecnología y Innovación
Planes Stares (PECTI), movilizando las
sinergias entre los diferentes
niveles de público
administración y mediante el codesarrollo de
los sectores público y privado. Es una
condición en el desarrollo de tecnologías y
aplicaciones de la IA vinculadas a esta
Estrategia evitar los sesgos y prejuicios
negativos de nuestra sociedad, como el
género, la raza u otras formas de
discriminación, y de los que los sistemas de
toma de decisiones de la IA se libre. También
incluye
una serie de
recomendaciones ese
15
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
trascender la I + D + i y demandar la
presencia de otros sectores y departamentos
ministeriales debido a la
multidisciplinario y
naturaleza transversal de la IA y la tecnología
y social
revolución que implica.
23. AI Portugal 2030 - Nacional Esta estrategia está totalmente alineada con Alto Cf. Resumen Horizontal AI
portugués el plan de acción coordinada de la UE y los marco de referencia
dieciséis
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
orientado. por el
Estonio gobierno, el
Los beneficios del uso de la IA estarán en el
desarrollo de la gobernanza del ego y
atraerán nuevas inversiones.
en innovación
ocupaciones.
17
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
25. Plan de Acción Estratégico para la los Estratégico Acción Plan Alto Cf. resumen Horizontal AI
Inteligencia Artificial de establece la intención y los principios marco de referencia
publico privado
asociaciones, especialmente con la Coalición
holandesa de IA 268 con el objetivo principal de
capitalizar la sociedad
y económico
oportunidades. Una segunda pista apunta
a garantía el
condiciones previas para af clima favorable de
la IA en la economía y la sociedad en general. La
tercera pista se centra
en fortalecimiento
cimientos, que se ocupa de la salvaguardia
de los derechos humanos fundamentales y
de garantizar
legal y ético
marcos. Finalmente, estas 3 vías incorporan
11 objetivos que brindan lineamientos y
apoyan la Estrategia nacional.
26. eJustiz-Strategie der El documento es una estrategia nacional e-High Justiz Cf. resumen Horizontal AI / DLT
österreichischen Justice sobre cómo el uso
2018-2022 Langversion de tecnologías innovadoras y sus
(Estrategia de Austria). implicaciones (legales, éticas, etc.) deben
abordarse en Austria.
27. Malta digital - Estrategia digital La Estrategia presenta un conjunto elevado de Cf. Resumen Horizontal Digital
nacional 2014– principios rectores y acciones para que las TIC se marco de referencia transformación/
2020. utilicen para el desarrollo socioeconómico. Eso Innovación
18
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
28. 2030 Digital los Estrategia de transformación digital 2030 Alto Cf. Resumen Horizontal Digital
Estrategia de transformación para Eslovaquia (el marco de referencia transformación/
para Eslovaquia. Estrategia) representa el AI
Percepción eslovaca de la necesidad de
transformación de una industria
sociedad dentro un
información sociedad.
Además, esta Estrategia,
que es coordinado principalmente por la
Oficina del Primer Adjunto
19
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
económico y sostenible
crecimiento y aumentar la calidad de vida de los
ciudadanos.
29. Resolución 1281 del Gobierno Este documento presenta una visión sobre la Alto Cf. Resumen Horizontal AI
de la movilización de recursos estatales con el objetivo marco de referencia
risinājumu
attīstību ' 269 270 Anunciar
d en julio de 2019.
31. EF Villaronga, P. Kieseberg y Esta artículo examina el Alto El papel explora Información personal AI
T. Li, 'Los humanos olvidan, problema de la memoria de la IA y el la aplicabilidad de proteccion
"derecho al olvido" (RTBF). Primero, este GDPR y el derecho al olvido
las máquinas recuerdan: artículo analiza el trasfondo legal del derecho en combinación
Inteligencia artificial y a ser con
el derecho a ser olvidado, en orden a AI. Es de cerca
269 Traducción de contratistas: Informe informativo 'Sobre el desarrollo de soluciones de inteligencia artificial'.
270 Documento disponible en el sitio web oficial del Gabinete de Ministros de la República de Letonia: http://tap.mk.gov.lv/lv/mk/tap/?pid=40475479
20
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
artificial inteligencia
Ambientes. Finalmente, esta
El artículo aborda el problema central en el
corazón de la IA y el problema del derecho al
olvido: los desafortunados
escasez de
interdisciplinario beca
apoyar la ley y la regulación de la privacidad.
32. MG Stawa, '¿Cómo se acerca El documento describe las medidas Alto Relacionado cercanamente a Casos de uso AI
Austria a la IA? adoptadas por Austria para integrar la esta estudiar. los
integración judicial inteligencia artificial documento analiza el
políticas. dentro procesos tal como introducción de la IA en el
análisis de correo entrante, gestión de ámbito de la justicia por un
archivos digitales, análisis de investigación Estado miembro.
datos,
anonimización de Corte
decisiones y otros.
21
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
33. A. Ponce, 'A Law on Robotics Esta papel discute el Alto los artículo Legal y ético AI
and Artificial europeo Del parlamento discute las implicaciones
¿Inteligencia en la UE? Resolución de 16 de febrero de 2017 con formas posibles para
propone ese
Recomendaciones del parlamento
podría ir más allá al abordar un espectro
mucho más amplio de agentes artificiales e
inteligencia artificial, en lugar de centrarse en
categorías específicas de robots. Eso
luego mira a el
responsabilidad, visibilidad y
responsabilidad de quienes tienen poder de
decisión sobre
el diseño, desarrollo y despliegue
de robots y
inteligencia artificial, incluyendo
diseñadores y desarrolladores ".
34. KS Gill, 'Datos para Las olas tecnológicas de súper inteligencia Alto los papel es legal y ético AI
Decisión y juicio artificial, big data, algoritmos y aprendizaje importante de las implicaciones aspecto ético de
Haciendo - una cuestión de automático continúan impactando nuestro
sabiduría, ' IFAC- pensamiento y acciones, por lo tanto sociedades. Eso
22
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
No. 30, págs. 733–738, enero de afectando las formas en que los individuos, las perspectiva, que
2018. profesiones y instituciones se podría considerar
hacer juicios. Por un lado, existe el en el diseño de un proyecto
argumento de que más de IA relacionado con el
datos y conocimiento campo de la justicia. Implica
junto con el sistema físico cibernético los datos
de industria4.0 será manejo aspectos
automáticamente empujar sociedad durante una decisión
siguiendo algún camino hacia un mundo mejor y juicio
para todos. Por otro lado, escuchamos voces proceso de fabricación.
preocupantes sobre las desventajas
imponderables de las nuevas y poderosas
tecnologías cibernéticas, biológicas y nano,
y
Biología sintética. En la era de las
incertidumbres, el big data y el algoritmo,
¿cómo se ve afectado el proceso de toma de
decisiones y juicios?
35. M. Doumpos y C. Esta capítulo enfoques en Alto los papel es casos de uso AI
Zopounidis, computacional inteligencia, importante de la
'Computacional que ha surgido como un subcampo distinto de perspectiva de
Técnicas de inteligencia la inteligencia artificial involucrado en el estudio proporcionando información sobre
preferencia referencia en
desagregación. La primera sección del discusiones y
capítulo presenta una introducción. avanzando el
a el MCDA investigación.
paradigma, sus principales conceptos y
corrientes metodológicas.
23
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
24
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
en el marco del RGPD, ' Computación.impacto de la inteligencia artificial en la GDPR, específicamente protección
sociedad, cubriendo cuestiones la parte de la justicia.
Law Secur. Rdo., vol. de responsabilidad, legal
34, no. 2, págs. 257–268, abril de personalidad y otras cuestiones éticas y
2018. legales, incluso en el contexto del
procesamiento de datos. En marzo de 2017,
el Comisionado de Información
Oficina (REINO UNIDO)
para artificial
procesamiento de inteligencia personal
los datos sirven para establecer que dicho
procesamiento es justo. Este cambio refleja
el potencial para
25
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
organizaciones y individual
sujetos de datos, con una serie de impactos
éticos y sociales que necesitan ser
evaluados.
38. S. Tolan, M. Miron, E. Gómez y En este artículo los autores estudian Alto los documento Otro AI
C. Castillo, 'Why Machine limitaciones de Máquina evalúa ML
Learning Algoritmos de aprendizaje (ML) para algoritmos
Puede conducir a la injusticia ' predecir la reincidencia juvenil. prediciendo criminal
2019, págs. 83–92. Particularmente, están interesados en comportamiento. Cf.
analizando el compensación resumen
entre el rendimiento predictivo
y equidad. En ese sentido, evaluamos la
equidad de los modelos ML junto con
SAVRY, un
profesional riesgo
masculino acusados,
extranjeros o personas de grupos nacionales
específicos. Por ejemplo, los extranjeros que
no reincidieron tienen casi el doble de
probabilidades de ser clasificados
erróneamente como de alto riesgo por los
modelos de LD que los españoles.
Finalmente, el documento analiza las posibles
fuentes de esta injusticia y proporciona
explicaciones.
para ellos, por
26
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
combinando la interpretabilidad de ML
técnicas con un análisis de datos exhaustivo.
Los hallazgos proporcionan una explicación de
por qué las técnicas de AA conducen a la
injusticia en la evaluación de riesgos basada en
datos,
incluso cuando los atributos protegidos no se utilizan
en el entrenamiento.
39. S. Danziger, J. Levav y L. ¿Los fallos judiciales se basan únicamente Alto Que se discute Factores legales y éticos sugieren AI
Avnaim-Pesso, en leyes y hechos? Legal ese implicaciones
'Factores extraños en El formalismo sostiene que los jueces aplican naturaleza subjetiva de
decisiones judiciales, 'Proc. razones legales a los hechos de un fallo judicial y no un fallo,
Natl. Acad. Sci. Estados Unidos, vol. una caso en una racional, que se basa puramente en
108, no. 17, págs. 6889–6892, abril mecánico y deliberativo la letra de la ley y los
de 2011. conducta. En contraste, legal hechos de un caso. Esta
Los realistas argumentan que la aplicación
racional de razones legales no explica indirectamente
variables ese
27
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
40. Alfter Br., Müller-Eiselt, los documento análisis Alto Cf. resumen Legal y ético AI
R., y Spielkamp M. automatizado Toma de decisiones trascendencia
'Automating Society - (ADM) en la UE que afectan
Haciendo balance de justicia, igualdad,
Decisión automatizada participación y bienestar público, ya sea
Fabricación en la UE ', directa o indirectamente.
AlgorithmWatch, 1 S t
edición, enero de 2019.
41. BLT Sturm, M. La aplicación de la inteligencia artificial Alto Habla a Implicaciones legales y éticas AI
Iglesias, O. Ben-Tal, M. Miron y (AI) a música legal específicas Implicaciones
E. Gómez, 'Inteligencia artificial se remonta a muchas décadas y presenta respecto a el
numerosas oportunidades únicas para una propiedad intelectual
y Música: Abierto variedad de usos, derecho e inteligencia artificial.
datos y eficaz
algoritmos de aprendizaje que se ejecutan en alta
potencia computacional
hardware, la IA ahora está produciendo
resultados en una
dos perspectivas:
derecho de autor y praxis de la ingeniería.
Basa su discusión en el desarrollo y uso de
una
28
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
salidas, posible
discriminar sesgos en los conjuntos de datos
subyacentes y el modelo que utiliza los datos,
y su eficacia para predecir el delito. 271
29
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
de la democracia constitucional.
Este documento describe primero los cuatro elementos
centrales de la tecnología digital actual.
poder concentración,
que deben verse en acumulación y que, en
conjunto, son una amenaza para la
democracia y el funcionamiento de los
mercados. Luego recuerda la experiencia con
Internet sin ley y la relación entre la
tecnología y la ley tal como se ha
desarrollado en Internet.
economía y el
experiencia con GDPR antes de pasar a la
pregunta clave para la IA en democracia, a
saber, cuáles de los desafíos de la IA pueden
dejarse a la ética de forma segura y con
buena conciencia, y qué desafíos de la IA
deben abordarse mediante reglas que sean
aplicables y abarquen la legitimidad
de democrático
proceso, por lo tanto leyes. El documento se
cierra con un llamado a una nueva cultura de
incorporación de los principios de democracia,
estado de derecho y derechos humanos por
diseño en
AI y una tres niveles
tecnológico impacto
evaluación para nuevo
30
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
31
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
45. F. - Agencia de la Unión Europea El artículo analiza la noción de sesgo en los Alto El documento es parte del Información personal AI
para datos de entrenamiento. trabajo del proyecto del proteccion,
Derechos, 'Calidad de datos e entre otro aspectos. Eso europeo Fundamental
inteligencia artificial- describe la forma en que las empresas Derechos fundamentales derechos, legales y
mitigar el sesgo y recopilan los datos para el análisis de datos Agencia de Artificial ético
error para proteger con el objetivo de crecimiento empresarial. Inteligencia y grande trascendencia
derechos fundamentales' Destaca las discrepancias en los datos según datos.
el medio con el que se recopilan. Por
ejemplo, la recopilación de datos de Internet
no es una forma muy eficiente de hacerlo, ya
que hay grupos específicos que no tienen
acceso a ellos. Lo mismo ocurre con las
redes sociales, ya que muchas personas
eligen no usarlas y, como tal, los datos
inevitablemente tienen un sesgo. Esto es
particularmente notable para los hogares con
bajos ingresos que no tienen acceso a
Internet. Además, el documento utiliza
ejemplos de resultados sesgados cuando se
utilizan datos de baja calidad en el proceso
de entrenamiento de los sistemas de IA. La
baja calidad podría afectar el acceso a un
juicio justo. Este documento de enfoque trata
específicamente de la discriminación, un
32
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
47. M. Moiariková, 'Usando La inteligencia artificial (IA) ofrece varias Alto los papel es una disputa en línea AI
inteligencia artificial en caracteristicas, tal como maestro resolución de tesis, legal
disputa en línea aprendizaje, razonamiento, problema que representa un implicaciones, uso
resolución ', Masaryk resolución, de la que se puede beneficiar el extensa investigación Descripción del caso
Universidad, Brno 2018. dominio legal. El litigio se está volviendo dentro el ODR
anticuado y tema y AI,
resolver disputas en línea es más rápido, Proporcionar una
explica el disputas.
ley perspectiva de
división de propiedad comunitaria en
33
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
el checo República y
presenta los proyectos actuales utilizados en
derecho de familia. Posteriormente, el documento
diseña un proceso para la liquidación de la
propiedad comunitaria.
para ayudar a dividir la propiedad comunitaria
y crear un
acuerdo entre las partes mediante
negociación en línea. El proceso también
ayuda a los mediadores en la mediación en
línea. Se implementan diferentes algoritmos
que utilizan la teoría de juegos y la lógica
difusa para asignar los activos a las partes. El
documento proporciona una aplicación web
para presentar el proceso. Finalmente, aplica
el proceso a un escenario de la vida real y
compara los resultados con los resultados de
sistemas similares.
48. G. Hallevy », Responsabilidad por delitos La idea de responsabilidad por delitos Alto El libro trata sobre Horizontal cómo en el futuro AI
relacionados con relacionados con la inteligencia artificial el marco de la IA podría
Inteligencia artificial sistemas no ha sido ampliamente investigado impacto
Sistemas ', ( Saltador todavía. Avanzado derecho penal.
2015). la tecnología hace que la sociedad se enfrente a nuevas
desafíos no solamente
34
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
quizás, el artificial
propio sistema de inteligencia.
49. G. Hallevy, 'Los modelos básicos La forma en que los seres humanos afrontan las Alto Esta artículo Implicaciones penales AI
de criminalística violaciones del orden legal es a través del discute legales y éticas
Responsabilidad de los sistemas de derecho penal, operado por el sistema de responsabilidad y su (derecho penal)
inteligencia artificial y los círculos exteriores justicia penal. En consecuencia, las sociedades implicación en la IA.
(2019). humanas
definir los delitos y operar los mecanismos
sociales para aplicarlos. Así es como
funciona el derecho penal. Originalmente,
esta forma ha sido diseñada por humanos y
para humanos. Sin embargo, como la
tecnología
tiene desarrollado,
los delitos penales son cometidos no solo por
humanos. El mayor avance en este tema se
produjo en el siglo XVII. En el siglo XXI se
requiere que el derecho penal proporcione
soluciones adecuadas para la comisión de
delitos
ofensas mediante
artificial inteligencia (AI)
entidades. Básicamente, existen tres
modelos fundamentales para enfrentar este
fenómeno dentro de las definiciones actuales
de derecho penal. Estos modelos se
presentan a continuación.
50. S. Gless et al., 'Si los robots El hecho de que los robots, especialmente los Alto Toca el futuro impacto legal y ético en las implicaciones AI
causan daño, coches autónomos, se hayan convertido en del derecho penal.
¿Quién tiene la culpa: los coches parte de nuestra vida diaria plantea cuestiones (derecho penal
autónomos y novedosas en el derecho penal. Los robots impacto)
Responsabilidad Penal ', 2016. pueden funcionar mal y causar daños graves.
Nueva ley penal Pero tal como están las cosas hoy, no son
Revisión, Volumen 19, destinatarios adecuados de castigo penal,
Número 3, pág. 412. principalmente porque
35
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
52. U. Pagallo y S. El objetivo del capítulo es Alto General enfoque Legal y ético AI
Quattrocolo, 'El impacto Examinar las tendencias actuales de la IA que sobre el derecho penal trascendencia
de la IA en derecho penal, y pueden afectar los principios del criminal. (derecho penal)
su doble ley campo. Por
procedimientos ', en W. determinar si, y en qué medida, la creciente
Barfield y U. Pagallo (eds.) autonomía
de AI decisión-
hacer puede afectar tales principios de
36
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
los análisis es
correspondientemente dividido en
dos partes. Por un lado, el enfoque está
restringido a los riesgos de utilizar pruebas
basadas en inteligencia artificial en
actas. Más
en particular, se llama la atención sobre los
artículos 6 y 8 del Convenio Europeo de
Derechos Humanos ("CEDH"). Por otro lado,
el capítulo analiza si un conjunto cada vez
mayor de decisiones tomadas por robots
inteligentes y sistemas de inteligencia
artificial ya pueden caer dentro de las
lagunas del sistema. El objetivo general es
mostrar que las disposiciones actuales del
derecho penal, como las reglas del CEDH,
pueden abordar adecuadamente los desafíos
normativos de la IA como un medio para fines
de aplicación de la ley y, sin embargo, las
reglas primarias de la ley que pretenden
gobernar directamente a individuos y El
comportamiento social no cubre algunos de
los nuevos casos provocados por el uso de la
tecnología bajo examen. Las lagunas que
siguen como resultado sugieren que
deberíamos tener en cuenta un conjunto
diferente de normas y procedimientos,
a saber, el
37
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
38
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
54. P. Perrot, ' ¿Qué pasa con la IA La vigilancia policial predictiva está cada vez Alto El artículo se desarrolla Justicia penal AI
en criminal más desarrollada en todo el mundo. Los en profético
¿inteligencia? De programas de televisión y las ficciones como 'el vigilancia y
vigilancia policial predictiva a las informe de la minoría' o 'Persona de interés' análisis y el
perspectivas de la IA '. difunden un pre-crimen desafíos para ser
No 16 (2017), europeo efecto ese es, caras por ley
Ciencia policial y sin embargo, muy diferente aplicación
Boletín de investigación. de realidad. Muchos ley cuerpos.
los cuerpos de ejecución se desarrollan
análisis predictivo para encontrar nuevas
oportunidades contra la delincuencia y
generalmente se dedica a patrullas.
los Gendarmería
nationale en Francia llevó a cabo, a través del
concepto de inteligencia criminal, una forma de
proporcionar información relevante
información a
describir, entender y
prever crimen a diferente
escalas: operativa, táctica y estratégica. El
objetivo es mejorar el proceso de toma de
decisiones. Porque el crimen no es aleatorio
proceso ni una
39
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
55. Carolyn McKay, Las evaluaciones de riesgo se llevan a cabo en Alto El documento describe Justicia penal AI
'Predecir el riesgo en varios puntos de decisión en el procedimiento una rango de
procedimiento Criminal: penal, incluida la fianza, la sentencia y la libertad profético,
herramientas actuariales, condicional, así como para determinar la diagnóstico herramientas,
40
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
evaluación y qué
sucede cuando la toma de decisiones
se delega en una herramienta predictiva.
Específicamente, esta artículo
escudriña el inescrutable
la naturaleza patentada de tales herramientas de
riesgo y cómo eso puede hacer que el cálculo de
la puntuación de riesgo sea opaco e incognoscible
tanto para el infractor como para el tribunal.
56. Zeleznikow, John. 'Poder El artículo analiza el impacto de Alto Proporciona disputa en línea concreta AI
Inteligencia artificial autorrepresentación de casos de uso de IA en la resolución del campo
y disputa en línea litigantes en el campo de la justicia. Describe de la justicia y
Mejora de resolución el pasos tomado análisis de los mismos.
Eficiencia y hacia un mejor y más justo acceso a la justicia
¿Efectividad en los tribunales? por parte de personas que no pueden pagar una
Revista internacional para representación o eligen ejercer su derecho a no
Administración de tribunales, tener un abogado. Luego se enfoca en el
2017. impacto de las herramientas de resolución de
disputas en línea.
41
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
57. C. Prins, 'Justicia digital', En un período de creciente sospecha sobre Medio los papel habla de datos personales AI
Computación. Law Secur. el poder de la tecnología digital sobre el enfoque proteccion; Legal
Rdo., vol. 34, no. 4, págs. 920–923, y 'tecnología los tribunales deberían tomar y ético
agosto de 2018. empresas ', este breve comentario aspira a en la digitalización del aspectos
argumentar que las condiciones para el campo de la justicia. Es
funcionamiento del estado constitucional relevante ya que toca
contienen una obligación inherente para que sobre
el estado no solo sea suficientemente temas como
sensible protección de datos, un
a el cambios el derecho de la persona a
provocada por la digitalización, sino también controlar sus datos y
para hacer uso de la digitalización. Una brevemente sobre el uso de la IA
condición clave para el en profético
marcha de el analítica.
constitucional estado es, para
de permitir legal
protección, también debe ser lo
suficientemente sensible a los cambios
trajo acerca de por
digitalización, así como desplegar el potencial
que ofrece la digitalización.
58. A. Kaplan y M. Inteligencia artificial (IA): definida como la Medio Este documento aclara Horizontal, Uso a través de AI
Haenlein, 'Siri, Siri, en mi mano: capacidad de un sistema para una serie de casos, Otros estudios de caso
¿Quién es la más bella de la interpretar externo
tierra? En datos, para aprender de dichos datos,
42
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
(artificial estrecho
inteligencia, general artificial
inteligencia y superinteligencia artificial) o
centrándose en diferentes tipos de sistemas
de IA (IA analítica, inspirada en humanos
43
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
despliegues tener ya
han comenzado a proliferar, al igual que las
ventajas, la eficiencia y los ahorros de costos
que pueden facilitar. Ahí
son, sin embargo,
proliferando retos y
costos también. Estos desafíos incluyen
importante técnico
preguntas pero Igualmente
importante política y
cuestiones organizativas. Es importante
comprender que estos
política y técnico
implementación obstáculos son
quizás con la misma probabilidad de ralentizar o deshabilitar
inteligente ciudad
44
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
45
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
número de fundacional
contribuciones proporcionaron la base para
el formulación de
modelos de argumentación y su promoción en
entornos relacionados con la IA y luego
considerar una serie de temas nuevos que han
surgido en los últimos años, muchos de los
cuales proporcionan los temas principales de
la investigación presentada en este volumen.
62. Prof. Julia H ӧ rnle, M. El estudio analiza las tendencias observadas Medio Incluso aunque el Legal y ético AI
Hewitson y Il. en los Estados miembros del Consejo de papel habla sobre trascendencia; Utilizar
Chernohorenko, Europa con respecto a la introducción de techni California aspectos casos
'Estudio técnico sobre para ODR, el
resolución de disputas en línea resolución de disputas en línea (ODR) en sus la información que contiene es
46
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
inconsecuencia y para
y
transparencia.
64. Ministerio de Economía y Finanzas los documento proporciona una Medio El estudio proporciona Casos de uso; Otro AI
de Francia, DG Trésor, análisis comparativo de las estrategias referencia en
Internacional nacionales en el campo de la IA, incluidas las proyectos y
estudio comparativo estrategias de varios Estados miembros de la iniciativas en una
47
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
organizaciones respecto a el
situación en su país en cuanto a proyectos,
iniciativas, investigación académica, medidas
48
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
recomendaciones
sobre el utilizar de
sistemas algorítmicos en el sistema de
justicia penal. La Comisión consideró una
variedad de sistemas actualmente
implementados que se incluyeron en este
informe, incluidos
individual riesgo
evaluación y reincidencia
predicción; posible delito
mapeo y localización activa; y herramientas
de extracción de datos de teléfonos móviles.
En el nivel más básico, la Comisión ha
encontrado una falta de estándares explícitos,
mejores prácticas,
y franqueza o
transparencia sobre el uso de sistemas
algorítmicos en la justicia penal en Inglaterra
y Gales. Esto era preocupante, ya que
49
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
50
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
71. Adopción de Lawtech The Law Society ha publicado su informe Medio Cf. resumen Legal y ético AI / DLT
Informe de investigación, el Lawtech Adoption Research, que muestra un trascendencia; utilizar
Law Society, Reino Unido, 2019. aumento en el número de empresas lawtech casos
en los últimos tiempos.
años. Sin embargo, esta
El aumento no se refleja en la tasa de adopción
de Lawtech entre los profesionales del derecho.
La investigación explora qué tipos de
proveedores de tecnología jurídica están
ganando terreno en diferentes
sectores de el
profesión y el conductores
72. Tecnología, Acceso a La Law Society realizó una investigación para Medio El papel no legal y ético directamente AI / DLT
Justicia y estado de derecho: explorar si la tecnología discutir las implicaciones; utilizar
¿es la tecnología el es el llave a casos de uso específicos de casos
51
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
52
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
Además, ambos
es No diferencia en
reacciones a la justicia procesal de
decisiones humanas o del sistema.
Limitaciones e implicaciones para el futuro
investigación y el
integración de justicia y
humano-máquina Interacción
se discuten las investigaciones.
74. DJ Olsher, 'Nueva Verdaderamentecomprensión qué Bajo Esta caso de uso de papel AI
inteligencia artificial otros necesitan y quieren, cómo ven el introduce un nuevo
Herramientas para la resolución de mundo y cómo se sienten sistema para conflicto
conflictos profundos y núcleo prerrequisitos para resolución pero eso
53
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
ofensa, proporcionar
y proteger emergencia
respondedores salud. CogSolv
permite a los gobiernos y las ONG locales
utilizar la cultura experta y el conocimiento de la
resolución de conflictos para realizar con
precisión una amplia gama de simulaciones
humanitarias.
cogSolv ayuda a los socorristas con
capacitación, gestión de la complejidad,
centralizando y compartir
conocimiento, y, por último,
maximizar el potencial para la resolución
equitativa de conflictos y al máximo
eficaz
respuesta humanitaria.
75. M. Mourby et al., 'Son datos' Naturalmente, ha habido mucho Bajo El papel no discute Información personal AI
seudonimizados ' de discusión de el usos de proteccion
siempre datos personales? próximo General Datos innovador
Implicaciones del Proteccion Regulación. Uno tecnologías en el
GDPR para administrativo Un tema de interés para todos los campo de la justicia u otros campos.
investigación de datos en el Reino controladores de datos, y de particular De todos modos, eso
Unido ' Computación. Ley preocupación para los investigadores, es si el presenta algunos
Asegurar. Rdo., vol. 34, no. RGPD amplía el alcance de los datos importante
2, págs. 222–233, abr. personales mediante la introducción del consideraciones
2018. término 'seudonimización' en el artículo relacionado a
seudonimizado
4 (5). Si todos los datos, que han sido datos y GDPR,
'seudonimizados' en el sentido convencional que podría tomarse en cuenta
de la palabra (por ejemplo, codificados por en el futuro de la IA
clave), deben ser tratados como datos proyectos
personales, esto tendría serias implicaciones implementado por
para Miembro Estados
investigación. Administrativo autoridades.
54
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
GDPR es no destinado a a
determinar si los datos son datos personales;
de hecho, está claro que todos los datos
incluidos en esta definición son datos
personales. Más bien, es el considerando 26
y su requisito
de una 'medio
razonablemente probable de ser utilizado ',
que sigue siendo la prueba relevante para
determinar si los datos son personales. Esto
deja abierta la posibilidad de que los datos,
que han sido 'seudonimizados'
en el
convencional sentido de llave
La codificación aún puede volverse anónima.
También puede haber circunstancias en las
que los datos, que
tener sufrido
seudonimización dentro de uno
organización, podría ser
anónimo para un tercero. Explicamos cómo,
con referencia a los factores del entorno de
datos como se establece en el Reino Unido
Anonimización
55
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
De la red Anonimización
Marco de toma de decisiones.
76. LH Yang, YM Wang y YG Fu, 'A Problemas de inconsistencia Bajo El papel no discute Otro AI
y la incompletitud se encuentran ampliamente en el usos de
análisis de consistencia apoyo a las decisiones basadas en reglas innovador
activación de reglas basadas sistemas. Estas tecnologías en el
método para extendido Los problemas a menudo afectan la precisión campo de la justicia u otros campos.
basado en reglas de creencias y usabilidad de las reglas De todos modos, eso
sistemas, 'Inf. Sci. (Nueva York), decisión apoyo presenta algunos
2018. sistemas. El presente trabajo se centra en un importante
sistema avanzado de apoyo a la toma de consideraciones,
decisiones basado en reglas, a saber, el ante todo de
sistema extendido basado en creencias técnico naturaleza,
56
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
78. S. Vashishtha y S. Susan, En este artículo, calculamos el sentimiento de las Bajo Ut supra Otro AI
'Fuzzy rule- publicaciones en las redes sociales utilizando un
basado sin supervisión nuevo conjunto de reglas difusas que involucran
análisis de sentimiento de múltiples léxicos y conjuntos de datos. El sistema
publicaciones en redes sociales, ' difuso propuesto
Expert Syst. Appl., integra natural
2019. idioma Procesando (PNL)
técnicas y desambiguación del sentido de la
palabra utilizando un novedoso sistema sin
supervisión basado en nueve reglas difusas
para clasificar el mensaje en: clase de
sentimiento positivo, negativo o neutral.
Realizamos un análisis comparativo de
nuestro método en nueve twitter públicos
en Sentimiento
Análisis. Nuestro método se puede adaptar a
cualquier léxico y a cualquier conjunto de
datos (dos o tres clases
sentimiento). los
experimentos en punto de referencia
57
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
79. R. Clarke, 'Regulatorio La Inteligencia Artificial (IA) está disfrutando Bajo los artículo Legal y ético AI
alternativas para la IA ' de otro de sus aumentos periódicos en discute e implicaciones
Computación. Law Secur. popularidad. En la medida análisis el
Rdo., 2019. ese el Actual regulador
Si se cumplen las promesas, la IA puede marco de referencia y
ofrecer considerables beneficios. requisitos para la IA
Sin embargo, si lo hace o no, y no se relaciona con los
AI puertos usos de la IA en la justicia
amenazas sustanciales. El primer artículo de campo.
esta serie examinó los Sin embargo, eso
a declarar el
requisitos; la ejecución
procesos y sanciones y asignar
el potestades y
responsabilidades para apropiarse
58
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
regulador agencias. En
Además, necesita delegar el
desarrollo y
mantenimiento de las obligaciones detalladas
con un organismo independiente,
que comprende
representantes de todas
80. M. Wollowski et al., 'A Survey El campo de la IA ha cambiado Ninguna los papel es una Otro AI
of Current significativamente en los últimos años y practicantes
Práctica y enseñanza de la IA, probablemente seguirá haciéndolo. encuesta dirigida a
'2016. Impulsados por el deseo de exponer a los enseñanza identificada
estudiantes a materiales relevantes y métodos y
modernos, se realizaron dos encuestas: una técnicas en el
de instructores de IA y otra de practicantes campo de la IA. En este
de IA. Las encuestas tenían como objetivo sentido, está orientado a
recopilar información sobre el estado actual el
del arte de la introducción de la IA, así como técnico
recopilar implicaciones de la
innovación
entrada de tecnología y
practicantes en el campo sobre las técnicas no se relaciona con su uso en
utilizadas en la práctica. En este documento, el campo de la justicia.
presentamos y discutimos brevemente las
respuestas a esas dos encuestas. 275
81. H. Kemmit y M. Dizon, 'EU Esta es la última edición de la columna de Ninguna El documento es más legal y ético en el lado de las AI
update', Baker & McKenzie sobre desarrollos en la ley implicaciones legales aspectos relacionados
Computación. Law Secur. {UE} relacionada
a IP, {ESO} y colaboración
59
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
Rdo., vol. 26, no. 1, págs. 94–98, telecomunicaciones. Este artículo entre Reino Unido y
enero de 2010. resume reciente UE.
desarrollos ese son
considerado importante para
practicantes, estudiantes y
académicos en una amplia gama de
información tecnología, mi-
comercio, telecomunicaciones
y áreas de propiedad intelectual. No puede
ser exhaustivo, pero pretende
a habla a el
puntos importantes. Esta es una guía de
referencia impresa, pero tiene enlaces a
fuera de web sitios son
incluido donde sea posible. No se asume
ninguna responsabilidad por la precisión
de información
contenidos en estos enlaces. Crédito
82. M. Soui, I. Gasmi, S. Smiti y K. riesgo evaluación es Ninguna Ut supra Otro AI
Ghédira, 'Rule-based credit risk considerado como uno de los temas vitales en
las instituciones financieras. los
modelo de evaluación usando existente crédito riesgo
60
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
83. R. Ueberecken, los papel discute el Ninguna Cf. resumen Otro N/A
'Schengen recargado' necesidad de Schengen
2019. zona sin fronteras, ya que es, como sugiere
el autor, uno de los logros más populares de
la UE. Ilustra los beneficios del acuerdo de
Schengen y los progresos realizados desde
que entró en funcionamiento en 1995. El
autor reconoce los desafíos en el ámbito de
la libertad, la seguridad y la justicia. Avanza y
especifica las áreas de mejora como la
necesidad de confianza entre los miembros
de la UE
y a Seguir
cumpliendo con sus obligaciones. Mejoras
tal como
interoperabilidad de ley-
aplicación y migración
bases de datos, inversión en nuevas tecnologías
innovadoras para combatir el crimen,
a fortalecer sus
asociaciones con fuera de la UE
84. Integrado Este programa tiene como objetivo impactar el Ninguna Cf. Resumen Horizontal N/A
Infraestructura transporte infraestructura marco de referencia
61
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
88. D. Billard, 'ponderado Esta documento propone una Alto Cf. resumen Casos de uso DLT
evidencia forense usando compatible con blockchain
blockchain ', en ACM metodología para proporcionar a los
Internacional tribunales evidencia digital ponderada
Actas de la conferencia asignada con una calificación de confianza
Serie, 2018. que eventualmente ayuda a los jurados y
magistrados en su esfuerzo. 279
89. RE. camioneta Aaken, F. Esta documento Alto Cf. resumen Casos de uso DLT
Ahlemann, C. Bode, R. Brüh y describe / propone:
otros, 'Junior Management - beneficios de la tecnología blockchain
Ciencias a IP proteccion estrategias
los impacto de impuesto (patentar, derechos de autor comercio
62
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
63
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
64
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
95. Melanie Swan, En sus capítulo 3 'Justicia Alto Cf. resumen Horizontal DLT
'Blockchain 3.0: Aplicaciones más allá de la moneda, marco de referencia
Blockchain, modelo para Economics and Markets ', este libro propone
una nueva economía ', una descripción general de las aplicaciones y
O'Reilly, 2015. casos de uso de blockchain para: identidad
digital, protección del arte digital, democracia
digital.
96. Maisha Afrida Tasnim et al., Este documento presenta antecedentes penales Alto Cf. resumen Casos de uso DLT
'CRAB: Blockchain almacenamiento sistema por
Antecedentes penales basados implementar blockchain
Sistema de gestión', tecnología para almacenar los datos, lo que
Internacional ayuda a lograr integridad y seguridad. Con
Conferencia de Seguridad, este sistema, se espera que el efecto de la
Privacidad y anonimato corrupción
en Computación, en el ley
Comunicación y aplicación efectivo será
Almacenamiento, págs. 294-303, disminuir, al eliminar cualquier posibilidad de
2018. manipulación de
registros datos por
rendición de cuentas completa. 283
97. Alejandro Tomás Dini et al., El documento propone un sistema para almacenar los Alto Describe un criminal Casos de uso DLT
'Análisis de antecedentes penales de los ciudadanos de forma registros sistema
implementar descentralizada mediante el uso de una cadena de utilizando blockchain
tecnología blockchain bloques autorizada, tomando cual es directamente
sesenta y cinco
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
Si ahí es real
cuestionamiento, la revolución de la ley
blockchain es no para
mañana. 284
99. C. Sullivan y E. Burger, Este documento describe el uso de Alto Cf. resumen Casos de uso DLT
'E-residencia blockchain para: eResidency
y blockchain ', en Estonia
Derecho Informático y (respaldado por el gobierno
Revisión de seguridad, vol. identidad digital transnacional); una identidad
33, no. 4, págs. 470–481, 1 8 soberana (SSI);
2017 autenticación de identidad. También
considera las implicaciones legales, políticas
y técnicas.
66
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
100. Stéphane Blemus, 'Ley Este documento propone una descripción Medio No se relaciona directamente Legal y ético DLT
y Blockchain: una perspectiva general de la UE y mundial actual al uso de DLT en la justicia trascendencia
legal sobre la y emergente campo,
Tendencias regulatorias regulador marcos sin embargo el
Mundial ', Corporativo aplicable a blockchain y criptomonedas. descrito
Finanzas y Capital regulador tendencias
regulación de
usos de blockchain en
el campo de la justicia.
101. J. Vachet, 'La Blockchain et le droit Este documento analiza la legalidad Medio No se relaciona directamente Legal y ético DLT
des sociétés', dificultades planteado por al campo de la justicia, sin trascendencia
Promoción 2017-2018. blockchain y contratos inteligentes durante embargo, el
su solicitud en resultados de la
derecho de sociedades, en particular sobre el debido casos de uso descritos
diligencia, financiero puede ser potencialmente
valores, creación de empresa, gobierno reutilizados en el campo de la justicia.
corporativo, decisión-
realización, pago de dividendos, nuevos métodos
de financiación de empresas
- transmisión de minibons,
ICO.
102. AJ Kolber, J. Askin, R. Calo, D. Este documento analiza los peligros que Medio Cf. resumen Legal y ético DLT
Chalmers, A. Elga, D. Estrada, D. acechan en la visión del 'código es el trascendencia
Hinkes, J. Metnick, M. Raskin, L. contrato' de los contratos inteligentes.
Sacharoff, H. Surden y RI
Yampolskiy, 'Not-So-
Blockchain inteligente
Contratos y Artificial
Responsabilidad',
103. KEC Levy, 'BookSmart, no Este documento analiza la incapacidad de los Medio Cf. resumen Legal y ético DLT
Street- contratos inteligentes para cubrir trascendencia
Inteligente: Blockchain completamente los contratos
Contratos inteligentes basados obligaciones. Adicionalmente, eso
67
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
105. K. Yeung, 'Blockchain, Este documento reflexiona sobre algunas de las Medio los artículo Legal y ético DLT
Seguridad transaccional posibles implicaciones de la automatización elabora una solución DLT en trascendencia
y la promesa de la ley aplicación vía una situación de confianza
automatizada sistemas de contabilidad distribuida para garantizar Entre
Ejecución: La el seguridad de los ciudadanos y el
Marchitamiento de la libertad transacciones por la `` libertad bajo la ley '' y gobernante
¿Bajo ley?' los fundamentos sociales sobre los cuales el instituciones, que
estado de derecho en la puede ser tomado en
legal pedidos es consideración y
conectado a tierra. Además, explica cómo se como 'inspiración' para
puede utilizar DLT para crear una confianza a utilizar de el
través de la seguridad,
68
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
fideicomisarios.
106. K. Lauslahti, J. Mattila y T. Este artículo analiza los contratos inteligentes Medio Cf. resumen Legal y ético DLT
Seppälä, desde la perspectiva de las plataformas trascendencia
'Raportit Reporta Inteligente digitales y la ley de contratos finlandesa.
Contratos: cómo funcionará la Examina qué tan bien los mecanismos de
tecnología Blockchain formación de los principios generales del
Afectar Contractual derecho contractual se pueden aplicar a la
¿Prácticas? ', 2017.
nuevo tecnológico
marco de contratos inteligentes. Además, la
adoptabilidad de los contratos inteligentes
como parte de la legislación finlandesa actual
se evalúa sobre la base de este análisis. Los
autores encuentran que en lugar de un caso
de uso único claramente definido, los
contratos inteligentes se pueden aplicar de
una multitud de formas diferentes, con
metas y
circunstancias. los papel
concluye que al menos en algunos casos, los
contratos inteligentes pueden crear derechos y
obligaciones legalmente vinculantes para sus
partes. Este documento describe nuestra
107. P. De Filippi y S. Hassan, creciente dependencia del código, no solo para Medio Cf. resumen Legal y ético DLT
'Blockchain hacer cumplir las normas legales, sino también trascendencia
La tecnología como para redactar y elaborar estas
Tecnología reguladora
del Código es Ley a Ley es Código reglas - discusión del 'Código es ley' de
”. Lessig (1999).
108. A. Savelyev, 'Contract Este documento analiza principalmente las Medio Cf. resumen Legal y ético DLT
Ley 2.0: «inteligente» cuestiones legales relacionadas con la aplicación. trascendencia
Contratos como el de el existente
Inicio del fin del derecho disposiciones de derecho contractual a la plena
contractual clásico '. automatizado contratos
('contratos inteligentes'). El documento
subraya las tensiones clave entre el derecho
contractual clásico
69
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
ruptura menciones
anthropologique ', blockchain como un
70
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
111. О. Е. Este documento propone una descripción general Bajo El papel no discute Legal y ético DLT
Radutnii'Adaptación de de alto nivel del concepto de descentralización usos de trascendencia
derecho penal y civil en vista de Autónomo innovador
la ciencia Organización. tecnologías en el
progreso técnico campo de la justicia u otros campos.
(inteligencia artificial, De todos modos, eso
dao y humano digital) ', Problemas presenta algunos
de Legalidad, importante
vol. 0, no. 144, págs.138- consideraciones que
152, 15 3 2019. podría tenerse en cuenta en
futuros proyectos de IA
implementado por
Miembro Estados
autoridades.
112. En: T. Kerikmäe y Ad. Rull, 'El Este documento analiza la naturaleza de Bajo El papel no discute Legal y ético DLT
futuro de la ley y Bitcoin (mercancía electrónica vs utilizar de trascendencia
eTechnologies ', representante, innovador
Saltador Internacional dinero fiduciario o dinero factum) y propone tecnologías en el
Publicación Suiza posibles escenarios para la regulación de justicia campo,
2016: bitcoin. También explora sin embargo, contiene
'De Bitcoin a contratos inteligentes: algunos algunos importante
Legal problemas fundamentales relacionados consideración de
Revolución o Evolución a los contratos inteligentes, es decir, que no perspectiva legal sobre
desde la perspectiva de pueden interceptar y cubrir todos los hechos el blockchain
de lege ferenda ', K. Künnapas. de la vida. 290 tecnología ese
podría tenerse en cuenta en
el futuro
Toma de decisiones.
71
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
113. En: T. Kerikmäe y Ad. Rull, 'El Este documento propone una descripción Bajo No directamente Legal y ético DLT
futuro de la ley y general de los conceptos y requisitos legales enfoque sobre las implicaciones
eTechnologies ', para concluir un contrato y los desafíos facilitando legal
Saltador Internacional resultantes al derecho contractual que actas
Publicación Suiza plantean los contratos inteligentes. 291 sí mismos.
2016:
'Contratos inteligentes', Merit
Kolvart, Margus Poola,
y Addi Rull, 2016
114. T. Kerikmäe y Ad. Rull, 'El futuro de Este documento analiza la evidencia digital y Bajo No directamente Otro DLT
la ley y los requisitos para el análisis forense digital. enfoque en
eTechnologies ', Explora cómo la evidencia digital es facilitando legal
Saltador Internacional considerada / procesada por los marcos actas
Publicación Suiza legales (con casos judiciales reales como sí mismos.
2016: ejemplos) y señala la ineficacia / inflexibilidad
'Desafíos en coleccionar de los marcos legales existentes. 292
Evidencia digital: una perspectiva
legal ', Inés
Kasper y Eneli Laurits. OCDE,
115. Desafíos fiscales Este documento establece la erosión de la base Ninguna Cf. resumen Otro DLT
Surgiendo de y lucro cambiando
72
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
73
3. Resúmenes de referencias
Esta sección proporciona resúmenes de los documentos de referencia, revisados y categorizados con alta relevancia para el estudio.
3.1. Referencias categorizadas como parte del marco horizontal sobre innovación
tecnologias
Esta sección proporciona resúmenes de los documentos de referencia de alta relevancia que se consideran parte del marco horizontal para
tecnologías innovadoras. Estos son números de referencia del 3 al 16. El número respectivo de la referencia en la lista de referencias se
indica junto a su título.
Título de referencia: Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo de 27 de abril de 2016 [2019], DO L 119/1.
Palabras clave: GDPR, protección de datos, procesamiento de datos, procesador de datos, controlador de datos, categorías especiales de
datos, principio, derechos y obligaciones
El RGPD es parte del paquete de reformas de protección de datos de la UE, junto con la Directiva de protección de datos para las
autoridades policiales y de justicia penal (Directiva 2016/280). El Reglamento entró en vigencia el 25 de mayo de 2018.
El principal objetivo del GDPR es permitir que los interesados controlen mejor sus datos personales. También moderniza y unifica las
reglas que permiten a las empresas reducir la burocracia y beneficiarse de una mayor confianza del consumidor.
En términos de alcance, el RGPD es aplicable a todos los controladores / procesadores de datos, incluidos los que no están establecidos en
la UE, pero, por ejemplo, ofrecen bienes o servicios a los interesados en la UE. Establece seis principios según los cuales se deben procesar
los datos personales. El GDPR impone la obligación a los controladores / procesadores de datos de procesar los datos de forma segura
mediante la implementación de 'medidas técnicas y organizativas apropiadas'. Además, los responsables del tratamiento o los encargados del
tratamiento de datos deben asegurarse de que las operaciones de tratamiento cumplan con el principio de protección de datos por diseño y
por defecto. El GDPR también estipula las condiciones que deben cumplirse para que un controlador / procesador de datos pueda procesar
datos personales, como el consentimiento libre, específico, informado e inequívoco del interesado, el cumplimiento de una obligación legal,
realización de una tarea de interés público, etc. Proporciona una serie de garantías para el respeto de los derechos del interesado en virtud de
sus disposiciones, por ejemplo, al estipular la obligación de algunos controladores o procesadores de datos de nombrar delegados de
protección de datos. El RGPD garantiza una serie de derechos de protección de datos (como el derecho a ser informado, el derecho de
acceso, el derecho a borrar, etc.), cuyo objetivo es dar a las personas un mayor control sobre los datos que proporcionan.
En conclusión, El GDPR está diseñado para crear oportunidades comerciales y estimular la innovación a través de una serie de pasos que
incluyen:
• un responsable de la protección de datos (DPO), que será designado por las autoridades públicas y los responsables del
tratamiento o tratamiento de datos a gran escala;
• ventanilla única: una única autoridad de supervisión por Estado miembro; Normas de la UE para empresas no
• pertenecientes a la UE;
• normas favorables a la innovación: protección de datos por diseño y por defecto; técnicas respetuosas con la
• privacidad como la seudonimización y el cifrado; eliminación de notificaciones;
•
• evaluaciones de impacto;
• mantenimiento de registros: las PYME no están obligadas a hacerlo, sujeto a algunas condiciones.
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
3.1.2. Directiva (UE) 2016/680 - Directiva de aplicación de la ley (LED) (Ref. No. 4)
Título de referencia: Directiva (UE) 2016/680 del Parlamento Europeo y del Consejo de 27 de abril de 2016 [2016], DO L 119/89.
Palabras clave: protección de datos, procesamiento de datos, procesador de datos, controlador de datos, categorías especiales de datos,
principio, derechos y obligaciones
La Directiva de aplicación de la ley (LED) forma parte del paquete de reformas de protección de datos de la UE junto con el Reglamento
general de protección de datos (Reglamento [UE] 2016/679).
Esto me pertenece para proteger mejor los datos personales de las personas cuando las autoridades competentes estén procesando sus
datos. También tiene como objetivo mejorar la cooperación en la lucha contra el terrorismo y la delincuencia transfronteriza en la UE
permitiendo que diferentes autoridades competentes, como la policía y las autoridades de justicia penal de los países de la UE, intercambien
la información necesaria para las investigaciones de forma más eficiente y eficaz.
El LED requiere que los datos recopilados por las autoridades policiales se procesen de manera legal y justa; recopilados para fines
específicos, explícitos y legítimos y procesados solo de acuerdo con estos fines; adecuados, pertinentes y no excesivos en relación con la
finalidad para la que son tratados; exactos y actualizados cuando sea necesario; conservados en un formato que permita la identificación de la
persona durante un período no superior al necesario para el procesamiento y debidamente asegurados, incluida la protección contra el
procesamiento no autorizado o ilegal.
Además, bajo el LED, los Estados miembros de la UE deben establecer límites de tiempo para borrar los datos personales o para una revisión
periódica de la necesidad de almacenar dichos datos. El DEL requiere que las autoridades encargadas de hacer cumplir la ley hagan una
clara distinción entre los datos de diferentes categorías de personas, incluidos sospechosos, delincuentes, víctimas de delitos y partes en
delitos, incluidos los testigos.
Bajo el LED, las personas tienen derecho a que las autoridades encargadas de hacer cumplir la ley les pongan cierta información a su
disposición. Además, las autoridades nacionales deben tomar medidas técnicas y organizativas para garantizar un nivel de seguridad de los
datos personales que sea adecuado al riesgo.
El DEL sustituye a la Decisión marco 2008/977 / JAI sobre la protección de los datos personales tratados en el marco de la cooperación
policial y judicial en materia penal con efecto a partir del 6 de mayo de 2018.
Título de referencia: Reglamento (UE) 2018/1725 del Parlamento Europeo y del Consejo, de 23 de octubre de 2018 [2018], DO L 295/39
sobre la protección de las personas físicas en lo que respecta al tratamiento de datos personales por las instituciones, órganos y oficinas de la
Unión. y agencias y sobre la libre circulación de dichos datos
Palabras clave: protección de datos, datos personales, procesamiento de datos, procesador de datos, controlador de datos, reglas
especiales, Supervisor Europeo de Protección de Datos (SEPD), derechos y obligaciones
El Reglamento 2018/1725 establece normas sobre cómo las instituciones, órganos, oficinas y agencias de la UE deben procesar los datos
personales. Defiende los derechos y libertades fundamentales de las personas, especialmente el derecho a la protección de los datos
personales. También alinea las reglas para las instituciones, órganos, oficinas y agencias de la UE con las del Reglamento General de
Protección de Datos (GDPR) y de la Directiva (UE) 2016/680, conocida como Directiva de Aplicación de la Ley (LED). Se aplica desde el 11
de diciembre de 2018, excepto en lo que respecta al tratamiento de datos personales por parte de Eurojust, donde se aplica desde el 12 de
diciembre de 2019.
También crea un organismo de supervisión, el Supervisor Europeo de Protección de Datos (SEPD), designado para un mandato de cinco
años una vez renovable y con sede en Bruselas.
Se aplican normas especiales a los órganos, oficinas y agencias de la UE que procesan datos personales operativos con fines policiales (por
ejemplo, Eurojust). Están cubiertos por un capítulo específico del reglamento, que está alineado con el LED. Además, en los actos
fundacionales de
75
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
Estos órganos, oficinas y agencias, pueden establecerse normas más específicas para tener en cuenta sus especificidades. Europol y la
Fiscalía Europea están excluidos del reglamento.
3.1.4. Decisión de implementación del Escudo de la privacidad UE-EE. UU. (Ref. No. 6)
Título de referencia: Decisión de Ejecución (UE) 2016/1250 de la Comisión, de 12 de julio de 2016, de conformidad con la Directiva 95/46 /
CE del Parlamento Europeo y del Consejo sobre la adecuación de la protección proporcionada por el Escudo de la privacidad UE-EE. UU.
Palabras clave: protección de datos, datos personales, transferencia de datos, EE. UU.-UE, Escudo de privacidad, organizaciones estadounidenses certificadas
La decisión de ejecución reconoce que el Escudo de privacidad UE-EE. UU., que comprende los principios de privacidad aplicables a las
organizaciones (empresas) certificadas de EE. UU. suscritas con el Departamento de Comercio de EE. UU. y otros compromisos relacionados
asumidos por las autoridades pertinentes de EE. UU., proporciona un nivel adecuado de protección para los datos personales transferidos
desde la UE a esas organizaciones (empresas). La Decisión se aplica desde el 21 de agosto de 2016.
El principal objetivo de la Decisión de Implementación es garantizar que los datos personales puedan transferirse libremente a
organizaciones (empresas) en los EE. UU. que están en la 'Lista del Escudo de Privacidad', que el Departamento de Comercio de EE. UU.
mantiene y pone a disposición del público. También garantiza la seguridad jurídica para las empresas que dependen del acuerdo para
transferir datos personales de la UE a organizaciones estadounidenses certificadas por el Escudo de privacidad. El acuerdo Privacy Shield
garantiza el derecho a la protección de los datos personales de todas las personas de la UE, cuyos datos personales se transfieren de
conformidad con las normas de la Decisión de Ejecución.
En particular, la Decisión de Ejecución estipula que para ser incluidas en la lista, las empresas estadounidenses deben comprometerse a
cumplir con un sólido conjunto de reglas y salvaguardas de protección de datos. Por ejemplo, deben mostrar su política de privacidad
(alineada con los Principios del Escudo de Privacidad) en su sitio web, garantizar el cumplimiento, incluso con respecto a las transferencias
posteriores de datos personales a terceros, responder rápidamente a cualquier queja y someterse a la supervisión de un organismo
independiente de resolución de disputas (que puede ser una Autoridad de Protección de Datos de la UE).
Estados Unidos también ha asegurado a la UE que habrá claras limitaciones y salvaguardias con respecto al acceso del gobierno de Estados
Unidos a los datos personales. La Comisión Europea ha estado monitoreando continuamente el funcionamiento del Escudo de Privacidad
UE-EE. UU., Con la ayuda de las autoridades nacionales de protección de datos, para asegurarse de que continúa brindando protección
suficiente.
3.1.5. Carta ética europea sobre el uso de la inteligencia artificial en los sistemas judiciales y su entorno (Ref. No. 7)
Título de referencia: CEPEJ, 'Carta ética europea sobre el uso de la inteligencia artificial en los sistemas judiciales y su entorno', adoptada
en la 31a sesión plenaria de la CEPEJ (Estrasburgo, 3-4 de diciembre de 2018)
Palabras clave: inteligencia artificial (IA), principios de uso de la IA, campo de la justicia, (respeto de) derechos fundamentales, no
discriminación, calidad y seguridad, transparencia, imparcialidad y equidad, bajo control del usuario, aprendizaje automático, justicia
predictiva, resolución de disputas en línea ( ODR), justicia penal
Esta Carta elabora los principios por los que debe regirse la aplicación de la IA en el ámbito de la justicia y analiza la situación de las
herramientas de 'justicia predictiva' en la CEPEJ 293
Estados miembros.
76
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
La Carta está dirigida a Actores públicos y privados responsables del diseño y despliegue de herramientas y servicios de IA que involucran
el procesamiento de decisiones y datos judiciales. También concierne a los tomadores de decisiones públicos a cargo del marco legislativo o
regulatorio, del desarrollo, auditoría o uso de tales herramientas y servicios.
En términos de metodología, el análisis de los casos de uso se basa en las respuestas de los Estados miembros de la CEPEJ a una
encuesta realizada en abril de 2018.
La Carta clasifica los casos de uso de IA en el campo de la justicia en varias categorías 294. Más específicamente, el documento explora el
estado de desarrollo de los datos abiertos sobre decisiones judiciales en los Estados miembros de la CEPEJ, describe la aplicación de la IA
en procedimientos civiles, administrativos y comerciales y comenta otras implicaciones, como la protección de datos. Se profundiza en las
garantías legales sobre derechos fundamentales con los que una herramienta de IA debe ser compatible, como, entre otros, el derecho de
acceso a un tribunal en caso de ODR, igualdad de armas, cuando los procedimientos digitales deben tener en cuenta a personas que no
están familiarizados con las herramientas digitales, la imparcialidad de los jueces y el derecho a un abogado. Finalmente, la Carta describe
casos de uso de IA específicos para la justicia penal. 295 y los desafíos de la "predicción" en materia penal, como el riesgo de discriminación.
Para abordar algunos de ellos, la Carta señala que las herramientas de IA deben basarse en el principio de 'rehabilitación' 296 y el factor
humano (juez) debe estar presente para individualizar la sentencia.
En conclusión, la Carta fomenta una serie de aplicaciones de la inteligencia artificial en el campo de la justicia, como la mejora de la
jurisprudencia, el acceso a la ley (a través de chatbots que utilizan el procesamiento del lenguaje natural) y la creación de nuevas
herramientas estratégicas (con la participación de profesionales legales para poseer estas herramientas y analizar sus resultados). Sin
embargo, otras aplicaciones requieren un enfoque más cauteloso, como, entre otras, la ODR, donde se debe informar a los solicitantes si su
asunto se maneja de forma totalmente automatizada o si se trata de un mediador para permitir una elección informada. La Carta también
sostiene que algunas aplicaciones podrían ser consideradas después de más investigaciones científicas, como la elaboración de perfiles de
jueces y anticipar decisiones judiciales. Finalmente,
Como camino a seguir, La Carta destaca la necesidad de un debate público en profundidad, pruebas y revisión continua de las herramientas
de justicia predictiva antes de la implementación de políticas públicas para su desarrollo. También destaca la urgencia de elaborar un marco
ético para el desarrollo de algoritmos de IA respetando los derechos fundamentales.
3.1.6. Inteligencia artificial al servicio del poder judicial - CEPEJ, Mesa Redonda (Ref. No. 8)
Título de referencia: CEPEJ, «L'intelligence artificielle au service du pouvoir judiciaire», 26 de septiembre de 2018, Mesa Redonda, CEPEJ
Administración General de Lituania
El documento es parte de la mesa redonda de la Comisión Europea para la Eficiencia de la Justicia (CEPEJ) y explora la situación en
Francia en términos de herramientas de justicia predictiva existentes y el concepto de 'decisiones judiciales de datos abiertos'.
En términos de metodología, el artículo analiza el contexto de lo que implica la "justicia predictiva" y presenta la experiencia de Francia con
ella. También profundiza en las formas en las que el proceso de toma de decisiones sobre justicia puede modificarse en el proceso de
desarrollo de herramientas de justicia predictiva.
En particular, el documento enumera una serie de herramientas técnicas, que se han desarrollado en Francia con el objetivo de procesar los
datos recopilados de manera eficiente.
294 Motores de búsqueda avanzados de jurisprudencia; ODR; asistencia en la redacción de escrituras; análisis (predictivo, escalas);
categorización de contratos según diferentes criterios y detección de cláusulas contractuales divergentes o incompatibles; y 'chatbots' para informar a los
litigantes o apoyarlos en sus procedimientos legales.
295 'Policía predictiva' y herramientas utilizadas en el juicio penal, como Harm Assessment Risk Tool (HART).
296 La rehabilitación social es el proceso de traer de vuelta a la vida normal a personas con comportamiento desviado. Involucra
todas las actividades y programas diseñados para facilitar el proceso de (re) integración de estos individuos en la sociedad.
77
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
Primero, existen las bases de datos de jurisprudencia, Jurinet y Jurica, administradas por el Tribunal de Casación. El Tribunal de Casación desea tener
una base de datos que agrupe todas las sentencias del orden judicial francés (más de 3 millones) y garantice su seudonimización y distribución. Sin
embargo, el documento señala dos desafíos principales para la realización de este proyecto: la constitución de la base de datos que requiere el
almacenamiento y luego la escalada a una única base de datos de las decisiones producidas, mediante las solicitudes de trámite de los procedimientos
utilizados por los tribunales; y la capacidad de seudonimizar la base de datos, así constituida, con miras a su difusión en datos abiertos 297. Segundo, el
documento analiza las LegalTechs (start-ups en Francia) y señala que los servicios de IA que ofrecen en el campo judicial no son tan avanzados como se
presentan. Más específicamente, las herramientas de justicia predictiva propuestas hasta la fecha se limitan más o menos al análisis de las disputas por
indemnizaciones. Aún no se ha producido la ruptura tecnológica que constituiría un análisis semántico automatizado de las decisiones judiciales capaz de
restituir su sentido y articulación lógica. Además, el artículo discute los temas relacionados con el desarrollo de la justicia predictiva en el centro del
proceso de toma de decisiones. Afirma que una herramienta de justicia predictiva debe permitir la objetivación de la jurisprudencia concreta. Los datos
abiertos de las decisiones judiciales darán visibilidad a todas las decisiones dictadas por las jurisdicciones, que luego será procesada y utilizada por una
pluralidad de actores públicos y privados con todas las capacidades que ofrece la minería de datos. Además, el documento señala los riesgos más
comúnmente identificados que esconden las tecnologías predictivas, a saber, el riesgo de performatividad, donde el juez tomaría una decisión no por el
ejercicio de su propia apreciación del litigio, sino porque la herramienta le devuelve lo que lo harían sus compañeros en tal situación. Esto pone de relieve
el riesgo de que la jurisprudencia quede "atrapada" en el pasado y el riesgo de subversión de la calidad y la cantidad. donde el juez tomaría una decisión
no por el ejercicio de su propia apreciación del litigio sino porque la herramienta le devuelve lo que harían sus pares en tal situación. Esto pone de relieve
el riesgo de que la jurisprudencia quede "atrapada" en el pasado y el riesgo de subversión de la calidad y la cantidad. donde el juez tomaría una decisión
no por el ejercicio de su propia apreciación del litigio sino porque la herramienta le devuelve lo que harían sus pares en tal situación. Esto pone de relieve
el riesgo de que la jurisprudencia quede "atrapada" en el pasado y el riesgo de subversión de la calidad y la cantidad.
En conclusión, Frente a estos riesgos, es fundamental preservar las salvaguardias que residen en los principios fundamentales del proceso
judicial - preservar el equilibrio entre la lógica de armonización y la individualización.
Título de referencia: Grupo de expertos de alto nivel sobre inteligencia artificial (AI HLEG), 'Directrices éticas para una inteligencia artificial confiable', 8 de abril
de 2019
La publicación analiza IA confiable, donde se caracteriza por ser: lícita, ética y robusta.
El objetivo de las Directrices para promover una IA confiable basada en 7 requisitos clave.
En términos de metodología, las Directrices para una IA confiable detallan los aspectos de una IA ética y sólida. Proporcionan orientación
sobre cómo se pueden poner en práctica estos aspectos en los sistemas socio-técnicos. La orientación se proporciona en tres capas de
abstracción, desde la más abstracta hasta la más concreta, y se cierra con ejemplos de oportunidades y preocupaciones críticas planteadas
por los sistemas de IA.
Las Directrices discuten el marco para lograr una IA confiable, donde 3 componentes (IA legal, IA ética e IA robusta) se mapean en 3
niveles de IA confiable (los fundamentos, la realización y la evaluación).
En el nivel básico de la IA confiable, el enfoque radica en los principios éticos y sus valores correlacionados que deben respetarse en el
desarrollo, implementación y uso de sistemas de IA. Las conclusiones derivadas son:
• Los sistemas de IA deben desarrollarse de tal manera que se adhieran a los principios éticos de: respeto por la autonomía
humana, prevención de daños, equidad y explicabilidad.
297 Una operación que se puede concebir para flujos anuales de decenas de miles de decisiones, pero fuera del alcance
del estado del arte (el Tribunal de Casación está llevando a cabo un programa de investigación en inteligencia artificial para superar esta barrera técnica).
78
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
• Prestar especial atención a las situaciones que involucran a grupos más vulnerables como los niños, las personas con
discapacidad y otras personas históricamente desfavorecidas o en riesgo de exclusión, y a las situaciones que se caracterizan por
asimetrías de poder o de información, como entre empleadores y trabajadores. o entre empresas y consumidores.
• Reconozca que los sistemas de inteligencia artificial también plantean ciertos riesgos y pueden tener un impacto negativo,
incluidos los que son difíciles de anticipar, identificar o medir (por ejemplo, en la democracia, el estado de derecho y la justicia
distributiva, o en la propia mente humana). Adoptar medidas adecuadas para mitigar estos riesgos cuando sea apropiado y
proporcionalmente a la magnitud del riesgo.
Se puede lograr una IA confiable si se tienen en cuenta siete requisitos clave que deben cumplir los sistemas de IA. Los requisitos son: (1)
agencia humana y supervisión, (2) solidez técnica y seguridad, (3) privacidad y gobernanza de datos, (4) transparencia, (5) diversidad, no
discriminación y equidad, (6) ambiental y social bienestar y (7) responsabilidad.
Para lograr el cumplimiento de estos requisitos se sugieren algunos métodos técnicos y no técnicos que podrían utilizarse:
• Fomentar la investigación y la innovación para ayudar a evaluar los sistemas de IA. Difundir los resultados y abrir preguntas
al público en general, y capacitar sistemáticamente a una nueva generación de expertos en ética de la IA;
• Comunique, de manera clara y proactiva, información a las partes interesadas sobre las capacidades y limitaciones del
sistema de IA. Sea transparente sobre el hecho de que se trata de un sistema de inteligencia artificial. Facilitar la trazabilidad
y auditabilidad de los sistemas de IA;
• Involucrar a las partes interesadas a lo largo del ciclo de vida del sistema de IA. Fomentar la formación y la educación para
que todas las partes interesadas conozcan y estén formadas en IA fiable; Tenga en cuenta que puede haber tensiones
• fundamentales entre diferentes principios y requisitos.
Para el nivel de evaluación de la IA confiable, se ha creado una lista de evaluación no exhaustiva con el objetivo de poner en práctica los siete
requisitos clave mencionados anteriormente. La lista podría ayudar al despliegue de sistemas de IA. Sin embargo, se debe prestar atención a
la necesidad de identificar e implementar continuamente los requisitos, evaluar las soluciones, garantizar mejores resultados a lo largo del
ciclo de vida del sistema de IA e involucrar a las partes interesadas en este proceso.
En conclusión, Es importante construir sistemas de IA que sean dignos de confianza, ya que los seres humanos solo podrán cosechar con
confianza y plenamente sus beneficios cuando la tecnología, incluidos los procesos y las personas detrás de la tecnología, sean confiables.
Como próximos pasos, las Directrices recomiendan Un poco más de exploración si, además de este marco horizontal con el enfoque en
las aplicaciones de IA en general, se necesita un enfoque sectorial, dada la especificidad del contexto de los sistemas de IA. Diferentes
situaciones plantean diferentes desafíos. Además, las Directrices se han redactado con una cultura de “IA de confianza para Europa” y tienen
como objetivo fomentar la investigación, la reflexión y el debate sobre un marco ético para los sistemas de IA a nivel mundial.
Título de referencia: Organización para la Cooperación y el Desarrollo Económicos (OCDE), Recomendación del Consejo sobre Inteligencia
Artificial, OCDE / LEGAL / 0449
79
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
La Recomendación analiza cómo la IA puede influir positivamente en el bienestar y el bienestar de las personas y ayudar a responder a los
desafíos mundiales clave. Sin embargo, la Recomendación de la OCDE, el primer estándar intergubernamental sobre IA, también reconoce
que la IA plantea desafíos que exigen una investigación exhaustiva y un entorno político estable, antes de que se pueda realizar una
implementación específica de las tecnologías de IA en la sociedad.
Los objetivos de la Recomendación Fomentar la innovación y la confianza en la IA mediante la promoción de la administración responsable de
una IA fiable, al tiempo que se garantiza la centralidad y el respeto de los derechos humanos y los valores democráticos.
En términos de metodología, La presente Recomendación es el resultado de varios estudios empíricos y actividades realizadas por la
OCDE, principalmente desde 2016. Más específicamente, refleja e incluye el trabajo analítico y de medición realizado que proporciona una
descripción general del panorama técnico de la IA, mapea los impactos económicos y sociales de la IA tecnologías y sus aplicaciones,
identifica las principales consideraciones de política y describe las iniciativas de IA de los gobiernos y otras partes interesadas a nivel nacional
e internacional.
El documento describe e identifica cinco principios complementarios basados en valores para la administración responsable de una IA
confiable: (1) crecimiento inclusivo, desarrollo sostenible y bienestar; (2) equidad y valores centrados en el ser humano; (3) transparencia y
explicabilidad; (4) robustez, seguridad y protección; (5) y responsabilidad.
Además, en la segunda sección de la Recomendación, la OCDE propone las siguientes cinco recomendaciones a los encargados de formular
políticas relacionadas con las políticas nacionales y la cooperación internacional para una IA confiable: invertir en investigación y desarrollo de
IA; fomentar un ecosistema digital para la IA; dar forma y habilitar el entorno político para la IA; desarrollar la capacidad humana y prepararse
para la transformación del mercado laboral; y cooperación internacional para una IA confiable.
La Recomendación es el resultado de un trabajo inclusivo y participativo en el que participan el Comité de Política de Economía Digital
(CDEP), el Grupo de expertos de IA de la OCDE (AIGO) y otros órganos pertinentes de la OCDE.
En cuanto a la implementación de la Recomendación, estará bajo la égida del CDEP, quien será el responsable de desarrollar la orientación
práctica, el seguimiento y la difusión de herramientas, con la ayuda del Observatorio de Políticas de IA, lanzado en febrero de 2020.
En conclusión, la Recomendación de la OCDE consta de una serie de principios y recomendaciones sobre el uso de tecnologías
innovadoras.
Como camino a seguir, La Recomendación alienta a los adherentes a trabajar de manera responsable y apoyar un uso de la IA centrado en
el ser humano, sostenible, transparente y colaborativo.
3.1.9. Fomento de la confianza en la inteligencia artificial centrada en el ser humano (Ref. No. 11)
Título de referencia: Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité
de las Regiones, 'Fomento de la confianza en la inteligencia artificial centrada en el ser humano', 8 de abril de 2019, COM (2019) 168 final
Palabras clave: inteligencia artificial (IA); IA ética; IA centrada en el ser humano, IA fiable
La Comunicación se basa en el trabajo del Grupo de expertos de alto nivel en IA (HLEG sobre IA) sobre pautas éticas para una IA fiable
centrándose en nuevos proyectos de IA.
Los objetivos de la comunicación lanzar una fase piloto integral que involucre a las partes interesadas en la escala más amplia con el fin de
probar la implementación práctica de la guía ética para el desarrollo y uso de la IA.
En términos de metodología, La Comunicación se centra en las directrices éticas desarrolladas por el HLEG sobre IA, un grupo de expertos
independientes creado por la Comisión en junio de 2018, con el fin de utilizarlas desde el inicio del desarrollo de nuevas iniciativas de IA.
La Comunicación discute el hecho de que, en un futuro próximo, la IA se convertirá en una parte integral de nuestra vida diaria. Sin
embargo, la IA trae nuevos desafíos ya que permite a las máquinas
80
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
para 'aprender' a tomar e implementar decisiones sin intervención humana. Las decisiones tomadas por algoritmos podrían sufrir de datos
incompletos, manipulados por ciberatacantes, sesgados o incorrectos. La aplicación irreflexiva de la tecnología a medida que se desarrolla
podría conducir a resultados problemáticos, así como a la renuencia de los ciudadanos a aceptarla o usarla. Por lo tanto, se debe garantizar
que la IA sea confiable y esté centrada en el ser humano.
Los lineamientos redactados por el HLEG sobre IA proponen los siguientes tres componentes para lograr una IA confiable: (1) debe cumplir
con la ley, (2) debe cumplir con los principios éticos y (3) debe ser robusto.
Basándose en estos tres componentes y los valores europeos, las directrices identifican siete requisitos clave que las aplicaciones de IA
deben respetar para ser consideradas confiables: (1) Agencia y supervisión humana; (2) Robustez técnica y seguridad; (3) Privacidad y
gobernanza de datos; (4) Transparencia; (5) Diversidad, no discriminación y equidad; (6) Bienestar social y ambiental; (7) Responsabilidad.
En conclusión, Con esta Comunicación, la Comisión pretende garantizar que se sigan las directrices desarrolladas por el HLEG sobre IA con
vistas al desarrollo de una IA ética y centrada en el ser humano.
Como próximos pasos, las notas de comunicación el lanzamiento de un conjunto de redes de centros de investigación de excelencia en
inteligencia artificial a través del programa de investigación e innovación de la UE Horizonte 2020. Además, la Comisión comenzará a
establecer redes de centros de innovación digital centrados en la inteligencia artificial en la fabricación y en macrodatos, así como iniciar
debates preparatorios para desarrollar e implementar un modelo para compartir datos y hacer el mejor uso de los espacios de datos comunes
junto con las partes interesadas y los EM.
Título de referencia: Comunicación de la Comisión al Parlamento Europeo, al Consejo Europeo, al Consejo, al Comité Económico y Social
Europeo y al Comité de las Regiones ». Inteligencia artificial para Europa ', 25 de abril de 2018, COM (2018) 237 final
Palabras clave: inteligencia artificial ', Unión Europea, Mercado Único Digital, Iniciativa Europea sobre IA
La Comunicación explora la importancia de la inteligencia artificial para Europa y describe los pasos dados para convertir a la UE en uno de
los principales actores mundiales en el desarrollo y despliegue de soluciones de IA en IA. Además, explora la posición actual y futura de la UE
en el panorama competitivo internacional y profundiza sobre el impacto de la IA en los sectores público y privado.
La Comunicación tiene como objetivo crear conciencia sobre los aspectos positivos significativos que la IA traerá y ya está aportando a la
vida de las personas. Describe la necesidad de que la UE se una a la carrera de la IA y la importancia de ser proactivo en el desarrollo de esta
nueva tecnología apoyando a los sectores público y privado. Además, la Comunicación expone la falta de inversión privada en el desarrollo de
la IA y aboga firmemente por aprovechar la financiación pública para acelerar la alineación inevitable con el resto del mundo.
En términos de metodología, la Comunicación proporciona estadísticas sobre la financiación del sector público junto con la situación actual
de la adopción de IA por parte de países y empresas privadas de la UE, sus Estados miembros y terceros países.
La Comunicación discute la necesidad de que la UE continúe su labor de creación de un entorno que estimule las inversiones y destaque la
importancia del papel que desempeña la Unión en el desarrollo y explotación de plataformas que prestan servicios a las empresas. Destaca
los proyectos que ya están financiados por la UE y que se centran principalmente en la robótica. Los proyectos financiados incluyen un
vehículo agrícola no tripulado que puede eliminar mecánicamente las malezas, un piloto de carretera que utiliza IA e Internet de las cosas
para brindar recomendaciones de conducción segura y reducir las muertes en la carretera, una ortoprótesis robótica y
81
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
otros. Además, la Comunicación presenta la Iniciativa europea sobre IA con el objetivo de impulsar la capacidad tecnológica e industrial de la UE. Sobre este aspecto, describe en cifras la
intensificación de las inversiones, incluyendo planes de proyectos de alto nivel y cifras presupuestarias. Uno de los principales objetivos es facilitar el acceso a las últimas tecnologías a todos
los usuarios potenciales, especialmente a las pequeñas y medianas empresas, empresas de sectores no tecnológicos y administraciones públicas, y animarles a probar la IA apoyando una
plataforma 'AIon-demand 'que ofrecerá servicios relevantes. Además, la Comunicación menciona que la UE tiene como objetivo atraer inversiones privadas en el marco del programa marco
de investigación e innovación correspondiente. La UE ha realizado importantes esfuerzos durante los últimos 15 años para abrir la información del sector público y los resultados de las
investigaciones financiadas con fondos públicos para su reutilización. Existe la necesidad de disponer de datos para su reutilización con el fin de entrenar algoritmos de aprendizaje
profundo. La Comunicación explora las acciones tomadas por la UE a nivel de directivas y orientaciones para el intercambio y manejo de datos. Uno de los mensajes principales es la regla
de que "nadie se quede atrás" en el tren de la IA. La comunicación reconoce la transformación inevitable que traerá la IA a los puestos de trabajo y afirma que la UE está preparada para
ayudar en la formación y cualquier preparación necesaria para realizar cambios. La Comunicación explora las acciones tomadas por la UE a nivel de directivas y orientaciones para el
intercambio y manejo de datos. Uno de los mensajes principales es la regla de que "nadie se quede atrás" en el tren de la IA. La comunicación reconoce la transformación inevitable que
traerá la IA a los puestos de trabajo y afirma que la UE está preparada para ayudar en la formación y cualquier preparación necesaria para realizar cambios. La Comunicación explora las
acciones tomadas por la UE a nivel de directivas y orientaciones para el intercambio y manejo de datos. Uno de los mensajes principales es la regla de que "nadie se quede atrás" en el tren
de la IA. La comunicación reconoce la transformación inevitable que traerá la IA a los puestos de trabajo y afirma que la UE está preparada para ayudar en la formación y cualquier
En conclusión, la Comunicación reitera el fuerte objetivo de la UE de seguir construyendo a través de la investigación y la educación.
Como próximos pasos, la Comunicación destaca la necesidad de aunar esfuerzos a nivel de la UE para poner el poder de la IA al servicio
del progreso humano.
Título de referencia: Comunicación de la Comisión al Parlamento Europeo, al Consejo Europeo, al Consejo, al Comité Económico y Social
Europeo y al Comité de las Regiones, `` Plan coordinado sobre inteligencia artificial '', 7 de diciembre de 2018, COM (2018) 795 final
Palabras clave: acciones coordinadas en IA, inversiones, asociación público-privada, estrategias, innovación
El plan coordinado refleja la importancia de las acciones coordinadas a nivel europeo entre la Comisión y los Estados miembros en
consonancia con la Estrategia sobre IA para Europa, adoptada en abril de 2018 298.
El plan coordinado establece varios objetivos principales, como los esfuerzos comunes de los Estados miembros (por ejemplo, en la
adopción de estrategias nacionales); fomentar las asociaciones público-privadas y la financiación de nuevas empresas y empresas de
innovación; promover el intercambio de mejores prácticas y conocimientos especializados; construir el espacio de datos europeo y
comprender mejor los aspectos de seguridad de la IA.
En particular, el plan coordinado prevé que los Estados miembros y la Comisión unan esfuerzos para, entre otros:
- Ampliar las inversiones públicas y privadas en IA para cumplir el objetivo presupuestario anual de 20 000 millones de euros en la
próxima década.
- Reunir empresas y organizaciones de investigación para desarrollar una agenda de investigación estratégica común sobre IA,
definiendo prioridades en línea con las necesidades del mercado y fomentando los intercambios entre sectores y a través de las
fronteras.
- Aumentar las capacidades de investigación nacionales y alcanzar una masa crítica a través de redes más estrechas de centros
europeos de excelencia en investigación de IA. Los sitios de prueba de referencia a gran escala, abiertos a todos los actores de toda
Europa, se desarrollarán utilizando hasta 1500 millones de euros de la línea de inteligencia artificial del programa Europa Digital
propuesto.
- Intercambiar mejores prácticas entre los Estados miembros sobre cómo reforzar la excelencia y retener a los trabajadores
talentosos.
82
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
- Apoyar a los másteres y doctorados en IA a través de la cooperación más estrecha propuesta entre los centros de excelencia en
investigación de IA y los programas de investigación e innovación de la UE.
- Desarrollar directrices de la Junta Europea de Protección de Datos sobre el tema del procesamiento de datos personales en el
contexto de la investigación. Esto facilitará el desarrollo de grandes conjuntos de datos de investigación entre países que se
pueden utilizar para la IA. Mejor comprensión de cómo la IA puede afectar la seguridad en tres dimensiones: cómo la IA podría
- mejorar los objetivos del sector de la seguridad; cómo se pueden proteger las tecnologías de IA de los ataques; y cómo abordar
cualquier posible abuso de la IA con fines maliciosos.
En conclusión, con el documento, la Comisión invita al Consejo Europeo a respaldar el plan coordinado; Que los Estados miembros lo
implementen, incluso mediante la adopción de estrategias nacionales de inteligencia artificial a mediados de 2019, que describan los niveles
de inversión y las medidas de implementación; y que los colegisladores adopten rápidamente las iniciativas legislativas restantes, que son
esenciales para el éxito de la estrategia europea de inteligencia artificial, incluidas las propuestas presentadas en el contexto del próximo
marco financiero plurianual.
Título de referencia: Comunicación de la Comisión al Parlamento Europeo, al Consejo, al Comité Económico y Social Europeo y al Comité
de las Regiones, `` Hacia un espacio de datos europeo común '', 25 de abril de 2018, COM (2018) 232 final.
La Comunicación presenta un paquete de medidas propuesto por la Comisión como un paso clave hacia un espacio de datos común en la
UE. Estas medidas incluyen: la reutilización de la información del sector público; actualización de la Recomendación sobre el acceso y la
preservación de la información científica; y orientación sobre cómo compartir datos del sector privado .
La comunicación es el primer paso en el seguimiento de la revisión intermedia de la estrategia del mercado único digital con las medidas
propuestas para un espacio de datos europeo común.
En términos de metodología, La Comunicación destaca los beneficios socioeconómicos de la innovación impulsada por datos, se centra en
el servicio de la innovación impulsada por datos (incluida la reutilización de la información del sector público y el acceso a la información
científica) y presenta los datos del sector privado como un impulsor clave de la innovación, incluidas las empresas B2B y Intercambio de datos
B2G.
La Comunicación discute los beneficios socioeconómicos de la innovación impulsada por datos, de la que las nuevas tecnologías como la
IA y la IoT se están beneficiando enormemente. Destaca que la UE debe aprovechar sus oportunidades para estimular la innovación en
soluciones sanitarias como la telemedicina y las aplicaciones sanitarias móviles, y en pleno cumplimiento de la legislación sobre protección de
datos. Se han identificado tres áreas clave: (1) el acceso seguro de los ciudadanos a los datos de salud y su intercambio; (2) mejores datos
para promover la investigación, la prevención de enfermedades y la atención y la salud personalizadas; y (3) herramientas digitales para el
empoderamiento ciudadano y la atención centrada en la persona. Algunas de las medidas propuestas son:
• Promover la reutilización de los datos públicos y financiados con fondos públicos mediante: la reducción de las barreras de entrada
al mercado mediante la reducción de los cargos por los datos; aumentar la disponibilidad de datos incorporando al alcance nuevos
tipos de datos públicos y financiados con fondos públicos; minimizar el riesgo de una ventaja excesiva del primero en moverse; y
aumentar las oportunidades comerciales fomentando la publicación de datos dinámicos y la adopción de interfaces de
programación de aplicaciones (API).
• Dar acceso a información científica y preservarla, por ejemplo, financiando un portal paneuropeo para la European Open Science
Cloud.
• Organizar el acceso y la reutilización de los datos del sector privado como otras piedras angulares importantes de un espacio
europeo común de datos. En el contexto del intercambio de datos B2B y con el fin de garantizar mercados justos y competitivos
para los objetos de Internet de las cosas y para los productos y servicios que se basan en datos generados por máquinas no
personales creados por dichos objetos, se deben respetar los siguientes principios clave: Transparencia,
83
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
Creación de valor compartido, respeto por los intereses comerciales de los demás, garantía de una competencia no distorsionada
y minimización del bloqueo de datos.
• Para organizar el acceso y la reutilización de los datos del sector privado para los fines de los organismos del sector público, los
siguientes principios clave podrían respaldar el suministro en condiciones preferenciales para la reutilización: Proporcionalidad en
el uso de datos del sector privado; Limitación de propósito; 'No hacer daño' (se respetan los intereses legítimos); Condiciones para
la reutilización de datos; Mitigar las limitaciones de los datos del sector privado; y Transparencia y participación social.
En conclusión, Con las medidas presentadas, la Comisión espera que sea más fácil para las empresas y los agentes del sector público
acceder y reutilizar los datos procedentes de diferentes sectores de la UE. Junto con otras iniciativas existentes (es decir, el nuevo marco
regulador para la protección de datos personales que entrará en vigor en mayo de 2018, el libre flujo de datos no personales y las iniciativas
para impulsar la conectividad), estas medidas crearán un espacio común de datos verdaderamente europeo. esencial para el crecimiento
económico y la competitividad de la UE.
Como próximos pasos, la Comunicación pide a los colegisladores que trabajen para lograr una rápida adopción del elemento legislativo del
paquete de datos propuesto para garantizar que la UE pueda beneficiarse plenamente de las oportunidades que ofrece la economía de los
datos. También pide a los Estados miembros y a todas las demás partes interesadas que contribuyan a las medidas e iniciativas anunciadas.
3.1.13. Libro blanco sobre inteligencia artificial: un enfoque europeo de la excelencia y la confianza (Ref. Nº 15)
Título de referencia: Comisión Europea, Libro blanco sobre inteligencia artificial: un enfoque europeo hacia la excelencia y la confianza,
febrero de 2020
Este Libro Blanco presenta opciones de políticas Permitir un desarrollo confiable y seguro de la IA en Europa, en pleno respeto de los
valores y derechos de los ciudadanos de la UE.
En términos de metodología, Los principales bloques de construcción de este Libro Blanco son:
• El marco político que establece medidas para alinear los esfuerzos a nivel europeo, nacional y regional ("ecosistema de
excelencia").
• Los elementos clave de un futuro marco regulatorio para la IA en Europa que creará un 'ecosistema de confianza' único.
En particular, el Libro Blanco presenta recomendaciones Establecer un marco de asociación entre el sector público y el privado, con el
objetivo de movilizar recursos para lograr un 'ecosistema de excelencia' a lo largo de toda la cadena de valor, comenzando por la
investigación y la innovación, y crear los incentivos adecuados para acelerar la adopción de soluciones basadas en inteligencia artificial,
incluso por parte de pequeñas y medianas empresas (PYME).
Además, para crear un 'ecosistema de confianza', el marco regulatorio debe garantizar el cumplimiento de las normas de la UE, incluidas las
normas que protegen los derechos fundamentales y los derechos de los consumidores, en particular con los sistemas de IA que suponen un
alto riesgo. Según el Libro Blanco, la construcción de un ecosistema de confianza es un objetivo político en sí mismo y debería dar a los
ciudadanos la confianza para utilizar las aplicaciones de IA y brindar a las empresas y organizaciones públicas la seguridad jurídica para
innovar utilizando la IA.
El Libro Blanco establece algunas sugerencias para mejorar el marco legislativo y abordar algunos riesgos y situaciones relacionados con la
IA:
84
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
• Incertidumbre en la distribución de responsabilidades entre los diferentes operadores económicos de la cadena de suministro
Al diseñar el futuro marco regulatorio para la IA, será necesario decidir los tipos de requisitos legales obligatorios que se impondrán a los
actores relevantes. Estos requisitos pueden especificarse más a través de estándares. Deberían existir tales requisitos con respecto a la
formación del conjunto de datos; Mantenimiento de registros; suministro de información, robustez y precisión de la IA, supervisión humana,
requisitos específicos para la identificación biométrica remota. El Libro Blanco también sugiere un etiquetado voluntario para aquellos
sistemas de IA que no califican como de 'alto riesgo' y no están sujetos a los requisitos propuestos.
En cuanto a los destinatarios de estos requisitos, en opinión de la Comisión, cada obligación debe dirigirse a los actores que están en mejor
posición para abordar los posibles riesgos. También debe tenerse en cuenta el alcance geográfico de la intervención legislativa. En opinión de
la Comisión, es fundamental que los requisitos sean aplicables a todos los operadores económicos pertinentes que proporcionen productos o
servicios habilitados para la IA en la UE, independientemente de si están establecidos en la UE o no.
Por último, la aplicación del marco regulador debería basarse en una estructura de gobernanza que comprenda una red de autoridades
nacionales, redes sectoriales y autoridades reguladoras, a nivel nacional y de la UE, y un comité de expertos que preste asistencia a la
Comisión.
En conclusión, Con este Libro Blanco y el Informe adjunto sobre el marco de seguridad y responsabilidad, la Comisión lanza una amplia
consulta de la sociedad civil, la industria y el mundo académico de los Estados miembros, sobre propuestas concretas para un enfoque
europeo de la IA.
3.1.14. Estudio sobre las dimensiones de derechos humanos de las técnicas de procesamiento automatizado de datos (en
particular algoritmos) y las posibles implicaciones reglamentarias (Ref. No. 16)
Título de referencia: Comité de expertos en intermediarios de Internet (MSI-NET), ' Estudio sobre las dimensiones de derechos humanos de
las técnicas de procesamiento automatizado de datos (en particular algoritmos) y las posibles implicaciones regulatorias s ', finalizado el 6 de
octubre de 2017.
Palabras clave: inteligencia artificial (IA), algoritmos, procesamiento de datos, técnicas de procesamiento automatizado de datos,
implicaciones regulatorias, derechos humanos
Este informe identifica una serie de preocupaciones sobre derechos humanos provocadas por el papel cada vez más importante de los algoritmos en la
toma de decisiones.
Tiene como objetivo evaluar el impacto de los algoritmos en los derechos humanos, que variaría según el tipo de funciones que
desempeñen y el nivel de abstracción y complejidad del procesamiento automatizado que se utilice. Esto inevitablemente desencadena la
pregunta sobre la responsabilidad por la infracción de los derechos humanos y los desafíos al impacto de los algoritmos en los derechos
humanos.
En términos de metodología, El enfoque básico del informe parte de definiciones de algoritmos bien establecidas y se basa en ellas. 299. No
analiza los algoritmos que automatizan los procesos de fabricación o realizan otras tareas rutinarias similares. Más bien, limita la discusión a
algoritmos que son digitales y afectan al público en general, por lo que se enfoca principalmente en la toma de decisiones algorítmicas que
tienen implicaciones para los derechos humanos.
299 La suposición de Tarleton Gillespie de que “los algoritmos no necesitan ser software: en el sentido más amplio, están codificados
procedimientos para transformar los datos de entrada en una salida deseada, basados en cálculos especificados. Los procedimientos nombran tanto un
problema como los pasos mediante los cuales debe resolverse ". (Gillespie 2014: 167). Por lo tanto, los algoritmos se perciben como “una serie de pasos que
se llevan a cabo para resolver un problema particular o lograr un resultado definido” (Diakopoulos 2015: 400).
85
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
En particular, El informe considera las siguientes características de los algoritmos que participan en el procesamiento automatizado de datos
y la toma de decisiones (semi) automatizadas como cuestiones clave desde una perspectiva de derechos humanos: automatización, análisis
de datos y adaptabilidad. Además, los algoritmos y las técnicas de procesamiento de datos son producidos por seres humanos y operados por
seres humanos. Por tanto, sus implicaciones no pueden entenderse sin el reconocimiento de las construcciones sociales que existen a su
alrededor.
Primero el informe
examina el impacto en un juicio libre y justo. Explica que los algoritmos se utilizan cada vez más en el contexto de los sistemas de justicia civil
y penal donde se está desarrollando la inteligencia artificial para eventualmente apoyar o reemplazar la toma de decisiones por parte de
jueces humanos. Se sugiere que tales sistemas pueden apoyar o ayudar a los jueces (y abogados). Dada la presión de la gran cantidad de
casos y los recursos insuficientes que sufren la mayoría de los poderes judiciales, existe el peligro de que los jueces utilicen de manera
inapropiada los sistemas de apoyo basados en inteligencia artificial para "delegar" decisiones en sistemas tecnológicos que no se
desarrollaron para ese propósito y que se perciben como ser más "objetivo" incluso cuando este no es el caso. Por lo tanto, se debe tener
mucho cuidado al evaluar qué pueden ofrecer esos sistemas y en qué condiciones pueden utilizarse para no poner en peligro el derecho a un
juicio justo. Este es particularmente el caso cuando dichos sistemas se introducen obligatoriamente, como es el caso de las decisiones de
libertad condicional en los Estados Unidos. Las preocupaciones sobre el sesgo judicial en torno a las decisiones de libertad condicional han
llevado a la introducción obligatoria de software para predecir la probabilidad de que los infractores reincidan en muchos estados de EE. UU.
Además, el informe profundiza en el impacto de los algoritmos en otros derechos humanos, como el derecho a la privacidad y la protección de
datos personales, la libertad de expresión, la libertad de reunión y asociación, el recurso efectivo, la prohibición de la discriminación, etc.
Examinar las implicaciones regulatorias del uso de algoritmos. Afirma que hay numerosos casos en los que la regulación ya está en vigor. Por
ejemplo, el software y los sistemas de procesamiento de datos, incluidos los algoritmos, utilizados en las "máquinas tragamonedas" en
Australia y Nueva Zelanda deben ser "justos, seguros y auditables". Los desarrolladores de tales máquinas deben enviar sus sistemas
algorítmicos a los reguladores antes de que puedan ser presentados a los consumidores.
En conclusión y como camino a seguir, los autores proponen una investigación ampliada para obtener más información sobre algoritmos y
la participación de los miembros de las comunidades profesionales en los debates y discusiones. También recomienda la promoción de
actividades de alfabetización mediática e informacional y permitir el acceso de personas y organizaciones a la información. El debate público
sobre las múltiples dimensiones de los derechos humanos de los algoritmos está rezagado con respecto a la evolución tecnológica y debe
fortalecerse rápidamente.
3.2.1. Los humanos olvidan, las máquinas recuerdan: la inteligencia artificial y el derecho al olvido (Ref. No. 31)
Título de referencia: EF Villaronga, P. Kieseberg y T. Li, 'Los humanos olvidan, las máquinas recuerdan: la inteligencia artificial y el derecho
al olvido' Revista de seguridad y derecho informático, vol. 34, no. 2, págs. 304–313, abril de 2018.
Palabras clave: inteligencia artificial »(IA); derecho al olvido, datos, protección de datos personales, memoria, olvido, técnicas innovadoras
El artículo analiza el marco legal de privacidad actual y la jurisprudencia en la UE, los conceptos de memoria y olvido de la inteligencia
humana y artificial (IA) para comprender el 'derecho al olvido' (RTBF) y su aplicabilidad a la IA.
El artículo tiene como objetivo demostrar el fracaso de las leyes de privacidad actuales en la UE para reflejar las realidades de las
tecnologías de IA e identificar las adaptaciones necesarias de estas leyes para abordar el RTBF en un mundo posterior a la IA.
86
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
En términos de metodología, Para demostrar la inaplicabilidad del RTBF a la IA, los autores toman como punto de partida la idea de que la
IA cambia fundamentalmente la comprensión actual de que la privacidad se basa en el concepto de cómo los humanos recuerdan y olvidan.
Demuestran que los conceptos de memoria y olvido humano y de la IA deben entenderse de manera diferente, aunque las leyes de privacidad
actuales los tratan de la misma manera. Estas diferencias se explican a través del análisis de las controversias legales en torno al RTBF y, en
particular, el hecho de que el Artículo 17 no acomode la complejidad de la eliminación de datos de entornos técnicos de la vida real, y al
proporcionar un análisis técnico de la eliminación de datos en el aprendizaje automático ('olvido ').
El documento discute métodos para cambiar los datos subyacentes para hacerlos menos sensibles y eventualmente eliminar la necesidad
de eliminar los datos, ninguno de los cuales se considera lo suficientemente adecuado para ser utilizado en aplicaciones de la vida real. Los
autores proponen varias soluciones tecnológicas alternativas para abordar el problema, sin embargo, la cuestión de si son suficientes para
cumplir con los requisitos legales bajo el RTBF permanece abierta ya que la ley no es explícita. Finalmente, el artículo sugiere cambios en el
marco legal / político para abordar las brechas. Los autores observan que las leyes de protección de datos de la UE son escasas y ambiguas
a la hora de definir métodos para la eliminación de datos personales, lo que imposibilita la aplicación de RTBF a la IA. No está claro qué
técnicas de eliminación serían suficientes para satisfacer las expectativas legales de los reguladores, los tribunales y las comunidades legales
en general.
En conclusión, los autores opinan que las leyes de privacidad de la UE no son adecuadas para manejar las complejidades y desafíos de la
inteligencia artificial. Al discutir los problemas técnicos que se enfrentan al adherirse a la interpretación estricta de los requisitos de eliminación
de datos según el RTBF, finalmente concluyen que puede ser imposible cumplir con los objetivos legales del RTBF en entornos de inteligencia
artificial. Finalmente, observan un problema central para AI y RTBF, a saber, la erudición interdisciplinaria insuficiente en apoyo de las leyes y
regulaciones de privacidad.
Como próximos pasos, el artículo recomienda enmiendas al marco de protección de datos de la UE para que sea menos ambiguo con
respecto al aspecto técnico de los sistemas de información con respecto a la eliminación de datos personales y, por lo tanto, puede ser útil
para los tomadores de decisiones de la UE. En particular, estos pueden incluir la creación de una guía de naturaleza no vinculante, que puede
estar 'inspirada' por estándares como la ISO / IEC 29134: 2017, preferiblemente en colaboración con la naturaleza vinculante de la ley dura.
3.2.2. ¿Cómo enfoca Austria la integración de la IA en las políticas judiciales (Ref. No. 32)
Título de referencia: MG Stawa, '¿Cómo enfoca Austria la integración de la IA en las políticas judiciales?'
Este documento describe las formas en que Austria aborda la integración de la IA en las políticas judiciales. Desarrolla los casos de uso de
correo digital y físico, asistencia para la digitalización de archivos analógicos existentes, anonimización de documentos judiciales y análisis y
preparación de datos de investigación.
En términos de metodología, aclara los principales puntos clave de este enfoque y menciona brevemente los pasos para la implementación.
En cuanto a la metodología de la investigación, se asume que la investigación en sí se ha realizado antes de la generación de esta
presentación.
Los puntos clave del papel Son que en esta estrategia, Austria se está enfocando en la adquisición de datos utilizando IA, la optimización de
los flujos de trabajo y el uso de IA en la toma de decisiones. El objetivo principal es automatizar las tareas manuales repetitivas. Estos se
pueden dividir en dos categorías principales, análisis de datos y administración de archivos: el análisis de datos es para datos de investigación
y anonimización de documentos judiciales, y la administración de archivos implica inteligencia en la digitalización de archivos analógicos
(escaneados) que manejan ingresos por correo.
87
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
En conclusión, el documento sigue siendo de alto nivel sin profundizar en los detalles técnicos, ya que está destinado a una audiencia más
amplia.
Como próximos pasos, Analizando la presentación, se observa la oportunidad de un reconocimiento de patrones a nivel europeo en
documentos y casos judiciales. En otras palabras, existe un caso comercial en el que los EM podrían adoptar algunas de las prácticas
mencionadas en la presentación. Para que esto suceda, se realizarán varios compromisos, estudios y pruebas de conceptos.
3.2.3. ¿Una ley de robótica e inteligencia artificial en la UE? (Ref. No. 33)
Título de referencia: Ponce, Aida, ¿Una ley de robótica e inteligencia artificial en la UE?
(3 de octubre de 2017). Documento de investigación de ETUI: informe de prospectiva n.o 02-septiembre de 2017.
Palabras clave: Derecho de la UE, robots, cambio tecnológico, digitalización, inteligencia artificial (IA), agentes artificiales, personas
electrónicas, personalidad electrónica, responsabilidad de los robots
El artículo discute la aceptación común de la proliferación en el uso de inteligencia artificial (IA), robots y otras tecnologías dentro de la
sociedad y cuestiona qué podría suceder cuando las tecnologías avanzadas fallan, y quién o qué es legalmente responsable. Además,
considera los problemas que pueden surgir en relación con los desafíos clave para la regulación de las nuevas tecnologías.
El artículo tiene como objetivo Contribuir a la discusión de la regulación existente y potencialmente requerida sobre la interacción cada vez
mayor con robots, IA y otras tecnologías.
En términos de metodología, el artículo toma como punto de referencia la Resolución del Parlamento Europeo (PE) sobre Normas de
Derecho Civil en Robótica, con recomendaciones a la Comisión Europea 300 y analiza la definición propuesta de robots y sus limitaciones.
En primer lugar, el autor describe los antecedentes de la Resolución y sus principales supuestos como el derecho a la privacidad. La
Resolución se centra en el desarrollo de la robótica y la inteligencia artificial solo para uso civil y proporciona recomendaciones sobre un
'marco ético para el diseño, producción y uso de robots', sin embargo no propone una definición o categorización específica de 'robots
autónomos inteligentes' . Solo presenta un anexo con una amplia lista de criterios, pidiendo a la Comisión que presente una definición y
subcategorización más específica del término "robot". Por otro lado, y oponiéndose a la recomendación mencionada de definir mejor “robot”,
el autor sugiere el término “ agentes artificiales (hechos por humanos) " 301 ( porque toman acciones)
que a pesar de no actuar de forma totalmente autónoma, “tienen la capacidad de aprender, evolucionar y eventualmente volverse semi o
totalmente autónomos”.
Debido a que los robots realizan tareas tan importantes y toman decisiones autónomas en tiempo real, el autor saca a la luz preocupaciones
legales, como la responsabilidad. En este sentido, la Resolución del PE introduce la condición de 'personas electrónicas' con derechos y
obligaciones. El autor comenta esta idea señalando que el debate sobre la personalidad y la capacidad de rendir cuentas por su acción puede
abrir un debate sensible.
En conclusión el autor defiende un marco legal más ambicioso en el sentido de no centrarse en categorías de robots, sino también en la
inteligencia artificial y los agentes. Además, el autor advierte sobre los riesgos de colocar a humanos y robots como actores con estatus legal
equivalente (persona jurídica-personas electrónicas) en el mismo marco legal.
Como camino a seguir, La identificación de los niveles de riesgo de uso inadecuado o desarrollo de agentes artificiales autónomos es crucial
y requiere instrumentos de gobernanza en lugar de
pautas suaves o códigos de conducta. Dado el volumen de datos, interacciones y tecnologías que se utilizan, la UE también debe
implementar los medios para ejercer el "derecho a la explicación" de las decisiones tomadas por sistemas automatizados.
3.2.4. Datos para la toma de decisiones y juicios: una cuestión de sabiduría (Ref. No. 34)
Título de referencia: KS Gill, 'Datos para la toma de decisiones y juicios: una cuestión de sabiduría', IFAC-PapersOnLine, vol. 51, no. 30,
págs. 733–738, enero de 2018.
El documento señala que las olas tecnológicas de inteligencia súper artificial, big data, algoritmos y aprendizaje automático continúan
impactando nuestro pensamiento y acciones, afectando así las formas en que las personas, las profesiones y las instituciones emiten juicios.
Por un lado, existe el argumento de que más datos y conocimiento junto con el sistema ciberfísico de la industria 4.0 impulsarán
automáticamente a la sociedad por algún camino hacia un mundo mejor para todos. Por otro lado, escuchamos voces preocupantes sobre la
imponderable desventaja de las nuevas y poderosas ciber, bio, nanotecnologías y biología sintética. En la era de las incertidumbres, los
macrodatos y el algoritmo, ¿cómo se ve afectado el proceso de toma de decisiones y juicios?
En términos de metodología, el artículo utiliza principalmente un enfoque cualitativo con referencias cruciales, pero no se sumerge en
información cuantitativa. El objetivo principal es crear conciencia sobre los desarrollos potenciales de los procesos en la toma de decisiones y
juicios.
Describe varios tipos de procesos de juicio y toma de decisiones que incorporan varios aspectos que son importantes para el resultado final.
Hace una referencia cronológica vaga a las diversas definiciones y señala la contradicción entre ellas. Finalmente, pasa a establecer una
conexión con la ciencia de datos y específicamente los procesos de elaboración de perfiles. Destaca referencias a ejemplos modernos de
usos de datos para predecir situaciones y perfiles de grupos de personas para el mejor interés de partes específicas. Destaca la parte ética
del uso de datos personales y señala las preocupaciones expresadas por otros sobre la noción de reducir el juicio a un cálculo.
Concluyendo, el documento dice: "Necesitamos reflexionar sobre si el pensamiento instrumental de la computabilidad continuaría su marcha
de hacer un cambio duradero del juicio al cálculo".
3.2.5. Técnicas de inteligencia computacional para la ayuda a la toma de decisiones multicriterio: una descripción general (Ref. No. 35)
Título de referencia: M. Doumpos y C. Zopounidis, ' Técnicas de inteligencia computacional para la ayuda a la toma de decisiones con varios
criterios: una descripción general, en Ayuda a la toma de decisiones con varios criterios e inteligencia artificial ', John Wiley and Sons, 2013,
págs. 1–23.
Palabras clave: inteligencia artificial »(IA); multicriterio, datos, ayuda a la decisión, lógica difusa, programación lineal, mundo real
El capítulo del libro analiza el campo de la ayuda a la toma de decisiones multicriterio (MCDA) que encaja en el contexto de los procesos de
toma de decisiones del mundo real, donde los problemas suelen ser demasiado complejos y, a menudo, mal estructurados. Estos problemas
no se pueden considerar y abordar a través de un único criterio que proporcionará una decisión óptima. Por lo tanto, el capítulo introduce el
uso de la inteligencia artificial y sugiere una serie de algoritmos y prácticas que podrían seguirse hacia tales soluciones.
Los objetivos del capítulo Clarificar los procesos, técnicas, modelos y paradigmas en los sistemas de ayuda a la decisión multicriterio. El
propósito es proporcionar una descripción clara de las capacidades de dichos modelos, mencionando los aspectos históricos así como las
técnicas de aplicabilidad. Finalmente, el capítulo tiene como objetivo aclarar que la combinación de inteligencia artificial
89
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
y MCDA es interesante, atrae cada vez más la atención de los investigadores y tiene un futuro prometedor.
En términos de metodología, el texto utiliza principalmente métodos cuantitativos enumerando los modelos y técnicas para abordar un
problema de decisión multicriterio del mundo real. Proporciona una comparación entre modelos e identifica problemas potenciales en cada
uno.
El capítulo discute la eficacia de MCDA y proporciona una descripción general de la falta de estructura junto con la necesidad de considerar
un gran número de criterios potencialmente conflictivos. Además, detalla los beneficios de la inteligencia artificial para ayudar en el proceso de
toma de decisiones. Ilustra un proceso de modelado que involucra cuatro etapas principales. Estos son intercambiables y el proceso sugiere
un enfoque bidireccional. Además, enumera y describe los enfoques metodológicos para lograr MCDA, que incluyen programación
matemática multiobjetivo, técnicas de clasificación superior, análisis de desagregación de preferencias, etc. Además, el capítulo conecta la
inteligencia computacional (como parte de la IA) y MCDA mediante la introducción de técnicas de IA como minería de datos, redes
neuronales, modelos basados en reglas, modelado difuso y otros. Proporciona varias referencias en la bibliografía para apoyar la
colaboración con MCDA. El capítulo prueba su punto a través de reflexiones matemáticas.
En conclusión, los autores apoyan la integración de la inteligencia computacional con MCDA al demostrar sus beneficios con citas y
hallazgos creíbles.
Como pasos siguientes, el capítulo recomienda que debido al creciente interés en el área, la investigación podría incluir otras
metodologías como gestión del conocimiento, representación e ingeniería, procesamiento del lenguaje natural, agentes inteligentes y otras.
Sin embargo, parece obligatorio proporcionar una evaluación empírica para identificar debilidades y fortalezas en cada metodología adicional.
Título de referencia: D. Carneiro, P. Novais y J. Neves, 'Inteligencia artificial en la resolución de disputas en línea' 2014, págs. 61–96.
Palabras clave: inteligencia artificial '(AI), resolución de disputas en línea (ODR), métodos alternativos de resolución de disputas
Este documento proporciona un análisis crítico de una serie de proveedores comerciales de ODR y proyectos de investigación desde el
punto de vista de la IA. Los autores presentan el enfoque que están siguiendo, en línea con las conclusiones obtenidas con un análisis del
estado de la técnica.
El artículo tiene como objetivo determinar cómo se pueden utilizar las técnicas de IA para mejorar el estado del arte actual en el campo de
la ODR, como una de las alternativas a la resolución de controversias mediante litigio.
En términos de metodología, el documento explica el significado de ODR 302, proporciona ejemplos de métodos alternativos tradicionales
para la resolución de disputas, como negociación, mediación, arbitraje y conciliación, y se centra en la ODR como un nuevo método para
resolver conflictos que ocurren en línea, por ejemplo, en el contexto de actividades de comercio electrónico. En este sentido, los autores
opinan que para trasplantar o adaptar estos métodos convencionales al nuevo entorno, es necesario integrar técnicas de resolución de
problemas basadas en IA en las de ODR. Los autores proceden a describir cómo la IA puede mejorar la ODR mediante el análisis de
diferentes técnicas y metodologías de resolución de problemas.
El papel proporciona una descripción general y técnicas de análisis tales como sistemas de apoyo a la toma de decisiones, sistemas
expertos, sistemas basados en el conocimiento, interfaces inteligentes, razonamiento basado en casos, sistemas multiagente, ontologías
legales y sistemas basados en reglas. De manera consecutiva, los autores analizan proyectos específicos sobre la intersección AI y derecho,
como, entre otros,
302 ODR se refiere al uso de los mecanismos en un contexto tecnológico, ya sea apoyado por tecnología o bajo
un entorno computacional virtual.
90
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
sistemas de toma de decisiones basados en reglas (LDS), que fueron concebidos por primera vez para el dominio de
ley de responsabilidad; EXPERTO 303 y SmartSettle ( apoyando a las partes para encontrar el término medio entre
ellos para resolver una disputa). Luego, el documento analiza el estado de la IA y el ODR, concluyendo que las tecnologías no se explotan
actualmente en todo su potencial, sino que su uso se mantiene en un nivel rudimentario. Los autores señalan la principal desventaja de que
las implementaciones de ODR existentes se basan en formas tradicionales para adquirir información, lo que proporciona poca o ninguna
ayuda. Las interfaces carecen de inteligencia e intuición y las tecnologías apenas se utilizan incluso para las formas más simples de
automatización de procesos. Además, muy pocos sistemas utilizan la tecnología de la información para la gestión del conocimiento y el logro
de objetivos. Finalmente, los autores proponen un enfoque basado en fases para la resolución de problemas que puede combinarse con
sistemas ODR. Las fases incluyen la preselección de casos mediante algoritmos ligeros,
En conclusión, el documento sostiene que los sistemas ODR completamente autónomos (los llamados de "segunda generación") aún no son
alcanzables y los factores humanos aún juegan un papel importante, incluso para las tareas simples a realizar. Sin embargo, con la
investigación centrada en el desarrollo de sistemas totalmente automatizados basados en técnicas tomadas en préstamo de IA, este estado
actual puede mejorar.
Como pasos siguientes, el artículo recomienda que Se debe seguir un enfoque híbrido en el desarrollo de los sistemas expertos
avanzados anteriores, fusionando la simplicidad de un sistema basado en reglas con la integridad de uno basado en casos.
3.2.7. El ICO y la inteligencia artificial: el papel de la equidad en el marco del RGPD '(Ref. No. 37)
Título de referencia: M. Butterworth, 'La ICO y la inteligencia artificial: el papel de la justicia en el marco del RGPD' Computer Law Security
Review, vol. 34, no. 2, págs. 257–268, abril.
2018.
Palabras clave: inteligencia artificial '(AI), Reglamento general de protección de datos (GDPR), protección de datos, equidad, ICO, limitación
de propósito, minimización de datos; exactitud; rendición de cuentas y gobernanza, transparencia, DPIA, elaboración de perfiles colectivos
El artículo sitúa la orientación de la Oficina del Comisionado de Información del Reino Unido (ICO) en el contexto de consideraciones legales
y éticas más amplias y ofrece una crítica de la posición adoptada por el ICO.
El artículo tiene como objetivo Explorar críticamente las dificultades con el análisis de la ICO en su documento de 2017 e identificar
espacios donde puedan ser necesarias regulaciones u orientaciones futuras. También tiene como objetivo contextualizar los debates que
surgen de un análisis del procesamiento de datos, junto con preocupaciones más amplias sobre el desarrollo y la implementación de la IA.
En términos de metodología, El documento comienza con el tema de la responsabilidad legal de la IA que se ha discutido y suscita algunas
preocupaciones éticas sobre los efectos de la IA en la humanidad. Señala que la legislación que actualmente se ocupa de estos efectos son
las leyes de protección de datos, continúa con un repaso del papel del ICO de 2017 y lo amplía con su propio análisis.
El papel argumenta que, según el análisis de la ICO, el desafío clave para el procesamiento de datos personales de la IA es establecer su
equidad. Este cambio refleja la posibilidad de que la IA tenga consecuencias sociales negativas (intencionadas o no) que de otro modo no se
abordan en el GDPR. En particular, el artículo menciona las cinco tendencias identificadas por el ICO en su artículo, a saber: el uso de
algoritmos; la opacidad del procesamiento; la tendencia a recopilar "todos los datos"; la reutilización de datos; y el uso de nuevos tipos de
datos. Sigue el análisis del ICO y cubre conceptos como: equidad; condiciones para el procesamiento de datos personales (consentimiento e
intereses legítimos); limitación de propósito; minimización de datos; exactitud; rendición de cuentas y gobernanza. En cuanto a, por ejemplo,
la
303 Un sistema de apoyo a las decisiones que asesora a los jueces y secretarios mexicanos sobre la determinación de si
el demandante es elegible o no para concederle una pensión (sobre la base de la "obligación de alimentación").
91
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
principio de limitación de propósito Según el GDPR, el autor difiere de la opinión de la ICO de que la evaluación de la compatibilidad de la
'reutilización' de los datos debe basarse en la equidad del nuevo propósito. En su opinión, esto genera incertidumbre, ya que el concepto de
equidad es bastante vago, a pesar de ciertas garantías de los derechos del interesado al respecto. El documento también analiza las
herramientas de cumplimiento existentes bajo el GDPR, como las evaluaciones de impacto en la privacidad de los datos (DPIA), la
anonimización, los avisos de privacidad y la privacidad por diseño y certi fi caciones. El ICO fomenta algunos enfoques éticos y la
transparencia algorítmica, que no están cubiertos por el GDPR, como las organizaciones que definen los beneficios de la analítica, utilizan el
enfoque menos riesgoso, respetan los intereses de las partes interesadas durante el procesamiento, etc.
En conclusión, El autor propone una serie de próximos pasos para impulsar la innovación, como preservar los requisitos de transparencia y
gobernanza del RGPD al preparar cualquier futura legislación sobre IA, pero además, garantizar la protección adecuada de los intereses
colectivos que surgen en la construcción de un perfil, que el GDPR actualmente no reconoce. Además, el documento recomienda implementar
formas apropiadas de regulación del principio de 'equidad' por parte de los gobiernos, alienta el desempeño de las EIPD por parte de las
organizaciones que usan IA y otorgar personalidad jurídica a la IA o adoptar otras medidas legislativas.
3.2.8. Por qué el aprendizaje automático puede generar injusticias (Ref. No. 38)
Título de referencia: S. Tolan, M. Miron, E. Gómez y C. Castillo, 'Why Machine Learning May Lead to Unfairness', 2019, págs. 83–92.
Palabras clave: equidad algorítmica, sesgo algorítmico, aprendizaje automático, evaluación de riesgos, reincidencia criminal
El artículo discute las restricciones de los algoritmos de aprendizaje automático (ML), en particular en la predicción de la reincidencia juvenil,
abordando el caso de Cataluña, ya que las decisiones basadas en ML resultan potencialmente sesgadas, lo que conduce a resultados y
decisiones injustas.
El artículo tiene como objetivo para investigar el equilibrio entre el desempeño predictivo y la equidad, comparando los resultados de la
evaluación de riesgos de los métodos de AA y el desempeño predictivo de la Evaluación estructurada del riesgo de violencia en la juventud -
SAVRY 304; para observar si ocurre discriminación por sexo y nacionalidad ya sea en los modelos SAVRY o ML. Finalmente, intenta explorar
las posibles fuentes de injusticia del uso de métodos de AA.
En términos de metodología, los autores utilizaron como insumo el conjunto de datos de Cataluña sobre reincidencia en la justicia de
menores de 2002 a 2010, en el que participaron 4.753 adolescentes catalanes que cometieron delitos. Para observar las conductas de
reincidencia, se realizó un seguimiento de su estado el 31 de diciembre de 2013 y el 31 de diciembre de 2015 (independientemente de su
asociación con el sistema de justicia juvenil). Los autores hicieron un seguimiento y demostraron una tarea de clasificación binaria para
predecir la reincidencia a partir de datos demográficos, antecedentes penales y características de SAVRY. 305
En este artículo, los autores describen primero Definiciones múltiples y a veces opuestas de equidad desde la perspectiva legal,
académicos de la informática e incluso en la literatura adicional. 306. Luego, el artículo comenta sobre las herramientas de evaluación de
riesgos existentes que se utilizan para ayudar a los jueces a evaluar el riesgo de reincidencia del delincuente. En este contexto se describe
SAVRY, donde los profesionales están altamente involucrados en la evaluación de riesgos y está más orientado a informar sobre la
planificación intervencionista. Esta evaluación de la reincidencia del riesgo violento es puramente un juicio profesional, lo que significa que no
hay un algoritmo asociado. Sin embargo, los autores también añaden que, lamentablemente, no hay suficiente literatura sobre los resultados
discriminatorios del riesgo.
304 Que evalúa 24 factores de riesgo divididos en categorías Históricas, Individuales y Sociales / Culturales.
305 Se realizan cuatro experimentos que varían según la función seleccionada y el volumen de datos de entrenamiento. Más detallado
información sobre las funciones establecidas en la pág. 3 del artículo aquí en discusión.
306 El estudio considera los criterios de equidad derivados del contexto legal - Art. 14 de la convención europea sobre
Derechos humanos
92
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
herramientas de evaluación como SAVRY, contrariamente a lo que ya existe en COMPAS, muy utilizado en los Estados Unidos de América.
Después de una explicación detallada sobre metodología y evaluación en conjuntos experimentales, los autores presentan los resultados del
estudio.
En conclusión, el estudio demuestra que en lo que respecta a la precisión, los modelos ML tienen un ligero éxito sobre SAVRY, pero los
mismos modelos también revelaron ser más discriminatorios contra los extranjeros, incluidos los ciudadanos de algunas nacionalidades y los
delincuentes masculinos.
Como camino a seguir, los autores proponen investigar métodos que podrían mitigar la injusticia en los métodos de AA e idealmente
preservar las ganancias de precisión. Además, se pretende extender el experimento a otros países, también la investigación para predecir la
reincidencia delictiva de adultos.
Título de referencia: Shai Danziger, Jonathan Levav y Liora Avnaim-Pesso, ' Factores ajenos a las decisiones judiciales, Proc. Natl. Acad. Sci.
Estados Unidos, vol. 108, no. 17, págs. 6889–
6892, abril de 2011
Palabras clave: fallos judiciales, factores ajenos, decisiones de libertad condicional, agotamiento mental
El artículo discute una visión alternativa del derecho - el realismo - que sostiene que los factores psicológicos, políticos y sociales - factores
externos - tienen una influencia importante en los tomadores de decisiones y sus fallos.
El artículo tiene como objetivo demostrar cómo los factores extraños pueden afectar potencialmente los fallos de los jueces, desafiando así
la opinión de la ley de que los jueces solo aplican razones legales a un caso de una manera racional. Por lo tanto, también pretende especular
sobre el sesgo psicológico de los jueces.
El promedio diario de decisiones se analizó en paralelo a las intervenciones realizadas - el presente estudio se centra en los dos descansos
diarios para comer de los tomadores de decisiones para superar la función ejecutiva y el agotamiento mental. Finalmente, las sentencias
analizadas se clasifican en dos categorías: aceptar solicitud y rechazar solicitud.
El documento describe primero la existencia de varios estudios que proponen que los fallos repetidos agotan las funciones ejecutivas y
mentales de un individuo, lo que puede impactar en las decisiones judiciales de los jueces. El artículo continúa con el análisis de la rutina
diaria de los jueces: número de fallos (14-35 casos por día), descansos tomados durante el día, etc.
El estudio muestra que el 64,2% de la muestra de solicitudes de libertad condicional fueron rechazadas y que la probabilidad de un fallo
favorable para casos de similares características legales aumenta cuando la decisión se toma al inicio de la sesión posterior a la pausa
gastronómica. Además, insinúa que el agotamiento mental de los jueces está más ligado al acto de tomar decisiones que a la duración de las
deliberaciones, pues el estudio también demuestra que un fallo favorable demora más que un rechazo de la libertad condicional en este caso.
Así, los casos que se resuelven posteriormente en cada sesión tienden a ser desfavorables.
En conclusión, los autores no discuten si la decisión judicial favorable de un juez está directa e inequívocamente ligada a los descansos, ya
que en este estudio solo se consideraron las pausas para tomar una comida. Sin embargo, los hallazgos del estudio mostraron que los
determinantes de la situación legalmente irrelevantes, como una pausa para comer, pueden influir en las resoluciones de manera diferente en
casos con características similares.
Como camino a seguir, Los autores predicen y dejan en suspenso que la presencia de otras 'formas de estrategia de simplificación de
decisiones' también puede influir en otras decisiones secuenciales relevantes, como en el campo médico o financiero, etc. Los interesantes
hallazgos de este estudio muestran algunos
93
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
campos donde, posiblemente, el uso de tecnologías innovadoras podría prevenir el sesgo en las decisiones judiciales.
3.2.10. Automatizar la sociedad: balance de la toma de decisiones automatizada en la UE (Ref. No. 40)
Título de referencia: Alfter Br., Müller-Eiselt, R. y Spielkamp M. ' Automatización de la sociedad Evaluación de la toma de decisiones
automatizada en la UE ', AlgorithmWatch, 1.a edición, enero de 2019
El documento es un informe de Algoritmo Reloj 307 y analiza los sistemas de toma de decisiones automatizada (ADM) en la UE que afectan
la justicia, la igualdad, la participación y el bienestar público, ya sea directa o indirectamente.
El informe apunta demostrar que los sistemas ADM impulsados por algoritmos ya se utilizan en la UE; describir el estado del debate político
a nivel de la UE y de los Estados miembros; servir como núcleo de una red de investigadores centrada en el impacto de ADM en las personas
y la sociedad; y extraer recomendaciones de los resultados de los hallazgos.
En términos de metodología, los autores clasifican su informe como un estudio exploratorio de la toma de decisiones automatizada a nivel
de la UE y en 12 Estados miembros seleccionados. Contiene una amplia gama de temas y ejemplos que justifican una mirada más cercana,
una investigación y un debate más profundos.
En particular, el informe se centra sobre cuatro cuestiones principales. En primer lugar, examina cómo la sociedad habla de ADM. Por un
lado, el documento analiza los debates iniciados por gobiernos y legisladores como estrategias de IA, comisiones parlamentarias, etc.,
mientras que por el otro, enumera las organizaciones de la sociedad civil involucradas en el debate, esbozando sus posiciones con respecto
al ADM. En segundo lugar, el documento explora toda la gama de propuestas regulatorias vigentes: leyes, códigos de conducta, normas
técnicas e incluso ideas de autorregulación. En tercer lugar, el informe examina las instituciones y los mecanismos de supervisión que existen.
Por último, pero no menos importante, explora los sistemas ADM que ya están en uso.
Como camino a seguir, los autores brindan recomendaciones específicas, como ( 1) cerrar la brecha entre los Estados miembros y
alentar a los que están a la zaga de otros a invertir más en capacidades; (2) inspirando ideas regulatorias de la legislación existente además
del GDPR 308, ( 3) involucrar a una amplia gama de partes interesadas en el desarrollo de criterios para buenos procesos de diseño y auditorías,
incluidas las organizaciones de libertades civiles; y (4) la creación de organismos apropiados para monitorear, etc.
3.2.11. Inteligencia artificial y música: cuestiones abiertas de la ley de derechos de autor y la praxis de la ingeniería (Ref. No
41)
Título de referencia: BLT Sturm, M. Iglesias, O. Ben-Tal, M. Miron y E. Gómez, ' Inteligencia artificial y música: cuestiones abiertas sobre el
derecho de autor y la praxis de la ingeniería, 'Arts, vol. 8, no. 3, pág. 115, 6 9 2019.
Palabras clave: inteligencia artificial ', música, derechos de autor, ingeniería, ética
El papel analiza la rápida evolución de la IA relacionada con la creación musical. Ilustra los diversos desarrollos realizados hasta ahora y se
centra en la propiedad intelectual, los derechos del creador y la combinación de música generada por humanos y por IA.
El papel tiene como objetivo para proporcionar información sobre cómo funciona la música generada por IA y qué pasos se han tomado
hasta ahora para lograrlo. Además, profundiza en la propiedad de este
307 https://algorithmwatch.org/en/
308 Por ejemplo, la regulación de la igualdad salarial, para abordar nuevos desafíos como el trabajo de plataforma controlado algorítmicamente,
también conocida como Gig Economy, y explorar nuevas vías para regular los efectos colectivos de ADM por completo.
94
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
música. Habla sobre los datos de formación que requiere la IA y las implicaciones relacionadas con la responsabilidad, la infracción y los
derechos. Finalmente, el documento tiene como objetivo crear conciencia y precaución sobre la posible nueva forma de la música, el acceso a
la música y la generación de música en tiempo real.
En términos de metodología, el artículo utiliza métodos tanto cualitativos como cuantitativos, ya que proporciona información sobre el
progreso de la música generada por IA, se refiere a la legislación en materia de propiedad intelectual. Además, plantea varias preguntas y
casos en los que la ley de derechos de autor debe abordar el entrenamiento de IA, los datos, la música generada por IA y la combinación de
música generada por IA y música creada por humanos.
El documento discute los grandes avances en el desarrollo con respecto a la IA y los integra con los propietarios del desarrollo. Comienza
explicando la perspectiva de la ley de derechos de autor cuando protege obras originales como composición musical, letras, etc. Presenta a la
atención del lector las diferencias entre países en lo que respecta a los derechos de autor para obras generadas por IA y obras centradas en
el ser humano. El Tribunal de Justicia de la Unión Europea, por ejemplo, considera original la obra cuando es expresión de la propia creación
intelectual del autor y de su libre elección de creación. Esto significa que el trabajo generado por IA podría no ser elegible para la protección
de derechos de autor. Además, plantea el problema de los datos de entrenamiento que son muy necesarios para los sistemas de inteligencia
artificial que utilizan algoritmos de aprendizaje automático. En otras palabras, como podría suceder, un producto de trabajo musical podría ser
la combinación de IA y entregables humanos. El documento habla sobre los beneficios de utilizar procesos de aprendizaje automático justos,
responsables y transparentes, ya que podría haber casos de infracción y sesgo. Al referirse a folkrnn.org, un sistema basado en inteligencia
artificial que genera música folclórica basada en conjuntos de datos de miles de producciones centradas en el ser humano, aborda las
preocupaciones antes mencionadas sobre derechos de autor y propiedad intelectual.
En conclusión, el documento reconoce que la tecnología es un arma de doble filo con beneficios y perjuicios que merecen ser analizados
críticamente a medida que se desarrolla, aplica, mejora y retira. Además, el documento explora las posibilidades de un enfoque
completamente diferente para recibir música que afectará los derechos de autor y otros derechos relacionados. Además, reitera la cuestión de
si el propietario del programa de inteligencia artificial (software) tendría derecho a algún derecho.
Como próximos pasos, los autores son positivos sobre el futuro ya que la creatividad humana puede sorprender por su capacidad para
incorporar nuevas tecnologías con nuevas formas de creatividad.
3.2.12. Reunión de expertos del PHRP sobre vigilancia predictiva (Ref. No. 42)
Título de referencia: Reunión de expertos de PHRP, ' Reunión de expertos del PHRP sobre vigilancia policial predictiva ', Programa de Policía y
Derechos Humanos (PHRP), Amnistía Internacional, 20 de mayo de 2019.
Palabras clave: inteligencia artificial »(IA); parcialidad; calidad de los datos; derechos humanos
El artículo analiza posibles respuestas a preguntas relacionadas con el impacto que el uso de dicha tecnología predictiva puede tener en los
derechos humanos con respecto a la protección de datos y el derecho a la privacidad, el derecho a la libertad y la seguridad, la no
discriminación, el derecho a un juicio justo y un recurso efectivo etc.
El artículo tiene como objetivo Presentar una visión profunda sobre el impacto en los derechos humanos resultante del uso de tecnologías
innovadoras (IA) relacionadas con la precisión de los resultados, posibles sesgos discriminatorios en los conjuntos de datos subyacentes y el
modelo que utiliza los datos, y su efectividad para predecir realmente crimen.
En términos de metodología, Se hace una diferenciación en las perspectivas del impacto en los derechos humanos de la "vigilancia policial
predictiva orientada al lugar" y la "vigilancia policial predictiva orientada a las personas". Luego, la calidad de los datos y el modelo de
algoritmo se analizan en términos de sesgo y las dificultades para manejar el resultado del sistema.
El documento discute el cuidado especial que se debe prestar a la calidad de los datos del conjunto de formación. Debe formar un grupo
con la misma distribución que el mundo en el que se aplica el modelo. Confiar en el enfoque y las prioridades previas de la policía a menudo
resulta en una
95
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
sesgo estructural. Encontrar la razón de este sesgo también podría permitir una investigación más profunda de las causas del delito y
abordarlas en lugar de elegir un enfoque de aplicación de la ley.
El modelo algorítmico es una forma de mostrar cómo funciona el sistema. Se basa en correlaciones estadísticas. Algunas de estas
correlaciones carecen de un vínculo crucial y conducen a predicciones irrelevantes de delitos. Algunas características pueden mostrar una
correlación estadística con el crimen, pero éticamente no son del todo correctas para poder incluirlas en el algoritmo. La inclusión de ciertas
minorías puede resultar en más perfiles de 'alto riesgo', que pueden terminar en más falsos positivos. Sin embargo, en la vida real, los
humanos tienden a sobrestimar la peligrosidad y sus predicciones pueden resultar en una alta tasa de falsos positivos en comparación con el
sistema. Con respecto a los verdaderos positivos (verdaderos criminales), la precisión del sistema suele ser mucho menor.
Los sistemas de autoaprendizaje tienen sus problemas adicionales: (1) el sistema no siempre refleja el mundo real, sino cómo el sistema ve el
mundo. (2) Un circuito de retroalimentación: un área donde la policía pase más será donde la probabilidad de atrapar criminales será mayor.
Desafíos de la vigilancia policial predictiva orientada al lugar: (1) El riesgo de que la delincuencia en realidad solo sea desplazada, pero no
reducida. (2) No está probado que los sistemas de predicción del delito disminuyan los delitos reales cometidos en un área. (3) Es difícil
probar hasta qué punto las predicciones son precisas. (4) Es difícil definir lo que se considera un éxito mediante la vigilancia policial predictiva.
Existe la preocupación de que incluso si la evaluación de riesgo calculada va acompañada de una explicación de cómo llegó al resultado, es
probable que una puntuación de alto riesgo afecte la toma de decisiones, por ejemplo, por parte de los jueces. La gente está de acuerdo en
que resulta particularmente difícil cuando se trata del uso de algoritmos en la toma de decisiones, o incluso para cuestionar cualquier decisión
tomada. ¿Quién es responsable? Se necesita una alta transparencia.
En conclusión, Parece muy difícil evitar cualquier sesgo en el conjunto de datos, aunque es importante tener una buena representación del
mundo real, y todavía queda algo de aprendizaje por hacer en la forma de interpretar los resultados del sistema.
Como próximos pasos, el artículo recomienda más investigación para encontrar una solución al problema de la calidad de los datos, la
aceptabilidad de la vigilancia predictiva desde la perspectiva de los derechos humanos y examinar las diferentes formas de utilizar los
modelos de algoritmos.
3.2.13. Democracia constitucional y tecnología en la era de la inteligencia artificial (Ref. No. 43)
Título de referencia: P. Nemitz, ' Democracia constitucional y tecnología en la era de la inteligencia artificial ', vol. 376, Royal Society
Publishing, 2018
Palabras clave: inteligencia artificial (IA), poder digital, democracia, GDPR, protección de datos personales, leyes sobre IA
El artículo discute poder digital, la renuencia de los grandes actores digitales a acatar la ley en su ejercicio y las amenazas a la democracia
que esconde.
El artículo tiene como objetivo identificar los desafíos de la IA, que deben ser abordados por normas éticas, y los que necesitan codificación
legal, y plantear consideraciones sobre los enfoques hacia una ley de IA.
En términos de metodología, el autor establece el contexto de las diferentes perspectivas desde las que se ven los derechos democráticos y
las leyes cuando se trata de nuevas tecnologías, la de las corporaciones gigantes y la de los tomadores de decisiones. Canaliza la idea de
que el derecho tecnológico neutral complementado con la jurisprudencia sobre su interpretación es apto para garantizar los derechos
democráticos y puede adaptarse al desarrollo tecnológico.
Este documento describe primero los cuatro elementos centrales de la concentración de poder digital actual en manos de los cinco actores
clave del mercado digital, Google, Amazon, Facebook, Alphabet y Apple, que, vistos juntos, son una amenaza para la democracia y el
funcionamiento de los mercados. Estos son el poder del dinero, el control sobre el entorno digital y la infraestructura para el discurso público y
la democracia, el poder sobre las personas basado en la elaboración de perfiles y el dominio de la innovación en IA. Luego recuerda la
experiencia con Internet sin ley y la relación entre la tecnología y la ley tal como se ha desarrollado en Internet.
96
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
economía y la experiencia con el RGPD. El artículo percibe el RGPD como un ejemplo moderno de una ley tecnológica neutral, cuyo
significado y relevancia cambia con el progreso de la tecnología. El documento señala el argumento presentado por las grandes
corporaciones y los neoliberales de que una legislación democrática, tecnológica y comprometida, como el GDPR o un futuro marco
legislativo de IA, no es lo suficientemente `` flexible '' para adaptarse y abordar problemas complejos de desarrollo tecnológico. . Sin embargo,
esta afirmación ignora el poder de la legislación tecnológica neutral y el poder de las leyes generales para concretarse mediante la evolución
de la práctica de aplicación y la jurisprudencia. Además, el artículo analiza los desafíos de la IA, que deben abordarse mediante reglas éticas
y aquellos que necesitan reglas aplicables.
En conclusión, el documento se cierra con un llamado a una nueva cultura que incorpore los principios de democracia, estado de derecho y
derechos humanos por diseño para AI.
Como camino a seguir, el artículo refleja el enfoque hacia la ley de IA y propone varios caminos de reflexión. Primero, si uno concluye que
las acciones llevadas a cabo por una IA (negligente o intencionalmente) se consideran ilegales solo cuando las lleva a cabo un ser humano,
esto debe estar codificado en la ley. En segundo lugar, se debe probar si los principios regulatorios que se encuentran en cuerpos legales
específicos deben generalizarse para la IA o si se deben aplicar modificaciones específicas de tales principios y hacer paralelo con la ley
farmacéutica. En tercer lugar, sugiere realizar una evaluación de impacto de tres niveles sobre la IA: el nivel del legislador, el nivel de los
desarrolladores y usuarios de la tecnología y el nivel de las personas, que deberían tener derecho a ser presentados por ley a la IA. sus
funciones, lógica e impactos en sus intereses.
Título de referencia: F.- Agencia de los Derechos Fundamentales de la Unión Europea (FRA), 'Tecnología de reconocimiento facial:
consideraciones de derechos fundamentales en el contexto de la aplicación de la ley', 2019
Palabras clave: inteligencia artificial '(IA), (impacto) en los derechos fundamentales, tecnología de reconocimiento facial (en vivo) (FRT),
respeto por la vida privada y protección de datos, no discriminación
Este papel forma parte del proyecto de investigación de la FRA sobre inteligencia artificial, big data y derechos fundamentales.
El objetivo del papel es explorar específicamente la 'tecnología de reconocimiento facial en vivo' (LFRT) 309 y las implicaciones de derechos
fundamentales relacionadas con su desarrollo, despliegue, uso y regulación.
En términos de metodología, el documento explica el FRT y el papel de las imágenes faciales como identificador biométrico único bajo la
protección de datos de la UE acervo y evalúa los riesgos de una identificación incorrecta. A continuación, describe varios casos de uso de
FRT por parte de las autoridades públicas en la UE y comenta los derechos fundamentales que se ven más afectados por estos usos.
El documento explica los usos de el FRT, a saber, para verificación (comparación uno a uno); para identificación (comparación uno a
muchos) y para categorización (características generales coincidentes). El documento se centra en las implicaciones de derechos
fundamentales de las FRT utilizadas para la identificación, es decir, cuando la imagen facial se compara con muchas otras imágenes en una
base de datos de referencia. Sostiene que la precisión de los algoritmos FRT está fuertemente influenciada por la calidad de los datos de las
bases de datos de entrenamiento. El documento explica que estos algoritmos tienen resultados binarios: falso positivo y falso negativo 310. Los
factores que influyen en esta calidad pueden ser el fondo y la oclusión del objeto, la iluminación y el reflejo de la luz, la ergonomía, la edad, el
envejecimiento, el sexo, el color de la piel y las condiciones de la piel. El documento destaca la importancia de saber qué conjuntos de datos
se utilizaron para construir el FTR; de tener datos de entrenamiento de alta calidad y de verificar la calidad de los datos de referencia en las
listas de seguimiento para
309 Comparación de imágenes obtenidas de cámaras de video con bases de datos de imágenes faciales, como listas de observación, para la ley
garantizar el respeto de los derechos fundamentales y evitar la discriminación. Además, describe los usos de prueba de LFRT con fines de
aplicación de la ley en el Reino Unido, Alemania y Francia, y aclara que debido a la falta de base legal para su implementación, LFRT
actualmente no podría usarse legalmente en los dos últimos países. Las pruebas en Austria y los Países Bajos muestran el interés de otros
Estados miembros de la UE en la tecnología. Además, el documento analiza los derechos fundamentales más afectados por el uso de LFRT,
como el respeto a la vida privada y la protección de datos, la no discriminación, la libertad de expresión y los derechos procesales, a través
del prisma de las leyes de protección de datos de la UE.
En conclusión, antes de implementar FRT en aplicaciones de la vida real, entre otros aspectos clave, se debe considerar establecer un
marco legal y regulatorio claro y suficientemente detallado; seguimiento de cerca de los desarrollos de reconocimiento facial por órganos de
supervisión independientes; evaluaciones de impacto sobre los derechos fundamentales mediante consultas con la industria; y colocar por
parte de las autoridades públicas los requisitos de protección de datos y no discriminación en el centro de todas las especificaciones técnicas
al adquirir FRT o encargar investigación innovadora.
3.2.15. Calidad de los datos e inteligencia artificial: mitigar el sesgo y el error para proteger los derechos fundamentales (Ref.
No. 45)
Título de referencia: F. - Agencia de los Derechos Fundamentales de la Unión Europea ». Sesgos y errores de mitigación de la calidad de los
datos e inteligencia artificial para proteger los derechos fundamentales '.
Palabras clave: inteligencia artificial ', datos, privacidad de los datos, calidad de los datos, datos de formación, ética, derechos fundamentales.
El papel analiza los conceptos de inteligencia artificial y la importancia crucial de la calidad de los datos cuando se trata de entrenar sistemas
de IA. Además analiza el impacto del uso de datos incompletos o sesgados sobre los derechos fundamentales de las personas, incluida la
discriminación.
El papel tiene como objetivo Proporcionar información sobre qué son la calidad de los datos y la inteligencia artificial, y cómo se relacionan
con los derechos fundamentales. Su objetivo es crear conciencia sobre cómo se utilizan los datos en un ciclo de formación para sistemas de
IA. Además, el documento tiene como objetivo proporcionar conocimiento sobre el impacto de los datos de baja calidad y sugiere que la
evaluación de los datos en sí mismos podría afectar negativamente la protección de los datos personales.
En términos de metodología, El artículo utiliza un método cualitativo al proporcionar conocimientos inculcados que se han acumulado en
relación con los sistemas de IA y la necesidad de datos de formación en combinación con los derechos fundamentales de las personas.
El documento discute la noción de sesgo en los datos de entrenamiento, entre otros aspectos. Describe la forma en que las empresas
recopilan los datos para el análisis de datos con el objetivo de crecer. Destaca las discrepancias en los datos según el medio en el que se
recopilan. Por ejemplo, la recopilación de datos de Internet no es eficiente ya que no todo el mundo tiene acceso a Internet. Lo mismo ocurre
con las redes sociales, ya que muchas personas eligen no usarlas y, como tal, los datos recopilados están inevitablemente sesgados. Esto es
particularmente notable para los hogares de bajos ingresos que no tienen acceso a Internet. Además, el documento utiliza ejemplos de
resultados sesgados cuando se utilizan datos de baja calidad en el proceso de entrenamiento de los sistemas de IA. La baja calidad podría
afectar el acceso a un juicio justo. Como idea general, el documento sugiere que, aunque un análisis de datos podría basarse en big data, no
garantiza necesariamente una alta calidad. Por lo tanto, describe además las formas en que la calidad de los datos podría evaluarse
indicando algunas, como determinar el error de medición, el error de representación, la confiabilidad y validez de los datos.
En conclusión, el documento señala que evaluar tecnologías y algoritmos relacionados con la IA desde una perspectiva de derechos
fundamentales es una tarea compleja. Afirma que el uso de algoritmos en IA puede tener un impacto negativo en los derechos fundamentales
si los datos utilizados para construir un sistema de IA miden lo incorrecto. La calidad de los datos puede generar discriminación y, como tal, se
debe tener especial cuidado.
Como próximos pasos, el documento está de acuerdo en que no existen estándares para evaluar la calidad de los datos, pero proporciona
algunos pasos en forma de preguntas que podrían usarse para evaluar la calidad de los datos. Estos son: (1) Origen de los datos, ¿de dónde
provienen los datos? (2)
98
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
Información en los datos. ¿La información incluida en los datos es apropiada para el propósito del algoritmo (en el entrenamiento de los
datos)? (3) Cobertura de datos. ¿Existe alguna subrepresentación en los datos? (4) Falta información. ¿Hay partes del conjunto de datos que
estén parcialmente cubiertas? (5) ¿Cobertura geográfica? (6) ¿Cuál es la ubicación de los datos recopilados?
3.2.16. # Big Data: discriminación en la toma de decisiones basada en datos (Ref. No. 46)
Título de referencia: Publicación de la Agencia Europea de Derechos Fundamentales, ' # Big Data: discriminación en la toma de decisiones
basada en datos ' Mayo de 2018
Palabras clave: Derechos fundamentales, discriminación, big data, aprendizaje automático (ML), Inteligencia Artificial (IA)
El artículo tiene como objetivo Contribuir al debate sobre los desafíos que plantea el aumento de la automatización de procesos y
decisiones mediante el aprendizaje automático (ML) y la (IA), y destacar cómo podría representar una amenaza para la protección de los
derechos fundamentales, a saber, el derecho a la no discriminación.
En términos de metodología el documento comienza con una definición de big data y lo que implica; revisa su uso en algoritmos de toma de
decisiones (predicción) y sus implicaciones.
El documento describe primero implicaciones de big data y derechos fundamentales, comenzando por referirse a big data como 'desarrollos
tecnológicos relacionados con la recopilación, almacenamiento, análisis y aplicaciones de datos' y frecuentemente caracterizados por las 'tres
V': volumen, velocidad y variedad crecientes de los datos producidos y que puede tener múltiples fuentes, como Internet de las cosas (IoT) y
redes sociales, entre otras. Fue esta disponibilidad de datos la que influyó en el desarrollo de nuevas tecnologías (ML e IA) con el fin de
analizar y utilizar estos datos, como para predecir el comportamiento. Al problematizar el uso de datos y algoritmos para facilitar las
decisiones, los autores enfatizan cómo los datos de baja calidad, mal seleccionados e incompletos pueden conducir a decisiones
cuestionables y discriminación. En este contexto, el artículo comparte un estudio sobre algoritmos sesgados, que investiga particularmente el
sesgo racial en la herramienta de evaluación de riesgos de Perfiles de Gestión de Delincuentes Correccionales para Sanciones Alternativas
(COMPAS). COMPAS se usó en los Estados Unidos de América y resultó ser un algoritmo con prejuicios raciales 311. Finalmente, el artículo
debate cómo se puede reparar el algoritmo para evitar la discriminación por parte del conjunto de datos. Aunque menciona cómo, por ejemplo,
en algunos Estados miembros de la UE está prohibida la recopilación de datos sobre etnicidad, "los posibles sesgos o discriminaciones no
pueden resolverse fácilmente excluyendo simplemente la información sobre grupos protegidos". 312
El artículo concluye que es inevitable cómo el uso de datos y algoritmos en la toma de decisiones diaria influye en la vida de las personas,
desde decisiones judiciales predictivas sensibles hasta simples filtros de spam.
Sin embargo, el uso de datos y nuevas tecnologías, como ML e IA, puede llevar a decisiones injustas y sesgadas. Por ello, los autores
argumentan que la transparencia de las herramientas automatizadas utilizadas es vital para predecir la toma de decisiones, salvaguardando
los derechos fundamentales.
Como un camino a seguir los artículos enfatizan la importancia abrumadora de abordar los derechos fundamentales y los desarrollos de big
data en las regulaciones. Esta importancia se compara
311 Se destacaron conclusiones similares en estudios paralelos: T Brennan y W Dieterich. 2018. Delincuente Correccional
Perfiles de Gestión de Sanciones Alternativas (COMPAS). Handbook of Recidivism Risk / Needs Assessment Tools (2018), 49., citado en S. Tolan, M.
Miron, E. Gómez y C. Castillo, 'Why Machine Learning May Lead to Unfairness', 2019, p. 84.
99
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
a otras áreas que ya están fuertemente reguladas, como la medicina, la producción y venta de alimentos o medicamentos, por el peligro para
la vida de las personas si no se regulan adecuadamente. En materia de tecnologías relacionadas con big data, estas no se responsabilizan y,
por esa razón, el documento propone la creación de instituciones similares a las autoridades de protección de datos que puedan supervisar
estas tecnologías relacionadas con big data con el fin de garantizar la efectividad. responsabilidad. Además, el documento propone ejemplos
que pueden ayudar al desarrollo y uso de algoritmos al tiempo que salvaguardan el cumplimiento de los derechos fundamentales: i) garantizar
la transparencia; ii) realizar evaluaciones de impacto sobre los derechos fundamentales para identificar continuamente posibles sesgos de la
aplicación de algoritmos; iii) revisar la calidad de los datos; iv) asegurar la explicabilidad del algoritmo.
3.2.17. Uso de inteligencia artificial en la resolución de disputas en línea (Ref. No. 47)
Palabras clave: Inteligencia artificial (IA), resolución de disputas en línea (ODR), derecho de familia, resolución
El artículo es una tesis de maestría que analiza la aplicación de tecnologías de inteligencia artificial (IA) en la resolución de disputas en
línea (ODR) y proporciona un ejemplo concreto de un caso de uso en el campo legal de la división de la propiedad comunitaria durante un
divorcio. El documento se centra únicamente en la situación en la República Checa.
Los objetivos de la tesis para crear un proceso para asentar la propiedad comunitaria utilizando técnicas de IA.
En términos de metodología, el artículo se divide en una parte teórica y otra práctica. En primer lugar, el autor establece el contexto legal al
describir los procedimientos para resolver una disputa en la República Checa. Luego toma la ODR como un tipo de resolución de disputas
extrajudicial (o alternativa), analiza su naturaleza, ventajas y desventajas y demuestra que, aunque se usa principalmente en el comercio
electrónico, la ODR también se puede aplicar a otros campos legales, por ejemplo, derecho de familia y, más particularmente, división de la
propiedad comunitaria durante el divorcio. En la parte práctica, el autor proporciona un ejemplo concreto del uso de IA en ODR en la
República Checa.
Primero, el documento describe los tipos de procesos y procedimientos de ODR, especialmente los dos más utilizados: negociación y
mediación, así como técnicas de IA aplicadas en ODR. Posteriormente, explica la perspectiva jurídica de la división de la propiedad
comunitaria en la República Checa e introduce los proyectos actuales utilizados en el derecho de familia. Posteriormente, el documento
diseña un proceso para la liquidación de la propiedad comunitaria para ayudar a dividir la propiedad comunitaria y crear un acuerdo entre las
partes mediante la negociación en línea. El proceso también ayuda a los mediadores en la mediación en línea. Se implementan diferentes
algoritmos que utilizan la teoría de juegos y la lógica difusa para asignar los activos a las partes. El documento proporciona una aplicación
web para presentar el proceso. Finalmente,
En conclusión, En el proceso implementado en la tesis, los algoritmos intentan maximizar los valores de rating de cada parte minimizando la
diferencia entre los precios totales (valores monetarios) de las partes. Por tanto, la asignación final es la más satisfactoria posible. El proceso
implementado es fácil de extender ya que los algoritmos que determinan la asignación y el algoritmo que evalúa el mejor son módulos
independientes. Surgen dos posibles enfoques para extender el proceso. Primero, el proceso asume que el valor monetario fue acordado de
antemano. Por tanto, la posible ampliación cubre los casos en los que se desconoce el precio. Otra opción considera la división desigual entre
las partes, en caso de que una de las partes tenga derecho a una parte más grande de la propiedad comunitaria que la otra parte. En la
República Checa, la división entre las partes debe ser 50/50. Sin embargo,
100
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
3.2.18. El impacto de AI en el derecho penal y sus dobles procedimientos (ref. No. 48)
Título de referencia: Gabriel Hallevy, 'Responsabilidad por delitos relacionados con sistemas de inteligencia artificial', Publicaciones
Springer, 2015
Palabras clave: inteligencia artificial ', derecho penal, perpetradores, motivo, culpabilidad, derecho, derecho civil
El libro analiza una teoría del derecho penal y la posible responsabilidad de la inteligencia artificial (IA). Desarrolla un enfoque teórico y
discute las implicaciones en términos de responsabilidad, culpabilidad de la propia inteligencia artificial y de los propietarios o usuarios de la
misma.
El libro apunta Sensibilizar sobre las implicaciones de la responsabilidad de la IA cuando esta última forma parte de la vida cotidiana.
Proporciona una descripción general de los casos en los que AI es el perpetrador o el logro o un mero instrumento para el hecho de hecho.
En términos de metodología, el libro utiliza un método cualitativo al desarrollar una teoría sobre la responsabilidad de la IA frente al derecho
penal y aborda todas las perspectivas posibles.
El libro presenta el concepto de IA y describe el viaje histórico hacia el presente. Menciona las teorías iniciales y aclaraciones de lo que
podría definirse como inteligencia artificial. Proporciona ejemplos, teoremas y principios sobre los mismos, como las leyes de Asimov sobre IA,
y trata de establecer ejemplos prácticos sobre cómo sería aplicable dado el desarrollo actual de IA. Describe la disposición de la sociedad a
aceptar las nuevas tecnologías al plantear los temas del miedo a lo nuevo y cómo se debe manejar. Además, establece analogías de
responsabilidad con el derecho penal. Proporciona ejemplos sobre cómo los animales están excluidos de la ley penal y cómo los humanos
están obligados a ser misericordiosos y que la ley prohíbe el abuso de poder de los humanos contra los animales. En el futuro, el libro analiza
el modelo de responsabilidad penal que toca los requisitos de los delitos y explica qué constituye un delito proporcionando definiciones y
ejemplos. Proporciona ejemplos y establece una base sobre el término de hechos de hecho y analiza los hechos, parámetros y atributos para
identificar las categorías de un delito. Describe la definición de un elemento externo de la responsabilidad penal que puede reflejarse en el
elemento fáctico analizando los siguientes cuatro principales:
(a) La descripción general del suceso ('¿Qué ha sucedido?'); (b) La identidad del delincuente ('¿Quién lo ha
hecho?');
(c) La hora del evento ('¿Cuándo se ha hecho?');
(d) La ubicación del evento ('¿Dónde se ha realizado?'). 313
Además, el autor analiza la capacidad de la tecnología de inteligencia artificial para cumplir con el requisito del elemento fáctico para ser
responsable en virtud del derecho penal. El concepto toca las nociones de conducta, que es el elemento obligatorio en los requisitos del
elemento fáctico. Yendo más allá, el libro analiza la estructura del elemento mental que exige el principio fundamental de culpabilidad para el
derecho penal y ofrece ejemplos como la imprudencia. Analiza la noción de intención y proporciona una base antes de introducir la
aplicabilidad a la IA. El autor argumenta que la noción de razonabilidad podría aplicarse fácilmente a la IA ya que, como continúa, es una
cuestión de cálculo que tanto los humanos como la IA podrían hacer.
Cuando se trata de delitos de negligencia, el libro establece un entendimiento común de lo que constituye una negligencia punible bajo el
derecho penal y lo que la sociedad considera una forma de autodidacta. El autor sostiene que en este caso, AI podría ser penalmente
responsable si existen los elementos mentales y el elemento fáctico. Lo mismo ocurre con la responsabilidad indirecta. La responsabilidad
estricta se analiza en el libro y el argumento de que si la IA es capaz de cumplir con los elementos de responsabilidad estricta, es factible y
alcanzable imponer responsabilidad penal. Además, el libro refleja la en persona fallas negativas y si esto podría ser aplicable a la IA. Se
discuten aspectos como la infancia, la pérdida del autocontrol, la locura, la intoxicación, el error fáctico, el error legal, la inmunidad sustantiva.
Lo mismo va para en
101
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
movimiento rápido del ojo 314 elementos negativos de culpa como defensa propia, necesidad, coacción, órdenes superiores, de minimis defensa.
Finalmente, el libro analiza la noción de castigo y sentencia de AI. En primer lugar, presenta la teoría básica y la definición de castigo y
sentencia antes de profundizar en la relevancia del castigo y la sentencia AI. El autor sostiene que, en términos de rehabilitación, la IA podría
simplemente volver a capacitarse. En cuanto al castigo físico, el autor sostiene que podría seguirse el mismo enfoque que las corporaciones.
En lo que respecta al encarcelamiento, el autor sostiene que cualquier tipo de retirada de la máquina de la vida cotidiana con fines de
reparación y reciclaje, sería similar al sentimiento social del encarcelamiento.
En conclusión, el autor sostiene que la sociedad moderna todavía utiliza definiciones antiguas que no son necesariamente adecuadas. El
derecho penal, continúa el autor, debe adaptarse a los nuevos avances de la tecnología a través de la jurisprudencia y las acciones
legislativas.
3.2.19. Los modelos básicos de responsabilidad penal de los sistemas de inteligencia artificial y los círculos exteriores (Ref. No. 49)
Título de referencia: G. Hallevy, 'The Basic Models of Criminal Liability of AI Systems and Outer Circles', Social Science Research Network
(SSRN), 11 de junio de 2019.
El artículo presenta una visión sobre la evolución de los delitos de los seres humanos a los sistemas de inteligencia artificial. A medida que
se desarrolla la tecnología, los delitos no solo son cometidos por humanos, sino que también pueden cometerse a través de entidades de
inteligencia artificial (IA).
El artículo tiene como objetivo presentar tres modelos fundamentales para hacer frente al fenómeno de los delitos a través de la IA dentro
de las definiciones actuales del derecho penal.
En términos de metodología, el artículo repasa la responsabilidad penal de los sistemas de IA en tres pasos en los que al principio el ser
humano detrás de la IA es responsable, hacia la plena responsabilidad del sistema de IA.
El documento discute los tres modelos fundamentales para hacer frente a este fenómeno dentro de las definiciones actuales de derecho
penal. Los modelos son: (1) El modelo de perpetración por otro pasivo; (2) El modelo de responsabilidad de consecuencia natural probable; y
(3) El modelo de responsabilidad directa.
Un sistema de IA es una máquina y, por lo tanto, al principio se consideró un agente inocente. Sin embargo, debido a las capacidades de un
sistema de IA, se debe considerar que el sistema de IA puede actuar como perpetrador de un delito. Podría tratarse como los delitos
cometidos por un niño o una persona mentalmente incompetente, porque así se le ordena. En este caso, el actor originador (el
perpetrador-por-otro) es el verdadero perpetrador. Este podría ser el programador o el usuario del sistema de IA. Según este modelo, no
existe una diferencia legal entre un sistema de IA y un destornillador o un animal sin capacidad para tomar decisiones.
Este modelo asume que ni el programador ni el usuario planearon que el sistema de IA cometiera un delito, sin embargo, durante la ejecución
de sus misiones diarias, el sistema de IA comete un delito. Este modelo se basa en la capacidad que los programadores o usuarios
razonables podrían haber previsto la infracción y, por lo tanto, evitar que sea
314 Todas las defensas generales se pueden dividir en dos tipos principales: en persona y en rem defensas. En persona
Las defensas son defensas generales que están relacionadas con las características personales del infractor (exenta), mientras que en rem están
relacionados con las características del hecho fáctico (justificaciones). (Ver: Compare Kent Greenawalt, Distinguiendo las justificaciones de las excusas,
49 LAW & CONTEMP. PROBS. 89 (1986); Kent Greenawalt, The Perplexing Borders of Justi fi cation and Excuse, 84 COLUM. L. R EV. 1897 (1984);
GEORGE
P. FLETCHER, REPENSANDO EL DERECHO PENAL 759–817 [1978, 2000]).
102
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
cometido por el sistema de IA. Este es el concepto de persona negligente, que es, en un contexto penal, una persona que no conoce el delito,
pero una persona razonable podría haberlo sabido, ya que el delito específico es una consecuencia natural probable de la conducta de esa
persona. .
En este modelo, la IA no depende de un programador o usuario. La responsabilidad penal por un delito específico se combina principalmente
con los elementos externos e internos del delito. En este caso, las capacidades de la IA pueden considerarse iguales o incluso superiores a
las de los seres humanos y, por lo tanto, puede considerarse penalmente responsable. Se pueden otorgar excepciones a la IA en tareas de
defensa o policía, al igual que con los humanos.
En conclusión, El resultado legal de la aplicación del primer modelo es que los programadores o usuarios son plenamente responsables
penalmente por el delito específico cometido por un sistema de IA al ordenarle que lo haga. El sistema de inteligencia artificial no tiene
ninguna responsabilidad penal. Si no hubo intención por parte del usuario o programador de cometer un delito específico, el usuario o
programador podría haberlo previsto y tener el estado de persona negligente. Luego, depende de si el sistema de inteligencia artificial ha
actuado como un agente inocente, para que sea considerado penalmente responsable o no. Algunos sistemas de IA pueden considerarse
iguales o incluso superar las capacidades humanas, por lo que pueden ser considerados responsables penalmente.
Como próximos pasos, el artículo establece que todas las entidades, humanas, jurídicas o de inteligencia artificial, están subordinadas al
derecho penal. "Si el propósito más claro de la imposición de responsabilidad penal es la aplicación del control social legal en la sociedad
específica, entonces la aplicación coordinada de los tres modelos es necesaria en el contexto mismo de la participación de los sistemas de IA
en la comisión de delitos".
3.2.20. Si los robots causan daños, ¿quién tiene la culpa? Automóviles autónomos y responsabilidad penal (Ref. No. 50)
Título de referencia: Sabine Gless / Emily Silverman / Thomas Weigend, 'Si los robots causan daño, ¿quién tiene la culpa? Automóviles
autónomos y responsabilidad penal ». 29 de enero de 2016 Nueva revisión de derecho penal
Palabras clave: robots, vehículos autónomos, responsabilidad penal, negligencia, derecho penal comparado
El papel analiza el uso cada vez mayor de robots en la vida cotidiana y las consecuencias legales que podrían producirse en caso de actos
nocivos por parte de ellos. El documento analiza las implicaciones en varios asuntos legales en diferentes tipos de leyes, incluido el derecho
penal.
El papel tiene como objetivo Dar a conocer los debates e investigaciones en curso sobre la forma en que los robots deben ser tratados
desde la perspectiva de la ley. Los autores pretenden dar a conocer la situación actual y argumentar a favor de limitar la responsabilidad
penal a los creadores de robots en los casos en los que los primeros hayan descuidado la adopción de medidas razonables para prevenir
riesgos.
En términos de metodología, El artículo utiliza principalmente un enfoque cualitativo mediante el cual los autores abordan la noción de
responsabilidad de los propietarios de robots, los creadores de robots y los propios robots con argumentos.
El documento discute las dos formas diferentes en las que la legislación alemana y estadounidense abordan la noción de robots e
inteligencia. Los autores del artículo parten de la clara distinción entre la forma en que las leyes alemanas y estadounidenses abordan la
responsabilidad de una entidad legal. En todos los casos, por el momento, parece difícil o no aplicable aún aplicar responsabilidad penal o de
otro tipo a agentes no humanos, como corporaciones y, en este caso, robots, aunque la ley estadounidense se aplica a las corporaciones.
Cuando se trata de robots inteligentes que emiten un juicio en circunstancias desconocidas, es aún más difícil determinar la responsabilidad.
El principal argumento en contra de responsabilizar a un robot es la noción de no tener una estrategia para crear una conciencia, lo que
implicaría decisiones completamente autónomas (definición gruesa de acto). Además, el documento analiza la definición delgada de un acto,
que corresponde a las acciones en sí, lo que podría ser una forma de responsabilizar a un robot. Yendo más allá, el papel
103
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
se centra en la ética de las máquinas dando ejemplos en los que los robots tendrían que tomar una decisión en función de las reglas como
entradas. Por ejemplo, un automóvil autónomo que se encontraría en el dilema de a quién lastimar en caso de accidente. El razonamiento
moral es algo que podría aplicarse a los robots en el futuro y el ejemplo anterior podría tener lógica detrás de la decisión, dice el documento.
En la segunda parte del artículo, los autores discuten la responsabilidad de los creadores de robots. Hoy en día, los robots, como está
demostrado, toman decisiones sobre temas en los que sus respectivos creadores no han pensado. Como argumenta el documento, los robots
analizan de forma independiente las condiciones antes de tomar una decisión y, por lo tanto, la probabilidad de causar daño no es cero. El
documento proporciona varios ejemplos para demostrar la complejidad del problema. Utiliza la legislación alemana y estadounidense y
muestra enfoques similares en cada uno. El principal punto en común de ambas leyes es la noción de exposición legal al riesgo de los
usuarios de productos en general. Intentan diferenciar el peligro conocido de los clientes de los casos, como en los robots, en los que el
producto en sí mismo hizo cosas que el creador del producto no conocía de ninguna manera. Debido a su inteligencia, Los robots aprenderán
a llegar a una conclusión por sí mismos, basándose en pocas o ninguna regla y restricciones de entrada. Los autores reconocen que la
negligencia y otros actos legales durante la creación de productos hacen que los creadores sean responsables, pero argumentan que en el
caso de los robots inteligentes, existe una brecha de responsabilidad: los robots, como se discutió anteriormente, no pueden ser considerados
responsables mientras, al mismo tiempo, existan Serán casos en los que los creadores de los robots tampoco deberían serlo.
En conclusión, el documento plantea la cuestión de si la sociedad debería abrazar el cambio y abordar la posible falta de responsabilidad
como un tipo de exención de responsabilidad porque bajo ciertos riesgos en la producción de robots inteligentes, según el documento, no
debería haber ninguno.
3.2.21. Documento de trabajo II. Documento preparado para la primera reunión del Grupo de Trabajo de Expertos en
Inteligencia Artificial y Derecho Penal del Comité Europeo de Problemas Criminales, Consejo de Europa (Ref. No. 51)
Título de referencia: Grupo de Trabajo de Expertos en Inteligencia Artificial y Derecho Penal - Documento elaborado por la Profesora Sabine
Gless, Relatora Especial
Palabras clave: derecho penal, justicia penal, responsabilidad penal, inteligencia artificial ', evidencia, derecho penal sustantivo,
procedimiento penal, asistencia judicial recíproca, derecho penitenciario, evaluación de riesgos
El documento de trabajo es una propuesta de el Comité Europeo de Problemas Criminales (CDPC) del Consejo de Europa. El Grupo de
Trabajo de Expertos (Grupo) propone analizar el impacto del uso de inteligencia artificial (IA) en la justicia penal.
Los objetivos del proyecto - como funciona el CDPC en general - para evitar efectos no deseados del uso de inteligencia artificial y robótica en el
campo de la justicia penal.
En términos de metodología, El proyecto tiene como punto de partida la premisa de que la combinación de un ambiente inteligente donde la
tecnología responde a las necesidades humanas da como resultado un aumento gradual de la cooperación humano-robótica en las
actividades comunes y cotidianas, como la conducción automatizada. Este ejemplo servirá como referencia a lo largo del documento para
explicar cuatro áreas de interés en las que la IA puede influir en el campo de la justicia penal e impactar en los principios del derecho penal.
El papel luego elabora la definición de inteligencia artificial, robots y bots, evidencia electrónica y automatización de la conducción, y avanza
en la explicación de las cuatro áreas de interés mencionadas anteriormente:
• Derecho penal sustantivo aborda específicamente la cuestión de la brecha de responsabilidad. En la conducción automatizada, el
sistema asume progresivamente la acción humana de conducir. Esta
104
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
plantea la cuestión de cuándo ocurre un accidente, dónde radica la responsabilidad de tal acción si la realiza un robot. El Grupo sugiere
que tales situaciones exigen una regulación gubernamental sobre las empresas de la industria de la IA. Esta área de interés también se
refleja en la
riesgo socialmente permisible. Conducir es legal ya que la sociedad reconoce los riesgos de dicha actividad, por ejemplo, en el tráfico
rodado. En lo que respecta a la conducción autónoma, es importante garantizar que los Estados miembros tengan una definición común
de este riesgo para evitar la doble incriminación. Por último, la multiplicidad de elementos y proveedores que habilitan las funciones de
los robots podría limitar la atribución de responsabilidad, lo que también exige un enfoque regulatorio en la cadena de suministro.
• Procedimiento Criminal abarca el desafío de la evidencia de la máquina. Cuando ocurre un accidente, lo más probable es que la
evidencia presentada sea evidencia de máquina, lo que plantea la pregunta de cómo se puede probar su credibilidad cuando la
evaluación de la confiabilidad de la evidencia es puramente humana. Este desafío también se relaciona con la cuestión del derecho a
interrogar al testigo, que podría ser difícil de asegurar cuando el 'testigo' son datos generados por una máquina. El derecho de la
persona procesada a interrogar al testigo podría representar un principio para activar el acceso a la fuente del código, lo que se vincula
con la importancia del monitoreo de los sistemas de inteligencia artificial por parte de terceros.
• Asistencia legal mutua se refiere a la situación en la que hay Estados miembros que admiten la conducción autónoma y otros no, lo que
podría plantear un problema de enjuiciamiento. Además, existe preocupación sobre el acceso a datos a través de las fronteras en casos
de investigación. Sobre este tema, ya existe un convenio sobre el delito cibernético, sin embargo, no se ha evaluado si tal regulación es
suficiente.
• Derecho Penitenciario, Vigilancia / Evaluación de riesgos. La IA se utiliza, por ejemplo, en la evaluación de la reincidencia de los infractores
en el proceso de libertad condicional. El mismo uso podría aplicarse para detectar una tendencia a infringir las normas de tráfico, como los
límites de velocidad.
En conclusión, Si bien el documento de trabajo problematiza los impactos potenciales del uso de la inteligencia artificial en el campo de la
justicia penal al definir cuatro áreas de interés, también sugiere los diferentes dominios donde la regulación gubernamental es necesaria y de
alta relevancia para disminuir los efectos dañinos sobre ellos.
Como un camino a seguir el Grupo de Trabajo procederá con un plan de proyecto y finalmente presentará un borrador de instrumentos a la
CDPC en octubre de 2020.
Título de referencia: Ugo Pagalo y Serena Quattrocolo, ' Manual de investigación sobre el derecho de la inteligencia artificial ', Woodrow
Barfield y Ugo Pagallo . Edward Elgar Publishing Limited
2018
Palabras clave: inteligencia artificial ', derecho penal, perpetradores, motivo, culpabilidad, derecho, derecho civil
El capítulo analiza el impacto de la IA en el derecho penal. Tiene la intención de arrojar luz sobre si la IA afecta el principio de legalidad.
Los objetivos del capítulo explorar los aspectos y las consecuencias del uso de la IA para hacer cumplir la ley y discutir si la IA traerá una
nueva generación de delitos.
En términos de metodología, el capítulo utiliza un enfoque cualitativo para teorizar sobre los aspectos antes mencionados.
El capítulo discute cómo podría utilizarse la IA y afectar a la aplicación de la ley y, específicamente, la recopilación de pruebas en los
procesos penales. Añade el concepto de «igualdad de armas» de conformidad con el artículo 6, apartado 1, del CEDH. Habla del concepto de
vida digital y vida privada y va más allá en el análisis del concepto de domicilio digital para la protección de la privacidad. El capítulo avanza
en el desafío de la efectividad de la IA cuando se trata de grandes volúmenes de datos y menciona procesos que podrían regular el código de
los algoritmos para lograr transparencia y responsabilidad, mencionando ejemplos en detalle y cómo podrían evolucionar las cosas. Los
autores continúan e introducen el concepto de infringir la ley a través de la inteligencia artificial. El argumento es que debido a la rápida
evolución de la IA, la perspectiva de utilizarla como elemento delictivo es evidente. Para que la IA sea responsable, las nociones de
condiciones previas, conciencia, libre albedrío e intenciones humanas deben estar presentes. Continúan en un
105
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
nivel conceptual en el que a través de desarrollos recientes, la impresionante evolución de la IA podría introducir el elemento mental requerido
para la responsabilidad penal.
En conclusión, el capítulo enfatiza la divergencia de los aspectos antes mencionados, la ley que hace cumplir la IA, específicamente para el
procesamiento de pruebas, y la nueva generación de delitos que utilizan la IA. Para utilizar la inteligencia artificial y lograr un 'equilibrio justo'
entre las partes, se deben implementar una serie de soluciones de transparencia.
3.2.23. Justicia algorítmica: algoritmos y big data en entornos de justicia penal (ref. No. 53)
Título de referencia: Aleš Završnik, 'Justicia algorítmica: algoritmos y macrodatos en entornos de justicia penal'. Noviembre de 2019 CER.
Revista Europea de Criminología de la UE 1–20
Palabras clave: inteligencia artificial, big data, análisis algorítmico, aprendizaje automático, justicia penal, algoritmos, sesgo,
sentencia
El papel analiza el uso de big data e inteligencia artificial en el sistema de justicia con el fin de combatir la delincuencia, mejorar las
predicciones en diversos procesos en los procesos judiciales como el cálculo del monto de la fianza, riesgos de reincidencia y otros. Además,
examina cómo dichos métodos y algoritmos violan las reglas de procedimiento penal establecidas.
El papel tiene como objetivo Sensibilizar sobre el uso de algoritmos y matemáticas en el sistema judicial. Tiene como objetivo proporcionar
conocimiento sobre los riesgos de utilizar estos algoritmos.
En términos de metodología, El documento utiliza una combinación de métodos cuantitativos y cualitativos al proporcionar estadísticas
concretas de los usos de la IA y los macrodatos en el campo de la justicia.
El documento discute las diversas implementaciones de algoritmos y matemáticas en el sistema judicial y brinda riesgos y discusiones ya
realizadas sobre el tema. Además, profundiza en los casos en que se han utilizado big data y sistemas inteligentes en el sistema judicial
donde, según el documento, los resultados fueron sesgados y no objetivos. Menciona la necesidad de educación dentro de las autoridades
judiciales con el fin de comprender cómo utilizar los algoritmos inteligentes. Afirma claramente que los algoritmos y su mejora no es la
solución para un mejor sistema judicial ya que la sociedad necesita mejorarse a sí misma. Aborda el concepto de probabilidad en la
reincidencia y la asistencia de la IA. Va más allá y generaliza el concepto de sesgo y cómo debe o no eliminarse del proceso, ya que en el
documento se discutió que las acciones legislativas tienen en cuenta los intereses sociales actuales. Además, plantea el hecho de que AI es
útil para los procedimientos judiciales y las investigaciones penales al mencionar un ejemplo en Eslovenia.
En conclusión, el documento plantea la cuestión de si la IA es una herramienta adecuada para impulsar la eficiencia judicial y cuáles son las
implicaciones de eliminar el factor humano del juicio. Como conclusión, el documento argumenta que la IA podría ayudar a automatizar
algunas tareas utilizadas en los procedimientos, pero debe haber precaución y reflexión antes de considerar eliminar por completo el factor
humano del proceso de toma de decisiones.
3.2.24. ¿Qué pasa con la IA en la inteligencia criminal? De la vigilancia policial predictiva a las perspectivas de la IA (Ref. No.
54)
Título de referencia: Patrick Perrot, Gendarmerie nationale, Ministerio del Interior, París, Francia ' ¿Qué pasa con la IA en la inteligencia
criminal? De la vigilancia policial predictiva a las perspectivas de la IA ', Boletín Europeo de Investigación y Ciencia de la Policía, vol. 16,
verano de 2017
Palabras clave: inteligencia artificial (IA), análisis de delitos, vigilancia policial predictiva, GAFAM, aplicación de la ley
106
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
El artículo presenta una opinión sobre los avances de la policía nacional francesa en el análisis predictivo y sobre el uso potencial de la
inteligencia artificial en diferentes áreas de la inteligencia criminal sin evitar el riesgo de sus nuevos desarrollos.
El artículo tiene como objetivo analizar si la IA puede ayudar a la policía a predecir delitos de una mejor manera que las herramientas
matemáticas existentes para calcular los riesgos delictivos.
En términos de metodología, El artículo comienza presentando la IA en sí, seguida de una descripción general de los desarrollos en IA
desde 1956, y termina con los riesgos y la posibilidad de uso para las fuerzas del orden.
El documento discute tareas policiales en general, que son dobles: (1) investigación de delitos y (2) velar por la seguridad pública. En ambos
campos, las nuevas tecnologías están logrando mejoras prometedoras. Los enfoques predictivos de los riesgos delictivos ya se han
desarrollado durante varios años. Ahora están comenzando a transformarse en un enfoque de inteligencia artificial, donde el aprendizaje
automático también ha evolucionado a lo largo de los años. De hecho, los sistemas de IA han comenzado en los últimos años a superar a los
humanos, especialmente en campos como el reconocimiento de objetos, el reconocimiento facial, la expresión facial, el reconocimiento del
habla e incluso la identificación de emociones.
El principio para la previsión de delitos, basado en el análisis predictivo, es aprovechar los reconocimientos pasados para comprender el
presente y explorar el futuro. Los resultados se derivan de dos conjuntos diferentes de datos pasados: el primer conjunto de datos se usa para
entrenar el algoritmo y construir el modelo y el segundo se usa para evaluar el desempeño del modelo.
Una tecnología de próxima generación, Web 3.0 (la web semántica), ofrece la posibilidad de entregar contenido de observación, conductual y
personalizado a individuos en lugar de a "multitudes". Tiene en cuenta el análisis de datos masivos, la explotación de dispositivos conectados
y la capacidad de proporcionar perfiles individuales por anticipado. Reúne grandes volúmenes de evidencia directa o indirecta de relaciones
de interés, aplicando algoritmos de aprendizaje para comprender y generalizar. En el campo del análisis de la delincuencia, es fácil imaginar
algunas aplicaciones concretas:
• Para reconocer a un delincuente conocido en un área específica y enviar un correo electrónico a un teléfono inteligente personal;
Algunas áreas de riesgo pueden presentarse en los teléfonos inteligentes de los ciudadanos, lo que podría darle una sensación de control de
su propia seguridad, pero irá acompañado del costo de la privacidad.
En teoría, la IA se puede utilizar en tres casos diferentes: para modelar actos delictivos; modelar el comportamiento y la forma delictiva de
razonar; y modelar el comportamiento y la forma de razonar de los investigadores. La ventaja de una IA es entrenar el modelo utilizando la
teoría criminológica y a partir de informes de casos reales.
En conclusión, Actualmente (2017), podemos considerar que un agente virtual capaz de brindar ayuda objetiva a un investigador real aún no
parece realista debido a la heterogeneidad y complejidad de la situación real que no es únicamente lógica. El objetivo es mejorar la toma de
decisiones humana a través de la IA. El riesgo es ver estas perspectivas desarrolladas por empresas privadas o grupos industriales, o incluso
organizaciones criminales, en lugar de las fuerzas del orden.
Como próximos pasos, el artículo recomienda utilizar la IA como apoyo para las decisiones humanas y para prepararse contra los
delincuentes que también están aprovechando la IA para ampliar y mejorar sus actividades delictivas. ¿Qué sucederá cuando las
computadoras piensen y se mejoren a sí mismas sobre nuevas formas de criminalidad antes no anticipadas?
3.2.25. Predicción del riesgo en el proceso penal: herramientas actuariales, algoritmos, IA y toma de decisiones judiciales (Ref.
No. 55)
Título de referencia: Carolyn McKay, ‘ Predicting risk in criminal procedure: actuarial tools, algorithms, AI and judicial decision-making’, The
University of Sydney Law School, November 2019
107
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
Palabras clave: inteligencia artificial (IA), predicción, riesgo, procedimiento penal, algoritmos, toma de decisiones judiciales, herramientas
actuariales
El documento describe una gama de herramientas de diagnóstico predictivo, cuyos resultados se han utilizado para ayudar a la experiencia
humana a evaluar el riesgo de reincidencia en casos penales.
Esto me pertenece para responder a la pregunta de si el procedimiento penal puede automatizarse total o parcialmente y, de ser así, cómo
estas herramientas actuariales / algorítmicas emergentes podrían ayudar a los funcionarios judiciales a tomar decisiones que podrían afectar
las libertades y el estatus legal del infractor.
En términos de metodología, El artículo comienza con un análisis del riesgo en el contexto de una sociedad y un sistema de justicia penal
cada vez más reacios al riesgo, y las tensiones entre el derecho general a la libertad y la seguridad comunitaria. Luego, examina algunas
críticas a la discreción humana del juez cuando dicta sentencia. Además, el artículo proporciona una descripción general del desarrollo de
herramientas predictivas en evaluaciones de riesgo en procedimientos penales para cuestionar si las evaluaciones basadas en datos y
máquinas ofrecen más precisión y objetividad que los jueces humanos. Finalmente, se examina la necesidad de revisar el concepto de justicia
procesal en el contexto de un sistema de justicia penal cada vez más tecnificado.
En particular, el artículo reconoce el uso de herramientas actuariales en una serie de casos penales, donde el juez tiene que evaluar el riesgo de que el delincuente vuelva a cometer
delitos y decidir sobre la sentencia o la libertad condicional. En un caso, se utilizó una combinación de herramientas como STATIC Risk Factors Actuarial Assessment - Sex Offending
(STATIC-99R), como una herramienta para predecir la reincidencia sexual y el Protocolo de Riesgo de Violencia Sexual RSVP. La segunda herramienta es un instrumento estructurado de
juicio profesional desarrollado para ayudar en la identificación y manejo de la violencia sexual utilizando 22 factores estáticos y dinámicos identificados por la literatura relacionados con
delitos sexuales y agrupados en cinco dominios (1) antecedentes de violencia sexual; (2) ajuste psicológico; (3) trastorno mental; (4) ajuste social; y (5) manejabilidad. STATIC-99R primero
puso al infractor en la categoría de alto riesgo y luego RSVP 'confirmó' su resultado con una evaluación 'más completa'. Aunque utilizan estas herramientas, los expertos reconocen sus
deficiencias y, por lo tanto, brindan su experiencia con la advertencia de que el comportamiento humano no puede predecirse científicamente. Las preocupaciones surgen en términos de los
instrumentos predictivos que no evalúan la información sobre el individuo, sino que se basan en las características del grupo, lo que contradice el principio de justicia individualizada.
Además, es posible que no puedan diferenciar entre la diferente gravedad del daño. Finalmente, las evaluaciones algorítmicas son en gran parte indiscutidas, ya que están protegidas por la
propiedad intelectual, lo que priva al individuo de la oportunidad de cuestionar los mecanismos de ponderación aplicados. Aunque utilizan estas herramientas, los expertos reconocen sus
deficiencias y, por lo tanto, brindan su experiencia con la advertencia de que el comportamiento humano no puede predecirse científicamente. Las preocupaciones surgen en términos de los
instrumentos predictivos que no evalúan la información sobre el individuo, sino que se basan en las características del grupo, lo que contradice el principio de justicia individualizada.
Además, es posible que no puedan diferenciar entre la diferente gravedad del daño. Finalmente, las evaluaciones algorítmicas son en gran parte indiscutidas, ya que están protegidas por la
propiedad intelectual, lo que priva al individuo de la oportunidad de cuestionar los mecanismos de ponderación aplicados. Aunque utilizan estas herramientas, los expertos reconocen sus
deficiencias y, por lo tanto, brindan su experiencia con la advertencia de que el comportamiento humano no puede predecirse científicamente. Las preocupaciones surgen en términos de los
instrumentos predictivos que no evalúan la información sobre el individuo, sino que se basan en las características del grupo, lo que contradice el principio de justicia individualizada.
Además, es posible que no puedan diferenciar entre la diferente gravedad del daño. Finalmente, las evaluaciones algorítmicas son en gran parte indiscutidas, ya que están protegidas por la
propiedad intelectual, lo que priva al individuo de la oportunidad de cuestionar los mecanismos de ponderación aplicados. los expertos reconocen sus deficiencias y, por lo tanto, prestan su
experiencia con la salvedad de que el comportamiento humano no puede predecirse científicamente. Las preocupaciones surgen en términos de los instrumentos predictivos que no evalúan la información sobre el individ
En conclusión, el artículo sugiere la creación de organismos reguladores, especialmente en países con una clara separación de los poderes
gubernamental y judicial, para supervisar y auditar los algoritmos y así garantizar la transparencia, la rendición de cuentas y la justicia
procesal. Además, el artículo parece implicar que en cumplimiento del principio de justicia procesal abierta, los acusados, los tribunales y la
sociedad deben poder probar, impugnar y escrutar la validez y confiabilidad de las fórmulas predictivas, por lo tanto, no hay protecciones de
propiedad e intereses financieros. debe invocarse.
3.2.26. ¿Pueden la inteligencia artificial y la resolución de disputas en línea mejorar la eficiencia y la efectividad en los
tribunales? (Ref. No. 56)
Título de referencia: Zeleznikow, John. ' ¿Pueden la inteligencia artificial y la resolución de disputas en línea mejorar la eficiencia y la eficacia
en los tribunales? 'Revista Internacional para la Corte
315 El artículo ilustra el sesgo y los desafíos de protección de propiedad con el caso estadounidense del estado de Wisconsin.
v Loomis 881 NW2d 749 (Wis. 2016), donde se utilizó el perfil de gestión de delincuentes correccionales para sanciones alternativas (COMPAS) en el
procedimiento de sentencia.
108
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
Administración 8 (2). 2017, Asociación Internacional para la Administración de Tribunales: 30–45. doi: 10.18352 / ijca.223.
Palabras clave: litigantes auto-representados, acceso a la justicia, resolución de disputas en línea, inteligencia artificial
El artículo analiza el impacto de los litigantes de autorrepresentación en el campo de la justicia y describe los pasos dados hacia un mejor y
más justo acceso a la justicia para las personas que no pueden pagar o eligen ejercer su derecho a no tener un abogado. Luego se enfoca en
el impacto de las herramientas de resolución de disputas en línea.
El artículo tiene como objetivo Sensibilizar sobre el impacto de la autorrepresentación y la falta de acceso adecuado y justo a la justicia
para las personas que no necesariamente pueden pagar un abogado. Además, apunta a señalar los esfuerzos relacionados con el
mecanismo de resolución de disputas en línea. El objetivo principal es producir resultados positivos y conceptualizar una mentalidad hacia el
uso de TI e IA en el campo de la justicia.
En términos de metodología, el artículo proporciona una combinación de un enfoque cualitativo y cuantitativo. Describe las trampas y la
injusticia de los litigantes que se representan a sí mismos con estadísticas y resalta la importancia de una solución. Utiliza la misma
metodología para presentar iniciativas para brindar un acceso justo a la justicia a través de la resolución de disputas en línea.
El artículo discute las razones de una autorrepresentación en constante aumento, como se observa en los países que tienen common law (EE.UU., Reino
Unido, Australia y otros) desde la perspectiva de la falta de acceso e información y orientación adecuadas. De las estadísticas se desprende que la asistencia
de tecnología de la información es obligatoria. Esta conclusión está respaldada por referencias que apoyan la misma. Enfatiza la necesidad de una manera
simple y clara de brindar acceso a información que pueda ser entendida por personas sin antecedentes legales. Además, el artículo profundiza en las formas
de utilizar la inteligencia artificial y el concepto de resolución de disputas en línea. Desarrolla los tipos de inteligencia artificial que podrían ser beneficiosos para
la ODR, como el razonamiento basado en reglas, el razonamiento basado en casos, el aprendizaje automático y otros. Hacia adelante, enlista y describe los
sistemas existentes que se han creado para completar pragmáticamente las necesidades mencionadas anteriormente. Algunas de esas aplicaciones son Get
Aid System, que utiliza árboles de decisión, AssetDivider y los sistemas Split-Up, que utilizan métodos de negociación basados en la teoría de juegos en
diferentes niveles. Estos sistemas siguen el principio de 'la mejor alternativa a un acuerdo negociado' (BATNA). El artículo profundiza en los detalles de esos
sistemas al describir las formas en que se desarrollaron y lo útiles que han sido, cada uno por su propio derecho y campo. Estos sistemas siguen el principio de
'la mejor alternativa a un acuerdo negociado' (BATNA). El artículo profundiza en los detalles de esos sistemas al describir las formas en que se desarrollaron y
lo útiles que han sido, cada uno por su propio derecho y campo. Estos sistemas siguen el principio de 'la mejor alternativa a un acuerdo negociado' (BATNA). El
artículo profundiza en los detalles de esos sistemas al describir las formas en que se desarrollaron y lo útiles que han sido, cada uno por su propio derecho y
campo.
En conclusión, el artículo alaba el uso de sistemas ODR, si no por una mejor razón, el beneficio inmediato de los litigantes
auto-representados (SRL) porque brindan consejos fácilmente útiles y ayudan a las personas en su disputa. Además, ayudan a educar a las
SRL y a facilitar la comunicación con las partes en disputa.
Como próximos pasos, el artículo recomienda que las herramientas ODR no deben estar completamente automatizadas. Los autores
basan su sugerencia en el principio de tener los sistemas en modo de asistencia. Al tener sistemas inteligentes que ayuden a los ciudadanos,
los estados, los abogados y los tribunales, todos los procesos podrían ser más rápidos y mejores.
El papel presenta los retos que plantea el RGPD en el uso de blockchain y analiza en profundidad las cuestiones legales relacionadas con
las aplicaciones actuales de la tecnología blockchain como el cifrado, la pseudonimización, etc.
El papel tiene como objetivo para evaluar en qué medida la tecnología blockchain cumple con el GDPR y cuáles son los posibles caminos
de evolución hacia un mejor cumplimiento.
En términos de metodología, el estudio primero elabora los aspectos de incompatibilidad entre el RGPD y las características de blockchain.
Luego explica en cinco pasos cómo la tecnología blockchain puede evolucionar para cumplir mejor con la regulación de protección de datos.
El documento describe en una descripción general de las funcionalidades de poner datos en una cadena de bloques por medio de una
tecnología de contabilidad distribuida (DLT), seguida de una elaboración del 'estado actual' sobre cómo los expertos de DLT están tratando de
aplicar las reglas de GDPR en una cadena de bloques. El artículo se centra en las cadenas de bloques no autorizadas, ya que ofrecen la
mayor cantidad de novedades y complicaciones desde la perspectiva de la protección de datos.
Según el autor, las soluciones actuales de blockchain a nivel conceptual, especialmente las públicas y las no autorizadas, parecen
profundamente incompatibles con el RGPD. Los mecanismos de protección de datos desarrollados para los silos de datos centralizados,
como las bases de datos tradicionales, no pueden conciliarse fácilmente con el almacenamiento y la protección de datos descentralizados que
ofrece el DLT. Después de dar un análisis en profundidad de la situación de los datos transaccionales, así como del uso de claves públicas, el
autor concluye que tanto las claves públicas en sí mismas, como los datos transaccionales, almacenados en blockchains, a menudo
calificarán como datos personales. .
Continuando con el conocimiento de las capacidades de las cadenas de bloques, aplicando las reglas de GDPR, los hallazgos anteriores
tienen algunas implicaciones legales. Por ejemplo, el GDPR define un controlador de datos. Cuando se trata de cadenas de bloques privadas,
aún podría ser posible identificar un intermediario central que pueda calificar como controlador de datos, como el operador de sistemas que
será el destinatario de las reclamaciones del interesado. Para otros DLT, todos los nodos son públicos, por lo que ninguno es adecuado para
ese rol.
Otro punto es el ámbito territorial de GDPR. Al ver el hecho de que las cadenas de bloques sin permiso generalmente se ejecutan en nodos
ubicados en varias jurisdicciones o países de todo el mundo, no existe un control real sobre la expansión geográfica de la red. En
consecuencia, el amplio alcance territorial del GDPR probablemente implica que sus obligaciones vinculan muchas aplicaciones basadas en
blockchain con solo un vínculo indirecto con la UE.
Para hacer cumplir los derechos sustantivos de protección de datos en las cadenas de bloques, se deben considerar varias limitaciones de la
cadena de bloques. El principio de minimización de datos es difícil de mantener con DLT, ya que los datos en una cadena de bloques por
definición se expanden continuamente. Mantiene todas las versiones anteriores de datos. Pero cuando se tiene cuidado de seleccionar qué se
mantiene en la cadena y qué datos se almacenarán fuera de la cadena, habrá más libertad en las posibilidades de modificación, minimización
e incluso eliminación de datos. Estas serían acciones hacia el derecho de acceso y el derecho al olvido.
Dos principios generales del GDPR son 'protección de datos por diseño' y 'protección de datos por defecto'. Según el artículo, las soluciones
blockchain no admiten automáticamente la soberanía de los datos, sino que deben diseñarse a propósito para hacerlo.
En cuanto al estado de la innovación en la legislación de la UE, el artículo afirma que la tensión entre el RGPD y estas nuevas bases de datos
descentralizadas (DLT) de hecho revela un choque entre dos objetivos normativos del derecho supranacional: la protección de los derechos
fundamentales, por un lado, y la promoción. de innovación por el otro.
En conclusión, el autor resume que, para no sofocar la innovación en toda la UE, se necesita un compromiso en el que la seguridad jurídica
de la protección de datos en la UE se concilie con la promoción deseada de la innovación y, por tanto, también una alternativa eficaz.
110
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
medios de protección de datos. Se puede lograr al menos una reconciliación parcial de estos fundamentos (aparentemente) contradictorios
mediante técnicas de interpretación jurídica.
Como pasos siguientes, el documento recomienda que los reguladores implementen y fomenten enérgicamente las salvaguardias
adecuadas de protección de datos. Además, los mismos reguladores deben garantizar que las consideraciones de soberanía de los datos se
incorporen al software desde el inicio.
Palabras clave: protección de datos, blockchain pública, block miner, controlador de datos, subcontratista, cumplimiento, seguridad.
El papel presenta las soluciones concretas que ofrece la CNIL (Francia) a los actores que deseen utilizar la tecnología blockchain en el
contexto del procesamiento de datos personales.
El papel tiene como objetivo proporcionar un conjunto inicial de elementos de análisis identificados por la CNIL. No pretende ser un
conjunto final exhaustivo de medidas técnicas y organizativas para cumplir con la normativa de protección de datos.
El documento discute las condiciones bajo las cuales la CNIL considera que los participantes de la red blockchain pueden y deben ser
considerados controladores de datos (o no). En particular, estos incluyen el papel y las responsabilidades de:
• mineros de bloques (para una prueba de blockchain basada en el trabajo); personas privadas fuera
• de un contexto empresarial o comercial;
• un subcontratista (por ejemplo, un desarrollador de contratos inteligentes) que trabaja bajo la responsabilidad de un controlador de datos.
Con respecto a los controladores de datos conjuntos, la CNIL recomienda elegir una entidad legal o una persona como controlador de datos
(principal) a quien el interesado pueda acudir.
Además, la CNIL hace recomendaciones sobre medidas clave para garantizar la seguridad y la integridad de los datos en la cadena de
bloques. En el contexto de las cadenas de bloques públicas, potencialmente expuestas a los llamados 'ataques del 51%', la CNIL recomienda
garantizar un número suficientemente grande de mineros de bloques y la ausencia de coaliciones con incentivos para intentar tomar el control.
La CNIL también recomienda implementar una gobernanza adecuada de las evoluciones del software, para garantizar que los algoritmos
criptográficos se puedan actualizar y desarrollar un plan de contingencia, que tenga en cuenta las infracciones debidas al mal funcionamiento
del algoritmo de consenso y los contratos inteligentes. El controlador de datos es responsable de garantizar la seguridad de las claves
privadas, por ejemplo, haciendo cumplir el almacenamiento en un medio seguro.
En conclusión, En este artículo publicado en 2018, la CNIL proporcionó algunos elementos para una 'lista de verificación' que los
propietarios o patrocinadores de proyectos que deseen utilizar la tecnología blockchain en el contexto del procesamiento de datos personales
deben tener en cuenta.
111
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
3.3.3. La blockchain au service de la protection du droit d'auteur dans le domaine du livre numérique (Ref. No. 87)
Título de referencia: El. Deleuze, 'La blockchain au service de la protection du droit d'auteur dans le domaine du livre numérique'
Palabras clave: obras digitales; derechos de autor; protección de la propiedad intelectual; transparencia; trazabilidad; Derecho contractual;
contrato inteligente; desintermediación
El papel presenta un estudio en profundidad del impacto de la digitalización de la cadena de valor (obra digital) en Internet, así como sus
últimas consecuencias sobre el control del autor sobre la explotación de su obra y la compensación asociada. También evalúa los beneficios
potenciales de la tecnología blockchain como solución técnica para reforzar la transparencia y la trazabilidad a lo largo de la cadena de valor
del trabajo digital e identifica los obstáculos para su implementación.
El documento discute cómo la digitalización de la cadena de valor del trabajo digital y la falta de transparencia han creado progresivamente
un desequilibrio entre los autores por un lado y los editores (o empresas de gestión de derechos) por el otro. La consecuencia de esto es la
pérdida de control del autor sobre las obras digitales, lo que en última instancia da como resultado (1) efectos de sustitución que reducen las
ventas de obras digitales (reproducidas y explotadas legalmente) y (2) disminución de la compensación del autor. El documento también
profundiza en el potencial de blockchain en este contexto, brindando transparencia sobre los derechos y pagos y permitiendo al autor
recuperar el control sobre su trabajo digital sin depender de terceros o intermediarios (desintermediación) (ver capítulo I. ' La blockchain
comme outil technologique au service du droit d'auteur, une prometteuse de utilización '). Además, analiza los obstáculos en el uso de
blockchain en todo su potencial para la desintermediación. Estos son principalmente legales (incapacidad para abordar completamente las
excepciones a los derechos de autor y la ley de contratos a través de contratos inteligentes), así como la dificultad de involucrar a todos los
actores tradicionales de la cadena de valor para que utilicen esta tecnología (véase el capítulo II. ' La blockchain comme outil technologique au
service du droit d'auteur, incertaine de utilización de une ').
En conclusión, el autor sostiene que blockchain puede ser una solución para brindar transparencia en la autoría y trazabilidad de las obras
digitales.
Sin embargo, las dificultades legales y la persistencia de los actores de la cadena de valor establecidos desafían su uso hoy en el contexto de
la gestión y aplicación de los derechos; esto, a su vez, hasta ahora ha tenido como resultado una recepción tibia por parte de los propios
autores (así como una tracción limitada para los servicios propuestos por las muchas empresas emergentes en este campo hasta ahora).
Como pasos siguientes, el documento recomienda abordar los obstáculos antes mencionados como las principales prioridades y desafíos
a superar.
Título de referencia: D. Billard, 'Evidencia forense ponderada utilizando blockchain' en Association for Computing Machinery ACM
International Conference Proceeding Series, 2018
Palabras clave: blockchain; Forense digital; evidencia digital; evidencia electrónica; tecnología; admisibilidad de la prueba legal; procedencia
de los datos
El artículo analiza la validez de las pruebas digitales en los tribunales. El estudio sugiere el uso del método de 'evidencia digital ponderada'
basado en blockchain para presentar evidencia digital al tribunal. Este método proporciona la evidencia con una calificación de confianza.
El artículo tiene como objetivo para agregar un cierto peso o una pizca confiable de certeza científica cuando se trata de pruebas digitales
en los tribunales.
En términos de metodología, el estudio propone una solución marco preliminar basada en blockchain desde una perspectiva teórica,
basada en trabajos previos en el campo.
112
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
El documento discute la metodología de evidencia forense ponderada que proporcionará a los investigadores forenses digitales
herramientas para recopilar y producir evidencia electrónica con métricas asociadas. Las pruebas electrónicas se entregarán a los tribunales
con un nivel de confianza expresado en métricas y se ordenarán a través de una línea de tiempo.
Este método de proporcionar la evidencia electrónica con la calificación de confianza asociada existe en tres partes:
La primera parte es la Inventario de evidencia digital (DEI), que se basa en una tecnología blockchain y contendrá la evidencia real. Este DEI
es inmutable y puede ser utilizado por todas las partes en un caso. Cada parte tiene acceso al mismo conocimiento sobre las evidencias
digitales. Contiene múltiples aspectos: La transacción, que es la propia evidencia, representada por un hash; un bloque, que está formado por
múltiples transacciones; y los mineros, que son los investigadores forenses digitales que trabajan en el mismo laboratorio u oficina.
La segunda parte es la Estructura del índice de confianza forense (FCR). Con el FCR, el profesional califica la evidencia electrónica,
basándose en una categorización de datos y su procedencia. Esta calificación está sujeta a modificaciones, dependiendo del desarrollo del
caso. La calificación se basa en nueve tipos de datos, cada uno con su calificación de confianza relacionada.
Ejemplos de algunos de estos tipos son: "Datos de servicio", que son los datos que transmite a un sitio de redes sociales para procesarlos. Se
crea automáticamente y tiene una alta calificación de confianza; “Datos divulgados”, que es lo que una persona publica en sus propias
páginas o redes sociales, para que todos puedan crearlos. Tiene una tasa de confianza más baja que los datos de servicio; y "Datos
incidentales", que es lo que otras personas publican sobre usted. Tiene un índice de confianza bajo, ya que las personas pueden mentir o
hacer suposiciones incorrectas.
La tercera parte es la Línea de tiempo digital global (GDT) para ordenar la evidencia a través del tiempo. Es importante que el médico
forense proporcione a los magistrados y abogados un cronograma compuesto por pruebas electrónicas.
En conclusión, el estudio afirma que la evidencia electrónica basada en blockchain que utiliza la calificación de confianza forense puede
funcionar como evidencia confiable en los tribunales.
Como próximos pasos, el artículo recomienda un ajuste más fino del protocolo blockchain, una herramienta semiautomatizada para la
construcción del GDT y una calificación de confianza más precisa al agregar probabilidades de error y relevancia.
3.3.5. Tecnología blockchain e IP: investigando los beneficios y la aceptación en los gobiernos y las legislaciones (Ref. No. 89)
Título de referencia: D. Van Aaken, F. Ahlemann, C. Bode, R. Brüh y otros, 'Junior Management Science El impacto de los diferenciales
fiscales en los ingresos antes de impuestos de las empresas multinacionales suizas La tecnología Blockchain y los beneficios de la
investigación de la propiedad intelectual y la aceptación en los gobiernos y las legislaciones, «Ciencias de la gestión junior, vol. 3, no. 1,
págs.1 a 15, 2018
Palabras clave: propiedad intelectual; patentar; derechos de autor; secreto comercial; publicación defensiva; innovación abierta; identidad;
aceptación
El papel analiza cómo la tecnología blockchain beneficia las estrategias de protección de la propiedad intelectual utilizadas en patentes,
derechos de autor, secreto comercial, publicación defensiva e innovación abierta. Además, propone ejemplos de casos de uso en la
protección de la propiedad intelectual e identifica el apoyo institucional necesario.
El artículo tiene como objetivo investigar cómo se puede incluir la tecnología blockchain en el proceso de innovación y aportar enormes
beneficios al sistema de patentes, así como a los derechos de autor, el secreto comercial, las publicaciones defensivas y la innovación
abierta.
En términos de metodología, los artículos presentan los diferentes aspectos en los que se puede utilizar esta aplicación blockchain, luego
explora el soporte institucional para la
113
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
tecnología necesaria para una implementación exitosa. Finalmente, los hallazgos se confirman mediante entrevistas con expertos y al
comparar la teoría con la experiencia práctica real.
El documento describe cómo la tecnología blockchain puede aportar beneficios al sistema de patentes, así como a los derechos de autor, el
secreto comercial, las publicaciones defensivas y la innovación abierta (aprovechando la naturaleza transparente y descentralizada de
blockchain). Sobre la publicación defensiva, se lanzó un nuevo proyecto, el “Proyecto Smart Defensive Publishing”, que propone la “creación
de un servicio de divulgación basado en la cadena de bloques bitcoin y el Sistema de Archivos Interplanetarios (IPFS).
Hasta la fecha, ningún país o estado ha emitido una legislación concreta que apoye el uso de blockchain para mejorar la gestión de los
derechos de autor. Se han organizado varias reuniones y talleres en torno al tema con el fin de abordar los temas que lo rodean. Esto muestra
que los gobiernos son al menos conscientes de la situación de los derechos de autor y, con suerte, este tipo de iniciativas acelerará el
proceso de desarrollo de legislaciones aprovechando los beneficios de la tecnología blockchain. También es una buena señal que un número
creciente de autoridades hayan comenzado a votar por legislaciones favorables, reconociendo la tecnología como un libro público válido.
Los hallazgos se probaron con ejemplos prácticos y casos de uso de Estonia, Delaware (EE. UU.), Suecia, Dubai, Rusia y otros. Esto, junto
con entrevistas con expertos en la materia, confirmó las declaraciones del autor.
En conclusión, el artículo establece que la tecnología blockchain permite entornos distribuidos, transparentes, rentables y resilientes abiertos
a todos y donde cada transacción es auditable. La tecnología blockchain podría ayudar a que los derechos de autor se apliquen de manera
más eficaz en el contexto de la digitalización y hacer que el sistema de patentes sea más eficiente y menos vulnerable al abuso. La tecnología
Blockchain puede ayudar a las empresas que deseen mantener en secreto los inventos, así como proporcionar una infraestructura confiable
para publicaciones defensivas.
Sin embargo, el impacto de blockchain en la innovación abierta sigue siendo muy teórico y necesita una mayor exploración. En particular, el
concepto de identidad en la cadena de bloques aún falta en la legislación, pero al mismo tiempo es un tema central para la propiedad
intelectual, la innovación y muchos otros campos y será un paso necesario para desbloquear nuevos casos de uso.
Como pasos siguientes, el documento recomienda impulsar la investigación para ir más allá sobre posibles mecanismos e
implementaciones para desbloquear el potencial de blockchain en la innovación abierta, en particular los aspectos legislativos (y técnicos) de
la identidad en blockchain. El artículo también recomienda estar atento a la progresión de la aceptación a medida que los casos de uso se
multiplican y las legislaciones evolucionan en los próximos años.
3.3.6. Hacia el uso de blockchain pública en redes centradas en la información: desafíos impuestos por el GDPR de la Unión Europea
(Ref. No. 90)
Título de referencia: D. Schmelz, G. Fischer, P. Niemeier, L. Zhu, T. Grechenig, 'Hacia el uso de blockchain público en redes centradas en la
información: desafíos impuestos por el Reglamento general de protección de datos de la Unión Europea', Actas de 2018 1st IEEE International
Conference on Hot Information-Centric Networking (HotICN 2018): 15-17 de agosto, Instituto de Ingenieros Eléctricos y Electrónicos. Sección
de Beijing, Beijing da xue. Escuela de Graduados de Shenzhen e Instituto de Ingenieros Eléctricos y Electrónicos, Shenzhen, Guangdong,
China, 2018
El artículo analiza los desafíos de mantener la privacidad de la información personal. Explica cómo blockchain permite nuevos enfoques para
resolver estos problemas de privacidad con sistemas distribuidos. Al mismo tiempo, el artículo plantea nuevas preocupaciones sobre su
apertura e inmutabilidad.
114
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
El artículo tiene como objetivo para identificar los desafíos relacionados con GDPR al implementar una solución blockchain.
En términos de metodología, el artículo comienza con las reglas establecidas en el GDPR y luego analiza los roles en las aplicaciones
blockchain y quién es responsable.
El documento describe la información que puede conducir a la identificación directa o indirecta de una persona física. Esta información, es
decir, las direcciones IP, se considera información personal. Por lo tanto, las transacciones de blockchain entre direcciones IP, ya no pueden
mencionar estas direcciones en la transacción enviada. Esto da como resultado la anonimización de direcciones, o aplicaciones relacionadas
con dinero (Bitcoin), anonimato para los compradores o vendedores. Este factor de anonimización en particular no es un atributo bien recibido
por los órganos de control y ciertamente no cumple con las leyes contra el blanqueo de capitales.
Debido a las características específicas de las soluciones blockchain, surgen problemas relacionados con el RGPD. Algunos de los problemas
que se mencionan a menudo: (1) En una red blockchain, una transacción no solo se distribuye entre aquellos que están involucrados en una
transacción, sino a todos los nodos. (2) El período de tiempo en el que se procesan los datos no está definido, por lo que no se eliminarán
después de cierto período de tiempo. (3) El derecho de rectificación tampoco es posible, ya que las transacciones no se pueden modificar una
vez transmitidas.
Se han propuesto soluciones para algunos de los problemas relacionados, sin embargo, plantean otros desafíos. Por ejemplo, se propone
almacenar únicamente hashes u otras derivaciones no invertibles del texto sin cifrar en la cadena y almacenar los datos privados reales fuera
de la cadena. Pero según el RGPD, el hash se considera una técnica de seudonimización y, por lo tanto, los datos privados con hash en la
cadena de bloques todavía se consideran datos privados.
En conclusión, La tecnología blockchain es capaz de implementar alta disponibilidad y transparencia a costa de la protección de datos.
Varios principios básicos del GDPR contradicen los fundamentos actuales de la tecnología blockchain.
Como próximos pasos, el artículo sugiere que dado que el GDPR solo ha sido efectivo por un corto tiempo, aún debe verse si el Tribunal
de Justicia de la Unión Europea decide si existe una base legal para el GDPR en una red blockchain como se implementa hoy. Se necesitan
más investigaciones para aclarar los requisitos impuestos por el RGPD en la cadena de bloques y encontrar técnicas para proteger los datos
personales.
Título de referencia: K. Hegadekatti, 'Sistemas legales e interacciones Blockchain', Archivo Personal RePEc de Munich (MPRA), 2017
El artículo analiza los desafíos y beneficios de simplificar los procedimientos legales mediante el uso de tecnología blockchain, como las
criptomonedas y los contratos inteligentes, en combinación con el Internet de las cosas (IoT).
El artículo tiene como objetivo al dar una opinión sobre el impacto del uso de tecnologías blockchain en los sistemas legales.
En términos de metodología, el artículo es un estudio descriptivo sobre el concepto de blockchain y criptomonedas en una imagen de los
servicios legales actuales. Se identifican las formas en que la tecnología blockchain se puede aplicar a los procesos legales y se evalúa el
impacto probable de blockchain en los sistemas legales.
El documento discute las características de las criptomonedas controladas y no reguladas. Las monedas no reguladas son las más
conocidas, como Bitcoin. Es una criptomoneda basada en pares que no está respaldada por ningún producto básico y no tiene garantía
soberana. El controlado es una criptomoneda altamente segura regulada y respaldada por el gobierno. También se les llama 'NationCoins'.
Otro uso de blockchain en la economía es un contrato inteligente. Un contrato inteligente es básicamente un paquete de software basado en
la tecnología blockchain que está codificado con condiciones definidas.
115
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
y resultados. Un contrato inteligente reúne cuatro cosas importantes: (1) escribe un proceso comercial o legal como un programa informático
(1), un evento particular lo activa para activar el procedimiento de pago que se realiza automáticamente mediante el uso de firmas digitales
para verifique quién envió los mensajes (3), y todo el paquete se configura en una cadena de bloques.
Por ejemplo, un contrato inteligente puede vincularse a una propiedad inteligente, por ejemplo, cuando una casa o un automóvil conocen
automáticamente a su nuevo propietario (Internet de las cosas). Luego, en la ejecución del contrato inteligente, se le asignará una marca de
tiempo y toda la red puede autenticar su legalidad.
Trabajar con tecnología blockchain en general, y específicamente con contratos inteligentes, tendrá un impacto en los servicios legales y la
aplicación de la ley. Algunos ejemplos de situaciones de impacto son:
Como próximos pasos, el artículo sugiere viendo las posibilidades de incluir blockchain en todo tipo de objetos como parte de la siguiente
etapa del IoT.
El artículo analiza los desafíos de usar evidencia digital basada en aplicaciones de blockchain, en los tribunales, y en paralelo el artículo
profundiza sobre las posibilidades de patentar una aplicación de blockchain.
El artículo tiene como objetivo para aclarar los desafíos cuando se utilizan pruebas digitales en los tribunales y para aclarar los desafíos
cuando se intenta proteger blockchain como propiedad intelectual.
En términos de metodología, Este artículo proporciona un análisis descriptivo de las monedas digitales y blockchain en general, luego de lo
cual especifica el uso de evidencia generada digitalmente y blockchain como evidencia. Finalmente, profundiza en la cuestión de si Bitcoin
puede clasificarse como propiedad intelectual y si existen patentes para adquirir blockchain.
El documento discute la admisibilidad de los datos de blockchain en los tribunales. Permitiría que las transacciones se mantuvieran y se
hicieran cumplir legalmente, dándoles así validez en la "vida real". El panorama general es que si los recibos de blockchain no pueden
funcionar como evidencia de una transacción con fines de litigio, son prácticamente inútiles, incluso si funciona.
Las pruebas presentadas en la sala del tribunal (por testigos y expertos) generalmente se prueban y protegen con varias herramientas de la
sala del tribunal, que incluyen: (1) el requisito de que todos los testigos juren bajo juramento; (2) la capacidad del jurado para evaluar la
credibilidad mediante la observación del comportamiento de un testigo; y (3) exposición a contrainterrogatorio por parte de la parte contraria.
Por lo tanto, para ser utilizada válidamente en los tribunales, las pruebas digitales deben poder someterse a los mismos controles.
116
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
Por ejemplo, una etiqueta de Google Earth se consideró intachable y no de oídas porque la afirmación relevante no la hizo una persona; lo
hace automáticamente el programa Google Earth. Para una autenticación adecuada de la evidencia, se requiere que la parte que presenta la
evidencia demuestre que una máquina es 'confiable y correctamente calibrada', y que los datos ingresados en la máquina son precisos.
Lo mismo ocurre con las tecnologías blockchain. Las transacciones de Bitcoin involucran la interacción entre personas, pero los registros de
cada transacción se generan sin influencia humana, se ingresan automáticamente a través de un algoritmo de actualización constante en
cada computadora en la red blockchain.
Así también aquí la afirmación relevante no la hace una persona, la hace automáticamente el programa.
La segunda parte del artículo se centra en la propiedad intelectual, donde las monedas digitales no se incluyen claramente en ninguna de las
categorías principales de patentes, derechos de autor, secretos comerciales o marcas comerciales. Lo único que podría acercarse es que una
clave privada de un propietario de Bitcoin puede considerarse un secreto comercial, al menos cuando los Bitcoins están en reposo con el
mismo propietario. La dificultad aquí es que, hasta ahora, la Oficina de Patentes de EE. UU. No ha otorgado ninguna patente a una aplicación
relacionada con blockchain.
En conclusión, el artículo establece que la evidencia digital basada en blockchain podría usarse en los tribunales ya que es generada por
una máquina / programa. En vista de la propiedad intelectual, las monedas digitales no se encuentran claramente dentro de ninguna de las
principales categorías de patentes y enfrentan algunos desafíos para ser protegidas como propiedad intelectual.
Como próximos pasos, el artículo prevé que esta nueva evidencia digital se utilizará en los tribunales. También espera que la tecnología
blockchain pueda reclamarse como propiedad intelectual, pero el tiempo dirá cómo se hará exactamente.
3.3.9. Los derechos de autor en la era de las cadenas de bloques, promesas y desafíos (Ref. No. 93)
Título de referencia: A. Savelyev, 'Derechos de autor en las promesas y desafíos de la era blockchain',
Escuela Superior de Economía de la Universidad Nacional de Investigación, Moscú, Rusia, 2017
Palabras clave: blockchain; derechos de autor, contratos inteligentes, criptomonedas, contenido digital
El artículo analiza los desafíos existentes para la distribución de obras con derechos de autor en el entorno digital, cómo estos desafíos se
pueden resolver con el uso de blockchain y qué problemas asociados deben abordarse a este respecto.
El artículo tiene como objetivo para aclarar los desafíos al usar blockchain para proteger el trabajo protegido por derechos de autor.
En términos de metodología, El artículo describe la tecnología blockchain en general y muestra los problemas centrales de la ley de
derechos de autor en el entorno digital. A esto le sigue una explicación más enfocada sobre cómo blockchain puede resolver estos problemas
y los desafíos relacionados que esta solución puede traer.
El documento discute que la ley de derechos de autor en el mundo digital adolece de problemas relacionados con la transparencia, la
piratería y la compensación justa. El problema es que la información sobre los propietarios de los derechos de autor se encuentra dispersa en
varias bases de datos y es propiedad de diferentes empresas, algunas de las cuales ni siquiera tienen los incentivos para compartirla. En esta
era de la tecnología, ya no existen barreras naturales que impidan la copia. La situación actual también plantea dificultades a los autores para
obtener una compensación justa. Es muy difícil encontrar casos de piratería e incluso presentar cargos legales en su contra, pero también
tener un sistema justo con intermediarios.
La tecnología blockchain puede ser una solución para estos problemas al proporcionar información transparente sobre la propiedad de los
derechos de autor. Con el uso de Trusted Timestamping, que permite a los interesados conocer sin lugar a dudas la creación de un
documento en particular. Este proceso funcionaría de la siguiente manera: cada transacción con un trabajo protegido por derechos de autor
creará un hash de ese trabajo que se incluirá en la transacción. Luego, esta transacción se marca de tiempo y el contenido se codifica en una
cadena de bloques. Por el momento hay algunos
117
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
alternativas en el mercado para este procedimiento. Una tecnología que no es de cadena de bloques como 'ContentID' puede proporcionar la
misma función de marca de tiempo. Sin embargo, una solución de cadena de bloques puede proporcionar control sobre las copias digitales.
Puede individualizar cada copia digital. También puede proporcionar pagos automatizados con el uso de contratos inteligentes en
combinación con una criptomoneda. Finalmente, blockchain puede proporcionar licencias simplificadas.
Estas soluciones de blockchain todavía presentan algunos desafíos. Por ejemplo: ¿se almacenará el trabajo protegido por derechos de autor
en la cadena de bloques, ya que aumentará enormemente los datos en la cadena de bloques o en otro lugar (fuera de la cadena)? Por otro
lado, existirá el problema de mantener el trabajo protegido por derechos de autor vinculado a la cadena de bloques si se almacena fuera de la
cadena. Los registros sobre la propiedad de los derechos de autor pueden cambiar potencialmente. Otro problema desde la perspectiva legal
puede ser la inmutabilidad de una cadena de bloques. Después de una decisión judicial, es posible que algo en la cadena de bloques deba
cambiarse. Para esta situación, se sugiere introducir un 'Superusuario' en la cadena de bloques para las autoridades gubernamentales.
En conclusión, blockchain puede ser una solución en algunos problemas de derechos de autor mediante un sello de tiempo y contratos
inteligentes con pagos directos. Si el contenido se guardará dentro o fuera de la cadena, sigue siendo una pregunta que aún no se ha
respondido.
Como próximos pasos, el artículo recomienda que además del trabajo relacionado con los derechos de autor, esta aplicación se puede
utilizar en los campos de certificación y administración donde los documentos tienen que pasar diferentes autoridades.
Título de referencia: P. De Filippi y M. Reymond, ' La Blockchain: comentario réguler sans autorité ', Nitot, T. (dir.) Y Cercy N. Numérique:
reprendre le contrôle: Framabook. 2016,
pags. 81-96
Palabras clave: blockchain, derecho al olvido (RTBF), protección de datos, autoridad centralizada y descentralizada
Esta referencia es un capítulo de un libro que está dedicado al derecho al olvido (RTBF). “El derecho al olvido, más acertadamente designado
como derecho de exclusión, es una herramienta de la ley europea de protección de datos dirigida a oponer a los operadores presentes en la
red la soberanía que las personas físicas tienen sobre sus datos personales. El texto explora la interfaz entre este desarrollo legal y la
tecnología blockchain, que por el contrario tiende a la permanencia de los datos ”. 316
El texto explora la interfaz entre este desarrollo legal y la tecnología blockchain, que tiende, por el contrario, a la permanencia de los datos.
El documento tiene como objetivo sugieren un enfoque para regular la cadena de bloques sin una autoridad centralizada.
En términos de metodología, El documento primero propone algunas definiciones de términos como 'derecho al olvido' y 'blockchain' y
continúa discutiendo la interacción entre estos dos, así como la aplicación del derecho al olvido a usos de blockchain distintos del bitcoin. . Al
final, el documento explica los problemas que surgen del ejercicio del RTBF en la cadena de bloques.
En particular, los autores describen la cuestión de la responsabilidad de la implementación de la solicitud de un individuo para agregar,
eliminar o modificar sus datos personales en un
118
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
Red descentralizada o medio descentralizada, como la red blockchain. También describe la cuestión de la responsabilidad por incumplimiento
del RTBF en ausencia de un intermediario con dicha autoridad. Se menciona que a primera vista, dado que nadie tiene el poder de eliminar
datos unilateralmente de una cadena de bloques, nadie puede ser considerado responsable por la no eliminación de cierta información. Sin
embargo, los autores argumentan que es bastante simplista resumir los vínculos entre blockchain y RTBF. Dan un ejemplo de la posibilidad
de eliminar ciertos datos de una cadena de bloques mediante acción coordinada / protocolo de consenso descentralizado, lo que permitirá
tomar una decisión sobre qué transacción conservar y cuál eliminar, mientras que esto implica claramente cambiar el estado actual del
blockchain. Se argumenta que esta técnica se puede aplicar a la eliminación de contenido ilegal (contenido con derechos de autor, discurso
de odio o pornografía infantil) de una cadena de bloques pública. Si hay consenso sobre el hecho de que algunos de ellos son inapropiados
para la plataforma, es técnicamente posible eliminarlos de la cadena de bloques. Sin embargo, el ejemplo ilustrativo de la plataforma
Ethereum muestra que incluso si hubiera un amplio consenso en torno a una modificación de la cadena de bloques, una pequeña minoría que
rechaza la modificación es suficiente para mantener una versión no modificada de la cadena de bloques.
En conclusión, la referencia señala que es encontrar el consenso dentro de una red descentralizada que plantea el principal desafío. Sin
embargo, a veces no hacerlo tiene consecuencias no deseadas desde un punto de vista técnico. Los ciudadanos europeos pueden invocar
legítimamente el RTBF, si se almacenan enlaces de este tipo en una cadena de bloques en el caso de información inexacta, inadecuada o
excesiva. En este caso específico, la única posibilidad de modificar o eliminar los datos infractores implica el acuerdo y la acción coordinada
de todos los nodos activos de una cadena de bloques para realizar las modificaciones necesarias de manera consistente.
3.3.11. Blockchain: Plan para una nueva economía (Ref. No. 95)
Título de referencia: M. Swan, ' Blockchain 3.0: Blockchain, modelo para una nueva economía ', O'Reilly, 2015.
El artículo analiza aplicaciones de justicia de blockchain más allá de la moneda, la economía y los mercados. Propone una descripción
general de las aplicaciones y casos de uso de blockchain, como la identidad digital, la protección del arte digital y la democracia digital.
El artículo tiene como objetivo para demostrar las posibilidades de la cadena de bloques de nueva generación.
En términos de metodología, el artículo describe los casos de uso de las generaciones anteriores de blockchain. Posteriormente, propone
casos de uso de la blockchain de nueva generación en el ámbito de la justicia.
El documento discute la evolución de diferentes generaciones de blockchain. Comenzando con la primera generación de blockchain,
también llamada 'blockchain 1.0', que es más conocida por sus criptomonedas. Luego llegó la 'blockchain 2.0' de próxima generación e
introdujo el uso de contratos inteligentes. La generación más nueva de blockchain, 'blockchain 3.0' tiene el potencial, como registro
descentralizado mundial, para el registro, inventario y transferencia de todos los activos. Esto incluye no solo las finanzas, sino también la
propiedad y los activos intangibles como votos, software, datos de salud e ideas.
Las posibilidades de esta blockchain de nueva generación encontrarán su camino en nuestro día a día, tal vez sin ni siquiera darnos cuenta.
El artículo propone algunos casos de uso para la aplicación de esta blockchain de nueva generación. Por ejemplo, podría ayudar a rastrear
cambios y contribuciones a las versiones actualizadas de un sistema. Incluso el cambio más pequeño se puede evaluar y atribuir de forma
automatizada. En el mundo de Internet, que tiene un carácter muy internacional, el 'Namecoin' podría ser una alternativa al tradicional Sistema
de Nombres Digitales (DNS) que verifica los nombres en los espacios web. No estaría controlado por ningún gobierno, mientras que los
nombres de dominio actuales (.com, .eu, .be, etc.) están controlados por los gobiernos. Este 'Namecoin' podría ser una contribución a la
libertad de expresión en la lucha contra
119
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
censura. Por otro lado, este servicio de verificación de DNS anónimo puede llevar a malos jugadores e ilegalidad.
En el campo de identificación y pasaportes, una solución blockchain puede actuar como repositorio digital para verificar la identidad, con
aplicaciones como OneName o BitID. En relación con esto, sería posible mantener un almacenamiento de registros de salud personal basado
en blockchain, incluido el acceso a los propios datos genómicos de forma segura.
En los campos relacionados con la propiedad, los actos notariales y los contratos se pueden crear a través de una solución blockchain y esta
podría ser una forma de facilitar la forma de proteger la propiedad intelectual y el arte creado digitalmente. Los conceptos clave de la solución
blockchain serían el hash y la marca de tiempo de los trabajos y transacciones; junto con una prueba de existencia del mismo.
Los procedimientos electorales posiblemente podrían beneficiarse del uso de blockchain. Puede comenzar con el uso de elecciones de
muestra aleatoria, en el área de democracia delegativa. O se puede utilizar como una aplicación como 'Futarchy', una democracia de dos
pasos en la que las personas pueden votar, por un lado, por un resultado específico al que aspirar y, por otro, sobre el enfoque para alcanzar
ese resultado.
En conclusión, la cadena de bloques de próxima generación tiene posibilidades más allá de las monedas conocidas y los contratos
inteligentes para ser utilizada en todo tipo de sectores, incluido el campo de la justicia.
Como próximos pasos, el artículo recomienda que la tecnología blockchain es lo suficientemente rica como para convertirse en parte del conjunto
de herramientas y la lengua vernácula intelectual estándar.
3.3.12. CRAB: Sistema de gestión de antecedentes penales basado en blockchain (Ref. No. 96)
Título de referencia: MA Tasnim et al., ' CRAB: Sistema de gestión de antecedentes penales basado en Blockchain ', Conferencia
Internacional sobre Seguridad, Privacidad y Anonimato en Computación, Comunicación y Almacenamiento, págs. 294-303, 2018.
El artículo analiza el uso de blockchain para almacenar antecedentes penales, a fin de garantizar la integridad y la seguridad.
El artículo tiene como objetivo para demostrar una forma más segura de almacenar antecedentes penales.
El periódico explica que Los antecedentes penales son registros públicos muy sensibles. Al incorporar antecedentes penales en una cadena
de bloques, se puede mantener la autenticidad y rigidez de los registros, lo que también ayuda a mantener los datos a salvo de los
adversarios. La red de nube peer-to-peer permite la descentralización de datos y ayuda a prevenir cambios ilegales en los datos.
El sistema de almacenamiento de antecedentes penales sugiere implementar la tecnología blockchain para almacenar datos, lo que ayuda a
lograr integridad y seguridad. El sistema presenta formas en las que la autoridad puede mantener los registros de los delincuentes de manera
eficiente. Las autoridades (por ejemplo, agencias de aplicación de la ley y tribunales) podrán agregar y acceder a datos criminales. Los
usuarios generales (por ejemplo, organizaciones y / o personas seleccionadas, aeropuertos, centros de solicitud de visados, etc.) tendrán
acceso a los datos para que puedan buscar antecedentes penales. El acceso adecuado y oportuno a los antecedentes penales auténticos es
esencial para hacer cumplir la ley. El efecto de la corrupción entre las fuerzas del orden público también disminuirá, ya que esto eliminará un
área completa de corrupción al eliminar cualquier posibilidad de alteración de los datos de antecedentes penales mediante una rendición de
cuentas exhaustiva.
La inclusión de la aplicación CRAB para la creación del hash tiene como objetivo crear un cifrado rápido. Este cifrado es una forma encriptada
de guardar los datos confidenciales.
120
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
En conclusión, al incorporar antecedentes penales en una cadena de bloques, se puede mantener la autenticidad y rigidez de los registros;
lo que también ayuda a mantener los datos a salvo de los adversarios.
Como próximos pasos, el artículo recomienda para profundizar la investigación sobre este tema para que eventualmente pueda traer una
implementación a gran escala en una ciudad o país.
3.3.13. Análisis de la implementación de la tecnología blockchain al sistema de información de antecedentes penales argentino
(Ref. No. 97)
Título de referencia: Alejandro Tomás Dini et al., ' Análisis de la implementación de la tecnología blockchain al sistema de información de
antecedentes penales argentino ', 2018 Congreso Argentino de Ciencias de la Informática y Desarrollos de Investigación (CACIDI), 2018.
Palabras clave: Blockchain, Argentina, antecedentes penales, sistema de información, blockchain descentralizado, autorizado.
Almacenamiento de datos, datos sensibles, criptografía.
El papel analiza la posibilidad de utilizar una implementación de blockchain autorizada para almacenar datos criminales de forma cifrada.
El papel tiene como objetivo proporcionar información sobre la funcionalidad actual del RNR argentino (Registro Nacional de Reincidencia)
y presentar los beneficios de utilizar una implementación de blockchain autorizada.
En términos de metodología, el documento utiliza un enfoque cualitativo al presentar un caso en el que los beneficios de blockchain podrían
ser aplicables al RNR, lo que hace que los procesos sean más fáciles y rápidos.
El documento discute la dificultad de la forma actual de solicitar y recibir un certificado de antecedentes penales. Dependiendo del caso,
esto podría llevar una cantidad significativa de tiempo para el individuo. Por lo tanto, el documento introduce la noción de usar una cadena de
bloques autorizada. En total, los autores señalan los siguientes puntos débiles: centralización de la información, desperdicio de recursos,
consumo de tiempo y desperdicio. Aunque el documento plantea los puntos que requieren atención sobre blockchain como un nuevo
paradigma de tecnología, enfatiza los beneficios que podría traer para RNR. Entre otros, el documento ilustra que la descentralización es una
de las principales características de blockchain. Potencialmente, podría poner información de antecedentes penales en nodos conectados,
facilitando el acceso al personal autorizado y, potencialmente, a las personas que lo soliciten. La noción de consenso explica el proceso de
aceptación común sobre la veracidad de la información. Además, como escribe el documento, la disponibilidad de la información podría
potencialmente utilizarse para la generación de información estadística para ayudar a mejorar el sistema judicial.
En conclusión, el documento ilustra brevemente la necesidad de invertir en nuevas tecnologías, especialmente en blockchain. Enfatiza que,
como un martillo, blockchain podría tener muchos usos y, como tal, debe ser tratado con responsabilidad.
Como próximos pasos, el papel deja espacio para que el lector las contemple.
Título de referencia: Yv. Poullet y H. Jacquemin ». Blockchain: une révolution pour le droit ', Journal Tribunaux, 137, 36 - No 6748, págs. 801 -
819, 10 de noviembre de 2018
Palabras clave: blockchain, confianza, libro mayor distribuido (tecnología) (DLT), cifrado / criptografía asimétrica, proceso de validación,
casos de uso, contratos inteligentes, protección de datos, GDPR, fideicomisario de terceros
El artículo tiene como objetivo responder si la tecnología blockchain es 'revolucionaria' para la ley, mediante el análisis de las múltiples
implicaciones legales que desencadena en diferentes dominios legales.
121
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
En términos de metodología, los autores analizan, por un lado, las implicaciones legales, que son horizontales para todos los campos del
derecho, y por otro, las implicaciones específicas más comunes, es decir, las criptomonedas y contratos inteligentes.
El documento discute los tres elementos principales de la tecnología blockchain: (1) un registro de igual a igual, basado en (2) un criptografía
asimétrica sistema y (3) en un proceso de validacion. Demuestra cómo sus usuarios generan confianza en él, en ausencia de un organismo
central / intermediario para garantizar una evolución confiable, segura y transparente del registro distribuido. 317. Esta confianza se basa
primero en un cifrado asimétrico 318, cual
garantiza la integridad y autenticidad del mensaje de la transacción y, en segundo lugar, en un proceso de validación por parte de los actores
de la red de la identidad del remitente y su capacidad para realizar la transacción. Además, el artículo aclara la diferencia entre blockchains
públicas y privadas. El documento también describe varios casos de uso de blockchain en diferentes sectores. 319. Además, los autores
comentan sobre una serie de implicaciones legales horizontales de las tres funciones principales de blockchain: servir como registro de datos,
transferir criptomonedas y ejecutar operaciones automáticas a través de contratos inteligentes. Por ejemplo, el artículo cuestiona la posibilidad
de que cualquier tipo de derecho de propiedad intelectual, ya sea una patente, un derecho de autor, un secreto comercial o un derecho sobre
una base de datos, se proteja o se aplique a blockchain. La misma pregunta se aplica a la aplicabilidad de las normas de protección de datos
a todos los datos personales, que están seudonimizados. El artículo va más allá para discutir temas específicos relacionados con el sector
financiero (bitcoins) y los contratos inteligentes y las implicaciones de estos últimos en las diferentes etapas de la vida del contrato (su firma,
ejecución y cláusulas de no ejecución).
En conclusión, Los autores subrayan en primer lugar que la "confianza" es el leitmotiv tanto de la intervención de la ley como de su no
intervención en el dominio blockchain. La ausencia de una respuesta adecuada sobre la responsabilidad legal de los múltiples actores de
blockchain es un serio obstáculo para la confianza de los usuarios.
Como camino a seguir, el artículo avala la Evaluación Técnica realizada por la STOA 320 solicitado por el Parlamento Europeo. Esto muestra
que los legisladores deben dar un paso atrás para analizar a través de un enfoque multidisciplinario la tecnología, sus aplicaciones, impacto
social, actores y soluciones previsibles. Tal evaluación, si es posible a nivel europeo, es el camino hacia la evolución y no la revolución de la
ley o las leyes, que necesitan blockchain.
Título de referencia: C. Sullivan y E. Burger, 'E-residencia y blockchain', Revista de seguridad y derecho informático, vol. 33, no. 4,
págs.470-481, 1-8-2017
Palabras clave: blockchain; e-Residencia; conozca a su cliente (KYC); protección de Datos; identidad digital; derecho a la identidad
El artículo analiza el desarrollo de blockchain en e-Residency relacionado con los servicios notariales y examina las implicaciones legales,
políticas y técnicas de este desarrollo.
El artículo tiene como objetivo explorar las características clave de e-Residency en el contexto de la aplicación de blockchain a la
autenticación de identidad y sus implicaciones desde una perspectiva multidisciplinar.
En términos de metodología, Este documento comienza con las preguntas "¿Qué es la residencia electrónica en Estonia?" y "¿Cuál es la
autenticación de identidad?". Luego examina las implicaciones del uso de blockchain en e-Residence con sus implicaciones de seguridad, las
implicaciones de la regulación de protección de datos y el derecho a la identidad según el derecho internacional.
122
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo I: Lista de referencias
El documento discute las posibilidades de un e-ID en la plataforma e-Residence. En 2014, Estonia abrió la posibilidad de solicitar una
residencia electrónica basada en la plataforma X-Road. Esta identificación electrónica se proporciona a los residentes electrónicos sin el
objetivo de otorgar la ciudadanía o un documento de viaje. Por lo tanto, puede ser solicitado por cualquier persona en el mundo y no se limita
estrictamente a la población de Estonia únicamente.
La identificación electrónica emitida a los residentes electrónicos de Estonia permite actividades comerciales remotas, incluido el registro de
empresas y negocios, la apertura de cuentas bancarias y transferencias de fondos, la compra y venta de bienes raíces y otras propiedades,
así como el comercio de bienes y servicios.
Como siguiente nivel, el gobierno de Estonia ahora se está asociando con Bitnation (Suiza) para ofrecer un servicio de notario público a los
e-Residentes de Estonia basado en la tecnología blockchain. Uno de los objetivos es poder brindar un servicio de autenticación universal con
tecnología blockchain.
La autenticación de identidad comienza de la siguiente manera: un solicitante de residencia electrónica presenta la solicitud en línea y se le pide
que proporcione sus huellas dactilares en un punto de recolección designado (por ejemplo, la Embajada de EE. UU.), Así como una copia de su
documento de identidad nacional. En este punto, el solicitante recibirá una tarjeta de identificación de residente electrónica. La idea es que con
el uso de e-Residence, ya no es necesario realizar una entrevista cara a cara y producir una variedad de documentos originales.
Sin embargo, se producen falsificaciones de identidades de residencia electrónica. En la lucha contra las falsificaciones, se ha introducido la
solución blockchain de Bitnations. Esta tecnología tiene como objetivo proporcionar un nuevo sistema para garantizar la integridad de la
identidad fuera de las estructuras gubernamentales. Incluyendo el uso de libros de contabilidad distribuidos y claves público-privadas para que
los datos estén mejor controlados y protegidos.
Existe la necesidad de garantizar, basándose en una raíz confiable, que no es fácil falsificar certificados emitidos. Un enfoque de blockchain
elimina este problema de confianza porque distribuye el libro mayor entre cientos o miles de servidores bajo diversos controles
administrativos.
La aplicación e-Residence es utilizada por personas de todo el mundo y debe estar en línea con el GDPR para los ciudadanos de la UE, pero
no es aplicable a todos los usuarios. Existen, por ejemplo, diferencias en la regulación de datos privados entre las normativas europeas y
australianas, donde se puede aplicar la más estricta.
En conclusión, En el entorno del mercado global, donde no se puede confiar en nadie, es un desafío configurar una solución de e-Residence
confiable. Las aplicaciones blockchain pueden ser de ayuda por sus características, pero aún así debe haber una raíz confiable para los
certificados, identidades y documentos.
Como próximos pasos, el artículo recomienda más actividades para los protocolos de código abierto que se incorporan al mercado global.
123
ESTUDIO SOBRE EL USO DE TECNOLOGÍAS
INNOVADORAS EN EL ÁMBITO DE LA JUSTICIA
UNA NNEX II: E PROYECTOS XPLORADOS Y CASOS DE USO DEL METRO ASCUA
S TATES ' AUTORIDADES
Septiembre de 2020
Este Informe ha sido preparado por TRASYS International, parte del Grupo NRB, en el marco del Contrato Marco ABC IV- Lote 3, para la DG
JUSTICIA y CONSUMIDORES.
Gerente de proyecto: Dijana SPASOJEVIC, Responsable de Consultoría Comercial (Correo electrónico: dijana.spasojevic@nrb.be
; Tel: 0032 478 490 240)
Informe elaborado por: Miglena VUCHEVA, Margarida ROCHA, Robrecht RENARD, Dimitrios STASINOPOULOS
Descargo de responsabilidad: La información y las opiniones expuestas en este informe son las del autor o autores y no reflejan
necesariamente la opinión oficial de la Comisión Europea. Cualquier persona que actúe en nombre de la Comisión puede ser considerada
responsable del uso que pueda hacerse de la información aquí contenida.
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Contenido
1. INTRODUCCIÓN................................................. .................................................. ... 6
FI, NOMBRE DEL PROYECTO: SERVICIO CHATBOT PARA SITUACIONES DE DIVORCIO / SEPARACIÓN ......... 9
DE, NOMBRE DEL PROYECTO: USO DE TECNOLOGÍA BLOCKCHAIN EN EL ÁREA DE LA BASE DE DATOS DE REGISTRO
DE TIERRAS ................................. .................................................. ........ 10
DE, NOMBRE DEL PROYECTO: POTENCIALES DE BLOCKCHAIN EN RELACIÓN CON UN REGISTRO DE VALIDEZ
ELECTRÓNICA ..................................... .................................................. ...... 11
IE, NOMBRE DEL PROYECTO: RECONOCIMIENTO AUTOMÁTICO DE PLACA DE NÚMERO (ANPR) ..................... 12
PT, NOMBRE DEL PROYECTO: IRENE - ASISTENTE PERSONAL WEB ........................................ . dieciséis
PT, NOMBRE DEL PROYECTO: BUPI (BALCÃO ÚNICO DO PRÉDIO) LAB AI PUNTO DE REFERENCIA ÚNICO PARA CIUDADANOS -
SISTEMA DE INFORMACIÓN CATASTRAL SIMPLIFICADO ........................... ......... 18
SI, NOMBRE DEL PROYECTO: COVL - DEPARTAMENTO CENTRAL DE CUMPLIMIENTO SOBRE LA BASE
DE DOCUMENTOS AUTÉNTICOS ............................................... .................................. 19
SE, NOMBRE DEL PROYECTO: CONTRATOS INTELIGENTES PARA REGISTRO DE TIERRAS .............................. 26
AT, NOMBRE DEL PROYECTO: ANONIMIZACIÓN DE LAS DECISIONES DEL TRIBUNAL ................................... 30
DK, NOMBRE DEL PROYECTO: EXPLORANDO EL USO DE LA TECNOLOGÍA DE RECONOCIMIENTO FACIAL PARA LA IDENTIFICACIÓN DE
VÍCTIMAS EN MATERIAL DE ABUSO SEXUAL INFANTIL .............................. .... 35
EE, NOMBRE DEL PROYECTO: TRANSCRIPCIÓN AUTOMÁTICA DE LAS ACTAS DEL TRIBUNAL .................... 38
FR, NOMBRE DEL PROYECTO: PSEUDONIMIZACIÓN DE LAS DECISIONES DEL TRIBUNAL IMPULSADA POR LA IA ... 42
DE, NOMBRE DEL PROYECTO: PROYECTO DE INVESTIGACIÓN DE LUCHA CONTRA LA PORNOGRAFÍA INFANTIL ................ 43
DE, NOMBRE DEL PROYECTO: IDENTIFICACIÓN DEL DELITO DE ODIO EN LAS REDES SOCIALES ................. 44
DE, NOMBRE DEL PROYECTO: FUTURO SALA DE CORTE PENAL ......................................... .... 45
DE, NOMBRE DEL PROYECTO: COMPONENTE DE ANÁLISIS DE REGISTRO DE TIERRAS EN EL PROYECTO “DESARROLLO DE UNA
BASE DE DATOS DE REGISTRO DE TIERRAS FEDERAL” ............................. ........ 45
IE, NOMBRE DEL PROYECTO: EVALUAR EL POTENCIAL DE LAS TECNOLOGÍAS DE COMBINACIÓN FACIAL
COMO AYUDA AL PROCESO DE RECOPILACIÓN DE INTELIGENCIA ... 48
IT, NOMBRE DEL PROYECTO: JUSTICIA PREDICTIVA: UNA BASE DE DATOS PARA PROPORCIONAR DIRECTRICES Y TIEMPOS
PREVISIBLES EN ÁREAS PARTICULARES ............................... .................... 50
IT, NOMBRE DEL PROYECTO: INVESTIGACIÓN DENTRO DEL PROYECTO "LA CIUDAD DE LA JUSTICIA SIMPLE:
SIMPLIFICACIÓN Y REDUCCIÓN DE CARGAS ADMINISTRATIVAS EN EL CONTEXTO
DE RESOLUCIÓN DE CONTROVERSIAS CIVILES ”............................................. .............................. 51
IT, NOMBRE DEL PROYECTO: AUT DEDERE AUT JUDICARE .............................................. ....... 54
LT, NOMBRE DEL PROYECTO: ANÁLISIS DE RED, TEXTO Y ALTAVOCES EN TIEMPO REAL PARA COMBATIR LA
DELINCUENCIA ORGANIZADA - ROXANNE .............................. ........................... 58
LU, NOMBRE DEL PROYECTO: ANONIMIZACIÓN DEL DERECHO DE CASO ......................................... ...... 59
NL, NOMBRE DEL PROYECTO: PROYECTO PILOTO DE IDENTIDAD DIGITAL DE VIAJEROS CONOCIDOS (KTDI) ... 64 PT, NOMBRE DEL
SI, NOMBRE DEL PROYECTO: DEVOLUCIÓN DE LOS DATOS DEL SERVICIO RECONOCIMIENTO DE ESCRITURA A MANO ............... 67
SE, NOMBRE DEL PROYECTO: HERRAMIENTA PARA ELEGIR NOMBRES DE EMPRESAS ................................... 72
SE, NOMBRE DEL PROYECTO: ANONIMIZACIÓN DE LAS DECISIONES DEL TRIBUNAL ................................... 75
5
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
1. Introducción
Este documento describe proyectos completados y en curso en los Estados miembros que utilizan tecnologías innovadoras en el campo de la
justicia.
De un total de 93 proyectos, 25 están terminados, 55 están en curso, 12 están previstos y uno ha sido suspendido. Los proyectos que se
completan están marcados en verde 321, mientras que los que están en curso están marcados en azul 322. Los proyectos planificados y
suspendidos no se incluyen en este documento, mientras que en la Sección 6.3 se ofrece una descripción general de todos los proyectos. del
Informe final.
DESCARGO DE RESPONSABILIDAD: Algunas de las respuestas incluidas tenían contenido en un idioma distinto del inglés. Para que todo
el documento sea comprensible, estas respuestas se han traducido al inglés del texto original. Las traducciones son sugerencia del contratista
y, por lo tanto, no son oficiales. Son solo para fines indicativos. Las partes traducidas están marcadas con un asterisco (*).
2. Proyectos terminados
AUSTRIA
Perfil breve
Tipo de tecnología AI: Aprendizaje automático / Aprendizaje profundo; Procesamiento del lenguaje natural
(NLP)
El Ministerio Federal identificó dos áreas de uso para las tecnologías de IA: la primera, donde la IA realiza funciones de apoyo y los
humanos retienen el poder de toma de decisiones (que se aplica a la mayoría de los casos de uso del Ministerio Federal) y la segunda,
donde la responsabilidad reside en la IA. (por ejemplo, conducción autónoma). Para la segunda área del uso de la IA, el Ministerio
Federal cree que es necesario un nuevo marco legal.
En este contexto, el proyecto fue el primer contacto del Ministerio Federal con la tecnología de IA. El problema empresarial es que el
Ministerio recibe una gran cantidad de documentos de varios canales de comunicación, todos los cuales deben ser procesados,
categorizados y
6
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
distribuido a diferentes departamentos. Varios documentos entrantes no pertenecen a una categoría específica y, posteriormente, entran
en la categoría "Otros".
La herramienta realiza una asignación y procesamiento totalmente automatizados de los documentos entrantes desde canales
electrónicos y / o documentos escaneados.
Desarrollo a la medida
Descripción de la solución:
La herramienta extrae metadatos y puede identificar números de casos con PNL, categorizar documentos y dar títulos de categorías
adicionales a los que normalmente se encuentran en la categoría "Otros" para garantizar un mejor seguimiento. La herramienta reconoce
el tipo de trámite al que pertenece un expediente y lo asigna al trámite específico.
Camino a seguir:
N/A
CROACIA
Perfil breve
Área de justicia: Justicia civil; Justicia Administrativa; Justicia penal; Ley de Competencia
La generación de documentos, es decir, las actas de las reuniones y las decisiones de los tribunales y las fiscalías estatales, requiere
tiempo y esfuerzo, ya que alguien tiene que escribirlos manualmente. Con la ayuda de esta herramienta Speech-To-Text, los procesos
comerciales de los tribunales y las oficinas de los fiscales estatales pueden automatizarse y acelerarse mediante la generación de actas
de audiencia, decisiones judiciales y acusaciones.
El núcleo de la herramienta (el algoritmo) se basa en una solución existente (basada en el proveedor: Newton Technology Adria (NTA)),
que luego se personaliza para el vocabulario y el uso del idioma croata, junto con solicitudes especiales del sector judicial.
Descripción de la solución:
7
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
La solución está capacitada para transcribir voz en un documento de texto. Se puede utilizar en una variedad de contextos, como la
transcripción de las actas de una reunión o la grabación de una decisión judicial durante la reunión. La herramienta también se puede
utilizar para dictar como un medio para crear automáticamente un correo electrónico o un documento de texto. Se debe instalar un equipo
especial y una licencia en una computadora antes de poder usarla. Este equipo (se han comprado 800 unidades en total) es
proporcionado por el Ministerio de Justicia a todas las oficinas. La herramienta ha demostrado una tasa de precisión del 99% y aún está
mejorando.
Camino a seguir:
Se piensa en ampliar la herramienta para su uso en otros sectores y funciones, como audiencias y entrevistas policiales. También existe
la idea de que el servicio esté disponible como servicio en la nube, pero aún no se han tomado acciones específicas al respecto.
FINLANDIA
Estado del proyecto: Completado / En producción (POC completado en septiembre de 2019), proyecto completado en enero de 2020
Perfil breve
Título del proyecto: Sakkomaksujen kohdamisen automatisoint / Robot Process Automation (RPA)
El Ministerio de Justicia identificó siete procesos comerciales en el área de aplicación de multas, que podrían automatizarse con un robot,
y finalmente decidió optar por tres: reembolsos no reclamados, pagos sin número de referencia y pagos no asignados. Identificaron una
serie de problemas comerciales, como que el pagador no proporcionara el número de referencia de la multa en la orden de pago. Este
tipo de omisiones dificulta la vinculación del pago con la sanción (el Ministerio tiene alrededor de 12.000 casos como este al año). Esto
también es importante en casos de sobrepago, doble pago o pago incorrecto de multas. Es posible que se haya realizado el pago, pero la
sanción podría faltar en el sistema. El robot resuelve estos problemas comerciales. Se ha estimado que el robot podría ahorrar
aproximadamente de dos a tres personas-año y
En este contexto, el Ministerio decidió reemplazar las tareas manuales repetitivas con un robot automatizado. La RPA se utiliza
actualmente en el ámbito de la aplicación de multas con varios fines: (1) realizar consultas por correo electrónico a los bancos y al Centro
de Población de Finlandia; (2) revisar datos y detectar casos de sobrepago erróneo para facilitar los reembolsos; y (3) reasignar los pagos
en exceso no cobrados (300 a 700 casos cada año).
8
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Descripción de la solución:
En cuanto al proceso, lo que hace el robot es recopilar información del sistema de destino (por ejemplo, el sistema interno del
departamento de multas del Ministerio de Justicia). Luego envía un correo electrónico a un banco específico, y cuando recibe un correo
electrónico de autorización del banco, envía una solicitud al sistema de información de población (PIS) del Centro de Población de
Finlandia. Luego, el robot envía la información recibida al sistema de destino.
Actualmente hay tres robots en su lugar. El primero, conocido como “Lupu”, lleva casi un año en producción (desde abril de 2019). Los
otros dos han estado en producción desde enero de 2020. Lupu fue la primera experiencia de automatización de procesos (en particular,
el proceso de reembolso). Se implementó con bastante rapidez porque solo automatiza los procesos dentro del departamento y no
interactúa con otros departamentos. El experimento comenzó en febrero de 2019 y varios meses después se implementó por completo.
Llevó más tiempo implementar los otros robots, ya que tenían que interactuar con entornos externos y hubo algunos desafíos técnicos.
El Ministerio está muy satisfecho con el robot “Lupu” y su desempeño. Anticipan una serie de beneficios, como la reducción de costos, la
conexión a sistemas heredados a bajo costo, la reducción del tiempo administrativo y reembolsos más rápidos.
Camino a seguir:
El Ministerio opina que existen muchos otros procesos manuales que podrían emplear la tecnología robótica. Las tareas repetitivas y de
gran volumen, principalmente en la gestión de cuentas, podrían ser objeto de exploración futura. El siguiente paso podría ser implementar
la tecnología dentro de otros departamentos del Ministerio, que podrían tener procesos que pueden automatizarse, o dentro de la
autoridad finlandesa, que es responsable de la aplicación más allá de las multas. De hecho, todo el proceso de ejecución es a menudo
una cuestión de cobrar las deudas directamente de las cuentas bancarias por salarios / pensiones, un proceso que ya es
semiautomatizado pero que requiere una gran cantidad de trabajo manual.
FI, nombre del proyecto: servicio de chatbot para situaciones de divorcio / separación
Perfil breve
Título del proyecto: Servicio de chatbot para situaciones de divorcio / separación (parte del proyecto
Aurora)
9
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Este piloto completo de un servicio de chatbot para situaciones de divorcio / separación tiene como objetivo mejorar el acceso a los
servicios públicos.
Descripción de la solución:
Este proyecto de chatbot es parte del proyecto "Aurora" 323. Está diseñado para ayudar a las personas que enfrentan un divorcio / separación
a encontrar los servicios locales más adecuados / efectivos en función de sus necesidades.
Camino a seguir:
N/A
Alemania
DE, nombre del proyecto: uso de la tecnología blockchain en el área de la base de datos del registro de la propiedad
Perfil breve
Título del proyecto: Uso de la tecnología blockchain en el área de la base de datos del catastro
323 Aurora es un asistente de inteligencia artificial creado por y para el sector público finlandés. https://vm.fi/en/auroraai-en
324 Información basada en las respuestas recibidas al cuestionario elaborado en el transcurso de este estudio
10
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
La herramienta está desarrollada a medida. La tecnología probada es pública pero autorizada, en el dominio de “Anclaje” de datos en
sistemas clásicos para asegurar su integridad.
Descripción de la solución:
N/A
Camino a seguir:
N/A
DE, nombre del proyecto: potencialidades de blockchain con respecto a un registro de validez electrónico
Perfil breve
Título del proyecto: Potenciales de blockchain con respecto a un registro de validez electrónico
Este proyecto examinó la posibilidad de establecer un registro electrónico público para verificar el estado de validez de los documentos
(válidos / revocados) basados en la tecnología blockchain. Se examinaron en detalle dos ejemplos (certificado de herencia, certificado de
autoridad notariado).
La herramienta está desarrollada a medida. La tecnología es pública pero autorizada, en el ámbito del "anclaje" de datos en sistemas
clásicos para asegurar su integridad.
Descripción de la solución:
Camino a seguir:
N/A
11
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
IRLANDA
Perfil breve
Este proyecto se centró en la implementación de una herramienta que utiliza tecnología de reconocimiento óptico de caracteres (OCR)
para leer las placas de matrícula de los vehículos. Últimamente, se ha incorporado la tecnología de Inteligencia Artificial con el propósito
de optimizar el uso de energía de los dispositivos en relación con una captura más enfocada de imágenes de matrículas.
N/A
Descripción de la solución:
N/A
Camino a seguir:
N/A
ITALIA
IT, nombre del proyecto: sistema de inteligencia artificial de gestión del conocimiento
Perfil breve
12
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Tipo de tecnología AI: Sistemas expertos y sistemas basados en reglas; Lenguaje natural
Procesando (PNL); Nombrada Entidad
Reconocimiento; Extracción de información
El objetivo clave es la recopilación de jurisprudencia en el ámbito de la competencia. El sistema es necesario para la implementación de
procesos civiles y penales digitalizados. El sistema es necesario para algunas funciones administrativas como solicitudes de
financiamiento de gastos de justicia y para obtener el reembolso de los créditos del sistema de justicia contra deudores (sanciones,
multas y honorarios legales).
Funciona en el ámbito de la gestión de la jurisprudencia y la accesibilidad a las decisiones judiciales, así como en un campo particular: las
sentencias de competencia.
La solución de TI se desarrolló internamente ya que hay equipos familiarizados con las áreas administrativas relevantes. La tecnología
utilizada se enmarca dentro de los dominios del análisis jurídico y la búsqueda avanzada.
Descripción de la solución:
El sistema se implementará próximamente mediante la recopilación de las decisiones de los Tribunales Especiales de Roma y Nápoles en
el campo del derecho de la competencia. Más específicamente, se basa en sistemas expertos y sistemas basados en reglas (simbólicos,
por ejemplo, reglas definidas manualmente en una base de conocimientos).
Camino a seguir:
N/A
Letonia
Perfil breve
Durante la implementación de este proyecto, se instaló en la administración judicial una herramienta que aplica tecnología de inteligencia
artificial para el reconocimiento de voz.
13
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
N/A
Descripción de la solución:
N/A
Camino a seguir:
N/A
MALTA
Perfil breve
En Malta, este es el primer proyecto blockchain en el campo de la justicia y es el primer registro electrónico de abogados. Fue un
proyecto piloto para evaluar los beneficios y desafíos de la tecnología blockchain. El objetivo es crear un sistema de transparencia en el
que los datos (información de licencia) sean compartidos por todas las partes (abogados, público y gobierno) de forma transparente,
inmutable y descentralizada.
Lawyers 'Register proporciona una lista oficial de abogados con licencia en una cadena de bloques privada, donde:
Actualmente, es una cadena de bloques privada; sin embargo, su diseño permite una cadena de bloques pública en el futuro. La intención
es poner el nombre y la licencia del abogado en la cadena de bloques pública, ya que esta última no contiene datos personales. Más
adelante, se podrían agregar otros datos a la cadena de bloques pública siempre que se garantice el cumplimiento de la protección de
datos.
14
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
El objetivo principal es proporcionar acceso automático a otros sistemas accesibles para los abogados, como un portal de tribunales
electrónicos.
Es importante resaltar que, aunque todos pueden ver los datos, solo los usuarios especificados tienen la capacidad de agregar / modificar
datos.
Descripción de la solución:
El proyecto utiliza una solución de TI Ethereum. Cae en el dominio de blockchain de aplicaciones confiables para compartir datos y el
"anclaje" de datos en sistemas clásicos para garantizar su integridad.
El proyecto es principalmente un libro mayor de licencias, que solo está respaldado por un sistema tradicional para proporcionar
pseudoanonimato.
Adopta un protocolo de seguridad de consenso de prueba de trabajo porque el marco de seguridad principal se basa en un sistema de
cadena de bloques privado que está protegido por mecanismos tradicionales como firewall y acceso a niveles de seguridad a nivel de
nodo. La entrada de datos está asegurada a través de un contrato inteligente escrito con solidez y, por lo tanto, se utilizó una prueba de
trabajo. Dado que es una cadena de bloques privada, el archivo de génesis se modificó para especificar la dificultad de la red. Esto se
hizo para lograr un mayor rendimiento. También se ayudó a la resiliencia de los datos, ya que cada nodo tendrá una copia completa del
libro mayor.
El sistema basado en blockchain / DLT complementa el sistema existente y no lo reemplaza por completo. Se utilizó un sistema
tradicional para garantizar una mayor resiliencia de los datos y también para cumplir con GDPR. Toda la información personal está
contenida en el sistema tradicional, y solo se usa el hash equivalente en la cadena de bloques. Cuando es necesario eliminar un registro,
esto se hace de forma permanente desde el sistema tradicional, y el hash ya no puede vincularse al usuario real, logrando así una
eliminación virtual en la cadena de bloques también.
Dado que el sistema tradicional contiene la información en la cadena de bloques, si algo le sucede a uno de los sistemas, cada uno
puede recuperarse total o parcialmente del otro.
Camino a seguir:
La Unidad de Gestión de la Información (IMU) y el Departamento de Justicia planean profundizar su conocimiento de la cadena de
bloques y su posible aplicación a proyectos futuros.
Perfil breve
15
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Tipo de tecnología AI: Aprendizaje automático / Aprendizaje profundo, con procesamiento de lenguaje
natural (PNL)
El problema inicial es que los fiscales de distrito no obtienen fácilmente la jurisprudencia relevante y otra información necesaria de los
datos subyacentes.
Desarrollo personalizado con datos de código abierto (la herramienta está hecha a medida para DA y probada con datos de código
abierto), en colaboración con un proveedor.
Descripción de la solución:
Para garantizar que los fiscales de distrito puedan obtener rápidamente la jurisprudencia relevante y otra información necesaria de los
datos subyacentes, la herramienta hará uso de procesos comerciales automatizados (automatización del flujo de trabajo legal), mejorará
la eficiencia y la precisión y proporcionará una mejor comprensión de los datos disponibles. Actualmente, la herramienta es solo una
versión de prueba y aún no está implementada.
Camino a seguir:
Resolvió el problema inicial y tiene el potencial de abordar muchas otras dificultades en las oficinas de los fiscales de distrito en los
Países Bajos. Es deseable un segundo experimento para abordar las dificultades relacionadas con los prejuicios, la ética, etc. Por lo
tanto, la implementación aún no está planeada.
PORTUGAL
Perfil breve
País, Organización: Portugal, Instituto dos Registos e do Notariado (* Instituto de Registros y Notarios)
Tipo de tecnología AI: Aprendizaje automático / Aprendizaje profundo; Procesamiento del lenguaje natural
(NLP)
dieciséis
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Los principales objetivos del proyecto son mejorar la calidad de los servicios a los ciudadanos y gestionar de forma más eficiente la
organización. El foco principal es la formación y otros canales de contacto con la ciudadanía, y la mejora de la relación de la organización
con los clientes y la calidad de los servicios prestados al cliente. Con este fin, este canal inteligente admite las siguientes actividades:
a. responder a las preguntas más frecuentes (FAQ'S) basadas en una base de conocimientos gestionada por el IRN;
si. interpretar la intención del ciudadano de renovar un DNI y valorar la situación particular del ciudadano; y
C. sugiriendo el método más adecuado para la renovación del carnet: online, presencial o con cita previa.
El canal inteligente permite al ciudadano programar online una cita si esta es la opción más adecuada. En el caso de los servicios
espontáneos, ofrece tiempos de espera medios y está integrado con Google Maps para que, según el recorrido y el medio de viaje, se
pueda elegir el mostrador más adecuado.
Desarrollo personalizado: la solución se basó en una plantilla de Microsoft y se personalizó completamente para adaptarse a las
necesidades de la organización, siguiendo las recomendaciones y mejores prácticas de Microsoft.
Descripción de la solución:
Cuando un ciudadano plantea una pregunta utilizando el chatbot de IReNe, siguiendo un proceso definido, se responde la pregunta o se
informa al ciudadano sobre los siguientes pasos, por ejemplo, programar una cita con el personal de IRN. La cita se confirma por correo
electrónico y proporciona información adicional sobre la ubicación, medio de transporte, etc. También se incluye una opción de
recordatorio por SMS. El objetivo es que solo se pida a los ciudadanos que visiten el IRN personalmente en circunstancias excepcionales.
Camino a seguir
• Desarrollar nuevas funcionalidades en solución para integrar otros servicios, a saber, el registro central de beneficiarios reales,
creado en cumplimiento de la Directiva (UE) 2015/849 sobre prevención del uso del sistema financiero para el blanqueo de
capitales o la financiación del terrorismo (4a Directiva sobre blanqueo de capitales).
• IRN está planificando nuevas mejoras del chatbot IReNe en el área de identificación civil:
o Posibilidad de actualizar datos personales como domicilio. Este servicio ya existe en el portal, sin embargo, se
prevé integrar este servicio en el chatbot IReNe.
o Posibilidad de verificar el estado de los procesos (por ejemplo, renovación de la tarjeta de identificación) en línea. Para las
• solicitudes relacionadas con la nacionalidad, el IRN se encuentra actualmente en la fase inicial del proyecto y está recopilando los
requisitos.
• Respecto al Registro Central de Beneficiarios 325 ( CRB), basado en una directiva de 2017 326, Es obligatorio que todas las
personas jurídicas, es decir, empresas, tengan un registro. De acuerdo con esta nueva Directiva y procedimiento, el IRN está
identificando el uso de IA y chatbots como una posible solución para ayudar a los ciudadanos a cumplir legalmente.
17
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
PT, Nombre del proyecto: BUPi (Balcão Único do Prédio) Lab AI Unique Hotpoint para ciudadanos 327 - sistema de información
catastral simplificado
El proyecto piloto se ejecutó durante un año completo, entre noviembre de 2017 y noviembre de 2018, en 10 municipios. 328 en la zona
centro-norte de Portugal, correspondiente a las áreas más afectadas por los severos incendios forestales durante el verano de 2017.
Actualmente, está en producción y cubre toda la parte continental del territorio del país.
Perfil breve
Tipo de tecnología AI: Aprendizaje automático / Aprendizaje profundo; Sistemas expertos y sistemas
basados en reglas; Visión por computador
Tras los intensos y severos incendios forestales del verano de 2017, las autoridades gubernamentales portuguesas intentaron delimitar
los territorios afectados. Resultó que gran parte de la tierra no estaba registrada, lo que dificultaba mucho marcar fronteras, identificar
propietarios, etc. Esto planteó problemas, especialmente en las transacciones de compra. Luego se convirtió en una prioridad del
gobierno para abordar el problema y prevenir situaciones similares en el futuro. Por tanto, el proyecto se centra en el registro de la
propiedad.
Desarrollo a la medida
Descripción de la solución:
El BUPi es una plataforma electrónica que conecta todas las bases de datos y aplicaciones que contienen información relevante sobre
propietarios, ubicación y superficie del terreno, entre otros elementos. Esta plataforma electrónica tiene como objetivo recopilar y
almacenar toda la información sobre el registro de la propiedad en un solo lugar. En pocas palabras, el BUPi es una única plataforma
electrónica que articula y facilita la relación entre los ciudadanos y la administración pública en lo que respecta al registro de la propiedad. 329
El proyecto se describe como muy avanzado desde un punto de vista técnico, ya que utiliza las últimas tecnologías (como drones) y
emplea expertos en el lugar con equipos técnicos para mapear, examinar y confirmar las marcas con los ciudadanos. El proyecto logró
facilitar el proceso y reducir costos.
Camino a seguir:
329 https://www.irn.mj.pt/IRN/sections/irn/a_registral/registo-predial/bupi/faqs/2/
18
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
ESLOVENIA
SI, nombre del proyecto: COVL - Departamento central de ejecución sobre la base de documentos auténticos
Perfil breve
Título del proyecto: COVL - Departamento central de ejecución sobre la base de documentos
auténticos
Este proyecto completo se centró en un sistema automatizado para autenticar documentos. Es hora de mejorar la eficiencia en los
procesos comerciales relacionados con la aplicación mediante la introducción de un método de trabajo centralizado, producción
automatizada de documentos y gestión de procesos.
N/A
Descripción de la solución:
Hubo retrasos judiciales relacionados con numerosas solicitudes de ejecución sobre la base de documentos auténticos (por ejemplo,
facturas, cheques, estados financieros, etc.). El uso de COVL ayudó a reducir tanto el número de casos pendientes como el tiempo para
la toma de decisiones
331
Camino a seguir:
N/A
330 El propietario de este proyecto es el Tribunal Supremo de la República de Eslovenia, pero se ha proporcionado información
por el Ministerio de Justicia de la República de Eslovenia
19
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
SUECIA
Perfil breve
Debido a la necesidad de transcribir texto grabado o de voz en vivo, el aumento de los costos y el tiempo se había convertido en un
problema. Con la transcripción automática, la información se puede comparar con voces grabadas como las de los videos. Además, como
la transcripción se automatizará, se podría utilizar una traducción igualmente automatizada. Esto reduciría el tiempo y los costos, ya que
los sistemas inteligentes serían útiles para traductores y transcriptores.
Basado en proveedores.
Descripción de la solución:
El PoC se basa en una solución existente que transcribe y traduce voces grabadas al inglés. Los resultados son prometedores.
Camino a seguir:
El escenario de PoC estaba destinado originalmente solo a tribunales públicos, pero los tribunales administrativos han identificado una
serie de casos de uso a los que la solución podría ser aplicable.
Perfil breve
País, Organización: Suecia, Skatteverket (* Agencia Tributaria Sueca) Suecia, Kairos Future
20
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Título del proyecto: Recibo digital (parte de las soluciones técnicas inspiradas en Blockchain para
contabilidad, auditoría e impuestos)
Tipo de tecnología DLT: Se utilizan diferentes tipos de tecnología en varios subproyectos: Merkle Tree,
blockchain privada / DLT
El propósito del proyecto es identificar los desafíos de las operaciones actuales vinculadas a la contabilidad, la auditoría y la fiscalidad.
Las áreas identificadas para las que se debe encontrar una solución son la integridad de los datos, la trazabilidad, la eficiencia operativa y
la disminución de la dependencia técnica de los sistemas nacionales en la plataforma común. El uso de la tecnología es principalmente
para asegurar la integridad, responsabilidad, simplicidad y seguridad de los datos. En particular, el proyecto intenta evitar los efectos
secundarios negativos de las bases de datos completamente informadas dentro de los casos de uso. Por ejemplo, un registro con todos
los recibos, todas las facturas o todos los poderes representaría una grave amenaza para la privacidad y un riesgo de seguridad
cibernética.
El problema es que actualmente demasiados recibos están en papel formato, y se desea una forma digital confiable.
Hecho a medida como código abierto. Esto se logró con la experiencia y el conocimiento disponibles de un equipo de estudio interno y
externo y un equipo de desarrollo.
Descripción de la solución:
Procesamiento de recibos digitales: En Suecia tienen una caja de control de impuestos. Las empresas están obligadas a imprimir recibos
en papel. Sin embargo, el objetivo es reemplazar los recibos en papel por electrónicos.
Camino a seguir:
El “recibo digital” es una solución prometedora. Se ha decidido continuar con el proyecto, pero aún no se ha establecido ni disponible un
plan de implementación. Sin embargo, el proyecto estimulará un mayor aprendizaje y el desarrollo de nuevos pensamientos, procesos y
sistemas en la rama de la contabilidad, la auditoría y la fiscalidad.
Perfil breve
País, Organización: Suecia, Skatteverket (* Agencia Tributaria Sueca) Suecia, Kairos Future
Título del proyecto: Registros de personal (parte de las soluciones técnicas inspiradas en Blockchain
para contabilidad, auditoría e impuestos)
21
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Tipo de tecnología DLT: Se utilizan diferentes tipos de tecnología en varios subproyectos: Merkle Tree,
blockchain privada / DLT
El propósito del proyecto es identificar los desafíos de las operaciones actuales vinculadas a la contabilidad, la auditoría y la fiscalidad.
Las áreas identificadas para las que se debe encontrar una solución son la integridad de los datos, la trazabilidad, la eficiencia operativa y
la disminución de la dependencia técnica de los sistemas nacionales en la plataforma común. El uso de la tecnología es principalmente
para asegurar la integridad, responsabilidad, simplicidad y seguridad de los datos. En particular, el proyecto intenta evitar los efectos
secundarios negativos de las bases de datos completamente informadas dentro de los casos de uso. Por ejemplo, un registro con todos
los recibos, todas las facturas o todos los poderes representaría una grave amenaza para la privacidad y un riesgo de seguridad
cibernética.
La ley exige que los empleados se registren en papel. Para fines de inspección, y en la lucha contra el trabajo ilegal, un nuevo enfoque
digital sería útil.
Hecho a medida como código abierto. Esto se logró con la experiencia disponible y el conocimiento del equipo de estudio interno y
externo y un equipo de desarrollo.
Descripción de la solución:
Los empleados de las empresas estarían registrados en un sistema al iniciar y finalizar su jornada laboral. Este será un sistema nacional
basado en una cadena de bloques donde el gobierno puede hacer un seguimiento de los empleados registrados y detectar el empleo
ilegal más fácilmente.
Camino a seguir:
Se ha decidido continuar con el proyecto, pero aún no se ha establecido ni disponible un plan de implementación.
Perfil breve
País, Organización: Suecia, Skatteverket (* Agencia Tributaria Sueca) Suecia, Kairos Future
Título del proyecto: Tiempo real / SINK (parte de las soluciones técnicas inspiradas en Blockchain
para contabilidad, auditoría e impuestos)
Tipo de tecnología DLT: Se utilizan diferentes tipos de tecnología en varios subproyectos: Merkle Tree,
blockchain privada / DLT
22
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
El propósito del proyecto es identificar los desafíos de las operaciones actuales vinculadas a la contabilidad, la auditoría y la fiscalidad.
Las áreas identificadas para las que se debe encontrar una solución son la integridad de los datos, la trazabilidad, la eficiencia operativa y
la disminución de la dependencia técnica de los sistemas nacionales en la plataforma común. El uso de la tecnología es principalmente
para asegurar la integridad, responsabilidad, simplicidad y seguridad de los datos. En particular, el proyecto intenta evitar los efectos
secundarios negativos de las bases de datos completamente informadas dentro de los casos de uso. Por ejemplo, un registro con todos
los recibos, todas las facturas o todos los poderes representaría una grave amenaza para la privacidad y un riesgo de seguridad
cibernética.
Es necesario optimizar los procesos contables minimizando el tiempo entre la transacción y las notas contables.
Hecho a medida como código abierto. Esto se logró con la experiencia y el conocimiento disponibles de un equipo de estudio interno y
externo y un equipo de desarrollo.
Descripción de la solución:
Los pagos contables y fiscales se pueden mejorar cuando se ejecutan más de cerca al momento de la acción o transacción, o mejor aún,
en tiempo real. Esta solución analiza las posibilidades de comunicación de máquina a máquina en contabilidad.
Camino a seguir:
Se ha decidido continuar con el proyecto, pero se necesitan más análisis antes de que se pueda implementar un plan de implementación.
Perfil breve
País, Organización: Suecia, Skatteverket (* Agencia Tributaria Sueca) Suecia, Kairos Future
Título del proyecto: Proxies (parte de las soluciones técnicas inspiradas en Blockchain para
contabilidad, auditoría e impuestos)
Tipo de tecnología DLT: Se utilizan diferentes tipos de tecnología en varios subproyectos: Merkle Tree,
blockchain privada / DLT
El propósito del proyecto es identificar los desafíos de las operaciones actuales vinculadas a la contabilidad, la auditoría y la fiscalidad.
Las áreas identificadas para las que se debe encontrar una solución son la integridad de los datos, la trazabilidad, la eficiencia operativa y
la disminución de la dependencia técnica de los sistemas nacionales en la plataforma común. El uso de la tecnología es
23
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
principalmente para asegurar la integridad, responsabilidad, simplicidad y seguridad de los datos. En particular, el proyecto intenta evitar los efectos
secundarios negativos de las bases de datos completamente informadas dentro de los casos de uso. Por ejemplo, un registro con todos los recibos,
todas las facturas o todos los poderes representaría una grave amenaza para la privacidad y un riesgo de seguridad cibernética.
No había un repositorio centralizado donde poder contar historias y acceder a autorizaciones personales.
Hecho a medida como código abierto. Esto se logró con la experiencia y el conocimiento disponibles de un equipo de estudio interno y
externo y un equipo de desarrollo.
Descripción de la solución:
La solución de proxy funciona como una herramienta para ayudar a las personas a administrar los poderes de los empleadores a través
de una ubicación. Estos poderes indican los derechos y las autoridades de las personas en empresas y organizaciones y facilitarán el
proceso de firma de los empleados en nombre de su empresa. Esta solución funcionará como una herramienta de validación de autoridad
independiente.
Camino a seguir:
Se ha decidido continuar con el proyecto, pero aún no se ha establecido ni disponible un plan de implementación. Sería mejor si un
tercero estuviera a cargo del control de versiones, el almacenamiento de las marcas de tiempo y el archivo de los proxies.
Perfil breve
País, Organización: Suecia, Skatteverket (* Agencia Tributaria Sueca) Suecia, Kairos Future
Tipo de tecnología DLT: Se utilizan diferentes tipos de tecnología en varios subproyectos: Merkle Tree,
blockchain privada / DLT
El propósito del proyecto es identificar los desafíos de las operaciones actuales vinculadas a la contabilidad, la auditoría y la fiscalidad.
Las áreas identificadas para las que se debe encontrar una solución son la integridad de los datos, la trazabilidad, la eficiencia operativa y
la disminución de la dependencia técnica de los sistemas nacionales en la plataforma común. El uso de la tecnología es principalmente
para asegurar la integridad, responsabilidad, simplicidad y seguridad de los datos. En particular, el proyecto intenta evitar los efectos
secundarios negativos de las bases de datos completamente informadas dentro de los casos de uso. Por ejemplo, un registro con todos
los recibos, todas las facturas o todos los poderes representaría una grave amenaza para la privacidad y un riesgo de seguridad
cibernética.
24
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
los la información de las empresas está disponible, pero a menudo no es fácil de encontrar la información más reciente y obtenerla
en forma estandarizada.
Hecho a medida como código abierto. Esto se logró con la experiencia y el conocimiento disponibles de un equipo de estudio interno y
externo y un equipo de desarrollo.
Descripción de la solución:
Los servicios de información de la empresa son un método para administrar la información de la empresa de una manera simple y
estandarizada en una cadena de bloques y la información solo debe compartirse una vez. Luego, las autoridades pueden consultarlo
fácilmente y estar disponible para informes estandarizados.
Camino a seguir:
Se decidió continuar con el proyecto, pero aún no se cuenta con un plan de implementación.
Perfil breve
País, Organización: Suecia, Skatteverket (* Agencia Tributaria Sueca) Suecia, Kairos Future
Título del proyecto: Facturas (parte de las soluciones técnicas inspiradas en Blockchain para
contabilidad, auditoría e impuestos)
Tipo de tecnología DLT: Se utilizan diferentes tipos de tecnología en varios subproyectos: Merkle Tree,
blockchain privada / DLT
El propósito del proyecto es identificar los desafíos de las operaciones actuales vinculadas a la contabilidad, la auditoría y la fiscalidad.
Las áreas identificadas para las que se debe encontrar una solución son la integridad de los datos, la trazabilidad, la eficiencia operativa y
la disminución de la dependencia técnica de los sistemas nacionales en la plataforma común. El uso de la tecnología es principalmente
para asegurar la integridad, responsabilidad, simplicidad y seguridad de los datos. En particular, el proyecto intenta evitar los efectos
secundarios negativos de las bases de datos completamente informadas dentro de los casos de uso. Por ejemplo, un registro con todos
los recibos, todas las facturas o todos los poderes representaría una grave amenaza para la privacidad y un riesgo de seguridad
cibernética.
No todos los bienes se comercializan con factura y algunas facturas se envían incompletas o más de una vez. Los procedimientos de
facturación en papel dejan algunas lagunas para el fraude contra las normas fiscales.
25
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Hecho a medida como código abierto. Esto se logró con la experiencia y el conocimiento disponibles de un equipo de estudio interno y
externo y un equipo de desarrollo.
Descripción de la solución:
La solución de facturas es una herramienta de seguimiento de los impuestos sobre los bienes vendidos en empresas y tiendas. Ayudará a la
agencia tributaria a detectar el fraude fiscal y proteger mejor los ingresos del IVA. Todos los impuestos pasarán directamente a través de un
único servidor y solo existirá una factura de IVA.
Camino a seguir:
Se ha decidido continuar con el proyecto, pero aún no se ha establecido ni disponible un plan de implementación.
Perfil breve
Este proyecto explora la tecnología blockchain / DLT para contratos inteligentes en el contexto de las propiedades y transacciones de la
tierra.
Descripción de la solución:
La solución tenía como objetivo reducir significativamente el tiempo y el esfuerzo de las partes que participan en transacciones
inmobiliarias y los actos relacionados de firma de contratos, registro de propiedad e intercambio de escrituras, etc., mediante la
automatización y digitalización de estas actividades con tecnología blockchain.
La prueba resultó en una herramienta que funciona tecnológicamente utilizando contratos inteligentes y proporcionó un análisis de impacto, así
como los requisitos de las partes interesadas.
Camino a seguir:
La fase experimental finalizó en 2018. La solución aún no ha sido analizada en términos de su ampliación, optimización y desarrollo de
integración. Además, la ley sueca aún no permite la firma digital de transferencias de propiedad, que es necesaria para que funcione
cualquier solución digital. Actualmente se están investigando soluciones adyacentes, como un registro de apartamentos.
26
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Perfil breve
Hojear Internet en busca de anuncios ocultos puede llevar mucho tiempo. Este Test Balloon es un proyecto experimental para explorar el
potencial de un bot (FairAdBot) para mapear anuncios ocultos. El "FairAdBot" utiliza el reconocimiento de imágenes y realiza análisis de
texto.
Es una herramienta basada en el software existente “FairAdBot”, que ha sido personalizado para los propósitos de la Agencia del
Consumidor.
Descripción de la solución:
La herramienta Test Balloon es una aplicación basada en una solución existente personalizada para su uso por la Agencia del
Consumidor. El proyecto FairAdBot tiene como objetivo analizar publicaciones en cuentas de Instagram de personas influyentes suecas
populares. La tarea consistía en identificar mensajes comerciales (mediante el uso de determinadas palabras clave). El resultado indicó
que muchos influencers estaban vinculados a publicaciones "engañosas" dirigidas a los consumidores. En el futuro, soluciones como
FairAdBot podrían ayudar a las agencias de aplicación de la ley a rastrear e identificar posibles prácticas comerciales desleales e
identificar posibles publicaciones "engañosas".
Camino a seguir:
Perfil breve
País, Organización: Suecia, Skatteverket (* Agencia Tributaria Sueca) Orientación legal con
27
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
El proyecto está creando una solución al problema de búsqueda de información en la Agencia Tributaria. El objetivo es garantizar que se
pueda encontrar más fácilmente la información correcta.
Descripción de la solución:
La solución hace que la información sea más fácil de encontrar y ofrece una mejora en dos direcciones: la primera es mejorar la
información en sí con metadatos y palabras clave agregados. El segundo es mejorar los métodos de búsqueda proporcionando mejores
consultas de búsqueda y utilizando palabras clave específicas, que se han agregado como metadatos.
• La solución incluirá un componente que contiene el motor de búsqueda normal llamado "Solar" en un entorno normalizado, y
un componente separado, que es la parte de IA de la solución, una tecnología de código abierto basada en Python.
• La herramienta está capacitada con la base de datos legal para buscar no solo palabras clave específicas, sino también palabras
relacionadas.
Camino a seguir:
El proyecto se implementará para la Agencia Tributaria a finales de este año (2020). Un posible siguiente paso es implementar la solución
en otros departamentos o sectores.
Perfil breve
Respuesta automática a preguntas sencillas y frecuentes en el sitio web de los Tribunales Nacionales.
28
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
El plan era implementar diferentes chatbots por uso, que podrían implementarse en las instalaciones, en la nube o de manera híbrida.
Descripción de la solución:
Este POC completo utilizó Microsoft Bot Framework (código abierto) para probar el potencial de proporcionar respuestas a preguntas
bastante simples y frecuentes en el sitio web de los Tribunales Nacionales. Actualmente, la solución está en desarrollo y está previsto que
entre en producción en breve.
Camino a seguir:
N/A
AUSTRIA
Perfil breve
Las fiscalías de Austria tuvieron dificultades para analizar los datos obtenidos de los registros domiciliarios debido al tamaño y la cantidad
excesivos de datos involucrados (a veces varios terabytes). Decidieron usar IA para resolver este problema.
El Ministerio Federal considera único el análisis de datos que realiza la tecnología, ya que el fiscal es capaz de entrenar el algoritmo con
datos cada día, según el caso y la información que necesite analizar. Esto podría incluir analizar qué documentos hay (por ejemplo,
facturas) y qué personas están involucradas, o definir si una cadena de correo electrónico contiene una conversación formal o informal.
Hasta el momento, se han puesto a prueba 12 casos reales en las fiscalías públicas, con comentarios muy positivos de los fiscales.
29
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Descripción de la solución:
El equipo del proyecto sigue un enfoque "mixto" para entrenar los algoritmos, empleando aprendizaje supervisado y no supervisado. El
fiscal (o un experto de apoyo) capacita al sistema con los modelos de negocio y las entidades que creen que deberían incluirse en el caso
(por ejemplo, facturas u otros documentos), porque el fiscal está más familiarizado con el caso, e indica el tipo de búsqueda realizada. y
los documentos recogidos durante la búsqueda. El sistema tiene entonces el conocimiento fundamental necesario para indicar el
resultado específico, por ejemplo, "factura encontrada". Para entidades nuevas, el algoritmo aprende de manera supervisada.
Camino a seguir:
N/A
Perfil breve
En Austria, solo el Tribunal Supremo publica sus decisiones en línea porque solo él tiene la obligación legal y los recursos para
anonimizarlas. Todas las demás decisiones de otros tribunales no se publican. Tras las discusiones sobre la transparencia de las
decisiones judiciales, el Ministerio Federal decidió encontrar una solución a esto.
El Plan de acción europeo de e-Justicia 2019-2023 prevé aplicar la iniciativa de Austria de utilizar la inteligencia artificial para la
anonimización y seudonimización de las sentencias judiciales.
Recientemente, el Ministerio Federal se acercó a los Estados miembros para averiguar si podían compartir bibliotecas. Desde la
perspectiva del Ministerio, algunos servicios deberían ser independientes del idioma, mientras que otros deberían ser específicos del
idioma. El Ministerio Federal quiere publicar sus decisiones en una base de datos de decisiones judiciales disponible públicamente con
acceso gratuito, incluso en el Portal Europeo de e-Justicia.
332 http://www.m2n.at
30
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
En cuanto a los desafíos encontrados hasta ahora en el proyecto, la herramienta todavía tiene algunas dificultades para reconocer los
nombres de las partes (por ejemplo, si es el nombre de un abogado o un juez, no debe ser anónimo), así como para reconocer
identidades idénticas. en diferentes partes del documento.
El Ministerio Federal hizo una prueba de concepto (POC) en 2017 con la herramienta IBM Watson; sin embargo, los costos de la licencia
fueron relativamente altos para las funciones listas para usar que se recibieron. Por lo tanto, en 2018 decidieron utilizar una
infraestructura basada en código abierto.
Descripción de la solución:
La estrategia austriaca en los últimos dos o tres años es una combinación de enfoques y servicios, por ejemplo, bibliotecas estándar de
procesamiento del lenguaje natural (NLP) (Stanford NLP333 y spaCy334) combinadas con enfoques de aprendizaje automático (ML).
Camino a seguir:
El objetivo es publicar primero las decisiones del Tribunal Regional Superior para el próximo año, siguiendo un enfoque paso a paso. Es
importante verificar los requisitos de recursos humanos para tal empresa. El objetivo es calificar las tareas de anonimización (etiqueta
verde y pila roja / pila naranja) para poder decidir.
Perfil breve
Tipo de tecnología AI: Aprendizaje automático / Aprendizaje profundo; Procesamiento del lenguaje natural
(NLP)
Este proyecto también forma parte del Plan de Acción Europeo de e-Justicia 2019-2023. El Ministerio Federal introdujo un sistema de
archivo digital en 13 juzgados con el objetivo de introducirlo en otros juzgados civiles, todos los juzgados penales y fiscalías en los
próximos dos años.
N/A
333 https://nlp.stanford.edu/software/
334 https://spacy.io/
31
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Descripción de la solución:
La solución utilizará el procesamiento del lenguaje natural (NLP) y el aprendizaje automático para crear enlaces a bases de datos
externas de literatura y jurisprudencia. El juez podría activar documentos y hacer uso de citas en las que se puede hacer clic. El sistema
de archivo digital también proporciona otras (pequeñas) herramientas de inteligencia artificial, por ejemplo, hacer sugerencias de flujo de
trabajo o marcar tareas para el juez (por ejemplo, costos del procedimiento).
Camino a seguir:
N/A
Estado del proyecto: En curso, en fase de prueba beta; Preparándose para el lanzamiento de 2019 - mayo de 2020
Perfil breve
La herramienta proporcionará servicios digitales relacionados con los procedimientos judiciales a través de un primer portal móvil. El objetivo es
que la ciudadanía pueda realizar inspecciones de expediente en cada etapa del caso. Los ciudadanos serán guiados por un chatbot si tienen
preguntas (por ejemplo, sobre términos legales, características de la plataforma o posibles pasos de procedimiento).
N/A
Descripción de la solución:
Camino a seguir:
N/A
CROACIA
32
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Perfil breve
Se realizó una entrevista con el Ministerio de Justicia sobre un proyecto de anonimización, que se encuentra en la fase de prueba de
concepto y ahora se están negociando con un proveedor.
A nuestro entender, la herramienta se utilizaría para la anonimización de los documentos judiciales antes de su publicación. El uso de una
solución de IA para esta tarea ayudaría a aumentar la productividad de las canchas.
N/A
Descripción de la solución:
N/A
Camino a seguir:
N/A
CHEQUIA
Perfil breve
Área de justicia: Justicia civil; Justicia Administrativa; Justicia penal; Ley de Competencia
33
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Tipo de tecnología AI: Sistemas expertos y sistemas basados en reglas; Procesamiento del lenguaje
natural (NLP)
Antes de que las decisiones de los tribunales públicos se hagan públicas, deben ser anonimizadas. Delegar esta tarea de anonimización
a la aplicación de IA ayudará a aumentar la productividad.
Descripción de la solución:
La aplicación garantizará la anonimización de un gran número de decisiones judiciales públicas antes de su publicación. La tecnología de
inteligencia artificial se utilizará para detectar datos que deben ser anonimizados, pero una persona dedicada aún deberá revisar la
decisión antes de su publicación. Actualmente el proyecto se encuentra en fase de prueba.
Camino a seguir:
El objetivo es publicar todas las decisiones de los tribunales de distrito, regionales y superiores. Sin embargo, este es un objetivo a largo plazo,
por lo que la solución se probará primero en los Tribunales Regionales de primera instancia en un área limitada.
Dinamarca
Perfil breve
De conformidad con una orden del gobierno danés, debe haber transparencia en los tribunales, y todos los fallos deben hacerse públicos
a los ciudadanos daneses. Actualmente, los secretarios judiciales logran esta transparencia que eliminan manualmente los datos
personales y otros datos confidenciales de los fallos antes de hacerlos públicos. Con este proyecto en curso, la Administración de la Corte
está intentando capacitar software para eliminar datos relevantes y motivar a un facilitador humano a validar y aceptar los cambios. El
grado de seudonimización
34
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
se está optimizando a través de introducciones sucesivas de conjuntos de datos de entrenamiento y, como tal, se espera que alcance un
mayor nivel de precisión y esté listo para la producción. El objetivo final es exponer al público los veredictos de los tribunales daneses
para garantizar un sistema de justicia justo y equitativo mediante la transparencia. Cada veredicto está pseudonimizado y controlado por
dos participantes humanos diferentes que trabajan con un conjunto de datos que ha sido preseleccionado por un motor definido por
software que identifica los nombres, pronombres, frases y connotaciones que son problemáticos en un contexto de privacidad.
Hasta ahora ha habido un desafío técnico relacionado con la semántica. A veces, el algoritmo no comprende las connotaciones, por
ejemplo, cuando el nombre de una calle debe ser pseudonimizado y reemplazado por “nombre de la calle”. Además, todavía existe cierta
incertidumbre en cuanto a qué fallos deben ser seudonimizados, ya que existen fallos históricos y / o fallos en el derecho penal que solo
deberían divulgarse si existe interés público.
Descripción de la solución:
El motor se basa en un modelo de aprendizaje automático que identifica palabras relacionadas con las reglas de privacidad y se refuerza
mediante la detección manual por parte de humanos. De este modo, el modelo se mejora continuamente en términos de velocidad y
calidad de seudonimización.
Camino a seguir:
Los pasos del proceso se realizan de forma lenta y cuidadosa para garantizar que no haya sesgos en el conjunto de datos de
entrenamiento. El propietario del proyecto reconoce la importancia de lograr la confianza entre los futuros usuarios (jueces) y el gobierno
para lograr los objetivos del proyecto. Por lo tanto, se está aplicando un enfoque basado en debates para crear conciencia y lograr
confianza en los resultados del proyecto con las partes interesadas y los usuarios pertinentes.
Además de lo anterior, la administración judicial danesa tiene una hoja de ruta de innovación (para el progreso del trabajo), que tiene
como objetivo reemplazar los sistemas más esenciales pero obsoletos que actualmente no satisfacen las necesidades administrativas. Un
objetivo principal es determinar si la tecnología puede respaldar los procesos administrativos identificados y mejorar la comunicación y la
innovación.
DK, nombre del proyecto: exploración del uso de tecnología de reconocimiento facial para la identificación de víctimas en
material de abuso sexual infantil
Perfil breve
Título del proyecto: Explorando el uso de la tecnología de reconocimiento facial para la identificación
de víctimas en material de abuso sexual infantil
La Policía Nacional Danesa (DNP) está explorando los usos potenciales de la tecnología de reconocimiento facial con fines de
identificación en las investigaciones de abuso infantil.
35
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Desarrollado internamente.
Descripción de la solución:
Se prueba si la tecnología se puede utilizar para la identificación de víctimas en material de abuso sexual infantil. Sin embargo, la
tecnología aún no se ha implementado en ningún caso vivo debido a consideraciones políticas y legales.
Camino a seguir:
El proyecto espera una evaluación política y legal. Sin embargo, el DNP está siguiendo los desarrollos en la tecnología de reconocimiento
facial con un enfoque en sus implicaciones, beneficios, etc. para informar aún más las discusiones en esta área.
Estado del proyecto: En curso / Comenzado en febrero de 2019. El proyecto está cerca del final de la fase de aclaración y entrará en la
fase de implementación el lunes 3 de febrero de 2020
Perfil breve
El proyecto apunta a optimizar los horarios de las reuniones judiciales. Por ejemplo, un fiscal podría tener diez reuniones estándar que no
requieren mucha preparación, pero cinco reuniones o menos que requieren un tiempo de preparación significativo. Como tal, la
programación debe tener eso en cuenta. El objetivo del proyecto es tener un sistema de alta calidad que reduzca el tiempo de viaje y
equilibre el tiempo de preparación para las reuniones judiciales. Se espera que aumente la productividad en un 30% en general en
comparación con la productividad actual del personal de planificación de tribunales. La idea es que el proyecto sea de gran ayuda para el
personal (un equipo de 60 personas). El proyecto ayudará a la asignación de reuniones judiciales que se celebren con un año de
antelación.
Combinación de desarrollo comercial y personalizado (COTS). Utiliza Microsoft Outlook / Exchange, con desarrollo personalizado que
utilizará .Net y ML.Net de Microsoft y potencialmente TensorFlow.
Descripción de la solución:
La funcionalidad del Digital Court Planner consiste en asignar fechas, horas y ubicaciones de reuniones a los fiscales en función de su
perfil (experiencia, competencias, asignación específica de la corte, tiempo de preparación del caso, número de reuniones judiciales
semanales y quincenales, agrupación de reuniones estándar, trabajo horario, disponibilidad, complejidad del caso, etc.).
36
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Camino a seguir:
El proyecto entregará un sistema que entrará en una fase piloto durante dos meses antes de entrar en producción. Se espera que entre en
funcionamiento en octubre de 2020 o antes.
Perfil breve
Existe un gran volumen de material de investigación (como videos) que los investigadores deben analizar de manera más rápida y
eficiente para impactar la lucha contra la agresión sexual y / o el abuso infantil.
N/A
Descripción de la solución:
Es un proyecto a pequeña escala que se utilizará en la lucha contra los delitos de agresión sexual y / o abuso infantil. La herramienta está
actualmente en desarrollo. El objetivo es utilizar hash perceptual para comparar el hash de un video (con contenido relacionado con
agresión o abuso sexual) con los videos hash de otros servidores y discos duros de computadora. La herramienta puede entonces
detectar automáticamente si el mismo video está presente en otros discos duros / servidores / unidades, incluso si el video se ha acortado
o editado.
Camino a seguir:
N/A
Perfil breve
37
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Entre el gran volumen de material relacionado con el abuso sexual infantil, es fundamental abordar primero los casos más urgentes.
N/A
Descripción de la solución:
El proyecto tiene como objetivo desarrollar una herramienta para analizar material relacionado con el abuso sexual de niños y priorizar y
abordar primero los casos más graves. Esta herramienta utilizará IA (aprendizaje automático) para aprender a evaluar qué casos son
peores que otros.
Camino a seguir:
N/A
ESTONIA
Perfil breve
Tipo de tecnología AI: Aprendizaje automático / Aprendizaje profundo; Procesamiento del lenguaje natural
(NLP); Reconocimiento de voz
38
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Desarrollo a medida, basado en productos existentes de la organización e implementado por un equipo de desarrollo interno.
Descripción de la solución:
Se puede utilizar en todo tipo de procedimientos judiciales para producir actas automáticamente.
Camino a seguir:
N/A
FINLANDIA
Estado del proyecto: En curso / octubre de 2018 - septiembre de 2020, el piloto comienza en la primavera de 2020
Perfil breve
Título del proyecto: Anonimización automatizada y descripción del contenido de documentos que
contienen datos personales (Anoppi)
Tipo de tecnología AI: Sistemas expertos y sistemas basados en reglas; Lenguaje natural
Procesando (PNL); Nombrada Entidad
Reconocimiento
Descripción del Proyecto
Actualmente, las decisiones judiciales en Finlandia se anonimizan y publican manualmente. El objetivo es automatizar este proceso con el
procesamiento del lenguaje natural (NLP). Dependiendo de los resultados del piloto, el plan es implementar el software en todos los
tribunales finlandeses.
El proyecto implementará dos herramientas de lenguaje de inteligencia artificial basadas en tecnología para la anonimización automática
y la descripción del contenido de las decisiones judiciales y otras decisiones oficiales emitidas por las autoridades. Con la ayuda de las
nuevas aplicaciones, se puede mejorar la disponibilidad electrónica de documentos, por ejemplo, para la toma de decisiones y la
investigación.
Debido a que el proyecto se basa en código abierto, el Ministerio de Justicia no tiene acceso al software de back office y, por lo tanto, se
produjeron algunos problemas tecnológicos.
Descripción de la solución:
39
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
El sistema de TI se basa en sistemas expertos y sistemas basados en reglas que utilizan tecnología del lenguaje que reconoce palabras
y entidades en la decisión judicial y sugiere automáticamente qué anonimizar. El proyecto implementará dos herramientas de lenguaje de
inteligencia artificial basadas en tecnología para la anonimización automática y la descripción del contenido de las decisiones judiciales y
otras decisiones oficiales emitidas por las autoridades. Con la ayuda de las nuevas aplicaciones, se puede mejorar la disponibilidad
electrónica de documentos, por ejemplo, para la toma de decisiones y la investigación.
Camino a seguir:
N/A
FRANCIA
Perfil breve
Tipo de tecnología AI: Aprendizaje automático / Aprendizaje profundo; Procesamiento del lenguaje
natural (NLP); Extracción de información
El proyecto DataJust tiene como objetivo predecir el monto de la compensación por diversas reclamaciones por lesiones corporales y, en
consecuencia, a:
o mejorar la información de las víctimas sobre la indemnización que tienen derecho a reclamar por lesiones corporales, así como
mejorar la información de aseguradoras, abogados y jueces en este ámbito, proporcionando un marco indicativo para cada
tipo de perjuicio basado en la jurisprudencia judicial;
o armonizar estas indemnizaciones, sin perjuicio de las facultades soberanas del juez, independientemente del hecho que haya
originado el daño corporal (responsabilidad médica, accidente de tráfico, terrorismo, etc.); y
El proyecto resolvería un problema humano en lugar de empresarial. En particular, ayudaría a las víctimas a evaluar el monto de las
indemnizaciones que podrían reclamar por las lesiones causadas por la parte responsable y a involucrar mejor a los profesionales legales
en el proceso. Actualmente, existen asimetrías de información entre los montos de indemnizaciones reclamadas por las víctimas y los
terceros responsables, incluidas las compañías de seguros, debido a
40
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
el tecnicismo de esta área del derecho. Esto a menudo conduce a procedimientos de compensación prolongados y oportunos.
Además, en previsión de las reformas en la ley francesa de responsabilidad extracontractual, la herramienta ayudará en la redacción de estudios de
impacto que acompañan a la adopción de normas legales.
Se espera que el proyecto esté abierto a todo tipo de usuarios - individuos e instituciones - y
o lograr una mejor información e indemnización de las víctimas para abordar las asimetrías de información entre las víctimas, las
compañías de seguros y los terceros responsables;
El proyecto DataJust plantea preocupaciones éticas relacionadas con el impacto de la tecnología de inteligencia artificial en el campo de
la compensación por reclamaciones por lesiones corporales. La información precisa entregada al público y a los jueces sobre los montos
de compensación generalmente asignados por los tribunales puede tener un efecto de estandarización en las decisiones de las
aseguradoras y los tribunales en el futuro. Por lo tanto, la metodología utilizada en el proyecto debe garantizar que la información
generada por la base de datos no reproduzca sesgos de juicio y discriminaciones (por ejemplo, entre hombres y mujeres).
Descripción de la solución:
El Ministerio de Justicia tiene como objetivo desarrollar una herramienta fácil de usar. Se basaría en indicadores de referencia
relacionados con la víctima, por ejemplo, género, edad, ubicación, naturaleza y gravedad de la lesión corporal en función de la
experiencia médica. La herramienta analizará estos datos y los relacionará con datos de víctimas con perfiles similares de sentencias
anteriores con el fin de sugerir a la víctima un monto óptimo de indemnizaciones que podría reclamar, para cada tipo de perjuicio extra
patrimonial. Los fallos respectivos también se mostrarían a la víctima como referencia. Las sentencias serán seudonimizadas para que
sean accesibles al público. Esto se alinea con el proyecto paralelo en curso bajo el concepto de opendata para hacer públicas todas las
sentencias judiciales.
Camino a seguir:
En esta etapa del proyecto DataJust, el Ministerio de Justicia aún no tiene derecho a utilizar los datos. Una vez que se publique el decreto
sobre el proyecto, se desarrollarán algoritmos y los datos se utilizarán para crear estadísticas disponibles públicamente.
Perfil breve
41
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Se trata de un estudio de viabilidad para la creación de un prototipo de registro de información civil. El proyecto tiene como objetivo
comunicar el uso de tecnologías innovadoras en la administración y demostrar cómo blockchain / DLT se puede utilizar más en otras
administraciones.
N/A
Descripción de la solución:
N/A
Camino a seguir:
Los resultados sobre si continuar o no con la implementación del proyecto PreNIUM se comunicarán a fines de 2020.
Perfil breve
Tipo de tecnología AI: Aprendizaje automático / Aprendizaje profundo; Procesamiento del lenguaje natural
(NLP); Reconocimiento de entidad nombrada
El objetivo del proyecto es proporcionar una seudonimización automatizada y más rápida de las decisiones de los tribunales franceses. La
herramienta resuelve el problema empresarial con más del 70% de precisión y mayor productividad (con IA que automatiza actividades
rutinarias de bajo valor), en particular asegurando la coherencia en las decisiones (por ejemplo, juicios) y asegurando
42
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
repetibilidad / reproducibilidad (por ejemplo, juicios) para fines de verificación. Cumple con las expectativas.
Con la herramienta implementada, se publicarán más de 4 millones de sentencias judiciales al año de acuerdo con la ley relativa a datos
abiertos de sentencias. Actualmente, la anonimización la realizan diez agentes y una máquina, lo que no es adecuado para el volumen de
decisiones.
Descripción de la solución:
Los desafíos técnicos encontrados incluyen la infraestructura de TI obsoleta y la renuencia del proveedor anterior del software de
seudonimización a cooperar con el equipo técnico a cargo del desarrollo de la IA.
Camino a seguir:
N/A
ALEMANIA
DE, nombre del proyecto: proyecto de investigación para luchar contra la pornografía infantil
Estado del proyecto: En curso / Abril 2019 ( fase operativa) ( POC y pruebas); Comenzó a construir el proceso en el primer trimestre de
2019 y comenzó a capacitarse en el último trimestre de 2019.
Perfil breve
País, Organización: Alemania, Ministerio de Justicia de Renania del Norte-Westfalia Proyecto de investigación
Tipo de tecnología AI: Aprendizaje automático / Aprendizaje profundo; Visión por computador
Todo magistrado tiene derecho a dirigirse al equipo del Departamento Central de Delitos Cibernéticos con una pregunta general. A fines
de 2016 y principios de 2017, colegas se acercaron al Departamento Central de Delitos Cibernéticos para indicar que el tiempo requerido
para revisar manualmente los archivos de casos de pornografía infantil individuales era demasiado largo, lo que resultó en un impacto
negativo.
43
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
sobre la duración y la eficacia de las investigaciones. Por tanto, los principales objetivos son mejorar la eficiencia de la justicia logrando un
tiempo de juicio más rápido y aumentando el número de sentencias en menos tiempo.
Desarrollo a la medida
Descripción de la solución:
Creación de un sistema que identifica datos de forma independiente, especialmente archivos de fotos que tienen contenido de pornografía
infantil, mediante IA.
Camino a seguir:
La etapa actual del proyecto es la formación de la solución de IA. La siguiente etapa sería probar la solución en un caso real. El paso
siguiente sería el desarrollo en un entorno de producción. Esto debe ser revisado por las autoridades responsables. Se espera la
evaluación de las habilidades de inteligencia artificial para fines del primer trimestre de 2020, después de lo cual se completará la parte de
investigación del proyecto.
DE, nombre del proyecto: identificación de delitos de odio en las redes sociales
Estado del proyecto: En curso / Comenzado en el tercer trimestre de 2013 (actualmente entrenando AI para tener un sistema de puntuación)
Perfil breve
En una situación continua y creciente, las redes sociales se utilizan para propagar mensajes y discursos de odio. El Departamento Central
de Delitos Cibernéticos de Renania del Norte-Westfalia inició un proyecto que tiene como objetivo filtrar las publicaciones que contienen
incitación al odio, según se informó a las autoridades, y que podrían clasificarse como actos delictivos.
Desarrollo a la medida
Descripción de la solución:
La organización se asoció con una universidad (ingenieros y abogados) para calificar los puestos y la probabilidad de que califiquen como
delitos ilegales. Proporcionaron a estos expertos todo el material (aproximadamente 800 expedientes) de casos de delitos de odio para
capacitar al sistema, que será un sistema de puntuación. El objetivo principal será desarrollar un sistema autónomo
44
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
que podría ayudar a filtrar e identificar mejor los discursos de incitación al odio que aparecen en publicaciones / comentarios en plataformas
de noticias y medios, y para informar de manera eficiente tales casos a los fiscales.
Camino a seguir:
El Departamento Central de Delitos Cibernéticos del equipo de Renania del Norte-Westfalia confía mucho en el objetivo del proyecto y sus
resultados futuros, y se prevé un taller en un futuro próximo para evaluar qué más se puede proporcionar / mejorar.
Perfil breve
Actualmente, las salas de audiencias no permiten grabaciones de video; todo en el proceso penal se hace oralmente y se transcribe
manualmente. Esto da como resultado una situación en la que los hechos y las pruebas podrían no transmitirse con precisión, y se invierte
mucho tiempo y esfuerzo en tomar notas manualmente de los principales hechos y pruebas del proceso.
Desarrollo a la medida.
Descripción de la solución:
El objetivo es crear salas de tribunal modernas que permitan la grabación de video y el reconocimiento de voz a texto. Todos los
participantes tendrán un PDF híbrido de la transcripción y el archivo de audio incrustado estará en el protocolo PDF. También se está
considerando la proyección en 3D de escenas del crimen.
Camino a seguir:
N/A
DE, Nombre del proyecto: Componente de análisis del catastro en el proyecto "Desarrollo de una base de datos del catastro
federal"
Estado del proyecto: En curso / Iniciado en mayo de 2016. Está previsto que finalice en diciembre de 2020.
Perfil breve
45
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Título del proyecto: Componente de análisis catastral en el proyecto "Desarrollo de una base de datos
federal catastral"
El objetivo del proyecto es implementar un análisis automático de los registros catastrales PDF existentes, fragmentarlos y asignar los
valores a un campo de base de datos. Este proceso permitirá almacenar los contenidos de forma más estructurada en una base de datos.
Descripción de la solución:
N/A
Camino a seguir:
N/A
Estado del proyecto: En curso / Iniciado en junio de 2018. Fecha de finalización: diciembre de 2020. Actualmente en fase
Perfil breve
Tipo de tecnología AI: Aprendizaje automático / Aprendizaje profundo; Sistemas expertos y sistemas basados
en reglas
Descripción del Proyecto
Brindar un servicio de traducción automática seguro, con el objetivo de mejorar la eficiencia de la justicia. La herramienta facilitará la
obtención de información mejor y más rápida sobre los datos disponibles.
46
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
La traducción automática será el primer acceso a documentos en idiomas extranjeros, pero las traducciones humanas también seguirán
siendo necesarias en el futuro.
Descripción de la solución:
N/A
Camino a seguir:
N/A
Estado del proyecto: En curso / Iniciado en abril de 2019. Finalizando en abril de 2020. Actualmente
Perfil breve
Tipo de tecnología AI: Sistemas expertos y sistemas basados en reglas; Procesamiento del lenguaje
natural (NLP)
Descripción del Proyecto
Este proyecto en curso se centra en proporcionar un servicio seguro de traducción automática con el objetivo de: apoyar las
investigaciones de los fiscales mediante la estructuración de archivos; mejorar la eficiencia de la justicia; adquirir conocimientos a partir de
los datos disponibles; y proporcionar informes y visualización. En términos de tecnología, la solución está basada en reglas.
La herramienta es una solución comercial personalizada, basada en Machine Learning y sistemas Expert y tecnología de sistema basada
en reglas.
Descripción de la solución:
N/A
Camino a seguir:
N/A
47
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
HUNGRÍA
Perfil breve
Este proyecto explora el uso de software de reconocimiento y transcripción de voz en los tribunales y tiene como objetivo facilitar el
cumplimiento de los plazos asociados a la obligación de poner por escrito las decisiones y actas. También resultaría en un uso más
eficiente del tiempo de trabajo al reducir el tiempo dedicado a la transcripción. En 2018, se compraron 726 licencias de reconocimiento de
voz y transcripción para los tribunales.
N/A
Descripción de la solución:
N/A
Camino a seguir:
N/A
IRLANDA
IE, nombre del proyecto: evaluar el potencial de las tecnologías de coincidencia facial como ayuda para el proceso de
recopilación de inteligencia
Perfil breve
48
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Esta prueba de concepto continua (PoC) tiene como objetivo evaluar el potencial de las tecnologías de coincidencia facial como una ayuda para el
proceso de recopilación de inteligencia, mediante la identificación de personas a partir de grandes volúmenes de datos.
N/A
Descripción de la solución:
N/A
Camino a seguir:
N/A
ITALIA
Estado del proyecto: En curso / 20 de junio de 2018 - 31 de diciembre de 2020 (primer lanzamiento)
Perfil breve
Tipo de tecnología AI: Aprendizaje automático / Aprendizaje profundo; Procesamiento del lenguaje natural
(NLP)
La Defensoría del Estado utiliza un Sistema de Gestión de Casos (CMS) llamado Nuovo Sistema Informativo, que incluye funciones de
colaboración y gestión de documentos, etc.
49
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
permite diferentes tipos de búsquedas en toda la base de datos que contiene más de
400.000 documentos.
Avvocatura 2020 se basará en el CMS e implementará tecnología de inteligencia artificial en términos de gestión de roles, clasificación y
categorización de documentos, reconocimiento de patrones y análisis de texto utilizando Machine Learning. En comparación con el CMS
actual, que permite búsquedas solo en datos estructurados, el nuevo realizará minería de texto en documentos no estructurados.
El proyecto tiene como objetivo transformar el modelo operativo del Fiscal General para
• mejorar la eficiencia y asegurar la eficacia de los procesos internos de la organización, incrementar la transparencia y eficacia
• en su relación con las administraciones públicas y los grupos de interés externos, y
Hasta ahora, se han encontrado algunos desafíos en términos de lenguaje legal, errores tipográficos, numeración de páginas,
reconocimiento de algunas entidades y protección de datos. Se estableció un comité técnico para redactar las reglas a seguir con el fin de
abordar estos desafíos y realizar cambios.
Desarrollo a medida por un proveedor externo (consorcio entre Leonardo, IBM y Accenture, liderado por este último).
Descripción de la solución:
La solución aplicará la PNL, en particular el reconocimiento de entidades designadas y la extracción de información. Hará uso de
algoritmos de clasificación. El formato del conjunto de datos de entrenamiento no está estructurado (textos, imágenes). El conjunto de
datos se ha construido a partir de datos heterogéneos que cubren todo tipo de objetivos.
Camino a seguir:
N/A
TI, nombre del proyecto: Justicia predictiva: una base de datos para proporcionar pautas predecibles y tiempos en áreas
particulares
Perfil breve
Título del proyecto: Justicia predictiva: una base de datos para proporcionar pautas predecibles y
tiempos en áreas particulares
Tipo de tecnología AI: Sistemas expertos y sistemas basados en reglas; Lenguaje natural
Procesando (PNL) (Nombrada Entidad
Reconocimiento; Extracción de información)
50
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
El objetivo es simplificar el trabajo administrativo para lograr una sincronización más eficiente y prácticas de jurisprudencia más efectivas.
La solución de TI se desarrolla a medida, ya que ningún COTS o solución de código abierto podría satisfacer las necesidades administrativas.
Descripción de la solución:
La solución está utilizando el reconocimiento de entidades nombradas (por ejemplo, detectar entidades como personas y ubicaciones en
los textos) y la extracción de información (por ejemplo, extraer varios tipos de información, como patrones y tendencias en los textos).
Camino a seguir:
N/A
IT, Nombre del proyecto: Investigación dentro del proyecto "La ciudad de la justicia simple: simplificación y reducción de
cargas administrativas en el contexto de la resolución de disputas civiles"
Perfil breve
Título del proyecto: Ricerca nell'ambito del progetto “La città della Giustizia semplice: semplificazione e
riduzione degli oneri amministrativi nell'ambito della risoluzione delle controversie
civili”
Tipo de tecnología AI: Aprendizaje automático / Aprendizaje profundo; Procesamiento del lenguaje
natural (NLP) (reconocimiento de entidad nombrada; información
Extracción; Sentimiento Análisis);
Reconocimiento de voz; Visión por computador; Mejoramiento
Los objetivos clave del proyecto son la creación de modelos o algoritmos capaces de incorporar las valoraciones preventivas de los
mediadores, así como la capacidad de valorar las disputas para anticipar la probabilidad de éxito de la mediación en beneficio de las
partes y / o del juez. .
51
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
La solución de TI se está desarrollando internamente ya que hay equipos familiarizados con las necesidades administrativas.
Descripción de la solución:
El sistema se implementará pronto al recopilar las decisiones de Spec. Canchas de Roma y Nápoles en el campo de competición. Más
específicamente, utiliza sistemas expertos y sistemas basados en reglas (simbólicos, por ejemplo, reglas definidas manualmente en una
base de conocimientos).
Camino a seguir:
N/A
Perfil breve
Tipo de tecnología AI: Predicción; Análisis legal (por ejemplo, extraer patrones, tendencias de juicios
pasados); Búsqueda Avanzada
Este es un proyecto conjunto con la Escuela de Estudios Avanzados Sant'Anna en Pisa y CNR, autorizado por el Ministerio. Se trata de
un algoritmo predictivo de decisiones judiciales basado en el análisis semántico de decisiones anteriores.
El objetivo principal es construir algoritmos analíticos y predictivos para la jurisprudencia. El objetivo secundario es asegurar el
conocimiento necesario del algoritmo. En otras palabras, la organización intenta no solo desarrollar herramientas de análisis, sino también
poder explicar cómo funcionan. Muchas de las herramientas de ciencia de datos que se pueden utilizar para extraer conocimiento de los
datos producen resultados cuya lógica es difícil de entender para los humanos dada la cantidad de variables utilizadas. El proyecto
pretende no solo dedicarse a la construcción de algoritmos analíticos sino también a desarrollar herramientas adecuadas para explicar su
lógica de funcionamiento. Por eso, la colaboración de los magistrados es fundamental.
La solución de TI se desarrolla a medida. Ninguna solución COTS o de código abierto podría satisfacer las necesidades administrativas;
Problemas de confianza / confidencialidad con una solución COTS; Cultura preexistente de uso de productos personalizados en la
organización; Existe un equipo de desarrollo interno y está familiarizado con las necesidades administrativas.
Descripción de la solución:
52
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
El sistema mejorará la eficiencia de la justicia, adquirirá conocimientos a partir de los datos disponibles y creará informes y
visualizaciones.
Camino a seguir:
N/A
Perfil breve
Título del proyecto: PCT - Processo Civile Telematico (* Proceso civil telemático)
Tipo de tecnología AI: Aprendizaje automático / Aprendizaje profundo; Visión por computador
Los objetivos clave del proyecto son: mejorar la eficiencia de la justicia; mayor productividad (con IA que automatiza actividades rutinarias
de bajo valor); tiempo de prueba más rápido; y una "tasa de resolución" mejorada, por ejemplo, el número de casos procesados.
La solución se desarrolla a medida. Ninguna solución COTS o de código abierto podría satisfacer las necesidades administrativas; existen
preocupaciones de confianza / confidencialidad con una solución COTS.
Descripción de la solución:
N/A
Camino a seguir:
N/A
Perfil breve
53
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Este proyecto en curso complementa el sistema de TI existente del Tribunal de Ravenna mediante la introducción de una solución de
firma digital y almacenamiento de datos en una cadena de bloques privada / consorcio autorizada.
N/A
Descripción de la solución:
N/A
Camino a seguir:
N/A
Perfil breve
Los objetivos clave del proyecto son el desarrollo de un sistema de inteligencia artificial destinado a proporcionar estadísticas en el campo
de la cooperación judicial en materia penal; y análisis de datos en el ámbito de la cooperación internacional en materia penal, logrado
mediante la detección de determinados datos en diferentes documentos, tales como órdenes de aprehensión, traslados, extradiciones,
etc.
54
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
La solución es una solución comercial "lista para usar" (COTS) que utiliza IBM Watson. Está personalizado para adaptar las
características del sistema al de la cooperación internacional en materia penal.
Descripción de la solución:
Mejora de la eficiencia de la justicia; Mejorar la satisfacción del 'cliente', donde cliente se refiere a todas las partes interesadas
involucradas en un caso; Adquirir conocimientos a partir de los datos, informes y visualización disponibles; Proporcionar estadísticas
sobre cooperación internacional en materia penal, a través de la lectura “inteligente” de las acciones incluidas en el protocolo informático
de la organización ministerial (órdenes de captura, traslados, extradiciones, etc.)
Camino a seguir:
N/A
TI, nombre del proyecto: anonimización semiautomática de entidades con nombre sensibles en documentos de texto
Perfil breve
El proyecto tiene como objetivo investigar y utilizar técnicas innovadoras de PNL e IA, supervisadas y no supervisadas, incluido el
aprendizaje automático y el aprendizaje profundo, para identificar automáticamente entidades con nombre sensibles (tanto entidades
físicas como legales) e información sensible relacionada como candidatos para la anonimización.
El enfoque y la metodología tienen como objetivo lograr un proceso mayoritariamente automatizado, adaptado y personalizado con
respecto al tipo y categorías de documentos sujetos a anonimización, y a las políticas de la entidad judicial responsable de la
anonimización. La validación humana manual podría ser necesaria en algunos casos, con el apoyo de una interfaz de usuario viable.
55
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
La solución se desarrolla a medida. Metodologías y técnicas experimentales de IA a la vanguardia o al avance del estado científico del
arte. En cualquier caso, utilizando bibliotecas analíticas y de PNL de código abierto (siguiendo las políticas y restricciones del sistema
operativo de la organización).
Descripción de la solución:
Automatizar los procesos administrativos, en particular la automatización del flujo de trabajo legal; Mejora de la eficiencia de la justicia;
Mejorar la satisfacción del 'cliente', donde cliente se refiere a todas las partes interesadas involucradas en un caso; Exactitud; Mayor
productividad (con IA que automatiza actividades rutinarias de bajo valor).
Camino a seguir:
N/A
Perfil breve
País, Organización: Italia, Procura della Repubblica c / o Tribunale di Cosenza (* Fiscalía del
Tribunal de Cosenza)
Título del proyecto: Giustizia penale e intelligenza artificiale (* Justicia penal e inteligencia artificial)
La solución se dirige a situaciones en las que es necesario vincular datos relacionados con diferentes procedimientos.
La solución es una solución de código abierto que utiliza TensorFlow, Keras y Scikit.
Descripción de la solución:
Una descripción indicativa de las actividades realizadas durante el proyecto incluye lo siguiente:
• modelado conceptual de datos relacionados con procedimientos de disposiciones anteriores junto con el desarrollo de una
taxonomía;
• diseño de un sistema de TI que respalde los procedimientos y las disposiciones basados en datos brutos; definición de
• métricas de similitud entre procedimientos;
56
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
• diseño de algoritmos de minería de datos y / o aprendizaje automático para identificar similitudes entre procedimientos;
• elaboración de modelos interpretativos, que pueden ser útiles para reducir contrastes, potencialmente susceptibles de ser
elaborados a través de herramientas informáticas; y
• diseño de un cuadro de mando para el seguimiento del comportamiento interpretativo y la identificación de comportamientos
desiguales.
Actualmente está en curso el desarrollo de un 'caso piloto' relacionado con la violencia de género. La solución utiliza árboles de decisión,
máquinas de vectores de soporte (SVM) y redes neuronales profundas (aprendizaje profundo, por ejemplo, redes neuronales
convolucionales y redes neuronales recurrentes).
Camino a seguir:
N/A
Perfil breve
A nuestro entender, la herramienta ayudaría con la gestión de documentos, específicamente en la firma digital de documentos, donde
abordaría grandes volúmenes de documentación de una manera segura y rastreable.
La herramienta está desarrollada a medida, basada en tecnologías como el intercambio de datos confiables y el "anclaje" de datos en
sistemas clásicos para garantizar su integridad. Funciona con una red privada de nodos.
Descripción de la solución:
Camino a seguir:
N/A
57
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
LITUANIA
LT, nombre del proyecto: análisis de redes, texto y oradores en tiempo real para combatir el crimen organizado - ROXANNE
Perfil breve
Título del proyecto: Análisis de redes, texto y oradores en tiempo real para combatir el crimen
organizado - ROXANNE
Tipo de tecnología AI: Aprendizaje automático / Aprendizaje profundo; Procesamiento del lenguaje natural
(NLP); Reconocimiento de voz
El proyecto producirá una herramienta para la investigación y mitigación del crimen organizado y actividades ilegales. Permitirá la
visualización de mapas generados de relaciones delictivas y permitirá la interoperabilidad e integración con herramientas más
convencionales ya utilizadas por las fuerzas del orden.
El uso de esta herramienta acelerará las investigaciones, reducirá la carga de trabajo por caso de investigación y ayudará a mapear las
relaciones según el análisis del habla, el lenguaje y el video.
N/A
Descripción de la solución:
ROXANNE proporcionará a las fuerzas del orden nuevas herramientas técnicas y un marco legal claro y eficiente para rastrear y descubrir
redes criminales organizadas (a menudo transfronterizas). El sistema hará uso de las ventajas combinadas de las tecnologías
disponibles. El sistema ROXANNE:
• incluir una plataforma de análisis para mejorar las capacidades de investigación, especialmente para grandes casos penales;
• Mejorar la identificación de personas de interés mediante el desarrollo de una interfaz bidireccional entre tecnologías
multimodales (como identificación de locutor, reconocimiento automático de voz, reconocimiento y resolución de entidades, así
como identificación de rostro / lugar / antecedentes) y análisis de redes criminales (como patrón delictivo y teorías de grafos); y
• Mejorar la tecnología de análisis de redes criminales para facilitar el proceso de toma de decisiones para las autoridades
encargadas de hacer cumplir la ley (policía).
El sistema incluirá un tablero para la visualización de los resultados de la investigación y la integración con las herramientas existentes.
Camino a seguir:
58
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
LUXEMBURGO
Estado del proyecto: En marcha. En producción en el Tribunal de Casación francés, actualmente en prueba en Luxemburgo entre
noviembre de 2019 y mayo de 2020
Perfil breve
Tipo de tecnología AI: Aprendizaje automático / Aprendizaje profundo; Procesamiento del lenguaje natural
(NLP)
Actualmente, Luxemburgo tiene una base de datos 338 donde se puede encontrar jurisprudencia públicamente disponible. Sin embargo, no
todas las sentencias judiciales se publican todavía en línea. Algunos solo están disponibles a petición del interesado. Las
administraciones judiciales de todo Luxemburgo anonimizan manualmente las sentencias.
La herramienta de inteligencia artificial, que el Ministerio de Justicia está probando actualmente, es utilizada por el Tribunal de Casación
francés para anonimizar las sentencias judiciales. Fue presentado al Ministerio por la empresa LEFEBVRE-SARRUT 339, que desarrolló la
herramienta para el Tribunal de Casación francés. El proveedor de la solución entrenó el algoritmo con las reglas de anonimización que
siguen los tribunales de Luxemburgo. Una vez que la máquina anonimiza una sentencia, los secretarios de la corte pueden revisarla y
verificar los resultados.
El objetivo final es aumentar el número de decisiones judiciales publicadas en línea mediante el uso de una herramienta de anonimización de
IA.
Hasta ahora, se ha detectado que el software no reconoce correctamente ciertos datos para anonimizarlos, por ejemplo, las placas de
matrícula de los vehículos. Por lo tanto, las partes continuarán con el proceso de anotación de reglas y entrenamiento del algoritmo.
El entorno multilingüe luxemburgués hace que sea más difícil establecer las reglas del algoritmo, ya que una decisión puede contener
pasajes de texto en diferentes idiomas.
El Ministerio de Justicia ve la falta de mano de obra como un desafío principal en su trabajo. Todos los proyectos de TI son manejados
por un total de ocho personas en las autoridades judiciales, tres de las cuales trabajan para el departamento de asistencia técnica de TI y
son responsables de 900 personas (jueces, fiscales y personal administrativo).
337 Véase también Proyecto del Tribunal de Casación, Francia, seudonimización de decisiones judiciales impulsada por IA.
338 https://justice.public.lu/fr/jurisprudence.html
339 https://www.lefebvre-sarrut.eu/en/homepage/
59
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Las otras cinco personas son ingenieros de TI que gestionan varios proyectos de TI y aplicaciones administrativas, incluidos proyectos
europeos como ECRIS-TCN, EPPO, eEvidence / EXEC, etc.
Camino a seguir:
El Ministerio de Justicia prefiere explorar los proyectos de tecnología de innovación que otros Estados miembros han implementado para
volver a emplearlos de la mejor manera posible.
Se están considerando algunas adaptaciones a las regulaciones nacionales, por ejemplo, prohibir la justicia predictiva o adaptar las
regulaciones de datos abiertos con respecto a los resultados de búsqueda de sentencias judiciales para aumentar la seguridad. Como
ejemplo de una medida de seguridad, actualmente la jurisprudencia solo se puede buscar a través del motor de búsqueda en el sitio web
de las autoridades judiciales, pero no a través de motores de búsqueda públicos como Google.
Las autoridades judiciales también están dispuestas a crear un repositorio común para casos penales y un sistema de gestión de
documentos debidamente manejado alineado con sus reglas de archivo. El Ministerio de Justicia y las autoridades judiciales prevén
conectarse al eCODEX 340.
MALTA
Perfil breve
El Proyecto Notarypedia utiliza IA para hacer que la historia y la cultura de Malta sean más accesibles. El objetivo de este proyecto es
digitalizar documentos manuscritos históricos e investigar cómo hacer que las búsquedas en bibliotecas digitales sean más versátiles
utilizando representaciones gráficas que permitan la generación automática de diferentes vistas lógicas, que
340 https://www.e-codex.eu/
341 https://notarypedia.mt/
60
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
integraría elementos de información para proporcionar una experiencia de usuario más interesante y útil.
La herramienta identifica datos de interés para notarios, como nombres, fechas y lugares. El proyecto está disponible en línea. El primer
avance incluye tres manuscritos notariales transcritos por voluntarios de la Universidad de Malta. Se trata del único conjunto completo de
manuscritos transcritos y publicados de la colección que data del siglo XV, con un total de 981 escrituras.
En términos de desafíos, es necesario estructurar, escanear y transcribir una gran cantidad de documentos al inglés. Los datos son
introducidos manualmente en la herramienta por humanos y, por lo tanto, son escasos en esta etapa debido al pequeño número de
voluntarios. Por lo tanto, el Departamento de Justicia está trabajando en estrecha colaboración con la Universidad de Malta para
encontrar más voluntarios.
Desarrollo a la medida
Descripción de la solución:
La solución se evaluó en función de una serie de criterios y se estimó como "precisa" con las siguientes puntuaciones de rendimiento:
El conjunto de datos de entrenamiento se clasifica como semiestructurado (por ejemplo, XML, JSON). Aplica una tecnología NLP ML, en
particular el reconocimiento de entidades nombradas y la extracción de información, y utiliza algoritmos para la clasificación, como KNN,
TensorFlow y Support Vector Machines.
Camino a seguir:
Perfil breve
61
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Malta está ahora en el proceso de convertir las versiones disponibles digitalmente de la legislación maltesa, que actualmente están en
formato PDF, a un formato legible por máquina, comenzando con la legislación anterior. El objetivo es crear versiones digitales legibles de
la jurisprudencia. Actualmente, los profesionales del derecho y el público en general utilizan el portal de tribunales electrónicos 342 para
consultar la jurisprudencia, pagar las tasas judiciales, obtener información sobre los procedimientos de insolvencia, etc. Los tribunales
electrónicos se utilizan como un portal de ventanilla única; sin embargo, los abogados tienen acceso ampliado y pueden, por ejemplo,
obtener plantillas de documentos. Semantics4courts tiene como objetivo ayudar al poder judicial a identificar las leyes relacionadas con el
caso en cuestión. Utilizará legislación.mt 343
y el Identificador de legislación europea (ELI) 344 como fuentes de datos. Actualmente, el poder judicial utiliza sus propios sistemas para
buscar información manualmente. Semantics4Court extraerá información del portal de tribunales electrónicos y de la legislación.mt y
remitirá los casos a otros casos y legislación.
La idea es implementar una capa semántica para los servicios de los tribunales a través de la cual los documentos legales como las
sentencias se enriquecen semánticamente, se vinculan y, por lo tanto, se pueden buscar más fácilmente.
Después de identificar las necesidades a través del PoC, el Departamento de Justicia puede utilizar una herramienta disponible en el
mercado.
Descripción de la solución:
La solución utiliza el reconocimiento de entidades nombradas y la extracción de información como tecnología ML para PNL con un
conjunto de datos semiestructurado (por ejemplo, XML, JSON). Los algoritmos de clasificación utilizados son Bosques aleatorios,
Máquinas de vectores de soporte y Redes neuronales profundas.
Camino a seguir:
N/A
Perfil breve
342 https://ecourts.gov.mt/onlineservices/
343 https://legislation.mt/
344 https://ec.europa.eu/isa2/solutions/european-legislation-identifier-eli_en
62
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Área de justicia: Cualquier campo o dominio donde se necesite una aprobación como parte de un
proceso administrativo
La solución tiene como objetivo eliminar o reducir la necesidad de una entidad central o intermediario.
Descripción de la solución:
DigiAkkoord es una aplicación reutilizable para todo el gobierno que respalda el proceso de aprobación de manera uniforme para todos
los diferentes tipos de flujos de trabajo, transacciones y documentos, para todo el gobierno y todas las partes interesadas y aplicaciones
de su ecosistema. Su objetivo es reducir la necesidad de intermediarios, aumentar la integridad de los datos y la eficiencia operativa y
proporcionar más trazabilidad.
La ganancia esperada es tener un registro no repudiable de una decisión en respuesta a una solicitud de aprobación, incluida la posición
de información exacta en la que se basó la decisión, en un momento en que es cada vez más importante para los gobiernos demostrar el
cumplimiento y estar plenamente informados consentimiento.
El proyecto aún se encuentra en fase de prueba. El aspecto blockchain aborda principalmente la necesidad de trazabilidad. La propia
aplicación respalda el consentimiento informado, del cual la trazabilidad es un mero requisito previo.
Camino a seguir:
N/A
Perfil breve
País, Organización: Países Bajos, Ministerio de Justicia y Seguridad The Financial Emergency
63
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Este proyecto aborda la cuestión de cómo las agencias gubernamentales pueden intercambiar información para proteger a los
ciudadanos vulnerables sin violar la legislación GDPR.
Una solución personalizada 'lista para usar', con una solución de TI Hyperledger (Fabric u otro subproyecto Hyperledger).
Descripción de la solución:
Proporcionar a los ciudadanos una forma a prueba de GDPR para declarar la imposibilidad de pago. El proyecto se ocupa de un grupo de
ciudadanos vulnerables que tienen situaciones financieras difíciles y problemas de reembolso de préstamos. El uso de la solución
permitirá a las organizaciones encargadas de cobrar deudas obtener información oportuna sobre el deudor para contactarlo y concertar
otros arreglos de reembolso del préstamo. El deudor tendría una billetera digital personal (basada en blockchain) capaz de enviar
información específica sobre su situación a la organización cobradora, de acuerdo con las disposiciones del RGPD, lo que permitiría a la
organización cobradora discutir la situación y hacer arreglos directamente con el deudor.
Camino a seguir:
El proyecto se encuentra ahora en la etapa piloto. La implementación está prevista para 2020/2021.
NL, Nombre del proyecto: Proyecto piloto de identidad digital de viajero conocido (KTDI)
Estado del proyecto: En curso / Verano 2020 - finales de 2020 (posible 6 meses +
prolongación)
Perfil breve
País, Organización: Países Bajos, Ministerio de Justicia y Seguridad Proyecto piloto de identidad
Hyperledger
La posibilidad de que los pasajeros viajen por el aeropuerto siguiendo un proceso de seguridad simplificado contribuiría a la eficiencia y
eficacia de todo el proceso. Esto es desde la perspectiva tanto del viajero (que quiere una experiencia lo más fluida posible) como de las
organizaciones públicas y privadas (que hacen uso de tecnologías descentralizadas).
64
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Es una solución personalizada 'lista para usar', basada en tecnología de código abierto (Hyperledger Fabric).
Descripción de la solución:
El proyecto tiene como objetivo probar la viabilidad de una identidad digital durante el viaje de un pasajero de un extremo a otro, desde la
perspectiva del viajero, así como de organizaciones públicas y privadas. Toda la información de los pasajeros se cargará por adelantado.
Las autoridades fronterizas holandesas y canadienses cuentan con sistemas de control fronterizo que se conectarán a la solución
blockchain. Las aerolíneas cuentan con sistemas de control de salidas que también se conectarán a la solución blockchain. Alimentada
por estos sistemas, la herramienta conocería los datos de los pasajeros y podría reconocer a un pasajero basándose en una imagen
facial. Los pasajeros que pasen por el control de pasaportes y el check-in del aeropuerto serían reconocidos por el sistema mediante un
escaneo visual, lo que permitiría que el control de pasaportes y el check-in se realizaran automáticamente.
El proyecto es una colaboración entre el gobierno holandés, KLM, el aeropuerto de Schiphol y una organización canadiense. Para este
proyecto piloto, está previsto que la parte técnica se ejecute en el aeropuerto de Schiphol. El programa piloto real aún no ha comenzado;
todavía está en la fase preparatoria. La prueba está prevista para finales de este año, cuando aproximadamente 10.000 personas volarán
a Canadá.
Camino a seguir:
Si este proyecto tiene éxito, el aeropuerto de Schiphol podría recibir más pasajeros que en la actualidad, y el proceso de seguridad y
facturación sería más seguro. La idea óptima sería conectar también el sistema a otros servicios, como hoteles o agencias de alquiler de
coches.
PORTUGAL
PT, nombre del proyecto: tecnología de inteligencia artificial para el análisis de pruebas
Perfil breve
En 2019, el Ministerio Público (PPO) completó un proyecto para un Sistema de Gestión de Casos (CMS) PPO (Versión 1.0). En un
proyecto en curso para un mayor desarrollo, el PPO hará uso de la tecnología de inteligencia artificial para el análisis de evidencia
(clasificación, indexación y búsqueda avanzada). La versión 1.0 se encuentra ahora en la fase de implementación y se implementará solo
dentro del PPO general a nivel nacional.
sesenta y cinco
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
nivel y, por el momento, no más abajo en el nivel de las fiscalías locales. Se espera que la primera versión de este proyecto cree formas
más completas e intensivas de visualizar documentos físicos, y se espera que esté en producción a fines de este año.
En términos de desafíos,
• El PPO tiene toda la intención de continuar implementando el uso de IA. Sin embargo, no existe una ley o estatuto específico
para regular su aplicación, y aún no hay planes en marcha. Una vez en su lugar, el PPO podría calcular un presupuesto y
asignar recursos, etc.
• El problema principal es una capacidad de ejecución limitada con respecto a la implementación (no hay suficiente capacidad
humana). Por tanto, se contrata mano de obra externa.
• Con todo, el objetivo es lograr funcionalidades compatibles con un proceso digital, lo que propiciará una reducción de los
trámites en papel. Sin embargo, cabe señalar que las normas procesales legales vigentes en los procesos penales requieren
un expediente en papel. Esto agrega una capa de complejidad a los procedimientos en el área del derecho penal, que debe
reflejarse en el CMS.
• Se necesita una herramienta concreta para abordar las pruebas, que tenga en cuenta las normas procesales del poder judicial.
En particular, el PPO tiene muchos casos en formato digital, por lo que es prácticamente imposible leer todo, por lo que se
necesitan muy buenas herramientas para extraer datos. El PPO es una autoridad judicial, que tiene competencia para realizar
búsquedas informáticas. Además, las reglas procesales internas deben estar contempladas en el diseño del CMS (por
ejemplo, si se encuentran pruebas por correo electrónico, el PPO necesita la validación de un juez).
• El PPO está legalmente obligado a desarrollar sus sistemas de TI sobre una base de código abierto. Esto presenta un desafío,
ya que no es posible adquirir componentes de empresas cuyo código fuente sea propietario. Esto implica que se debe
extender el tiempo de desarrollo. Al mismo tiempo, es fundamental garantizar la seguridad de los sistemas de TI.
Camino a seguir:
Otros dos proyectos relacionados con la CMS prevén el establecimiento de conexiones seguras y seguras y el uso de pruebas
electrónicas y el Codex electrónico con fines de cooperación judicial, así como la conexión con la principal policía judicial. Está previsto
que estos proyectos finalicen el próximo año (2021).
Los proyectos de desarrollo del CMS del PPO, relacionados con la seguridad y el primer nivel de búsqueda y visualización de evidencias,
son financiados por Horizonte 2020. Existe un plan para tener un portal para que los ciudadanos vean el proceso respetando las normas
procesales legales, para lo cual una colaboración con otras entidades, principalmente el colegio de abogados.
Perfil breve
66
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Este proyecto en curso tiene como objetivo ofrecer una interfaz única para los magistrados, ya sean fiscales o magistrados judiciales, con
AI permitiendo la indexación de documentos e información, que forman parte del caso judicial. También permite la búsqueda rápida de
documentos y contenido. La tecnología se aplica al dominio de la investigación judicial y las decisiones judiciales. La ganancia esperada
es una reducción en el tiempo requerido para emitir decisiones judiciales.
N/A
Descripción de la solución:
N/A
Camino a seguir:
N/A
ESLOVENIA
SI, nombre del proyecto: reconocimiento de escritura a mano de datos de servicio de devolución
Perfil breve
La ley indica que las fechas deben escribirse manualmente. En estos casos, la herramienta podría escanear ese texto escrito a mano y
crear una versión digital.
345 El propietario de este proyecto es el Tribunal Supremo de la República de Eslovenia, pero se ha proporcionado información
por el Ministerio de Justicia.
67
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Descripción de la solución:
El objetivo de la herramienta es reconocer fechas escritas a mano en documentos. La herramienta puede escanear la fecha escrita a
mano y reconocer el día y el mes. No reconoce ningún otro texto en los documentos, solo la fecha, si se proporciona en un marcador de
posición específico en el documento.
Camino a seguir:
La herramienta está actualmente implementada y funciona con satisfacción. No se mencionan otros planes futuros, escalado o uso en
otros dominios.
ESPAÑA
Estado del proyecto: En curso / Iniciado en diciembre de 2018 - Finalizando en diciembre de 2020. Sistema de TI en fase
de prueba.
Perfil breve
Este proyecto se centra en proporcionar una herramienta que transcriba archivos de audio y video y luego permita una posible búsqueda
en el texto.
Se desarrolla a medida, utilizando tecnologías ML, específicamente aprendizaje por refuerzo, en el dominio de las técnicas de búsqueda
avanzada y semántica.
Descripción de la solución:
N/A
68
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Camino a seguir:
N/A
Estado del proyecto: En curso / iniciado en noviembre de 2018 - final de diciembre de 2021
Perfil breve
Tipo de tecnología AI: Aprendizaje automático / Aprendizaje profundo; Procesamiento del lenguaje natural
(NLP)
Este proyecto se centra en la automatización de documentos para agilizar los procedimientos de la oficina de jueces.
Desarrollo a la medida. La solución utiliza algoritmos para la clasificación, incluidos árboles de decisión, redes neuronales estándar y
redes neuronales profundas.
Descripción de la solución:
N/A
Camino a seguir:
N/A
Perfil breve
69
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Este proyecto tiene como objetivo obtener conocimiento sobre el uso de la aplicación, así como sobre el contenido de documentos como
sentencias, legislación, publicaciones y documentos de la fiscalía. Parte de la mejora de la calidad de la aplicación de búsqueda es
garantizar resultados precisos y ofrecer una aplicación amigable e intuitiva.
Una solución comercial 'lista para usar' (COTS) "PENTAHO" 346 de un proveedor, Hitachi. La herramienta hace uso de tecnologías de
aprendizaje automático y aprendizaje supervisado.
Descripción de la solución:
N/A
Camino a seguir:
N/A
Perfil breve
Tipo de tecnología AI: Aprendizaje automático / Aprendizaje profundo; Sistemas expertos y sistemas basados
en reglas; Procesamiento natural del lenguaje
El objetivo de este proyecto es reducir el coste y el tiempo asociados a la seudonimización de frases. El objetivo es ofrecer a los usuarios
un acceso más rápido y un procesamiento de las decisiones de sentencia que se necesitan con urgencia. Debido al costo, esto no se
puede hacer actualmente dentro de la organización y, por lo tanto, debe subcontratarse a una empresa externa.
Desarrollo a la medida
346
PENTAHO - https://www.hitachivantara.com/en-us/products/data-management-analytics/pentaho-
platform.html
70
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Descripción de la solución:
N/A
Camino a seguir:
N/A
Perfil breve
Tipo de tecnología AI: Aprendizaje automático / Aprendizaje profundo; Procesamiento natural del lenguaje
Este proyecto en curso se centra en la clasificación de frases para proporcionar a los usuarios resultados de búsqueda más precisos, así
como para vincular una frase con otros documentos (otras frases relevantes, legislación, publicaciones, etc.) relacionados con el mismo
tema.
Es una solución de código abierto, basada en proveedores, 'lista para usar', "Apache Solr". 347, de Apache.
Descripción de la solución:
N/A
Camino a seguir:
N/A
347 https://lucene.apache.org/solr/
71
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Perfil breve
Tipo de tecnología AI: Aprendizaje automático / Aprendizaje profundo; Sistemas expertos y sistemas
basados en reglas; Procesamiento del lenguaje natural (NLP)
Según nuestro conocimiento, este proyecto en curso se centra en la automatización de documentos y la creación de datos estructurados,
con el objetivo de proporcionar a los usuarios de la herramienta resultados de búsqueda más precisos.
Esta herramienta desarrollada a medida se basa en tecnologías de Machine Learning, como NLP y Supervised Learning.
Descripción de la solución:
El proyecto consiste en encontrar datos personales como un número de identidad o una dirección particular para crear los datos
estructurados de un documento. El proyecto se encuentra actualmente en fase de prueba.
Camino a seguir:
N/A
SUECIA
Estado del proyecto: En curso / enero de 2019 - diciembre de 2020 (con posible prórroga)
Perfil breve
72
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Tipo de tecnología AI: Aprendizaje automático / Aprendizaje profundo; Procesamiento del lenguaje natural
(NLP)
La legislación sueca es compleja, con muchos requisitos que deben tenerse en cuenta cuando una empresa solicita un nombre de
empresa. El nombre de una empresa propuesto puede ser rechazado, por ejemplo, debido a su similitud con otra empresa con el mismo
modelo de negocio. Por lo tanto, la herramienta para seleccionar el nombre de una empresa tendrá como objetivo facilitar la elección de
un nombre que probablemente no sea rechazado, en función de la descripción comercial que proporciona la empresa.
La herramienta será desarrollada a medida por especialistas internos. Incluirá un componente de búsqueda con funciones de búsqueda
aproximada y ponderada.
Descripción de la solución:
Con la ayuda de AI, la Oficina de Registro de Empresas de Suecia quiere crear un servicio que simule sus procesos manuales para
examinar y decidir los nombres de las empresas. El servicio debe permitir a un empresario examinar y elegir el nombre de una empresa,
que tiene muchas posibilidades de ser aprobado por el proceso manual realizado por la Oficina de Registro de Empresas de Suecia.
El propósito es promover y simplificar el espíritu empresarial ofreciendo servicios más personalizados a empresarios y empresarios
potenciales.
El proyecto está en curso y se encuentra en la etapa inicial de elaboración de una hoja de ruta. El desarrollo aún no ha comenzado.
Camino a seguir:
Por extensión, la experiencia de este proyecto puede ser la base para automatizar total o parcialmente el proceso manual.
Estado del proyecto: En curso / Iniciado en agosto de 2019 - Finalizando en julio de 2021
Perfil breve
Debido a la falta de integración entre los sistemas aduaneros sueco y noruego, la capacidad para comparar las exportaciones de Suecia
con las importaciones a Noruega ha sido limitada.
El proyecto tiene como objetivo aprovechar el análisis de datos de vanguardia e incorporar nuevas fuentes de datos para una gestión
eficaz de los riesgos aduaneros. Los principales objetivos son desarrollar nuevos métodos para analizar el tráfico transfronterizo de
mercancías entre Suecia y Noruega y mejorar la posibilidad de descubrir errores en las declaraciones de aduana haciendo coincidir
buenas descripciones con sus respectivos códigos.
La aduana sueca es responsable de un paquete de trabajo (de ocho) dentro del Proyecto, y se ha asociado con la Agencia Sueca de
Investigación de Defensa (FOI), la Aduana Noruega y el Establecimiento Noruego de Investigación de Defensa (FFI). El paquete de
trabajo se centra en la gestión del riesgo fiscal, pero también incluye, por ejemplo, el transporte ilegal de residuos y el fraude en el
comercio pesquero.
Descripción de la solución:
N/A
Camino a seguir:
Por el momento el proyecto se encuentra en fase de investigación, por lo que no existen retos que mencionar.
Perfil breve
Tipo de tecnología AI: Text-to-text, Machine Learning, Natural Language Processing (NLP)
El proceso de traducción de las decisiones judiciales existentes es costoso y requiere mucho tiempo. Los tribunales superiores solicitaron
investigar el uso potencial de una herramienta de inteligencia artificial.
Basado en el proveedor.
Descripción de la solución:
El PoC se basa en una solución existente de Microsoft, que se personalizó para satisfacer las necesidades de la solicitud de los
tribunales. La solución arrojó resultados satisfactorios, por lo que se solicitó la adopción a los procesos judiciales reales. Sin embargo, la
solución está basada en la nube y no es del todo adecuada para datos confidenciales en procedimientos en tiempo real.
74
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Camino a seguir:
Bajo investigación con el objetivo de una adopción más amplia, similar a la de producción.
Perfil breve
Tipo de tecnología AI: Texto a texto, aprendizaje automático, procesamiento de lenguaje natural,
anonimización
Debido a la necesidad de anonimización para que se publique una decisión judicial, se podría utilizar una herramienta de inteligencia
artificial para agilizar y facilitar el trabajo de los administradores.
Descripción de la solución:
Se creó una demostración y los resultados fueron muy satisfactorios con la advertencia de que la perseverancia del contexto necesita
mejorar.
Camino a seguir:
Investigue más a fondo la mejora de la solución con respecto a la alineación del contexto con la implementación de producción estimada
para fines de 2020.
Perfil breve
75
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo II: Proyectos explorados
y casos de uso de las autoridades de los Estados miembros
Tipo de tecnología AI: Aprendizaje automático; Redes neuronales recursivas Bayes Naïve Indicator
Este PoC en curso tiene como objetivo explorar cómo se puede utilizar la tecnología AI / ML en el proceso de toma de decisiones de los
tribunales y si hay información basada en datos que se puede exponer con la ayuda de AI. El proyecto es de naturaleza exploratoria y,
como tal, no necesariamente debe conducir a un producto terminado.
N/A
Descripción de la solución:
N/A
Camino a seguir:
N/A
76
ESTUDIO SOBRE EL USO DE TECNOLOGÍAS
INNOVADORAS EN EL ÁMBITO DE LA JUSTICIA
Septiembre de 2020
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo III: Proyectos explorados
y casos de uso de organizaciones profesionales legales
Este Informe ha sido elaborado por TRASYS International, parte del Grupo NRB, en el marco del Contrato Marco ABC IV-Lote 3, para la DG
JUSTICIA y CONSUMIDORES.
Gerente de proyecto: Dijana SPASOJEVIC, Responsable de Consultoría Comercial (Correo electrónico: dijana.spasojevic@nrb.be
; Tel: 0032 478 490 240)
Informe elaborado por: Miglena VUCHEVA, Margarida ROCHA, Robrecht RENARD, Dimitrios STASINOPOULOS
Descargo de responsabilidad: La información y las opiniones expuestas en este informe son las del autor o autores y no reflejan
necesariamente la opinión oficial de la Comisión Europea. Cualquier persona que actúe en nombre de la Comisión puede ser considerada
responsable del uso que pueda hacerse de la información aquí contenida.
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo III: Proyectos explorados
y casos de uso de organizaciones profesionales legales
Contenido
CZ, ACADEMIA JUDICIAL, NOMBRE DEL PROYECTO: EDUCACIÓN DE APRENDIZAJE ELECTRÓNICO PARA EL
JUDICIAL ................................... .................................................. .......... 3
UEHJ Y EUBF, NOMBRE DEL PROYECTO: RESOLUCIÓN DE DISPUTAS EN LÍNEA (ODR) PARA
MEDICYS-CONSOMMATION.FR ............................... .................................... 7
IT, CONSEJO NACIONAL DE NOTARIOS, NOMBRE DEL PROYECTO: NOTAIO SMART ......... 9
IT, CONSEJO NACIONAL DE NOTARIOS, NOMBRE DEL PROYECTO: NOTAIO SMART ........ 10
IT, ESCUELA DE ESTUDIOS AVANZADOS SANT'ANNA - PISA (LIDER-LAB OF DIRPOLIS INSTITUTE), NOMBRE DEL
PROYECTO: JURISPRUDENCIA PREDICTIVA .......... 10
IT, CONSEJO NACIONAL DE EXPERTOS AGRÍCOLAS Y EXPERTOS AGRÍCOLAS GRADUADOS, NOMBRE DEL
PROYECTO: ASISTENCIA DE ESCRITORIO PARA USUARIOS FINALES ............................. ..................................................
..................... 13
2
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo III: Proyectos explorados
y casos de uso de organizaciones profesionales legales
1. Introducción
Este documento describe proyectos completados y en curso de organizaciones profesionales legales que utilizan tecnologías innovadoras en
el campo de la justicia.
Los proyectos que se terminan están marcados en verde, mientras que los que están en curso están marcados en azul.
DESCARGO DE RESPONSABILIDAD: Algunas de las respuestas incluidas tenían contenido en un idioma distinto del inglés. Para que todo
el documento sea comprensible, estas respuestas se han traducido al inglés del texto original. Las traducciones son sugerencia del contratista
y, por lo tanto, no son oficiales. Son solo para fines indicativos. Las partes traducidas están marcadas con un asterisco (*).
REPUBLICA CHECA
CZ, Academia Judicial, Nombre del proyecto: Educación en e-Learning para el poder judicial
Perfil breve
El portal e-Learning ofrece un registro completamente en línea para los participantes del poder judicial en eventos de capacitación. Cada
tarea de evento de capacitación se realiza en línea a través del portal. También proporciona mecanismos para evaluar la información. Es
utilizado por diferentes categorías de usuarios: jueces, fiscales actuales y futuros, secretarios judiciales; es decir, se cubren todos los
grupos destinatarios del poder judicial.
El portal e-Learning ofrece libros electrónicos de capacitación, módulos de aprendizaje electrónico en diferentes campos del derecho, así como
capacitación en habilidades sociales (por ejemplo, idiomas) y secuencias de capacitación en video y audio.
La solución tiene como objetivo resolver problemas comerciales relacionados con la precisión, adquiriendo conocimientos de los datos
disponibles, informes y visualización, y evaluación de datos al ofrecer más
3
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo III: Proyectos explorados
y casos de uso de organizaciones profesionales legales
búsquedas efectivas, mejorando el análisis y la administración de datos, y proporcionando una formación más eficaz.
La solución está abierta al poder judicial checo. Está basado en LMS Unifor. 348 Está en producción y tiene más de 1000 usuarios.
Descripción de la solución:
El portal hace uso de la IA en el campo de la búsqueda avanzada (sistemas de preguntas y respuestas y búsqueda semántica), evaluación
de capacitaciones e identificación de participantes. La solución se basa en Machine Learning (ML) / Deep Learning supervisado y no
supervisado. La tecnología para ML utilizada es el procesamiento del lenguaje natural (NLP), más precisamente el reconocimiento de
entidades nombradas o vinculación de entidades, la extracción de información y la construcción de diálogos. El formato del conjunto de
datos está estructurado.
El conjunto de datos de capacitación estuvo constituido por especialistas internos y consultores externos. La información sensible está
excluida o anonimizada.
El rendimiento de la solución se evalúa mediante procedimientos ad-hoc que verifican la precisión, recuperación y exactitud. El
rendimiento de la solución se clasifica como preciso.
Los usuarios finales pueden capacitar para mejorar aún más, pero también se puede utilizar la solución independientemente de la
capacitación. La tecnología de IA resuelve el problema administrativo con un 3150% de éxito y, por lo tanto, cumple con las expectativas.
Camino a seguir:
La Academia Judicial Checa está considerando mejoras a través de la inteligencia artificial, por ejemplo, la automatización de algunos
procedimientos, pero esto requiere financiación y recursos humanos, lo cual es un problema.
Perfil breve
348 http://unifor.upol.cz/
4
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo III: Proyectos explorados
y casos de uso de organizaciones profesionales legales
CCBE junto con la European Lawyers Foundation presentaron la propuesta de proyecto “AI4Lawyers”. Ha sido evaluado con éxito y ha
alcanzado la etapa de preparación del acuerdo de subvención. La propuesta se presentó en respuesta a la convocatoria de propuestas de
la Comisión Europea para subvenciones a la acción para apoyar proyectos nacionales o transnacionales de e-Justicia. Este proyecto
conjunto CCBE-ELF se centra en la necesidad de que los abogados y bufetes de abogados europeos tengan una comprensión clara del
uso de la inteligencia artificial y otras tecnologías informáticas novedosas en su práctica diaria. El proyecto tendrá una duración de 24
meses y tiene los siguientes objetivos principales:
• Crear una visión general del estado del arte medio de las capacidades de TI de abogados y despachos de abogados en diez
Estados miembros: Francia, España, Italia, Alemania, República Checa, Austria, Países Bajos, Estonia, Hungría y Bélgica; así
como un análisis de brechas mediante comparaciones con otros países no pertenecientes a la UE: Reino Unido, Canadá y
Estados Unidos.
• Identificar las oportunidades y barreras en el uso de herramientas de IA en las prácticas legales pequeñas y medianas.
• La redacción de una guía sobre el uso de la inteligencia artificial para abogados y despachos de abogados en la UE, como se menciona
específicamente como una prioridad en el Plan de Acción Europeo de e-Justicia 2019-
2023.
• Mantener informados a los abogados y bufetes de abogados, los colegios de abogados y otras partes interesadas europeos
sobre la situación del proyecto y sus resultados. Promocionar la guía sobre el uso de la IA para abogados y despachos de
• abogados de la UE utilizando las herramientas de los diferentes socios y realizando un evento en el que se presentará la guía a
estos grupos destinatarios. La guía también abordará las posibles medidas que deban tomarse para garantizar que el uso de
herramientas de inteligencia artificial no socave las obligaciones profesionales de los abogados.
No aplica.
Descripción de la solución:
No aplica
Camino a seguir:
Se espera que la guía esté preparada para fines de 2021. Su objetivo es informar a los abogados, de la manera más amplia posible, sobre
todos los riesgos potenciales que puede esconder la IA y qué áreas de negocio pueden realmente necesitar IA. La idea es vincular
finalmente las directrices que se redactarán en el ámbito del proyecto con la formación de la UE en el contexto de la plataforma de
formación de la UE que pondrá en marcha la Comisión.
5
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo III: Proyectos explorados
y casos de uso de organizaciones profesionales legales
Perfil breve
País, Organización: Union européenne des huissiers de justice (UEHJ) + Fondation européenne des
huissiers de justice (EUBF) / Unión Europea de Funcionarios Judiciales (UEHJ) +
European Bailiffs 'Foundation (EUBF)
Por primera vez, una ley ha establecido un proceso administrativo para recuperar deudas monetarias no impugnadas entre empresas. En
Bélgica, en determinadas condiciones, como las reclamaciones no impugnadas, los funcionarios judiciales tienen la autoridad para
proporcionar un título válido con la ayuda de AI (registro central).
La herramienta busca automatizar los flujos de trabajo legales relacionados con el cobro de deudas, involucrando a un funcionario judicial,
un acreedor y un deudor, con el objetivo de mejorar la eficiencia de la justicia, mejorar la satisfacción de las partes interesadas, adquirir
conocimientos a partir de los datos disponibles, informar, visualizar y aumentar la productividad (con IA que automatiza actividades
rutinarias de bajo valor).
La herramienta intentaría establecer una solución para recuperar deudas en casos de empresa a empresa (B2B) para reclamaciones no
impugnadas; evitar la ejecución; y encontrar soluciones entre el deudor y el acreedor mediante el uso de IA para facilitar y acelerar el
trabajo sin dejar de tener un funcionario judicial en el lugar del deudor.
El número de casos abiertos entre el 2 de julio de 2016 y el 30 de noviembre de 2019 fue de 90.964. La herramienta ha ayudado a mejorar
la cantidad de casos procesados y ha ayudado a lograr un tiempo de prueba más rápido. Hasta ahora, han estado presentes algunas
limitaciones culturales. Como era la primera vez que se configuraba un procedimiento digitalizado, se requería mucho tiempo e inversión
para cambiar la mentalidad de toda una profesión.
Descripción de la solución:
El sistema de TI está en producción y tiene aproximadamente 500 usuarios. Se basa en sistemas expertos y sistemas basados en reglas,
definidos por especialistas internos. La tasa de cobertura del sistema experto / basado en reglas es del 81 al 100%. Se necesitaron entre
uno y tres años para constituir la base de conocimientos.
6
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo III: Proyectos explorados
y casos de uso de organizaciones profesionales legales
Camino a seguir:
No se proporcionó información
UEHJ y EUBF, Nombre del proyecto: Resolución de disputas en línea (ODR) para Medicysconsommation.fr
Perfil breve
País, Organización: Union européenne des huissiers de justice (UEHJ) + Fondation européenne des
huissiers de justice (EUBF) / Unión Europea de Funcionarios Judiciales (UEHJ) +
European Bailiffs 'Foundation (EUBF)
De acuerdo con la Directiva 2013/11 / UE sobre resolución alternativa de disputas para disputas de consumidores, la ODR es una
plataforma que ayuda a resolver amistosamente litigios entre consumidores y profesionales con el uso de respuestas automáticas a las
preguntas frecuentes de los usuarios.
La herramienta busca automatizar los procesos administrativos con el objetivo de mejorar la eficiencia de la justicia, mejorar la satisfacción
de las partes interesadas, adquirir conocimientos a partir de los datos disponibles, generar informes y visualizarlos, y aumentar la
productividad (con IA automatizando actividades rutinarias de bajo valor). Su principal fortaleza es proporcionar un procedimiento de título
desmaterializado rápido. Brinda la oportunidad de liderar la digitalización en el campo de la resolución de disputas.
Sin embargo, hasta ahora se han presentado algunas limitaciones culturales. Se requirió mucho tiempo e inversión para cambiar la
mentalidad de toda una profesión.
Solución de código abierto y desarrollo personalizado. La solución hace uso de Case Law Analytics SAS 350
Descripción de la solución:
El sistema de TI está en fase de producción con más de 1000 casos ODR / año
Camino a seguir:
No se proporcionó información
349 https://medicys-consommation.fr/
350 https://www.caselawanalytics.com/
7
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo III: Proyectos explorados
y casos de uso de organizaciones profesionales legales
Perfil breve
País, Organización: Union européenne des huissiers de justice (UEHJ) + Fondation européenne des
huissiers de justice (EUBF) / Unión Europea de Funcionarios Judiciales (UEHJ) +
European Bailiffs 'Foundation (EUBF)
El problema empresarial que el proyecto pretende resolver es la desintermediación (es decir, eliminar o reducir la necesidad de confiar la
plataforma común a una entidad “central”), con el objetivo de garantizar la integridad y trazabilidad de los datos. El proyecto tiene como
objetivo proporcionar un entorno seguro para los denunciantes, así como un medio accesible para las empresas obligadas a obtener dicho
sistema y abrirlo a los denunciantes. Permitirá a las autoridades nacionales competentes ofrecer confianza y seguridad a los alguaciles.
Este sistema tiene como objetivo eliminar la necesidad de confiar la plataforma común a una entidad "central".
Se ha realizado un estudio de mercado y una evaluación comparativa de soluciones. Una solución COTS proporcionada por Woleet 351 has
sido seleccionado.
Descripción de la solución:
Es una blockchain / DLT pública y sin permiso aplicable en los dominios del anclaje de datos en sistemas clásicos para asegurar su
integridad y prueba de existencia de información o documentos. La tecnología utiliza más de 3000 nodos operados por ciudadanos y
conectados en red a través de la Internet pública. Utiliza los protocolos de consenso de prueba de trabajo y Bitcoin.
Camino a seguir:
No se proporcionó información
351 https://www.woleet.io/
8
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo III: Proyectos explorados
y casos de uso de organizaciones profesionales legales
ITALIA
Perfil breve
País, Organización: IT, Consiglio Nazionale del Notariato (* Consejo Nacional de Notarios)
La tecnología tiene como objetivo resolver problemas de integridad y trazabilidad de los datos. En esta etapa, basado en los productos /
resultados del trabajo del proyecto, resuelve el problema comercial a una tasa del 5-10% y cumple parcialmente las expectativas.
La ganancia esperada del proyecto es la optimización de procesos. El proyecto se enmarca en los siguientes dominios de aplicación de
blockchain / DLT:
Está previsto que la TI se desarrolle a medida utilizando Hyperledger, que fue seleccionado por el equipo de TI en función de su
experiencia.
Descripción de la solución:
El sistema de TI se encuentra en la etapa POC. Utiliza un tipo blockchain / DLT privado / consorcio autorizado con entre 3 y 60 nodos en
funcionamiento, o en funcionamiento, en la red blockchain / DLT, alojado en las instalaciones y conectado en red a través de una red
privada. El proyecto implementa un protocolo de consenso de prueba de autoridad. El sistema basado en blockchain / DLT complementa
un sistema existente en lugar de reemplazarlo por completo.
El sistema es utilizado por usuarios individuales que utilizan sistemas externos de gestión de certificados e identidades para identificación
y autenticación. Los usuarios y beneficiarios del sistema son notarios. El volumen anual de registros que se espera acumular en el
sistema es menos de 10,000 registros.
Camino a seguir:
9
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo III: Proyectos explorados
y casos de uso de organizaciones profesionales legales
No se proporcionó información
Estado: En marcha
Perfil breve
País, Organización: IT, Consiglio Nazionale del Notariato (* Consejo Nacional de Notarios)
El proyecto cae dentro de la categoría de aplicación de automatización de documentos de IA, en particular revisiones de contratos. Tiene
como objetivo mejorar la satisfacción del "cliente". Sin embargo, según los productos / resultados del trabajo del proyecto, el uso de la
tecnología de inteligencia artificial resuelve actualmente el problema administrativo en un 5-10% y, por lo tanto, solo cumple parcialmente
las expectativas.
El sistema de TI se encuentra en la etapa POC. Está desarrollado a medida, basado en sistemas expertos y sistemas basados en reglas
definidos por expertos internos y consultores externos.
Descripción de la solución:
Utiliza algoritmos de aprendizaje reforzado y extracción de información de ML. Está entrenado con conjuntos de datos semiestructurados.
En general, la solución se evalúa como no precisa.
Camino a seguir:
No se proporcionó información
Informática, Escuela de Estudios Avanzados Sant'Anna - Pisa (LIDER-Lab of DIrpolis Institute), Nombre del proyecto:
Jurisprudencia predictiva
Perfil breve
País, Organización: IT, Scuola Superiore Sant'Anna (* Sant'Anna School of Advanced Studies - Pisa)
(LIDER-Lab of DIrpolis Institute) en colaboración con Economía y Gestión en la
era de la Ciencia de Datos (EMbeDS), Descubrimiento de Conocimiento y Minería
de Datos (KDD) ) Laboratorio, Instituto de Economía (IdT) y Tribunal de Génova
10
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo III: Proyectos explorados
y casos de uso de organizaciones profesionales legales
La jurisprudencia predictiva es un Proyecto piloto de múltiples capas que se desarrolla en cinco niveles interconectados pero
autónomos.
• desarrollar herramientas y protocolos de anotación automatizados, desarrollar algoritmos de inteligencia artificial para extraer
• tendencias judiciales de la jurisprudencia, desarrollar herramientas de explicación y protocolos para los algoritmos
• desarrollados, desarrollar un algoritmo predictivo para anticipar decisiones y fomentar acuerdos extrajudiciales,
•
En la fase de puesta en marcha, El proyecto tiene como objetivo analizar las decisiones con los correspondientes expedientes de los
juzgados de primera instancia de acuerdo con los criterios y metodologías desarrollados en el Observatorio de Lesiones Personales
(ODP). Es aplicable a áreas de litigio distintas al daño moral (nivel 1) y con el contribución de investigadores de Economía y software
especializado (TalTac) utilizado para extraer textos de juicios por eventos económicos ilegales.
Los mismos materiales también se utilizan mediante las técnicas de Machine Learning para desarrollar tanto herramientas de anotación
como extracción automática de información de textos legales (nivel
2) y algoritmos de análisis y predicción (la denominada Inteligencia Artificial nivel 3).
En particular, la arquitectura de la base de datos, que albergará los datos adquiridos por los tribunales, será diseñada y entrenada con
algoritmos en desarrollo para identificar automáticamente tendencias con referencia a los criterios conocidos por el intérprete, así como
para resaltar nuevas tendencias en la base de posibles sesgos / tendencias encontradas por el algoritmo.
Además, los resultados de la minería de textos podrían usarse para crear nuevas variables (tanto cualitativas como cuantitativas) que
pueden enriquecer las bases de datos de juicios para mejorar tanto la legibilidad de la salida de los modelos como de los procesos de
aprendizaje automático. Las nuevas variables, obtenidas automáticamente, también podrían usarse para realizar análisis de juicios por
conglomerados y para validar y probar los resultados en subconjuntos de juicios (conglomerados). En otras palabras, podremos evaluar
para qué tipo de decisiones judiciales (por ejemplo, temas) es más adecuada cada herramienta algorítmica, tanto en términos de
precisión predictiva como en términos de replicabilidad.
El algoritmo tiene como objetivo recrear e imitar el razonamiento legal detrás de la (s) solución (es) adoptadas en los juicios mediante la
toma de decisiones posteriores predecibles sobre el mismo tema. Estas herramientas también deberían ayudar a explicar el razonamiento
subyacente a cada decisión, mientras que se probará el desarrollo de herramientas adecuadas para explicar los criterios definidos por la
IA desarrollada (nivel 4). Por último, esfuerzos y resultados en los diferentes niveles de investigación
11
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo III: Proyectos explorados
y casos de uso de organizaciones profesionales legales
y el desarrollo se remonta al intento de estructurar el análisis del argumento legal a un nivel de abstracción y sistemática tal que
contribuya a la simplificación de todas las tareas (nivel 5).
El marco multicapa se está ejecutando actualmente utilizando tres estudios de caso seleccionados con los siguientes objetivos:
El primero se refiere a pensión alimenticia en casos de divorcio: Las consultas están predeterminadas por la ley, pero sus
interpretaciones judiciales evolucionan continuamente. En este sentido, los actuales proyectos de reforma proponen introducir nuevos
criterios, cuya eficacia podría discutirse a la luz de nuestro análisis.
El segundo y tercer piloto se están desarrollando dentro del Observatorio de Estudios de Daños por Lesiones Personales 352.
El algoritmo puede contribuir a identificar criterios para otorgar compensación por pérdidas no pecuniarias más allá de las interpretaciones
actuales y los intentos de estandarizar estos tipos de daños altamente subjetivos. Dentro de este análisis central, el algoritmo podría estar
mejor entrenado para explicar las pérdidas no pecuniarias en casos de agotamiento, cuyos límites aún se están discutiendo, tanto desde
la perspectiva clínica como jurídica.
La participación de expertos interdisciplinarios (estadísticos, expertos en minería de textos y minería de datos sociales, profesionales
médico-legales, psiquiatras, etc.) afectará, en primer lugar, a la comprensión del razonamiento judicial y, de manera más general, a los
sistemas jurídicos dados. También abrirá caminos para desarrollos no descubiertos en términos de formulación de políticas. Cabe
destacar que esta investigación se realiza en estrecha colaboración con los propios tribunales.
El proyecto general y sus subproyectos internos se están desarrollando y probando en tres estudios de caso. Cada capa del proyecto
principal (Jurisprudencia predictiva) es un proyecto en sí mismo. Además, dentro del proyecto más amplio de Jurisprudencia Predictiva,
se incorporan tres subproyectos, que a continuación se describen brevemente:
• Etiquetado automático y extracción de información para poblar bases de datos. En este (subproyecto), se extraen
automáticamente características importantes de los documentos legales para guiar el análisis estadístico sobre las tendencias
judiciales y el desarrollo de herramientas prácticas de Jurisprudencia Predictiva. Aquí el objetivo es automatizar la
transferencia de las etiquetas producidas a la base de datos correspondiente para poder completarla.
352 https://www.lider-lab.sssup.it/lider/odp/
12
Estudio sobre el uso de tecnologías innovadoras en el campo de la justicia - Anexo III: Proyectos explorados
y casos de uso de organizaciones profesionales legales
TI, Consejo Nacional de Expertos Agrícolas y Expertos Agrícolas graduados, Nombre del proyecto: Asistencia de escritorio para
usuarios finales
Perfil breve
País, Organización: IT, Collegio Nazionale dei Periti Agrari e dei Periti Agrari Laureati (CNPAPAL) (*
Colegio Nacional de Peritos Agrícolas y Peritos Agrícolas Graduados)
El objetivo principal del proyecto es ayudar a los diferentes usuarios comerciales con las tareas de preparación de contratos,
categorización de documentos y también proporcionar rápidamente respuestas a preguntas frecuentes. Su objetivo es automatizar los
procesos administrativos, mejorar la eficiencia de la justicia y mejorar la satisfacción del "cliente". Según los productos / resultados del
trabajo del proyecto, la tecnología resuelve el problema administrativo en un 11-30% y, por lo tanto, cumple con las expectativas.
No se proporcionó información
Descripción de la solución:
• Búsqueda avanzada, en particular sistemas de preguntas y respuestas, motores de búsqueda semántica e IP, y búsqueda de
patentes y marcas.
El sistema se encuentra en fase de desarrollo, con una media de 501 a 1000 usuarios. El tamaño del conjunto de datos de formación es
inferior a 1000 registros constituidos por expertos internos. Los resultados generales del proyecto muestran actualmente que el proyecto
cumple con las expectativas.
Camino a seguir
No se proporcionó información
13
ESTUDIO SOBRE EL USO DE TECNOLOGÍAS
INNOVADORAS EN EL ÁMBITO DE LA JUSTICIA
Septiembre de 2020
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
Este Informe ha sido elaborado por TRASYS International, parte del Grupo NRB, en el marco del Contrato Marco ABC IV - Lote 3, para la DG
Justicia y Consumidores.
Gerente de proyecto: Dijana SPASOJEVIC, Directora de consultoría empresarial Correo electrónico: dijana.spasojevic@nrb.be
Informe elaborado por: Miglena VUCHEVA, Margarida ROCHA, Robrecht RENARD, Dimitrios STASINOPOULOS
Descargo de responsabilidad: La información y las opiniones expuestas en este informe son las del autor o autores y no reflejan
necesariamente la opinión oficial de la Comisión Europea. Cualquier persona que actúe en nombre de la Comisión podrá ser considerada
responsable del uso que pueda hacerse de la información contenida en ella.
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
Contenido
2.4.2. IBM, WATSON STUDIO; APRENDIZAJE AUTOMÁTICO; ESCALA ABIERTA; ASISTENTE DE WATSON;
DESCUBRIMIENTO DE WATSON ................................................ .............. 8
2.4.3. IBM, WATSON KNOWLEDGE STUDIO; ENTENDIMIENTO DEL LENGUAJE NATURAL DE WATSON
.............................................. ....................................... 9
2.4.4. IBM, ASISTENTE DE WATSON PARA CLOUD PAK PARA DATOS ... 10
UNIVERSIDAD DE GANTE, BASE DE DATOS PARA ALMACENAR Y VINCULAR DATOS DE SENTENCIAS JUDICIALES
..................................... ............................................15
2.12.1. LEFEBVRE SARRUT, FRANCIA - PROYECTO PARA EL MINISTERIO DE JUSTICIA LUXEMBURGO .......................................
.................................................. 24
2.16.3. NL, UNIVERSIDAD DE MAASTRICHT, CASO DE USO - IMPACTO DE LOS NIÑOS DE LAS REDES SOCIALES
EN .................................... .................................................. ... 30
2.16.5. NL, UNIVERSIDAD DE MAASTRICHT, CASO DE USO - INFRACCIONES DE DATOS WEB OSCUROS EN LÍNEA
.................................... .............................................. 31
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
2
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
1. Introducción
Este documento describe los proyectos completados y en curso de las organizaciones de TIC que participaron en este estudio.
Las soluciones que están disponibles en el mercado están marcadas en verde 353, mientras que los proyectos aún en desarrollo están
marcados en azul 354. Los proyectos que están más relacionados con los servicios que ofrece una organización o que forman parte de una
investigación e innovación a nivel universitario, están marcados en amarillo. 355.
Descargo de responsabilidad: La lista de empresas incluidas no es exhaustiva. El contratista preparó una lista indicativa de organizaciones
de TIC, que se completó en base a las respuestas de las partes interesadas al cuestionario.
AUSTRIA
Estado: Disponible
Perfil breve
País, organización y persona de contacto Austria, m2n - consultoría y desarrollo GmbH 356
Blockchain o AI AI
Área de justicia Justicia civil; Justicia administrativa; Justicia penal; Ley de Competencia
358 Aprendizaje automático / Ganancia profunda (empírico, por ejemplo, aprendizaje automático de reglas a partir de datos pasados).
359 Sistemas expertos y sistemas basados en reglas (simbólicos, por ejemplo, reglas definidas manualmente en una base de conocimientos).
3
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
La herramienta actúa como un apoyo para los investigadores en el enjuiciamiento (penal) en el análisis de grandes cantidades de datos,
especialmente incautados en registros domiciliarios o recopilados en el curso de otras acciones de investigación.
Utiliza algoritmos de clasificación. 360, y aprendizaje no supervisado. Para el análisis de texto, utiliza procesamiento de lenguaje natural
(NLP), donde una parte del etiquetado del habla se basa en texto.
Descripción de la solución:
La herramienta m2n 'm2n Forensic Analysis Suite' es una solución flexible basada en IA que es capaz de extraer información
semánticamente rica de documentos y conjuntos de datos heterogéneos, no estructurados y semiestructurados. El sistema identifica
relaciones ocultas, saca conclusiones y visualiza resultados. Es compatible con la búsqueda semántica y el análisis visual y es flexible con
respecto a los cambios de modelos de dominio específicos de casos y nuevos formatos de datos. La herramienta m2n es escalable con
respecto al aumento de la cantidad de datos mediante el uso de plataformas de contenedores e infraestructura de nube (privada).
Camino a seguir:
N/A
BÉLGICA
Consono, Dynizer
Estado: Disponible
Perfil breve
Blockchain o AI AI
Área de justicia Justicia civil; Justicia administrativa; Justicia penal; Ley de Competencia
360 La clasificación implica predecir una clase / categoría. Por ejemplo, clasificar / predecir el riesgo de reincidencia del delincuente como "alto" o "bajo".
361 www.consono.ai
4
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
La herramienta Dynizer permite a las organizaciones conectar datos estructurados o no estructurados de diferentes fuentes de datos,
vincularlos y realizar un seguimiento de ellos. La solución facilitará el acceso a los datos a los usuarios de la herramienta, con el fin de
consultarlos fácilmente. Puede conectar información sobre personas, organizaciones, eventos y otros, desde un lago de datos no
estructurado.
La herramienta está disponible como software como servicio (SaaS), con un modelo de ventas basado en suscripción. Utiliza algoritmos
de clasificación y aprendizaje reforzado.
Descripción de la solución
La herramienta Dynizer almacena datos de diferentes fuentes de datos y textos y para cada fuente de datos asignará una categoría de
"quién", "cuándo", "qué" y "dónde" (ramificación semántica). A continuación, puede establecer vínculos entre las piezas de información y
posiblemente descubrir conexiones entre datos inicialmente no relacionados.
Para los conceptos básicos de la herramienta Dynizer, las redes neuronales se utilizan para el "quién", "qué", "dónde" y "cuándo" y se
entrenan de una manera específica, en combinación con una fórmula de integración para los resultados. Este es el análisis genérico. La
segunda serie de algoritmos está implementada para el análisis de contenido específico, gramática jurídica específica. Varios elementos
se derivan de la estructura y el contexto del documento que el primer análisis genérico no puede cubrir. Entonces, hay una combinación
de procesamiento del lenguaje natural (PNL) y reglas.
Para las capacidades analíticas de la herramienta, un texto completo se divide en pequeñas partes utilizables relacionadas con las
personas, la acción, los lugares y el juicio. Esto facilitará el proceso de encontrar quiénes son los jueces involucrados, quiénes son el
abogado y los acusados, cuáles fueron las argumentaciones, etc. Todas estas partes están agrupadas en una base de datos
completamente analizable.
Desde la perspectiva del usuario, utiliza un lenguaje de consulta DQL específico para Dynizer, complementado con SQL.
Otras características de la herramienta incluyen: anonimización de datos y documentos; identificación de partes específicas del documento
como conclusiones, escrituras notariales, presentaciones; la creación automática de resúmenes; y proporcionar metadatos de
documentos.
Camino a seguir:
La herramienta se puede utilizar en el sector judicial pero también en otros sectores como: salud, ferrocarriles y mantenimiento de
infraestructura, banca y seguros.
Estado: Disponible
Perfil breve
362 www.deloitte.com
363 www.regexplorer.ai
5
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
Campo: Blockchain o AI AI
La herramienta RegExplorer puede ser de ayuda cuando se necesitan combinaciones sobre el tema para analizar el texto regulatorio y
digerir, analizar y comprender los enlaces dentro de un corpus regulatorio y entre instituciones, donde las fuentes de datos son de gran
volumen y tienen una complejidad de los marcos regulatorios. y regímenes. La herramienta también llena los vacíos donde hay una
pérdida de conocimiento institucional.
RegExplorer es una solución de inteligencia artificial basada en la web, disponible tanto como soluciones independientes como SaaS, que
utiliza el aprendizaje no supervisado 364.
Descripción de la solución:
La herramienta RegExplorer está diseñada específicamente para analizar regulaciones. Se basa en una plataforma de soluciones de
procesamiento del lenguaje natural (NLP) y funciona junto con las pymes que ayudan con los datos y la información. Además de las
técnicas clásicas de análisis de texto, RegExplorer utiliza redes neuronales (IA) para mejorar la calidad del análisis.
La IA permite que las computadoras comprendan cómo los conceptos de un texto determinado se relacionan entre sí. Combina
funcionalidades 'en la herramienta' y personalizadas, adaptadas a las necesidades específicas. El proceso de entrega comprende los
siguientes cinco pasos:
1) Explorar el panorama regulatorio mediante la investigación de la herramienta Descubrir regulaciones similares que
2) aprovechan los métodos avanzados de PNL y aprendizaje automático (ML)
3) Comparación de conjuntos de datos con regulaciones estatales, locales, federales o transnacionales externas, utilizando ML
4) Diseño de vistas personalizadas de RegExplorer para consumo y análisis del cliente. Generando informes
5)
• Proporcionar estadísticas resumidas (proporcionar perfiles normativos sobre conjuntos de datos, como el número y la antigüedad de
las normativas)
• Identificar regulaciones similares (buscar y agrupar el texto reglamentario por tema y significado de las secciones)
• Crear una estructura de citas (identifica y visualiza citas a través de regulaciones para comprender el ecosistema de relaciones
entre las secciones específicas)
• Hacer una comparación de conjuntos de datos (con el uso de aprendizaje automático para alinear las regulaciones dentro o
entre conjuntos de datos (p. Ej., De un país a otro) para comprender mejor la coherencia de las regulaciones)
Camino a seguir:
364 Nota: En este contexto, el aprendizaje no supervisado se considera una categoría amplia, que comprende todas las demás técnicas que no se basan ni en el
aprendizaje supervisado ni en el aprendizaje reforzado.
6
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
A partir del 1 de julio de 2020, la herramienta aplicará un modelo híbrido supervisado para etiquetar las regulaciones de jurisdicción
cruzada basado en una taxonomía uniforme del tesauro EuroVoc.
IBM, Bélgica
Estado: Disponible
Perfil breve
Blockchain o AI AI
La solución puede ser de ayuda para leer un gran volumen de documentos y generar recomendaciones basadas en estos documentos.
Watson se puede implementar tanto en la nube como en las instalaciones. El conocimiento es / puede ser transportable. Watson puede
recibir formación dentro de las instalaciones. En el caso de un servicio en la nube, cuando Watson aprende, el conocimiento permanece
con el cliente.
Descripción de la solución:
Watson se puede utilizar para resolver problemas judiciales, en la preparación de casos judiciales leyendo y aprendiendo documentos
legales y dando consejos a abogados y jueces. También tiene la capacidad de actuar como un chatbot para guiar a los ciudadanos a dar
respuestas de acuerdo con las leyes europeas. En el sector fiscal, puede analizar los tratamientos fiscales y sugerir el mejor régimen fiscal
para una correcta declaración de impuestos.
Para cada caso comercial, Watson debe recibir capacitación nuevamente. En todos los campos, Watson comienza como un niño y
aprende a convertirse en un experto. Por cada consejo que da Watson, siempre explica cómo llegó a esa conclusión.
Camino a seguir:
El siguiente paso es Watson Debater, que tiene la capacidad de debatir en lugar de simplemente recomendar cosas. Watson tiene que
escuchar los argumentos y reaccionar sobre los argumentos de los demás. Algunas de estas capacidades estarán disponibles este año
(2020). Todo comienza en inglés, pero también estará disponible en otros idiomas.
365 https://www.ibm.com/be-en
7
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
2.4.2. IBM, Watson Studio; Aprendizaje automático; Escala abierta; Asistente Watson; Descubrimiento de Watson
Estado: Disponible
Perfil breve
Open Scale
Campo: Blockchain o AI AI
Área de justicia Justicia civil; Justicia administrativa; Justicia penal; Ley de Competencia
Automatizar los procesos comerciales, en particular la automatización del flujo de trabajo legal; Mejora de la eficiencia; Evaluación de
riesgos más temprana y precisa, por ejemplo, detección de cláusulas potencialmente contenciosas en documentos / contratos; Mejorar la
satisfacción del 'cliente', donde cliente se refiere a todas las partes interesadas involucradas en un caso; Exactitud; Adquirir conocimientos
a partir de datos, informes y visualización disponibles; Capacidad para concentrarse en actividades de mayor valor agregado (con IA que
automatiza actividades rutinarias de bajo valor).
Es un software como servicio (SaaS) basado en suscripción patentado. Utiliza técnicas como algoritmos para la clasificación (por ejemplo,
clasificar / predecir el riesgo de reincidencia del delincuente como "alto" o "bajo"); Algoritmos de regresión (por ejemplo, predicción de la
puntuación de riesgo de reincidencia, en lugar de clase / categoría); Aprendizaje reforzado; Aprendizaje no supervisado (Nota: considérelo
como una categoría amplia, que comprende todas las demás técnicas que no se basan en
366 https://www.ibm.com/cloud/watson-studio
https://www.ibm.com/cloud/machine-learning
https://www.ibm.com/cloud/watson-openscale
https://www.ibm.com/cloud/watson-assistant
https://www.ibm.com/cloud/watson-discovery
8
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
Descripción de la solución:
El entorno de Data Scientist se utiliza para preparar datos y construir modelos, utilizando códigos de fuente abierta o modelado visual.
Enriquecido con innovaciones de IBM como auto-IA y optimización de decisiones.
https://www.ibm.com/cloud/watson-studio
Esta es una herramienta de gestión de implementación de modelos de IA. Le ayuda a ejecutar y mantener modelos de aprendizaje
automático en cualquier lugar, en cualquier nube. Ponga en producción sus proyectos de IA de código abierto, puede mantenerlos
actualizados.
https://www.ibm.com/cloud/machine-learning
Es un entorno de monitoreo que rastrea y mide los resultados de la IA a lo largo de su ciclo de vida, y adapta y gobierna la IA a situaciones
comerciales cambiantes, para modelos creados y que se ejecutan en cualquier lugar.
https://www.ibm.com/cloud/watson-openscale
Asistente Watson
Es una plataforma de IA de conversación que le ayuda a proporcionar a los ciudadanos respuestas rápidas, directas y precisas a sus
preguntas, en cualquier aplicación, dispositivo o canal. Al abordar consultas comunes, Watson Assistant reduce el costo de las
interacciones, lo que ayuda a los agentes a concentrarse en casos de uso complejos, no en respuestas repetitivas.
https://www.ibm.com/cloud/watson-assistant
Descubrimiento de Watson
Una tecnología de búsqueda de IA empresarial que recupera respuestas específicas a sus preguntas mientras analiza tendencias y
relaciones enterradas en sus datos estructurados y no estructurados. Puede entrenarse fácilmente en el idioma de su dominio legal.
https://www.ibm.com/cloud/watson-discovery
Camino a seguir:
N/A
2.4.3. IBM, Watson Knowledge Studio; Comprensión del lenguaje natural de Watson
Estado: Disponible
Perfil breve
9
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
Campo: Blockchain o AI AI
Área de justicia Justicia civil; Justicia administrativa; Justicia penal; Ley de Competencia
Cuando los clientes tienen muchos documentos para analizar con un lenguaje y matices comerciales específicos.
Las soluciones apuntan a: mejorar la eficiencia; Evaluación de riesgos más temprana y precisa,
por ejemplo, detectar cláusulas potencialmente contenciosas en documentos / contratos; Adquirir conocimientos a partir de los datos, los
informes y la visualización disponibles.
Es un software como servicio (SaaS) basado en suscripción patentado. Utiliza técnicas como algoritmos para la clasificación (por ejemplo,
clasificar / predecir el riesgo de reincidencia del delincuente como "alto" o "bajo"); algoritmos de regresión (por ejemplo, predicción de la
puntuación de riesgo de reincidencia, en lugar de clase / categoría); aprendizaje reforzado; aprendizaje no supervisado (Nota: considérelo
como una categoría amplia, que comprende todas las demás técnicas que no se basan ni en el aprendizaje supervisado ni en el
aprendizaje reforzado); mejoramiento; algoritmos de reconocimiento de voz.
Descripción de la solución:
Es una solución basada en una tecnología de inteligencia artificial que comprende los detalles del lenguaje de la industria. Automatización
de jueces / Robo-abogado; Resolución de conflictos; Análisis legal (por ejemplo, extraer patrones, tendencias de juicios pasados);
Búsqueda Avanzada.
Camino a seguir:
N/A
Estado: Disponible
Perfil breve
Título del proyecto Asistente Watson para Cloud Pak for Data
367 https://www.ibm.com/watson/services/knowledge-studio/
https://www.ibm.com/cloud/watson-natural-language-understanding
10
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
Campo: Blockchain o AI AI
Área de justicia Justicia civil; Justicia administrativa; Justicia penal; Ley de Competencia
Tipo de tecnología AI Aprendizaje automático / aprendizaje profundo (empírico, por ejemplo, aprendizaje
automático de reglas a partir de datos pasados)
Automatización de conversaciones en cualquier idioma, incluso jerga infantil. Simplifique la comunicación interna o con los clientes. Junto
con Watson Discovery, el asistente de Watson puede guiarlo a través de montones de documentos difíciles, como leyes, antecedentes
judiciales, etc.
La solución apunta a: mejorar la eficiencia; Mejorar la satisfacción del 'cliente', donde cliente se refiere a todas las partes interesadas
involucradas en un caso; Exactitud; Adquirir conocimientos a partir de datos, informes y visualización disponibles; Capacidad para
concentrarse en actividades de mayor valor agregado (con IA que automatiza actividades rutinarias de bajo valor).
Es un producto independiente patentado y se ofrece como una compra única. Es un chatbot que podría aplicarse como automatización de
jueces / Robo-abogado.
Descripción de la solución:
La solución tiene como objetivo ahorrar tiempo y personal al automatizar la respuesta de preguntas estándar por parte del centro de
servicio. Como características clave, se mencionan las siguientes: Experiencia del cliente simplificada; Impulsado por la comprensión del
idioma nacional; Implemente en cualquier lugar (cualquier nube, local).
Camino a seguir:
N/A
Estado: Disponible
Perfil breve
Blockchain o AI AI
Tipo de tecnología AI
368 https://www.ibm.com/products/watson-care-manager
11
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
La necesidad de un sistema de cuidado inteligente integrado era el requisito clave a cumplir. La solución ayuda a la preparación del caso
judicial, identificando y entendiendo la situación. Más específicamente, ayuda a: Automatizar los procesos comerciales, en particular, la
automatización del flujo de trabajo legal; Mejora de la eficiencia; Evaluación de riesgos más temprana y precisa, por ejemplo, detección de
cláusulas potencialmente contenciosas en documentos / contratos; Mejorar la satisfacción del 'cliente',
caso; Exactitud; Adquirir conocimientos a partir de los datos, los informes y la visualización disponibles.
Descripción de la solución:
IBM Watson® Care Manager ayuda a las organizaciones a desbloquear e integrar toda la información de múltiples sistemas y proveedores
de atención, automatizar los flujos de trabajo de administración de la atención y escalar para satisfacer las demandas de las poblaciones
en crecimiento bajo administración. Watson Care Manager se basa en una innovadora plataforma basada en la nube habilitada por la Ley
de Portabilidad y Responsabilidad de Seguros de Salud (HIPAA) que puede agregar datos y conectar a las partes interesadas, lo que
ayuda a respaldar la coordinación y la prestación de servicios.
Características clave:
Estado: Disponible
Perfil breve
Título del proyecto Campo: Software de análisis de inteligencia de amenazas IBM i2 369
Blockchain o AI AI
369 https://www.ibm.com/security/intelligence-analysis/i2
12
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
La plataforma de análisis de inteligencia de amenazas más confiable para abordar misiones críticas en seguridad y defensa nacional,
aplicación de la ley, fraude, delitos financieros y búsqueda de amenazas cibernéticas. Los requisitos clave tal como se expresan para este
producto son:
Es un software propietario independiente que se ofrece como compra única, disponible para empresas grandes, pequeñas y medianas.
Descripción de la solución:
La herramienta IBM i2 es capaz de analizar datos de investigación (como registros telefónicos, registros de seguridad cibernética, registros
financieros y muchos otros tipos de datos) y proporciona análisis avanzados, brindando capacidades para visualizar los datos de las
investigaciones. Esto se hace proporcionando gráficos y mapas que muestran enlaces con el propósito de la investigación. Pone, por
ejemplo, personas en el mapa para ver en qué están más involucradas y adónde va y se recibe una llamada telefónica.
Es capaz de crear enlaces a través de socios con fuentes abiertas, elementos web oscuros o escanear documentos en todos los idiomas.
El sistema se utiliza en sectores de: organizaciones de defensa, organización de inteligencia, fuerzas del orden, lucha contra el fraude y
delitos financieros, así como ciberprotección.
Camino a seguir:
N/A
Estado: Disponible
Perfil breve
370 https://www.ibm.com/blockchain/platform
13
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
Los objetivos comerciales difieren mucho de un caso de uso a otro, especialmente en el sector público,
es decir, de votación electrónica, declaraciones de impuestos, emisión de bonos, etc.
Es un software independiente, de código abierto con licencia que se ofrece como compra única. Las características clave son las
siguientes: probadas, flexibles y diseñadas para ejecutarse en cualquier nube pública o local. Implemente la plataforma líder de
Hyperledger Fabric en el entorno adecuado para
tu empresa.
CONSTRUIR
• Aproveche nuestra extensión de código avanzada de Visual Studio (VS) para una integración fluida entre el desarrollo
de contratos inteligentes y la administración de red Transición sin problemas del desarrollo a la prueba y la producción
• en un solo entorno con DevOps simplificado
OPERAR Y GOBERNAR
• Administre todos los componentes de la red en un solo lugar, sin importar dónde estén implementados
• Sin bloqueo de proveedores: mantenga un control completo de sus identidades, libro mayor y contratos inteligentes
• Implemente solo los componentes de blockchain que necesita (Peer, Servicio de pedidos, Autoridad de certificación)
CRECER
• Comience con algo pequeño, luego pague a medida que crece por lo que usa, sin inversión inicial y actualice fácilmente
a través de Kubernetes
• Conecte un solo par a múltiples redes industriales con facilidad
• Conéctese a nodos que se ejecutan en cualquier entorno (local, público, nubes híbridas)
Descripción de la solución:
https://www.ibm.com/blockchain/news-and-events/webinars/blockchain-roi
Camino a seguir:
N/A
14
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
Perfil breve
Blockchain o AI DLT
Es una primera versión con un alcance mínimo que proporciona una prueba de usabilidad y valor.
Descripción de la solución:
El uso previsto de esta solución es: rastrear y rastrear materiales rodantes (en todo el mundo). Establecer una cadena de certificación;
rastrear y rastrear en logística cuando las mercancías se entregan a otras empresas de transporte; para establecer transacciones
confiables entre bancos; para crear una cadena de aprobación de requisitos en un entorno fuertemente regulado.
Camino a seguir:
N/A
Universidad de Gante, base de datos para almacenar y vincular datos de sentencias judiciales
Perfil breve
Título del proyecto Base de datos para almacenar y vincular datos de sentencias judiciales
Campo: Blockchain o AI AI
371 https://www.ibm.com/nl-en/garage
15
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
La solución puede ser de ayuda para analizar grandes cantidades de datos, fallos judiciales y encontrar vínculos entre ellos.
Esta solución aún no está disponible. La tecnología se basa en la tecnología 'Dynizer' de Consono.
Descripción de la solución:
La herramienta de solución es una combinación entre la investigación de la universidad de Gante y la herramienta 'Dynizer' desarrollada
por Consono 372.
En términos de enfoque, las sentencias se procesan previamente en 2 etapas: (1) se toma el texto PDF completo y el formato PDF se
transforma en formato html y luego (2) a partir de html se identifican las partes individuales de la sentencia. En segundo lugar, el software
Dynizer se utiliza para procesar y analizar el texto completo de cada sentencia, considerando explícitamente su parte individual,
identificando con AI las unidades 'quién', 'qué', 'dónde' y 'cuándo' de los documentos. El software almacena los textos completos
analizados en una base de datos, sin pérdida de información. Esto permite interpretar semánticamente los juicios y vincularlos en base a
contenidos comunes. Además, son posibles varios niveles de anonimización de los documentos.
Camino a seguir:
Las mejoras en materia de anonimización y seudonimización aún están en curso, así como un mayor desarrollo para cumplir plenamente
con el RGPD.
CROACIA
Estado: Disponible
Perfil breve
Blockchain o AI AI
dieciséis
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
La herramienta NEWTON Dictate brinda transformación digital a través de la optimización del flujo de trabajo y el fortalecimiento de la
eficiencia y calidad del sistema judicial en cuanto a generación de textos y documentos, donde es necesario crear grandes cantidades de
documentos.
La solución está disponible como producto independiente, la compra del programa NEWTON Dictate es permanente, con contratos
adicionales de mantenimiento. La herramienta se basa en algoritmos de reconocimiento de voz.
Descripción de la solución:
NEWTON Dictate es una solución de voz a texto diseñada específicamente para cada usuario final. Con el modelo de idioma diseñado
para un cliente específico y una variedad de funciones personalizables, brinda a los usuarios una transición más fluida desde la escritura
hasta la creación de documentos por voz.
Las características proporcionadas incluyen tanto: transcripción de voz a texto a partir de dictar el texto y transcripción de voz a texto de
archivos de audio. Además, el sistema ofrece a los usuarios la posibilidad de agregar sus propias palabras al sistema y de buscar en las
transcripciones, ya que las palabras tienen una "marca de tiempo" en el archivo de audio.
El uso del sistema da como resultado un proceso de creación de documentos más rápido, una mayor precisión en los informes, una
reducción del dolor de muñeca y de espalda al escribir grandes cantidades de documentos y una estandarización de la terminología legal.
Camino a seguir:
N/A
DINAMARCA
Estado: En desarrollo
Perfil breve
Blockchain o AI AI
375 https://pentia.dk/
17
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
El sistema de Diario Jurídico Digital tiene como objetivo mejorar la eficiencia en relación con la administración judicial y la gestión y
planificación de las instalaciones.
La herramienta es una solución alojada con licencia propietaria, disponible como compra única. Utiliza algoritmos de clasificación,
algoritmos de regresión y técnicas de optimización.
Descripción de la solución:
La herramienta ayuda a las personas a cargo a relacionar a los fiscales con las reuniones judiciales. Lo hace basándose en la experiencia,
la disponibilidad y las reglas de negocio predefinidas. Importa listas de tribunales, las transforma en reuniones de perspectivas y
proporciona una planificación. La persona a cargo aún deberá aprobar las sugerencias del sistema.
Camino a seguir:
N/A
ESTONIA
Guardtime, Assured-AI
Estado: En desarrollo
Perfil breve
Tipo de tecnología AI Assured-AI es una herramienta de apoyo construida sobre KSI Blockchain
por Guardtime
376 https://guardtime.com/
18
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
La herramienta Assured-AI se puede utilizar cuando el regulador exige auditabilidad y verificación independiente de los proveedores de
servicios de IA. Además, se necesita una mitigación de riesgos y una mejora del control / supervisión cuando se implementan soluciones
basadas en inteligencia artificial (proporcionadas por terceros) en el campo judicial.
La herramienta Assured-AI es una solución alojada con licencia patentada, que estará disponible como una inversión única y una solución
independiente / alojada. Es una herramienta de apoyo que se basa en Keyless Signature Infrastructure (KSI) 377 Blockchain de Guardtime.
Esta es una herramienta que permite controlar y verificar cualquier tipo de procesos de desarrollo de IA.
Descripción de la solución:
• Habilite el control y la auditabilidad sobre los conjuntos de entrenamiento de IA. Verifique la información de entrada y otras
configuraciones
• Resistencia a los ataques
• Precisión de los modelos
• Calidad e integridad de los datos Control de
• acceso
• Transparencia
• Responsabilidad
• Conformidad
• Auditoría de procesos
Como tecnología subyacente, KSI Blockchain de Guardtime es una herramienta blockchain / DLT escalable y eficiente que permite
registrarse en billones de puntos de datos por segundo. Esto le permite firmar, controlar y verificar cantidades infinitas de información en
tiempo real, con recursos computacionales insignificantes.
La herramienta Assured-AI garantiza que todos los servicios / herramientas de AI mencionados anteriormente sean de hecho seguros, no
sesgados y que puedan ser controlados / analizados en retrospectiva. Esto puede ser muy relevante en el caso de posibles disputas y
auditorías.
Camino a seguir:
N/A
377 https://www.guardtime-federal.com/ksi/
19
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
FINLANDIA
KnowIT, Finlandia
Estado: Disponible
Perfil breve
Blockchain o AI AI
Área de justicia Justicia civil; Justicia administrativa; Justicia penal; Ley de Competencia
El principal problema empresarial que se está abordando es la necesidad de reducir las tareas manuales. Estas tareas podrían consistir en
automatizar los procesos comerciales, en particular, la automatización del flujo de trabajo legal y mejorar la eficiencia y la precisión.
La herramienta es de código abierto, bajo un acuerdo de no divulgación (NDA) donde corresponda, y proporciona soluciones para la
automatización de documentos y la búsqueda avanzada.
Descripción de la solución:
Más específicamente, la solución proporciona pre-llenado de contratos, clasificación / categorización automatizada de documentos. En
cuanto a las opciones de búsqueda, la solución proporciona sistemas de respuesta a preguntas, motores de búsqueda semántica,
búsqueda de propiedad intelectual, patentes y marcas.
Camino a seguir:
N/A
378 www.knowit.fi
20
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
FRANCIA
Doctrina, Francia
Estado: Disponible
Perfil breve
Blockchain o AI AI
Área de justicia Justicia civil; Justicia administrativa; Justicia penal; Ley de Competencia
Tipo de tecnología AI Aprendizaje automático / Aprendizaje profundo; Sistemas expertos y sistemas basados
en reglas; Procesamiento de datos;
La doctrina tiene como objetivo: mejorar la eficiencia; Evaluación de riesgos más temprana y precisa, por ejemplo, detección de cláusulas
potencialmente contenciosas en documentos / contratos; Exactitud; Adquirir conocimientos a partir de datos, informes y visualización
disponibles; Capacidad para concentrarse en actividades de mayor valor agregado (con IA automatizando actividades rutinarias de bajo
valor); Lograr un tiempo de prueba más rápido; Mejora del "volumen de negocios", por ejemplo, número de casos procesados. Asegurar la
coherencia en las decisiones (por ejemplo, juicios); Eliminación de prejuicios y prejuicios humanos.
Doctrine es una solución de tipo software como servicio (SaaS) propietario y organiza la información legal para hacerla más relevante y de
fácil acceso para los profesionales del derecho (abogados, asesores internos, jueces ...). Doctrine afirma haber desarrollado las mejores
tecnologías de seudonimización con menos del 1% de errores. Han designado un Delegado de Protección de Datos (DPO) y han creado
un 'Centro de Protección de Datos' para proporcionar una información clara y personalizada sobre los datos personales.
Descripción de la solución:
Doctrine tiene como objetivo responder a la necesidad de un acceso mejor y más rápido a los datos, la necesidad de ayuda para rastrear los
cambios legislativos y la nueva jurisprudencia, y la necesidad de herramientas para buscar más rápidamente en una gran cantidad de datos
legales para encontrar la respuesta más relevante. .
Para publicar decisiones judiciales en línea sin dañar la privacidad de las personas físicas involucradas en las decisiones, el equipo de
Doctrine ha desarrollado un algoritmo de seudonimización basado en aprendizaje automático y reconocimiento de entidades con nombre.
El entrenamiento
379 www.doctrine.fr
21
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
Los conjuntos de datos deben ser lo suficientemente diversos para evitar sesgos (por ejemplo, sexo, raza) en la seudonimización. Para
evitar tales sesgos, prosperan para obtener y trabajar con los conjuntos de datos más grandes posibles. También garantizan que los
conjuntos de datos sean lo más variados posible: Doctrine utiliza conjuntos de datos que comprenden varias docenas de decisiones
judiciales de cada tipo de jurisdicción, de cada ciudad, en todos los asuntos y, finalmente, etiquetan y anotan los casos de error para
volver a entrenar continuamente nuestros algoritmos. en tales.
Para suscriptores - Doctrine ofrece funcionalidades como búsqueda, enlaces con decisiones anteriores y posteriores, referencias y
sugerencias a otros juicios en el campo.
Camino a seguir:
Doctrine planea evolucionar e incluir más dominios judiciales de otros países. El equipo de Doctrine quiere poder construir una plataforma
legal para que los abogados manejen todo el contenido interno.
Predictice, Francia
Estado: Disponible
Perfil breve
Blockchain o AI ΑΙ
Predictice apunta a: Mejorar la eficiencia en el negocio judicial, lo que significa lograr un tiempo hasta el juicio más rápido; Mejorar el
"volumen de negocios", por ejemplo, número de casos procesados; Evaluación de riesgos más temprana y precisa, por ejemplo, detección
de cláusulas potencialmente contenciosas en documentos / contratos; Mejorar la satisfacción del 'cliente', donde cliente se refiere a todas
las partes interesadas involucradas en un caso; Adquirir conocimientos a partir de datos, informes y visualización disponibles; Capacidad
para concentrarse en actividades de mayor valor agregado (con IA que automatiza actividades rutinarias de bajo valor).
La solución es un tipo de solución de software como servicio (SaaS) patentado. Sus características clave son: motor de búsqueda
avanzada; Visualización de litigios; Cálculo del resultado de los trámites. Algunos de los algoritmos que se están utilizando son: Algoritmos
de clasificación (por ejemplo, clasificar / predecir el riesgo de reincidencia del delincuente como "alto" o "bajo"); Aprendizaje no
supervisado (Nota: considérelo como una categoría amplia, que comprende todas las demás técnicas que no se basan ni en el
aprendizaje supervisado ni en el aprendizaje reforzado).
380 www.predictice.com
22
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
Descripción de la solución:
Predictice es una plataforma de investigación y análisis legal que utiliza lo mejor del procesamiento del lenguaje natural para el
desempeño de los profesionales legales.
Camino a seguir:
N/A
Perfil breve
Título del proyecto Anonimización de las decisiones judiciales del Tribunal Supremo francés
Campo: Blockchain o AI AI
Las normas de protección de datos personales en Francia exigen una anonimización de la jurisprudencia de calidad reforzada. A principios
de 2019, Lefebvre Sarrut comenzó a colaborar con el Tribunal Supremo francés y la administración francesa a cargo de TI y digitalización -
DINUM 382 en Francia para hacer una prueba de concepto (PoC) para la anonimización de las decisiones judiciales. La corte eligió ir con
Flair 383 de Zalando Research 384. El proyecto se completó y la conclusión es entrar en producción. Esto aún no ha sucedido ya que el
Tribunal está a la espera de una decisión del Ministerio de Justicia.
Lefebvre Sarrut analizó dos bibliotecas de código abierto: Spacy y Flair de Zalando Research para anonimizar las decisiones de los
Tribunales de Casación. Se eligió Flair debido a su mayor calidad, implementa tecnología de punta para el reconocimiento de entidades
nombradas (NER) con 'modelos de lenguaje' dedicados previamente entrenados para muchos idiomas, incluido el francés 385. Contribuyeron
al código fuente abierto para mitigar la lentitud del cálculo para conjuntos de datos muy grandes como los casos de los Tribunales de
Casación franceses (de un procesamiento de 2 millones de casos de 1 mes a 3 días en 1 máquina con una GPU).
381 https://www.lefebvre-sarrut.eu/en/homepage/
382 En francés, La direction interministérielle du numérique ( DINUM).
383 https://github.com/flairNLP/flair
384 https://research.zalando.com/
385 Consulte los artículos escritos por MB para obtener más información sobre su trabajo: https://towardsdatascience.com/why-weswitched-from-spacy-to-flair-to-anonymize-french-legal-c
23
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
Todo el proyecto, incluido el procesamiento de casos franceses, se ha hecho de código abierto (excluidos los datos).
Descripción de la solución:
• Lefebvre Sarrut 386 es una editorial / redactora legal, con oficinas en toda Europa;
Camino a seguir:
N/A
Perfil breve
Campo: Blockchain o AI AI
En comparación con el proyecto con el Tribunal Supremo francés donde Lefebvre Sarrut tenía más trabajo de programación, con
Luxemburgo ayudaron a las autoridades a construir el conjunto de datos con un PoC, por lo que su papel es más de asesoramiento. El
primer modelo ha aprovechado las decisiones existentes anonimizadas manualmente (el conjunto de datos de entrenamiento se ha
generado automáticamente comparando decisiones antes y después de la anonimización manual) y el equipo tuvo una idea de la calidad
de la anonimización sin realizar una importante inversión de tiempo. Al basar su trabajo en Flair, Lefebvre Sarrut está reutilizando el
conocimiento que adquirió con el algoritmo de última generación. Para medir la calidad de la anonimización, comparan las decisiones
anonimizadas manualmente con la anonimización automatizada.
Lefebvre Sarrut analizó dos bibliotecas de código abierto: Spacy y Flair de Zalando Research para anonimizar las decisiones de los
Tribunales de Casación franceses. Eligieron Flair porque la calidad es más alta, implementa tecnología de punta para el reconocimiento de
entidades nombradas (NER) con 'modelos de lenguaje' dedicados previamente entrenados para muchos idiomas
386 https://www.lefebvre-sarrut.eu/en/homepage/
24
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
incluido el francés 387. Contribuyeron al código fuente abierto para mitigar la lentitud del cálculo para conjuntos de datos muy grandes como
los casos de los Tribunales de Casación franceses (de un procesamiento de 2 millones de casos de 1 mes a 3 días en 1 máquina con una
GPU). Todo el proyecto, incluido el procesamiento de casos franceses, se ha hecho de código abierto (excluidos los datos).
Descripción de la solución:
El código fuente utilizado por la Corte Suprema francesa se ha adaptado para satisfacer las necesidades de las decisiones
luxemburguesas con un interés especial en comprender los errores cometidos por el algoritmo para ayudar a los anotadores manuales a
mejorar el conjunto de datos de entrenamiento.
Camino a seguir:
N/A
ALEMANIA
Paradatec, Posar-Aida
Estado: Disponible
Perfil breve
Blockchain o AI AI
Área de justicia Justicia civil; Justicia administrativa; Justicia penal; Ley de Competencia
La herramienta PROSAR-AIDA puede ser de ayuda donde se necesita la clasificación y extracción de datos de documentos no
estructurados y semiestructurados, especialmente cuando la lógica inherente de los documentos es extremadamente compleja.
La herramienta PROSAR-AIDA es un producto independiente con licencia patentada. Hace uso de algoritmos para tecnologías de
clasificación y optimización.
387 Consulte los artículos escritos por MB para obtener más información sobre su trabajo: https://towardsdatascience.com/why-weswitched-from-spacy-to-flair-to-anonymize-french-legal-c
25
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
Descripción de la solución:
La herramienta PROSAR-AIDA es una IA para el análisis de documentos. Hace uso de la clasificación y extracción de datos, en un
enfoque híbrido que combina IA y algoritmos basados en reglas. También proporciona un reconocimiento óptico de caracteres (OCR)
basado en redes neuronales.
Las aplicaciones de la herramienta incluyen la asignación de patentes y solicitudes de marca a un código de Clasificación Internacional de
Patentes (IPC), o la digitalización del registro de la propiedad pública, donde la herramienta PROSARAIDA crea datos estructurados a
partir de documentos PDF no estructurados, extrayendo miles de puntos de datos diferentes.
Camino a seguir:
N/A
PAÍSES BAJOS
LexIQ, Lexalyse
Estado: Disponible
Perfil breve
Blockchain o AI AI
Área de justicia Justicia civil; Justicia administrativa; Justicia penal; Ley de Competencia
La solución tiene como objetivo: Automatizar los procesos comerciales, en particular, la automatización del flujo de trabajo legal, Mejorar la
eficiencia, Aplicar la precisión, Adquirir conocimientos a partir de los datos disponibles, informes y visualización y Capacidad para
enfocarse en más actividades de valor agregado (con IA automatizando poco valor, Actividades rutinarias).
Lexalyse es un tipo de solución de software como servicio (SaaS) patentado. Utiliza algoritmos para la clasificación (por ejemplo, clasificar
/ predecir el riesgo de reincidencia del delincuente como "alto" o "bajo"). La solución es realizar la optimización mediante el uso de
programación lineal (por ejemplo, algoritmo simplex) y programación cuadrática (por ejemplo, algoritmo basado en gradiente / descenso).
Descripción de la solución:
389 www.lexiq.nl
26
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
La solución tiene como objetivo brindar total transparencia en la justicia, tales como reclamos laborales y de seguridad social; derecho
concursal y concursal, derecho de sociedades, derecho administrativo, derecho administrativo y de competencia.
Camino a seguir:
N/A
Estado: Disponible
Perfil breve
Blockchain o AI AI
Área de justicia Justicia civil; Justicia administrativa; Justicia penal; Ley de Competencia;
Otro, especifique aprendizaje automático
Tipo de tecnología AI
La solución tiene como objetivo automatizar los procesos comerciales, en particular, la automatización del flujo de trabajo legal. Además,
ayuda a mejorar la eficiencia, como: Lograr un tiempo de prueba más rápido; Mejora del "volumen de negocios", por ejemplo, número de
casos procesados. Además, proporciona una evaluación de riesgos más temprana y precisa, por ejemplo, detecta cláusulas
potencialmente contenciosas en documentos / contratos; Mejorar la satisfacción del 'cliente', donde el cliente se refiere a todas las partes
interesadas involucradas en un caso. Mejora la precisión en el sentido de garantizar
La plataforma Azure AI es una solución patentada de software como servicio (SaaS). Utiliza algoritmos para la regresión (por ejemplo,
predecir la puntuación de riesgo de reincidencia, en lugar de clase / categoría). Utiliza refuerzo y aprendizaje no supervisado. 391. Utiliza
técnicas de optimización y algoritmos de reconocimiento de voz.
Descripción de la solución:
390 https://www.microsoft.com/en-us/industry/government/public-safety-and-justice
391 Nota: En este contexto, el aprendizaje no supervisado se considera una categoría amplia, que comprende todas las demás técnicas que no se basan ni en el
aprendizaje supervisado ni en el aprendizaje reforzado.
27
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
La IA es la capacidad de una computadora para imitar el comportamiento humano inteligente. A través de la IA, puede analizar imágenes,
comprender el habla, comunicarse de forma natural y hacer predicciones basadas en datos.
La plataforma Azure AI ofrece capacidades avanzadas de aprendizaje automático, con especialidades desde diferentes perspectivas,
como: Azure Machine Learning, Azure Databricks y ONNX para crear, entrenar e implementar modelos de aprendizaje automático. Aplica
la minería del conocimiento mediante la adquisición de conocimientos de todo el contenido disponible (documentos, imágenes y medios)
con Azure Cognitive Search. Permite descubrir patrones y relaciones en contenido relacionado, comprender estados de ánimo y captar
términos clave.
Camino a seguir:
N/A
Perfil breve
Blockchain o AI AI
Tipo de tecnología AI AI
Esta herramienta permitirá la realización de análisis en red sobre decisiones legales para estudiantes e investigadores legales. Debido al
volumen cada vez mayor de documentos sobre diversos temas, es imposible para los humanos procesarlos todos. En este contexto,
utilizan el análisis de redes que ayuda al equipo a identificar la relevancia de las decisiones. Por el momento, la atención se centra en la
legislación holandesa, pero se prevé incluir casos de la UE y luego conectarlos a todos, para permitir el flujo de información en el sistema
legal de los Estados miembros.
N/A
Descripción de la solución:
N/A
Camino a seguir:
N/A
28
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
Perfil breve
Blockchain o AI AI
Tipo de tecnología AI AI
Siguiendo el mismo principio de información excesivamente aumentada, especialmente en el campo del derecho y la inteligencia artificial,
la necesidad de recuperar información relevante para evitar duplicaciones se está convirtiendo en una tarea que consume cada vez más
tiempo. Este proyecto trata de identificar el tema de los trabajos para optimizar el tiempo de investigación y descubrir patrones y
tendencias en el desarrollo de, en este caso, la investigación jurídica.
Las técnicas de procesamiento del lenguaje natural (PNL) se aplican en el sistema junto con el modelado de temas en el campo de la
inteligencia artificial y el derecho. La idea es alimentar las máquinas con el texto para identificar el tema como militares, autos autónomos,
etc. Estas técnicas podrían ser utilizadas para otras bases de datos legales y la intención es hacerlo. Se prevé utilizar el análisis de redes
con modelado de temas. El desarrollo de métodos para hacerlo escalable está en curso.
Descripción de la solución:
N/A
Camino a seguir:
N/A
Perfil breve
Blockchain o AI AI
29
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
Tipo de tecnología AI AI
El proyecto está en el contexto de empresas que trasladan su sede de un país a otro y cómo esto afecta los registros nacionales de
empresas. El proyecto ayuda a extraer información de los registros de los países nacionales sobre dónde están registradas las empresas,
cuál es su actividad y número de empleados, etc.
N/A
Descripción de la solución:
N/A
Camino a seguir:
N/A
2.16.3. NL, Universidad de Maastricht, Caso de uso: Impacto de las redes sociales en
niños
Perfil breve
Título del proyecto Campo: Impacto de las redes sociales en los niños
Blockchain o AI AI
Tipo de tecnología AI AI
El laboratorio de la universidad está trabajando en un proyecto para identificar cómo proteger a los menores en las redes sociales. Se trata
más de la evaluación que del daño que podría infligir.
N/A
Descripción de la solución:
N/A
Camino a seguir:
N/A
30
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
2.16.4. NL, Universidad de Maastricht, Caso de uso: Identificación del discurso de odio
Perfil breve
Blockchain o AI AI
Tipo de tecnología AI AI
Desde un punto de vista legal, la investigación se centra en los derechos políticos, de género y fundamentales, etc. para identificar el
discurso de odio. El objetivo principal es ver qué está sucediendo y dónde la tecnología puede ayudar a hacer cumplir la regulación. Para
ello se aplican métodos informáticos.
N/A
Descripción de la solución:
N/A
Camino a seguir:
N/A
2.16.5. NL, Universidad de Maastricht, Caso de uso - Violaciones de datos en la Dark Web
en línea
Perfil breve
Blockchain o AI AI
Tipo de tecnología AI AI
31
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
Hay un esfuerzo por desarrollar métodos para rastrear violaciones de datos en la web oscura.
N/A
Descripción de la solución:
N/A
Camino a seguir:
N/A
SUECIA
Estado: En desarrollo
Perfil breve
País, Organización y Contacto Suecia, Kairos Future 392, Sr. Magnus KEMPE
Persona
Blockchain o AI DLT
En relación con la contabilidad, la auditoría y la tributación, se identificaron desafíos, como la integridad de los datos; trazabilidad;
eficiencia operacional; y disminución de la dependencia técnica de los sistemas nacionales de la plataforma común. Por ejemplo, un
registro con poderes representaría una grave amenaza para la privacidad y un riesgo de ciberseguridad. Faltaba un lugar seguro y
accesible donde se pudieran guardar y consultar las autorizaciones personales.
La solución aún está en desarrollo. La tecnología detrás de la solución se basa en código abierto y se desarrolla en colaboración con la
empresa de TIC ChromaWay 393.
Descripción de la solución:
El objetivo de la solución Proxies es brindar la posibilidad de saber si un proxy (una indicación de los derechos y autoridades de una
persona en empresas y organizaciones) es
392 https://www.kairosfuture.com/
393 ChromaWay, empresa de TI - Blockchain, https://chromaway.com/
32
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
la última versión y es válida. La firma digital de proxies ya es posible, pero es difícil recordar un proxy, ya que puede haber copias. Con
esta solución, es posible recuperar y controlar las versiones.
La solución utiliza una cadena de bloques para referencias encriptadas y anónimas a los proxies. El enfoque de la herramienta radica en
registrar los poderes de las personas que trabajan en nombre de otra empresa, como
teneduría de libros por cuenta de otras empresas, y realización de registros y pagos en bancos y organismos públicos.
Camino a seguir:
Estado: En desarrollo
Perfil breve
Blockchain o AI DLT
En relación con la contabilidad, la auditoría y la tributación, se identificaron desafíos, como la integridad de los datos; trazabilidad;
eficiencia operacional; y seguridad y privacidad de los datos. Por ejemplo, un registro con facturas sería una grave amenaza para la
privacidad y un riesgo de ciberseguridad. Faltaba un lugar seguro y accesible donde se puedan almacenar y consultar las facturas de las
empresas.
La solución aún está en desarrollo. La tecnología detrás de la solución se basa en código abierto y se desarrolla en colaboración con la
empresa de TIC ChromaWay.
Descripción de la solución:
La solución Facturas es una herramienta de seguimiento de los impuestos de los bienes vendidos en empresas y tiendas. Ayudará a la
agencia tributaria a detectar el fraude fiscal y asegurar los ingresos del IVA. Todos los impuestos pasarán directamente a través de un
único servidor y solo existirá una factura de IVA.
Dará un control de versiones de documentos y originales, ya que solo habrá una fuente única para la verdad, sin darle todo el poder a esta
fuente.
Camino a seguir:
33
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
Este tipo de solución blockchain está comenzando a usarse para validar documentos, pero se espera que se expanda a más áreas y se
use a escala.
Reino Unido
Estado: Disponible
Perfil breve
Campo: Blockchain o AI AI
Los requisitos clave son que las velocidades de entrega sean demasiado lentas, los costos para preparar los documentos son demasiado
altos, los costos para organizar y tener "lo correcto listo en el momento adecuado" implican demasiada mano de obra.
La solución tiene como objetivo mejorar la eficiencia, como el tiempo de prueba mejorando la 'rotación',
por ejemplo, número de casos procesados. Además, la solución tiene como objetivo la satisfacción del "cliente", donde el cliente se refiere
a todas las partes interesadas involucradas en un caso. Mejora la precisión al eliminar los sesgos y prejuicios humanos. Finalmente, la
solución brinda la capacidad de enfocarse en actividades de mayor valor agregado (con IA automatizando actividades rutinarias de bajo
valor).
La solución es propietaria y se ofrece como software como servicio (SaaS). VoiceScript automatiza un proceso altamente manual
(transcripción manual) sin errores y en un entorno de varias personas y varios idiomas. El ahorro medio de costes es del 70% y la salida
del sistema permite a las organizaciones recombinar los artefactos para que se puedan generar modelos de datos y conocimientos más
valiosos a lo largo del tiempo.
Descripción de la solución:
Transcripción y traducción de voz automatizada por usuario / hablante, junto con capacidades de inteligencia artificial en análisis de
sentimientos, significado del contenido, datos de co-referencia, correlación y ubicación de proximidad. Del mismo modo, se utiliza un
servicio que extrae datos resumidos de manera combinatoria (tome un documento de 200 líneas y proporcione un resumen de hechos de
5 líneas de lo que se dijo) más la capacidad de hacer una comparación de desviación del texto para encontrar anomalías.
394 www.voicescripttech.com
34
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
También proporciona un conjunto de datos amplio y profundo que se puede usar nuevamente para encontrar datos interconectados. Por
ejemplo: ¿cuántas veces durante una entrevista policial una persona comete un error al volver a contar su cronología de eventos? ¿Qué
tan grandes son los errores y los errores están relacionados con una persona / artículo / lugar?
Camino a seguir:
N/A
Estado: Disponible
Perfil breve
Blockchain o AI AI
Área de justicia Justicia civil; Justicia administrativa; Justicia penal; Ley de Competencia
Los requisitos, necesidades y problemas clave suelen ser los siguientes: Mejorar la patrulla de oficiales; Eficiencia; Incrementar la
responsabilidad de los oficiales; Eliminar el potencial de parcialidad de los oficiales al patrullar; Incrementar la transparencia
departamental; y Reducir el crimen.
Esto conduce a: Mejorar la eficiencia al lograr un tiempo de prueba más rápido; Mejorar el "volumen de negocios", por ejemplo, número de
casos procesados; Evaluación de riesgos más temprana y precisa,
por ejemplo, detectar cláusulas potencialmente contenciosas en documentos / contratos; Mejorar la satisfacción del 'cliente', donde cliente se
refiere a todas las partes interesadas involucradas en un caso; Adquirir conocimientos a partir de datos, informes y visualización disponibles;
Capacidad para concentrarse en actividades de mayor valor agregado (con IA que automatiza actividades rutinarias de bajo valor).
395 http://www.predpol.com/law-enforcement/
35
Estudio sobre el uso de tecnologías innovadoras en el ámbito de la justicia - Anexo IV: Empresas TIC
proyectos / servicios
La solución es propietaria y se proporciona como un software como servicio (SaaS). Utiliza algoritmos para la clasificación (p. Ej.,
Clasificar / predecir el riesgo de reincidencia del delincuente como 'alto' o 'bajo') y aprendizaje no supervisado 396.
Descripción de la solución:
Esta herramienta de vigilancia predictiva (PredPol) utiliza un algoritmo de aprendizaje automático para calcular sus predicciones. Para ello,
utiliza conjuntos de datos de eventos históricos, idealmente de 2 a 5 años de datos, para entrenar el algoritmo para cada nueva ciudad.
PredPol luego actualiza el algoritmo todos los días con nuevos eventos para los cuales utiliza la información proveniente del sistema de
administración de registros (RMS) de la agencia. PredPol no recopila, almacena ni utiliza información de identificación personal de ningún
tipo.
La parte "Operaciones de patrulla" de la herramienta está a cargo de la planificación de la misión y la gestión de la ubicación. Para esta
tarea, PredPol permite a las agencias establecer misiones específicas para cada turno, tiempo y día de la semana. Estas misiones son
colecciones de crímenes o eventos seleccionados. PredPol luego muestra las ubicaciones de mayor probabilidad para los eventos
asociados con cada misión. Utilizando GPS o localización automática de vehículos (AVL), PredPol también puede rastrear la "dosis" de las
cajas de PredPol. (La dosis se refiere a la cantidad de tiempo que los oficiales pasan en las casillas de PredPol y una casilla de PredPol
se refiere a un área específica de la ciudad con mayor riesgo). Esto permite que el personal de comando se asegure de que las áreas
recomendadas estén siendo patrulladas. PredPol también crea mapas de calor de patrulla que le permiten al personal de comando ver si
alguna área de su jurisdicción está siendo patrullada en exceso o no.
La parte analítica de la herramienta es COMPSTAT de PredPol. Este módulo de análisis e informes proporciona un resumen rápido de un
conjunto de datos rico y complejo. Puede crear informes personalizados al instante, mediante cualquier combinación de tipos de delitos,
misiones, distritos y turnos en cualquier rango de fechas. El objetivo es presentar los datos subyacentes en un formato procesable. Esto se
usa para actividades como la planificación de misiones y el establecimiento de niveles de recursos, siguiendo la filosofía "no se puede
administrar lo que no se mide". Esta información también se puede compartir con el gobierno local o la comunidad para ver la cobertura
relativa de patrulla en toda la ciudad.
Camino a seguir:
N/A
396 Nota: En este contexto, el aprendizaje no supervisado se considera una categoría amplia, que comprende todas las demás técnicas que no se basan ni en el
aprendizaje supervisado ni en el aprendizaje reforzado.
36
CÓMO OBTENER PUBLICACIONES DE LA UE
Publicaciones gratuitas:
• una copia:
a través de EU Bookshop (http://bookshop.europa.eu);
(http://eeas.europa.eu/delegation/index_en.htm);
poniéndose en contacto con el servicio Europe Direct (http://europa.eu/europedirect/index_en.htm) o llamando al 00 800 6 7 8 9 10 11
(número de teléfono gratuito desde cualquier lugar de la UE) (*).
(*) La información proporcionada es gratuita, al igual que la mayoría de las llamadas (aunque algunos operadores, cabinas telefónicas u hoteles
pueden cobrarle).