Nuevas tecnologías

Auxilio o reemplazo de los

operadores judiciales?

Córdoba, octubre 2018

 Algoritmo
• Conjunto metódico de pasos que pueden emplearse para hacer cálculos, resolver
problemas y abrazar decisiones
• Es el método que se sigue cuando se hace el cálculo
IA auxilio o reemplazo de operadores
judiciales?

Equilibrio, armonización e
interacción entre la IA y la
intervención humana
especializada
 Algoritmos autónomos

Un algoritmo de caja negra es uno donde el usuario

no puede ver el funcionamiento interno del
algoritmo.
Un ejemplo de esto puede ser el algoritmo que rige
las búsquedas de Google. Se sabe que hay ciertos
factores que influyen en el posicionamiento, pero
nadie fuera de Google conoce con exactitud todos los
parámetros que influyen en la clasificación de una
página web, ni el porcentaje de ponderación de
dichos parámetros.
3 ámbitos para trabajar
 1- Predicción criminal
• Calcula la probabilidad de que una persona cometa un delito en el futuro,
permitiendo que las autoridades pronostiquen el crimen, dónde es probable que
suceda, o quién es probable que lo cometa
• El software de predicción criminal -crime prediction tech- es utilizado por las fuerzas de
seguridad para efectuar prevención policial
• Son programas informáticos nutridos de cantidad de datos y variables que, en base
a algoritmos de aprendizaje automatizado elaboran predicciones en tiempo real
mostrando un mapa del delito para organizar las políticas de prevención
1- Predicción criminal
CORTICA
Software de IA y sistema de video vigilancia
desarrollada por una Cía. Israelí con la empresa
Best Group de India que tiene como fin frustrar
la comisión de delitos en lugares públicos a
través de la búsqueda de anomalías de
comportamientos humanos, en tiempo real,
buscando microexpresiones que son
movimientos o gestos minúsculos que podrían
delatar próximos comportamientos fuera de la
ley (terrorismo).
 Software de IA
• What if: Qué hubiera pasado si una cámara con IA hubiere
estudiado imágenes y microexpresiones del asesino que viajaba
en Uber y asesinó a 17 alumnos de una escuela.
• China: Programa de personas buscadas que utiliza
reconocimiento facial para saber si tiene antecedentes penales
con un 93% de exactitud.
• VALCRI: combina imágenes de rostros con denuncias penales
 Predicción criminal
• El uso de vigilancia predictiva es una tendencia creciente
• Los algoritmos de IA no están libres de sesgos
• El acceso a big data debe ser analizado bajo el alcance legal de una expectativa
razonable de privacidad e intimidad, y evaluar la necesidad de una orden judicial en
cada caso concreto
• Controlar estos proceso para mitigar un poder discrecional
• Tratamiento adecuado de los datos
• Patrones delictivos contrarios al dcho a la presunción de inocencia
• El pronóstico de riesgo puede influenciar las decisiones judiciales sobre la
culpabilidad –COMPAS-, caso State v. Loomis. Wisconsin
2- Investigación: CODIS
Sistema informático del FBI de ADN que permite
comparar perfiles genéticos digitalizados y estudiar
conductas y vinculaciones entre personas que
cometieron delitos contra la integridad sexual.
Los cromosomas siempre brindan información. El uso
más extendido de los test de ADN es el análisis
genealógico, que determina de qué región del mundo
proceden los ancestros de un individuo en función de
ciertos marcadores genéticos.
Reconstrucciones faciales a partir de ADN
Investigación: AFIS criminal

Software para obtener, almacenar

y analizar datos de huellas
dactilares.
Sistema automático de
identificación biométrica.
Cellebrite: Digital Inteligence

Es una plataforma tecnológica que

permite analizar, relacionar y vincular toda
clase de datos de diferente tipo. Ej., el
triage digital interactúa con algoritmos de
IA que permiten relacionar datos de
interés de los celulares secuestrados,
claves, etc.
 IA y robótica
• Un robot con GPS podría obtener datos de
geolocalización inmediatamente para identificar
un dispositivo electrónico
• Acceder a la cámara de vigilancia pública en
tiempo real
• Usar software de imágenes, lectura de matrículas y
reconocimiento facial para identificar sospechosos
• Autoría y participación de los robots…?
Ondas Neuronales: Hackeos cerebrales
• Lee conocimiento del cerebro del
sospechoso. Australia
• Lectura del cerebro del testigo que permiten
generar imágenes exactas del criminal
• Proyecto DARPA-BAA 16-09 para leer
1.000.000 de neuronas
• Riesgo: Brian Spyware. Implante de software
malicioso
 Neurociencia cognitiva

Buscan comprender la relación entre el cerebro y los

procesos mentales y entender cómo influyen en nuestra
conducta: atención, lenguaje, percepción visual,
memoria
Psicología del testimonio. Estudia la memoria del
testigo de un relato sobre hechos del pasado que
presenció. Detecta errores en la percepción del hecho.
La sugestión como la mayor variable que amenaza la
exactitud del recuerdo: ej.
3- Juicio: Uso de IA para ayudar a los jueces a
admitir testimonio de experto
• Criterios de Daubert y Reglas de Evidencia USA
• Un robot de IA podrá evaluar el testimonio de un experto y
comparar con cantidad de información y estudios para
determinar si el diseño de experimento es admitido por la
comunidad científica.
• Identificar estudios existentes donde se usaron métodos iguales
y su resultados
• Detecta sesgos del experto
 Conclusiones
• La correcta evaluación y control sobre la efectividad del inteligencia artificial, su
tasa de error y el apego a los derechos fundamentales, son de gran importancia para
garantizar que se cumplan los parámetros de seguridad antes de su actuación.
• El uso de análisis predictivos son herramientas que ya se utilizan en esta era digital;
y debemos encontrar soluciones sobre cómo manejar su uso apropiado, hallando
un equilibrio entre la libertad individual y la seguridad pública y la persecución
penal cuando de privacidad e intimidad se trata.
• Si la libertad de las personas depende de programas de inteligencia artificial que no
pueden explicar paso a paso el proceso por el que arriban a una determinada
decisión o predicción, entonces esa decisión algorítmica, ¿sería arbitraria?
 Harari
• Homo Deus conservará algunos rasgos humanos esenciales, pero
también gozará de capacidades físicas y mentales mejoradas que le
permitirán seguir siendo autónomo incluso frente a los algoritmos no
conscientes más sofisticados. Puesto que la inteligencia se está
escindiendo de la conciencia y se está desarrollando a una velocidad
de vértigo, los humanos deben mejorar activamente su mente si
quieren seguir en la partida.
 MUCHAS GRACIAS
DANIELA DUPUY
ddupuy@fiscalias.gob.ar
@danydupuyok