INTRODUCCION

El uso de la IA en los sistemas judiciales está siendo explorado por las judicaturas,
los servicios de fiscalía y otros órganos judiciales específicos a nivel mundial. Por
ejemplo, en el ámbito de la justicia penal, muchos sistemas judiciales del mundo
entero ya utilizan sistemas de IA para brindar asistencia en investigación y
automatizar los procesos de toma de decisiones. Al considerar los rápidos
avances en este campo, los desafíos y oportunidades relacionados con el
aprovechamiento de la IA en los sistemas judiciales y sus implicaciones para los
derechos humanos y el estado de derecho deben formar parte de las discusiones
entre las partes interesadas del ecosistema judicial. Por lo tanto, este curso de
capacitación en línea en formato de curso abierto masivo en línea (MOOC, por sus
siglas en inglés) se desarrolla en cooperación con el centro CETIC de categoría 2
de la UNESCO y el IEEE en respuesta a las necesidades expresadas por Estados
miembros de la UNESCO, jueces y otras partes interesadas
Inteligencia artificial en el derecho internacional
La globalización, la transnacionalización, la multiplicidad de redes transfronterizas
no reguladas, el incremento del uso de la IA en el ámbito público y privado
nacional, internacional y transnacional a nivel planetario presentan un status de
fragmentación, sin coordinación y con fuerte competencia. Si bien los Estados
nacionales han visto debilitada su capacidad de regulación efectiva en la materia
por variadas razones, la Organización de las Naciones Unidas (ONU) -junto con
sus organismos especializados- ha buscado mantenerse activa en varios frentes,
destacándose el Grupo de Grupo de Expertos ad hoc de la UNESCO sobre Ética
de la IA y el Panel de alto nivel sobre cooperación digital de la Secretaría
General de la Organización. La ONU está bien posicionada para aprovechar las
iniciativas y ofrecer una vía multilateral creíble hacia usos éticos centrados en el
ser humano y en la preservación de la paz.
Como en todos los campos de la vida humana, si no se gestiona a favor de la
humanidad, puede conducir a resultados injustos. Sin supervisión humana, estos
cambios pueden ampliar las desigualdades económicas, sociales y culturales.
Contamos con evidencia respecto al rumbo que podría tomar la inteligencia
artificial si no es bien gestionada y los ejemplos sobran: personas que han sido
catalogadas como más propensas a cometer delitos solo porque algoritmos de
inteligencia artificial tienen sesgos en torno a personas afrodescendientes o
latinas; sistemas de reconocimiento facial que se alimentan de preconceptos
estereotipados; amenazas hacia la democracia, sus procesos electorales y la
credibilidad de sus instituciones por acciones como la desinformación,
diseminación de discurso de odio, cibervigilancia.

Necesitamos un marco ético que frene cualquier intento de manipulación de

comportamientos sociales, exacerbación de las desigualdades, profundización de
los sesgos, fomento del extremismo y la radicalización, daño a la diversidad y
erosión de los derechos humanos y las libertades fundamentales que constituyen
nuestras democracias.

En 2021, encomendado por sus 193 Estados Miembros, la UNESCO aprobó el

primer instrumento normativo mundial en forma de “Recomendación sobre la Ética
de la inteligencia artificial”. Este documento establece un estándar global para la
inteligencia artificial, que se basa en valores y principios éticos para ser aplicados
en todo el ciclo de vida de la IA. Además, ofrece orientación detallada sobre cómo
aplicarlos en una amplia gama de áreas que están siendo impactadas por la IA,
como la gobernanza de datos, el medio ambiente, la igualdad de género, la
economía y el trabajo, la cultura, la educación y la investigación.
La Recomendación también establece mecanismos de seguimiento y evaluación
para asegurar el impacto de las acciones que se tomen y que ya están siendo
trabajadas por la UNESCO, en conjunto con 40 países en todo el mundo. A su
vez, ha comenzado a desarrollarse la institucionalidad necesaria para asegurar su
implementación.

En este sentido, se ha creado la Red de Mujeres por una IA Ética (W4ethicalAI),

movilizando a mujeres líderes en la ejecución de políticas de género innovadoras,
de acuerdo con los postulados de la Recomendación, un Observatorio de ética de
la IA, así como un grupo de expertos y expertas en ética de la IA.

Próximamente se lanzará, en conjunto con la CAF- Banco de Desarrollo de

América Latina, el Consejo Regional para la implementación de la Recomendación
sobre la Ética de IA de la UNESCO, como primer espacio de gobernanza política
de la IA en América Latina y el Caribe. En este Consejo Regional están
representados los países “pioneros” en la implementación: Argentina, Brasil,
Colombia, Costa Rica, Cuba, Ecuador, El Salvador, México, Perú y Uruguay, con
Chile como patrocinador de la primera reunión.

En América Latina y el Caribe, la UNESCO ha puesto en marcha programas de

capacitación en IA “para que nadie quede atrás”, con más de 10.000 profesionales
de medios de comunicación y del ámbito de la justicia ya capacitadas respecto a
cómo la IA repercute en nuestra vida, sus desafíos y retos, y cómo abordarla
desde la ética y los derechos humanos.

Estos esfuerzos incluyen la formación de operadores de justicia de todo el mundo

en cuestiones de vanguardia de la inteligencia artificial. En América Latina, estos
esfuerzos se realizan en conjunto con la Corte Interamericana de Derechos
Humanos.

En materia de periodistas y medios de comunicación, nuestro plan de formación

fomenta, desde hace más de cinco años, actividades para la profundización de
conocimientos sobre abordajes críticos de las tecnologías, la inteligencia artificial y
la regulación de plataformas. Para esto, contamos con valiosos socios regionales,
como la Sociedad Interamericana de Prensa.

Colocados en un tránsito histórico, tenemos un gran desafío por delante.

La Agenda 2030 de Desarrollo Sostenible es una vía para transitar y colocar en el
centro de nuestros esfuerzos el logro de estos objetivos, que pueden verse
facilitados gracias a la inteligencia artificial. ChatGPT o Bard podrían haber escrito
esta columna, pero lo que no pueden hacer es conducir los esfuerzos para que la
inteligencia artificial sea un activo acelerador para alcanzar los Objetivos de
Desarrollo Sostenible. Estas tecnologías pueden conocer esos objetivos, pero
somos las sociedades, a través de sus organizaciones y trabajo conjunto, quiénes
somos capaces de escuchar nuestras diferencias y crear consensos para un futuro
con menos desigualdades.

Hay una oportunidad para la acción coordinada entre Estados, academia,

sociedad civil y empresas, trazando la ruta de la inteligencia artificial con un
enfoque de derechos humanos. El momento de trabajar juntas y juntos es ahora,
por una inteligencia artificial basada en la ética y que no deje a nadie atrás.

Los sistemas judiciales a nivel mundial utilizan la Inteligencia artificial (IA) para
analizar grandes cantidades de datos jurídicos con el objetivo de ayudar a los
abogados a identificar precedentes en la jurisprudencia, permitir a las
administraciones simplificar los procesos judiciales y apoyar a los jueces a
establecer predicciones sobre temas que incluyen la duración de sentencias y las
puntuaciones de reincidencia. El surgimiento de la analítica de datos legales y la
justicia predictiva tiene implicaciones frente a los derechos humanos, puesto que
la opacidad de los sistemas de IA puede ir en contra de los principios de justicia
abierta, debido proceso y el estado de derecho.

El curso en línea masivo y abierto (MOOC) sobre la IA y el Estado de derecho es

un curso introductorio que involucra a los operadores judiciales en un debate
global y oportuno sobre la aplicación de la IA y su impacto en el estado de
derecho. Estructurado en torno a seis módulos, el curso aborda los riesgos y las
oportunidades de la creciente adopción de tecnologías de IA en los sistemas
judiciales y su impacto en la administración de justicia, en particular, en lo que
respecta a los derechos humanos, la ética y la gobernanza de la IA. El curso fue
desarrollado por la UNESCO y The Future Society, con el apoyo de Cetic.br|
NIC.br, el Colegio Nacional de la Magistratura e IEEE SA. Fue posible gracias a
las amables contribuciones del Programa de Donantes Múltiples de la UNESCO
para la Libertad de Expresión y Seguridad de los Periodistas (MDP) y Open
Society Foundations.

A medida que avanza el uso de las tecnologías de IA, los sistemas judiciales se
involucran en cuestiones legales relacionadas con las implicaciones de la IA con
respecto a los derechos humanos, la vigilancia y la responsabilidad, entre otros.
Además, los sistemas judiciales también utilizan sistemas de IA para los procesos
de toma de decisiones judiciales que han planteado preocupaciones sobre la
equidad, la rendición de cuentas y la transparencia en la toma de decisiones de
parte de sistemas automatizados o habilitados mediante la IA.

Diversos sistemas judiciales actualmente exploran el potencial de la IA, como ser

el poder judicial, los servicios de fiscalía y otros órganos judiciales especializados
en el mundo entero y en el ámbito de la justicia penal, proporcionando asistencia
de investigación y automatizando/facilitando los procesos de toma de decisiones.

Sin embargo, el uso de la IA plantea una amplia gama de desafíos que deben
abordarse: desde el reconocimiento de patrones pasando por la ética, las
decisiones sesgadas tomadas según algoritmos basados en la IA, la
transparencia, hasta la rendición de cuentas. Los algoritmos de autoaprendizaje,
por ejemplo, pueden ser entrenados mediante ciertos conjuntos de datos
(decisiones anteriores, imágenes faciales o bases de datos de video, etc.) que
podrían contener datos sesgados y que puedrían utilizarse con aplicaciones para
fines penales o de seguridad pública, lo que conduce a decisiones sesgadas.

Si se considera los rápidos avances en este ámbito, deben formar parte de las
discusiones entre las partes interesadas del ecosistema judicial todos los desafíos
y oportunidades relacionados con el aprovechamiento de la IA en los sistemas
judiciales y sus implicaciones para los derechos humanos y el estado de derecho.

A través de una mejor comprensión y conocimiento de la normativa internacional y

regional en materia de libertad de expresión y seguridad de los periodistas, los
jueces y otros miembros del poder judicial pueden ajustar mejor sus decisiones a
las normas y buenas prácticas internacionales y regionales sobre estas
cuestiones.

Sobre la base de la experiencia anterior, la UNESCO y sus asociados están

desarrollando el programa para fomentar la capacidad de los agentes judiciales en
relación con el uso de la IA en los tribunales y por las fuerzas del orden, así como
para abordar las implicaciones jurídicas de las decisiones judiciales de IA basadas
en las normas internacionales de derechos humanos.
 CONCLUSIÓN
En conclusión, la IA tiene un gran potencial para revolucionar la sociedad, puesto
que, con la ayuda de la IA, se pueden hacer importantes avances en múltiples
frentes, incluido el derecho, desarrollando sistemas de toma de decisiones más
eficientes y precisos.
La inteligencia artificial y el derecho internacional público tienen un gran potencial
para mejorar la administración de justicia responsable de la IA, se podría
proporcionar un servicio más eficiente, eficaz y justo a los ciudadanos ya que
permite la automatización de una gran variedad de procesos complejos que aún
requerían de intervención humana así mismo se puede utilizar para analizar
grandes cantidades de datos jurídicos con el objetivo de ayudar a los abogados a
identificar precedentes en la jurisprudencia, permitir a las administraciones
simplificar los procesos judiciales.
Por otro lado el uso de sistemas de IA puede llegar a comprender a una gran
diversidad de derechos fundamentales, independientemente del campo de
aplicación. Entre ellos se incluyen, entre otros, la privacidad, la protección de
datos, la no discriminación y el acceso a la justicia. La regulación de la inteligencia
artificial será un tema crucial en el futuro a medida que la tecnología continúe
evolucionado.