IA y privacidad; la

sostenibilidad legal del

machine learning
Sandra Ordoñez Montoya
 ¿QUIÉN SOY?

SECURE AND IT PROYECTOS S.L. (SECURE&IT)

 IA y privacidad; la sostenibilidad legal del
machine learning

¿QUÉ ES LA INTELIGENCIA
ARTIFICIAL (IA)?

• Término general que engloba aquellas tecnologías

que tienen como objetivo imitar las capacidades
de razonamiento humano.

• ¿Y el Machine Learning (ML)?

Es una rama específica de la IA. Los algoritmos se
entrenan utilizando conjuntos de datos para hacer
clasificaciones o predicciones. EN 1956, JOHN MCCARTHY ACUÑÓ LA EXPRESIÓN:
"INTELIGENCIA ARTIFICIAL", Y LA DEFINIÓ COMO "LA CIENCIA E
INGENIO DE HACER MÁQUINAS INTELIGENTES”
Numerosas tecnologías y disciplinas que
involucran IA:

• Reconocimiento automático del habla

• Procesamiento de lenguaje natural
• Reconocimiento visual
• Big data
• Machine learning
• Deep learning
• Cognitive Intelligence
 IA y privacidad; la sostenibilidad legal del
machine learning

¿Cómo funciona el ML?

Análisis de
Evaluar el
Definir el Pre-procesamie errores para
Colección de los Construir el modelo e
objetivo del nto de datos y mejorar los
datos modelo de ML integrarlo en un
proyecto depuración resultados de
Sistema
ML
 IA y privacidad; la sostenibilidad legal del
machine learning
Malentendidos sobre el ML

• “Cuántos más datos y mayor sea la variedad mejor”. NO, los datos deben
seleccionarse para cumplir umbrales de precisión y representatividad ya
que datos inexactos podría empeorar el rendimiento del sistema.

• “La transparencia en ML viola la propiedad intelectual y no es entendida

por el usuario”. Se debe ofrecer no solo información técnica detallada, los
responsables deben informar de los posibles impactos en la vida diaria.

• “Los sistemas de ML están sujetos a diferentes tipos de sesgos y algunos

de estos provienen de sesgos humanos”. Los sistemas de ML están sujetos
a diferentes sesgos, algunos de ellos humanos, en función de sus
características inherentes.

En general = Riesgos en la protección de datos

 IA y privacidad; la sostenibilidad legal del
machine learning
Textos de referencia para el
cumplimiento de las obligaciones

- RGPD y LOPDGDD
- Adecuación al RGPD de tratamientos que incorporan IA
- Reglamento 2022/868 relativo a la gobernanza europea de datos
- Propuesta de reglamento europeo por el que se establecen normas armonizadas en materia IA

- Directrices sobre decisiones individuales automatizadas y elaboración de perfiles a los efectos del Reglamento 2916/679 –
CEPD
- Guidelines 05/2022 on the use of facial recognition technology in the área of law enforcement- CEPD
- Información algorítmica en el ámbito laboral

- Guía de protección de datos por defecto

- Guía de privacidad desde el diseño
- Guía para la notificación de brechas de datos personales
 Propuesta de reglamento europeo por el que se
establecen normas armonizadas en materia IA
Crear una IA fiable para/con los
ciudadanos
Tuvo lugar en abril de 2021
Entrará en vigor en enero de 2024
Se enfoca en el concepto del riesgo
Dar soluciones y defensa de los derechos fundamentales de los ciudadanos frente a aquellos riesgos que
puedan dar lugar los sistemas de IA

• Afectan a proveedores, fabricantes, usuarios cuando:

✔ Introduzcan en el mercado un sistema de IA de alto riesgo con su propio nombre o marca comercial
✔ Cuando se modifique la finalidad prevista de un sistema de IA de alto riesgo ya introducido en el mercado
✔ Cuando se realice una modificación sustancial en el sistema de IA de alto riesgo
 Propuesta de reglamento europeo por el que se
establecen normas armonizadas en materia IA

Enfocado en el RIESGO, categorías:

Riesgo inadmisible: clara amenaza para la seguridad de los derechos de los ciudadanos
Alto riesgo: se debe analizar los posibles riesgos que puedan impactar en la seguridad de los ciudadanos
Riesgo limitado: obligaciones de transparencia hacia los interesados
Riesgo mínimo o nulo: autorregulación

Obligaciones: Sanciones:

✔ Gestión de riesgos
✔ Gobernanza de datos ▪ 30 M euros / 6% del volumen de negocio total anual
✔ Documentación técnica mundial del ejercicio financiero anterior
✔ Registro de documentación (trazabilidad) ▪ 20 M euros/4% del volumen de negocio total anual
✔ Transparencia y suministro de información a los interesados mundial
✔ Vigilancia humana ▪ 10 M euros/ 2 % del volumen de negocio total anual
✔ Precisión mundial
✔ Solidez y ciberseguridad
 Nuevas autoridades de control

▪ Cada Estado miembro autoridad nacional de supervisión, una autoridad notificante y una autoridad de
vigilancia del mercado

▪ Nuevo Comité Europeo de Inteligencia Artificial: formado por las autoridades nacionales de supervisión y el
Superior Europeo de Protección de Datos

▪ La CE junto a los Estados miembros crearán bases de datos en las que se registre los sistemas de alto riesgo
independiente

Cooperación Supervisor Europeo de Protección de Datos + el Comité Europeo de Inteligencia Artificial

Ofrecer la máxima protección a los datos de carácter personal de los ciudadanos

 Guía para la adecuación al RGPD de tratamientos que
incorporan Inteligencia Artificial de 2020:
Manera lícita, leal y
transparente

❖ Tratamientos de IA débil Limitación de la finalidad

❖ Medidas de responsabilidad en todo el ciclo de vida del dato

Minimización de datos

❖ Obligaciones: PRINCIPIOS
Exactitud
RGPD

✔ Informar y transparencia
✔ Responsabilidad proactiva Limitación del plazo de conservación

✔ Cumplimiento de obligaciones en caso de transferencias

internacionales
Integridad y confidencialidad
✔ Intervención humana

Actitud proactiva
Conclusiones
❑ Nuevos riesgos de las nuevas tecnologías suponen un avance tecnológico, pero lento

en el ámbito jurídico

❑ Dificultad de encontrar expertos en la materia

❑ Concienciar en el ámbito tecnológico

❑ Garantizar desde una perspectiva ética y jurídica la protección de los DDFF

GRACIAS