Inteligencia Artificial en protección de datos en el sector público

¿Puede la ciencia de datos ayudar a combatir la corrupción en la

contratación pública?

En los últimos años ha ocurrido un creciente uso e interés por la aplicación e las
nuevas tecnologías que están asociadas con la cuarta revolución industrial. El uso
tan extensivo de estas tecnologías ha producido nuevos y potenciales nichos de
aplicación que, aun que traen consigo una serie de ventajas, también se han
convertido en una preocupación para la sociedad actual. Algunas de esas
preocupaciones son la corrupción, el posible fraude que, aun no son practicas
nuevas, si han encontrado en el uso inexistente de la tecnología y la ignorancia de
las personas una manera para mantenerse vigentes.

"las ciencias de la computación proveen conceptos integradores que han permitido

que los sistemas aprendan conductas, a través de algoritmos específicos y
mediante el procesamiento de grandes volúmenes de datos" (Uribe-Gómez, 2021,
p. 7)

La corrupción pública es ese abuso que se realiza desde una posición de poder de
forma malintencionada para lograr adquirir unos beneficios materiales en cualquier
organización o institución que haga parte del estado. La corrupción como bien es
sabido puede inhibir el crecimiento económico, afectando así los negocios,
empleos y posibles inversiones, lo cual lleva a una disminución de la calidad de
vida y un aumento en la desconfianza de los particulares con el estado, pues es
este mismo quien lo priva de oportunidades.

Es por ello que al involucrar la ciencia y el análisis de datos como un motor de

innovación para lograr una transformación dentro de la contratación pública puede
convertirse en una herramienta de gran ayuda, generando mecanismos que
contribuyan a combatir la corrupción en el estado. Dichos mecanismos han
resultado no solo siendo una solución bastante factible, sino que además se han
podido aprovechas desde múltiples problemáticas. (Uribe-Gómez, 2021, p. 10)

La ciencia de datos, que está respaldada por tecnologías como el big data y la
Inteligencia Artificial, puede ofrecer unas importantes herramientas que ayuden a
combatir la corrupción en la contratación pública. Por medio del análisis de datos y
el uso de ciertos algoritmos específicos, es posible que se haga una identificación
de patrones de fraude, al realizar análisis exploratorios y aplicar las técnicas de
procesamiento de lenguaje natural para hacer análisis de contratos y detectar
aquellas posibles irregularidades.
La inteligencia artificial ante el desafío de la transparencia algorítmica, una
aproximación desde la perspectiva jurídico-administrativa

Aun que podemos decir que la inteligencia artificial contribuye para el

cumplimiento de nuevas funciones en la contratación pública, esta aun no está
madura para reemplazar por completa a los funcionarios públicos, los algoritmos
pueden ayudar para la ejecución de la actividad humana. En todos los gobiernos
del mundo se ha reconocido el poder que tiene las IA para transformar los
servicios públicos y la necesidad de contar con estrategias integrales para la
aplicación de estas. Teniendo en cuenta que la penetración tan grande de los
sistemas algoritmitos cada vez más avanzados es importante realizar un análisis
de la transparencia algorítmica que debe tener en cuenta la ética y la auditoria
algorítmica como parámetros para un buen gobierno.

Se plantean una serie de desafíos para la toma de decisiones que están basadas
en algoritmos, se hace reconocimiento de varias definiciones de la IA,
primeramente Agustí Cerrillo quien define a la IA como la capacidad que tienen las
computadoras para realizar tareas o actividades que son típicamente humanas.
Otro autor importante que se menciona es Lorenzo Cotino quien hace una
introducción en el panorama de la IA el concepto de algoritmo, este señala que
tenemos entenderlo como una secuencia par que un ordenador realice una
transformación de un input en output.

Debemos tener en cuenta también las consecuencias que puede acarrear un

sistema algorítmico que describe la IA por la transparencia algorítmica, En el
sistema jurídico – administrativo español ya se tiene un reconocimiento
familiarizado con el tratamiento de aquellos temas que son más tradicionales
relacionados a la transparencia pública, es cierto que ahora se debe priorizar la
verificación de la transparencia en operaciones sistemáticas que pueden llegar a
resultad intangibles. Sin embargo, no todos los algoritmos son iguales, debemos
hacer una consideración de aquellos algoritmos que se adoptan para la toma de
decisiones administrativas o que colaboran con ellas. Hay una diferencia entre un
algoritmo predictivo y uno no predictivo, en ciertas ocasiones se ha reunido bajo
un solo termino distintos procesos que se ejecutan para la resolución de un
problema, la ciencia computacional hacer una advertencia con respecto a las
distintas tipologías de algoritmos que hay.

Ahora, teniendo en cuenta que hay diferentes tipos de algoritmos, debemos hacer
mención de uno importante, el algoritmo relacional.
 "En el caso de considerar un algoritmo relacional, en nuestra opinión,
destaca una vez más el carácter instrumental de la fórmula. Es decir,
aunque los datos que componen el algoritmo ayuden a que el funcionario
público tenga una visión más detallada sobre el asunto, es finalmente la
intervención humana que toma la resolución administrativa más adecuada.
Así que, el algoritmo relacional sube el nivel del algoritmo aritmético y
aboga por una actividad comparativa que, sin embargo, sigue siendo
instrumental." (Vestri, 2021, p. 374)

Un algoritmo relacional es el que se caracteriza por dos componentes que deben

tener una correlación, se destaca además por su carácter instrumental, es decir,
este algoritmo es una herramienta o recurso que puede ser utilizado por los
funcionarios públicos para que obtengan una visión más detallada acerca de un
asunto en particular. Se explica ue el algoritmo relacional no es un reemplazo
completo para la capacidad de juicio y razonamiento que, si tiene una persona,
sino que simplemente puede servir como un complemento para su labor.

De todas formas, el hacer uso de un algoritmo para la toma de decisiones es un

tema muy delicado, que no puede ser tomado a la liguera, algunos países han
introducido este tema en el ámbito de la justicia. La decisión que es adoptada por
un algoritmo de IA no puede considerarse como una resolución administrativa, no
puede tener un carácter vinculante para el órgano administrativo correspondiente.

El problema surge en que el acto administrativo, representa la consecuencia de la

ejecución de una ley por parte de la administración pública, lo más importante en
esta materia es hacer una verificación de si el algoritmo predictivo tiene la
capacidad para ejecutar la ley o las leyes logrando así, producir por si mismo un
acto administrativo con las mismas características y elementos distintivos que se
encuentran en el desarrollo de este por la actividad intelectual e interpretativa que
tienen los humanos.

El algoritmo predictivo que se encarga de tomar una decisión seria entonces el

ejecutor de la potestad administrativa que en realidad queda reconocida al órgano
administrativo. En este caso, se hace un reconocimiento de la delegación de la
potestad administrativo a favor de una fórmula matemática.

Por otra parte, la transparencia algorítmica es un tema importante que debe

someterse a los principios que regulan el acceso a la información pública. La
transparencia de la inteligencia artificial es un tema de trascendental importancia
para lograr que haya una construcción de administración pública digital sana. La
transparencia puede ser uno de los pilares más importantes de la carta de
derechos digitales. Es importante de todas formas hacer un análisis de ciertas
cuestiones que están relacionadas con el tratamiento de los datos personales
dentro del escenario digital y automatizado.

Lo que se quiere garantizar con es que el ciudadano pueda contar con su

privacidad, que se le respete este derecho en todo su alcance. El tribunal de
Distrito de la Haya en la sentencia conocida como “Sentencia SyRI” señala que
este software es un sistema de análisis utilizado por el gobierno para hacer un
sistema de rastreo a posibles fraudes al estado. Dicho sistema no respeta a
privacidad que se le debe respetar al ciudadana y representa una vulneración del
artículo 8 de la convención Europea de derechos Humanos relativo al derecho a la
vida privada.

"La inteligencia artificial es una tecnología estratégica que ofrece

numerosas ventajas a los ciudadanos, las empresas y la sociedad en su
conjunto, siempre y cuando sea antropocéntrica, ética y sostenible y
respete los derechos y valores fundamentales" (Vestri, 2021, p. 389)

La ética dentro de la inteligencia artificial es un campo de estudio de gran amplitud

que sede tratarse desde un enfoque multidisciplinario que por su naturaleza
misma también afecta a cuestiones que son propiamente sociológicas. La
transparencia algorítmica tiene una correlación evidente con elementos que
pueden impulsarnos a mirar disciplinas que tienen una conexión con el derecho. El
mayor desafío es lograr crear algoritmos que sean éticos y que consideren a la
moral como un elemento básico dentro de su formación. Esta exigencia hace que
nuestra atención este dirigida hacia como el ser humano puede preparar dichas
tecnologías de inteligencia artificial.

La inteligencia Artificial en el sector público.

Cada día son más las aplicaciones y programas que están basados en la
inteligencia artificial y que ofrecen unas soluciones eficientes para llevar a cabo
diferentes tipos de actividades o tareas. La administración pública buscando que
haya una consolidación de una administración inteligente, que además sea
eficiente, electrónica, personalizada y garante de los derechos de todos los
ciudadanos, ha ido realizado una incorporación de forma progresiva de toda esta
oleada de tecnología en el servicio público. Dichas herramientas tienen una
capacidad bastante grande e importante para lograr que haya una mejora dentro
de la prestación de servicios públicos, de forma que pueden llegar a procesar un
lenguaje natural o analizar grandes cantidades de datos que puede ayudar luego a
la toma de decisiones públicas y otras funciones.
Muchos de los Estados y organizaciones supranacionales