Ética y tecnología

UNESCO y la IA
En noviembre de 2021, los 193 Estados miembros de la Conferencia
General de la UNESCO adoptaron la
Recomendación sobre la Ética de la Inteligencia Artificial,
- Primer instrumento normativo mundial sobre el tema.
- Guía ética y una base normativa global para construir un sólido
respeto por el estado de derecho en el mundo digital.

https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa
Recomendaciones generales
Que los Estados Miembros apliquen, de manera voluntaria, las
disposiciones de la recomendación mediante la adopción de las medidas
adecuadas, en particular las medidas legislativas o de otra índole que
puedan ser necesarias, de acuerdo con la práctica constitucional y las
estructuras de gobierno de cada Estado, con el fin de dar efecto en sus
respectivas jurisdicciones a los principios y normas enunciados en la
Recomendación, de conformidad con el derecho internacional, incluido
el derecho internacional de los derechos humanos
Que los Estados Miembros hagan partícipes a todas las partes
interesadas, incluidas las empresas, para asegurarse de que desempeñan
sus respectivas funciones en la aplicación de la Recomendación y que
señalen la Recomendación a la atención de las autoridades, organismos,
organizaciones universitarias y de investigación, instituciones y
organizaciones de los sectores público, privado y de la sociedad civil
que participan en las tecnologías de la IA, para que el desarrollo y la
utilización de esas tecnologías se guíen tanto por una investigación
científica sólida como por un análisis y una evaluación éticos.
Objetivos de la Recomendación
- Proporcionar un marco universal de valores, principios y acciones para
orientar a los Estados en la formulación de sus leyes, políticas u otros instrumentos
relativos a la IA, de conformidad con el derecho internacional
- Orientar las acciones de las personas, los grupos, las comunidades, las
instituciones y las empresas del sector privado a fin de asegurar la incorporación
de la ética en todas las etapas del ciclo de vida de los sistemas de IA
- Proteger, promover y respetar los derechos humanos y las libertades
fundamentales, la dignidad humana y la igualdad, incluida la igualdad de género;
salvaguardar los intereses de las generaciones presentes y futuras; preservar el
medio ambiente, la biodiversidad y los ecosistemas; y respetar la diversidad cultural
en todas las etapas del ciclo de vida de los sistemas de IA
Objetivos de la Recomendación

Fomentar el diálogo multidisciplinario y pluralista entre múltiples

partes interesadas y la concertación sobre cuestiones éticas relacionadas
con los sistemas de I
Promover el acceso equitativo a los avances y los conocimientos en el
ámbito de la IA y el aprovechamiento compartido de los beneficios,
Valores
• Respeto, protección y promoción de los derechos humanos, las
libertades fundamentales y la dignidad humana
• Prosperidad del medio ambiente y los ecosistemas
• Garantizar la diversidad y la inclusión
• Vivir en sociedades pacíficas, justas e interconectadas
 La IA contribuye a agrandar las brechas de
género existentes
Solo el 22 % de todos los profesionales de IA son mujeres. Debido a
que están subrepresentadas en la industria, los sesgos de género y los
estereotipos se reproducen en las tecnologías de IA.
No es casualidad que los asistentes personales virtuales como Siri,
Alexa o Cortana sean “mujeres” por defecto. El servilismo y, a veces,
la sumisión que expresan son un ejemplo de cómo la IA puede
(continuar) reforzando y propagando los prejuicios de género en
nuestras sociedades.
 La IA puede ser una herramienta poderosa
para abordar el cambio climático y los
problemas ambientales
A medida que el planeta continúa calentándose, los impactos del cambio
climático empeoran.
Los modelos potenciados por la IA podrían, por ejemplo, ayudar a
mejorar la gestión de los ecosistemas y la restauración de los hábitats,
algo esencial para disminuir el declive de las poblaciones de peces y
fauna silvestre. Dicho esto, la extracción de datos consume casi el 10 %
de la energía a nivel mundial. Por lo tanto, también es esencial
abordar el alto consumo de energía de la IA y el consiguiente
impacto en la emisión de carbono.
La IA no puede ser una zona sin ley

La IA ya está en nuestras vidas, dirigiendo nuestras elecciones, a

menudo de maneras que pueden ser dañinas.
Hay algunos vacíos legislativos en la industria que deben llenarse
rápidamente.
El primer paso es llegar a un acuerdo sobre los valores que deben
consagrarse y las reglas deben aplicarse. Existen muchos marcos y
directrices, pero se aplican de forma desigual y ninguno es
verdaderamente global. La IA es global, por lo que necesitamos un
instrumento global que la regule.
 ¿Cuáles son los riesgos de la inteligencia
artificial enunciados por el BID?
(Banco Interamericano de Desarrollo)
• La filtración de los datos personales que pueden comprometer el
bienestar de las personas.
• La extrema vigilancia y posterior manipulación por parte de las
organizaciones privadas o gubernamentales con acceso a la
información que alimenta a las tecnologías de inteligencia artificial.
• Las “cámaras de eco” o “filtros burbuja” que se presentan cuando
se está expuesto a las mismas ideas, noticias y/o hechos, lo que es un
fenómeno común entre los usuarios de redes sociales y termina
fortaleciendo sesgos preconcebidos.
 ¿Cuáles son los riesgos de la inteligencia
artificial enunciados por el BID?
(Banco Interamericano de Desarrollo)
• La subrepresentación en los modelos creados por la inteligencia
artificial, especialmente en cuestiones relacionadas al acceso a la
salud y a la educación.
• Tener la información y no un plan de acción. Tan importante es
contar con la información necesaria para abordar una problemática
social, como haber desarrollado una hoja de ruta para solucionarla.
Herramientas del BID
1.Una autoevaluación ética para sistemas desarrollados en agencias
de gobierno Esta herramienta es un cuestionario que revisa los
aspectos más importantes que se deben tener en cuenta para mitigar
potenciales riesgos éticos tanto en la fase de diseño como en el
desarrollo de una solución de IA.
2.Como espejo, una autoevaluación para el ecosistema
emprendedor dirigido tanto empresas que usan IA en sus servicios
como a las que lo desarrollan.
3.Un manual para quien esté dirigiendo, desde una entidad pública,
un proyecto que use sistemas de soporte de decisión. Es una guía
práctica que acompaña a los responsables de formular proyectos con
IA en las diferentes etapas de decisión, y también los alerta sobre los
posibles riesgos éticos
4.Un manual para el equipo técnico encargado del desarrollo del
modelo. Utilizando el ciclo de vida de los sistemas de IA como marco
de análisis, el manual ofrece orientación técnica a los directores de
proyecto, así como a los equipos desarrolladores del modelo (a los que
llamamos el equipo técnico), para mejorar sus procesos de toma de
decisiones y sus resultados en la construcción de una solución de IA.
5.Guía de auditoría algorítmica. En ella se resaltan las implicaciones y
consecuencias que tiene el uso de sistemas automatizados en la toma o
soporte de las decisiones que afectan a las personas, con el fin de
entender la necesidad de implementar una auditoría y el proceso que
esta conlleva.
https://fairlac.iadb.org/fair-lac-la-
mano?utm_source=blogs.iadb.org&utm_medium=referral&utm_camp
aign=abiertoalpublico-productosdeconocimiento
Argentina y las recomendaciones de UNESCO
El 2 de junio de 2023, el Estado argentino dio un paso más en el camino
hacia la implementación de la ética en la Inteligencia Artificial, adoptando
por parte de la Subsecretaría de Tecnologías de la Información la Disposición
2/23 que se basa en la Recomendación sobre la Ética de la Inteligencia
Artificial de la UNESCO.

https://www.boletinoficial.gob.ar/detalleAviso/primera/287679/20230602

Guía

https://www.argentina.gob.ar/noticias/argentina-aprobo-una-guia-para-
una-inteligencia-artificial-etica-y-centrada-en-las-personas
Neurotecnología
La neurotecnología es un campo de rápida expansión dedicado a
comprender el cerebro y crear tecnologías que interactúen con él. La
UNESCO reconoce sus beneficios, pero también las posibles cuestiones
y problemas éticos, en particular con el uso de intervenciones no
invasivas.