ME FALTA ACOMODAR LAS CITAS, Y LO QUE ESTÁ SUBRAYADO EN COLOR SON

LECTURAS QUE SUMÉ DESPUÉS DE HABER ESCRITO Y QUIERO PARAFRASEAR,

CITAR O AGREGAR ALGUNOS ELEMENTOS

1.1. Consideraciones éticas sobre el desarrollo y la adopción de herramientas

basadas en Inteligencia Artificial

Mientras que el capítulo anterior se ocupó de asentar algunas definiciones básicas sobre la

Inteligencia Artificial y sus tecnologías asociadas, para luego continuar con sus usos

actuales y potenciales en el campo de la práctica periodística, este capítulo estará centrado

en la geopolítica de la Inteligencia Artificial, en los sesgos que la habitan y en el caso

particular de América Latina.

Como todos los desarrollos tecnológicos, la Inteligencia Artificial no es neutra, en el sentido

de que no se produce en un vacío sino en contextos políticos, sociales y geográficos. La big

data y el machine learning son de hecho sistemas complejos en los cuales los humanos han

jugado y siguen jugando roles centrales (Righi et al., 2020).

Technological adoption interacts in complex ways with social, political, cultural and economic
structures. It is not neutral, and it rarely delivers outcomes of itself. Rather, it empowers and
disempowers societies to pursue alternative futures, but, in, important ways societal actors
(governments, industry, and their interactions in the market and political arena) define what
those futures are. Thus one-directional narratives about the promises or risks that the
adoption of a particular technology create that don’t consider the place of institutions,
economics or culture, tend to miss important parts of the puzzle. (Arcila)

Además, la creciente expansión de la Inteligencia Artificial a muchísimos ámbitos de la vida

social –la medicina, el entretenimiento, los servicios sociales, la justicia y el derecho, entre

otros– hacen que los aspectos éticos y políticos de la implementación y desarrollo de estas

herramientas necesite especial atención, en particular en sus instancias tempranas, para

evitar arrastrar sesgos e inercias. Esta revolución está teniendo impactos en todo el mundo,
tanto en el ámbito de negocios, como en el sector público, pero para América Latina en

particular, esta revolución representa oportunidades y riesgos únicos que pueden ser

críticos para el futuro de la región.

From a macro perspective, AI has the unique potential to manage and reduce the three
great characteristics of our societies: complexity, uncertainty and unpredictability. On specific
issues, AI manages to optimize and simplify activities, while at the same time ensures the
effectiveness of rights. For example, AI assist people with visual disabilities, speed up
judicial processes, improve access to health policies, among many others [1]. If the proper
conditions are built, AI is an exceptional opportunity to improve organizations and contribute
to the achievement of the Sustainable Development Goals. The second axis deals with what
we call “the dark side of AI.” From this perspective, first it is important to emphasize the risks
that are created from the so-called existential risk, linked to the possibility that human beings
may lose control over artificial intelligence systems. Second, from a short and medium term
perspective, the guiding principle is related to reducing or eliminating risks and damages that
may be caused by these systems. Biases, discrimination [2], mass surveillance that is
contrary to human rights, treatment of digital profiles contrary to laws, violation of workers’
rights, among other matters. (Corvalán)

Un concepto útil para pensar en las maneras en las que el aspecto ético debe ser tenido en

cuenta en este tipo de desarrollo es el del sesgo de los algoritmos. Cuando, como se

explicó en el Capítulo 1, los algoritmos son entrenados para realizar predicciones en base a

inputs, las bases de datos que se utilizan para ese entrenamiento determinarán los futuros

sesgos de ese algoritmo. A modo de ejemplo, si en una base de datos están

sobrerrepresentados los científicos hombres sobre las científicas mujeres, es de esperar

que un algoritmo entrenado con esa base asocie más esa profesión a ese género.

Muchas veces, las bases de datos cuentan con más información acerca de los países y

regiones en las que fueron creados. El problema a cuya solución intenta contribuir Visión

Latina, el proyecto profesional en el que se basa este proyecto profesional, de hecho, es

que las herramientas de descripción de imágenes a partir de Inteligencia Artificial

disponibles hoy en el mercado son útiles para el mercado anglosajón, pero no para el latino.

Herramientas creadas por las empresas Amazon, IBM, Google y Microsoft, por ejemplo,

reconocen en imágenes a las principales figuras políticas de la política estadounidense y

europea, pero no a las de los países latinoamericanos.

el concepto de IA para el bien social 4 apunta en la dirección del empoderamiento de las

personas: se emplea para abordar los retos más importantes de nuestro tiempo, aquellos

que impactan directamente a los humanos y al medio ambiente en los más diversos

campos como la salud, la educación, el empleo, la justicia, la disponibilidad de recursos, el

cambio climático, la igualdad de género y la reducción de las desigualdades. Bajo el

concepto de IA para el bien social tienen cabida distintos actores, incluyendo todas

aquellas organizaciones o iniciativas que atiendan a dichos retos apoyándose en esta

tecnología (LA INTELIGENCIA ARTIFICIAL AL SERVICIO DEL BIEN SOCIAL EN

AMÉRICA LATINA Y EL CARIBE: panorámica regional e instantáneas de doce países) .

Muchas veces la solución propuesta viene desde las políticas públicas, que interactuen con
los privados: Computer scientists most often mean well[12], but they act too within the
contexts of their employers and industry, logically driven by market incentives. If we let the
industry decide alone how it develops AI applications, we risk missing the opportunity to
decide, as societies, what those better AI-enhanced futures look like[13]; and, as most
policy-makers know, social and policy problems have various dimensions and counting on
efficiency alone or market profitability rarely leads to socially optimal outcomes (Arcila)

2.2 Distribución global de los desarrollos en Inteligencia Artificial

The asymmetries found in the development of AI make it necessary to rethink strategies and
tactics, since the biggest challenge is related to addressing three major gaps simultaneously.
The first gap is related to the access to innovations and services of the late nineteenth and
early twentieth centuries. The second is linked to the advantages of the internet, the quality
of connectivity and the simplification and expansion of the digital services offers. The last
gap is starting to form and refers to AI access. Those who can take advantage of its benefits
and face the challenges more efficiently may further detach themselves from other cities and
countries,in terms of productivity and income, which would further exacerbate the already
existing development inequalities. (Corvalán)

Por todos estos motivos, estudiar la distribución global de los desarrollos en Inteligencia

Artificial es relevante. De un estudio realizado por… se desprende que, como se puede

apreciar en las figuras que se adjuntan, la gran mayoría de los desarrollos de Inteligencia

Artificial, al menos hasta 2018, fueron originados en Estados Unidos, China, Corea del Sur,

Japón y Europa.
1

En las diferentes categorías en las que se divide este estudio empírico, como “desarrollos

robóticos”, “análisis de discurso y procesamiento de lenguaje natural (NLP)”,

“reconocimiento facial y de imágenes” y “vehículos automáticos”, América Latina, ubicado

en la categoría “otros países americanos”, que excluye a Estados Unidos y Canadá, ocupa

un lugar muy menor en la distribución.

Ahora bien, el estado del arte en torno al desarrollo y la aplicación de la IA en todo el mundo
está muy disperso, delinea crecientes discrepancias en la madurez de las políticas
estratégicas y en la forma en que se desarrolla o utiliza la IA. Además, existen diferencias
principales dentro de los países, fenómenos que contribuyen al crecimiento de la brecha
entre la innovación y el uso de tecnologías de IA. Si bien las recomendaciones de las
Naciones Unidas y varios otros organismos internacionales sugirieron el uso de la IA para
reducir las desigualdades y apoyar un desarrollo general del bienestar de la población
mundial, la carrera por la supremacía de la IA está dejando muchas personas y gobiernos
atrás (AI BOOK).

Como se dijo, esta distribución sesgada hacia algunas regiones tendrá consecuencias en

los resultados y sesgos de las tecnologías que se están desarrollando. Por otro lado, dado

que el desarrollo de estas tecnologías necesita de economías de escala y de redes, la poca

prominencia de este tipo de proyectos y su adopción genera un círculo vicioso

(Geopolitical).

También es relevante observar la distribución de los desarrollos de Inteligencia Artificial no

sólo desde el punto de vista geográfico, sino también desde cuáles son las grandes

empresas que los están impulsando mayormente. Esto es especialmente relevante porque

las llamadas Big Tech (como Google, Apple y Microsoft) son además empresas que cuentan

con enormes cantidades de datos, que se desprenden del uso que hacen los ciudadanos de

1
Geographic distribution of AI activities in each thematic subdomain, 2009-2018.
sus plataformas. Son esos datos, propiedad de las empresas, los que se utilizan para

entrenar a los algoritmos de predicción.

En síntesis, la concentración geográfica de las patentes y la concentración de los datos en

determinadas empresas es el escenario en el cual se están desarrollando las tecnologías de

Inteligencia Artificial. Por todos estos motivos, crear políticas públicas que regulen este

escenario y ayuden a mitigar los riesgos éticos de la Inteligencia Artificial es una de las

preocupaciones de gobiernos en todo el mundo y organismos públicos como el Banco

Interamericano de Desarrollo (BID), la Organización de las Naciones Unidas para la

Educación, la Ciencia y la Cultura (UNESCO) y la Unión Europea (UE), organizaciones de la

sociedad civil y instituciones académicas, como el Instituto de Ética de la Universidad de

Oxford (LA INTELIGENCIA ARTIFICIAL AL SERVICIO DEL BIEN SOCIAL EN AMÉRICA

LATINA Y EL CARIBE: panorámica regional e instantáneas de doce países).

Aunque esta desigualdad en producción de herramientas tecnológicas y en la recolección

de datos afecta a muchas regiones del mundo, este trabajo se concentrará en el caso de

América Latina, donde transcurre el proyecto profesional que se desarrolla en el mismo.

2.3. Desarrollos y usos latinoamericanos de Inteligencia Artificial

Dado que, como pudo observarse en el apartado anterior, América Latina todavía se

encuentra en una instancia temprana de desarrollo de tecnologías basadas en Inteligencia

Artificial, esta necesidad de diseño de políticas públicas para orientar éticamente el devenir

de estas tecnologías y sus impacto llega en un momento oportuno. La región está en un

buen momento para contemplar los diferentes usos que se les puede dar a estas

tecnologías (LA INTELIGENCIA ARTIFICIAL AL SERVICIO DEL BIEN SOCIAL EN

AMÉRICA LATINA Y EL CARIBE: panorámica regional e instantáneas de doce países) .

Aunque el desarrollo de la Inteligencia Artificial en América Latina presenta oportunidades

para la región –se estima que el impacto que la Inteligencia Artificial podría aportar hasta un

14% de riqueza adicional a las economías emergentes de América Latina (Estevadeordal et

al., 2018)– también conlleva posibles riesgos (LA INTELIGENCIA ARTIFICIAL AL

SERVICIO DEL BIEN SOCIAL EN AMÉRICA LATINA Y EL CARIBE: panorámica

regional e instantáneas de doce países).

En términos de AUTOMATIZAR CON CAUTELA, dado que sólo un puñado de empresas y

países con mayor cantidad de recursos económicos han comenzado a trabajar para la

concreción de estrategias nacionales de Inteligencia Artificial América Latina debería

también desarrollar su propia reflexión sobre esto (AUTOMATIZAR CON CAUTELA,

PÁGINA XX).

Arcila (2xxx) se expresa en un sentido similar. De acuerdo a la autora, sería un error pensar

que los beneficios potenciales que las sociedades latinoamericanas pueden ganar de

adoptar e implementar este tipo de tecnologías pueden ser independientes de las políticas y

las estructuras económicas que se desarrollen para tal fin. Al igual en el resto del mundo,

los países de la región también necesitarán políticas y reformas estructurales para catalizar

el potencial de la Inteligencia Artificial (Arcila, xxxx, p. xx).

La mayoría de los países que conforman ALC12 han establecido cimientos sólidos desde

una perspectiva de gobierno, pues están desarrollando sus sistemas de IA alineados

con esfuerzos estatales dirigidos al incremento de la conectividad, desarrollo de

infraestructura, estrategias nacionales de digitalización, datos abiertos y agendas

nacionales de IA en proceso de elaboración. • Todos los países estudiados cuentan con una

estrategia digital y, con excepción de Trinidad y Tobago, tienen también una agenda de

datos abiertos. Uruguay y Colombia ya formularon sus estrategias na- cionales de IA,
mientras que Brasil y Chile lo están haciendo. México y Argentina han emprendido

un esfuerzo significativo al incluir el ecosistema en la formulación de una propuesta de

estrategia nacional que aún requiere consolidación. (LA INTELIGENCIA ARTIFICIAL AL

SERVICIO DEL BIEN SOCIAL EN AMÉRICA LATINA Y EL CARIBE: panorámica

regional e instantáneas de doce países).

El ecosistema de emprendimiento está impulsando numerosos casos de uso de IA al

servicio del bien social en ALC12. Con estos usos se busca ampliar y distribuir las

oportunidades existentes, por ejemplo creando posibilidades para que los agricultores

accedan a crédito; impulsando una educación persona- lizada y de calidad a través de

soluciones de monitoreo y apoyo a los estudiantes; democratizando el acceso a servicios de

salud a través de sistemas de diagnóstico automatizado a distancia; permitiendo una

comunicación más fluida desde y entre la comunidad con discapacidad auditiva; reduciendo

la mal- nutrición mediante el suministro de alimentos sostenibles y accesibles basados en

plantas; y mitigando los efectos del cambio climático desde distintos sectores (LA

INTELIGENCIA ARTIFICIAL AL SERVICIO DEL BIEN SOCIAL EN AMÉRICA LATINA Y

EL CARIBE: panorámica regional e instantáneas de doce países).

2.4. Próximos desafíos para la Inteligencia Artificial en América Latina