UNIVERSIDAD NACIONAL DE COLOMBIA, HUMANOS Y MAQUINAS INTELIGENTES
Resumen No. 4: AI Now 2019 Report, How to be
Team Human in the digital future, What happens
when our computers get smarter than we are?
Diego Arturo Narváez Puentes
danarvaezp@unal.edu.co
Humanos y maquinas inteligentes
I. AI N OW 2019 R EPORT
I-A. Acerca del instituto“IA now”
E l instituto AI now, es un grupo interdisciplinario
dedicado a entender las implicaciones sociales de tecnologı́as
de IA, el cual trabaja de la mano con varios de los actores del
tema, como lo son investigadores académicos, la industria,
la sociedad, polı́ticos y las comunidades que puedan ser
afectadas debido a las tecnologı́as, con el propósito de
entender y abordar las cuestiones creadas con la introducción
de la IA a través de los dominios sociales. El instituto produce
investigación interdisciplinaria que ayude a asegurar que los
sistemas de IA sean responsables ante las comunidades y los
contextos a los que están destinados a servir, y que se aplican
de manera que promuevan la justicia y la equidad. La agenda
de investigación actual del Instituto se centra en cuatro áreas
centrales: sesgo e inclusión, derechos y libertades, trabajo y
automatización, y seguridad e infraestructura crı́tica.
Posteriormente se enuncian algunas de las ultimas
publicaciones del instituto, las cuales van encaminadas a la
ética y la gestión en las tecnologı́as de IA.
I-B. Recomendaciones
1. Las regulaciones deberı́an prohibir el uso de reconoci-
miento afectivo en decisiones importantes que puedan
impactar decisiones de las personas y el acceso de las
oportunidades, hasta que se cumpla esto, las compañı́as
de IA deberı́an para de desarrollarlas, dados los fun-
damentos cientı́ficos controvertidos de la tecnologı́a de
reconocimiento afectivo, no deberı́a ser permitido que
esta tecnologı́a juegue un rol en la toma de decisiones
acerca de vidas humanas, como las entrevistas de trabajo,
los seguros, el dolor humano o el rendimiento de un
estudiante. Los gobiernos deberı́an prohibir el uso de
estas tecnologı́as en procesos de toma de decisiones de
alto riesgo.
2. El gobierno y las empresas deben detener todo uso del
reconocimiento facial en contextos sociales y polı́ticos
sensibles hasta que los riesgos se estudien completamente
1
y se cuente con regulaciones adecuadas. Con el incremen-
to del uso del reconocimiento facial en muchos dominios,
sin embargo, cada vez hay más pruebas de que esta
tecnologı́a causa daños graves, la mayorı́a de las veces a
personas de color y de bajos recursos. Los legisladores
deben complementar una moratoria con requisitos de
transparencia que permitan a los investigadores, los en-
cargados de formular polı́ticas y las comunidades evaluar
y comprender el mejor enfoque posible para restringir y
regular el reconocimiento facial y las protecciones que
brindan a las comunidades en las que se utilizan dichas
tecnologı́as el poder de realizar sus propias evaluaciones
y rechazos de su despliegue.
3. La industria de IA necesita hacer cambios estructurales
significativos para abordar los problemas como el racis-
mo, la misoginia y la falta de diversidad. Para comenzar
a abordar este problema, se debe compartir más infor-
mación sobre los niveles de compensación, las tasas de
respuesta al acoso, discriminación y prácticas de contrata-
ción. También requiere poner fin a la desigualdad salarial
y de oportunidades y proporcionar incentivos reales para
que los ejecutivos creen, promuevan y protejan de manera
inclusiva lugares de trabajo Finalmente, cualquier medida
tomada debe abordar la fuerza laboral de dos niveles, en
que muchas de las personas de color en las empresas
tecnológicas trabajan como poco compensadas y trabaja-
dores temporales vulnerables, vendedores o contratistas.
4. La investigación del sesgo de IA deberı́a ir más allá de las
soluciones técnicas para abordar la polı́tica más amplia
y las consecuencias del uso de tecnologı́as de IA. La
investigación sobre el sesgo y la imparcialidad de IA
ha comenzado a expandirse más allá de las soluciones
técnicas que apuntan a la paridad estadı́stica, pero debe
haber un examen mucho más riguroso de la polı́tica y las
consecuencias de IA, incluida la atención a las prácticas
y daños de clasificación de IA.
5. Los gobiernos deberı́an exigir la divulgación pública del
impacto climático de la industria de IA. Es importante
que los gobiernos se aseguren de que los proveedores de
IA a gran escala revelen al público los costos climáticos
del desarrollo de IA. Dicha divulgación ayuda a propor-
cionar la base para opciones colectivas más informadas
sobre el clima y la tecnologı́a. La divulgación debe
incluir notificaciones que permitan a los desarrolladores
2 UNIVERSIDAD NACIONAL DE COLOMBIA, HUMANOS Y MAQUINAS INTELIGENTES
e investigadores comprender el costo climático especı́fico
de su uso de la infraestructura de IA. Además, los
gobiernos deberı́an usar esos datos para garantizar que las
polı́ticas de IA tengan en cuenta los impactos climáticos
de cualquier implementación de IA propuesta.
6. Los trabajadores deberı́an tener derecho a rechazar la IA
invasiva y explotadora, y los sindicatos pueden ayudar.
El uso sistemas de gestión laboral, desde los almacenes
de Amazon hasta Uber, agrupa el poder y el control en
manos de los empleadores y perjudica principalmente a
los trabajadores de bajos salarios al establecer objetivos
de productividad vinculados a lesiones crónicas, estrés
psicológico, e incluso la muerte e imponiendo recor-
tes algorı́tmicos impredecibles de salarios que afectan
la estabilidad económica. Los trabajadores merecen el
derecho de rechazar tales determinaciones y de acordar
colectivamente los estándares del lugar de trabajo que
sean seguros, justos y predecibles.
7. Los trabajadores tecnológicos deben tener derecho a saber
lo que están construyendo y a rechazar los usos no
éticos o perjudiciales de su trabajo. Dada la naturaleza
de propósito general de la mayorı́a de las tecnologı́as
de inteligencia artificial, los ingenieros que diseñan y
desarrollan un sistema a menudo desconocen cómo se
utilizará en última instancia. Con demasiada frecuencia,
las decisiones sobre cómo se usa la IA se dejan a los
departamentos de ventas y ejecutivos, ocultas detrás de
acuerdos contractuales altamente confidenciales que son
inaccesibles para los trabajadores y el público. Las em-
presas deben asegurarse de que los trabajadores puedan
rastrear dónde se está aplicando su trabajo, por quién y
con qué fin. Proporcionar dicha información permite a los
trabajadores tomar decisiones éticas y les da poder para
disputar colectivamente aplicaciones dañinas.
8. Los estados deben elaborar leyes de privacidad biométrica
ampliadas que regulen a los actores públicos y privados.
Los datos biométricos. Hace más de una década, Illinois
adoptó la Ley de Privacidad de la Información Biométrica
(BIPA) la cual permite a las personas demandar por casi
cualquier recopilación y uso no autorizado de sus datos
biométricos por parte de un actor privado, incluso para
vigilancia, seguimiento y creación de perfiles a través
del reconocimiento facial. También cierra los mercados
negros que venden datos y los hacen vulnerables a las
infracciones y la explotación. Los estados que adoptan
leyes similares deberı́an expandirlo para incluir el uso
del gobierno, lo que mitigará muchos de los daños
biométricos de la IA.
9. Los legisladores y polı́ticos deben regular la integración
de las infraestructuras de vigilancia públicas y priva-
das. Grandes compañı́as tecnológicas como Amazon,
Microsoft y Google persiguieron importantes contratos
militares y de vigilancia, dejando en evidencia aún más
esos intereses. En Asia, África y América Latina, varios
gobiernos continúan implementando proyectos de iden-
tificación biométrica que crean la infraestructura para
la vigilancia estatal y comercial. Sin embargo, pocos
regı́menes reguladores están presentes. Es necesaria una
fuerte transparencia, responsabilidad y supervisión en
estas áreas, como los esfuerzos recientes para exigir
la divulgación pública y el debate de las asociaciones,
contratos y adquisiciones tecnológicas público-privadas.
10. Las evaluaciones de impacto algorı́tmico deben tener
en cuenta el impacto de AI en el clima, la salud y el
desplazamiento geográfico. Las evaluaciones de impacto
algorı́tmico (AIA, por sus siglas en inglés) ayudan a los
gobiernos, las empresas y las comunidades a evaluar las
implicaciones sociales de la IA y a determinar si se deben
utilizar los sistemas de IA y cómo utilizarlos.
11. Los investigadores del aprendizaje automático deben te-
ner en cuenta los riesgos y daños potenciales y documen-
tar mejor los orı́genes de sus modelos y datos. El uso de
nuevos mecanismos para documentar la procedencia de
los datos y las especificidades de los modelos individuales
de aprendizaje automático deberı́an convertirse en una
práctica de investigación estándar.
12. Los legisladores deben requerir el consentimiento in-
formado para el uso de cualquier dato personal en IA
relacionada con la salud. Para garantizar un futuro que
no amplifique y refuerce las injusticias históricas y los
daños sociales, los sistemas de salud de IA necesitan
mejores enfoques de consentimiento informado y más
investigación para comprender sus implicaciones a la luz
de las desigualdades de salud sistémicas, las prácticas or-
ganizativas de la atención médica y la diversidad cultural.
I-C. Resumen ejecutivo
Para el año 2019 se observó una ola de retroceso con
respecto al año pasado, ya que grupos comunitarios, inves-
tigadores, legisladores y trabajadores exigieron detener la IA
peligrosa y peligrosa. El informe de AI Now 2019 destaca
estos movimientos en crecimiento, examinando las coaliciones
involucradas y la investigación, los argumentos y las tácticas
utilizadas. También examinaron los daños especı́ficos que estas
coaliciones están resistiendo, desde la gestión de trabajadores
habilitada por IA. Lo que queda claro es que, a través de
diversos dominios y contextos, la IA está ampliando la de-
sigualdad, colocando la información y el control en manos de
quienes ya tienen poder y desempoderando aún más a quienes
no lo tienen. Esto último es el núcleo del análisis, y desde esta
perspectiva se examinó lo que los investigadores, defensores
y formuladores de polı́ticas pueden hacer para abordar este
desequilibrio de manera significativa. Al hacerlo, surgen los
siguientes temas clave:
La difusión de la tecnologı́a de gestión algorı́tmica en el
lugar de trabajo está aumentando la asimetrı́a de poder entre
los trabajadores y los empleadores. La IA amenaza no solo
con desplazar desproporcionadamente a los asalariados con
salarios más bajos, sino también a reducir los salarios, la
seguridad laboral y otras protecciones para quienes más lo
necesitan.
Los grupos comunitarios, los trabajadores, los periodistas
y los investigadores, (no las declaraciones y polı́ticas de ética
HUMANOS Y MAQUINAS INTELIGENTES
empresarial de la IA), han sido los principales responsables de
presionar a las compañı́as tecnológicas y los gobiernos para
que establezcan barreras en el uso de la IA.
Los esfuerzos para regular los sistemas de IA están en
marcha, pero están siendo superados por la adopción guber-
namental de sistemas de IA para vigilar y controlar.
Los sistemas de IA continúan amplificando las disparidades
de raza y género a través de técnicas como el reconocimiento
afectivo, que no tiene una sólida base cientı́fica.
La creciente inversión y el desarrollo de la IA tienen
profundas implicaciones en áreas que van desde el cambio
climático, los derechos de los pacientes de atención médica
hasta el futuro de la geopolı́tica y las desigualdades que se
refuerzan en las regiones del sur.
II. H OW TO BE ”T EAM H UMAN ” IN THE DIGITAL
FUTURE
Se inicia el vı́deo con una anécdota del conferencista sobre
una reunión con 2 ejecutivos que preguntaron donde seria
mejor tener un búnker para el momento en que el fin del
mundo llegara y el dilema que presenta el que se destruya el
mundo como lo conocemos por acciones de personas como
ellos, y como el dinero que ganaron perderı́a totalmente su
valor, después se habla de la revolución tecnológica y el
internet en donde el humano paso a intentar progresar de
manera individual a un constante competencia de superioridad.
Se habla que el ser humano solo es información o datos,
y no se le da importancia a como piense o si es creativo
en alguna manera, se menciona la falta de contacto ‘’real”
que se da por medio de las herramientas tecnológicas, a
pesar de que estas cada vez sean mas y mas avanzadas,
debido a esto se presenta un dilema de la falta de fidelidad
y presenta ejemplos como el blockchain y los códigos abiertos.
Posteriormente se habla sobre como la educación paso
de ser algo para que las personas que trabajaban pudieran
opinar y tener mas opciones en la vida (leer una novela o
poder votar a conciencia), mientras que ahora la educación
en la actualidad es el medio para conseguir un trabajo y ası́
encajar o contribuir al mundo digital actual, de esta manera
se puede decir que el ser humano es igual que un elemento
desechable, que solo es importante como un dato mas que se
puede usar para la elaboración de algoritmos y predicciones
pero para nada mas.
El expositor habla sobre el fin del mundo y como la
mayorı́a de las personas y los medios de comunicación y
de entretenimiento, muestran al ser humano como principal
villano en la historia o posibles escenarios del fin del mundo
y existen otras personas que creen que en el momento que las
maquinas superen en inteligencia y capacidades a los seres
humanos, simplemente el hombre debe pasar la antorcha
de especie dominante y evolutiva a la siguiente especie (las
3
maquinas).
Para finalizar se dice que el ser humano si puede participar
del futuro tecnológico y digital, que se tiene que dejar de
pensar como una unidad y empezar a pensar y actuar como
equipo, esto sin dejar al lado el desarrollo tecnológico pero
haciendo énfasis en que el ser humano debe convivir con esta e
incorporarla de mejor manera a su diario vivir, pero de manera
responsable.
III. W HAT HAPPENS WHEN OUR COMPUTERS GET
SMARTER THAN WE ARE ?
Se inicia hablando de la corta presencia que ha tenido el
ser humano con respecto a la vida en la tierra, siendo esta
solo una mı́nima casi insignificante porción del total, después
de esto el expositor compara un simio con un importante
fı́sico, y menciona que la diferencia entre los cerebros de
ambos no es tan grande como una persona podrı́a pensar, ası́
habla de la evolución y el desarrollo que ha tenido la especie
humana comparada con las demás especies que comparten un
mismo ancestro en común.
Posteriormente realiza una comparación de la evolución con
el desarrollo de las tecnologı́as de la IA, donde al principio
estas solo se desarrollaban con el objetivo de solucionar
un problema y esto era lo único que estas tecnologı́as
podrı́an hacer, pero ahora se intenta que el desarrollo de las
inteligencias artificiales sea mas parecido al comportamiento
humano que otra cosa, mas en especifico a un niño pequeño,
que aprenda cosas nuevas por medio de ejemplos y el medio
en el que se desenvuelva o por sı́ mismo, pero las IA aún
se encuentra en un estado primitivo donde en general solo
funcionan para un área en especifico y esta muy lejos de ser
como un cerebro humano.
La mayorı́a de expertos en IA creen que estas tecnologı́as
podrán alcanzar el nivel de inteligencia de un adulto promedio
en alrededor de 40 años, lo cual muestra que el desarrollo
en este campo es bastante grande, pero, también se dice
que el ser humano tiene limitantes, como lo es el tamaño
de almacenamiento, ya que todo lo que puede hacer el
cerebro esta limitado por el tamaño de este mismo, mientras
que una computadora no tiene es problema ya que existen
o pueden existir IA del tamaño de una bodega gigante.
Posteriormente se realiza una comparativa con un ratón, un
simio, un pueblerino y el cientı́fico famoso que menciono al
comienzo de la charla y se menciona que en el futuro las IA
seguramente superaran al cientı́fico brillante.
Se habla de que el destino de los chimpancés que a pesar
de ser el doble de fuertes que el ser humano, este depende
en su mayorı́a del hombre y no de las acciones propias del
chimpancé, se dice que tal vez esto pueda a llegar a pasar
con los hombres, donde lo ultimo que se creo por un humano
fue la IA perfecta y después de esto los creadores serian
4 UNIVERSIDAD NACIONAL DE COLOMBIA, HUMANOS Y MAQUINAS INTELIGENTES

las IA y todo se desarrolları́a en torno a estas. Por tanto,

se dice que existe la posibilidad que las maquinas aprendan
a como conseguir una meta por cualquier medio necesario,
sin importar nada o nadie, de esta manera conquistarı́an el
mundo como lo conocemos, con la extinción del humano al
ser tomado solo como algún tipo de obstáculo o error en la
lógica o matemática.

El expositor dice que la solución para este problema esta

en crear IA a partir del ser humano, donde estas tengan las
consideraciones que el ser humano y también la ética y la
moral que cualquier persona deberı́a tener, esto es una tarea
sumamente complicada, mas no imposible, por tanto se debe
trabajar en este campo para que las IA sean seguras en el futuro
y no se tenga que lidiar con el problemas mas adelante, si este
se puede solucionar ahora y ası́ poder siempre controlar las
IA y no que estas controlen al hombre.

IV. B IBLIOGRAF ÍA

”AI Now Report 2019”, Ainowinstitute.org, 2019. [Online].

Available: https://ainowinstitute.org/AI-Now-2019-Report.pdf.
[Accessed: 29- Mar- 2020].

D. Rushkoff, How to be ”Team Humanı̈n the digital future.

2018.

N. Bostrom, What happens when our computers get smarter

than we are?. 2015.