UNIVERSIDAD NACIONAL DE COLOMBIA, HUMANOS Y MAQUINAS INTELIGENTES
Resumen No. 6: AI Now 2019 Report,How to get
empowered, not overpowered, by AI, Don’t fear
intelligent machines. Work with them
Diego Arturo Narváez Puentes
danarvaezp@unal.edu.co
Humanos y maquinas inteligentes
I. AI N OW 2019 R EPORT
Organizing Against and Resisting Consolidations of Power
Organización y rechazo: Existe un rechazo contra las
IA debido a que los sistemas que usan IA se usan de una
forma en que terminan aumentando y reducen los patrones de
desigualdad y discriminación, por lo que estas practicas son
las que generan un rechazo generalizado.
Organización comunitaria: La organización comunitaria
es una fuerza importante en el campo del rechazo a las IA
dañinas, esta ha intentado frenar el uso del reconocimiento
facial en el mundo y sectores como cuestiones de encarce-
lamiento y vigilancia a comunidades de color. En algunos
estados de EUA, varios padres de familia se opusieron al
uso de una plataforma llamada Summit Learning, ya que le
trabajo de los docentes no podrı́a ser comparado ni hecho
por plataformas tecnológicas. Con respecto a la inmigración,
hay grupos que trabajan en la ayuda de personas de color
respecto a las polı́ticas de la administración de Trump, otros
enfrentan la desigualdad y las acciones negativas de Amazon
como la campaña contra HQ2 de Amazon, liderada por la
colación Athena, fue notable por su amplio enfoque en temas
y por su éxito inesperado. Estos son unos pocos casos en que
organizaciones comunitarias están presionando contra la IA y
tecnologı́a opresiva, además de contra polı́ticas y prácticas que
aumentan la desigualdad y dañan a las comunidades.
Organización de trabajadores: Los sindicatos y la
organización de los trabajadores en torno al daño que
hacen las IA es un tema relativamente nuevo y busca
abordar problemas como el salario, las condiciones laborales
la diversidad, el respeto y la inclusión, por ejemplo,
hay trabajadores del sector tecnológico que se unen a
organizaciones comunitarias para rechazar los abusos de
DDHH y el maltrato a los inmigrantes en la frontera de
EUA y México y el papel de la tecnologı́a en este ámbito.
Empleados de empresas como Microsoft y Google han
firmado peticiones para frenar contratos con ICE, donde
también se presentan casos por parte los empleados donde
expresan abiertamente su desconfianza y frustración.
Por tanto, es evidente la importancia de estos grupos de
trabajadores para los grupos más afectados por IA. Este
movimiento se centró en problemas de justicia social,
1
desplazamiento, explotación y cambio climático. 8,695
trabajadores de Amazon firmaron una carta pidiendo a la
compañı́a que contribuyera a frenar el cambio climático.
Ejemplos de renuncias masivas como en Riot Games por
discriminación existen, además del evidente problema de
disparidad entre los trabajadores por contrato que no gozan de
beneficios ni ningún tipo de estabilidad Han existido renuncias
masivas como la de Riot Games, por discriminación. Existe
además el problema de disparidad entre los trabajadores
por contrato sin beneficios ni estabilidad, estos mismos
grupos se han encargado de realizar protestas y presionar por
prácticas éticas en sus respectivas compañı́as, estas últimas
han intentado evitar la formación de sindicatos e incluso han
despedido injustamente a sus trabajadores.
Los sindicatos han ayudado al cierre de la brecha de
trabajadores temporales y los empleados, esto tendrı́a
implicaciones para la producción y mantenimiento de IA, ya
que los trabajadores por contrato mal pagados son una fuerza
laboral esencial para etiquetar datos de entrenamiento de
IA y moderar contenido en grandes plataformas manejadas
algorı́tmicamente.
Organización estudiantil: Al igual a como se organizan los
trabajadores, otro grupo ha demostrado su compromiso con la
ética de IA, los estudiantes (principalmente de ingenierı́a) son
vistos como futuros trabajadores para las grandes empresas
tecnológicas, pero se ha observado la disminución enorme en
la aceptación de ofertas de trabajo ya que estos han reflexio-
nado sobre su compromiso con la ética y la diversidad, por
ejemplo, en el año 2018 estudiantes de Stanford prometieron
no aceptar entrevistas de trabajado con Google hasta que estos
no cancelaran su proyecto militar de IA. Los alumnos también
se enfocaron en problemas de racismo, misoginia e inequidad
dentro de sus universidades, es ası́ como las diversas preocu-
paciones de organizaciones estudiantiles y de trabajadores ha
ampliado el enfoque de los asuntos tecnológicos.
Law and Policy Responses
Protección de datos como la base de la mayorı́a de la
regulación de IA : Es evidente el éxito que han tenido las
leyes de protección de datos para detener las IA dañinas y
este éxito proporciona una base para los distintos enfoques
2 UNIVERSIDAD NACIONAL DE COLOMBIA, HUMANOS Y MAQUINAS INTELIGENTES
de actividades algorı́tmicas, como lo es el acceso a los datos
personales, información de toma de decisiones, y requisitos
de impacto de protección de datos, los cuales deben alinearse
con la mayorı́a de los marcos de responsabilidad de IA. Más
de 130 paı́ses ya han aprobado leyes de proyección de datos,
pero hay potencias que aun no, por ejemplo, a pesar de un
interés en hacerlo EUA aún no tiene una ley general de
protección de datos.
Reglamento de reconocimiento biométrico : En el año
2019 surgieron intentos de regulación de la privacidad, dis-
criminación y preocupaciones de vigilancia asociadas a la
vigilancia biométrica, que incluye temas como el recono-
cimiento facial y afectivo. Estos van desde prohibir hasta
conceder algunos permisos en ocasiones. En Suecia se multó
una escuela por usar reconocimiento facial violando una ley
de tratamiento de datos, otro ejemplo es en Australia, donde
se pauso el uso de una base de datos facial nacional hasta que
no haya una legislación propicia. En el congreso de EUA se
han propuesto proyectos de ley biométricos, de privacidad de
reconocimiento facial comercial, y las barreras no biométricas.
Desarrolladores de Microsoft o de Amazon también han salido
en apoyo a las formas de regulación en uso. A su vez, inter-
namente, Amazon intentó bloquear un voto de los accionistas
sobre la pausa de la venta de tecnologı́a de reconocimiento
facial, aun cuando se hizo la votación, se hizo campaña
agresiva para que votaran en contra. Por desgracia la IA avanza
en la industria del reconocimiento biométrico, con grandes
inversiones en producción y despliegue, los gobiernos están
adoptando la tecnologı́a a un ritmo más rápido que ellos lo
están regulando.
Responsabilidad algorı́tmica y evaluaciones de impacto
: Observando el informe del año 2018 se evidencia el uso
de evaluaciones de impactos algorı́tmicos y como ha ganado
popularidad en los cı́rculos polı́ticos de varios paı́ses. Las AIA
requieren que todos los implicados evalúen las implicaciones
sociales de sus tecnologı́as antes de ser usadas en la vida
real, cabe recalcar que varios paı́ses como Canadá y EUA
han realizado observaciones y aportes en este campo. Otra
dimensión de legislación fue la transparencia algorı́tmica. A
medida que las empresas recurren más a tecnologı́a patentada
en el ámbito penal, los derechos de propiedad intelectual
de las empresas se enfrentan a derecho de los acusados a
acceder información sobre esa tecnologı́a, para impugnarla en
el tribunal.
Experimentación con grupos de trabajo : Hay tecnologı́as
que tienen un riesgo enorme como lo es el análisis predic-
tivo, este riesgo aumenta aún más si las usan las agencias
gubernamentales y toman decisiones con lo que concluya la
máquina, como lo es en temas como escolaridad y las cárceles,
por tanto varios gobiernos han puesto en marcha la creación
de mecanismos de gobernanza y rendición de cuentas, donde
colaboren expertos y trabajadores del gobierno para examinar
las tecnologı́as emergentes y publicar sus resultados y algunas
recomendaciones para los gobernantes.
II. W HAT I S A RTIFICIAL I NTELLIGENCE (AI)?
Para que la tecnologı́a continúe avanzando y logre un
despliegue generalizado debe superar ciertos desafı́os como la
ética, gobernanza y los valores humanos, por tanto es necesario
que se aprenda a identificar y administrar los riesgos que
presentan las IA de manera efectiva, es asi como para lograr la
correcta cooperación humano-maquina debe existir un plan de
IA mas robusto, que cuente con un marco ético que garantice
la integridad de los datos que se usan y ayude a mejorar la
confianza.
II-A. El marco de IA confiable
Para abordar mejor los desafı́os relacionados con la ética y
la gobernanza de la IA, se tiene el marco de IA confiable de
Deloitte que tiene seis dimensiones clave que pueden ayudar a
salvaguardar la ética y construir una estrategia de IA confiable.
II-A1. Justo, no sesgado: Una IA confiable debe seguir
un proceso justo y consistente para poder tomar decisiones
justas, las cuales incluyan controles internos y externos para
que no exista un sesgo discriminatorio, lo cual actualmente es
un problema continuo para la sociedad, por tanto, las empresas
deben buscar lo que sea considerado como sesgo dentro sus
algoritmos e intentar corregir y ajustar lo que sea pertinente
para reducir de manera considerablemente la discriminación
por sesgo.
II-A2. Transparente y explicable: La IA confiable debe
ser comprendida por todos los actores, cómo se usan sus datos
y cómo se toman las decisiones. Los algoritmos deben ser
abiertos a inspección y ser totalmente explicables. Las IA no
deben ser tratadas como una caja negra que recibe información
y genera resultados sin una comprensión clara de lo que está
haciendo.
II-A3. Responsable y explicable : Las AI confiables deben
aplicar polı́ticas que establezcan la responsabilidad de su
producción. Al culpar a la tecnologı́a en sı́ misma por malas
decisiones y errores de cálculo no ayuda a los perjudicados ni
a los reguladores del gobierno. Se deben considerar qué leyes
y regulaciones pueden determinar la responsabilidad legal y
si los sistemas de IA son auditables y cubiertos por leyes de
denunciantes existentes.
II-A4. Robusto y confiable: Una IA confiable debe ser
robusta y confiable, como mı́nimo igual al personal humano
que esta reemplazando, debe fallar únicamente en ambientes
esperados de falla y poder operar en situaciones no ideales,
el ser humano juega un papel importante para entender la
confiabilidad de estas IA.
II-A5. Respetuoso de la Privacidad: Una IA confiable
debe respetar la privacidad, ya que es algo crı́tico en todos los
sistemas de datos, debido a que se pueden usar datos detallados
y personales. Se debe cumplir con regulaciones de datos para
fines acordados. Se debe saber que datos de los clientes se
utilizan y la manera en que se aceptaron y entendieron. Los
clientes deben tener control absoluto sobre sus datos.
HUMANOS Y MAQUINAS INTELIGENTES
II-A6. Seguro y protegido: Una IA confiable debe ser
capaz de protegerse de riesgos de ciberseguridad que puedan
ocasionarle daños fı́sicos o digitales, por tanto se debe con-
siderar estos riesgos y comunicarlos a los usuarios finales,
teniendo en cuenta que el beneficio que genera una IA debe
ser mayor al riesgo que pueda presentar.
III. H OW TO GET EMPOWERED , NOT OVERPOWERED
El conferencista inicia hablando de la evolución que ha
tenido el universo, y los descubrimientos que se han hecho
en este con la llegada del ser humano y la tecnologı́a que
se está desarrollando podrı́a cambiar la historia por miles de
años, habla acerca de la vida 1.0 que serı́an algo similar a
las bacterias, las cuales no son capaces de aprender nada a lo
largo de su vida, después habla de la vida 2.0 que serı́a el
ser humano actual, el cual puede aprender cosas nuevas a lo
largo de toda su vida, compara este proceso de aprendizaje
con el instalar un nuevo software en una computadora, solo
que en vez de ser un programa puede ser un idioma o una
habilidad en particular, después menciona la vida 3.0 que será
capaz de diseñar su propio software y también su hardware,
pero este tipo de vida aún no existe. El autor menciona que
en este momento se está en un estado de vida 2.1 donde
existen ya aparatos para mejorar o ayudar a los humanos,
como los marcapasos y las prótesis para los amputados, y
habla sobre la misión del apolo 11 donde se realizó una
hazaña que parecı́a imposible para nuestros antepasados con
ayuda de la tecnologı́a, pero se menciona que no solo se
necesita potencia tecnológica, también se debe saber manejar
y tener una dirección clara de hacia donde se está llevando
esta tecnologı́a.
III-A. Potencia
Se define la inteligencia como la capacidad de lograr
objetivos complejos y se dice que no solo una criatura hecha de
carne puede ser inteligente, ya que con los avances tecnológi-
cos que se tiene en la actualidad como robots que pueden hacer
saltos mortales cuando antes no podı́an ni caminar, cohetes
con vuelo automático, reconocimiento facial y la superación
de las maquinas en el juego de go y en el ajedrez, por lo
que se hace la pregunta de ¿hasta dónde llegara la tecnologı́a?
donde muestra un diagrama de un paisaje done se muestra una
montaña alta que representa el ser humano y un montón de
agua que va subiendo al correr el tiempo lo que representa
la IA, por tanto, ¿hasta dónde llegara el agua? se cree que
va a existir un punto en donde se supere al humano y la
IA sea capaz de automejorarse lo que crearı́a la llamada
superinteligencia, esto generarı́a otra pregunta importante ¿que
pasara con el ser humano si las maquinas pueden hacer todo
lo que ellos, de una mejor manera y a un precio más barato?.
III-B. Dirección
Se habla sobre el ser humano y como su estrategia siempre
ha sido aprender de los errores, mostrando ejemplos como el
3
fuego y el extintor, el automóvil y los aparatos de seguridad
, pero, para invenciones como las armas nucleares y la inteli-
gencia artificial generada (IAG) aprender de los errores no es
una buena estrategia, y lo mejor que se puede hacer es pensar
bien las cosas y hacerlas bien al primer intento, se habla de
nuevo de la misión del apolo 11 donde la nasa pensó en todos
los posibles escenarios en que algo podrı́a salir mal la llamada
ingenierı́a de seguridad lo cual fue la clave para el éxito de la
misión, lo cual se debe aplicar para la inteligencia artificial,
por tanto se están realizando reuniones con miles de expertos
en IA y su desarrollo, donde por ejemplo se propusieron 23
principios de IA fundamentales, como el evitar una carrera
armamentista y armas letales autónomas, la idea es que toda
ciencia puede usarse para nuevas formas de ayudar o dañar
personas y lo mismo puede aplicarse con la IA, otro principio
es mitigar la desigualdad de ingresos alimentada con IA y el
ultimo que se menciona es el aumento en la seguridad de las
IA para tener sistemas realmente robustos en los que se pueda
confiar, esta seguridad debe incluir la alineación de valores de
IA, lo que traduce en que las metas de las IA estén alineadas
con las metas del ser humano.
III-C. Destino
Se habla sobre el destino del futuro de las superinteligencia
artificial, y de cual será el papel del humano cuando llegue
este tipo de inteligencia superior, por ejemplo, si se debe
vigilar completamente por el ser humano, o si se debe dar
paso a esta como especie dominante, o si se debe ir de la
mano con la IA en donde la IA sea superior al humano
pero no atente contra este sino que lo ayude, eliminando las
enfermedades, la pobreza o el crimen, y además haciéndonos
los maestros de nuestro propio destino.
Por tanto, si los investigadores y creadores de IA son
cuidadosos se podrı́a llegar a un futuro fantástico en el cual
todas las personas estén mejor, pero para esto se debe saber
hacia dónde se está yendo y a cuál es el futuro que se
quiere lograr, no se debe ser superado por la tecnologı́a sino
empoderado por esta.
IV. D ON ’ T FEAR INTELLIGENT MACHINES . W ORK
WITH THEM
El autor es un reconocido ajedrecista el cual en el año
1985 se convierte en el menor jugador de mundo, en ese
mismo año jugo partidas simultaneas con 32 personas y
también 32 máquinas, pero 12 años después se dio la llamada
última batalla del cerebro donde el autor se enfrenta a una
sola máquina de ajedrez. Se habla sobre la constante batalla
del hombre contra la tecnologı́a, como en la revolución
industrial y actualmente con las IA, se dice que estamos en
competencia con la tecnologı́a, o incluso en una guerra, donde
se reemplaza al ser humano por máquinas y actualmente hay
muy pocas cosas en las que un ser humano pueda ser mejor
que una IA, el autor se enfrentó contra la supercomputadora
de IBM Deep blue, donde jugo 2 partidas de ajedrez donde
4 UNIVERSIDAD NACIONAL DE COLOMBIA, HUMANOS Y MAQUINAS INTELIGENTES

gano 1 y perdió 1 lo cual marco un hito en la historia, [2] M. Tegmark, How to get empowered, not overpowered, by AI 2018.
pero se dice que este también fue un logro humano ya que
[3] G. Kasparov, Don’t fear intelligent machines. Work with them 2017.
la máquina que derroto al campeón fue desarrollada por
humanos y resalta que la computadora no era inteligente.

Las maquinas serán próximamente taxistas, médicos y

profesores por tanto es importante saber cómo el hombre
se sentirá trabajando con estas máquinas, Garry habla de
la sensación que tuvo al enfrentar a Deep Blue, la cual fue
totalmente nuevo a lo que estaba acostumbrado, ya que no
sabı́a de lo que era capaz la máquina, lo cual le planteo
varias dudas y miedos los cuales sabı́a que su contrincante
(la maquina) no tenia, al ser derrotado por la maquina se
pensó que el juego habı́a terminado y que las personas no
querrı́an jugar más al ajedrez debido a que la maquina ya
habı́a superado al hombre, lo cual nunca paso, cualquier
aplicación en un celular es más potente que la computadora
Deep Blue y aun ası́ se sigue jugando al ajedrez, por tanto,
el ser humano debe superar los miedos frente a la tecnologı́a
para poder aprovecharla al máximo y obtener lo mejor de la
humanidad.

Al ser derrotado Kaspárov tuvo la idea de combinar

al humano y la maquina en el llamado ajedrez avanzado,
donde cada ajedrecista tendrı́a una computadora para obtener
lo mejor de ambos mundos, aunque fallo en ese primer
acercamiento, años después un grupo de personas del común
vencieron a máquinas y campeones del deporte con la
cooperación de su inteligencia con la de 3 computadoras
ordinarias de la época, lo que lo hizo concluir que lo más
poderoso seria la combinación del hombre y maquina pero
con la adición de un método efectivo.

El humano más la maquina ya es una realidad, por

ejemplo, el uso de un traductor para entender algo que
está en otro idioma, pero dándole sentido y coherencia a
base de experiencia humana, donde después la maquina
también aprende de las correcciones que hace el humano,
esto se puede ver en cada disciplina en que use una IA. Las
maquinas ya han superado en varios aspectos al ser humano
y los están reemplazando, cosa que el autor encuentra como
una excelente noticia ya que la tecnologı́a se encarga de
quitar dificultades e incertidumbres de las vidas humanas,
por tanto se debe ir en busca de mayores desafı́os que sean
aún más inciertos, el ser humano no debe temer a lo que las
maquinas pueden hacer hoy sino que deberı́a preocuparse
por lo que aún no pueden hacer, ya que se necesitara
de las maquinas inteligentes para poder hacer realidad los
sueños y aspiraciones lo cual solo un ser humano puede hacer.

R EFERENCIAS
[1] .AI Now Report 2019”, Ainowinstitute.org, 2019. [Online]. Available:
https://ainowinstitute.org/AI-Now-2019-Report.pdf. [Accessed: 10- Abr-
2020].