UNIVERSIDAD NACIONAL DE COLOMBIA, HUMANOS Y MAQUINAS INTELIGENTES
Resumen No. 7: AI Now 2019 Report,Watson,
Jeopardy and me, the obsolete know-it-all, What Is
Artificial Intelligence (AI)?, Can we build AI
without losing control over it?
Diego Arturo Narváez Puentes
danarvaezp@unal.edu.co
Humanos y maquinas inteligentes
I. AI N OW 2019 R EPORT: P REOCUPACIONES
EMERGENTES Y URGENTES EN 2019
I-A. La automatización privada de la infraestructura pública
A medida que aumentan las preocupaciones sobre las
infraestructuras de IA, se suelen dividir entre usos públicos y
privados. Esta separación siempre ha sido falsa en cierto nivel
para el 2019 se han visto signos de su eventual colapso, con
evidencia clara de Integración continua y expansiva de los
sistemas públicos y privados a través de muchas IA diferentes
dominios.
IA y vigilancia de vecindad
Las asociaciones problemáticas entre empresas tecnológi-
cas privadas y gubernamentales también surgieron como una
tendencia este año, especialmente aquellos que extendieron la
vigilancia desde entornos públicos a privados espacios como
propiedades privadas y el hogar. Varios ejemplos se dan en
Estados Unidos y Canadá.
Por ejemplo, Amazon ejemplificó esta nueva ola de
tecnologı́a de vigilancia comercial con Ring, una empresa
de dispositivos de seguridad inteligente adquirida por en
2018. El producto central es su vı́deo timbre, que permite
a los usuarios de Ring ver, hablar y grabar a los que se
acercan a su puerta. Esto se combina con una aplicación
de vigilancia del vecindario llamada ”Vecinos”, que permite
a los usuarios publicar casos de delitos o problemas de
seguridad en su comunidad y comentarios con información
adicional, incluyendo fotos y vı́deos. Una serie de informes
revela que Amazon habı́a negociado para compartir vı́deos
con más de 700 departamentos de policı́a en los Estados
Unidos, realizando además convenios y promociones para el
uso de esta tecnologı́a en los departamentos de policı́a, se
dice que Amazon esta esencialmente entrenando a la policı́a
en como hacer su trabajo y como promover los productos
de la empresa Ring. Neighbors se une a otras aplicaciones
como Nextdoor y Citizen, que permiten a los usuarios ver el
crimen local en tiempo real y discutirlo entre ellos.
1
Ciudades inteligentes
Las preocupaciones sobre la privatización del espacio públi-
co ocuparon un lugar central este año en el debate en torno
a “Ciudades inteligentes” (Lugares que usan datos, sensores y
algoritmos para administrar recursos y servicios). La mayorı́a
de las iniciativas de ciudades inteligentes dependen de alianzas
público-privadas y tecnologı́a desarrollada y controlada por
empresas tecnológicas, que desplazan los recursos públicos
y el control sobre la infraestructura y los valores de estas
empresas. La investigación reciente ha puesto de manifiesto en
qué medida qué grandes compañı́as tecnológicas como IBM y
Cisco han estado ”vendiendo inteligencia.al difundir narrativas
sobre desafı́os urbanos y soluciones tecnológicas para aquellos
retos. Estas empresas ven la potencial de ganancias masivas:
un informe calculó el valor del mercado global de ciudades
inteligentes 237,6 mil millones para el año 2025.
Los proyectos de ciudades inteligentes en los Estados Uni-
dos y el mundo consolidan cada vez más el poder en las manos
de compañı́as tecnológicas con fines de lucro, mientras privan
a los municipios y sus residentes de recursos y privacidad.
El ejemplo de más alto perfil está en Toronto, el hogar de
Sidewalk Lab’s con el desarrollo del “primer barrio del mundo
construido a partir del internet”, donde se descubrió el amplio
presupuesto que se le dio al proyecto y su ampliación al
plan original que se tenı́a propuesto, del mismo modo, la
multinacional Huawei con su proyecto de 1,5 billones para
crear ciudades inteligentes en África incluyen un proyecto
en Nairobi donde instaló 1.800 cámaras, 200 sistemas de
vigilancia de tráfico y un Centro Nacional de mando de la
policı́a como parte de su programa “Ciudad Segura”. Pero se
sabe que la tecnologı́a ha sido utilizada por algunos gobiernos
africanos para espiar a opositores polı́ticos.
En otras ciudades, los arreglos para compartir datos
detrás de escena permiten que los datos sean recopilados
por empresas privadas. San Diego ha instalado miles de
micrófonos y cámaras en la iluminación pública en los
últimos años en un esfuerzo por estudiar el tráfico y el
estacionamiento, aunque los datos han demostrado ser de
poca utilidad para mejorar el tráfico, pero la policı́a ha
2 UNIVERSIDAD NACIONAL DE COLOMBIA, HUMANOS Y MAQUINAS INTELIGENTES
utilizado imágenes de vı́deo en más de 140 casos sin ninguna
supervisión o rendición de cuentas. Tambien se menciona
que con el esfuerzo más concertado y organizado ubicado
en Toronto. En febrero, un grupo de 30 personas de la
cuidad lanzaron la campaña BlockSidewalk, y ha señalado
que el proyecto “es tanto sobre la privatización y el control
empresarial, como sobre la privacidad.” A finales de octubre,
Waterfront Toronto habı́a alcanzado un nuevo acuerdo con
Sidewalk Labs, donde se restringe a la compañı́a al tamaño
original de 12 acres y afirmar el papel del gobierno como
que lleva componentes clave del proyecto
IA en la frontera
La IA sigue desempeñando un papel más grande y perni-
cioso en la focalización de las poblaciones inmigrantes. dentro
de los Estados Unidos.
El uso creciente de las tecnologı́as de IA a menudo se
justifica en base a la retórica nacionalista. En los EE.UU,
hablamos de una ”pared inteligente”que utiliza drones, senso-
res y un mayor reconocimiento facial para detectar individuos
está recibiendo apoyo de ambos partidos en su diseño e im-
plementación. Andúril Industries, una empresa de tecnologı́a
que recientemente reemplazó a Google en un proyecto del de-
partamento de Defensa donde antes se desarrollaban sistemas
de vigilancia basados en IA y aviones no tripulados, ofrece
ahora torres de energı́a solar “centinela” para la Aduanas y
Protección Fronteriza . En julio, el Washington Post informó
sobre miles de documentos internos y correos electrónicos
obtenidos a través de solicitudes de registros públicos por
investigadores del Centro de leyes de Georgetown sobre priva-
cidad y Tecnologı́a. Los documentos mostraron que la Oficina
Federal de Investigación (FBI) y el ICE estaban utilizando
bases de datos de licencias de conducir estatales como ”la
base de una vigilancia sin precedentes infraestructura” que se
basaba en la tecnologı́a de reconocimiento facial.
Fuera de los EE. UU., Los gobiernos están igualmente
ansiosos por pilotar sistemas de IA en los puntos de control
fronterizo donde también se observan casos similares en
Reino Unido, China y algunas partes de África. El crecimiento
significativo en el uso de IA para el seguimiento de fronteras,
la vigilancia y la predicción amenaza la derechos y libertades
civiles de los residentes dentro de las fronteras de un paı́s,
no solo de los que están fuera de él. Como dice la ACLU en
su análisis de los problemas con La autoridad de CBP dentro
de la zona fronteriza de los Estados Unidos: “La expansión
de los poderes relacionados con la frontera hacia el interior
es inseparable de la expansión más amplia de la intrusión
del gobierno en la vida de los estadounidenses.” Y como la
vigilancia permitida por la IA, el seguimiento y la orientación
en el contexto de la frontera la seguridad se vuelve más
penetrante y poderosa, tales tecnologı́as inevitablemente se
utilizarán en Residentes de EE. UU., Infringiendo aún más
los derechos y libertades dentro del paı́s.
Sistemas nacionales de identidad biométrica
Un número creciente de gobiernos en todo el mundo
está construyendo una identidad biométrica nacional. sistemas
que generan un identificador único para cada persona, que
generalmente sirve como un enlace discreto con las bases
de datos del gobierno. Los residentes de muchos paı́ses
están cada vez más obligados a utilizar estos nuevos modos
digitales para acceder a una gama de servicios. Junto con
la información demográfica, Se utilizan datos biométricos
como huellas dactilares, escaneos del iris o escaneos faciales,
ya sea para la inscripción única en una base de datos de
identificación o como un medio continuo de autenticación.
Estos sistemas de identificación varı́an en términos de los que
pretenden incluir (y no): residentes, ciudadanos o refugiados.
A pesar de que estos proyectos se justifican a menudo en la
implementación de servicios gubernamentales para beneficiar
al üsuario finalrealmente se beneficia directamente una mezcla
compleja de intereses estatales y privados.
Paı́ses como India, Ghana, Ruanda, Tunes, Uganda y Zim-
bawe han tenido problemas con lo relacionado con Identidad
biométrica y sistemas de identificación. Los expedientes de
los registros de autenticación creados por estos sistemas de
identificación, ası́ como la capacidad de la información agre-
gada en las bases de datos puede aumentar el poder de las
infraestructuras de vigilancia disponible para los gobiernos.
El ministro del Interior de Kenia se refirió a su identificación
biométrica recientemente anunciada sistema “Huduma Num-
ba”, como la creación de una “única fuente de verdad” acerca
de cada ciudadano.
La inscripción y la recopilación de datos asociada para estos
sistemas de identificación ha sido coercitiva porque es ya es
legalmente obligatorio estar inscrito para acceder a servicios
esenciales. Existe una creciente preocupación por la supuesta
eficiencia de estos sistemas automatizados, ası́ como de quién
se benefician estos sistemas técnicos y a qué costo, algunos
paı́ses han protestado por el uso indebido de estos sistemas
y estos métodos de recopilación de información, ejemplos
como Jamaica que anuncia que este tipo de tecnologı́a no es
justificable en una sociedad libre y democrática.
A medida que estos proyectos continúen emergiendo
en todo el mundo, se requiere de más investigación sobre
la polı́tica internacional económica de estos sistemas de
identificación. Coaliciones de la sociedad civil como el
WhyIDcampaign se están uniendo para cuestionar los
intereses que impulsan estos proyectos a nivel nacional y
a través de organizaciones de desarrollo internacional, ası́
como desarrollar actividades de promoción las estrategias
para influir en su desarrollo.
Narrativa de la carrera armamentista de China
En los últimos años, la çarrera armamentista de IA.entre
Estados Unidos y China (y en menor medida Rusia) se ha
convertido en un tema frecuente de debate público. Esta
HUMANOS Y MAQUINAS INTELIGENTES
“carrera” se cita comúnmente como una razón por la cual
los EE. UU. y las compañı́as tecnológicas que producen los
sistemas de IA del paı́s necesitan aumentar la IA desarrollo y
despliegue, y rechazar los intentos para que sea más lento e
intencional desarrollo y protecciones regulatorias más fuertes.
Las métricas que comparan el desarrollo de IA de EE. UU.
Y China a menudo se centran en la proporción superior de
cientı́ficos e ingenieros de IA que residen y trabajan en cada
paı́s, ya sean investigadores chinos o estadounidenses que son
autores de los documentos técnicos más citados, o la cantidad
de patentes sobre IA que surgieron de cada paı́s. Con base
en tal evidencia, estudios recientes han advertido que China
podrı́a .adelantar.a Estados Unidos para el año 2020, además
se hace advertencia de que los mejores cientı́ficos de IA de
Silicon Valley están emigrando a China.
Los defensores de la narrativa de la carrera armamentista
de IA tienden a medir el ”progreso”basado en la industria de
cooperación de IA con el establecimiento militar, caracteri-
zando la reticencia de aquellos que cuestionan el desarrollo
de sistemas de armas y sistemas de vigilancia masiva como
implı́citamente .Anti-progreso.o antipatriótico. De hecho, algu-
nas de las voces más consistentes advierten sobre los peligros
de la supremacı́a china AI vienen desde dentro del sistema
de defensa de Estados Unidos. Esto se ajusta a la creciente
atención al uso militar de la IA, y el llamado a aumentar el
gasto militar en IA y asociaciones más estrechas entre los
militares estadounidenses y Silicon Valley.
II. W HAT I S A RTIFICIAL I NTELLIGENCE (AI)
II-A. ¿Porque la IA importa?
Se estima que para el 2030 la IA creara alrededor de 13
trillones de dólares en la economı́a mundial, esto debido a que
la IA está transformando la ingenierı́a en casi toda industria
y área de aplicación.
II-B. Componentes claves de un flujo de trabajo de IA
Preparación de datos
Tomar datos sin procesar y hacerlos útiles para un modelo
preciso, eficiente y significativo es un paso crı́tico. De hecho,
representa la mayor parte de su esfuerzo de IA. La IA también
implica cantidades prodigiosas de datos. Sin embargo, etique-
tar datos e imágenes es tedioso y requiere mucho tiempo. A
veces, no tiene suficientes datos, especialmente para sistemas
crı́ticos para la seguridad. Generar datos sintéticos precisos
puede mejorar sus conjuntos de datos. En ambos casos, la
automatización es crı́tica para cumplir con los plazos.
Modelado de IA
Los factores clave para el éxito en el modelado de sistemas
de IA son:
3
Comenzar con un conjunto completo de algoritmos
y modelos preconstruidos para aprendizaje automático,
aprendizaje profundo, aprendizaje de refuerzo.
Utilizar aplicaciones para un diseño y análisis productivo.
Trabajar en un ecosistema abierto donde las herramientas
de inteligencia artificial como MATLAB, PyTorch y
TensorFlow puedan usarse juntos.
Administre la complejidad informática con la aceleración
y escalamiento de GPU a servidores paralelos y en la
nube y centros de datos en las instalaciones.
Diseño del sistema
Los modelos de IA existen dentro de un sistema completo
que abarca muchas caracterı́sticas. Despliegue estos deben
implementarse en CPU, GPU y / o FPGA en su producto
final, ya sea parte de un dispositivo embebido o de borde,
sistema empresarial o nube. Generalmente los modelos de IA
se implementan en una combinación de estos sistemas.
II-C. Desarrollo de sistemas controlados por IA con
MATLAB
Procesamiento de datos con MATLAB
Las aplicaciones y los tipos de datos de MATLAB reducen
significativamente el tiempo requerido para procesar
previamente los datos. Puede visualizar rápidamente sus datos
para comprender las tendencias e identificar problemas de
calidad de datos con tramas y el Editor en vivo. Para probar
algoritmos antes de que haya datos disponibles de sensores
u otros equipos, puede generar datos sintéticos desde Simulink.
II-D. Modelado de IA con MATLAB
Aprendizaje autonomo
Statistics and Machine Learning Toolbox facilita las partes
difı́ciles del aprendizaje automático con aplicaciones para
capacitación y comparación de modelos, procesamiento avan-
zado de señales y algoritmos de extracción de caracterı́sticas,
clasificación, regresión y agrupación para el aprendizaje su-
pervisado y no supervisado. Los modelos MATLAB también
tienen una ejecución más rápida que el código abierto en la
mayorı́a de los cálculos estadı́sticos y de aprendizaje automáti-
co.
Aprendizaje profundo
Deep Learning Toolbox permite crear, interconectar, entrenar y
evaluar las capas de una red neuronal profunda. Los ejemplos
y las redes capacitadas facilitan el uso de MATLAB para el
aprendizaje profundo, incluso sin el conocimiento de algorit-
mos avanzados de visión por computadora o redes neuronales.
Aprendizaje reforzado
En los sistemas de control que se benefician del aprendizaje
basado en la recompensa acumulativa, el aprendizaje por
refuerzo es una técnica ideal. Reinforcement Learning Toolbox
4 UNIVERSIDAD NACIONAL DE COLOMBIA, HUMANOS Y MAQUINAS INTELIGENTES

le permite entrenar polı́ticas utilizando DQN, A2C, DDPG y decisiones como votar u otro tipo de decisiones importantes.
otros algoritmos de aprendizaje de refuerzo. Mientras que la ventaja de tiempo implica tener todos los
datos a la mano y la importancia de esto en una situación de
Procesamiento natural del lenguaje
emergencia.
Los modelos de procesamiento del lenguaje natural se usan
Para finalizar el autor cita a Samuel Parr “siempre es mejor
comúnmente para el análisis de sentimientos, el mantenimiento
saber algo que no saberlo”. Se dice que el hombre está en un
predictivo y el modelado de temas. Text Analytics Toolbox
TM punto de inflexión o decisión, donde puede decidir si vivir
proporciona algoritmos y visualizaciones para preprocesar,
en un mundo donde dominemos a las máquinas y se tenga
analizar y modelar datos de texto. Le permite extraer y
acceso a conocimiento universal o vivir en un mundo donde
procesar texto sin formato de fuentes tales como registros de
no importa lo que se sabe porque una maquina lo sabe y esta
equipos, fuentes de noticias, encuestas, informes de operadores
se puede consultar en cualquier momento.
y redes sociales.

II-E. Diseño de sistema IV. C AN WE BUILD AI WITHOUT LOSING CONTROL

Los sistemas complejos controlados por inteligencia arti-
ficial deben integrarse con otros algoritmos. El diseño y la
simulación del sistema son importantes porque el sistema
general afecta la efectividad de los modelos de IA. Se usa
Simulink para una iteración de diseño rápida y pruebas de
circuito cerrado, también le permite generar datos de fallas a
partir de condiciones de fallas conocidas.
II-F. Despliegue
Los modelos de IA en MATLAB pueden implementarse en
dispositivos o placas integradas, dispositivos de borde en el
campo, sistemas empresariales o la nube.
III. WATSON , J EOPARDY AND ME , THE OBSOLETE
KNOW- IT- ALL
Ken Jennings campeón de Jeopardy comienza la charla
hablando de su vida, su pasión por los concursos de TV y
su costumbre de ser un sabelotodo. Des pues de establecerse
como ganador de este concurso IBM se propuso la meta de
vencerlo en el juego con ayuda de una supercomputadora,
gracias a años de esfuerzo y millones de dólares de inversión
se construyo la computadora Watson, la cual fue capaz de
vencer a Jennings y otro concursante mas de manera muy
sencilla.
Después de ser derrotado, dice que se sintió obsoleto frente
a las nuevas tecnologı́as y a la capacidad que estas tenı́an de
reemplazar a las personas en sus oficios, lo que ocasionara
(según varias personas) una época dorada donde el humano
tiene todo el tiempo libre que desea y las maquinas se
encargaran de los procesos repetitivos, pero también hay
personas que temen al futuro que pueden traer las maquinas,
el autor habla de la dependencia a las tecnologı́as y como el
cerebro humano se podrı́a deteriorar si se deja de usar por el
uso constante de las IA, pero al final de cuentas habla sobre
las ventajas que tienen las personas que conocen sobre algo
frente a las que no ,el volumen y el tiempo.
El volumen habla de la complejidad del mundo actual y la
cantidad de información que se maneja actualmente. Muchas
decisiones importantes requieren el dominio de muchos tipos
de datos, si se tiene eso en mente, se pueden tomar mejores
OVER IT ?
El autor inicia hablando de la capacidad que tiene el ser
humano de detectar el peligro pero no darle importancia,
después realiza una comparación entre el hambre mundial y
el avance la IA, y lo enlaza con la capacidad de peligro del
principio donde menciona que le hombre no se da cuenta del
peligro que se acerca con la llegada de las nuevas tecnologı́as,
donde se dan 2 caminos, el de parar el desarrollo de las IA
por completo o seguir avanzando en este tema hasta que
exista una IA capaz de mejorarse a si misma sin ayuda ni
supervisión del ser humano, esta segunda opción es la que
debe generar preocupación ya que si estas superinteligencias
en algún momento ven al ser humano como algo que sobra o
como un enemigo podrı́an borrarnos de manera sencilla.
Se enuncia sobre la duda de algunas personas sobre la IA
superinteligente pero para poder afirmar esto se debe refutar
3 supuestos: el primero ”La inteligencia es el procesamiento
de información en un sistema fı́sico ya se sabe que varias
2
IA operan a niveles sobrehumanos y que la inteligencia solo
se da cuando hay interacción de átomos, el segundo es que se
seguirán mejorando las IA, lo cual es evidente, y le tercero es
que el humano no es la cima de la inteligencia, las máquinas
son más veloces que los humanos y podrı́a hacer 20 000 años
de trabajo intelectual a nivel humano, semana tras semana
tras semana. ¿se podrı́a restringir una mente ası́?
Se imagina el mejor de los casos, donde exista una IA que
no tiene problemas de seguridad y que puede hacer todo y
mas de lo que hace el humano, por tanto, donde quedarı́a el
ser humano, este seria limitado a toda actividad recreativa
que se pueda imaginar, pero el orden mundial colapsarı́a,
existirı́a una desigualdad enorme, posibles guerras terrestres
y cibernéticas, por tanto, teniendo en cuenta los posibles
desenlaces se deben tener cuidado con estas tecnologı́as, y
que estos posibles futuros no son tan distantes se necesita
un proyecto Manhattan sobre IA. No tanto para hacerla, que
es inevitable, sino para entender cómo evitar una carrera
armamentista y hacer que concuerde con nuestros intereses.
Se está trabajando en el proceso de construcción de un Dios,
es por tanto serı́a un buen momento para asegurarse de que
sea un dios con el que el ser humano pueda vivir.
HUMANOS Y MAQUINAS INTELIGENTES 5

R EFERENCIAS
[1] .AI Now Report 2019”, Ainowinstitute.org, 2019. [Online]. Available:
https://ainowinstitute.org/AI-Now-2019-Report.pdf. [Accessed:04 Abr-
2020].

[2] K. Jennings, Watson, Jeopardy and me, the obsolete know-it-all 2013.

[3] S. Harris, Can we build AI without losing control over it? 2016.