Algoritmos y automatización: Introducción

Ian Lowrie

Nuestro mundo está densamente poblado por procesadores ubicuos, almacenamiento de gran
capacidad y sensores vigilantes. Las redes de tales máquinas están constantemente midiendo,
empaquetando, almacenando, circulando y operando en el mundo. Están ocupados
ensamblando y siendo ensamblados, compartiendo información y distribuyendo sus cargas de
procesamiento mientras toman decisiones y promulgan (enact) planes. Al mismo tiempo,
rechazan conexiones, mantienen sus sistemas inmunológicos, realizan seguridad en la red,
administran sus límites y controlan el acceso. Los cuerpos humanos se mueven entre esta
malla flexible y securitizada de silicio, electricidad, código, fibra óptica y datos: construcción,
mantenimiento y reestructuración. Su actividad asegura que las estructuras estéticas,
epistemológicas, económicas y políticas se entretejen a fondo en estas redes computacionales,
uniendo estrechamente lo técnico a lo social a medida que experimentan con nuevas formas
de trabajo y vida. Sin embargo, muchos de los que están construyendo estos sistemas no
parecen particularmente preocupados por garantizar que nuestros futuros computacionales
permanezcan bajo el control, o incluso la comprensión, de seres humanos carnales y culturales.
Por el contrario: mientras elaboran y mantienen el paisaje de datos, los técnicos del
capitalismo global de la información están ocupadas y felizmente sentando las bases para la
subcontratación de muchos procesos sociales, culturales y económicos a las máquinas
informáticas.

Conocí a estos técnicos por primera vez durante mi trabajo de campo en la comunidad de
ciencia de datos de Moscú. Casi todos los informáticos, matemáticos e ingenieros eléctricos
con los que hablé se consideraban a sí mismos actores menores en la economía global del
conocimiento, más interesados en explorar lo que llamaban "cuestiones científicas" sobre la
naturaleza de los algoritmos y su implementación que en construir la base para una forma
cualitativamente nueva de la economía de la información (Lowrie 2017). Si les toma la palabra,
su trabajo de infraestructura en el paisaje de datos fue casi un subproducto de sus proyectos
intelectuales, simplemente una oportunidad para encontrar nuevos datos para explorar y
dominios problemáticos en los que desatar sus algoritmos. Sin embargo, si observa lo que
realmente están construyendo, verá el surgimiento de una nueva y profunda forma de
automatización: una que no solo se basa en la extensión de las capacidades humanas y la
racionalidad en forma de líneas de montaje o telares Jacquard, sino que también trabaja
activamente para replicar esas capacidades y esa racionalidad en sistemas sociotécnicos
extendidos. No toda la automatización es algorítmica, pero todos los algoritmos se
automatizan, y la extensión de la automatización algorítmica de terrenos puramente
matemáticos y computacionales a infraestructuras sociotécnicas extendidas ha producido
transformaciones profundas, continuas y abiertas en la organización y función de los mundos
sociales contemporáneos.

***

Los humanos han estado automatizando su mundo durante mucho tiempo. El primer
dispositivo regulado por retroalimentación que reemplazó el trabajo humano fue
probablemente un reloj de agua inventado por Ctesibio alrededor del año 250 a. C., que
eliminó la necesidad de reposición manual de la cámara de agua saliente, manteniendo
automáticamente el flujo de entrada final a la cámara de medición a un ritmo constante (Nocks
2008). La invención del termostato por Cornelius Drebbel en el siglo XVII es un hito más
conocido, que pronto fue sucedido por una explosión en el siglo XVIII en la automatización de
molinos, telares y otros dispositivos industriales. Estas máquinas usaban programación
analógica en forma de engranajes, volantes, enlaces, levas y seguidores para reemplazar el
trabajo humano y la cognición requerida en el desempeño de tareas específicas, regulares y
predecibles. Muchas instancias modernas de automatización, especialmente de funciones
industriales, surgen directamente de este linaje mecánico. Sin embargo, la forma de
automatización contemporánea por excelencia se basa, en cambio, en el comando
computacional, el control y la comunicación de información en lo que yo llamo ensamblajes
algorítmicos.1

Abundan las definiciones técnicas de los algoritmos, aunque el consenso académico sigue
siendo esquivo (véanse los debates en Moschovakis 2001 y Gurevich 2011). Sin embargo, las
diversas definiciones sintéticas dadas por los propios científicos informáticos y de datos
podrían reducirse a algo así como "un conjunto de procedimientos formales para operar en un
conjunto específico de datos en una cantidad finita de tiempo para producir un rango
específico de resultados". Los algoritmos son procedimientos matemáticos y computables para
hacer cosas como enrutar el tráfico, diagnosticar tumores cancerosos a partir de imágenes de
resonancia magnética o emparejar personas en sitios de citas. Sin embargo, estos conjuntos de
procedimientos no pueden hacer mucho por sí solos. Como me dijo Grigori, un científico de
datos moscovita: "Una receta, incluso una muy buena, no es una panadería". Un algoritmo por
sí solo es algo endeble: unos pocos conceptos, un enfoque heurístico, elaborado en unas pocas
líneas de código. Sin estar integrado en un sistema sociotécnico más amplio, un algoritmo
permanece inmóvil, inerte (Gillespie 2014). Para hacer que un algoritmo funcione, es bastante
obvio que necesita poder de procesamiento, un medio de almacenamiento y recuperación y
datos; menos obviamente, debe asegurarse de que esta arquitectura computacional
permanezca completamente integrada con los procesos sociales, con lo que mis colegas en
Moscú llamaron con frecuencia "el mundo de las tareas aplicadas". Como lo explicó Grigori:
“Sin clientes, una panadería no [permanecerá abierta]. De manera análoga, ¡necesita encontrar
cosas para que su algoritmo las haga! Problemas por resolver, datos por digerir”.

La eficacia de un ensamblaje algorítmico consiste no solo en su capacidad para procesar e

identificar patrones en grandes cantidades de datos, sino también en su capacidad para
manipular rutinas computacionales adyacentes, infraestructuras materiales y seres humanos.
Dependiendo de su dominio de aplicación, ensamblar un algoritmo funcional requiere la
integración no solo del hardware y los flujos digitales, sino también de las estructuras
organizativas, la infraestructura analógica y los procesos socioeconómicos de los que extrae sus
problemas y en los que opera.2 Los algoritmos en el núcleo de una aplicación como Lyft o Uber,
por ejemplo, analiza datos de clientes, conductores y mapas, además de producir y monitorear
cambios reales en flujos extendidos de automóviles, cuerpos humanos y dinero. Los algoritmos
1
Mike Ananny (2016, 7) también usa el término ensamblaje algorítmico, pero restringe lo que se
ensambla al conjunto relativamente limitado de “código computacional, prácticas humanas y lógica
normativa institucionalmente situados”.
2
Por supuesto, algunos algoritmos se enfocan directamente en administrar otros flujos computacionales,
como aquellos que administran tareas de procesamiento o recuperación y almacenamiento de
información dentro de una arquitectura computacional específica. Sin embargo, la idea de que se trata
de funciones solipsísticamente digitales es un error: incluso estas funciones informáticas autónomas
requieren la capacidad de procesamiento de información para retroalimentar el mundo material,
manipulando sustratos reales de almacenamiento y procesamiento.
logísticos en el núcleo de un centro de envío de Amazon no solo hacen predicciones basadas
en el análisis de transacciones pasadas, eventos de envío y desempeño de los trabajadores,
sino que también usan esas predicciones para administrar activamente los inventarios de
productos, controlar la posición y el desempeño de los trabajadores humanos, gobernar el flujo
de paquetes a través del espacio físico del almacén, e interactuar con organizaciones externas
como FedEx o el servicio postal.

La automatización algorítmica representa una ruptura genuinamente novedosa con las formas
anteriores de automatización, principalmente debido a su capacidad para reunir y operar en
una amplia gama de procesos digitales y analógicos a la vez. Como sugieren Hamid Ekbia y
Bonnie Nardi (2018) en su contribución a esta colección, en un ensamblaje algorítmico se
rompe la distinción entre procedimientos matemático-formales y la manipulación real de
objetos en el mundo. No parece del todo hiperbólico decir que lo que nos encontramos aquí es
un colapso de la barrera entre la res cogitans computacional y la res extensa social-
infraestructural.3 El poder desatado por este colapso, la capacidad de supervisar directamente,
intervenir y operar sistemas materiales extendidos por mandato matemático es la base para
una metástasis verdaderamente histórica del control algorítmico.

Mientras que las formas anteriores de ingeniería analógica en su mayoría automatizaban el

trabajo humano repetitivo y de baja creatividad, la velocidad y la sofisticación del
procesamiento algorítmico de la información ha permitido la automatización de dominios de
actividad cada vez más "humanos". (Por supuesto, nuestra inclinación a tratar el trabajo
repetitivo y de baja creatividad como algo menos humano que el trabajo creativo no es una
afirmación neutral, sino más bien una respuesta culturalmente específica a que, para empezar,
hayamos automatizado dicho trabajo). El sistema financiero es probablemente el terreno
computacionalmente más completamente automatizado en la sociedad contemporánea
(MacKenzie 2006), un campo en el que los algoritmos son más o menos libres para intervenir
en la cacofónica vorágine de aceleración vectorial y cantidad típica del capitalismo tardío, a
menudo sin un ser humano al tanto. El sistema político también está siendo colonizado por
algoritmos, con la mecanización de muchas funciones cotidianas de gobierno en los centros
metropolitanos (Agar 2003), aunque los órganos electorales reales del sistema político se han
mantenido relativamente resistentes a la automatización. Las funciones de seguridad como la
vigilancia (Joh 2016), los asesinatos selectivos (Franz 2017) y los combates bélicos (Suchman y
Weber 2016) se han automatizado desde la Segunda Guerra Mundial (ver De Landa 1991). Los
algoritmos también están asumiendo la responsabilidad de otras funciones sociales
supuestamente culturales, con la curación del gusto (Seaver, próxima publicación), la
producción de medios de comunicación (Carlson 2015), diagnóstico médico (Soni et al. 2011),
descubrimiento científico (Leonelli 2016), y supervisión pedagógica (Williamson 2015) también
experimentando diversas formas de automatización. Ciertamente, muchos de estos sistemas
mantienen a los humanos informados, lo que llevó a Ekbia y Nardi (2017) a argumentar en otra
parte que la tendencia actual debería etiquetarse como heteromación (heteromation), en lugar
de automatización propiamente dicha (cf. LaFlamme 2018). Otros, sin embargo, han
argumentado que el trabajo y la circulación en general están en camino inevitable de
convertirse en funciones sociales automáticas (Srnicek y Williams 2015; Stiegler 2016):
sombras de ciencia ficción de Marx.
3
René Descartes (1988) pensó que el mundo estaba compuesto por res extensa, la sustancia corpórea
extendida que ocupa el espacio material, y res cogitans, la sustancia mental inmaterial que es la materia
no extendida del pensamiento puro; estos fueron unidos por la tercera sustancia, Dios. Aquí, estos
términos se usan con cierta alegría.
Frente a toda esta automatización posthumana, la expansión viral del control algorítmico y la
concrescencia concomitante de la agencia computacional y humana ha resultado difícil para la
antropología encontrar su base teórica y su alcance etnográfico. A pesar de nuestra larga
historia de involucrar a los humanos como usuarios de herramientas y de los entusiasmos más
recientes por las nuevas formas de materialismo que empujan el análisis social a terrenos
posthumanos y de múltiples especies, parece haber algo profundamente heterodoxo —un
soplo de hereje— en una antropología que abordaría los procesos automáticos en sus propios
términos (pero ver Fisch 2013). Tanto como cualquier desafío empírico específico para llevar a
cabo una etnografía de sistemas automáticos, los programas de investigación en curso parecen
obsesionados por un malestar no especificado y no reconocido, un hambre
epistemológicamente injustificable pero profundamente sentida por la humanidad.

Una respuesta ha sido simplemente continuar haciendo lo que históricamente los etnógrafos
hemos hecho mejor: seguir a la gente, centrándonos en las nuevas formas de trabajo que
emergen junto a los ensamblajes algorítmicos. Algunos académicos que trabajan en este
sentido han sugerido que estas nuevas formas de automatización no reemplazarán o no podrán
reemplazar el trabajo humano, sino que simplemente pueden desplazarlo (Irani 2015).
Ciertamente, construir y mantener la mayoría de los tipos de ensamblajes algorítmicos aún
requiere trabajo humano, por ahora. Esta sugerencia está, en parte, empíricamente justificada,
ya que la automatización parece tener un efecto general ambiguo, o incluso positivo, sobre el
empleo (p. ej., Deloitte 2015). Sin embargo, no veo ninguna razón teórica para que asumamos
que este seguirá siendo el caso, especialmente a medida que los procesos algorítmicos asumen
cada vez más la responsabilidad de su propio desarrollo, evolución y mantenimiento, mientras
que el control de drones se integra más a fondo con el software de gestión y logística. El
optimismo sobre la necesidad futura del trabajo humano no debería cegarnos ante los
potenciales emergentes para una reconfiguración drástica del papel que juega dicho trabajo en
la socioeconomía. Me parece que la insistencia en que los ensamblajes algorítmicos no pueden
reemplazar a los humanos habla más de las ansiedades disciplinarias y políticas
contemporáneas que de cualquier análisis objetivo de las capacidades y limitaciones de esos
ensamblajes.

Además, incluso si hay algo estructural en la automatización algorítmica que requiere la

producción de nuevos espacios adyacentes para el trabajo necesariamente humano, estudiar
ese trabajo no elimina la necesidad de entender la automatización en sus propios términos.
Aunque quizás con menos avidez que los practicantes de otras ciencias sociales,
comunicaciones y ciencias de la información, los etnógrafos han centrado su atención en la
construcción y operación de conjuntos algorítmicos como sistemas sociotécnicos extendidos
(p. ej., Gates 2011; Schüll 2012). Desafortunadamente, sin embargo, en lugar de ofrecer un
examen etnográfico detallado de cómo se construyen y funcionan los sistemas algorítmicos,
nuestro principal enfoque disciplinario ha sido el efecto de la automatización algorítmica en las
estructuras sociales existentes. Si bien esto ciertamente constituye un trabajo crucial, nuestra
disciplina obstinadamente demasiado humana ha utilizado con frecuencia esta investigación
como base para lo que probablemente sea una crítica demasiado apresurada de los algoritmos,
tanto per se como agentes de automatización.

Los procesos algorítmicos, de acuerdo con las líneas argumentales dominantes en las ciencias
humanas, replican y, de hecho, pueden exacerbar las formas existentes de desigualdad, al
tiempo que eliminan el juicio humano supuestamente humano del ciclo de decisión sobre
funciones sociales críticas. Aunque la mayoría de estas críticas se centran en implementaciones
algorítmicas específicas, hay una sensación generalizada en la literatura de que el problema
radica en la automatización en sí misma, que los procesos algorítmicos de alguna manera
necesariamente y en general no logran capturar el matiz y la especificidad de los procesos
humanos y sociales. La solución preferida, más a menudo gestual e incipiente que concreta y
programática, es la contextualización del conocimiento algorítmico y la reintroducción de
humanos al desarrollo, implementación y mantenimiento de ensamblajes algorítmicos. No
considero que este sea un camino particularmente feliz para el conocimiento antropológico en
la era de la automatización algorítmica.

Todo lo contrario: creo que debemos desconfiar de la satisfacción intelectual-profesional

profundamente arraigada que proviene de una contextualización minuciosa de un algoritmo en
cuanto objeto técnico. Ciertamente, comprender las fuerzas sociales que dan forma a la
construcción y el despliegue de un ensamblaje algorítmico, o trazar cómo se integran con
estructuras y procesos sociales más amplios, constituye un paso crucial en el análisis de la
automatización algorítmica. Pero como argumenta Nick Seaver (2013, 10) en otra parte,
permitir que esto siga siendo el horizonte de ese análisis tiende a dejar “los mismos algoritmos
intactos, piedras objetivas arrojadas en una corriente social turbulenta”. Soy igualmente
escéptico de las llamadas para "humanizar" los procesos de automatización contemporáneos al
proporcionar a los stakeholders que no son ingenieros o a los antropólogos que bromean un
asiento en la mesa del desarrollo de algoritmos. Como argumenta de manera convincente
Dawn Nafus (2018) en su ensayo, esto puede delatar la granja, en la medida en que excluye los
argumentos sobre la conveniencia de la colonización algorítmica del terreno intelectual y de
infraestructura que quizás podría estar mejor ocupado por formas más humanas de análisis y
control. En términos más generales, me parece simplemente poco probable que cualquier
insistencia ludita en humanizar los sistemas algorítmicos, especialmente por parte de una
comunidad tan periférica como la nuestra, tenga efectos profundos en los procesos de
automatización desencadenados por las innovaciones algorítmicas y la computación ubicua.
Aún más desconcertante, tales negativas a comprometerse seriamente con las tecnologías
emergentes pueden tener el desafortunado efecto secundario de asegurar a los ingenieros y
legisladores que la crítica etnográfica tiene poco que ofrecerles además de la nostalgia y las
ilusiones.

¿Así que, qué debe hacerse? Ciertamente, ni yo ni los otros colaboradores de esta colección
estaríamos contentos con una antropología de algoritmos que excluya a los humanos del
análisis social por completo. Esto sería, en el mejor de los casos, prematuro: como demuestran
ampliamente las contribuciones recopiladas aquí, los ensamblajes algorítmicos permanecen
completamente integrados y dependen de una miríada de formas de trabajo humano para su
función, a pesar de mi insistencia en la novedad genuina y el poder de la automatización
algorítmica. Tomando prestado un término del ensayo de Nafus (2018), un enfoque exclusivo
en los ensamblajes algorítmicos como objetos técnicos dejaría una gran parte de las ciencias
sociales "sin hacer". Más bien, me parece que la mejor manera de avanzar es separar
cuidadosa (carefully) y pensativamente (thoughtfully) nuestros roles como etnógrafos de
ensamblajes algorítmicos y como antropólogos de lo contemporáneo.

¿Qué significa abordar etnográficamente una instancia de automatización algorítmica? Para

resumir las recomendaciones de Seaver (2018): debemos comenzar con una evaluación realista
de las capacidades, funciones, limitaciones, objetivos, impulsos, recursos y significados de un
ensamblaje algorítmico, trazando su distribución interna de agencia y afectos entre humanos y
máquinas, ubicándolo dentro de amplios terrenos sociales y redes de relaciones tanto con
humanos como con otros conjuntos. Es decir, de la misma manera que comenzamos a
comprender cualquiera de las otras cosas que estudiamos, ya sean mitades o parcelas de roza y
quema o patrones de migración o personas o máscaras o ganado o automóviles o jaguares.
Ciertamente, la apertura antropológica que propone esta introducción se ha centrado en
formas contemporáneas de automatización y computación en un modo estructural y teórico,
tratando los ensamblajes algorítmicos como un tipo emergente. El trabajo de etnografía, sin
embargo, debe proceder de una manera más nominal, confirmando o refutando estas
afirmaciones en situaciones particulares de reunión y retroalimentando el material empírico en
las conversaciones teóricas. Las teorías antropológicas deben, en última instancia, ser sintéticas
si han de ser antropológicas o teóricas.

Creo, sin embargo, que nuestras teorías en este dominio deberían centrarse en los ensamblajes
algorítmicos en sí, más que en sus usos contingentes dentro de situaciones sociales específicas.
Ciertamente, deberíamos criticar aquellos despliegues de control algorítmico que producen y
hacen circular malos afectos, disminuyen las capacidades humanas, dañan el mundo biótico y
exacerban (o crean nuevas) desigualdades. Sin embargo, creo que las preocupaciones teóricas
existentes con tales tendencias negativas nos dicen más sobre nuestro imaginario político
colectivo que sobre las posibilidades y restricciones objetivas de los ensamblajes algorítmicos.
Me parece respaldado por una forma en última instancia estéril de determinismo tecnológico,
que refleja una incapacidad lamentablemente prevalente para pensar de manera expansiva e
imaginativa sobre las líneas utópicas de fuga contenidas en nuestro presente ciertamente
brutal. Karl Marx, después de todo, no fue un crítico de la automatización. En cambio, nuestra
tarea debería ser desarrollar rigurosamente una comprensión arquitectónica de los espacios de
problemas conceptuales, tecnológicos y sociales abiertos y explorados por la innovación
algorítmica.

***

La automatización algorítmica es una forma potente de ingeniería social, capaz de expandir y

acelerar enormemente nuestras capacidades de interpretación, organización y producción. Al
igual que otras innovaciones históricas mundiales, como la división del trabajo, la red eléctrica,
la contabilidad por partida doble, la cadena de montaje o el empleo flexible, tiene el potencial
de reestructurar drásticamente el campo de la experiencia humana. El ensamblaje algorítmico
también ejerce una potente forma de dominación y jerarquía, al erosionar las barreras entre la
res cogitans computacional y la res extensa concreta para orquestar nuevas formas de vida y
circulación, haciendo que los cuerpos, los números, las mercancías y el conocimiento bailen al
ritmo austero de la racionalidad algorítmica. Sin embargo, precisamente por las vastas fuerzas
desatadas por estas nuevas formas de acción y control, me parece que nuestra primera tarea
como antropólogos debería ser un modesto testimonio, la producción de una crónica
cuidadosa y decididamente inoportuna de nuestro emergente contemporáneo (Rabinow
2011). Comprender genuinamente cómo se ensamblan los algoritmos dentro de los procesos
sociales y el efecto que tienen, o podrían tener, en los mundos sociales debería ser nuestra
prioridad. La imagen del futuro puede ser una bota algorítmica estampando un rostro humano,
para siempre, pero esto aún está por verse. No hay ninguna razón tecnológica por la que el
futuro no pueda ser uno en el que la automatización algorítmica libere radicalmente a los
humanos de la monotonía del trabajo y la dominación demasiado humana que hasta ahora ha
estructurado la vida industrializada (Srnicek y Williams 2015).

Sin embargo, dado que nuestro presente ha visto su parte de botas humanas estampando
rostros humanos, y que los humanos siguen siendo los arquitectos, constructores y
mantenedores de la mayoría de los ensamblajes algorítmicos, es fácil entender por qué la
especulación futurológica informada etnográficamente en este dominio ha demostrado casi
uniformemente pesimista. La etnografía está obligada a adherirse estrechamente a los detalles
bajo observación, y los detalles sociológicos no han sido particularmente inspiradores,
especialmente dada la imbricación de la automatización algorítmica con el capitalismo de
plataforma (Srnicek 2017) y la precarización del trabajo (Noble 2011; Srnicek y Williams 2015).
En sus compromisos concretos con los mundos de la práctica humana, el conocimiento y la
crítica etnográficos deben continuar militando contra el daño causado por implementaciones
específicas de automatización algorítmica, examinar su lugar dentro de la economía política
global y esforzarse por alentar las relaciones de colaboración con ingenieros, diseñadores e
informáticos que son necesarios para construir ensamblajes más humanos de procesos
computacionales y sociales.

Sin embargo, la etnografía no es coextensiva con la antropología. Si bien discrepamos sobre el

valor relativo de la etnografía para la antropología, estoy absolutamente de acuerdo con Tim
Ingold (2017, 24) en su insistencia en la separación de las dos formas o momentos del
pensamiento y en su comprensión de la razón antropológica como un “elemento
fundamentalmente socio especulativo” del trabajo radicalmente empírico y, de hecho,
nominalista de la etnografía (ver también Bialecki 2013). La etnografía se ocupa de cómo son
las cosas, en lugares específicos, para personas específicas. La antropología tiene el mandato
de pensar de manera expansiva, imaginativa y de otra manera: es la exploración de “las
condiciones y posibilidades de la vida humana en este mundo” (Ingold 2017, 24). Al condenar
los efectos nocivos de ensamblajes algorítmicos específicos, no debemos abandonar la
automatización conceptual o prácticamente a las fuerzas de la jerarquía, la dominación y la
desigualdad. La antropología de la automatización algorítmica puede ser tanto militante como
optimista, dedicada a cultivar aliados y construir mejores mundos en el paisaje de datos, pero
solo si funciona, primero, para comprender cómo funcionan esos mundos.