GUBERNAMENTALIDAD ALGORÍTMICA

THOMAS R. INSEL
Psiquiatra y neurocientifico, EE. UU.
Dirigió el National Institute of Mental Health (NIMH) 2002-2015
2011 lanza el Proyecto Research Domain Criteria (RDoC) (Criterios de Dominios para la
Investigación):
- Este proyecto tiene por objetivo redefinir las categorías diagnosticas en salud mental,
con el objetivo de alinearlas con los descubrimientos en genómica y neurociencias.
(…) el medico del futuro podría complementar una evaluación clínica de lo que ahora
llamamos un “trastorno de ansiedad” con datos de imágenes funcionales o estructurales,
secuenciación genómica y evaluaciones de laboratorio del condicionamiento y extinción del
miedo para determinar el pronostico y tratamiento adecuado, análogo a lo que se hace
habitualmente hoy en muchas otras áreas de la medicina (Insel, 2010).
- Soñaba con sacar a la psiquiatría y al diagnostico de la clínica (como de la medicina
biológica). Llama a refundarlos.
- Busca los fundamentos biológicos de las enfermedades, de la psiquiatría, no como los
manuales tipo DSM.
- Proyecto refundacional de la psiquiatría para instalarla de nuevo dentro de las ciencias
duras.
En 2015 es contratado por Google para trabajar en la creación de fenotipos digitales.
- Este es el dato empírico donde Insel cambia su forma, rompe con el primer Insel.
En 2017 funda “Mindstrong Health”.

FENOTIPOS DIGITALES

El proyecto RDoC mostro ser muy complejo de llevar adelante.

Las enfermedades mentales se caracterizan por ser temporalmente dinámicas, cambian de

acuerdo al contexto y las variables sociales (Torous et al, 2017). Esto las hace “esquivas” para
ser analizadas en contextos de laboratorio.

- Las enfermedades mentales tienen esta particularidad que no tiene un tumor, por
ejemplo. El tumor siempre esta quieto, es decir, que si le tomo una foto este no
cambiara al hacer eso.
- En las enfermedades mentales el acto de hacer un escáner por ejemplo si interactúa
con la enfermedad también.
- El tipo de mediciones que usamos en los laboratorios son mediciones artificiales, que
realmente o nos permite acceder a el síntoma en sus contextos reales.

Lo que el campo necesita es un dispositivo objetivo, pasivo y obicuo (que este en todas partes)
para capturar información conductual y cognitiva de forma continua. Idealmente, este
dispositivo transmitiría información procesable al paciente y al medico, mejorando la precisión
de diagnostico y permitiendo la atención basada en mediciones a escala (Insel, 2017).
- En lugar de escaners lo que necesitamos son otros tipos de dispositivos que nos
permitan acceder a la salud mental, que sea objetivo, pasivo y obicuo (que no este
encerrada en un laboratorio).

1
 - Ese dispositivo son los smatphones.

FENOTIPO DIGITAL

El smatphone nos ofrece una fuente de medición objetiva y ecológica. Este enfoque, ahora
llamado fenotipado digital, se basa en sensores (actividad y ubicación), voz y habla
(sentimiento y prosodia) y, quizás lo mas importante, la interacción persona-computador
(Insel, 2018).

- Fenotipado digital  es una forma de hacer diagnostico.

- Todos los dispositivos que usamos con nosotros cotidianamente están llenos de
sensores que nos permiten hacer mediciones permanentes, continuas, reales, por lo
tanto, son mucho fmás eficientes para eventualmente generar diagnósticos por medio
del procesamiento de esa información.
- Objetivo, pasivo y obicuo  no es lo que la persona voluntariamente entrega, es decir,
estamos utilizando el dispositivo digital como tal y no solamente como una
herramienta pensada bajo la lógica antigua del diagnostico.
- Manera antigua de hacer diagnostico usar las computadoras para que las personas
conscientemente elaboren auto-reportes, etc. pedirles así como que rellenen un
cuestionario. Es esta lógica de entregar datos de manera activa, es decir, donde les
decimos a las personas que hagan auto-reportes de como se siente, por ejemplo.
Diagnostico que sigue siento clínico.
- Este autor propone que esa no es la manera de hacer diagnostico. Sino que tiene que
ver con el modo en que la persona se relaciona con su celular. No le interesa medir lo
que escribe, sino como lo escribe.

La interacción persona-computadora no mide lo que escribe, sino como se escribe. Los

aspectos sutiles de la escritura y el desplazamiento, como la latencia entre el espacio y el
carácter o el intervalo entre el desplazamiento y el clic, son sustitutos sorprendentemente
buenos de los rasgos cognitivos y los estados afectivos (Insel, 2018).

- Datos pasivos  es lo que hace el big data. No es lo que decimos, sino como lo
decimos, donde lo decimos, cuantas veces lo decimos, etc. esta es la dimensión pasiva
de los datos.
- Dimensión activa  es lo que uno espera conseguir cuando manda algo.
- Revolución diagnostica que puede implicar el big data en términos de la psiquiatría 
no nos estamos refiriendo simplemente a cuestionarios mas sofisticados, sino que
tiene que ver con poder analizar a través de algoritmos sofisticados e inteligencia
artificial (IA) el modo en que las personas utilizan sus celulares. Ese modo va a generar
patrones que a su vez van a ser asociados con diferentes diagnósticos. Es decir, de
acuerdo a como las personas usan sus celulares, por ej, que cosas observan o como
escriben, entregaría info para poder hacer un diagnóstico a la persona.
- Encontrar estos patrones que son los fenotipos digitales. Hay distintos tipos de
patrones que vamos a poder describir por el modo en que las personas usan sus
celulares. Lo importante no es tanto el sentido de lo que dice. Si se quiere estudiar el
habla se pueden asociar el uso y la frecuencia de ciertas palabras con distintas
patologías.

2
 - Da lo mismo la intención con que tu dijiste la palabra, el algoritmo va a detectar la
frecuencia de cuantas veces la usaste y eso va a crear un patrón, y ese patrón después
se transforma en un fenotipo digital y después en la posibilidad de un diagnóstico, algo
que lo consideran más eficiente que mirando el cerebro.
- Parece ser mas eficiente que la posibilidad de mirar nuestro propio cerebro. En ese
acto inconsciente de vincularnos con nuestros dispositivos digitales, parecemos
producir una información mas objetiva que lo que se puede obtener mirando un
cerebro.
- Analiza un nivel sub-semántico.
- Para alimentar a estas maquinas tenemos que transformando, aprender su lenguaje,
construir una especie de self digital que hable ese lenguaje. Nosotros tenemos que
adaptarnos a ellos para poder ocuparlos.
- No estamos frente a una persona digitalizada, no estamos accediendo al núcleo
autentico de una persona, sino que estamos accediendo al núcleo autentico de una
persona digitalizada.
- Los algoritmos no son entidades neutras, que de alguna manera replican algunos
sesgos sociales e invisibilizan ciertas formas de existencia.
- Los datos pasivos pasan a ser una cierta verdad de que se oculta cuando esos datos
son obtenidos de forma consiente. Por ejemplo: si tu le pides a alguien que te haga un
auto-reporte de que opina del racismo te dirá que esta malo, etc. pero cuando usa su
celular busca “muros que separan países”.

DATOS

… mas abandonados que cedidos, huellas dejadas y datos no transmitidos… todo ello da lugar
a una disminución de la implicación del sujeto, y por tanto del consentimiento que se puede
dar a esta comunicación de información: parecemos movernos aquí lo mas lejos posible de
cual forma de intencionalidad (Rouvroy &Berns, 2013, p.169).

- Mas que datos conscientes que entregamos son cosas que dejamos.
- El dato pasivo es distinto del dato activo.
- El problema/virtud del algoritmo (hay un problema técnico detrás de esto) no
entiende totalidades semánticas. Son eficientes es buscar partículas y patrones,
construir patrones.
- El algoritmo siempre trabaja con moléculas y tiene que crear patrones. Tiene que
pixeliarnos y después generar patrones. Logra construir patrones a base de
fragmentos. El problema es que estos sacan de contexto muchas veces las cosas que
las personas dicen.
- Datos  pequeños fragmentos que pueden ser recombinados. Después el algoritmo
es el que reconstruye totalidades.
- Los datos pasivos e incluso cuando son datos activamente entregados siempre los
algoritmos los procesa como datos sub-semánticos, los sacan el contexto de
intencionalidad a través de los cuales ellos fueron entregados.

El significante “dato” cumple con una función retorica de suma importancia: señalar lo
prediscursivo, una realidad encontrada y no producida (Rosenberg, 2013).

- Uno piensa que los datos están ahí, que son algo que se recolectan.

3
 - Los datos son algo producido, no se recolectan.

Sin embargo, los datos no existen, no se “recolectan”, sino que se producen.

- Al principio parece que están dados, pero en realidad son algo producido.
- Se producen de dos maneras:
o Esta el que recolecta los datos. Que es un proceso de construcción y de
transformación de uno mismo de tal manera de poder actuar con estos
dispositivos. Por ejemplo: lo que pasa con las computadoras es que uno ha
aprendido un cierto lenguaje, no es que el dispositivo digital acceda a nuestra
naturaleza como tal. Esa naturaleza esta mediada por un lenguaje que es el de las
maquinas, que nosotros hemos tenido que aprender y digitalizarnos para poder
interactuar con ellas, lo que pasa es que lo olvidamos porque la dimensión es
muy fluida, es como el idioma materno. Tenemos que volvernos inteligibles para
las maquinas. Esta es la dimensión de la interacción ser humano-maquina, de la
producción del dato, nosotros tenemos que producir el dato.
o Para poner un algoritmo uno tiene que tener una base de datos (big data) que
este etiquetada, es decir, que alguien diga que estos son gatos, por ejemplo.
Dimensión productiva de los datos. El hecho de la construcción de estas bases a
partir de las cuales la IA empieza a aprender, ha discriminar. Hay distintos tipos
de IA pero la que estamos viendo es la semi-supervisada.
 Supervisadas  quiere decir que hay alguien que ha etiquetado una base
de datos al principio y que después deja que al algoritmo descubra sus
propios patrones. De tal manera que después uno les pone una base de
datos donde no solamente hay gatos, sino que también hay otras cosas, y
después el algoritmo va a empezar a reconocer cuales son los gatos, una
vez que ha encontrado esos patrones. Es una base de datos previamente
etiquetada.
 No supervisadas  los algoritmos tienen la capacidad de descubrir
correlaciones en cualquier cosa. Basta que uno le ponga cualquier base
de datos y va a encontrar correlaciones, patrones, el problema es que
esos patrones pueden ser cualquier cosa.
 Tiene que haber alguien que discrimine finalmente cual es la información
valiosa y cual no lo es. Y es aquí donde entra la cultura y el prejuicio.
 El valor/la valoración del hallazgo tiene que ver con dimensiones
culturales, políticas, etc. que son altamente discutibles.
 El algoritmo va a encontrar patrones de cualquier cosa pero eso no va a
generar información, esta se genera cuando uno cruza esos patrones
generados por los algoritmos con ciertas variables culturales donde se
determina que es lo importante.
 En el momento en que el algoritmo es expuesto a una base de datos
previamente etiquetada, ese etiquetado es muy problemático.

Nivel semántico o molar  cada partícula de su existencia a contextos molares en las que esta
incluida, tales como: categorías socioculturales; intencionalidades; regímenes discursivos, etc.
- Cuando interactuó con una RRSS o una app, se actúa a un nivel semántico porque yo
tengo una intención, un sentido, de lo que quiero hacer.

4
 - Lo hago por algo. Entonces cuando hablamos de este nivel nos referimos a que las
distintas moléculas (por ejemplo: palabras) están ahí porque responden a un sentido
global. Ej: para entender porque estas palabras están acá, tengo que entender el
contexto.
- Las partes cobran sentido a partir del todo. Se necesita entender un contexto. Es como
el por que de las cosas.
- Es el contexto de significación, de intención, cultural, el que explica la aparición de un
cierto elemento.
Es el contexto el que explica la aparición de un determinado elemento, pero los datos que
tienen que circular libremente, que se tienen que poder acumular, que se pueden vender, etc.
Para poder ser datos tienen que ser desvinculados de su contexto donde fueron generados….

Escala subsemantica o molecular  libera “los datos” de cualquier dependencia contextual o

molar, permitiendo su libre circulación e intercambio.
- Los datos que tienen que poder circular libremente, que se tienen que poder acumular
en un banco de datos, que se pueden vender, para poder ser datos tienen que ser
desvinculados de los contextos en los cuales fueron generados.
- Si siguen vinculados a los contextos, al sentido que la persona le dio al entregarlo,
pierden su potencia comunicacional.
- Nadie sabe quien entrego ese dato.
- Para que sea un dato tiene que ser descontextualizado, molecularizado y tiene que ser
reconducido a su condición sub-semántica, sacado del contexto de sentido y de
significación en el cual fue generado, por eso los datos siempre son pasivos, aun
cuando yo hago un “like” con consciente y con una intención.

Los datos se caracterizan por ser:

- Des-indexados: no pertenecer a una categoría mayor.

o Puedo sacarlo de su categoría de intención comunicacional, transformarlo en un
dato que después puede ser acumulado. Y después es el algoritmo el que tiene
que reencontrar esas categorías.
o Cuando se dice que hay un índice es la idea de que están categorizados, que
pertenecen a una totalidad. Por ejemplo: yo construyo una frase. Esa frase tiene
distintas palabras. Esas palabras están ahí por relación a las otras palabras.
Entonces lo que haría un algoitmo es tomar una palabra y asociarla a algo que
quizás es totalmente diferente, sin importarle en el contexto que la
dijiste/escribiste.
o Por ejemplo: la palabra oscuridad. Esta se relaciona con la depresión. Entonces si
yo estoy chateando con una amiga y le digo como “estaba en tal lugar y se corto
la luz y quedo todo oscuro”, el algoritmo lo único que va a detectar es “oscuro” y
tomara esa palabra sola y la asociara a la depresión, sin importar el contexto en
que la dije. Por eso los datos son pasivos aun cuando los producimos de forma
activa.

- Anonimizados: no guardar relación con un supuesto autor.

o El dato no puede tener una forma autoral, da lo mismo quien lo hizo.
o Se tiene que romper con el contexto en el cual el dato fue producido.

5
 - Descontextualizados: no guardar relación con el contexto de sentido en que fueron
producidos.

- Acumulables y “comidicables”: bancos de datos.

o Se transforman en mercancías. Ej: hay bancos de datos, estos se venden.

*Las láminas (títulos) que vienen muestran qué se entiende por gubernamentalidad
algorítmica y como funcionaria esto a diferencia de otras formas de sujeción social u otros
dispositivos de poder. *

Dos dispositivos/formas de poder:

SUJECIÓN SOCIAL

“[…] Tecnologías de gobierno que atraviesan y movilizan representación (política y lingüística),

saberes, practicas discursivas, visuales, etc., y producen ‘sujetos de derechos’, ‘sujetos
políticos’ y ‘sujetos’ tout court, ‘yo’, individuos. La sujeción social, al producirnos como sujetos
individuales, nos asigna una identidad, un sexo, una profesión, una nacionalidad, etc.
constituye una trampa semiótica significativa y representativa de la que nadie escapa”
(Lazzarato, 2014, p.149).
- Este es el mas tradicional. Es como la reinterpretación de las teorías foucaultiana.
- Pareciera que el algoritmo funciona en otro nivel, en otra escala.
- La sujeción social opera a través de la producción de ciertos modos de ser.
- Por ejemplo: cuando uno hace una critica a las categorías de genero es una trampa
semiótica. Eres hombre, eres mujer, eso significa algo y te asignan un cierto modo de
ser. Que se entiende como una totalidad: decir que juanita es mujer, es todo su
cuerpo, se asocia a su cuerpo. Te tratan como una entidad molar total a la cual se te
asigna una cierta identidad social y un modo ser. Esta es la clásica forma de sujeción
social.

SOMETIMIENTO MAQUÍNICO

“[…] Técnicas esquemáticas, operacionales, no representativas, que operan explotando

subjetividades parciales, modulares, sub-individuales”(Lazzarato, 2014, pp. 149-140). Así, la
esclavitud maquinica trabaja a escala molecular, produciendo una “sincronización y
modulación de los componentes pre-individuales y pre-verbales de la subjetividad, haciendo
que los afectos, percepciones, emociones, etc. funcionen como partes, componentes,
elementos de una maquina” (Lazzarato, 2006, p.2).
- Es otra forma de dispositivo de poder, diferente a la sujeción social, opera distinto.
- Te trata a nivel molecular, no molar.
- La interacción ser humano-algoritmo, el algoritmo nos datifica, nos trata a nivel sub-
semántico como pequeñas partículas y lo que produce es una interacción en un nivel
pre-subjetivo. Directamente se vinculan afectos, la atención es capturada, como
elementos pre-subjetivos, pre-reflexivos.
- Este es el punto del dato pasivo. Nos alejamos de cualquier intencionalidad en esta
interacción con el algoritmo, tanto en la manera en que alimentamos a los algoritmos,
y tanto como los algoritmos nos gobiernan. Por ejemplo: burbujas informacionales,

6
 esto es que los algoritmos nos encierran en una burbuja que no presenta solo lo que
queremos escuchar y nos aíslan de lo que no. O el marketing que se usa
microsegmentado, el marketing que nos habla a nosotros.
- Tanto en la manera en alimentamos y tanto como el algoritmo se dirige a nosotros
esta interacción ocurriría en este plano pre-subjetivo impidiendo la posibilidad de
tomar una posición critica reflexiva acerca de esto, haciendo un acoplamiento entre
humano-maquina, del sometimiento maquinico que no esta mediado por una
subjetividad.
- Las estructuras de poder de las que habíamos hablado antes era que necesitaban un
cierto sujeto que de legitimidad a ese poder, las formas de poder requiere de alguna
manera de construir sujetos que le den legitimidad, el poder esta mediado por esos
sujetos que le dan legitimidad.
- Al contrario, los algoritmos parece que actúan sobre nosotros sin la necesidad de
producir esos sujetos. Actúan directamente organizando nuestras vidas, generando
entornos que nos conducen sin que nos demos cuenta hacia donde quieren llevarnos,
sin la necesidad de producir un sujeto que de alguna manera participe de este proceso
de sometimiento.
- Los algoritmos operan a nivel pre-subjetivo, no requieren de la contribución de un
sujeto para que el poder exista. El poder es directamente aplicable a nosotros a un
nivel pre-subjetivo.

DATIFICACION DEL SELF

Self digital: en el esfuerzo por hablar la lengua digital, por “alimentar” los algoritmos, nos
transformamos. Empezamos a entender y valorar nuestras vidas de manera que puedan ser
inteligibles por los algoritmos, lo que, a su vez, nos hace receptivos a las realidades que
producen los algoritmos.
- Esto es el esfuerzo por hablar la lengua digital, por alimentar al algoritmo. Nos
transformamos, empezamos a ntender y valorar nuestras vidas de manera que pueda
ser inteligible por el algoritmo.
- Por ejemplo: lo que es fotografiable, compartible. Nuestra vida cotidiana esta
atravesada por lo que vamos a subir a las RRSS y lo que no, que es lo interesante y que
no, como lo vamos a compartir y de que manera.
- La comunicación humano-maquina requiere de un proceso producción y no es
solamente una experiencia espontanea, natural.

Los datos siempre son sub-semánticos (pasivos).

¿Pueden las computadoras conocer el núcleo más íntimo de nuestra subjetividad? ¿Pueden
desentrañar nuestro ser psicológico?

ALGORITMOS

INVESTIGACIÓN CAMBRIDGE-STANFORD

El experimento plantea que computador solo viendo tus likes es capaz de conocerte mejor tus
rasgos psicológicos que tus personas cercanas, incluso muy cercanas

7
80.000 voluntarios en Facebook completaron un cuestionario de personalidad de 100 ítems y,
al mismo tiempo, permitieron acceder a sus “Likes” de Facebook. El cuestionario proporciono
una puntuación de personalidad auto-informada sobre los “cinco grandes” rasgos psicológicos,
que son: apertura, escrupulosidad, extraversión, amabilidad y neuroticismo.
- Ahí esta el etiquetado  por ejemplo: si se trata de reconocer mujeres, tiene que
haber alguien que diga “esta es mujer, esta no lo es”. Si se busca reconocer patrones
psicológicos en este caso se trata de un cuestionario psicológico.
- Al mismo tiempo que responden, se les pide que den acceso a sus likes. Entonces que
el algoritmo lo que hace es cruzar los test psicológicos con los patrones de likes.
- El algoritmo no accede directamente a quienes somos, sino que esta mediado por el
test psicológico (ocupa el mismo lugar que la persona que tiene que catalogar la
información).
- ¿el computador te conoce a ti realmente o conoce quien eres tu para la psicología(big
five)? El computador esta accediendo a lo que la psicología cree que somos nosotros.
- El punto que hay que pensar es cuando hablan de mi, ese momento en que uno dice
que el algoritmo te conoce, pero no te conoce, salvo que yo este completamente
identificado con ese sujeto psicológico y que uno diga que “si soy así”.
- Lo que esto oculta es la idea en que va a hablar de nosotros solo en la medida en que
nosotros nos hayamos identificado con ese sujeto psicológico.

Usando IA correlacionaron esos resultados con los “Likes” de Facebook. Entonces, lo que el
software revela no es el núcleo autentico de la psicología humana, sino “los cinco grandes”,
que son un residuo del conocimiento psicológico.

“Tenemos que cambiar la perspectiva y analizar con precisión y de manera critica como los
propios modelos neuropsicológicos siempre están dando forma a la digitalidad. Afirmar, por
ejemplo, que las publicaciones de Facebook o las búsquedas de Google dicen mucho sobre la
psicología humana renuncia al hecho de que Facebook y Google y otras plataformas siempre
están informadas por teorías y modelos psicológicos” (De Vos, 2018, p.22).
El encuentro mágico (maquina-humano) es resultado de una doble psicologizacion: de la-del
usuario y de la maquina.
- El test psicológico opera como una bisagra entre el algoritmo y nosotros, y ambos
tenemos que prestarle credibilidad a ese test psicológico para que de alguna manera
se produzca esta especie de encuentro mágico y sintamos que el algoritmo habla de
nosotros.
- El algoritmo se dedica a encontrar patrones en cualquier cosa, el valor que eso tenga
depende de como lo interpretemos.
- Hasta que punto estamos identificados con esas categorías psicológicas y pensamos
eso somos nosotros.
- Que el algoritmo funcione también tiene que ver con que nos olvidemos de todas esas
categorías que no entran dentro de el. Que las invisibilicemos juntos. Esto tiene que
ver con la eficacia del algoritmo. Por ejemplo: el algoritmo dice hombre y mujer, pero
que pasa con las demás orientaciones de genero.

ALGORITMOS

De los datos a la información:

8
… abre tu computadora y navega por la web durante cinco minutos. En un periodo de tiempo
solo un poco mas largo que la pausa promedio de los comerciales de televisión, habrás
generado, a través de tu actividad en la web, una identidad que probablemente este separada
de la persona que pensaba que eras. En una base de datos muy, muy lejana, se le ha asignado
genero, etnia, clase, edad, nivel de educación y, potencialmente, el estatus parental con x
numero de hijos. (Cheney-Lippold, J. 2017, p.3).
- Los algoritmos van construyendo distintos patrones. Construye categorías.
Machine Learning Semi-Supervisado (esto es como funciona):
- Paso 1: defino una muestra de millones de fotos de gatos; o de datos de navegación
de hombres y mujeres… (labeled data). Labeled (etiquetado).
- Paso 2: vía machine learning, expongo a una computadora a estas bases de datos de
modo que descubra algoritmos o patrones recurrentes. El computador construye neo-
categorías.
o Gato  “Gato”
o Mujer  “Mujer”.
- Paso 3: le muestro fotos al azar, o trayectorias de navegación en la web y el
computador es capaz de indexarlas a las categorías: “gato”, “hombre”, “mujer”. Al ser
expuesto a mas información el algoritmo sigue aprendiendo y estas neo-categorías van
evolucionando segundo a segundo.
Son categorías probabilistas, un computador nunca puede “decir eres mujer”, solo hace
probabilidades y correlaciones. El algoritmo y el computador nunca interpelan a un tu, es
decir, a un otro total, por eso no opera como una sujeción social.
- La sujeción social siempre es una totalidad. Siempre es un “tu eres”, un tu eres
globalizante, todo tu eres mujer, hombre, etc.
- El algoritmo nunca te diría tu eres, sino que dirá hay un 80% de que seas mujer y un
20% que seas hombre, etc.
Correlacionan datos heterogéneos (ubicación, preferencias, etc.), construyendo mediante
inferencias probabilísticas, identidades cuasi-molares: 99% x, nunca 100% x, es decir, gato =/=
“gato”.
- No alcanzan a ser molares, nunca es un tu eres. Todo tu, sino que es con porcentajes.
Estas identidades cuasi-molares cambian de acuerdo a distintos algoritmos (Google, Netflix,
etc.), pero también se van modificando segundo a segundo de acuerdo a nuevos datos.
- Cada vez que estamos conectados estamos siendo catalogados por distintos
algoritmos, de diferentes maneras, se nos asigna sexo, nivel socioeconómico, etc. y a
través de eso de alguna forma estamos siendo gobernados. Se nos van generando
ciertos entornos de marketing, etc. entornos a donde queremos ser llevados.
Las identidades cuasi-molares median entre los algoritmos y nosotros.
- Nunca es un tu eres, sino que es un porcentaje. Estamos siendo interpelados de cierta
manera, por distintas categorías que se traducen en actos.
- No es meramente información que sea archivada, sino que esta producción de
categorías identitarias se traducen en actos hacia nosotros. El algoritmo nos ofrece
determinadas películas, etc.
- A través de la información que producimos, en cierta manera nosotros somos los
productos.

GUBERNAMENTALIDAD ALGORÍTMICA

9
HIPOTESIS 1: “La gubernamentabilidad algorítmica no produce subjetivación alguna, pasa por
alto y evita a los sujetos humanos reflexivos, se alimenta de datos infraindividuales
insignificantes (solo le importa el dato, no la persona, contexto, etc) en si mismos, para
moldear modelos de comportamientos o perfiles supraindividuales sin apelar nunca al sujeto,
sin nunca llamarlo para que de cuenta de si mismo por lo que es o en lo que podría llegar a
ser”.

Se pone el foco tanto en los datos cedidos y recolectados como en las nuevas modalidades de
modelado de lo real a partir de algoritmos “autodidactas”, que se modifican según los nuevos
datos recibidos. Así se reordenan las prácticas estadísticas modernas y se da pie a la
emergencia de nuevas formas de control y vigilancia. Para que este proceso pueda tener lugar
(esto lo saque de internet)

la gubernamentalidad algorítmica parece estar más centrada en el futuro que en el presente,

en las propensiones y disposiciones para la acción más que en las acciones mismas (si bien se
nutre de ellas)

Es un dispositivo de poder/seguridad? que nos conduce, organiza nuestra vida sin que nos
demos cuenta de que nos está llevando a un lugar, y esto se puede lograr sin producir un
sujeto, sin generar subjetivación.
Es una entidad híbrida, mitad matemática y mitad cultura, ya que produce los sesgos de la
cultura pero usa matemáticas ya que es un algoritmo.

- Datos infra-individuales  datificacion, datos pasivos.

- Pasamos de estos datos infra-individuales a estas categorías cuasi-molares, pero que
son genéricas, siempre son genéricas.
- Es paradójico porque la experiencia que tenemos en la red es esta sensación de que
nos hablan a nosotros mismos. Pero para hablarme a mi tiene que anonimizarme
completamente y necesita millones de millones de datos para poder construir esa
categoría que se parece a mi, pero que nunca soy yo realmente.
- Lo que generan son perfiles, muchos perfiles distintos.
- Nunca interpela a un tu, sino que a estas categorías cuasi-molares que son
probabilísticas.
¡los computadores HP son racistas!
- Video de un hombre que trabaja en una tienda en USA.
- Son unos computadores que tienen face tracking, es decir, que te están siguiendo los
movimientos todo el rato.
- Es un ejemplo muy bueno de la magia de los algoritmos. Si este fuera probado solo en
gente blanca diríamos “que inteligente el algoritmo”, pero basta que aparezca alguien
negro y el algoritmo revela algo de sus limites, y el hecho de que los algoritmos son
entidades mixtas, entidades que por una parte son códigos matemáticos y por otra
parte también son constructos culturales.
- Los algoritmos repiten y están construidos a partir de las mismas cegueras, de las
mismas invisibilidades, de los mismos sesgos que tenemos y los replica.
- La experiencia en general de sentirnos reconocidos y participes de algo muchas veces
esta construida sobre la invisibilización de otros. Muchas veces estas construcciones
pasan también por dejar fuera algo, que si aparece se nos revela como algo extraño y

10
 nos interroga en nuestra identidad, en aquello que creemos ser. La experiencia
algorítmica no esta fuera de esta experiencia.
- La magia algorítmica esta construida sobre complejas redes culturales y sociales.
Entonces nosotros y el algoritmo estamos construidos sobre esas redes.

ALGORITMOS

Si los ingenieros que diseñaron el algoritmo y las personas que probaron la versión Beta
hubieran sido negras en su mayoría, no habría existido este problema.
Las huellas del inconsciente racista de los ingenieros blancos (probablemente conscientemente
progresistas), quedan codificadas como una ausencia en el código.
- Lo que pasa en el video es probablemente que el algoritmo nunca se entreno en
personas negras. No es que el ingeniero haya sido racista.
- Hay mediaciones en el acoplamiento humano-maquina tanto desde el lado de
construcción de los organismos como desde el lado de lo que tenemos que ser para
sentirnos que los algoritmos funcionan con nosotros.
- La experiencia de encuentro perfecto se fundamenta también en una cierta
experiencia de naturalización de ciertas identidades que tenemos y que los algoritmos
son muy eficaces en leer, reproducir, devolvernos y hablarnos a partir de esa
naturalización de identidades.
- Esto no es una critica a los algoritmos en si, sino que es necesario re-politizarlos, es
decir, entender que son identidades culturales que tienen dimensiones políticas.
- El problema que tienen es que es difícil pensarlo porque generan esta especie de
magia. Esta sensación de que son capaces de leernos.
- Nosotros entregamos patrones que los algoritmos son capaces de detectarlos. Esas
regularidades las dejamos inconscientemente, son como unas huellas que dejamos,
estas regularidades son la manera en que nos hemos construido culturalmente, hablan
de nuestro modo de sujeción social, que somos hombres, mujeres, negros, blanco, etc.
Se nos impone como formas de patrones, nos transformamos en personas con ciertas
regularidades ilegibles, son esos patrones los que descubre el algoritmo, y al mismo
tiempo estos son entrenados en base a estos mismos patrones.
- El ingeniero blanco con su racismo inconsciente entrena y repite en el algoritmo ese
patrón y después una persona blanca encuentra esa cámara y no se pregunta que
pasara si se pone un negro. Entonces el match ocurre sobre ese prejuicio, sobre esa
construcción cultural, bajo a invisibilización del negro. En ese ámbito es donde se
produce ese encuentro.
- Lo mismo pasa con la psicología, es decir, si uno cuestionara las categorías que
psicológicamente se nos han entregado para decir quienes somos, también se
produciría una relación mas critica al algoritmo, ya no nos hablaría a nosotros sino que
a esas categorías.
- Entonces, tenemos que tener cierta adhesión a las categorías para que el algoritmo se
comunique de manera mágica con nosotros y se produzca esta especie de imagen
media incestuosa de humano-maquina.
- Esta cada vez mas presente esta idea de que todo es transformable en información y
que en ese plano todo es comunicable y que todo se comunica de una forma lisa, sin
asperezas, sin fricciones, sin perdidas, sin entropía, es como un traspaso de mi cerebro

11
 a la maquina, es una especie de fluidez total. Por eso esta imagen incestuosa, de
cúpula perfecta.
“Piense en Google Maps, por ejemplo. No se trata solo de un software de mapeo que se
ejecuta a través de una computadora- también involucra sistemas de información geográfica,
satélites y transpondedores de geolocalización, automóviles impulsados por humanos,
sistemas de grabación óptica panorámica montados en el techo, leyes internacionales de
grabación y privacidad, sistemas de enrutamiento de redes físicas y de datos, y aparatos
web/móviles de presentación. Eso no es cultura algorítmica- es solo, bueno, cultura. (Bogost,
2015).
Son una entidad hibrida: mitad código matemático, mitad fantasía ideológica.
- Los algoritmos están reproduciendo esa cultura, con todo su sesgos, sus
invisibilizaciones, no es simplemente una mirada neutra.
Los algoritmos son gramáticas políticas y culturales:
- En su generación: su escritura formal y simbólica encriptan las huellas del contexto de
su invención.
o El ejemplo claro es lo del video de que como el inconsciente racista de los
ingenieros queda encriptado en ese algoritmo.
- En su uso (manera en que somos interpelados por ese algoritmo): repiten
maquinalmente y modelan la realidad de acuerdo al contexto político y cultural en el
que fueron producidos.
o Van a permitir visibilizar esas cosas que para los cuales fueron creados, pero
también van a repetir las invisibilizaciones y las discriminaciones a través de los
cuales fueron construidos, producidos y pensados y valorizados.
Los algoritmos son una entidad hibrida: mitad código matemático, mitad fantasía ideológica
(cultura).
- No son neutros. Los datos tampoco son neutros.
- Están siempre entretejidos por el contexto y la cultura en la cual nacen, pero la ficción
del dato es hacernos que creer que da lo mismo.
- Volvemos al punto inicial de la clase, de que el dato para ser dato tiene que generar la
ficción de que es completamente indiferente del contexto en que fue producido para
se reutilizable, re-acomodable, vendido, etc.
- Eso no es tan así, el hecho de que el algoritmo sea creado en cierto lugar queda
encriptado en el y ese contexto se repite. Ese es como el inconsciente del algoritmo.
Tiene que ver con que están construido a partir de cierto contexto y claves culturales
que repite.
Nuestra supuesta cultura algorítmica no es tanto un fenómeno material como devocional, una
suplica hecha a las computadoras que la gente ha permitido que reemplacen a los dioses en
sus mentes, incluso cuando simultáneamente afirman que la ciencia nos ha hecho inmunes a la
religión (Bogost, 2015).
- Importancia de esta dimensión mas cultural o de creencia.
- Mediaciones que hay entre la eficacia del algoritmo y la fantasía de sentir que el
algoritmo habla de nosotros (la magia del algoritmo).
- Es una tecnología a la cual hemos endiosado. Tenemos una visión a critica de ella.

Preguntas time:
- Las categorías que produce son categorías que se van ajustando en tiempo real
dependiendo de la información que uno va entregando, así que se van actualizando

12
 constantemente. Van cambiando en la medida en que los vamos alimentado con mas
datos.
- Para un algoritmo solo somos una posibilidad, porque no puede ver totalidades (le
habla al 80% mujer y 20% hombre, por ejemplo).
- Son tipos de categorías completamente distintas a las categorías sociales, que son
categorías totalizantes. Estas son categorías predictivas y probabilísticas, son a tevés
de ellas por las que el algoritmo nos “habla”. Actúan sobre nosotros, de alguna manera
nos anticipan.
- El algoritmo nos mira de manera de posibilidades, por lo que nunca van a poder
interpelar a un “tu”.
- La experiencia mágica  es como creer que el algoritmo me habla a mi. Es el decir
¿Cómo me adivino?.
- El algoritmo nunca va a saber quien soy yo.
- Lo importante de esta clase es quienes somos y como la cultura digital nos transforma.
Que es lo que produce la cultura digital.

13