GUBERNAMENTALIDAD

ALGORÍTMICA
Rodrigo De La Fabián A.
Facultad de Psicología
Universidad Diego Portales
DATOS
- Psiquiatra y neurocientífico, EE.UU

- Dirigió el National Institute of Mental Health (NIMH)

2002-2015

- 2011 lanza el proyecto Research Domain Criteria

(RDoC) (Criterios de Dominios para la Investigación):
• Este proyecto tiene por objetivo redefinir las
categorías diagnósticas en salud mental, con el
objetivo de alinearlas con los descubrimientos en
genómica y neurociencias.
Thomas R. Insel

(…) el médico del futuro podría complementar una evaluación clínica de

lo que ahora llamamos un "trastorno de ansiedad" con datos de imágenes
funcionales o estructurales, secuenciación genómica y evaluaciones de
laboratorio del condicionamiento y extinción del miedo para determinar
el pronóstico y tratamiento adecuado, análogo a lo que se hace
habitualmente hoy en muchas otras áreas de la medicina (Insel, 2010).
- En 2015 es contratado por Google para
trabajar en la creación de fenotipos digitales

- En 2017 funda “Mindstrong Health”

https://mindstrong.com/how-it-works/
- https://www.ginger.io/
 FENOTIPOS DIGITALES

■ El proyecto RDoC mostró ser muy complejo de llevar adelante.

■ Las enfermedades mentales se caracterizan por ser temporalmente dinámicas, cambian
de acuerdo al contexto y las variables sociales (Torous et al, 2017). Esto las hace
“esquivas·” para ser analizadas en contextos de laboratorio.

Lo que el campo necesita es un dispositivo objetivo, pasivo y ubicuo para capturar

información conductual y cognitiva de forma continua. Idealmente, este dispositivo
transmitiría información procesable al paciente y al médico, mejorando la precisión del
diagnóstico y permitiendo la atención basada en mediciones a escala (Insel, 2017).
 FENOTIPO DIGITAL

■ El smartphone nos ofrece una fuente de medición objetiva y ecológica.

Este enfoque, ahora llamado fenotipado digital, se basa en sensores
(actividad y ubicación), voz y habla (sentimiento y prosodia) y, quizás lo
más importante, la interacción persona-computadora (Insel, 2018).

■ La interacción persona-computadora no mide lo que escribe, sino cómo

escribe. Los aspectos sutiles de la escritura y el desplazamiento, como la
latencia entre el espacio y el carácter o el intervalo entre el
desplazamiento y el clic, son sustitutos sorprendentemente buenos de los
rasgos cognitivos y los estados afectivos (Insel, 2018).
DATOS
…más abandonados que
cedidos, huellas dejadas y
datos no transmitidos…todo
ello da lugar a una
disminución de la
implicación del sujeto, y por
tanto del consentimiento
que se puede dar a esta
comunicación de
información: parecemos
movernos aquí lo más lejos
posible de cualquier forma
de intencionalidad. (Rouvroy
& Berns, 2013, p. 169)
 DATOS

■ El significante “dato” cumple con una

función retórica de suma importancia:
señalar lo prediscursivo, una realidad
encontrada y no producida (Rosenberg, 2013)

■ Sin embargo, los datos no existen, no se

“recolectan”, sino que se producen
 DATOS

■ Nivel semántico o molar

cada partícula debe su existencia a contextos molares en las que está
incluida, tales como: categorías socio-culturales; intencionalidades;
regímenes discursivos, etc.
■ Escala subsemántica o molecular:
libera “los datos” de cualquier dependencia contextual o molar,
permitiendo su libre circulación e intercambio.
 DATOS

■ Los datos se caracteriza por ser:

• Des-indexados: no pertenecer a una categoría mayor

• Anonimizados: no guardar relación con un supuesto autor
• Descontextualizados: no guardar relación con el contexto de
sentido en que fueron producidos.
• Acumulables y “comidificables”: bancos de datos
 SUJECIÓN SOCIAL

“[…] Tecnologías de gobierno que atraviesan y movilizan

representación (política y lingüística), saberes, prácticas
discursivas, visuales, etc., y producen 'sujetos de derechos',
'sujetos políticos' y 'sujetos' tout court, 'yo', individuos. La
sujeción social, al producirnos como sujetos individuales, nos
asigna una identidad, un sexo, una profesión, una nacionalidad,
etc. Constituye una trampa semiótica significativa y
representativa de la que nadie escapa ”(Lazzarato, 2014, p. 149) .
 SOMETIMIENTO MAQUÍNICO

“[…] Técnicas esquemáticas, operacionales, no representativas,

que operan explotando subjetividades parciales, modulares, sub-
individuales” (Lazzarato, 2014, pp. 149-140). Así, la esclavitud
maquínica trabaja a escala molecular, produciendo una
“sincronización y modulación de los componentes prei-
ndividuales y preverbales de la subjetividad, haciendo que los
afectos, percepciones, emociones, etc. funcionen como partes,
componentes, elementos de una máquina” ( Lazzarato, 2006,
pág.2).
 DATIFICACIÓN DEL SELF

Self Digital: en el esfuerzo por hablar la lengua digital, por

“alimentar” los algoritmos, nos transformamos. Empezamos a
entender y valorar nuestras vidas de manera que puedan ser
inteligibles por los algoritmos, lo que, a su vez, nos hace
receptivos a las realidades que producen los algoritmos.
ALGORITMOS
¿Pueden las
computadoras
conocer el núcleo
más íntimo de
nuestra
subjetividad?
¿Pueden
desentrañar nuestro
ser psicológico?
 IVESTIGACIÓN CAMBRIDGE-
STANFORD
■ 80.000 voluntarios en Facebook completaron un cuestionario de
personalidad de 100 ítems y, al mismo tiempo, permitieron acceder a sus
“Likes” de Facebook. El cuestionario proporcionó una puntuación de
personalidad auto-informada sobre los "cinco grandes" rasgos
psicológicos, que son: apertura, escrupulosidad, extraversión, amabilidad
y neuroticismo.
■ Usando IA correlacionaron esos resultados con los “Likes” de Facebook.
Entonces, lo que el software revela no es el núcleo auténtico de la
psicología humana, sino "los cinco grandes", que son un residuo del
conocimiento psicológico.
 IVESTIGACIÓN CAMBRIDGE-
STANFORD
■ “Tenemos que cambiar la perspectiva y analizar con precisión y de
manera crítica cómo los propios modelos neuropsicológicos siempre
están dando forma a la digitalidad. Afirmar, por ejemplo, que las
publicaciones de Facebook o las búsquedas de Google dicen mucho
sobre la psicología humana renuncia al hecho de que Facebook y
Google y otras plataformas siempre están informadas por teorías y
modelos psicológicos ”(De Vos, 2018, p. 22).

■ El encuentro mágico (máquina-humano) es resultado de una doble

psicologización: de la-del usuario y de la máquina.
ALGORITMOS

De los datos a la información:

… abre tu computadora y navega por la web durante cinco minutos. En un

período de tiempo solo un poco más largo que la pausa promedio de los
comerciales de televisión, habrás generado, a través de tu actividad en la
web, una identidad que probablemente esté separada de la persona que
pensaba que eras. En una base de datos muy, muy lejana, se le ha asignado
un género, etnia, clase, edad, nivel de educación y, potencialmente, el estatus
parental con x número de hijos. (Cheney-Lippold, J. 2017, p.3)
 ALGORITMOS
■ Machine Learning Semi-Supervisado
• Paso 1: defino una muestra de millones de fotos de gatos; o de datos de navegación
de hombres y mujeres… (labeled data)
• Paso 2: vía machine learning, expongo a una computadora a estas bases de datos de
modo que descubra algoritmos o patrones recurrentes. El computador construye neo-
categorías
Gato “Gato”
Mujer “Mujer”
• Paso 3: le muestro fotos al azar, o trayectorias de navegación en la web y el
computador es capaz de indexarlas a las categorías: “gato”, “hombre”, “mujer”. Al
ser expuesto a más información el algoritmo sigue aprendiendo y estas neo-
categorías van evolucionando segundo a segundo.
ALGORITMOS
■ Correlacionan datos heterogéneos (ubicación,
preferencias, etc.), construyendo mediante
inferencias probabilísticas, identidades cuasi-
molares: 99% x, nunca 100% x, es decir,
gato ≠ “gato”
■ Estas identidades cuasi-molares cambian de
acuerdo a distintos algoritmos (Google,
Netflix, etc), pero también se van
modificando segundo a segundo de acuerdo a
nuevos datos.
■ Las identidades cuasi-molares median entre
los algoritmos y nosotros.
GUBERNAMENTALIDAD
ALGORÍTMICA
Hipótesis 1
“La gubernamentalidad algorítmica no produce subjetivación
alguna, pasa por alto y evita a los sujetos humanos reflexivos, se
alimenta de datos infraindividuales insignificantes en sí mismos,
para moldear modelos de comportamientos o perfiles
supraindividuales sin apelar nunca al sujeto, sin nunca llamarlo
para que dé cuenta de sí mismo por lo que es o en lo que podría
llegar a ser”. (Rouvroy & Berns, 2013, p. 173)
“¡Los
computadores
HP son
racistas!”
ALGORITMOS
■ Si los ingenieros que diseñaron el
algoritmo y las personas que probaron
la versión Beta hubieran sido negras en
su mayoría, no habría existido este
problema.
■ Las huellas del inconsciente racista de
los ingenieros blancos (probablemente
conscientemente progresistas), quedan
codificadas como una ausencia en el
código.
ALGORITMOS
“Piense en Google Maps, por ejemplo. No se
trata sólo de un software de mapeo que se
ejecuta a través de una computadora —también
involucra sistemas de información geográfica,
satélites y transpondedores de geolocalización,
automóviles impulsados por humanos, sistemas
de grabación óptica panorámica montados en el
techo, leyes internacionales de grabación y
privacidad, sistemas de enrutamiento de redes
físicas y de datos, y aparatos web/móviles de
presentación. Eso no es cultura algorítmica — es
sólo, bueno, cultura” (Bogost, 2015).
 ALGORITMO
■ S
Los algoritmos son gramáticas
políticas y culturales:
• En su generación: su
escritura formal y
simbólica encriptan las
huellas del contexto de su
invención.
• En su uso: repiten
maquinalmente y modelan
la realidad de acuerdo al
contexto político y cultural
en el cual fueron
producidos.
 ALGORITMOS

Son una entidad híbrida: mitad

código matemático, mitad fantasía
ideológica.
Nuestra supuesta cultura algorítmica no es
tanto un fenómeno material como devocional,
una súplica hecha a las computadoras que la
gente ha permitido que reemplacen a los
dioses en sus mentes, incluso cuando
simultáneamente afirman que la ciencia nos
ha hecho inmunes a la religión (Bogost, 2015).