Sadin: “Las tecnologías digitales debilitan la capacidad de decidir

Eric Sadin analiza en su obra, y en esta nota, las relaciones entre el individuo, la sociedad, los
datos, los programas, los iPhones o los smartphones, los grandes sistemas que deciden por sí solos
y la amenaza de los Data Center.

Por Eduardo Febbro

Desde París

Ya no estamos solos. Un doble o muchos dobles nuestros persisten en los incontables Data Center del mundo, en
las redes sociales, las memorias gigantescas de Google, de Facebook o de la Agencia Nacional de Seguridad de
Estados Unidos, la NSA. Es lo que el ensayista francés Eric Sadin, uno de los autores más proféticos y brillantes
en el análisis de las nuevas tecnologías, llama “la humanidad paralela”. Este ensayista francés no comete la
tontería de agitar espantapájaros triviales a propósito de nociones como el “transhumanismo”.

Tampoco se refiere a la fusión física entre el ser humano y las máquinas, el famoso ciborg, ni ahonda en la tesis
del fin de una humanidad recuperada o salvada mediante soportes numéricos. No. Eric Sadin piensa de manera
magistral las relaciones entre el individuo, la sociedad, los datos, los programas, los iPhones o los smartphones,
los grandes sistemas que deciden por sí solos y la amenaza de los Data Center.

En cada uno de sus libros anteriores, Surveillance Globale, La Société de l’anticipation, Eric Sadin ha explorado
como pocos las mutaciones humanas inherentes a la erupción de la hiper tecnología en nuestras vidas. Lejos de
contentarse con un anecdotario trivial de los instrumentos tecnológicos que surgieron desde hace décadas, Sadin
los piensa de una forma inédita. Su último libro, L’Humanité Augmentée, L’administration numérique du monde
(La humanidad aumentada, La administración digital del mundo), explora la capacidad cada vez más creciente que
tienen los dispositivos inteligentes para administrar el rumbo del mundo. El libro ganó en Francia el Hub Awards
2013, un premio que recompensó al mejor ensayo del año.

La obra navega fuera de los senderos evidentes. Ni elogio fúnebre de la especie humana ni cántico de rodillas a las
nuevas tecnologías, sino una reflexión pura que demuestra que nos encontramos en un momento crítico de la
historia humana. Para Eric Sadin, Hal 9000, la computadora súper potente que en la película 2001 Odisea del
Espacio equipa la nave Discovery, ha dejado hace mucho de ser una ficción: Hal 9000 ha sido incluso superada
por la tendencia actual hacia una “administración robotizada de la existencia”. GPS, iPhone, smartphone, sistemas
de gestión centralizados que deciden por sí solos, trazabilidad permanente, todo confluye en la creación de lo que
el autor llama un “órgano-sintético que repele toda dimensión soberana y autónoma”.

En esta entrevista con Página/12, Sadin analiza ese doble tecnológico que nos facilita muchas cosas al tiempo que
nos acecha al punto de transformar nuestra humanidad.

–Eric Schmidt, el presidente de Google, dice en su último libro The New Digital Age que “acabamos de
dejar los starting-blocks” de la revolución numérica. Usted, al contrario, estima que la revolución digital se
acaba. ¿Fin o nueva fase?
–La década actual señala el fin de lo que se llamó “la revolución digital”, que empezó a principios de los años ’80
mediante la digitalización cada vez más vasta de lo real: la escritura, el sonido, la imagen fija y animada. Ese
amplio movimiento histórico se desplegó paralelamente al desarrollo de las redes de telecomunicación e hizo
posible el advenimiento de Internet, o sea, la circulación exponencial de los datos en la red.

Esta condición tecnológica universalizada trastornó prioritariamente tres dimensiones: las condiciones de acceso a
la información, el comercio y la relación con los otros a través de los correos electrónicos y las redes sociales.
Hoy, esta arquitectura que no cesó de desarrollarse y consolidarse está sólidamente instalada a escala global y
permite el advenimiento de lo que yo llamo “la era inteligente de la técnica”.

–La historia del siglo XXI se parece entonces a una redefinición de las líneas antropológicas. Usted la define
como una humanidad “comprometida en una odisea incierta e híbrida, antropólogo-mecánica”.
–Nuestro tiempo instaura una relación con la técnica que ya no está prioritariamente fundada sobre un orden
protético, o sea, como una potencia mecánica superior y más resistente que la de nuestro cuerpo, sino como una
potencia cognitiva en parte superior a la nuestra. Hay robots inmateriales “inteligentes” que colectan masas
abismales de datos, las interpretan a la velocidad de la luz al tiempo que son capaces de sugerir soluciones
supuestamente más pertinentes, e incluso de actuar en lugar nuestro, como ocurre con el trading algorítmico, por
ejemplo.

–Precisamente, el trading algorítmico desempeñó un papel nefasto en la crisis financiera de 2008. Un

dispositivo creado por el ser humano operó una suerte de sustitución que terminó ahondando la crisis.
–Las transacciones financieras mundiales se llevan a cabo mediante la colecta automatizada de volúmenes
astronómicos de datos: su tratamiento en tiempo real, la compra o la venta de acciones están a cargo de robots
numéricos que trabajan a una velocidad que sobrepasa nuestras capacidades cognitivas. Hace 30 años, esa
actividad estaba realizada por seres humanos, pero fue poco a poco transferida hacia sistemas interpretativos y
reactivos. Ese fenómeno expone el momento inquietante de nuestra contemporaneidad, donde las producciones
tecnológicas concebidas por seres humanos nos sustituyen e incluso actúan en lugar nuestro.

–En su último ensayo, La humanidad aumentada, la administración digital del mundo, usted expone un
mundo cartografiado de manera constante por los sistemas digitales. Usted muestra la emergencia de una
suerte de humanidad paralela –las máquinas– destinadas a administrar el siglo XXI. Se impone una
pregunta: ¿qué queda entonces de nuestra humanidad?
–La historia de la humanidad está constituida por una infinidad de evoluciones sucesivas en todos los campos.
Desde el Renacimiento, nuestro potencial humano se fundó sobre la primacía humana constituida por la facultad
de juzgar, la facultad de decisión y, por consiguiente, de la responsabilidad individual que funda el principio de la
Ley. La asistencia de las existencias por sistemas “inteligentes”, además de que representa una evolución
cognitiva, redefine de facto la figura de lo humano como amo de su destino en beneficio de una delegación
progresiva de nuestros actos concedida a los sistemas.

Una creación humana, las tecnologías digitales, contribuyen paradójicamente a debilitar lo que es propio al ser
humano, o sea, la capacidad de decidir conscientemente sobre todas las cosas. Esta dimensión en curso se
amplificará en los próximos años. Además, nuestras vidas individuales y colectivas están cada vez más
reorientadas por sistemas que nos conocen con mucha precisión, que nos sugieren ofertas hiper individualizadas,
que nos aconsejan este u otro comportamiento. Por medio del uso de nuestros protocolos de interconexión se
opera una cuantificación continua de los gestos, la cual autoriza un “asistente robotizado” expansivo de las
existencias.

–Usted se refiere al surgimiento de un componente “órgano-sintético que repele toda dimensión soberana y
autónoma”. En suma, el mundo, nuestras vidas, están bajo el orden de lo que usted llama “la
gobernabilidad algorítmica”. El ser humano ha dejado de administrar.
–No se trata de que ya no administre más, sino de que lo hará cada vez menos en beneficio de amplios sistemas
supuestamente más eficaces en términos de optimización y de seguridad de las situaciones individuales y
colectivas. Esto corresponde a una ecuación que está en el corazón de la estrategia de IBM. Esta empresa
implementa arquitecturas electrónicas capaces de administrar por sí mismas la regulación de los flujos de
circulación del tráfico en las rutas o la distribución de energía en ciertas ciudades del mundo.

Esto es posible gracias a la colecta y al tratamiento ininterrumpido de datos; los stocks de energía disponibles, las
estadísticas de consumo, el análisis de los usuarios en tiempo real; la energía disponible, las estadísticas del
consumo, el análisis de la utilización en tiempo real. Estas informaciones están conectadas con algoritmos capaces
de lanzar alertas, de sugerir iniciativas o asumir el control decidiendo por sí mismos ciertas acciones: aumento de
la producción, compras automatizadas de energía en los países vecinos, o corte del suministro en ciertas zonas.

–Eso equivale a una suerte de pérdida mayor de soberanía.

–La meta consiste en buscar la optimización y la seguridad en cada movimiento de la vida. Por ejemplo, hacer que
una persona que pasa cerca de una zapatería pueda beneficiarse con la oferta más adecuada a su perfil, o que
alguien que se pasea en una zona supuestamente peligrosa reciba un alerta sobre el peligro. Vemos aquí el poder
que se le delega a la técnica, o sea, el de orientar cada vez más con mayor libertad la curva de nuestras existencias.
Ese es el aspecto más inquietante y más problemático de la relación que mantenemos con las tecnologías
contemporáneas.
–El escándalo del espionaje que explotó con el caso Prism, el dispositivo mediante el cual la NSA espía todo
el planeta, puso al descubierto algo terrible: no sólo nuestras vidas, nuestra intimidad, son accesibles, sino
que nuestras vidas están digitalizadas, convertidas en Big Data, dobladas.
–Prism reveló dos puntos cruciales: en primer lugar, la amplitud abismal, casi inimaginable, de la colecta de
informaciones personales; en segundo, la colusión entre las compañías privadas y las instancias de seguridad del
Estado. Este tipo de colecta demuestra la existencia de cierta facilidad para apoderarse de los datos, guardarlos y,
luego, analizarlos para instaurar funcionalidades de seguridad. La estrecha relación que liga a los gigantes de la
red con la NSA debería estar prohibida por la ley, salvo en ocasiones específicas.

De hecho, no es tanto la libertad lo que disminuye sino partes enteras de nuestra vida íntima. El medio ambiente
digital favoreció la profundización inédita en la historia del conocimiento de las personas. Este fenómeno está
impulsado por las compañías privadas que colectan y explotan esas informaciones, a menudo recuperadas por las
agencias de seguridad y también por cada uno de nosotros mediante las huellas que diseminamos
permanentemente, a veces sin ser conscientes, a veces de manera deliberada. Por ejemplo, a través de la
exposición de la vida privada en las redes sociales.

–El caso NSA-Prism marca todo un hito en la historia. De alguna manera, incluso si la gente ha
reaccionado de forma pasiva, hemos perdido la inocencia digital. ¿Cree usted que aún persiste la capacidad
de rebelarse en esta gobernabilidad digital?
–Con Prism habrá un antes y un después. Este caso mostró hasta qué punto la duplicación digital de nuestras
existencias participa de la memorización y de su explotación. Esto ocurrió en apenas 30 años bajo la presión
económica y de las políticas de seguridad sin que se haya podido instaurar un debate a la medida de lo que estaba
en juego. Este es el momento para tomar conciencia, para emprender acciones positivas, para que los ciudadanos y
las democracias se apropien de lo que está en juego, cuyo alcance concierne a nuestra civilización.

–La ausencia de Europa ha sido en este robo planetario tan escandalosa como cobarde. Usted, sin embargo,
está convencido de que el Viejo Mundo puede ahora desempeñar un papel central.
–Me parece que Europa, en nombre de sus valores humanistas históricos, en nombre de su extensa tradición
democrática, debe influir en la relación de fuerzas geopolíticas de Internet y favorecer la edificación de una
legislación y una reglamentación claras. El término Big Data, más allá de las perspectivas comerciales que se
desprenden de él, nombra ese momento histórico en el cual el mundo está copiado bajo la forma de datos que
pueden ser explotados en una infinidad de funcionalidades.

Se trata de una nueva inteligibilidad del mundo que emerge a través de gigantescas masas de datos. Se trata de una
ruptura cognitiva y epistemológica que, me parece, debe ser acompañada por una “carta ética global” y marcos
legislativos transnacionales. No obstante, hay que desconfiar de todo intento de toma de control por ciertos países
capaz de conducir a una fragmentación de Internet. Justamente, el valor de Internet radica en su dimensión
universalizada. Me parece que lo que necesitamos es un acuerdo en torno de algunas exigencias fundamentales.

El smartphone, ese “asistente robotizado”

En su libro, usted se refiere a una figura mítica del cine, Hal, el sistema informático de la nave Discovery
que aparece en la película 2001 Odisea del espacio. ¿Hal es, para usted, como la figura que encarna nuestro
devenir tecnológico a través de la inteligencia artificial?
–Hal es un sistema electrónico hiper sofisticado que representa la figura mayor de la película de Stanley Kubrick.
Hal es un puro producto de la inteligencia artificial, es capaz de colectar y analizar todas las informaciones
disponibles, de interpretar las situaciones y actuar por sí misma en función de las circunstancias. Exactamente
como ciertos sistemas existentes en el trading algorítmico, o en el protocolo de Google. Hal no corresponde más a
una figura imaginaria y aislada sino a una realidad difusa llamada infinitamente a infiltrar sectores cada vez más
amplios de nuestra vida cotidiana.
–En esa misma línea se sitúa para usted el iPhone o los smartphones. No se trata de juguetitos sino de un
casi complemento existencial.
–Creo que la aparición de los smartphones en 2007 corresponde a un acontecimiento tecnológico tan decisivo
como el de la aparición de Internet. Los smartphones permiten la conexión sin ruptura espacio-temporal. Con ello
los smartphones exponen a un cuerpo contemporáneo conectado permanentemente, tanto más cuanto que puede
ser localizado vía el GPS. También, a través de él se confirma el advenimiento de un “asistente robotizado” de las
existencias por medio de las innúmeras aplicaciones capaces de interpretar un montón de situaciones y sugerirle a
cada individuo las soluciones supuestamente más adaptadas.

–Esos objetos, que son táctiles, nos hacen mantener una relación estrecha con el tacto. Pero, al mismo
tiempo que tocamos, las cosas se tornan invisibles: toda la información que acumulamos desaparece en la
memoria de los aparatos: fotos, videos, libros, notas, cartas. Están pero son invisibles.
–En efecto, ese doble movimiento trastornante debería interpelarnos. Nuestra relación con los objetos digitales se
establece según ergonomías cada vez más fluidas, lo que alienta una suerte de creciente proximidad íntima. La
anunciada introducción de circuitos en nuestros tejidos biológicos amplificará el fenómeno. Por otro lado, esa
“familiaridad carnal” viene acompañada por una distancia creciente, por una forma de invisibilidad del proceso en
curso. Esto es muy emblemático en lo que atañe a los Data Centers que contribuyen a modelar las formas de
nuestro mundo y escapan a toda visibilidad. Es una necesidad técnica. Sin embargo, esa torsión señala lo que se
está jugando en nuestro medio ambiente digital contemporáneo: por un lado, una impregnación continua de los
sistemas electrónicos, y, por el otro, una forma de opacidad sobre los mecanismos que la componen.

“Desarrollar una conciencia crítica”

Los poderes públicos, principalmente en Europa, son incapaces de administrar el universo tecnológico,
incapaces de encuadrarlo con leyes o fijar límites. La ignorancia reina, pero la tecnología termina por
imponerse, al igual que las finanzas, a todo el espectro político. De alguna manera, los poderes públicos son
víctimas de la ignorancia y de lo que Paul Virilio conceptualizó como nadie: la velocidad.
–Una velocidad aumentada sin nunca cesar caracteriza el movimiento vertiginoso imprimido por la innovación
tecnológica. Estamos viviendo en el seno de un régimen temporal que se vuelve exponencial, prioritariamente
mantenido por la industria que impone sus leyes. Lo propio de los regímenes democráticos es su facultad
deliberativa, su capacidad colectiva para elegir conscientemente las reglas que enmarcan el curso de las cosas.
Ese componente está hoy eminentemente fragilizado. Ahora como en el futuro, debemos enfrentarnos
activamente, sin nostalgia y bajo diversas formas, a la amplitud de lo que está en juego éticamente, bajo la
inducción de esta “tecnologización” de nuestras existencias.

Tanto en las escuelas y universidades, creo que es urgente enseñar el código, la composición algorítmica, la
inteligencia artificial. Creo que son los profesores de “humanidad numérica” quienes deberían ingresar en las
escuelas y contribuir a despertar las conciencias y ayudar a encontrar las perspectivas positivas que se están
abriendo con este movimiento. Es preciso que en adelante desarrollemos una conciencia crítica ante nuestra
propia utilización, que se instaure lo que yo llamo “una disciplina de la utilización”. Esta disciplina me parece
indispensable si no queremos estar infinitamente pegados a las producciones tecnológicas, si no queremos
volvernos un mismo cuerpo con la técnica. Es preciso mantener cierta distancia, porque es la distancia quien
condiciona el principio mismo de una relación abierta y singularizada con el mundo

Fuente: https://www.pagina12.com.ar/diario/sociedad/3-233880-2013-11-19.html