Cuadernos Pragma 5 Febrero 2022
Cuadernos Pragma 5 Febrero 2022
FEBRERO 2022
#Movi mientoPragma
E DITO RI AL
A pesar de las dificultades derivadas de estos dos años ya de pandemia, el pasado
2021 ha sido un año de intensa actividad en nuestro proyecto, pero en lo relativo a los
temas a los que aquí prestamos atención debemos destacar, sin duda alguna, dos publica-
ciones:
Por un lado, el libro Contra la distopía, de Francisco Martorell Campos, un excelente
ensayo que completa y complementa la labor iniciada en su anterior trabajo, Soñar de otro
modo. Cómo perdimos la utopía y cómo recuperarla, dos obras que, como hemos expresado
por activa y por pasiva siempre que hemos tenido ocasión, nos parecen imprescindibles
para comprender y profundizar con rigor y visión crítica en esta necesidad de renovación
del «pensamiento utópico» con vistas a dibujar horizontes de futuro actualizados.
Por otro lado, cuando se publican estas páginas, ya se puede encontrar en las libre-
rías el libro Tiempo de utopías, donde se recogen los relatos ganadores de nuestro I Premio
Pragma de relato de ciencia ficción, notables ejemplos del ejercicio y el esfuerzo que requie-
re abordar una narrativa de ciencia ficción de orientación positiva y propositiva.
Mientras tanto, en estos cuadernos seguimos tirando de los hilos a medida que
profundizamos, descubriendo nuevas facetas y estableciendo conexiones, incluso ensa-
yando algunas posibilidades, tal y como ha hecho Lino Moinelo, autor de los blogs Al final
de la eternidad y Planetas prohibidos, en este magnífico trabajo que aquí os ofrecemos.
Proverbio judío
De lo individual a lo colectivo
(1)
Hawking, S. W., 1992, The chronology protection conjecture. Phys. Rev. D46, 603-611.
https://doi.org/10.1103/PhysRevD.46.603
(2)
Gleick, J. 1987, Caos: la creación de una ciencia. Edición en ePub
Cuadernos Pragma #5 La psicohistoria de Isaac Asimov 6
rodea, sin que sea posible por el momento explicar su formación. A su vez, las células
están constituidas por componentes químicos los cuales, de nuevo, son combinaciones
de moléculas, siguiendo con los átomos, protones, neutrones, etc. El ser humano ha es-
tudiado cada ámbito de manera separada, intentando comprender su funcionamiento,
reduciéndolo a un conjunto de reglas, principios o teoremas que expliquen su compor-
tamiento y puedan predecirlo, de nuevo, movidos tal vez por esa necesidad atávica de
encontrar seguridad. Esta manera de funcionar de la ciencia se llama reduccionismo. Sin
embargo, como se explicaba al principio, el universo está compuesto por niveles, en los
que piezas pequeñas que operan bajo un determinado comportamiento siguiendo unas
reglas, generan un comportamiento nuevo cuando se agrupan e interactúan con otras si-
guiendo esas mismas pautas. Tal fenómeno es llamado en el ámbito científico propiedad
emergente3, con una aproximación epistemológica opuesta al reduccionismo.
Imagen de Empatiaeia.
La relación entre los diferentes niveles en los que la naturaleza se organiza exis-
te, sin duda, pero no es posible inferir un comportamiento a través del estudio de sus
componentes individuales. El comportamiento del sistema, que en este caso recibe el
nombre de sistema complejo, se ha de estudiar de manera independiente. Por ejemplo,
nadie duda que la química, la rama de la ciencia que estudia los elementos básicos de
la naturaleza y sus combinaciones, depende de cómo los átomos forman las moléculas
bajo las leyes físicas, pero el comportamiento químico es algo nuevo que obedece a sus
(3)
Miramontes, Octavio, Los sistemas complejos como instrumentos de conocimiento y transformación del
mundo, pág. 89. Ramírez, Santiago, Perspectivas en las teorías de sistemas [acceso 24/09/2021]
http://scifunam.fisica.unam.mx/mir/transf.pdf
Cuadernos Pragma #5 La psicohistoria de Isaac Asimov 7
propias reglas y leyes4. Física y química tienen una fuerte relación, pero cada una de
ellas son ámbitos del conocimiento completamente diferentes. De manera similar, vol-
viendo al caso del ser humano, cada miembro individual de un colectivo actúa bajo sus
propias motivaciones generando un comportamiento social que está relacionado, pero
gobernado por leyes que no pueden aplicarse a los individuos. En definitiva, las personas
nos comportamos de manera diferente cuando interactuamos entre nosotros, esto es,
cuando formamos un colectivo social.
Según cuenta la leyenda, Asimov imaginó la psicohistoria en 1942 pensando en
la sociedad como un gas y a los individuos como los millones de moléculas que lo forman
y actúan de manera caprichosa y errática, pero afectándose mutuamente. En la Revo-
lución Industrial se hizo necesario el estudio de las propiedades de los gases debido al
uso industrial del vapor. Aquel periodo tuvo como uno de sus frutos la teoría cinética de
los gases, en la que el afán reduccionista de la ciencia logró convertir los impredecibles
movimientos de las moléculas en una descripción estadística con propiedades mensura-
bles, calculables y, por tanto, predecibles. Este sería el marco teórico físico que conten-
dría el supuesto científico en el momento en el que el escritor alumbró su creación. La
(4)
«A efectos prácticos, los sistemas químicos o biológicos necesitarían ser explicados en términos de sus
propias leyes efectivas, por más que estas fueran, al menos en principio, reducibles a otras más fundamen-
tales» —Steven Weinberg (Vázquez-Mozo, Miguel Ángel. El soñador de la teoría final [en línea] Investiga-
ción y Ciencia (2021).
https://www.investigacionyciencia.es/revistas/investigacion-y-ciencia/el-olfato-en-la-covid-19-843/el-
soador-de-la-teora-final-20325
Cuadernos Pragma #5 La psicohistoria de Isaac Asimov 8
psicohistoria, como ciencia ficticia, asumía la población de toda una galaxia y sus reglas
sociales como una analogía cuyo comportamiento podía ser tratado como un equiva-
lente físico de los gases, pero con un alcance mucho mayor al tener en cuenta factores
políticos, sociales e históricos, en lugar de los habituales parámetros estadísticos. Asi-
mov extrapolaba de una manera racional partiendo de la ciencia conocida para crear un
recurso literario, necesario para imaginar la posibilidad de predecir el comportamiento
colectivo de un número enorme de individuos que se influyen mutuamente y sometidos
a unas mismas reglas.
Cuando años después (1962) Eduard Lorentz —matemático y meteorólogo— qui-
so aplicar la ciencia conocida a entornos dinámicos como el clima5, y comprobó asom-
brado que un mínimo cambio en las condiciones iniciales alteraba el resultado final, vol-
viéndolo impredecible. Los métodos que hasta ese momento eran habituales no servían.
Pero el investigador continuó su trabajo y observó un patrón cuya gráfica resultante
tenía una forma que evocaba a una mariposa. Era el inicio de la llamada Teoría del Caos
y del famoso efecto mariposa. En definitiva, lo que en un principio parecía un límite a las
posibilidades de la ciencia de satisfacer el sueño humano de comprender la naturaleza y
predecir el futuro, no solo no fue tal, sino que pasó a convertirse en el descubrimiento de
una nueva manera de dialogar con ella que abría nuevas y sorprendentes posibilidades.
¿Qué papel tuvo la psicohistoria de Isaac Asimov? Como un mero ejercicio li-
terario no hay constancia de que influyera de manera directa en el ámbito académico o
científico. Sin embargo, durante los veinte años que transcurrieron desde que La Funda-
ción fue conocida por el público y se convirtió en una de las obras más ambiciosas e in-
fluyentes de la literatura, hasta que Lorentz quiso predecir el clima, la audacia e ingenio
que la fascinante idea de Asimov brindaron al imaginario colectivo fueron con toda pro-
babilidad fundamentales. La idea de una ciencia predictiva como posibilidad real superó
la obra del autor e inspiró a científicos, en algún lugar de sus conciencias y conectando
con nuestra esencia como seres humanos, para acariciar la idea de lograr el sueño atávico
de ser dueños de nuestro destino. Un sueño que todavía sigue vivo.
(5)
Gleick, op.cit., 1987
Cuadernos Pragma #5 La psicohistoria de Isaac Asimov 9
(6)
https://dialnet.unirioja.es/descarga/articulo/4781017.pdf
(7)
https://doi.org/10.1086/522809
(8)
https://web.inteco.cl/articulos/id/23
Cuadernos Pragma #5 La psicohistoria de Isaac Asimov 10
(9)
López Sánchez, Gonzalo. (17/03/2020). El científico que predijo que el caos global llegaría en 2020. ABC.
https://www.abc.es/ciencia/abci-cientifico-predijo-caos-global-llegaria-2020-202003162143_noticia_amp.html
Finley, Klint (04/10/2013) Mathematicians Predict the Future With Data From the Past. Wired.
(10)
https://www.wired.com/2013/04/cliodynamics-peter-turchin/
(11)
Whitehouse, H., François, P., Savage, P.E. et al. RETRACTED ARTICLE: Complex societies precede mo-
ralizing gods throughout world history. Nature 568, 226–229 (2019).
https://doi.org/10.1038/s41586-019-1043-4
(12)
https://es.wikipedia.org/wiki/Ciencia_de_datos
(13)
Peiró, Patricia. (22 de febrero de 2017). La sociedad ha creado más datos en dos años que en toda la
historia. El País. https://elpais.com/tecnologia/2017/02/20/actualidad/1487611734_009476.html
Cuadernos Pragma #5 La psicohistoria de Isaac Asimov 11
actual. Cada vez más ámbitos de nuestra realidad son susceptibles de ser registrados y
almacenados, necesitando técnicas de transmisión más veloces, con mejores codifica-
ciones para su empaquetado y encriptaciones de seguridad más complejas.
Volkova S, Ayton E, Porterfield K, Corley CD (2017) Forecasting influenza-like illness dynamics for mili-
(14)
tary populations using neural networks and social media. PLoS ONE 12(12): e0188941.
https://doi.org/10.1371/journal.pone.0188941
Lawrence Phillips, Chase Dowling, Kyle Shaffer, Nathan Hodas, Svitlana Volkova. (19/06/2017). Using
(15)
Los riesgos
«Esta cultura científica todopoderosa continúa siendo manejada por un ser humano
moralmente frágil, sujeto a anomalías afectivas que lo pueden poner en el trance de hacer
un uso irracional de la fuerza aniquiladora que es capaz de desatar».
José Luis Pinillos, psicólogo16
Fotograma del documental «El gran hackeo», de Karim Amer y Jehane Noujaim - Netflix 2019
(16)
La Mente Humana (1969), pág. 42.
Cuadernos Pragma #5 La psicohistoria de Isaac Asimov 14
pero que con el tiempo ha revelado que su verdadera capacidad disruptiva ha sido crear las
llamadas «cámaras de eco17», quedando las sociedades a merced de quienes pueden mapear
y filtrar mediante algoritmos de contenidos, que muestran al usuario lo que deciden que
debe ser de su interés. El caso más conocido es el del escándalo de Cambridge Analytica. In-
dependientemente de las anomalías legales en las que se incurrieron, quedó probada la ca-
pacidad y el potencial extraordinario de la IA y la recolección de datos para manipular a la
sociedad, hasta el punto de que se invirtieron millones de dólares en establecer un sistema
de recolección y análisis. Hay que incidir en que el problema no es —únicamente— el acce-
so a información personal por métodos no autorizados, o la venta de información masiva
de los usuarios para fines distintos a los permitidos —teóricamente, publicitarios—. No es
necesario recurrir a métodos ilegales, ya que la información pública que compartimos y que
aceptamos dar en los términos establecidos, es suficiente para desarrollar análisis psicoló-
gicos18 que cartografían a la sociedad por género, tendencia sexual, ideología política o tipo
de personalidad, hasta el punto de predecir19 las conductas de los incautos usuarios que no
imaginan lo que se hace con su información20. El avance tecnológico está ocurriendo a un
ritmo mayor que el de la sociedad para crear regulaciones apropiadas21. El funcionamiento
de los sistemas políticos no es capaz de generar soluciones a la velocidad necesaria. Los
propios estados tampoco están exentos de incurrir en usos cuestionables de la información
que manejan y la autoridad que les es concedida. En definitiva, el potencial del uso com-
binado de los modelos predictivos, los algoritmos de inteligencia artificial, la capacidad
tecnológica para recopilar, almacenar y procesar dichos datos, así como del marco legal
que regula el uso al que se le destina, escapa al control que en occidente se asume que
debe tener una democracia, desvirtuando los sistemas políticos hasta un punto cercano a
su desacreditación, situación que favorece a sistemas autoritarios como los del gobierno
de China. El lugar que actualmente ocupa este gran país asiático, y los caminos que le han
llevado a él, merecerían un análisis más extenso que excedería la intención original de este
texto, pero se puede concluir que China y sus gobernantes son conscientes de la situación y
saben lo que tienen que hacer para continuar dominando el panorama geopolítico22.
(17)
«Comunidades de usuarios con fuerte polarización ideológica y sentimental que apenas entran en con-
tacto con el “mundo exterior” a ellas, lo cual refuerza la mencionada polarización y aumenta la exposición a
la desinformación y la posverdad» —Sabín, Carlos. (16/12/2016). Ciencia y posverdad. Investigación y Ciencia.
https://www.investigacionyciencia.es/blogs/fisica-y-quimica/85/posts/ciencia-y-posverdad-14801
El servicio en-línea Apply Magic Sauce de la Universidad de Cambridge puede realizar un preciso análisis
(18)
de personalidad. https://applymagicsauce.com/demo
Pastor, Javier (11/12/2018). Facebook patenta un sistema que predice hacia dónde nos dirigimos. Xataka.
(19)
https://www.xataka.com/moviles/facebook-patenta-sistema-que-predice-donde-nos-dirigimos
(20)
Hara, Luis Alberto. (18/09/2018). 10 razones por las cuales debes abandonar las redes sociales, según
Jaron Lanier, pionero de internet. Pijama Surf.
https://pijamasurf.com/2018/09/las_10_razones_por_las_cuales_debes_abandonar_las_redes_sociales_se-
gun_jaron_lanier_pionero_del_internet
(21)
Jiménez, Marimar. (29/07/2020). Apple, Amazon, Google y Facebook defienden que su poder no sofoca
la competencia. Cinco Días (El País Economía).
https://cincodias.elpais.com/cincodias/2020/07/29/companias/1596019824_146205.html
(22)
Villarino, Ángel. (19/07/2021). China está intentando encontrar la mano invisible del mercado para
dirigirla. El Confidencial. https://www.elconfidencial.com/mundo/2021-07-19/china-mano-invisible-entre-
vista-claudio-gonzalez_3190627/
Cuadernos Pragma #5 La psicohistoria de Isaac Asimov 15
«En 1939, Isaac Asimov, que en aquella época tenía sólo diecinueve años, cansa-
do de los robots que eran irrealmente malvados o irrealmente nobles, comenzó a dedicar
algunos de los relatos de ciencia-ficción que publicaba a los robots, vistos meramente como
máquinas y construidos, como lo son todas las máquinas, con algún intento racional de
una adecuada seguridad».
Isaac Asimov23
Una de las señas de identidad de la obra de Asimov, así como una de sus princi-
pales motivaciones culturales e inspiraciones literarias, era el impacto que la tecnología
podía producir en la sociedad. Uno de los pilares sobre los que se fundamentaba era el
concepto de que todo nuevo cambio de paradigma tecnológico debía venir acompañado
de un profundo estudio de los peligros potenciales que esos avances eran capaces de
ocasionar. Igualmente, la humanidad debía de proveerse de los sistemas de seguridad
necesarios para contener dichos riesgos dentro de márgenes aceptables. Fruto de esta
inquietud del escritor surgió una de las más características, famosas y reconocibles ideas
de la ciencia-ficción de todos los tiempos: las Tres Leyes de la Robótica. En los tiempos
recientes cada vez son más las voces —Elon Musk o el fallecido Stephen Hawking—
que alertan del peligro de la tecnología: adicciones, dependencia, espionaje, manipula-
ción, inteligencias artificiales descontroladas que ataquen a la humanidad y similares.
En relación al tema que nos ocupa, la perspectiva de que un gobierno o una corporación
posea la capacidad de predecir el comportamiento de la sociedad no puede considerarse
como algo exclusivo de la ciencia-ficción, sino como una realidad potencial. La cuestión
es en favor de qué intereses va a ser usado dicho conocimiento. Asimov en su Saga de
La Fundación ideó un sistema basado en la creación de una fundación documentalista
que sirviera como tapadera del cuartel general del Plan Seldon, al que se añadía la crea-
ción secreta de una Segunda Fundación de paradero desconocido que actuase en caso de
desviaciones importantes del plan principal. El propio autor era consciente del carácter
probabilístico de la psicohistoria, característica que comparte con los actuales modelos
predictivos. Pero sobre todo era consciente de que, al fin y al cabo, son las personas, los
individuos que logran el poder, quienes en última instancia ponen en práctica dichos
planes. Y los individuos no son predecibles. No contento con esta solución, el escritor
incluyó dentro de la vigilancia del futuro de la galaxia una inteligencia artificial ética,
un robot positrónico con las Tres Leyes, un ejemplar singular que, además, había desarro-
llado una cuarta Ley, trascendiendo su programación hacia un fin superior: la defensa
de la humanidad al completo. En cierta forma, Asimov dejaba este asunto como algo sin
resolver, preocupado por la aparente incapacidad de la especie de cuidar de sí misma,
dejándola en su obra como dependiente de una inteligencia que, si bien no superior en
el sentido metafísico, sí lo era en el sentido de haber sido capaz de superar la barrera
de la autodestrucción. ¿Podrá la humanidad superar esa barrera? Sea cual sea el parecer
de cada uno ante esta cuestión tan trascendente, lo que parece evidente es que hay que
intentarlo.
(23)
Nueva Guía de la Ciencia. Barcelona: Plaza & Janes, 1985. Pag.797-798
Cuadernos Pragma #5 La psicohistoria de Isaac Asimov 16
Planificar el futuro
«La ciencia-ficción hace algo mejor que prever el futuro: influye en él»
Cory Doctorow, escritor24
El alcance de la predicción
(24)
https://letraslibres.com/ciencia-y-tecnologia/he-creado-un-monstruo-y-tu-tambien-puedes-hacerlo/
(25)
Es el caso de La Fuerza en Star Wars o la protomolécula en The Expanse.
Cuadernos Pragma #5 La psicohistoria de Isaac Asimov 17
este sea aplicado a poblaciones de gran tamaño para obtener una mayor probabilidad
de acierto. En el caso de la saga literaria, la población de toda una galaxia otorga una
capacidad de predicción supuestamente extraordinaria. Dejando a un lado esta cuestión,
cuya utilidad inmediata es la construcción del relato, si se recorre el axioma en sentido
contrario se obtienen interesantes conclusiones: ¿Qué ocurre cuando un número redu-
cido de personas concentra un poder de decisión elevado, sobreponiéndose a la volun-
tad de muchos miles de individuos? Asimov introdujo esta variable con el personaje
de El Mulo, como un líder populista que en el caso del relato literario era debido a una
mutación que le otorgaba poderes psíquicos, un personaje ficticio que no obstante ha
sido recordado26 como reacción ante la sorpresiva aparición de líderes que han tomado
control político contra todo pronóstico y han desestabilizado los esquemas geopolíticos.
Se puede concluir que, en lo concerniente a modelos predictivos y su uso como posi-
ble solución para la organización de la sociedad de manera que sea beneficiosa para sí
misma, el excesivo poder acumulado en los líderes supone un riesgo que lo hace
desaconsejable.
Conocimiento es poder
Otra de las reglas sobre las que se fundamenta el relato de la famosa saga lite-
raria es que la predicción psicohistórica no funcionará si es conocida por la población
objeto de la misma. Esto parece indicar que, aunque podrían evitarse futuros problemas
como crisis económicas o conflictos violentos sin más que difundir entre la población el
conocimiento de hacia dónde se están encaminando los pasos, esto presenta un proble-
ma: una vez la sociedad tenga este conocimiento, el modelo predictivo inicial quedaría
invalidado, quedando la sociedad expuesta a otros posibles problemas futuros al que-
darse sin predicción. Para solucionar esto habría que realimentar el modelo predictivo
con los nuevos datos y obtener como resultado otro pronóstico, encontrándose de nuevo
con la misma situación en caso de existir un problema a evitar. Para salir de este círculo
vicioso, el modelo no solo debería ser predictivo, sino también correctivo. Esto significa
que la sociedad debería estar gobernada por un algoritmo, que fuera realizando
ajustes en función de los datos recopilados, en tiempo real. Aquí es donde entraría
en juego una IA y el Big Data, además de evitar la concentración de poder en pocas per-
sonas, como se concluía en la consideración sobre el primer axioma. La sociedad sim-
plemente desarrollaría su actividad con normalidad, estudiando, investigando, creando,
socializando... sin necesidad de decidir cómo gestionar los recursos, ya que estos serían
repartidos de manera que se optimizase su uso para toda la población, previniendo ca-
rencias, conflictos o brotes delictivos. En definitiva, los políticos tal y como los hemos
conocido hasta ahora, no serían necesarios.
(26)
https://www.nobbot.com/futuro/ciencia-ficcion-fundacion-asimov/
Cuadernos Pragma #5 La psicohistoria de Isaac Asimov 18
(27)
Sufragio Universal, (Isaac Asimov, 1955)
(28)
https://maldita.es/malditatecnologia/20210612/algoritmos-escano-congreso-gobernar-inteligencia-artificial/
(29)
https://epc.eu/en/publications/Anticipatory-democracy-Harnessing-the-power-of-people-and-strate-
gic-f~3ed3fc
https://slate.com/technology/2016/07/alvin-toffler-was-right-about-future-shock-but-wrong-about-
(30)
the-solution.html
Cuadernos Pragma #5 La psicohistoria de Isaac Asimov 19
de la Universidad del País Vasco, duda también que los algoritmos de predicción sean
eficaces para su función, más allá de repetir patrones del pasado31. Sin embargo, aunque
pueda parecerlo, los modelos de predicción basados en el aprendizaje profundo no se
limitan a aplicar dichos patrones en el futuro, sino que los usan como base para elaborar
los modelos, cuyo resultado predictivo no es simplemente una repetición de los mismos.
Por otro lado, los patrones que una IA llega a detectar pueden ser mucho más precisos
y, sobre todo, imprevistos, ya que superan la capacidad humana de análisis, por lo que la
calidad de la información usada para elaborar los modelos de predicción es mucho más
sofisticada que mediante las técnicas tradicionales.
En definitiva, hasta hace poco no se había dado una convergencia social, política
y tecnológica entre los conceptos de predicción basada en macrodatos, algoritmos y un
gobierno basado en IA. El problema que en estos momentos impide avanzar hacía el
uso de estas capacidades tecnológicas es de otra naturaleza. Todo cambio en el modo
de reparto de poder requiere de otro poder que lleve a término dicho cambio. La idea de
sustituir los viejos sistemas choca contra los que viven tras ellos. En cualquier caso, el
modelo predictivo práctico ha de tener en cuenta también estos factores políticos si se
desea aplicarlo. Precisamente, el tercer axioma de la psicohistoria establecía en su ima-
ginario ficticio que la estructura social de la población debía mantenerse sin cambios
fundamentales, lo que en la propuesta práctica se traduce que un hipotético algoritmo
que realice predicciones y ajuste los cambios necesarios ha de ejecutarse en un
contexto político estable que lo permita. Si se logran los dos puntos anteriores —po-
der político descentralizado y uso de una IA confiable32 para el autogobierno—, esto sería
posible, ya que los motivos habituales de enfrentamiento entre facciones políticas para
asumir el mando de gobierno dejarían de tener sentido. Ya no existiría dicha opción. La
existencia de problemas dejaría de ser un medio para que los lideres populares obtuvie-
ran seguidores; para convertirse en errores a tratar por equipos de mantenimiento.
Como síntesis, las condiciones estimadas necesarias para lograr un gobierno que
pueda prever los problemas y evitarlos, serían las siguientes:
1. Evitar la acumulación de poder en un número reducido de individuos (poder
político descentralizado).
2. Para hacer viable el punto anterior, la sociedad se autogobernará mediante un
sistema automático capaz de prever problemas y necesidades futuras y aplicar los cam-
bios necesarios sin necesidad de intervención.
3. Para aplicar de manera satisfactoria los puntos anteriores se deberá haber al-
canzado previamente un contexto político estable que lo permita.
El papel de la sociedad
«La mayor parte de las previsiones algorítmicas se basan en la idea de que el futuro será lo más parecido al
(31)
pasado» Innerarity, Daniel. (29/12/2020). Revista de las Cortes Generales Nº 109, Segundo semestre (2020): pp. 97.
https://cadmus.eui.eu/bitstream/handle/1814/69688/1526-Texto%20del%20artículo-1894-1-10-20201229.pdf
(32)
https://www.technologyreview.es/s/13774/la-ia-nos-ha-hecho-vivir-en-un-mundo-basado-en-las-probabilidades
Cuadernos Pragma #5 La psicohistoria de Isaac Asimov 20
que apenas se han superado actualmente en casos aislados. Sin embargo, su historia,
surgimiento, evolución y modelo económico sirven de modelos tanto ejemplarizantes
como de fracaso político. Su caída demostró lo frágil que puede ser un gobierno sin una
dirección firme y coherente. Al mismo tiempo, nos advierte del riesgo que supone dar
poderes exclusivos a una única persona. Se puede argumentar también que Roma cayó
porque no existían los avances científicos y socioeconómicos (transporte, modelos pro-
ductivos, energía, etc.) suficientes para mantenerse. El caso de China es sin duda para-
digmático en este sentido, mostrando también facetas positivas y negativas: un imperio
económico dirigido por un reducido grupo de políticos bajo un mando único, con una
información detallada y exhaustiva de una enorme población, tiene sin duda por pri-
mera vez en la historia la capacidad y posibilidad de lograr la economía dirigida con la
que soñaba el comunismo soviético33. Sin contar con el poder político descentralizado,
cumple el resto de condiciones que se han establecido: la capacidad para modelar la so-
ciedad bajo algoritmos informáticos y la estabilidad política para poder validarlos. China
es el equivalente actual del Imperio Galáctico gobernado por Cleon I en la saga de La Fun-
dación. De momento, sus gobernantes se han dado cuenta que una actitud benevolente
hacia la población es beneficiosa para todos, incluso para ellos mismos como dirigentes
y para China como país hegemónico. Está incluso promocionando la ciencia-ficción por
su capacidad para estimular la creatividad y el pensamiento alternativo, algo difícil de
lograr en las dictaturas clásicas, pero necesario si se quiere perdurar. China tiene, pro-
bablemente, la tradición, capacidad y recursos para hacerlo durante mucho tiempo, pre-
viniendo y evitando problemas antes de que ocurran. Pero es en este punto donde surge
la gran cuestión: ¿dónde queda la democracia?
Daniel Innerariti plantea34 que para que el concepto de autogobierno surgido
en la cultura occidental continue vigente, la sociedad ha de tener en su mano la últi-
ma decisión, existiendo los mecanismos necesarios de responsabilidad que legitimen el
proceso de gobierno. No es intención detallar en este estudio cómo lograr las moviliza-
ciones necesarias ni las reformas políticas, pero es evidente que el primer paso no lo va a
dar una IA. De alguna manera tiene parte de razón el economista Antonio Mora Plaza
cuando afirma35 que los algoritmos «no son los que van a solucionar todos los problemas
de la humanidad». Como se ha visto, la presencia humana es necesaria para constituirse
como sujeto activo, para decidir usar la ciencia y la tecnología como herramientas a su
servicio. Es posible que todos los problemas no los vaya a resolver una IA, pero queda
mucho recorrido entre seguir como hasta ahora e ignorar la repercusión que el desa-
rrollo tecnológico produce en la sociedad y la legitimidad de los sistemas políticos, y
aprovechar de la mejor manera las posibilidades que ofrecen estos avances y la ciencia
en general.
El correcto uso para el que se destinen dichas capacidades tecnológicas, así como
quienes lo evalúan, marcará la diferencia entre los estilos que parece que se están con-
figurando actualmente y el que se propone como modelo a alcanzar. A día de hoy, el uso
(33)
Villarino, op. cit., (2021)
(34)
Innerariti, op. Cit. pp. 90
(35)
https://www.nuevatribuna.es/articulo/sociedad/milonga-inteligencia-artifi-
cial/20210927123523191402.amp.html
Cuadernos Pragma #5 La psicohistoria de Isaac Asimov 21
Sobre el terreno
«Las ciudades inteligentes corren el riesgo de convertirse en una amenaza para los
derechos humanos si las empresas y los gobiernos no toman medidas para limitar la vigi-
lancia y garantizar la inclusión».
Eva Blum-Dumontet (directora de proyectos en Privacy International)37
https://www.marketingdirecto.com/digital-general/digital/algoritmos-opiniones-codificadas-ar-
(36)
mas-matematicas-de-destruccion
(37)
https://www.sacyr.com/-/la-primera-ciudad-dirigida-por-una-inteligencia-artificial-1
(38)
https://www.davidnel.com/s ongdo-la-ciudad-del-futuro/
(39)
https://www.ambientum.com/ambientum/smart-city/japon-esta-disenando-su-modelo-de-ciudad-inteligente.asp
Cuadernos Pragma #5 La psicohistoria de Isaac Asimov 22
este tipo, así como en China —por supuesto— donde como ya se ha comentado basan
sus estrategias políticas en estas tecnologías de gestión social. También en Europa hay
cierta iniciativa40, pero su aplicación en ciudades con una larga tradición en las formas
de organización clásica, en un continente densamente poblado, provoca que su alcance
no vaya más allá de la gestión eficiente de energía, residuos, tránsito de vehículos pri-
vados o públicos, y cuestiones similares; en definitiva, poco más allá que adornos para
las campañas electoralistas de los políticos. De alguna manera, parece que para lograr el
propósito deseado será necesario superar más obstáculos que los, ya de por sí complejos,
desafíos tecnológicos.
Vista del barrio de Songdo, en la ciudad de Incheon, Corea del Sur - iStock
Con las condiciones expuestas hasta ahora y con una idea algo más clara de las
posibilidades prácticas de implementación de estas tecnologías, el siguiente paso es ex-
plorar la posibilidad de crear una propuesta de aplicación que consiga los objetivos,
con una forma de organizar la sociedad en la que las disputas políticas tal y como las
conocemos, cargadas de emotividad visceral ideológica, se hayan convertido en algo del
pasado, como los duelos a sangre o las ejecuciones públicas dejaron de serlo en su mo-
mento. La meta es tener sociedades que hacen uso del poder de las nuevas herramientas
tecnológicas para ponerlas a su servicio, una funcionalidad que nos permita liberarnos
de lo que no es productivo, que no solo no necesite intervención permanente, sino que
también se anticipe a lo que pueda ocurrir y tome decisiones en consecuencia, previ-
niendo la criminalidad, accidentes, problemas logísticos, crisis económicas o estados
emocionales críticos que puedan llevar a una persona a hacer algo irreversible. Existe
(40)
https://www.spotahome.com/es/blog/smart-cities-ciudades-que-apuestan-por-la-eficiencia-en-sus-calles/
Cuadernos Pragma #5 La psicohistoria de Isaac Asimov 23
la tecnología para hacerlo. Falta dirigir todos esos esfuerzos, capacidades y logros en
la dirección adecuada. Pero ¿cuál es esa dirección? La trampa en la que se puede caer
es intentar crear una definición rígida. La clave para no caer en ella es, precisamente,
proponer un modelo que decida de manera dinámica cuál es esa dirección, que no haya
ningún grupo o persona concreta que tenga que tomar este tipo de decisiones. Por eso se
propone como denominación para el modelo postulado el de ácrata, porque su funcio-
namiento no necesita de una autoridad como las que hasta ahora se han conocido, pero
es, al mismo tiempo, seguro, estable y equitativo.
Para ello se seguirá con el modelo inspirado por la obra que dio a conocer la
psicohistoria, La Fundación de Isaac Asimov. Se trata de aprovechar la experiencia del
autor que expone postulados lógicos y consistentes en sus relatos, así como la clarivi-
dencia que mostró en numerosas ocasiones y que acostumbraba a emplear para dotar de
coherencia a su obra. En ella, el destino de la galaxia queda en manos de la psicohistoria,
implementada sobre tres pilares: la Primera y Segunda Fundación, y un robot positrónico
que ha transcendido su programación ocupando un papel clave en el Estado Galáctico.
Traducido a los términos prácticos expuestos en estas líneas, la sociedad estaría gober-
nada por un sistema basado en IA ejecutando algoritmos de predicción alimentados con
datos provenientes de múltiples fuentes, tanto individuales como de cualquier dispo-
sitivo susceptible de obtener información relevante —como el llamado internet de las
cosas—. Para identificar y minimizar los riesgos adelantados en este texto se propone la
creación de tres comités, al modo de las Fundaciones de Asimov:
- Comité tecnológico: encargado de mantener el funcionamiento del sistema
de recopilación almacenaje y procesado, y de mejorarlo si es necesario según surjan
nuevos descubrimientos, se trate de mejoras tecnológicas, matemáticas, algorítmicas o
de programación.
- Comité ético: responsable de asegurar que la IA no replica prejuicios o am-
plifica desigualdades de algún tipo, en definitiva, de convertir la IA en una herramienta
segura y confiable, al servicio de la sociedad.
- Comité de justicia: sería la parte humana del sistema, vigilante de que ningún
grupo o individuo acumule excesivo poder o acapare recursos del sistema para su ex-
clusivo beneficio, a costa del resto. Es el garante de que los acuerdos vinculantes entre
individuos o agrupaciones sean cumplidos.
En líneas generales, el funcionamiento de cada uno de estos comités sería gestio-
nado por consenso interno, aunque habría algunas premisas básicas. Por ejemplo, la per-
tenencia a cada uno de ellos se decidiría por turnos rotativos de entre un grupo de elegi-
bles en función de su formación y currículo. Para asegurar el cumplimiento de las normas
básicas de funcionamiento, cada comité vigilaría al resto y evitaría anomalías, por ejem-
plo, regulando los requisitos y comprobando la adecuación de los miembros que ingresan
en cada comité, excepto al que pertenecen. Naturalmente, cada comité no se inmiscuiría
en los ámbitos de los demás. En definitiva, aunque habría que perfilar los detalles de este
esquema de funcionamiento, por ejemplo, cómo articular los mecanismos de autoridad
en caso de infracción, no es un reto insalvable. Desde luego, es más simple en apariencia
que el clásico esquema de separación de poderes, que allá donde se ha respetado, cumplió
con las necesidades del momento y fue un paso necesario para llegar donde estamos. Los
miembros de los comités no ganan ni pierden nada, tan solo ocuparían temporalmente
unos puestos de manera similar a como funciona una comunidad de vecinos.
Cuadernos Pragma #5 La psicohistoria de Isaac Asimov 24
Planeta inteligente
a unos personajes para que llevaran a cabo la acción. Ahora bien, esta circunstancia es
también definitoria del trasfondo de la historia. Toda la tecnología y toda la ciencia del
universo no van a ser suficientes si no hay un humano, al menos, que coloque la primera
piedra. ¿Qué clase de persona deberá ser? Asimov nos dejó también, en la parte humana
de su epopeya galáctica, algunas claves importantes de índole social. Hari Seldon, tal
vez un alter ego de su creador literario, es un científico preocupado por la sociedad en la
que vive, que cree en el aprendizaje autodidacta y reconoce el mérito de Gaal Dornick,
un humilde habitante de un planeta agrícola en los confines olvidados de la galaxia,
pero con grandes dotes matemáticas. Seldon sabe que su propio protagonismo es un
efecto colateral, puede que incluso un mal necesario. Es consciente de que para que su
descubrimiento matemático sea útil ha de ser compartido y convertido en un proyecto
colectivo cuyo fin no sea rendirle culto a él, sino servir a la sociedad a través de la cien-
cia, una disciplina basada en hechos comprobables y en la que la autoridad es el criterio
menos importante. En conclusión, para que el futuro de la sociedad en la que vivimos
sea uno que merezca la pena, una parte significativa de ella, al menos los aficionados a
la ciencia-ficción, deberemos convertirnos en esa Fundación que preserve su legado. Tal
vez, debamos parecernos más a Hari Seldon.