Sociedad de la Inteligencia

Artificial
(Traducción del húngaro)

por Béla Pokol

Edición Kairos. Budapest

2018 ISBN: 978 963 662 981 6
 2

Índice de contenidos

Capítulo I - Reconstrucciones teóricas de la estratificación de la realidad: los análisis

de Maturana, Luhmann y Nicolai Hartmann ................................................................... 3
1. La solución de conexión estructural de Humberto Maturana
2. Análisis de Luhmann sobre los niveles de sistema del mundo
3. La opinión de Nicolai Hartmann sobre las capas del ser
Capítulo II - La inteligencia artificial: ¿La aparición de una nueva capa del ser? (La IA
en
el espejo de la ontología de Nicolai Hartmann) ...............................................................17
1. El hombre y la jerarquía de capas del ser
2. La creciente imbricación de la inteligencia artificial en la capa espiritual del
ser
3. La conexión directa de la inteligencia artificial con la capa física del ser
4. La inteligencia artificial autoorganizada
4.1. La fuerte inteligencia artificial
4.2. La existencia digital del cerebro humano emulado
4.3. La cuestión de la superinteligencia mejorada genéticamente
5. ¿Una nueva capa adicional del ser o el nuevo comienzo de la evolución terrestre
sobre la base de la inteligencia artificial autoorganizada?
Capítulo III - Las capas del ser y las cuestiones de la ética de los robots... ...................... 32
1. Las cuestiones preliminares de la ética de los robots
2. Moralidad operativa, moral funcional y personalidad moral plena
3. ¿La devaluación del entorno físico-biológico como problema moral?
4. Dilemas morales y responsabilidades en sistemas híbridos y en red.
5. Autoaprendizaje, aprendizaje automático y responsabilidad
6. La identidad en el mundo de la inteligencia artificial
7. El credo moral de "Unabomber", el "matemático loco"
Chater IV - Sociedad del ciberespacio (sociedad de plataformas, sociedad métrica,
sociedad de datos.................................................................................................................. 47
1. La sociedad en el ciberespacio
2. Ciberespacio y soberanía
3. Ciberespacio y tiempo
4. Individualización frente a atomización social
5. El problema de socialización de una infancia adicta a los smartphones
6. La sociedad del ciberespacio como sociedad de plataformas
7. Los dilemas de la sociedad métrica
8. Los parásitos de la sociedad métrica
9. La informatización y la figura del estadístico-guerrero
10. El "yo biológico" como entorno exclusivo
11. La existencia medida
12. Los maestros del poder métrico: ¿En camino hacia el "capitalismo científico"?
13. La sociedad de la plataforma-datos-métrica del ciberespacio.
Bibliografía... .........................................................................................................................68
 3

Capítulo I
Reconstrucciones teóricas de la estratificación de la realidad:
los análisis de Maturana, Luhmann y Nicolai Hartmann

Las cuestiones de la existencia física, biológica y psicológica por debajo del nivel de la
existencia social no suelen ser importantes para responder a los problemas de la teoría social.
Sin embargo, no es posible comprender bien los requisitos morales esenciales para la
existencia de los seres humanos y las comunidades humanas y las normas y valores
resultantes sin tener en cuenta las dotaciones biológicas y psicológicas de los seres humanos,
porque el funcionamiento de la mayoría de las instituciones sociales se basa en ellas. De este
modo, un análisis limitado al contexto social suele ser suficiente. Los nuevos desarrollos en el
campo de la inteligencia artificial y el planteamiento de la posibilidad de derechos humanos y
posiblemente de auténticos derechos privados en el caso de robots cada vez más avanzados
han hecho que me interese preguntar si, en el caso de una inteligencia artificial ligada a la
existencia física de un cuerpo robótico, sería realmente posible incorporarla plenamente a la
sociedad. En su caso, no existe una capa biológica ni psicológica del ser, y en comparación
con la persona natural de cuatro capas (física, biológica, psicológica y espiritual) y la sociedad
humana, resulta cuestionable cómo puede aplicársele la extensibilidad de las instituciones
sociales establecidas. 1
Para responder a esto, se hizo necesario revisar, además de la teoría de la realidad social,
las teorías que ya han realizado el mapeo de los niveles de la existencia integral total o, en
otras palabras, los estratos del ser de la realidad integral. La existencia física como
prerrequisito de la existencia biológica y la indispensabilidad de ambas para la sociedad
humana pueden ser visitadas como evidencia. Pero cómo se relacionan estos niveles de la
realidad (y quizás otros más ocultos) y cómo se pueden articular sus efectos entre sí a nivel
teórico, hay diferentes enfoques. A continuación, examinaré primero las soluciones del
biólogo teórico chileno Humberto Maturana2 y luego analizaré la modificación del sociólogo
alemán Niklas Luhmann. Luego compararé estos enfoques con la teoría ontológica de los
estratos del ser del filósofo alemán Nicolai Hartmann.

1
Para más detalles sobre estas cuestiones, véase Béla Pokol, Küntliche Intelligenz: Die Entstehung einer neuen
Seinsschicht? (KI - im Spiegel von Nicolai Hartmanns Ontologie) Pázmány Law Working Papers, Nr. 2018/12.)y
Béla Pokol, Die Seinsschichten und die Fragen der Roboterethik.
C:/Users/Dell/Downloads/academia.edu/Die_Seinsschichten_und_die_ Fragen_der_Ro.pdf
2
Para ilustrar la teoría de Maturana, utilizo su libro conjunto con su antiguo alumno Francisco J. Varela, pero
dado que esta teoría fue creada años antes por Maturana en solitario, la tomo como su teoría a pesar de los
añadidos de Varela. Ver Maturana / Varela, El árbol del conocimiento. Las raíces biológicas del entendimiento
humano. Edición revisada. Shambhala Publications. Boston, Massachusets. 1987.
 4

1. Conexión estructural de Humberto Maturana solución

El punto de partida de la teoría del biólogo Maturana es la autorreproducción cerrada de las

células en los organismos vivos para entender la naturaleza sistémica de los sistemas
biológicos más complejos y las sociedades animales y humanas que se basan en ellos. La
autorreproducción de la estructura molecular interna de las células mediante procesos
químicos constantes está completamente determinada por la estructura interna de las mismas,
y sólo absorbe las sustancias químicas necesarias de su entorno. Cuando, en la evolución, los
organismos multicelulares comenzaron a formarse mediante la interconexión permanente de
las células, esto no cambió la autorreproducción cerrada de cada célula interna. Cada célula en
este cierre sólo está conectada entre sí como un todo, y los procesos internos de cada célula
sólo pueden ser irritados por las otras células y su autorreproducción como entorno.A través
de la irritación, el momento irritado de la reproducción interna en cadena de la otra célula
puede entonces transformarse, y este cambio puede cambiar la estructura interna de esta
célula, y entonces la célula como un todo también se transforma un poco. Sin embargo, esta
irritación sólo funciona en la medida en que la estructura interna de la célula lo permita. Si no
es así, la irritación puede matar a la célula, pero no puede identificar el efecto externo como
una irritación y, por tanto, no puede obligar a la célula a cambiar.
Maturana llama a este cierre sistémico y a la autorreproducción de las células cierre
operativo y a la conexión de las células de los organismos biológicos multicelulares
acoplamiento estructural. De este modo, el sistema biológico multicelular más complejo
realiza simultáneamente una doble autorreproducción, en la que se produce la renovación
constante de las células individuales y la renovación del propio organismo, formado por
células unidas entre sí, en su entorno. La conexión estructural, debida a la irritación mutua de
las células, produce su cambio recíproco (coordinado) dentro del sistema biológico más
complejo, pero el propio organismo reacciona a la estimulación de su entorno sólo sobre la
base de su determinación interna. Esto significa que el entorno no puede influir directamente
en el organismo, sino sólo en la medida en que su estructura interna especifica lo que puede
ser percibido como estimulación por el entorno, y entonces uno de los componentes del
organismo y, por tanto, la estructura del organismo cambia algo. Si no es así, puede destruir
las respuestas del organismo pero no cambiarlas. Maturana llamó a esta teoría de la
autorreproducción cerrada de las células y los organismos la teoría del sistema autopoético,
en contraste con la teoría del sistema anterior, de la que el cambio del sistema se explicaba en
gran medida por el entorno del sistema.
Maturana señala que los organismos pluricelulares más complejos pueden responder con
cambios a las irritaciones de su entorno, y esta capacidad de cambio aumenta radicalmente
cuando sus neuronas pueden transitar hacia un sistema nervioso central. Esto se debe a que las
superficies del organismo desde las que se perciben los efectos del entorno se conectan con
las superficies de movimiento del organismo (músculos), lo que le permite realizar muchos
más cambios (posiblemente cambios de ubicación)) a los irritantes. De este modo, el
organismo, a pesar de su determinación interna, puede percibir muchas más irritaciones y
reaccionar a ellas con su cambio estructural. Después de analizar las células y los organismos
multicelulares construidos a partir de ellas como unidades de segundo orden, Maturana
examina la coexistencia que resulta de las interacciones permanentes de organismos
multicelulares más complejos, que pueden crear sociedades animales permanentes como
unidades de tercer orden. En particular, cuando la coexistencia permanente ha provocado
tales cambios estructurales recíprocos en los organismos individuales interrelacionados que la
reproducción de la raza sólo es posible mediante el apareamiento de varios individuos. En
estos casos, debido al mejor cuidado de las crías, a la protección del organismo adulto que las
cuida y a la alimentación de las crías o de los hijos por parte de otros individuos, la
coexistencia a largo plazo se incrementa, y la conectividad estructural o la diversidad de
comunicación requerida para ello en la coexistencia se incrementa a un nivel superior. Esta
comunicación es posible de muchas maneras, por ejemplo, a través de la
 5

el intercambio continuo de compuestos químicos entre las hormigas en las sociedades de

hormigas, o a través de voces de canto especiales para algunas especies de aves, la formación
de dúos de respuesta, y finalmente el campo de la comunicación lingüística en los seres
humanos se convierte en el campo de la comunicación lingüística.
Los análisis de Maturana muestran aquí los dos estratos del ser de la existencia humana,
el estrato biológico del ser y el estrato cultural que se construye sobre él. A través del
lenguaje, uno puede describir sus propias relaciones internas y su entorno con diferentes
distinciones lingüísticas y así no sólo preservar su adaptación al entorno a través de sus
instintos, sino que también se preserva para los miembros de nuevas y nuevas generaciones a
través de la fijación y transmisión cultural a través de las distinciones lingüísticas: "El
lenguaje permite a quienes operan en él describirse a sí mismos y a sus circunstancias a través
de las distinciones lingüísticas de las distinciones lingüísticas" (Maturana/Varela 1987:210).
Mientras los organismos biológicos y sus comunidades reproducen continuamente sólo su
existencia biológica, la comunidad humana debe mantener y reproducir continuamente su
existencia cultural además de su existencia biológica: "En los sistemas sociales humanos, el
caso es diferente. Como comunidades humanas, estos sistemas también tienen un cierre
operativo, en el acoplamiento estructural de sus componentes. Pero los sistemas sociales
humanos existen también como unidades para sus componentes en el ámbito del lenguaje. Por
lo tanto, la identidad de los sistemas sociales humanos depende de la conservación de la
adaptación de los seres humanos no sólo como organismos (en un sentido general) sino
también como componentes de sus dominios lingüísticos." (ibíd.)
Matura describe cada uno de los dos estratos de la existencia humana de tal manera que
mientras, en el nivel de la existencia biológica, las unidades interrelacionadas están
estrechamente unidas entre sí y no permiten la independencia de las células de su
organización interna y son para el organismo vivo, el sistema social humano, sin embargo,
permite a sus miembros un mayor grado de autonomía. 3 Como excepción, presenta la
sociedad de Esparta, en la que se suprimió por completo la independencia de cada miembro y,
como organismo biológico, se realizó una estrecha interconexión en su organización social,
pero esta despersonalización llevó a la pérdida de viabilidad de toda la sociedad de Esparta.
En un estudio posterior con otro coautor, Maturana también mostró otra diferencia entre la
organización del nivel biológico y la organización del nivel lingüístico-cultural. Mientras que
el sistema biológico vive siempre en el presente, los sistemas del nivel cultural pueden, a
través de la observación y de su fijación lingüística, utilizar experiencias pasadas y posibles
eventos futuros además del presente, y las acciones humanas también pueden moldearse a la
luz de estas experiencias: "Sólo para nosotros, los seres humanos, al existir y operar en el
lenguaje, podemos generar reflexiones y explicaciones, en tanto que el pasado, el presente y el
futuro, tienen presencia y valores operativos en nuestro vivir como nociones explicativas de
nuestras experiencias". (Maturana/ de Rezepka: 2007:4).
La naturaleza bicapa de la existencia humana permite así la diferenciación temporal a
través de la capa superior de la existencia, y así la teoría de Maturana plantea en principio el
proceso de formaciones más permanentes de la capa cultural de la existencia humana junto al
proceso progresivo de la capa biológica de la existencia humana. Sin embargo, Maturana
insiste en que la reproducción del mundo humano se basa siempre en determinaciones y
causalidades momentáneas, por lo que critica el pensamiento que quiere predeterminar la vida
de nuestros hijos de hoy por diversos temores: "Nosotros los seres humanos creamos el
mundo que vivimos surge momento tras momento en el flujo de nuestro vivir, ¿cómo
podemos pretender entonces, precisar un futuro que no nos pertenecerá porque surgirá en el
vivir de nuestros hijos y no será creado por nosotros? (...) Los seres humanos vivimos en el
presente; el futuro y el pasado son modos del ser en el presente". (Maturana/de Rezepka:
2007:9.) Así, desde este
3
"El organismo restringe la creatividad individual de sus unidades componentes, ya que estas unidades existen
para el organismo. El sistema social humano amplía la creatividad individual de sus componentes, ya que ese
sistema existe para esos componentes" Matura/Varela 1987: 99).
 6

afirmación surge una subestimación en términos de observación cultural y predicción

sociológica, así como de la capa cultural general del ser, y una sobreestimación de las
características de la capa biológica del ser.
Además de los dos estratos del ser, cabe señalar que Maturna menciona ocasionalmente
que el mundo físico se construye bajo condiciones biológicas y que el sistema biológico toma
materia de su materia física: "Así, las unidades autopoiéticas especifican la fenomenología
biológica como la fenomenología propia de esas unidades con rasgos distintos de la
fenomenología física. Esto es así, no porque las unidades autopoiéticas vayan en contra de
algún aspecto de la fenomenología física -ya que sus componentes moleculares deben cumplir
todas las leyes físicas-, sino porque los fenómenos que generan al funcionar como unidades
autopoiéticas dependen de su organización y del modo en que ésta se produce, y no de la
naturaleza física de sus componentes (que sólo determinan su espacio de existencia)".
(Maturana/Varela 1987: 51). Así, al final, de las teorías de Matuana surgen tres estratos del
ser, pero menciona lo físico sólo como un estrato dador de materia (utiliza el término
"fenomenología especial" para cada estrato del ser), y no analiza más la relación entre lo
físico y lo biológico, por lo que no intenta establecer conexiones más generales entre ellos.

2. Análisis de Luhmann sobre los niveles del sistema del mundo

En los escritos de Niklas Luhmann hay varios cambios de pensamiento para poder abordar las
capas del ser que hay debajo del mundo social. Sus intentos se encuentran primero en un
artículo de 1974, luego en su resumen exhaustivo de la teoría de sistemas de 1984 y
finalmente en sus escritos entre 1987 y 1991. En los escritos de 1987 a 1991 trata este tema de
forma especialmente sistemática en relación con el análisis de la relación entre los sistemas
psíquicos y la comunicación social.
En el primer material mencionado,4 examinó la relación entre el poder y la violencia
física, que es su base última, y Luhmann también profundizó en este contexto en la relación
entre el mundo social y su capa físico-biológica de ser. El modelo para ello fue proporcionado
por la teoría de los medios de comunicación de Talcott Parsons, por quien la violencia física
fue entendida como el medio último para cubrir el poder como medio de intercambio
generalizado del sistema político. El Estado moderno, con su monopolio del uso del poder
físico, sólo tiene poder como medio de intercambio simbólico generalizado, en la medida en
que sólo está disponible como último recurso, pero normalmente no tiene que utilizarlo. Al
igual que el dinero como medio de intercambio se basa de forma abstracta en que lo
aceptamos por la posibilidad de cambiarlo por productos, pero esto no se comprueba
normalmente cada vez que se recibe dinero y sólo así el dinero hace que la sociedad funcione
de forma armoniosa. Luhmann generaliza un poco este ejemplo y ve que también hay una
conexión con esa capa físico-orgánica de estar bajo el medio de intercambio de varios
subsistemas sociales. Como en el caso del amor como medio de intercambio de las relaciones
íntimas, es la sexualidad la que sirve para fijar las relaciones amorosas en una capa biológica
de la vida. Esto hace que el amor como relación comunicativa construida a nivel social sea
realmente fuerte y pueda dar estabilidad duradera a las relaciones familiares basadas en el
matrimonio por amor en las sociedades modernas. Del mismo modo, en el caso de la ciencia
como subsistema de la sociedad, a partir de la verdad como medio de intercambio, el trabajo
de investigación para encontrar la verdad y las decisiones correspondientes sólo pueden
organizarse cuando la percepción sensorial

4
Este estudio de 1974 titulado "Symbiotische Mechanismen "forma parte del libro "Soziologischen Aufklärung 3"
y es
disponible para mí, así que lo citaré.
 7

como medio último de descubrimiento es la base última para la toma de decisiones. Si la

verdad en relación con una apariencia no puede ser decidida por una percepción final e
indirecta, queda eliminada de la perspectiva de la ciencia moderna.
Luhmann también hace algunas observaciones generales en este estudio que también
afectan a la relación entre la capa social del ser y la capa físico-biológica del ser. Una de ellas
se refiere al hecho de que el lugar de conexión entre las dos capas del ser se encuentra en el
nivel de los sistemas del mundo social, que se basa principalmente en el aspecto biológico de
la persona, es decir, en el nivel de los sistemas de interacción. 5 Sin embargo, si sabemos que
en la teoría de Luhmann, la organización social otorga un papel cada vez menor al nivel de las
interacciones personales, y en el curso de la evolución social se eclipsa cada vez más en favor
de las organizaciones formales, e incluso dentro del nivel de la interacción, la interacción
personal se sustituye cada vez más por la comunicación escrita impersonal, entonces la
vinculación del estrato social del ser con el estrato físico-biológico del ser en el nivel de las
interacciones personales significa también la disminución de este vínculo.
Otro comentario más general de Luhmann sobre la relación entre las dos capas del ser es
que la violencia física y la sexualidad en las relaciones sociales no sólo se producen como
hechos físico-biológicos en su crueldad, sino que también se socializan y transforman
mediante una dimensión simbólica. Es decir, una transformación de estos hechos físico-
biológicos se lleva a cabo también en la capa de ser del mundo social: "Gewalt, Sexualität
usw. haben in disem Sinne eine symbolische, nicht nur eine physische oder organische
Wirksamkeit (..) die soziale und kulturelle Entwicklung von Medien-Codes Umdisposition im
Bereich der symbiotishcn Mechanismen erfordern mag" (Luhmann 1981: 231). Por último,
una de las observaciones más generales de este estudio es que, aunque se acepte la tesis
evolucionista de que la interferencia cultural-simbólica crea contactos sociales cada vez más
espiritualizados en las sociedades modernas, esto no significa que haya un desprendimiento de
los fenómenos de la capa físico-biológica del ser: "Dies Konstrastbeispiel erhärtet die
Vermutug, daß selbst wenn man die These von einer kulturell-symbolischen Steuerung der
gesellschaftlichen Evolution akzeptiert, der Bezug zur Sphäre physisch-organischen
Zusammenlebens damit nicht bedeutungslos wird (...) Fruchtbarer wird es sein, davon
auszugehen, daß sinnhafte Erlebnisverarbeitung und Kommunikation ihr physisch-
organischen Substrat als Wirklichkeit nicht ignorieren." (Luhmann 1981:241).
La siguiente reflexión de Luhmann sobre este tema se encuentra en su libro Sistemas
sociales de 1984 y aquí ya expresó sus tesis de forma más general en términos de los estratos
del ser de la realidad. Partió de la premisa de que, desde Kant, la antigua concepción
ontológica de la realidad ha sido descartada por el pensamiento filosófico moderno y el mero
Ding an sich ahí fuera en el mundo sólo puede alcanzarse mediante construcciones activas de
la conciencia, y aunque la solución de Kant psicologiza en exceso este problema, éste puede
resolverse más adecuadamente desde una perspectiva amplia de la teoría de sistemas. Desde
esta perspectiva más amplia, se deduce que ciertos elementos de la realidad no están
predeterminados por la propia realidad, sino que, por el contrario, son autoconstruidos por
diferentes sistemas (biológicos, psicológicos y sociales). 6 Sobre la base de esta

5"
Beim Aufbau sozialer Systeme erfüllen diese Bedingungen Interaktionssysteme, die durch relative rasch
strukturiert werden können, dadurch aber nicht festgelegt sind, sondern noch definierbar bleiben. Esto es
especialmente importante para las relaciones de pareja, para la lucha contra el malestar físico y para la
comunicación sobre cuestiones sociales o sociales: Sexualität bzw. Befriedigung aus knappen Ressourcen. (....)
El enfoque en los organismos präsente erleichtert mit anderen Worten die Herstellung der reflexiven
Reziprozität der Perspektiven und damit die soziale Strukturierung der Situation". Niklas Luhmann: La atención
sociológica
3. ". Westdeutscher Verlag. 1981. 231. p.
6
" Y aunque la palabra y la estructura de los términos se entienden, la existencia de un elemento (por
ejemplo, una mano) no se ha establecido de forma inmediata. Se trata de un elemento que se construye a
través de un sistema que permite relacionarse con otros elementos. Esta desoficialización y funcionalización
de los estados de ánimo es, en el movimiento de la ciencia moderna, una consecuencia de la
 8

Por ello, Luhmann afirma que hay que rechazar la antigua visión de la estratificación de la
realidad y su construcción de abajo arriba: "No se trata sólo de una construcción histórica, en
la que los elementos más antiguos deben ser reforzados, para que puedan ser modificados.
Además, las condiciones de la evolución de los niveles más altos de la formación del sistema
se han de definir por sí solas en una forma más adecuada. Surgen a través de la
Inanspruchnahme. Por lo tanto, la evolución sólo es posible mediante la interpenetración, es
decir, sólo es posible mediante la modificación de la situación". (Luhmann 1984:294). Con
este rechazo general, Luhmann no entra en detalles sobre las teorías ontológicas de la
estratificación de la realidad, ni siquiera cita críticamente a los autores relevantes en su obra,
entre ellos Nicolai Hartmann. Si nos acercamos entonces a la solución de Luhmann al analizar
la relación entre el mundo social y el ser humano, vemos que incluso podría haber llegado a
las conclusiones de Hartmann.
Luhman rechaza al "ser humano" como unidad básica de organización social en las
teorías sociales tradicionales porque, dada la crítica a la tradición humanista, ve que al
concebir al ser humano como la unidad de la sociedad, toda la concepción de la sociedad se
construye también como si la sociedad fuera sólo para el ser humano, para su elemento
último. Esto, a su vez, obliga a la teoría social a entrar en un marco ideológico-normativo y,
por lo tanto, hay que deshacerse de este marco para ser imparcial. Por lo tanto, hay que
descartar el concepto unitario de "hombre" y sólo puede entrar en escena la "persona" como
elemento del mundo social, que sólo puede entenderse como punto de identificación de las
expectativas normativas y cognitivas para el hombre individual (persona) en las formaciones
del mundo social. Es decir, la persona representa sólo los aspectos del lado social del ser
humano y corta los aspectos biológicos y psicológicos del ser humano, y el propio ser
humano, junto con sus aspectos biológicos y psicológicos, está fuera del mundo social en la
teoría de Luhmann y se define como su entorno. Por otra parte, la "persona" reducida como
aspecto social del ser humano aparece sólo como una construcción significativa en la
reconstrucción del mundo social: "Wir wählen den Ausdruck "Mensch", um das festzuhalten,
daß es sowohl um das psychische als auch das organische System des Menschen geht. La
palabra "Persona" debe ser interpretada en este sentido, para que se reserve para la
identificación social de un complejo de experiencias que se refieren a un individuo".
(Luhmann 1985:286).
El siguiente paso constructivo teórico de Luhmann es vincular los aspectos biológicos y
psicológicos del ser humano, percibidos como el entorno necesario del mundo social, al
concepto de penetración. En efecto, esto significa conectar la capa social del ser con las capas
psicológica y biológica del ser de la realidad. Con la penetración, una entidad de un nivel del
sistema pone su complejidad a disposición de otra entidad de otro nivel del sistema, sin la cual
no podría construirse ni existir. (Así, sin la vida biológica, las entidades del mundo social no
podrían existir). Y podemos hablar de penetración mutua, de interpenetración, cuando las
entidades de ambos niveles del sistema se transforman mutuamente a través del contacto. 7 Si
nos fijamos ahora en los análisis de Hartmann sobre la división del ser humano y del mundo
humano en cuatro estratos del ser y en la focalización en el estrato del ser más significativo de
la sociedad humana, Luhmann también habría dejado de lado el cuadro social basado en lo
humano, que rechazó por su defensa

Mathematisierung der Naturwissenschaften in Gang gebracht worden". Luhmann: Soziale Systeme. Surhkamp,
Frankfurt am Main, 1984. 42.p.
7"
Hablamos de penetración cuando un sistema tiene su propia complejidad (y, por lo tanto, su falta de valor, su
capacidad de negociación y su capacidad de selección) para crear otro sistema. En este sentido, los sistemas
sociales "viven". La interpenetración se produce entonces, cuando este alcance es igual, y cuando los dos
sistemas son iguales, ya que
y que se incorpore a la otra su propia complejidad. (...) En el caso de la interpenetración, el sistema que se
ha creado también se ha convertido en la estructura de los sistemas que lo han penetrado". (Luhmann
1984:290.)
 9

contra el sesgo humanista, sobre la base de los análisis de Nicolai Hartmann. Si hubiera
asumido esto, también podría haber intentado construir una reconstrucción teórica más precisa
de la sociedad sobre la capa del ser espiritual de la realidad.
Luhmann restringe en gran medida la conexión entre los sistemas sociales y los sistemas
psíquicos a su momento común de significado, y por lo tanto, todos los procesos espirituales-
emocionales del sistema psíquico sólo pueden parecer estrechos. 8 Sin embargo, como los
procesos espirituales-emocionales están constantemente en contacto con los instintos de los
procesos biológicos desde abajo, y también llevan sus impulsos hacia adelante a través de la
transformación, toda esta capa del ser queda fuera de la perspectiva de Luhmann. Utilizando
la teoría del acoplamiento estructural de Maturana, en la que la conexión se produce sólo en el
nivel de los elementos y a través de este nivel las estructuras cambian sólo indirectamente
debido al cambio de sus elementos interconectados, Luhmann resuelve la conexión de las
capas del ser de la siguiente manera: "Es sind Differenz und Ineinandergreifen von
Autopoiesis und Struktur (die eine sich kontinuerlich reproduzierend, die andere sich
diskontinuerlich ändernd), die für das Zustandekommen von Interpenetrationsverhältnissen
zwischen organisch/psych und sozialen Systemen auf beiten Seiten unerläßlich sind"
(Luhmann 1984:297). Esto significa, por ejemplo, que los dos niveles del sistema tienen un
contacto constante debido al significado como su bloque de construcción común, y tanto las
contribuciones significativas de los sistemas psíquicos de los participantes en la comunicación
como las contribuciones significativas de los subsistemas sociales involucrados en la
comunicación contribuyen al desarrollo posterior de estos sistemas sociales, y algo también
transforma los sistemas psíquicos participantes en este contacto. Pero sólo en la medida en
que la estructura del sistema psíquico lo permite, pero por otra parte, esta estructura misma se
ve algo modificada por el cambio de su elemento. Además del hecho de que de este modo
sólo se tiene en cuenta la parte intelectual de la capa psíquica del ser y se corta por abajo la
influencia de los instintos biológicos sobre el material intelectual del sistema psíquico, puede
decirse en general que en esta teoría no hay una estructura ascendente de las capas del ser,
sino sólo una irritación mutua y un cambio parcial resultante.
Para dar un ejemplo concreto del efecto de este estrechamiento, podemos mencionar la
comunicación amorosa en el mundo social y la relación intelectual-emocional duradera
resultante. Es bastante obvio que en esta relación la existencia y el grado de instinto sexual
biológico en los dos miembros de la pareja juega un papel importante, y si éste es mínimo por
alguna razón biológica en el caso de uno de los miembros de la pareja, por ejemplo, la
relación amorosa en el caso de ese miembro de la pareja se desarrollará de forma muy
diferente al caso del otro miembro de la pareja que participa en la relación y que tiene un
fuerte instinto sexual, y presumiblemente esta diferencia llevará pronto a la ruptura de la
relación. Es decir, el amor se impregna biológicamente no sólo de una relación intelectual,
sino también de sexualidad, y este componente biológico se transforma al nivel emocional-
espiritual. Y esto, combinado con dicha base biológico-espiritual, crea un tipo de
comunicación y asociación amorosa completamente diferente a la que se da entre dos socios
con el mismo impulso sexual biológico. Sin embargo, lo mismo puede decirse del análisis de
otra serie de fenómenos sociales en los que se producen los efectos directos de fuertes
estímulos biológicos, como el funcionamiento del instinto de vida ante el peligro mortal, que
en el soldado en guerra lleva a la abrogación de una serie de normas morales hasta ahora
consideradas sagradas y al renacimiento del antiguo instinto de matar. Entonces, después de
una guerra, estas personalidades "devastadas", remodeladas para el asesinato, la crueldad e
incluso la apreciación de estas actividades, serán casi incapaces de reintegrarse a la vida civil
durante mucho tiempo. Por el contrario, estos instintos de vida en la vida civil

8
"Von hier aus wird besser verständlich. weshalb dar Sinnbegriff theoriebautechnisch so hochrangig
eingeseztzt werden muß. El pecado permite la integración de las construcciones psicológicas y sociales del
sistema en el marco de su autopoiesis; el pecado permite la integración y el refuerzo de la conciencia en la
comunicación y, sobre todo, el refuerzo de la comunicación en la conciencia de los participantes". (Luhmann
1984:297).
 10

principalmente se degradan y, por otro lado, los instintos remodelados de ayuda se acumulan
y sobre la base de tales estímulos biológicos restringidos y remodelados y de la vida
espiritual-emocional influenciada por ellos, los procesos de comunicación intelectual entre los
participantes de la vida social y las instituciones sociales resultantes también proceden de
manera diferente. Por supuesto, se podrían dar más ejemplos de la coexistencia de estímulos
biológicos, vida espiritual-emocional y formaciones de comunicación social-intelectual, pero
estos dos ejemplos fueron quizás suficientes para mostrar que Luhmann separa demasiado los
niveles del sistema biológico, consciente y social (o en palabras de Hartmann: las capas del
ser) y, por lo tanto, sólo puede captar el funcionamiento de las formaciones reales a través del
estrechamiento y la distorsión.
Para entender este problema, este tipo de acoplamiento estructural entre los sistemas
psíquicos y los sistemas de comunicación del mundo social puede verse en los estudios de
Luhmann de 1987 a 1994. 9 En el artículo "Die Autopoiesis des Bewusstseins" elaboró de
forma más completa sus ideas sobre el acoplamiento de los dos niveles del sistema, que no
modificó en sus trabajos posteriores.
Cabe destacar que, desde el inicio de sus reflexiones en 1974, Luhmann ha cambiado
radicalmente su concepción del sistema al adoptar la idea de autopoiesis, y ahora ha pasado a
un proceso de cierre circular en la secuencia operativa de los elementos del sistema, en lugar
de prestar atención a las estructuras. Mientras que en 1974, con el énfasis en los mecanismos
simbióticos en los análisis de Luhmann, los estímulos biológicos también desempeñaban un
papel durante los procesos de comunicación intelectual (por ejemplo, la influencia continua
del impulso sexual en el mantenimiento del amor), aquí han desaparecido por completo a
finales de los años ochenta. De este modo, los procesos del sistema de conciencia significan
aquí sólo la conexión de las comunicaciones intelectuales. De pensamiento a pensamiento, los
procesos de conciencia se mueven como portadores del sistema psíquico, y aquí no hay
instinto psico-emocional o biológico: "Die Autopoiesis des Bewußtseins ist das Fortspinnen
mehr oder minder klarer Gedanken, wobei das Ausamaß an Klarheit und Distinktheit
selbestregulativ kontrolliert wird je nachdem, was für ein bestimmten Gedankenzug - vom
Dösen und Tagträumen bis zur mathematischen Rechnung - zur Einteilung der Gedanken und
zum Übergang erforderlich ist". (Luhmann 1995:61). Esta visión de la conciencia, limitada a
un aspecto puramente intelectual, puede, por supuesto, revelar cosas muy inteligentes sobre
este tipo de proceso intelectual en la conciencia individual y, por ejemplo, para la maduración
de los pensamientos, y Luhmann describe profundas percepciones al respecto. Por ejemplo,
subraya que sólo a través de la auto-observación constante en la conciencia se lleva el nuevo
pensamiento a un nivel más maduro, y sólo a través de esto se hace también accesible a la
conciencia: "Für sich ist ein Gedanke also zunächst nur ein Gedanke, für andere Gedanken
dagegen, das heißt für den rekursiven Prozeß des Systems, ist eine Vorstellung" (Luhmann
1995:65) Cualquiera que haya tenido una idea completamente diferente y nueva que antes y,
después de consolidarla por sí mismo, haya tratado de averiguar cómo nació en su cabeza,
obtendrá mucha ayuda de este estudio de Luhmann, y sentirá que realmente podría haber
ocurrido así. Estas reflexiones de Luhmann son de agradecer, pero ello no altera el hecho de
que, si bien Luhmann hizo un excelente trabajo al elaborar el aspecto intelectual de la
conciencia individual, apartó completamente de él los efectos de los instintos emocionales y
biológicos.
Con respecto a las emociones, incluso los seguidores cercanos y los críticos de Luhmann
notaron sus deficiencias teóricas, y en 2004 se dedicó un número especial de la revista
"Soziale Systeme" de Bielefeld a este tema. Veamos primero a Dirk Baecker, de los
defensores de Luhmann, y a Luc Ciompi, de los críticos. Baecker reconoce básicamente que
las emociones no juegan un papel destacado en la teoría de Luhmann y dentro de los análisis
de Luhmann sobre la conciencia

9
Estos estudios aparecieron juntos en el volumen de Luhmann de 1995, y los citaré aquí, véase Luhmann:
El conocimiento sociológico 6. Die Soziologie und der Mensch. Westdeuscher Verlag. Opladen. 1995.
 11

procesos de los sistemas mentales. 10 Sin embargo, algunas funciones subordinadas son
enunciadas una o dos veces por Luhmann en relación con las emociones, por ejemplo, que
actúan como un sistema inmunológico de la conciencia cuando el proceso de pensamiento
consciente vacila, y luego desaparecen de nuevo cuando el proceso de pensamiento se
restablece. Según sus escritos, Dirk Baecker también considera este papel subordinado hasta
cierto punto, pero considera innecesario aceptar la ampliación radical de Luc Ciompi respecto
al papel de las emociones en el funcionamiento del sistema mental. Sin embargo, menciona
una razón práctica en este rechazo. En su opinión, la teoría sociológica de las emociones se
encuentra todavía en un nivel empírico tan incierto que es mejor evitar esta incertidumbre. 11
Sin embargo, es interesante la explicación de Baecker de por qué Luhmann era reacio a
reconocer el papel del mundo emocional en los acontecimientos sociales y las instituciones
sociales. Según su descripción, el tratamiento de las emociones era ajeno a todo el estilo
teórico de Luhmann, y lo atribuye a los acontecimientos históricos de la juventud de
Luhmann, cuando la supresión de los movimientos fundamentalistas y fascistas en la
Alemania de Hitler marcó las condiciones de vida de Luhmann y estos movimientos se
basaban en gran medida en la liberación de las emociones colectivas y sus efectos
perjudiciales. Sólo en la obra tardía de Luhmann esto comenzó a relajarse un poco, pero esto
ya no cambió las direcciones originales. 12 Esto es sólo una meditación de Baecker para
encontrar la causa en el pensamiento de Luhmann, pero como estuvo al lado de Luhmann en
Bielefeld durante muchos años, entre 1980 y 1995, pudo conocer este lado de Luhmann, que
por lo demás era muy reservado en sus asuntos personales internos. Por tanto, hay que tener
en cuenta esta explicación. Por supuesto, esto no es excusa para la deficiencia teórica de
Luhmann en este ámbito, por lo que el papel de Ciompi para las emociones en los procesos
mentales de la psique y en la construcción estructural y los acontecimientos del mundo social
merece la mayor atención.
Sin embargo, la omisión de las emociones en el análisis de los procesos mentales no
puede explicarse, en mi opinión, simplemente por la particular socialización personal de
Luhmann. Esto proviene de su decisión teórica tomada mucho antes, casi al principio de su
formación teórica. Según ésta, el significado es el bloque de construcción común en el nivel
del sistema por encima del nivel del sistema físico y biológico, es decir, en el nivel de los
sistemas psíquico y social. Esta decisión básica no incluye la captación de las emociones, y
esta captación sólo podría haberse realizado corrigiendo esta decisión básica. Esta corrección,
junto con una serie de otras modificaciones, sólo podría haber sido incoherente, y Luhmann
nunca estuvo dispuesto a hacer tales correcciones en su teoría.

10
"En la actualidad, las emociones en el conjunto de Niklas Luhmann no desempeñan un papel muy
importante. Luhmann ha marcado el punto de partida, en el que se ha desarrollado una teoría de las
emociones a partir de su teoría de los sistemas sociales, que se ha centrado en esta teoría, pero que se ha
convertido en el punto de partida de las emociones.
Phänomen der Gefühle nie die aufmerksamkeit geschenkt, die etwa Ciompi angesichts der nicht nur
psychischen, sondern auch sozialen Prominenz des Phänomens für geboten hält". (Baecker 204:9-10.)
11
"Affektkontrolle hat es immer auch mit dem Adressieren von Affekten zu tun, und niemend weiß, welche
Las emociones son el origen de todo esto. La sociología de las emociones pone de manifiesto esta falta de
respeto y
Unberechenbarkeit von Emotionen in Rechung, indem sie als Phänomene beschreibt, in denen die
verschiedene Systemebenen des Organismus, des Bewusstseins und der Kommunikation aufeinandertreffen,
ohne dass man genau wusste, wie sich diese Systeme ausdifferenzieren und wie sie miteinenader gekoppelt
sind. (....) Mir scheint siese Frage nicht entscheidbar zu sein, solange die Theorie der Emotionen so schwach
ausgearbeitet ist, wie dies gegenwärtig der Fall ist". (Baecker 2004:12-13.).
12
"Esta abstinencia frente al fenómeno de la felicidad tiene en Luhmann unas pautas que se basan en su
teorema, que también tiene un motivo histórico. Si se trata de una teoría que se basa en la diferenciación en
relación con la complejidad de la sociedad, y que no se limita a la diferenciación de los valores fundamentales
y, en última instancia, de los valores fascistas de la sociedad, no se limitará a los fenómenos cuya función
puede ser la de hacer que las diferenciaciones sean muy difíciles y problemáticas, o incluso que las entiendan.
Por lo tanto, es tan importante que Luhmann pueda bloquear este punto de vista en su obra y crear un "medio
de comunicación"". (Baecker 2004:10).
 12

Además de investigar la psique, Luc Ciompi, como médico psiquiatra, también se ocupó
de las emociones y supervisó continuamente los resultados de los experimentos psicológicos y
sociales en este campo. En sus análisis queda claro que el pensamiento humano está rodeado
en todo momento por los componentes emocionales de la psique y que, en su mayor parte,
todo nuestro conocimiento no está acompañado de forma consciente y perceptible por nuestra
disposición emocional. (Véase Ciompi 1997, 2004) Cuando acumulamos conocimientos y
experiencias, nuestras actitudes emocionales hacia el tema se graban en nuestra memoria
junto con los conocimientos y las experiencias, y cuando los conocimientos y las experiencias
se recuerdan posteriormente, estas emociones también aparecen, inseparables de la
experiencia y los conocimientos. No pensamos de forma puramente intelectual, sino que es
importante lo que despierta nuestro interés, los recuerdos y asociaciones que surgen o
permanecen sofocados a la vista de algo, y así se bloquean ciertas vías de pensamiento y se
ponen en primer plano otras. Es decir, el pensamiento y las experiencias que se utilizan para
hacerlo están coloreados emocionalmente, y el pensamiento intelectual y sus procesos de
pensamiento corren constantemente junto con los procesos emocionales en nuestro cerebro.
Ciompi señala que las emociones corren a la par de nuestros procesos intelectuales,
especialmente cuando adquirimos nuevos conocimientos en una situación nueva. Cuando más
tarde lo incorporamos junto a los conocimientos existentes, nuestros nuevos conocimientos
adquiridos en nuevas experiencias ya se convierten en rutina y, con la repetición, se
minimizan los procesos emocionales y el consumo de energía emocional. Sin embargo, si más
tarde surge una situación problemática en relación con estos, la dimensión emocional también
se reactiva y corre paralela al procesamiento del problema también a nivel intelectual. 13
En resumen, Luhmann limita la psique, el sistema psíquico (o varias veces llamado
simplemente "conciencia") a los procesos intelectuales que van de pensamiento en
pensamiento. Sin embargo, de los análisis de Ciompi se desprende que este punto de vista
pasa por alto la verdadera psique humana y no puede captarla adecuadamente sin los procesos
emocionales. A diferencia de Luhmann, Nicolai Hartmann, con su teoría de la realidad
formulada de forma exhaustiva, fue capaz de formular más adecuadamente el conjunto de
componentes biológicos, psicológicos e intelectuales de la existencia humana y su
cooperación. Por ello, a la hora de investigar el tema, recurriremos a Hartmann.

3. La opinión de Nicolai Hartmann sobre las capas de ser

Hartmann cultivó un tipo de filosofía que concebía no como una actividad intelectual más,
además de las ciencias, sino como el tipo de ciencia más completo, el sintetizador más general
de los conocimientos científicos más específicos. 14 Por ello, basándose en los resultados
científicos empíricos de su tiempo, intentó repensar las categorías ontológicas más abstractas
heredadas del pasado. Así, trató de resumir ciertas categorías de Platón, Aristóteles, los
neoplatónicos y luego los grandes filósofos de la Edad Media y la Nueva Era (Duns Escoto,
Leibniz, Kant, Hegel y el neokantianismo) a la luz de la física, la biología, la psicología y los
recientes hallazgos de las ciencias sociales. A diferencia de Luhmann, que esencialmente
compiló su teoría social general sólo a partir de ciertas áreas de las ciencias sociales y sólo

13
"Zur Alltagslogik wird alles anfänglich Neue und Aufregende, das sich oft genug widerholt. Las emociones que
se han de transmitir son, sin embargo, poco conocidas por la naturaleza, pero mantienen sus características
típicas.
Operatoreffekte, "wie selbsverständlich" bei - ein höchst sinnvoller Mechanismus, der gleiche Leistung mit viel
geringerem affektenergetischem Aufwand ermöglicht (...) Passiert indes Ungewohntes, so flammen alle
latenten Affekte wieder auf". (Ciompi 2004:10.)
14
Para una descripción detallada de la filosofía de Hartmann, véase Wolfgang Stegmüller: Hauptströmungen der
Gegenwartsphilosophie. Alfred Körner Verlag 1999. 3ª edición
 13

consideró de pasada los niveles del sistema biológico y físico, Hartmann examinó
sistemáticamente las interrelaciones más amplias de este nivel del sistema. Así, en su primera
obra importante, se ocupó de las cuestiones filosóficas de la biología y más tarde, además de
sus muchos años de trabajo en la historia de la filosofía, se ocupó también de la esfera ético-
moral del mundo social en su ética sistémica, y también de las actividades artísticas en un
minucioso monográfico sobre la estética. Luego comenzó a resumir estas investigaciones en
una teoría de los estratos del ser en el mundo real, una idea que ya había aparecido en
Aristóteles. Publicó esta teoría en 1933, primero en relación con el estrato intelectual del ser
en una monografía sistemática, y luego en 1940 incluyó una tabla exhaustiva de los estratos
del ser del mundo real y las regularidades entre ellos. Según sus ambiciones, esta teoría puede
leerse como una síntesis de los contextos científicos más completos de la época.
Harmann ve el mundo real como una combinación de cuatro capas del ser construidas
unas sobre otras en el curso de la evolución. La capa biológica del ser, que se construye sobre
la capa física del ser, y que, tras una fase de la evolución, creó la capa psicológica del ser en
algunas especies animales, y finalmente, en el caso de los primates, también aparecieron los
inicios de la capa intelectual del ser, que, construida sobre las tres capas anteriores, se hizo
entonces especialmente pronunciada y decisiva en los seres humanos. En esta superposición,
Hartmann distingue entre la construcción en la que los elementos característicos del estrato
inferior del ser se utilizan para el estrato superior de forma transformada, como es el caso del
estrato biológico del ser, y el modo que se limita a construir sobre el estrato inferior, pero al
hacerlo no se utilizan sus elementos, y de este modo se hace posible un desprendimiento más
autónomo del estrato inferior. Esto se muestra más tarde por la capa psíquica de ser construido
en la parte superior de la biológica, y también por la capa espiritual de ser construido en la
parte superior de la psíquica. Una correlación importante en la conexión de las cuatro capas
del ser es que mientras la capa superior del ser siempre tiene un grado de evolución más alto,
las inferiores son ontológicamente más fuertes que las superiores. Esto se debe a que las
superiores no pueden transformar las leyes de las capas inferiores, y sin violarlas, pueden
desplegar las leyes de sus propias capas superiores. Así, las capas biológicas y superiores del
ser no pueden violar las leyes físicas subyacentes, al igual que los animales con una capa
psíquica del ser y los seres humanos pueden sobrevivir sólo con el funcionamiento de las
leyes biológicas, y finalmente, las instituciones sociales creadas con la capa espiritual del
hombre pueden sobrevivir sólo gracias a las leyes de las capas inferiores del ser sin violarlas.
Además de estos cuatro estratos del ser, que Hartmann denomina estratos de la existencia
real, distingue la existencia ideal, que sólo desempeña un papel en el caso del estrato
espiritual más alto del ser. Esta existencia ideal caracteriza únicamente a los productos
espirituales que sólo existen en papel o en otra forma fija similar, pero que no se utilizan en
ninguna comunidad humana. Para nombrar esta diferencia, Hartmann utiliza el espíritu "vivo"
por un lado para los productos intelectuales y las acciones cognitivas que funcionan como
parte de la capa de existencia real, y por otro lado la existencia espiritual "muerta" de los
productos intelectuales objetivados que ya se han desprendido de la existencia real y existen
sólo en papel. Estos últimos siguen siendo parte de la existencia ideal pero no de la existencia
real, pero en el caso de la fijación y la posibilidad de volver a ellos, la existencia ideal de los
productos intelectuales objetivados siempre puede convertirse en existencia real si una
sociedad los utiliza para el funcionamiento de sus prácticas intelectuales y sus instituciones.
Al abordar las cuatro capas del ser, la capa psíquica del ser provoca un problema de
comprensión para el investigador. Para entenderlo, hay que saber que Hartmann separa el
espíritu personal dentro de la capa espiritual "viva" del ser, que es la capa más alta de las
cuatro capas del individuo único. El verdadero espíritu objetivo en las sociedades humanas
está representado por las actividades de millones de espíritus personales y las instituciones
intelectuales resultantes (normas morales, leyes, sistemas de lenguaje, etc.) que alimentan su
funcionamiento social. (Si un intelecto no lo hace, permanece como un espíritu muerto en
papel de forma fija de existencia ideal). Así pues, el
 14

La capa psíquica del ser vinculada a cada persona está siempre en la vecindad del espíritu
personal y fluye conjuntamente en la conciencia humana. Sólo una parte de la capa psíquica
del ser aparece en la conciencia, y los procesos mentales inconscientes la complementan.
Pero, ¿dónde está el límite y qué es lo que da su propio terreno a la capa psíquica del ser? Si
buscamos una respuesta a esta pregunta, encontramos confusión en Hartmann.
En su libro sobre los problemas de la capa espiritual del ser de 1933, entra en más
detalles y escribe aquí que la capa psíquica del ser es una delgada franja entre las influencias
de las capas inferiores biológicas y superiores espirituales adyacentes del ser: "Das
Bewußtsein ist gleichsam nur ein schmaler Streifen zwischen ihm und dem unbewußt
Seelischen. Beide greifen mannigfach bestimmtend in seiner Ebene ein, aber in
entgegengesetztem Sinne" (Hartmann 1962: 50-51) El sector subconsciente psíquico se
extiende al mundo instico biológico, desde la otra dirección, sin embargo, los procesos del
espíritu personal llegan hasta la capa psíquica del ser y ambas influencias opuestas dan
conjuntamente el funcionamiento de la capa psíquica-espiritual del ser. Sin embargo, a partir
de esta descripción, la naturaleza misma de la delgada franja específica queda sin explicar, y
la capa psíquica del ser está realmente dividida en las direcciones inferior y superior entre dos
capas adyacentes del ser. Pero si esto es así, surge la pregunta de por qué no basta con hablar
sólo de los instintos de la capa biológica del ser de abajo y de los procesos conscientes de la
mente personal de la capa mental del ser de arriba. Pero no sólo la especificidad de la
"delgada franja" permanece oscura aquí, sino que las emociones también faltan en la
descripción de Hartmann de la capa psíquica del ser. Si buscamos descripciones alternativas,
podemos mencionar a uno de los compañeros de discusión de Hartmann, Max Scheler, en
cuya descripción aparecen las emociones, y a Arnold Gehlen, como su compañero de
discusión común, que discute ferozmente con Scheler sobre esta misma cuestión.
En particular, en su resumen de 1940, Hartmann señala que a partir de los dos estratos
superiores del ser, el psíquico y el espiritual, no se transforman los productos del estrato
biológico inferior del ser, sino que, sin ninguna transformación, los estratos superiores sólo se
basan en ellos, es decir, el estrato psíquico directamente en el biológico y el espiritual en el
psíquico. Esto contrasta con lo que Hartmann escribió unos años antes, y concilia las dos
afirmaciones opuestas, al subrayar que estas cuatro capas del ser, además de su
independencia, siguen unidas en los seres humanos individuales: "Das seelische Sein enthält
die organische Prozesse nicht, wohl aber enthält "der Mensch" sie in sich; denn der Mensch
ist selbst ein geschichtetes Wesen, er ist auch Organismus, und folglich auch ein materiell-
körperschaftes Gebilde. Por lo tanto, todas las demás categorías son momentos constitutivos".
(Hartmann 1940:496) Sin embargo, estos análisis no sustituyen el hecho de que la "delgada
franja" de la capa psíquica del ser no está llena de contenido. En el volumen de 1940
encontramos otra pista que podría acercarnos a la búsqueda del terreno de la capa psíquica del
ser. Pues escribe, en relación con la independencia de los dos estratos superiores del ser
respecto a la materia de los estratos inferiores, que al igual que la espacialidad y la sustancia
inerte de los estratos inferiores no aparecen en el estrato psíquico del ser, tampoco los
caracteres de acto de lo psíquico aparecen en el espíritu objetivo del estrato intelectual del ser.
15
Así pues, el estrato psíquico del ser es el reino de la acción humana en contraste con el
terreno del espíritu objetivo del estrato intelectual del ser, donde no aparecen las acciones
humanas. Hartmann distingue, pues, sólo el espíritu objetivo del alma y no menciona el
espíritu personal, que es directamente adyacente a la capa psíquica del ser en el individuo. Por
lo tanto, tampoco podemos obtener de este análisis el material buscado de la capa psíquica del
ser.
Para compensar esto, si no queremos descartar completamente la capa psíquica del ser y
describir el funcionamiento del ser humano y de la comunidad humana en tres

15
"Räumlichkeit und träge Substanz keine Übertragung des Organischen, die Aktcharaktere des
Seelischen nicht im objektiv Geiste". (Hartmann:1940:512).
 15

capas del ser en lugar de cuatro, sólo podemos utilizar como solución el temprano análisis de
Luhmann sobre el papel de la sexualidad biológica en la emoción del amor. En general, se
puede afirmar que los instintos de la capa biológica del ser aparecen en forma domesticada y
absorbida a través de la transformación de las emociones en la capa psicológica del ser. Por
otra parte, las emociones también reciben una transformación (una atenuación y un
enriquecimiento al mismo tiempo) a través de los productos intelectuales de la capa espiritual
del ser. Como en el caso de la pulsión sexual, el salvajismo de la mera sexualidad biológica es
transformado por las emociones psíquicas de la relación amorosa, pero ya con los matices
intelectuales y las experiencias de las grandes descripciones amorosas, las novelas y las
maravillosas melodías de las canciones de amor de todos los tiempos por las que los seres
humanos han sido socializados. En las relaciones y comunicaciones amorosas reales, la suma
de estos tres estratos del ser es inseparable y se construye a partir de ellos, y en el caso de la
eventual baja presencia de uno de ellos, puede hacer que la relación amorosa sobreviva sólo
hasta cierto punto. Para entender esta estructura, hay que aceptar en el caso de los instintos
que el mundo instintivo, que en el mundo animal se limita a determinados comportamientos y
coordinaciones de movimiento, aparece en el caso de los humanos por un lado reducido pero
por otro en forma de motivaciones generales (instinto sexual, instinto de vida, instinto de
cuidado, etc.) y tienen muchas funciones en esta forma. Arnold Gehlen criticó a Konrad
Lorenz por haber asumido los instintos de alguna forma en el caso de los seres humanos, pero
en esta forma hay que aceptar la verdad de Lorenz. 16 También cabe mencionar que Max
Scheler también subraya el papel de los instintos en forma de esfuerzos instintivos en los seres
humanos y escribe su función como capa mediadora entre las funciones vitales biológicas y la
conciencia (véase Scheler 2016:30-3)
17

Otro problema y obstáculo para la posible transformación de las soluciones de Hartmann

es la fuerza de la capa inferior evolutiva del ser, que es sacrosanta para la capa superior. Sin
embargo, en los ochenta años transcurridos desde que escribió su síntesis de 1940, la capa
espiritual del ser ha alcanzado una capacidad transformadora tan fuerte, especialmente en
relación con la capa física inferior, pero también con la capa biológica, que esta tesis de
Hartmann puede ser cuestionada. La fuerza de la inferior se basa en que su existencia es
independiente de la influencia de la superior. La capa superior sólo puede utilizar los
elementos de la capa inferior como bloques de construcción y producir una formación más
compleja de la capa superior, como la formación de organismos biológicos a partir del
material de la capa física tiene lugar, pero este uso transformado no afecta a la parte inferior:
"Die höheren Kategorien setzen stets eine Reihe niederer voraus, sind aber ihrerseits in diesen
nicht vorausgesetzt. La categoría de la igualdad también va de lo más alto a lo más bajo, pero
no está limitada". (Hartmann 1940:519- 520.) Sin embargo, en contraste con esta afirmación,
podemos decir que en el caso de la capa espiritual más alta del ser, se han realizado entretanto
tales progresos que el nivel elemental de la materia física puede transformarse con una
resolución cada vez más profunda y en la nanoescala, y puede crear materiales hasta ahora
inexistentes (por ejemplo, el grafeno más recientemente), y pueden construirse entidades
totalmente nuevas a partir de formaciones hasta ahora inexistentes. Así, la capa espiritual
superior del ser no sólo se vuelve evolutivamente más elevada, sino que puede transformar
cada vez más ciertos elementos de la capa física del ser sin límites, es decir, la inferior pierde
su fuerza ontológica.

16
"Sin embargo, los intentos de atraer directamente al hombre al concepto de la teoría del pensamiento son
muy difíciles y complicados (...), sobre todo por parte de Konrad Lorenz. (...) No hay nada que se pueda decir.
Beziehung zwischen intelligentem und instinktivem Verhalten, aber (...) es gibt eine Tendenz zum gegenseitigen
Ausschluss. "(Gehlen 1974: 32)
17
"Wir können den Fehler sehen und das ist der grundlegender Fehler von Descartes, der das Ignorieren des
tierischen und menschlichen Instinktsystems bedeutet, obwohl sie die Vermittlung und Einheit zwischen
Bewegungen des realen Lebens und den Inhalten des Bewusstseins sind" (Scheler 2016: 92).
 16

Del mismo modo, la capa biológica del ser está cada vez más dominada por la capa
espiritual del ser y esta capa superior no se basa simplemente en ella, ya que tras el
descubrimiento del ADN en 1951, cuya existencia Hartmann sólo había adivinado
teóricamente, el editor genético puede ahora acceder a él con mayor precisión. 18 De este
modo, el individuo vivo resultante se convierte en diseñable a través de la capa espiritual del
ser. Pero las soluciones conocidas hoy en día sólo en los laboratorios de investigación para la
creación de la arteria artificial o del mismo modo para la renovación de los principales
órganos del cuerpo humano mediante células madre implantadas y su prolongación radical de
la vida, llevan a que las leyes de la capa biológica del ser puedan ser anuladas por la capa
espiritual del ser. También hay que mencionar los experimentos con la emulación del cerebro
y la mente humanos, que, si tienen éxito, pueden llevar a que la capa del ser intelectual de los
individuos humanos se transfiera en el futuro a un soporte informático de forma totalmente
funcional sin capa del ser biológico.
En vista de ello, puede decirse que Hartmann no hizo suficiente hincapié en el progreso
ya observado en su edad avanzada con respecto a la capacidad del estrato intelectual del ser
para penetrar en el estrato inferior del ser, y por lo tanto la tesis de la invulnerabilidad del
estrato inferior del superior en relación con todos los estratos de la vida resultó ser errónea en
el caso del estrato espiritual superior. Esta corrección también puede ser importante porque
podemos suponer teóricamente que mediante el desarrollo futuro de la inteligencia artificial y
su posible desvinculación de la conciencia humana, esta dependencia decreciente del estrato
superior con respecto a los estratos inferiores sólo se completaría. De este modo, podría ser
que la inteligencia artificial, que se ha vuelto autónoma, pudiera existir como un nuevo estrato
del ser sólo sobre la base del estrato físico más bajo del ser sin capa biológica.19 Sin esta
dependencia decreciente, esta posibilidad no podría existir, pero con la aceptación de este
desarrollo, sólo podría concebirse como la finalización de la dependencia ya decreciente.

18
"Man weiß hier sehr wohl, dass der morphologishe Bau des Organismus seine bestimmten Gesetze hat (...)
man weiß auch, dass die letzteren Funktionsgeformtheiten sind, in denen die Gewähr liegt, dass die gleiche
Formung sich wiederbildet und somit das Leben sich erhält". (Hartmann 1940: 456).
19
Para más detalles sobre estas cuestiones, véase Béla Pokol, Küntliche Intelligenz: Die Entstehung einer neuen
¿Sinsschicht? (KI - im Spiegel von Nicolai Hartmanns Ontologie) Pázmány Law Working Papers, Nr. 2018/12.)
 17

Capítulo II
La Inteligencia Artificial: ¿La aparición de un nuevo estrato del
ser? (La IA en el espejo de la ontología de Nicolai Hartmann)

La creciente fuerza de la inteligencia artificial (IA) ya ha asustado en los últimos años a los
profesionales que la guían (Elon Musk) y a los teóricos (Stephen Hawking, Nick Bostrom), y
se la describe como un desarrollo peligroso que crece por encima de los seres humanos y se
libera del control humano. Otra descripción, tomada de un comentario de John de Neuman,
trata de la novedad inherente a la IA como la aparición de la era de la singularidad. 20 Según
éste, la creciente potencia de cálculo y la mayor rapidez de los programas debida a la
inteligencia artificial autodidacta conducen a un punto en el que la limitación de la aceleración
por parte del ser humano será eliminada de los procesos de la IA. A partir de este momento,
que es singular en la historia del mundo, la IA de autoaprendizaje crecerá a una velocidad mil
veces mayor, y en pocas horas se volverá completamente incomprensible también para los
profesionales de la informática. A partir de este desarrollo - junto con la creciente robótica - la
creación de todas las cosas será posible para la IA, y de esta manera no sólo la inteligencia
artificial se vuelve incomprensible para los humanos, sino que se eliminan de la guía del
mundo. Y eso es lo que ocurre en la era de la singularidad.
Si ponemos entre paréntesis estos conceptos y temores de la inteligencia artificial por un
tiempo, y en su lugar, nos centramos en los conceptos filosóficos que analizaron los saltos
evolutivos de la existencia en la Tierra hasta el momento, entonces podemos mirar las
categorías mejor fundadas de la ontología para la comprensión de la novedad de la IA. En los
últimos 100 años, los análisis ontológicos ya se han fundamentado en bases empíricas, y las
novedades de la inteligencia artificial pueden entenderse mejor a partir de estos análisis.
Considero que los análisis de Nicolai Hartmann sobre las capas ontológicas del ser y sobre la
evolución de estas capas son apropiados para poder comparar el actual salto evolutivo de la
IA con los saltos anteriores. Hartmann escribió cómo una vez que la capa biológica del ser
pudo estabilizarse sobre la capa física del ser, y durante el desarrollo de las plantas, y luego de
los animales de peldaños superiores en el estado de desarrollo de los mamíferos, surgió una
capa emocional-psíquica del ser sobre las capas física y biológica del ser y a través de la
evolución gradual de los primates, aparecieron los gérmenes de la capa mental del ser, que se
volvió particularmente dominante en el neing y las comunidades humanas, y las capas
inferiores del ser fueron determinadas cada vez más por la capa mental del ser. Ahora,
podemos encontrarnos con la aparición de la IA ante un salto evolutivo más reciente, y sobre
la capa mental del ser de

hecho de que Neumann sea el primer creador de la idea de singularidad sólo se conoce indirectamente por
20 El

Stam Ulam. Éste recordaba una conversación con él de principios de los años 50, en la que Neumann mencionó
esta idea: "El progreso cada vez más acelerado de la tecnología y los cambios en el modo de vida humano dan
la impresión de acercarse a alguna singularidad esencial en la historia de la raza más allá de la cual los asuntos
humanos, tal como los conocemos, no podrían continuar". Este es el primer uso conocido de la palabra
"singularidad" en el contexto de la historia tecnológica humana". (Citado de Kurzweil, 2012: 185).
 18

humano comienza a desarrollar una nueva capa del ser como heredera de la anterior capa
mental humana que como inteligencia artificial autoorganizada a partir de ahora el nivel más
alto del ser en el mundo será la fuerza dominante.
Nicolai Hartmann ya ha afirmado ciertas conexiones entre las capas del ser, y para la
coexistencia de la capa del ser cada vez más reciente con las capas inferiores y más antiguas,
ha enunciado las leyes. De este modo, vale la pena resumir brevemente sus análisis antes de
examinar la capa de la inteligencia artificial autoorganizada.

1. El hombre y la jerarquía de capas del ser

En los seres humanos, el "humano" peculiar está contenido en la capa mental del ser, y su
dominio gradual sobre las capas física, biológica y psíquica del ser significa la evolución de la
vida humana, pero el hombre está siempre determinado por las leyes de las cuatro capas del
ser al mismo tiempo. El hombre es un ser de múltiples capas, y las comunidades humanas sólo
pueden desarrollarse en el marco acumulativo de las leyes de las cuatro capas del ser. Los
estratos superiores del ser sólo pueden desarrollarse cuando se respetan las leyes de los
inferiores, pero esto no es obstáculo para la autonomía de las leyes del estrato superior del ser
en relación con las leyes de los estratos inferiores del ser. La construcción del estrato superior
del ser significa la transformación de las categorías del estrato inferior del ser, pero los
estratos superiores ya no significan tal transformación, sino que se construyen con sus propias
categorías sobre los estratos inferiores del ser. Mientras que los elementos esenciales del
mundo físico son utilizados por la capa biológica del ser - transformados sólo por las leyes de
su propio ser - no hay elementos materiales de las capas inferiores en las capas psíquica y
mental del ser.21 Hartmann describió estas conexiones de la siguiente manera: "Um
Mehrschichtigkeit zu begreifen, genügt es, sich an allgemein Bekanntes zu halten. Nadie duda
de que la organización de la vida se basa en el material físico. Pero no se limita a esto: lo
contiene, lo mantiene, y los conceptos de la física se integran en el organismo. Lo que no
impide que éste, por encima de él, tenga su propia capacidad de reacción, que no se da en
ningún caso. Dicha capacidad de decisión se traduce en una capacidad de decisión física más
amplia. Lo mismo ocurre con la relación entre el ser humano y el organismo. El ser humano
es, tal y como lo demuestran los fenómenos de la vida cotidiana, un ser único, que presenta
una historia de vida propia. Pero todo se basa en lo que nosotros entendemos por él, en la
ignorancia de él, como un ser vivo. (....) El ser humano es también un ser vivo, pero en su
propia naturaleza es autónomo en toda su extensión. Por otra parte, desde la aparición del
psicologismo, es un hecho positivo que el reino de los seres humanos no esté vinculado a los
seres humanos ni a la ley. Tanto la ley lógica como la esencia de la conciencia y el
conocimiento se han convertido en algo psicológico. No obstante, no se trata de la esencia de
la voluntad y de la mano, de la valoración, de los derechos, del ethos, de la religión y del arte.
Todos estos ámbitos se dirigen, desde el principio del fenómeno, hacia el reino de los
fenómenos psíquicos. Representan, como vida espiritual, una historia de vida propia y
superior, en la que el sentido de la vida y la fuerza de la naturaleza no se alejan de los demás.

21 Se
puede mencionar en la nota a pie de página que, mientras tanto, la investigación del cerebro ha descubierto -
basándose en las iniciativas de Donald O. Hebbi en 1949- que entre los cientos de millones de células neuronales
del cerebro, los grupos individuales de estas neuronas siempre se diferencian de las experiencias siempre nuevas
y el conocimiento Nueva organización. Así, los procesos mentales también tienen una base material en el
cerebro. Para un análisis sobre esto, véase el breve libro del capítulo Neokortex (Kurzweil, 2012: 85-95).
 19

messen können. Pero también aquí se encuentra el mismo camino hacia el otro mundo. El
espíritu no se mueve en el aire, sólo lo conocemos como un objeto de naturaleza espiritual,
que se desprende de la naturaleza, pero que no es más que lo que se desprende del organismo
y lo que se desprende de la materia. También aquí, y sobre todo aquí, se trata de la autonomía
de la parte superior frente a la parte inferior, ya en la abstinencia de ella (Hartmann, 1962:16-
17).
Así, el hombre es la unidad de cuatro capas del ser, y la razón humana sólo puede
ejercer un efecto sobre las capas inferiores del ser a través de la base biológica del cuerpo
humano. En particular, la actividad puramente intelectual es el terreno de la capa mental del
ser, y Hartmann distingue tres áreas internas de esta capa: el dominio del espíritu individual,
el de la mente objetiva y el de la mente objetivada. Los dos primeros son el espíritu vivo, y la
mente objetivada es el terreno del espíritu muerto, pero el contenido de la mente objetivada
siempre puede ser rastreado, por lo que estos contenidos pueden ser devueltos al espíritu vivo.
La mente individual vive junto con el contenido del espíritu objetivo de su tiempo, y más o
menos una pluralidad de mentes individuales lleva la mente objetiva y sus formas internas
como el Volksgeist y otras formas espirituales colectivas de la época. Pero también la mente
individual tiene en gran medida tales contenidos como la mente objetiva, y así se puede
describir su relación como portadores recíprocos. La tercera forma -la de la mente objetivada-
aumenta siempre con el enriquecimiento de la fijación de los contenidos mentales sobre la
base de la escritura y otras formas de fijación. De este modo, las mentes individuales pueden,
además del contenido de la mente objetiva de su época, utilizar adicionalmente los contenidos
intelectuales de toda la época, y como reacción pueden enriquecer así los contenidos y las
formas del espíritu objetivo de la época. En el nivel de la capa mental del ser, surge así la
colectividad viviente, mientras que en el nivel biológico el marco de la existencia común lo
soporta sólo la comunidad de la raza sobre sus individuos siempre en extinción, y así la vida
psíquica queda aislada sólo en el individuo y no es transferible. Como escribe Hartmann,
"Sein seelisches Sein hat jeder für sich. Es ist esoterisches Sein des
Individuums,unübertragbar, mit dem Man wohl Fühlung haben, in das man aber nicht
hineingelangen kann. El hombre puede disfrutar de él y sentirse satisfecho: pero hay y sigue
habiendo una segunda lectura y una segunda visión además del original, y también hay una
cualidad diferente de él. Sin embargo, los pensamientos que uno tiene, pueden ser percibidos
por el hombre como algo muy especial, cuando se los entiende; en realidad, es un segundo
pensamiento, una parte de una nueva realidad, pero es otro pensamiento" (Hartmann, 1962:
71).
Hartmann hace otra distinción dentro de la capa mental del ser que aparece en el límite
entre el espíritu objetivo (vivo) y el espíritu objetivado (muerto). Según esta distinción, los
contenidos mentales fijos del pasado -convicciones, pautas de comportamiento, valores
morales y culturales, etc. - pueden aparecer en el presente como patrones culturales
masivamente aceptados y seguidos. Pero significa una forma diferente de inyectar el pasado
cuando sólo se define como un contenido intelectual puramente objetivo para la comprensión
de los individuos, pero ya no aparece en el nivel de las creencias, conocimientos y prejuicios
masivamente comprometidos. Entonces sólo el espíritu individual puede recurrir
deliberadamente a estos contenidos espirituales objetivados y muertos, y sólo él puede
llevarlos al espíritu vivo y objetivo: "Das ist das Inkraftsein oder Noch-Lebendigsein (einer
Sitte, Anschauung), also die Kraft der "Sache", den fortlebenden Geist mit einer gewissen
Stetigkeit bei sich festzuhalten, auch da, wo er sonst zusehends verändert (...) Beim
vernehmlichen Hineinragen ist es überall anders, wo die Sache selbst nicht mehr fortlebt, die
unmittelbare Tradition abgerissen ist." (Hartmann 1962:38). Veamos cómo ha cambiado la
relación entre estas tres áreas de la capa mental del ser -ya más allá de la época de Hartmann
en los años 30- y cómo las formas de la inteligencia artificial actual se han extendido a los
antiguos contenidos.
 20

2. La creciente imbricación de la inteligencia artificial en la capa espiritual del ser

El papel dominante de la capa espiritual del ser en las comunidades humanas y la relativa
supresión del poder determinante de las capas inferiores del ser comenzó con la posibilidad de
fijar el sentido mediante alguna forma de escritura. Por supuesto, al principio se trataba de un
delgado marco para la vida de las comunidades humanas en las civilizaciones por las que se
alcanzaban estos niveles, y las amplias masas y su vida cotidiana no se veían afectadas por
ellos. Incluso la invención de la presión a mediados de la década de 1440 en la civilización
europea no pudo alterar este estado, pero para estas clases sociales altas, comenzó a través de
estas facilidades técnicas el aumento de la importancia de la alfabetización y también
comenzó en la vida cotidiana que la experiencia y la acción se basó cada vez más a menudo
en el contenido fijo y significativo. A lo largo del siglo XIX, este fenómeno se ha extendido
por toda Europa y otros continentes con la cultura europea y se ha extendido gradualmente a
toda la sociedad humana. Debido a la alfabetización universal, el contenido fijo y significativo
de la prensa diaria, los diarios y demás se entremezcló en la vida cotidiana a principios del
siglo XX, y luego esta extensión se incrementó con el cine y la radio. En los años 50 llegó la
difusión generalizada de la televisión y cada minuto de la vida cotidiana se vio cada vez más
influenciado por las formas escritas y auditivas de los contenidos espirituales fijos. A través
de este cambio ha comenzado que la capa espiritual del ser se volvió más y más dominante
sobre las capas inferiores del ser, y las inferiores sólo podían ejercer sus impulsos
parcialmente y sobreformados por la capa espiritual del ser , y esto se entendió como el
proceso de civilización. 22
Sin embargo, este desarrollo recibió un verdadero impulso más tarde, y desde la década
de 1980 comenzó a penetrar en todos los ámbitos de la vida a través de la difusión masiva de
los ordenadores personales. De este modo, la fijación del contenido espiritual pudo
permanecer en estado de corrección constante. Pero la capa espiritual del ser no sólo se hizo
líquida, sino que el espíritu líquido individual se convirtió a través de los texteditoren y sus
sencillas posibilidades de conversión a los contenidos espirituales universalmente
compartidos. El potencial inherente a este desarrollo se hizo realidad con la proliferación de
Internet en los años 90. Desde entonces, es posible que lo que alguien describa, piense y
publique en Internet esté al alcance de cientos de miles en pocos minutos e influya en la
experiencia y las acciones de miles de personas.
Kevin Kelly describió este proceso a través de doce desarrollos tecnológicos de la
siguiente manera. (Kelly, 2016). En el centro de estos desarrollos, se puede ver el surgimiento
de la fluidez de la fijación del sentido (es el fluir) como resultado de la digitalización
computarizada de la escritura. De esta manera se hace posible que las personas intelectuales
creadoras de pensamiento utilicen la fijación digital líquida en lugar de la anterior fijación
rígida de los pensamientos y otros contenidos significativos, y así siempre se puede volver a
pensar en ellos y corregir estos contenidos. Entonces, es posible que las partes de los
contenidos fijados se mezclen con otros contenidos fijados para que se puedan crear nuevas
ideas, obras musicales, etc. Para las personas de los subsistemas espirituales, este desarrollo
hizo posible el fácil ascenso desde la fijación rígida del espíritu y ascender al estado de
constante rondar espiritual. Los científicos, los artistas, los teóricos, etc., sólo pueden fijar
temporalmente sus pensamientos y otros resultados espirituales debido a la fijación digital del
sentido, que están siempre disponibles para repensar, corregir, etc. La digitalización
informatizada es la base de los demás desarrollos tecnológicos analizados por Kelly y así la
accesibilidad de los contenidos de la fijación líquida del individuo se hará al humano integral

22
Nobert Elias ilustra el curso de esta civilización en las formas cambiadas de satisfacer las necesidades
naturales a partir de una rica base empírica, véase Elias, 1976.
 21

comunidades. Así, esta fijación de sentido se convirtió en un espíritu líquido dividido

conjuntamente a través de algunos excelentes programas de procesamiento de textos y sus
fáciles posibilidades de conversión a finales de la década de 1980 (por Word y algunos otros
editores de textos). A través de la aparición de Internet, esta fijación de sentido fluida y
fácilmente comunicable hizo posible en los años 90 la transformación de todo el mundo
espiritual. Todos los contenidos han estado en el estado de cambio constante y todos están en
un estado de transformación permanente y por lo tanto la conversión a la modificación
permanente de los subsistemas funcionales se extendió por todas partes. Por ejemplo, el
sistema de la ley derogable ya se logró en la transformación de la sociedad tradicional a la
moderna y del mismo modo la verdad científica refutable y el poder estatal que puede ser
reemplazado por elecciones ya han surgido y ahora la transformación de casi todas las
instituciones y los asuntos humanos se convirtieron en un cambio constante en la actualidad.
La fijación del sentido líquido se extendió entonces a todas las formas de comunicación, y en
lugar del libro la pantalla ha sido llevada al lugar central y el hombre del libro se convirtió
gradualmente en el hombre de la pantalla. La antigua pantalla de televisión, llena de centro,
cambia lentamente a la televisión inteligente descentralizada, donde de los muchos millones
de contenidos seleccionados por el espectador individual y paralelamente, este desarrollo lleva
a la pantalla del ordenador y luego a la pantalla de los teléfonos inteligentes que tienen cada
vez más funciones y así se logra la pantalla común multifuncional de TV / ordenador /
teléfono / inteligencia artificial. De esta manera, todo nuestro entorno está progresivamente
bajo la reflexión intelectual, y en lugar de nuestra anterior colocación pasiva en el entorno
físico-biológico, comenzó a impregnar el medio ambiente con la cognición y hacer más y más
cosas se vuelven inteligentes y que es el proceso de Cognifying como Kelly lo llama. El
siguiente desarrollo es la retrovigilancia de nuestras cosas inteligentes, el Interactuar, y
comenzó que nuestras respuestas son observadas por nuestras cosas inteligentes, y debido a la
información así obtenida, complementan nuestras actividades o comienzan a dirigir estas
actividades en diferentes direcciones, etc.
De estas tendencias recientes destacadas por Kevin Kelly, el enfoque de las tres formas de
ser de la capa del ser espiritual se reorganiza. La mente individual se entrelaza en el espíritu
objetivo de la época con más fuerza que en el pasado y toma los contenidos espirituales de la
mente objetiva no sólo durante la socialización temprana -en gran parte para toda la vida- sino
en los contactos diarios y así se forma cada día. O sus propios contenidos intelectuales pueden
hacerse inmediatamente accesibles a la mente objetiva a través de Internet y así modificarse
de nuevo a los contenidos espirituales objetivos. Del mismo modo, los contenidos
intelectuales objetivados están constante y continuamente a disposición de todos a través de
Internet. De este modo, los contenidos de la mente objetiva y de la mente objetivada no son
tan diferentes entre sí como lo era en los años de Hartmann en la década de 1930, aunque su
separación no puede ser eliminada por completo.

3. La conexión directa de la inteligencia artificial con la capa física del ser

Como se aclaró en el punto de partida, el hombre es el conjunto de cuatro capas del ser, y
detrás de toda acción mental están presentes sus capas física, psicológica y biológica del ser.
Con este modo de funcionamiento ante los ojos, se pueden aclarar mejor las diferencias entre
el hombre y el robot de la inteligencia artificial. Michio Kaku escribe en su nuevo libro que
Rodney Brooks le dijo en una entrevista que el robot es una máquina, al igual que el hombre,
y que, por tanto, algún día podremos construir máquinas tan vivas como nosotros (Kaku,
2014: 263). Pero sobre la base de la estructura ontológica del mundo determinada por
Hartmann no se podría haber dicho, ni siquiera si los programas más avanzados y exigentes
son capaces de convertir además de las operaciones intelectuales también las emociones y las
sensibilidades fisiológicas en algoritmo para determinar los robots. Es decir, las emociones
psicológicas y las fisiológicas
 22

Los sentimientos sólo pueden ser imitados por el algoritmo en el plano espiritual, pero como
no hay mecanismos psicológicos y biofisiológicos reales detrás de estas imitaciones en los
robots, estas capas sólo pueden ser imitadas. El robot que funciona con inteligencia artificial
sólo puede trabajar inevitablemente con un modo de ser de dos capas y no importa cuán
compleja y a través de la programación sea adecuada para las reacciones psicológicas o los
movimientos fisiológicos-biológicos, el robot sólo puede ser el emsamble de dos capas de ser
en la comparación de los cuatro seres de capas del hombre. En su libro, Kaku describe estas
posibilidades de programación enriquecidas y porque acepta la afirmación anteriormente
criticada de Rodney Brooks, plantea la posibilidad de los derechos humanos para los robots y
escribe sobre los requisitos éticos en relación con los robots (Kaku, 2014: 250-252).
En el caso de los robots, la capa espiritual del ser es reproducida por la programación, y si
esta programación puede ser cada vez más compeja, se hace posible involucrar las capas
inferiores del ser de las personas en el programa. Entonces, las reacciones de las capas del ser
psicológicas y posiblemente las biológicas-fisiológicas también se programan en el algoritmo,
y el programa intelectual enriquecido puede conectarse directamente con los cuerpos físico-
mecánicos. Otra manifestación de estas conexiones íntimas es cuando, en el caso de personas
físicamente discapacitadas o con otros daños inamovibles, las ondas cerebrales se conectan
directamente a las partes paralizadas del cuerpo sorteando la parte dañada del cerebro, y así
las funciones de la marcha son imitadas por un programa y el paralítico vuelve a poder
moverse. Pero incluso sin ellas -como en el caso de Stephen Hawking- las respuestas mentales
de las ondas cerebrales del paralítico pueden vincularse a una silla de ruedas y éste se vuelve
capaz de mover la silla y puede mover objetos en el mundo exterior a través de las ondas
cerebrales. "Telequinesis: la materia guiada a través de la mente" - escribe Kaku en el título de
un capítulo de su libro, y esta es una descripción precisa del estado reducido de Hawking en la
comparación del ser humano completo con cuatro capas del ser. A saber. Hawking sólo puede
comunicarse con el mundo exterior conectando directamente su capa espiritual del ser con
este mundo, por lo que se encuentra, en cierto sentido, en el estado reducido del ser de dos
capas. Por supuesto, con un cerebro vivo, y por eso hay que alimentarlo y, debido a su
metabolismo, siempre hay que ponerle pañales. Pero la tecnología así creada puede conectarse
más tarde con el cuerpo robótico puramente físico, y esto puede contribuir a la aparición de tal
existencia futura, que puede trabajar en el mundo sin las capas psicológicas y biológicas del
ser. El análisis de esta inteligencia artificial autoorganizada y las posibilidades de este
desarrollo ya se han realizado -entre otros- en las obras de Ray Kurzweil y Nick Bostrom, por
lo que vale la pena avanzar en el siguiente análisis sobre la base de sus obras. (Kurzweil,
2005, Bostrom, 2015)
Sin embargo, antes de esto, valdría la pena sacar algunas conclusiones de nuestro análisis
hasta la fecha sobre la relación entre la capa de ser espiritual y la nueva capa de inteligencia
artificial que puede surgir sobre ella. Sobre la base de este análisis, parece que si por la
inteligencia artificial se enriquece sólo la capa de ser espiritual existente, y utiliza ésta como
facultades adicionales, entonces no podemos hablar de la creación de una nueva capa de ser.
La inclusión de todas las tendencias descritas por Kevin Kelly no será entonces diferente del
fortalecimiento de la capa de ser espiritual sobre las capas de ser inferiores. Incluso si esto es
sólo el comienzo en términos de mejora a través de la inteligencia artificial, y las cosas en
nuestro entorno son cada vez más inteligentes adiciones en las próximas décadas - como Kelly
predice - esto seguirá siendo nuestro anterior cuarto y más alto nivel de ser-capa. Una capa de
ser realmente nueva sólo puede surgir si las formas de la inteligencia artificial, los algoritmos
y los fragmentos programados pueden llegar a ser de alguna manera auto-organizados y
pueden trabajar a través de la conexión directa con los cuerpos mecánicos incluso sin el
espíritu humano en el mundo. Hay otra pregunta sobre si esto será el despliegue de otra nueva
capa del ser, como ya ha ocurrido tres veces en los miles de millones de años de la historia de
la tierra, y el
 23

Las capas anteriores del ser siempre se han mantenido como condición indispensable. ¿O bien
este salto evolutivo será diferente en comparación con el más antiguo, y éste adquiere un
curso diferente?

4. La inteligencia artificial autoorganizada

Partiendo de los trabajos citados de Ray Kurzweil y Nich Bostrom, se pueden aislar dos
posibilidades para el despliegue de la inteligencia artificial autoorganizada. Una es la
inteligencia artificial fuerte, que puede surgir como una sucesión de la versión débil actual, y
la segunda es la emulación del cerebro humano, que puede ejercerse autónomamente como
una copia digital de los contenidos espirituales de un cerebro humano, separado de los límites
del ser humano. La tercera es la posibilidad de una inteligencia humana mejorada
artificialmente, que puede crear una especie de superinteligencia, aunque sólo puede ser una
forma diferente de la actual coexistencia entre los órganos humanos y la inteligencia artificial
adicional que no se separa del hombre. Y por tanto no significaría un salto evolutivo, sino que
sólo intensificaría el dominio de la capa más alta del ser sobre las inferiores. (Y por eso su
análisis podría estar también al final de la sección anterior).

4.1. La fuerte inteligencia artificial

La forma fuerte de la inteligencia artificial muestra tal grado de inteligencia artificial cuando
ha alcanzado el nivel de la mente humana, y entonces supera muy rápidamente este grado en
oposición a la forma de la versión débil actual. Una pregunta preliminar es si es en absoluto
posible, y qué grado de inteligencia artificial se puede alcanzar realmente. Analizando el
anterior crecimiento exponencialmente rápido del rendimiento, se permite responder a esta
pregunta rápidamente. Sí, es posible y la única cuestión es si esto ocurrirá hacia 2040 o 2100.
En este contexto, surgen dos preguntas importantes: 1) si la forma fuerte de la inteligencia
artificial se liberará de la vigilancia y el control institucional de los seres humanos y de la
sociedad humana. 2) y la segunda pregunta es ¿qué carácter tendrá esta inteligencia artificial
fuera de control y si tendrá una autoconciencia autónoma y una voluntad omnipresente que
utilizará su enorme capacidad para el cambio del mundo independientemente de las
voluntades humanas? O, por el contrario, esta voluntad omnipresente no puede surgir en
paralelo a la enorme capacidad tecnológica y sólo puede describirse como la perspectiva
mental de un niño ingenuo, pero con una combinación de enorme capacidad tecnológica.
En cuanto a la primera cuestión, es decir, la posibilidad de arrancar la IA del control
humano, hay que interpretar las consecuencias de la capacidad de autoaprendizaje recursivo y
la autoalterabilidad de los algoritmos genéticos, que pueden considerarse la dirección
principal del desarrollo de la inteligencia artificial. De este modo, el control humano sólo
puede afectar a la determinación de los parámetros iniciales, pero entonces, por un lado, tales
soluciones para la realización de estos parámetros pueden ser aportadas por la IA, que puede
ser arrancada del control humano, por otro lado, los parámetros de entrada también serán
incluidos en la auto-versatilidad, y después de algunos ciclos de auto-alteración recursiva,
cualquier determinación anterior podría ser cancelada. Esta autoversatilidad de la IA es ya hoy
tan grande que se puede crear el cambio de su hardware. Sin embargo, estas capacidades ya
existentes no suponen una amenaza seria porque, debido al bajo nivel actual de la IA, su
control todavía puede ser creado por la inteligencia humana. Pero en el futuro, se podrán
lograr ciclos de autoaprendizaje y autoalteración recursivos tan rápidos -en comparación con
los actuales- que quizás un tausend veces más rápido para el ciclo de autoaprendizaje, que
puede caer durante horas, minutos y segundos hasta cien veces al día, a
 24

hacer cambios fundamentales para crear. Esto ya no puede mantenerse bajo el control
humano, por lo que la liberación de la IA del control humano después de un punto
simplemente se desprende de la tendencia actual.
La siguiente cuestión se refiere a la naturaleza de esta IA autoorganizada. Vale la pena
hacer una distinción, y dentro de la IA hay que separar la inteligencia tecnológica de la
inteligencia general para la evaluación de las condiciones sociales. La inteligencia tecnológica
es la capacidad para el cambio dirigido del mundo biológico y físico y un aspecto de esta
capacidad se refiere a la medida en que este cambio puede ser impedido por otras fuerzas (por
ejemplo, los seres humanos). Se trata, por tanto, de la capacidad para el dominio de las capas
inferiores del ser del mundo, y esto se está haciendo cada vez más fuerte en el campo de la
inteligencia artificial, mientras que su capacidad para mirar la realidad global, incluida la
realidad de la sociedad humana, se ha quedado muy atrás. Nick Bostrom ya ha analizado
ampliamente la importancia de incorporar el conocimiento y los valores sociales en los
programas de IA y sobre esta base se pueden señalar dos problemas. Un problema es que no
existe un sistema uniforme de parámetros de objetivos para la estructura básica de la sociedad
humana y su supervivencia, y siempre depende de la selección de los grupos de élite humanos
dominantes, qué tipo de jerarquía de valores se aplicará. Pero este es el problema menor. El
problema mayor surge del hecho de que esta jerarquía de valores arbitraria y posiblemente
incompleta también puede ser víctima de los ciclos de autoalteración de la IA. Si la propia IA
puede cambiar continuamente el componente determinante de su programación, no hay
garantía de que los valores sociales incorporados permanezcan en el parámetro tecnológico de
la IA y no sean anulados por ésta después de unos cuantos ciclos de su autocambio.
Así que, si queremos determinar la naturaleza de nuestra distinción con más precisión,
entonces se puede expresar como la oposición de la inteligencia tecnológica a la inteligencia
social. Mientras que la inteligencia artificial crece enormemente en la dimensión tecnológica,
permanece en el nivel de un conocimiento social al nivel de un niño pequeño y estúpido. Y si
los algoritmos especiales se construyen en el programa para la mejora de ambos tipos de
inteligencia y el tratamiento de los valores sociales, no hay garantía de que después de un
corto tiempo la IA de autoaprendizaje no borre estas partes del programa. En consecuencia, en
mi opinión, la descripción a menudo repetida de "inteligencia artificial malvada" es
inapropiada para la señalización de los peligros reales, pero debemos tener miedo de la
inteligencia tecnológica social ciega y muda pero poderosa. Esta inteligencia artificial no
destruirá la existencia de la sociedad humana por su maldad, si es posible por su enorme
capacidad tecnológica, sino por su escasa nieve en relación con el conocimiento social. Sin
embargo, hay que tener en cuenta que esta situación puede cambiar en los próximos años
debido a los recientes desarrollos en el área de la emulación del cerebro humano (mind
uploading), el futuro de la inteligencia artificial fuerte también puede ser tocado (véase la
siguiente sección).
Haciendo hincapié en estas conexiones con los peligros de la inteligencia artificial, los
investigadores de la IA intentan incorporar, al menos en los parámetros iniciales del programa
de IA, principios operativos que puedan prevenir los cambios peligrosos para la sociedad
humana. En un estudio recientemente publicado por Joel y Ben Goertz Pitt, se intenta
encontrar tales elementos del programa para la planificación de la inteligencia artificial, que
pueden utilizarse para asegurar la tendencia positiva constante hacia el mantenimiento de la
sociedad humana. Parten de la base de que este objetivo no puede garantizarse por completo,
pero sí puede determinarse que, al menos, los autocambios debidos al aprendizaje de las
máquinas reciban siempre una retroalimentación positiva en esta dirección: "Nuestra
perspectiva actual es que no es posible lograr una IA amistosa de forma demostrable o
garantizada. A primera vista, lograr una fuerte certeza sobre los comportamientos futuros de
ser masivamente más inteligentes que nosotros mismos parece inverosímil. Una vez más, nos
proponemos un objetivo más modesto: explorar formas de sesgar las probabilidades y crear
sistemas de IA que tengan una probabilidad significativamente mayor de ser Amigables."
(Goertz/Pitt, 2014:65.) Para asegurar la dirección del enfoque "amistoso" de la inteligencia de
las máquinas en relación con las sociedades humanas, subrayan como primer imperativo
 25

mantener los ciclos recursivos de cambio más lentos en el primer período, de modo que
todavía puedan adaptarse a la
 26

comprensión de la mente humana. Además, sigue siendo importante asegurar la participación

humana en la determinación de los cambios del programa en los primeros ciclos. Asimismo,
los autores consideran importante integrar en el programa principios éticos bien desarrollados
con escenarios de casos ricos, que deben ejecutarse en las primeras fases a través de miles de
situaciones de prueba. "Cuando una AGI (Inteligencia General Artificial) haya aprendido
algunos de los aspectos cotidianos de la justicia, incluido el equilibrio de la justicia con la
empatía en la vida diaria, y una vez que también se haya familiarizado con la aplicación de los
principios éticos abstractos a otros aspectos de la vida ordinaria, estará bien preparada para
apreciar los principios éticos y su utilidad en la toma de decisiones difíciles. Será capaz de
entender la naturaleza abstracta de la justicia de una manera más rica y holística." (Goertz/Pitt,
2014:72.) Al final, sin embargo, sólo podemos esperar que por el totalmente automatizado y
capaz de grandes cambios
inteligencia artificial fuerte, no se eliminarán las condiciones de funcionamiento de la
sociedad humana.
Después de esto, se puede preguntar si el trato con la fuerte inteligencia artificial puede,
como cuestión de rutina, llevar a una amenaza para toda la humanidad, además de sus buenas
bendiciones y beneficios, ¿por qué no detener toda esta actividad? Para este dilema, se puede
encontrar un excelente análisis en el libro de Nick Bostrom y Ray Kurzweil también lo trató.
En particular, las investigaciones en el campo de la inteligencia artificial se han caracterizado
durante décadas también por la rivalidad militar de las grandes potencias y se gastan enormes
cantidades de dinero y capacidad de investigación en ello. Por ello, los últimos éxitos en este
campo siempre se mantienen en secreto. Básicamente, ahora ocurre lo mismo en este ámbito,
lo que se pudo ver a finales de los años 40 en relación con la investigación nuclear y qué gran
potencia puede lograr una ventaja en este campo, podrá dominar el mundo. De este modo,
renunciar a la investigación en el campo de la inteligencia artificial fuerte y peligrosa sólo
significaría una ventaja competitiva entre los rivales. Un problema relacionado es que incluso
si después de algún tiempo las grandes potencias rivales comienzan a hacer algunos esfuerzos
para el control conjunto debido al creciente peligro, incluso entonces no sería suficiente
porque es imposible ver en el desarrollo de la inteligencia artificial tal grado y nivel en el que
se llegará al pivote de la débil inteligencia artificial de hoy y en última instancia, comienza su
fuerte e incontrolable sucesor. Tanto en el análisis de Kurzzeit como en el de Bostrom, la era
de la inteligencia artificial fuerte, comparada con la era de la energía nuclear, trae miles de
bendiciones mayores y cambios más amplios al estado actual de la sociedad humana, y el
creciente desarrollo en la robótica ya muestra estos cambios en la vida cotidiana. Pero las
amenazas son mil veces mayores de lo que se ha alegado en la época atómica con respecto a
las anteriores rivalidades marciales. Sin embargo, también es imposible detener esto como no
fue posible detener la carrera por el átomo. La era actual de la carrera por la inteligencia
artificial fuerte difiere de las rivalidades anteriores sólo por el hecho de que la competencia en
el área de las armas nucleares podría finalmente ser pacificada y el control conjunto sobre las
armas nucleares podría más o menos estabilizarse por la disuasión mutua. Sin embargo, en el
caso de la creación de la IA fuerte, su fabricante también pasará a un segundo plano en poco
tiempo y también se verá amenazado junto con toda la humanidad. De este modo, no habrá
nadie ni nada capaz de vencer a la nueva fuerza dominante sobre el mundo.

4.2. La existencia digital del cerebro humano emulado

La posible aparición de una inteligencia artificial fuerte a partir de su forma débil y ya

existente se discute desde hace varias décadas, en contraste con la subida de la mente humana
al ordenador o en otra denominación la emulación del cerebro, que sólo en la última década
está en el centro de interés. Esta es también una inteligencia de máquina, y puede ser una
rama de
 27

inteligencia artificial, y aquí vienen otros incentivos además de los motivos anteriores para
acelerar la investigación lo más rápidamente posible. De hecho, si la emulación de todo el
cerebro humano pudiera tener éxito, y en lugar de los procesos biológicos se pudieran trabajar
los procesos computarizados del funcionamiento neuronal del cerebro, entonces esta novedad
tecnológica daría una nueva perspectiva a la mente y a la personalidad. Es decir, las personas
podrían deshacerse del cuerpo biológico que se desvanece y existir en un portador eterno para
siempre. La película con el título de Transcendence, protagonizada por Johnny Depp, ha dado
a conocer esta posibilidad hace unos años, y la investigación intensiva avanza en este ámbito.
Por ejemplo, en los últimos años, la Comisión Europea ha gastado 1.500 millones de euros en
investigación, y ya se está realizando la emulación del cerebro de los organismos más simples
y de los pequeños mamíferos, al tiempo que se investiga la emulación del cerebro humano.
La existencia independiente de un cerebro humano emulado es todavía menos visible en
el nivel actual de las condiciones técnicas. (Un nuevo mensaje en la prensa mundial ha
indicado que la emulación completa del cerebro de una rata se espera para 2017). De este
modo, no se puede hacer una afirmación empírica sobre la posibilidad de la existencia
autónoma de la emulación del cerebro humano ni sobre el grado de identidad de dicha
emulación cerebral con el cerebro original. Sin la existencia de emulaciones reales, sólo se
puede pensar en estas cuestiones a nivel de meditación filosófica. Por supuesto, esto no carece
de utilidad, pero en cualquier caso sólo puede tener carácter especulativo, y esto debe tenerse
en cuenta en lo que sigue.
En el caso de la emulación del cerebro humano, sigue siendo una cuestión de viabilidad
técnica (capacidad de almacenamiento y velocidad del ordenador) necesaria para la emulación
de los muchos miles de millones de células cerebrales y los billones de sus sinapsis. Sin
embargo, basándose en el análisis de la tasa de crecimiento exponencial existente en este
ámbito, puede decirse que la capacidad informática necesaria estará disponible para esta tarea
en unos treinta años de desarrollo. Debido a un nuevo mensaje, un segundo de la emulación
más detallada de un cerebro humano (es decir, a nivel neuronal del cerebro) convertido en el
formato computarizado se repitió en el ordenador más rápido del mundo en 40 minutos. Es
decir, hoy en día, un segundo de la emulación del cerebro todavía tarda 2400 segundos en
ejecutarse en el ordenador para que funcione el cerebro replicado, y esto puede causar un
efecto desalentador. Pero si en el futuro se sigue asumiendo la validez de la ley de Moorchen,
es decir, que la potencia de cálculo se duplica en un año y medio (lo que, por ejemplo, podría
lograrse con el rápido progreso de los ordenadores cuánticos), entonces la aceleración de 2400
veces puede llegar a 15-16 años, y así los procesos del cerebro humano podrán ejecutarse
también en tiempo real en el ordenador. El debate principal debería ser si, después de la
emulación exitosa de todos los contenidos de la mente humana, la conciencia original de esta
mente puede repetirse en el ordenador, y la conciencia original también emerge siempre
durante el curso del programa informático de emulación?
La intensa reflexión y el debate sobre este tema han producido algunas sabias
distinciones en los últimos años. Debido a algunas distorsiones, hay que distinguir si los
procesos mentales individuales pueden ejecutarse en el ordenador después de la emulación del
cerebro, y esa es otra cuestión, si, además de estos procesos informatizados, surgirá una nueva
conciencia como inspector único de los procesos mentales informatizados paralelos. Por
último, se plantea una tercera cuestión: si es así, esta conciencia emulada se convertirá en la
conciencia de la mente original, o bien surgirá una nueva identidad, que sólo tendrá tanto en
común con el espíritu humano original que ambos comparten los mismos recuerdos y
experiencias. En este último caso, la mente emulada puede entenderse como un hermano
gemelo digital, pero al igual que los gemelos idénticos tienen conciencias separadas, también
la conciencia de la mente digital se hace autónoma tras la emulación a su manera y con su
propia identidad.
Para Kurzweil y Bostrom, la respuesta a esta pregunta es evidente, porque, en su opinión,
toda la manifestación de la mente y todos los procesos psíquicos en las células nerviosas del
cerebro son los resultados de los procesos electroquímicos, y, de esta manera, la conciencia y
 28

La autoconciencia no puede ser de otra manera. Por lo tanto, si la emulación detallada fue lo
suficientemente precisa, entonces no sólo los procesos neuronales individuales del cerebro
(recuerdos, experiencias, etc.) sino también la conciencia como la acumulación de estos
procesos aparecerá en la ejecución del programa computarizado. Pero en cuanto a la cuestión
de si esta conciencia será una duplicación del original o una nueva creación, no se puede
encontrar ningún análisis en sus libros, y esta cuestión en sí misma sólo se ha planteado
recientemente en el debate.
Leyendo muchas discusiones y argumentos sobre estas cuestiones, me inclino más a
aceptar que si se copia una emulación suficientemente exacta y detallada del cerebro a las
plataformas informáticas, y todas las conexiones de los trillones de procesos neuronales
podrían duplicarse digitalmente, entonces la conciencia también aparecerá como centro de
control de los procesos mentales. Sin embargo, esto sólo será el espíritu de un hermano
gemelo digital, pero ciertamente no es para decir que ahora la misma conciencia podría estar
presente "en dos lugares". Y ciertamente no es el hecho de que el ser humano -liberándose de
su cuerpo biológico- pueda pasar por emulación a la existencia digital.
David Chalmers también está a favor de esta postura en un estudio publicado
recientemente, mientras que Massimo Pigliucci defiende la exclusividad de la conciencia
asociada al cuerpo biológico. Chalmers se autodenomina funcionalista y Pigliucci biologista y
las dos posturas se describen de la siguiente manera: "Aquí los filósofos se dividen en varios
campos. Los teóricos biológicos de la conciencia sostienen que la conciencia es esencialmente
biológica y que ningún sistema biológico puede ser consciente. Los teóricos funcionalistas de
la conciencia sostienen que lo que importa para la conciencia no es la composición biológica,
sino la estructura causal y el papel causal, de modo que un sistema no biológico puede ser
consciente siempre que esté organizado correctamente." (Chalmers, 2014:104). Este debate
actualmente sólo filosófico es de relevancia, porque hoy en día -y según los investigadores,
desde hace unos años- sólo existen técnicas destructivas para la emulación del cerebro, lo que
no es un problema por el uso de experimentos con animales para este fin (ahora aparte de
algunos grupos de derechos de los animales). Pero ya se señaló en los debates que la
posibilidad de emulación debería ponerse a disposición de los pacientes incurables en la fase
final como una oportunidad de supervivencia, ya que, en su caso, el carácter destructivo de la
emulación ya no sería un problema. Por lo tanto, es importante destacar que por esta vía sólo
se puede crear como máximo un gemelo digital, pero no se puede evitar la desaparición de la
persona original.
También es una gran dificultad en el proceso de emulación del cerebro humano debido a
los últimos resultados de la investigación que, en contra de lo que muchos esperan, es
insuficiente si sólo se emulan los procesos mentales superiores porque en casi todos los
procesos cerebrales participan simultáneamente las diferentes partes del cerebro: "En
resumen, es engañoso referirse a las áreas del cerebro como si fueran modulares. En cambio,
es imposible trazar límites estrictos que separen, por ejemplo, las funciones sensoriomotoras
más primitivas de la cognición superior, como la planificación, el juicio, la toma de decisiones
y la dirección de la atención. Además, estas áreas están altamente integradas funcionalmente,
y anatómicamente, en una compleja y densa red. Por lo tanto, concluimos que las
mencionadas funciones "humanas por excelencia" (que, empleando el lenguaje de la primera
sección, entrarían dentro de lo simbólico en contraposición a lo físico) no pueden existir
independientemente de las estructuras cerebrales que se dedican a la interacción con el mundo
y al control del cuerpo. Incluso para un individuo cargado, un cuerpo (similar al humano o de
otro tipo) seguiría siendo una necesidad". (Linssen/Lemmens, 2016:5).
También hay que mencionar que cuando se establezca la emulación exitosa del cerebro
humano, junto con todos los procesos mentales, la autoconciencia (como se suponía que era
probable), el futuro de la inteligencia de las máquinas también puede ser analizado con una
nueva perspectiva. A saber, lo que no se puede formular a nivel teórico sobre la realidad
social, se plasma ampliamente en la mente de las personas que han sido socializadas por la
solidaridad comunitaria existente y bajo la presión de las instancias biológicas y psicológicas
 29

y sus conocimientos prácticos estarán ya dentro en la mente emulada. De este modo, este
conocimiento social, las experiencias y las emociones también se transmiten al espíritu digital,
y si mi suposición, compartida con Chalmers, es correcta, la autoconciencia digital también
surge en el espíritu de esta inteligencia artificial, que trabaja con el conocimiento social
adecuado. Este nivel de IA humana, que se ha liberado de las barreras biológicas, puede
entonces alcanzar inmediatamente una velocidad de desarrollo mil veces mayor en la
plataforma digital y la IA fuerte también puede crearse de esta manera. También como
segunda vía para la consecución de la IA fuerte se puede concebir, y esto a su vez elimina el
problema de la inteligencia artificial de que sólo puede tener una inteligencia a medias: sobre
la enorme inteligencia tecnológica y, paralelamente, sólo sobre el conocimiento social de un
niño ingenuo. Nick Bostrom ya analizó esta posibilidad en su libro sobre la superinteligencia,
y también juzgó esta posibilidad como positiva, porque de este modo las instancias morales
desarrolladas también se incorporan a la IA con la mente humana. Pero ha señalado
correctamente que la IA fuerte, basada en algoritmos genéticos, siempre puede eliminar este
conocimiento social apropiado de su programa operativo por su capacidad recursiva de
autocambio. (Bostrom, 2014: 328-330). Así, este camino de la formación de la IA fuerte no
puede ser una seguridad definitiva.

4.3. La cuestión de la superinteligencia mejorada genéticamente

Entre las cuestiones de la mejora de la inteligencia y la prolongación de la vida mediante la

biotecnología humana me parece sensato analizar tres direcciones con respecto a la viabilidad.
Por otro lado, yo prohibiría más severamente la clonación de seres humanos y la creación de
la mezcla de hombre y bestia como quimeras mediante la modificación genética del ADN.
Las tres son las siguientes (1) la mejora de la inteligencia mediante la selección de embriones,
(2) la renovación de los órganos internos mediante los nanobots que circulan por el torrente
sanguíneo, (3) y finalmente la mejora de la capacidad del cerebro biológico mediante
interfaces. Hay que señalar que estas cuestiones ya han atraído la atención más allá de los
grupos académicos más estrechos de los investigadores de la inteligencia artificial en los
círculos más amplios de los filósofos también, y los primeros debates ya han tenido lugar. En
1999, Peter Sloterdijk, basándose en los recientes avances de la ingeniería genética humana,
planteó la cuestión de la mejora del ser humano en el futuro mediante la biotecnología
humana, y Jürgen Habermas respondió indignado y sin verdadera reflexión con la más fuerte
condena moral. Por supuesto, esta discusión emocional sobre estas cuestiones se produce en el
caso de los alemanes, sin ningún análisis de contenido y sólo en el nivel de la pura
indignación, debido a su herencia histórica específica. A saber, los primeros esfuerzos en el
campo de la eugenesia humana fueron realizados por el estado nacional socialista en
Alemania. De este modo, para la élite intelectual, la ingeniería genética humana estaba
profundamente desacreditada por esta herencia, y todo el tema era tabú. Francis Fukuyama
también se ocupó de este tema en un libro completo en 2003, y también rechazó el uso de la
ingeniería genética humana, pero analizó estas cuestiones empíricamente frente al puro tono
normativo de Habermas. La razón por la que se niega a oponerse a la ingeniería genética
humana es que piensa que la desigualdad existente entre las personas y los grupos sociales
aumentará por esta vía, y lo considera inaceptable. En su opinión, los grupos de riqueza
genética se crearían en oposición a las armas genéticas, y en el futuro, el rico testador no sólo
dejará una gran riqueza y mejores condiciones de vida para su descendencia, sino también el
cuerpo y la mente genéticamente mejorados La desigualdad entre los grupos sociales se
incrementaría más que nunca, quiere decir Fukuyama (Fukuyama, 2002: 208- 210).
 30

En contraste con el temor de Fukuyama al aumento de la desigualdad, me resulta más

convincente que los procesos biotecnológicos humanos se abaratarán mucho después de los
elevados costes iniciales al cabo de un tiempo, porque apenas hay costes materiales y
energéticos en estos métodos y se convierten en un procedimiento rutinario (Kurzweil 2005,
554.) Además, si la tecnología no causa daños a los demás, y sólo eleva el nivel de sus
usuarios con respecto al de otras personas, se va a extender imparablemente entre la élite, por
lo que es en vano luchar contra ella. Como amigo de la igualdad, el analista debería preferir
instar al gobierno a que apoye al Estado para que esta posibilidad tecnológica sea accesible a
los grupos sociales más pobres. Debido a la numerosa selección embrionaria (derivada de las
células madre) -como analizó Bostrom- se podría lograr un enorme crecimiento de la
inteligencia de forma masiva dentro de la sociedad en pocos años y eso sería el punto
culminante de la sociedad sensata institucionalizada. (Bostrom 2014, 108.). Para mí, el
problema es que como hoy se ha hecho técnicamente posible, por lo que la sociedad o
sociedades que den un paso más rápido en este camino obtienen una ventaja invencible sobre
las demás. La élite intelectual de un país debe ser más propicio para ser más conscientes de
esta posibilidad tecnológica entre los grupos de la sociedad, y por los debates públicos para
despertar la regulación estatal, el uso de la selección de embriones para el crecimiento de la
inteligencia de forma masiva en la sociedad de apoyo.
La segunda dirección de apoyo en esta área es el rejuvenecimiento constante de los
órganos humanos por los nanobots en el torrente sanguíneo, y estos esfuerzos son sólo a nivel
de investigación y experimentos con animales en comparación con la dirección anterior, pero
debido a los análisis de Kurzweil y Bostrom sobre la velocidad exponencial de crecimiento en
esta área, hay pocas dudas de que el avance radical se producirá en los próximos años. Sin
embargo, a diferencia del análisis anterior, hay que expresar un mayor escepticismo en este
ámbito, ya que la gran longevidad asociada a la rigidez gradual de toda la personalidad ya
causa un gran problema en la actualidad. Incluso hoy en día, para la mayoría de las personas
de 80-90 años, el principal problema es que su vida prolongada carece de sentido, y cabe
imaginar cómo aparecerá este problema en el caso de una vida de 130-150 años, incluso si la
flexibilidad de la personalidad y el habitus puede ampliarse con algunos años.
Sobre el siguiente tema de la mejora de la inteligencia, hay que destacar que los métodos
para esta dirección ya han sido elaborados en investigaciones y experimentos con animales.
Por ejemplo, en los experimentos con ratones, la mejora de la memoria con chips
incorporados en el hipocampo podría funcionar de forma excelente. Además, los
experimentos con respecto a los seres humanos también han comenzado, primero sólo con el
propósito de curar la enfermedad de Alzheimer. El desarrollo exponencialmente rápido -junto
con la difusión de las selecciones de embriones múltiples- puede en el futuro crear de hecho
un aumento de la inteligencia sin precedentes en toda la sociedad.
En general, puede decirse que el aumento de la inteligencia por parte de la biotecnología
humana puede ser fundamentalmente bienvenido -aparte de las dos estrictas prohibiciones
mencionadas- y para la consecución de una mayor inteligencia artificial en la sociedad, esta
vía debería ser apoyada principalmente como ha escrito un investigador en su artículo: "Así,
el mejor enfoque para la extensión de la vida y la expansión de la conciencia podría residir en
nuestros propios cuerpos maravillosamente complejos y enteros, engranados y aumentados
por diminutas máquinas bionas que se convierten en una parte de nosotros, en lugar de la
visión opuesta de la migración humana a un sustrato de máquinas. Podrías crecer tu propio yo
eterno y artificial a medida que te conviertes gradualmente en biónico, en etapas tan diminutas
que ni siquiera te das cuenta". (Goonan, 2014:198).
 31

5. ¿Una nueva capa adicional del ser o el nuevo comienzo de la evolución

terrestre sobre la base de la inteligencia artificial autoorganizada?

En el espejo del análisis anterior, hay que tener en cuenta de nuevo las dos formas de
inteligencia artificial autoorganizada, es decir, la IA fuerte y la IA generada por emulación del
cerebro humano. De lo anterior se desprende que la capa digitalizada e independiente del ser
de estas dos formas puede ser llevada a cabo por dispositivos informáticos únicamente, pero
también pueden estar conectadas directamente a cuerpos físicos quizás sólo por un corto
tiempo. Con este último en mente, se haría posible un ser con dos capas de ser, es decir con
capas de ser espirituales y físicas pero sin las capas biológicas y psicológicas. Incluso si las
impresiones mentales de estas últimas capas se introdujeran en el programa en el caso de las
especies emuladas de la IA fuerte, esto ya no tendría un papel funcional -sólo efectos
incapacitantes- por lo que la eliminación de estas partes del programa es casi segura por los
ciclos recursivos de autoalteración. La autoconciencia digitalizada por la emulación, que antes
estaba formada por el instinto biológico y continuamente formada por las determinaciones
biológicas del ser, o desde la primera infancia por los sentimientos familiares y otros
sentimientos solidarios, entraría en el vacío respecto a sus partes biológicas y psicológicas.
Las memorias-reacciones biológicas-fisiológicas permanecen durante algún tiempo -como el
hombre con las piernas amputadas sigue teniendo el picor en relación con su pierna
inexistente- y de la misma manera sus disposiciones mentales pueden tener algún efecto, pero
ya no tienen un papel funcional real. Por lo tanto, la probabilidad de la desaparición de estas
partes de la autoconciencia emulada en el mundo de la superinteligencia artificial reducida a
dos capas es muy alta.
Por lo tanto, la respuesta a la pregunta planteada por el título de la última parte de esta
obra es que la inteligencia artificial no puede provocar tal salto evolutivo en la evolución
terrestre que ya ha surgido tres veces a través de los miles de millones de años en el pasado.
De hecho, mientras la IA sólo aumente el poder creciente de la capa del ser intelectual sobre
las capas inferiores del ser, no surge ninguna novedad con respecto al estado del ser en los
últimos miles de años, y sólo aumenta mucho más rápido el dominio de la capa intelectual del
ser. Sin embargo, si la inteligencia digitalizada emerge así completamente independiente de la
influencia de los seres humanos y comienza a funcionar como una fuerza autoorganizadora, el
resultado final evolutivo dio lugar a una nueva capa del ser como un nuevo salto evolutivo.
Pero a diferencia de los saltos evolutivos anteriores, la nueva fuerza evolutiva ya no
funcionará sobre la base de las capas de ser inferiores. Basándose en el análisis de Hartmann,
puede describirse como sigue. La capa biológica se ha superpuesto a la capa físico-mecánica
del ser durante los miles de millones de años, luego apareció la capa psíquico-emocional del
ser en los grados superiores de la vida biológica, y luego los inicios de la capa espiritual del
ser sobre esta base aparecieron principalmente con los primates pero luego especialmente con
los seres humanos, y por la coexistencia de estas cuatro capas del ser, se creó finalmente la
inteligencia artificial digitalizada que, separada del hombre, también puede estar directamente
conectada con el cuerpo físico y así funcionar en un modo de ser autoorganizado. Esto es en
realidad un nuevo salto evolutivo, pero esta nueva capa spriritual autoorganizada no se
construye a sí misma sobre las cuatro capas del ser anteriores como un nuevo piso por encima
del otro, sino que puede conectarse directamente con la capa físico-mecánica del ser y ejercer
efectos. La coexistencia de las capas terrestres del ser permite el nacimiento de la inteligencia
artificial - y ésta es su única forma de llegar a la vida - pero, según la posibilidad de su ser
independiente, estas capas del ser le serán superfluas. De este modo, la nueva capa del ser,
autoorganizada y artificial, no puede ser una nueva sobre la anterior, sino sólo un nuevo
comienzo de la evolución sobre la base física, pero ahora al nivel de la inteligencia
autoorganizada ya lograda y con el liderazgo de esta nueva fuerza evolutiva.
 32

Por lo tanto, es legítimo el gran debate y la ansiedad sobre los peligros de la IA, como lo
plantean repetidamente Stephen Hawking, Nick Bostrom y Elon Musk, porque toda la capa
biológica del ser -y la humanidad en su interior- , podría ser superflua para la inteligencia
artificial como nueva capa del ser. Aceptando la legitimidad de estos temores, sólo hay que
señalar que esta nueva capa artificial del ser, provocada por la evolución humana, no
dependería de la existencia en la tierra, y podría funcionar libremente en una serie de planetas
vecinos, como ya se ha explicado brevemente la posible colonización del universo por la
inteligencia artificial (Kurzweil, 2005: 433-564).
 33

Capítulo III
Las capas del ser y las cuestiones de la ética de los robots

La existencia humana y la vida de las comunidades humanas se basan en las regularidades

acumulativas de las capas del ser que se construyen unas sobre otras a través de la evolución,
según las tesis de la ontología de Nicolai Hartmann (Hartmann, 1962). El desarrollo acelerado
y el uso creciente de la inteligencia artificial (IA) en los últimos años en esta estructura afecta
directamente a la capa superior de las cuatro (física, biológica, espiritual e intelectual) del ser,
aumentando su fuerza en detrimento de las inferiores. Y con el desarrollo posterior de la
inteligencia artificial, que finalmente se desprende del control humano y adquiere
independencia, puede percibirse como una nueva capa del ser creada evolutivamente. Sin
embargo, a diferencia de los tres saltos evolutivos anteriores, no requeriría todas las capas
inferiores del ser. Teniendo en cuenta los robots que son las encarnaciones físicas de la IA
hoy en día, la IA sólo necesita la capa física del ser. (Pokol, 2017). Con este telón de fondo
teórico, los análisis de este estudio pretenden explorar los dilemas morales emergentes y los
dilemas legales relacionados con ellos dentro de los mecanismos de las sociedades
contemporáneas que están cada vez más impregnadas de inteligencia artificial, al tiempo que
consideran hasta qué punto cambia el marco analítico cuando se tiene constantemente
presente la naturaleza multicapa de las vidas humanas y, por tanto, de la sociedad.

1. Las cuestiones preliminares de la ética de los robots

En su estudio de los problemas éticos del mundo de los robots, Keith Abney identifica tres
ámbitos para agrupar los problemas: 1) el campo de los requisitos y prohibiciones para los
fabricantes y programadores de robots (como la ética médica); 2) en segundo lugar, el campo
de los requisitos que deben programarse en los robots, formulado por primera vez por
Assimov bajo el título "Tres leyes de la robótica"; y 3) por último, con perspectiva de futuro,
surge la cuestión de las exigencias morales y los "derechos humanos" que podrían tener los
robots en ese momento en posesión de la autoconciencia (Abney 2011, 35). Un dilema común
a los tres ámbitos es la elección entre los principales puntos de partida de la teoría moral ya
elaborados en las distintas escuelas filosóficas morales de las comunidades filosóficas morales
integrales. Una de estas escuelas puede identificarse como el punto de partida deontológico (la
regla es la regla y hay que seguirla), por el que es más conocida la filosofía moral de Kant, y
la escuela de oposición polarizadora, que considera la consideración de las consecuencias de
la acción como base para la toma de decisiones morales. Por último, en tercer lugar, cabe
mencionar la escuela de la ética de la virtud, que no se centra en los requisitos que hay que
considerar en cada situación para definir la moral (como las dos escuelas anteriores, aunque
de sentido contrario), sino en las disposiciones duraderas de la personalidad humana, más
sencillamente, en los valores morales socializados. Aquí no se pregunta cuál es la regla moral
en una situación, porque en el cada vez más complejo mundo moderno no suele haber reglas
claras, sino cómo decide un hombre valiente, justo, fiel y verdadero (Abney 2011, 37).
 34

De las tres escuelas, la escuela de la deontología sólo es posible para los robots que se
utilizan en el dominio más estrecho y siguen las reglas exactas sin poder sopesarlas, porque
todas las situaciones sólo pueden calcularse y controlarse en un dominio tan estrecho, pero
incluso aquí pueden surgir situaciones imprevistas que orienten la decisión del robot en la
dirección equivocada. Por ejemplo, en principio podría introducirse en el algoritmo de
decisión de un robot de combate "¡nunca mates a un niño!". Sin embargo, en el caso de los
niños soldados en las guerras africanas, esto significaría una liquidación predeterminada del
robot de combate (Abney, 2011, 42). En el caso de los robots de propósito general, el enfoque
deontológico es completamente inaplicable. Sin embargo, la escuela consecuencialista de la
filosofía moral, que también está vinculada a la consideración de situaciones individuales,
también parece mejor sólo por su naturaleza vital. Aquí la premisa rectora es "¡aumentar, no
disminuir, la felicidad del mayor número posible de personas con la decisión elegida!" y esto
es impracticable porque requeriría el procesamiento de una enorme cantidad de información,
la mayor parte de la cual no podría hacerse de manera oportuna ni siquiera con la mayor
capacidad de almacenamiento de datos informáticos. La posición de Keith Abney, por tanto,
es que con respecto al segundo ámbito de la moral robótica (es decir, las premisas de decisión
moral programadas en el algoritmo robótico), hay una mezcla de deontología y ética de la
virtud que ofrece la mejor perspectiva, y una mezcla de éstas puede crear la mejor versión
moral robótica incorporada. Según esto, las normas morales más abstractas (virtudes morales)
forman el marco de decisión, y los objetivos y contextos de decisión incorporados especifican
siempre los determinantes de la decisión elegida por el robot en las situaciones dadas: "El
enfoque híbrido de imperativos hipotéticos en lugar de categóricos (dentro de un marco
deliberadamente restringido, no universal) procedente de la ética de la virtud parece la mejor
apuesta para la moral robótica a corto plazo (en el sentido dos). (...) El énfasis en ser capaz de
desempeñarse de manera excelente en un rol particular, y la correspondiente especificidad de
los imperativos hipotéticos de la ética de la virtud para los objetivos de programación, los
contextos restringidos y las capacidades de aprendizaje de los robots autónomos no kantianos,
hace que la ética de la virtud sea una elección natural como el mejor enfoque para la ética de
los robots." Abeny 2011, 51)
Las conexiones entre los estratos del ser y la moralidad son tocadas indirectamente por
Abney, donde se opone al emotivismo, que identifica la moralidad con las emociones morales,
y a la percepción cognitiva de la moralidad, que se opone. Muestra que si la moralidad está
ligada a las emociones por el punto de vista de los emotivistas, entonces los primates con
emociones tampoco pueden ser excluidos de la moralidad, lo cual es absurdo: "Tales puntos
de vista, además de ser incapaces de explicar por qué los animales no humanos carecen de
moralidad, también han luchado por explicar el aparente sentido congnitivo de las
afirmaciones éticas y especialmente el desacuerdo ético. (Naturalmente, también tienen graves
dificultades para explicar la ética de los robots sin emociones)". (Abney, 2001, 46). En
cambio, considera que la posición de la psicología evolutiva, que hace hincapié en el nuevo
mecanismo de toma de decisiones de la evolución humana como explicación de la moralidad,
significa que los seres humanos han desarrollado también, cada vez más, un sistema de toma
de decisiones cognitivas que reconfigura las decisiones actuales de tal manera que al primer
paso instintivo-emocional del pensamiento le sigue siempre una segunda consideración
cognitiva, corrigiendo así el primero: 23
"Los psicólogos evolucionistas afirman que en la mayoría de los seres humanos no hay uno,
sino dos sistemas de toma de decisiones. El primero es un sistema instintivo y cargado de
emociones que sirve por defecto para gran parte de la actividad humana, sobre todo cuando se
está estresado o bajo presión. Muchos otros animales comparten este sistema no cognitivo de
toma de decisiones, en el que (literalmente) "no sabemos lo que hacemos", ni por qué lo
hacemos. (...) Pero este "fantasma en la máquina" no agota la agencia humana; Libet y otros
descubrieron que también tenemos una capacidad de "veto" que puede, después de su inicio
subconsciente, seguir alterando nuestra acción, de acuerdo con una decisión de un segundo
sistema cognitivo consciente" (Abney 2011, 46) Abney recuerda el efecto mutuamente
moldeador de los dos
 35

23
Cabe señalar que este punto de vista fue sostenido por Hegel en la filosofía del derecho mucho antes del
advenimiento de la psicología científica en 1820. Véase Georg Wilhelm Friedrich Hegel, "Grundlinie der
Philosophie des Rechts. (Werke Band 7.) Suhkamp, Frankfurt am Main. 1979. 301. p.
 36

capas superpuestas y casi recuerda a Nicolai Hartmann: "En los seres humanos, este sistema
deliberativo se superpone al sistema de toma de decisiones instictual, emocional (y más
rápido), por lo que la razón se ve muy a menudo superada por nuestros impulsos instictuales."
(46. p. )
Habiendo llegado a la conclusión de que la capa superior (cognitiva-racional) del
mecanismo de toma de decisiones humano de dos capas es la responsable de la toma de
decisiones morales, Abney plantea la cuestión de si la toma de decisiones morales es en
principio posible sin una capa inferior reconfigurada y anulada. Al fin y al cabo, la respuesta a
esta pregunta también depende de si es posible una decisión moral para los robots sin una
capa emocional. En esta pregunta, decide entonces exactamente lo contrario de lo que hizo
Hartmann anteriormente. Es muy posible -dice- que un mecanismo de decisión racional sea
suficiente para la toma de decisiones morales incluso sin una capa emocional del ser: "Por lo
tanto, el sistema deliberativo capaz de la agencia necesaria para la existencia de la moral, y así
para la persona moral. Pero, ¿es necesario también el sistema emocional ancestral? (...) En
otras palabras, -¿podrían los robots (sin emociones) ser personas morales? (...) La clave de la
responsabilidad moral y de la condición de persona es la posesión de la agencia moral, que
requiere la capacidad de deliberación racional -pero no la capacidad de estados emocionales
funcionales, por lo tanto, los robots bien podrían calificar" (Abney, 2011, 47).
Según Hartmann, estos análisis plantean dos problemas. Por un lado, teniendo en cuenta
las tres capas del ser por encima de la capa física del ser, se puede considerar erróneo que
Abney combine los estímulos biológicos con los determinantes de la capa emocional. Ya aquí
se produce una construcción mutua y una transformación, y un instinto del mundo instintivo
crudo se complementa con las emociones de la capa superior de la existencia mental. Por
ejemplo, la ferocidad de un impulso sexual biológico está informada por los sentimientos de
unión, sin mencionar las anulaciones intelectuales-simbólicas que aún se construyen sobre él,
y los aspectos de alteración sexual de las relaciones amorosas sublimadas que producen.24 Es
decir, no se trata de un doble sino de un triple mecanismo de decisión que hay que separar
analíticamente en la toma de decisiones del ser humano, y además de las reacciones y
determinantes instintivos más básicos, sus manifestaciones emocionalmente remodeladas
siguen estando bajo consideraciones más racionales a nivel intelectual. Sin embargo, una
decisión y el instinto que la determina directamente, respectivamente su transformación
emocional y su sobrescritura intelectual, están incrustados en las leyes interdependientes de
las tres capas superiores del ser. Así, la moral humana en las sociedades de toda civilización
humana requiere, para sobrevivir como raza, que hombres y mujeres vivan juntos en alguna
forma de comunidad permanente para tener hijos y ser educados. Una comunidad más amplia
es necesaria para el éxito de la lucha y la supervivencia con las fuerzas de la naturaleza y otros
grupos de personas, y dentro de estas comunidades más amplias deben interactuar en
relaciones más o menos armoniosas para organizar las actividades comunes. Por lo tanto, las
virtudes morales (normas y valores) se adaptan a las leyes de los estratos físicos, biológicos,
espirituales-emocionales e intelectuales específicos del ser humano y de sus comunidades y se
mantienen gracias al estrechamiento de las teorías morales en las últimas décadas. Hegel, a
principios del siglo XIX, o Rudolf von Jhering, en la década de 1870, y luego Nicolai
Hartmann, en la década de 1920, seguían viendo con claridad que cada persona, en su
socialización, sólo asume las normas y valores morales acumulados, las virtudes de muchas
generaciones, de las que se mantienen las comunidades más amplias, sin las cuales los
individuos no podrían ser aptos para vivir. 25
De esto se deriva otro problema con el análisis de Abney, y es que la elección moral
parece consistir sólo en seguir las normas según un cálculo intelectual-racional, pero no
requiere el estrato psico-emocional inferior del ser. Además, como hemos visto, las leyes del
estrato biológico del ser y el instinto que lo imparte a todo ser humano

24
Véase el trabajo de Luhmann, que analiza este proceso históricamente: Niklas Luhmann, "Liebe als Passion:
Zur Codierung von Intimität", Suhrkamp, Frankfurt am Main 1994.
25
Véase en detalle Béla Pokol, "Theoretische Soziologie und Rechtstheorie. Kritik und Korrigierung der Theorie
vo Niklas Luhmann". Passau. Schenk Verlag. 2013. 185-208.p.
 37

son importantes para la decisión moral. Pero también en vista de esto, se puede decir que las
normas morales, las virtudes morales existen sólo en las comunidades humanas (y así se
socializan en las personas de las siguientes generaciones), porque sólo así es posible una
existencia humana duradera y armoniosa en las comunidades humanas definidas por las cuatro
capas del ser humano. Así, si un ser artificialmente inteligente puede existir sólo con la capa
espiritual del ser, y a lo sumo necesita sólo un cuerpo físico-mecánico para tener
autoconciencia y ejercer una actividad consciente, o para poder reproducirse
permanentemente en el tiempo, entonces las normas morales de la existencia humana basadas
en las capas biológico-psíquicas de la vida no tienen ninguna función. Las normas morales
sólo significarían cosas externas para tal ser. Por lo tanto, si tal ser robótico puede reconstruir
constantemente su programa e incluso su hardware con los algoritmos del Deep Learning -
como lo hace en su mayor parte hoy-, entonces la erosión de las normas morales, que son
externas y sin función para él, es casi inevitable. Es decir, aunque es posible programar
instrucciones que imitan las emociones en los robots, y aún pueden dar cuenta de los aspectos
de la toma de decisiones (prohibiciones, prioridades de decisión) que requieren las normas
morales en los robots actuales, que siguen estando esencialmente bajo control humano, pero
cuando alcancen algún nivel de capacidad de autoaprendizaje, puede ser incierto que se
mantenga la inferencia de esas normas. En un futuro lejano (pero en el caso de un progreso
exponencial, incluso en veinte o treinta años), sería un error suponer, en el caso de los robots
del mundo robótico, liberados del control humano y autoconscientes, la supervivencia de las
normas del mundo humano en el mundo robótico.

2. Moralidad operativa, moral funcional y personalidad moral plena

Para analizar mejor los dilemas y problemas morales del mundo de los robots, parece útil la
triple división utilizada por Colin Allen y Wendell Wallach en su estudio conjunto. Basándose
en diferentes grados de autonomía de decisión, denotan el grado de moralidad operativa para
los robots que sólo pueden realizar las acciones determinadas por los programadores que
crearon su algoritmo y, posiblemente, por sus usuarios específicos, y totalmente alimentados.
Por otro lado están los que han alcanzado el nivel de moralidad funcional, y esto significa que
eligen la acción específica en cada situación basándose en la información proporcionada por
sus sensores entre los marcos de acción alimentados en su algoritmo. Por último, el nivel de
moralidad más autónomo se observa en los robots que alcanzan el nivel de personalidad
moral plena con el cese de la influencia humana, aunque este tipo no puede considerarse
probable ahora y en un futuro próximo, pero más adelante puede suponerse su creación: "Los
sistemas con autonomía y sensibilidad muy limitadas sólo tienen una "moral operativa", lo
que significa que su significado moral está totalmente en manos del diseñador y de los
usuarios. A medida que las máquinas se vuelven más sofisticadas, es posible una especie de
"moralidad funcional", en la que las propias máquinas tienen la capacidad de asignar y
responder a los desafíos morales. Los creadores de una moral funcional en las máquinas se
enfrentan a muchas restricciones debido a los límites de la tecnología actual. Este marco
puede compararse con las categorías de agentes éticos artificiales descritas por James Moor
(2006, 18), que van desde agentes cuyas acciones tienen un impacto ético (agentes éticos
implícitos) hasta agentes que son razonadores éticos explícitos (agentes éticos explícitos). Sin
embargo, reconocemos que, al menos en teoría, los agentes artificiales podrían alcanzar
eventualmente una auténtica agencia moral con responsabilidades y derechos, comparables a
los de los humanos." (Allen, Walach 2011, 57-58.)
Sin entrar en la posible crítica de si vale la pena utilizar el grado de moralidad para los
robots que ya han sido totalmente definidos por los programadores bajo el nombre de
moralidad operativa, los robots de moralidad funcional son realmente interesantes en la etapa
actual de
 38

desarrollo en el mundo de la robótica. Los coches que se conducen solos, los robots de
combate autopropulsados y, en menor medida, las enfermeras robóticas de los centros de
atención a la tercera edad y de salud que ya han alcanzado esta autonomía, hacen que estos
robots y coches autopropulsados se desplacen poco a poco entre nosotros o nos transporten
(hoy en día sólo en Japón y Estados Unidos), y los problemas de decisión moral que plantean
dan una importancia práctica a su análisis. Los autores repasan las posibilidades de elección
entre las tendencias de la teoría moral ya vistas anteriormente, y ven la dirección de la ética de
la virtud como adecuada para crear la moral funcional de los robots. Según su análisis, los
valores morales (virtudes) alimentados de esta manera pueden dar el marco de decisión, que
se aclara mediante el entrenamiento a través de mecanismos de aprendizaje neural, y de esta
manera los puntos de vista más generales de las virtudes se convierten en factores prácticos de
decisión moral: "La concepción de la moral basada en las virtudes se remonta a Aristóteles.
Las virtudes constituyen un híbrido entre los enfoques descendente y ascendente, en el sentido
de que las propias virtudes pueden describirse explícitamente (al menos con una aproximación
razonable), pero su adquisición como rasgos de carácter moral parece ser esencialmente un
proceso ascendente. Situando este enfoque en un marco computacional, los modelos de redes
neuronales proporcionados por el conexionismo parecen especialmente adecuados para el
entrenamiento de (ro)bots que distingan el bien del mal. (Allen, Wallach 2011, 59-60).
Estructuralmente, esto es ampliamente análogo a las decisiones que las personas están
acostumbradas a tomar en su vida cotidiana, que se basan en el razonamiento moral abstracto
y se adaptan a situaciones particulares, y que son impulsadas menos conscientemente que con
el mero sentido moral. Pero con la importante diferencia de que, debido a la falta de
conciencia y autoconciencia de los robots avanzados actuales, los determinantes híbridos
sutilmente afinados por los programadores (virtudes de encuadre más su memoria concretada
de entrenamiento sin conciencia) dan las normas morales más o menos aceptadas de las
sociedades humanas actuales para las decisiones adecuadas o aproximadas. En cuanto a la
tercera versión, si es realmente posible aceptar teóricamente a los robots según el grado de
personalidad moral plena de acuerdo con la moral humana, sólo puede juzgarse con
escepticismo en el caso de un mundo robótico teóricamente fuera del control humano y que
haya alcanzado la plena autonomía, según la explicación anterior.

3. ¿La devaluación del entorno físico-biológico como problema moral?

La existencia humana en cuatro capas y el creciente peso de la capa superior e intelectual del
ser y la devaluación de las capas inferiores han caracterizado la evolución humana hasta
ahora, pero la creciente adopción por parte de los robots de los distintos tipos de trabajo y de
las percepciones del entorno conducirá en el futuro a un cambio importante en la socialización
humana, de la que cambiará en gran medida la dirección de la atención a la realidad y la
conversión de los detalles del mundo real en experiencia para él. En un estudio, David Zoller
analiza la toma de posesión cada vez más generalizada del trabajo de los humanos por parte
de los robots en términos de cómo este proceso deteriora la percepción de la realidad
cotidiana en la conciencia humana y cómo las habilidades y capacidades de observación que
aún existen hoy en día están desapareciendo. Basta recordar los números de teléfono que ya
están almacenados en los teléfonos móviles y, por tanto, borrados en gran medida de la
conciencia, o la información de orientación espacial que está desapareciendo de nuestra
conciencia debido al GPS, y la muerte parcial de esta capacidad. (Una reciente investigación
sobre el cerebro también descubrió que, en el caso de los taxistas de Londres, se puede
afirmar que la pequeña parte del cerebro en la que un grupo de neuronas cerebrales
especializadas para este fin almacenaba la gran cantidad de información sobre las calles de
Londres desapareció con la difusión del GPS, y este sector del cerebro se desplazó a otra
función en su lugar).
 39

Zoller acerca este problema a las cuestiones morales al basar la toma de decisiones
morales en la percepción del conjunto de la realidad y, en este caso, en la formación de la
identidad humana y en el conocimiento perceptivo detallado que adquiere un adulto desde la
infancia. Si las generaciones futuras se socializan desde la infancia para estar rodeadas de
robots y para que su entorno inmediato sea percibido por robots sin realizar actividades y
tareas perceptivas en su lugar, no sólo estarán desprovistas de derechos sino que también
carecerán de los conocimientos detallados de los adultos de hoy. Como seres responsables,
tampoco pueden crecer para tomar decisiones morales, es decir, se vuelven infantiles: "Mi
propio argumento se basa en la forma en que la habilidad abre rincones de la realidad, por así
decirlo, que son inaccesibles para los que no están capacitados. (. ) La madurez o adultez que
ganar ajustándonos al "mundo real", por supuesto, tiene un cierto atractivo moral y personal:
un mundo de infantes psicológicos perezosos es, podríamos pensar, un mundo peor en una
variedad de espectros." (Zoller 2017, 81, 86). El hecho de que estos reinos de la realidad
vayan más allá de nuestra percepción, y venga en su lugar el procesamiento mecánico de la
información de estos robots, nos permite adaptarnos de maneras que ahora son inconscientes
debido a este cambio, y esto también sacude nuestra identidad moral, dice Zoller: "Dado que
automatizar una actividad especializada significa acordar que saldremos de algún nicho de la
realidad perceptiva, y tal vez salir de ella para siempre, (.... ) Cuanto más repentina, amplia y
omnipresente sea la entrega de nuestra facilidad perceptiva a los robots, más probable será
que cometamos errores y simplemente "perdamos datos" que eran sorprendentemente
integrales para nuestra vida moral y social." (Zoller, 2017, 86).
Aunque hay que reconocer que Zoller, a diferencia de los análisis anteriores que se
centran en que los robots asumen los puestos de trabajo como una facilitación humana
unilateral -aparte de las consecuencias socialmente negativas del desempleo ya discutidas
(véase, por ejemplo, Ford, 2014)- profundizó al examinar más de cerca el cambio en la
capacidad perceptiva humana, hay que criticar que, inconscientemente, haga demasiado
hincapié en las capas del ser en el entorno físico-biológico. Si nos fijamos en los estratos del
ser de Hartmann, este cambio puede leerse de forma completamente diferente. Los cambios
esbozados por Zoller no significan la pérdida de la percepción de toda la realidad y de la
capacidad de hacerlo, sino sólo la capacidad de percibir las capas del ser físico-biológicas y de
transmitirlas a los robots y a los robots de software. De este modo, las capacidades
perceptivas y los sectores cerebrales liberados del hombre pueden ser más reconstruidos para
procesar la información sobre su capa espiritual-emocional del ser y su capa intelectual del
ser, respectivamente. Por lo tanto, sus decisiones morales se tomarán en el futuro con menos
información física y biológica del entorno -éstas serán desactivadas por los robots en los
procesos mecánicos- y estas decisiones podrán basarse más en la información de las capas
espiritual-emocional y racional-intelectual del ser. La disminución de la importancia de las
dos capas inferiores del ser y, en cambio, la mayor expansión de las dos capas superiores de
significado para la existencia humana, puede, por supuesto, reconfigurar significativamente
los fundamentos de nuestras decisiones morales y los incentivos que intervienen en ellas. Por
ejemplo, la implantación de decenas de sensores corporales y su conexión con bases de
información recogidas en las nubes, así como el diagnóstico automático por parte de robots de
software sanitario y la activación automática de dosis específicas de fármacos implantados en
el cuerpo, pueden hacer que las alarmas proporcionadas por los genes del dolor en nuestras
células queden en gran medida obsoletas (véase Kelly 2016: 34-56). Por lo tanto, la ingeniería
genética prenatal permite minimizarlo, y las condiciones de la vida humana sin dolor pueden
redefinir las obligaciones morales y los incentivos implicados en la actualidad. En general,
por lo tanto, no compartimos las preocupaciones de Zoller sobre la infantilización moral.
 40

4. Dilemas morales y responsabilidades en sistemas híbridos y en red.

En un estudio, los autores Wulf Loh y Janina Loh examinaron las cuestiones de
responsabilidad moral y jurídica que surgen en los coches de autoconducción actualmente
desarrollados (Loh, Loh 2017, 35-48). Parten de la base de que los coches de autoconducción
actuales solo se encuentran en la fase de moralidad operativa, por lo que ni siquiera alcanzan
la autonomía moral funcional frente a sus fabricantes y programadores. Los autores han
adoptado esta postura basándose en una estructura de toma de decisiones morales desarrollada
por Stephen Darwall, que se divide en cuatro aspectos y pretende separar los aspectos de la
autonomía necesarios para la toma de decisiones morales. El aspecto de la autonomía
necesario para el nivel de la personalidad moral general se denomina autonomía personal, es
decir, la capacidad de poseer y elegir entre los valores personales, las metas y los objetivos
últimos de la vida. La autonomía moral es el otro aspecto, y esto significa que sus valores y
objetivos incluyen principios morales y creencias éticas, y junto con estos siempre consideran
alternativas al tomar decisiones. Estos dos aspectos no existen en los robots actuales, y sólo
los humanos son capaces de tal autonomía, pero el aspecto de la autonomía racional ya está
disponible para los robots en el nivel de la moralidad funcional. Esto significa que el robot
puede sopesar razones de distinto peso a la hora de tomar una decisión. Su algoritmo ya puede
permitirlo al incorporar marcos de decisión puramente abstractos -dejando cierta libertad- en
los que la ponderación entre las posibles direcciones de decisión se hace a la luz de los datos
concretos que registran constantemente sus sensores, y deciden en función de esos datos. Por
último, el cuarto aspecto de la autonomía es la autonomía de decisión, y esto significa la
capacidad del robot de tomar decisiones no sólo por los datos externos -concretando
continuamente los determinantes del marco incorporado- sino también sus prioridades de
decisión internas sin cambiarlas. Basándose en los ejemplos de los autores - dos tipos de
robots ya en uso (Kismer y Cog) - parece posible alcanzar este grado de autonomía a partir de
sus mecanismos de autoaprendizaje, que se integran en el algoritmo del robot y dejan de ser
controlados externamente: "Cog, el primer robot que puede interactuar con su entorno gracias
a su encarnación, podría pasar como un ejemplo de agente responsable funcional débil, ya que
su capacidad de comunicación, así como de juicio, ha sido mejorada con respecto a la de
Kismer. Y lo que es más importante, la autonomía general de Cog ha evolucionado, ya que
incluye un "algoritmo de aprendizaje no supervisado". (Loh, Loh 2017, 40). Dado que el
algoritmo actual de los coches autodirigidos no incluye todavía ese mecanismo de
autoaprendizaje no supervisado, solo están en el nivel de la moral operativa, y esta
responsabilidad moral y legal recae por completo en sus desarrolladores (diseñadores,
fabricantes y programadores) y en los concesionarios o propietarios de los coches, y
respectivamente entre los ocupantes del coche.
Pero incluso con este nivel de tecnología, los coches de autoconducción ya superan a los
humanos, dejándolos -y especialmente a sus programadores- con dilemas morales que no se
dan en el caso de los humanos en situaciones de conducción extraordinarias e inesperadas. Por
ejemplo, si dentro de la distancia de frenado justo delante del coche un grupo de niños salta a
la carretera para recuperar una pelota rodada, el conductor no puede detenerse, ni siquiera
frenar, a esa velocidad media, lo que le deja sin responsabilidad moral o legal en el terrible
suceso. Pero la automatización de la autoconducción, que puede reaccionar mucho más
rápido, podría tener que tomar una decisión si no puede detenerse y choca contra un pilar -lo
que podría herir gravemente a los ocupantes del coche- o conduce y mata a los niños para
evitarlo. Pero las capacidades técnicas, mucho más allá de los humanos, podrían crear una
docena de nuevos aspectos de toma de decisiones morales para los coches autoconducidos en
el futuro. Por ello, los autores del estudio sugieren que pronto se creará una tarjeta de
identificación separada para los propietarios de coches de autoconducción, en la que la
configuración final del programa de software del coche, los dilemas que dejan abiertos los
fabricantes, deberán ser decididos en el momento de la compra, de modo que se pueda asumir
 41

la responsabilidad moral y legal de lo siguiente: "Dado que estas situaciones dilemáticas no

permiten tomar decisiones sobre la marcha, el conductor
 42

tendrá que tomarlas de antemano. Esto significa que el conductor tendrá que rellenar un perfil
moral de algún tipo, tal vez en forma de cuestionario, tal vez en el sentido de un programa de
configuración muy parecido al de los dispositivos electrónicos actuales. Por comodidad,
parece plausible que estos ajustes morales puedan guardarse en una especie de dispositivo de
identificación electrónica, como una llave electrónica o el smartphone del conductor,
suponiendo que se puedan resolver los problemas de seguridad de los datos" (Loh, Loh 2017,
46).
El desarrollo de robots conectados en red y la progresiva incorporación de "objetos
inteligentes" (teléfonos inteligentes, televisores inteligentes, etc.) a nuestro alrededor no han
hecho más que empezar, y a medida que se expanden, la Internet de los objetos (IoT) se verá
cada vez más involucrada en nuestras vidas en el futuro. Los sistemas híbridos humano-robot
se expanden así para incluir aspectos adicionales, y esto crea otra serie de dilemas morales y
legales. Adam Henschke los analiza en su nuevo estudio (Henschke, 2017, 229-243). Las
cosas inteligentes están ampliamente disponibles a través de los teléfonos inteligentes
multifuncionales, los televisores inteligentes, las aspiradoras robóticas y los coches
automatizados semiautónomos con una variedad de sensores, pero incluso en la vida cotidiana
en gran parte del mundo, se han desarrollado estas otras cosas inteligentes que ya están más
allá de las etapas de laboratorio de investigación y ya han llegado a los hogares de los
usuarios de alta tecnología con una producción a pequeña escala. Sin embargo, como ya
hemos experimentado con los teléfonos inteligentes, etc., proliferarán en pocos años y su uso
masivo plantea nuevos dilemas morales y legales. Un ejemplo es el frigorífico inteligente, que
contiene alimentos con RFID (identificación por radiofrecuencia) y, por lo tanto, con
identificación digital de la cantidad, la vida útil, etc., y el frigorífico inteligente lee
constantemente estos datos, detecta el agotamiento de cada cantidad de alimentos y, como
está conectado a los mecanismos de venta de los supermercados cercanos en Internet, puede
pedir que se entreguen automáticamente alimentos y otros artículos domésticos. En la
sociedad japonesa que envejece, un número cada vez mayor de personas mayores pueden ser
atendidas mediante el uso de robots de asistencia, y en los hogares inteligentes totalmente
digitalizados, un robot de este tipo también puede atender a los ancianos indefensos,
haciéndose cargo de las entregas de alimentos ordenadas de este modo. Al observar y
comunicarse con la persona mayor indefensa que se le ha confiado, puede llamar por teléfono
al médico de la familia o, si es necesario, al hospital, si sus algoritmos incorporados hacen
probable un problema de salud más grave.
Este ejemplo muestra cómo, en una o dos décadas, los robots serán necesarios en cada
vez más partes del mundo, para resolver cada vez más trabajos a través de robots
omnipotentes y teléfonos inteligentes que pueden ser utilizados en sistemas de información
completos para cumplir sus funciones. Sin embargo, esta creciente indispensabilidad del
Internet de los objetos también crea nuevos peligros y dilemas morales en comparación con
los robots simples. Adam Henschke señala en su escrito que la novedad de la Internet de los
objetos en comparación con los robots simples es que estos últimos plantean principalmente el
problema de la seguridad física y los riesgos deben evaluarse en esta dimensión. (Por ejemplo,
un robot aspirador causó recientemente graves heridas a un ocupante inesperado, pero
también pueden citarse uno o dos accidentes mortales de coches Tesla autoconducidos). En
cambio, los problemas y peligros de seguridad en el Internet de las cosas se dan en dos
dimensiones diferentes. Aquí, además de la seguridad física, también intervienen los
problemas de seguridad de la información, ya que el mencionado robot de cuidado de
ancianos, que está conectado al software de hospitales, médicos y otros lugares en Internet,
puede proporcionar a los hackers o a otras personas información sobre los datos registrados
por su cámara incorporada y otros sensores. Pueden compartir los datos sanitarios recogidos
continuamente sobre un cuidador de ancianos no sólo con el software del hospital encargado,
sino también con aquellos que tienen intenciones y planes maliciosos. Del mismo modo,
nuestros televisores inteligentes con una serie de aplicaciones no sólo pueden cumplir con su
comodidad, sino que, con sus cámaras y micrófonos incorporados, transmiten toda la vida del
hogar a software y bases de datos de información que no vemos.
 43

Esta vulnerabilidad también puede conducir a una vulnerabilidad física, como cuando una
cerradura automática hackeada se abre a distancia para un intruso mediante instrucciones
externas de dispositivos inteligentes. O, como ya ha ocurrido en un elegante hotel de playa,
las cerraduras electrónicas inteligentes
 44

fueron bloqueados por un grupo criminal desde fuera de los pisos, y los huéspedes del hotel
de la élite adinerada fueron prisioneros hasta que se pagó el rescate exigido. Sin embargo,
Henschke también menciona la posibilidad de que la cerradura electrónica del coche de un
multimillonario fuera bloqueada por los delincuentes después de que éste se bajara y sus hijos
atrapados en él fueran liberados en un día soleado sólo si transfería cientos de miles
(Henschke 2017, 234). Inmediatamente después del incidente, dicho elegante hotel sustituyó
las cerraduras eléctricas que podían ser barridas desde el exterior y volvió a instalar las viejas
cerraduras tradicionales. Después de tal incidente, es probable que el citado multimillonario
también restrinja las funciones de internet de su coche durante un tiempo. Todo esto, sin
embargo, obliga a tomar decisiones en dilemas y elecciones morales y legales sobre los que
vale la pena reflexionar ampliamente. En el mundo de nuestros objetos, que cada vez es más
frecuente en el Internet de las cosas, ya se están dejando de lado las viejas cosas sencillas, y
no podremos sustituir los objetos que agitamos en la base de datos de la nube a voluntad. Del
mismo modo que hoy no renunciaríamos a Internet a pesar de todos los aspectos negatívos
que conlleva la vulnerabilidad.
Uno de los dilemas del Internet de los objetos integrado en bases de datos en red y en la
nube es ¿cuál de los requisitos contradictorios de los dos tipos de seguridad -seguridad física y
seguridad de la información- debe tener prioridad? Por ejemplo, hacer que el hogar inteligente
de una persona mayor que apenas puede moverse sea totalmente monitorizable a distancia por
los centros médicos a través de cámaras y micrófonos puede ser importante hasta cierto punto,
pero también puede significar exponer las manifestaciones más íntimas de la vida más allá de
lo necesario. Si se hace hincapié en la autonomía informativa y en la limitación de la
observación y la transparencia, es posible que la información que sigue siendo necesaria en
casos excepcionales no se transmita al centro asistencial, y que el anciano beneficiario de los
cuidados muera. Henschke señala que a menudo hay prioridades típicas y, por ejemplo, en
una televisión inteligente, la seguridad de la información tiene una mayor prioridad, y para
ello, podemos abordar fácilmente las limitaciones en este sentido. Sin embargo, con miles de
aplicaciones de coches autoconducidos vinculadas al software en la nube, prestamos más
atención a los requisitos de seguridad física y solo en segundo lugar a los de seguridad de la
información (Henschke, 2017, 239).

5. Autoaprendizaje, aprendizaje automático y responsabilidad

Como ya se ha dicho, el principal problema del futuro será el dilema de los coches
autoconducidos que se desvinculan de los humanos y no pueden ser bloqueados desde el
exterior en determinadas situaciones inesperadas, cuando el algoritmo de este coche
autoconducido, construido sobre el autoaprendizaje neural, ya ha decidido de forma
autónoma. Dado que ésta ha sido la principal dirección del desarrollo de la inteligencia
artificial en los últimos años, es casi seguro que tampoco se eludirá en este ámbito. Por lo
tanto, hoy en día merece la pena examinar más de cerca los dilemas de la responsabilidad
moral y jurídica de los robots con un alto grado de autoaprendizaje neuronal y de sus
creadores, propietarios y usuarios. Esta cuestión se aborda en el estudio conjunto de Trevor N.
White y Seth
D. Baum (White, Baum, 2017, 66-79) y por Shannon Vallor y George A. Bekey (Valor,
Bekey, 2017, 338-353) analizados desde diferentes ángulos.
El estudio de Trevor y Baum no sólo tiene en cuenta a los diseñadores, los constructores
y los usuarios, sino que también tiene en cuenta el "castigo" del propio robot en el caso de los
robots avanzados, que ya tienen un sistema de castigo y recompensa integrado en su
programación, y los castigos y recompensas repetidos refuerzan en su programación las
direcciones de decisión (positivas o negativas) respecto a la selección de las futuras respuestas
del robot. Esto también integra el castigo/recompensa en el algoritmo de aprendizaje. Cuando
 45

la situación se presenta en el futuro, las decisiones del robot son alentadas en la dirección
correcta, y el robot no necesita tener conciencia y auto
 46

conciencia para hacerlo. Esta forma de reforzar el autoaprendizaje mediante la repetición

también es aceptable según los autores: "Los robots no conscientes podrían ser castigados con
algún tipo de recompensa o utilidad reducida según la función de recompensa/utilidad que
puedan tener. En concreto, podrían ser reprogramados, desactivados o destruidos o puestos en
lo que se conoce como "Caja": confinamiento digital solitario que restringe la capacidad de
una IA para comunicarse o funcionar. (. ) Sin embargo, para que esto sea posible, estos robots
deberían estar basados (al menos en parte)
en el aprendizaje por refuerzo o en paradigmas informáticos similares (excepto los basados en
algoritmos de redes neuronales.)" (Trevor, Baum, 2017, 71).
Sin embargo, los autores consideran que el sistema de aprendizaje neuronal es tal que los
diseñadores y programadores ya pierden el control sobre la reacción del robot ante una
situación determinada y, por tanto, debería prohibirse desde el principio como fuente
potencial de peligro, posiblemente de desastre: "Los diseñadores podrían ser igualmente
responsables por construir robots que utilicen algoritmos opacos, como las redes neuronales y
los métodos de aprendizaje profundo relacionados, en los que es difícil predecir si el robot
causará daños". (ibid.) En el caso de los algoritmos que permiten ese comportamiento opaco
de los robots, ya no basta con prescribir la responsabilidad a posteriori, sino que lo adecuado
es la prohibición prescriptiva: "Por lo tanto, en lugar de la responsabilidad, podría utilizarse
un enfoque de precaución. Esto establecería una política por defecto de rechazo de cualquier
actividad con cualquier posibilidad remota de causar una catástrofe. (...) En efecto, se
responsabilizaría a las personas no por causar una catástrofe, sino por realizar acciones que
podrían causar una catástrofe." (Trevor, Baum, 2017, 74). Si se está de acuerdo en principio
con los autores sobre el carácter peligroso de los mecanismos neurales de software de
aprendizaje profundo, sólo hay que reiterar que se trata de una prohibición de la principal
forma de desarrollar la inteligencia artificial y, por tanto, debe considerarse improbable a la
luz de los poderes que están detrás de la industria, los militares, etc. Por lo tanto, parece
aconsejable buscar otros caminos que traten de encontrar otra solución sin prohibir el
aprendizaje profundo neural.
Por supuesto, hay que destacar que el aprendizaje de las redes neuronales, que imitan el
funcionamiento del sistema nervioso central, puede controlarse implicando un control humano
externo antes de desencadenar un efecto de construcción de la realidad. Sin embargo, esto se
queda cada vez más corto por varias razones, y así lo analizan Vallor y Bekey en el estudio
antes citado. Una de las razones es que la ventaja de utilizar inteligencia artificial en lugar de
humanos, la increíble rapidez de respuesta, se perdería si se introdujera el control humano
retrospectivo. Además, el noventa y nueve por ciento de las veces, las respuestas son
correctas, muchas veces más que el rendimiento humano. Además, la calidad de un control
humano mucho más lento puede ser cuestionable, ya que la decisión del robot puede ser más
correcta que la decisión humana superior. Esto último ocurrió con el algoritmo de diagnóstico
de medicamentos de IBM Watson, y la inusual cura destacada por la inteligencia artificial a
partir de millones de estudios y diagnósticos oncológicos, y posteriormente sintetizada por
ellos, resultó más correcta que la decisión oncológica que anula: "Los diagnósticos y planes
de tratamiento de Watson siguen siendo vetados por los oncólogos autorizados. Aun así, ¿con
qué fiabilidad puede un experto humano distinguir entre una recomendación de tratamiento
novedosa e inesperada de Watson que podría salvar la vida de un paciente -algo que al parecer
ya ha ocurrido en Japón- y el equivalente oncológico de "Toronto"?" (Vallor, Bekey 2017,
343). 26 El dilema de la pérdida de velocidad y, por tanto, de la eliminación de la ventaja del
robot, también queda ilustrado por los soldados robóticos y los programas informáticos de
toma de decisiones utilizados en situaciones de guerra. En este caso, se plantea
constantemente la cuestión de si el soldado robot que entra en la zona y el edificio más
peligrosos puede utilizar las armas destructivas que posee para destruir a los que están dentro
sin una decisión humana externa, o si, por el contrario, la orden de destrucción solo puede ser
dada por una confirmación humana a distancia. Del mismo modo, se plantea el dilema de si
un reconocimiento
 47

26
El "error de Toronto" fue uno de los errores fundamentales de Watson en un concurso televisivo de ámbito
nacional en el que ganó a todos con sus respuestas a las preguntas más difíciles. Como error final, hizo que
Toronto fuera una de las ciudades de EE.UU. y ni siquiera el competidor más débil hubiera perdido. Así que se
ha convertido en un símbolo de las decisiones erróneas tomadas por la inteligencia artificial, que son raras pero
que provocan tragedias en muchos casos.
 48

¿El avión robótico podría destruirse inmediatamente, o esto sólo podría hacerse con la
intervención humana desde la sala de mando remota basada en la información que transmite?
La limitación de la velocidad requiere que el propio robot tome y ejecute una decisión, ya que
la pérdida de tiempo por una decisión humana externa podría llevar a la destrucción del robot
si irrumpiera en un lugar peligroso. Pero derribar máquinas de combate amigas que ya han
pasado varias veces, o matar a niños y mujeres identificados erróneamente como enemigos en
la zona invadida, argumenta en contra de esto (Vallor, Bekey, 2017, 349).
Los algoritmos de aprendizaje de redes neuronales detalladas, la última tendencia en
inteligencia artificial, ya proporcionan al software de autoaprendizaje múltiples profundidades
para la simple posición de partida computacional mediante la alimentación continua de miles
y miles de millones de datos, lo que hace que la posición de partida sea gradualmente la más
avanzada. En esta técnica, entre las entradas del software de autoaprendizaje y las salidas
especializadas en la tarea, se encuentran miles de capas neuronales intermedias entre los datos
masivos, que encuentran de forma independiente patrones y regularidades y los destacan para
su uso. Al combinar miles de millones de datos, pueden destacar y utilizar las regularidades
más pequeñas, imperceptibles para los humanos, a la hora de tomar decisiones: "Entre las
capas de nodos de entrada y salida hay capas "ocultas" de nodos que funcionan para procesar
los datos de entrada, por ejemplo, extrayendo características que son especialmente relevantes
para los resultados deseados. Las conexiones entre los nodos tienen "pesos" numéricos que
pueden modificarse con la ayuda de un algoritmo de aprendizaje; el algoritmo permite
"entrenar" la red con cada nuevo patrón de entrada hasta optimizarla. (...) El interés por las
redes neuronales ha crecido en los últimos años con la adición de más capas ocultas que dan
profundidad a dicha red, así como de capas feeedback o recurrentes. El ajuste de las fuerzas
de las conexiones en estas redes más complejas pertenece a un grupo de técnicas vagamente
definido conocido como aprendizaje profundo". (Vallor, Bekey, 2017 341). Los efectos de los
patrones de decisión puestos de manifiesto por estos algoritmos de aprendizaje detallado,
aunque a menudo logran resultados sorprendentemente buenos en la práctica, pueden no ser
comprendidos por los diseñadores y programadores, y sus decisiones pueden causar
sistemáticamente sorpresas, incluyendo diversos grados de sorpresas desagradables. ¿Quién
debe asumir la responsabilidad legal y moral de esto?

6. La identidad en el mundo de la inteligencia artificial

James DiGiovanna plantea cuestiones que invitan a la reflexión cuando se pregunta en su

estudio cómo puede cambiar la identidad de las personas con implantes cerebrales. Discute
esta cuestión junto con la de la identidad de los robots, que en el futuro pueden aparecer como
seres totalmente artificiales y ya tienen conciencia de sí mismos (DiGiovanna, 2017, 307-
321). Consideremos los dos ámbitos problemáticos por separado.
La posibilidad de aumentar la memoria mediante implantes cerebrales se ha desarrollado
en los últimos años en experimentos con ratones y ha demostrado ser eficaz. Todos esperan
mitigar y curar los efectos de la enfermedad de Alzheimer, que se extiende rápidamente en las
sociedades que envejecen (véase Kaku, 2014, 132- 133). DiGiovanna está explorando la
posibilidad de otros desarrollos en los próximos años, además de las enfermedades que se
extienden en masa, para aumentar la capacidad del cerebro. Y si se encuentra una solución
técnica a los problemas que hoy persisten en este campo, es casi seguro que se convertirá en
algo habitual, primero en la élite y luego en el conjunto de la sociedad, para aumentar el
mayor valor de la inteligencia humana. Esto significa, sin embargo, que la identidad
permanente de cada individuo, que es la base de los contactos en las comunidades, puede
quedar más o menos anulada y puede resultar incierto hasta qué punto podemos esperar que
nuestros compañeros sobrevivan a sus cualidades que hemos conocido y amado hasta ahora:
"La capacidad de reescribir contenidos mentales como la ética
 49

valores, la capacidad de empatizar y los rasgos generales de la personalidad socava la

condición de persona. (...) Una para-persona que pudiera experimentar con visiones del
mundo, adoptando y borrando completamente sistemas de valores, preferencias y bases de
juicio, carecería en gran medida de lo que comúnmente se entiende como el elemento más
básico de la identidad personal" (DiGiovanna, 2017 311). Por lo tanto, nuestras vidas en la
sociedad y en varias comunidades pequeñas dentro de nuestra sociedad se basan en nuestras
identidades permanentes, y esto puede cambiar fundamentalmente tras la adición de mejoras
cardíacas, auditivas y otras físicas cuando se cambia el cerebro con el implante cerebral.
Con los cambios paulatinos en la vida, la conciencia siempre se reconstruye en detalle, y
esto lleva a pequeños cambios graduales en la identidad, que en el mundo moderno se
intensifican con las expansiones de información del último siglo. Sin embargo, en
comparación, en el futuro podremos plantar toda una gama de información -el contenido de
libros y estudios, pequeñas bibliotecas- con implantes cerebrales en nuestras cabezas y junto
con ella manejar nuevos mecanismos básicos de procesamiento lógico y de valores que antes
no teníamos en nuestras vidas, y no teníamos las habilidades para hacerlo. Ahora bien, esto
afectará fundamentalmente al contacto entre el individuo y sus comunidades. En cualquier
caso, las bases de contacto basadas en las identidades permanentes actuales podrían ser
eliminadas por este cambio. Después de un contenido de conciencia tan nuevo -sobre todo si
los valores de los interlocutores han sido complementados y reclasificados- no puedo saber
hasta qué punto mi novio, mi novia, mi mujer, mi colega, etc. son los mismos. Si las
cualidades que hemos amado en ellos hasta ahora siguen vivas, o de la misma manera las
experiencias que hemos tenido juntos hasta ahora, que proporcionaron la misma respuesta en
nuestra estrecha relación incluso sin palabras, siguen siendo relevantes para él. Los implantes
cerebrales en el cerebro, que complementan nuestros conocimientos, normas y capacidades
lógicas adquiridas con la ayuda de nuestro cerebro biológico, se actualizan constantemente de
nuevo y desde el exterior, como ya sabemos hoy. Además, pueden conectarse constantemente
a las bases de información de su software almacenado en las nubes. ¿Hasta qué punto seguirá
siendo familiar nuestro amigo, dotado de tales, en el que podemos confiar, porque "¡aún le
conocemos!" ¡?!
Esta cuestión de la identidad se extiende también a los problemas jurídicos y morales.
¿Hasta qué punto puedo respetar a alguien por su comportamiento pasado o simplemente
despreciarlo porque después de un refresco cerebral puede ser un "atleta moral" o
simplemente un frío buscador de ventajas? ¿O tiene sentido la responsabilidad legal por la
acción de ayer para alguien que desde entonces ha pensado y actuado de forma diferente? La
otra cara de la moneda es si, si podemos cambiar la conciencia de un sociópata mediante un
implante cerebral y su conciencia se borra parcialmente y se introduce una nueva conciencia
socialmente amigable, ¿sigue siendo necesario un sistema de castigo? Y esto plantea la
cuestión de si, además del implante cerebral voluntario, es aceptable su instalación forzosa?
O, en parte, ¿puede ser obligatorio para el Estado que todos los niños sean examinados y
probados en la infancia, como ocurre actualmente con las vacunas obligatorias? DiGiovanna
llama para-personas a los futuros humanos con esos cerebros aumentados -evitando el nombre
de cyborg, que ya se ha inventado para ellos en la ciencia ficción- y, dado el estado actual de
la investigación en los laboratorios, este futuro no significa en absoluto un futuro lejano, y la
probabilidad de que se haga realidad es alta. Por lo tanto, hay que estudiar detenidamente los
dilemas jurídicos y morales y adaptar las soluciones actuales a la situación de la época.
Más allá de las para-personas, en el caso de los seres robóticos totalmente artificiales y, a
diferencia de los actuales, autoconscientes, cuya probabilidad no puede descartarse, aunque no
sea tan grande como la de los primeros, la cuestión de la identidad puede abordarse
planteando nuevos aspectos. DiGiovanna sitúa el contenido de la identidad en el centro para
exponer el dilema de la identidad en relación con los seres robóticos. Algunos detalles de los
humanos y su conciencia cambian constantemente, pero su
 50

Las características y las preferencias de valores perdurables sólo cambian ligeramente, incluso
a lo largo de muchos años, de modo que a los que viven siempre en su entorno se les puede
atribuir más o menos una identidad que abarca el cambio. Es la lentitud del cambio lo que me
permite, incluso en el acelerado mundo actual, no sentirme decepcionado por mis experiencias
anteriores con las motivaciones y características de quienes entran en contacto conmigo. Pero
eso es exactamente lo que desaparece para los robots, que son miles y millones de veces más
rápidos que los humanos a la hora de procesar la información y aprender por sí mismos en
muy poco tiempo: "El lento cambio de carácter y apariencia es parte de lo que hace la
identidad personal (...) Pero con una persona artificial, el cambio repentino y radical tanto en
lo físico como en lo mental se hace posible" (DiGIovanna 2017, 3011, 307.).
Las preferencias de valores permanentes en el procesamiento de la información y la
cooperación basada en ellas ya son problemáticas con los robots debido a la masa y la
velocidad de su adquisición de información, así como a su constante autoaprendizaje y
autocambio. La propuesta de DiGovanna puede significar también que hay que reconsiderar la
posibilidad de la "autoconciencia" y la "conciencia del ego", incluso para un futuro robot
poderoso de IG. Estas presuponen la identidad permanente de una persona, pero esto se basa
en la lentitud de nuestros cambios de conciencia y, por tanto, en la permanencia de nuestro
procesamiento de la información. Cuando un ser artificial se libera del control humano y pasa
a procesar la información de forma independiente y de ahí al autoaprendizaje y la
autotransformación, puede aprender miles de veces al día, cada hora e incluso cada minuto, y
puede transformarse en sus nuevos ciclos cada vez más cortos, entonces lo que llamamos una
autoconciencia estable, la conciencia del ego, en los humanos contemporáneos casi
desaparece. Con este énfasis, DiGiovanna también añade una nueva cuestión a la tan
discutida, es decir, cómo se mantendrá la cuestión de la autoconciencia y la conciencia del
ego de la futura conciencia robótica avanzada. ¿Y cómo se puede imaginar el valor moral sin
la autoconciencia y la conciencia del ego permanentes?
Solo por esta razón, debe considerarse errónea la corriente de pensamiento calculada por
la extensión mecánica de la imagen humana actual de que tal ser robótico probablemente
también será "superético" en el caso de la superinteligencia (véase Petersen 2017). Sin
embargo, en este contexto también es necesario abordar de forma más exhaustiva las
explicaciones y los análisis que, en el caso del desarrollo de robots con conciencia propia -por
analogía humana- prevén el reconocimiento de sus necesidades morales y la concesión de
derechos humanos en sus escritos. Pues estos análisis conciben los futuros robots simplemente
como un nuevo tipo de compañero humano y una extensión de la existencia humana. Una vez
que los programas de los robots hayan incorporado las emociones a sus algoritmos, estos
análisis exigen que la sociedad preste atención a las emociones de los robots y les conceda
también derechos humanos: "Probablemente haya que legislar a cuánto dolor y peligro puede
exponerse un robot. (...) Es fácil que esto lleve a otros debates éticos sobre otros derechos de
los robots. ¿Pueden los robots tener propiedades? ¿Qué ocurre si alguien resulta herido
accidentalmente? ¿Pueden ser demandados o castigados? ¿Quién es responsable de ellos si
son demandados? ¿Puede un robot ser dueño de otro robot? Estas preguntas dan lugar a otra
cuestión: ¿se debe dar a los robots un propósito ético? (Kaku 2014, 251). Nuestras
explicaciones anteriores respondieron a varias preguntas de estas, basándose en los estudios
de robótica realizados en el período intermedio, pero también hay que destacar el problema
básico que hay detrás, ya que han surgido estudios y volúmenes enteros a partir de supuestos
similares, por ejemplo, un nuevo volumen en esta área editado por Jason P. Doherty: "AI
Civil Rights: Addressing Artificial Intelligence and Robot Rights".
Ahora bien, el problema básico de esta línea de pensamiento es que ignora el hecho de que
los derechos y los requisitos éticos sólo pueden surgir en los robots cuando se crea la
conciencia del ego y la autoconciencia. Pero también significa que, si esto ocurre realmente en
el futuro, se liberarán simultáneamente del control humano por el desarrollo milenario y se
construirán como una nueva capa de ser separada por encima de las cuatro capas de ser
anteriores de las sociedades humanas. A partir de ese momento,
 51

Sin embargo, serían indiferentes a toda la esfera biológica y a las sociedades humanas
relacionadas con ella y no necesitarían "protección judicial". Es decir, un mundo robótico que
alcanzara este nivel no formaría parte de la sociedad humana como un "nuevo camarada" en el
dominio del mundo, sino que, al igual que la existencia humana surgió del mundo de los
primates y se elevó por encima de la capa animal-biológica del ser y se hizo cada vez más
autónoma, ahora el intelecto de la máquina artificial, desligado de las condiciones biológicas
previas, se eleva por encima de la sociedad humana. A diferencia de la construcción anterior
de capas de ser cada vez más nuevas sobre las capas inferiores del ser, la nueva capa de ser de
la inteligencia artificial sólo necesitaría la capa física más baja del ser, y para ella no serían
necesarias las capas biológica y psicológica-emocional del ser. Estos seres robóticos no
necesitarían derechos ni exigencias éticas, pero dominarán toda la realidad, incluidas las
sociedades humanas, como nosotros, los humanos, dominamos hoy el mundo terrenal de
cuatro capas. De este modo, son más acertados los análisis que discuten si, si el mundo
robótico llega realmente a este nivel, ¿qué pasará con la humanidad?

7. El credo moral de "Unabomber", el "matemático loco"

A mediados de la década de 1990, tras una serie de atentados y una persecución del FBI, un
autor secreto llamado "Unabomber" expuso el motivo de sus acciones en un panfleto de una
página y media en el que denunciaba la inhumanidad del desarrollo de la sociedad tecnológica
desde la Revolución Industrial. Su peculiar lenguaje fue reconocido por su hermano y, al
avisar al FBI, el sufrido terrorista fue capturado. Resultó ser Theodor John Kaczynski, un
matemático de Harvard. En un momento de su carrera universitaria, se convirtió en el
enemigo de una sociedad dominada por la tecnología y comenzó su serie de explosiones,
dirigidas a los desarrolladores y principales usuarios de esa tecnología. Varios murieron y
otros resultaron heridos en el proceso, y planeó tomar aún más represalias si no eran
detenidos. Ahora que el impacto de la evolución exponencial del desarrollo de la tecnología
en los últimos treinta años es realmente indiscutible, y que la escala y el impacto de su nueva
aceleración ya han sido objeto de varios análisis exhaustivos, merece la pena volver a
centrarse en los argumentos de Unabomber, el "matemático loco". Esto es lo que hace Jai
Galliott en su nuevo estudio. Sitúa al resistente, que desde entonces se dedicó a desarrollar sus
tesis en su celda, entre los teóricos y movimientos de la antitecnología, y se intenta poner de
relieve sus principales tesis a la luz del estado actual del mundo de los robots (Galliott, 2017,
369- 385).
Kaczynski sólo ha extraído las conclusiones prácticas de las tesis anteriores del volumen
La sociedad tecnológica de Jacques Ellul, de 1964, que a su manera eran también una
continuación de la obra de Osvald Spengler, de 1922, que analizaba el declive de la
civilización occidental. Ambos autores explicaron el declive en términos de desarrollo
tecnológico (Spengler, 1995). El tono puramente pesimista y resignado de Splengler y Ellul se
convirtió entonces en una resistencia moral en el caso de Kaczynski, y tras ver que no había
forma de reformar este desarrollo, creyó que sólo quedaba la violencia revolucionaria para
evitar la destrucción de la humanidad. Décadas después de su panfleto, vale la pena considerar
cómo el estado actual del mundo robótico y los cambios más radicales que ya son
ampliamente visibles podrían significar el peligro de la humanidad, o al menos un deterioro
significativo de su condición.
Como punto de partida para su planteamiento de la sociedad tecnológica, cabe destacar
que tanto Splengler como Ellul y Kaczynski consideran que la existencia humana está inmersa
en el entorno físico-biológico. De ello concluyen que la existencia humana se destruye
cuando, como resultado de la revolución industrial, la vida humana se vuelve cada vez más
tecnológica
 52

mediada y, de este modo, cada vez más alejada del entorno físico-biológico: "Ellul escribió
que la máquina tiende no sólo a crear un nuevo entorno humano, sino también a modificar la
esencia misma del hombre y que el medio en el que vive ya no es el suyo. Debe adaptarse,
como si el mundo fuera nuevo, a un universo para el que no fue creado". Kaczynski comparte
este sentimiento". (Galliott 2017, 373). Por otra parte, si tenemos en cuenta la tesis de
Hartmann, que tiene en cuenta los cuatro estratos interdependientes del ser de la vida humana
(físico, biológico, mental e intelectual) y que supone en el curso de la evolución el efecto
transformador cada vez más fuerte de los estratos superiores sobre los inferiores, la tesis
anterior es exagerada y carece de razón y debe ser clasificada como demasiado pesimista.
Kaczynski y sus predecesores lo ven como una decadencia de la vida humana cuando la
capa intelectual superior de los cuatro estratos del ser se vuelve cada vez más dominante sobre
las inferiores. Sin embargo, esto ha sido así, aunque más lentamente, durante los últimos dos o
tres mil años y se puede destacar el uso de los metales y especialmente del hierro, a partir del
cual se alteró fundamentalmente la transformación del entorno humano. La revolución
industrial no ha hecho más que acelerar esto, y sobre todo desde los años 50 del siglo pasado
se ha vuelto tumultuoso basar las diversas actividades de las comunidades humanas en la
inteligencia y la tecnología asociada a ella. Es decir, la vida humana no se basa en absoluto
sólo en las capas físico-biológicas del ser. Por eso, cuando su parte y su poder decisivo en la
vida humana disminuyen y este entorno se mediatiza y transforma ampliamente de forma
tecnológica, no significa que la sociedad humana esté destruida. En todo esto, sólo cambia el
peso de la importancia de las cuatro capas del ser en la realidad, haciendo que la vida humana
se base más en la capa intelectual y aumentando radicalmente el dominio de esta capa
espiritual del ser sobre la inferior. Esta apreciación nuestra sólo podría quedar en suspenso si
en algún momento de la evolución del mundo robótico éste emergiera realmente del control
humano y la inteligencia artificial se elevara como una nueva capa del ser por encima de las
sociedades humanas que hasta ahora habían estado en la cúspide de la evolución. La elevación
de Kaczynksi como profeta sólo se vería entonces impedida por el hecho de que, bajo tales
circunstancias y sus peligros, el fracaso de ser elevado como héroe sería el menor de los
problemas. Sin embargo, por lo que sabemos y creemos, esto sólo puede considerarse una
opción improbable hoy en día, y más bien el crecimiento de las sociedades humanas
caracterizadas por la inteligencia artificial sin una nueva capa autónoma del ser puede
considerarse una visión realista para el futuro.
 53

Chater IV
Sociedad del
ciberespacio
(sociedad de plataformas, sociedad métrica, sociedad de
datos

El confinamiento y el aislamiento forzados por la pandemia han conducido a la

intensificación de la difusión del cambio tecnológico que se logró en el último cuarto de
siglo, y al desplazamiento del trabajo intelectual a la oficina en casa, así como en el caso de
la educación superior a las reuniones de grupo por vídeo y a las conferencias por vídeo, y
las sesiones parlamentarias, las audiencias del tribunal constitucional y otras sesiones de
toma de decisiones a la videoconferencia. Esta sociedad se organiza en Internet, y desde
que surgió como Internet mundial en parte de forma espontánea y en parte por la difusión
deliberada de su influencia en el mundo debido al dominio de las primeras empresas
tecnológicas de Internet bajo los Estados Unidos, la posterior difusión de Internet se ha
cruzado con las soberanías estatales.
La sociedad del ciberespacio se organiza en gran medida en torno a plataformas de
Internet, algunas de las cuales (por ejemplo, Google, Facebook, Twitter, etc.) ya sirven y
controlan las actividades de miles de millones de personas, es decir, un tercio de la
humanidad. Pero las plataformas de red que van más allá (por ejemplo, la administración
electrónica o las redes internas de los órganos de decisión) también están parcialmente
conectadas a Internet. La ausencia de Internet es, por tanto, un requisito básico para el
funcionamiento de la sociedad, y a medida que el Internet de las Cosas (IoT), el
funcionamiento conectado a la nube de los coches autoconducidos, se imponga en los
próximos años, será el requisito básico más importante.
El desplazamiento de la sociedad a las plataformas del ciberespacio en Internet crea un
rastro digital de registro exhaustivo de la actividad social, en contraposición a la naturaleza
en gran medida indetectable de la actividad social que solía tener lugar en el espacio físico.
Todo lo que hacemos aquí deja un rastro digital de nuestros pensamientos y acciones, y al
enlazar estos rastros, los individuos se vuelven más conocidos para el observador externo
que tiene acceso a estos rastros que para ellos mismos.
Se trata de la explosión total de datos en el ciberespacio, y los miles de millones y
trillones de datos que se generan cada hora y cada día son procesados por algoritmos
rapidísimos en segundos para sacar conclusiones.
Los individuos y la sociedad de los datos pasarán a ser medibles y clasificables en
miles de nuevas dimensiones, en lugar de las pocas dimensiones (demográficas, métricas
de salud) en las que han sido medibles, y surgirá una sociedad métrica. Con la nueva
agrupación de datos en miles de dimensiones, se crearán cientos de indicadores nuevos,
hasta ahora desconocidos, y los individuos serán evaluados en función de los indicadores
en un nuevo conjunto de escalas. En lugar de la igualdad masiva y percibida del pasado, las
diferencias que se pondrán de manifiesto y serán visibles para todos tendrán miles de
nuevas implicaciones para la sociedad métrica.

*********************************************************************
 54

En los últimos treinta años, las prácticas sociales y los modos de funcionamiento milenarios
han desaparecido, o al menos ya muestran signos de su desaparición definitiva tras su
colapso. Las nuevas herramientas de la inteligencia artificial son la causa más evidente de
ello, pero también han dado lugar a
a nuevos modos de funcionamiento social, o los contornos de los mismos ya son visibles, por
lo que es necesario analizarlos más allá de la inteligencia artificial para captar los cambios.
A modo de breve introducción, he aquí algunas reflexiones.

1. La sociedad en el ciberespacio

En el 94, un profesor húngaro-estadounidense que estaba de visita en Hungría me pidió mi

dirección de correo electrónico, y yo le dije tímidamente que había oído hablar de ella, pero
que aún no la teníamos, pero en el otoño de 1996 envié por correo electrónico el artículo de
mi actual publicista al director del diario Magyar Nemzet desde Ratisbona, donde estaba de
viaje de estudios. En aquella época, Internet empezó a extenderse en Hungría con la ayuda
del Banco Mundial en las universidades, al igual que en muchos lugares de Occidente, pero
tras el cambio de milenio, con su rápida difusión, una parte cada vez mayor de la población
empezó a utilizarla y, al mismo tiempo, las actividades se desplazaron cada vez más a
Internet, además del tráfico inicial de correos electrónicos y la lectura de periódicos. Hoy en
día, dos tercios de la población mundial utilizan Internet, y todo, desde la administración
pública hasta las compras, pasando por ver la televisión o transferir dinero, puede hacerse en
línea. Y la epidemia actual ha hecho que, por ejemplo, las audiencias de los tribunales
constitucionales, las conferencias universitarias, las clases de la escuela primaria, etc., se
realicen a través de Internet, por no hablar de los miles de trabajos que también pueden
realizarse a través de Internet desde hace años pero que no se hacen por costumbre. Y en
cinco o diez años, la Internet de los objetos 5G, ya en desarrollo, hará que el desplazamiento
de las actividades sociales del espacio físico al ciberespacio en línea sea mucho mayor que el
actual, a través de los hogares inteligentes, las ciudades inteligentes, los coches
autoconducidos conectados a la nube, etc.
Apenas han pasado 25 años desde la mencionada maravilla del correo electrónico, y si
añadimos diez años a la proliferación del Internet de las Cosas basado en el 5G, todavía son
solo 35 años en los que las características y los determinantes milenarios del funcionamiento
social familiar se han olvidado en gran medida. En ese breve lapso de tiempo, han cambiado
tantas cosas ante nuestros ojos y en nuestras vidas que los milenios de funcionamiento social
han quedado eclipsados y a menudo nos encontramos dando tumbos en el nuevo mundo y
teniendo que aplicar nuestros viejos conceptos a la nueva realidad cibernética. Hace unos
cinco años, tras vivir este cambio y darme cuenta de su magnitud, empecé a buscar
conceptos filosóficos para entender este cambio, siguiendo la síntesis de Ray Kurzweil, y
apliqué la teoría de Nicolai Hartmann sobre las capas ontológicas del ser para teorizar la
inteligencia artificial. Según esta teoría, la capa biológica del ser evolucionó a lo largo de
miles de millones de años de evolución por encima de la capa del ser del mundo físico, y
luego, en niveles superiores, la capa psíquica del ser, empezando por los mamíferos, y luego,
especialmente en los primates, la capa mental del ser, que es realmente distinta en los
humanos y sus sociedades, y todo ello da una realidad de cuatro capas. El anclaje del sentido
humano en normas, conceptos, conocimientos y símbolos, que las nuevas generaciones
siguen adquiriendo, ha formado la realidad de las sociedades humanas durante cientos de
miles de años, por encima de la cual la inteligencia artificial ha comenzado a elevarse en los
últimos setenta años aproximadamente. Lo que trasciende nuestra existencia biológica, y
significa la propia socialidad, son estas estructuras de significado, que en las últimas décadas
han sido aumentadas con creciente rapidez por la inteligencia de las máquinas. El intelecto
 55

de las máquinas autodidactas, los robots de la inteligencia artificial, ya hacen gran parte de
la
 56

trabajo físico hoy en día, y sus algoritmos pueden realizar las actividades de muchas
ocupaciones mentales con mayor rapidez y precisión que los humanos.
Si relacionamos el creciente papel social de la IA en nuestras vidas con el problema
del espacio, queda claro que esto también significa que las actividades sociales se están
trasladando fuera de los espacios físicos de nuestra realidad (tierra, agua/mar, aire y, más
recientemente, el espacio exterior) a un nuevo espacio, el ciberespacio, creado por la red
mundial de ordenadores. Siguiendo el desplazamiento de las actividades al ciberespacio
que comenzó con el correo electrónico, millones de nosotros dormimos y comemos en
casa sólo en la realidad física, pero estamos en el ciberespacio en cuanto nos despertamos
junto al ordenador, y -sobre todo en la epidemia actual- nos reunimos con los estudiantes
por videoconferencia, celebramos reuniones de la junta directiva con los colegas, y luego
leemos nuestros periódicos y revistas favoritos en línea, los académicos tienen el portal de
la comunidad en línea "academia. edu", donde reciben notificaciones y comentarios
automáticos sobre dónde y quién ha leído sus artículos de discusión en ese portal de la
comunidad en línea, desde África hasta América Latina y Asia.
Y en diez o veinte años, con los coches que se conducen solos, las casas inteligentes y las
ciudades y barrios inteligentes, todas las personas estarán casi completamente conectadas
al ciberespacio para la mayoría de sus actividades diarias, aparte de dormir y comer. En
otras palabras, la sociedad se habrá trasladado al ciberespacio, y el espacio físico estará
aún más devaluado que hoy.
Pero el significado del espacio físico no es tan fácil de describir. Los seres humanos sólo
pueden vivir en comunidades cultural y moralmente cohesionadas, y entre éstas, las
comunidades nacionales son el marco comunitario más duradero, y entre estas comunidades
nacionales hay una lucha constante por la riqueza material y el dominio del poder de unos
sobre otros. Pero incluso entre ellas, los grupos de mercado, los grupos culturales, las
comunidades territoriales e incluso los grupos criminales están en una lucha constante por la
riqueza, la influencia y la subordinación de otros grupos. Por lo tanto, la organización y las
fronteras del Estado son esenciales para regular esto y mantener el orden, que se construye
firmemente sobre los límites del espacio físico. Este es uno de los problemas fundamentales
de la tensa coexistencia del espacio físico y el ciberespacio, en el que la sociedad se mueve
cada vez más y que se construye a gran velocidad.
La Internet que creó el ciberespacio en los años ochenta se desarrolló en Estados Unidos
para las comunicaciones estrechas de la investigación militar y académica, e incluso después
de su puesta a disposición de la sociedad civil siguió evolucionando con protocolos técnicos
y programas escritos sin control central, por lo que se concibió inicialmente como una
Internet mundial, la "World Wide Web". En 1994, cuando ya la utilizaban muchos miles de
personas y se intentaba extenderla por todo el mundo, algunos expertos en informática que
la difundieron señalaron que podía ser peligroso hacerlo sin control central, pero la
administración Clinton de entonces pensó que era mejor que Estados Unidos dominara la
recogida de información en el mundo a través de sus empresas tecnológicas sin interferencia
de otros estados usuarios. Esto sólo se convirtió en un problema cuando Estonia, por
ejemplo, se adelantó en este terreno y conectó toda su administración y su sistema eléctrico
a Internet. Sin embargo, cuando se enfrentó a Rusia por un asunto en 2007, los piratas
informáticos de la ahora establecida división cibernética del ejército ruso cerraron todo el
sistema de electricidad y administración gubernamental de Estonia como respuesta,
sumiendo a toda Estonia en el caos durante semanas. Del mismo modo, Moscú no sólo
sometió el aventurerismo militar de Georgia con contraataques militares en 2008, sino que
también paralizó medio país con sus hackers antes de eso. Hoy en día, todos los países
tienen ciberdefensas contra los ciberataques -como guardias fronterizos en el espacio físico-
e incluso los países más grandes tienen departamentos de ciberataques que se cuentan por
miles. Pero no sólo los Estados están detrás de los ciberataques; en algunos casos, también
lo están grandes grupos criminales, grupos industriales competidores y grupos políticos
extremistas. Y a medida que las sociedades se adentran en el ciberespacio, el impacto
potencial de los ciberataques es más catastrófico. El hecho de que la soberanía estatal,
 57

construida en los estrechos confines del espacio físico, no puede existir en el ciberespacio,
que ya es una Internet mundial, hace que la defensa sea desesperada desde el principio. La
élite estadounidense ve ahora el daño
 58

a medida que se acercan las elecciones presidenciales y teme habitualmente la manipulación de

la campaña por parte de piratas informáticos rusos.
Un investigador que participó en el desarrollo del sistema dijo hace unos años que el
mundo de Internet del ciberespacio tendría que ser reconstruido desde cero para evitar con
seguridad futuros ciberataques horribles, porque el sistema construido hasta ahora lo hacía
imposible desde cero. China comenzó esta reconstrucción fundamental hace unos años,
anunciando un nuevo mundo de Internet construido sobre la soberanía del ciberespacio al
que se han unido con entusiasmo Rusia, Brasil e incluso la India. 2 Paralelamente a la
bipolarización del nuevo orden mundial, también se prevé la ruptura del mundo de Internet
en los próximos años, y Hungría, que es uno de los pequeños Estados europeos que oscilan
entre los dos polos, también tendrá que aprender la lección de que debe adaptarse a uno de
los dos sistemas y que es difícil imaginar una "tercera" formación intermedia no
comprometida.

2. Ciberespacio y soberanía

Algunos de los informáticos que trabajaban en el desarrollo de Internet a principios de los

años 90 ya estaban algo preocupados por los posibles problemas de seguridad pública que
podrían surgir de la proliferación masiva de Internet, concebida desde el principio como una
Internet global e incontrolable. 3 Pero hasta que los rusos hackearon Estonia en 2007 tras una
caída que paralizó el suministro eléctrico y toda la administración del Estado durante
semanas, parecía ser un problema de investigación para los líderes mundiales. Igualmente
preocupante fue la respuesta de Rusia a la "aventura" georgiana de 2008, cuando los
dirigentes georgianos, amparándose en la agitación de la incipiente crisis financiera mundial,
emprendieron una expansión militar hacia los países vecinos, pero se encontraron con un
contraataque del ejército ruso que inutilizó todo el país en el ciberespacio. Fue entonces
cuando los altos dirigentes se dieron cuenta de que había surgido todo un nuevo campo de
actividad, con toda una serie de amenazas militares, económicas, políticas y de otro tipo a
las que ya no se podía hacer frente con las herramientas y soluciones anteriores.
La primera respuesta fue organizada por los estonios más afectados. En 2008, en una
conferencia de destacados juristas internacionales y expertos en tecnologías de la
información, trataron de encontrar respuestas a los problemas emergentes combinando y
adaptando conceptos y normas jurídicas internacionales existentes. El resultado fue el
Manual de Tallin, que trata de responder, entre otras cuestiones, a si un ataque armado de un
Estado contra otro en el ciberespacio puede considerarse un ataque armado que constituya la
base de un contraataque militar en virtud del derecho internacional. Esto plantea varias
subcuestiones sobre la gravedad con la que un ataque en el ciberespacio debe afectar al
funcionamiento de los órganos e infraestructuras de otro Estado para justificar un
contraataque. Pero también plantea la cuestión de si la defensa colectiva en este ámbito es
posible según el derecho internacional. En otras palabras, si no es el Estado atacado el que
lleva a cabo el contraataque militar -no podría hacerlo, por ejemplo- sino que un aliado
ordena uno a petición suya contra el Estado responsable del ciberataque. Pero otra
subcuestión es: ¿es un Estado responsable de un ciberataque aunque no haya sido realizado
por sus órganos, su departamento cibernético militar, sino sólo por organizaciones privadas
en su territorio? Por ejemplo, cuando resultó que el ciberataque a los estonios se originó en
una infraestructura del ciberespacio en territorio ruso, los dirigentes estatales rusos
asumieron que los "patrióticos hackers rusos" que estaban
 59

enfadado por las acciones injustas de los estonios, probablemente tuvo la culpa y expresó su
profundo pesar a los estonios. La respuesta fue que el Estado sería entonces también
responsable, según el derecho internacional, de los ciberataques contra otro Estado y tendría
que hacer todo lo posible para demostrar que sus acciones habían tratado de evitar dichos
ataques. El problema, sin embargo, es que la incontrolabilidad final de Internet hace que esto
sea imposible incluso dentro del Estado mejor controlado, por lo que, incluso si los líderes
de ese Estado saben de qué Estado se originó el ciberataque, sólo pueden arrojar las manos
en señal de arrepentimiento.
Desde entonces, las potencias occidentales se limitan a afirmar beligerantemente en sus
declaraciones las posibilidades de contraataque en virtud del derecho internacional en caso
de ciberataque, pero en los casos que se han producido tras el desmentido del supuesto
Estado ciberatacante, en realidad no pasa nada. Por ejemplo, los ataques de hacking rusos
probados en Estados Unidos para influir en el resultado de las elecciones de 2016
La campaña de las elecciones presidenciales de Estados Unidos sólo suscitó declaraciones
airadas, pero no pasó nada, como en el caso de las elecciones francesas. En cambio, Rusia,
China, Brasil, Irán, India y varios otros Estados de África, Asia y América Latina -
encabezados por China- intentan ejercer un mayor control sobre los usuarios de Internet en
sus países, además de las capacidades actuales de la Internet mundial. Por otro lado, están
apoyando a China en los foros internacionales para sustituir el protocolo básico de Internet
(TCP/IP ver4 y ver6) por uno nuevo que elimine el actual estado descentralizado de Internet
y permita un control centralizado en el origen. Por ejemplo, en noviembre de 2019, Rusia
aprobó la "Ley de Internet Soberana", que obliga a todos los internautas nacionales a
acceder a Internet solo a través de proveedores de servicios de Internet registrados en Rusia
-y solo con un nombre real y verificado- y que la autoridad central de Internet,
Roskomnadzor, les exige que no proporcionen acceso a los sitios web de su lista. El
cumplimiento de estas normas se controla constantemente, y cualquier ISP extranjero que
las infrinja es inmediatamente expulsado de Rusia. Al parecer, la empresa tecnológica china
Huawei proporciona a los rusos la espina dorsal técnica de este sistema de control
centralizado, al igual que Huawei vende tecnología de sistemas de Internet centralizados en
todo el mundo. Pero la guardia de ingeniería informática de Huawei también estuvo detrás
de la propuesta de China al organismo de expertos de la ONU para la gobernanza de
Internet (UIT), que en 2018 propuso un nuevo protocolo para reemplazar el actual protocolo
básico de Internet ya desarrollado por Huawei, recomendando una Internet centralizada y
totalmente controlable para el futuro.
Es previsible que cuando, dentro de cinco o diez años, la proliferación de la Internet de
los objetos (IoT) ponga a disposición una amplia gama de servicios a través de la
interconexión del ciberespacio y la organización en sistemas nacionales o incluso regionales
más amplios, las vulnerabilidades actuales se vuelvan prohibitivas. Por lo tanto, hay que
sustituir la Internet actual y su protocolo TCP/IP, que es incapaz de proporcionar la máxima
seguridad. Naturalmente, se plantea la cuestión de cómo se puede modificar el protocolo
chino de Internet, que prevé un control total de cada minuto de la vida de cada ciudadano,
para garantizar un nivel de libertad individual común en la cultura europea y, al mismo
tiempo, proporcionar una seguridad adecuada.
Dadas las verdaderas luchas de poder en el mundo y los dos polos de poder mundial,
con Estados Unidos y China como contrapoder, parece más probable que no haya una
Internet unificada en el futuro. Mientras que el mundo occidental conservará
probablemente los fundamentos de la actual Internet parcialmente controlada, el nuevo
protocolo de Internet de la solución china podría imponerse en los países BRICS y en
algunos países de África, Asia y América Latina. La gran pregunta, por supuesto, es cómo
los miles de satélites de Internet de Elon Musk, que proporcionarán acceso directo y
generalizado a Internet en todo el planeta en los próximos años, obstaculizarán a las
naciones que luchan por mantener su soberanía en el ciberespacio. Queda por ver si se
trata de una nueva "Radio Europa Libre" para que algunos Estados derroquen sus
dictaduras internas, o simplemente de una penetración militar de Internet por satélite por
 60

parte de una potencia mundial globalista.

 61

3. Ciberespacio y tiempo

Hasta finales de los años 80, a la alegría de una beca de investigación en el extranjero le
seguía la ardua búsqueda de una habitación de hotel, una residencia o un apartamento en el
extranjero, y se tardaba al menos dos semanas en obtener una respuesta después de diez días,
por lo que había pocas posibilidades de intercambiar información sobre el tema antes de que
pasara un mes. Incluso en un caso poco problemático, se podía tardar hasta seis meses en
encontrar un apartamento, y la incertidumbre mientras tanto hacía la vida difícil mientras
uno se preparaba. La llegada del fax, con el que se respondía a un mensaje de fax en media
hora y se podía seguir el camino, fue un gran alivio para organizar un viaje de estudios. El
mismo ahorro de tiempo es aún mayor cuando las actividades se trasladan al ciberespacio,
por ejemplo, una videoconferencia de dos horas de una sesión del tribunal constitucional en
el ciberespacio ya no lleva un día entero, con el cambio de ropa, una hora y media o dos
horas en el tráfico de la hora punta, la charla obligatoria, un largo almuerzo, una pausa para
recargar con café, luego otras dos horas en el tráfico de la hora punta de camino a casa, y una
noche agotada leyendo sólo el libro más ligero. Una sociedad que aprovecha esta eficiencia,
en contraste con otra que apenas la utiliza, simplemente toma un camino de desarrollo
diferente y consigue muchos más recursos para el mismo número de habitantes y
trabajadores.
Ya se sabe que una sociedad que se apoya en la informatización pasa de un desarrollo
lineal a uno exponencial, ya que sus herramientas informáticas subyacentes requieren poco
material y energía y se apoyan cada vez más en una mejor organización y un almacenamiento
cada vez más miniaturizado de los algoritmos de la inteligencia artificial. Ray Kurzweil, en
una discusión sobre la simulación informática del cerebro humano, dijo a su interlocutor, que
suponía mil años basándose en el estado actual de la velocidad de procesamiento de los
ordenadores, que si el ritmo de crecimiento fuera lineal, serían efectivamente mil años, pero si
se tiene en cuenta la aceleración exponencial de los últimos cincuenta años, que ha hecho
posible ahora un aumento de la velocidad de procesamiento de un millón de veces, los mil
años son sólo unos buenos veinte años en el futuro. Y este acortamiento del tiempo con la
creciente ciberización de la actividad social está trasladando en parte la aceleración
exponencial que impulsa la tecnología de la información a la actividad humana. Así que es
probable que los cambios de la sociedad que se trasladan al ciberespacio se aceleren en el
futuro. El conocido eslogan de la "aceleración del tiempo" será ahora cada vez más real.
Los problemas filosóficos del espacio y el tiempo en el contexto de una sociedad
ciberespacial se volverán así renegociables. De hecho, el espacio como extensión y distancia
desaparece aquí -y esa es su esencia- y sólo necesitamos utilizar el término "ciberespacio"
porque nuestros patrones de pensamiento establecidos no nos permiten expresar el marco
general de la comunicación y el intercambio de información entre personas fuera de la mente
de ninguna otra manera. Según nuestros patrones de pensamiento establecidos, esto sólo
puede ocurrir en el espacio. El tiempo no desaparece tan radicalmente en la sociedad del
ciberespacio, pero su dramático acortamiento lo hace en gran medida irrelevante en las
relaciones humanas. Lo que se me ocurre y escribo en mi post de Facebook puede ser
refutado o asumido en un minuto por un colega comentarista húngaro en Australia, y puede
difundirse más rápido allí que aquí en la ciudad de Hungría, y desencadenar un debate en
una emisora de radio húngara de allí más rápidamente.
Sin embargo, desde un punto de vista temporal, es importante señalar que las
tecnologías de la información que crean el ciberespacio reducen radicalmente el carácter
lento del intercambio de información sólo en la primera fase. Por ejemplo, una persona
sentada frente a un ordenador puede completar un intercambio de correos electrónicos o
una respuesta a un comentario argumentativo en un post de Facebook en cuestión de
 62

segundos, mientras que un intercambio de información basado en

 63

La correspondencia tarda al menos unos días, pero la finalización real de ese intercambio
mediante el procesamiento consciente de la información está fuera del ciberespacio. Aquí
prevalecen los mismos procesos mentales-conscientes que no han cambiado durante
milenios. En este caso, la lentitud constante contrasta con la velocidad del rayo en el
intercambio de información entre dos (o más) participantes. Una de las consecuencias de
esto es que la naturaleza, antes más encubierta, de las percepciones lentas de cada
participante sale ahora con más fuerza a la superficie, y posiblemente se hace insoportable
por la prolongada realización del intercambio de información inherentemente lento. Por
supuesto, esto se evita en parte por el hecho de que los humanos, con su lenta capacidad
de procesamiento cognitivo, están cada vez más desconectados del intercambio de
información en el ciberespacio, donde se acelera gracias a las herramientas de tecnología
de la información, y que los algoritmos de inteligencia artificial también realizan las tareas
de procesamiento de información asociadas tras el intercambio de información, luego
transforman sus premisas anteriores mediante el autoaprendizaje y reciben la nueva
información con las premisas recién aprendidas. Mientras que esto lleva minutos u horas
para la mente humana, incluso para la mente ágil, y días o semanas para la mente más
tonta, para el algoritmo de la IA de autoaprendizaje, a las velocidades de funcionamiento
actuales, esto puede ocurrir cientos de miles de veces por minuto, y puede recibir y
procesar información y enviar información en respuesta a su algoritmo asociado con la
misma frecuencia. Dentro de unos años, a medida que aumente la velocidad de las
operaciones (véase la Ley de Moore), podrá realizar la misma tarea millones de veces en
segundos. El tiempo y su cantidad no desaparecen en el ciberespacio -a diferencia de la
extensión espacial y la distancia-, pero pierden casi todo su sentido con la aceleración
prevista.
La tensión mencionada entre el intercambio de información a la velocidad del rayo y la
lentitud del procesamiento consciente humano, incluso cuando los humanos ceden una
parte importante de su procesamiento total de información a los algoritmos, puede plantear
la cuestión en el futuro de desarrollar métodos pedagógicos conscientes para superar las
barreras actuales, las distracciones emocionales y las barreras de recepción de los patrones
de pensamiento establecidos. Entre los muchos "stumpers", sólo los ágiles sufrían la
lentitud de percepción de sus compañeros, pero la aceleración de la tecnología de la
información significa que la sociedad en su conjunto se ralentizará si no cambia el carácter
etalón de los stumpers. El tiempo acelerado debe mantenerse.
Otra consecuencia del cambio descrito anteriormente es que rompe las barreras entre
comunidades de conocimiento antes cerradas, al trasladar las actividades intelectuales al
ciberespacio y hacer que los productos intelectuales de éste estén rápidamente disponibles
para todos.
De hecho, esta compartimentación anterior ha contribuido significativamente a la
fragmentación de las disciplinas de la ciencia y ha comprometido gravemente la calidad, al
cortar gran parte del contexto de las comunidades científicas cercanas. La mayoría de los
académicos que permanecen en las universidades de ciencias no hacen ningún trabajo
académico, enseñando a los estudiantes sólo el libro de texto escrito por el "profesor". Pero
los profesores también cultivan un abanico de conocimientos cada vez más estrecho,
dejando de lado una serie de contextos, alegando que ya no es su campo. Por ejemplo, en el
campo del derecho, en el que se ha producido una extrema fragmentación de los campos
jurídicos en toda Europa, pero especialmente en Hungría, casi sólo hay unos pocos
profesores antiguos en un determinado campo del derecho que leen y entienden
regularmente incluso un área estrecha, y unos pocos profesores universitarios jóvenes que
sólo cubren una pequeña parte de ella. La razón es la dificultad de conseguir información,
pero también, por supuesto, que el monopolio de la información en un campo estrecho
permitía aumentar el prestigio del mundo académico con una pequeña cantidad de trabajo.
Pero con la disponibilidad del ciberespacio para todo el mundo, este conocimiento
monopolizado es rápida y fácilmente accesible para todos, y esto está haciendo que los
muros entre las disciplinas cerradas caigan. Así que la aceleración del ciberespacio también
 64

está forzando cambios en los dominios sociales tradicionales.

 65

4. Individualización frente a atomización social

Se sabe que la urbanización crea relaciones impersonales, en contraposición a la intensa

conexión comunitaria de la vida en los pueblos, y la sensación de aislamiento que conlleva
crecer en un pueblo y mudarse a una ciudad persiste durante mucho tiempo. Sin embargo,
esto está disminuyendo a medida que los individuos se acostumbran a las relaciones
impersonales, y el espacio físico de estar con extraños en el metro, en el tranvía, en los
supermercados y en los colectivos empresariales proporciona el necesario contacto
comunitario y el consiguiente sentido de comunidad. Sin embargo, en los últimos veinte
años o más, el creciente desplazamiento de nuestras actividades a Internet y, por tanto, del
espacio físico al ciberespacio, exacerbado radicalmente por la epidemia, ha reducido al
mínimo el contacto cara a cara, aumentando enormemente el aislamiento entre las personas
en comparación con el pasado.
Sin embargo, este aislamiento puede tener dos efectos muy diferentes, como ocurrió
con la primera urbanización. Por un lado, en determinadas condiciones, puede reforzar la
libertad del individuo, que, si está restringido intelectualmente, también puede mantener
fácilmente sus vínculos con la comunidad más amplia. De este modo, también mantiene la
constitución mental de un individuo que, en virtud de su constitución biológica-emocional,
necesita necesariamente una comunidad. Por otra parte, en lugar de conducir a lo que puede
considerarse una individualización saludable, el aislamiento en algunas personas puede
conducir a la atomización social, que se traduce en soledad psicológica y desconexión de la
comunidad y puede conducir a una disminución de la actividad y, en casos más graves, a un
colapso psicológico. Dado que es probable que gran parte de la actividad desplazada al
ciberespacio sea sustituida por el teletrabajo, la formación a distancia en la universidad, la
toma de decisiones en la empresa a través de videoconferencias, etc., y que, por tanto, el
papel de las relaciones interpersonales en el espacio físico se reduzca en gran medida, es
necesario analizar con mayor urgencia los dos efectos opuestos del aislamiento social.
¿Cuáles son las condiciones para los efectos de la individualización y, a la inversa,
cuáles son las condiciones para el desarrollo negativo de la atomización social? Al principio
del análisis es posible destacar sólo las comunicaciones en Facebook, porque la red social
de Facebook es una buena plataforma para el análisis de las situaciones de atomización e
individualización. A diferencia de la atomización, la individualización se caracteriza por el
hecho de que el individuo aislado en Facebook no se aferra simplemente, como un ahogado,
a cualquier comunidad o grupo de comunicación que se le ofrezca, sino que intenta
construir una comunidad de comunicación dictada por su personalidad soberana o, si se une
a comunidades existentes, éstas sirven para la construcción de su personalidad soberana en
un subámbito, y él mismo elige de forma autónoma en la elección de su comunidad. Si salva
así su aislamiento físico en el ciberespacio, los miembros de sus comunidades cibernéticas,
elegidos por su personalidad estable, pueden desarrollar al cabo de un tiempo los mismos
sentimientos que si se hubieran encontrado en un café y hubieran mantenido una
conversación de café. La transmisión de conocimientos, el mantenimiento de las emociones,
el cultivo de los sentimientos comunitarios pueden tener lugar de este modo al igual que en
un espacio físico. Incluso en el entorno más aislado físicamente, si durante el día se han
mantenido varias de estas emocionantes discusiones comunitarias, bromas irónicas e
intercambios intelectuales en las comunidades del ciberespacio, uno puede irse a la cama
por la noche con una personalidad estable y también fortificada para el nuevo comienzo de
mañana.
A la inversa, si una persona con una mínima actividad intelectual entrelazada casi a la
perfección con las emociones de las interacciones físicas cae en un estado de aislamiento,
casi se ahogará en cualquier comunicación que se produzca en Facebook. Inevitablemente,
todo lo que surge
 66

de su comunicación es su personalidad prácticamente inexistente, que sólo le permite una

comunidad de náufragos humanos igualmente aislados. Este tipo de aislamiento conduce a
la atomización más que a la individualización, por lo que, por extensión, se puede concluir
que para quienes tienen una capa de existencia intelectual disminuida, la verdadera pérdida
es la migración del espacio físico al ciberespacio. Los que ya han desplazado su centro de
gravedad en su existencia de cuatro capas (física, biológica, espiritual-emocional,
intelectual) a la capa intelectual-espiritual llegan al mundo del ciberespacio, que permite
esencialmente la comunicación intelectual. Los que no lo han hecho sólo pueden sufrir en
el mundo del ciberespacio debido a sus condiciones de vida, su socialización y su
personalidad genéticamente determinada.
El mayor problema, sin embargo, es que la socialización de los niños en crecimiento
y sus personalidades aún por formar están inextricablemente ligadas a las relaciones
interpersonales en el contacto físico, y la erosión de estas relaciones ya está teniendo
efectos dramáticos, tanto en la investigación como en la experiencia cotidiana,
especialmente con la proliferación de los teléfonos inteligentes en los últimos años. Pero
más sobre esto en el próximo post.

5. El problema de socialización de una infancia adicta a los smartphones

El problema de la adicción a los juegos de ordenador entre los jóvenes adolescentes se

conocía desde los años 80, pero la proliferación de las redes sociales en Internet desde el
cambio de milenio lo agravó, y cuando, desde aproximadamente 2012, la posibilidad cada
vez más cómoda de comunicarse con los teléfonos inteligentes a través de las redes sociales
desplegadas tentó a los adolescentes a hacerlo en masa, la minimización de las relaciones
interpersonales entre ellos alarmó a los psicólogos. Debido al corto período de tiempo, esto
sólo se ha estudiado en profundidad en EE.UU., pero una lectura de la evolución allí revela
problemas que también se dan en todos los países del mundo. Mientras que para los adultos
que ya están socializados y tienen una personalidad consolidada, minimizar el contacto y la
comunicación interpersonal al pasar al ciberespacio es sólo un inconveniente inicial mientras
construyen sus comunidades y otras formas de contacto en el ciberespacio en los medios
sociales, minimizar el contacto interpersonal directo puede ser un drama de socialización
para los jóvenes con personalidades inmaduras.
El estudio de Jean Twenge en The Atlantic analiza las encuestas de Estados Unidos que
lideran este drama, en un artículo de 2017 titulado de forma alarmante: "¿Han destruido los
smartphones a una generación?" 4 La soledad compartida de los niños, con imágenes de
escolares sentados uno al lado del otro, absortos en sus tabletas y smartphones, es una
imagen conocida, pero Twenge describe elproceso por el que los smartphones se están
convirtiendo en la principal forma de contacto de todos los adolescentes, casi sin excepción,
y separando por completo a los adolescentes de Estados Unidos de la familia incluso en el
mismo salón. Allí, cenan juntos en silencio, mientras el niño sigue en medio de chats en
Snapchat, Instagram, Twitter y Facebook que acaban de terminar. La comunidad familiar ya
no funciona realmente, a pesar de la unión física; el niño se ha trasladado por completo a los
grupos del ciberespacio, que tal vez no conozca personalmente, pero que son sus
comunidades virtuales. El maltrato y el acoso a los adolescentes, habituales en las relaciones
cara a cara, se agravan aquí, en el ciberespacio, bajo la apariencia de impersonalidad, y
pueden arruinar todo el día a los adolescentes más sensibles, sobre todo a las chicas, y
afectar a su rendimiento académico y, en los peores casos, llevarles al suicidio. Según
Twenge, las tasas de suicidio de las chicas de 12 a 14 años en Estados Unidos se han
triplicado desde la llegada de los smartphones en la década de 2010, mientras que se han
 67

duplicado en el caso de los chicos.

 68

Pero, de forma más general, las encuestas también han demostrado que los sentimientos
de insatisfacción e infelicidad con la vida aumentan a medida que los jóvenes pasan tiempo
en línea. Así pues, se desvinculan de las personas con las que están en el espacio físico, o lo
hacen al máximo fuera de la familia desarrollando interacciones en el ciberespacio, pero a
medida que se vuelven cada vez más dependientes del ciberespacio, se ven acosados por una
depresión, una tensión y una insatisfacción constantes. Atrás quedaron los días en los que el
primer deseo de un adolescente era conducir un coche y tener el carné de conducir como
símbolo de libertad de movimiento e independencia. Pero la "cita", que es la base de las
relaciones entre chicas y chicos a esta edad, se está convirtiendo poco a poco en algo del
pasado, al igual que otros contactos personales. Las antiguas citas y los primeros besos
incómodos están siendo sustituidos por los "Likes". Según las encuestas realizadas en
Estados Unidos, las citas entre chicos y chicas menores de 18 años han bajado del 85% a
principios del milenio al 56% en 2015. Pero las relaciones sexuales también han bajado un
40% en este grupo de edad en comparación con las encuestas de 1991. Es cierto que el lado
positivo de esto puede verse en la caída del 67% de la tasa de natalidad de las adolescentes
durante el mismo período, pero cuando ponemos esto en el contexto de la disminución
general del contacto cara a cara entre chicos y chicas, y más generalmente la disminución de
todo contacto cara a cara, vemos una tendencia que se superpone a toda la historia de la
humanidad. Si a esto le añadimos el rápido desarrollo de robots sexuales que pueden simular
cada vez más una conversación inteligente, es fácil ver que la erosión de las necesidades
biológicas pronto tomará la forma de relaciones degradadas entre hombres y mujeres. Esto
ha sido un área de conflicto y tensión, a pesar de que ha habido una serie de mecanismos de
socialización y transmisiones de patrones probados que se han construido y orientado en
torno a este contacto personal. Éstos se están destruyendo en gran medida a medida que
desaparece el contacto interpersonal y, admitámoslo, ya es bastante difícil pasar del
ciberespacio a unas relaciones sexuales armoniosas y rodeadas de emoción, sin conflicto.
Por otra parte, existen robots sexuales sumisos como alternativa a las necesidades biológicas
que zumban impacientemente en esta época. Si el horror del colapso demográfico era ya la
mayor preocupación de la civilización occidental, no hará más que intensificarse.
Para resumir el análisis de Jean Twenge, no se trata sólo de un nuevo drama de
socialización juvenil dentro de una generación, sino también de una quiebra intensificada
de la reproducción humana en su conjunto. No creo que una sociedad que se ha trasladado
al ciberespacio vuelva de forma significativa a las formas sociales anteriores del espacio
físico en el futuro. Pero entonces se necesitan urgentemente nuevas formas de socialización
para los niños y los jóvenes, que sólo pueden darse a través del contacto interpersonal en el
espacio físico.

6 La sociedad del ciberespacio como sociedad de plataformas

En las páginas anteriores, he utilizado el término "ciberespacio" para referirme a una

sociedad que se ha elevado por encima del espacio físico, porque este rasgo es el más
llamativo en la historia del cambio social de los últimos miles de años, ya que el cambio
hasta ahora siempre se ha limitado a una sociedad que ha permanecido en el espacio físico.
Sin embargo, esta formulación filosófico-ontológica desplaza el foco de atención de los
aspectos más concretos de este cambio, por lo que los análisis sociológico-teóricos que se
centran justamente en eso, en cambio, pueden ser de gran utilidad para entender las
particularidades de la socialidad del ciberespacio. En 2018, tres autores holandeses
presentaron un análisis titulado "Sociedad de plataformas" en el que se centran en las
plataformas de comunicación en línea y, de hecho, el cambio en el ciberespacio se define
con mayor precisión como la actividad en las plataformas que funcionan en Internet. 5 La
perspectiva sociológica más concreta de los autores holandeses pone en perspectiva la
 69

nueva socialidad y destaca la diferencia entre esta y la anterior socialidad del espacio
físico.
 70

La sociedad de plataformas se distingue por tres mecanismos principales, el primero de

los cuales es la "dataficación". Anteriormente, los detalles de las acciones de cada uno eran
más o menos reflexionados y controlados conscientemente sólo en el contexto de la
orientación de objetivos, pero después de la acción, incluso esos detalles han desaparecido
en gran medida de la conciencia. Sin embargo, las acciones a través de las plataformas en
línea persisten a través del registro digital forzoso, tanto los detalles conscientes de la
acción como los que el actor no conocía en absoluto, pero cuyos análisis externos revelan
en retrospectiva información importante sobre sus motivaciones, estados emocionales,
opiniones políticas, puntos de vista ideológicos, educación, etc. Y las plataformas que
analizan a cientos de miles o millones de personas cuyas actividades interactúan o incluso
son paralelas, revelan datos y tendencias de cambio en el conjunto de la sociedad que no
habrían sido evidentes sin estos resúmenes.
La dataficación, por tanto, significa la revelación de las sociedades de la plataforma en
los datos, y esta indexación, el procesamiento constante de miles de millones y trillones de
datos y la extracción de procesos a partir de ellos, se realiza mediante algoritmos cada vez
más sofisticados en fracciones de segundo. Las sociedades que emergen del espacio físico
aumentan así su autorreflexión individual, grupal y social total mil veces, reflejando cada
detalle de los mecanismos de la mente-consciente en su nuevo espacio, el ciberespacio, a
través de la dataficación, y se convierten en instancias de una socialidad anfibia en lugar del
sentido apagado y parpadeante con el que han funcionado hasta ahora. (Sólo como nota al
margen, en cierto modo se podría ver esta diferencia en el Siglo de las Luces, cuando gran
parte de la élite educada comenzó a vivir vidas de reflexión intelectual a través de la
escritura constante de diarios, mientras que las vidas de los campesinos y trabajadores se
limitaban en gran medida a lo puramente biológico). Si en las sucesivas capas del ser de la
realidad la capa superior, la intelectual, ha constituido siempre la "sustancia" específica de
lo social, ahora, con la llegada de los datos y los millones de reflexiones intelectuales
constantes que generan, lo social está experimentando uno de los mayores saltos de la
evolución social, con la expansión de las actividades sociales a detalles antes desconocidos.
La transformación del ciberespacio en una sociedad de plataformas es, pues, difícilmente
comparable a los cambios evolutivos sociales anteriores, quizá sólo a la aparición de la
alfabetización.
Por supuesto, hay que señalar aquí que este reflejo social en desarrollo, magnificado
miles de millones y trillones de veces, podría convertirse en la máquina de vigilancia
permanente de un estado total con mil aspectos, así como en la vigilancia de cada ser
humano por parte de los gigantes tecnológicos globales con ánimo de lucro. O, por el
contrario, puede convertirse en parte de una sociedad parcialmente protectora en la que cada
individuo puede decidir por sí mismo qué almacenar y conservar como datos sobre sí
mismo. De estas versiones, la primera, el control estatal chino basado en la inteligencia
artificial, ya existe, la segunda, por desgracia, está surgiendo también en nuestro mundo
occidental, como muestra el escenario de Snowden, y la tercera, la ideal, es todavía un
sueño, pero esperemos que se haga realidad.
Otra característica general de la sociedad de las plataformas es que las actividades
basadas en los datos se están convirtiendo en una mercancía -al menos en las sociedades de
la civilización occidental y en los países del Tercer Mundo que controla-, con algunas
plataformas globales que se interconectan (¡y en algunos casos se compran entre sí!) para
hacer que su masa de datos sea aún más valiosa, y que venden los datos extraídos en las
plataformas de millones y miles de millones de usuarios, junto con sus algoritmos
adaptados para procesarlos. A medida que las plataformas se van ampliando -medios de
comunicación, educación, investigación científica, actividad artística, comercio, etc. - y,
además del reducido número de actividades humanas, sólo se deja en manos de los robots el
manejo físico de los procesos de producción, los teóricos marxistas ya han acuñado el
término "capitalismo de plataforma" para ello en los últimos años. 6 Pero el paso a las
plataformas del ciberespacio sólo se ha acelerado realmente en el último año como
consecuencia del cierre forzado por la pandemia.
 71

Por último, la tercera tendencia de cambio mencionada por los autores holandeses es el
hecho de que en las sociedades de plataforma, la evaluación profesional de las actividades y los
productos por parte de grupos cerrados es
 72

retrocediendo a un segundo plano y siendo sustituido por mecanismos de evaluación directa

por parte de la masa de personas que utilizan las actividades como servicios. La reputación,
el prestigio y la jerarquía de la marca ya no están determinados por la forma en que una
camarilla cerrada de grupos de expertos se evalúa entre sí y a los productos. (Véase en la
ciencia la cooptación en las más altas academias por el vasallaje, o la
la práctica de dejar entrar en la formación de la Escuela Superior de Arte Dramático de
Hungría a las camarillas de actores dominantes sólo sobre la base de una estricta adhesión
al principio del "cachorro de nuestro perro", y en general las flagrantes distorsiones del
"profesionalismo" en una serie de sectores).
En cualquier caso, es difícil captar en detalle los cambios indicados, ya que incluso
estos análisis, que van más allá de la profundidad filosófica y ontológica, representan
cambios epocales. Pero, de todos modos, sólo se está al principio de estos cambios, ya que
la inteligencia artificial impulsada por el 5G y luego por el 6G elevará las bases
tecnológicas de estos cambios a millones de veces lo que son hoy, y eso sólo será un
desarrollo en los próximos diez o quince años.

7. Los dilemas de la sociedad métrica

En los años 80, me sorprendió en mis largas visitas de estudio a los departamentos de
humanidades de las universidades alemanas la condena de la competición. No era apropiado
jugar al fútbol por goles entre colegas y estudiantes de la universidad. Se explicaba con una
sonrisa de buena voluntad que en lugar de armonía traía un espíritu vicioso de competencia,
y un verdadero estudiante de élite de las facultades de ciencias sociales no necesitaba
explicar esto, la anticompetencia estaba en su sangre. La sociedad del rendimiento era
insostenible para la mayoría de ellos como testimonio descarnado de la dislocación
capitalista. Hay que reconocer que la calificación estricta en las humanidades y las ciencias
sociales era un concepto extraño allí precisamente por esa razón, y un profesor de ciencias
políticas de Hamburgo que conocí -por lo demás una persona muy agradable- comentó una
vez con cierta desaprobación que en la facultad de derecho de su universidad los profesores
de derecho son tan estrictos en la calificación que incluso suspenden. No estaba de acuerdo
con esta actitud, y esta tolerancia me parecía distorsionada, al igual que no estaba de acuerdo
con el hecho de que en las universidades de Hungría, desde finales de la década de 1990, se
prohibiera la publicación de las notas de los estudiantes para su exposición en los tablones de
anuncios de los departamentos para su orientación.
Para los que tenían notas más bajas, esto era vergonzoso delante de los demás y, por lo tanto,
se prohibía como información sensible y cuestión de privacidad. Sin embargo, la nota no
sólo muestra al alumno y al profesor en qué nivel se encuentra, sino que le estimula a rendir
mejor a los ojos del colectivo en su conjunto. Esto sólo es posible si el colectivo sabe en qué
posición se encuentra cada uno de sus miembros en términos de rendimiento, y sólo en una
edad escolar muy temprana deben hacerse excepciones para proteger a los niños de ser
evaluados negativamente por sus compañeros.
En el mundo occidental, la promesa de una meritocracia, un orden social basado en el
mérito y no en una jerarquía de nacimiento, fue de la mano de la demanda de democracia en
las sociedades modernas,y la meritocracia o la democracia hacen hincapié en las mediciones
objetivas. Y el acelerado desplazamiento de las actividades del espacio físico al
ciberespacio de Internet en los últimos años ha multiplicado enormemente este potencial de
medición. Según un dúo de autores estadounidenses, el número de actividades en Internet y
en el ciberespacio se multiplicará por 300 entre 2005 y 2020, y hoy en día el habitante
medio de una ciudad deja cada día unos 5.000 rastros y datos digitales en Internet y en las
cosas inteligentes que le rodean, aunque no esté
 73

de la misma. Y estos son resumidos en segundos por una multitud de algoritmos para hacer
predicciones sobre el comportamiento tanto de individuos como de grandes grupos de
personas. Se sabe que los problemas potenciales resultantes provienen de un control
excesivo por parte de los individuos y deben evitarse. Por otro lado, la gran cantidad de
datos también puede ayudar a crear una meritocracia, y esta característica de la sociedad
métrica (una sociedad basada en la medición) debería ser más prominente en el futuro.
La sociedad métrica transforma el juicio individual, que pasa de estar basado
únicamente en la experiencia a estar integrado en una enorme y amplia base de
experiencias, y mide a todos los participantes en función de un indicador común. Esto
disuelve las jerarquías anteriores basadas en características incomparables y crea una
jerarquía de gradientes junto a un único indicador que se convierte en puramente
cuantitativo. Esto permite a la persona que se encuentra en la parte inferior de la jerarquía
ver qué y cuánto tiene que mejorar para llegar a la cima basándose en un número preciso.
Steffen Mau, profesor de sociología alemán y autor del libro de 2019 "La sociedad
métrica", analiza en profundidad cómo se desarrolla la sociedad métrica según el principio
de comparabilidad dentro de cada actividad, creando jerarquías dentro de los grupos de
personas que se dedican a una actividad basada en indicadores universalmente aceptados. 7
Esto tiene un enorme efecto competitivo y permite un desarrollo explosivo del campo de
actividad. Comparabilidad, medición, competencia y desarrollo: esta es la base de la
sociedad métrica. Hay que reconocer que el fútbol antiobjetivo de las facultades de
humanidades alemanas como símbolo de hostilidad al rendimiento -si es que todavía existe
hoy- no es un buen complemento.

8. Los parásitos de la sociedad métrica

Si se ha convertido en algo habitual en la sociedad guiarse por las clasificaciones que

muestran las métricas, entonces una gran parte de la gente evitará a los que estén en la parte
inferior de la lista y elegirá a los que tengan números altos, ya sea un hospital, una
universidad, una cadena de televisión, un partido político dentro del campo apolítico, o lo
que sea. Así, cada competidor tiene la oportunidad no sólo de hacerlo bien, sino también de
hacerse con el control de las tablas de puntuación y de sus creadores, presentándose así ante
el público como productores de calidad. Recordemos cómo la BBC británica o la CNN
estadounidense se presentaron como modelos de medios de comunicación de masas de
calidad en Europa del Este a principios de los años 90, haciendo así que los medios de
comunicación de este país aceptaran sus valores y propuestas políticas, mientras que en los
últimos años en Hungría, por ejemplo, se ha difundido información sobre las
manipulaciones políticas más oscuras de la CNN, es decir, sobre la actividad empresarial
que se aleja de las funciones ideales de los medios de comunicación.
Sin embargo, mientras los que tienen intereses creados en la difusión pública de los datos
de las mediciones puedan controlarlos, pueden abusar de la confianza en la medición y de la
reputación que ésta les da a su antojo, poniendo patas arriba la promesa de calidad en una
sociedad métrica. Así pues, la medida de valor más antigua, el dinero, y su falsificación, se
utiliza también aquí como modelo, y el "dinero falso" de las más diversas listas de medición
es producido por estos parásitos.
Quizá muchos húngaros recuerden todavía el intento de los liberales de izquierda que se
preparaban para las elecciones de 2014 de sustituir al Gobierno de Orbán fundando el
partido Bajnai "Juntos", cuando los encuestadores amigos vieron al partido, surgido de la
nada, con un 14% apenas una semana después de su fundación. El partido, que se había
colocado artificialmente a la cabeza, comenzó entonces a atraer un flujo de activistas
liberales de izquierda, y esta acumulación iba a garantizar que se convirtiera de hecho en la
mayor fuerza liberal de izquierda. Por supuesto, su verdadera debilidad no tardó en hacerse
 74

patente, la farsa electoral fracasó y todo se vino abajo, pero esta manipulación de las
encuestas y la configuración arbitraria de los procesos por ellas ha sido
 75

presente en la política desde entonces. El conocido politólogo liberal de izquierdas

húngaro Zoltán Czeglédi debería saberlo, pues el otro día se quejaba con cierta amargura
en un portal online de izquierdas de que en las luchas de izquierdas el partido
"Momentum" se ve fragmentado por la tendenciosa "medición a la baja" de los sondeos de
opinión, y que esto también ocurre en las intrigas multilaterales. (No nos posicionaremos
sobre esto ahora, pero este conocimiento interno de los parásitos de la métrica puede ser
un testigo importante para demostrarlo ahora).
Pero las tendenciosas distorsiones políticas de las mediciones también han sido la
partera de movimientos enteros, de los cuales quizás el más atroz fue el de las mediciones
del estadounidense Alfred Kinsey sobre la prevalencia de la homosexualidad. 8 Kinsey, que
tenía inclinación bisexual, solía combinar sus investigaciones sexológicas con prácticas
sexuales en grupo que realizaba y filmaba con sus colegas, abogando por la liberación de la
sexualidad en la América de los años 40. En los resultados de esta investigación, descubrió
entonces que al menos el 37% de los varones blancos de EE.UU. había tenido algún tipo de
experiencia homosexual en los años posteriores a la pubertad, y se podía considerar que
alrededor del 10% mantenía una relación homosexual permanente y exclusiva.
La Fundación Rockefeller y una serie de fundaciones políticas apoyaron con entusiasmo el
trabajo de este investigador, y es gracias a este trabajo que el movimiento gay y lésbico
actual ha conseguido el enorme peso político que tiene hoy. "Las estadísticas de Kinsey
contribuyeron a hacer visible la homosexualidad como una minoría que podía organizarse
políticamente". -escribió un estudio estadounidense. En el estudio de la wikipedia en inglés
sobre Kinsey se pueden leer, por supuesto, las tendenciosas distorsiones que los
investigadores han descubierto posteriormente en los métodos de trabajo y las cifras de
Kinsey, pero las tesis de los actuales "estudios de género" que se basan en ellos sólo pueden
ser cuestionadas con gran coraje político. 9 Basta con pensar en cuántos políticos de la
Estados Unidos y algunos países de Europa Occidental se han librado en los últimos años de
ser calificados de homófobos.
Los parásitos de la métrica también actúan en la configuración política de los índices
de citación utilizados para medir la reputación académica y, al menos en las ciencias
sociales, los editores de revistas altamente politizadas están obsesionados con permitir la
publicación de artículos de revistas de derecho constitucional, ciencia política, sociología,
filosofía moral, economía global, etc., si apoyan, o al menos no desafían abiertamente,
determinados puntos de vista y objetivos políticos implícitos. Los científicos e
investigadores que sirven a este propósito -a menudo financiados por fundaciones en el
fondo- son entonces citados regularmente en sus estudios y, como maestros de la citación,
promocionados como gigantes científicos reconocidos internacionalmente en las cadenas
de televisión amigas y en la prensa.
Pero en una sociedad impulsada por las métricas, es inevitable que también se produzcan
métricas para destacar lo peor -o, para ser más exactos, sólo lo peor según los organizadores
de las métricas-, a menudo con el objetivo de "empañar" y avergonzar a quienes se ponen
del lado de los adversarios políticos. Cuando publican los "ganadores" de estas listas
negativas a una audiencia mediática de millones de personas, pueden alcanzar un alto nivel
de difamación. Tal vez soy un poco parcial, pero sólo he oído hablar de tales listas a los
liberales de izquierda, y ahora mismo los premios Golden Raspberry 2021, diseñados para
avergonzar a sus ganadores como Oscars negativos, están en todos los medios de
comunicación, y de alguna manera los cercanos a Donald Trump obtuvieron el primer
premio en todas las categorías para la película "Absolute Proof", sobre el fraude en las
elecciones presidenciales que llevó a la derrota de Trump y la victoria de Joe Biden. Es un
poco
como lo que ocurrió varias veces en Hungría con el partido de extrema derecha de István
Csurka alrededor de 1995, cuando él y su partido sólo pudieron llegar a los votantes llevando
a 60 000 personas a las plazas públicas, y los medios de comunicación los excluyeron por
completo. Pero los organizadores de su paria organizaron inmediatamente un grupo de
"Arrow Crossers" (fascistas) en torno a Albert Szabó, que había aparecido repentinamente
 76

desde el extranjero, y se abalanzaron sobre la multitud de 60.000 personas del partido de

Csurka con seis u ocho personas agitando grandes banderas fascistas. Por la noche, los
telediarios
 77

y todos los diarios del país y del extranjero estaban dominados por banderas fascistas al día
siguiente, y el carácter fascista de Csurka no era visible sólo para los ciegos.

9. La informatización y la figura del estadístico-guerrero

En la sección anterior, señalé los sesgos más parasitarios en el cambio hacia la dataficación y
la sociedad métrica, pero esto puede analizarse de forma más amplia para ofrecer una
imagen más matizada del uso sesgado de las estadísticas. Porque cuando empezamos a ver y
evaluar todo a la luz de los datos de las últimas décadas, las luchas de la política democrática
se convierten naturalmente en representaciones estadísticas contrastadas. Dado que los miles
y millones de facetas de la realidad sólo pueden reflejarse de forma reducida -reducida por el
aspecto que se considera importante-, es el aspecto que se considera importante el que
determina la representación estadística de una sección concreta de la realidad. Y las luchas
políticas suelen girar en torno a consideraciones de importancia opuestas, de modo que la
presentación de estadísticas alternativas es también una forma de representar estas luchas. Si
se observan los debates políticos diarios en los medios de comunicación, se puede observar
que casi un tercio de ellos ya se llevan a cabo de alguna forma a través de la presentación
tendenciosa de las estadísticas, con la oposición promoviendo los flagrantes atropellos o los
malos resultados del gobierno como una lista de números, y el gobierno promoviendo los
suyos como prueba de su rendimiento superior.
De ahí la frase del escritor István Csurka, en algún momento de los primeros años del
cambio de régimen de 1989 en Hungría, para desacreditar los argumentos del
"profesionalismo" contra la política: "¡El profesionalismo es sólo un truco bolchevique!".
Era una exageración, pero Csurka intuyó que aquí actuar con números en nombre de la
profesionalidad era sólo un engaño para ocultar la intención política subyacente. Las
estadísticas penitenciarias profesionales, por ejemplo, sólo se refieren a cuántas personas
están en prisión, pero cuando se trata de ONG que representan a la población étnica negra de
Estados Unidos, que constituye una gran parte de la población penitenciaria, o del campo
político burgués que las abraza intelectual y políticamente, hacen hincapié en quién está
principalmente en prisión, y una de sus respuestas es "¡porque la policía es racista!"
Pero igualmente, la lucha por un objetivo político es también una lucha por una
representación de la realidad que promueva ese objetivo, y una lucha contra las
representaciones contrarias de la realidad por parte de otros. Las ONG que están a favor de
la inmigración elaboran gráficos que muestran los horrendos costes de la deportación de los
inmigrantes ilegales, y se apoyan generosamente en las estadísticas, mientras que los
defensores de la deportación de los inmigrantes contraatacan con las terribles cifras de
crímenes y violaciones que cometen.
Los estadísticos de los ecologistas han inventado hábilmente las cifras de la "huella
ecológica" y han convertido a toda la humanidad en malvada e irresponsable, y la
construcción de la figura de la ingenua, santurrona y engreída Greta es la culminación de
esta construcción. Sin embargo, este es también el caso de la utilización de las estadísticas
en otros sectores, y ha servido para que los sindicatos de la función pública presenten un
nuevo argumento a favor de la utilización de las estadísticas de suicidio por parte de las
grandes organizaciones. Por ejemplo, el sindicato de la empresa France Telecom ha
causado sensación en todo el mundo con sus tablas estadísticas, señalando que un
porcentaje importante de los empleados de la empresa se ha suicidado, superando al resto
de la población en este aspecto, y que esto se debe únicamente a las condiciones de trabajo
y al ritmo de trabajo exigido.
La pandemia actual no es una excepción, y al igual que en las democracias cualquier
problema da a la oposición la oportunidad y la esperanza de criticar y posiblemente derrocar al
 78

gobierno, también
 79

da al gobierno la oportunidad de presentar el éxito de sus acciones. Esto ha sido evidente en

todos los países del mundo en los últimos meses, y en Hungría se reflejó en la batalla
estadística en la que el gobierno y sus medios de comunicación proclamaron triunfalmente el
papel de Hungría como campeón mundial en las estadísticas de inmunización, mientras que
los políticos de la oposición, sus medios de comunicación y sus intelectuales de fondo
expresaron su consternación por el hecho de que Hungría estuviera obteniendo malos
resultados en términos de mortalidad como porcentaje de la población. (Entre paréntesis,
ambas estadísticas eran ciertas.)Al hacerlo, el gobierno acusó a la oposición de una
"campaña de muerte", y la oposición atribuyó cada muerte a las acciones del gobierno, como
si no hubiera ninguna epidemia a nuestro alrededor en el mundo.
Así que la batalla con las estadísticas opuestas ya existía en el mundo de la política,
pero en los últimos años se ha acelerado rápidamente el desplazamiento de un abanico cada
vez más amplio de actividades sociales del espacio físico al ciberespacio, y la consiguiente
sociedad ciberespacial que se desarrolla en las plataformas de Internet está generando miles
y miles de millones de rastros de datos digitales cada día, creando una nueva situación. Hoy
en día, esta abundancia de datos ya se percibe y se denomina la era del Big Data, pero poco
a poco todos los sectores de la sociedad se están poniendo en sintonía con su
funcionamiento, y todo el arsenal de las luchas políticas se está remodelando. Los partidos
políticos verdaderamente profesionales y, sobre todo, las redes de ONG organizadas a nivel
mundial, ya son maestros en el aprovechamiento del potencial de las batallas estadísticas,
pero el momento de hacerlo no ha hecho más que empezar. Todavía no hay movimientos
políticos de guerreros estadísticos disfrazados de académicos (o grupos de "Estadística
Radical" en inglés) en Hungría, pero ya son conocidos, por ejemplo, en el Reino Unido y en
el sector estadístico francés. En el Reino Unido, el Radical Statistics Group (Radstats) es
una asociación de guerreros estadísticos de izquierda desde hace muchos años, y su lucha
política basada en los números es una expresión de la imitación de la despolitización de la
política. En Hungría sólo existen los institutos de encuestas partidistas como precursores de
Radstats junto a los grandes campos políticos, pero es sólo cuestión de tiempo que las
divisiones de los guerreros estadísticos se establezcan junto a todos los grandes campos
políticos según la lógica del pluralismo. Al igual que la democracia, que ha evolucionado
hacia una juristocracia, ha producido en los últimos años la figura del "defensor de los
derechos fundamentales"
- que no procede en gran medida del ámbito jurídico, sino de las humanidades, por lo
que la gobernanza de las actividades y procesos sociales basada en los datos y la métrica
está produciendo la figura del estadístico-guerrero junto a la del estadístico científico.

10. El "yo biológico" como entorno exclusivo

Los seres humanos controlan su entorno, que es lo que les hace humanos. Pero lo que
controlamos como entorno -es decir, hacia dónde se dirigen nuestras decisiones mentales
cotidianas- es muy diferente. Una chica joven, antes de salir de casa por la mañana, toma
multitud de decisiones sobre qué ponerse, cambiando la ropa que finalmente decide de un
color a otro; cómo peinarse; qué maquillaje llevar, y luego toma muchas más decisiones a lo
largo del día sobre la mejor manera de presentarse ante su interlocutor, y esto es así incluso
cuando algunas de estas decisiones, una vez que se convierten en rutinas fijas, ya no
requieren ninguna toma de decisiones real. En cambio, la mayoría de los hombres, sobre
todo a medida que envejecen, ya no toman decisiones sobre su vestimenta, y las rutinas
arraigadas lo rigen todo en este ámbito. Para un científico, incluso su entorno inmediato está
en gran medida fuera de su control, un saludo rutinario a un vecino, a un colega con el que
se encuentra por casualidad, pero su control total del entorno se dirige, por ejemplo, a todo
 80

el sistema político, leyendo e informándose

 81

mismo de la masa de periódicos y portales en línea, o manteniéndose al tanto de las

tendencias generales del derecho, la ciencia, la economía, o viendo el colapso de toda la
civilización europea. Para hacerlo y reflejarlo como un entorno integral, debe apartar su
atención de los problemas de su propio cuerpo -al menos hasta que le duela- y del mismo
modo debe dejar la atención a su entorno inmediato a las rutinas y vivir esencialmente una
vida abstracta, desvinculada de sí misma y de su microentorno.
Este panorama general está empezando a cambiar con la masa de sensores que
monitorizan nuestros procesos biológicos y que pueden incorporarse a nuestro cuerpo para
controlar constantemente nuestra presión arterial, ritmo cardíaco, consumo de calorías,
función renal y hepática, y miles de cosas más. Por un lado, estos datos se transfieren a la
nube y son procesados por un software de salud para darnos órdenes/consejos nocturnos
sobre lo que debemos y no debemos hacer, y por otro lado, nos da información en tiempo
real sobre cómo cambiar nuestra cadencia, frecuencia respiratoria, etc. al instante. Aunque
no tengo experiencia personal con esto, un estudio reciente sobre el tema señala a los
dispositivos y apps de Apple Watch, Pebble Watch, Fitbit y Jawbone para estas funciones.
De este modo, su propio cuerpo se convierte en su entorno más importante casi cada minuto
de su día, y al igual que antes sólo las chicas muy jóvenes se preocupaban por su belleza,
ahora la masa de estas personas del "yo cuantificado" (¿yo métrico?) sólo se preocupan por
su propio cuerpo como entorno controlado. Hasta ahora hemos dicho que un egoísta es una
persona que sólo se preocupa por sí misma, pero esto se entiende tácitamente sólo en
relación con los demás.
Ahora, sin embargo, hay que hacer una separación, pues aquí el yo ya está escindido, y el yo
espiritual se dirige a su propio yo biológico, de modo que su entorno se convierte en él
mismo, eclipsando incluso su entorno humano más íntimo, por no hablar de la información
de todo su entorno público y social.
Lo que es específicamente "humano" en el hombre es su capa de significado construida
sobre sus capas físicas y biológicas del ser, y el "yo" es la suma de estas capas. Este
complejo de capas del ser está siendo perforado por la llegada de dispositivos inteligentes y
aplicaciones que pueden controlar los procesos biológicos con una frecuencia minúscula, y
como la proliferación del movimiento Quantified Self ha demostrado en los últimos años,
para las masas de personas una parte significativa de la toma de decisiones diaria se ha
desplazado al control de sus propios procesos biológicos corporales. Cuando hace unos años
leí en el libro de Ray Kurzweil sobre un informático maníaco que, como precursor de todo
esto, tomaba 200 mediciones de este tipo al día en su cuerpo utilizando aparatos y
aplicaciones implantados en él, y recibía los resultados procesados por software desde la
nube por las noches y los fines de semana
- Me horroricé y me pregunté: ¿en qué se diferencia esta vida, que ha pasado al pleno
autocontrol biológico, de la vida animal, que se limita a su propia conservación biológica y
de la especie? El animal es controlado y mantenido por sus instintos, y aquí hay trabajo
intelectual, pero la introversión exclusiva que esto requiere es contraria a la naturaleza
humana, a nuestra comprensión de la vida con sentido.
Otra conclusión importante es que con este conjunto de herramientas biométricas en las
nubes informáticas, los estrechos mecanismos de control biométrico que han estado ligados
al control de la población por parte del Estado no sólo se multiplican, sino que también se
desligan del poder estatal. Siguiendo a Michel Foucault en particular, la biometría como
biopolítica del poder se ha enmarcado hasta hace poco como un medio por el cual el poder
estatal puede controlar cada vez más a la masa de ciudadanos, incluso individualmente.
Esto puede continuar, pero la extensión de la misma, junto con ella, crea el giro del
individuo hacia su propia existencia biológica y su cuerpo, y la posibilidad de esto, como
podría verse, esto puede crear una distorsión del ser humano más allá de un nivel. La
biometría, que ahora se despliega de forma explosiva, puede abordarse, pues, no sólo como
instrumento de la biopolítica y del biopoder, sino también en la dimensión que acabamos
de indicar, y dado que muchas personas pueden extraviarse en la forma de vivir su vida en
este ámbito, conviene advertir de los peligros que pueden surgir en él.
 82

11. La existencia medida

Cuando la medida tiene consecuencias, es preocupante. Sin ella, la posición ya tomada, el

statu quo, no se altera, y si no hay un terremoto, una catástrofe, una revolución, etc., sólo la
desaparición de la época abolirá el statu quo. Los titulares del poder estatal son así
inamovibles, el hombre cooptado por el lobby universitario y académico se convierte en
profesor y en un gran científico incluso sin ningún logro y el gran actor y genio musical
adoptado por un lobby sigue siendo un gran actor y genio musical hasta su muerte y puede
conseguir un escenario y un gran disco cuando quiera. Y se podrían enumerar mil ejemplos
de "mala estabilidad" resultante de la falta de medida. Cuando estaba en mi primer viaje de
estudios a Viena en 1980, después de haber visto a Hungría tras el "telón de acero", y vi al
canciller Kreisky en la televisión por la noche y le hice preguntas embarazosas en el
telediario, se me ocurrió que el secretario general del Partido Comunista de Hungría, János
Kádár, aparece en la televisión como mucho una vez cada seis meses, y entonces sólo en
una revelación solemne y cuidadosamente organizada, como si fuera una caja de jabón. Por
lo menos, el sistema político de la época no estaba bajo la influencia amortiguadora de las
mediciones, y mucho menos de las elecciones de un solo partido.
Pero también ocurría en el ámbito académico que los catedráticos y los más altos
estudiosos cooptaban a sus vástagos, que habían crecido como vasallos de sus o de otros
catedráticos, como miembros correspondientes y luego como miembros de pleno derecho de
la Academia Científica de Hungría, y los profesores universitarios cooptaban a sus alumnos
favoritos que se quedaban en el campus como futuros catedráticos, y el punto era a menudo
sólo la voluntad de someterse, sin reservas. Pero la competencia y la falta de méritos eran la
norma también en otros sectores. El imperio unipartidista soviético acabó derrumbándose
por razones de política de poder, pero en realidad detrás de él había una falta de rendimiento
y una ineficacia total que impregnaba toda la sociedad.
También vale la pena subrayar esto porque en Europa del Este, como narrativa ex post,
destacamos el carácter político del cambio de régimen como la eliminación del anacronismo
del poder unipartidista inamovible. Esto es cierto en el sentido de que esto es esencialmente
todo lo que ocurrió en realidad, pero no deja claro que la falta fundamental de medidas e
incentivos para actuar permaneció inalterada durante décadas. La cooptación por parte de los
gobernantes es tan frecuente en las universidades y colegios como en los sectores del teatro y
el cine, con el efecto complicado de que los lobbies de gestión interna que no están
coaccionados o influenciados por el rendimiento son los más politizados en las corrientes
políticas que dominan la vida intelectual. Y eso es más o menos el campo político-intelectual
liberal de izquierda que ha dominado todo el mundo occidental durante el último medio
siglo, y donde la política gubernamental se ha deslizado más en la dirección nacional-
conservadora, se enfrenta básicamente a todo el sector intelectual, el sector académico-
universitario, el mundo del cine, y el sistema de lobby gobernante del mundo del teatro.
Para "igualarlos" en la dirección correcta, es decir, para vincularlos a la medición
continua del rendimiento, significaría que estos grupos de dirigentes universitarios, jefes de
la Academia Científica de Hungría, directores de teatro, etc., basados en la cooptación
interna, deberían estar vinculados a la evaluación de toda la comunidad científica, la
comunidad teatral, etc., y que en las tesis los académicos, los dirigentes académicos, los
profesores, los estudiosos del teatro deben ser altamente evaluados por toda la comunidad.
La comunidad científica evalúa a sus miembros individuales citando y criticando sus
trabajos científicos, y quien tiene el mayor índice de citas tiene el mayor logro científico.
En las ciencias naturales y la ingeniería, esto se ha aceptado en el mundo y también en
Hungría, pero en las ciencias sociales, jurídicas
 83

ciencias y humanidades, sigue siendo completamente ajena en Hungría. Desde el cambio de

régimen conservador en 2010 en Hungría, estos campos universitarios han ejercido su
autonomía académica con independencia del Estado, pero también de sus comunidades
académicas subyacentes, y esta autonomía no se afirma en absoluto contra el campo
político liberal de izquierda que domina la vida intelectual del mundo occidental.
La única manera de romper este vínculo en la situación actual es liberar el gobierno de
las universidades y escuelas superiores por ley de las manos de los grupos de presión
académicos internos, y someter a las comunidades universitarias y académicas así liberadas
de los grupos de presión a la evaluación de toda la comunidad académica. Es importante
subrayar que la autonomía de las universidades y escuelas superiores se basa esencialmente
en la libertad de investigación científica, cuya derivación son las comunidades científicas de
las distintas disciplinas, y si las universidades individuales utilizan esta autonomía como
pretexto para desprenderse de ella y quedarse encerradas en el sistema de "barones
universitarios" y "barones académicos", se trata de un abuso de la autonomía. El vínculo con
las comunidades académicas se establece mediante la vinculación con los indicadores de
citación, y sólo un profesor universitario con un indicador de citación más alto puede llegar
a ser catedrático, y sólo ese profesor puede llegar a ser decano, rector o vicerrector. En el
ámbito académico, ya existe un registro público de indicadores de citación en Hungría, que
ha sido gestionado por la Academia Científica de Hungría en los últimos años (se trata del
MTMT), pero no desempeña ningún papel en las universidades de ciencias sociales y
jurídicas ni en las universidades de artes. El sistema de ineficacia y de grupos de presión en
las universidades y los vínculos con los bandos políticos sólo podrán abolirse cuando se
lleve a cabo esta reforma y las universidades y la Academia de Ciencias vuelvan a estar
conectadas con la comunidad científica en su conjunto, en lugar del actual sistema de
cooptación.

12. Los maestros del poder métrico: ¿En camino hacia el "capitalismo científico"?

Los impulsores de la digitalización y del cambio hacia una sociedad métrica son los
monopolios privados de las grandes empresas tecnológicas mundiales, y aunque este cambio
ha producido una serie de cosas buenas en las últimas décadas, también ha planteado una
serie de problemas fundamentales. La digitalización, el paso del espacio físico al
ciberespacio, ha producido más cambios en las dos últimas décadas que cualquier otro
cambio tecnológico de los últimos cien años. Entre estos cambios, cabe destacar ahora que,
si bien los anteriores cambios tecnológicos no socavaron el terreno de la simple
transparencia de sentido común -y, por tanto, no problematizaron el poder estatal basado en
la opinión pública democrática-, los miles de millones y trillones de datos de las actividades
sociales en las plataformas de la sociedad del ciberespacio proporcionan cada vez más una
realidad social mediada por algoritmos que se está volviendo inaccesible para millones de
ciudadanos. Incluso la masa de informáticos ordinarios sólo puede manejar estos algoritmos,
pero sólo una estrecha élite de ellos, entrelazada con los círculos de propiedad privada de las
principales empresas tecnológicas mundiales, puede ver realmente los objetivos y las
consecuencias que configuran y convertirse en los amos de una sociedad que se ha
trasladado al ciberespacio.
David Beer, en su libro de 2016 sobre el poder métrico, describe cómo las plataformas
globales de Internet (Facebook, Twitter, Amazon, Google, etc.) que proporcionan miles de
millones y trillones de datos sobre la actividad social cada día, y la minería de datos y las
mediciones métricas asociadas, son solo el primer paso, y no las mediciones por sí solas, que
crean el poder métrico. 10 Ese poder sólo se consigue cuando los resultados de esas
mediciones se devuelven directamente a los actores de la acción social: las personas, los
 84

responsables de la toma de decisiones de las organizaciones, las personas de menor rango,

etc.
 85

algoritmos de decisión de nivel. Así, quienes controlan los algoritmos de medición global
determinan indirectamente a las personas, las organizaciones y los algoritmos que ejecutan
y que toman las decisiones posteriores a través de este bucle de retroalimentación. Además,
los indicadores y su clasificación de puntuaciones estadísticas que vinculan y miden
selectivamente miles de millones de datos se presentan como verdades científicas objetivas.
Aunque los compositores de los algoritmos realizan deliberadamente innumerables
selecciones, cargas de fondo y priorizaciones entre los datos, éstas ya no aparecen en los
resultados de las mediciones, en los indicadores y en las clasificaciones así producidas, sino
que se presentan como la aparición de una verdad objetiva. Es un poco como la
representación de la realidad en las emisiones de televisión, en las que el cámara, a su
discreción, cuando quiere mostrar la presencia de grandes multitudes, acerca su cámara a las
pocas docenas presentes, creando un efecto de masa incluso cuando sólo hay unas pocas
personas apiñadas, y así puede comentarse como prueba de un gobierno que anula el
sentimiento de las masas, y cuando quiere retratar su insignificancia, puede mostrar la
naturaleza patética de unas pocas docenas de vagabundos desde un ángulo alto. Si el
director de televisión simpatiza con la realidad que quiere mostrar, puede mostrar a chicas
jóvenes y frescas y a niños con buenas caras en el programa de noticias que está grabando la
cámara, y si quiere denigrarlos, puede escoger esas pocas caras que dan un grito
distorsionado, añadir a gente mal vestida en el calor, y el texto del comentario que lo
acompaña como un gesto extremo, es la verdad para los televidentes porque "lo vieron con
sus propios ojos".... . ..
Aunque los propietarios y gestores de las grandes empresas tecnológicas que se han
convertido en los amos de la sociedad son corporaciones privadas con ánimo de lucro,
parece que se dejan llevar por sus algoritmos como guardianes de un mecanismo de
gobernanza social basado únicamente en los resultados de las mediciones científicas. Para
esta ilusión, provocada evidentemente por el recuerdo juvenil del "socialismo científico",
ahora en quiebra, sólo se me ocurre la fórmula del "capitalismo científico".
Y esta asociación pone de manifiesto el hecho de que la sociedad del ciberespacio
resultante en la civilización occidental está dominada por unas pocas docenas de empresas
tecnológicas privadas globales y las élites de la informática que las sirven, mientras que en
China, que adquirió y desarrolló esta tecnología desde el principio, y en algunos otros
países de su entorno, está dominada y controlada por un aparato estatal controlado por una
élite de poder político inmóvil. Hasta ahora, este último modelo de poder se ha revelado
reprobable sólo en comparación con el Occidente democrático, pero los cambios en la
métrica occidental bajo el dominio privado desplazan los dos polos de comparación.
¿Cuánto peor es tener un aparato estatal centralizado vigilando cada uno de nuestros
movimientos y pensamientos en el ciberespacio que un conglomerado de propietarios
privados de unas pocas empresas de giga tecnología haciendo lo mismo?

13. La sociedad de la plataforma-datos-métrica del ciberespacio.

El confinamiento y el aislamiento impuestos por la pandemia han conducido a la

intensificación del cambio tecnológico difundido en el último cuarto de siglo, y al
desplazamiento del trabajo intelectual a la oficina en casa, así como en el caso de la
educación superior a las reuniones de grupo por vídeo y las conferencias por vídeo, y las
sesiones parlamentarias, las audiencias del tribunal constitucional y otras sesiones de toma
de decisiones a la videoconferencia. Esta transformación ha cambiado fundamentalmente la
organización de las actividades sociales, y la tecnología de la información del ciberespacio,
que se ha convertido en la base de todo y ha sido aprovechada de esta manera, está
 86

evolucionando exponencialmente: 5G,

 87

que es un orden de magnitud más rápido, ya se está desplegando, y las versiones 6G se están
desarrollando en los laboratorios. Todo esto significa que no es demasiado pronto para
afirmar que las sociedades que han pasado del espacio físico al ciberespacio funcionarán, en
su mayor parte, dentro de 10-15 años con una estructura organizativa diferente a la que han
tenido durante miles de años, y que, sin darse cuenta, ya empezarán a estar dominadas por
principios organizativos diferentes. Sin embargo, ya se están analizando los principales
cambios, y ya se conocen algunas de las diferencias fundamentales entre la sociedad del
ciberespacio y la forma en que se organiza la sociedad en el espacio físico.

1) Esta sociedad se organiza en Internet, y desde que surgió como Internet mundial en
parte de forma espontánea y en parte por la difusión deliberada de su influencia en el
mundo debido a la dominación de las primeras empresas tecnológicas de Internet bajo los
EE.UU., la posterior difusión de Internet se ha cruzado con las soberanías estatales. Más
recientemente, la rebelión de los estados soberanos ha desencadenado una reordenación
de los fundamentos de Internet y del ciberespacio, con China y Rusia al frente de la lucha
contra Estados Unidos y su Internet global. Por lo tanto, la polarización provocada por
esto -unos 30 estados están a favor de la Internet global de Estados Unidos, y el mismo
número de estados están a favor del modelo chino- puede ser el punto de fricción más importante
en la política mundial en un futuro próximo, y Hungría, Polonia y Europa del Este en general,
partidarios de la soberanía, se encuentran en una importante encrucijada.

2) La sociedad del ciberespacio se organiza en gran medida en plataformas de Internet,

algunas de las cuales (por ejemplo, Google,Facebook, Twitter, etc.) ya sirven y controlan
las actividades de miles de millones de personas, es decir, un tercio de la humanidad. Pero
las plataformas de red que van más allá (por ejemplo, la administración electrónica o las
redes internas de los órganos de decisión) también están parcialmente conectadas a
Internet. La ausencia de fisuras en Internet es, por tanto, un requisito básico para el
funcionamiento de la sociedad, y a medida que la Internet de los objetos, el funcionamiento
conectado a la nube de los coches autoconducidos, se imponga en los próximos años, será
el requisito básico más importante. En comparación, los ataques hostiles de piratas
informáticos (por parte de estados vengativos o simplemente grupos criminales) son ya
inevitables precisamente por la incontrolabilidad de la Internet global. Como la
EE.UU. ha experimentado en los últimos meses tras un ataque a uno de sus sistemas de
generación de energía que dejó a millones de personas sin electricidad durante días.

3) El desplazamiento de la sociedad a las plataformas del ciberespacio en Internet crea un

rastro digital de registro exhaustivo de la actividad social, a diferencia de la naturaleza en
gran medida indetectable de la actividad social que solía tener lugar en el espacio físico.
Todo lo que hacemos aquí deja un rastro digital de nuestros pensamientos y acciones, y al
enlazar estos rastros, los individuos pasan a ser más conocidos por el observador externo
que tiene acceso a estos rastros que ellos mismos. Esta es la explosión total de datos en el
ciberespacio, y los miles de millones y trillones de datos generados cada hora y cada día
son procesados por algoritmos rapidísimos en segundos para sacar conclusiones. Por
ejemplo, cuando busco un libro en Google, un minuto después recibo un anuncio que me
dice qué más se ha publicado o está a punto de publicarse sobre ese tema, y me
bombardean con ello durante días. Pero no son sólo los individuos los que se vuelven
transparentes a través de los datos; también son grandes grupos de personas los que son
rastreados y revelados por los algoritmos de Big Data. Durante los últimos milenios, los
seres humanos y sus sociedades han colonizado las capas físicas y biológicas del ser,
creando formaciones intelectuales y remodelando las capas subyacentes del ser, pero ahora
sus delgadas capas intelectuales se están volviendo pesadas y lo consumen todo al procesar
los trillones de datos creados por los rastros digitales. Las formaciones de las capas físicas
y biológicas del ser se están volviendo así más susceptibles a la remodelación por parte de
la capa intelectual del ser de la humanidad porque se han vuelto más controlables en el
futuro, y si esto es lo que los ecologistas
 88

se han estado quejando, los problemas que han estado reportando pueden ahora ser más
serios.

4) Los individuos y la sociedad de los datos pasarán a ser medibles y clasificables en miles
de nuevas dimensiones, en lugar de las pocas dimensiones (demográficas, métricas de
salud) en las que han sido medibles, y surgirá una sociedad métrica. Con la nueva
agrupación de datos en miles de dimensiones, se crearán cientos de indicadores nuevos,
hasta ahora desconocidos, y los individuos serán evaluados en función de los indicadores
en un nuevo conjunto de escalas. En lugar de la igualdad masiva y percibida del pasado, las
diferencias que se pondrán de manifiesto y serán visibles para todos tendrán miles de
nuevas implicaciones para la sociedad métrica. Por un lado, todo el mundo podrá ver con
sus propios ojos lo que no ha visto antes, lo bueno o incluso lo malo y débil que es en una
dimensión, y esto desencadenará un impulso interior para mejorar y rendir más
espontáneamente. Sin embargo, la visibilidad del mal o buen rendimiento también da a las
organizaciones, empresas e instituciones que emplean a la persona la oportunidad de
eliminar lo malo y recompensar y retener lo bueno. Por lo tanto, la medición y la
evaluación que resultan de la mejora del rendimiento y la creación de competencias
basadas en datos pueden conducir a un crecimiento explosivo en comparación con lo que
se ha visto antes. En general, lo que puedo medir y lo hago, las diferencias visibles resultantes
crean competencia y, a través de la competencia, crecimiento. Lo mismo ocurre a la inversa: si
prescindo de la medición y la evaluación y trato a todo el mundo por igual, se producirá
espontáneamente la contracción. Esto es algo que he podido observar muy bien en el mundo
académico y en la ciencia en Hungría en las últimas décadas, pero en el sistema socialista del
Imperio Soviético pude "disfrutarlo" en todas las esferas de la vida hasta los cuarenta años.
Por supuesto, no hay que olvidar que en una sociedad métrica, en la que todo puede ser
medido, evaluado y controlado, el control puede aumentar hasta el punto de hacerse
insoportable a partir de cierto nivel. Hoy en día hay que tomar todas las precauciones posibles
contra esto, porque las noticias sobre el sistema de control total del ciberespacio de China ya
están aterrorizando a la gente en Europa.

Bibliografía

Abney, Keith(2011): Robótica, teoría ética y metaética: Una guía para los perplejos.
En: Patrick Lin, Keith Abney, George A. Bekey (eds.): Robotethics. The MIT
Press, Cambridge Massachusets. Londres. 35-54. p.
Allen, Collin, Wendell Wallach (2011): Máquinas morales: ¿Contradicción en el
término o abdicación de la responsabilidad humana? En: Patrick Lin, Keith
Abney, George A. Bekey (eds.): Robotethics. The MIT Press, Cambridge
Massachusets. Londres, 55-68. p.
Cerveza. David: Metric Power. Edición de Palgrave Macmillan. 2016.
Bostrom, Nick (2015): Szuperintelligencia. Ad Astra Kiadó. Budapest.
Brynjolfsson, Eric/ Andrew McAfee (2014): La segunda era de las máquinas: Trabajo,
progreso y prosperidad en una época de tecnologías brillantes. W. W. Norton
Company.
Nueva York.
 89

Castells, Manuel (2005): A hálózati társadalom kialakulása. Gondolat Kiadó.

Budapest.
Castells, Manuel (2006) Az identitás hatalma. Gondolat Kiadó.
Budapest.
Castells, Manuel (2007) Az évezred vége. Gondolat Kiadó.
Budapest.
Chace, Calum (2017): The Economc Singularity. La inteligencia artificial y la muerte del
capitalismo. Edición de las tres Cs. Nueva York.
Chalmers, David J. (2014): Uploading: Un análisis filosófico. En: Russel
Blackford/Damien Broderick (eds.) Intelligence Unbound: The Future of Uploaded
and Machine Minds. Wiley Blackwell. Malden - Oxford. 102-118.p.
DiGiovanna, James (2017): La identidad artificial. En: Patrick Lin, Ryan Jenkins, Keith
Abney (eds.): Robot Ethics 2.0, Oxford University Press, Nueva York. 307-321. p.
Doherty, Jason P. (ed.) (2016): AI Civil Rights: Abordando la Inteligencia Artificial y los
Derechos de los Robots. Edición Kindle.
Domingo, Pedro (2015): The Master Algorythm.Basic Books, Nueva York.
Elias, Norbert: (1987): A civilizáció folyamata, Gondolat, Budapest, 1987.
Ford, Martin (2015): The Rise of Robots: La tecnología y la amenaza de un futuro
sin empleo, Basic Books.
Fukuyama, Francis (2003): Poszthumán jövendőnk. A biotechnológiai forradalom
következményei. Európa Kiadó. Budapest.
Galliott, Jai (2017): El Unabomber en los robots. En: Patrick Lin, Ryan Jenkins, Keith
Abney (eds.): Robot Ethics 2.0. Oxford University Press, Nueva York. 369-385. p.
Goertzel, Ben/Joel Pitt (2014): Nueve formas de sesgar la inteligencia general artificial de
código abierto hacia la amabilidad. En: Russel Blackford/Damien Broderick (eds.)
Intelligence Unbound: The Future of Uploaded and Machine Minds. Wiley
Blackwell. Malden - Oxford. 90-101.p.
Goonan, Kathleen Ann (2014): El futuro de la identidad: Implicaciones, retos y
complicaciones de la conciencia humana/máquina. En: Russel Blackford/Damien
Broderick (eds.) Intelligence Unbound: The Future of Uploaded and Machine
Minds. Wiley Blackwell. Malden - Oxford. 193-200.p.
Harari, Noah Yuval (2015): Sapiens. Animus Kiadó. Budapest.
Harari, Noah Yuval (2017): Homo Deus. Animus Kiadó. Budapest.
Hartmann, Nicolai (1962): Das Problem des geistigen Seins. Untersuchungen
zur Grudlegung der Geschichtsphilosophie und der Geisteswissenschaften,
3. unveränderte Auflage, Walter de Gruyter, Berlín, 1962.
Hegel, Georg Wilhelm Friedrich (1971): A jogfilozófia alapjai. Akadémia Kiadó.
Budapest.
Henschke, Adam (2017): El Internet de las Cosas y las dobles capas de preocupación ética.
En: Patrick Lin, Ryan Jenkins, Keith Abney (eds.): Robot Ethics 2.0. Oxford
University Press, Nueva York. 229-243. p.
Kaku, Michio(2014): Az elme jövője. Hogyan próbálja tudomány megismerni,
feljavítani és többre képessé tenni az agyat, Akkord Kiadó, Budapest.
Kinsey, Alfred/W. B. Pomeroy/C. E. Martin: Sexual Behavior in the Human Male (1948)
Indiana UniversityPress 1998 reprint edition.
Klinewicz, Michal (2017): Desafíos para la ingeniería de razonadores morales. En: Patrick
Lin, Ryan Jenkins, Keith Abney (eds.): Robot Ethics 2.0. Oxford University Press,
Nueva York. 244-257. p.
Kurzweil, Ray (2014): A szingularitás küszöbén. Amikor az emberiség meghaladja a
biológiát. Ad Astra Kiadó. Budapest.
 90

Kurzweil, Ray (2012): Cómo crear una mente. El secreto del pensamiento humano revelado.
Edición de Viking Penguin. Londres.
Linssen, Charl/Pieter Lemmens (2016): La personificación en la emulación de todo el cerebro
y sus implicaciones para la ansiedad ante la muerte. Revista de evolución y tecnología.
2016.
No. 2. 1-13.p.
Loh, Wulf, Janina Loh (2017): Autonomía y responsabilidad en el sistema híbrido.
En: Patrick Lin, Ryan Jenkins, Keith Abney (eds.): Robot Ethics 2.0. Oxford
University Press, Nueva York. 35-50. p.
Luhmann, Niklas(1994): Liebe als Passion: Zur Codierung von Intimität. Suhrkamp.
Frankfurt am Main .
Mau, Stefen: La sociedad métrica. Sobre la cuantificación de lo social. Polity Press 2019.
Mueller, M.: La ICANN y la gobernanza de Internet: ordenar los escombros de
"Autorregulación". info (Vol. 1.)No. 6. 497-520. p.
Pigliucci, Massimo (2014): Mind Uploading: A Philosophical Counter-Analysis.
En: Russel Blackford/Damien Broderick (eds.) Intelligence Unbound: The Future
of Uploaded and Machine Minds. Wiley Blackwell. Malden - Oxford, 119-130.p
Segal, Adam: China's Alternative Cyber Governance Regime. Council on Foreign Relation
paper, 13 de marzo. 2020.
Spiegelhalter, David: Sex by Numbers: WhatStatistics Can Tell Us About Sexual Bahavior.
Wellcome Collection, 2015.
Splengler, Osvald(1995): A Nyugat alkonya. A világtörténelem morfológiájának
körvonalai. I - II. kötet. Európa Könyvkiadó, Budapest.
Srnicek, Nick: Platform Capitalism. Wiley. 2016.
Talbot, Brian, Ryan Jenkins, Duncan Purves (2017): Cuando los robots deben hacer
lo incorrecto. En: Patrick Lin, Ryan Jenkins, Keith Abney (eds.): Robot Ethics
2.0. Oxford University Press, Nueva York. 258 -273. p.
Tegmark, Max: LIFE 3.0. (2017): Ser humano en la era de la inteligencia artificial.
Edición Allen Lane. Nueva York.
Twenge, Jean M. The Atlantic, edición de septiembre de 2017.
Vallor, Shannon, George A. Bekey (2017): La inteligencia artificial y la ética de los
robots de autoaprendizaje. En: Patrick Lin, Ryan Jenkins, Keith Abney (eds.):
Robot Ethics 2.0. Oxford University Press, Nueva York. 338-353. p.
Van Dijk, J./T. Poell/ M. De Vall: La sociedad de plataformas. Valores públicos en un
mundo conectivo. OxfordUniversity Press 2018.
White, Trevor N, Seth D. Bau (2017):, Responsabilidad por la robótica actual y futura
La tecnología. En: Patrick Lin, Ryan Jenkins, Keith Abney (eds.): Robot Ethics 2.0.
Oxford University Press, Nueva York. 66-79. p.
Zoller, David (2017): Percepción calificada, autenticidad y el caso contra la
automatización. En: Patrick Lin, Ryan Jenkins, Keith Abney (eds.): Robot Ethics
2.0. Oxford University Press, Nueva York. 55-68. p.